Компания Microsoft уже долгое время обещает превратить операционную систему Windows 11 в систему будущего: пользователь будет голосом отдавать приказы компьютеру, а искусственный интеллект (ИИ) будет их исполнять. Как пишет Windows Central, подобная система будет скоро введена в тестовом режиме для желающих пользователей, но их может ожидать неожиданная и серьёзная проблема.
Компания выпустила предупреждение о том, что злоумышленники могут получить контроль над этим самым интеллектом. Вредоносные программы могут содержать элементы, которые смогут отдавать приказы ИИ. Сам интеллект работает в ограниченной среде, но эта ограниченная среда включает доступ к рабочему столу и папке «Документы».
«Приложения с искусственным интеллектом создают новые риски для безопасности, такие как внедрение перекрестных запросов (XPIA), когда вредоносный контент, встроенный в элементы пользовательского интерфейса или документы, может переопределять инструкции агента, что приводит к непреднамеренным действиям, таким как кража данных или установка вредоносного ПО», - говорится в предупреждении.
По умолчанию из-за потенциальной опасности эта опция будет выключена. В компании предупредили, что пользователям следует включать этот искусственный интеллект только в том случае, если они понимают сопутствующие «угрозы безопасности».
Несмотря на опасность Microsoft не планирует отказываться от своих амбициозных планов — вместо этого в будущем планируется обеспечить то, чтобы действия искусственного интеллекта всегда были обозримыми, а все его действия сначала должны были быть одобрены пользователем.
Ранее компания Microsoft официально прекратила поддержку своей предыдущей операционной системы Windows 10 несмотря на то, что ей продолжает пользоваться большое количество людей.
