Корпорация Microsoft, активно продвигающая свою концепцию «агентной» операционной системы Agentic OS, выпустила официальное предупреждение о безопасности для первых тестировщиков новой функции в Windows 11. Компания настоятельно рекомендует включать агентный ИИ только тем пользователям, кто полностью осознает связанные с этим риски.
В новом документе поддержки, опубликованном накануне, Microsoft подробно описала, как «агентные возможности» будут интегрированы в Windows 11. Эти функции позволят приложениям на основе искусственного интеллекта autonomously выполнять задачи от имени пользователя, используя специальную «агентную рабочую область» — защищенную среду рабочего стола, которая, однако, будет иметь доступ к ключевым пользовательским папкам, таким как «Документы», «Загрузки» и «Рабочий стол».
Именно этот доступ и представляет главную угрозу. Microsoft прямо заявляет: «Приложения с ИИ представляют новые риски для безопасности, такие как межпрограммное внедрение (XPIA), когда вредоносный контент, встроенный в элементы интерфейса или документы, может переопределить инструкции агента, что приведет к нежелательным действиям, таким как извлечение данных или установка вредоносных программ».
Компания приняла ряд мер предосторожности:
- Функция будет отключена по умолчанию.
- Включить её может только пользователь с правами администратора, и она будет действовать для всех учетных записей на устройстве.
- Microsoft закладывает принципы «наблюдаемости» и «человеческого контроля», при которых любое действие ИИ должно быть одобрено пользователем и зафиксировано в защищенном журнале действий.
Несмотря на предупреждения, Microsoft уже начала развертывание первых сборок Windows 11 с агентными возможностями для участников программы Insider. Пока что ни одно приложение, включая Copilot, не поддерживает эти функции, но их интеграция ожидается в ближайшем будущем. Эра «агентной» ОС Windows началась, хотим мы этого или нет.
