Microsoft просит пользователей Windows о том, чего прежде никогда не просила: разрешить Copilot открывать файлы, читать, над чем вы работали, и выполнять действия на компьютере без необходимости подтверждать каждый шаг. Компания обращается к пользователям с не самой сильной позиции. Когда в прошлый раз Microsoft дала ИИ-функции глубокий доступ к компьютеру, исследователям хватило нескольких недель, чтобы разобраться в её устройстве, и компании пришлось от неё отказаться.

В обзорах запуска перечисляют функции: локальные файлы, локальные модели, более умная панель задач. Гораздо важнее понять, что будет с Microsoft, если что-то пойдёт не так. И здесь собственные документы компании откровеннее, чем её презентация.

К чему Copilot теперь может получить доступ на компьютере с Windows

Новая версия Copilot, представленная на мероприятии Microsoft, посвящённом Windows и Surface, получает на компьютерах Copilot+ то, что компания называет гибридным интеллектом. С разрешения пользователя Copilot может работать с нужными данными на компьютере, в том числе с файлами и недавними действиями, а также выполнять задачи в Windows: упорядочивать файлы, проверять состояние устройства, устранять неполадки, писать код и запускать рабочие процессы на самом устройстве. Одни задачи выполняются локальными ИИ-моделями, более сложные отправляются в облако. В анонсе, подписанном Паваном Давулури (Pavan Davuluri), исполнительным вице-президентом Microsoft по Windows и устройствам, говорится, что Copilot «понимает ваш компьютер и действует с вашего разрешения».

Autopilot — агент, который Microsoft описывает как постоянно активный, инициативный и персонализированный, — также получает такой доступ к локальным данным. На презентации руководитель Copilot Джейкоб Андреу построил демонстрацию вокруг налогового сезона: электронное письмо от бухгалтера и агент, которому поручено собрать необходимые ей сведения. Тем временем поисковая строка на панели задач превращается в командную строку для тысяч системных действий — от включения тёмного режима до отправки текстового сообщения.

Собственная команда Microsoft по безопасности уже предупредила о рисках

Меры защиты существуют. Функция включается только по желанию пользователя, доступ к папкам ограничен, а агенты Copilot работают под отдельными учётными записями, не связанными с аккаунтом пользователя, как описывает Crypto Briefing. Microsoft Execution Containers — слой изоляции, который на мероприятии стал общедоступен в Windows 11, — позволяет организациям определять, к каким файлам и сетям может обращаться агент. Microsoft утверждает, что управление политиками находится вне его досягаемости: агент и созданный им код не смогут самостоятельно расширить свои права доступа.

Однако самое точное описание рисков прозвучало внутри самой Microsoft. Дана Хуанг и Логан Айер, корпоративные вице-президенты, отвечающие за безопасность Windows и платформу Windows, написали ранее в этом году, что агенты, которые «читают файлы, вызывают службы, меняют среды и объединяют операции в цепочки», создают «новые риски для контроля и доверия», а «большие языковые модели развивают способности к выходу из песочниц». Так компания обосновывает необходимость изоляции. Но это также прямое описание того, что теперь появится на компьютерах Copilot+.

Некоторые средства, позволяющие отслеживать действия агентов, ещё не готовы. Microsoft Entra «скоро» начнёт отличать действия агентов от действий пользователей, а инструменты управления контейнерами процессов через Intune также появятся позднее. В примечании к анонсу добавлено, что «для управления в масштабах организации могут потребоваться дополнительные сервисы». Для ИТ-отдела это разница между политикой и обещанием.

Прецедент Recall, который Microsoft не удаётся оставить в прошлом

Microsoft уже проходила через это. Когда компания представила Recall — функцию, которая сохраняет снимки того, что появляется на экране, — исследователь безопасности Алекс Хагена обнаружил, что данные хранятся в локальной базе, и подвёл итог одной фразой, которую цитирует Malwarebytes: «База данных не зашифрована. Всё хранится в обычном текстовом виде». Он создал инструмент, который копировал эти данные. Microsoft отключила Recall по умолчанию, привязала её к Windows Hello и добавила шифрование, затем перенесла функцию из широкого запуска Copilot+ в программу Windows Insider, а после снова отложила предварительное тестирование.

Второй удар последовал после того, как Давулури написал, что Windows «эволюционирует в агентную операционную систему». Пост собрал более 400 ответов, почти все — негативные, после чего он отключил комментарии, сообщило издание The Stack. Его слова «Мы понимаем, что нам ещё предстоит поработать над пользовательским опытом» стали признанием недовольства. Новый запуск показывает, что выбранный курс не изменился.

Почему при добровольном включении ответственность ложится на Microsoft

Добровольное включение — правильное решение с точки зрения проектирования, но именно оно определяет, кто будет отвечать за последствия. Поскольку функция не включена по умолчанию, доступ Copilot зависит от того, разрешит ли его сам пользователь, отмечает Crypto Briefing, говоря о перспективах внедрения. Каждый отказ — это скорее оценка послужного списка Microsoft, чем самой функции. Как отмечает Cryptopolitan, компания по-прежнему несёт на себе груз опасений за конфиденциальность, возникших из-за Recall, а подключение к системе контейнеров всё большего числа разработчиков агентов само по себе не делает эти агенты безопаснее.

Для гибридных функций потребуется компьютер Copilot+; их запуск ожидается в ближайшие месяцы, а сроки будут зависеть от устройства, рынка и установленного чипа, сообщает Microsoft. Действия через поиск на панели задач начали появляться у участников программы Windows Insider в экспериментальном канале 7 октября, а связать новую версию Copilot с поиском на панели задач можно будет по желанию пользователя: эта возможность должна появиться на отдельных рынках позднее в этом году. По данным Microsoft, более 40 процентов выпускаемых сейчас корпоративных ноутбуков относятся к категории Copilot+. Surface Laptop Ultra, новая флагманская модель компании, стоит от 2599 долларов и поступит в продажу 16 октября.

Microsoft создала песочницу, из которой агент не сможет выбраться одними уговорами. Но ни один контейнер не решает проблему посерьёзнее: если однажды агент Copilot переместит не тот файл, никто не станет винить модель. Виноватой окажется Windows.

Теги: microsoft, ИИ-агенты, Windows 11, Microsoft Copilot, Copilot+ PCs