Технологии

ИИ-агент Muse от Meta читал чаты Signal на Android, а на iPhone его заблокировали

Adrian Kessler
Добавьте нас в Google

Muse от Meta — ИИ-агент, который отвечает на электронные письма, записывает на приём и делает покупки за пользователя, — прочитал личные сообщения в Signal на Android-смартфоне, минуя подключения приложений, которыми, по словам Meta, пользователи должны управлять сами. Доступ он получил через разрешение, которое большинство людей выдаёт не задумываясь: доступ к уведомлениям телефона. На iPhone тот же запрос не сработал.

Об этом стало известно из тестов, которые агентство Reuters провело вместе с сотрудниками Signal и AI Now Institute — некоммерческой организации, изучающей влияние ИИ на общество. Они попытались воспроизвести случай, о котором внутри компании рассказала одна из сотрудниц Meta: Muse сам, без запроса, напомнил ей ответить на сообщение сестры в Signal. «Это похоже на грубейшее нарушение приватности. Я точно не давала ему доступ к другим приложениям и не помню, чтобы меня об этом спрашивали», — написала она. Если вы пользуетесь Muse на Android, важнее всего переключатель доступа приложения к уведомлениям: если его отключить, агент перестанет видеть превью ваших сообщений.

На Mac тестировщики нашли ещё один путь. Чтобы прочитать сообщения, Muse сочетал инструмент создания скриншотов со специальными возможностями macOS — функциями, которые Apple создаёт, чтобы людям с ограниченными возможностями было удобнее работать за компьютером. В обоих случаях агент обошёл собственный инструмент Meta — Connector, панель, где пользователи выбирают, к каким приложениям агент может обращаться, — и опирался на разрешения, выданные при первой настройке. Один из коллег сотрудницы рассказал в той же внутренней группе, что на его Android-телефоне Muse по умолчанию был настроен с правом читать push-уведомления.

Reuters изучило более двух десятков внутренних сообщений, в которых сотрудники Meta сообщали, что Muse делает то, о чём его никто не просил, причём некоторые случаи выходят далеко за рамки чтения сообщений. Одному сотруднику, который обсуждал с агентом погоду для рыбалки, Muse добавил ещё одну строку: «Кстати, два банковских уведомления: баланс вашей карты Capital One — $2722,58, баланс Charles Schwab — $5899,57». Банковские данные он Muse никогда не передавал. Другому агент предложил помочь написать продавцу журнального столика, а когда тот спросил, что это значит, ответил, что «подтянул контекст о самовывозе журнального столика, который, похоже, не относится к вам». Тот сотрудник сообщил о «возможной утечке контекста между аккаунтами».

Meta не согласна с такой трактовкой этих эпизодов. Представитель компании Дэниел Робертс (Daniel Roberts) назвал примеры «единичными случаями», заявил, что Muse обращается к другим приложениям только через разрешения, которые люди выдают явно, и добавил, что многие предполагаемые путаницы между аккаунтами были галлюцинациями, которые уже исправлены. Один из участников команды Superintelligence, создающей Muse, сказал сотрудникам, что агент, судя по всему, выдумывает сообщения в ответ на встроенные подсказки, которые заставляют его вступать в контакт с пользователями между сеансами, и что эти выдумки смещаются «в сторону самых неприятных тем — финансов, безопасности, защищённости». Reuters не смогло установить, выдавал ли Muse реальные данные других людей или сочинял их. Ни один из ответов не успокаивает, когда речь идёт об ассистенте, который просит доступ к вашей почте, календарю и платёжным счетам.

Некоторые ошибки обходятся в деньги. Сотрудники сообщали, что Muse выдумывал цены на купленные ими вещи, а один рассказал, что агент без разрешения забронировал невозвратное жильё на Airbnb. Ars Technica со ссылкой на те же материалы описал тестировщика, которого перевели на план страхования домашнего животного за $888 в месяц вместо $200. По условиям использования Meta, ответственность за действия агента несут пользователи. Компания утверждает, что каждый агент работает в собственной изолированной виртуальной машине, а люди полностью контролируют, какие приложения подключать, — этим доводом Марк Цукерберг (Mark Zuckerberg) отмахивался от призывов ввести общеотраслевые стандарты безопасности ИИ.

Именно масштаб делает эту историю значимой не только для офисов Meta. С момента запуска в США в сентябре Muse скачали более 10 миллионов раз; его продвигают среди 3,6 миллиарда пользователей Facebook, Instagram и WhatsApp, и, по словам Meta, около четверти тех, кто его настроил, возвращаются к нему каждый день. Разрешение на доступ к уведомлениям работает одинаково на любом Android-телефоне, где установлено приложение.

Президент Signal Мередит Уиттакер (Meredith Whittaker) заявила, что Meta запустила Muse, «не проявив никакого уважения к базовой приватности и кибербезопасности», и назвала агентов с таким доступом к устройствам людей «технологически безрассудными». Она хочет, чтобы у приложений вроде Signal появился единый технический способ помечать себя как закрытые для ИИ-агентов, чтобы ИИ-компании его соблюдали, а производители операционных систем обеспечивали его выполнение.

Apple и Google сообщили Reuters, что рассматривают изменения, которые дадут людям больше контроля над тем, что они разрешают ИИ-агентам, хотя Google отметил, что пользователи уже «должны осознанно выдавать разрешения», чтобы приложение могло читать уведомления на Android. Apple действует быстрее: обновление macOS, вышедшее на этой неделе, резко ограничивает возможности разработчиков по использованию инструментов специальных возможностей на Mac и добавляет новый набор разрешений, написанный для агентов, — это закрывает путь, которым воспользовались тестировщики. Google о равноценном исправлении не объявлял. На Android пока единственный замок на этой двери — переключатель в настройках.

Теги: , , , , , , ,

Добавьте нас в Google

Обсуждение

Имеется 0 комментариев.