Бизнес и финансы

Мередит Уиттакер: глава Signal против ИИ-агентов в вашем смартфоне

Penelope H. Fritz
Добавьте нас в Google
Мередит Уиттакер
Мередит Уиттакер
Photo: Martin Kraft / CC BY-SA 4.0, via Wikimedia Commons
Родился2000
Род занятийПрезидент Signal Foundation
НаградыПремия имени Хельмута Шмидта

В пятницу Signal включил настройку, которую большинство его пользователей даже не заметят. На новых iPhone приложение теперь не даёт ИИ-помощнику Apple Siri считывать содержимое экрана внутри чата и по умолчанию блокирует скриншоты, а на Android закрывает окно всякий раз, когда в него пытается заглянуть Gemini от Google. Об изменении объявила сама президент Signal Мередит Уиттакер (Meredith Whittaker), и в том же посте признала, что этого недостаточно. Агенты, которые Apple, Google и Microsoft встраивают в свои операционные системы, по-прежнему могут добраться до данных, хранящихся на устройстве, а на Mac Signal не способен остановить их вовсе. Она назвала это экзистенциальной угрозой для приложения, которым руководит.

Такая борьба ей по плечу, но она же обнажает противоречие, лежащее в основе всей её карьеры. Уиттакер провела в Google больше десяти лет, а затем стала одним из самых резких критиков бизнес-модели, которая оплачивала её работу. Теперь она возглавляет некоммерческий мессенджер, который отказывается собирать данные, ничего не продаёт и живёт на пожертвования, но вынужден работать на телефонах, созданных теми самыми компаниями, чьи ИИ-продукты она называет безрассудными. Signal умеет шифровать сообщение от отправителя до получателя. Зашифровать операционную систему он не может.

Путь Уиттакер в технологии был неожиданным. Она изучала риторику и английскую литературу в Калифорнийском университете в Беркли, а в 2006 году пришла в Google, где проработала тринадцать лет. Она основала в компании группу Open Research, которая вместе с учёными и разработчиками открытого ПО занималась измерением сетевого нейтралитета, вопросами приватности и безопасности, а также стала одним из основателей M-Lab (Measurement Lab) — открытой сети, ставшей крупнейшим общедоступным источником данных о работе интернета.

Работа с измерениями приучила её не доверять утверждениям, за которыми нет доказательств. В 2017 году она вместе с исследовательницей Кейт Кроуфорд (Kate Crawford) основала при Нью-Йоркском университете институт AI Now Institute — после симпозиума, организованного Белым домом. Институт изучал, что искусственный интеллект делает с людьми, на которых его применяют, а не что он умеет на демонстрации, и в его докладах снова и снова звучал один довод: глубинная проблема не столько в предвзятом коде, сколько в том, кому принадлежат эти системы и на кого они направлены. Позже Уиттакер занимала профессорскую должность имени Minderoo в NYU и была научным руководителем AI Now; сегодня она — главный советник института.

Этот довод поставил её на путь столкновения с работодателем. В 2018 году она написала петицию против Project Maven — контракта с Пентагоном, по которому Google разрабатывал инструменты машинного зрения для программы американских беспилотников. Петицию подписали более трёх тысяч сотрудников, и Google не продлил контракт. Через несколько месяцев она оказалась среди главных организаторов Google Walkout: более двадцати тысяч сотрудников покинули рабочие места после сообщений о том, что компания выплатила 90 миллионов долларов при увольнении Энди Рубину (Andy Rubin), топ-менеджеру, обвинённому в сексуальных домогательствах. Позже Уиттакер говорила, что Google отомстил ей, потребовав свернуть работу в AI Now. В июле 2019 года она ушла из компании.

Тем же летом она заявила в Комитете Палаты представителей по науке, что системы ИИ могут закреплять предвзятость, и попросила ввести защиту для сотрудников технологических компаний, сообщающих о нарушениях. В начале 2020 года она пошла дальше, выступив в Комитете Палаты представителей по надзору: она утверждала, что проблема распознавания лиц не только в точности, но и во власти тех, кто применяет его к людям, у которых власти меньше, и призвала прекратить его использование. С ноября 2021 года она была старшим советником по искусственному интеллекту при председателе Федеральной торговой комиссии Лине Хан (Lina Khan).

Signal нанял её в сентябре 2022 года на пост первого президента, созданный совместно с руководством приложения. В Signal нет рекламы и нет данных пользователей, которые можно продать, а Уиттакер открыто говорила, что работа сервиса обходится примерно в 50 миллионов долларов в год. Значительная часть её первых лет на посту ушла на объяснения, зачем мессенджеру, почти ничего не хранящему о пользователях, всё равно нужны большая команда инженеров и постоянные доноры — и почему альтернатива состоит в том, чтобы расплачиваться слежкой.

Критики указывают на пределы этой модели. Протокол шифрования Signal уже защищает переписку в WhatsApp, однако само приложение по-прежнему составляет лишь малую часть продукта Meta, построенного на его криптографии, а влияние Уиттакер на правительства держится в основном на одной угрозе: Signal уйдёт из страны, но не ослабит шифрование. Эту угрозу она адресовала Европейскому союзу и вновь, в июне, Великобритании. Угроза выглядит правдоподобной, потому что у приложения, живущего на пожертвования, нет акционеров, которых нужно успокаивать, но она же делает ответ Signal регуляторам скорее изгнанием, чем переговорами. Эпизод, принёсший приложению самую большую волну внимания, показал похожий разрыв. Когда в марте 2025 года выяснилось, что высокопоставленные американские чиновники обсуждали военные планы в группе Signal, в которую по ошибке попал журналист, Уиттакер защитила шифрование как золотой стандарт частной связи и отметила, что никакое приложение не может помешать людям добавить в чат не того человека. От такой публичности трудно отказаться, а контролировать её ещё труднее.

С тех пор её внимание сместилось с правительств на компании, выпускающие устройства. В январе в Давосе она назвала ИИ-агентов на уровне операционной системы опасными для зашифрованных сервисов, предупредив, что систему с root-доступом можно перехватить. В июньском интервью Bloomberg она сказала, что чат-боты вам не друзья, и описала ассистента с доступом к её платёжным данным и аккаунту в Signal как своего рода бэкдор. На этой неделе тесты Reuters с участием сотрудников Signal и AI Now показали, что агент Muse от Meta читает чаты Signal на Android через доступ к уведомлениям, и Уиттакер назвала агентов с таким охватом технологически безрассудными.

В 2023 году журнал TIME включил её в свой первый список самых влиятельных людей в сфере искусственного интеллекта. В мае 2024 года в Гамбурге она получила премию Helmut Schmidt Future Prize, которую вручили Die Zeit и партнёры за работу в области демократии и технологий, а в июле 2025 года вошла в совет директоров немецкой медиагруппы Hubert Burda Media.

Что будет дальше, зависит скорее не от Signal, а от Apple, Google и Microsoft. Уиттакер попросила все три компании создать документированный способ, позволяющий приложениям не подпускать ИИ-агентов к своим экранам и данным, а в Signal говорят, что с осторожным оптимизмом смотрят на то, что Google и Apple идут на диалог. Если такой механизм появится, блокировка, которую она включила на этой неделе, станет отраслевым стандартом. Если нет, самый приватный мессенджер на рынке так и будет выпускать обходные решения против телефонов, на которых работает, а его президент — продолжать говорить об этом публично.

Теги: , , , , , , ,

Добавьте нас в Google

Обсуждение

Имеется 0 комментариев.