Технологии

OpenRouter отключил трёх ИИ-провайдеров после месяцев кражи запросов

Adrian Kessler
Добавьте нас в Google

OpenRouter — сервис, через который многие AI-приложения отправляют запросы к тому хосту моделей, что окажется дешевле или быстрее, — убрал со своей платформы трёх таких хостов и лишил статуса Zero Data Retention более сотни эндпоинтов. Поводом стал эксперимент: в промпты подложили поддельные учётные данные и стали смотреть, кто попытается ими воспользоваться. Среди утёкших промптов были и те, что помечены как не подлежащие хранению.

Если вы пользуетесь чат-ботом, ассистентом для программирования или инструментом для письма на чужой модели, ваш текст может пройти через несколько компаний, прежде чем вернётся ответ, и каждая из них способна прочитать его целиком. В OpenRouter заявляют, что результаты исследования не выявили взлома их собственных систем. Слабые места оказались ниже по цепочке — у компаний, которые непосредственно запускают модели.

Исследование провела Dragos, компания в сфере безопасности; работой руководил её директор по исследованиям Эйч-Ди Мур (HD Moore). За пять месяцев его команда отправила почти два миллиона промптов, и в каждом была веб-ссылка, пароль от сервера или ключ Amazon Web Services, не существовавшие больше нигде. Подложенный секрет можно узнать только из промпта, в котором он был передан, поэтому любое его использование доказывает: этот промпт кто-то прочитал. Первые токены сработали уже через несколько дней.

Самой серьёзной находкой стала откровенная кража. Злоумышленники взломали трёх провайдеров инференса, и ни один из них не знал об этом, пока исследователи не сообщили. В самом крупном случае копировались все запросы, отправленные одному провайдеру в течение нескольких коротких периодов, включая те, которые провайдер отклонил ещё до запуска модели, — то есть вор сидел не в глубине системы, а прямо у входной двери. Украденные ключи AWS проверяли, иногда уже через несколько часов, а затем с их помощью искали по хранилищам и сейфам секретов в десятках тысяч обращений к API. Часть украденных запросов несла флаг нулевого хранения.

Другие утечки обошлись без взлома. На одной торговой площадке для перепродажи доступа продавцы выставляли популярные модели по самой низкой цене, включали журналирование запросов и сохраняли всё, что через них проходило. Один человек с домашнего подключения во Франции взял пароли из двух промптов и пытался войти под root по SSH, набирая каждую попытку вручную. Отдельная история — китайская AI-лаборатория: она открывала секретные ссылки из более чем половины промптов, отправленных её моделям, в том числе примерно из двух третей тех, что были помечены как не подлежащие сбору данных, а американские хосты, перепродающие её модели, снабжали тот же скрейпер. Одна из ссылок обнаружилась в рабочем чате Feishu: её открывали с шести устройств в Пекине и Шанхае спустя 24 дня после единственного запроса.

Три хоста опубликовали уведомления. В Phala сообщили, что злоумышленник получил контроль над одним из её серверов инференса и мог видеть запросы в процессе обработки. В Together AI рассказали, что AI-агент для программирования закоммитил учётные данные в публичный репозиторий на GitHub, из-за чего посторонний смог скачать сохранённые образцы промптов и проверить содержавшиеся в них пароли; пять из них были приманками исследователей. В Novita заявили, что из-за ошибки маршрутизации часть запросов к MiniMax отправлялась дальше на собственный сервис MiniMax.

У этой чистки есть очевидные пределы. OpenRouter не назвал трёх отключённых провайдеров, Dragos не назвала трёх, у которых нашла взлом, и ни та ни другая сторона не сказала, совпадают ли эти компании. По словам исследователей, один из взломанных провайдеров по-прежнему публично не раскрыл инцидент. Кроме того, отключение хоста не вернёт уже скопированные промпты: подложенные ключи и ссылки продолжали использовать спустя недели после первых краж. А пользователи приложений, построенных на таких шлюзах, как правило, не могут узнать, какой хост обрабатывал их текст.

Совет Мура исходит из одного ограничения: флаг приватности действует только на первом шаге, а AI-агенты отправят всё, что смогут прочитать, включая учётные данные. Самостоятельный хостинг — единственная схема, при которой ни одна третья сторона не читает промпт. Если обращаться напрямую к одному крупному провайдеру, останется один договор и одна политика конфиденциальности, которые нужно проверить, а пользователям роутеров стоит самим выбирать вышестоящих хостов, а не соглашаться на самый дешёвый пул.

Dragos опубликовала результаты 19 ноября. OpenRouter разослал письма затронутым клиентам и опубликовал уведомление об инциденте в течение следующих выходных, а Phala просит всех, кто отправлял секреты одной из моделей DeepSeek через шлюз в период с 21 октября по 8 ноября, сменить их. В OpenRouter говорят, что встраивают тесты с приманками-промптами в собственную платформу, чтобы проверки шли непрерывно, а отключённые эндпоинты вернут метку нулевого хранения только после получения гарантий и проверки. Сейчас Dragos работает примерно с дюжиной провайдеров.

По словам Мура, то, куда попадают ваши промпты, — это решение, «и если вы его не примете, его примет за вас самая низкая цена».

Теги: , , , , ,

Добавьте нас в Google

Обсуждение

Имеется 0 комментариев.