Суд США признал внесение Anthropic в чёрный список Пентагона незаконным

Создатель Клода, компания Anthropic, отказалась выполнить два конкретных требования правительства. Министерство обороны США хотело, чтобы Anthropic сняла защитные механизмы, которые не позволяли использовать её ИИ-модель для принятия полностью автономных решений о применении оружия и для массовой внутренней слежки за американскими гражданами. Anthropic отказалась. В ответ Пентагон официально присвоил компании статус риска для цепочки поставок национальной безопасности — классификацию, которая запретила всем оборонным подрядчикам в США вести дела с Anthropic.

Это присвоение статуса последовало за трехдневным ультиматумом министра обороны Пита Хегсета (Pete Hegseth). Заявленное юридическое обоснование: Anthropic могла бы удаленно модифицировать, отключать или устанавливать бэкдоры в моделях Клода, развернутых в военных системах. Это было первое такое публичное присвоение статуса американской компании по соответствующему закону о закупках. Оборонные подрядчики в спешке пересматривали существующие партнерства, а Anthropic оценила ущерб своей коммерческой выручке в миллиарды долларов.

Это техническое утверждение не выдержало судебной проверки. Окружной судья США Рита Ф. Лин (Rita F. Lin) признала его «совершенно необоснованным». Развернутые модели Клода являются статическими файлами — не живыми сервисами, подключенными к серверам Anthropic. У компании нет технической возможности изменять их после поставки. Правительство не представило доказательств существования такой возможности.

В 59-страничном постановлении судья Лин выявила три уровня юридической несостоятельности. Присвоение статуса нарушило Первую поправку: это была ответная мера на публичные заявления Anthropic о безопасности ИИ, а не подлинное определение угрозы безопасности. Оно нарушило Пятую поправку: Anthropic не получила возможности оспорить черный список до его вступления в силу. И оно не соответствовало Закону об административной процедуре как произвольное и капризное — правительство не высказывало никаких опасений по поводу цепочки поставок Anthropic до начала спора о безопасности. Документы суда показали, что после окончательного присвоения статуса заместитель министра обороны продолжал переговоры о контрактах с компанией. Внутренние служебные записки Пентагона ссылались на «идеологию Кремниевой долины» Anthropic; президент публично назвал компанию «РАДИКАЛЬНЫЕ ЛЕВЫЕ, ПРОСНУВШИЕСЯ». Лин написала: «Пустое апеллирование к национальной безопасности — это не карт-бланш на наказание и преследование критиков правительства».

Постановление не полностью решает ситуацию Anthropic. Параллельное присвоение статуса по отдельному федеральному закону остается в силе в деле в Апелляционном суде округа Колумбия — Anthropic технически по-прежнему считается риском для цепочки поставок в рамках этого разбирательства, и юристы-правоведы ожидают, что решение Северной Калифорнии будет быстро обжаловано. Более глубокий вопрос, который поднимает дело — могут ли федеральные агентства систематически использовать закупочные черные списки для формирования того, какие ограничения безопасности поддерживают частные ИИ-компании — не решается одним постановлением окружного суда. Решение Лин устанавливает, что этот механизм можно оспорить и отменить. Оно не мешает правительствам попробовать снова на других фактах.

Судья Лин вынесла свое решение 27 августа. Ожидается, что правительство подаст апелляцию в Девятый окружной апелляционный суд. У дела в Апелляционном суде округа Колумбия по параллельному присвоению статуса нет подтвержденной даты слушания. То, как апелляционные суды будут трактовать соотношение между исполнительными полномочиями в сфере национальной безопасности и защитой Первой поправки для политики безопасности ИИ, определит ограничение, с которым индустрия ранее не сталкивалась.

Теги: искусственный интеллект, Anthropic, Claude, безопасность ИИ, Министерство обороны США, Пентагон