OpenAI и Anthropic хотят притормозить ИИ — и это строит им крепостной ров

Поразительное в этой внезапной страсти к замедлению искусственного интеллекта — не то, что люди, которые его создают, теперь хотят тормозов. А то, что тормоза, которые они описывают, могут позволить себе только они. Когда лидеры самых дорогих ИИ-лабораторий почти единогласно соглашаются, что поле движется слишком быстро, аргумент о безопасности реален — и так же реален бизнес-аргумент, тихо лежащий под ним.

Триггером стал призыв Дарио Амодеи из Anthropic «замедлить фронтир»: снизить темпы улучшения возможностей моделей, внедрить независимых оценщиков внутри лабораторий и добиться, чтобы ведущие игроки демократических стран согласовали общие стандарты безопасности. Он назвал общественную реакцию против ИИ, по его словам, кризисом доверия. В течение короткого времени Сэм Альтман заявил, что согласен и что OpenAI уже обсуждала именно это; Илон Маск выдал одобрение из двух слов: «Дарио прав». Пресса подала это как запоздалую совесть, явившуюся разом.

Прочитайте тот же план как аналитик, а не как специалист по безопасности, — и появится вторая картина. Встроенные сторонние рецензенты, сертифицированное тестирование выравнивания, опубликованные структуры рисков и отчётность об инцидентах — это не только защитные меры; это постоянные издержки. А постоянные издержки — самое надёжное конкурентное оружие крупной компании, потому что они ложатся на всех одинаково в долларах и ни на кого одинаково в боли.

Рассмотрим арифметику. Крупнейшие американские облачные и ИИ-инфраструктурные провайдеры обязались потратить порядка 660–690 миллиардов долларов капитальных расходов на предстоящий год, причём только Amazon — около 200 миллиардов, а Alphabet, Meta и Microsoft — каждая сотни миллиардов или приближаясь к этому. На фоне таких балансов режим соответствия — команда встроенных оценщиков, ежегодная структура безопасности, штраф, который Калифорния ограничивает миллионом долларов за нарушение, — это погрешность округления. Для стартапа, пытающегося достичь фронтира, это вся взлётная полоса.

Это уже не гипотетика. Калифорнийский SB 53 уже определяет «крупного разработчика фронтира» по двум критериям: модели, обученные выше очень высокого порога вычислений, и более полумиллиарда долларов выручки. Эти фирмы обязаны публиковать структуры безопасности и сообщать о критических инцидентах в жёсткие сроки. В Европе статья 55 Закона об ИИ требует от провайдеров самых мощных моделей общего назначения проводить состязательное тестирование, смягчать системные риски и сообщать о серьёзных инцидентах. Пол заливается; вопрос в том, кто достаточно высок, чтобы стоять на нём, не замечая.

Самый явный признак — кто не просит тормозов. План никогда не называет своих естественных проигравших, но их легко определить: лаборатории, чья вся модель — раздавать веса, — Meta, французская Mistral, китайские DeepSeek и Alibaba. Как выразился один диссидентский анализ, это «четыре имени, которые эссе никогда не печатает», создатели бесплатных моделей, которые платящий клиент мог бы скачать вместо аренды API. Нельзя сертифицировать выравнивание модели, которую любой может модифицировать за полдня, поэтому режим стандартов, нацеленный на фронтир, сильнее всего бьёт по открытым весам. И открытый лагерь выигрывает именно тех пользователей, которых инкумбенты предпочли бы удержать: одна китайская открытая модель, Qwen, насчитывает загрузки в миллиардах, тогда как Meta Llama — в сотнях миллионов.

Всё это не ново. Это старейший ход в любой регулируемой отрасли — устоявшийся игрок приветствует правила, которые он может себе позволить, потому что издержки, тривиальные для его баланса, — стена для конкурента. Экономисты называют это простым именем — регуляторный захват, и он не требует недобросовестности. Аргумент о безопасности может быть полностью искренним и всё равно функционировать как барьер для входа. Здесь обе вещи верны одновременно.

Для Европы ставки выше, чем кажется. Единственный достоверный фронтирный претендент континента, Mistral, — именно лаборатория с открытыми весами, и её испанские и более широкие европейские клиенты — стартапы, строящие продукты на дешёвых, модифицируемых моделях, — теряют больше всех, если глобальный пол соответствия написан вокруг четырёх американских инкумбентов. Правила, разработанные в Сан-Франциско и ратифицированные в Брюсселе, могут защитить публику и одновременно поднять лестницу за лидерами.

Так что приветствуем поворот к безопасности: риски реальны, и оценщики запоздали. Но смотрите, что будет дальше. Если окончательные правила лягут ровно туда, где четыре гиганта могут платить, а никто меньший — нет, замедление не столько замедлит фронтир, сколько огородит его.

Теги: OpenAI, Anthropic, AI regulation, Mistral, open-weight models