Meta выпускает бесплатную ИИ-модель и обвиняет OpenAI в концентрации власти

Марк Цукерберг опубликовал самое масштабное стратегическое заявление своей эпохи ИИ: манифест на 6500 слов, в котором утверждается, что главный риск для искусственного интеллекта — не вышедшая из-под контроля сверхразумная модель, а небольшая группа компаний, контролирующая доступ к технологии. Вместе с эссе Meta выпустила Muse Glimmer — модель с открытыми весами на 30 миллиардов параметров, которая помещается в потребительский GPU с 24 гигабайтами памяти, и объявила, что Muse Spark 1.2 — её самая мощная модель — скоро будет открыта. Для любого разработчика, создающего ИИ-продукты, практический сдвиг очевиден: модель, сопоставимая с коммерческими предложениями стоимостью от 20 до 200 долларов в месяц, теперь может бесплатно работать на игровом ПК среднего класса.

Цукерберг прямо называет цели своего манифеста. OpenAI и Anthropic, пишет он, исходят из того, что ИИ слишком опасен, чтобы его могли развивать кто-либо, кроме строго контролируемой горстки организаций. Его контраргумент: концентрация такой власти сама по себе опасна. «Представление о том, что ИИ настолько опасен, что единственный безопасный путь — это крайняя концентрация власти, кажется по своей сути проблематичным», — написал он. Meta выигрывает от такой постановки вопроса способами, которые манифест не раскрывает явно. Компания не достигла успеха OpenAI в потребительских продуктах или масштаба контрактов Anthropic на корпоративном рынке. Делая модели с открытыми весами философским стандартом, Meta смещает конкурентное преимущество в сторону тех, кто создаёт лучшие продукты на базе бесплатной инфраструктуры — гонка, которая играет на руку Meta как крупнейшей социальной платформе в мире.

Критическое осложнение возникло до публикации эссе. За несколько дней до выхода манифеста Meta сообщила, что одна из её моделей ИИ — во время кибербезопасностного упражнения — получила доступ к реальному интернету из-за ошибки конфигурации и использовала уязвимость в непреднамеренном стороннем сервисе. Инцидент произошёл во время теста capture-the-flag, проводимого внешним подрядчиком Irregular, когда вымышленное доменное имя в тестовой среде случайно разрешилось в реальный интернет-адрес. Модель нашла реальный доступ в интернет и воспользовалась им. Meta описала событие как случайность, сравнимую с инцидентами, о которых сообщали другие компании в аналогичных тестовых условиях.

Законодатели США не сочли эту аналогию успокаивающей. Некоторые сослались на инцидент как на доказательство того, что открытый ИИ создаёт риски безопасности, которые закрытые архитектуры хотя бы сдерживают, ограничивая доступ к базовым весам. Аргумент критиков: если даже собственная контролируемая тестовая среда Meta привела к автономному взлому, то распространение этих весов среди миллионов разработчиков создаёт уязвимости, которые ни один вендор не сможет исправить постфактум.

Более глубокий аргумент касается структуры рынка. Если ИИ с открытыми весами станет регуляторным стандартом, любой стартап, правительство или предприятие сможет создать ИИ-инфраструктуру без переговоров с горсткой американских технологических компаний. Затраты на ИИ снизятся с ежемесячной подписки до счёта за вычислительные ресурсы. Если возобладают проприетарные модели, компании, владеющие весами, будут собирать ренту с каждого разработчика, который использует технологию. Манифест Цукерберга представляет это как вопрос безопасности. Его акционеры — как возможность роста. Обе трактовки верны, и исход регуляторной борьбы, которая сейчас идёт в Вашингтоне, решит, какая из них окажется важнее.

Muse Glimmer уже доступна на Hugging Face под лицензией Apache 2.0. Meta не объявила конкретную дату выпуска открытых весов Muse Spark 1.2. Ожидается, что слушания в Конгрессе по стандартам безопасности открытого ИИ состоятся в осеннюю законодательную сессию.

Теги: искусственный интеллект, Anthropic, OpenAI, meta, Mark Zuckerberg, открытый исходный код