Meta открывает Muse Glimmer — ИИ-агент с 30 млрд параметров без облака

Meta создала ИИ-агента с 30 миллиардами параметров, который работает исключительно на потребительском оборудовании — и бесплатно выложила исходный код. Модель под названием Muse Glimmer не отправляет ваши задачи на серверы Meta. Она выполняется локально на вашем GPU, а при квантовании занимает от 18 до 20 гигабайт памяти, что укладывается в возможности современных флагманских потребительских видеокарт.

Это важно, потому что предыдущее поколение локальных моделей — варианты с 7 и 13 миллиардами параметров, заполнившие библиотеку Ollama за последние два года, — были неплохими генераторами текста, но слабыми автономными агентами. Они с трудом справлялись с многошаговыми рассуждениями, вызовами инструментов, которые прерывались на полпути, и задачами, требующими запоминания того, что произошло три шага назад. Muse Glimmer специально разработана для таких сценариев: написание кода, вызов функций, управление расписанием, организация файлов и многошаговые последовательности задач, которые автоматически восстанавливаются, когда вызов инструмента ломается.

Лежащая в основе архитектура — это дистилляция Muse Spark, коммерческой модели, доступ к API которой Meta начала продавать в прошлом месяце. С помощью логитной дистилляции и обучения с подкреплением компания сжала свою закрытую флагманскую модель до формы, помещающейся на 24-гигабайтный GPU — RTX 5090, Apple M5 Max или M4 Max. Спекулятивное декодирование увеличивает пропускную способность: RTX 5090 работает в 3,1 раза быстрее, чем без него, M5 Max — в 1,8 раза, M4 Max — в 1,5 раза. На практике эта разница — грань между агентом, который кажется отзывчивым, и тем, который требует терпения.

Модель обрабатывает перемежающиеся текст и изображения — скриншоты, документы, смешанный контент — и работает на более чем 100 языках. Она нативно подключается к фреймворкам, которые уже используют пользователи локального ИИ: Ollama, LM Studio, llama.cpp, MLX. Если вы уже загружаете модели с Hugging Face и запускаете их на своем оборудовании, Muse Glimmer встраивается в этот процесс без дополнительных инструментов.

Лицензия — Apache 2.0, что означает отсутствие коммерческих ограничений. Частные лица, компании и исследователи могут использовать её без оплаты Meta. Это ставит её в другую категорию по сравнению с моделями OpenAI и Anthropic, которые требуют оплаты за токен даже для разработки. По сравнению с Google Gemma4-31B и Alibaba Qwen3.6-27B — ближайшими открытыми конкурентами по масштабу — Meta позиционирует Muse Glimmer как сильную для своего размера в бенчмарках агентных и общих языковых моделей, не делая более конкретных заявлений о том, в каких задачах она побеждает.

Требования к оборудованию остаются избирательными. Уместить 18 гигабайт весов модели на GPU звучит доступно, пока не посчитаешь, какой для этого нужен GPU. RTX 5090 сейчас стоит выше двух тысяч долларов. Компьютеры Apple с M5 Max начинаются от трех тысяч. Это локальный ИИ для определенного уровня дохода, а не замена облаку для большинства пользователей. Квантованная версия также является младшей сестрой Muse Spark с пониженной точностью: она наследует обучающий сигнал от коммерческой модели, но не является коммерческой моделью. Meta продолжает продавать доступ к версии с более высокими возможностями.

Что меняется с этим релизом — это появление категории мощных агентных локальных моделей. Запуск 30-миллиардной модели, обученной для автономного выполнения задач, отличается от запуска чат-модели с тем же числом параметров. Различие в том, как модель справляется с отказами инструментов и многошаговыми последовательностями, а не в том, как хорошо она завершает одно предложение.

Веса доступны на Hugging Face с 10 августа под лицензией Apache 2.0. Meta подтвердила партнерства по оптимизации на уровне устройств с AMD, Arm, Dell, Intel и Nvidia, а в дальнейшем последуют дополнительные сборки для конкретных конфигураций оборудования. Сообщество локального ИИ протестирует модель в ближайшие дни, как это бывает с каждым значимым релизом — результаты бенчмарков сообщества дадут более четкую картину того, где на самом деле находится Muse Glimmer, в течение двух недель с сегодняшнего дня.

Теги: meta, ИИ-агенты, локальный ИИ, GPU, Meta Superintelligence Labs, Muse Glimmer