Mistral Large 4 бесплатна, но дома ей нужен Mac за 22 299 долларов

Mistral опубликовала полные веса Mistral Large 4 — модели, которую в компании прозвали Le Chonk. Скачать её, изменить и запустить на собственном оборудовании может любой желающий. Французская лаборатория утверждает, что это самая мощная открытая модель для написания кода и задач по защите систем — например, для воспроизведения уязвимости в программе и её последующего исправления. Но тем, кто рассчитывает запустить её дома, придётся столкнуться с одной проблемой: модель очень велика.

В Le Chonk около триллиона параметров, из которых 49 миллиардов задействуются при создании каждого слова. Даже самые сжатые версии — 2-битные сборки, подготовленные командами llama.cpp и Unsloth, — требуют компьютера Apple Silicon Ultra с 512 ГБ объединённой памяти, сообщает Hugging Face. Из всех компьютеров Apple такой объём памяти есть только у Mac Studio с чипом M5 Ultra. Как пишет 9to5Mac, такая конфигурация стоит в США $22 299. Для запуска модели любым другим способом потребуется объединить несколько мощных видеокарт.

Главный аргумент Mistral в пользу модели — её способности в работе с кодом. Компания сообщает, что модель набирает 41% в Terminal-Bench 4.0 — тесте ИИ-агентов, работающих в командной строке, — это лучший результат среди открытых моделей. Кроме того, по индексу агентов для программирования Artificial Analysis она сравнялась с GLM-5.3, используя при этом на 47% меньше токенов на задачу, а значит, обходится дешевле. В слепом сравнительном тестировании Surge проверяющие предпочли её код результатам GLM-5.3, Kimi K3 и DeepSeek V4.1 Flash; выше модели поставили только Claude Opus 5.5 от Anthropic.

В сфере безопасности модель ориентирована на защитников. По данным Hugging Face, она набрала 82% в тесте Artificial Analysis, где модели предлагают воспроизвести реальную уязвимость в программном обеспечении с открытым исходным кодом, а затем исправить её. Mistral также сообщает, что несколько закрытых передовых моделей в этом тесте набирают около нуля, поскольку отказываются выполнять задание. Банк или государственное ведомство могут запустить модель на собственных серверах, предоставить ей свой код и журналы сбоев и продолжать пользоваться ею, даже если поставщик изменит условия. «ИИ станет чем-то вроде электричества. Вы же не хотите жить в мире, где сосед может в один день взять и отключить вам электричество», — заявил журналистам вице-президент Mistral по научным исследованиям Пьер Сток (Pierre Stock), сообщает Wired.

Большинство этих цифр приводит сама Mistral, причём на выбранных ею тестах, а независимые проверки только начинаются. В общем индексе интеллектуальных способностей Artificial Analysis Hugging Face ставит модель на пятое место среди открытых моделей, а не на первое. Аргументы в пользу применения для безопасности тоже имеют обратную сторону. Mistral написала, что во время предварительного тестирования, наблюдая за трафиком в реальном времени, обнаружила «потенциал для содействия совершению реальных атак» и теперь ужесточает защитные механизмы. Однако общедоступные веса может скачать и перенастроить кто угодно, в том числе злоумышленники. «Очевидно, это технология двойного назначения», — сказал Wired Рейф Пиллинг (Rafe Pilling), старший директор по анализу угроз в Sophos.

Даже при наличии подходящего Mac домашнее использование модели потребует компромиссов. Hugging Face запустила 2-битную сборку на более старом Mac Studio с M3 Ultra и получила скорость около 15 токенов в секунду: для общения этого достаточно, но для длительных задач по программированию — медленно. При работе с очень длинными документами на четырёх видеокартах Nvidia RTX 6000 Pro скорость вывода падала примерно до 3 токенов в секунду. Кроме того, сжатие модели до 2 бит снижает точность по сравнению с полной версией, которую тестировала Mistral.

Веса доступны для скачивания по всему миру на Hugging Face и распространяются по лицензии Mistral Ecosystem Open-Weight License — модифицированной лицензии MIT, которая разрешает бесплатно использовать модель, дообучать её и создавать коммерческие продукты. Исключение составляют компании, продающие модель как размещённый у себя сервис: им потребуется отдельная коммерческая лицензия от Mistral. Все остальные могут воспользоваться моделью через API Mistral по цене $0,70 за миллион входных токенов и $2,10 за миллион выходных, а также через OpenRouter и Microsoft Foundry. Предварительную версию Mistral выпустила ранее в октябре, а окончательные веса опубликовала 29 октября. По сообщению Apple, Mac Studio с 512 ГБ памяти, заказанные покупателями, будут поставляться с конца ноября до начала декабря.

«Стоит открыть веса — и они уже по всему интернету. Перекрыть к ним доступ невозможно», — сказал Сток Wired. Для тех, у кого нет компьютера за $22 299, преградой становится цена памяти.

Теги: кибербезопасность, Hugging Face, Mac Studio, открытые модели ИИ, Le Chonk, Mistral AI