Mistral Large 4 открыла веса: триллион параметров и восемь видеокарт на запуск
Чтобы запустить Mistral Large 4 в стандартной сборке, нужны восемь Nvidia B300. Сжатый вариант обойдётся четырьмя GB300. Это не ноутбук фрилансера, зато это модель, которую можно скачать, поставить в собственную серверную и не спрашивать ни у кого разрешения. 29 октября французская Mistral AI выложила на Hugging Face веса своей самой крупной модели, которую в компании и вокруг неё зовут «Le Chonk». Модель доступна и через API под именем mistral-large-4.
Предыстория короткая. В начале октября (анонс датирован 6-м числом) вышел публичный превью, три недели спустя пришли финальные веса. За это время модель дообучали с подкреплением на задачах, которые команда сочиняла сама, а сложность росла вместе с обучением. По словам исследователей Mistral, потолок качества теперь определяется только тем, насколько трудные задачи удаётся придумать и проверить. Результат виден в цифрах: Terminal-Bench 4.0 вырос с 28% до 41%.
Что внутри
- Около 1 трлн параметров, из них около 52 млрд активны на каждом шаге (49 млрд без эмбеддингов и выходного слоя). Архитектура — mixture-of-experts.
- 128 маршрутизируемых экспертов, на токен включаются 4, плюс один общий.
- Контекст — 1 млн токенов.
- Принимает текст и изображения, отвечает текстом и кодом. Визуальный энкодер сделан в духе Pixtral и обучен на картинках переменного размера и пропорций.
- Обучена с нуля на 3 800 GPU NVIDIA Grace Blackwell в дата-центрах Mistral в Европе.
- Больше 160 языков, включая все официальные языки ЕС.
- Три режима рассуждения: low для быстрого чата, medium для повседневной работы, high (по умолчанию) для сложных промптов и агентных сценариев. Режим задаётся на каждый запрос.
- Нативный вызов функций, JSON-вывод и строгая проверка по JSON-схеме.
Отдельно Mistral хвалит зрение: модель разбирает изображения, графики, технические чертежи и документы. По заявлению компании, у неё лучшая визуальная привязка (grounding) среди открытых весов, и в этой задаче она обходит закрытые frontier-модели.
Код: лидер открытых, но не вообще
В Coding Agent Index от Artificial Analysis Large 4 набрала 48% — на уровне GLM-5.3, китайской открытой модели, которая держала лидерство среди открытых весов. При этом на задачу уходит на 47% меньше токенов. Mistral считает это лучшим результатом среди открытых моделей в агентном программировании.
| Тест | Large 4 | Для сравнения |
|---|---|---|
| Terminal-Bench 4.0 | 41% (превью: 28%) | GLM-5.3: 40%; Kimi K3.1 Pro: 67% |
| Coding Agent Index | 48% | Claude Code с Claude Opus 5.5: 62 |
| FrontierCode 2.0 | 19,7% | Claude Opus 5.5: 46% |
В слепых сравнениях Surge тестировщики чаще выбирали код Large 4, чем код GLM-5.3, Kimi K3 и DeepSeek. Против Opus 5.5 модель выиграла лишь в 22% сопоставлений. Честная картина: впереди открытых, заметно позади лучших закрытых.
Общий рейтинг: Запад впереди, Китай выше
В Intelligence Index v5 Large 4 получила 26 баллов (у превью — 25). Это лучший результат среди западных открытых моделей, но китайские открытые стоят выше. Три пятых тестов индекса опираются на задачи или решения, которые не публикуются; в девяти тестах есть Terminal-Bench 4.0 и FrontierCode 2.0.
| Модель | Балл |
|---|---|
| Gemini 4 Carbon | 59 |
| Claude Opus 5.5 | 58 |
| Kimi K3.1 Pro (веса не опубликованы) | 46 |
| GLM-5.3 | 32 |
| DeepSeek V4.1 Flash | 32 |
| MiMo-V2.6-Pro | 30 |
| Mistral Large 4 | 26 |
| Медиана открытых моделей похожего размера | 23 |
Gemini 4 Carbon пока доступна только отдельным партнёрам по кибербезопасности. В прежней версии индекса превью Large 4 набирало 38 баллов, GLM-5.3 — 45.
Кибербезопасность: главный акцент
Mistral продаёт Large 4 как инструмент для анализа кода и IT-инфраструктуры, обнаружения угроз и реагирования на инциденты. В Cyber Index модель набрала 51 (превью — 50) и стоит третьей среди открытых. Выше — Kimi K3.1 Pro (64), DeepSeek V4.1 Flash (57) и MiMo-V2.6-Pro (56); следом идёт GLM-5.3 Flash (50). Задача на Large 4 в режиме high обходится в $1,21, а DeepSeek V4.1 Flash набирает больше баллов при заметно меньшей цене.
Модель отказывается от 96,6% вредоносных кибер-запросов — больше, чем любая другая открытая. Mistral при этом признаёт, что Large 4 способна облегчить реальные атаки, и обещает усилить защиту в ближайшие месяцы. Партнёры вроде Orange Cyberdefense тестируют специальную версию для пентестов: доступ только после проверки и с контрактными ограничениями.
Пьер Сток, вице-президент Mistral по науке, объяснил позицию так: «Мы не хотим запугивать людей. Мы считаем, что проблема решаема. Хорошая безопасность — трудная задача». Его довод в пользу открытости: ИИ уже помогает специалистам находить уязвимости куда быстрее, а злоумышленники пользуются теми же технологиями. А раз модель открыта, внешний провайдер не сможет отключить к ней доступ.
Скорость и деньги
| Показатель | Превью | Финальная |
|---|---|---|
| Скорость, токенов в секунду | 111 | 161 |
| Стоимость одной задачи индекса | $5,54 | $2,06 |
| Выходных токенов на весь индекс | 150 млн | 110 млн |
Быстрее Large 4 в сравнении Artificial Analysis только DeepSeek V4.1 Flash и Muse Wonder. Стоимость задачи индекса у других: GLM-5.3 — $5,01, Kimi K3.1 Pro — $3,68, DeepSeek V4.1 Flash — $0,60, MiMo-V2.6-Pro — $0,26. Так что дёшево относительно GLM, но не рекордно.
Тарифы API за миллион токенов (вход / выход):
| Тариф | Цена |
|---|---|
| Превью, список | $1,36 / $4,18 |
| Стартовая скидка на две недели | $0,68 / $2,09 |
| Текущий | $0,70 / $2,10 |
| Kimi K3.1 Pro | $2 / $10 |
Лицензия
Mistral Ecosystem Open-Weight License — модифицированная MIT. Использование, модификация и коммерческое развёртывание бесплатны. Исключение одно: если вы предлагаете Large 4 как коммерческий облачный сервис («модель как сервис»), нужна отдельная лицензия у Mistral. Модель также доступна на Microsoft Foundry и других платформах.
Как запускать
- vLLM (рекомендованный путь): образ vllm/vllm-openai:mistral-large-4, пример на 8 GPU с tensor-parallel-size 8, парсерами инструментов и рассуждений mistral и gpu-memory-utilization 0,85. Не хватает памяти — уменьшайте max-model-len и max-num-seqs.
- SGLang: образ lmsysorg/sglang:mistral-large-4. Без доп. флагов — 48 параллельных запросов, с max-running-requests 64 — больше.
- DSpark: встроенная draft-голова из трёх плотных MLA-слоёв в BF16 для спекулятивного декодирования, блок из 3 токенов. Заявлено ускорение до 1,9x без изменения выходов; результат зависит от железа и нагрузки.
- NVFP4: квантованный чекпоинт для Blackwell, по тексту — с тем же качеством, меньшей памятью и быстрее.
- Transformers (нужна ветка main) и llama.cpp с GGUF-версиями.
- Дообучение: Axolotl, Unsloth, TRL.
Рекомендованные настройки: temperature 1,0 и top_p 0,95 для всех режимов. Системный промпт должен описывать окружение и сценарий, набор инструментов — минимальный и чётко описанный. Если локальный сервинг тормозит, документация советует API.
Что это меняет в вашей работе
Скажем прямо: Large 4 сделана не для генерации картинок и не для креатива. Она про код, агентов и безопасность. Но для визуального продакшена в ней есть пара вещей, которые мы бы проверили. Первая — зрение: чертежи, графики, документы и привязка к областям изображения, если верить Mistral, у неё сильнее, чем у любых других открытых весов. Вторая — строгая JSON-схема и вызов функций: на них держатся пайплайны, где модель раскладывает бриф по полям, размечает ассеты или управляет скриптами в вашем софте. Третья — 160 языков для локализации. Всё это можно крутить у себя, не отправляя клиентские материалы во внешнее облако.
Попробовать без железа проще всего через Le Chonk Gallery — подборку Spaces на Large 4 от компании и сообщества (код, зрение, инструменты, JSON, мультиязычность). Достаточно поставить тег Le_chonk. В первую неделю релиза у каждого посетителя есть небольшой общий бесплатный бюджет, можно подставить свой API-ключ. Для сборки собственных демо компания предлагает Mistral Vibe — кодинг-агент на базе той же модели.
Открытые веса на триллион параметров — это уже не игрушка для энтузиастов с одной видеокартой, а склад, до которого можно дотянуться, если у вас есть восемь B300 или хороший договор с облаком.
