Mistral Large 4 «Le Chonk»: триллион параметров

Mistral AI опубликовала веса Mistral Large 4 — своей первой модели с триллионом параметров. Внутри компании её прозвали Le Chonk. Это гранулярная система mixture-of-experts с 1,05 трлн параметров в общей сложности, около 49–52 млрд активных на токен, контекстным окном на 1 миллион токенов и поддержкой изображений. Одна и та же контрольная точка подходит как для быстрых ответов в чате, так и для длительных агентных задач; режим переключается настройкой интенсивности рассуждений с низким, средним и высоким уровнями. Модель обучали с нуля на 3,800 GPU NVIDIA Grace Blackwell в собственных дата-центрах Mistral в Европе. Она уже доступна в списке моделей vega.chat и через api.vega.chat.

Два релиза с разницей в месяц

В реестре моделей Mistral указаны две версии Large 4: публичная предварительная версия от 6 октября 2026 года, которая теперь помечена как снятая с эксплуатации, и финальная контрольная точка от 29 октября 2026 года — текущий активный релиз. Открытые веса на Hugging Face соответствуют версии от 29 октября, улучшенной дополнительным обучением RL. Показатели, опубликованные в период предварительного просмотра, включая первоначальные цены API, относятся к снятой с эксплуатации контрольной точке, а не к актуальной версии. Даже на официальной странице документации по-прежнему указана дата 6 октября и метка Public Preview.

Предыдущая флагманская модель, Mistral Large 3, вышла в декабре 2025 года в составе семейства Mistral 3. Десять месяцев между флагманскими релизами — быстрый темп для моделей такого масштаба.

Архитектура: от 675B до одного триллиона

	Mistral Large 3	Mistral Large 4
Всего параметров	675B	1.05T
Активны на токен	41B	~49B (52B с эмбеддингами и выходными слоями)
Архитектура	Гранулярная MoE	Гранулярная MoE
Энкодер зрения	2.5B	1.6B в стиле Pixtral
Контекстное окно	256k	1M токенов
Рассуждения	нет	низкий / средний / высокий, по умолчанию — высокий
Обучающий кластер	3,000 NVIDIA H200	3,800 NVIDIA Grace Blackwell
Лицензия	Apache 2.0	Mistral Ecosystem Open-Weight License

Согласно публикации команды vLLM, вышедшей в день релиза, основа модели состоит из 72 слоёв MoE с 128 маршрутизируемыми экспертами (top-4), одним общим экспертом и скрытым размером 6,144. Внимание реализовано через MLA со sparse-индексатором DSA, который выбирает 2,048 ключей для каждого запроса. Это один из способов сделать контекст на миллион токенов практически применимым. Энкодер в стиле Pixtral принимает изображения разных размеров и форматов, по несколько за запрос. Официальные контрольные точки доступны в форматах FP8 и NVFP4; в обоих используется латентный KV-кэш FP8. Встроенный предсказатель DSpark выполняет спекулятивное декодирование на трёх слоях MLA со скользящим окном, принимает около 2.9 токена за шаг и обеспечивает почти двукратный прирост пропускной способности на TP8.

Разреженная активация не превращает эту модель в замаскированную малую модель. На каждом токене активируются лишь ~49B параметров, но для хранения весов объёмом 1.05T и KV-кэша всё равно нужен мощный узел с несколькими GPU.

Бенчмарки: сильные заявления, неоднозначные результаты

Опубликованные Mistral показатели финальной контрольной точки выглядят убедительно:

Бенчмарк	Результат	Примечание
FrontierCode 2.0	19.7%, первое место	Закрытая сквозная оценка навыков программирования от Cognition
AA Coding Agent Index	48%	Примерно уровень GLM-5.3 при на 47% меньшем числе токенов на задачу
Terminal-Bench 4.0	41%	На 13 пунктов выше предварительной версии, лидер среди моделей с открытыми весами
Cyber Index	51%	Находит, воспроизводит и устраняет уязвимости
Отказы на вредоносные киберзапросы	96.6%	По данным Mistral, лучший результат среди моделей с открытыми весами
B3 Agent Security	97.1%	Выше, чем 93.3% у предварительной версии
Finch (финансы, таблицы)	73.3%	Второе место среди моделей с открытыми весами после Kimi K3
BrowseComp	84.5%	Выше, чем у GLM-5.3 и DeepSeek Flash 4.1
Surge Code (слепое тестирование пользовательских предпочтений)	Лучше GLM-5.3, Kimi K3 и DeepSeek V4.1 Flash	Уступает только Claude Opus 5.5

Независимая лаборатория Vals AI протестировала ту же открытую контрольную точку и получила другие результаты: 26.26% на Terminal-Bench 4.0 против 41% у Mistral, 81.56% на Vibe Code Bench, 61.72% в оценке финансового агента и индекс Vals Index 56.42%, который ставит модель на 17-е место из 30. Разница в 15 пунктов на бенчмарке с одинаковым названием обычно означает, что в тестах различались среда запуска, инструменты, бюджет токенов и критерии остановки. Сравнивая модели, сравнивайте и конфигурации.

Практическое предостережение добавляет тестирование MindStudio. В восьми агентных задачах по программированию модель набрала 42 из 80 баллов: локальная дообученная версия Gemma 2B получила 10 из 10, а симуляция с тремя лифтами — 9.5. Но в двух задачах результат был нулевым: модель завершила ход, так и не создав файл и вообще не предоставив ответ. Слабое место — надёжность: в этих запусках модель остановилась, ничего не выдав, а иногда она может уверенно подвести итог, хотя лежащий в основе результат не работает или отсутствует.

Цены

Стоимость API для финального релиза составляет $0.70 за миллион входных токенов и $2.10 за миллион выходных; кэшированные входные токены стоят $0.07. Это на 40% дороже, чем Large 3, если считать некэшированные токены, но значительно дешевле цен предварительной версии — $1.36 за входные и $4.18 за выходные токены.

	Large 3	Large 4
Входные токены за 1M	$0.50	$0.70
Кэшированные входные токены	скидка ~90%	$0.07
Выходные токены за 1M	$1.50	$2.10

Контраргумент Mistral — эффективность: если модель выполняет агентные задачи на 30–47% меньшим числом токенов, то важнее стоимость завершённой задачи, а не стоимость миллиона токенов. Прежде чем делать выводы, стоит проверить это на собственной нагрузке.

Оговорка в лицензии

Large 4 распространяется по Mistral Ecosystem Open-Weight License — модифицированной лицензии MIT. Она разрешает использование, модификацию, дообучение, распространение и коммерческое применение при одном условии: компании, которые ведут бизнес Model-as-a-Service, предоставляя третьим лицам доступ к инференсу или постобучению с существенным контролем над входными данными и параметрами, должны получить отдельную коммерческую лицензию Mistral. На внутреннее использование и использование через собственные продукты Mistral это ограничение не распространяется. В Apache 2.0, по которой распространяется Large 3, такого условия нет, поэтому для хостинг-провайдеров она юридически проще.

Примечания по развёртыванию

В день релиза vLLM добавила поддержку модели и опубликовала обширный список технических деталей. NVFP4 работает на четырёх GPU Blackwell (или TP8 на восьми). Параллелизм контекста при декодировании распределяет латентный KV-кэш между рангами, увеличивая его ёмкость примерно в 7.9 раза на TP8. HiSparse переносит KV-кэш в память хоста, увеличивая его ёмкость на узле GB300 с 1.97M до 8.77–11.25M токенов. Также поддерживаются SGLang, Transformers и Docker Model Runner, а Microsoft Foundry предлагает частное развёртывание в Azure для организаций, которым нужна модель на собственной инфраструктуре.

В экосистеме обнаружилась ловушка при интеграции: провайдер Mistral в Vercel AI SDK незаметно отбрасывал параметр reasoning_effort для Large 4, поскольку идентификатора модели не было в жёстко заданном списке разрешённых значений. В результате запросы отправлялись без рассуждений. Ошибку исправили и добавили регрессионные тесты. Общий вывод: проверяйте, действительно ли параметры рассуждений и инструментов доходят до модели, — утверждение «SDK поддерживает Mistral» ничего об этом не говорит.

Безопасность и открытые вопросы

В этом релизе Mistral уделила безопасности необычно много внимания: уровень отказов на вредоносные киберзапросы составляет 96.6%, устойчивость к атакам по бенчмарку B3 Agent Security Benchmark — 97.1%. Кроме того, специализированную киберверсию для пентестинга и red teaming предоставили таким партнёрам, как Orange Cyberdefense, на условиях строгих контрактов. Компания также прямо заявляет, что мониторинг реального трафика выявил потенциал для усиления атак в реальных условиях, поэтому защитные механизмы продолжают совершенствовать. В технической документации предупреждается, что модель не безошибочна и не предназначена для принятия критически важных решений без проверки и человеческого контроля. Как показывают результаты MindStudio, высокие показатели безопасности и незавершённые агентные задачи вполне могут сочетаться в одной модели.

Large 3 или Large 4

Выбирайте Large 4, если вам нужны контекст на 1M токенов, режимы рассуждений или лучшие результаты среди моделей с открытыми весами в агентном программировании и киберзадачах, а ваша инфраструктура способна работать с контрольной точкой на триллион параметров. Оставайтесь на Large 3, если важнее цена за токен или простота лицензирования: Apache 2.0 не содержит оговорки MaaS, некэшированные токены на 40% дешевле, а в карточке модели описано развёртывание на одном узле A100 или H100 в NVFP4. У Large 3 есть собственные известные недостатки: качество NVFP4 падает при контексте больше 64k, а в независимых тестах вызов инструментов работает менее стабильно.

Что бы вы ни выбрали, проведите пилотное тестирование контрольной точки от 29 октября на реальных задачах, проверьте, что вызовы инструментов выполняются, а файлы и другие результаты действительно создаются. Для каждого записанного показателя фиксируйте версию модели и параметры сэмплирования. Рекомендованные Mistral настройки: temperature 1.0 и top_p 0.95.

Mistral Large 4 доступна в списке моделей vega.chat, а разработчики могут обращаться к ней через API, совместимый с api.vega.chat.