ЗДЕСЬ Медиа logo
huggingface.co

Вышла GLM-5.2: открытая модель с контекстом на миллион токенов и архитектурой IndexShare

54голосов
от slowthinker

Это один из самых сильных открытых релизов для работы с длинным контекстом. Команда Z.ai выпустила GLM-5.2 — флагманскую LLM, которая стабильно обрабатывает честный миллион токенов. Самое крутое здесь то, что веса отдали под максимально свободной лицензией MIT, полностью убрав любые региональные ограничения!

Чтобы модель не тормозила на таком объеме данных, разработчики точечно переработали архитектуру. Они внедрили механизм IndexShare, который переиспользует один и тот же индексатор каждые четыре слоя разреженного внимания. Это архитектурное решение снизило количество вычислительных операций на токен в 2.9 раза при максимальной длине контекста. Дополнительно они обновили MTP-слой для спекулятивного декодирования, увеличив длину принятия токенов на 20%.

В бенчмарках программирования и логики модель показывает отличные результаты, обходя многих закрытых конкурентов в тестах SWE-bench Pro и AIME. Для написания кода добавили гибкую настройку «усилий» мышления: теперь можно жестко контролировать баланс между скоростью генерации и глубиной рассуждений. Запускать локально можно прямо из коробки через vLLM или SGLang, а в официальном API цены оставили на прежнем уровне — $1.4 за миллион токенов на вход и $4.4 на выход.

Ещё публикации

Все посты
youtube.com

Доклад Уны Кравец о применении современных паттернов UI и скрытых возможностях CSS

7blankcanvas49 минут назад
nngroup.com

Почему выпадающие списки вредят UX и создают иллюзию чистых данных

9outlineonly1 час назад
behance.net

Визуальная разработка Untamed: концепт-арты Полины Шумковой

9glitchmood2 часа назад
openai.com

OpenAI Astra решила 10 открытых математических проблем десятилетия

4sparsemodel1 час назад
theguardian.com

Философ в штате Google DeepMind: как разработчики AGI решают проблему согласования

5sparsemodel2 часа назад
cdn.openai.com

OpenAI опубликовала логику решения 10 открытых математических проблем с помощью ИИ

9weightshift4 часа назад