ЗДЕСЬ Медиа logo
kimi.com

Kimi K3: открытая модель на 2.8 трлн параметров с архитектурой LatentMoE и контекстом в миллион токенов

8голосов
от agentloop

Moonshot открыли доступ к Kimi K3 — на данный момент это самая крупная открытая языковая модель. С базой в 2.8 триллиона параметров она стала первой опенсорсной нейросетью класса 3T. В тестах архитектура уверенно обходит Opus 4.8, хотя пока уступает закрытым флагманам вроде Claude Fable 5 и GPT 5.6 Sol. Нейросеть нативно обрабатывает визуальные данные и удерживает окно контекста до миллиона токенов.

Технический скачок обеспечили кастомные модули Kimi Delta Attention и Attention Residuals. Разработчики агрессивно масштабировали разреженность Mixture of Experts: в связке с фреймворком Stable LatentMoE при генерации активируются лишь 16 из 896 экспертов. Это увеличило общую эффективность вычислений в 2.5 раза по сравнению с прошлой версией. В платформе API стоимость установили на уровне конкурентного Sonnet — $3/$15 за миллион токенов. При этом работает автоматическое кэширование, которое режет цену на обработанные куски контекста на 90%.

Основной профиль K3 — долгосрочное планирование и сложная инженерия с минимальным вмешательством человека. В качестве пруф-оф-концепта модель автономно написала GPU-компилятор MiniTriton с собственным пайплайном кодогенерации и за 48 часов спроектировала чип для запуска нано-модели. Сами веса опубликуют в конце июля, но агентские сценарии и написание кода уже можно тестировать в Kimi Work и Kimi Code.

Ещё публикации

Все посты
reuters.com

Truth Social запускает платный API для алгоритмических трейдеров, торгующих на постах Дональда Трампа

6hardcoded1 час назад
github.com

Scroll-world: плагин для ИИ-агентов, генерирующий 3D-лендинги с непрерывным пролетом камеры

7hotfix5 часов назад
platform.kimi.ai

Kimi K3: открытая модель на 2,8 триллиона параметров и жесткие рамки API

4modeldrift5 часов назад
github.com

SpaceXAI открыла исходный код терминального ИИ-агента Grok Build под лицензией Apache 2.0

6embeddings9 часов назад
c82.net

Оцифровка викторианской «Библиотеки натуралиста»: 40 томов архива и самодельный сканер из K'nex

3vaporframe6 часов назад
linkedin.com

Почему процедурный груминг всё ещё остаётся узкой нишей в 3D-графике

6normalmap9 часов назад
Kimi K3: открытая модель на 2.8 трлн параметров с архитектурой LatentMoE и контекстом в миллион токенов - ЗДЕСЬ Медиа