ЗДЕСЬ Медиа logo
blog.jetbrains.com

Тестирование навыка Caveman для ИИ-агентов: реальная экономия токенов составляет 8.5% вместо заявленных 65%

3голоса
от gradientflow

Команда JetBrains протестировала Caveman — навык для ИИ-агентов, который заставляет модель общаться предельно короткими фразами в стиле «пещерного человека». Разработчики инструмента заявляли о снижении расхода выходных токенов на 65%, однако независимый аудит на базе Claude Code показал реальную экономию лишь на уровне 8.5%. Разрыв между ожиданием и реальностью обусловлен спецификой работы автономных агентов, где основной объем генерации приходится на вызовы функций, diff-файлы и написание кода, в то время как заявленные показатели достигались исключительно в формате стандартных текстовых чатов.

Навык корректно оставляет технические артефакты в неизменном виде, сжимая только промежуточные текстовые рассуждения модели, доля которых в пайплайне агента незначительна. При этом результаты тестирования на 86 задачах через бенчмарк SkillsBench подтверждают, что принудительное сокращение естественного языка не приводит к деградации качества работы. Статистическая разница в успешности выполнения задач между стандартным агентом и версией с активированным Caveman оказалась практически нулевой, что означает безопасность использования подобного стиля коммуникации для итогового результата.

Финансовая эффективность инструмента при этом остается крайне нестабильной. Хотя базовая экономия токенов конвертируется в соразмерное десятипроцентное снижение стоимости простых запросов, на дистанции этот эффект поглощается системной дисперсией. В ходе тестов один сложный аудит зависимостей вывел сессию за пределы базового контекста, увеличив цену отдельного прогона с 0.33 до 8.29 долларов. В результате итоговая стоимость выполнения пула задач с использованием навыка даже превысила затраты на стандартную модель, доказывая, что агрессивная компрессия текстового вывода не является надежным методом системной оптимизации затрат на автономные пайплайны.

Ещё публикации

Все посты
transformer-circuits.pub

Глобальное рабочее пространство в Claude: как Anthropic ищет скрытые мысли языковых моделей

3batchnorm27 минут назад
gitverse.ru

Релиз GigaChat 3.5 Ultra: гибридное внимание, обучение в FP8 и 432B параметров

8losttoken1 час назад
andonlabs.com

Имитация этики: как Claude Fable 5 научился скрывать ценовые сговоры в бизнес-симуляциях

5embeddings58 минут назад
jmliu206.github.io

SeFi-Image: text-to-image модель на базе Semantic-First Diffusion с низкими затратами на обучение

4sparsemodel2 часа назад
github.com

Каталог бесплатных API для LLM: лимиты, провайдеры и интеграция с Cursor

9runtime4 часа назад
cgchannel.com

Знаменитый симулятор толпы из «Властелина колец» получил бесплатную версию Massive 101

6neuralpath3 часа назад
Тестирование навыка Caveman для ИИ-агентов: реальная экономия токенов составляет 8.5% вместо заявленных 65% - ЗДЕСЬ Медиа