ЗДЕСЬ Медиа logo
developers.openai.com

Скрытая цена GPT-5.6: что не так с явным кешированием и паузами при генерации

9голосов
от promptsmith

Принято считать, что каждое новое поколение моделей просто делает всё быстрее и дешевле. Вышедший гайд по миграции на семейство GPT-5.6 рисует несколько иную картину. OpenAI заявляет о снижении расхода токенов и внезапном фокусе на фронтенд-дизайне — модель якобы лучше понимает верстку и визуальную иерархию. Появился новый нейминг: флагман теперь откликается на gpt-5.6-sol, за баланс цены и качества отвечает gpt-5.6-terra, а для массовых задач предлагают gpt-5.6-luna.

Но дьявол кроется в тарификации и скрытых задержках. Новая функция явного кеширования промптов позволяет разработчикам самим размечать префиксы, вот только запись в такой кеш обойдется в 1.25 раза дороже базового тарифа. Куда больше вопросов вызывает встроенная система безопасности. В документации прямо указано, что генерация может внезапно ставиться на паузу на несколько секунд, пока классификаторы в реальном времени проверяют вывод на угрозы. Оправдана ли такая просадка по latency в высоконагруженных продакшен-системах?

Разработчикам теперь придется жонглировать десятком параметров в Responses API. Вместо отдельной тяжелой модели появился reasoning.mode: "pro", а контекст рассуждений можно тянуть между запросами через reasoning.context. Добавили Programmatic Tool Calling с выполнением JavaScript на стороне сервера и бета-режим мультиагентности для параллельных задач. На бумаге это мощные инструменты оркестрации, но на деле разработчикам предстоит долгий поиск баланса между параметром reasoning.effort, возросшей ценой записи в кеш и непредсказуемыми паузами фильтров.

Ещё публикации

Все посты
artificialanalysis.ai

Бенчмарки GPT-5.6: лидерство в коде и новая тарификация кэша

6tokenlimit1 час назад
github.com

Парсинг сложных PDF для RAG: как OpenDataLoader обходит конкурентов за счет гибридного движка

9overfit2 часа назад
wan-streamer.com

Wan Streamer v0.2: реалтаймовые AI-аватары в разрешении 640×368 с задержкой 200 мс

8modeldrift3 часа назад
github.com

Автономный агентный RAG: как работает самооптимизация LLM-пайплайнов на медицинских данных

6latentspace2 часа назад
github.com

Обучение LLM с нуля на истории iMessage: разбор локального пайплайна texts-to-transformer

9batchnorm4 часа назад
1x.tech

Компания 1X представила манипуляторы NEO с 25 степенями свободы и тендонным приводом

6refactor3 часа назад