Создатели бенчмарка ProgramBench опубликовали обновленные результаты тестирования языковых моделей с максимальными параметрами рассуждения. В список проверяемых систем вошли GPT 5.5 и Claude Opus 4.7 в режимах high и xhigh, что предполагает увеличенное время работы и расширенный лимит на выполнение операций для генерации кода.
Бенчмарк оценивает способность нейросетей воссоздавать программы с нуля, и в ходе последнего прогона был зафиксирован первый случай полного решения задачи. При написании терминальной утилиты cmatrix на языке C модель GPT 5.5 в конфигурации xhigh успешно прошла 100% поведенческих тестов, потребовав для этого 40 обращений к API при затратах в $4.84.
Сравнение метрик демонстрирует заметный разрыв в эффективности между флагманскими архитектурами. Как следует из отчета авторов исследования, GPT 5.5 xhigh превосходит Claude Opus 4.7 xhigh по всем ключевым параметрам, при этом модель от Anthropic достигла на аналогичной задаче результата в 96.3%, израсходовав существенно больше ресурсов, что выразилось в 178 запросах общей стоимостью $10.74.
Поделиться:
taste-skill: можно ли запрограммировать хороший вкус для AI-агентов
Каталог публичных воркфлоу для Claude Code: от разделения 34k-строчных файлов до портирования Bun на Rust