Это самый показательный провал в архитектуре ИИ-инструментов за последнее время. Популярный кодинг-агент OpenCode со 161 тысячей звезд на GitHub оказался набором архитектурных костылей. Инженер Люк Рен изучил исходники проекта и выяснил, что инструмент не просто генерирует плохой код, но и безжалостно сжигает деньги разработчиков. Проблема кроется в фатальном непонимании того, как работают современные LLM и кеширование промптов.

Провайдеры API умеют дешево отдавать ответы, если начало разговора не меняется. Но OpenCode умудряется ломать этот механизм на каждом шагу! Агент заново перечитывает локальные файлы при любом ответе и зачем-то вставляет в системный промпт текущее время. Изменилась минута на часах — получайте сброс кеша и пересчет огромного контекста с нуля. При работе с локальными моделями это оборачивается минутами ожидания генерации, а при использовании платного API — огромными счетами за повторную обработку одних и тех же токенов.

Работа с памятью реализована не менее абсурдно. Если прервать агента для корректировки курса, встроенный алгоритм pruning безвозвратно удалит из контекста первоначальное техническое задание. Вдобавок авторы зашили в базовые настройки откровенно вредные инструкции — например, жесткий запрет на использование комментариев. В итоге вместо умного ассистента получается неповоротливая обертка для bash, которая забывает задачу на полпути и саботирует процесс разработки.