Разработчики любят говорить, что автономные агенты скоро начнут эволюционировать без малейшего участия человека. Звучит смело, но при детальном рассмотрении современных систем картина оказывается довольно утилитарной. В свежем исследовании, соавтором которого выступил Юрген Шмидхубер, самоулучшающиеся агенты лишены мистического флера и описаны как строгий инженерный конструкт.

Авторы предлагают рассматривать агента как связку из фундаментальной нейросети и scaffold — рабочей обвязки из памяти, промптов, инструментов и логики контроля. Самоулучшение здесь формализуется просто как оператор обновления. Агент анализирует свой опыт и вносит корректировки либо в веса базовой модели, либо в конфигурацию окружения. Правда, в реальных внедрениях системы чаще всего ограничиваются только обновлением внешних надстроек, избегая дорогостоящего дообучения весов.

Но можно ли считать автоматическую перезапись промптов и пополнение векторной базы настоящей эволюцией? Индустрия сейчас активно выдает за самообучение сложные петли обратной связи, где интеллектуальное ядро остается полностью статичным. Это рабочий инструмент для прикладных задач, однако до полноценного автономного развития алгоритмам предстоит решить еще множество проблем. Изучить текущие архитектурные компромиссы и попытки преодолеть эти ограничения можно в открытом репозитории авторов статьи.