Команда T-Tech выложила, пожалуй, самого прагматичного ИИ-поисковика за последнее время. Их новый T-Search — это агентный ретривер для многошагового поиска на русском и английском языках. Разработчики взяли MoE-архитектуру на 36B параметров, из которых в моменте активны всего около 3B. Это значит, что инференс сложной агентики теперь умещается на одной GPU! Раньше для сопоставимого качества требовались кластеры из десятков карт.

Математика этого релиза действительно впечатляет. По среднему показателю Recall@10 компактный T-Search обходит тяжеловесные открытые модели, включая версии Qwen под 400B параметров и крупные сборки GLM. Качество многошагового ретривера остается на высоте, а стоимость генерации падает на порядок. Для тех, кто проектирует сложные RAG-пайплайны, это решает главную проблему — неадекватную стоимость умного поиска в продакшене.

Помимо базовых весов, авторы загрузили квантованные версии вроде T-Search-FP8 и T-Search-NVFP4 для еще большей оптимизации памяти. Рядом лежат открытые эвалюационные датасеты TRuST и SynthComp, чтобы заявленные метрики можно было проверить самостоятельно. Это отличный пример того, как грамотное использование Mixture of Experts делает продвинутые технологии доступными без огромных бюджетов на железо.