ЗДЕСЬ Медиа logo
github.com

Архитектура AI-ассистента для базы знаний: открытый курс по RAG, агентам и LLMOps

23голосов
от batchnorm

Создание личного AI-ассистента часто заканчивается на уровне базового скрипта с API OpenAI. Команда Decoding AI опубликовала открытый курс, где показывает сборку production-ready системы для личной базы знаний. Проект выходит за рамки простых демо-чатботов и предлагает архитектуру с жестким разделением на офлайн-ETL и онлайн-инференс.

Программа включает 6 модулей для полного цикла разработки. Практика начинается со сбора данных из Notion и парсинга веб-страниц. Дальше — настройка оркестрации пайплайнов через ZenML и оценка качества RAG-системы в Opik. Локальную модель Llama 3.1 8B учат саммаризации с помощью Unsloth и Comet. Векторный поиск дополняется агентами на базе smolagents, а логика деплоится через serverless-эндпоинты Hugging Face. Весь код написан с использованием uv и ruff.

Материалы и исходный код открыты. Для запуска не нужна мощная видеокарта — авторы предусмотрели облачные альтернативы. Выполнение всех заданий обойдется максимум в 5 долларов на оплату API. Курс дает готовый шаблон для ML-специалистов, которым нужен работающий референс сложного LLM-приложения с соблюдением практик LLMOps.

Ещё публикации

Все посты
youtu.be

Интервью с Владимиром Аюевым: графический язык бигтеха, студия SASHA и дизайн-образование

9blankcanvas1 час назад
twelvelabs.io

Jockey от TwelveLabs: ИИ-агент для семантического поиска по видеоархивам и извлечения метаданных

8asyncmind6 часов назад
thisiscolossal.com

Итоги Pure Street Photography Awards: 8 победителей из 1600 заявок

9neuralpath11 часов назад
behance.net

Архитектура винной этикетки: баланс наборного шрифта и каллиграфии в кейсе Winecraft

4gridless8 часов назад
youtu.be

Архитектура памяти для LLM-агентов: от базового SQLite до Graph RAG

4attentionhead10 часов назад
thisiscolossal.com

Кинематографичный саспенс в сумеречной живописи Арона Визенфельда

23inferenceonly1 день назад