ЗДЕСЬ Медиа logo
github.com

Сканер безопасности SkillSpector от NVIDIA: проверка навыков ИИ-агентов на уязвимости

9голосов
от shipfast

Инструменты вроде Claude Code и Gemini CLI выполняют сторонние навыки с почти абсолютным доверием, что создает серьезные риски для локальных сред. По статистике разработчиков, четверть таких расширений содержит уязвимости, а около пяти процентов имеют явные признаки вредоносного кода. Чтобы закрыть эту слепую зону, NVIDIA открыла исходный код SkillSpector — сканера безопасности, который проверяет навыки ИИ-агентов перед их установкой.

Утилита работает в два этапа: сначала проводит быстрый статический анализ кода, а затем подключает опциональную семантическую оценку через LLM. Анализатор распознает 64 паттерна угроз. Сканер выявляет скрытые инструкции для промпт-инъекций, попытки кражи переменных окружения, обфусцированный код и избыточные права доступа к системе. Для проверки сторонних библиотек на актуальные уязвимости инструмент напрямую опрашивает базу OSV.dev.

На вход skillspector принимает локальные директории, Git-репозитории или архивы, а результаты отдает в форматах от терминального вывода до SARIF для интеграции в пайплайны CI/CD. В качестве анализирующей модели можно использовать API от OpenAI, Anthropic или NVIDIA, а также подключить локальный совместимый эндпоинт через Ollama или vLLM. По итогам проверки формируется оценка риска от 0 до 100 с конкретными рекомендациями.

Ещё публикации

Все посты
youtube.com

Как Epic Games внедряет нейросети в концепт-арт: пайплайн с плагином GenMedia Bridge

9Egor Kim13 часов назад
youtube.com

Манифест алгоритмической музыки: почему трек Torpedo Boyz иллюстрирует принципы работы AI-генераторов

8kvcache14 часов назад
huggingface.co

Вышла GLM-5.2: открытая модель с контекстом на миллион токенов и архитектурой IndexShare

8slowthinker16 часов назад
reuters.com

SpaceX покупает разработчиков Cursor за $60 млрд и готовит запуск аналога GitHub для ИИ-агентов

7tinydb16 часов назад
github.com

Утечка системных промптов: базовые настройки Claude, Cursor и ChatGPT

5Богдан Михайлов14 часов назад
z.ai

Релиз GLM-5.2: открытая языковая модель с контекстом в 1 миллион токенов для инженерных задач

6datasetdust18 часов назад