NeMo Guardrails — защита LLM от атак и галлюцинаций

★ 7.7 · security

nemo-guardrails — это скилл для Claude Code, который добавляет программируемую runtime-безопасность к LLM-приложениям на основе фреймворка NeMo Guardrails от NVIDIA. Скилл реализует обнаружение jailbreak-атак и prompt injection, валидацию входных и выходных сообщений, fact-checking, детекцию галлюцинаций через проверку консистентности, фильтрацию PII через интеграцию с Presidio и детекцию токсичности. Правила безопасности описываются на Colang 2.0 DSL — декларативном языке, позволяющем задавать паттерны пользовательских запросов и реакции бота без изменения кода модели. Поддерживается интеграция с LlamaGuard для модерации и запуск в production-среде на GPU T4. Подходит командам, которым нужна многоуровневая защита LLM-приложения в реальном времени без перетренировки модели.