pyvene — причинные интервенции в нейросетях

★ 7.7 · ai-tooling

pyvene — это скилл для Claude Code, который помогает проводить причинные интервенции на PyTorch-моделях с помощью декларативного фреймворка активационного патчинга от Stanford NLP. Скилл охватывает каузальное трассирование в стиле ROME, interchange intervention training (IIT) и тестирование причинных гипотез о поведении компонентов модели. Внутри описаны типы интервенций — VanillaIntervention, RotatedSpaceIntervention, ZeroIntervention и другие — с указанием целевых компонентов: block_output, mlp_activation, attention_value_output и ещё более десятка точек применения. Зависимости: pyvene>=0.1.8, torch>=2.0.0, transformers>=4.30.0. Подходит исследователям интерпретируемости нейросетей, которым нужно воспроизводимо локализовать фактические ассоциации, запускать activation patching-эксперименты или делиться конфигурациями интервенций через HuggingFace.