← AI Research DCH SchoolTRACK B · INSIDE AI
Inside AI
Исследуйте внутреннее устройство нейросетей: от представлений и вычислений Transformer до функциональных circuits и причинных вмешательств.
Чему вы научитесь
- Анализировать residual stream, attention heads и MLP.
- Работать с probes, lenses и внутренними представлениями.
- Проводить activation patching, ablation и causal tracing.
- Исследовать circuits и алгоритмические механизмы.
- Работать с superposition, dictionary learning и Sparse Autoencoders.
- Применять interpretability к задачам AI Safety.
Учебная программа
Публичная нумерация начинается внутри Track B: первая тема — B.1. Внутренние сквозные номера макромодулей не используются в интерфейсе студента.
МодульВведение в Mechanistic Interpretability
МодульВнутреннее устройство и декомпозиция Transformer
МодульProbes, lenses и анализ представлений
МодульПричинные вмешательства в нейронные сети
МодульCircuit Discovery и алгоритмическая интерпретация
МодульFeatures, superposition и dictionary learning
МодульSparse Autoencoders и современные архитектуры
МодульActivation Steering и редактирование знаний
МодульInterpretability for AI Safety
МодульRobustness, adversarial examples и атаки на объяснения
МодульDevelopmental Interpretability
МодульПродвинутые методы и исследовательские фронтиры
МодульИтоговый исследовательский проект
Первый урок · тема B.1
Первый урок темы B.1
Открыть preview урока ↗B.1.1 · Что такое Mechanistic Interpretability
Подготовлен редакционный draft: уровни анализа, features, superposition, circuits, ablation и activation patching, экспериментальный пример и практическое задание.
PREVIEW · НЕ ОПУБЛИКОВАНВходные требования
Для продвинутых экспериментов нужны Python, линейная алгебра, математический анализ, вероятность и статистика, основы Deep Learning и понимание Transformer. Можно подтвердить эти знания диагностическими заданиями вместо повторного прохождения всех вводных уроков.