Лекция №14 Explainability

Четырнадцатое занятие на курсе «Нейронные сети и их применение в научных исследованиях» для группы НС262 шестого потока обучения. Преподаватель: Сергей Колпинский Дата: 00:00 Заставка 00:49 Мотивация использования Explainability 06:42 Объяснимость моделей классического ML 07:21 Оценка важности признаков для линейных моделей 11:13 Оценка важности признаков для деревьев решений 16:30 Методы, изучающие отклик модели на изменение входных данных 17:18 ICE (Individual Conditional Expectation) 21:45 LIME (Local Interpretable Model-agnostic Explanations) 40:35 SHAP (SHapley Additive exPlanations) 01:05:02 Градиентные методы 01:05:47 Vanilla Gradient 01:14:11 SmoothGrad 01:15:46 Integrated Gradients 01:17:55 Grad-CAM 01:24:46 Критика градиентных методов 01:29:02 Методы, специфичные для трансформеров 01:34:59 Attention rollout 01:37:13 Attention Flow 01:37:43 Gradient-weighted Attention Rollout Материалы лекции: Открыть в Colab: Открыть в HTML-формате: