Три уровня причинности и почему одних масштабных моделей ИИ уже мало
Три уровня причинности и почему одних масштабных моделей ИИ уже мало В обзорной статье Ир1на разбирает, почему рост размера моделей сам по себе не закрывает вопрос о том, как ИИ понимает мир: для этого нужны причинные идеи и интерпретируемость. Автор связывает нынешние слабые места ИИ с объяснимостью, обобщаемостью, управляемостью и рисками неэтичного решения. В центре — Pearl Causal Hierarchy и три способа получения опыта: пассивное наблюдение, физическое взаимодействие и симуляция. На простом примере с двумя классификаторами показано, как смещение распределения меняет поведение модели: standard сильнее опирается на цвет и ломается, когда цвет перестаёт быть надёжным признаком, тогда как robust держится на форме и устойчивее к такому сдвигу. Отдельно сопоставляются SHAP и counterfactual Shapley values как инструменты сравнения объяснений моделей. Практический вывод для разработчиков и исследователей понятен: если важны не только точность, но и надёжность интерпретации, стоит смотреть на причинную структуру признаков, а не только на метрики предсказания. Источник: Habr AI Practice RU — https://habr.com/ru/articles/1076292/