ИИ: учёные заглядывают в «чёрный ящик»
ИИ: учёные заглядывают в «чёрный ящик» Механистическая интерпретируемость — новое поле, которое пытается понять, что реально происходит внутри больших языковых моделей. Что уже видно: — Модели формируют внутренние «признаки», соответствующие понятиям — Отслеживают связи между фактами — Находят общие правила и применяют их к новым задачам Главный феномен — «grokking» (внезапное прозрение). Сначала модель тупо запоминает примеры, а потом, будто щёлкнув, начинает обобщать: решает задачи, которых не видела. Иногда после долгого периода неудач. Это намёк на то, что нейросеть сама извлекает компактные правила из данных — без явного программирования. Важно: это не доказывает, что ИИ «понимает» мир как человек. Модель не стирает память и не строит полную картину реальности. Но учёные впервые видят, как машина формирует внутренние представления, а не просто... 🖥Мы в Телеграм Новости IT Всемм 💻Мы в Max Новости IT Всемм