➡️ От топологии данных — к надёжности нейросетей
➡️ От топологии данных — к надёжности нейросетей Лаборатории математических методов генеративного искусственного интеллекта Центра ИИ Сколтеха существует чуть более года. Одно из направлений ее исследований — применение топологических методов к анализу внутреннего устройства современных больших языковых моделей. О результатах этого направления рассказывает руководитель лаборатории, профессор Сергей Баранников. ✔️ Статья "Topology of Attention Detects Hallucinations in Code LLMs" была принята в основную программу EMNLP 2026 для устного доклада, куда отобрали около 2% от общего числа поданных работ. "Языковая модель может написать программу, которая выглядит убедительно, но не решает поставленную задачу. В CodeTD мы предложили оценивать вероятность такой ошибки ещё до выполнения кода — по внутренним сигналам самой модели. Для этого карты внимания преобразуются в графы,…" #ИИ #нейросети #ChatGPT #ML #ИскусственныйИнтеллект