➡️ От топологии данных — к надежности нейросетей
➡️ От топологии данных — к надежности нейросетей Лаборатории математических методов генеративного искусственного интеллекта Центра ИИ Сколтеха существуют менее года. Одно из направлений — применение топологии для анализа внутреннего устройства больших языковых моделей. О математических идеях и результатах совместных исследований делится руководитель лаборатории, профессор Сергей Баранников. ✔️Статья CodeTD: Topology of Attention Detects Hallucinations in Code LLMs принята в основную программу EMNLP 2026 для устного доклада. К устному представлению отобрали около 2% от общего числа поданных работ. «Языковая модель может генерировать убедительную программу, которая не решает поставленную задачу. В CodeTD мы предложили оценивать риск такой ошибки до запуска кода, анализируя карты внимания модели. Мы преобразуем их в графы и используем Manifold для оценки связи между условием задачи и сгенерированным решением». #ИИ #нейросети #ChatGPT #ML #ИскусственныйИнтеллект