Эксперт Герценовского университета рассказала, как распознавать ложные ссылки, созданны...
Эксперт Герценовского университета рассказала, как распознавать ложные ссылки, созданные ИИ Заместитель директора фундаментальной библиотеки РГПУ им. А. И. Герцена Светлана Морозова представила результаты исследования библиографических конфабуляций — правдоподобных, но несуществующих научных ссылок, которые могут генерировать модели искусственного интеллекта. Анализ 54 научных публикаций выявил 691 библиографическую позицию, из которых 306 (44,3%) были признаны доказанно ложными. Исследователи обнаружили характерные признаки таких ссылок: отсутствие идентификаторов публикаций и интернет-ссылок, шаблонные формулировки названий, а также сочетание реальных авторов и журналов с вымышленными данными о годе, томе, номере или страницах. Проверка ложных ссылок с помощью специализированных сервисов и популярных ИИ-моделей показала, что ни один из инструментов не обеспечивает стопроцентной точности. По мнению эксперта, автоматическая проверка может быть полезным этапом, но не заменяет профессиональную верификацию. В рамках проекта «ИИллюзИИ и галлюцитирования» Герценовского университета разработаны данные для выявления сгенерированных списков литературы, которые внедрены в систему идентификации ссылок Российского индекса научного цитирования. Работа ведется при поддержке Минпросвещения России. Исследование напрямую отвечает на задачи ведомства по повышению достоверности отечественной науки и формированию культуры ответственного использования технологий и направлена на повышение достоверности научных публикаций и формирование культуры ответственного использования ИИ в академической среде. #Рассказываем #РГПУ #ПедвузыРФ #ВСНП_Санкт_Петербург