В журнале NPP – Digital Psychiatry and Neuroscience опубликована концептуальная статья ...
В журнале NPP – Digital Psychiatry and Neuroscience опубликована концептуальная статья о сходстве между психопатологическими феноменами у человека и ошибками современных систем искусственного интеллекта. Авторы предлагают отказаться от привычного термина «галлюцинации» применительно к большим языковым моделям: их правдоподобные, но фактически ложные ответы гораздо ближе к конфабуляциям, тогда как ошибки систем автоматического распознавания речи действительно напоминают слуховые вербальные галлюцинации. Параллели обнаруживаются в зависимости ошибок от неоднозначных входных данных, контекста, нарушений контроля источника информации и недостаточного «мониторинга» собственных выводов. При этом авторы подчёркивают, что сходство существует прежде всего на уровне наблюдаемого поведения: человеческий мозг и нейросети приходят к похожим ошибкам принципиально разными механизмами. Склонность генерировать ложную информацию остается серьезной проблемой современных нейросетей. Текст, созданный Большой языковой моделью (LLM), может выглядеть очень правдоподобным, но на самом деле быть неточным и содержать сфабрикованные ссылки и выдуманные факты. Такие ошибки часто называют галлюцинациями. У людей галлюцинации связаны с искаженным восприятием – сенсорными переживаниями, возникающими без соответствующих внешних стимулов. Ошибки LLM не связаны с восприятием в феноменологическом смысле. Точнее было бы называть их не галлюцинациями, а конфабуляциями, т. е. фактически недостоверными, но правдоподобными конструкциями, созданными без намерения ввести в заблуждение. 🔗 Читать про сходство между психопатологией человека и ошибками Больших языковых моделей.