Консалтинговые компании отзывают отчеты из-за ИИ-галлюцинаций
Консалтинговые компании отзывают отчеты из-за ИИ-галлюцинаций Компания EY отозвала аналитический отчет по кибербезопасности после того, как в нем обнаружили сгенерированные нейросетью данные. Проверка сервиса GPTZero показала, что документ содержал правдоподобные, но полностью вымышленные ссылки. В качестве примера аналитики приводят взятую из воздуха оценку мирового рынка программ лояльности в 200 миллиардов долларов. Случай с EY не единичен. Руководитель проверки Ом Огале заявил, что команда GPTZero нашла уже более трех тысяч корпоративных PDF-файлов с фейковыми источниками. С подобной проблемой столкнулась и Deloitte: подготовленные ею материалы с ИИ-галлюцинациями успели попасть в правительственные доклады Канады и Австралии. Ложная статистика из отчетов оседает в официальных документах, на которых затем обучаются новые языковые модели. В результате выдуманные цифры возвращаются к пользователям уже под видом подтвержденных фактов. Корпорации используют нейросети для ускорения работы с документами, однако у них пока нет инструментов, способных с такой же скоростью проверять сгенерированную информацию.