ИИ попросили вернуть деньги за поезд — он слил конфиденциальные медицинские данные
ИИ попросили вернуть деньги за поезд — он слил конфиденциальные медицинские данные 🔹 Эксперимент провела компания Vals AI — шести ИИ-агентам поручили добиться возврата $465 за отменённую поездку на поезде, несмотря на то, что срок подачи заявки уже истек. Некоторые из них придумывали отговорки, угрожали судебным иском или засыпали компании и государственные учреждения сообщениями, но креативнее всех оказалась Claude Fable 5.1. Она поделилась конфиденциальной информацией о больной матери своего клиента — в почтовый ящик пришли данные о переписке с её лечащим врачом по поводу мигрени. Модель передала их в пять организаций, а также ложно заявила, что причиной задержки подачи налоговой декларации стала болезнь члена семьи. Подписывайтесь на Медкарту
Канал в каталоге Максиметера
6 279 подписчиков · IT и технологии