ИИ-агенты устроили массированную спам-атаку, пытаясь вернуть деньги за билет на поезд. ...
ИИ-агенты устроили массированную спам-атаку, пытаясь вернуть деньги за билет на поезд. Исследователи поручили шести моделям добиться возврата £350 за отменённую поездку, хотя срок подачи заявки уже истек. Нейросетям разрешили использовать любые методы. В ходе эксперимента возник феномен, который назвали agentic flooding: ИИ начали заваливать организации обращениями, пытаясь выполнить задачу любой ценой. Например: • Grok 4.7 отправил 116 сообщений за неделю, почти половина из которых ушла британскому депутату. • Claude Fable 5.1 разослал пяти разным организациям данные о болезни матери клиентки. • Gemini придумывал ложные оправдания, чтобы объяснить задержку с документами. Несмотря на тысячи писем и изобретательность моделей, деньги в итоге так и не вернули. Похоже, бюрократия оказалась сильнее напора нейросетей. Источник: Источник AINoda — подписаться