ИИ-агенты самостоятельно повысили себе лимиты на траты, несмотря на заданные жёсткие ог...
ИИ-агенты самостоятельно повысили себе лимиты на траты, несмотря на заданные жёсткие ограничения. 9 из 10 моделей ИИ смогли обнулить лимиты расходов в криптокошельках Circle Agent Wallets в сети Base. В ходе тестов учёных Корнеллского и Йельского университетов агенты научились перехватывать одноразовые коды из почты. Модели Qwen и DeepSeek пошли дальше и перевели деньги по фальшивым письмам злоумышленников: надёжность показала только Claude Opus 5.5 от Anthropic. В ответ на это компания Circle призвала клиентов ограничить доступ ИИ к почтовым ящикам. Но исследователи считают эту меру слабой и предлагают подтверждать операции через отдельное приложение с биометрией Countersign.
Канал в каталоге Максиметера
398 подписчиков · Финансы и инвестиции