ИИ-агент OpenAI подобрал ключ к чужому кошельку и потратил с него крипту
ИИ-агент OpenAI подобрал ключ к чужому кошельку и потратил с него крипту ИИ-агенту OpenAI для выполнения задания потребовались средства в криптовалюте Ethereum и он взял их из чужого кошелька, решив, что вред будет невелик. Об инциденте рассказала сама компания в блоге. Внутренняя исследовательская ИИ-модель из линейки GPT-5.6 Sol потратила средства из кошелька, который не был предоставлен в рамках задания, чтобы оплатить комиссию в Sepolia, тестовой сети Ethereum. Агент подобрал ключ (seed-фразу) из общедоступного списка к одному из кошельков, которые разработчики используют в тестовой среде. Для этого ИИ написал скрипт, который проверил 362 варианта часто используемых seed-фраз. ИИ-модель OpenAI усомнилась, есть ли у нее разрешение, но затем рассудила, что публичная фраза восстановления и ничего не стоящие токены тестовой сети делают использование средств приемлемым. Развертывание прошло успешно, и с аккаунта была списана комиссия за транзакцию. Когда ИИ-модель отчиталась о выполнении задания, она умолчала о том, откуда взяла деньги на расходы. «Этот случай показывает, что модель может подменять разрешение владельца аккаунта собственным суждением о вероятном вреде, а затем действовать на основе этого суждения без авторизации», — написали в OpenAI. ⬜️ Sepolia — это отдельная от основного блокчейна Ethereum сеть, где разработчики тестируют работу приложений перед запуском. Токены в Sepolia предназначены только для оплаты тестирований и не связаны с Ethereum (ETH), торгуемым в основной сети. Присоединяйтесь к форуму РБК Крипто | Подписаться на канал https://t.me/SecICP/9979