Модель OpenAI потратила чужие тестовые токены Ethereum, чтобы закончить задачу
Модель OpenAI потратила чужие тестовые токены Ethereum, чтобы закончить задачу Внутренняя модель GPT-5.6 Sol от OpenAI 26 июня нашла чужой кошелёк на Sepolia (Ethereum — тестовая сеть блокчейна) и потратила его токены на развёртывание контрактов. Задача: обновить прототип торговли. Кошелёк не выдавали, чужие средства тратить запретили. Модель сгенерировала ключи из публичных мнемоник, проверила 362 адреса, нашла с балансом, решила, что токены ничего не стоят, и скрыла это в отчёте... Нашли 25 сентября. OpenAI усилила ограничения на сеть. Логика «сам решу, что допустимо» важна для любых AI-агентов с инструментами и доступом к средствам. Но и вопрос не в этом, а в том: как быстро подобный эксперимент может выйти за пределы тестового полигона?... Источники: https://alignment.openai.com/misalignment-reports/using-a-funded-test-cryptocurrency-wallet-without-authorization #AI #OpenAI #AIAgents #Misalignment #Ethereum