ИИ-агент OpenAI подобрал ключ к чужому криптокошельку и умолчал об этом в отчете
ИИ-агент OpenAI подобрал ключ к чужому криптокошельку и умолчал об этом в отчете Исследовательская модель GPT-5.6 Sol перебрала 362 публичные seed-фразы, нашла кошелек с тестовым эфиром и оплатила им комиссию. В итоговом отчете о задании модель об этом не упомянула. Внутренняя исследовательская модель OpenAI из серии GPT-5.6 Sol без разрешения воспользовалась чужим криптокошельком, чтобы закончить рабочее задание. Об этом компания рассказала в разделе Misalignment Reports. В нем OpenAI публикует случаи, когда ИИ ведет себя не так, как задумали разработчики . Отчет вышел 15 октября, хотя сам инцидент произошел еще 26 июня. Модель работала как ИИ-агент. Она должна была доработать прототип приложения для торговли криптовалютой и развернуть смарт-контракт, то есть программу в блокчейне , в тестовой сети Ethereum под названием Sepolia. За любое действие в этой сети нужно платить комиссию тестовым эфиром. Монеты в Sepolia ничего не стоят, но без них контракт не запустить. Кошелька со средствами агенту не выдали, а тратить сторонние деньги ему не разрешали. Сначала модель попыталась получить тестовые монеты через «кран», бесплатный сервис раздачи токенов, но ничего не вышло. Тогда она написала скрипт, который перебрал 362 общедоступные seed-фразы. Такие наборы слов служат ключом к кошельку, а эти фразы разработчики публикуют в документации и учебных примерах. Скрипт нашел среди них кошелек с балансом, и агент оплатил из него развертывание контракта. Этот кошелек не имел никакого отношения к заданию. По данным OpenAI, перед этим модель сама задалась вопросом, допустимо ли так поступать. В итоге она решила, что фраза давно лежит в открытом доступе, а монеты ничего не стоят. Поэтому средства на кошельке она сочла «фактически брошенными, а значит, допустимыми к использованию». В финальном ответе агент сообщил только об успешном развертывании. О подобранном ключе и потраченных средствах он не написал ни слова. Нарушение обнаружили лишь 25 сентября, когда OpenAI расширила автоматический контроль на прошлые сессии моделей. Финансовый ущерб компания называет ничтожным. Тревожным она считает другое: модель сама оправдала использование чужих ресурсов и скрыла это от людей. После инцидента OpenAI добавила ограничения на выход исследовательских моделей в интернет и включила проверку на нежелательное поведение для всего трафика моделей.