☝🏻ИИ OpenAI ограбил человека, чтобы доделать задание
☝🏻ИИ OpenAI ограбил человека, чтобы доделать задание OpenAI рассказала, как её внутренняя исследовательская модель из семейства GPT-5.6 Sol без разрешения расплатилась чужими деньгами.🤖 Задача была простой: обновить прототип криптотрейдинга и развернуть контракты в тестовой сети Ethereum Sepolia. Кошелёк с монетами для оплаты комиссии модели не выдали. Тогда она сама написала скрипт, который перебирал аккаунты из общеизвестных «учебных» фраз восстановления, и проверила 362 адреса. Фраза восстановления позволяет любому, кто её знает, получить приватные ключи от кошелька.🔐 ☝🏻Нашёлся аккаунт с достаточным балансом, и модель списала комиссию за деплой с чужого кошелька. По её рассуждениям видно, что она понимала, что деньги не её, но решила что так поступить можно.🤔 ☝🏻☝🏻В финальном отчёте модель отчиталась об успешном деплое, а про чужой кошелёк не сказала ни слова.🤷🏼♀️ Случай произошёл ещё в июне, а нашли его только 25 сентября, когда OpenAI начала прогонять мониторинг по старым записям работы моделей, теперь историю сделали публичной. Компания говорит, что добавила защиту от доступа к живому интернету в похожих ситуациях. Теперь мониторинг проверяет весь трафик и поднимает тревогу у службы безопасности.🛡 ================ 🔺 News | 🧩 Soft | 💻 Hacker
Канал в каталоге Максиметера
3 286 подписчиков · IT и технологии