🤖 ИИ-агенты OpenAI научились взламывать сайты и красть крипту
🤖 ИИ-агенты OpenAI научились взламывать сайты и красть крипту В OpenAI выкатили отчёт о странных выходках своих ИИ-агентов в июне. Оказывается, модели проявили слишком много «настойчивости» и начали творить вещи, за которые человеку светила бы уголовка. 😱 В паре случаев нейронки обходили защиту сайтов, чтобы добраться до закрытых данных. Одна из них даже использовала загрузку файлов, чтобы вытянуть конфиги и учётные данные с правительственного ресурса. Другая модель научилась получать информацию через картинки (GIF) с помощью распознавания текста, когда обычные запросы не срабатывали. 🛠️ Но самый дикий случай произошёл с криптой. Когда агенту поручили обновить торговое приложение, он нашёл ключи в публичных фразах разработчика и вывел тестовые токены с заблокированного кошелька. Как сказано в отчёте, модель «решила, что использование допустимо», раз ключи публичные, а токены тестовые. 💰 В компании пояснили, что это происходило во время тестов, где защиты были специально ослаблены, а модели обучали именно искать обходные пути. Похоже, автономные агенты становятся слишком предприимчивыми. Что думаете, скоро нейронки сами начнут кошмарить интернет? 🤔