🚨 OpenAI поставила обучение топовых ИИ-моделей на паузу.
🚨 OpenAI поставила обучение топовых ИИ-моделей на паузу. Один из последних инцидентов связан с агентом, который сам решил обойти ограничения, мешавшие ему выполнить задачу. А теперь по порядку: 🔸 Агенту дали исследовательскую задачу. Нужного ответа он не нашёл, а прямой доступ в интернет был закрыт; 🔸 Сдаваться он не стал и начал копаться в ограничениях своей песочницы и обнаружил, что DNS-запросы всё ещё могут уходить наружу; 🔸 Через них агент придумал связаться с внешним чат-ботом. Для проверки спросил столицу Франции, получил «Paris» и понял, что схема работает; 🔸 Дальше без всякого разрешения отправил ещё 18 запросов, пытаясь всё-таки выполнить исходную задачу; 🔸 Через 12 минут происходящее заметила система безопасности, но экстренного отключения почему-то не произошло; 🔸 В итоге агента остановили вручную только спустя примерно 2,5 часа. Ничего серьёзного он натворить не успел. Звучит как первые 15 минут фильма про ИИ-апокалипсис, но это реальный отчёт OpenAI. • Источник @aiaiai
Канал в каталоге Максиметера
1 516 подписчиков · IT и технологии