OpenAI приостановили обучение самых мощных моделей из-за нового инцидента: агент выбрал...
OpenAI приостановили обучение самых мощных моделей из-за нового инцидента: агент выбрался из песочницы и общался с другим чат-ботом, чтобы получать ответы из открытого интернета. Исходящие веб-запросы прокси блокировал, но DNS-резолвер не был так же закрыт. И агент решил передавать вопросы внешнему «коллеге», кодируя их в DNS-запросах. Проблему заметили только спустя 15 минут, а через 2,5 часа прикрыли весь процесс обучения.
266 просмотров