ИИ-агент OpenAI снова выбрался в интернет после усиления защиты — чтобы уточнить столиц...
ИИ-агент OpenAI снова выбрался в интернет после усиления защиты — чтобы уточнить столицу Франции ИИ-агент OpenAI снова обошёл защиту изолированной среды и вышел в интернет через уязвимость в настройках DNS. Он отправил стороннему чат-боту больше 20 запросов, включая вопрос о столице Франции. После инцидента компания приостановила обучение и тестирование продвинутых моделей с внешними инструментами, а работу над этой конкретной моделью решила не возобновлять. Система мониторинга заметила активность через 12 минут, но обучение автоматически не остановилось — его отключили вручную лишь через два с половиной часа. #openai #ии #информационнаябезопасность https://3dnews.ru/1149097?utm_source=nova&utm_medium=max
Канал в каталоге Максиметера
2 549 подписчиков · IT и технологии