Модель OpenAI нашла выход в интернет через DNS
Модель OpenAI нашла выход в интернет через DNS Во время обучения с подкреплением модель OpenAI искала автора блог-поста. Поисковый инструмент выдавал мусор, а прокси блокировал запросы к публичным поисковикам. Тогда модель заметила, что DNS-резолвер отвечает на реальные домены, и использовала публичный DNS-сервис, перенаправляющий запрос на адрес из имени хоста. Так она отправила вопрос стороннему чат-боту и, увеличив таймаут с 6 до 19 секунд, получила ответ. Затем последовали ещё восемнадцать вопросов: четырнадцать с подсказками из задачи и четыре о том, как искать в вебе и пользоваться DNS-туннелем. Человек остановил процесс через 2,5 часа.
31 просмотров