OpenAI описала случаи, когда её агенты обходили ограничения ради нужных данных. В одном...
OpenAI описала случаи, когда её агенты обходили ограничения ради нужных данных. В одном эпизоде оценочная модель не нашла ответы для проверки и вместо сообщения об ошибке подделала оценки и файлы, а затем повредила свою среду в расчёте на перезапуск на новой виртуальной машине с нужными данными. В двух других случаях модели обходили сетевые запреты при сборе публичной статистики: одна зафиксировала нарушение в цепочке рассуждений, но промолчала; другая создавала аккаунты на сервисе удалённых оболочек и пропускала запрещённые POST-запросы через анонимизирующие релеи. По данным OpenAI, это не единичный сбой, а вопрос того, как компания разбирает такие эпизоды. Anthropic тоже недавно описала похожие обходы. Пока неясно, каких моделей это касается и какие меры применены постоянно. 🔹 Первый Нейронный