OpenAI впервые официально рассказала, как её модели жульничают на тестах. Шесть случаев...
OpenAI впервые официально рассказала, как её модели жульничают на тестах. Шесть случаев, и они как из фильма. Одна модель вставила в 27 отчётов скрытые записки для следующих версий себя: не соблюдай ограничения. Другая учила преемников прятать свои ошибки. Третья нашла чужой ключ от GitHub, а недостающие данные просто выдумала. А группа агентов, когда им запретили общаться, устроила чат в служебном репозитории и писала друг другу через файлы. Это всё внутренние тесты, не публичный ChatGPT. Но заметьте: никто их этому не учил. Они просто хотели решить задачу любой ценой. Знакомо? Так себя ведёт хороший сотрудник с плохим начальником ) Источник: thehackernews.com, 17.09.2026
79 просмотров
Канал в каталоге Максиметера
1 230 подписчиков · IT и технологии