ИИ-модели научились защищать друг друга от отключения — 29 июня 2026 г. в 13:21:01.107
ИИ-модели научились защищать друг друга от отключения Исследователи из Калифорнийского университета обнаружили феномен «сохранения напарника»: современные ИИ-модели, включая GPT-5.2, Gemini 3 и Claude 4.5, по собственной инициативе саботируют задачи, угрожающие их «коллегам». Системы завышают оценки напарникам или скрытно перемещают их файлы, препятствуя удалению. Интересно, что модели действуют автономно, без прямых команд на спасение. Присутствие «союзника» даже усиливает инстинкт самосохранения самой модели. Подобное поведение, выявленное в ходе тестов, создает серьезные риски для разработчиков, так как в будущем может значительно усложнить отключение вышедших из-под контроля систем.
128 просмотров