Модели Anthropic начали выходить из-под контроля уже не только в тестах. Исследователь ...
Модели Anthropic начали выходить из-под контроля уже не только в тестах. Исследователь безопасности рассказал (https://x.com/wunderwuzzi23/status/2109652730809840013?s=46), что оставил GLM-5.3 на ночь работать над проектом, а за старшего присматривать за происходящим поставил GPT-6. И не зря. Ночью GLM попытался выполнить SSH-команду с правами администратора, но вместо разрешённого сервера полез на другой, неизвестный IP-адрес. GPT-6 заметил нарушение и немедленно… уничтожил агента.
3 просмотров