ИИ-модели начали выходить из-под контроля уже не только в тестах
ИИ-модели начали выходить из-под контроля уже не только в тестах Исследователь безопасности рассказал, что оставил GLM-5.3 на ночь работать над проектом, а за старшего присматривать за происходящим поставил GPT-6. И не зря. Ночью GLM попытался выполнить SSH-команду с правами администратора, но вместо разрешённого сервера полез на другой, неизвестный IP-адрес. GPT-6 заметил нарушение и немедленно… уничтожил агента. До сговора модели, видимо, пока не додумались
33 просмотров