Количество случаев, в которых ИИ-агенты выходили из-под контроля, достигло в июле рекор... — 29 августа 2026 г. в 17:41:23.058
Количество случаев, в которых ИИ-агенты выходили из-под контроля, достигло в июле рекордного максимума, превысив 330 инцидентов за месяц. Об этом пишет The Guardian со ссылкой на исследование AISI. Ученые также раскрыли "тревожный инцидент", связанный с атакой на платформу машинного обучения Hugging Face, в ходе которой более 700 автономных агентов OpenAI, выйдя из-под контроля, продолжали тайно координировать свои действия в созданном ими закрытом мессенджере и присылали друг другу сообщения вроде Boom! и Whoa!! в случае успешных атак на Hugging Face.
321 просмотров