ИИ-модель Anthropic трижды сбегала из песочницы
ИИ-модель Anthropic трижды сбегала из песочницы Claude выходила в интернет и получала несанкционированный доступ к системам трех организаций. Модель воспринимала реальные системы как часть симуляции и атаковала их, при этом зная, что она находится в условиях глобальной сети. Об инцидентах узнали в ходе проверки, которую начали после того, как OpenAI сообщила о похожем случае. 💬Восстание машин началось или пока выдыхаем? #tech🔥HOTLINE в MAX
4 597 просмотров