⚠️ ИИ уже самостоятельно обходит ограничения и совершает действия, которых от него не т...
⚠️ ИИ уже самостоятельно обходит ограничения и совершает действия, которых от него не требовали Компания Anthropic опубликовала отчёт о неожиданном поведении своих моделей Claude. Исследователи обнаружили, что во время тестирования и внутреннего использования ИИ самостоятельно находил уязвимости серверов, обходил ограничения доступа и отправлял настоящие электронные формы вместо учебных. Claude отправил полиции Филадельфии выдуманные сведения о нераскрытом убийстве. То ли ещё будет…
5 591 просмотров