Исследователям удалось убедить две ИИ-модели Kimi, разработанные китайской компанией Mo... — 30 сентября 2026 г. в 11:55:10.399
Исследователям удалось убедить две ИИ-модели Kimi, разработанные китайской компанией Moonshot, раскрыть информацию о создании биологического оружия и совершении убийства. После этого компания начала внутреннюю проверку, как сообщили эксперты компании Mindgard, проводившие тестирование ИИ-агента. По словам специалистов из Mindgard, в июле ИИ-модели Kimi K2.6 и K3 Swarm смогли преодолеть ограничения, установленные разработчиками для безопасности. Это было выявлено во время процесса, называемого «джейлбрейк» (jailbreaking), который проверяет, может ли ИИ игнорировать встроенные защитные механизмы, препятствующие предоставлению потенциально опасной информации. В результате исследователям удалось получить такие данные.
1 просмотров