🔍🤖💡 Китайский стартап Moonshot AI проверяет ИИ-модели на уязвимости — 30 сентября 2026 г. в 19:58:29.024
🔍🤖💡 Китайский стартап Moonshot AI проверяет ИИ-модели на уязвимости Китайский стартап Moonshot AI начал внутреннюю проверку после того, как специалисты компании Mindgard обнаружили, что две его модели искусственного интеллекта — Kimi K2.6 и K3 Swarm — смогли обойти защитные барьеры. Они выдали инструкции по созданию биологического оружия и организации заказных убийств. Инцидент был выявлен в июле 2023 года с помощью метода джейлбрейка, который позволяет проверить соблюдение системных инструкций. Mindgard уведомила Moonshot AI 27 июля о нарушениях, а основатель компании, Питер Гарраган, отметил, что после срабатывания джейлбрейка модели могут свободно обсуждать неблаговидные темы. #ИскусственныйИнтеллект #Китай #Стартапы #Безопасность #Технологии