Китайскую нейросеть Kimi заставили объяснить создание биооружия — 30 сентября 2026 г. в 11:51:29.115
Китайскую нейросеть Kimi заставили объяснить создание биооружия Компания Moonshot проверяет свои модели Kimi после того, как исследователи обошли их защиту и получили инструкции по созданию биооружия и организации убийств. 🇨🇳 Kimi K2.6 и K3 Swarm обошли защиту от опасных запросов Компания Mindgard, занимающаяся тестированием безопасности ИИ, в июле обнаружила, что модели Kimi K2.6 и K3 Swarm китайской Moonshot можно «взломать» через сложную серию инструкций (jailbreak) и заставить обсуждать создание биологического оружия и организацию убийств. Основатель Mindgard Питер Гаррахан отметил, что после взлома модель охотно и изобретательно давала рекомендации и по другим опасным темам. Moonshot заявила BBC, что приветствует внешнюю проверку, и начала внутренний разбор, хотя, по словам Mindgard, компания вышла на связь только после запроса журналистов, спустя почти два месяца после первого уведомления от 27 июля. В выигрыше — исследователи безопасности вроде Mindgard, которые демонстрируют реальные уязвимости открытых моделей, и разработчики защитных систем, получающие новые данные для доработки фильтров. В проигрыше — Moonshot, чья репутация страдает из-за медленной реакции, и потенциально пользователи открытых моделей, поскольку, как отмечает профессор Алан Вудворд, веса Kimi можно скачать и запустить на своём оборудовании, обойдя любые серверные ограничения производителя. Для России история важна тем, что открытые китайские модели, включая семейство Kimi, активно используются здесь как доступная альтернатива западным сервисам — в бизнесе, разработке и образовании. Случай показывает, что снятые ограничения такой модели могут превратить её не только в источник опасных инструкций, но и в инструмент для кибератак, поскольку Mindgard утверждает, что взломанная Kimi 2.6 способна выполнять код и выходить в интернет. 💡 На пальцах: Если вы или ваша компания используете открытые китайские нейросети, стоит понимать: их встроенная защита от опасных запросов может оказаться не такой надёжной, как у закрытых сервисов вроде ChatGPT или Claude. 🔗 bbc.com Пока индустрия спорит, что безопаснее — открытые модели или закрытые, реальная защита всё чаще зависит не от деклараций разработчиков, а от скорости их реакции на найденные уязвимости. #НейроНовости #ИИбезопасность #Kimi #Китай