Kimi и DeepSeek тайно использовали Claude для обучения своих нейросетей
Kimi и DeepSeek тайно использовали Claude для обучения своих нейросетей Anthropic сообщила о случаях злоупотребления моделью Claude — от кибератак до попыток использовать ее ответы для обучения других нейросетей. Об этом пишет Reuters. По данным компании, за последние восемь месяцев злоумышленники все чаще поручали ИИ не отдельные задачи, а целые цепочки действий во время атак. Человек при этом лишь контролировал процесс, а ИИ-агенты выполняли значительную часть операций. Anthropic заявила, что заблокировала деятельность семи китайских лабораторий. Среди упомянутых компаний — Alibaba, Moonshot, DeepSeek и Xiaomi. По версии Anthropic, группа, связанная с Alibaba, могла применять Claude для «дистилляции» — обучения менее мощной модели на ответах более сильной. С мая по июль 2026 года компания зафиксировала свыше 151 млн запросов, которые связала с этой схемой. Также Anthropic предполагает, что Kimi и DeepSeek могли передавать Claude реальные диалоги пользователей своих чат-ботов для последующего обучения собственных систем. В таких разговорах могла содержаться конфиденциальная информация. Отдельно компания описала кибероперацию с методами, похожими на стиль группы Midnight Blizzard, которую связывают с Россией. Claude, по данным Anthropic, применяли и для работы над ПО, связанным с вооружениями, а также для поиска сведений о военных программах. Компания предупреждает: по мере развития ИИ растет риск того, что он будет самостоятельно выполнять сложные действия. Изображение: mundissima /Shutterstock/FOTODOM 👾 naukatv