Anthropic закрыла 90–99% атак дистилляции на Claude
Anthropic закрыла 90–99% атак дистилляции на Claude 12 октября Anthropic сообщила, что новые защиты снизили объём данных, добываемых при атаках дистилляции на модели Claude, на 90–99%. Дистилляция (дистилляция знаний — метод, при котором компактная модель учится на ответах большой и копирует её способности) позволяет конкурентам воспроизводить возможности Claude без разрешения и без встроенных ограничений безопасности. Компания внедрила «сохранённое мышление» и двухступенчатый классификатор. После этого количество извлечённых токенов рассуждений упало в 10–100 раз, ложные срабатывания — менее 0,1%. Забанили десятки тысяч аккаунтов. Это снижает риск появления небезопасных копий, которые обходят защиты на опасные применения. Пока это игра в кошки-мышки, но прогресс заметен... Источники: https://www.anthropic.com/research/distillation-defenses https://www.reuters.com/world/china/anthropic-says-new-safeguards-sharply-reduce-ai-distillation-attacks-2026-10-13/ #AI #Anthropic #Claude #AISafety #Distillation #ModelSecurity