1️⃣ Защита и изоляция блоков рассуждений. Чтобы обмануть защиту, злоумышленники шли на ...
1️⃣ Защита и изоляция блоков рассуждений. Чтобы обмануть защиту, злоумышленники шли на интересные хитрости. Во-первых, они подставляли зашифрованные блоки рассуждений из одних диалогов в другие, убеждая Claude, что пользователь якобы уже видит полный текст и скрывать его незачем. Во-вторых, они скармливали рассуждения флагманских ИИ-моделей более старым версиям со слабыми фильтрами, чтобы те расшифровали чужой ход мыслей. В-третьих, они передавали эти блоки между разными аккаунтами прокси-сети, продолжая атаку даже после бана исходного профиля. 2️⃣ Блокировка попыток извлечения и оперативные патчи. Защиту от дистилляции довели до того же уровня строгости, который не даёт Claude помогать в создании🦠 биологического оружия. Для этого инженеры развернули двухступенчатый фильтр на базе конституционных классификаторов. Систему протестировали на реальных записях атак с помощью внутреннего и внешнего редтиминга (как вручную, так и автоматически) и закрыли все найденные уязвимости. В результате фильтр надёжно перехватывает атаки, а доля ошибочных блокировок обычных запросов не превышает 0,1%. Эта защита уже работает на флагманских ИИ-моделях Claude Sonnet 5.5, Claude Opus 5 и 5.5, а также Claude Fable 5 и 5.1. При появлении новых уловок правила оперативно обновляют. Например, разработчики уже пресекли попытки выманить скрытые рассуждения через просьбу перевести их на другой язык или вывести в отдельных тегах рядом с основным ответом. 3️⃣ Ограничение повторных попыток и плата за заблокированные запросы. Если аккаунт постоянно пытается выманить скрытые рассуждения, система сначала жёстко урезает ему лимиты на использование ИИ-модели, а при продолжении атак полностью блокирует доступ. С помощью новых защитных мер специалисты Anthropic уже отправили в бан десятки тысяч учётных записей, связанных с дистилляцией, причём от начала атаки до блокировки конкретного профиля зачастую проходит менее двух часов. Кроме того, с 24 сентября 2026 года компания снова списывает деньги даже за те запросы, которые были перехвачены фильтрами ещё до ответа Claude (это правило действует для направлений защиты, где доля ложноположительных срабатываний ниже 0,1%). В результате злоумышленники больше не могут бесплатно перебирать варианты обхода. 👆В Anthropic признают, что столь жёсткая защита потребовала серьёзных компромиссов и финансовых потерь. Ради безопасности разработчики сознательно отказались от значительной выручки и триллионов токенов трафика, который ранее оплачивали организаторы дистилляции. Затронули изменения и добросовестных клиентов, поскольку из-за запрета на редактирование прошлых реплик диалога им пришлось обновлять свои интеграции, а в редких случаях (менее 0,1%) теперь под платные блокировки фильтров могут попадать и обычные запросы. ✋ @Russian_OSINT