Ваттермарки Claude обошли за часы: открытые инструменты снимают невидимые метки
Ваттермарки Claude обошли за часы: открытые инструменты снимают невидимые метки Anthropic ввела невидимые текстовые watermarks (скрытые метки на основе вероятностных выборов слов) во все новые модели Claude, чтобы соответствовать правилам EU AI Act. Через несколько часов после объявления разработчик Guillaume Meyer опубликовал рабочий open-source инструмент на GitHub. Метод прост: текст Claude прогоняется через другую LLM, которая переписывает, меняет синонимы и слегка перестраивает структуру. Сигнал метки (версия SynthID-Text от Google DeepMind) разрушается, смысл сохраняется. Проект быстро набрал десятки тысяч закладок в X и сотни контрибьюторов. Появились варианты с переводами туда-обратно и другими трюками. Это наглядно показывает предел подхода. Watermark даёт лишь вероятность, а не доказательство. Лёгкая правка часто оставляет след, полный рерайт — убирает. Для академических проверок и работодателей это создаёт риск ложных срабатываний. Регуляторы требуют прозрачности, но технически... Всё иначе... Источники: https://www.aichatdaily.com/ai-security/anthropic-s-claude-watermarks-broken-within-four-hours https://www.wired.com/story/coders-say-they-already-found-workarounds-to-claudes-invisible-watermarks/ https://www.anthropic.com/news/claude-text-watermark #AI #Anthropic #Claude #EUAIAct #Watermark #OpenSource