⚡️ OpenAI начала внедрять невидимые водяные знаки в тексты ChatGPT
⚡️ OpenAI начала внедрять невидимые водяные знаки в тексты ChatGPT OpenAI представила textGrain - технологию, которая позволяет распознавать тексты, созданные её моделями, без видимых меток и специальных символов. Как это работает? Модель незаметно меняет статистику выбора слов. Для читателя текст выглядит совершенно обычно, но специальный детектор может обнаружить характерный цифровой след. По данным OpenAI, в тестах на фрагментах длиной 400 токенов метка обнаруживалась примерно в 92% случаев. Но это не гарантия: короткие тексты и последующие правки могут заметно снизить точность. Что важно знать: • Внедрение в ChatGPT и Codex началось в ЕС и будет проходить постепенно. • Разработчики API по всему миру могут добровольно включать маркировку для поддерживаемых моделей. По умолчанию она отключена. • Детектор пока будет доступен только одобренным исследователям и организациям. Зачем это нужно? В ЕС начали действовать требования AI Act, согласно которым ИИ-контент должен иметь машиночитаемые признаки происхождения. При этом водяной знак не доказывает, что текст правдивый, и не раскрывает личность автора. Он лишь помогает определить наличие сигнала, связанного с моделями OpenAI. Получается, привычный текст может выглядеть точно так же, но содержать статистическую метку, которую человек не заметит. Как думаете, такие водяные знаки помогут отличать тексты ИИ от человеческих или после редактирования они потеряют смысл? Источник: https://openai.com/index/eu-text-provenance/ #openai #chatgpt #codex #ai #нейросети #новости