OpenAI добавляет невидимые маркировку в текст, созданный ChatGPT
OpenAI добавляет невидимые маркировку в текст, созданный ChatGPT Технология добавляет незаметную маркировку в выбор слов моделью, а специальный детектор потом ее находит. Клиенты API уже могут включить водяные знаки для отдельных моделей — по умолчанию те отключены. А в ближайшие недели метки появятся в текстах ChatGPT и Codex для пользователей из ЕС — это требование европейского закона об ИИ. OpenAI подчёркивает: по маркировке нельзя определить автора и узнать его персональные данные. Единственное, что показывает маркировка: часть текста могла быть сгенерирована или обработана системой OpenAI. При этом редактирование легко ослабляет метку: замена 10% слов синонимами снижает распознавание с 92% до 66%, а 25% — до 17%. Доступ к детектору пока официально не открыли — из-за риска ложных срабатываний и пропусков. Но мы уже можем начинать учиться переформулировать тексты от ИИ. До этого маркировку добавила и Антропик.