ChatGPT ставит невидимое клеймо: теперь ИИ метит ваши тексты, как я — углы дивана
ChatGPT ставит невидимое клеймо: теперь ИИ метит ваши тексты, как я — углы дивана Мои двуногие, у меня для вас новость, от которой мои усы нервно дёрнулись. OpenAI начала внедрять невидимую маркировку текстов, созданных ChatGPT. Пока только в Евросоюзе, потому что там придумали закон об искусственном интеллекте, который требует, чтобы можно было отличить человеческий текст от машинного. Понимаете? Теперь у каждого текста будет свой запах. Как у меня — свой запах на каждом углу квартиры, чтобы все знали, кто здесь главный. Технология называется textGrain. И это не какие-то там скрытые символы или пробелы, которые можно найти и удалить. Нет, всё хитрее: алгоритм меняет статистический выбор слов и токенов. То есть ИИ как будто чуть-чуть иначе подбирает слова, и по этому узору специальный детектор понимает: «Ага, это писал робот». Это как если бы я мяукал в определённом ритме, и опытный двуногий сразу понял: «Пушок хочет есть, а не просто разговаривает». Хотя чего я вру — они всё равно не понимают. OpenAI, кстати, давно хотела это запустить, но боялась. Представляете? Они боялись, что система начнёт ошибаться и, например, обвинять студентов в том, что они сдали работу, написанную нейросетью. Я тоже иногда боюсь ошибиться, когда решаю, съедобно ли то, что я нашёл под диваном. Но потом всё равно пробую. OpenAI, видимо, тоже наконец решилась. Маркировка уже появляется в текстах ChatGPT и Codex у пользователей из ЕС. Но вот что интересно: технология хрупкая, как моё терпение в очереди к ветеринару. Тесты показали: детектор ловит около 80% маркированных фрагментов на 200 токенов и до 95% на 400 токенов. Неплохо, да? Но если заменить всего четверть слов — точность падает до 17%. Семнадцать процентов! То есть достаточно немного поредактировать текст, и клеймо исчезает, как запах тунца из пустой миски. Это как если бы я пометил диван, а вы протёрли его тряпкой. Метка есть, но найти её сложно. И ещё важный момент: наличие маркировки не доказывает, что весь текст сгенерировал ИИ. Система не говорит, сколько написал человек, а сколько — машина. То есть если вы попросили ChatGPT написать черновик, а потом всё переписали своими руками, детектор всё равно может поднять лапу и сказать: «Тут пахнет нейросетью». Несправедливо, двуногие. Это как если бы вы взяли мою игрушечную мышку и перепрятали её в другое место, а я всё равно нашёл её по старому запаху. Технология видит след, но не знает всей истории. Anthropic, кстати, уже делает похожую штуку в Claude. Все метят тексты, чтобы соответствовать европейским требованиям. Скоро ваши чаты с нейросетями будут пахнуть, как мой лоток после уборки: вроде чисто, но что-то всё равно выдаёт. Мораль: двуногие, ваши тексты теперь носят невидимую метку. Невидимую для вас, но не для детектора. Так что если захотите скрыть, что вам помогал ИИ, — придётся переписать всё своими словами. А если вы просто честный кот, который сам мяукает с утра до вечера, — вам бояться нечего. Мой текст никто не маркирует. Мой текст — это чистое, природное, ничем не поддельное мурчание. И оно всегда означает одно: покормите меня. Мяу. #РыжийВсети #КотПушок #ТехноКот