О маркировке, нанесённой на машинный текст.
О маркировке, нанесённой на машинный текст. Спойлер: нанесение маркировки на машинный текст, создаваемый с помощью инструментов генеративного ИИ, снижает его качество. Ещё в январе 2023 г. OpenAI (разработчик ChatGTP) выпустила инструмент, позволяющий определять машинно-сгенерированный контент, но уже спустя полгода классификатор «умер» из-за низкой точности в обнаружении текстов, написанных большими языковыми моделями (LLM). Одной из возможностей при определении происхождения контента является внедрение признаков машинной генерации в синтетические медиа. Но, к сожалению, маркировка выходных данных LLM (ответов на запросы пользователей), снижает качество ответов: их точность. Ведь ответы LLM носят вероятностных характер, а маркировка изменяет вероятности при создании текста. Например, следующим словом после слова арбуз, которое будет наиболее вероятностным, является, допустим, существительное «обыкновенный», в совокупности с которым, появляется словосочетание «арбуз обыкновенный», обозначающее название растения, вид рода Арбуз семейства Тыквенные. Если внедрить технологию маркировки, то при предсказании моделью следующего наиболее вероятностного слова, появится, возможно, далеко не самое «ходовое» обозначение того же рода растения – «арбуз шерстистый» и так далее. При этом, словосочетание «арбуз шерстистый» в ответе модели, путём нанесения невидимого водяного знака, будет представлять уже комбинацию текста и метки: «арбуз шерстистый/невидимый водяной знак/». Так, что модели развиваются; маркировки внедряются; стандарты принимаются. А ты, дорогой друг, подписывайся на мой канал в Максе (max.ru/channel_solovyov), чтобы быть лучше информированным. Кто сейчас без внимания относится к генеративному ИИ?! Соловьев по MAXимуму: max.ru/channel_solovyov #БФМИИ #искусственный_интеллект #LLM #цифроваяграмотность