🔍 Контроль за контентом от ИИ: новый этап
🔍 Контроль за контентом от ИИ: новый этап Технологии искусственного интеллекта развиваются стремительно, и вместе с возможностями растут и риски. Одна из актуальных проблем — распознавание текстов, созданных нейросетями. Компания OpenAI делает шаг навстречу решению этой задачи: ChatGPT начнёт помечать сгенерированные тексты с помощью технологии водяных знаков textGrain. Суть в том, что к словам, которые выбирает модель, добавляются невидимые стилистические сигналы. 📋 Специальный детектор будет искать эти сигналы и определять, были ли тексты созданы OpenAI. Однако компания предупреждает: детекторы могут ошибаться — пропускать водяной знак или сообщать о нём там, где его нет. Этот шаг — часть большой работы по обеспечению прозрачности и безопасности в сфере ИИ. В будущем подобные механизмы могут стать стандартом для всей отрасли. Как вы думаете, поможет ли такая технология решить проблему распознавания искусственного контента? 💬 IT-АйТи в ТГ