OpenAI нанимает сотни подрядчиков, которые читают переписки пользователей с ChatGPT
OpenAI нанимает сотни подрядчиков, которые читают переписки пользователей с ChatGPT Издание 404 Media со ссылкой на внутренние документы OpenAI сообщает о «Проекте Лилия»: компания нанимает «сотни» подрядчиков, которые просматривают реальные переписки пользователей с ChatGPT, чтобы оценивать и улучшать ответы бота. Имена пользователей им не видны, но сами запросы могут содержать конфиденциальную информацию. Работа устроена в три шага. Сначала подрядчик читает реальный запрос и описывает, что, по его мнению, хотел узнать пользователь, затем оценивает несколько сгенерированных ответов по шкале от 1 («неприемлемо») до 7 («трудно существенно улучшить») и письменно обосновывает оценку. Он обязан отметить минимум три фрагмента ответа как удачные или неудачные и объяснить почему. Среди задач — учить бота «менее подобострастно» себя вести, не очеловечивать себя, избегать неуместных эмодзи, «ИИ-шаблонов» и имитации личного опыта. Фактическую точность подрядчики не проверяют, но могут отмечать ошибки или отсутствие источников в «высокорисковых» темах — медицине, праве и финансах. Один из участников проекта рассказал изданию, что получал больше $50 в час и описал работу как «однообразную»: инструкции часто меняются и противоречат друг другу. На сайте OpenAI говорится, что вручную проверяют лишь запросы, нарушающие правила сервиса или угрожающие безопасности, — но, отмечает 404 Media, это отдельная процедура, не связанная с обучением моделей. На вопрос, уведомляют ли пользователей о просмотре переписок, компания не ответила; после публикации она сослалась на раздел справки, где сказано, что сообщения могут читать люди «для улучшения ответов». В OpenAI заявили, что перед передачей подрядчикам чаты обрабатывает модель Privacy Filter, удаляющая личные данные, — но она может ошибаться и пропускать часть информации. Переписки не используются для обучения, если в настройках ChatGPT отключить параметр «Совершенствовать модель для всех»; на тарифах Free, Plus и Pro он включён по умолчанию. Anthropic сообщила, что тоже использует ручную проверку для улучшения моделей, без подробностей; о проверке «некоторых» запросов говорится и в правилах Google Gemini. Источник: https://vc.ru/ai/3139209-openai-nanimaet-podryadchikov-dlya-otsenki-otvetov-chatgpt