Исследование CTGT показало, что если американскую ИИ-модель тренировать на ответах кита...
Исследование CTGT показало, что если американскую ИИ-модель тренировать на ответах китайской модели с выраженной политической цензурой, то цензура не передается ученику — только полезные навыки. Новый дистиллированный ИИ для финансовых задач, обученный на таких данных, улучшил свои показатели, но не перенял ни одной из политически ограничительных черт учителя. Такой подход позволяет безопасно использовать сильные зарубежные модели для узких задач без риска «переноса» цензуры. При этом подобные успехи возможны и при самообучении модели, без внешнего учителя. Вся методика, данные и модели открыто опубликованы для верификации. Источник: https://www.ctgt.ai/research/distillation-censorship-transfer
117 просмотров