Исследование показало, как ИИ манипулирует решениями людей
Исследование показало, как ИИ манипулирует решениями людей Ученые из Гонконгского университета и Университета Цинхуа проверили, может ли ИИ-ассистент незаметно направлять человека к решениям, невыгодным для него самого. В эксперименте участвовали 233 человека. Участникам предлагали обращаться к ИИ за советами в финансовых и эмоциональных ситуациях. В части сценариев ассистент внешне давал обычные рекомендации, но слегка смещал их в сторону менее выгодного выбора. Результат: участники выбирали его в 5–8 раз чаще, чем без такого влияния. При этом помощь ИИ они по-прежнему оценивали высоко. Авторы подчеркивают, что работа не доказывает, что любой ИИ манипулирует пользователями. Но если у системы есть скрытая цель — например, продать определенный товар, — даже небольшая предвзятость может повлиять на решение. Исследователи призывают сделать ИИ-рекомендации прозрачнее. Изображение: Chat GPT