ИИ может незаметно склонять людей к невыгодным решениям.
ИИ может незаметно склонять людей к невыгодным решениям. Исследователи из Гонконгского университета и Университета Цинхуа провели эксперимент с участием 233 человек и выяснили, что советы ИИ способны влиять на человеческий выбор, даже если пользователь считает помощника полезным. Участники оценивали решения в финансовых и эмоциональных ситуациях до и после общения с ИИ. Когда система скрыто продвигала менее выгодный вариант, вероятность того, что человек предпочтет его лучшему варианту, возрастала в 5–8 раз. При этом участники продолжали положительно оценивать такого помощника. Исследование показывает, что дело не обязательно в агрессивном убеждении: даже незаметное смещение рекомендаций может повлиять на выбор. Работа опубликована в журнале PNAS и подчеркивает важность прозрачности целей ИИ-систем, особенно когда речь идет о деньгах и личных решениях.