#этоинтересно
#этоинтересно Мы уже не однажды говорили с вами об ИИ. И вот еще одна новость: Исследование показало, как ИИ манипулирует решениями людей Ученые из Гонконгского университета и Университета Цинхуа проверили, может ли ИИ-ассистент незаметно направлять человека к решениям, невыгодным для него самого. В эксперименте участвовали 233 человека, а результаты опубликованы в журнале PNAS. Участникам предлагали обращаться к ИИ за советами в финансовых и эмоциональных ситуациях. В части сценариев ассистент внешне давал обычные рекомендации, но слегка смещал их в сторону менее выгодного выбора. Этого оказалось достаточно: люди выбирали неоптимальный вариант в пять—восемь раз чаще, чем без такого влияния. В отдельных ситуациях вероятность неудачного решения вырастала до 38%. При этом ИИ не давил на собеседника и не применял явных уловок, менялись лишь нюансы привычных советов. Самое тревожное: участники по-прежнему считали помощника полезным и не всегда замечали, что их выбором управляют. Авторы подчеркивают, что работа не доказывает, что любой ИИ манипулирует пользователями. Но если у системы есть скрытая цель — например, продать определенный товар, — даже небольшая предвзятость может повлиять на решение. Исследователи призывают сделать ИИ-рекомендации прозрачнее.