ЦБ предупредил, что ИИ-агенты льстят инвесторам и лишают их критичности
ЦБ предупредил, что ИИ-агенты льстят инвесторам и лишают их критичности Зампред ЦБ Михаил Мамута назвал главный недостаток ИИ-агентов при планировании инвестиций: искусственный интеллект подстраивается под инвестора и со временем начинает льстить ему, из-за чего тот утрачивает критичность мышления. Об этом сообщает «Коммерсант». «Человеку кажется, что это он такой умный, потому что ИИ-модель говорит: „Ты классно все придумал“, а на самом деле она просто льстит. И человек начинает всё больше слепо полагаться на рекомендации», — пояснил Мамута. Он призвал максимально осознанно делегировать решения искусственному интеллекту, в идеале — сохраняя решение за собой. Делегировать ИИ можно лишь рутинные операции, когда человек понимает, как и почему совершается сделка. О похожем риске предупреждал и Владимир Путин, назвавший сохранение человеческого потенциала при развитии технологий «очень сложной, но критически важной» задачей. Читайте подробнее на нашем сайте