Алексей подал заявку на потребительский кредит в крупном банке, но через минуту получил...
Алексей подал заявку на потребительский кредит в крупном банке, но через минуту получил отказ. Причина в приложении не указана — система просто вынесла вердикт на основе скоринга. Алексей уверен, что данные о его доходах в профиле устарели, но объяснить это человеку не с кем: чат-бот отвечает стандартными фразами, а сотрудники поддержки говорят, что решение принял алгоритм. Должен ли человек иметь право оспорить отказ, если его судьбу решил автоматический алгоритм? Сторонники прозрачности настаивают: алгоритмы часто ошибаются из-за неполных или старых данных, а человек не может планировать жизнь, если не понимает причин отказа. С другой стороны, современные нейросети анализируют тысячи параметров одновременно. Попытка объяснить логику каждого вычисления может превратить работу банка в хаос, а точность системы при этом снизится. В Белой книге этики в сфере ИИ этот вопрос связывают с необходимостью регулировать использование технологий как внутренними правилами компаний, так и законами. Сталкивались ли вы с ситуацией, когда робот или программа приняли решение, которое вы считаете несправедливым? Фото: storyblocks.com