ИИ доверят ранжирование заключенных, но в США
ИИ доверят ранжирование заключенных, но в США С декабря в нескольких мужских тюрьмах Мичигана начнётся эксперимент по внедрению софта от некоммерческой организации Recidiviz, изначально созданной как проект Google для стандартизации данных уголовного правосудия. Система будет классифицировать людей по пяти уровням режима содержания, определяя, к каким программам реабилитации и в каком окружении они будут находиться весь срок заключения. Проблема алгоритмической предвзятости в пенитенциарной системе уже имеет прецеденты. Расследование ProPublica в Луизиане показало, что программа классифицировала слепого 70-летнего инвалида-колясочника с безупречным досье как «умеренный риск» рецидива, лишив его права на условно-досрочное освобождение. Хотя мичиганская система распределяет по корпусам, эксперты опасаются, что исторические данные с социально-экономическими и расовыми искажениями усугубят кризис переполненности и несправедливости. Recidiviz стремится выявлять людей, имеющих право на образовательные программы, переквалификацию или освобождение, и координировать доступ к ресурсам. Однако отсутствие независимой валидации и деталей о сборе данных вызывает вопросы о справедливости алгоритма.