В Британии полиция использовала алгоритм «предсказания преступников» — и чаще ошибалась...
В Британии полиция использовала алгоритм «предсказания преступников» — и чаще ошибалась, чем попадала в цель В полиции Эйвона и Сомерсета несколько лет работала система, которая пыталась предсказать вероятность преступлений у жителей Бристоля. Для этого в модель загружали десятки типов данных: от школьных пропусков и долгов за аренду до психиатрических записей и семейного статуса. Алгоритм присваивал людям «рейтинг риска». По сути — вероятность того, что человек может быть вовлечён в преступления в будущем. Система действовала с 2016 года, но о её существовании большинство жителей не знали. Один из участников базы, активист Джон Пеграм, узнал об этом только спустя годы — и только после обращения к юристам полиция подтвердила факт обработки его данных, не раскрыв деталей. 📉 По данным расследования Wired, одна из моделей, предсказывавшая кражи, давала корректный результат менее чем в 10% случаев. Проще говоря, в большинстве ситуаций система «подозревала» людей, которые не совершали никаких преступлений. Несколько других моделей, включая анализ угроз для детей, позже тихо отключили после внутренних проверок. Власти Великобритании тем временем продолжают инвестировать в развитие PoliceAI — проекта, который должен внедрить алгоритмы в работу всех полицейских округов страны. Можно ли доверять ИИ решения о том, кто преступник? ❤️ — нет, это должны решать только люди 🔥 — можно, если система работает точно @museuminvest