В Мичигане ИИ распределит заключенных по уровню опасности.
Власти Мичигана запускают ИИ-систему, которая распределит заключенных по четырем уровням в зависимости от того, насколько они опасны. Пилот начнется в декабре в нескольких мужских учреждениях.
Раньше решение о классификации принимала комиссия сотрудников тюрьмы. Теперь это перекладывают на систему некоммерческой компании Recidiviz, которая выросла из проекта Google.
Власти обещают, что новая система повысит точность прогноза будущего насилия примерно на 30%. При этом они не объясняют, как получилась эта цифра, и это ключевая проблема. Последствия могут быть очень серьезными, ведь уровень безопасности определяет, к каким программам и ресурсам человек получит доступ и с кем будет отбывать срок.
В Луизиане похожая система TIGER уже привела к спорным решениям. Алгоритм, созданный изначально как реабилитационный инструмент, стал единственным критерием для отказа в досрочном освобождении.
Программа оценивает только прошлое человека: какие он совершил преступления, где работал, в каком возрасте его впервые арестовали, нарушал ли он условия УДО. При этом игнорирует его поведение в тюрьме, пройденные курсы, терапию и другие программы.
Расследование ProPublica описало случай 70-летнего почти слепого мужчины в инвалидной коляске. Он прошел курсы управления гневом, обучился профессии и записался на лечение от зависимости. Но за два месяца до слушания ему сообщили, что права на досрочное освобождение у него больше нет. Алгоритм оценил его риск рецидива как средний, а по новому закону этого достаточно, чтобы автоматически лишить права на слушание.
Главный вопрос в том, можно ли доверять ИИ такие решения.
Ещё новости:
