«В 2014 году тогдашний генеральный прокурор США Эрик Холдер предупредил, что оценка риска может вносить предвзятость в суды. Он призвал Комиссию по вынесению приговоров США изучить их использование. «Хотя эти меры были разработаны с наилучшими намерениями, я обеспокоен тем, что они непреднамеренно подрывают наши усилия по обеспечению индивидуального и равного правосудия, - сказал он, добавив, - что они могут усугубить неоправданные и несправедливые различия, которые уже слишком распространены в нашей стране. система уголовного правосудия и в нашем обществе ».
Однако комиссия по вынесению приговора не стала проводить исследование оценок риска. Итак, ProPublica в рамках более обширного исследования мощного, в значительной степени скрытого эффекта алгоритмов в американской жизни…
Оценка оказалась на удивление ненадежной при прогнозировании насильственных преступлений: только 20 процентов людей, которым было предсказано совершение насильственных преступлений, действительно сделали это.
Если принять во внимание весь спектр преступлений, включая такие проступки, как вождение с истекшим сроком действия прав, алгоритм оказался несколько более точным, чем подбрасывание монеты. Из тех, кто предположительно совершил повторное преступление, 61 процент были арестованы за любые последующие преступления в течение двух лет ...
Мы провели статистический тест, который изолировал влияние расы от криминального прошлого и рецидивизма, а также от возраста и пола обвиняемых. У чернокожих обвиняемых по-прежнему на 77 процентов выше вероятность того, что они будут подвергнуты более высокому риску совершения в будущем насильственного преступления, и на 45 процентов с большей вероятностью будет предсказано совершение в будущем преступления любого рода ...
КРИМИНОЛОГИ ДОЛГО ПЫТАЛИСЬ предсказать, какие преступники более опасны, прежде чем решить, следует ли их освободить. Раса, национальность и цвет кожи часто использовались для таких прогнозов примерно до 1970-х годов, когда это стало политически неприемлемым, согласно исследованию инструментов оценки риска, проведенному профессором права Колумбийского университета Бернардом Харкорт ».
