Машины в суде: как технологии машинного обучения используются при вынесении приговоров по уголовным делам

Введение

Каждый год Соединенные Штаты тратят в среднем 300 миллиардов долларов на полицейские, исправительные и судебные функции[1]. [3]». Это побудило правительство США искать средства для более эффективного и справедливого лишения свободы, то есть заключать в тюрьму только тех, кто подвергается высокому риску рецидивизма. В прошлом учреждения полагались на интуицию судей и офицеров по условно-досрочному освобождению, чтобы определить, кто с большей вероятностью совершит повторное преступление или нет. Такие клинические оценки воспринимались как неформальные, импрессионистские и субъективные. [4] Правительство и исследовательские институты теперь полагаются на набор объективных признаков для количественного описания демографических, поведенческих и психологических характеристик преступника и прогнозирования его вероятности рецидива. [5] Это приводит к разработке и принятию актуарных оценок рисков. Один из них использует машинное обучение для объединения характеристик прошлых правонарушителей и их соответствующей истории повторных правонарушений для разработки вычислительных моделей, которые прогнозируют риск рецидивизма других правонарушителей.

Сегодня мы будем использовать профилирование преступников в исправительных учреждениях для альтернативных санкций (COMPAS), один из наиболее часто используемых инструментов оценки рисков в штатах, чтобы проиллюстрировать, как ОД используется в контексте вынесения уголовных приговоров, а также каковы ограничения и проблемы этой технологии ( Следуйте за мной, чтобы читать дальше).

Что такое машинное обучение

ML — это технология, которая обнаруживает полезные шаблоны в больших объемах данных. [6] Это относится к набору вычислительных и статистических методов, таких как глубокое обучение, логистическая регрессия и случайные леса. [7] Говорят, обучаться и реплицировать человеческий интеллект, потому что он рассуждает и приходит к тому же выводу, что и люди, на основе тех же данных. Однако алгоритмы машинного обучения отличаются от человеческого интеллекта, поскольку они выводят правила, управляющие взаимодействием между предметом (зависимая переменная) и переменными, которые должны влиять на него (независимые переменные), не понимая логики, стоящей за этим. Они не учатся, как люди, которые занимаются мозговой и когнитивной обработкой более высокого порядка.

Будучи продуктом статистики, системы машинного обучения принимают решения на основе эвристики, а точность их прогнозирования может повыситься за счет изучения большего количества данных и обнаружения большего количества закономерностей. Следовательно, они часто используются в ситуациях, которые слишком сложны для понимания людьми в рамках приемлемых временных рамок или затрат, или результаты наблюдения довольно неинтуитивны или даже противоречат человеческому пониманию логики. Его чисто управляемый данными характер также соответствует стремлению общества к более объективному и основанному на фактических данных процессу принятия решений. Это объясняет, почему технологии машинного обучения добились огромного успеха в бизнесе, академических кругах или в сфере государственного управления, где требуется высокая точность прогнозирования и аналитическая эффективность.

Машинное обучение при вынесении приговоров по уголовным делам

Политики используют прогностические алгоритмы для определения надлежащих результатов вынесения приговора путем прогнозирования поведения и рисков правонарушителя в будущем. Обоснование принятия ОД заключается в следующем: отправляя в тюрьму лиц с высоким риском рецидивизма и помещая остальных на другие исправительные меры, правительство могло бы сократить ненужное лишение свободы и лучше использовать программы реабилитации, сохраняя при этом общественную безопасность.[8] Такие оценки рисков. используются для определения условно-досрочного освобождения, условий освобождения под надзором и необходимости в услугах по возвращению в страну [10] во многих штатах, таких как Юта, Вирджиния, Висконсин и Индиана. [11] Это политическое решение становится все более спорным, поскольку люди начинают сомневаться в беспристрастность и присущая машине дискриминация, как показано в деле Лумиса в Висконсине.

Оценка актуарного риска на основе ОД работает за счет того, что тюремные власти проводят оценку актуарного риска, которая представляет собой статистические прогнозы преступности групповых признаков для определения результатов уголовного правосудия для конкретных лиц в этих группах. [9] Обычно все начинается с анкет, которые собирают информацию. о преступнике. Баллы присваиваются на основе личных качеств человека, например, предыдущих судимостей, возраста, пола, истории употребления психоактивных веществ и известных психических заболеваний. Диапазон факторов и их соответствующие веса, которые дают окончательную вероятностную оценку риска, зависят от характеристик, которые, как было установлено, связаны с рецидивизмом в большом количестве данных о предыдущих правонарушителях. Совокупный балл получается путем суммирования взвешенных факторов, отражающих общий риск рецидива правонарушителя. Вообще говоря, высокий кумулятивный балл риска означает высокий риск рецидива. Другими словами, оценки высокого риска предполагают более суровые приговоры для борьбы с рисками общественной безопасности, которые преступники могут создать для общества.

Применение: КОМПАС

Давайте рассмотрим одно реальное применение ОД в контексте вынесения уголовных приговоров.

Профилирование исправительного правонарушителя для альтернативных санкций (COMPAS) разработано частной компанией под названием Northpointe (теперь Equivant). COMPAS состоит из (1) шкал риска для прогнозирования рисков рецидивизма (2) шкал потребностей для оценки программных потребностей, таких как трудоустройство, жилье и злоупотребление психоактивными веществами. и отражает различные демографические и поведенческие особенности. По словам Нортпойнта, шкалы риска были разработаны с использованием поведенческих и психологических характеристик, которые имеют непосредственное отношение к рецидивизму и преступной карьере, например, предыдущее криминальное прошлое преступника, преступные сообщники, причастность к наркотикам и ранние признаки проблем с преступностью среди несовершеннолетних.

В COMPAS есть три шкалы риска: (1) Общий рецидив (2) Насильственный рецидив (3) Неправомерное поведение до суда. Все они использовали нормативные данные COMPAS Core, отобранные из более чем 30 000 оценок, проведенных в тюрьмах, местах условно-досрочного освобождения и пробации. [13] Каждая шкала имеет свой собственный уникальный набор факторов риска и соответствующих весовых коэффициентов, определенных в данных обучения и подтвержденных теории. Значения факторов составляются на основе опроса из 137 вопросов, используемых для оценки личности. Вопросы можно разделить на 11 жанров, включая членство в банде, деньги, криминальное мышление и жилищную стабильность.[14] На них либо отвечает преступник, либо выводится из его судимости. Они состоят из вопросов типа да/нет, таких как были ли вы когда-либо отстранены или исключены из школы; числовые вопросы, такие как сколько вы работали или учились в школе за последние 12 месяцев.

Путем сложения всех взвешенных факторов получается сводная оценка риска, которая включается в отчет о предварительном расследовании, рассматриваемый судьями для рассмотрения на слушании по делу о вынесении приговора. [15] Затем баллы преобразуются в децильные баллы. Децили получаются путем упорядочивания всех баллов по шкале в нормативной группе по возрастанию и деления баллов на десять групп одинакового размера. Ранг первого дециля представляет собой самые низкие 10% всех баллов во всей группе правонарушителей, в то время как ранг последнего дециля представляет собой 10% лучших баллов. Что касается оценок по шкале риска, то децильные ранги 1–4 (8–10) означают относительно более низкий (более высокий) риск, чем у других правонарушителей в группе.

Как интерпретировать результаты COMPAS

1. Баллы не являются абсолютными показателями риска рецидивизма преступника.

Децильные баллы следует интерпретировать в относительном смысле относительно группы нормы, из которой получена шкала. Например, если оценка риска относится к группе нормы, состоящей из лиц с высоким риском насильственного рецидива, низкие баллы по децилям могут означать высокий риск рецидива. Оценка отражает только относительное положение человека в этой группе нормы. Практикующий врач должен определить, какой децильный балл является подходящим индикатором вмешательства. Таким образом, ошибочно утверждать, что КОМПАС не смог точно предсказать, совершит ли лицо повторное преступление или нет, потому что это не было его целью»[3]». Скорее, он был разработан для информирования о вероятности повторного совершения преступления среди различных нормальных групп.

2. Баллы оценивают риск только групп людей, а не отдельного человека.

COMPAS — это модель машинного обучения с учителем, которая стремится понять взаимосвязь между зависимой переменной (DV), т. е. риском, и рядом независимых переменных (IV), т. е. образованием, пристрастием к наркотикам, предшествующей криминальной историей и т. д. Связь получается путем построения графика различные комбинации IV против их наблюдаемого DV. Специалисты по данным и статистики обычно смотрят только на ожидаемое значение DV, т. е. среднее значение DV, основанное на такой комбинации IV в долгосрочной перспективе. Модель не касается какого-либо отдельного наблюдения, потому что в одной точке данных есть случайные ошибки и отклонения, которые модель не может учесть. В противном случае могут возникнуть проблемы с переоснащением, и это саботирует способность модели давать общий интуитивный прогноз.

3. Модель ОД не учитывает какие-либо смягчающие или отягчающие обстоятельства для данного отдельного преступника.

Как уже упоминалось, модель ML не может учитывать отдельные черты, которые недостаточно заметны для включения в статистическую модель, оценка COMPAS представляет только риск группы правонарушителей с определенными характеристиками. Кроме того, то, как каждый IV влияет на DV (вес каждого IV), фиксируется данными, используемыми для разработки модели. Одна и та же модель используется в отношении всех правонарушителей, и веса каждого IV не могут и не будут корректироваться, чтобы адаптировать формулу к каждой потребности исправления. Таким образом, модель может давать результаты, которые противоречат прогнозам человека.

Например, в контексте риска насильственного рецидивизма данные отражают сильную положительную корреляцию между нынешним возрастом правонарушителя и его возрастом на момент первого ареста. Таким образом, молодой человек с ранним возрастом первого ареста может иметь более высокий балл по шкале риска, несмотря на отсутствие ареста за насильственное преступление, по сравнению со стариком с поздним возрастом первого ареста, но несколькими предыдущими правонарушениями. .[17] Поэтому судьи должны индивидуализировать приговор во время слушания и воздерживаться от ссылки исключительно на оценку COMPAS, поскольку COMPAS предоставляет только совокупные данные о риске рецидивизма для групп, сходных с правонарушителем.[18]

Заключение

Сегодня мы рассмотрим, что такое машинное обучение и как оно используется для вынесения уголовных приговоров, взглянув на COMPAS. В следующих статьях мы поговорим об ограничениях применения и о том, как оно порождает несправедливость и дискриминацию при вынесении уголовных приговоров.