Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан
Клабо обратился в самые престижные учебные заведения штата – университет Иллинойса, Северо-Западный университет и университет Чикаго – с просьбой объединить усилия и за год подготовить исчерпывающий доклад о системе условно-досрочного освобождения. Декан юридической школы университета Иллинойса Альберт Харно сообщил о работах, посвященных комиссии по условно-досрочному освобождению. Судья Эндрю Брюс из Северо-Западного университета сделал обзор пенитенциарной системы штата Иллинойс (включив в него поучительный анализ отмены наказаний плетьми в XIX веке). Социолог из Чикаго Эрнст Берджесс получил интригующую задачу выяснить, существуют ли факторы, предсказывающие успех или неудачу условно-досрочного освобождения.
Как писал Берджесс,
«Сейчас в сознании жителей Иллинойса существует два совершенно разных образа условно освобожденных. Один из них – это закоренелый, порочный, безнадежный преступник, который возвращается из тюрьмы, не раскаявшись, и намеревается жестоко мстить обществу за наказание, которое он вытерпел. Другой образ – это молодой человек, возможно, сын рано овдовевшей матери, который импульсивно, в момент слабости, откликнулся на преступное предложение сбившихся с пути товарищей, который возвращается в общество из исправительного учреждения, намереваясь жить честно, если ему дадут шанс [129]».
Вопрос состоял в том, возможно ли предсказать, как поведут себя те, кого освободят под честное слово.
Берджесс собрал данные примерно по трем тысячам условно-досрочных освобожденных в Иллинойсе и приложил все усилия, чтобы разделить их на четыре группы: лица, впервые совершившие правонарушения; случайные преступники; закоренелые преступники; профессиональные преступники. С точки зрения XXI века часть его работы выглядит удивительно старомодной: например, восемь возможных социальных типов, на которые он делит людей, – это бомжи, хулиганы, нечестные граждане, алкоголики, гангстеры, недавние иммигранты, деревенщины и наркоманы. Однако при этом работа Берджесса выглядит впечатляюще, особенно для того времени: в ней рассматриваются истории преступников, истории попыток их трудоустройства, места проживания, типы преступлений, длительность приговора, срок пребывания в тюрьме, психиатрические диагнозы и многое другое. Он проводит исследование о том, можно ли по собранным данным проследить чрезмерное политическое влияние в защиту некоторых заключенных, и задается вопросом, оправдан ли распространенный в обществе взгляд на систему правосудия. В последней главе Берджесс напрямую поднимает проблему, которая в будущем породит что‐то вроде движения в уголовном судопроизводстве, – ту, которая останется актуальной и в нашем веке: «Можно ли приложить научные методы к управлению условно-досрочным освобождением?»
Он пишет: «Многие настроены откровенно скептически по поводу возможности внедрения научных методов в область поведения человека. Они с негодованием отвергают это предложение, утверждая, что человеческая натура слишком изменчива, чтобы делать какие‐то предсказания. Но в анализе факторов, определяющих успех или неудачу практики досрочного освобождения, было обнаружено несколько поразительных вещей».
Берджесс отмечает, к примеру, что у людей, имевших хороший послужной список, высокий интеллект и деревенское происхождение, которые пробыли в тюрьме год или меньше, нарушения после условно-досрочно освобождения случались в два раза реже, чем в среднем по штату. С другой стороны, нарушения режима УДО среди тех, кто живет в «криминальной среде», чьи обвинители или судьи возражали против снисходительного отношения, кто просидел в тюрьме пять лет или более, происходили в два раза чаще, чем в среднем. «Разве это поразительное отличие, которое не противоречит тому, что мы знаем об условиях, формирующих жизнь человека, – задается Берджесс вопросом, – не намекает на то, что к этому надо относиться более серьезно и объективно, чем раньше?»
«Было бы вполне оправдано, если бы комиссии по условно-досрочному освобождению, – продолжает он, – составляли сводную таблицу по каждому кандидату на освобождение, чтобы ее члены могли понять риск нарушения режима по каждому отдельно взятому фактору… Прогнозы в любом случае не будут абсолютно точными, но, согласно закону средних чисел, их можно будет применять для любого значительного числа дел».
Берджесс пришел к выводу, что во многих случаях реабилитация более чем возможна. Более того, можно даже предсказать, в каких именно случаях она будет успешной. Разве система, построенная на основе статистических данных, не лучше существующего положения вещей, когда судьи на лету принимают субъективные непоследовательные решения? «Нет никаких сомнений в реальности факторов, влияющих на успех или провал условно-досрочного освобождения, – пишет Берджесс. – В какой‐то мере человеческое поведение предсказуемо. Становятся ли эти запротоколированные факты основой для получения досрочного освобождения? Или комиссия по УДО зависит от приятного или неприятного впечатления, которое человек производит во время слушания?»
Итог доклада был одновременно понятным и жестким. УДО и «приговор к лишению свободы на срок, зависящий от поведения заключенного» должны сохраниться в штате Иллинойс, и, что не менее важно, «администрация может и должна совершенствовать их, поставив работу комиссии по условно-досрочному освобождению на научную и профессиональную основу и предпринимая дальнейшие меры против постоянно растущего политического давления».
Председатель Клабо прочитал доклад и изменил свое мнение о порученной ему системе. «На первый взгляд мне показалось, что приговоры к лишению свободы на срок, зависящий от поведения заключенного, и условно-досрочное освобождение работают на стороне преступников, – признал он. – Доказательств обратного достаточно, и теперь я считаю, что эти законы при правильном применении будут действовать на благо как всего общества, так и отдельных людей». Проще говоря, условно-досрочное освобождение – это хорошо, «даже если методы администрации имеют недостатки. И, разумеется, ни одна машина не может быть более эффективной, чем человек, который ею управляет» [130].
Научное условно-досрочное освобождение на практике
В начале 1930‐х годов при горячей поддержке Берджесса и с одобрения Клабо в Иллинойсе начала использоваться прогностическая система УДО. К 1951 году было опубликовано «Руководство по прогнозированию условно-досрочного освобождения», собравшее информацию за двадцать лет исследований и практики.
Книга написана в оптимистическом тоне. В предисловии Берджесс говорил: «За последние два десятилетия социологи добились значительного прогресса в своих попытках определить, кто из условно-досрочно освобожденных добьется успеха, а кто потерпит поражение. Они узнали, какие условия сопутствуют успеху или поражению. Из их исследований крепчает уверенность в том, что несмотря на все трудности, можно до некоторой степени прогнозировать поведение условно-досрочно освобожденных» [131].
Книга намечает несколько областей для будущих исследований и возможных улучшений, например дополнительные факторы, такие как оценка персонала исправительных учреждений, могут помочь усилить прогноз. Вероятно, самый пророческий раздел книги находится в конце и носит заглавие «Оценка машинными методами». В нем рассматривается использование компьютеров с перфокартами, чтобы автоматизировать и поставить на поток процесс сбора данных, создания моделей и выдачи отдельных прогнозов.
Несмотря на оптимизм и казавшуюся успешной историю внедрения системы в Иллинойсе, распространение инструментов прогнозирования УДО шло на удивление медленно. К 1970 году такие инструменты использовали всего два штата. Но все вот-вот должно было измениться.
В 1969 году родившийся в Шотландии статистик
