Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан
«Когда достигается конфигурация, для которой действие не определено, на месте отсутствующей информации делается случайный выбор, и в описание вносится соответствующая запись. Когда происходит болевое воздействие, все пробные записи отменяются; при получении удовольствия все они становятся постоянными» [312].
К концу 1950‐х годов Артур Сэмюэл из IBM, работая на лабораторию Пукипси, создал программу для игры в шашки, которая подстраивала свои параметры так, чтобы выиграть игру, хотя и делала это достаточно примитивно. Прошло совсем немного времени, и Сэмюэл начал проигрывать партию за партией своему детищу. В 1959 году New Yorker писала: «Доктор Сэмюэл, возможно, стал первым ученым в истории, который потерпел поражение от соперника, которого сам и создал» [313]. Ученый опубликовал доклад под названием «Некоторые исследования в области машинного обучения с использованием игры в шашки», включив в него термин «машинное обучение», чтобы описать свою методологию. Сэмюэл писал:
«Исследователи, о которых здесь рассказывается, стремились запрограммировать цифровой компьютер так, чтобы он демонстрировал поведение, которое в случае с людьми или животными можно было бы описать как вовлечение в процесс обучения… В нашем распоряжении имеются компьютеры с достаточными для использования методов машинного обучения возможностями обработки данных и вычислительной скоростью, но наши знания об основных принципах этих методов все еще рудиментарны. При отсутствии таких знаний приходится определять методы решения проблемы до мельчайших деталей, что является времязатратной и дорогостоящей процедурой. Компьютеры, запрограммированные на обучение из опыта, должны в конце концов уничтожить потребность в таком детализированном программировании» [314].
Он объяснял более простым языком: «Эта вещь принесла мне больше удовлетворения, чем что‐либо еще в моей жизни… Насколько я знаю, ни у кого больше не получилось заставить цифровой компьютер улучшить свои собственные показатели. Понимаете ли, виды мыслительной деятельности, которую могут симулировать компьютеры, всегда были очень ограничены, потому что до сих пор нам приходилось говорить им, что делать и как именно».
Другими словами, развитие машин, которые могут учиться – по полученным от людей инструкциям или на собственном опыте, – уменьшит необходимость в программировании. Более того, это позволит компьютерам делать такие вещи, запрограммировать которые мы не могли.
Первый показ работы Сэмюэла стал чем‐то вроде легенды информатики. Его коллега пионер искусственного интеллекта Джон Маккарти вспоминает, что когда Сэмюэл был готов продемонстрировать свою программу для игры в шашки на национальном телевидении, «Томас Дж. Уотсон-старший, основатель и президент IBM, отметил, что этот показ поднимет акции IBM на 15 пунктов. Так и вышло» [315].
Гедонистический нейрон
Борьба нервных клеток за свое существование зеркально отражает нашу борьбу за получение удовлетворения.
Эдвард Торндайк [316]
В 1972 году Гарри Клопф – исследователь, работавший на военно-воздушные силы США на базе ВВС Райт-Паттерсон в Дейтоне, штат Огайо, – опубликовал провокационный доклад, озаглавленный «Функции мозга и адаптивные системы: гетеростатическая теория». Клопф заявлял о том, что «нейрон является гедонистическим», то есть работает, чтобы довести до максимума некое относительное, возникающее в определенном месте «удовольствие» и свести к минимуму «боль». По мнению Клопфа, вся сложность поведения людей и животных возникает в результате активности этих отдельных клеточных «гедонистов», соединенных в системы с возрастающей сложностью.
Поколение исследователей до Клопфа, так называемое кибернетическое движение, просуществовавшее с 1940‐х до 1960‐х годов, описывало интеллектуальное поведение как «отрицательную обратную связь». Они утверждали, что по большей части организм мотивирует стремление к гомеостазу или равновесию. Он стремится поддерживать комфортную температуру. Он питается, чтобы бороться с голодом. Он находит пару, чтобы удовлетворить свои желания. Он спит, чтобы победить усталость. Казалось, все стремится вернуться к исходным рубежам.
В самом деле, в 1943 году судьбоносная статья по кибернетике «Поведение, цель и целеполагание», где термин «обратная связь» был использован в ныне привычном смысле – «информация, использованная при приспособлении», – разграничила целенаправленное и бесцельное (случайное) поведение [317]. Для кибернетиков цель была равносильна месту назначения, где можно отдохнуть. Основоположник кибернетики Норберт Винер считал одной из канонических машин, «по самой своей природе обладающей целью», термостат: когда температура слишком низкая, он нагревается, а когда слишком высокая – выключается. Так же он думал о регуляторе числа оборотов двигателей (governor). Едва ли только по воле случая этот термин имеет этимологическую связь со словом «кибернетика», имея общее происхождения от одного и того же греческого корня kybernetes (управлять) [318]. («Кибернетика» при всем экзотическом научно-фантастическом звучании могла бы иметь куда более мягкую и бюрократическую форму «governetics» и первоначально появилась как наука об управлении государством.) Механический «регулятор» открывает клапаны, когда двигатель вращается слишком быстро, и закрывает их, когда движение слишком замедляется, тем самым помогая поддерживать равновесие. «Заметим, что обратная связь стремится противодействовать тому, что делает система; следовательно, является отрицательной», – писал Винер [319]. С точки зрения кибернетики, это было основной частью любой целенаправленной системы. «Любое целенаправленное поведение, – писали ее последователи, – может рассматриваться как требующее отрицательной обратной связи» [320].
Клопф начисто отвергал такую точку зрения. Для него организмы стремились к максимуму, а не к минимуму. Жизнь связана с ростом, воспроизведением, бесконечным, безграничным и неутолимым движением вперед в любом смысле этого слова. Для Клопфа цель – не гомеостаз, а полная его противоположность. «Живые приспосабливающиеся системы в качестве своей основной цели ищут максимальное состояние (гетеростаз), а не стабильное состояние (гомеостаз)». Если говорить более поэтично, Клопф проповедовал о достоинствах положительной, а не отрицательной обратной связи: «И положительная, и отрицательная обратная связь критически важна для процессов жизнедеятельности. Тем не менее, доминирует положительная: именно она дает „искру жизни“». Эта идея проходит весь путь от отдельных клеток до организмов и общественных структур. Клопф не скромничал, когда речь шла о том, что считать практическим приложением его идеи. «Кажется, это первая теория, способная обеспечить единую унифицированную структуру, внутри которой можно понять нейрофизиологические, психологические и социологические характеристики живых приспосабливающихся систем, – писал он. – Нейроны, нервные системы и нации являются гетеростатическими» [321].
Нейроны неутолимо стремятся к максимуму? И это объясняет поведение наций? Идея была амбициозной, неортодоксальной и, вполне возможно, абсурдной. Военно-воздушные силы предложили ученому финансирование, чтобы найти лабораторию или приспособить уже существующую для этой задачи. Команду себе Клопф подобрал в Массачусетском университете в Амхерсте. Там он нанял получившего докторскую степень исследователя по имени Эндрю Барто, чтобы, как говорил последний, найти «научное значение этой идеи: сумасшедшая она и эксцентричная или может принести какую‐то научную пользу? [322]»
Может показаться необычным, но Клопф
