Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан
«Илья был кем‐то вроде религиозного лидера, – рассказывал Алекс. – Хорошо, когда рядом с тобой такой человек».
Испытания новой версии модели и ее тренировка до максимальной точности занимали примерно две недели круглосуточной работы, а значит, в какой‐то мере безумный проект давал участникам много свободного времени. Крижевский думал. И экспериментировал. И ждал. Хинтону пришла в голову идея под названием «дропаут», или «исключение», когда во время обучения определенные части нейронной сети случайным образом отключаются. Крижевский попробовал, и это, по той или иной причине, помогло. Он попытался использовать нейроны c так называемой выпрямленной линейной функцией активации. И это тоже, кажется, помогло.
Крижевский успел представить свою лучшую модель в последний день приема заявок на конкурс по распознаванию изображений ImageNet 30 сентября. Теперь оставалось только ждать.
Два дня спустя Алекс получил письмо из Стэнфорда от Дзя Дэна, который занимался организацией конкурса. Получателями письма значились все участники соревнования. Сухим безэмоциональным языком Дэн указывал, что следует пройти по ссылке и ознакомиться с результатами.
Что Крижевский и сделал.
Его команда не просто победила – она буквально уничтожила всех конкурентов по отрасли. Нейронная сеть, обученная в спальне Алекса – официально она называлась SuperVision, но в историю попала как AlexNet, – допустила вполовину меньше ошибок, чем модель, оказавшаяся на втором месте.
К пятнице, когда пришло время для семинара ImageNet Large Scale Visual Recognition Challenge, новость уже распространилась. Крижевский должен был выступать последним, и в 17:05 он вышел на трибуну докладчика. Алекс оглядел помещение. В первом ряду сидела Фей-Фей Ли, рядом с ней – Ян Лекун. Казалось, послушать его собралось большинство ведущих исследователей компьютерного зрения в мире. Зал был переполнен, люди стояли в проходах и вдоль стен.
«Я нервничал, – вспоминал Алекс. – Было очень неуютно».
И тогда Крижевский, которому было очень некомфортно, рассказал обо всем.
Когда Фрэнк Розенблатт давал интервью о перцептроне в 1958 году, его спросили о том, какое практическое или коммерческое использование могут иметь такие машины. «В данный момент никакого, – бодро ответил он. – В науке, знаете ли, вы сначала изобретаете, а потом находите применение» [49].
Проблема
Воскресным вечером 28 июня 2015 года веб-разработчик Джеки Алсине сидел дома и смотрел церемонию награждения BET Awards. Неожиданно он получил сообщение о том, что друг поделился с ним фотографией через Google Photos. Открыв сайт, Джеки заметил, что дизайн изменился: «И тут я подумал: „О, пользовательский интерфейс стал другим!“ Я помнил, что прошла I/O [ежегодная конференция разработчиков программного обеспечения Google], но мне было любопытно, и я перешел по ссылке». Система распознавания образов Google автоматически определяла группы фотографий и давала каждой тематический заголовок. «Выпускной», – гласила одна из таких подписей, и Алсине впечатлило, что система сумела распознать шапочку с плоским квадратным верхом и кисточкой на голове его младшего брата. Но следующий заголовок заставил его похолодеть. В альбоме лежали селфи, сделанные Алсине и его подругой. Джеки – американец гаитянского происхождения, и он, и его подруга – чернокожие.
«Гориллы», – гласила подпись.
«Тут я подумал… Честно говоря, я подумал, что где‐то ошибся».
Он открыл альбом, ожидая, что каким‐то образом прошел не по той ссылке или неправильно проставил теги. В альбоме лежали десятки фотографий Алсине и его подруги. И больше ничего. «Я подумал: здесь больше семидесяти фотографий. Этого просто быть не может… Тогда я начал понимать, что произошло».
Алсине вошел в Twitter [50] и отправил сообщение: «Google Photos, черт вас побери, моя подруга не горилла!»
В течение двух часов на это сообщение отреагировал Йонатан Зунгер, главный архитектор социальной сети Google+. «Обалдеть! – писал он. – Это на 100 % не нормально!»
За несколько часов команда Зунгера внесла изменения в Google Photos, и к следующему утру только у двух фотографий были неправильные подписи. Затем Google пошла на более решительный шаг: они убрали всю категорию.
Три года спустя, в 2018 году, журнал Wired отмечал, что подпись «горилла» в Google Photos остается деактивированной вручную. То есть годы спустя ничего и никого нельзя отметить как гориллу, даже самих горилл [51].
Любопытно, что пресса снова и снова неправильно определяла сущность произошедшей ошибки, как в 2015‐м, так и в 2018‐м. Заголовки гласили: «Два года спустя Google разрешила проблему с „расистским алгоритмом“, убрав ярлык „горилла“ из классификатора изображений», «Google „исправила“ свой расистский алгоритм, убрав горилл из технологии разметки изображений» и «Расистский алгоритм Google Images был исправлен, но не слишком хорошо» [52].
Будучи программистом, знакомым с системами машинного обучения, Алсине понимал, что проблема не в систематической ошибке алгоритма. (В алгоритме использовался стохастический градиентный спуск – едва ли не самое универсальное базовое средство в информатике: проходите по набору данных для обучения случайным образом и настраиваете параметры модели так, чтобы слегка повысить вероятность, что изображение окажется в правильной категории; повторите столько раз, сколько нужно.) Нет, он тут же осознал, что ошибка закралась в сами данные для обучения. «Я даже не мог обвинить алгоритм, – сказал Джеки. – Это не его вина. Он делал именно то, для чего его разработали».
Проблема, разумеется, в системе, которая теоретически могла научиться всему из набора примеров. Вот только в итоге ей пришлось уповать на качество примеров, на которых она училась.
Калибровка и господство проектирования
Степень, до которой мы считаем повседневные предметы само собой разумеющимися, полностью зависит от того, насколько они управляют нашей жизнью и наполняют ее.
Маргарет Виссер [53]
Американца, которого больше всех фотографировали в XIX веке – больше, чем Авраама Линкольна или Улисса С. Гранта, – звали Фредерик Дуглас. Он был писателем-аболиционистом, оратором, человеком, который бежал из рабства в возрасте двадцати лет [54]. Для Дугласа фотография была так же важна, как и его сочинения и речи. В 1840‐х этот вид искусства только‐только выделился из дагерротипов в отдельное направление, и Дуглас немедленно осознал его мощь.
До фотографий изображения чернокожих американцев ограничивались рисунками и гравюрами. «Негры никогда не получали непредвзятых портретов из рук белых художников, – писал Дуглас. – Едва ли возможно, чтобы белые подчеркнули сходство черных с собой, не исказив отличительные черты последних» [55]. Во времена Дугласа было особенно распространено одно преувеличение: «Мы, цветные, так часто видим и слышим, как нас сравнивают с обезьянами, что, когда сталкиваемся с исключением из этого правила, считаем, что нам крупно повезло» [56].
Фотография не только нанесла удар по таким карикатурам, но смогла и отразить сочувствие и узнавание. «Какими бы предрассудками ни страдали те, кто посмотрит на нее, – сказал Дуглас о фотографии первого чернокожего сенатора Соединенных Штатов Хайрема Ревелса, – им придется признать, что сенатор
