Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан
Но не все сложилось хорошо. По мере того как в ХХ веке фотография становилась более привычной и массовой, некоторые решили, что эта отрасль достойна критики. Как писал Уильям Эдуард Беркхардт Дюбуа [58] в 1923 году, «почему молодые цветные юноши и девушки реже выбирают профессию фотографа? Типичный белый фотограф не знает, как обращаться с темной кожей, не ощущает ее изысканной красоты и оттенка, он не будет всему этому учиться и ужасно схалтурит, снимая портреты чернокожих».
Мы часто слышим, что в кино и на телевидении не хватает разнообразия – как среди актеров, так и среди продюсеров, – но не задумываемся о том, что эта проблема существует не только перед камерой и за ней, но и внутри камеры. Как отметила профессор университета Конкордия, специалист по коммуникациям Лора Рот, «хотя доступная научная литература достаточно многоаспектна, неудивительно, что очень немногие ученые сосредотачивались на исследованиях необъективности передачи тонов кожи у существующих ныне аппаратов визуального воспроизведения» [59].
Как пишет исследовательница, многие десятилетия производители пленки и проявителей использовали для сравнения со стандартом одну и ту же контрольную фотографию. Она называлась картой Ширли – в честь Ширли Пейдж, сотрудницы компании Kodak, ставшей первой моделью для этого снимка [60]. Думаю, не надо говорить о том, что и Ширли, и ее преемницы были исключительно белыми. Химическая проявка пленки настраивалась соответствующим образом, и в результате камеры не могли сделать хороших снимков чернокожих.
(Видео, как и фотографии, многие десятилетия калибровались для белой кожи. В 1990‐е годы Рот взяла интервью у одного из операторов телешоу Saturday Night Live и задала вопрос о настройке камер перед передачей. Он объяснил: «У хорошего оператора всегда есть „девушка для цвета“, которая стоит перед камерами, пока техники настраивают их, опираясь на тон ее кожи. Эта девушка всегда белая») [61].
Примечательно, что руководители компании Kodak в 1960‐х и 1970‐х сделали упор на изготовление пленки, чувствительной к темным тонам, не из-за борьбы за гражданские права чернокожих, но для производителей мебели и шоколада, которые жаловались, что пленка неверно отображает рисунок темного дерева или разницу между молочным и темным шоколадом [62].
Бывший руководитель исследовательской студии Kodak Эрл Кейдж так вспоминает этот период: «Мой маленький отдел от души наелся шоколада, поскольку все, что снимали камеры, съедалось в конце съемки». Когда его спросили, не происходило ли все это на фоне движения за гражданские права, Кейдж добавил: «Удивительно, что об этом никогда не говорили раньше, потому что черная кожа в то время не воспринималась как серьезная проблема» [63].
Со временем Kodak начала использовать модели с более разнообразными тонами кожи. «Я начал активно привлекать к экспериментам черных моделей, и это очень быстро окупилось, – вспоминает Джим Лайон. – Я не пытался быть политкорректным. Я просто хотел, чтобы у нас был шанс усовершенствовать пленку так, чтобы она должным образом воспроизводила тон кожи каждого».
К началу 1990‐х у Kodak были карты Ширли с тремя моделями разных рас. Пленка Gold Max, которую выпустили на рынок, пообещав, что она запечатлеет «черную лошадь в сумерках», стала использоваться при съемке телевизионной рекламы с семьями разного расового состава. В одной из них чернокожий мальчик в белоснежном каратэги широко улыбается, делая кату, и, видимо, получая следующий пояс. В рекламе говорилось: «Родители, неужели вы доверите такие моменты другой пленке, а не Kodak Gold?»
Сначала целевая аудитория привела к появлению проблематичного эталона. Теперь же новый эталон дал компании новую целевую аудиторию.
Исправить набор данных для обучения
У всех систем машинного обучения от перцептрона и далее существует свой эквивалент карты Ширли, а именно – набор информации, по которому они обучаются. Если в нем определенный тип данных представлен в недостаточном объеме или отсутствует, но имеется в реальном мире, тогда ситуация становится непредсказуемой [64].
Как говорит Мориц Хардт из Калифорнийского университета в Беркли, «вся соль больших данных в том, что мы можем создавать более качественные классификаторы во многом благодаря обширным наборам данных. Как следствие, нехватка данных приводит к неудовлетворительным результатам. К несчастью, надо признать, данных об этнических меньшинствах собрано попросту меньше. Это означает, что наши модели решают задачи, касающиеся национальных меньшинств, хуже, чем отвечают на вопросы о населении в целом» [65].
Раздраженный твит Алсине, отправленный поздним вечером, был связан именно с этим чувством. Он программист. Он мгновенно определил, что пошло не так. Как заключил Джеки, Google Photos не получили фотографий чернокожих людей в том же количестве, что и фотографий белых. И модель, увидев нечто незнакомое, делала ошибку с большей вероятностью.
«Опять же, я могу понять, как это произошло, – рассказал мне Алсине [66]. – Скажем, вы фотографируете только красные яблоки. Когда машина увидит зеленое яблоко, она может подумать, что это груша. Казалось бы, мелочь. Я понимаю. Но если вы известная во всем мире компания, если ваша миссия – внести в указатель социальные знания обо всех людях, как вы могли так запросто пропустить целый континент людей?»
Кажется, проблемы ХХ века перекочевывают в XXI. К счастью, некоторые способы их разрешения тоже. Всего лишь нужен тот, кто задастся вопросом, кто и что появится на эталонных картах Ширли XXI века и как могут выглядеть лучшие из них.
Когда в начале 2010‐х годов Джой Буоламвини училась на факультете информационных технологий Технологического института Джорджии, ей дали задание запрограммировать робота для игры в прятки. Программа была несложной, но возникла проблема: робот не распознавал лицо Буоламвини. «Пришлось просить соседку по комнате о разрешении использовать ее лицо, чтобы доделать проект и сдать задание. Я подумала: „Пусть кто‐то другой возится с этой проблемой“» [67].
Позднее, во время учебы в аспирантуре Буоламвини поехала в Гонконг на конкурс предпринимателей. Местный стартап показывал демоверсию одного из своих «социальных роботов». Демо сработала на всех в группе, кроме… Буоламвини! Дело в том, что стартап использовал тот же открытый код для распознавания лиц, который она применяла в Технологическом институте Джорджии.
В одной из первых статей, где открыто говорилось о существовании неравенства в компьютерных системах, Батиа Фридман из университета Вашингтона и Хелен Ниссенбаум из Корнеллского университета предупреждали, что «распространять компьютерные системы достаточно дешево, и когда‐нибудь разработанная система с предрассудками может оказать очень широкое влияние. Если она будет стандартом в отрасли, ее воздействие станет преобладающим» [68].
Или, как сказала сама Буоламвини, «объехав половину мира, я поняла, что алгоритмическое неравенство может перемещаться со скоростью скачиваемых из Интернета файлов» [69].
Закончив Оксфорд как стипендиат Родса, Буоламвини пришла работать в медиалабораторию Массачусетского технологического института. Там она занялась проектом дополненной
