Кодозависимые. Жизнь в тени искусственного интеллекта - Мадумита Мурджия
Смит сказал мне правильные вещи: что специалистам по технологиям необходимо теснее взаимодействовать с экспертами в области социальных и гуманитарных наук, философии и религии, чтобы те помогали им оценивать влияние разрабатываемых ими продуктов на общество. Он пояснил, что прежде они справлялись с этим не слишком хорошо, потому что государства практически не контролировали эту сферу.
«По сути, мы наделяем машины полномочиями принимать решения, которые в прошлом принимались исключительно людьми, – отметил он. – Если подойти к этому безответственно, мы рискуем создать еще больше проблем, чем раньше».
Я знала, что в Microsoft есть собственная хартия ИИ-этики{217}, в соответствии с которой компания не продает технологии распознавания лиц авторитарным режимам и американской полиции. И все же эта технология продолжает распространяться по миру, и используют ее как демократы, так и диктаторы. Я спросила у Смита, готовы ли разработчики прислушаться к инклюзивному мультидисциплинарному соглашению, заключенному за пределами мира высоких технологий.
«Думаю, некоторые из нас к этому готовы, – ответил Смит. – На мой взгляд, со временем к этому придут почти все, поскольку технологическим лидерам будущего придется мыслить шире – хотят они этого или нет».
Он считает, что такой интеллектуальный и многосторонний консенсус, как Римский призыв, может повлиять на центры влияния за пределами технологической отрасли, в том числе на правительства и университеты, и это приведет к принятию законов, которые окажут воздействие на бизнес, включая и его собственный.
Иными словами, несмотря на то что ведущие мыслители из богословско-религиозной и прочих гуманитарных сфер не могут контролировать технологическую отрасль, им под силу оказывать давление на законодателей, чтобы те, в свою очередь, требовали от компаний более ответственного подхода к инновациям.
В прошлом Кремниевая долина не задумывалась об «ответственных инновациях». До недавних пор предприниматели технологической отрасли руководствовались девизом, сформулированным Марком Цукербергом, основателем и директором Facebook: «Двигайся быстро и ломай все подряд». Он подчеркивал фокус отрасли на быстрых инновациях и экспериментах, а также ее готовность совершать ошибки и вызывать социальные потрясения. Лишь в последние несколько лет стало очевидно, насколько высокую цену нам приходится за это платить: социальные сети участвуют в махинациях на выборах, способствуют распространению теорий заговора и негативно сказываются на психическом здоровье детей, приложения для доставки и организации совместных поездок ущемляют права рабочих, и все мы так или иначе лишаемся приватности в Сети.
«Были люди, которые гордились тем, что двигаются быстро и ломают все подряд, – сказал Смит. – Но в конце концов мы поняли, что слишком многое ломать не стоит».
* * *
В январе 2023 года, накануне прибытия иудеев и мусульман к Святому Престолу, небеса над Римом разверзлись и разразилась сильнейшая гроза. По петляющей по холму дороге в самом сердце Ватикана мимо мраморного купола собора Святого Петра шла группа раввинов, имамов и исламских ученых из Израиля, Объединенных Арабских Эмиратов и Калифорнии. Они направлялись к вилле Пия – построенной в XVI веке папской резиденции, где сегодня размещается Папская академия наук.
Мировые лидеры трех авраамических религий впервые собрались в Ватикане для совместной работы. На вилле Пия архиепископы, раввины и имамы сели лицом к лицу, чтобы обсудить тревожащую их тему, которая и свела их вместе.
Они говорили о насущной необходимости создания ИИ-технологий, которые уважают права человека и причиняют минимум вреда. За ходом встречи среди прочих наблюдали представители двух крупнейших в мире технологических компаний: президент Microsoft Брэд Смит и директор исследовательского подразделения IBM Дарио Гил.
Все присутствующие считали ИИ одной из главных инноваций человечества. К тому времени стало очевидно, что он стремительно проникает в повседневную жизнь. Но собравшихся беспокоил контроль над технологиями ИИ. Они опасались, что системы искусственного интеллекта, подобно ядерному оружию в прошлом веке, разрабатываются без учета ценностей и этических установок человечества: взаимного уважения, солидарности и сотрудничества во имя общего блага, честности, справедливости, порядочности и прозрачности – принципов, которые разделяли все. Они полагали, что бездумная разработка современного ИИ может открыть дорогу к злоупотреблениям, что приведет к катастрофическим последствиям для человечества. 89-летний Шейх бин Байя из ОАЭ, которого мусульмане считают одним из величайших ныне живущих специалистов по исламскому праву, сказал, что текущая эпоха напоминает о творчестве арабского поэта Абу аль-Фатха аль-Бусти, который сравнил инновационный процесс с самоуничтожением шелкопряда: «Человек упорно трудится, подобно шелкопряду, который всю жизнь крутит свой кокон, чтобы в нем же и сгинуть, так ничего и не поняв».
Опасения религиозных лидеров перекликались с вопросами, которыми задавались законодатели из разных стран, пока ИИ-программы разрастались и распространялись по мировой экономике. В ноябре 2023 года я провела два дня в Блетчли-парке, где во время Второй мировой войны располагалась штаб-квартира британских дешифровщиков. На этот раз в особняке собрались представители двух десятков государств, от Индии, Бразилии и Нигерии до Китая, США и стран ЕС, и лидеры всех крупных ИИ-компаний, включая OpenAI, Google DeepMind и Microsoft. На повестке дня стояли уже знакомые вопросы.
Кто будет нести ответственность за ошибки искусственного интеллекта? Как искусственный интеллект изменит способы, которыми люди передают, усваивают и потребляют информацию? Каким образом эта технология скажется на нашем поведении, наших убеждениях и наших последующих действиях? Как избежать ошибок ИИ? Как контролировать систему, которая может оказаться умнее нас?
Делегаты съезда в Блетчли подписали совместную декларацию о необходимости решительных действий, а Римский призыв включил в себя шесть этических принципов для разработчиков ИИ. В них слышны отголоски некоторых из перечисленных выше вопросов. В соответствии с этими принципами ИИ-системы должны быть понятными, инклюзивными, непредвзятыми и воспроизводимыми, они должны защищать неприкосновенность частной жизни и держать ответ за свою работу, а это значит, что за любое решение, принятое при содействии ИИ, отвечать должен человек.
Когда главы трех религиозных делегаций – специалист по исламскому праву, иерусалимский раввин и католический архиепископ – подписали итоговое соглашение, в зале заседаний воцарилась тишина: все затаили дыхание. Присутствующие посмотрели по сторонам, запоминая, кто стал свидетелем заключения этого странного союза исторического значения. Хотя во внешнем мире и полыхали конфликты,
