Кодозависимые. Жизнь в тени искусственного интеллекта - Мадумита Мурджия
Применяя машинное обучение для максимально точного таргетирования рекламы, такие техногиганты, как Google и Meta, довели свою капитализацию до триллиона долларов. Эту прибыльную бизнес-модель, в основе которой лежит монетизация персональных данных, американский философ и социальный психолог Шошана Зубофф называет «надзорным капитализмом».
В прошлом году художник Джеймс Бридл написал: «Эти компании сколотили капиталы, внедрившись во все аспекты повседневной жизни, включая самые личные и творческие ее сферы: наши тайные страсти, наши частные разговоры, наши общие интересы и наши мечты»{2}.
* * *
Сегодня мы живем в тесном соседстве с автоматизированными системами, основанными на данных, и их внутренние механизмы влияют на наши личные связи, расстановку сил в рабочем коллективе и наши отношения с государством. Мы опираемся на алгоритмические технологии, как в прошлом опирались друг на друга, и образ жизни людей во всем мире меняется, постепенно подстраиваясь под эти технологии.
Когда вы открываете Google Maps, чтобы продумать маршрут своего следующего путешествия, когда вы обращаетесь к Alexa, вызываете Uber или беспилотный Waymo, вы взаимодействуете с различными формами ИИ. С помощью ИИ формируются ленты ваших социальных сетей, в которые специально вставляется реклама клюшек для гольфа и детской одежды. ИИ проверяет вас, когда вы подаете заявку на кредит. ИИ решает, сколько вам платить за дом и за автомобильную страховку. Когда вы проходите собеседование, ИИ может анализировать ваши реакции и ответы на вопросы. Не исключено, что вы использовали ИИ даже при составлении своего резюме. А если вы однажды окажетесь за решеткой, возможно, именно ИИ будет решать, выпускать ли вас под залог.
Современные программы ИИ помогают специалистам принимать жизненно важные решения в таких сферах, как медицинская диагностика, общественное благосостояние, ипотечное и потребительское кредитование, наем и увольнение сотрудников и многое другое. Самыми продвинутыми ИИ-программами пользуются исследователи, включая химиков, биологов и генетиков, чтобы с помощью этих программ быстрее развивать научные направления{3}.
В последний год мы наблюдаем подъем нового типа ИИ-технологий – порождающих моделей ИИ, программ, способных писать тексты и создавать изображения, аудио и видео, практически неотличимые от тех, что создает человек. Порождающий, или генеративный ИИ строится на фундаменте человеческого творчества и обучается на оцифрованных книгах, газетах, блогах, фотографиях, картинах, музыке, видеороликах с YouTube, постах с Reddit, картинках с Flickr и всем содержимом интернета. ИИ поглощает эти знания и обретает способность создавать собственные переработанные версии различных творческих продуктов, радуя нас почти человеческим умением воспроизводить и креативно переделывать знакомые вещи.
Для многих из нас сегодня воплощением этого процесса стал ChatGPT – сайт, который дает подробные ответы на наши запросы в форме диалога. Он впервые позволил нам напрямую взаимодействовать с системой ИИ, и настоящим чудом стало то, что он может отвечать нам, используя привычный нам способ коммуникации – письменный язык.
Появление ChatGPT ознаменовало фундаментальный сдвиг во взаимодействии людей с машинами. Общаясь с нами с помощью слов и изображений, ИИ-системы нового поколения, обученные на продуктах нашей научной и творческой деятельности, могут гораздо более эффективно, чем когда-либо ранее, манипулировать нашими эмоциями и настроением, а также диктовать нам, что думать и как себя вести.
На протяжении прошлого десятилетия я наблюдала, как ИИ коварно пробирается в нашу жизнь. Решив написать эту книгу, я захотела найти реальные примеры взаимодействия с ним, которые явно показали бы, чем грозит наша зависимость от автоматизированных систем. Расцвет порождающего ИИ сделал поиск таких угроз насущной необходимостью. В прошлом году мы уже начали замечать, как технологии вроде ChatGPT влияют на нашу работу, на образование детей, на творчество. Но вместе с тем ИИ оказывает влияние и на другие важные сферы жизни общества: здравоохранение, охрану правопорядка, общественное благосостояние и военное дело, – что приводит к долгосрочным последствиям и социальным трансформациям. В результате меняется само понимание того, что значит быть человеком. Именно об этом и пойдет речь в моей книге.
* * *
Работа в журнале WIRED превратила меня в закоренелого технооптимиста. Когда каждый день пишешь о редактировании генома, летающих автомобилях, 3D-печати лунных баз и нейрокомпьютерных интерфейсах, просто невозможно не восхищаться человеческой изобретательностью и нашими высокотехнологичными творениями. Меня пленяли и сами инноваторы – взбалмошные выдумщики, дерзкие предприниматели и безрассудные визионеры.
Когда я только начинала собирать материал для этой книги, я ожидала найти истории о том, как искусственный интеллект решил сложные проблемы, не спасовал перед непреодолимыми препятствиями и существенно улучшил жизнь людей. Таков потенциал всех новых технологий – по крайней мере, так я искренне полагала на протяжении многих лет.
Любая из рассказанных мной историй могла бы быть вашей. Совсем скоро – если этого еще не случилось – ИИ-системы начнут влиять на ваше здоровье, вашу работу, ваши финансы, ваших детей, ваших родителей, ваши гражданские права и оказываемые вам коммунальные услуги.
Я хотела задавать простые человеческие вопросы. Каково «говорить» с системой, которая представляет собой «черный ящик»? Есть ли у вас выбор между человеком и машиной? Как обжаловать судьбоносное решение, принятое приложением? Что нужно знать, чтобы доверять такой программе? И как понять, когда доверять ей вовсе не стоит?
Чтобы найти ответы на эти вопросы, я отправилась в путешествие по миру и стала выяснять, как вездесущие автоматизированные системы влияют на жизнь самых разных сообществ. Каждая из историй, с которыми вы познакомитесь, показывает, как именно и насколько непредсказуемо ИИ влияет на нашу самооценку, а также на наши семьи, сообщества и культуры. Я надеюсь, что опыт встреченных мною людей поможет мне ответить на вопрос, с которого я начала: как искусственный интеллект меняет само понимание того, что значит быть человеком?
* * *
Несмотря на присущий мне технологический оптимизм, истории, которые я собрала, в итоге сложились в довольно мрачную картину.
Я намеренно сосредоточилась на людях, которые живут за пределами Кремниевой долины, вдали от центра технологического влияния, но все равно испытывают на себе воздействие технологий нового типа. Однако, изучая их истории шаг за шагом, я поняла, что невозможно не приметить за ними слона: дело в том, что власть над технологиями сосредоточена в руках немногочисленных компаний, которые и заказывают музыку{4}.
Анализируя этот дисбаланс, я наткнулась на книгу социологов Ника Колдри и Улисеса Мехиаса «Цена связи» (The Costs of Connection), где рассматривается понятие колониализма данных. Вместо территорий объектом колонизации становятся
