Искусственный интеллект. Краткая история будущего - Тоби Уолш
ПАРАДОКС МОРАВЕКА
Ввиду последних достижений в области искусственного интеллекта, скорее всего вы находитесь в предвкушении, что скоро робот-дворецкий, робот-уборщик и робот-повар станут членами ваших семей. Но у меня для вас плохие новости. Боюсь, что потребуется много времени, чтобы все они оказались у нас дома. Отчасти потому, что дом – это беспорядочная и захламленная среда. Не знаю как ваш, но мой – да. Зачастую я не могу посмотреть телевизор, потому что не могу найти пульт, чтобы включить его. Одно из самых болезненных событий в истории человечества – это наступить босой ногой на деталь из конструктора Лего. Мой дом – научная загадка. Почему вещи оказываются не там, где я их оставил?
Главная причина того, что роботы-дворецкие, уборщики и повара все еще далеки от нас, состоит не в хаосе наших жилищ, а в том, что мы называем парадоксом Моравека. Несмотря на то что принцип назван в честь ученого Ханса Моравека[45], он также был сформулирован и другими исследователями в 1980-е годы, Родни Бруксом и Марвином Минским[46]. Моравек так описал этот парадокс: «Компьютерам относительно легко достичь уровня взрослого человека в таких задачах, как тест на определение уровня интеллекта или игре в шашки, однако сложно или невозможно достичь навыков годовалого ребенка в задачах восприятия или мобильности» [1]. По словам одного из самых известных когнитивистов Стивена Пинкера[47] – это одно из значительных открытий, до сих пор не исследованное учеными:
«Главный урок, извлеченный разработчиками ИИ после 35 лет работы, состоял в том, что сложные проблемы просты, а простые сложны. То, что доступно разуму четырехлетнего ребенка и для нас является само собой разумеющимся – узнать знакомое лицо, поднять карандаш, пересечь комнату, ответить на вопрос, – в действительности является решением одних из самых сложных технологических проблем. Пусть вас не вводят в заблуждение роботы на конвейере в рекламных роликах автомобилей: все, чем они занимаются – это сварка и распыление краски, – а такие задачи не требуют обязательного присутствия неуклюжего мистера Магу… Если вы хотите поставить в тупик систему искусственного интеллекта, задайте ей следующие вопросы: “Что больше – Чикаго или хлебница?”, “Носят ли зебры нижнее белье?»”, “Может ли пол подняться и покусать вас?”, “Если Сьюзен идет в магазин, идет ли ее голова вместе с ней?” Большинство страхов перед автоматическими системами основано не на том, что действительно должно вызывать опасения. Это аналитикам финансового рынка, инженерам нефтехимической отрасли и членам судейской коллегии стоит опасаться, что с появлением нового поколения разумных машин они потеряют работу и будут вытеснены последними. Садовники, портье и повара могут в ближайшие десятилетия быть уверены, что останутся на своих местах» [2][48].
Выразив свое мнение в 1994 году, Стивен Пинкер недооценил формирующиеся способности чат-ботов. Например, ChatGPT точно и виртуозно может ответить на каждый его вопрос.
Я: Что больше, Чикаго или хлебница? Носят ли зебры нижнее белье? Может ли пол встать и покусать вас? Если Сьюзен идет в магазин, пойдет ли ее голова вместе с ней?
ChatGPT: Определенно Чикаго больше, чем хлебница! К вопросу о зебрах, вероятно, они не носят нижнее белье, но, если бы носили, скорее всего, оно было бы полосатым. Что касается пола, обычно он себя хорошо ведет и не склонен подниматься и кусать людей. И да, голова Сьюзен пойдет в магазин вместе с ней, если она не забыла ее дома!
Тем не менее его наблюдения о сложностях проектирования роботов остаются верными. Легкие для человека задачи зачастую поразительно сложны для роботов, и наоборот.
Один из способов побороть парадокс Моравека – это заставить людей работать вместе с роботами. Люди могут выполнять те задачи, с которыми возникают трудности у роботов. На самом деле, мы уже можем наблюдать такое у себя дома. У нас есть примитивные механизмы для мытья посуды. Мы называем их «посудомоечная машина». Но они работают только в том случае, если мы сами загружаем и выгружаем посуду. Также и с одеждой. У нас есть стиральная машина, которая выполняет только часть работы: мы должны положить одежду внутрь, достать мокрую одежду и развесить на бельевой веревке, сложить и убрать вещи.
Я также задумываюсь, есть ли какой-нибудь реальный парадокс в идее Моравека? Наш мозг – результат миллионов лет эволюции. Наше восприятие и двигательная система совершенствовались миллионами поколений. Язык и абстрактное мышление мы приобрели сравнительно недавно. Они новички в нашем мозге. Сложность, с которой сталкиваются машины при выполнении какой-либо задачи, может просто отображать количество времени, потребовавшееся эволюции, чтобы справиться с ней.
ПЕРВЫЙ РОБОТ
Давайте оставим вопрос о том, почему роботы сложны, и посмотрим на то, в чем действительно они могут быть полезны. Самый первый робот был вымышленным. В 1920 году чешский писатель Карел Чапек написал свою знаменитую научно-фантастическую пьесу «РУР». Название пьесы – это сокращение от «Россумские универсальные роботы» (Rossumovi univerzální roboti). Произведение ввело в обиход слово «робот». В нем также была затронута тема восстания роботов, впоследствии ставшая одной из основных в научной фантастике.
В пьесе Чапека роботы не были сделаны из металла. Это были биологические существа, созданные из натуральных материалов. Живые, но искусственно созданные люди. Несмотря на то что внешне они выглядели как настоящий человек, внутренне они больше походили на голема, чем на R2–D2, поскольку им не доставало индивидуальности и эмоций. Чапек не предсказывал наше будущее искусственного интеллекта. Он представлял будущих работников, людей, превращенных в роботов во время промышленной революции. Его роботы выращивались в похожих на матку чанах, а рождались на конвейерной линии. Основой их целью было служить. Роботы Чапека – биомашины, лишенные чувств и воли. Массовое производство тел с искусственным мозгом было идеальным решением для кабального труда.
Именно это искусственно созданное подчинение, ставшее причиной конфликта между роботами и их создателями – людьми, стало сюжетом пьесы. Чапек резонансно затронул антикапиталистические настроения, возникающие в быстро развивающемся индустриальном мире, который превращает рабочих в роботов. Роботы Чапека не были тем, что сейчас принято считать роботами, то есть машинами с искусственным интеллектом, но тем не менее были воплощением страха той эпохи, что технологии вытеснят
