Искусственный интеллект. Краткая история будущего - Тоби Уолш
Илл. 14–15. Уолтер Питтс (слева) и Уоррен Маккалок. Фотография Лотфи Заде, отца «нечеткой логики»
В ответ Рассел великодушно пригласил Питтса в Кембриджский университет учиться у него в качестве аспиранта. Он и не подозревал, что Питтсу на тот момент было всего лишь 12 лет. Неудивительно, что Уолтер отказался от этого предложения. Однако переписку не прекратил. В возрасте 15 лет он покинул дом и отправился в Чикагский университет, где посещал лекции Рассела.
Именно в Чикаго Питтс попал в поле зрения Уоррена Маккаллока, профессора психиатрии из соседнего университета Иллинойса. Маккаллок происходил из совершенного иной среды, чем бездомный Питтс. Он родился в обеспеченной семье юристов, врачей и инженеров с Восточного побережья, учился в Йельском и Колумбийском университетах. Годы в привилегированных местах воспитали уверенного в себе заядлого курильщика, который был частично философом, частично поэтом и частично ученым.
Единственное, что объединяло эту необычную пару, Питтса и Маккалока, – это легендарный Готфрид Лейбниц. Они оба преклонялись перед философом XVII века, особенно перед его попыткой создать алфавит человеческой мысли, которая, как я уже говорил ранее, была частью предыстории искусственного интеллекта. И вот, Питтс и Маккаллок вместе приступили к продолжению работы Лейбница.
Другим источником их вдохновения была Principia Mathematica. Рассел и Уайтхед свели всю математику к простой логике «истины» и «лжи», или логике нулей и единиц, работая с «истиной» (1) и «ложью» (0) с помощью конъюнкции («и»), дизъюнкции («или») и отрицания («не»). Питтс и Маккаллок стремились повторить это бинарное разложение в своей упрощенной модели искусственного мозга.
Мозг представлял собой бинарное устройство, в котором нейроны, объединенные в сложную сеть, активируются или нет. Итак, идея Питтса и Маккаллока состояла в том, чтобы разложить искусственный мозг на простую сеть бинарных нейронов, подобно тому, как логическая формула может быть разложена с помощью простых логических связок, таких как «И», «ИЛИ» и «НЕ».
ИСКУССТВЕННЫЙ НЕЙРОН
Питтс и Маккаллок начали с простой бинарной модели нейрона под названием «перцептрон». По сути, это логический вентиль. Он имеет два или более входа. Перцептрон суммирует взвешенную сумму этих входных данных. Если сумма превышает пороговое значение, то срабатывает выходной сигнал перцептрона. Если сумма не превышает пороговое значение, то выходной сигнал не срабатывает. Это объясняет принцип работы перцептрона. Но как он учится?
Вот тут-то мы и обращаем внимание на входные данные. Точно так же, как обучение в мозге усиливает или ослабляет входные сигналы для нейронов мозга, мы просто корректируем веса входных сигналов для перцептрона. Более важные входные данные получают больший вес, в то время как менее важные получают меньший вес.
Мы можем произвольно настраивать веса до тех пор, пока не найдем подходящую комбинацию, но есть более систематизированный подход, при котором мы плавно регулируем вес. Преподаватель психологии в Корнельском университете Фрэнк Розенблатт решил реализовать эту идею, сперва в 1957 году на программном обеспечении компьютера IBM 704, а затем на аппаратном в 1960-м. Созданный им перцептрон «Марк–1» стал первой нейросетью и сейчас хранится в Смитсоновском институте.
Перцептрон «Марк–1» – это искусственный мозг, поразивший воображение общественности. The New York Times назвала перцептрон «зародышем электронного компьютера, который, как ожидают [ВМС США, финансирующие исследования], сможет ходить, говорить, видеть, писать, самовоспроизводиться и осознавать свое существование» [1]. Розенблатт подкрепил эти грандиозные надежды смелыми заявлениями. В 1958 году он писал:
«Рассказы о создании машин, обладающих человеческими качествами, долгое время привлекали внимание специалистов из области научной фантастики. И мы вот-вот станем свидетелями создания такой машины, способной воспринимать, узнавать и идентифицировать окружающий мир без какой-либо подготовки или контроля с человеческой стороны» [2].
На оптимистичный настрой было несколько причин (хотя, возможно, и не такой уж оптимистичный). Первые результаты «Марка–1» были многообещающими и показали, что сеть перцептронов в теории может реализовать любую логическую функцию. Но вскоре мечты столкнулись с реальностью. Все-таки простая перцептронная сеть – это сильно упрощенная модель человеческого мозга. Скорее, даже крайне упрощенная модель ограниченного понимания человеческого мозга, доступная ученым в 1940-х. Например, связи в человеческом мозге могут как создаваться, так и разрушаться, в то время как сеть перцептронов постоянна и неизменна. При этом нейроны зависят от времени поступления сигналов, тогда когда перцептроны работают синхронно.
Тем не менее такие упрощения не были причиной того, что перцептроны стали невостребованными. Розенблатт столкнулся с критикой, которая отбросила назад развитие нейросетей. В частности, несколько ключевых исследователей публично выступили против идеи перцептронов. Пожалуй, самой важной фигурой был Марвин Минский, один из организаторов Дартмутского семинара и ведущий деятель в области искусственного интеллекта. Известная сегодня книга «Перцептроны», авторами которой стали Минский и Сеймур Пейперт, оба представители Массачусетского технологического института, была издана в 1969 году. В ней исследовались границы возможностей, доступных компьютерам на базе перцептронов. Пожалуй, самое важное из всего изложенного в книге – это то, что сеть с одним слоем перцептронов не способна усвоить даже такую простую концепцию, как «четное или нечетное».
Их книга не должна была оказать того негативного влияния, какое она оказала. Выяснилось, что если выйти за рамки однослойной модели и расширить модель до многослойной сети, то перцептроны могут обучиться принципу «четное или нечетное», но вся проблема заключалась в том, что идея их ограниченности уже укоренилась.
Другие высказывали предположения, что перцептроны попали в немилость из-за того, что обучение по правилам Розенблатта было слишком медленным. (Для решения этой проблемы потребовалось много времени, вплоть до 2010-х, а также три главных достижения – популяризация метода обратного распространения ошибки, а также гораздо более быстрые компьютеры и бóльшие наборы обучающих данных.) Возможно, дело было в продолжающемся противостоянии двух лагерей – одни выступали за символизм искусственного интеллекта, а другие были приверженцами машинного обучения. Фанаты символического подхода, в числе которых были Джон Маккарти и Марвин Минский, занимали влиятельные посты в 1960-е годы. Фрэнк Розенблатт обладал сильным характером, но его слишком воодушевленные заявления не помогли делу.
Что бы то ни было, в течение последующих 40 лет попутный ветер перестал дуть в паруса корабля под названием «Революция нейронных сетей». Розенблатт продолжил работать над перцептронами, несмотря на значительное сокращение финансирования. А многие другие прекратили. На самом деле, многие полностью покинули область и нейронные сети стали непопулярными. Последняя попытка Розенблатта использовать перцептроны была в период с 1961 по
