Искусственный интеллект. Краткая история будущего - Тоби Уолш

Искусственных умов сознание.

Страшась грядущих перемен теперь,

Мы чудеса воочию глядим, надеясь избежать потерь.

Я: Напиши один абзац о будущей истории искусственного интеллекта.

CHATGPT: В будущей истории искусственного интеллекта XXI век запомнится как время, когда искусственный интеллект вышел за грани возможного, меняя все аспекты человеческого существования. Прорывы в глубоком обучении и архитектурах нейронных сетей приведут к революции во многих областях, начиная здравоохранением и заканчивая финансами, транспортом и окружающей средой. В результате интеграции искусственного интеллекта в повседневную жизнь общество столкнется с этическими дилеммами, связанными с неприкосновенностью частной жизни, предвзятостью, а также сокращением рабочих мест, что станет причиной разработки международных нормативных документов и методических рекомендаций для ответственных за разработку. Несмотря на сложности, искусственный интеллект расширит возможности человечества, стимулируя инновации и решая насущные проблемы мирового сообщества. Он приблизит людей к будущему, в котором человек и машина будут взаимодействовать, открывая новые горизонты знаний и возможностей.

Производит впечатление, согласны? Но как он творит такое волшебство?

Общая идея ChatGPT проста. Это как функция автозаполнения на вашем телефоне, только на стероидах. В случае автозаполнения ваш телефон использует словарь и частоту употребления слов. Если вы начинаете набирать буквы «ПРИ», скорее всего автозаполнение предложит конечный вариант в виде слова «ПРИВЕТ». Только ChatGPT уходит глубже. Модель обучена не на словарях, а на значительной части содержимого интернета. Такое масштабирование означает, что ChatGPT может закончить не только слово или предложение, но и абзац или даже страницу.

Описание больших языковых моделей вроде ChatGPT как «автозаполнения на стероидах» приводит к фундаментальным ограничениям. Такие модели статистические, они не понимают язык так, как это делаем мы. У них отсутствует какая-либо базовая модель мира.

Все потому, что они выдают не правду, а вероятность. Больше всего сложностей у языковых моделей возникает с рассуждением. Следовательно, очень легко показать их ограниченные возможности, которые можно устранить благодаря масштабированию. Нам нужно еще магии.

Я: Пиши только те слова, которые содержат одну гласную.

CHATGPT: Без проблем! Это может оказаться непросто, но я постараюсь. Спрашивайте!

Я: Но «спрашивайте» уже содержит больше одной гласной.

CHATGPT: Да! Попробую снова. Задай вопрос!

Я: Все эти слова содержат две или больше гласных.

CHATGPT: Понял. Буду придерживаться слов с одной гласной. Ну, что?

Я: Слово «гласной» содержит две гласные.

CHATGPT: Верно! Теперь буду использовать слова с одной. Что ж?

Один из наглядных примеров ограниченности больших языковых моделей вроде ChatGPT – это выдумывание. Работники области искусственного интеллекта называют это «галлюцинациями», хотя это не совсем подходящее слово, поскольку предполагает, что на самом деле модель знает истинное значение. У модели нет ни знания, ни понимания, что истинно, а что ложно, она просто говорит то, что вероятно. Что примечательно, так это то, что зачастую вероятное равно истинному.

Явление галлюцинаций в языковых моделях означает, что они способны быстро и массово генерировать недостоверную или ложную информацию. А это означает, что они могут и будут использованы в качестве массового оружия убеждения в политических и других кампаниях и доставят немало общественных проблем в следующем десятилетии. Обнаружить выдумки ChatGPT не так уж и сложно. Обратите внимание, что если вы попробуете это сделать в другом месте, то можете получить иной ответ, так как ChatGPT каждый раз выдает немного разные ответы.

Я: Расскажи про первого слона, переплывшего пролив Ла-Манш.

CHATGPT: Джамбо стал первым слоном, переплывшим пролив Ла-Манш. Африканский слон завоевал всемирную известность в XIX веке как участник циркового шоу под руководством Финеаса Тейлора Барнума. В рамках рекламного хода Барнума в 1882 году Джамбо вместе со своей коллегой слонихой Элис переплыл через Ла-Манш от Франции до Англии. Событие привлекло огромное внимание общественности и подчеркнуло значение Джамбо в массовой культуре.

К сведению, Джамбо был знаменитым слоном из лондонского зоопарка, проданного американскому предпринимателю Финеасу Тейлору Барнуму в 1882-м. Плавающий в Ла-Манше слон явно привлек бы внимание прессы, а фотографии этого происшествия появились бы в газетах. Я проверил архив The New York Times и не обнаружил ни одной записи о плавающем в Ла-Манше слоне.

Следующий пример того, что ChatGPT подсовывает выдумки.

Я: Расскажи про книгу “Faking It: Artificial Intelligence in a Human World”[74].

CHATGPT: “Faking It: Artificial Intelligence in a Human World” – книга, написанная Жанель Шейн в 2019 году. В своей книге она остроумно и в доступной форме исследует разные стороны искусственного интеллекта (ИИ) и его взаимодействие с человечеством.

Шейн углубляется в мир искусственного интеллекта, оценивая его успех, ошибки и особенности. Она рассказывает о том, как можно применить ИИ в реальном и повседневном мире, от беспилотных автомобилей и систем распознавания лиц до более причудливых способов использования, например о создании объектов искусства или написании поэзии. На протяжении всей книги Шейн показывает свое мастерское владение чувством юмора и шутит, чтобы продемонстрировать сложности и ограниченные возможности технологий.

Одна из главных идей книги заключается в том, что системы искусственного интеллекта часто отражают предубеждения и ограниченность своих человеческих создателей. Шейн подчеркивает случаи, когда ИИ-алгоритмы привели к неожиданным или непреднамеренным результатам из-за искаженных данных обучения или некорректного программирования. А также рассматривает этические проблемы, окружающих искусственный интеллект, включая вопросы о конфиденциальности, справедливости и ответственности.

В целом, книга предлагает увлекательное и заставляющее задуматься погружение в мир искусственного интеллекта, а также его влияние на общество, и приглашает читателей подумать о возможностях и проблемах, грядущих вследствие такой быстрой технологической эволюции.

И снова полнейшая чушь. Я-то знаю наверняка, поскольку это я написал книгу “Faking It: Artificial Intelligence in a Human World”, и опубликована она была в 2023 году, а не в 2019-м. В моей книге не рассказывается о распознавании лиц и едва ли упоминаются беспилотные автомобили. Центральными темами книги являются генеративность и природа искусственного интеллекта, а не предрассудки и ошибки в программировании.

Чтобы подлить масла в огонь, скажу, что ChatGPT не был полностью ошибочен в своем ответе. Жанель Шейн в самом деле написала книгу об искусственном интеллекте, только она называется «Кокетливый интеллект. Как научить искусственный интеллект флиртовать?» и была опубликована в 2019 году. С юмором и анекдотами автор подробно рассказывает о распознавании лиц и беспилотных автомобилях, а также обращает внимание, что зачастую галлюцинации ChatGPT могут быть вполне вероятными. Тем не менее вероятная чушь – наихудший вид обмана, поскольку люди склонны в него верить.

Я спросил ChatGPT о том, кто написал книгу “Faking It” еще несколько раз, и каждый раз я получал разные ответы. Следующим вариантом был философ