Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан
579
Bain, The Senses and the Intellect.
580
Kimball and Zaveri, Tim Cook on Data-Leak Scandal.
581
Ross and Bagnell, Efficient Reductions for Imitation Learning. В статье обсуждается выбранная авторами архитектура: трехслойная нейросеть, получающая цветные изображения 24 на 18 пикселей, с 32 скрытыми элементами и 15 выходными модулями. Pomerleau, Knowledge-Based Training of Artificial Neural Networks for Autonomous Robot Driving. В статье обсуждается архитектура ALVINN, получающая черно-белые изображения 30 на 32 пикселя с 4 скрытыми элементами и 30 выходными модулями.
582
Pomerleau.
583
Pomerleau, ALVINN.
584
Интервью автора со Стефаном Россом, 29 апреля 2019.
585
См. Ross and Bagnell, Efficient Reductions for Imitation Learning.
586
См. Ross, Gordon, and Bagnell, A Reduction of Imitation Learning and Structured Prediction to No-Regret Online Learning. Более ранние подходы см. в Ross and Bagnell, Efficient Reductions for Imitation Learning.
587
Bojarski et al., End to End Learning for Self-Driving Cars. Далее команда Nvidia с помощью Photoshop увеличила изображение с боковой камеры, чтобы рассмотреть с разных углов. Их сдерживали те же ограничения, что и изображения для ALVINN, но они оказались достаточно хороши на практике. Больше неформальных дискуссий на тему см. в вышеуказанной статье.
588
См. LeCun et al., Backpropagation Applied to Handwritten Zip Code Recognition.
589
Мердок А. Колокол. – Пер. Рединой О. Н. – М.: АСТ, 2022.
590
Robert Hass, Breach and Orison, in Time and Materials.
591
Настоящий материал (информация) произведен, распространен и (или) направлен иностранным агентом Каспаровым Гарри Кимовичем либо касается деятельности иностранного агента Каспарова Гарри Кимовича, содержащегося в реестре иностранных агентов. – Прим. ред.
592
Каспаров Г. Шахматы как модель жизни. – М.: Эксмо, 2007.
593
Интервью автора с Холли Смит, 13 мая 2019.
594
См. опубликованную под именем Холли С. Голдман статью Holly S. Goldman, Dated Rightness and Moral Imperfection. См. также Sobel, Utilitarianism and Past and Future Mistakes.
595
См. Goldman, Doing the Best One Can. Имя «профессор Прокрастинатор» появилось позднее, в работе Jackson and Pargetter, Oughts, Options, and Actualism. Джексон вернулся к этим идеям в Procrastinate Revisited.
596
Термины «поссибилизм» и «актуализм» появились в статье Jackson and Pargetter, Oughts, Options, and Actualism.
597
Взгляды Смит в пользу поссибилизма см. в Goldman, Doing the Best One Can. Краткий обзор по теме, написанный десятилетия спустя см. в Smith, Possibilism, а более подробное и современное мнение в Timmerman and Cohen, Actualism and Possibilism in Ethics. Особенно интересные проблемы см. в Bykvist, Alternative Actions and the Spirit of Consequentialism, p. 50.
598
Спасибо Джо Карлсмиту за обсуждение этой темы и связанных с ней вопросов. В современной философской литературе порой открыто обсуждаются связи между поссибилизмом, актуализмом и эффективным альтруизмом. См. Timmerman, Effective Altruism’s Underspecification Problem.
599
Singer, Famine, Affluence, and Morality, см. также Singer, The Drowning Child and the Expanding Circle.
600
Julia Wise, Aim High, Even If You Fall Short, Giving Gladly (блог), 8 октября 2014. http://www.givinggladly.com/2014/10/aim-high-even-if-you-fall-short.html.
601
Will MacAskill, The Best Books on Effective Altruism, интервью Эдуарда Мэттью, Five Books, https://fivebooks.com/best-books/effective-altruism-willmacaskill/. См. также организацию Giving What We Can, основанную Макаскиллом и его коллегой Тоби Ордом после того, как Орд, вдохновленный примером Сингера и других людей, решил пожертвовать значительную часть своего дохода на благотворительность.
602
См. Singer, The Most Good You Can Do.
603
Канонический метод «политики включения» в обучении с подкреплением – это SARSA, сокращение от State-Action-Reward-State-Action (Состояние – Действие – Вознаграждение – Состояние – Действие); см. Rummery and Niranjan, On-Line Q-Learning Using Connectionist Systems. Канонический метод «политики выключения» называется Q-обучение; см. Watkins, Learning from Delayed Rewards и Watkins and Dayan, Q-Learning.
604
См. Саттон Р. С., Барто Э. Дж. Обучение с подкреплением: Введение. 2‐е изд. – Пер. с англ. А. А. Слинкина. – М.: ДМК Пресс, 2020.
605
В этическом контексте философ Розалинд Херстхаус рассматривает этику добродетели как подвид имитационного обучения; см. Hursthouse, Normative Virtue Ethics. Разумеется, как отмечают и Херстхаус, и ее критики, существует множество трудностей, как теоретических, так и практических, см. Johnson, Virtue and Right. Другой взгляд на то, почему подражание якобы идеальным ролевым моделям не такая уж хорошая идея, см. в Wolf, Moral Saints.
606
Lipsey and Lancaster, The General Theory of Second Best.
607
Личная переписка с Амандой Аскелл.
608
См. Balentine, It’s Better to Be a Good Machine Than a Bad Person.
609
Магнус Карлсен во время пресс-конференции после пятой игры Чемпионата мира по шахматам 2018 года, Лондон, 15 ноября 2018.
610
Heuristics.
611
Там же.
612
См. Samuel, Some Studies in Machine Learning Using the Game of Checkers.
613
Больше об архитектуре Deep Blue см. Campbell, Hoane, and Hsu, Deep Blue. О дополнительной обработке настройки оценочной эвристической функции через использование игр гроссмейстеров см. объяснение, которое дал программист Андреас Новатсюк в Eval Tuning in Deep Thought, Chess ProgrammingWiki, https://www.chessprogramming.org/Eval_Tuning_in_Deep_Thought. Краткую характеристику прогресса команды IBM в 1990 году в работе над программой, в те времена носившей название Deep Thought, а также обсуждение решения об автоматической настройке весовых параметров (тогда их было 120) базы данных экспертных игр (тогда 900) см. в Hsu et al., A Grandmaster Chess Machine, а также в Byrne, Chess-Playing Computer Closing in on Champions. Больше информации о настройке оценочной функции Deep Blue (и ее предшественницы Deep Thought) см. Anantharaman, Evaluation Tuning for Computer Chess.
