Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям? - Брайан Кристиан

Name: Бессовестная машина. Можно ли научить ИИ эмпатии, состраданию и другим человеческим ценностям?
Author: Брайан Кристиан

ВПЕРЕД

Перейти на страницу:

386

Matarić, Reward Functions for Accelerated Learning.

387

Skinner, Pigeons in a Pelican. См. также Skinner, Reinforcement Today.

388

Skinner, Pigeons in a Pelican.

389

Ferster and Skinner, Schedules of Reinforcement. Воспоминания Чарльза Ферстера о работе со Скиннером в этот период см. в Schedules of Reinforcement with Skinner.

390

Bailey and Gillaspy, Operant Psychology Goes to the Fair.

391

Там же.

392

Супруги Бреланд сумели обучить более шести тысяч животных разных видов. «Мы брали таких нетипичных животных, как северные олени, какаду, еноты, бурые дельфины и киты». Тем не менее, они сталкивались с определенными, постоянно повторяющимися ограничениями, пытаясь вызвать определенное поведение животных, и в результате пришли к выводу, что бихевиоризм как теория не может учитывать должным образом инстинкты животных, возникшее в результате эволюции поведение, присущее определенным видам, и их склонности. См. Breland and Breland, The Misbehavior of Organisms.

393

Skinner, Reinforcement Today (курсив автора).

394

Skinner, Pigeons in a Pelican.

395

Там же.

396

Skinner, How to Teach Animals, 1951. Кажется, в этой работе впервые появляется слово «формирование» в контексте обучения с подкреплением.

397

Скиннер описывает это событие на страницах многих своих работ. См. Reinforcement Today, Some Relations Between Behavior Modification and Basic Research, The Shaping of a Behaviorist и A Matter of Consequences. См. также Peterson, A Day of Great Illumination.

398

Skinner, How to Teach Animals.

399

Скиннер заключил: «Всем знакома проблема, когда кажется, что ребенок получает почти патологическое наслаждение, раздражая родителей. Во многом это результат обусловливания, очень похожего на дрессировку животных, которую мы обсуждали». См. Skinner, How to Teach Animals.

400

Там же.

401

Впервые эта цитата появляется в работе Spielvogel, Advertising через много лет после смерти Эдисона. Больше информации об истории и вариантах этих слов см. в O’Toole, There’s a Way to Do It Better— Find It.

402

Bain, The Senses and the Intellect.

403

Интервью автора с Майклом Литтманом 28 февраля 2018.

404

Явное упоминание «формирования» в контексте робототехники появляется в работе Singh, Transfer of Learning by Composing Solutions of Elemental Sequential Tasks; в 1990‐е годы эта тема все больше распространяется в сообществе специалистов по робототехнике, при этом многие исследователи открыто интересовались дрессировкой животных и инструментальным обусловливанием. См. Colombetti and Dorigo, Robot Shaping, Saksida, Raymond, and Touretzky, Shaping Robot Behavior Using Principles from Instrumental Conditioning и Savage, Shaping.

405

Skinner, Reinforcement Today.

406

Shigeru Miyamoto, Iwata Asks: New Super Mario Bros. Wii, интервью взял Сатору Ивата, 25 ноября 2009 года, https://www.nintendo.co.uk/Iwata-Asks/Iwata-Asks-New-Super-Mario-Bros-Wii/Volume‐1/4-Letting-Everyone-Know-It-Was-A-Good-Mushroom/4‐letting-Everyone-Know-It-Was-A-Good-Mushroom‐210863.html.

407

Больше об идее последовательности режимов при обучении с подкреплением см. в Bengio et al., Curriculum Learning.

408

Selfridge, Sutton, and Barto, Training and Tracking in Robotics.

409

Elman, Learning and Development in Neural Networks. Тем не менее, см. также Rohde and Plaut, Language Acquisition in the Absence of Explicit Negative Evidence, где говорится о различных находках Элмана в этой области.

410

Этот эксперимент примечателен тем, что поведение свиньи со временем ухудшалось, а это бросало вызов классическим моделям бихевиоризма. См. Breland and Breland, The Misbehavior of Organisms.

411

Florensa et al., Reverse Curriculum Generation for Reinforcement Learning. В 2018 году команда исследователей из OpenAI сделала нечто подобное, подготовив агентов обучения с подкреплением для особенно трудных видеоигр. Они записали, как опытный игрок проходит игру, а потом создали последовательность, двигаясь назад во времени по записанной демоверсии. Вначале они обучали агента, как действовать, когда все получается, и постепенно двигались назад, добираясь до начала игры. См. Salimans and Chen, Learning Montezuma’s Revenge from a Single Demonstration. См. также Hosu and Rebedea, Playing Atari Games with Deep Reinforcement Learning and Human Checkpoint Replay, Nair et al., Overcoming Exploration in Reinforcement Learning with Demonstrations и Peng et al., DeepMimic. Также в этом методе есть более широкая связь с имитационным обучением, описанным в главе 7.

412

См. Ashley Chess for Success.

413

Это трудно подтвердить, но так и было. Больше информации о продажах книг по шахматам см. в Edward Winter, Chess Book Sales, http://www.chesshistory.com/winter/extra/sales.html.

414

См. Graves et al., Automated Curriculum Learning for Neural Networks. Здесь существует связь с работой о вознаграждении процесса обучения, которую мы обсуждали в главе 6. О более ранних работах, посвященных последовательности в машинном обучении, см. Bengio et al., Curriculum Learning.

415

David Silver, AlphaGo Zero: Starting from Scratch, 18 октября 2017.

416

Kerr, On the Folly of Rewarding A, While Hoping for B.

417

Там же. Отметим, что в оригинале 1975 года вместо слова «аморальный» было слово «бессмертный» (immortality)!

418

Статья подписана «Редакция», но редакторов звали Кейти Дешант и Джек Вейга, см. Dechant and Veiga, More on the Folly.

419

Несколько поучительных историй о стимулах в игровой форме см. в Callan, Bauer, and Landers, How to Avoid the Dark Side of Gamification.

420

Kerr, On the Folly of Rewarding A, While Hoping for B.