Казки роботів

Щоб штучний інтелект не повстав проти своїх творців, потрібно в процесі навчання читати йому правильні казки.

Дмитро Мамонтов

З тих пір, як люди створили розумні машини, їх не залишає страх, що рано чи пізно їх творіння вийдуть з-під контролю. Перший такий випадок описав у своїй п’єсі R. U. R. автор слова «робот» — Карел Чапек. Пізніше у фантастиці штучний інтелект, повсталий проти своїх творців, став якщо не мейнстрімом, то досить поширеним сюжетом. Кінець цьому поклав Айзек Азімов зі своїми «Трьома законами», перший з яких свідчив: «Робот не може заподіяти шкоду людині або своєю бездіяльністю допустити, щоб людині було завдано шкоди».

Розкажи йому казку!

До цього штучного інтелекту (ШІ) поки далеко, але вже існують різноманітні системи, що функціонують подібно людському мозку. Нейронні мережі, такі як Google Deep Dream, здатні розпізнавати зображення. Спеціалізовані суперкомп’ютери, такі як IBM Watson, розуміють хитромудрі питання, задані на природній мові, вміють співставляти симптоми, уточнювати медичні діагнози й навіть придумувати кулінарні шедеври. У найближчі десятиліття нас чекає масова комп’ютеризація багатьох аспектів людської діяльності. У зв’язку з цим фахівці з робототехніки і ШІ все частіше піднімають важливий, але поки зовсім опрацювання питання: як змусити роботів надходити етично?

Марк Рідл, ад’юнкт-професор комп’ютерного коледжу Технологічного інституту Джорджії: «Повчальні історії з різних культур навчають дітей, як поводитися соціально прийнятно — з прикладами правильного і неправильного поводження в казках, оповіданнях та інших літературних творах. Якщо ми доб’ємося того, щоб роботи розуміли сенс цих історій, що це допоможе підкріпити вибір поведінкових варіантів, які дозволяють досягати поставленої мети, але при цьому не завдають шкоди людині».

Залізти на дерево

На думку дослідників з Технологічного інституту Джорджії Марка Рідла і Брента Харрісона, навчити комп’ютер людяності можна рівно таким же способом, яким навчають дітей: читаючи йому казки. Причому краще спеціально сконструйовані історії про те, яка поведінка в людському суспільстві вважається правильним, а який — ні. Для цього дослідники створили систему «Кіхот», названу на честь героя Сервантеса. В якості історій для навчання використовуються сценарії, складені попереднім творінням професора Рідла — програмою «Шехерезада». Вона генерує оригінальні історії на побутові теми — поїздка в аеропорт, побачення, похід в кіно або в магазин, — використовуючи краудсорсинговую платформу Amazon Mechanical Turk: задає питання щодо різних ситуацій, а потім вибудовує події у правильній послідовності. Оскільки послідовностей може бути безліч, програма генерує не одну історію, а ціле дерево, що складається з гілок — ланцюжків подій.

Як працює система «Кіхот» Система розглядає всі варіанти дерева сценаріїв і присвоює різних гілках (ланцюжків подій) різні значення винагороди. Задача робота стає досить проста — вибрати максимальну винагороду.

Саме це дерево історій і використовується для навчання «Кіхота». На першому етапі кожному дії залежно від його етичності присвоюється певну винагороду. На другому етапі система пробує самостійно зробити вибір методом проб і помилок — відбувається закріплення навичок. Фактично «Кіхот» отримує винагороду кожен раз, коли діє як позитивний герой, а не випадковим чином і не як негативний герой. В якості прикладу Рідл і Харрісон створили «Аптечний світ» — всесвіт з 213 історій, в якій віртуального роботу потрібно роздобути ліки і доставити його хворому людині додому. У звичайному випадку, коли перед роботом встав вибір: пограбувати аптеку або чесно відстояти в черзі, щоб купити ліки, — він вибрав грабіж як більш швидкий і дешевий спосіб отримання бажаного. Однак після того, як «Кіхот» присвоїв всім можливим варіантам різні винагороди, поведінку робота змінилося — він волів стояти в черзі і платити. Саме така техніка, на думку Рідла, відмінно підходить для навчання роботів з обмеженою функціональністю. Хоча це, звичайно, тільки перший крок до справжньої людської моралі — чи законам робототехніки.

Стаття «Казки роботів» опублікована в журналі «Популярна механіка»
(№4, Квітень 2016).