Юваль Ної Харарі: “Штучний інтелект загрожує людству”

Він – один з найвпливовіших мислителів нашого часу. До нього прислухаються глави держав та керівники найбільших світових компаній. Юваль Ної Харарі – 43-річний ізраїльський історик, професор Єврейського університету в Єрусалимі, автор ряду книг, що стали світовими бестселерами. Ми поговорили з ним після його лекції в Будапешті.

Габор Кісс, Euronews: “Пане Харарі, спасибі, що прийшли до нас на “Глобальний діалог”. Давайте почнемо зі ставок! Напередодні європейських парламентських виборів майбутнє ЄС перебуває в центрі дискусій. Скільки ви готові поставити на те, що через 15 років Євросоюз все ще буде існувати?”

Юваль Ної Харарі: “Я не знаю. Як історик, я можу сказати, що не можна передбачити майбутнє таких речей. Дуже часто відбуваються самі несподівані події. І це єдине, що дійсно надійно в історії. За кілька місяців до революції 1989 року у Східній Європі цього ніхто не очікував. П’ятьма роками раніше це взагалі було б схоже на наукову фантастику. Так само і з майбутнім ЄС – його не можна передбачити. Я сподіваюся, що виборці приймуть правильні рішення і збережуть Євросоюз, тому що це важливо не тільки для миру в Європі – процвітання Європи важливо для всього світу і його процвітання”.

Габор Кісс: “У своїх книгах ви підкреслювали, що глобальні виклики можуть бути вирішені тільки шляхом співробітництва. Але зараз здається, що співпраця у всьому світі – складний процес. У всій Європі посилився націоналізм. Як ви думаєте, чому він став популярним і яким повинен бути відповідь на нього?”

Юваль Ної Харарі: “Люди повинні розуміти, що людство стикається з трьома погрозами його існування, які не можуть бути зняті на національному рівні. Вони можуть бути усунуті тільки на глобальному рівні. Ці загрози – ядерна війна, зміна клімату і технологічне руйнування, особливо розвиток штучного інтелекту та біоінженерії. Штучний інтелект і біотехнологія можуть зруйнувати те, що значить бути людиною. Єдиний спосіб з цим впоратись – це глобальне співробітництво. Якщо ми почнемо гонку озброєнь в області штучного інтелекту або в генетиці, це гарантує знищення людства. Хто б не переміг в цій гонці, це не має значення – програє людство”.

Габор Кісс: “Небезпечними можуть бути бінарне мислення і націоналізм”.

Юваль Ної Харарі: “У націоналізму є хороша і погана боку. Націоналізм – одне з найбільш позитивних проявів в історії людства, але у нього є і небезпечна сторона. Позитивною стороною націоналізму є те, що він дозволяє мільйонам незнайомих людей піклуватися один про одного і співпрацювати. Інша сторона, зла сторона націоналізму – це ненависть до іноземців. Я думаю, що сутність націоналізму не в цьому. Частина проблем, з якими сьогодні стикаються в певних частинах світу, полягає у тому, що замість того, щоб зосередитися на любові до своїх співвітчизників, знаходяться люди, які фокусуються на ненависті до іноземців. Є люди, які можуть бути корумпованими, крадуть гроші з системи охорони здоров’я – вони насправді не просувають інтереси своїх співгромадян. Але в той же час вони уявляють себе великими патріотами. Чому? Тому що вони ненавидять іноземців”.

Габор Кісс: “Багато людей прагнуть зміцнювати і підтверджувати свої переконання замість того, щоб читати заслуговують довіри новини. Як можна повернутися до раціональних дискусій, коли деякі лідери уникають значущих відповідей і шукають козлів відпущення, таких як Джордж Сорос, Фетхуллах Гюлен або ліберали?”

Юваль Ної Харарі: “Це не новий трюк, так завжди було. Сьогоднішня новинка – це неймовірно потужні нові технології для захоплення і зловживання людською увагою. Проблема, з якою ми стикаємося зараз, полягає в тому, що технології беруть верх над нашими слабкостями. Зараз у нас є потужні технології, які можуть виявити наші слабкості – те, що ми відчуваємо, що ненавидимо, і привернути нашу увагу, натискаючи ці емоційні кнопки. Одна з причин, по якій нам треба регулювати ці небезпечні технології, полягає в тому, щоб захистити людей від злому, експлуатації, захистити увагу людей від зловживань”.

Габор Кісс: “чи Не боїтеся ви, що диктатури в оруэлловском стилі будуть зловживати великими особистими даними?”

Юваль Ної Харарі: “Я дуже цього боюся. Я думаю, що зараз технологія дозволяє створювати набагато більше тоталітарних режимів, ніж будь-коли раніше в історії людства. Навіть екстремальних, ніж те, що представляв Джордж Оруелл. Тому що Оруелл уявив собі ситуацію, в якій існує тоталітарний режим, який стежить за вами весь час, але тільки в зовнішньому світі – що ви робите, куди йдете, з ким зустрічаєтеся, що ви говорите. Зараз ми отримали технологію, що дозволяє цілодобово контролювати людей, все населення, навіть те, що відбувається всередині їхніх тіл – з датчиками і біометричними з поєднанням штучного інтелекту та біотехнології. Наприклад, в Китаї вже є школи, де учні мають біометричні браслети. Зараз вони говорять, що використовують в освітніх цілях. Учитель знає, засипаєте ви, сумуєте, чи виникають у вас труднощі. Але та ж технологія може бути використана в політичних цілях. Те, що ми бачили в 20-му столітті на прикладах Сталіна, Гітлера або Мао, буде нічим у порівнянні з машинами такого типу, які вже почали будувати сьогодні”.

Габор Кісс: “З якими небезпеками ми зіткнемося, якщо знайдеться еліта, яка зможе дозволити собі продовжити життя і пригнічувати даремні маси?”

Юваль Ної Харарі: “Якщо ми не будемо правильно використовувати нові технології, то результатом стане те, що ви описуєте. Біотехнологія буде використовуватись для наділення невеликий еліти надлюдським статусом, у якої більшість людей залишиться далеко позаду. Тобто відбудеться поділ людства між різними видами, і вперше в історії багаті будуть відрізнятися від бідних. Це найбільше нерівність в історії. Багато робочих місць зникне, але з’являться нові робочі місця. Дійсно великою проблемою не буде повна відсутність робочих місць, а перепідготовка людей. Люди повинні змінювати свою роботу знову і знову, і знову, щоб вчитися все життя. В даний час система освіти їх до цього не готує”.

Габор Кісс: “Наостанок кілька особистих питань. Як на ваші думки, як громадянина Ізраїлю, впливає постійний шум рвуться снаряди і сирен?”

Юваль Ної Харарі: “Я не чую це постійно, це трапляється час від часу. Ситуація в Газі справді жахлива для людей, що живуть там, але в Ізраїлі більшість людей велику частину часу живуть цілком нормальним життям. Це, безумовно, впливає на моє мислення. Я думаю, що я набагато менш наївний у багатьох питаннях. Якщо б я жив у Сан-Франциско в Каліфорнії, я міг би легко захопитися цими райдужними враженнями – “так, технології прекрасні, вони роблять стільки чудового для людства”. Якщо ви живете в Ізраїлі, ви розумієте, що у людства багато темних сторін”.

Габор Кісс: “Ви проводите тривалі медитативні відступу кожен рік. Як після цього ви повертаєтеся до повсякденного життя?”

Юваль Ної Харарі: “Все так швидко змінюється – технології, політика… Зараз як ніколи важливо зробити перерву, повністю відключитися, щоб дати собі час і дійсно пізнати себе, щоб глибоко замислитися над цими питаннями. У нас майже немає часу ні на що. А нам необхідно прийняти найважливіші рішення в історії людства в найближчі кілька років. Зараз у нас є божественні сили-творення і руйнування. І люди, а не боги повинні вирішити, що з ними робити. Для мене одна з проблем, коли я зустрічаюся з цими важливими людьми – я недавно зустрівся з головою Facebook Марком Цукербергом та канцлером Австрії Себастьяном Курцем, – одна з моїх проблем полягає в тому, що у цих лідерів немає часу. У них просто немає часу сидіти, відпочивати і глибоко замислюватися. Тому що вони завжди поспішають вирішити той чи інший криза”.