Ізраїльський вчений: "Ми сягнули точки, коли можемо зламати не лише комп'ютери, а й людський чи будь-який інший організм"

Юваль Ной Харарі - ізраїльський військовий історик медієвіст, професор історичного факультету Єврейського університету в Єрусалимі. Активіст захисту прав тварин, веган, гей. Його книжки "Sapiens: Коротка історія людства" (2011 р.) та "Homo Deus: Коротка історія завтрашнього дня" (2015 р) стали світовими бестселерами.

DT.UA пропонує читачам переклад виступу і відповідей на запитання у рамках Всесвітнього економічного форуму в Давосі нинішнього року - про розвиток технологій і про те, як це може вплинути на майбутнє життя.

Юваль Ной Харарі

freepictures.ru

"Я хотів би поговорити сьогодні про майбутнє видів і майбутнє самого життя. Ми, ймовірно, останнє покоління homo sapiens. Через століття чи два на Землі будуть домінувати сутності, які відрізнятимуться від нас більше, ніж ми відрізняємося від неандертальців чи шимпанзе.

Тому що найближчі покоління людей учитимуться, як інженерно розробляти тіла, мозок і думки. Це будуть головні продукти економіки у XXI ст. Не текстиль, автомобілі чи зброя, а тіла, мозок і думки. Але який же вигляд матимуть майбутні володарі планети?

Це вирішать люди, які володіють даними. Ті, хто контролює дані, контролює не лише майбутнє людства, а й майбутнє життя в цілому. Бо сьогодні дані - це найважливіший актив у світі. У стародавні часи земля була найважливішим активом. І коли надто багато землі опинялося в надто малій кількості рук, тоді людство розділялося на аристократів і простолюд. А в сучасні часи, впродовж останніх двох століть, уже не земля, а машини були найважливішим активом. І коли надто багато машин зосереджувалося в невеликій кількості рук, людство ділилося на класи, на капіталістів і пролетаріат. А тепер дані замінили машини, ставши найважливішим активом. І якщо надто багато даних буде зосереджено в надто малій кількості рук, людство поділиться, але не на класи, а на різні види.

Чому дані такі важливі? Тому що ми сягнули точки, коли можемо зламати не лише комп'ютери, а й людський чи будь-який інший організм. Сьогодні багато говорять про злами комп'ютерів чи електронних скриньок, банківських рахунків чи мобільних телефонів. Але насправді ми набуваємо здатності зламати людське єство.

Що ж потрібно для того, аби зламати людське єство? Потрібно дві речі: багато обчислювальної потужності і багато даних, зокрема біометричних. Не тих даних, які свідчать, що я купую й куди ходжу, а даних про те, що відбувається в моїх тілі та мозку. Досі ні в кого не було достатньої обчислювальної потужності чи даних, щоб зламати людство. Навіть радянське КДБ чи іспанська інквізиція, попри те, що стежили за людьми скрізь 24 години на добу, спостерігали за всім, що люди роблять, слухали все, що вони кажуть, - не мали потрібної обчислювальної потужності чи біологічних знань, аби дізнатися, що відбувається всередині людського тіла й мозку. Щоб зрозуміти, як люди почуваються, про що думають і чого хочуть. Але сьогодні ситуація змінюється завдяки двом революціям, які відбуваються одночасно. З одного боку, розвиток комп'ютерних наук, зокрема підйом машинного самонавчання і штучного інтелекту, дає нам потрібну обчислювальну потужність. І паралельно - успіхи в біології, особливо у сфері вивчення мозку, дають нам потрібне біологічне розуміння. Насправді 150 років біологічних досліджень, які проводилися з часів Чарльза Дарвіна, можна підсумувати трьома словами: "Організми - це алгоритми". Це великі біохімічні алгоритми. І ми вчимося, як їх розшифрувати.

Коли ж дві революції об'єднаються, коли інформаційно-технічна сплететься з біотехнічною, що ми отримаємо? Здатність зламати людське єство. І, мабуть, найважливіший винахід для того, хто об'єднуватиме біотехнології з інфотехнологіями, - це біометричний сенсор, що переводить біохімічні процеси в тілі й мозку в електронні сигнали, які комп'ютер може накопичувати й аналізувати. І коли такої біометричної інформації назбирається досить багато, а комп'ютерна потужність буде достатньою, можна створити алгоритми, які знають мене краще, ніж я знаю себе сам.

А люди насправді не знають себе. І саме тому алгоритм - це реальний шанс познайомитися з собою значно краще. Наприклад, коли мені виповнився 21 рік, я усвідомив, що я - гей. Це сталося після того, як я прожив кілька років у запереченні. І в цьому немає нічого надзвичайного. Багато геїв у світі живуть, заперечуючи себе, тому що не знають дечого дуже важливого про себе. А тепер уявіть собі ситуацію через 10 чи 20 років, коли алгоритм зможе точно сказати кожному підлітку, ким він чи вона є у спектрі між геєм та натуралом. Більше того, наскільки остаточна ця позиція. Алгоритм відстежить рух очей, кров'яний тиск, активність мозку і скаже, хто ви. Можливо, хтось особисто не захоче скористатися таким алгоритмом. А, можливо, перебуваючи на якійсь нудній вечірці, хтось із ваших друзів розповість про новий крутий алгоритм, який визначає сексуальну орієнтацію. І можна повеселитися, перевірившись усім присутнім, коли всі дивляться й коментують. Що ви зробите? Ви можете піти геть. Але навіть якщо ви підете, будете ховатися від своїх друзів і себе, - ви не зможете заховатися від Amazon, Alibaba чи спецслужб. Тоді як ви дивитеся відео, користуєтеся Інтернетом або читаєте стрічку новин у соціальних мережах, вони зчитуватимуть алгоритми руху ваших очей, ваш кров'яний тиск і активність мозку. І вони будуть знати. Вони зможуть розповісти Coca-Cola: "Якщо ви хочете продати цій людині сильно газований напій із цукром, не використовуйте в рекламі образ дівчини без сорочки. Розмістіть там краще хлопця без сорочки". Ви навіть не будете знати, що це відбувається. Але вони знатимуть. І ця інформація коштуватиме мільярди доларів.

Коли в нас будуть алгоритми, які розуміють мене краще, ніж я розумію себе сам, вони зможуть передбачити мої бажання, маніпулювати моїми емоціями й навіть приймати рішення від мого імені. І якщо ми не будемо досить обережними, в результаті може з'явитися така собі електронна диктатура.

У ХХ ст. демократія в цілому перемогла диктатуру, тому що краще обробляла дані й ухвалювала рішення. Ми звикли думати про диктатуру чи демократію з етичної чи політичної точок зору. Насправді ж це два різних способи обробки інформації. Демократія робить це розподіленим способом. Вона розділяє інформацію і повноваження ухвалювати рішення між багатьма інститутами й особами. Своєю чергою, диктатура концентрує всю інформацію і владу в одному місці. З огляду на технологічні умови ХХ ст., розподілена обробка даних працювала ефективніше, ніж централізована. І це одна з причин того, що демократія була ефективнішою, ніж диктатура, і що, наприклад, економіка США була кращою, ніж радянська. Але все це було так лише завдяки унікальним технологічним умовам ХХ ст.

У XXI ж нова технологічна революція, особливо штучний інтелект і самонавчання машин, можуть штовхнути маятник у протилежний бік. Вони можуть зробити централізовану обробку даних значно ефективнішою. І якщо демократії не вдасться адаптуватися до цих нових умов, людству доведеться жити в умовах правління електронної диктатури. Уже сьогодні ми можемо бачити формування дедалі складніших режимів нагляду по всьому світу, і не лише тоталітарними, а й демократичними урядами. США, приміром, будують глобальну систему стеження, а моя рідна країна, Ізраїль, намагається збудувати тотальний режим нагляду на Західному узбережжі.

Але контроль над даними дозволить людським елітам зробити щось навіть радикальніше. Зламавши організми, еліти отримають можливість змінити майбутнє життя в цілому. Якщо хтось може зламати щось, він зазвичай може це також перепрограмувати. І якщо ми справді досягнемо успіху в ламанні та програмуванні суті життя, це буде не просто найбільша революція в історії людства. Це буде також найбільша революція в історії біології з часів зародження життя 4 млрд років тому.

За 4 млрд років не відбулося жодних фундаментальних змін у базових правилах життя. Впродовж цього часу всі форми життя: динозаври, амеби, помідори, люди - були суб'єктами для природного відбору і законів органічної біохімії. Але тепер це може змінитися. Наука заміняє еволюцію через природний відбір на еволюцію через розумний задум. І йдеться не про задум розумного Бога в небі над хмарами, а про наш задум і наші хмари: IMB, Microsoft. Це тепер нові рушійні сили еволюції.

І водночас, після 4 млрд років біохімічних і органічних обмежень, наука дозволяє життю вирватися в неорганічний простір. Тож після мільярдів років органічного життя, сформованого природним відбором, ми входимо в еру неорганічного життя, сформованого розумним задумом. І саме тому володіти даними так важливо. Якщо ми не будемо регулювати їх, невелика група еліт зможе не просто контролювати майбутнє людського суспільства, а й сформувати життєві форми майбутнього.

Тож як регулювати право власності на дані? У нас було 10 тисяч років досвіду регуляції права власності на землю. У нас є кілька століть досвіду регулювання права власності на виробничі машини. Але в нас небагато досвіду в регулюванні власності на дані, що зробити значно важче. Бо, на відміну від землі й машин, дані скрізь і ніде водночас, вони рухаються зі швидкістю світла. І їх можна копіювати нескінченну кількість разів.

Тож дані про мою ДНК, мій мозок, моє тіло, моє життя належать мені - чи, може, уряду, корпораціям чи людству загалом? Сьогодні великі корпорації зберігають більшість даних, і люди починають непокоїтися через це. Але наділення урядів мандатами на націоналізацію даних може послабити владу великих корпорацій лише для того, щоб дозволити електронній диктатурі постати. Багато політиків справді схожі на музикантів. І їхній інструмент - це людська емоційна й біохімічна система. Політик виступає з промовою, провокуючи хвилю страху в країні. А твіт політика стає причиною спалаху ненависті та люті. Не думаю, що нам варто давати цим "музикантам" досконаліші інструменти. І тим більше не вважаю, що їм можна довірити майбутнє життя у Всесвіті. Особливо тому, що багато політиків і урядів не демонструють здатності запропонувати серйозне бачення майбутнього. Натомість вони продають суспільству ностальгічні фантазії про повернення в минуле. І як історик я можу сказати вам дві речі про минуле: по-перше, там не було добре, і вам не сподобається повертатися туди, а по-друге, воно не повернеться. Тому ностальгічні фантазії насправді не вихід.

Тож хто повинен володіти даними? Чесно кажучи, я не знаю. Думаю, дискусія тільки почалася. Більшість людей, коли чують про регуляцію даних, думають про приватність, шопінг, корпорації, які знають, куди всі ходять і що купують. Але все це - лише верхівка айсберга. На кону значно важливіші речі. Тож дискусія тільки почалася, і ми не можемо очікувати швидких відповідей. Тому нам краще покликати науковців, філософів, юристів і навіть поетів, щоб вони привернули увагу до цього важливого питання: "Як регулювати власність даних?" Майбутнє не лише людства, а й життя як такого може залежати від відповіді на це запитання."

- Як скоро ми зіштовхнемося з оцим усім, що ви описали?

- Думаю, йдеться про десятиліття. Гадаю, через 200 років жодних homo sapiens не залишиться, люди будуть абсолютно інші. А два роки - це надто мало. Ми говоримо про кілька десятиліть, однак ніхто не може сказати точно.

- Як гадаєте, десь у світі чи в академічних групах відбувається якась ґрунтовна дискусія про порушені вами питання?

- Думаю, світ поділений на дві дуже малі групи: одна з них - це люди й інститути, які розуміють, що відбувається і що на кону, а друга - більшість не лише простих людей, а й політиків і бізнесменів, котрі не дуже розуміють це. Вони щось чули про дані, захист цих даних, кібератаки, про те, що хтось може вкрасти їхні персональні дані чи доступ до банківського рахунку. Але, як я вже казав, це тільки верхівка айсберга. Я не знаю напевно, проте думаю, що великі корпорації, такі як Google і Facebook, розуміють, що на кону, як і деякі уряди, зокрема китайський. А більшість людей поняття не мають.

Біометричні дані - це ключ. Коли люди думають про дані, їм на гадку спадає інформація про те, куди вони ходять і що купують. Коли думають про злам, то уявляють собі комп'ютер. Вони говорять про штучний інтелект і про машинне навчання. Вони забувають іншу частину рівняння, в якій розміщені дослідження життя, мозку. Дослідження дають нам реальний доступ до мозку. І це те, що дехто намагається зламати.

- Рік тому в цьому залі я розмовляла з китайським чиновником. І він сказав тоді: "У вас на Заході є демократія, а в нас - соцмережі". Річ у тому, що Китай використовує соціальні мережі не лише для збору даних про своїх громадян, а й для заміру громадських настроїв, щоб бути на крок попереду й не допустити соціальних вибухів. Як гадаєте, Китай може бути місцем, де з'явиться електронна диктатура?

- Я не знаю. Як я вже казав, у вас є приклади на Заході. Зі свого боку, я краще знаю свою країну. Ізраїль справді будує тотальний режим спостереження на Західному узбережжі. І це щось, чого ми не бачили раніше ніде в історії. Система справді стежитиме за кожним і скрізь.

Ми насправді ще не перетнули критичну лінію біосенсора. У США, Ізраїлі чи Китаї вся справа досі в соціальних мережах, у моєму мобільному телефоні і стеженні за тим, куди я ходжу і як користуюся своєю кредитною картою. В нас усе ще немає технологій, із допомогою яких ми могли б залізти під шкіру. Але це питання, можливо, 5-10 років. Яскравий приклад. Уявіть, що ви живете в Північній Кореї. І у вас на руці є браслет, який постійно моніторить процеси всередині вашого тіла. І ось ви заходите в кімнату, де висить портрет вельмишановного лідера. А браслет буде фіксувати, що відбувається з вашими мозком, тиском, тілом, коли ви бачите це фото. Саме це й слід розуміти під терміном "електронна диктатура".

- Уявіть, що ви - диктатор, електронний чи ні. Щоб треба зробити для того, аби допомогти людству? Викинути всі ці біометричні пристрої?

- Ні, абсолютно неможливо повернутися назад, особливо у вимірі технологій та науки. Навіть якщо одна країна чи цілий континент злякається можливих наслідків і зупинить усі дослідження, не можна примусити інші країни зробити те ж саме. І тоді країни, які зупинилися, відстануть. Хіба що буде якийсь глобальний договір про те, як із цим упоратися, щоб жодна країна не лишилася на узбіччі технологічної гонки.

- Ви хочете, щоб контроль до рук узяли науковці? Чи ООН?

- Дискусія лише почалася. Не думаю, що треба панікувати. Спочатку слід бути поінформованими про те, з чим ми маємо справу. Існує багато ймовірностей, навіть технологічних. Коли ми говоримо про регулювання права власності на землю, то дуже чітко розуміємо, що це означає. Це як у вас є поле, ви будуєте паркан навколо і ворота, стаєте на воротах і кажете: "Добре, ось ти можеш зайти, а ти - ні. Це моє поле". Але що це означає для даних про мою ДНК чи про те, що відбувається в мене в мозку? Я хочу сказати, яка може бути аналогія паркану і воріт? Ми просто не розуміємо. Гадаю, ми опинилися в становищі, аналогічному становищу часів індустріальної революції 200 років тому. Потрібен певний час. Це як, знаєте, коли ви починаєте дискусію в класі, а потім хтось піднімає руку й запитує: "Ну гаразд, а що мені писати на контрольній?" Ні, ми ще не маємо відповідей. Нам спочатку потрібно обговорити тему. У мене немає всіх відповідей.

- Ваші уявлення про електронне суспільство не вписуються в картинку традиційних економістів. Значна частина електронного обміну сьогодні насправді не стосується грошей. Люди віддають дані в обмін на послуги. І це щось, чого жодна економічна модель не може зафіксувати зараз і, по-правді кажучи, жодна юридична модель теж. Коли ви дивитеся на цю проблему, вона не суто економічна й не суто комп'ютерна. Її не можна зарахувати до якоїсь конкретної дисципліни. Як гадаєте, університетам справді треба переосмислити категоризацію академіків? Хто може взяти на себе розмову про такі проблеми?

- Насправді всі. Сьогодні, якщо ти вчений у сфері комп'ютерних наук, ти мусиш бути певною мірою філософом і антропологом. Тепер це частина справи. Можливо, найбільша зміна, з цього погляду, відбудеться в системі охорони здоров'я. Велика битва за те, що ми сьогодні називаємо "приватністю", буде між приватністю і здоров'ям. Чи віддасте ви дані про процеси у вашому тілі й мозку в обмін на кращі медичні послуги? Гадаю, здоров'я переможе. Люди віддадуть свої дані за хороше медичне обслуговування. А подекуди в них, можливо, і вибору не буде. Приміром, вони не отримають страховку, не давши доступу до інформації про те, що відбувається всередині їхнього тіла.

- Коли йшлося про землю, ми називали це феодалізмом. В еру машин у нас був капіталізм і марксизм. Як ми назвемо нову еру "датаризму"?

- Так, я б спробував датаризм. Але слова живуть своїм життям. Яке слово приживеться, а яке ні - це питання випадковості.

Переклад Леся Диманя (DT.UA)