Израильский ученый: "Мы достигли точки, когда можем взломать не только компьютеры, но и человеческий или любой другой организм"

Юваль Ной Харари - израильский военный историк-медиевист, профессор исторического факультета Еврейского университета в Иерусалиме. Активист защиты прав животных, веган, гей. Его книги "Sapiens: Короткая история человечества" (2011 г.) и "Homo Deus: Короткая история завтрашнего дня" (2015 г.) стали мировыми бестселлерами.

ZN.UA предлагает читателям перевод его выступления и ответов на вопросы в рамках Всемирного экономического форума в Давосе этого года - о развитии технологий и о том, как это может повлиять на будущее жизни.

Юваль Ной Харари

freepictures.ru

"Я хотел бы поговорить сегодня о будущем видов и о будущем самой жизни. Мы, вероятно, последнее поколение homo sapiens. Через столетие или два на Земле будут доминировать сущности, которые будут отличаться от нас больше, чем мы отличаемся от неандертальцев или шимпанзе.

Потому что ближайшие поколения людей будут учиться, как инженерно разрабатывать тела, мозг и мысли. Это будут главные продукты экономики в XXI в. Не текстиль, автомобили или оружие, а тела, мозг и мысли. Но как же будут выглядеть будущие обладатели планеты?

Это решат люди, владеющие данными. Те, кто контролирует данные, контролирует не только будущее человечества, но и будущую жизнь в целом. Потому что сегодня данные - это самый важный актив в мире. В древние времена земля была самым важным активом. И когда слишком много земли оказывалось в слишком малом количестве рук, тогда человечество разделялось на аристократов и простонародье. А в нынешние времена, в течение последних двух столетий, уже не земля, а машины были самым важным активом. И когда слишком много машин сосредоточивалось в небольшом количестве рук, человечество делилось на классы, на капиталистов и пролетариат. А теперь машины заменили данные, став самым важным активом. И если чересчур много данных будет сосредоточено в слишком небольшом количестве рук, человечество разделится, но не на классы, а на разные виды.

Почему данные столь важны? Потому что мы достигли точки, когда можем взломать не только компьютеры, но и человеческий или любой другой организм. Сегодня много говорят о взломах компьютеров или электронных ящиков, банковских счетов или мобильных телефонов. Но на самом деле мы приобретаем способность взломать человеческое естество.

Что же нужно для того, чтобы взломать человеческое естество? Нужны две вещи: много вычислительной мощности и много данных, в частности биометрических. Не данных о том, что я покупаю и куда хожу, а данных о том, что происходит в моих теле и мозге. До сих пор ни у кого не было достаточной вычислительной мощности или данных, чтобы взломать человечество. Даже советское КГБ или испанская инквизиция, несмотря на то, что повсюду следили за людьми 24 часа в сутки, наблюдали за всем, что люди делают, слушали все, что они говорят, - не имели нужной вычислительной мощности или биологических знаний, чтобы узнать, что происходит внутри человеческого тела и мозга. Чтобы понять, как люди чувствуют себя, о чем думают и чего хотят. Но сегодня ситуация меняется благодаря двум происходящим одновременно революциям. С одной стороны, развитие компьютерных наук, в частности подъем машинного самообучения и искусственного интеллекта, дает нам нужную вычислительную мощность. И параллельно - успехи в биологии, особенно в сфере изучения мозга, дают нам нужное биологическое понимание. На самом деле 150 лет биологических исследований, проведенных со времен Чарльза Дарвина, можно подытожить тремя словами: "Организмы - это алгоритмы". Это великое открытие современной науки. Все организмы: вирусы ли, бананы ли, люди ли – все они - большие биохимические алгоритмы. И мы учимся, как их расшифровать.

Когда же две революции объединятся, когда информационно-техническая сплетется с биотехнической, что мы получим? Способность взломать человеческое естество. И, наверное, самое важное изобретение для того, кто будет объединять биотехнологии с инфотехнологиями, - это биометрический сенсор, переводящий биохимические процессы в теле и мозге в электронные сигналы, которые компьютер может накапливать и анализировать. И когда такой биометрической информации наберется довольно много, а компьютерная мощность будет достаточной, можно создать алгоритмы, которые знают меня лучше, чем я знаю себя сам.

А люди на самом деле не знают себя. И именно поэтому алгоритм - это реальный шанс познакомиться с собой значительно лучше. Например, когда мне исполнился 21 год, я осознал, что я - гей. Это произошло после того, как я прожил несколько лет в отрицании. И в этом нет ничего необычного. Многие геи в мире живут, отрицая себя, поскольку не знают чего-то очень важного о себе. А теперь представьте себе ситуацию спустя 10 или 20 лет, когда алгоритм сможет точно сказать каждому подростку, кем он или она является в спектре между геем и натуралом. Более того, насколько окончательна эта позиция. Алгоритм отследит движение глаз, кровяное давление, активность мозга и скажет, кто вы. Возможно, кто-то не захочет сам воспользоваться таким алгоритмом. Но, возможно, находясь на какой-то скучной вечеринке, кто-то из ваших друзей расскажет о новом крутом алгоритме, который определяет сексуальную ориентацию. И можно повеселиться, проверив всех присутствующих, когда все смотрят и комментируют. Что вы сделаете? Вы можете уйти. Но даже если вы уйдете, будете прятаться от своих друзей и от себя, - вы не сможете спрятаться от Amazon, Alibaba или спецслужб. Пока вы смотрите видео, пользуетесь Интернетом или читаете ленту новостей в социальных сетях, они будут считывать алгоритмы движения ваших глаз, ваше кровяное давление и активность мозга. И они будут знать. Они смогут рассказать Coca-Cola: "Если вы хотите продать этому человеку сильно газированный напиток с сахаром, не используйте в рекламе образ девушки без рубашки. Разместите там лучше парня без рубашки". Вы даже не будете знать, что это происходит. Но они будут знать. И эта информация будет стоить миллиарды долларов.

Когда у нас будут алгоритмы, которые понимают меня лучше, чем я понимаю себя сам, они смогут предвидеть мои желания, манипулировать моими эмоциями и даже принимать решения от моего имени. И если мы не будем достаточно осторожны, в результате может появиться такая себе электронная диктатура.

В ХХ в. демократия в целом победила диктатуру, поскольку лучше обрабатывала данные и принимала решение. Мы привыкли думать о диктатуре или демократии с этической или политической точек зрения. На самом же деле это два разных способа обработки информации. Демократия делает это распределенным способом. Она разделяет информацию и полномочия принимать решения между многими институтами и лицами. В свою очередь диктатура концентрирует всю информацию и власть в одном месте. Учитывая технологические условия ХХ в., распределенная обработка данных работала эффективнее, чем централизованная. И это одна из причин того, что демократия была более эффективной, чем диктатура, и что, например, экономика США была лучше, чем советская. Но все это было так только благодаря уникальным технологическим условиям ХХ в.

В XXI же веке новая технологическая революция, особенно искусственный интеллект и самообучение машин, могут толкнуть маятник в противоположную сторону. Они могут сделать централизованную обработку данных значительно более эффективной. И если демократии не удастся адаптироваться к этим новым условиям, человечеству придется жить в условиях правления электронной диктатуры. Уже сегодня мы можем видеть формирование все более сложных режимов надзора по всему миру, и не только тоталитарными, но и демократическими правительствами. США, например, строят глобальную систему слежения, а моя родная страна, Израиль, пытается выстроить тотальный режим надзора на Западном побережье.

Но контроль над данными позволит человеческим элитам сделать нечто даже более радикальное. Взломав организмы, элиты получат возможность изменить будущую жизнь в целом. Если кто-то может взломать что-то, он обычно может это также перепрограммировать. И если мы в самом деле достигнем успеха в ломке и программировании сути жизни, это будет не просто самая большая революция в истории человечества. Это будет также самая большая революция в истории биологии со времен зарождения жизни 4 млрд лет назад.

За 4 млрд лет не произошло никаких фундаментальных изменений в базовых правилах жизни. В течение этого времени все формы жизни: динозавры, амебы, помидоры, люди - были субъектами для естественного отбора и законов органической биохимии. Но теперь это может измениться. Наука заменяет эволюцию через естественный отбор эволюцией через разумный замысел. И речь идет не о замысле разумного Бога в небе над облаками, а о нашем замысле и наших облаках: IMB, Microsoft. Это теперь новые движущие силы эволюции.

И вместе с тем, после 4 млрд лет биохимических и органических ограничений, наука позволяет жизни вырваться в неорганическое пространство. Поэтому после миллиардов лет органической жизни, сформированной естественным отбором, мы входим в эру неорганической жизни, сформированной разумным замыслом. И именно поэтому владеть данными столь важно. Если мы не будем регулировать их, небольшая группа элит сможет не просто контролировать будущее человеческого общества, но и сформировать жизненные формы будущего.

Так как регулировать право собственности на данные? У нас было 10 тысяч лет опыта регуляции права собственности на землю. У нас есть несколько столетий опыта регулирования права собственности на производственные машины. Но у нас немного опыта в регулировании собственности на данные, что сделать значительно труднее. Потому что, в отличие от земли и машин, данные везде и в то же время нигде, они движутся со скоростью света. И их можно копировать бесконечное количество раз.

Данные о моей ДНК, моем мозге, моем теле, моей жизни принадлежат мне - или, может, правительству, корпорациям или человечеству в целом? Сегодня крупные корпорации сохраняют большинство данных, и люди начинают беспокоиться из-за этого. Но наделение правительств мандатами на национализацию данных может ослабить власть крупных корпораций только для того, чтобы позволить электронной диктатуре появиться. Многие политики на самом деле похожи на музыкантов. И их инструмент - это человеческая эмоциональная и биохимическая система. Политик выступает с речью, провоцируя волну страха в стране. А твит-политика становится причиной вспышки ненависти и злости. Не думаю, что нам следует давать этим "музыкантам" более совершенные инструменты. И тем более не считаю, что им можно доверить будущую жизнь во Вселенной. Особенно потому, что многие политики и правительства не демонстрируют способности предложить серьезное видение будущего. Вместо этого они продают обществу ностальгические фантазии о возвращении в прошлое. И как историк я могу сказать вам две вещи о прошлом: во-первых, там не было хорошо, и вам не понравится возвращаться туда, а во-вторых, оно не вернется. Поэтому ностальгические фантазии на самом деле не выход.

Итак, кто должен владеть данными? Честно говоря, я не знаю. Думаю, дискуссия только началась. Большинство людей, когда слышат о регуляции данных, думают о приватности, шопинге, корпорациях, которые знают, куда все ходят и что покупают. Но все это - только верхушка айсберга. На кону значительно более важные вещи. Да, дискуссия только началась, и мы не можем ожидать быстрых ответов. Поэтому нам лучше позвать ученых, философов, юристов и даже поэтов, чтобы они привлекли внимание к этому важному вопросу: "Как регулировать собственность данных?" Будущее не только человечества, но и жизнь как таковая может зависеть от ответа на этот вопрос."

- Как скоро мы столкнемся с этим всем, вами описанным?

- Думаю, речь идет о десятилетиях. Думаю, через 200 лет никаких homo sapiens не останется, люди будут абсолютно другими. А два года - это слишком мало. Мы говорим о нескольких десятилетиях, однако никто не может сказать точно.

- Как думаете, где-то в мире или в академических группах происходит какая-то основательная дискуссия о затронутых вами вопросах?

- Думаю, мир разделен на две очень небольшие группы: одна из них - это люди и институты, понимающие, что происходит и что на кону, а вторая - большинство не только простых людей, но и политиков и бизнесменов, которые не очень понимают это. Они что-то слышали о данных, защите этих данных, кибератаках, о том, что кто-то может украсть их персональные данные или доступ к банковскому счету. Но, как я уже говорил, это только верхушка айсберга. Я не знаю наверняка, однако думаю, что крупные корпорации, такие как Google и Facebook, понимают, что на кону, как и некоторые правительства, в частности китайское. Но большинство людей понятия не имеют.

Биометрические данные - это ключ. Когда люди думают о данных, им в голову приходит информация о том, куда они ходят и что покупают. Когда думают о взломе, то представляют себе компьютер. Они говорят об искусственном интеллекте и о машинном обучении. Они забывают другую часть уравнения, в которой находятся исследования жизни, мозга. Исследования дают нам реальный доступ к мозгу. И это то, что кое-кто пытается взломать.

- Год назад в этом зале я беседовала с китайским чиновником. И он сказал тогда: "У вас на Западе есть демократия, а у нас - соцсети". Дело в том, что Китай использует социальные сети не только для сбора данных о своих гражданах, но и для замера общественных настроений, чтобы быть на шаг впереди и не допустить социальных взрывов. Как думаете, Китай может быть местом, где появится электронная диктатура?

- Я не знаю. Как я уже говорил, у вас есть примеры на Западе. Со своей стороны, я лучше знаю свою страну. Израиль в самом деле строит тотальный режим наблюдения на Западном побережье. И это то, чего мы не видели раньше нигде в истории. Система в самом деле будет следить за каждым и везде.

Мы на самом деле еще не пересекли критическую черту биосенсора. В США, Израиле или Китае все дело до сих пор в социальных сетях, в моем мобильном телефоне и слежении за тем, куда я хожу и как пользуюсь своей кредитной картой. У нас все еще нет технологий, с помощью которых мы могли бы залезть под кожу. Но это вопрос, возможно, 5–10 лет. Яркий пример. Представьте, что вы живете в Северной Корее. И у вас на руке есть браслет, который постоянно мониторит процессы внутри вашего тела. И вот вы заходите в комнату, где висит портрет глубокоуважаемого лидера. А браслет будет фиксировать, что происходит с вашими мозгом, давлением, телом, когда вы видите это фото. Именно это и следует понимать под термином "электронная диктатура".

- Представьте, что вы - диктатор, электронный или нет. Что надо сделать для того, чтобы помочь человечеству? Выбросить все эти биометрические устройства?

- Нет, абсолютно невозможно вернуться назад, особенно в измерении технологий и науки. Даже если одна страна или целый континент испугается возможных последствий и остановит все исследования, нельзя заставить другие страны сделать то же самое. И тогда остановившиеся страны отстанут. Разве что будет какой-то глобальный договор о том, как с этим справиться, чтобы ни одна страна не осталась на обочине технологической гонки.

- Вы хотите, чтобы контроль взяли в свои руки ученые? Или ООН?

- Дискуссия только началась. Не думаю, что надо паниковать. Сначала нужно быть проинформированными о том, с чем мы имеем дело. Существует много вероятностей, даже технологических. Когда мы говорим о регулировании права собственности на землю, то очень четко понимаем, что это значит. Это как у вас есть поле, вы строите забор вокруг и ворота, становитесь на воротах и говорите: "Хорошо, вот ты можешь зайти, а ты - нет. Это мое поле". Но что это значит для данных о моей ДНК или о том, что происходит у меня в мозге? Я хочу сказать, какой может быть аналогия забора и ворот? Мы просто не понимаем. Думаю, мы оказались в положении, аналогичном положению времен индустриальной революции 200 лет назад. Требуется определенное время. Это, знаете, как когда вы начинаете дискуссию в классе, а потом кто-то поднимает руку и спрашивает: "Ну хорошо, а что мне писать на контрольной?" Нет, у нас еще нет ответов. Нам сначала нужно обсудить тему. У меня нет всех ответов.

- Ваши представления об электронном обществе не вписываются в картинку традиционных экономистов. Значительная часть электронного обмена сегодня на самом деле не касается денег. Люди отдают данные в обмен на услуги. И это нечто, чего ни одна экономическая модель не может зафиксировать сейчас и, по правде говоря, ни одна юридическая модель тоже. Когда вы смотрите на эту проблему, она не сугубо экономическая и не сугубо компьютерная. Ее нельзя отнести к какой-то конкретной дисциплине. Как думаете, университетам в самом деле надо переосмыслить категоризацию академиков? Кто может взять на себя разговор о таких проблемах?

- На самом деле - все. Сегодня, если ты ученый в сфере компьютерных наук, тебе нужно быть в определенной степени философом и антропологом. Теперь это часть дела. Возможно, самое значительное изменение, с этой точки зрения, произойдет в системе здравоохранения. Большая битва за то, что мы сегодня называем "приватностью", будет между приватностью и здоровьем. Отдадите ли вы данные о процессах в вашем теле и мозге в обмен на лучшие медицинские услуги? Думаю, здоровье победит. Люди отдадут свои данные за хорошее медицинское обслуживание. А иногда у них, возможно, и выбора не будет. Например, они не получат страховку, не предоставив доступ к информации о том, что происходит внутри их тела.

- Когда речь шла о земле, мы называли это феодализмом. В эру машин у нас был капитализм и марксизм. Как мы назовем новую эру? "Датаризм"?

- Да, я бы попробовал датаризм. Но слова живут своей жизнью. Какое слово приживется, а которое нет - этот вопрос случайности.

Перевод Леся Дыманя (ZN.UA)