«Терминатора» не будет: Харари объяснил, как ИИ может захватить мир

Историк и футуролог Юваль Ной Харари во время лекции в Оксфордском университете заявил, что главная угроза искусственного интеллекта заключается не в роботах-убийцах, а в постепенном захвате бюрократических систем, ведь, по словам Харари, это основная среда обитания ИИ. По его мнению, алгоритмы могут получить контроль над человеческим миром без какой-либо вооружённой революции.

«Терминатора» не будет

Харари отметил, что массовая культура сформировала ложное представление о возможных рисках развития ИИ. По его словам, фильмы вроде «Терминатора» заставляют людей представлять себе восстание роботов, хотя реальная опасность выглядит совсем иначе. Он отметил, что даже несмотря на использование автономных технологий в современных войнах, в частности в Украине и секторе Газа, захват мира искусственным интеллектом вряд ли произойдет силовым путем.

«Когда мы думаем об ИИ, вышедшем из-под контроля человека, мы представляем себе «Терминатора» — армию роботов, бегающих по улицам и стреляющих в людей. Но это не так… ИИ не нужна революция, чтобы захватить мир», — подчеркнул Харари.

ВАС ЗАИНТЕРЕСУЕТ

"Армия роботов" Optimus: Илон Маск заявил, что хочет иметь "сильное влияние"

Бюрократия — среда обитания алгоритмов

Как отметил историк, современное общество построено вокруг сложной сети бюрократических систем — государственных учреждений, банков, судов, корпораций и других институтов, которые обеспечивают координацию и взаимодействие между миллионами людей. Однако, по мнению Харари, большинство людей не любят бюрократию и часто воспринимают её как препятствие. В то же время для ИИ именно бюрократическая среда является естественной.

«Для ИИ бюрократия — это кислород», — добавил Харари.

Историк пояснил, что главная задача бюрократических систем заключается не в создании документов или принуждении людей к заполнению форм, а в обеспечении доверия и коммуникации между людьми, которые лично не знакомы. По словам Харари, если алгоритмы получат контроль над этими информационными потоками, это постепенно изменит характер человеческого взаимодействия.

ВАС ЗАИНТЕРЕСУЕТ

"Излом привязанности": Харари назвал главную угрозу искусственного интеллекта

Последствия власти ИИ

Первым последствием футуролог назвал утрату доверия между людьми. Вместо этого люди будут принимать все больше решений, полагаясь непосредственно на рекомендации алгоритмов.

«Мы уже видим, как люди начинают доверять не другим людям, а алгоритмам», — отметил Харари.

Ранее опрос Ipsos BVA уже показал, что более половины молодых европейцев доверяют обсуждение своего психического здоровья чат-ботам с ИИ.

Вторым этапом, по мнению Харари, станет взаимодействие самих систем искусственного интеллекта между собой. Банки, корпорации, государственные учреждения и другие организации будут все чаще использовать алгоритмы, которые будут напрямую обмениваться информацией и принимать решения без участия человека. Харари считает, что со временем могут сформироваться сети взаимосвязанных систем искусственного интеллекта, принципы работы которых станут непонятными даже для их создателей.

ВАС ЗАИНТЕРЕСУЕТ

Искусственный интеллект стал новым рычагом влияния США в мире — The Economist

Для пояснения он привёл аналогию с животными. По его словам, коровы или куры живут внутри человеческой экономической системы, но не понимают, как она функционирует, хотя именно она определяет их судьбу. Историк предположил, что в будущем люди могут оказаться в похожем положении.

Компания Anthropic — разработчик ИИ Claude — уже обдумывала такие последствия, поэтому призвала мировые ИИ-лаборатории подготовиться к возможному замедлению разработок. Anthropic предложила создать международное соглашение по аналогии с ядерными договорами, которое бы координировало темпы развития технологий одновременно среди всех глобальных игроков.