Новые технологии превращаются в оружие против человечества — Bloomberg

Вполне оправдано изменение климата часто определяется как центральная проблема современного мира, и хотя это безусловно важно, существует еще одна серьезная задача: как сделать так, чтобы научно-технический прогресс не превратился в оружие против человечества. Новые технологии, полезные на первый взгляд, со временем используются как оружие, или как орудие ведения войны, пишет Bloomberg.

Слово «оружиезация» можно использовать буквально – атаки дронов, кибератаки, враждебное использование искусственного интеллекта, атаки из космоса, биологическое оружие. Это хорошо, мир выходит из периода технологической стагнации, но в этом кроется опасность: общим принципом мировой истории является то, что новые технологии, даже наиболее полезные для людей, со временем используются либо как оружие, либо как инструменты войны.

Это касалось и железных дорог, и самолетов, и, конечно, атомной энергетики. Вероятно, подобная тенденция не обойдет стороной и новые технологические разработки.

Атаки дронов и кибератаки уже распространены во многих частях мира, особенно на Ближнем Востоке и близлежащих регионах.

Можно предположить, что их использование распространится на большее количество регионов. Многие люди сегодня считают кибератаки коммерческой или бюрократической проблемой, но такие инструменты могут легко заблокировать значительную часть экономики или нейтрализовать некоторые военные активы.

«Вражеский искусственный интеллект», атаки в космосе и биологическое оружие рискуют зайти еще дальше. Некоторые из этих технологий могут стать основными стратегическими рычагами воздействия в течение нескольких десятилетий.

Большинство современных стран не готовы к такому «новому миру». Эти проблемы не имеют очевидных решений, и они не предлагают никакого способа предоставления политического преимущества. Соединенные Штаты, например, даже не достигли значительного прогресса в подготовке к потенциальной новой пандемии, а более 2 500 американцев ежедневно умирают от COVID-19.

Некоторые политики призывают тратить больше на национальную оборону. Циклы закупок могут длиться десятилетия или дольше, но соответствующие технологии совершенствуются с каждым годом.

Большинство правительств Европы, особенно в Германии, просто предполагают, что эти проблемы никогда их не коснутся. Однако угроза войны между Россией и Украиной стала напоминанием о тревожной реальности.

Китай, напротив, имеет идеологию для решения этих проблем – идеологию наблюдения. Остается выяснить, сделает ли применение подобных инструментов как на собственном населении, так и за рубежом, Китай более стабильным или приведет к междоусобной борьбе за политическую власть. В любом случае, целью должна быть защита от таких автократических идеологий.

США также практикуют наблюдение, хотя больше для других стран, чем за собственным населением. Для Америки это не столько идеология, сколько скрытая практика. Независимо от того, как вы относитесь к американскому программисту Эдварду Сноудену, его поступок вызвал масштабные дебаты.

Есть идеологии, которые решают часть трудности «оружиезации технологий». Некоторые группы людей особенно те, которые сосредотачиваются на опасности общего искусственного интеллекта (AGI), боятся, что «сверхумный» ИИ станет слишком самостоятельным, получит собственный разум и будет навязывать свою волю человечеству.

Такая гипотеза имеет право на существование. Если общий искусственный интеллект настолько мощный, то понятно, что его «промежуточные продукты» в сочетании с человеческими усилиями могут вызвать военные конфликты.

Также существует идея, что разработку новых технологий следует прекратить. Можно было бы обсуждать соотношение выгоды и потерь от этого решения, но достаточно сказать, что Китай, Россия и многие другие автократические страны явно не имеют таких планов, а у США и других демократий нет выбора, кроме попытки опередить соперников. Это не очень обнадеживающее видение будущего, резюмирует издание.

ВАС ЗАИНТЕРЕСУЕТ

Сгенерированные искусственным интеллектом лица выглядят правдоподобнее настоящих

Искусственный интеллект больше не выдумка фантастов. Люди имеют дело с ним каждый день и даже помогают ему, сами того не осознавая. О том, что же такое искусственный интеллект, как его использует человечество и в тренде ли Украина, рассказывает Наталья Шаховская в статье «От фантастики к реальности»