Ожидается, что искусственный интеллект изменит нашу повседневную жизнь бесчисленными способами: от написания студентами своих эссе до обслуживания правительствами своих граждан. Искусственный интеллект (ИИ) уже используется Украиной в войне с Россией. Но насколько революционным будет ИИ? Изменит ли он глобальный баланс сил? Позволит ли он автократиям править миром, задает вопросы в колонке для Bloomberg почетный профессор Школы перспективных международных исследований имени Генри Киссинджера при Университете Джонса Хопкинса Хэл Брэндс.
«Конечно, пока рано делать однозначные выводы: влияние ИИ в конечном итоге будет зависеть от решений, которые принимают лидеры и нации, а технологии иногда делают неожиданные повороты… И мы должны рассмотреть неожиданный вариант: возможно, ИИ изменит мир не так сильно, как мы ожидаем», – отмечает Брэндс, мысли которого сокращенно приводим ниже.
Сделает ли ИИ войну неконтролируемой?
То, что ИИ изменит войну, не вызывает сомнений. Возможности ИИ очень широки – от обеспечения прогнозируемого технического обслуживания оборудования до содействия поразительному улучшению точности наведения на цель. Один самолет F-35, управляющий роем полуавтономных беспилотников, может иметь огневую мощь целого бомбардировочного крыла.
Но ничего принципиально нового здесь нет. История войн на протяжении веков – это история, в которой инновации регулярно делают боевые действия более быстрыми и интенсивными. Поэтому подумайте дважды, прежде чем согласиться с утверждением, что ИИ сделает эскалацию неконтролируемой.
На самом деле, ИИ может снизить риск стремительной эскалации, помогая тем, кто принимает решения, видеть сквозь туман кризиса и войны. Пентагон считает, что разведывательные и аналитические инструменты на основе искусственного интеллекта могут помочь людям просеять запутанную или фрагментарную информацию о подготовке врага к войне или даже о том, действительно ли происходит ракетная атака, которой они боятся. Это не научная фантастика: Как сообщается, помощь ИИ помогла аналитикам американской разведки «вынюхать» вторжение России в Украину в 2022 году.
В этом смысле ИИ может смягчить неуверенность и страх, толкающий людей к экстремальным реакциям. Предоставляя политикам большее понимание событий, ИИ может также улучшить их способность управлять ими.
Поможет ли ИИ автократиям вроде Китая контролировать мир?
Спецслужбам, оснащенным искусственным интеллектом, понадобится меньше рабочей силы для расшифровки огромных объемов информации, которую они собирают о своем населении, что позволит им, например, точно наносить на карту и безжалостно ликвидировать протестные сети. Они будут использовать технологию распознавания лиц на основе ИИ для мониторинга и контроля над своими гражданами, одновременно используя дезинформацию, созданную ИИ, для дискредитации критиков внутри страны и за рубежом. Делая автократию все более эффективной, ИИ может позволить диктаторам доминировать в эпоху рассвета.
Пекин намерен захватить стратегические командные высоты инноваций, поскольку считает, что ИИ может укрепить его внутреннюю систему и военные мышцы. Он использует власть нелиберального государства, чтобы направить деньги и таланты в сферу передовых технологий. Однако не факт, что автократии вырвутся вперед.
Создание мощных крупных речевых моделей требует огромных массивов информации. Но если эти входные данные будут запятнаны или пристрастны из-за того, что китайский интернет подвергается жесткой цензуре, качество исходных данных пострадает. Со временем все более репрессивная система также будет пытаться привлечь лучшие таланты: показателен тот факт, что 38% ведущих исследователей ИИ в США происходят из Китая.
Китай станет грозным технологическим конкурентом. Но даже в эпоху ИИ Си и его нелиберальным собратьям, возможно, будет трудно избежать конкурентного бремени, создаваемого автократией.
Будет ли ИИ содействовать лучшим или всем остальным?
Некоторые технологии сокращают разрыв между наиболее и менее технологически развитыми обществами. В некоторых аспектах ИИ расширит возможности слабых. Американские чиновники опасаются, что большие языковые модели могут помочь террористам с грубыми научными наборами создать биологическое оружие. Государства-изгои, такие как Иран, могут использовать ИИ для координации роев беспилотников против военных кораблей США в Персидском заливе. В более дружелюбном смысле ИИ может расширить доступ к базовым медицинским услугам на Глобальном Юге, что принесет большие выгоды посредством увеличения продолжительности жизни и повышения экономической производительности.
Однако в других аспектах ИИ будет игрой для богатых. Разработка современного ИИ стоит фантастически дорого. Обучение больших языковых моделей может потребовать огромных инвестиций и доступа к ограниченному количеству лучших ученых и инженеров – не говоря уже о потрясающем количестве электроэнергии.
То, что верно в частном секторе, может быть верно и в сфере ведения войны. На первых порах военные преимущества новых технологий могут непропорционально распределяться между странами со щедрыми оборонными бюджетами, необходимыми для разработки и масштабного применения новых сил и средств.
Однако пока ИИ может сделать больше для укрепления баланса сил, чем для его революционного изменения.
Разрушит ли ИИ коалиции или укрепит их?
Как искусственный интеллект влияет на баланс сил, зависит от того, как он влияет на глобальные коалиции. Как задокументировали аналитики Центра безопасности и новых технологий Джорджтаунского университета, США и их союзники могут значительно опередить Китай в расходах по передовым технологиям – но только если они объединят свои ресурсы. Самая большая надежда Пекина состоит в том, что свободный мир расколется из-за ИИ.
Это может произойти. Вашингтон опасается, что новый подход Европы к регулированию генеративного ИИ может подавить инновации: в этом смысле ИИ подчеркивает разногласия в подходах США и Европы к рынкам и рискам. Другая ключевая демократия, Индия, предпочитает стратегическую автономию стратегическому согласованию – в технологиях, как и в геополитике, она предпочитает идти собственным путем. Между тем, некоторые недемократические партнеры Вашингтона, а именно Саудовская Аравия и ОАЭ, изучают возможность более тесных технологических связей с Пекином.
Но геополитические расписания определяют развитие ИИ, а не наоборот. Фундаментально, преимущества стран по ИИ связаны с их предпочтениями относительно внутреннего и международного порядка. Поэтому любые разногласия между США и Европой могут сблизиться при сравнении с их общими опасениями относительно того, что произойдет, если Китай придет к господству. Европа и Америка, возможно, в конце концов найдут путь к большему согласованию в вопросах ИИ – так же, как общая враждебность к могуществу США подталкивает Китай и Россию к более тесному сотрудничеству в военном применении этой технологии сегодня.
Укротит ли ИИ соперничество между большими государствами или разожжет его?
Никто на самом деле не знает, может ли вырвавшийся из-под контроля ИИ действительно угрожать человечеству. Но общие экзистенциальные риски иногда приводят к странным взаимоотношениям.
Сегодня контроль над вооружениями с искусственным интеллектом кажется даже более сложным, чем контроль над ядерными вооружениями, поскольку развитие ИИ так трудно контролировать, а преимущества одностороннего преимущества так соблазнительны. Так что даже когда США и Китай начинают диалог по теме ИИ, технология беспокоит их конкуренцию.
ИИ находится в центре китайско-американской технологической войны, поскольку Китай использует всевозможные методы для ускорения своего развития, а США применяют экспортный контроль, ограничение инвестиций и другие меры, чтобы преградить Пекину путь.
ИИ также подпитывает борьбу за военное превосходство в западной части Тихого океана: Инициатива Пентагона «Репликатор» предусматривает использование тысяч дронов с искусственным интеллектом для уничтожения китайского флота, направляющегося к Тайваню. Государства-соперники могут наконец найти пути сотрудничества, возможно, молчаливого, относительно взаимных опасностей, которые несет в себе ИИ. Но трансформационная технология усугубит многие аспекты их соперничества в будущем.
Сделает ли ИИ частный сектор важнее государственного?
Таким образом, компании на передовой ИИ становятся мощными геополитическими игроками – и правительства знают об этом. Когда Илон Маск и другие эксперты выступили за мораторий на разработку передовых моделей ИИ в 2023 году, официальный Вашингтон призвал технологические компании не останавливаться – иначе это просто поможет Китаю догнать их. Государственная политика может ускорить или замедлить инновации. Но стратегические перспективы Америки в значительной степени зависят от достижений частных компаний.
Важно не завести этот довод слишком далеко. Китайский военно-гражданский синтез стремится обеспечить государству возможность направлять и использовать инновации частного сектора. Хотя США как демократическая страна не могут имитировать такой подход, концентрация большой власти в руках частных фирм вызовет реакцию правительства.
Вашингтон, хоть и нерешительно, но участвует в дебатах о том, как лучше всего регулировать ИИ, чтобы способствовать инновациям и одновременно ограничить злонамеренное использование. США никогда не позволят китайским инвесторам покупать ведущие национальные фирмы, занимающиеся ИИ, и ограничивают американские инвестиции в ИИ-секторы стран-противников. А когда банк Кремниевой долины, сохранявший депозиты многих фирм и инвесторов в технологическом секторе, оказался на грани банкротства, геополитические проблемы помогли инициировать государственную помощь.
Мы не можем предсказать будущее: ИИ может зайти в тупик или развиваться быстрее, чем кто-либо ожидает. Кроме того, технология не является какой-либо автономной силой. Ее развитие и последствия будут определяться решениями в Вашингтоне и во всем мире.
Конечно, есть причины опасаться, что ИИ сделает войну неконтролируемой, нарушит баланс сил, разрушит американские альянсы или принципиально предпочтет автократии демократии. Но есть также веские основания подозревать, что этого не произойдет.
«Я не призываю к самоуспокоению. Предотвращение более опасных последствий потребует энергичных усилий и разумного выбора. На самом деле главная ценность этого упражнения состоит в том, чтобы показать, что возможен очень широкий спектр сценариев – и самые плохие из них не реализуются сами собой», резюмирует Брендс.
Напомним, искусственный интеллект становится неотъемлемой частью настоящего людей и целых государств, вынужденных брать под контроль развитие ИИ. В то время как США имеют более децентрализованный подход, сосредоточенный на конкретных областях применения искусственного интеллекта, Великобритания прибегает к методу влияния через принятие и действие политических стратегий других регуляторных инструментов. А как это делают Коммунистическая партия Китая, крупнейшее в мире интеграционное объединение – ЕС и Украина?
Об этом пишет кандидат юридических наук Сергей Козьяков в статье «Какой должна быть государственная политика поддержки развития и сдерживания опасности искусственного интеллекта» ( часть первая и часть вторая ). Также Козьяков объяснил, как ИИ используются в военных целях в передовых странах мира и насколько успешно испытывает эти технологии на поле боя в статье «Регулирование искусственного интеллекта в военной сфере: ограничение или поощрение?» на ZN.UA.