Технологии могут выйти из-под контроля - Bloomberg

У человечества есть метод, как предотвратить выход из-под контроля новых 3. Он заключается в том, чтобы изучить возможные негативные последствия, сотрудничать со всеми сторонами, которые могут пострадать, и заключить договоренности о способах смягчения негативных эффектов.

Однако, новое исследование указывает, что ускорение технологического развития может сделать такой метод неэффективным.

Об этом пишет Bloomberg. Люди используют законы, социальные нормы и международные соглашения для того, чтобы воспользоваться преимуществами технологий и минимизировать нежелательные эффекты, такие как вред для окружающей среды.

"Ставя целью поиск нужных правил поведения, мы часто черпаем вдохновение из того, что эксперты по теории игр называют "равновесием Нэша". В игровой теорий это ряд стратегий, которые, будучи освоенными игроками, обеспечивают стабильную точку, в которой никто не может отступить от своей текущей стратегии", - говорится в статье.

Чтобы достичь такого равновесия, игрокам нужно понять последствия своих и чужих потенциальных действий. Во время Холодной войны, например, мир между ядерными державами зависел от понимания, что любая атака будет означать полное взаимное уничтожение. Похожим образом во многих сферах: от местного регулирования до международного закона - переговоры могут сводиться к изучению всех возможных ходов для определения стабильного формата правил, приемлемого для всех, чтобы ни у кого не было желания мухлевать, иначе он окажется в худшей позиции.

Но что если технологии станут настолько сложными и начнут развиваться так быстро, что люди не смогут представить наперед последствия? Этот вопрос недавно было высказан экспертами Дмитрием Кузнецовым и Венделлом Джонсом. Они пришли к выводу, что концепция стратегического равновесия как организационного принципа может совершенно устареть.

Точка зрения Кузнецова и Джонса базируется на новых матерематичних исследованиях в теории игр с многими игроками и большим выбором ходов. Одним из главных выводов стало жесткое разделение на стабильные и нестабильные. До определенного предела сложности "равновесие Нэша" вполне удобно для определения потенциальных последствий. Но за этим уровнем начинается зона хаоса, где игроки никогда не могут найти стабильную и надежную стратегию. Им приходится часто и резко менять свое поведение и делать это очень непоследовательно. Таким образом, события происходят случайно и непредсказуемо.

Эксперты отмечают, что новейшие технологии в области вычислений, разработки программного обеспечения и биотехнологий, в частности генной модификации, скорее всего, входят в категорию нестабильных условий. В этих сферах ошибки становятся большими и более частыми, поскольку стоимость исследований сокращается, а использование общих платформ позволяет быстрее открывать инновации. Поэтому такие технологии развиваются быстрее, чем обычные регуляторные форматы могут отреагировать.

Ранее изобретатель Илон Маск назвал искусственный интеллект в большей угрозой, чем КНДР. Соответствующее заявление бизнесмен сделал на своей странице в Twitter.