В "Городе пермутаций", романе Грега Игана, герой Пир, добившийся бессмертия в виртуальной реальности, которую он полностью контролирует, начинает страдать от скуки. Поэтому он придумывает себе новые увлечения, например – расширяет границы высшей математики или пишет оперы. "Когда-то его даже интересовала загробная жизнь. Больше нет. Он предпочитал думать о ножках стола". Непостоянство Пира связано с более глубокой проблемой, пишет The Economist: что мы будем делать, когда технологии решает все проблемы человечества?
Этот вопрос рассматривается в новой книге Ника Бострома, философа из Оксфордского университета, который ранее утверждал, что существует риск уничтожения человечества в ближайшие 100 лет, если искусственный интеллект выйдет из-под контроля.
В своей свежей публикации "Глубокая утопия" Бостром рассматривает совсем другой исход. Что произойдет, если развитие искусственного интеллекта пойдет необычайно успешно? Согласно одному из сценариев, представленных в книге, технология дойдет до того, что сможет выполнять всю экономически ценную работу при практически нулевых затратах. Согласно еще более радикальному сценарию, даже те задачи, которые, как вам кажется, должны выполняться людьми, например воспитание детей, могут быть выполнены лучше искусственным интеллектом.
Первый сценарий Бостром называет "утопией после дефицита". В таком мире потребность в работе будет снижена. В богатых странах среднее количество рабочих часов в неделю сократилось с более чем 60 в конце XIX века до менее чем 40 сегодня. Типичный американец тратит треть своего рабочего времени на досуг и спорт. В будущем люди, возможно, захотят тратить свое время на вещи, которые мы еще себе даже не представляем. Как пишет Бостром, при помощи мощных технологий "пространство возможного для нас опыта выйдет далеко за пределы того, что доступно нам с нашим нынешним неоптимизированным мозгом".
Тем не менее, экономический взрыв, вызванный сверхинтеллектом, все равно будет ограничен физическими ресурсами, в первую очередь землей. Хотя освоение космоса может значительно увеличить доступное пространство для строительства, оно не станет бесконечным.
"Позиционные товары", повышающие статус их обладателей, также, вероятно, будут существовать. Даже если ИИ превзойдет людей в искусстве, интеллекте, музыке и спорте, люди, вероятно, продолжат извлекать выгоду из превосходства над себе подобными, например, имея билеты на самые горячие мероприятия. В 1977 году экономист Фред Хирш в книге "Социальные пределы роста" утверждал, что по мере роста богатства все большую долю человеческих желаний составляют позиционные товары. Время, проведенное в соревнованиях, увеличивается, цена на такие товары растет, а значит, увеличивается и их доля в ВВП. Эта закономерность может сохраниться и в утопии ИИ.
Бостром отмечает, что некоторые виды конкуренции являются нарушением координации: если все согласятся перестать конкурировать, у них появится время для других, лучших дел, что может способствовать дальнейшему росту.
Однако некоторые виды конкуренции, такие как спорт, имеют внутреннюю ценность, и их стоит сохранить. Интерес к шахматам возрос с тех пор, как в 1997 году компьютер Deep Blue компании IBM впервые победил Гарри Каспарова, тогдашнего чемпиона мира. Целая индустрия возникла вокруг киберспорта, где компьютеры могут спокойно побеждать людей; ожидается, что доходы от него будут расти на 20% в год в течение следующего десятилетия и достигнут почти 11 млрд долларов к 2032 году.
Некоторые группы современного общества дают нам представление о том, как люди будущего могут проводить свое время: аристократы и богема наслаждаются искусством; монахи живут в себе; спортсмены посвящают свою жизнь соревнованиям; пенсионеры развлекаются во всех этих сферах.
Не останутся ли такие задачи, как воспитание детей, уделом людей? Мистер Бостром не уверен в этом. Он утверждает, что за миром, наступившим после дефицита, лежит "постинструментальный" мир, в котором наш вид станет сверхлюдьми и в уходе за детьми.
Такая динамика наводит на мысль о "парадоксе прогресса". Хотя большинство людей стремится к лучшему миру, если технологии станут слишком развитыми, они могут потерять цель в жизни. По мнению Бострома, большинство людей по-прежнему будут получать удовольствие от занятий, имеющих внутреннюю ценность, например, от вкусной еды. Утописты, считающие, что жизнь стала слишком простой, могут попробовать колонизировать новую планету, чтобы попытаться перестроить цивилизацию с нуля. Однако в какой-то момент даже такие приключения могут перестать приносить пользу. Вопрос о том, как долго люди будут счастливы, прыгая между страстями, как это делает Пир в "Городе пермутаций", остается открытым.
Хотя экономисты считают, что у людей "неограниченные желания", с появлением ИИ-утопии это предстоит проверить на практике.
По мнению миллиардера Илона Маска, искусственный интеллект превзойдет человеческий в 2025 году.