У "Місті пермутацій", романі Грега Ігана, герой Пір, який досягнув безсмертя у віртуальній реальності, яку він повністю контролює, починає страждати від нудьги. Тому він вигадує нові захоплення, наприклад – розширює межі вищої математики чи пише опери. "Колись його навіть цікавило потойбічне життя. Більше ні. Він вважав за краще думати про ніжки столу". Нестабільність Піра пов'язана з глибшою проблемою, пише The Economist: що ми будемо робити, коли технології вирішать усі проблеми людства?
Це питання розглядається у новій книзі Ніка Бострома, філософа з Оксфордського університету, який раніше стверджував, що існує ризик знищення людства у найближчі 100 років, якщо штучний інтелект вийде з-під контролю.
У своїй новій публікації "Глибока утопія" Бостром розглядає зовсім інший результат. Що станеться, якщо розвиток штучного інтелекту піде надзвичайно успішно? Згідно з одним із сценаріїв, представлених у книзі, технологія дійде до того, що зможе виконувати всю економічно цінну роботу за практично нульових витрат. Згідно з ще більш радикальним сценарієм, навіть ті завдання, які, як вам здається, повинні виконуватися людьми, наприклад виховання дітей, можуть бути краще виконані штучним інтелектом.
Перший сценарій Бостром називає "утопією після дефіциту". У такому світі потреба у роботі буде знижена. У багатих країнах середня кількість робочих годин на тиждень скоротилася з більш ніж 60 наприкінці XIX століття до менш ніж 40 сьогодні. Типовий американець витрачає третину свого робочого часу на дозвілля та спорт. У майбутньому люди, можливо, захочуть витрачати свій час на речі, які ми ще собі навіть не уявляємо. Як пише Бостром, за допомогою потужних технологій "простір можливого для нас досвіду вийде далеко за межі того, що доступне нам із нашим нинішнім неоптимізованим мозком".
Проте економічний вибух, спричинений надінтелектом, все одно буде обмежений фізичними ресурсами, насамперед землею. Хоча освоєння космосу може значно збільшити доступний простір для будівництва, він не стане нескінченним.
"Позиційні товари", що підвищують статус їхніх власників, також, ймовірно, існуватимуть. Навіть якщо ШІ перевершить людей у мистецтві, інтелекті, музиці та спорті, люди, ймовірно, продовжать отримувати вигоду з переваги над собі подібними, наприклад, маючи квитки на найгарячіші заходи. У 1977 році економіст Фред Хірш у книзі "Соціальні межі зростання" стверджував, що зі зростанням багатства все більшу частку людських бажань складають позиційні товари. Час, проведений у змаганнях, збільшується, ціна на такі товари зростає, а отже, збільшується і їхня частка у ВВП. Ця закономірність може зберегтися і в утопії ШІ.
Бостром зазначає, що деякі види конкуренції є порушенням координації: якщо всі погодяться припинити конкурувати, у них з'явиться час для інших, ліпших справ, що може сприяти подальшому зростанню.
Однак деякі види конкуренції, такі як спорт, мають внутрішню цінність і їх варто зберегти. Інтерес до шахів зріс з того часу, як у 1997 році комп'ютер Deep Blue компанії IBM вперше переміг Гаррі Каспарова, тодішнього чемпіона світу. Ціла промисловість з'явилася навколо кіберспорту, де комп'ютери можуть спокійно перемагати людей; очікується, що доходи від нього зростатимуть на 20% на рік протягом наступного десятиліття і досягнуть майже 11 млрд доларів до 2032 року.
Деякі групи сучасного суспільства дають нам уявлення про те, як люди майбутнього можуть проводити свій час: аристократи та богема насолоджуються мистецтвом; монахи живуть у собі; спортсмени присвячують своє життя змаганням; пенсіонери розважаються у всіх цих сферах.
Чи не залишаться такі завдання, як виховання дітей, справою людей? Містер Бостром не впевнений у цьому. Він стверджує, що за світом, що настане після дефіциту, лежить "постінструментальний" світ, у якому наш вид стане надлюдьми і в догляді за дітьми.
Така динаміка наводить на думку про "парадокс прогресу". Хоча більшість людей прагне кращого світу, якщо технології стануть надто розвиненими, вони можуть втратити мету в житті. На думку Бострома, більшість людей, як і раніше, отримуватимуть задоволення від занять, що мають внутрішню цінність, наприклад, від смачної їжі. Утопісти, які вважають, що життя стало занадто простим, можуть спробувати колонізувати нову планету, щоб спробувати перебудувати цивілізацію з нуля. Однак у якийсь момент навіть такі пригоди можуть припинити приносити користь. Питання про те, як довго люди будуть щасливі, стрибаючи між пристрастями, як це робить Пір у "Місті пермутацій", залишається відкритим.
Хоча економісти вважають, що у людей "необмежені бажання", з появою ШІ-утопії це доведеться перевірити на практиці.
На думку мільярдера Ілона Маска, штучний інтелект перевершить людський у 2025 році.