Гра в диктаторів

Ми кажемо "диктатура" - маємо на увазі Китай. Ми кажемо "диктатор" - маємо на увазі Сі Цзіньпіна.

Мабуть, немає жодного медіа, яке б не висвітлило впровадження в Китаї "системи суспільної довіри", і немає коментатора, який би не порівняв цю систему з тоталітарною державою майбутнього з орвеллівської антиутопії. Однак ситуація набагато складніша. Загроза "цифрової диктатури" не пов'язана з національними кордонами та якоюсь конкретною культурою. Вона буквально "вшита" в налаштування сучасного суспільства. Гра в диктаторів стартувала, практично, по всьому світу. Дрейф у цей бік занадто помітний, аби його ігнорувати. Питання тільки в тому, чи здатні ми цьому протистояти.

Орвелл. Повернення

"Система суспільної довіри" на повну силу почне працювати в Китаї тільки у 2020-му, зараз реалізується пілотний проект у 30 містах, але задум і справді вражає своїм масштабом, глибиною державного контролю над життям людини, а крім того - дивним для західного світу симбіозом "визвольних технологій" цифрової епохи з диктаторськими режимами.

У рамках системи держава планує оцінювати благонадійність і добромисність своїх громадян та "зміцнювати довіру в суспільстві". Причому буде робити це інноваційним шляхом. Збирати персональні дані про поведінку китайців на вулицях, у громадських місцях, банках та університетах, на роботі й у спілкуванні з родичами - одне слово, скрізь, де зможе відстежити й оцифрувати поведінковий слід людини. А на основі аналізу цих даних (уже зараз урядові органи здатні збирати їх за 160 тисячами параметрів) - складатиме персональний суспільний рейтинг кожної людини.

Уже з травня нинішнього року низькорейтинговим учасникам пілотних проектів не будуть продавати квитків на літаки й потяги, випускати за кордон, надавати кредити і відмовлятимуть у доступі до інших соціальних благ. Тобто життя кожного китайця залежатиме від того, чи списував він домашні завдання, чи відвідував бабусю у вихідні, чи має злочинні нахили, включно з незадоволенням правлячим режимом. Оцінки ставитиме штучний інтелект, хоча доноси на ближнього свого традиційно будуть заохочуватися і, певна річ, впливати на загальний результат.

Головна "краса" системи в тому, що критерії благонадійності й добромисності в офіційних документах виписані дуже туманно. Це дасть чиновникам широкі можливості для маневру й дозволить ефективніше керувати поведінкою. Адже коли не знаєш, яка поведінка сьогодні схвалюється, поводишся удвічі обережніше. Одне слово, китайську "неблагонадійність" від орвеллівського "мислезлочину" справді відділяє всього один крок, який полягає в умінні машини читати думки. Втім, і цей крок буде незабаром пройдений.

"Система суспільної довіри" - звісно, наймасштабніший, але далеко не перший китайський проект керування поведінкою великих людських колективів. У 2004-му пекінський район Дунчен умовно поділили на півтори тисячі квадратів, поставивши в кожному "відповідального". Спочатку відстежували стан об'єктів інфраструктури, але дуже скоро почали відстежувати переміщення та поведінку людей. Це дозволило знизити як загальний рівень злочинності, так і ймовірність соціальних заворушень. У 2011-му мережеве управління впровадили у проблемному для Китаю Тибетському автономному районі. У 2014-му - в провінції Сіньцзян, де живуть уйгури-мусульмани. Вона завжди була джерелом проблем для китайської влади, вогнищем тероризму й протестів. Сіньцзян стала живим втіленням кіберпанку, - кожен житель там проходить через сканування райдужної оболонки, на автомобілі ставлять датчики геолокації, і навіть на кухонні ножі наносять лазерне гравірування з QR-кодом, що дозволяє відстежити ніж, де б і з якою метою його не застосували.

Для кожної західної людини велика спокуса вказати на Китай як на країну, що стрімко скочується до диктатури. Більшість коментаторів так і роблять, констатуючи з жалем, що Китай більше не хоче бути схожим на Захід і повертається до авторитарних традицій.

Однак до диктатури цифрової епохи рухається не тільки Китай. В Індії, наприклад, уже 8 років діє біометрична система Aadhaar, в якій уже зареєстровано 92% населення країни - це 1,11 млрд людей. Еквадор два роки тому впровадив національну систему відеоспостереження, розмістивши камери в усіх 24 провінціях. Обладнання для системи надав, до речі, китайський уряд - причому безплатно. Росію, що змогла розгорнути в Європі та США мережу хакерів, тролів і ботів для впливу на результати виборів і референдумів, нині ставлять в один ряд із Китаєм серед загроз, пов'язаних із новими технологіями та штучним інтелектом. І навіть підвищена увага Олександра Лукашенка до IT-галузі, яка виявляється у створенні сприятливого для айтішників ділового клімату, в контексті ситуації наводить на невеселі роздуми.

Пробували ввести всіх громадян у загальнонаціональну базу даних навіть у Шотландії й Англії. До рівня китайської системи дійти не вдалося, - громадянський сектор та політична опозиція забили тривогу й домоглися скасування програм.

І це лише кілька прикладів. Складається враження, що до "цифрової диктатури" рухається сьогодні весь світ. Темпи руху й зацікавлені сторони відрізняються від китайських. Але напрямок, по суті, той самий.

"Економіка батога"

Якщо літературною метафорою для китайського соціального експерименту послужила антиутопія Орвелла, то для процесів, які відбуваються на Заході, ідеально підходить "Сфера" Дейва Еггерса, в якій IT-корпорація бореться з рештками приватності, організовує тотальне стеження за всіма й робить "окільцьованих" політиків президентами.

Любителі конспірології напевно ридають від щастя: їхні найсміливіші припущення про те, що "технологічні монстри керують нашою свідомістю", тепер можна запросто прочитати у стрічці новин поряд із повідомленнями про весілля якогось принца та прогнозом погоди, допит Марка Цукерберга в Конгресі та стрілянину блогера-самогубця в офісі YouTube, розслідування проти гігантів індустрії в ЄС.

Джордж Сорос, виступаючи в Давосі в січні нинішнього року, обвинуватив технологічних гігантів практично в усьому - від монопольного становища на ринку й перешкоджання інноваціям до зростання нерівності та позбавлення людей свободи розуму. Найбільша загроза, на його думку, - майбутній альянс інтернет-гігантів із диктаторськими режимами, на який лідери індустрії буцім підуть задля того, щоб отримати доступ на нові і безмежні ринки Росії та Китаю. Однак, на думку Сороса, їм недовго ряст топтати: податкові претензії й антимонопольні розслідування зруйнують їхнє панування в економіці.

Важко судити, наскільки обвинувачення Сороса обґрунтовані. Зрозуміло одне: "цифровий капіталізм", що створює й експлуатує платформи взаємодії між людьми, побудований на аналізі людської поведінки, передбаченні поведінкових змін і, врешті-решт, керуванні цією поведінкою.

Звісно, в найширшому сенсі, так можна сказати про будь-який бізнес. Однак уперше в великих корпорацій з'явився унікальний ресурс - цифрова "копія" людини. Котра, як свідчить практика, може сказати про неї та її поведінку набагато більше, ніж найближчі родичі й навіть вона сама. Причому цей ресурс вилучається і приватизується не з примусу, а добровільно. В обмін на комфорт спілкування в Мережі, безплатне чи майже безплатне отримання продуктів і навіть проходження якогось дурнуватого квесту або тесту.

З допомогою "великих даних" компанії отримують можливість підштовхувати людей до вибору (продукту, послуги, стилю життя, політики). У чому принципова відмінність такого типу економіки від китайської системи суспільної довіри? Парадокс у тому, що принципової різниці немає. Просто китайська система відверто заявляє людям, що їхню поведінку контролюють, і, взагалі, навіть не обіцяє їм формальної свободи у прийнятті рішень.

Утім, крім маніпулювання, нова економіка від безпосереднього й відвертого підштовхування з допомогою технологій теж не відмовляється. Наприкінці березня The Economist розповів, як штучний інтелект може трансформувати робоче місце. Зокрема, йшлося про запатентований Amazon браслет для складських робітників. Розумний браслет аналізуватиме рухи рук робітника і з допомогою вібрацій примушуватиме його рухатися ефективніше. Чи про стартап Humanyze, який продає розумні бейджі, що відстежують пересування співробітників по офісу й ефективність їхнього спілкування з колегами. Якби Джордж Орвелл дожив до наших днів, він би напевно позаздрив таким сюжетам. Тим більше що йдеться не тільки про новий modus operandi бізнесу.

Держава в цьому протистоянні теж не "білий лицар", який несе порятунок усім. Передати державі контроль над штучним інтелектом і платформною економікою, щоб позбутися загроз, які вони несуть, - те ж саме що намагатися гасити пожежу гасом. Держави впроваджують технології тотального стеження і контролю. Навіть у найбільших демократіях влада отримує на це схвалення громадян, прикриваючись локальними або міжнародними загрозами, ставлячи людей перед старим, як світ, вибором - "свобода або безпека".

Не гребують в овально-прямокутних кабінетах і застосуванням технологій підштовхування. Згадати хоча б Behavioural Insights Team - команду біхевіористів, чия робота оплачувалася британським урядом упродовж чотирьох років. Фахівці розробляли рішення з оптимізації державного управління. Наприклад, надсилали неплатникам автомита фотографії їхніх автомобілів, платникам податків - листи з фразою "більшість громадян країни платять податки вчасно" і навіть… використовували лотереї для підвищення явки на виборах (навіть на пострадянському просторі це вважається "сірою" електоральною технологією). "Групу соціальних і поведінкових наук" з аналогічними функціями заснував 2015-го і Барак Обама.

А найголовніше в тому, що після історії з Cambridge Analytica легітимність режимів та їхня опора на волю громадянпоставлені під сумнів у найбільших демократіях. Якщо маніпуляцію можна було провести один раз, не можна виключити її повторення в майбутньому. Дійових інституційних рецептів проти цього поки що немає.

У пошуках антитіл

Мусимо визнати: рух до диктатури - тренд сьогодні досить сильний і масштабно глобальний. Уникнути настання її в тому чи іншому вигляді буде дуже складно. Вакцини від неї не містять ні культурні традиції, ні навіть демократичні інститути й процедури. Страховкою від неї не зможуть слугувати ні компанії, ні держава, ні, тим більше, мережеві структури даркнету. Швидше, навпаки, - всі вони можуть стати суб'єктами, які прагнутимуть зіграти у глобальну "гру в диктатора".

У наступні два-три десятиліття ми спостерігатимемо боротьбу цих суб'єктів: корпорацій із державою, легальних інститутів із піратськими мережами, "вільного світу" з Китаєм. Але це буде схватка не за диктатуру чи проти неї, а за те, кому бути диктатором, кому акумулювати функцію контролю над поведінкою людських множин. Тому будь-який результат схватки для людства не є позитивним.

Диктатура XXI ст. не потребує інсталяційного пакету у вигляді тоталітарної ідеології. Вона може прийти непомітно для більшості й навіть залишити людям ілюзію вільного вибору як різдвяного подарунка. Нова диктатура не потребуватиме навіть системного терору, як це було з тоталітарними режимами минулого століття. Вона може скільки завгодно експлуатувати справжню або ілюзорну загрозу, щоб зміцнювати керування поведінкою людини, переводити послух на свідомий рівень. Причому байдуже, хто чи що виступатиме такою загрозою: українські "бандерівці" чи режим Сі Цзіньпіна, "популісти" чи "націоналісти", інтернет-гіганти чи Джордж Сорос. Але загроза мусить обов'язково бути: нова диктатура нею підживлюватиметься і нею виправдовуватиметься. І якщо загрози не буде, її доведеться створити. Чи просто вигадати.

Шукати конкретного винуватця, який би зіграв роль "абсолютного зла" й виношував плани встановлення диктатури, - безперспективно. "Призначити" можна, але не знайти. Поворот до диктатури має свої причини, які лежать за межами мотивів конкретних дійових осіб. Швидше за все, ми спостерігаємо інстинктивну реакцію різних інститутів панування на процеси, які відбуваються у світі впродовж останніх двох десятиліть.

Найкраще ці процеси описано у книжці Мойзеса Наїма "Занепад влади". Людей стало більше, вони стали більш інформованими про ситуацію в різних куточках світу. Люди отримали можливість зв'язуватися одне з одним без посередників, вирішуючи економічні й політичні завдання. Суспільство істотно ускладнилося, і це стало проблемою. Традиційним інститутам влади кидають виклик дрібні гравці: активісти-одинаки, люди на Майдані, стартапери з гаража, гросмейстери-самоуки. Владу стало простіше отримати, але складніше - утримати і зовсім уже складно - скористатися нею. Хоч для реалізації добрих намірів і стратегічних планів, хоч для задоволення владних інстинктів, хоч для особистого збагачення. Непередбачувані, самоорганізовані, спонтанні актори плутаються під ногами, збивають розрахунки й постійно підривають панування будь-якого типу: політичного, економічного, релігійного. Чимало їх і самі не проти зіграти в диктаторів.

Оптимальним виходом із ситуації могла б стати розробка нової системи суспільних відносин, яка була б здатна створити новий баланс між індивідуальністю та спільністю. Але для тих, чия влада, цей шлях занадто довгий, щоб його пройти. Занадто витратний, щоб на нього наважитися. А головне - занадто незвичний, щоб його побачити. Рух до диктатури на цьому тлі видається для інституцій панування зрозумілим і досить простим виходом.

На що ж сподіватися нам? Можна запобігти неминучому повороту до диктатури - чи доведеться вибирати лише між м'яким і жорстким її варіантами?

Дуже показова в цьому плані історія пошуку ліків від СНІДу. Майже 40 років медики билися над приборканням вірусу, який постійно мутував. І нарешті вхопилися за ниточку: найкраще антитіла може виробляти сама людина.

Так само і з загрозою диктатури. Коли щось і можна їй протиставити, то тільки нашу усвідомленість у стосунках із технологіями та взаємостосунках. Співпрацю людей, побудовану на взаємоповазі й відмові від домінування, насильства та маніпуляцій. Відмову від делегування людських здібностей та функцій цифровим алгоритмам і соціальним машинам - наприклад, нашої здатності вибирати, довіряти, взаємодіяти й спілкуватися. Критичну фільтрацію загроз, про які нам нав'язливо повідомляють через традиційні й соціальні медіа. Ну і, звісно, - куди без цього? - постійне нагадування собі, що безплатний сир буває тільки в мишоловці і що навіть за участь у дурнуватому квесті в соцмережах зрештою доводиться платити часточкою своєї свободи. Перспектива такої зміни мислення та стосунків видається сьогодні фантастикою. Але альтернатива у вигляді диктатури виглядає гірше.Набагато гірше.

Україна в цьому русі аж ніяк не на відшибі. Швидше, навпаки: відкрившись світові, ми зразу втрапили у вир впливу всіх трендів. Доки система не зацементувалася, в нас є можливість як упірнути в диктатуру, так і побудувати щось нове. Усе залежить від усвідомленості. Наша держава поки що не осідлала тему цифрових загроз, наша технологічна архаїчність не дозволяє впровадити системи контролю в національному масштабі, а наші корпорації занадто зайняті розпилом матеріального, щоб думати про тонкощі поведінкової економіки. Але це не означає, що ми застраховані від впливу трендів. Якраз навпаки, - ми сприйнятливі до них. І те, що на Заході сьогодні вважають небезпекою, ми поки що сприймаємо як знаки "прекрасного нового світу".

Нас важко об'єднати під крилом будь-якої ідеї, своєї диктатури в нас ніколи не було. Могла інсталюватися тільки чужа, яка зразу ж викликала опір - на "чорних радах", у повстанських лісах та на майданах. Але це не означає, що наш імунітет проти диктатури вічний і "безлімітний". Погляньте на наші дискусії в соціальних мережах, і ви зрозумієте, що потенційних диктаторів у нас - близько 40 млн осіб. Поки що це робить диктатуру неможливою. Але ми не можемо передбачити ті зміни у свідомості, які несуть нам нові технології та глобальні тренди.Надійним захистом від глобального диктаторського цунамі може стати тільки усвідомленість дій та рішучість створювати своє, винаходити "український велосипед". Як люблять казати футурологи, майбутнє у кожному разі створюється. І якщо ти не створюєш своє майбутнє сам, то хтось інший створює його за тебе прямо зараз.