Siri, каково твое мнение относительно "Роттердам+"?

25 марта, 13:00 Распечатать Выпуск №11, 23 марта-30 марта

Может ли искусственный интеллект заменить коллективный или же единоличный орган власти?

Традиционно в нашей стране президентские выборы становятся поводом для политических торгов на тему очередной смены политического режима с усилением или же ослаблением президента или парламента. 

При этом, как подтвердила практика, иногда этот маятник вполне можно раскачать до крайности вроде авторитаризма. Политическое устройство в таких условиях рассматривается как пластилин, которому можно придать любую форму, в зависимости от текущего соотношения сил основных политических игроков. 

Такие политические торги остаются, практически, без какого-либо содержательного анализа со стороны академической науки, поскольку ни история, ни философия, ни политология не дают четкого ответа на вопрос, как должна быть структурирована власть. Приверженцев западного либерализма упрямо сбивает с толку Ли Куан Ю, чье улыбающееся лицо поглядывает с полок едва ли не каждого украинского книжного магазина. Тем временем апологетам "сильной руки" постоянно приходится напоминать трагическую историю становления СССР и неутешительные тренды развития наших соседей.

Однако, если отбросить исторические параллели, решение проблемы оптимальной концентрации власти в значительной мере зависит от ответа на ключевой вопрос: кто наделен высшей способностью (и большей достоверностью) принимать оптимальные и эффективные решения — коллектив или отдельный индивид?

Ответ на этот вопрос пытались дать и древние греки (например, Аристотель считал, что группа принимает решение на уровне как минимум не худшем, чем лучший ее член), и коллективная мудрость украинского народа ("одна голова хорошо, а две лучше", "сколько голов, столько и умов"). 

Однако более или менее достоверный ответ стал доступен лишь на протяжении нескольких последних десятилетий, когда за работу взялись профессиональные психологи. Именно тогда оказалось, что, как это часто случалось раньше, ни народ, ни Аристотель не имели никакого представления, о чем они говорят. Но обо всем по очереди.

Спрут у власти

Насколько достоверно принятие оптимальных решений единоличным лидером государства? Прежде всего, тут сразу нужно отбросить вариант реально единоличного принятия решений таким лидером. Дело в том, что один человек, принимая решение, может эффективно анализировать лишь немногие факторы. С увеличением сложности проблемы анализ теряет смысл, и тут уже следует полагаться только на интуицию. Учитывая сложность и многообразие сфер, которыми приходится руководить потенциальному авторитарному лидеру, он даже теоретически не может хотя бы на минимально допустимом уровне единолично руководить государством (если, конечно, это государство — не остров, населенный несколькими десятками аборигенов).

Поэтому самоуверенных вождей-диктаторов мы оставим в покое, однако взглянем на другой, менее экзотичный тип принятия решений — иерархическими группами. Суть такой группы заключается в том, что проблема и возможные пути ее решения обсуждаются в довольно широком кругу советников, однако решение принимает лидер единолично, после групповой дискуссии. Указанная выше модель более адекватно отражает режим "просвещенной диктатуры" в современном сложном мире. Так есть ли недостатки в этой модели?

Как выяснилось, есть, и много. Даже если отбросить потенциальные индивидуальные недостатки единоличного руководителя (недостатки восприятия, воспитания, образования или опыта), останется ряд ошибок, которые допускают практически все лидеры.

Для начала: к советам какого из советников, по вашему мнению, лидер прислушается прежде всего? Может, самого умного?

Отнюдь нет.

Обычно больше всего шансов быть успешным у того советника, который демонстрирует больше уверенности в своем совете. Это правило работает и тогда, когда такая уверенность никоим образом не коррелируется со взвешенностью и оптимальностью самого совета (т.е. когда уверенность безосновательна).

Однако даже у советника, которого просто распирает от уверенности в своей правоте, есть достойный конкурент. Кто же эта влиятельная личность? Может, самый опытный из советников? Опять нет. В системе координат лидера одно из важнейшей мест принадлежит личному мнению самого лидера. Как правило, влияние личного мнения лидера на принятие им решения практически равнозначно влиянию позиции профессионального эксперта. Даже если такой эксперт владеет значительно бЧльшими, чем лидер, знаниями и опытом в соответствующей сфере.

Противоположный эффект наблюдается тогда, когда лидер не имеет своего мнения относительно проблемы. В таком случае лидеры склонны принять мнение советника даже тогда, когда у этого советника меньше знаний и опыта в соответствующей проблематике, чем у самого лидера.

Еще одно типичное явление — негативный естественный отбор среди советников единоличного руководителя. Как обнаружили исследователи, предложение советника, которое оказалось ошибочным, существенно снижает вес последнего в глазах лидера. При этом совет, который оказался правильным, лишь немного поднимает авторитет советника в глазах руководителя.

То есть завоевать авторитет лидера крайне сложно, а потерять его можно мгновенно. Как следствие лидер аккумулирует вокруг себя советников, руководствующихся стратегией давать размытые и неоднозначные советы, которые бы не давали повода к обвинениям в будущем.

Кроме того, если лидер действительно ищет советы, он склонен больше доверять советнику, который раньше соглашался с мнением самого лидера. А это означает, что со временем такой лидер неизбежно попадет в теплую ванну своих иллюзий, поддерживаемых ближайшим окружением. 

Кроме того, чтобы быть успешными, и лидер, и его команда должны одновременно иметь развитые когнитивные навыки и сознание. Отсутствие таких качеств у лидера не может компенсировать ни одна команда советников. И наоборот — гений с командой посредственностей будет принимать преимущественно ошибочные решения.

Наконец, получение человеком власти существенно меняет его поведение. Как подробно показали исследования Dacher Keltner, человек, получив власть, склонен вести себя более импульсивно и эгоистично, лгать, нарушать правила, которые, по его мнению, должны соблюдать другие, и даже… отнимать конфетки, предназначенные для детей (понимаю, смешно, но факт).

Казалось бы, приверженцам сильного парламента есть чему радоваться. Подтверждаются их подозрения, что все исторические ужасы авторитаризма — это не временная отечественная специфика, а научно подтвержденная закономерность.

Но есть ли существенные преимущества у коллективного принятия решений? 

Вся власть советам?

С точки зрения оптимальности решений, такие преимущества оказались вовсе не очевидными.

Во-первых, коллективы обычно не только не исправляют ошибок своих членов, а, наоборот, усиливают.

Во-вторых, принятие решений группой вполне зависит от абсолютно случайных факторов. Например, часто решающее значение имеет позиция того, кто первым высказал свое мнение.

В-третьих, если члены коллектива перед обсуждением склонялись к какой-то одной точке зрения, то результатом обсуждения будет лишь существенное усиление их уверенности в этой точке зрения. Как следствие, коллектив без какой-либо видимой причины радикализируется.

В-четвертых, группы придают большое значение информации, известной всем членам группы, и часто игнорируют информацию, которая известна лишь отдельным членам коллектива. Этот недостаток особенно выражен тогда, когда время для принятия решения группой ограничено.

А еще — иронично выглядит то, что члены группы, не имевшие возможности обсудить проблему между собой, часто делают вывод, намного более близкий к истине, чем вывод группы, которая обсудила проблему. 

Наконец, едва ли не основной недостаток коллективного принятия решений — его медленность. Например, парламент крайне редко рассматривает законопроект быстрее, чем шесть месяцев. Такая неторопливость полностью противоречит современным трендам: в частном секторе (даже когда речь идет об огромных корпорациях) отсчет времени для принятия решений идет на часы, минуты, а иногда и на секунды. Компания, которая не может принимать решение быстро, мгновенно выпадает из конкурентного рынка.

С точки зрения скорости, единоличный руководитель может дать фору любому парламенту. Хотя, что греха таить, кое-где странам-неудачникам выпадают правители, которые медлят с принятием решения до последнего из-за своих психических особенностей.

Все пропало!

Как нетрудно заметить, и коллективы равноправных участников (избиратели на референдуме, парламент), и иерархические группы (единоличный руководитель и его советники) сами по себе несовершенны и запрограммированы делать ошибки. Поэтому, с точки зрения правильности и эффективности решений, проблема не в том, кто принимает решение (иерархическая или равноправная группа), а в том, как работа таких групп налажена. 

Например, на принятие правильных решений группой положительно влияет участие лица, активно отстаивающего позицию, которая отличается от мнения большинства. При этом если группа понимает, что участник группы занял такую позицию лишь в связи со своим статусом официального оппонента, положительный эффект от такого участия стремительно падает. Отсюда урок для парламента: оппозиционные фракции лишь тогда положительно влияют на качество принятия решений парламентом, если причиной их оппонирования становится реальный анализ инициативы, а не отрицание в связи с политической борьбой, безотносительно к сути проблемы.

Общий вывод: без оптимальных процедур обсуждения, целенаправленного формирования состава групп и вдумчивого анализа уровня экспертизы их членов и иерархические, и равноправные группы смогут принимать оптимальные решения лишь исключительно при положительном стечении обстоятельств.

Однако проблема заключается в том, что группы (как с лидером, так и без него) крайне редко могут настроить себя самостоятельно. Чаще всего группы недостаточно ценят мнение лучшего эксперта в группе и дают завышенную оценку наименее осведомленному советнику.

Я от Цукерберга

Если человек заранее запрограммирован на ошибочные решения, то не наступило ли время заменить его кем-то другим?

По прогнозам, уже в ближайшее десятилетие человек может перестать писать программы, поскольку с задачей кодирования вполне способен управиться искусственный интеллект. А тут следует вспомнить, что программный код и законодательство имеют чрезвычайно много общего: и то, и другое — алгоритмы, правила поведения. Более того, программный код даже немного сложнее, поскольку в случае ошибки программа однозначно перестает работать правильно. А в случае ошибки в законодательстве всегда есть шанс отступить от буквального толкования нормы и применить множество других разновидностей толкований (системное, телеологическое, историческое и т.п.), которые бы наделили смыслом даже абсолютно бездарно написанный закон.

И действительно, в последнее время все чаще принятие решений делегируют искусственному интеллекту. Некоторые инновационные компании уже вводят его в состав органов управления, а органы власти — в механизм принятия решений, которые базируются на обработке крупных массивов данных. В сфере правосудия искусственный интеллект может спрогнозировать поведение преступника и избрать оптимальное наказание или же оценить достоверность того, что подозреваемый не будет скрываться от следствия. Чат-боты успешнее, чем люди, справляются с консультированием и ответами на запросы граждан и даже с их рекрутингом на военную службу. При этом речь идет об уже работающих алгоритмах. Сферы, в которых алгоритмы уже готовы к применению, но пока что не разрешены человеком, еще шире. Здесь и проверка оснований для предоставления социальной помощи, принятие решения о предоставлении льготного кредита начинающему бизнесмену, предоставление визы или разрешения на иммиграцию, выбор объекта для инспекционной проверки и т.п.

Возникает логичный вопрос: может ли искусственный интеллект заменить коллективный или же единоличный орган власти?

С точки зрения выбора оптимальных решений, искусственный интеллект представляется едва ли не наилучшим средством. Алгоритм не отягощен обязательствами перед партнерами по партии, не думает о переизбрании на повторный срок и полностью лишен когнитивных недостатков человека.

Но человек не был бы человеком, если бы искал простые пути. Поэтому у нас есть другая проблема — исследования указывают, что нам, людям, не нравится, когда сложные решения за нас принимают алгоритмы. Даже если такие решения будут более оптимальными и эффективными. Даже если сложное решение оказалось, с точки зрения последствий, ошибочным, это часто не мешает людям чувствовать себя вполне удовлетворенными.

А органы власти, как стало понятно из приведенных выше исследований, — это не всегда место для принятия оптимальных решений. Как правило, это генераторы решений, которые являются продуктом политического (часто ситуативного) компромисса. Хотя такие решения и не идеальны, однако они, как и любой компромисс, легче воспринимаются как обязанность к выполнению.

Впрочем, указанный вывод вовсе не означает, что алгоритмам не место в системе органов власти. Искусственный интеллект вполне спокойно сможет принять на себя львиную долю обязанностей органов власти, связанных с выполнением второстепенной или же подготовительной работы: сбором данных, ответами на запросы о предоставлении информации или распределением задач среди подчиненных.

Но вряд ли этим следует ограничиваться. Вполне вероятно, что уже через несколько лет искусственный интеллект станет полноправным членом парламента или же правительства какой-нибудь страны.

Политический вес такого члена парламента либо же правительства может быть значительно большим, чем политический вес его рядового человеческого коллеги. Алгоритм может исполнять роль ориентира, отступление от предложений которого требует подробного обоснования и аргументации. Более того, дискуссия с участием искусственного интеллекта вряд ли сводилась бы к откровенным политическим разборкам и смещала правительственные или парламентские дискуссии с беспрерывного пиара к обсуждению сути проблематики.

При таком развитии событий свидетельством неотвратимых изменений станут рекламные слоганы разработчиков софта вроде "Оно работает", "Потому что таки последовательное", "Эти железки ничего не воровали" или же "Возьми и сделай".

Мысли, высказанные в этой публикации, отражают исключительно точку зрения автора

Оставайтесь в курсе последних событий! Подписывайтесь на наш канал в Telegram
Заметили ошибку?
Пожалуйста, выделите ее мышкой и нажмите Ctrl+Enter
Добавить комментарий
Осталось символов: 2000
Авторизуйтесь, чтобы иметь возможность комментировать материалы
Всего комментариев: 0
Выпуск №35, 22 сентября-28 сентября Архив номеров | Содержание номера < >
Вам также будет интересно