ИИ может прогнозировать выборы и моделировать общество — эксперт

Искусственный интеллект выходит за пределы экспериментов и все активнее влияет на общественную жизнь. Алгоритмы уже способны создавать виртуальные "государства", моделировать общество, тестировать законы и даже прогнозировать выборы, отмечает заведующий Научной лабораторией иммерсивных технологий и права Института информации, безопасности и права Алексей Костенко в статье "Виртуальное государство: как ИИ переписывает общество и останется ли у человека право на вето?" для ZN.UA.

"Мы вступаем в фазу, когда граница между виртуальным и реальным становится условной. Возникает вопрос: мы управляем технологиями или они — нами?", — указывает автор.

ВАС ЗАИНТЕРЕСУЕТ

Использование искусственного интеллекта повышает уровень неэтичного поведения — исследования

По его словам, особую роль в этом играют симулякры — высокореалистичные цифровые модели людей, которые воспроизводят не только внешность или голос, но и поведенческие особенности, реакции и даже психологию.

Автор статьи называет их своеобразными "цифровыми двойниками", которые взаимодействуют не только в виртуальном мире, но и общаются с миром реальным. Он добавляет, что симулякры позволяют экспериментировать с социальными, экономическими и правовыми процессами.

" Представим себе государство, которое, прежде чем утвердить важное решение, прогоняет его через цифровую модель общества и получает несколько сценариев развития событий. Такой подход сделал бы политику и право намного доказательнее, а управление — научно обоснованным", — объясняет Костенко.

Он обращает также внимание на то, что в симулякрах заложены и серьезные риски. Костенко указывает, что колоссальные объемы персональных данных необходимы для создания реалистичных моделей — от медицинских показателей до эмоциональных реакций в соцсетях. В результате открывается пространство для злоупотреблений, тотального контроля и манипуляций.

"Есть опасность, что симулякр станет не инструментом прогнозирования, а средством формирования нужного общественного мнения. Иначе говоря, вместо лаборатории будущего он может превратиться в фабрику иллюзий", — предупреждает эксперт.

ВАС ЗАИНТЕРЕСУЕТ

Искусственный интеллект научился прогнозировать риск более тысячи заболеваний на 10 лет вперед

Костенко отмечает, что во избежание такого сценария, необходимы институциональные "тормоза и руль". Речь идет об обязательном контроле всех видов искусственного интеллекта и создание прозрачной электронной юрисдикции.

Эксперт объясняет, что необходимо маркировать цифровую синтетику. Он добавляет, что своеобразный "ярлык" должен показывать, что перед вами искусственно созданный контент, а не реальность.

"Нужны также независимые аудиты работы моделей искусственного интеллекта (чтобы они не превратились в черный ящик, который руководит поведением людей) и действенные механизмы обжалования и компенсирования", — указывает Костенко.