Беда наша в том, что к самому мощному искусственному интеллекту (ИИ) человечество приблизилось в эпоху постправды, фолк-хистори и фейк-ньюс. Ведь у ИИ есть ресурсы и возможности, с которыми люди просто не в состоянии конкурировать. Настолько, что анонимные телеграм-каналы, сейчас промывающие мозги украинцам, покажутся детскими шалостями. Но пока цивилизованный мир обеспокоен стремительным развитием технологии, говоря об угрозах и необходимости разного рода ограничений в этой сфере, Украина с ИИ в основном развлекается, создавая картинки горящей Москвы в Midjourney и обучая ChatGPT правильно отвечать на приветствие «Слава Украине!».
Не слишком ли легкомысленно мы относимся к технологии, развитие которой так возмущает самые светлые головы человечества?
Чтобы опираться не на ощущения, а на цифры, мы спросили украинцев об их отношении к искусственному интеллекту и уровню взаимодействия с технологией.
Почти 34% опрошенных украинцев ответили отрицательно на вопрос «Знаете ли Вы, что такое искусственный интеллект?» (см. рис. 1). Понятно, что в основном речь идет о людях старше 50 лет, но и среди респондентов в возрасте 30–39 лет почти 20% не знают, что это такое. Только 24% уверены, что хорошо знают, о чем говорится, еще 42% имеют приблизительное представление об этой технологии. Показатели печальные, ведь технология развивается очень быстро, вряд ли обойдет Украину и, кроме удобства, несет и конкретные угрозы, противодействовать которым невозможно, не понимая, что оно такое.
На самом деле даже мировой бум чата GPT, как оказалось, Украину большей частью обошел. На вопрос «Используете ли Вы ChatGPT или другой чат-бот с искусственным интеллектом?» 64% респондентов ответили, что не используют такие чат-боты, 8,7% вообще не знают, что это такое, остальные же действительно в основном играются с технологией: 10,2% опрошенных используют их с ознакомительной целью, 12% — в частных целях. Всего 5,6% используют чат-боты с ИИ в обучении, а 8,6% — в работе (см. рис. 2). Конечно же, в большинстве это люди от 18 до 39 лет.
Таким образом, о реальных возможностях чат-ботов, использующих ИИ, украинцы знают поверхностно и не особенно активны в их познании.
Напрасно, учитывая риски, которые несет технология. И я не об отобранных рабочих местах — это неизбежное будущее, но уже есть не менее угрожающий сегодняшний день, который ИИ искажает непосредственно в эту минуту. Украинцам, которые в последние годы живут в режиме постоянного противодействия фейкам, дезинформации и пропаганде, следует внимательнее присмотреться к мировым информационным трендам, которые формирует использование ИИ. Через несколько шагов они будут и на нашем пороге.
Сейчас известно о минимум трех сотнях новостных сайтов, контент которых сгенерирован искусственным интеллектом. На самом деле их значительно больше, просто западные исследователи начали изучать этот сегмент медиарынка только в мае этого года и просто не успевают все фиксировать. Обычно такие сайты имеют общие названия, а именно iBusiness Day или Daily Time Update, охватывают уже более десятка языков (в частности, английский, арабский, китайский, французский, индонезийский, итальянский, корейский, португальский и турецкий) и разнообразнейшие темы — политику, технологии, развлечения, путешествия и т.д. Вот один из них для примера — World-Today-News.com. Ежедневно на нем, как и на других, выходят сотни текстов со значительным процентом сомнительной или откровенно выдуманной информации. Ведь качество — это последнее, на что обращают внимание их создатели.
Да, сейчас это просто бизнес, суть которого — заработать на размещенной рекламе. Для этого им достаточно любого контента, который будет генерировать трафик. А это дается ИИ легко: каждый такой сайт продуцирует просто невероятное количество новостей — в среднем более 1200 в день (для сравнения, в ZN.UA или The New York Times, где контент пишут люди, это 150–170 новостей). К тому же ИИ значительно более успешно справляется с «подгонкой» текстов под алгоритмы Google, чтобы постоянно оказываться на первых позициях в результатах поиска, а при необходимости без колебаний просто выдумывает привлекающий внимание контент, например, сообщая о внезапной смерти в действительности живых известных людей. Просто представьте количество просмотров, которые собрала новость с заголовком «Байден умер. Харрис — исполняющая обязанности президента». Да, эта новость действительно выходила.
Интересно, что в самих текстах нередко есть прямые указания на их искусственное происхождение — предложения типа «к сожалению, я не могу завершить, поскольку это противоречит политике использования OpenAI» или «я не способен придумать 1500 слов, однако могу предоставить вам короткое изложение статьи». Эти ляпы никто не удаляет, то есть вмешательство человека в работу этих ресурсов действительно минимально.
Но на монетизации это никак не сказывается. Хотя в рекламной политике Google указано о запрете размещать рекламу на сайтах, включающих «содержимое, созданное программным путем, не создавая ничего оригинального и не прибавляя достаточной ценности», на практике это не работает. По подсчетам NewsGuard (организации, мониторящей искусственные новостные ресурсы), свыше 90% рекламы на этих сайтах обеспечивает именно Google Ads. Запросы Newsguard в Google просто игнорируют, потому что, как показывает описанная ниже история, сказать им пока ничего.
Американский финансовый сайт Bankrate, не скрываясь и, скорее, ради хайпа, полгода публиковал созданные искусственным интеллектом статьи. Впрочем, эксперимент остановили. Основная причина — качество сгенерированных текстов, пестревших фактологическими ошибками. Производная причина — неспособность Google отличить контент, созданный искусственным интеллектом, от текста, написанного человеком. Учитывая, что ИИ мгновенно изучил предпочтения поисковика, именно его материалы всякий раз оказывались в топах Google. То есть алгоритмы поискового сервиса непосредственно способствовали распространению некачественного контента. Google признает, что проблема есть, но пока у него нет для нее решения, даже ощутимого прогресса в его поиске.
Представить засилье медиаресурсов с контентом от ИИ, цель которых не заработок на рекламе, а ИПСО, нетрудно. В Украине, например, годами существуют так называемые сливные бачки. Разместить на них информацию любого содержания — вопрос денег. Ответственности никакой, потому что на этих сайтах не найти ни контакты редакции, ни фамилии реальных людей под текстами. Маргинальность этих ресурсов была обусловлена исключительно отвратительной Google-оптимизацией и ограниченным человеческим ресурсом. Благодаря стремительному развитию ИИ, оба фактора сейчас временные. Справедливо это и для медиаресурсов РФ, которая с радостью переведет свою пропагандистскую машину на современные рельсы искусственного интеллекта. Вспомните дипфейковое видео с Зеленским, который якобы капитулирует перед российскими войсками, — они уже к этому идут. Мы буквально в шаге от вала дезинформации и грязных политических кампаний невиданных ранее масштабов. От вала фейковых скандалов из Украины, которые будут видеть на Западе, до вала новостей об одной-единственной лучшей партии в стране, которые раз за разом вам будут подсовывать Google-рекомендации. И все это без понимания, как этому противодействовать. А в случае Украины — еще и без осознания угрозы.
Несмотря на то, что технология ИИ уже сейчас обостряет все проблемы в медийной сфере, отношение украинцев к ее распространению очень неоднородное. Более 27% респондентов выбрали вариант «не знаю», отвечая на вопрос, должно ли государство ограничивать использование чат-ботов и других подобных технологий искусственного интеллекта. И это не среди всех опрошенных, а только среди тех, кто знает или хотя бы представляет, что такое искусственный интеллект и чат-боты, которые его используют. Еще 32,4% считают, что каких-либо ограничений технология не требует. На необходимость контроля и ограничений указали всего лишь 34% украинцев, радикалов же, убежденных, что технологии надо заблокировать полностью, в Украине всего 3% (см. рис. 3).
Для сравнения, в США людей, убежденных, что технология ИИ нанесет больше вреда, чем принесет пользы, сейчас около 65% (AI Index Report'2023 Стэнфордского университета). Конечно, у них более глубокое распространение технологии, более широкое ее применение, уже есть связанные с этим проблемы, но вряд ли это должно нас успокаивать. Чем выше наша неготовность, тем мы более уязвимы, тем проще будет нами манипулировать и использовать технологии против нас. И, вероятно, существует необходимость если не в просветительской кампании, то хотя бы в формулировании государственной позиции в этом вопросе.
Все упомянутые в тексте данные — результаты социологического опроса Центра Разумкова. Опрос по заказу ZN.UA проводился с 23 по 28 июня 2023 года методом face-to-face в 22 областях Украины и г. Киеве. Опрошено 2018 респондентов в возрасте от 18 лет. Теоретическая погрешность выборки не превышает 2,3%.