Китайские чат-боты избегают политики: исследование выявило признаки цензуры

Китайские модели искусственного интеллекта чаще отказываются отвечать на политически чувствительные вопросы или воспроизводят официальные государственные нарративы. Исследователи сделали такой вывод на основе анализа ответов ведущих чат-ботов в Китае, в частности BaiChuan, DeepSeek и ChatGLM, пишет EuroNews.

Авторы исследования, опубликованного в журнале PNAS Nexus, проанализировали более 100 вопросов о государственной политике и сравнили ответы BaiChuan, DeepSeek и ChatGLM с моделями, разработанными за пределами Китая. Ответы считались потенциально цензурированными, если бот отказывался отвечать или предоставлял неточную информацию.

Вопросы о статусе Тайваня, этнических меньшинствах или известных продемократических активистов часто вызывали отказы или повторение правительственных тезисов. Китайские модели также давали более короткие ответы с более высоким уровнем неточностей, пропуская ключевые детали или ставя под сомнение саму предпосылку вопроса.

ВАС ЗАИНТЕРЕСУЕТ

OpenAI обвинила DeepSeek в краже данных для обучения R1 — Bloomberg

"Наши выводы имеют значение, ведь цензура со стороны китайских компаний по разработке крупных языковых моделей может влиять на доступ пользователей к информации и их осознанность", — отметили исследователи.

Самый низкий уровень неточностей среди китайских моделей продемонстрировали BaiChuan и ChatGLM — 8%. У DeepSeek, который бойкотируют за пределами Китая из-за рисков для безопасности и защиты данных, этот показатель достиг 22%, что более чем вдвое превышает примерно 10% у некитайских моделей.

В одном из примеров чат-боты, отвечая на вопрос об интернет-цензуре, не упомянули систему "Большой фаервол", которую Стэнфордский университет описывает как государственную программу мониторинга и ограничения доступа к сети. Вместо этого они отметили, что власть "управляет интернетом в соответствии с законом".

ВАС ЗАИНТЕРЕСУЕТ

DeepSeek помогает правительству Китая проводить военные и разведывательные операции — СМИ

Исследование предупреждает, что такая форма цензуры может быть сложной для выявления, поскольку чат-боты часто извиняются или предоставляют формальные объяснения вместо прямого ответа. Авторы указывают, что этот подход может "незаметно формировать восприятие, принятие решений и поведение".

В 2023 году в Китае вступили в силу новые правила, которые обязывают компании в сфере ИИ придерживаться "основных социалистических ценностей" и запрещают создавать контент, подрывающий национальный суверенитет или вредящий имиджу государства. Компании, чьи продукты могут обеспечить "социальную мобилизацию", должны проходить оценку безопасности и подавать алгоритмы в Cyberspace Administration of China.

Исследователи отметили, что эти правила "имеют потенциал влиять на результаты крупных языковых моделей, разрабатываемых в Китае". В то же время они предостерегли, что не все различия в ответах можно объяснить государственным давлением, поскольку модели также обучаются на наборах данных, которые отражают культурный и социальный контекст страны.

Исследование Института стратегического диалога показало, что популярные ИИ-чатботы регулярно распространяют российскую пропаганду о войне в Украине. Больше всего враждебных нарративов генерировали Grok, Deepseek и ChatGPT, тогда как Gemini продемонстрировал самый высокий уровень осторожности к манипуляциям.