OpenAI заблокировала сеть "Рыбарь" за использование ИИ для дезинформации

OpenAI сообщила о блокировке ряда аккаунтов ChatGPT, связанных с российской пропагандистской сетью "Рыбарь". По данным компании, они использовали искусственный интеллект для создания и перевода контента в рамках скрытых дезинформационных операций. Они охватывали соцсети X, Telegram и внешние сайты, говорится в обновленном отчете OpenAI по злонамеренному использованию моделей искусственного интеллекта.

По данным OpenAI, пользователи генерировали и переводили материалы, которые публиковались как через брендированные аккаунты "Рыбарь", так и через другие профили без явной связи с сетью. Такую активность компания назвала операцией "Fish Food".

Пользователи обычно обращались к ChatGPT на русском языке, но создавали контент как на русском, так и на английском и испанском. Некоторые материалы появлялись на основном сайте "Рыбарь", в Telegram-каналах и на платформе X, а один из пользователей также создал видео Sora для продвижения бренда.

ВАС ЗАИНТЕРЕСУЕТ

ГУР и ЦПД обнародовали очередные данные по самым преданным российским пропагандистам войны

OpenAI установила, что сначала массово генерировались отдельные англоязычные тексты, после чего их публиковали различные аккаунты в X и Telegram. Компания зафиксировала точные совпадения между сгенерированными ответами и публикациями в соцсетях. В одном из случаев пользователь одновременно создал семь твитов, шесть из которых опубликовали разные аккаунты в X.

Отдельные запросы касались составления коммерческих предложений от имени "Рыбаря" для потенциальных клиентов, в частности по запуску сетей аккаунтов в X и Telegram, созданию двуязычного "расследовательского" сайта для Африки и размещению материалов во франкоязычных медиа. В другом случае модель редактировала предложение, описывающее развернутую команду вмешательства в выборы в Африке с бюджетом до 600 тысяч долларов в год.

Согласно данным исследователей, аккаунты, связанные с сетью "Рыбарь", использовали ChatGPT и для продвижения издания REST Media. В частности, в августе через нейросеть сгенерировали серию комментариев к пропагандистской статье о якобы вмешательстве Германии в дела Молдовы. Впоследствии эти тексты появились в трех различных Telegram-каналах как реакция "реальных пользователей" на публикацию.

ВАС ЗАИНТЕРЕСУЕТ

Распространяли российскую пропаганду: под санкции Британии попали грузинские каналы

"Контент, созданный этой сетью, был типичным для тайных операций российского влияния в течение многих лет. Обычно он восхвалял Россию и ее союзников, например Беларусь, критиковал Украину и обвинял западные страны во вмешательстве в иностранном вмешательстве", — заявили в OpenAI.

OpenAI отмечает, что "Рыбарь" имеет значительный охват в соцсетях, в частности 1,4-миллионную аудиторию в Telegram, однако ее дезинформационные кампании часто остаются "в пузыре". Несмотря на использование популярных аккаунтов, ИИ-контент не попал в мировые новости, а амбициозные планы по дестабилизации ситуации в Африке пока существуют только на бумаге.

В 2024 году Госдепартамент США назначил вознаграждение в размере 10 миллионов долларов за данные, которые помогут идентифицировать участников "Рыбаря". По данным американского правительства, ресурс получает финансирование от госкорпорации "Ростех" и использует сети ботов в соцсетях для разжигания внутренних конфликтов в США.