OpenAI заблокувала мережу “Рыбарь” за використання ШІ для дезінформації

OpenAI повідомила про блокування низки акаунтів ChatGPT, пов’язаних із російською пропагандистською мережею “Рыбарь”. За даними компанії, вони використовували штучний інтелект для створення та перекладу контенту в межах прихованих дезінформаційних операцій. Вони охоплювали соцмережі X, Telegram та зовнішні сайти, йдеться в оновленому звіті OpenAI щодо зловмисного використання моделей штучного інтелекту.

За даними OpenAI, користувачі генерували і перекладали матеріали, які публікувалися як через брендовані акаунти “Рыбарь”, так і через інші профілі без явного зв’язку з мережею. Таку активність компанія назвала операцією “Fish Food”.

Користувачі зазвичай зверталися до ChatGPT російською мовою, але створювали контент як російською, так і англійською та іспанською. Деякі матеріали з’являлися на основному сайті “Рыбарь”, у Telegram-каналах і на платформі X, а один із користувачів також створив відео Sora для просування бренду.

ВАС ЗАЦІКАВИТЬ

ГУР і ЦПД оприлюднили чергові дані щодо найвідданіших російських пропагандистів війни

OpenAI встановила, що спочатку масово генерувались окремі англомовні тексти, після чого їх публікували різні акаунти в X та Telegram. Компанія зафіксувала точні збіги між згенерованими відповідями та публікаціями в соцмережах. В одному з випадків користувач одночасно створив сім твітів, шість з яких опублікували різні акаунти в X.

Окремі запити стосувалися складання комерційних пропозицій від імені “Рыбаря” для потенційних клієнтів, зокрема щодо запуску мереж акаунтів у X і Telegram, створення двомовного “розслідувального” сайту для Африки та розміщення матеріалів у франкомовних медіа. В іншому випадку модель редагувала пропозицію, що описувала розгорнуту команду втручання у вибори в Африці з бюджетом до 600 тисяч доларів на рік.

Згідно з даними дослідників, акаунти, пов'язані з мережею “Рыбарь”, використовували ChatGPT і для просування видання REST Media. Зокрема, у серпні через нейромережу згенерували серію коментарів до пропагандистської статті про нібито втручання Німеччини у справи Молдови. Згодом ці тексти з’явилися у трьох різних Telegram-каналах як реакція “реальних користувачів” на публікацію.

ВАС ЗАЦІКАВИТЬ

Поширювали російську пропаганду: під санкцїі Британії потрапили грузинські канали

“Контент, створений цією мережею, був типовим для таємних операцій російського впливу протягом багатьох років. Зазвичай він вихваляв Росію та її союзників, наприклад Білорусь, критикував Україну та звинувачував західні країни у втручанні в іноземному втручанні”, — заявили в OpenAI.

OpenAI зазначає, що “Рыбарь” має значне охоплення у соцмережах, зокрема 1,4-мільйонну аудиторію в Telegram, проте її дезінформаційні кампанії часто залишаються “в бульбашці”. Попри використання популярних акаунтів, ШІ-контент не потрапив у світові новини, а амбітні плани щодо дестабілізації ситуації в Африці поки існують лише на папері. 

У 2024 році Держдепартамент США призначив винагороду в розмірі 10 мільйонів доларів за дані, що допоможуть ідентифікувати учасників “Рыбаря”. За даними американського уряду, ресурс отримує фінансування від держкорпорації “Ростех” і використовує мережі ботів у соцмережах для розпалювання внутрішніх конфліктів у США.