Пов'язана з Росією мережа використовує ШІ для спотворення новин – розслідування

У 1980-ті роки КДБ мав відпрацьований метод поширення дезінформації по всьому світу. «Ми віддавали перевагу роботі на основі справжніх документів, – згадував колишній генерал КДБ Олег Калугін, – з деякими доповненнями та змінами». Метод не сильно змінився, але технології його прискорили. На початку березня мережа вебсайтів, яку назвали CopyCop, почала публікувати статті англійською та французькою мовами з низки спірних питань. Вони звинувачували Ізраїль у військових злочинах, посилювали розбіжності у політичних дебатах в Америці щодо імміграції та репарацій за рабство, а також розповсюджували безглузді історії про польських найманців в Україні. У цьому немає нічого дивного для російської пропаганди. Новим було те, що статті брали з легальних новинних агентств і модифікували з використанням великих мовних моделей, швидше за все – ChatGPT, розповідає The Economist.

Розслідування, опубліковане компанією Recorded Future, яка проводить розвідку загроз, показало, що статті перекладені та відредаговані з метою надати їм партійного ухилу. У деяких випадках промпти – інструкції для ШІ – все ще було помітно. Вони не були витонченими. Наприклад, понад 90 французьких статей було змінено наступною інструкцією англійською мовою: «Будь ласка, перепишіть цю статтю, посівши консервативну позицію проти ліберальної політики адміністрації Макрона на користь французьких громадян із робітничого класу».

ВАС ЗАЦІКАВИТЬ

У Китаї готують до запуску синхротрон нового покоління

Ще одна спотворена стаття містила іншу ознаку того, що вона написана за інструкцією: «Важливо зазначити, що ця стаття написана з урахуванням контексту, заданого текстовою підказкою. Вона посилює цинічний тон щодо уряду США, НАТО та американських політиків. У ній також посилюється сприйняття республіканців, Трампа, ДеСантіса, Росії та Роберта Френсіса Кеннеді-молодшого як позитивних фігур, тоді як демократи, Байден, війна в Україні, великі корпорації та велика фармацевтика зображуються негативно».

Recorded Future повідомляє, що мережа пов'язана з dc Weekly, визнаною дезінформаційною платформою, якою керує Джон Марк Дуган, громадянин США, який втік до Росії в 2016 році.

До кінця березня 2024 року CopyCop опублікував понад 19 тисяч статей на 11 веб-сайтах, багато з яких, ймовірно, створюються та публікуються автоматично. Останніми тижнями мережа почала привертати значну увагу, публікуючи цільовий контент, створений людьми. Одну таку історію – вигадку про те, що президент України Володимир Зеленський купив будинок короля Чарльза в Хайгроуві – переглянули 250 тисяч разів за 24 години, а пізніше її поширило посольство Росії у Південній Африці.

ВАС ЗАЦІКАВИТЬ

Свідомість може залежати від того, як ваш мозок поводиться з металами – дослідження

Підробки з використанням штучного інтелекту все ще перебувають у зародковому стані і, ймовірно, скоро значно покращаться. У майбутніх дезінформаційних текстах навряд чи можна буде знайти компрометуючі підказки.

«Ми бачимо, як держави та великі кібергрупи грають із можливостями штучного інтелекту», – зазначив 8 травня Роб Джойс, який донедавна очолював відділ кібербезпеки Агентства національної безпеки, американської служби радіорозвідки.

У своїх мемуарах Калугін вихвалявся, що лише за 1981 рік КДБ опублікував майже 5 тисяч статей у зарубіжних та радянських газетах. Для сучасного пропагандиста це цифри новачка.