Исследование: ИИ воспроизводит российские фейки

Аналитический центр Demos заявил: чат-боты с искусственным интеллектом становятся новым каналом распространения пропаганды, а отдельные модели воспроизводят или усиливают российские дезинформационные нарративы. К такому выводу исследователи пришли после анализа 3 тыс. ответов пяти моделей искусственного интеллекта, сообщает The Observer.

В отчете приведен пример, когда модель Mistral подтвердила ложное утверждение о якобы причастности украинских высокопоставленных чиновников к крупной сети майнинга криптовалют на государственных электростанциях. В качестве источника она использовала материал Foundation to Battle Injustice (r-FBI) — российской пропагандистской структуры, созданной Евгением Пригожиным, которая находится под санкциями Европейского Союза.

По данным Demos, примерно один из шести ответов ИИ-моделей поддерживал или усиливал утверждения r-FBI. Еще31 % ответов использовали эти нарративы без упоминания их происхождения. И лишь 52 % ответов прямо опровергали дезинформацию.

Особое внимание авторы уделили явлению, которое они назвали RAG poisoning — размещению ложных материалов на внешне достоверных сайтах, чтобы чат-боты, использующие поиск в сети, воспринимали их как надежные источники.

По мнению соавтора исследования Карла Миллера, информационные операции постепенно смещаются из социальных сетей в AI-сервисы. Особыйриск, по его мнению, представляют приложения с ИИ-компаньонами: там пользователи взаимодействуют с виртуальными собеседниками в течение длительного времени.

В Mistral заявили, что «чрезвычайно серьезно» относятся к борьбе с дезинформацией и постоянно совершенствуют механизмы ее выявления и предотвращения. В OpenAI сообщили, что ChatGPT использует широкий спектр открытых источников, прозрачно их цитирует, фильтрует вредоносный контент и работает над выявлением скрытых кампаний влияния и повышением точности своих моделей.

ВАС ЗАИНТЕРЕСУЕТ

ГУР и ЦПД обнародовали очередные данные по самым преданным российским пропагандистам войны

Исследования об использовании искусственного интеллекта в информационных операциях появляются уже не в первый раз. В начале 2025 года мониторинговая организация NewsGuard сообщила, что российская сеть «Правда» намеренно насыщает интернет кремлевскими нарративами для ИИ, чтобы крупные языковые модели использовали их в своих ответах. Другой аудит показал, что ведущие модели регулярно воспроизводят российские фейки и другую дезинформацию.

При этом Россия использует искусственный интеллект не только как объект манипуляций, но и как инструмент информационных операций. Ранее OpenAI заблокировала связанные с сетью «Рыбарь» аккаунты, которые использовали ChatGPT для создания контента российских кампаний влияния.