Фанаты борются с фанфиками, созданными ИИ: под удар попадают и настоящие авторы

Сообщества фанфиков пытаются выявлять тексты, созданные с помощью генеративного искусственного интеллекта. В то же время новые методы проверки уже вызвали волну споров, публичных обвинений и риск ложного преследования авторов, которые могли использовать ИИ лишь для редактирования или перевода, сообщает The Verge.

В конце июня аккаунт @heatedrivalryai опубликовал расширение, которое ищет в коде страниц Archive of Our Own (AO3) специальный элемент «font-claude-response-body», который якобы способен определять, вставлен ли текст непосредственно из чат-бота Claude от Anthropic. По словам автора инструмента, появление этого кода «однозначно указывает на использование Claude». Если такой маркер обнаруживается, страница автоматически подсвечивается красным цветом.

Инструмент быстро привлек внимание сообщества фанатов, однако почти сразу же начал использоваться для публичного разоблачения авторов. Несмотря на заявления разработчика о том, что его целью было лишь продемонстрировать принцип работы системы, пользователи начали массово обвинять писателей в использовании ИИ.

ВАС ЗАИНТЕРЕСУЕТ

Издатель Rolling Stone подал в суд на Google из-за использования контента искусственным интеллектом

Журналистка The Verge Джесс Везербед проверила работу инструмента и подтвердила, что он действительно срабатывает, если текст напрямую копируется из Claude в редактор AO3. Однако у системы есть существенные ограничения: она не работает, если текст предварительно редактировали в Google Docs, Microsoft Word или другом редакторе, а также не позволяет определить, насколько активно ИИ использовался при создании произведения.

Из-за этого одинаковую маркировку могут получить как полностью сгенерированные истории, так и тексты, в которых Claude использовался лишь для проверки орфографии, перевода или редактирования нескольких предложений. После появления инструмента некоторые авторы уже просто обновили свои работы, удалив соответствующие фрагменты кода.

Автор материала отмечает, что на данный момент не существует универсального способа надежно определить, был ли текст написан генеративным ИИ. В отличие от изображений, видео или аудио, для которых постепенно внедряются технологии вроде C2PA или SynthID, текстовые водяные знаки практически не работают после обычного копирования.

ВАС ЗАИНТЕРЕСУЕТ

Искусственный интеллект делает мир глупее — СМИ

Поэтому большинство читателей по-прежнему полагаются на косвенные признаки — характерные языковые конструкции, чрезмерную «цветистость» стиля или повторяющиеся фразы. Однако Везербед подчеркивает, что такие критерии ненадежны, ведь современные языковые модели обучаются именно на человеческих текстах и часто лишь подражают стилю реальных писателей.

По мнению журналистки The Verge, лучшим решением остается добровольная маркировка произведений. На AO3 уже существует специальный тег Created with Generative AI, который авторы могут использовать, если применяли генеративный ИИ. Однако из-за негативного отношения части сообщества далеко не все готовы честно сообщать об этом.

Самая ожесточённая борьба с ИИ в настоящее время идёт в музыкальной сфере. Недавно певица SZA раскритиковала музыкальные системы искусственного интеллекта после того, как узнала, что 238 её композиций использовались для обучения алгоритмов. Пол Маккартни, Сэм Фендер, Кейт Буш и Ганс Циммер ранее присоединились к протесту против несанкционированного использования авторских произведений для обучения ИИ и выпустили беззвучный альбом Is This What We Want?.