Как отличить реальный контент от сгенерированного ИИ: советы экспертов WSJ

Контент, созданный искусственным интеллектом, всё чаще заполняет ленты социальных сетей, что затрудняет распознавание настоящих и синтетических изображений. Эксперты предупреждают, что это влияет на способность людей доверять собственному восприятию реальности. В то же время они предлагают практические способы, которые помогут критически оценивать такой контент.

Журналистка WSJ Николь Нгуен в новом материале обратила внимание на стремительное распространение изображений и видео, созданных ИИ. По её словам, современные генеративные модели сделали синтетический контент настолько реалистичным, что пользователи всё чаще вынуждены задавать себе вопрос: «Это настоящее или создано ИИ?» Автор отмечает, что ещё несколько лет назад вирусные изображения, созданные ИИ, были скорее исключением, но теперь благодаря новым моделям качественную генерацию изображений и видео может использовать практически каждый.

Одним из примеров стала Granny Spills — вымышленная бабушка-инфлюенсер, созданная с помощью ИИ. Персонаж появился в июле прошлого года и менее чем за месяц набрал более миллиона подписчиков в Instagram, хотя регулярно «появляется рядом» с реальными знаменитостями без их участия.

Посмотреть эту публикацию в Instagram

Пост, опубликованный Granny Spills 💗 (@grannyspills)

ВАС ЗАИНТЕРЕСУЕТ

Искусственный интеллект делает мир глупее — СМИ

Создатели таких персонажей не скрывают, что они полностью цифровые. Автор виртуальной модели Шуду Кэмерон-Джеймс Уилсон отмечает, что пользователям не обязательно верить в реальность персонажа, чтобы получать удовольствие от контента.

Однако журналистку больше беспокоит не популярность цифровых инфлюенсеров, а массовое распространение менее очевидного контента, созданного ИИ. Речь идет о кулинарных видео, рекламных роликах с синтетическим озвучиванием, поддельных фотографиях знаменитостей, политических дипфейках и сгенерированных музыкальных композициях, которые становится все труднее отличить от настоящих.

Профессор компьютерных наук Дартмутского колледжа и эксперт по цифровой криминалистике Хани Фарид подчеркивает, что человеческий мозг не приспособлен к распознаванию таких подделок. По его словам, проблема заключается в постепенной утрате обществом общего понимания того, что является реальностью.

ВАС ЗАИНТЕРЕСУЕТ

История ИИ, стремящегося стать человечным: виртуальная актриса Тилли Норвуд дебютирует в фильме

Доцент Джорджтаунского университета Рене ДиРеста подчеркивает, что генеративный ИИ сам по себе не является ни добром, ни злом. По её словам, всё зависит от того, как именно его используют.

Эксперты советуют оценивать подозрительный контент так же, как это делают фактчекеры. Прежде всего стоит обращать внимание на физические несоответствия — освещения, тени, перспективы или искаженные детали, а также проверять место съемки с помощью картографических сервисов.

Не менее важно анализировать источник публикации. Подозрение могут вызвать недавно созданные аккаунты, слишком высокая частота публикаций или контент, специально рассчитанный на сильные эмоции и максимальное вовлечение аудитории.

Феномен цифровых инфлюенсеров уже вышел на глобальный уровень. В конце мая этого года платформы OpenArt и Fanvue запустили крупнейший в мире конкурс виртуальных персонажей AI Personality Awards с призовым фондом более 90 тысяч долларов, в котором приняли участие более 3300 ИИ-аватаров.