The Guardian: «ChatGPT умело придумывает наши статьи, что с этим делать?»

В прошлом месяце журналист The Guardian получил любопытное письмо. Один исследователь нашел упоминание о статье британского издания на конкретную тему, которая якобы была написана несколько лет назад. Но материал невозможно было найти на сайте The Guardian или в поисковике.

«Возможно, заголовок был изменен после публикации? А может материал был умышленно удален с сайта из-за выявленной нами проблемы? Или его удалить нас заставил субъект статьи, воспользовавшись законными методами? Репортер не помнил, что писал именно эту статью. Но заглавие, безусловно, звучало как нечто, что он мог бы написать. Это была тема, с которой он отождествлял себя и которую долгое время освещал», – пишет в своей статье глава редакционных инноваций The Guardian Крис Морган.

Обеспокоенный журналист британского издания попросил коллег все же найти свою потерянную статью. Но несмотря на то, что The Guardian ведет тщательный учет всех своих материалов, особенно тех, которые были удалены или спровоцировали юридические вопросы, никто так и не смог найти никаких следов загадочной статьи.

«Почему? Потому что она никогда не была написана», – пишет Морган.

ВАС ЗАИНТЕРЕСУЕТ

Италия заблокировала использование ChatGPT из-за проблем с конфиденциальностью

В конце концов оказалось, что исследование проводилось с помощью ChatGPT. В ответ на вопрос о статьях на заданную тему искусственный интеллект просто придумал несколько.

«Его свободное владение языком и огромные учебные данные, на которых он построен, сделали само существование вымышленной статьи правдоподобным даже для человека, точно ее не писавшего», - пишет руководитель The Guardian.

О склонности генеративного ИИ выдумывать факты и события было написано немало. Но именно этот недостаток - фальсификация источников - вызывает особую обеспокоенность у СМИ и журналистов, пользующихся доверием читателей. Ведь упоминание о них придает легитимности и веса убедительно написанной фантазии. А с точки зрения читателей и более широкой информационной экосистемы, это поднимает совершенно новые вопросы о том, можно ли вообще доверять цитатам. Такая новая реальность может подпитывать теории заговора о таинственном удалении материалов на деликатные темы, которые в принципе никогда не существовали.

ChatGPT начал свою работу в ноябре. И уже к январю у него было 100 миллионов пользователей в месяц. Для сравнения, цифровой феномен TikTok достиг таких показателей за девять месяцев. Поэтому компания Microsoft внедрила ту же технологию в Bing, создав тем самым давление на Google, чтобы тот пошел аналогичным путем в рамках своего продукта под названием Bard.

ВАС ЗАИНТЕРЕСУЕТ

ChatGPT уже доступен в Украине: что это и как им пользоваться

Сейчас обе компании внедряют эти системы в Google Workplace и Microsoft 365, которые вместе занимают более 90% рынка. Недавнее исследование, проведенное среди тысяч студентов в США, показало, что 89% из них использовали ChatGPT, чтобы выполнить домашнее задание. Технология со всеми ее недостатками была нормализована с невероятной скоростью, и сейчас она лежит в основе систем, выступающих ключевой точкой познания и творчества для значительной части мира.

«Два дня назад с нашей архивной командой связался студент, который спросил о еще одной пропавшей статье. В наших системах снова не было никакого следа этого материала. Источник? ChatGPT», – пишет Морган.

Он добавляет, что вопрос для ответственных СМИ простой и неотложный: что эта технология может сделать прямо сейчас и как она может помочь ответственному освещению событий во времена, когда широкая информационная экосистема уже находится под давлением дезинформации, поляризации и неблагополучных игроков.

«Это вопрос, над которым мы сейчас работаем в The Guardian. И именно поэтому мы еще не объявили о новом формате или продукте, построенном на генеративном ИИ. Вместо этого мы создали рабочую группу и небольшую команду инженеров, чтобы сосредоточиться на изучении технологий, вопросов государственной политики и интеллектуальной собственности, связанных с ней, оценке мнений ученых и практиков, общении с другими организациями, консультировании и обучении наших сотрудников, а также безопасном и ответственном исследовании того, как эта технология работает в журналистской работе. В процессе работы мы обнаружили, что наряду с вопросом, как мы можем использовать генеративный ИИ, мы все больше задумываемся над тем, для чего нужна журналистика и что делает ее ценной. Мы в восторге от потенциала, но нашей первой задачей должно быть его понимание, оценка и расшифровка его потенциального влияния на мир в целом», – объясняет Морган.

Он добавил, что в ближайшие несколько недель The Guardian опубликует четкое и короткое объяснение того, как издание планирует использовать генеративный ИИ.