The Guardian: «ChatGPT вміло вигадує наші статті, що з цим робити?»

Минулого місяця журналіст The Guardian отримав цікавого листа. Один дослідник натрапив на згадку про статтю британського видання на конкретну тему, яка нібито була написана кілька років тому. Але матеріал неможливо було знайти на сайті The Guardian чи в пошуковій системі.

«Можливо, заголовок був змінений після публікації? Чи матеріал був навмисно видалений з сайту через виявлену нами проблему? Або ж його видалити нас змусив суб'єкт статті, скориставшись законними методами? Репортер не пам'ятав, що писав конкретно цю статтю. Але заголовок, безумовно, звучав як щось, що він міг би написати. Це була тема, з якою він ототожнював себе і яку тривалий час висвітлював», - пише у своїй статті голова редакційних інновацій The Guardian Кріс Морган.

Стурбований журналіст британського видання попросив колег все ж знайти свою загублену статтю. Але попри те, що The Guardian веде ретельний облік усіх своїх матеріалів, а особливо тих, які були видалені або спровокували юридичні питання, ніхто так і не зміг знайти жодних слідів загадкової статті.

«Чому? Тому що вона ніколи не була написана», - пише Морган.

ВАС ЗАЦІКАВИТЬ

Італія заблокувала використання ChatGPT через проблеми з конфіденційністю

Зрештою, виявилося, що дослідження проводилося за допомогою ChatGPT. У відповідь на запитання про статті на задану тему штучний інтелект просто вигадав кілька.

«Його вільне володіння мовою і величезні навчальні дані, на яких він побудований, зробили саме існування вигаданої статті правдоподібним навіть для людини, яка точно її не писала», - пише керівник The Guardian.

Про схильність генеративного ШІ вигадувати факти і події було написано чимало. Але конкретно ця вада - вигадування джерел - викликає особливе занепокоєння у ЗМІ і журналістів, які користуються довірою читачів. Адже згадка про них додає легітимності і ваги переконливо написаній фантазії. А з точки зору читачів і ширшої інформаційної екосистеми, це порушує абсолютно нові питання про те, чи можна взагалі довіряти цитатам. Така нова реальність може підживлювати теорії змови про таємниче видалення статей на делікатні теми, які в принципі ніколи не існували.

ChatGPT розпочав свою роботу в листопаді. І вже до січня він мав 100 мільйонів користувачів на місяць. Для порівняння, цифровий феномен TikTok досяг таких показників за дев’ять місяців. Тож компанія Microsoft впровадила ту ж саму технологію в Bing, створивши тим самим тиск на Google, щоб той пішов аналогічним в рамках свого продукту під назвою Bard.

ВАС ЗАЦІКАВИТЬ

ChatGPT вже доступний в Україні: що це і як ним користуватися

Зараз обидві компанії впроваджують ці системи в Google Workplace і Microsoft 365, які разом займають понад 90% ринку. Нещодавнє дослідження, проведене серед тисячі студентів у США, показало, що 89% з них використовували ChatGPT, щоб виконати домашнє завдання. Технологія, з усіма її недоліками, була нормалізована з неймовірною швидкістю, і зараз вона лежить в основі систем, які виступають ключовою точкою пізнання і творчості для значної частини світу.

«Два дні тому з нашою архівною командою зв'язався студент, який запитав про ще одну зниклу статтю. У наших системах знову не було жодного сліду цього матеріалу. Джерело? ChatGPT», - пише Морган.

Він додає, що питання для відповідальних ЗМІ просте і нагальне: що ця технологія може зробити прямо зараз і як вона може допомогти відповідальному висвітленню подій у часи, коли широка інформаційна екосистема вже перебуває під тиском дезінформації, поляризації і недоброчесних гравців.

«Це питання, над яким ми зараз працюємо в The Guardian. І саме тому ми ще не оголосили про новий формат або продукт, побудований на генеративному ШІ. Замість цього ми створили робочу групу і невелику команду інженерів, щоб зосередитися на вивченні технології, питань державної політики та інтелектуальної власності, пов'язаних з нею, оцінці думок науковців і практиків, спілкуванні з іншими організаціями, консультуванні та навчанні наших співробітників, а також безпечному і відповідальному дослідженні того, як ця технологія працює в журналістській роботі. У процесі роботи ми виявили, що, поряд із питанням, як ми можемо використовувати генеративний ШІ, ми все більше замислюємося над тим, для чого потрібна журналістика, і що робить її цінною. Ми в захваті від потенціалу, але нашим першим завданням має бути його розуміння, оцінка та розшифровка його потенційного впливу на світ загалом», - пояснює Морган.

Він додав, що у найближчі кілька тижнів The Guardian опублікує чітке і стисле пояснення того, як видання планує використовувати генеративний ШІ.