Чатботи зі штучним інтелектом можуть упевнено генерувати відповіді навіть тоді, коли не мають достовірної інформації. Масове ж впровадження таких інструментів у пошукові системи загрожує якості даних в інтернеті. Про це йдеться в колонці редактора відділу Netzwelt журналу Der Spiegel Торстена Кляйнца.
На думку Кляйнца, головна проблема сучасних моделей ШІ не в тому, що вони помиляються, а в тому, що роблять це впевнено. «Навіть якщо чатбот не знаходить надійної інформації на моє запитання, він усе одно пропонує відповідь, яка звучить правдоподібно і подається з повною впевненістю», — пише журналіст.
Як приклад він наводить власний досвід використання Gemini. Хоча сервіс допоміг вирішити побутову проблему з кімнатною рослиною, в інших випадках він не виконував поставлених завдань. ШІ ігнорував інструкції під час генерації зображень, довільно змінював об'єкти у відео та не знаходив інформацію, яка, на думку автора, мала бути доступною через сервіси Google.
Окремо журналіст критикує функцію «Огляд із ШІ» у пошуку Google. Він вважає, що готові відповіді відучують користувачів переходити до першоджерел, а це здатне підірвати економічну модель медіа, які витрачають гроші на збір і перевірку інформації.
На завершення Кляйнц закликає технологічні компанії не поспішати з масовим впровадженням таких інструментів. «Якщо ШІ не може надати інформацію, за яку видавці готові відповідати своїм ім'ям і грошима, тоді, можливо, він взагалі не повинен її надавати», — зазначає він. На його думку, головним принципом для чатботів має стати фраза: «Я знаю, що нічого не знаю».
Google активно розширює використання штучного інтелекту у своєму пошуку. Під час конференції I/O компанія представила найбільше оновлення Search за 25 років, додавши AI Mode, агентів для пошуку та персоналізовані відповіді на базі Gemini. Водночас дослідники неодноразово звертали увагу, що AI Overviews у запитах про здоров'я нерідко спираються на YouTube та інші неспеціалізовані джерела, що викликало дискусії про надійність таких відповідей.
Питання відповідальності за помилки генеративного ШІ вже дійшло до судів. У Німеччині AI Overview Google став предметом судового розгляду, після якого суд визнав, що відповідальність за неправдиві твердження, згенеровані системою, несе компанія Google. Докладніше про наслідки цього прецеденту у статті ZN.UA «ШІ на лаві підсудних: німецький суд змусив Google відповідати за неправдиву інформацію, згенеровану штучним інтелектом. Що далі?» пише завідувач наукової лабораторії імерсивних технологій і права Інституту інформації, безпеки і права Національної академії правових наук України, доктор наук у галузі права Олексій Костенко.