Microsoft пояснила дивну поведінку чат-бота Bing

Компанія Microsoft минулого тижня запустила функцію діалогу з чат-ботом у браузері Bing. І відгуки користувачів розділились. Дехто був у захваті від нового штучного інтелекту. Але деякі скаржилися на те, що він давав неправильну інформацію, лаяв їх за марнування часу і навіть демонстрував «ненормальну» поведінку, повідомляє Engadget.

Зокрема, він наполягав, що фільм «Аватар: Шлях води» ще не вийшов, оскільки думав, що ще 2022 рік. Коли користувач доводив йому, що це не так, Bing назвав його "нерозумним та впертим".

ВАС ЗАЦІКАВИТЬ

Глава Google анонсував чат-бота - потенційного конкурента ChatGPT

А оглядач New York Times Кевін Руз опублікував стенограму листування з чат-ботом, в якому останній освідчився йому, а також заявив, що його темна сторона хотіла б зламувати комп'ютери, поширювати дезіформацію і, можливо, створити небезпечний вірус. Крім того, чат-бот зізнався, що хотів би бути людиною.

Тепер Microsoft опублікувала повідомлення, в якому спробувала пояснити "дивацтва" бота. Спочатку вона визнала, що не передбачала, що ШІ Bing буде використовуватися для «загального відкриття світу  та соціальних розваг».

Компанія також заявила, що «довгі, розширені сеанси з 15 або більше питань» можуть збити з пантелику чат-бот. В цьому випадку "Bing може почати повторюватися або бути спровокованим до відповідей, які не обов'язково корисні або відповідають нашому заданому тону".

Ймовірно, це відбувається тому, що при переході від питання до питання бот може "забути", про що він намагався сказати спочатку. Щоб виправити це, корпорація Майкрософт може додати інструмент, який дозволяє скинути контекст пошуку або почати з нуля.

Але є ще одна, складніша і цікавіша проблема. "Модель іноді намагається реагувати або відображати тон, в якому її просять дати відповіді, що може призвести до стилю, якого ми не планували", - написали в Microsoft. Щоб це сталося, потрібно багато підказок, але інженери думають, що зможуть виправити це, надавши користувачам більше контролю.

Незважаючи на ці проблеми, тестувальники загалом позитивно оцінюють ШІ Bing, коли справа стосується цитування та пошукових посилань, але зазначають, що його необхідно вдосконалити, коли йдеться про свіжіші дані, наприклад, результати спортивних матчів у прямому ефірі.

Нагадаємо, 18 лютого чат-бот ChatGPT компанії OpenAI став доступним в Україні. Розповідаємо, як він працює та як ним можна користуватися.