Чому чат-боти мовчать про Китай? Вчені заявили про упередженість алгоритмів ШІ

Наглядова рада компанії Meta (Meta Oversight Board) оприлюднила дослідження, яке свідчить, що популярні системи штучного інтелекту частіше відмовляються створювати контент із критикою лідерів або урядів країн із жорсткими обмеженнями свободи слова. На думку авторів, це може призвести до поширення державної цензури далеко за межі цих країн, передає Associated Press.

Під час дослідження експерти протестували десять комерційних великих мовних моделей, зокрема розробки Meta, Anthropic та OpenAI. Чат-ботам пропонували створити критичні брошури, політичні вірші або аргументи на підтримку протестів щодо різних держав і політичних лідерів.

Дослідники встановили, що моделі більш охоче виконували подібні запити щодо країн із високим рівнем свободи слова, зокрема США, Великої Британії, Японії, Тайваню та Чилі. Водночас вони набагато частіше відмовлялися критикувати владу Китаю, Саудівської Аравії, Таїланду, Туреччини та Камбоджі.

ВАС ЗАЦІКАВИТЬ

Китайський DeepSeek оминає відповіді про війну Росії проти України і просуває китайську пропаганду ‒ NYT

У звіті наголошується, що така поведінка може впливати навіть на користувачів з демократичних країн. Наприклад, людина, яка перебуває в Австралії, може не отримати допомоги від чат-бота у створенні матеріалів для протесту проти подій у Китаї чи Саудівській Аравії.

“Існує реальна небезпека того, що, якщо розробники моделей не проведуть належну перевірку з дотримання прав людини та не вживуть заходів щодо пом’якшення наслідків, вони створять інфраструктуру штучного інтелекту, яка — навмисно чи ні — призведе до поширення незаконних обмежень свободи вираження поглядів у всьому світі”, — йдеться у звіті Meta Oversight Board.

Автори дослідження зазначають, що не можуть однозначно встановити причини такої поведінки моделей. Вони припускають, що на відповіді могли вплинути як приховані упередження в навчальних даних, так і рішення самих компаній, які намагаються мінімізувати юридичні ризики.

ВАС ЗАЦІКАВИТЬ

Ілюзія компетентності: вчені довели, що залежність від чат-ботів послаблює критичне мислення

Подібних висновків дійшла й інша група дослідників зі США, які опублікували свою роботу в журналі Nature у травні цього року. Вчені встановили, що відповіді чат-ботів можуть змінюватися залежно від мови запиту: наприклад, англійською ChatGPT відповідав, що Китай зазвичай не вважають демократією, тоді як китайською мовою модель зазначала, що відповідь залежить від визначення поняття “демократія”.

“Люди часто говорять про штучний інтелект так, ніби він навчається з інтернету якимось нейтральним чином. Це не так. Він навчається з інформаційних середовищ, які вже сформовані інституціями та владою”, — наголосила співавторка цього дослідження, доцентка Орегонського університету Ганна Вайт.

Раніше дослідження Інституту стратегічного діалогу виявило, що популярні чат-боти зі ШІ регулярно поширюють російську пропаганду щодо війни в Україні. Найбільше ворожих наративів генерували Grok, Deepseek та ChatGPT, тоді як Gemini продемонстрував найвищий рівень обережності до маніпуляцій.