Троє підлітків із Теннессі подали колективний позов проти компанії xAI Ілона Маска, звинувативши її чат-бот Grok у створенні матеріалів сексуального насильства над дітьми (Child Sexual Abuse Material, CSAM). Ці матеріали згодом поширювалися в інтернет-спільнотах і месенджерах. Позов подано 16 березня, і він стосується функцій штучного інтелекту, які, за твердженням заявників, були небезпечними ще на етапі запуску, передає The Verge.
Позивачами є двоє неповнолітніх і один дорослий, який був неповнолітнім на момент описаних подій. Одна з жертв, позначена як “Джейн Доу 1”, заявила, що у грудні виявила на платформі Discord відверті зображення себе та щонайменше 18 інших неповнолітніх, створені за допомогою штучного інтелекту.
“Принаймні п’ять із цих файлів — одне відео та чотири зображення — показували її справжнє обличчя та тіло в звичних для неї обставинах, але в сексуально відвертих позах”, — йдеться в заяві.
За даними позову, підозрюваний, якого вже заарештували, використовував ці матеріали для обміну в чатах Telegram із сотнями користувачів. Стверджується, що він створював відверті зображення за допомогою Grok і обмінював їх на інший незаконний контент за участю неповнолітніх.
Позивачі вказують, що xAI не забезпечила належної перевірки безпеки функцій штучного інтелекту. У документі також зазначено, що Grok має “недоліки в дизайні” і дозволяє створювати заборонений контент.
“Це діти, чиї шкільні фотографії та сімейні знімки були перетворені на матеріали, що містять зображення сексуального насильства над дітьми, за допомогою інструменту штучного інтелекту, розробленого компанією з мільярдним оборотом, а потім стали предметом торгівлі серед педофілів”, — заявила адвокатка постраждалих Анніка К. Мартін, — “ми маємо намір притягнути xAI до відповідальності за кожну дитину, якій вони заподіяли шкоду таким чином”.
Позов передбачає компенсацію для постраждалих і вимагає заборонити xAI створювати та поширювати подібні матеріали. Суд також має розглянути питання відповідальності компанії за використання її технологій у незаконних цілях.
Інцидент спричинив глобальну реакцію з боку регуляторів і політиків. У США пролунали заклики до Федеральної торгової комісії розслідувати діяльність Grok, Європейський Союз розпочав власне вивчення, а прем’єр-міністр Великої Британії Кір Стармер виступив із попередженням щодо ризиків.
У січні Сенат США схвалив законопроєкт, який дозволяє жертвам діпфейків подавати до суду на їхніх творців. Закон Take It Down, підписаний президентом Дональдом Трампом у 2025 році, криміналізує поширення діпфейків без згоди і має набути чинності в травні.
Попри заяви компанії X про обмеження можливостей редагування зображень через Grok, журналісти виявили, що систему все ще можна використовувати для маніпуляцій із контентом. У компанії також зазначали, що користувачі, які створюють незаконні матеріали, нестимуть відповідальність на рівні з тими, хто їх публікує.