Журналісти ВВС провели розслідування, яке показало, що педофіли використовують штучний інтелект для створення реалістичних зображень про сексуальне насильство над дітьми. І ці зображення продають на платформах обміну контентом із платною підпискою, свідчать дані розслідування.
Для створення зображень зловмисники використовують програму під назвою Stable Diffusion, створену для дизайнерів і художників. Ця програма створює зображення на основі словесного опису. Журналісти ВВС з'ясували, що програму використовують для створення зображень сексуального насильства над дітьми, зокрема зґвалтування немовлят та дітей.
Групи поліції Великої Британії щодо розслідування жорстокого поводження з дітьми в Інтернеті кажуть, що вони вже стикаються з таким контентом.
Деякі з творців зображень публікують свої роботи в популярній японській соціальній мережі Pixiv, яка переважно використовується художниками, які публікують манги та аніме. Сайт розміщений у Японії, де поширення сексуалізованих карикатур та дитячих малюнків не є незаконним, тому його використовують для просування таких «робіт» у групах та за допомогою хештегов.
Представник Pixiv заявив, що компанія приділяє велику увагу рішенню цієї проблеми. 31 травня вона заявила, що заборонила усі фотореалістичні зображення сексуального змісту за участю неповнолітніх.
Крім того, згенеровані ШІ зображення публікують на платформах таких як Patreon, де потрібно платити творцям за доступ до контенту. Так, один із користувачів пропонує доступ до «ексклюзивного нецензурованого контенту» за 8,3 долара на місяць.
У самій компанії заявили про «нульову толерантність» до такого контенту.
Раніше дослідження McKinsey показало, що світовий бум використання генеративних моделей штучного інтелекту призведе до розквіту та зростання продуктивності в одних галузях економіки, але викличе глибокі потрясіння в інших. Насамперед це торкнеться працівників розумової праці.