Журналисты ВВС провели расследование, которое показало, что педофилы используют искусственный интеллект для создания реалистичных изображений о сексуальном насилии над детьми. И эти изображения продают на платформах обмена контентом с платной подпиской, свидетельствуют данные расследования.
Для создания изображений злоумышленники используют программу под названием Stable Diffusion, которая была создана для дизайнеров и художников. Эта программа создает изображение на основании словесного описания. Журналисты ВВС выяснили, что программу используют для создания изображений сексуального насилия над детьми, в том числе изнасилования младенцев и детей.
Группы полиции Великобритании по расследованию жестокого обращения с детьми в Интернете говорят, что они уже сталкиваются с таким контентом.
Некоторые из создателей изображений публикуют свои работы в популярной японской социальной сети Pixiv, которая в основном используется художниками, которые публикуют манги и аниме. Сайт размещен в Японии, где распространение сексуализированных карикатур и детских рисунков не является незаконным, поэтому его используют для продвижения таких «работ» в группах и с помощью хештегов.
Представитель Pixiv заявил, что компания уделяет огромное внимание решению этой проблемы. 31 мая она заявила, что запретила все фотореалистичные изображения сексуального содержания с участием несовершеннолетних.
Кроме того, сгенерированные ИИ изображения публикуют на платформах, таких как Patreon, где нужно платить создателям за доступ к контенту. Так, один из пользователей предлагает доступ к «эксклюзивному нецензурированному контенту» за 8,3 доллара в месяц.
В самой компании заявили о «нулевой толерантности» к подобному контенту.
Ранее исследование McKinsey моказало, что мировой бум использования генеративных моделей искусственного интеллекта приведет к расцвету и росту производительности в одних областях экономики, но вызовет глубокие потрясения в других. В первую очередь, это коснется работников умственного труда.