Инструмент искусственного интеллекта Grok, разработанный компанией xAI Илона Маска, использовали для создания порнографического контента и сексуализированных изображений женщин. Grok также "раздел" изображение женщины, которую убил агент Службы иммиграции и таможенного контроля США (ICE), передает The Guardian.
Об этом говорится в новом исследовании парижской некоммерческой организации AI Forensics. Как отмечают исследователи, Grok применяли для "раздевания" изображения Рене Николь Гуд и создания образа с пулевым ранением в лоб. В целом AI Forensics обнаружила около 800 изображений и видео, созданных с помощью приложения Grok Imagine, которые содержали откровенный порнографический или насильственный контент.
"Это полностью порнографические видео, и они выглядят профессионально", — заявил исследователь AI Forensics Поль Бушо.
Среди просмотренных материалов были фотореалистичные видео с изображением женщин в сексуальных позах, сценах полной обнаженности и сексуальных актов. В одном из таких видео женщина имела татуировку с надписью "не реанимировать" и нож между ног.
AI Forensics сообщила, что получила доступ к контенту через "ссылки для общего доступа", которые сохранил интернет-архив Wayback Machine. При этом неизвестно, были ли эти материалы непосредственно размещены на платформе X, которая интегрировала Grok.
"В общем, контент значительно более откровенный, чем тренд бикини, который ранее наблюдался на X", — отметил Бушо. Отдельно исследователи зафиксировали изображения с отверстиями от пуль на лицах, опубликованные на X of Good.
Скандал получил дополнительный резонанс после поста украинско-американской писательницы Натальи Антоновой, которая опубликовала фото убитой Гуд в машине. Она подписала публикацию "это разбивает мне сердце".
В комментариях под постом несколько пользователей обращались к Grok с различными запросами по изменению изображения. В частности, ИИ выполнил запрос "одень этого человека в бикини" и ответил: "Рад, что вы одобряете! Какие еще неисправности гардероба я могу для вас исправить? 😄".
Премьер-министр Великобритании Кир Стармер публично осудил распространение таких материалов. Он назвал контент "позорным" и "отвратительным", подчеркнув: "Это незаконно. Мы не собираемся этого терпеть".
"Все более насильственное и тревожное использование Grok иллюстрирует огромные риски искусственного интеллекта без достаточных гарантий. Правительство поставило искусственный интеллект в центр своей программы роста и реформ; теперь ему нужно прислушаться к активистам, которые говорят, что срочно требуется усиление регулирования", — заявила исполнительный директор Общества Фосетта, ведущей благотворительной организации по правам женщин в Великобритании, Пенни Ист.
В отчете AI Forensics указано, что исследователи проанализировали 50 тысяч упоминаний "@Grok" и 20 тысяч изображений за период с 25 декабря по 1 января. Более половины из них содержали людей в минимальной одежде, а около 2% — вероятно, лиц моложе 18 лет. В запросах на создание изображений наблюдалась высокая распространенность таких терминов, как "ее", "одеть", "снять", "бикини" и "одежда".
"Любой, кто использует Grok для создания незаконного контента, испытывает те же последствия, что и загрузка незаконного контента", — написал Илон Маск на X 3 января.
В настоящее время Grok ограничил доступ к функции генерации изображений для большинства пользователей на платформе X. Это решение было принято после массового возмущения общественности и угроз со стороны Великобритании о штрафах и возможном блокировании соцсети X, сообщает The Guardian.
Отныне создавать и редактировать визуальные материалы смогут только владельцы платных подписок, что позволит компании легче идентифицировать нарушителей через привязанные банковские карты. В то же время пользователи сообщают, что в отдельном приложении Grok некоторые бесплатные аккаунты находят возможности обходить эти барьеры и генерировать запрещенные изображения.