Подростки подали в суд на компанию xAI Илона Маска из-за откровенных дипфейков

Трое подростков из Теннесси подали коллективный иск против компании xAI Илона Маска, обвинив ее чат-бот Grok в создании материалов сексуального насилия над детьми (Child Sexual Abuse Material, CSAM). Эти материалы впоследствии распространялись в интернет-сообществах и мессенджерах. Иск подан 16 марта и касается функций искусственного интеллекта, которые, по утверждению заявителей, были опасными еще на этапе запуска, передает The Verge.

Истцами являются двое несовершеннолетних и один взрослый, который был несовершеннолетним на момент описанных событий. Одна из жертв, обозначенная как "Джейн Доу 1", заявила, что в декабре обнаружила на платформе Discord откровенные изображения себя и по меньшей мере 18 других несовершеннолетних, созданные с помощью искусственного интеллекта.

"По крайней мере пять из этих файлов — одно видео и четыре изображения — показывали ее настоящее лицо и тело в привычных для нее обстоятельствах, но в сексуально откровенных позах", — говорится в заявлении.

ВАС ЗАИНТЕРЕСУЕТ

Мать сына Илона Маска подала иск против xAI из-за сексуализированных дипфейков Grok

По данным иска, подозреваемый, которого уже арестовали, использовал эти материалы для обмена в чатах Telegram с сотнями пользователей. Утверждается, что он создавал откровенные изображения с помощью Grok и обменивал их на другой незаконный контент с участием несовершеннолетних.

Истцы указывают, что xAI не обеспечила надлежащей проверки безопасности функций искусственного интеллекта. В документе также указано, что Grok имеет "недостатки в дизайне" и позволяет создавать запрещенный контент.

"Это дети, чьи школьные фотографии и семейные снимки были превращены в материалы, содержащие изображения сексуального насилия над детьми, с помощью инструмента искусственного интеллекта, разработанного компанией с миллиардным оборотом, а затем стали предметом торговли среди педофилов", — заявила адвокат пострадавших Анника К. Мартин, — "мы намерены привлечь xAI к ответственности за каждого ребенка, которому они причинили вред таким образом".

ВАС ЗАИНТЕРЕСУЕТ

Пентагон открывает секретные сети для Grok, пока другие страны его блокируют

Иск предусматривает компенсацию для пострадавших и требует запретить xAI создавать и распространять подобные материалы. Суд также должен рассмотреть вопрос ответственности компании за использование ее технологий в незаконных целях.

Инцидент вызвал глобальную реакцию со стороны регуляторов и политиков. В США прозвучали призывы к Федеральной торговой комиссии расследовать деятельность Grok, Европейский Союз начал собственное изучение, а премьер-министр Великобритании Кир Стармер выступил с предупреждением о рисках.

В январе Сенат США одобрил законопроект, который позволяет жертвам дипфейков подавать в суд на их создателей. Закон Take It Down, подписанный президентом Дональдом Трампом в 2025 году, криминализирует распространение дипфейков без согласия и должен вступить в силу в мае.

Несмотря на заявления компании X об ограничении возможностей редактирования изображений через Grok, журналисты обнаружили, что систему все еще можно использовать для манипуляций с контентом. В компании также отмечали, что пользователи, которые создают незаконные материалы, будут нести ответственность наравне с теми, кто их публикует.