xAI впервые подала в суд на пользователя Grok: он создавал дипфейки интимного характера

Компания xAI Илона Маска подала иск в федеральный суд Техаса против пользователя Grok Терри Гарвуда, которого обвиняют в создании материалов интимного характера с помощью искусственного интеллекта. В компании заявляют, что мужчина использовал сервис для генерации сексуализированных дипфейков с участием взрослых и несовершеннолетних, передает Reuters.

По данным издания, это один из первых случаев, когда разработчик генеративного ИИ сам обратился в суд против пользователя из-за предполагаемого использования модели для создания незаконного контента. Терри Гарвуда арестовали ещё в феврале по обвинениям, связанным с сексуальной эксплуатацией несовершеннолетних.

В иске xAI утверждает, что ответчик загружал в Grok обычные фотографии взрослых и детей, после чего пытался создать на их основе сексуально откровенные дипфейки. Также компания заявляет, что он генерировал сексуализированные изображения взрослых без их согласия.

ВАС ЗАИНТЕРЕСУЕТ

Первый приговор за дипфейк интимного характера: осудили мужчину из Огайо

«(xAI) соблюдает свои правила в отношении нарушителей путем приостановки и закрытия учетных записей, а также путем сообщения о материалах, содержащих подозрения в сексуальном насилии над детьми, в Национальный центр по вопросам пропавших и эксплуатируемых детей», — говорится в судебных материалах.

По данным xAI, в 2026 году компания приостановила действие 52 222 учетных записей и направила 73 604 сообщения в Национальный центр по делам пропавших и эксплуатируемых детей (National Center for Missing and Exploited Children, NCMEC). В иске отмечается, что эти сообщения способствовали как минимум 244 арестам.

Компания просит суд взыскать с ответчика компенсацию, размер которой не раскрывается, а также навсегда запретить ему пользоваться Grok. В xAI заявляют, что действия ответчика создали риски не только для пострадавших, но и для самой компании.

ВАС ЗАИНТЕРЕСУЕТ

Мать сына Илона Маска подала иск против xAI из-за сексуализированных дипфейков Grok

«Действия ответчика представляли собой продуманный план по использованию инструмента истца в преступных целях, что нанесло реальным жертвам глубокий и длительный ущерб, а также подвергло истца значительному юридическому риску и ущербу для репутации», — указано в исковом заявлении.

В то же время в марте этого года трое подростков из штата Теннесси подали коллективный иск против xAI, обвинив чат-бота Grok в создании сексуализированных дипфейков с участием несовершеннолетних. Истцы обвиняют компанию в пренебрежении безопасностью технологий на этапе запуска и наличии критических недостатков в дизайне Grok, которые позволяют обходить ограничения на создание запрещенного контента.

Несмотря на заявления компании xAI об ограничении возможностей редактированияизображений через Grok, журналисты обнаружили, что систему по-прежнему можно использовать для манипуляций с контентом. В компании также отмечали, что пользователи, создающие незаконные материалы, будут нести ответственность наравне с теми, кто их публикует.