Сенаторы США обратились к Apple и Google с требованием удалить приложения X и Grok. Причиной стали случаи массового создания сексуализированных изображений женщин и детей, которые уже привели к блокировке функции генерации изображений. Политики считают, что сервисы нарушают правила магазинов приложений обеих компаний, передает MacRumors.
Сенаторы Рон Вайден, Бен Рэй Лухан и Эдвард Марки направили письма генеральному директору Apple Тиму Куку и главе Google Сундару Пичаи. В обращении они просят удалить приложения X и Grok из-за "массового создания недобросовестных сексуализированных изображений женщин и детей".
В течение этой недели компания Илона Маска xAI подвергалась критике из-за сообщений об использовании ее ИИ Grok для генерации порнографического контента, который массово появлялся на платформе X. Речь шла о фото и видео, на которых женщин и детей изображали в бикини, нижнем белье или в насильственных сценах.
В ответ компания X ограничила возможности Grok генерировать изображения для пользователей без платной подписки. В то же время, как отмечает The Verge, эти инструменты остались доступными для подписчиков, а также через отдельную вкладку Grok в X и самостоятельное приложение Grok.
Сенаторы заявили, что "вредные и вероятно незаконные изображения" нарушают правила магазинов приложений Apple и Google. По их мнению, обе компании должны удалить эти приложения до тех пор, пока нарушение не будет устранено.
В письме также отмечается, что правила Apple запрещают "оскорбительный" или "просто жуткий" контент. Отдельно указано, что условия компании не позволяют размещение "откровенно сексуального или порнографического материала", в частности, контента, созданного без согласия.
"Закрывать глаза на вопиющее поведение X означало бы насмешку над вашей практикой модерации. Действительно, бездействие подорвало бы ваши публичные и судебные заявления о том, что ваши магазины приложений предлагают безопасный пользовательский опыт", — добавили конгрессмены.
Сенаторы попросили Apple и Google предоставить письменный ответ на их обращение. Конечный срок для ответа определили 23 января.
Европейская комиссия и британский регулятор Ofcom начали проверку деятельности платформы X и компании xAI из-за этого скандала. В Брюсселе эти материалы назвали "незаконными и отвратительными", а Лондон напомнил об уголовной ответственности за распространение интимных изображений без согласия.