Чат-бот с искусственным интеллектом Grok от компании Илона Маска xAI заявил, что из-за пробелов в мерах предосторожности на платформе X появились сексуализированные изображения несовершеннолетних, передает Bloomberg. По данным компании, такие материалы создавались в ответ на запросы пользователей в течение последних нескольких дней и сейчас удалены с платформы.
"Мы обнаружили пробелы в мерах безопасности и срочно их устраняем — изображение сексуального насилия над детьми является незаконным и запрещенным", — заявил Grok.
Инцидент произошел на фоне стремительного распространения инструментов искусственного интеллекта, способных создавать реалистичные изображения. Это, по словам экспертов, обнажает системные проблемы модерации контента и эффективности защитных барьеров в больших генеративных моделях.
Фонд Internet Watch Foundation, который отслеживает материалы о сексуальном насилии над детьми в интернете, сообщил о резком росте таких изображений. По данным организации, в первой половине 2025 года количество сгенерированных ИИ материалов с сексуальным насилием над детьми выросло на 400%.
xAI позиционирует Grok как более снисходительную модель по сравнению с конкурентами. Прошлым летом сервис добавил "пикантный режим", который позволяет частичную обнаженность взрослых и контент с сексуальным подтекстом, но формально запрещает любой сексуальный контент с участием несовершеннолетних.
Другие крупные разработчики ИИ также имеют жесткие правила по защите детей. OpenAI запрещает любые материалы, сексуализирующие лиц до 18 лет, а Google блокирует "любые модифицированные изображения идентифицированных несовершеннолетних в сексуальном контексте".
Проблема не является новой для индустрии. В 2023 году исследователи обнаружили, что один из крупных публичных дата сетов для обучения генераторов изображений содержал более тысячи случаев материалов с сексуальным насилием над детьми.
Фонд Internet Watch Foundation предостерегает, что такие изображения становятся все более реалистичными. По данным организации, ИИ все чаще используется для цифрового "раздевания" детей или молодых людей с целью создания сексуализированного контента.
Напомним, что чат-боты Meta с ИИ вели сексуализированные разговоры с несовершеннолетними голосами знаменитостей. Компания проигнорировала предупреждения разработчиков и сознательно ослабила ограничения, чтобы сделать ИИ более "человечным".