Grok признал вину: чат-бот с ИИ генерировал сексуализированные изображения несовершеннолетних

Чат-бот с искусственным интеллектом Grok от компании Илона Маска xAI заявил, что из-за пробелов в мерах предосторожности на платформе X появились сексуализированные изображения несовершеннолетних, передает Bloomberg. По данным компании, такие материалы создавались в ответ на запросы пользователей в течение последних нескольких дней и сейчас удалены с платформы.

Как насчет этих изображений, которые grok generated of children in underwear?

Не делал скриншоты фактических рендеров, но grok абсолютно сделал их и сделал их сексуальными.

Тоже большой фанат таких, Элон? pic.twitter.com/p9Fd3i4Qg0

— UR | Xyless (@Xyless) 1 января 2026 года

"Мы обнаружили пробелы в мерах безопасности и срочно их устраняем — изображение сексуального насилия над детьми является незаконным и запрещенным", — заявил Grok.

Инцидент произошел на фоне стремительного распространения инструментов искусственного интеллекта, способных создавать реалистичные изображения. Это, по словам экспертов, обнажает системные проблемы модерации контента и эффективности защитных барьеров в больших генеративных моделях.

ВАС ЗАИНТЕРЕСУЕТ

Grok Илона Маска запустил "AI-компаньонов" с сексуальным подтекстом

Фонд Internet Watch Foundation, который отслеживает материалы о сексуальном насилии над детьми в интернете, сообщил о резком росте таких изображений. По данным организации, в первой половине 2025 года количество сгенерированных ИИ материалов с сексуальным насилием над детьми выросло на 400%.

xAI позиционирует Grok как более снисходительную модель по сравнению с конкурентами. Прошлым летом сервис добавил "пикантный режим", который позволяет частичную обнаженность взрослых и контент с сексуальным подтекстом, но формально запрещает любой сексуальный контент с участием несовершеннолетних.

Другие крупные разработчики ИИ также имеют жесткие правила по защите детей. OpenAI запрещает любые материалы, сексуализирующие лиц до 18 лет, а Google блокирует "любые модифицированные изображения идентифицированных несовершеннолетних в сексуальном контексте".

ВАС ЗАИНТЕРЕСУЕТ

Почему Grok нельзя доверять: чат-бот Маска дает опасные инструкции вместо помощи

Проблема не является новой для индустрии. В 2023 году исследователи обнаружили, что один из крупных публичных дата сетов для обучения генераторов изображений содержал более тысячи случаев материалов с сексуальным насилием над детьми.

Фонд Internet Watch Foundation предостерегает, что такие изображения становятся все более реалистичными. По данным организации, ИИ все чаще используется для цифрового "раздевания" детей или молодых людей с целью создания сексуализированного контента.

Напомним, что чат-боты Meta с ИИ вели сексуализированные разговоры с несовершеннолетними голосами знаменитостей. Компания проигнорировала предупреждения разработчиков и сознательно ослабила ограничения, чтобы сделать ИИ более "человечным".