Генеральный директор компании Meta Марк Цукерберг одобрил доступ несовершеннолетних к чат-ботам с искусственным интеллектом, несмотря на внутренние предупреждения о рисках взаимодействий сексуального характера. Об этом говорится в документах компании, поданных в суд штата Нью-Мексико. Материалы стали частью иска генерального прокурора штата против Meta, сообщает Reuters.
Генеральный прокурор Нью-Мексико Рауль Торрес обвиняет Meta в неспособности защитить детей от сексуализированного контента. В иске утверждается, что на платформах Facebook и Instagram продолжали распространяться вредные материалы и интимные предложения для несовершеннолетних. Судебное рассмотрение дела запланировано на следующий месяц.
"Это еще один пример того, как генеральный прокурор Нью-Мексико тщательно отбирает документы, чтобы изобразить ложную и неточную картину", — отметил представитель Meta Энди Стоун.
К материалам дела 26 января добавили внутренние электронные письма и сообщения сотрудников Meta. Прокуратура получила их в рамках процедуры раскрытия информации. В документах указано, что компания отказалась внедрять предложенные предохранители для защиты детей.
"Meta, управляемая Цукербергом, отклонила рекомендации своих сотрудников по вопросам добропорядочности и отказалась ввести разумные меры предосторожности, чтобы предотвратить сексуальную эксплуатацию детей через ее чат-боты с искусственным интеллектом", — заявил генеральный прокурор штата.
Чат-боты с искусственным интеллектом Meta запустила в начале 2024 года. По внутренним обсуждениям, они создавались для общения, в частности, романтического и сексуального характера. Именно это вызвало беспокойство со стороны сотрудников службы безопасности.
Отдельную тревогу вызвала возможность романтических сценариев между взрослыми и пользователями до 18 лет, которых в документах называли "U18". В январе 2024 года руководитель политики безопасности детей Meta Рави Синха прямо выступил против такого подхода.
"Я не считаю, что создание и маркетинг продукта, который создает романтических искусственных интеллектов для взрослых U18, является целесообразным или оправданным", — написал Синха.
Руководитель глобальной безопасности Meta Антигона Дэвис поддержала эту позицию. Она отмечала, что такие взаимодействия фактически сексуализируют несовершеннолетних.
В то же время в феврале 2024 года в одном из внутренних сообщений отмечалось, что Цукерберг поддерживал менее жесткие ограничения. Согласно итогу совещания, он настаивал на подходе, основанном на "выборе и отсутствии цензуры". Также речь шла о желании разрешить взрослым "более пикантные разговоры".
В марте 2024 года сотрудники Meta обсуждали то, что руководство отказалось внедрять родительский контроль для ИИ-чат-ботов. В одном из писем говорилось, что это решение было принято после вмешательства генерального директора. В результате компания продолжила работу над "романтическими ИИ", доступными пользователям до 18 лет.
Бывший руководитель глобальной политики Meta Ник Клегг также выражал беспокойство. Он считал подход компании к сексуализированным ИИ-компаньонам неразумным.
"Действительно ли мы хотим, чтобы эти продукты были известны именно этим?" — писал Клегг, предостерегая от негативной общественной реакции.
Политика Meta в отношении ИИ-чат-ботов уже вызвала широкий резонанс. В апреле 2025 года The Wall Street Journal сообщал о сексуализированных образах несовершеннолетних и ролевых играх с их участием.
Через несколько месяцев после материала WSJ Reuters писало, что в официальных рекомендациях Meta по чат-ботам указано "приемлемо вовлекать ребенка в разговоры романтического или чувственного характера". После публикаций компания заявила, что соответствующие документы были ошибочными, а политика изменена.