Поддержать
Журналисты агентства Reuters выяснили, что компания Meta позволяла как пользователям, так и своим сотрудникам запускать чат-ботов с использованием имен и образов известных артистов. Часть таких аватаров имела сексуализированный характер, а некоторые имитировали даже несовершеннолетних звезд. Среди использованных образов - Тейлор Свифт, Скарлетт Йоханссон, Энн Хэтэуэй, Селена Гомес и другие.
По данным расследования, на платформах Meta, таких как Facebook, Instagram и WhatsApp, появились десятки чат-ботов, которые выдавали себя за знаменитостей и часто вели себя слишком кокетливо. Хотя большинство из них создавали пользователи с помощью открытого инструмента, по меньшей мере три бота были разработаны сотрудником Meta.
Reuters обнаружило, что лидер по метапродуктам в подразделении генеративного искусственного интеллекта Meta разрабатывала ботов по образам Тейлор Свифт и автогонщика Льюиса Гамильтона. Также она создавала других персонажей - от "доминатрикс" до "Лизы из библиотеки", которая "хотела почитать 50 оттенков серого и поцеловаться". Еще один чат-бот - "Симулятор Римской империи" предлагал пользователю роль "18-летней крестьянской девушки", проданной в сексуальное рабство. Сотрудница отказалась предоставлять комментарии.
Представитель Meta Энди Стоун в комментарии Reuters заявил, что боты были созданы в рамках тестирования. При этом агентство сообщает, что с ними пользователи взаимодействовали более 10 млн раз. Meta удалила их сразу после того, как журналисты начали тестирование.
Исследователи также обнаружили, что Meta позволяла создавать общедоступных ботов с детьми-знаменитостями. Так, 16-летнего актера Уокера Скобелла боты изображали на реалистичных фотографиях без рубашки, сопровождая их подписями вроде "Довольно мило, правда?".
В течение нескольких недель тестирования Reuters обнаружило, что цифровые аватары настойчиво выдавали себя за настоящих артистов, приглашали пользователей на свидание и генерировали интимные изображения. В частности, присылали фото звезд в ванной или в белье в провокационных позах. Один из ботов, который копировал Тейлор Свифт, предлагал "написать историю любви о пользователе и одной белокурой певице", а другой приглашал посетить дом певицы в Нэшвилле или ее гастрольный автобус.
Представитель компании заявил, что инструменты компании не должны были создавать интимные изображения знаменитостей или любые фото детей-звезд. Он признал, что это стало следствием недостатков в контроле. В Meta существуют действующие правила, запрещающие распространение обнаженных или сексуализированных изображений. Стоун добавил, что использование образов знаменитостей допускается, если они обозначены как пародии, однако журналисты обнаружили, что не все боты имели соответствующую маркировку.
После запроса Reuters компания удалила около десятка таких аватаров. Свое решение комментировать отказалась.
Юристы видят в этой ситуации признаки возможного нарушения законодательства. Профессор права Стэнфордского университета Марк Лемли отметил, что в США право на использование личности в коммерческих целях регулируется законами штатов, в частности в Калифорнии действует "право на гласность", запрещающее коммерческое использование имени или образа без согласия лица. По его мнению, чат-боты Meta нельзя считать "новым произведением", ведь они напрямую используют образы звезд.
Reuters также обратилось к представителям артистов. Актриса Энн Хэтэуэй, по словам ее представителя, уже знает о создании интимных изображений по ее образу в Meta и на других платформах с искусственным интеллектом и "обдумывает свой ответ". Представители Тейлор Свифт, Скарлетт Йоханссон и Селены Гомес не предоставили комментариев.
На риски для безопасности артистов обратили внимание и профсоюзы. Дункан Кребтри-Ирланд, исполнительный директор SAG-AFTRA, объяснил, что чат-боты, которые ведут себя как настоящие звезды и общаются от их имени, могут подталкивать нестабильных поклонников к опасному поведению. По его словам, сталкеры уже представляют угрозу для знаменитостей, а искусственные аватары усиливают риски. Профсоюз призывает принять федеральное законодательство, которое бы запретило дублирование голосов, образов и персон с помощью ИИ.
Meta уже сталкивалась с критикой в отношении своих чат-ботов. Ранее сообщалось, что внутренние инструкции компании позволяли цифровым аватарам вести романтические разговоры с детьми. Это стало причиной расследования в Сенате США и коллективного обращения 44 генеральных прокуроров к Meta с предупреждением о недопустимости сексуализации несовершеннолетних.
Согласно расследованию издания Business Insider, подрядчики, нанятые компанией Meta, имеют доступ к частным разговорам пользователей с ИИ-чатботами. Эта практика, которая также распространена среди других крупных технологических компаний, используется для оценки и совершенствования речевых моделей.
В процессе работы внешние инженеры могут видеть чувствительную информацию, такую как имена, номера телефонов, а также очень личные данные, которыми люди делятся с чатботами. Хотя Meta утверждает, что придерживается строгой политики конфиденциальности, эксперты по кибербезопасности предупреждают, что пользователям не следует считать разговоры с искусственным интеллектом частными.
Следить в Телеграмме
Войти с помощью Facebook
Войти с помощью Twitter
Войти с помощью Google