YouTube без ведома пользователей применял алгоритмы искусственного интеллекта для редактирования видео в формате Shorts, сообщает BBC. Компания подтвердила, что тестировала технологию на ограниченном количестве роликов, однако создателей об этом не предупредили и возможности отказаться от вмешательства не предоставили.
Первыми проблему заметили сами блогеры. Музыкальный автор Rick Beato, чей канал имеет более пяти миллионов подписчиков и около 2000 видео, обратил внимание, что его лицо выглядело ненатурально, "как будто с гримом". Его коллега Ретт Шулл также зафиксировал странные изменения в собственных роликах и опубликовал видео с анализом проблемы, которое просмотрели более 600 тысяч раз.
"Главное то, что это выглядит как созданное искусственным интеллектом. Я думаю, что это глубоко искажает меня, то, что я делаю, и мой голос в интернете. Это может потенциально немного подорвать доверие, которое я имею к своей аудитории. Это просто меня беспокоит", - говорит Шулл.
В соцсетях жалобы на странные моменты в видео начали появляться в июне этого года. Пользователи публиковали увеличенные кадры с деформированными частями лиц и тел и выражали сомнения относительно действий YouTube. После нескольких месяцев таких обсуждений компания подтвердила факт экспериментов.
"Мы тестируем традиционные технологии машинного обучения, которые убирают размытие, уменьшают шум и улучшают четкость видео при обработке, подобно современным смартфонам", - заявил на X руководитель редакционного отдела и связей с создателями YouTube Рене Ричи. В компании подчеркнули, что речь идет не о генеративном искусственном интеллекте, который может сделать полностью новый контент, а о "традиционном машинном обучении".
Впрочем, некоторые исследователи считают объяснение неубедительным. Сэмюэл Вули, заведующий кафедрой исследований дезинформации Университета Питтсбурга, заявил, что "машинное обучение" является подотраслью искусственного интеллекта, и компания фактически пытается замаскировать использование ИИ. По его словам, главная проблема заключается в отсутствии предварительного информирования и согласия создателей на эксперименты. Вули также говорит о риске еще большего подрыва доверия к онлайн-контенту.
Некоторые блогеры, однако, не высказали критики в адрес компании. Рик Бито отметил, что, несмотря на странные эффекты, он благодарен платформе за возможности и назвал YouTube "лучшей в своем классе компанией". Однако его коллега Шулл предупредил, что такое вмешательство может создать у зрителей ощущение, будто контент был сгенерирован искусственным интеллектом, что подрывает личное доверие между автором и аудиторией.
YouTube пока не ответил на вопрос BBC, планирует ли компания дать пользователям возможность отключать подобную обработку. В то же время дискуссия в сообществе продолжается, ведь подобные технологии могут стать новым стандартом работы с видео без четкого информирования создателей.
При этом в июле YouTube обновил свою политику монетизации, чтобы ограничить доход для контента, созданного с помощью искусственного интеллекта. Это решение связано со стремительным ростом "неаутентичных" и повторяющихся видео, которые могут навредить репутации платформы. Компания стремится отдавать предпочтение "оригинальному" и "аутентичному" контенту, который отражает настоящее творчество авторов. Интересно, что будет с видео, которые YouTube самостоятельно редактировала с помощью ИИ?