Видеоплатформа TikTok оказалась в центре скандала после обнародования результатов расследования организации Global Witness. Активисты обнаружили, что даже при условии использования детских аккаунтов с "ограниченным режимом" пользователи могут попасть на откровенный контент всего за несколько кликов, сообщает The Guardian.
Исследователи создали семь тестовых профилей, где указали дату рождения 13-летнего ребенка, и активировали функцию Restricted Mode, которая должна блокировать видео сексуального характера. Впрочем, даже на "чистых" телефонах без истории поисков TikTok предлагал поисковые запросы с откровенным подтекстом.
Среди вариантов, которые появлялись в разделе "Вам может понравиться", были предложения запросов вроде "очень грубые, откровенные наряды" и "очень грубые красавицы". Впоследствии TikTok предложил детям искать "женщин, которые ищут случайных отношений рядом". Для трех из семи аккаунтов сексуализированные запросы появились сразу после начала использования программы.
По словам исследователей, для того, чтобы получить доступ к порнографическому контенту, в большинстве случаев хватало всего двух кликов — один на строке поиска и один на предложенном запросе. В некоторых случаях контент подавался в виде коротких клипов, которые пытались обойти модерацию, маскируя обнаженные изображения под безобидные видео.
Global Witness провела две серии тестов — до и после вступления в силу Закона Великобритании о безопасности в Интернете (Online Safety Act, OSA) 25 июля. Организация отметила, что даже после внедрения новых правил ситуация не изменилась существенно.
В отчете также указано, что на двух найденных видео "с сексуальным подтекстом" могли быть изображены несовершеннолетние лица. Эти материалы передали в Internet Watch Foundation, которая занимается мониторингом сексуального насилия над детьми в сети.
Global Witness заявила, что TikTok может нарушать требования OSA, которые обязывают технологические компании защищать детей от доступа к порнографическому контенту. Представитель Ofcom, британского регулятора связи, который контролирует соблюдение закона, сообщил: "Мы ценим работу, лежащую в основе этого исследования, и внимательно рассмотрим его результаты".
В соответствии с кодексами Ofcom, технологические платформы, которые имеют средний или высокий риск распространения вредоносного контента, должны настраивать свои алгоритмы для его фильтрации из детских лент. В правилах сообщества TikTok также прямо запрещено публиковать порнографические материалы.
В комментарии после публикации отчета представитель TikTok заявил, что компания уже приняла меры: "Как только нам стало известно об этих заявлениях, мы немедленно провели проверку, удалили контент, который нарушал наши правила, и внесли изменения в систему рекомендаций поиска".
Несмотря на эти действия, эксперты Global Witness настаивают на том, что проблема является системной и свидетельствует о неэффективности алгоритмов безопасности TikTok. По словам исследователей, это может представлять риск для миллионов несовершеннолетних пользователей платформы.
Ранее провели исследование, которое показало, что непроверенная и неполная информация о РДВГ (расстройство дефицита внимания и гиперактивности) в видеороликах на TikTok создает у молодежи ложное представление об этом расстройстве. Студенты, которые просматривали псевдонаучный контент, чаще самостоятельно диагностировали у себя РДВГ и настаивали на лечении, демонстрируя снижение критического мышления. Ведущий автор исследования считает, что такая дезинформация вредит как здоровым людям, зря ищущим у себя расстройство, так и пациентам с РДВГ, которые могут получить неправильное лечение.