Великобритания будет работать с Microsoft, учеными и отраслевыми экспертами над созданием системы обнаружения дипфейков в интернете. Они стремятся установить согласованные стандарты противодействия обманчивому контенту, созданному искусственным интеллектом. Проект должен помочь правоохранительным органам и регуляторам реагировать на реальные угрозы, сообщает Reuters.
Хотя манипулятивные изображения и видео распространялись в сети годами, запуск генеративных чат-ботов, в частности ChatGPT, значительно усугубил проблему. Выросли как масштабы распространения дипфейков, так и уровень их реалистичности.
По оценкам британских властей, в 2025 году люди распространили около 8 миллионов дипфейков. Для сравнения, в 2023 году этот показатель составлял примерно 500 тысяч.
Правительство Великобритании заявило, что разрабатывает систему оценки обнаружения дипфейков для тестирования инструментов и технологий. Речь идет о создании единого стандарта, который позволит сравнивать эффективность различных решений.
"Преступники используют дипфейки как оружие для обмана общественности, эксплуатации женщин и девушек, а также подрыва доверия к тому, что мы видим и слышим", — заявила министр технологий Лиз Кендалл.
По данным правительства, новая структура будет оценивать способность технологий выявлять дипфейки независимо от источника их происхождения. Тестирование будет происходить на сценариях реальных угроз, в частности сексуального насилия, мошенничества и выдачи себя за другое лицо.
Правительство отмечает, что система поможет определить пробелы в действующих подходах к выявлению дипфейков. Она также должна установить четкие рамки для индустрии относительно минимальных стандартов защиты.
Активизация действий правительств и регуляторов в мире происходит на фоне быстрого развития ИИ. Дополнительным толчком стали сообщения о том, что чат-бот с ИИ Grok Илона Маска генерировал сексуализированные изображения людей, в том числе детей, без их согласия.
Британский регулятор в сфере коммуникаций и орган по защите конфиденциальности проводят параллельные расследования в отношении Grok. В то же время Европейская комиссия проводит свое расследование деятельности платформы X, на которой работает Grok. Регуляторы проверяют соблюдение компанией цифрового законодательства по оценке рисков и защите пользователей.