Великобритания вместе с Microsoft создаст систему обнаружения дипфейков

Великобритания будет работать с Microsoft, учеными и отраслевыми экспертами над созданием системы обнаружения дипфейков в интернете. Они стремятся установить согласованные стандарты противодействия обманчивому контенту, созданному искусственным интеллектом. Проект должен помочь правоохранительным органам и регуляторам реагировать на реальные угрозы, сообщает Reuters.

Хотя манипулятивные изображения и видео распространялись в сети годами, запуск генеративных чат-ботов, в частности ChatGPT, значительно усугубил проблему. Выросли как масштабы распространения дипфейков, так и уровень их реалистичности.

По оценкам британских властей, в 2025 году люди распространили около 8 миллионов дипфейков. Для сравнения, в 2023 году этот показатель составлял примерно 500 тысяч.

ВАС ЗАИНТЕРЕСУЕТ

Мать сына Илона Маска подала иск против xAI из-за сексуализированных дипфейков Grok

Правительство Великобритании заявило, что разрабатывает систему оценки обнаружения дипфейков для тестирования инструментов и технологий. Речь идет о создании единого стандарта, который позволит сравнивать эффективность различных решений.

"Преступники используют дипфейки как оружие для обмана общественности, эксплуатации женщин и девушек, а также подрыва доверия к тому, что мы видим и слышим", — заявила министр технологий Лиз Кендалл.

По данным правительства, новая структура будет оценивать способность технологий выявлять дипфейки независимо от источника их происхождения. Тестирование будет происходить на сценариях реальных угроз, в частности сексуального насилия, мошенничества и выдачи себя за другое лицо.

ВАС ЗАИНТЕРЕСУЕТ

Sora 2 от OpenAI позволяет "сдавать лица в аренду": новый этап в развитии дипфейков

Правительство отмечает, что система поможет определить пробелы в действующих подходах к выявлению дипфейков. Она также должна установить четкие рамки для индустрии относительно минимальных стандартов защиты.

Активизация действий правительств и регуляторов в мире происходит на фоне быстрого развития ИИ. Дополнительным толчком стали сообщения о том, что чат-бот с ИИ Grok Илона Маска генерировал сексуализированные изображения людей, в том числе детей, без их согласия.

Британский регулятор в сфере коммуникаций и орган по защите конфиденциальности проводят параллельные расследования в отношении Grok. В то же время Европейская комиссия проводит свое расследование деятельности платформы X, на которой работает Grok. Регуляторы проверяют соблюдение компанией цифрового законодательства по оценке рисков и защите пользователей.