Разработчики создали универсальный способ обмана детекторов дипфейк-видео

По словам экспертов, их решение демонстрирует неэффективность даже самых совершенных средств определения подлинности видео.

Разработчики показали на Зимней конференции по применению компьютерного зрения алгоритм, который позволяет обмануть любое существующее средство проверки подлинности видео. Исследователи уже проверили его на практике и убедились, что он работает, сообщает Naked science.

Метод обмана заключается во встраивании специальных «конкурирующих» примеров в каждый кадр ролика. Эффект получается поистине обескураживающим: даже наспех состряпанный дипфейк определяется детектором как реальная запись. Хотя неестественность поведения человека на видео очевидна невооруженным глазом.

Важно то, что такой способ обмана работает при перекодировке видео и на множестве самых совершенных детекторов. Подобные разработки могут становиться более совершенными, что поставит под сомнение доверие к видеоряду, ведь злоупотребления общественным мнением могут оказаться для злоумышленников гораздо проще, чем раньше, поскольку люди привыкли доверять тому, что видят.

Подписывайтесь на наш Telegram-канал с новостями технологий и культуры.

ВАС ЗАИНТЕРЕСУЕТ

Ученые научили искусственный интеллект различать породы деревьев

Ранее YouTube-блогер Ctrl Shift Face с помощью нейросети заменил лицо Арнольда Шварценеггера в фильме "Терминатор 2" на лицо Сильвестра Сталлоне. Замена актера никак не повлияла на сам фильм: обоих случаях Т-800 выглядит устрашающе.