Разработчики показали на Зимней конференции по применению компьютерного зрения алгоритм, который позволяет обмануть любое существующее средство проверки подлинности видео. Исследователи уже проверили его на практике и убедились, что он работает, сообщает Naked science.
Метод обмана заключается во встраивании специальных «конкурирующих» примеров в каждый кадр ролика. Эффект получается поистине обескураживающим: даже наспех состряпанный дипфейк определяется детектором как реальная запись. Хотя неестественность поведения человека на видео очевидна невооруженным глазом.
Важно то, что такой способ обмана работает при перекодировке видео и на множестве самых совершенных детекторов. Подобные разработки могут становиться более совершенными, что поставит под сомнение доверие к видеоряду, ведь злоупотребления общественным мнением могут оказаться для злоумышленников гораздо проще, чем раньше, поскольку люди привыкли доверять тому, что видят.
Подписывайтесь на наш Telegram-канал с новостями технологий и культуры.
Ранее YouTube-блогер Ctrl Shift Face с помощью нейросети заменил лицо Арнольда Шварценеггера в фильме "Терминатор 2" на лицо Сильвестра Сталлоне. Замена актера никак не повлияла на сам фильм: обоих случаях Т-800 выглядит устрашающе.