Close
24 июля 2021, Суббота

Создан способ обмана детекторов дипфейк-видео, делающий их бессмысленными

13.02.2021 Разместил: Редакция ESOREITER / Источник: NAKED-SCIENCE.RU 1059

Создан способ обмана детекторов дипфейк-видео, делающий их бессмысленнымиФото из открытых источников

В киберпространстве несколько лет продолжается новая борьба «щита» и «меча» — совершенствование алгоритмов, создающих дипфейк-видео и определяющих подделку. Судя по всему, в этой войне наметился перелом, и он не в пользу «сил света». Исследователи экспериментально подтвердили возможность обмануть любое существующее решение для выявления поддельных роликов.

Фото из открытых источников

Николас Кейдж вместо Эми Адамс в фильме «Человек из стали» / ©DeepFake Videos, YouTube

Как пишет портал SciTechDaily со ссылкой на работу американских специалистов по компьютерной инженерии, новая нейросеть довольно простым образом «обманывает» любые детекторы дипфейков. Этот алгоритм был представлен на Зимней конференции по применению компьютерного зрения, которая прошла в январе этого года (WACV 2021). Исследователи настаивают, что их решение демонстрирует неэффективность даже самых совершенных существующих средств определения подлинности видео.

Метод обмана заключается во встраивании специальных «конкурирующих» примеров (можно перевести и как «противостоящих» — adversarial examples) в каждый кадр ролика. Эффект получается поистине обескураживающим: даже наспех состряпанный дипфейк определяется детектором как реальная запись. Хотя неестественность поведения человека на видео очевидна невооруженным глазом. Пример такого обмана исследователи продемонстрировали на практике.

©University of California San Diego, SciTechDaily, YouTube

Что важно, «обманка» работает при перекодировании видео и на множестве самых совершенных детекторов. Фактически специалисты делают вывод, что из-за особенностей выявляющих подделку алгоритмов их все реально легко обвести вокруг пальца.

Подобные разработки могут стать гораздо совершеннее, что снова ставит под вопрос само понятие доверия к видеоряду. А точнее, вызывает опасения, что манипуляции общественным мнением могут оказаться гораздо проще для злоумышленников, чем того хотели бы правоохранительные органы и сами люди. И если поначалу волна дипфейков воспринималась лишь как развлечение, то несколько позднее стала очевидна опасность технологии.

Люди привыкли доверять тому, что видят глазами, а добротно сделанный дипфейк может быть неотличим от реального видео. Порой достаточно даже не заменять лицо человеку, а синхронизировать движения губ с поддельной речью. Масштабы возможного применения таких манипуляций поистине безграничны. И детекторы подобных подделок разрабатывают сотни коллективов по всему миру.

Свежий пример: как сообщает РБК, Министерство внутренних дел России объявило тендер на создание алгоритма для выявления «внутрикадрового монтажа». Сумма контракта составляет почти 4,8 миллиона рублей, но эти средства, скорее всего, будут потрачены впустую. Американские исследователи показали, что создание «необнаружимых» дипфейков было лишь вопросом времени. Разработчикам защитных инструментов придется искать совершенно новые способы определять подделки — и этот процесс может занять очень много времени.

‹ Назад Вперед ›
Метки:
Время Россия
Новости партнеров
Популярные новости / Технологии, научные открытия
Ученые смогли обратить старение вспять на три года
30.05.2021 2777

Простые изменения в питании и образе жизни, включая улучшение режима сна, прием пробиотиков и физические упражнения, могут уменьшить признаки биологического старения на три года всего.

В мозге человека обнаружили неизвестное явление
22.05.2021 1847
Искусственный интеллект по губам определяет ругающихся людей
16.06.2021 1842
Доказана теорема Стивена Хокинга, касающаяся свойств черной дыры
02.07.2021 1681
Чтение стихов развивает мозг, выяснили ученые
23.05.2021 1568
Самое популярное
На дне Венецианского канала обнаружили дорогу древних римлян
23.07.2021 305

В северо-восточной части Венецианской лагуны, на дне канала Трепорти, была обнаружена серия удивительных древних построек.

Каким был самый плохой год в истории человечества?
Мощный подземный взрыв в Ухане подбросил в воздух дорогу вместе с рабочими и прохожими
В Китае накренился 300-метровый небоскреб и вызвал панику
Календарь
‹‹‹ Июль, 2021    
ПнВтСрЧтПтСбВс
      1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31