Что такое Дипфейки, Их Угрозы и Как их Избежать?

Что такое Дипфейки?

Дипфейки — это поддельные медиа, созданные путем манипуляций с человеком на существующем фото или видео с использованием мощных методов машинного обучения.

Например, в 2018 году появилось фейковое видео, на котором Барак Обама критикует Дональда Трампа, и оно стало вирусным. Основная цель этого видео была продемонстрировать, насколько мощными могут быть дипфейки. В 2019 году Марк Цукерберг появился в фейковом видео о том, как Facebook контролирует данные миллиардов пользователей.

Термин «дипфейк» образован от английских слов «deep learning» (глубокое обучение) и «fake» (подделка), потому что он использует архитектуры глубокого обучения, раздел машинного обучения и искусственного интеллекта.

Дипфейки создаются с помощью тренировки автокодировщиков или GANs для создания очень убедительных поддельных медиа. Любой может создать дипфейк и заставить людей верить, что это реально, хотя это не так, и это самая опасная часть таких фейковых медиа.

Кто является целью дипфейков?

Впервые появившись в порнографическом видео с участием знаменитости в 2017 году, дипфейки быстро распространились в таких областях как политика, финансы, новости и т.д.

Многие знаменитости уже попали в интернет на порнографических видео, а политические лидеры оказывались в новостях, говоря слова, которые они никогда не произносили.

Техники создания дипфейков обычно требуют множества фотографий и видео целей. Лица известных личностей часто становятся целями из-за больших данных, доступных в интернете. Таким образом, дипфейки могут серьезно навредить репутации любой известной личности.

Сегодня популярные программы для создания дипфейков, такие как FakeApp, DeepFaceLab, FaceSwap и ZAO, легко доступны для всех, кто хочет создать дипфейк.

Типы дипфейков

Дипфейки обычно подразделяются на несколько категорий, таких как:

• Смена лиц — два изображения объединяются в одно фейковое
• Повторение движений лица — изменение черт лица человека
• Аудио-дипфейки — поддельное аудио определенного человека
• Синхронизация губ — видео с согласованными движениями рта и аудио
• Кукольный мастер — видео с определенным человеком (куклой) анимируются, всегда используя движения другого человека (мастера), сидящего перед камерой.

Как Создаются Дипфейки

Основой приложений для создания дипфейков являются две технологии глубокого обучения: автокодировщики и GANs.

Автокодировщики

Автокодировщики в основном используются для создания дипфейков с заменой лица. Чтобы сделать дипфейк видео с кем-то, сначала вам нужно обучить автокодировщик, состоящий из двух частей: кодера и декодера.

Обычно для этой техники используются две пары кодера и декодера. Вам нужно прогнать множество изображений двух людей, лица которых вы хотите поменять местами, через кодер. Чтобы эти изображения были как можно более реалистичными, они должны содержать лица, снятые под разными углами и в разном освещении.

Во время этого обучения кодер извлекает скрытые характеристики изображений или сжимает их до латентного представления. Затем декодер восстанавливает изображения из этого латентного представления.

Например, предположим, вы обучили изображение человека номер 1 с использованием декодера A. Декодер A затем восстанавливает изображение человека номер 2, используя характеристики человека номер 1. После этого вы можете использовать декодер B для восстановления этого изображения.

По завершении обучения меняйте местами два декодера, чтобы восстановить два разных изображения, в итоге заменяя их местами. ПО как ZAO и FakeApp популярны для создания реалистичных изображений на основе замены лиц.

Generative Adversarial Networks (GANs)

GANs также состоят из двух алгоритмов: генератора и дискриминатора, которые работают друг против друга. Сначала генератор создает новые изображения из латентного представления исходного материала.

Затем алгоритм дискриминатора пытается определить, создано ли правильное изображение, чтобы обнаружить дефекты. Именно по этой причине генератор будет создавать как можно более реалистичные изображения.

Множество сервисов для создания дипфейков можно найти на теневом интернете.

Как Дипфейки Могут Стать Угрозой

Дипфейки могут стать серьезной угрозой для отдельных людей, бизнеса и общественных институтов.

Применение дипфейков

Есть области, где дипфейки используются для повышения продуктивности. Например, создатели фильмов и 3D-видео сокращают время производства с помощью техник дипфейков. Их также можно использовать исключительно для развлечения широкой аудитории.

Однако основной мотив большинства дипфейков — манипулировать аудиторией и заставить ее верить в то, чего на самом деле не произошло или не было сказано.

Автор искажает данные и распространяет ложную информацию с различными злонамеренными целями. Например:

• Мошенничество и шантаж
• Манипуляции с биометрией
• Порнография
• Получение политических преимуществ
• Социальная инженерия

Среди всех этих примеров дипфейки могут стать серьезной угрозой для личности и репутации людей, конфиденциальных данных, таких как финансовая информация, кибербезопасности, политических выборов и многого другого.

Эти злоупотребления могут проявляться в мошенничестве против отдельных лиц и компаний, включая социальные сети.

Мошенничество

В 2019 году The Wall Street Journal сообщал, что CEO британской энергетической компании был обманут и перевел 220 000 евро венгерскому поставщику по телефону.

Мошенник якобы использовал технологию аудио-дипфейков, чтобы имитировать голос CEO родительской компании и приказать сделать платеж.

Аудио-дипфейки — самый популярный вид дипфейков, используемых для мошенничества, которые заставляют людей думать, что они разговаривают с надежным собеседником. В большинстве случаев аудио-дипфейк имитирует, что звонящий — это высокопоставленный сотрудник, например, CEO или CTO.

Угрозы для бизнеса

Сейчас удаленная работа на подъеме из-за пандемии COVID-19. Поэтому количество бизнеса, проводимого через видеоконференции или по телефону, увеличивается, что делает их более уязвимыми для таких мошенничеств.

Компании находятся под высоким риском финансовых потерь и ухудшения своего имиджа из-за дипфейков. Они невольно помогают мошенникам совершать мошенничества, что может привести к нежелательным судебным искам.

Манипуляция биометрией

Биометрические технологии широко используются как надежный метод доступа во многих организациях. Дипфейки могут серьезно повлиять на эту технологию, если она будет скомпрометирована.

Так как биометрия предоставляет доступ к ограниченным зонам, взлом сканеров лица даст несанкционированный доступ к этим зонам.

Манипуляция в социальных сетях

Дипфейки популярны на платформах социальных сетей и созданы для того, чтобы вызвать реакцию среди людей и максимизировать охват страниц. Предположим, есть страница в Facebook, размещающая дипфейки, связанные с политическими фигурами или какой-либо знаменитостью, и вызывающая бурю комментариев, создающую хаос.

Кроме того, можно ли гарантировать, что любой профиль соответствует реальному человеку? Вряд ли. Аватар, который вы видите на этом аккаунте в Facebook, может быть дипфейком. Если это так, то все, что они публикуют в своем профиле, скорее всего, тоже ненастоящее.

Угрозы для политики

Еще одна область, подвергающаяся угрозе от дипфейков, — это политические манипуляции. Благодаря легкодоступному программному обеспечению для создания дипфейков, их легко создать и распространить среди широкой аудитории.

Из-за этого преимущества любой может использовать дипфейки для распространения ложной информации среди общественности для получения политических преимуществ, особенно во время выборов.

Получение политических преимуществ

Один из ярких примеров — распространение поддельного видео американского политика Нэнси Пелоси в социальных сетях. На нем она, как будто бы, говорит в состоянии алкогольного опьянения.

Бывший американский президент Дональд Дж. Трамп поделился этим видео в своих социальных сетях, надеясь изменить образ Нэнси Пелоси, своей политической соперницы. В результате видео собрало более 2 миллионов просмотров и репостов в социальных сетях.

Подрыв двусторонних отношений между странами

Угрозы от дипфейков не ограничиваются только политическими отношениями внутри одной страны. Они могут даже выходить за рамки национальных границ и подрывать отношения между странами.

Например, в 2020 году премьер-министр Австралии, Скотт Моррисон, потребовал извинений от Китая из-за поддельного твита, в котором показано, как австралийский солдат угрожает убить афганского ребенка, держа нож у его горла.

Это изображение вызвало гнев в интернете и временно подорвало двусторонние отношения между правительствами Австралии и Китая. Поэтому многие органы подчеркивают необходимость контролировать дипфейки на платформах социальных сетей, направленных на получение политических преимуществ.

Как избежать дипфейков

Существует несколько методов, которые помогут выявить дипфейки.

Как вы можете определить дипфейк?

Если вы заметили, что кто-то появляется в видео, делая что-то необычное, всегда проверяйте следующие характеристики самостоятельно. Ведь дипфейки находятся на этапе, когда можно различить разницу, тщательно присмотревшись к следующим признакам:

• Мимические выражения, которые выглядят неестественно.
• Частые изменения освещения.
• Отсутствие движения глаз, отсутствие моргания или неестественное моргание.
• Изменение тона кожи.
• Отсутствие эмоций на лице.
• Неестественное расположение черт лица.
• Неестественная поза и движение тела.
• Размытость изображения.
• Смещение изображения.
• Плохая синхронизация губ.
• Изменения хэштега или отпечатка пальца. Создатели видео могут использовать хэштеги или цифровые отпечатки в определенных местах видео, чтобы подтвердить подлинность. Если хэштеги меняются, это может указывать на манипуляцию с видео.

Что вы можете сделать, чтобы избежать дипфейков?

• Если вы смотрите спорное видео, которое распространяется онлайн в социальных сетях, всегда проверяйте его источник и ищите информацию, действительно ли оно от доверенного человека, прежде чем делиться или верить содержимому в видео. То же самое относится к подозрительным звонкам, даже если они приходят от старших по званию. Хотя это не гарантирует, что вы никогда не попадете в такую ​​ловушку, это поможет избежать многих мошенничеств.
• Для бизнеса интеграция крепких проверок безопасности в любой процесс, связанный с финансовыми данными, поможет существенно противостоять мошенничеству с использованием дипфейков.
• Обучайте себя, других и сотрудников вашей компании, как работают дипфейки, какие угрозы они представляют и как их можно определить.
• Всегда полагайтесь на надежные источники новостей.

Инструменты и технологии для обнаружения дипфейков

• Исследователи Университета Южной Калифорнии и Университета Калифорнии в Беркли исследуют технологии обнаружения дипфейков. Их методы, использующие мягкую биометрию, обнаруживают дипфейки с точностью от 92 до 96 процентов.
• Компания Adobe разработала новую технологию, которая позволяет определить, было ли фото лица изменено или нет.
• Соревнование Deepfake Detection Challenge от Kaggle приглашает исследователей со всего мира создавать инновационные технологии для обнаружения дипфейков.
• Компания Microsoft разработала инструмент для обнаружения дипфейков.
• Исследователи Facebook разработали искусственный интеллект, который может обнаруживать дипфейки, согласно сообщению на сайте NPR.

Итог

Дипфейки стали одной из самых серьезных угроз для многих людей по всему миру. С растущим использованием контента в социальных сетях, создатели дипфейков будут продолжать создавать все более качественные дипфейки, которые сложно обнаружить.

Таким образом, технологии обнаружения дипфейков должны непрерывно развиваться, а правительства должны регулировать использование дипфейков в социальных сетях. Чтобы избежать попадания в такие ловушки, убедитесь следовать советам, перечисленным в этой статье.