Deepfakes – что это и как ими пользуются мошенники

Что такое DeepFake и как его распознать? Рассказываем подробно о всех видах существующих дипфейков и их опасности.

Количество видеодипфейков в Интернете в 2023 г. увеличилось в три раза по сравнению с предыдущим годом. Аудиодипфейков, по данным Reuters, стало больше в восемь раз. При этом даже профессионалы не способны отличить 25–27% подмененных аудиофайлов. Пока политики и звезды кино борются с дипфейками в социальных сетях, бизнес сталкивается с серьезными угрозами.

Проблемой для биометрических сервисов становятся спуфинговые атаки с виртуальной подменой видео. Сценарии могут быть разными:

• использование сгенерированных видео- и аудиофайлов для доступа к системам;
• применение методов социальной инженерии с имитацией официального лица компании, от которого сотрудникам поступает «задача»;
• использование реальных биометрических данных третьих лиц без их ведома.

В 2023 году рост цифровых атак с использованием дипфейков составил 3000%, по данным исследования Onfido. Эксперты уверены, что их число будет только увеличиваться.

С проблемой поиска инструментов борьбы с deepfake могут столкнуться:

• p2p-сервисы;
• поставщики финансовых услуг;
• предприятия сферы транспорта и логистики;
• ритейл и розничные сети;
• сервисы каршеринга, а также многие другие.

Что такое дипфейк

Дипфейк — это поддельное видеоизображение или аудио, которые задействуют для дезинформации и манипуляции. Термин происходит от английского «deepfake». «Deep» переводится как «глубокий», «fake» — «обман, подделка, подлог». В России его иногда пишут раздельно дип фейк, но это неправильно.

В случае с системами идентификации дипфейк чаще всего применяют в формате видео, но могут использоваться форматы аудио, текста и комбинированные.

Способы создания дипфейков с применением видео:

1. Face swapping (замена лица) — подстановка в кадр лица другого человека. Грубая подделка — наложение изображения. Более сложными будут дипфейки, в которых используются технологии искусственного интеллекта для преобразования исходного лица.
2. Face reenactment (реконструкция) — искусственное изменение выражения лица. Альтернативное название — Lip-sync videos. Исходное лицо сохраняется, но голос, интонации и даже слова (речь) мошенники подделывают.
3. Synthetic faces (синтез) — создание идентичностей, которых не существует в реальности.

Методы разработки дипфейков в формате audio:

• генерация искусственных аудиоданных с использованием технологии преобразования текста в речь (TTS);
• изменение существующих аудиоданных.

Текстовые дипфейки могут создаваться на основе OpenAI ChatGPT, DeepMind Sparrow, GopherCite и других нейросетей.

Злоумышленники могут использовать для атак два и более варианта: комбинации аудио-, видео- и текстовых дипфейков.

Как мошенники используют deepfake

Основные цели атак с применением дипфейков:

• дистанционная идентификация по видео — например, для открытия счета в банке;
• голосовая аутентификация — для одобрения транзакций;
• дистанционная аттестация — в промышленной и транспортной безопасности, для медицинских и педагогических работников, иных лиц;
• удаленное подтверждение личности — при приеме на работу, аренде и т.д.

Злоумышленники могут использовать различные форматы физических атак представления:

• подмена изображений (Printed attack);
• использование масок (Mask attack, включая 3D);
• предоставление заранее записанного видео (Replay attack), в том числе и с использованием метода Camera injection.

Как обнаружить дипфейки?

Авторы доклада ETSI GR SAI 011 предлагают решать проблему комплексно. Они считают, что необходимо правовое регулирование на законодательном уровне, обучение и повышение осведомленности сотрудников компаний о рисках столкнуться с дипфейком, внедрение технических методов обнаружения.

Сейчас используются следующие методы обнаружиения дипфейков:

1. Использовать Fraud-detecting AI. Системы на основе искусственного интеллекта тренируются на датасетах и выявляют deepfakes.
2. Подключать Liveness (живость, витальность). Решения, которые проверяют «живость» в активном и пассивном режимах, затрудняют подделку данных и загрузку предварительно сгенерированных файлов вместо потоковой трансляции.
3. Использовать SDKs вместо APIs. В Software Development Kit включены инструменты «live capture», которые затрудняют использование файлов с цифровыми изменениями.
4. Подключать многофакторную авторизацию. Например, использование биометрических данных в связке с паролями и кодами позволяет удостовериться, что в системе настоящий пользователь.
5. Внедрять проверку с разных устройств. Кроссплатформенность снижает риск загрузки дипфейков.

Ключевые тенденции в области мошенничества с дипфейками, согласно исследованию Onfido «Identity Fraud Report»:

1. Атаки совершают небольшие группы злоумышленников. Мошенник предоставляет десятки и сотни поддельных данных, из-за чего создается ложное ощущение массовости.
2. Злоумышленники используют десктопные программы и онлайн-решения для создания дипфейков (платные и бесплатные).
3. Преступники фокусируются на одном бизнесе (или одной группе целей) в единицу времени.

Как IDX защищает от дипфейков при идентификации клиентов

Для защиты от дипфейков у IDX предусмотрен модуль «Определение живости» (Liveness Detection). Он состоит из нескольких процессов, с помощью которых можно обнаружить подделку:

• пассивный Liveness — работают алгоритмы, обнаруживающие признаки неживого изображения (артефакты, искажения, несоответствие реакции);
• активный Liveness — система идентификации просит пользователя совершить простые действия (приблизить камеру, отдалить или повернуть ее, назвать цифры, улыбнуться);

Liveness Detection оснащен модулем защиты от дипфейков для снижения риска атак с подменой видео. Система не позволит потенциальному мошеннику использовать предварительно записанные файлы. Дополнительно с помощью модуля можно сохранить видеосессию пользователя и архивировать для изучения в будущем.

Оценить, как системы IDX противостоят дипфейкам, можно в разделе «Подтверждение личности» после регистрации.

В целом комплекс инструментов IDX для идентификации по биометрическим признакам включает:

• распознавание документов и проверку их данных в эталонных источниках;
• проверку витальности (живости, лайвнесс);
• сравнение лиц на фото;
• валидацию селфи с паспортом.

Зарегистрируйтесь, чтобы получить бесплатный доступ к личному кабинету на 24 часа и 10 бесплатных проверок.