Дипфейки: что это такое и как их узнать

Технологии не стоят на месте, а злоумышленники не медлят осваивать новые технологии для своего ремесла. Поговорим об относительно новом методе онлайн-мошенничества – дипфейках.

Что такое дипфейк?

Слово «дипфейк» (deepfake) в переводе с английского означает «глубокая подделка». И работает эта технология действительно глубоко: с ее помощью средствами машинного обучения и искусственного интеллекта создаются поддельные видео и аудио, где лицо или голос одного человека подменяется на другого.

Две стороны дипфейков

Как всегда, у технологии есть светлая и темная стороны. «Светлая» позволяет «воскресить» в кадре любимых актеров и певцов или помочь мультяшкам разговаривать и выражать эмоции как живым. А «темной» стороной пользуются для распространения дезинформации, шантажа, обмана и финансового мошенничества.

Технология дипфейков поднимает важные этические вопросы по поводу достоверности медиаконтента в цифровую эпоху. Необходимо быть очень осторожным и критичным при оценке видео, аудио и изображений, чтобы распознавать подделки. Риски, связанные с получением и противозаконным использованием образцов голоса, внешности и видео, сегодня высоки. Дипфейки представляют серьезную угрозу безопасности как для людей, так и для бизнеса.

Где вы все это взяли?

Сегодня в интернете регулярно публикуют предложения работы по озвучке рекламы и фильмов. Сами по себе эти объявления не являются мошенническими, за работу даже платят, но собранные дата-сеты голосов и изображений злоумышленники используют для обучения нейросетей созданию качественных изображений и записей. А уже с этими инструментами они генерируют аудио- и видеосообщения, с помощью которых вымогают деньги у друзей и родственников жертвы.

Также источником данных для мошенников служит видеоконтент из соцсетей или перехваченные данные видеоконференций и видеозвонков. Образцы голоса получают из телефонных разговоров или при взломе мессенджера из голосовых сообщений.

Как обманывают с помощью дипфейков

Вот несколько примеров использования дипфейков:

• Мошенники с помощью ИИ подделывают голос руководителя компании, и «директор» отдает по телефону или через мессенджер распоряжение о переводе средств некоторому контрагенту или для «оплаты покупки». В действительности на том конце – жулик, а платежные реквизиты мошеннические. Таким атакам наиболее подвержен малый и средний бизнес, где многие процессы завязаны именно на владельца.

Несмотря на то, что в России работает система «Антифрод», призванная бороться со звонками с подменой номера, она не реагирует на вызовы через мессенджеры, чем активно пользуются мошенники.

Сначала злоумышленники создают фейковый аккаунт руководителя в мессенджере. Туда ставятся фото, украденные из соцсетей. После этого с помощью инструментов ИИ создаётся поддельная копия его голоса. Затем злоумышленник звонит «своему» подчинённому с помощью аудиодипфейка и заставляет сотрудника, например главного бухгалтера организации, провести платёж на нужные счета.

• Используя мессенджеры от вашего имени, жулики рассылают всем вашим контактам просьбы скинуть денег. Чаще всего небольшую сумму, чтобы жертвы не сильно задумывались, тут главное – количество поверивших.

Вместо простого текстового сообщения для убедительности используется аудио с «вашим» голосом для большего доверия. Для доступа к вашему аккаунту мошенники часто используют сообщения с «зашитыми»  в них вредоносными ссылками.

• Высший мошеннический пилотаж: подделать с помощью ИИ видеозвонок вашего родственника или близкого друга. Используя дипфейк, жулики от имени близкого человека просят срочно перевести деньги для решения какого-то очень важного и срочного вопроса – попал в аварию, срочно нужна операция, вымогают деньги «оборотни в погонах» и т.п.

Как распознать дипфейк?

При всем совершенстве технологий, внимательность и простейшие проверки помогают довольно быстро разоблачить самозванцев. Вот как можно распознать дипфейк:

• Обратите внимание на качество изображения, цвет кожи и глаз, естественность движений и освещения. Попросите собеседника повернуть голову влево-вправо или почесать нос – ИИ очень плохо справляется с расчетами таких неожиданных задач;
• Внимательно прислушайтесь к качеству звука и речи на видео – нет ли «металла» или задержек, естественны ли темп и интонации, похожа ли манера речи;
• Договоритесь со своими знакомыми, придумайте кодовое слово и попросите оппонента произнести его для подтверждения подлинности или спросите о чем-то, что можете знать только вы двое;
• Не отвечайте на щедрые предложения с фото или видео известных вам людей или знакомых;
• Перезвоните по другому каналу связи и перепроверьте детали разговора;
• Установите антивирусное решение, которое сможет распознавать подделки.

Как борются с дипфейками

Сегодня вопрос борьбы с дипфейками стоит очень остро. Эксперты прогнозируют, что именно дипфейки станут «угрозой завтрашнего дня» и мы уже сейчас видим, что эти прогнозы начинают сбываться.

Компании-разработчики активно исследуют проблему и создают алгоритмы, помогающие распознавать поддельные изображения и видео. Некоторые страны вводят законы, которые запрещают распространение дипфейков без соответствующей маркировки. Разрабатывается технология «цифровых водяных знаков», встраивание которых в изображения и видео может помочь отслеживать их происхождение.

Но один из самых эффективных инструментов – это люди, ведь конечная цель мошенников именно люди. Важно повышать цифровую грамотность, обучать людей распознавать признаки дипфейков. Комплексный подход с использованием технологических, образовательных и правовых мер - ключ к эффективной борьбе с «глубокими подделками».