Дипфейки и AI-мошенничество: как защититься от цифровых двойников

Технология дипфейк (от англ. deep learning + fake) позволяет с помощью нейросетей синтезировать реалистичные видео, изображения и аудио с лицами и голосами реальных людей. Если ещё несколько лет назад это было прерогативой исследовательских лабораторий, сегодня бесплатные приложения дают такую возможность любому желающему — в том числе мошенникам. В Казахстане первые задокументированные случаи использования дипфейков в мошеннических целях зафиксированы в 2022 году, и с тех пор число инцидентов ежегодно удваивается.

Как мошенники используют дипфейки

Видеозвонок от «руководителя»

Злоумышленник создаёт видео с лицом директора компании или высокопоставленного чиновника и звонит по корпоративному мессенджеру сотруднику финансового отдела с требованием срочного перевода. Жертва видит лицо начальника, слышит его голос — и выполняет указание. Этот вид атаки называется BEC с использованием дипфейков и наносит бизнесу миллионный ущерб.

Голосовые клоны для родственников

Мошенник записывает несколько секунд голоса человека из публичных источников (видео в соцсетях, YouTube) и создаёт голосовую копию. Затем звонит пожилому родственнику: «Мама, я попал в аварию, мне нужны деньги, пришли срочно». Голос звучит абсолютно реалистично.

Поддельные видео знаменитостей

Дипфейк-видео с Нурланом Сабуровым, Бахытжаном Сагинтаевым или другими узнаваемыми персонами рекламируют инвестиционные схемы или криптопроекты. Видео распространяется в WhatsApp и Telegram как «срочная новость». Часть зрителей верит и вкладывает деньги.

«По данным глобального отчёта Sumsub за 2023 год, число мошеннических дипфейков выросло на 704% за год. Казахстан входит в топ-15 стран по количеству зафиксированных инцидентов в Центральной Азии и СНГ.»

Как распознать дипфейк

Современные дипфейки несовершенны. При внимательном просмотре можно заметить характерные артефакты:

• Мерцание по краям лица — особенно заметно при движении.
• Неестественное моргание — слишком редкое или слишком частое.
• Несоответствие губ и звука — особенно заметно при быстрой речи.
• Размытость ушей, шеи или фона при чётком лице.
• Неправильное освещение — тени не соответствуют источнику света.
• Застывшее выражение — нейросетям сложно имитировать микровыражения.

Технические инструменты верификации

Для проверки подозрительного видео или изображения используйте специализированные детекторы:

• Hive Moderation — онлайн-сервис, анализирующий видео и фото на признаки AI-генерации.
• Microsoft Azure AI — детектор дипфейков для корпоративного использования.
• FotoForensics — бесплатный инструмент анализа метаданных и EXIF изображений.
• Reverse image search — поиск по изображению в Google помогает найти оригинал.

Защита для физических лиц

1. Введите «кодовое слово» с близкими. Договоритесь о секретной фразе, которую нужно произнести при подозрительном звонке. Мошенник её не знает.
2. Перезвоните сами. Получив срочную просьбу о деньгах по видеозвонку, положите трубку и наберите номер самостоятельно по известному вам контакту.
3. Минимизируйте публикацию голосовых сообщений. Каждое публичное аудио потенциально может стать материалом для клонирования голоса.
4. Настройте приватность в соцсетях. Ограничьте круг лиц, которые видят ваши видео и фото.

Защита для бизнеса

1. Установите многоуровневое подтверждение для крупных финансовых операций — только одного видеозвонка недостаточно.
2. Разработайте внутренний протокол верификации: любой нестандартный перевод требует подтверждения по альтернативному каналу (например, личный телефонный звонок на зарегистрированный номер).
3. Проведите обучение сотрудников финансового отдела по теме дипфейков.
4. Используйте корпоративные VPN и защищённые мессенджеры для служебных коммуникаций.

О других формах корпоративного мошенничества читайте в статье BEC: корпоративный email-фрод. Если вы получили мошеннический звонок с голосовым клоном, алгоритм действий описан в материале Что делать жертве мошенничества.

Дипфейки — не фантастика, а реальная угроза 2024 года. Самая надёжная защита — здоровый скептицизм и многоуровневая верификация. Видите срочную просьбу о деньгах — остановитесь, перезвоните сами, убедитесь, что говорите с реальным человеком. Пять минут проверки стоят намного дороже потерянных сбережений.