Кибермошенники в прошлом году чаще всего звонили россиянам по видео под видом столичного мэра и замминистра МВД. Всего зафиксировано почти 100 дипфейков с участием этих двух узнаваемых персон. При этом мошенничество с использованием ИИ принесло преступникам в 4,5 раза больше прибыли. В 2025 году в России при общем снижении случаев кибермошенничества на 6 миллиардов вырос ущерб, который ими причинен.

После академических слушаний в МГИМО (где мне посчастливилось и самой выступить) решила все отрефлексировать в беседе с коллегой по СПЧ, создательницей «Белого интернета» Элиной Сидоренко.
Коротко:
Три случая, как тренды.
Случай с компанией Arup в Гонконге в начале 2024 года — сотрудник компании получил приглашение на видеоконференцию, присоединился к ней и встретился лицом к лицу (если так можно выразиться) с синтетическими копиями главы финансового отдела и других руководителей. Все было идеально. Не просто похоже, а синхронизировано: жесты, эмоциональные переходы, даже дыхание. Мошенники отдали распоряжение совершить транзакции. На счета в Гонконге ушло $25 млн.
Случай (март 2025 года), когда финансовый директор чуть не потерял полмиллиона долларов через Zoom, где мошенники выдавали себя за руководство.
Случай в норвежском банке DNB — здесь хакеры попытались использовать дипфейк-видео CEO, но банк устоял благодаря дополнительным проверкам. : даже финансовые гиганты с миллиардными оборотами находятся в зоне уязвимости. 

Есть автоматизированные фишинговые атаки, когда ИИ генерирует персонализированные сообщения, копируя не просто общий стиль, а стиль конкретно вашего коллеги или друга. Это уже не спам, это таргетированный, индивидуализированный обман.
Затем есть агентные ИИ — пожалуй, самые беспокоящие угрозы. Эксперты прогнозируют, что синтетических агентов ИИ будет в 100 раз больше, чем людей. Каждый из них может принимать решения автономно, получать доступ к системам. Если эти агенты скомпрометированы, это как армия невидимых солдат, оккупировавшая вашу сетевую архитектуру.
Утечки данных через неправильное использование ИИ — люди доверяют чатботам как друзьям, делятся конфиденциальной информацией. Компании используют неутвержденные ИИ-сервисы, где данные уплывают в незащищенные «облака» и напрямую к конкурентам.
Есть также манипулирование уязвимостями. Минцифры определяет это как «использование возрастных, психологических и иных особенностей человека для целенаправленного воздействия на его решения». Это означает, что ИИ может быть запрограммирован на манипуляцию детьми, пожилыми людьми, людьми с психическими расстройствами.
И, наконец, тиражирование дезинформации в массовом масштабе. Во время выборов или международного кризиса одно дипфейк-видео политика может разжечь конфликт прежде, чем люди проверят источник.

Вся беседа по ссылке.