ЦБ написал правила безопасности для ИИ в финансах

Банк России выпустил первые методические рекомендации по защите ИИ-систем в финансовом секторе.

Регулятор официально признал: ИИ уже встроен в финансовые процессы, а значит, его надо защищать не как «новую технологию», а как критически важную инфраструктуру.

Главный тезис ЦБ — человек должен оставаться в контуре принятия решений там, где есть повышенные риски информационной безопасности.

Например, если ИИ используется в платежных операциях, финальное подтверждение транзакции должен делать сотрудник. Не модель. Не алгоритм. Не “автоматическое решение”. А человек, который несет ответственность.

Что рекомендует ЦБ:

разработать собственные модели угроз для ИИ-систем;
создать внутреннюю политику информационной безопасности при работе с ИИ;
сохранять человеческий контроль в процессах с высокими рисками;
оценивать надежность внешних ИИ-сервисов;
учитывать, участвует ли поставщик ИИ-решения в программах поиска и устранения уязвимостей.

Отдельно ЦБ выделяет внешние ИИ-сервисы. И это правильно. Потому что главный риск для банков — не только в том, что собственная модель ошибется. Риск еще и в том, что внешний сервис может быть непрозрачным, уязвимым или плохо контролируемым.

Об этом совсем недавно говорили и мировые регуляторы, которые очень обеспокоены новым Claude.

Поставщикам ИИ-решений, которые имеют амбиции работать с банками, придется взрослеть. Одного красивого интерфейса и обещания “наша модель все автоматизирует” будет недостаточно. Нужны процессы ИБ, программы поиска уязвимостей, прозрачность и готовность проходить проверку со стороны клиентов.

AI для бизнеса