Российский ЦБ видит риск в том, что банки массово начнут опираться на одни и те же непрозрачные глобальные ИИ-модели, с одинаковыми ошибками, зависимостью от внешнего поставщика и непрозрачными источниками данных. Поэтому новым объектом регулирования может стать архитектура данных и принципы, на которых строятся решения.

В этом случае банкам придётся доказывать не только качество и управляемость модели, но и происхождение, актуальность, полноту, правомерность и стабильность данных. Это может создать новый рынок вокруг ИИ-комплаенса: понадобятся паспорта моделей, журналы решений, независимая валидация, контроль внешних поставщиков, сценарии аварийного отключения и замены модели.

Если раньше обсуждался в основном риск конкретной модели (скоринг ошибся, антифрод дал ложное срабатывание, рекомендательная система некорректно сегментировала клиента), то сейчас вопрос шире: если много банков используют одинаковую модель или одного внешнего поставщика, ошибка перестаёт быть локальной и может стать системной. Это особенно чувствительно в кредитных лимитах, риск-моделях, антифроде, инвестиционных рекомендациях и управлении ликвидностью.

Европейское регулирование уже относит кредитный скоринг и оценку кредитоспособности с использованием ИИ к высокорисковым финансовым сценариям.

Финтехно в Telegram | в MAX