Что такое «доверенные посредники» и зачем они нужны финансовому и ИИ-рынку?

В недавнем отчёте по применению ИИ на финансовом рынке Банк России снова вернулся к теме доверенных посредников, для которых еще в консультационном докладе 2025 года предложил проработать правовые условия.

Доверенные посредники — это защищённые платформы, где финансовые организации смогут добровольно обмениваться и объединять данные для разработки ИИ-моделей. Например, для антифрода, оценки рисков, противодействию отмыванию доходов и других задач, где данных одной компании может быть недостаточно, чтобы модель лучше выявляла мошенничество, снижала число ошибочных решений и точнее работала с рисковыми сценариями.

Похожую логику обсуждают и на международном рынке, например, ОЭСР (Организация экономического сотрудничества и развития) пишет о технологиях повышения конфиденциальности, которые позволяют разным организациям совместно работать над ИИ-решениями, не передавая друг другу исходные чувствительные данные.
Но смысл такой платформы появляется только при условии понятных требований к её безопасности.

Что важно защитить:

Саму платформу

В отчёте Банка России среди требований называют использование российского ПО, выстроенную систему информационной безопасности, независимый технический аудит и заранее утверждённые правила работы.

Данные и модели

Для них нужны обезличивание, шифрование, запрет выгрузки за пределы платформы, использование данных только для обучения ИИ и уничтожение после завершения обработки.

Ответственность между участниками

В отчёте отдельно говорится, что нужно проработать распределение ответственности между пользователями платформы и оператором, а также механизм компенсации ущерба при инцидентах.

Тема доверенных посредников хорошо показывает общий сдвиг: ИИ-проекты всё чаще требуют не только сильных моделей, но и понятной стратегии безопасности. На этом фоне возрастает ценность специалистов, которые умеют оценивать риски ИИ, выстраивать надежную защиту данных и моделей, обеспечивать их безопасную эксплуатацию. Именно изучению этих тем посвящена наша совместная с НИУ ВШЭ образовательная программа «Стратегия безопасности искусственного интеллекта», которая стартует 8 сентября.

Она подойдёт специалистам по ИБ, риск-менеджерам, ML-инженерам, архитекторам данных и юристам по ИИ- и дата-комплаенсу.

Подробнее о программе рассказали по ссылке