Shadow AI: бой с тенью

Пока вы читаете этот пост, кто-то из ваших коллег мог отправить в ChatGPT базу клиентов — просто чтобы быстрее найти нужного заказчика. Кто-то — загрузить в Midjourney материалы под NDA, чтобы накидать пару вариантов макета. А кто-то — подключить ИИ-агента к разработке, чтобы ускорить работу с кодом

Быстро? Да. То, что раньше занимало неделю, теперь занимает пару часов.

Но у этой скорости есть цена — и это не только токены

Конфиденциальные данные компании оказываются на серверах третьих лиц — и утечки такого рода уже случались. В код может незаметно проникнуть вредоносная закладка. А у ИИ-агента, о котором никто в SOC даже не знает, может внезапно оказаться доступ к внутренним системам.

Это и есть Shadow AI — использование ИИ-инструментов сотрудниками без контроля со стороны компании. И, как любит говорить Алексей Лукацкий, это необходимо учитывать в вашей модели угроз.

Как это сделать и чем здесь могут помочь продукты Positive Technologies — рассказываем в карточках, которые мы подготовили вместе с Алексеем.

@Positive_Technologies