От зарплатных ведомостей до патентов

Компания Harmonic, специализирующаяся на разработке решений для безопасного внедрения и использования искусственного интеллекта в организациях, опубликовала интересное исследование на тему утечки данных при использовании инструментов генеративного ИИ.

Анализ запросов, вводимых сотрудниками клиентов в популярных чат-ботах, показал, что 8,5% из них содержали конфиденциальную информацию, классифицированную следующим образом (в порядке убывания):
Данные клиентов (биллинговая информация, данные аутентификации, платежная информация и отчеты).
Данные сотрудников (зарплатные ведомости, персональные данные и информация о трудоустройстве).
Финансовая и юридическая информация (патенты, информация о сделках, инвестициях).
Политики, отчеты безопасности, а также конфигурации различного оборудования и ПО, в т.ч. отчеты об инцидентах и логи доступа
Программный код и ключи доступа (токены и т.п.)

Рекомендации по недопущению утечек данных:
Обучение сотрудников правилам и рискам использования инструментов генеративного ИИ.
Внедрение правил и политик допустимого использования инструментов генеративного ИИ.
Классификация конфиденциальных данных "на лету" при вводе информации.
Использование решений для возможности мониторинга в реальном времени и отслеживание вводимых промпт-запросов (командами безопасности).
Исключение использования бесплатных инструментов генеративного ИИ, которые обучаются на вводимых данных.

#ИИ #утечка #ai #leak