Cloud.​ru открыл код своего инструмента защиты данных

Cloud.ru выложил в опенсорс Guardrails Filter — инструмент для защиты чувствительных данных при работе с LLM.

Как это работает?

Перед тем как запрос попадет в языковую модель, все чувствительные данные — имена, номера договоров, пароли, ключи — заменяются на «фейковые» значения. Модель отвечает, ничего не зная о реальных данных, а затем в ответ сервис возвращает все исходные данные.

Любая компания может бесплатно развернуть это у себя и подключить к нейросети любого разработчика.

Оценить Guardrails Filter в работе можно тут:
GitVerse
GitHub