Профилировщик контекста для LLM-агентов

🔹 RimantasZ/contextspy
⭐ 30 звёзд · Python

Перехватывает запросы к LLM API через mitmproxy, разбирает промпт на 8 категорий — системный промпт, определения инструментов, их результаты, содержимое файлов, историю диалога, текущее сообщение, префилл ассистента и некатегоризированное. Токены считает через tiktoken с `cl100k_base`.

Работает в двух режимах: forward proxy для OpenAI, Anthropic, Copilot и reverse proxy для локальных Ollama, llama.cpp, vLLM. Поддерживает Claude Desktop/Code, Cursor, opencode.

Стек: FastAPI, uvicorn, React, Vite, SQLite. Все данные лежат в `~/.contextspy/` локально и стираются через 7 дней по умолчанию — срок правится в `config.toml`. Ставится из Homebrew, PyPI, .deb или бинарником.

репозиторий

Полезная Репа 🔍