avatar
AI да парень! / Sergei Notevskii
@sergeinotevskii
31.05.2026 20:09
AI да парень! / Sergei Notevskii Методичка по префикс кэшу “KV-cache hit rate is the single most important metric for a production-stage AI agent.” - Context engineering for AI Agents, Manus Метрика которая имеет прямое влияние на деньги, которые вы тратите на AI. Ниже - три статьи разбирающие prefix_cache с разных сторон: - Экономика кэширования и особенности провайдеров - Самые частые анти-паттерны - Кэш в AI-агентах И вишенка на торте - SKILL для ревью проекта, поиска анти-паттернов и предотвращения низкого попадания в кэш. AI да парень
SKILL-аудитор префикс кэша потихоньку обновляется, и я рад что он приносит пользу! (58🌟 на GitHub это же мой самый успешный опенсорс проект! пойду делать курс "Как достичь успеха в ИТ")

Вот например Рефат законтрибьютил поддержку Vercel AI SDK и Mastra, а еще важных и свежих изменений в Claude API. В целом, считаю что само наличие такого контрибьютора обрекает проект на успех)
А я закинул полезных правок, которые подглядел у Богдана и знания про бенчмарк vllm для запуска с проверкой кэша.

Спасибо за обратную связь и звездочки!

Кстати - эфир про кэш и контекстную инженерию с Родионом и Костей, который мы анонсировали раньше, обрел свою дату - 4 июня, 16:00 мск. Но я еще напомню)
GitHub
GitHub - sernote/audit-prompt-caching
Contribute to sernote/audit-prompt-caching development by creating an account on GitHub.
🔥 16
👍 7
👏 5
3
43 2K

Обсуждение 0

Обсуждение не доступно в веб-версии. Чтобы написать комментарий, перейдите в приложение Telegram.

Обсудить в Telegram

AI да парень! / Sergei Notevskii

4.8K
Про AI с ноткой иронии

Контакты:
ЛС - сообщения чата
https://instagram*.com/sergei_notevskii
https://ru.linkedin.com/in/sergeynotevskiy
* Принадлежит организации Meta, которая признана экстремистской и запрещена на территории РФ
Открыть в Telegram