Промт инжиниринг потихоньку превратился в контекстный.

Сегодня модели настолько умные, что дело не в том, КАК спросить, а в том, ЧТО вставить в контекст.

Что такое контекст-инжиниринг?

Это искусство и наука заполнения контекстного окна ровно той информацией, которая нужна для следующего шага.

Наука - потому что это система:
- Описания задач и объяснения
- Few-shot примеры
- RAG (поиск по базе знаний)
- Мультимодальные данные
- Инструменты и история состояний
- Сжатие/суммаризация информации

Искусство - потому что нужна интуиция. Понимание "психологии" модели.

Почему это сложно?
Слишком мало контекста → модель не справляется
Слишком много → растут расходы, падает качество результата
Не тот контекст → мимо

Что входит в контекст-инжиниринг?

Динамическое управление промптами - теперь они не статичные шаблоны, а адаптивные цепочки
- Умный RAG - не просто векторный поиск, а релевантное, осознанное снабжение знаниями
- Управление памятью - краткосрочной (фргаментированная/ полная история диалога) и долгосрочной (кроме RAG - графы, индексы, карточки)
- Оптимизация ввода/вывода - структуры данных, JSON-схемы, XML, разделители
- Фильтрация шума - убирать лишнее не менее важно
- Мультимодальные данные — работа не только с текстом, но и с изображениями, аудио
- Инструменты и состояния — управление инструментами в агентных системах
- Компрессия контекста - сжатие информации без потери смысла

Что почитать:
- Prompting Guide — мощный гайд по техникам промптинга
- The rise of "context engineering" - обзорная статья на LangChain
- 12 факторные агенты - принципы построения ИИ-агентов
- Context Engineering - выходя за рамки промтинга в целях давления на ИИ

Сергей Булаев AI 🤖 - об AI и не только