Проект: локальное (on-premises) развертывание PrivateGPT с моделью Saiga 13B (файл model-q4_K.gguf) на Windows 11.

Цель: стабильно работающий веб-интерфейс (http://127.0.0.1:8001) с корректной загрузкой модели, возможностью добавлять свои документы (RAG) и русским интерфейсом.

Текущее состояние:
ОС — Windows 11 Pro x64, CPU i5-10600, 32 GB RAM, SSD 1 ТБ.
Python 3.11 + Poetry уже установлены, репозиторий privateGPT клонирован.

Файл-модель model-q4_K.gguf (? 8 GB) лежит:
C:\privategpt_old\models\modelssaiga\model-q4_K.gguf
(при необходимости можно перенести).

Базовые зависимости установлены, но приложение не запускается из-за ошибок Pydantic / пути к модели.

Требования к результату:
Область / Что должно быть настроено
LLM: llama_cpp грузит Saiga 13B без ошибок «Provided model path does not exist», все переменные окружения и YAML-конфиг приведены к валидной схеме.
Web UI: PrivateGPT доступен по http://127.0.0.1:8001, принимает запросы и отвечает (русский + английский).
RAG-подсистема: Возможность ingestion локальных PDF/DOCX и вопросов по ним.
Документация: README-файл (или комментарии .md) с описанием: шаг запуска, где лежит конфиг, как добавлять новые документы, как сменить модель.

Формат выполнения:
? Удалённо (AnyDesk/TeamViewer/VS Code SSH)
? Очно (СПб), договоримся о времени.
Срок: 5 часов с момента утверждения.
Бюджет: 3000 ? (либо укажите свою ставку)

Требования к исполнителю:
— Опыт с llama_cpp, PrivateGPT или аналогичными self-host LLM-стеками.
— Умение работать на Windows-станциях (без Docker предпочтительно).
— Готовность предоставить короткий отчёт по итогам.

По всем вопросам обращаться к @MihailUr888