Свой ChatGPT: пошаговый гайд

Локальный ИИ-стек на своём «железе»:

1. Установка Ollama — нативно на Windows/macOS (без Docker, иначе теряете скорость). На Mac через brew install ollama.

2. Развертывание интерфейса Open WebUI — поднимается в Docker одной командой, открывается на localhost:3000. Регистрация локального аккаунта — данные никуда не уходят.

3. Подключение к IDE: — VS Code + Continue:

{ "models": [ { "title": "Qwen 7B Local", "provider": "ollama", "model": "qwen2.5-coder:7b", "requestOptions": { "num_ctx": 32768 } } ], "tabAutocompleteModel": { "title": "Qwen 1.5B Autocomplete", "provider": "ollama", "model": "qwen2.5-coder:1.5b" } }

Это не заменит топовые облачные модели для сложной архитектуры и многофайловых репозиториев. Но всю ежедневную рутину заберет на себя полностью 😉

OpenAI Community & Max | #neurointelligence