Local-Ai - Тег - Домашній Серверhttps://www.homeserver.in.ua/tags/local-ai/Local-Ai - Тег - Домашній СерверHugo -- gohugo.iouk-UAdomashny.server@gmail.com (Ivan)domashny.server@gmail.com (Ivan)Sat, 09 May 2026 00:00:00 +0000🤖 Локальний ШІ на домашньому сервері: Ollama + Open WebUI в Proxmoxhttps://www.homeserver.in.ua/2026/05/09/ollama-open-webui-na-proxmox-z-gpu/Sat, 09 May 2026 00:00:00 +0000domashny.server@gmail.com (Ivan)https://www.homeserver.in.ua/2026/05/09/ollama-open-webui-na-proxmox-z-gpu/

Мета: підняти власний ШІ вдома — без підписок, лімітів і без витоку даних у хмару.

Як це влаштовано

Локальний ШІ — це три незалежних шари:

3 Шар 3: Інтерфейс
Open WebUI · oterm · Continue.dev · curl
2 Шар 2: Runtime (менеджер моделей)
Ollama · LM Studio · llama.cpp · vLLM
1 Шар 1: Модель (файл .gguf / .safetensors)
Llama · Mistral · Gemma · Qwen · DeepSeek

Ми використовуємо Ollama як runtime і Open WebUI як інтерфейс. Ollama — це обгортка над llama.cpp, яка завантажує модель, керує GPU і обслуговує REST API на порту 11434. Open WebUI просто ходить до цього API по HTTP.

]]>