Diese Anleitung beschreibt, wie man Ollama als eigenständigen Container installiert und mit Paperless-GPT verbindet.
1. Ollama Container installieren
Erstelle einen neuen Stack (Projekt) im Container Manager (oder Portainer) mit dieser docker-compose.yaml:
version: '3.8'
services:
ollama:
image: ollama/ollama:latest
container_name: ollama
restart: always
ports:
- "11434:11434"
volumes:
- ./ollama/data:/root/.ollama
Hier findest Du eine fertige yaml für ZimaOS
Nach dem Start ist Ollama unter http://IP-DES-NAS:11434 erreichbar.
2. Die KI-Modelle laden („Pullen“)
Der Container läuft, ist aber noch „leer“. Du musst die Modelle einmalig herunterladen. Öffne das Terminal des Ollama-Containers (oder verbinde dich per SSH) und führe diese Befehle aus:
Für Text/Tags (schnell & ressourcensparend):
docker exec -it ollama ollama pull llama3.2
Für Bildanalyse/OCR (Vision):
docker exec -it ollama ollama pull openbmb/minicpm-v2.6
(Alternativ für schwache NAS-CPUs: moondream statt minicpm nutzen)
3. Paperless-GPT konfigurieren
Füge in deinem Paperless-GPT Container folgende Umgebungsvariablen (Environment Variables) hinzu, um ihn auf dein lokales Ollama umzuleiten:
environment:
# --- 1. Die Text-KI (Denken) ---
LLM_PROVIDER: "ollama"
LLM_MODEL: "llama3.2"
# --- 2. Die Bild-KI (Sehen) ---
OCR_PROVIDER: "llm"
VISION_LLM_PROVIDER: "ollama"
VISION_LLM_MODEL: "openbmb/minicpm-v2.6"
# --- Verbindung ---
# WICHTIG: Nutze die echte IP des NAS, nicht 'localhost'
OLLAMA_HOST: "http://192.168.178.XX:11434"
# --- Performance Tuning (Optional für NAS) ---
OCR_LIMIT_PAGES: "1" # Nur Seite 1 scannen (spart extrem viel CPU)
PDF_SKIP_EXISTING_OCR: "true" # Wenn Text da ist, nichts tun
Wichtiger Hinweis für Synology-Nutzer:
Da Synology NAS oft schwächere CPUs haben und keine GPU nutzen, kann die Analyse eines Dokuments einige Minuten dauern. Das ist normal. Setze OCR_LIMIT_PAGES auf 1, um das System nicht lahmzulegen.
4. WICHTIG: Für NAS mit wenig RAM (unter 8 GB)
Viele Synology-Modelle haben ab Werk nur 2 GB oder 4 GB Arbeitsspeicher. Das Standard-Modell MiniCPM benötigt jedoch mind. 8 GB, sonst stürzt der Container sofort ab („OOM Kill“).
Falls das NAS weniger als 8 GB RAM hat, nutze stattdessen diese ressourcensparenden Modelle:
1. Modelle laden (Terminal):
# Winzige Text-KI (1 Mrd. Parameter statt 3 Mrd.)
docker exec -it ollama ollama pull llama3.2:1b
# Winzige Bild-KI (braucht kaum RAM)
docker exec -it ollama ollama pull moondream
2. Config anpassen (Paperless-GPT): Ändere die Environment-Variablen im Paperless-GPT Container auf die kleinen Modelle:
environment:
# --- Low-RAM Text-KI ---
LLM_MODEL: "llama3.2:1b" # Wichtig: :1b am Ende!
# --- Low-RAM Bild-KI ---
VISION_LLM_MODEL: "moondream" # Statt minicpm
# ... restliche Einstellungen gleich lassen ...
Damit läuft die KI-Erkennung auch auf kleineren DiskStations stabil, wenngleich die Textqualität etwas einfacher ausfällt.