Add per-model GPU and context profiles

This commit is contained in:
Michael committed 2026-06-30 11:58:39 +02:00
1 parent cdbb5f03fa
commit e24d397d31
12 files changed
+224 -215

No files matched your search

+1 -4
View File
@@ -29,15 +29,12 @@ services:
environment:
# >>> À ADAPTER : IP de ton serveur Unraid (Ollama écoute sur :11434) <<<
- OLLAMA_HOST=http://192.168.1.10:11434
- DEFAULT_MODEL=llama3.1:8b
- DEFAULT_MODEL=gemma4:12b
- WORKSPACE_DIR=/workspace
- DATA_DIR=/data
- PORT=8717
# Optionnel : instance SearxNG pour l'outil web_search (sinon DuckDuckGo)
- SEARX_URL=
# Optionnel : VRAM (Mo) de ton GPU pour l'auto-réglage, si Ollama est sur
# une autre machine (sinon laisse 0). Ex. 12000 pour une carte 12 Go.
- GPU_VRAM_MB=0
volumes:
- /mnt/user/appdata/loki/workspace:/workspace
- /mnt/user/appdata/loki/data:/data