mirror of
https://github.com/R0m1k3/Loki.git
synced 2026-10-11 17:26:57 +02:00
Claude
cbe9bcd514
Backend : - agent_config : num_ctx dans la config, envoyé à Ollama (0 = défaut modèle) - ollama_client : méthode ps() (placement GPU/CPU via /api/ps) - autotune : placement() lit size vs size_vram pour savoir si le modèle est sur GPU - routes/config : POST /api/config/auto (détecte GPU + modèle, calcule et applique num_ctx/max_tokens, renvoie la détection et le placement) Frontend : - client/store : autoTune(), état tuning + résultat - SettingsView : bouton ⚡ Réglage auto, bannière de détection (GPU/VRAM, contexte, placement GPU/CPU), slider Contexte (num_ctx) Config : - GPU_VRAM_MB / GPU_NAME pour déclarer la VRAM si Ollama est distant Tests : recommandation (8B sur 12 Go -> ctx 32768), route /auto + persistance, transmission num_ctx aux options Ollama, placement via /api/ps. Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_01SVay7z3y7q2gEe54ByAE6N
49 lines
2.5 KiB
YAML
49 lines
2.5 KiB
YAML
# ───────────────────────────────────────────────────────────────────────────
|
|
# Loki — docker-compose pour Unraid (image préconstruite par GitHub)
|
|
#
|
|
# Aucun build ni git nécessaire sur Unraid : l'image est publiée automatiquement
|
|
# sur GHCR par GitHub Actions à chaque push sur main.
|
|
#
|
|
# MISE EN PLACE :
|
|
# 1) Crée les dossiers de données (terminal Unraid) :
|
|
# mkdir -p /mnt/user/appdata/loki/workspace /mnt/user/appdata/loki/data
|
|
# 2) Plugin « Compose Manager » -> nouvelle stack -> colle ce fichier.
|
|
# 3) Adapte OLLAMA_HOST avec l'IP de ton serveur Unraid (Ollama sur :11434).
|
|
# 4) Compose Up. Interface : http://<ip-unraid>:8717
|
|
#
|
|
# Mise à jour : Compose Down puis Up (l'option « pull image » récupère la
|
|
# dernière version), ou « docker compose pull » avant Up.
|
|
#
|
|
# NB : si l'image ghcr.io/r0m1k3/loki est privée, rends-la publique une fois
|
|
# (GitHub -> Packages -> loki -> Package settings -> Change visibility),
|
|
# ou connecte Unraid à GHCR avec un token.
|
|
# ───────────────────────────────────────────────────────────────────────────
|
|
services:
|
|
loki:
|
|
image: ghcr.io/r0m1k3/loki:latest
|
|
container_name: loki
|
|
ports:
|
|
# Un seul numéro de port, identique dedans/dehors (évite tout décalage).
|
|
# Pour changer de port : modifie 8717 AUX DEUX endroits + PORT ci-dessous.
|
|
- "8717:8717"
|
|
environment:
|
|
# >>> À ADAPTER : IP de ton serveur Unraid (Ollama écoute sur :11434) <<<
|
|
- OLLAMA_HOST=http://192.168.1.10:11434
|
|
- DEFAULT_MODEL=llama3.1:8b
|
|
- WORKSPACE_DIR=/workspace
|
|
- DATA_DIR=/data
|
|
- PORT=8717
|
|
# Optionnel : instance SearxNG pour l'outil web_search (sinon DuckDuckGo)
|
|
- SEARX_URL=
|
|
# Optionnel : VRAM (Mo) de ton GPU pour l'auto-réglage, si Ollama est sur
|
|
# une autre machine (sinon laisse 0). Ex. 12000 pour une carte 12 Go.
|
|
- GPU_VRAM_MB=0
|
|
volumes:
|
|
- /mnt/user/appdata/loki/workspace:/workspace
|
|
- /mnt/user/appdata/loki/data:/data
|
|
extra_hosts:
|
|
# Permet aussi OLLAMA_HOST=http://host.docker.internal:11434
|
|
- "host.docker.internal:host-gateway"
|
|
# Le HEALTHCHECK est défini dans l'image (utilise automatiquement le bon port).
|
|
restart: unless-stopped
|