mirror of
https://github.com/R0m1k3/Loki.git
synced 2026-10-12 01:37:06 +02:00
Claude
cbe9bcd514
Backend : - agent_config : num_ctx dans la config, envoyé à Ollama (0 = défaut modèle) - ollama_client : méthode ps() (placement GPU/CPU via /api/ps) - autotune : placement() lit size vs size_vram pour savoir si le modèle est sur GPU - routes/config : POST /api/config/auto (détecte GPU + modèle, calcule et applique num_ctx/max_tokens, renvoie la détection et le placement) Frontend : - client/store : autoTune(), état tuning + résultat - SettingsView : bouton ⚡ Réglage auto, bannière de détection (GPU/VRAM, contexte, placement GPU/CPU), slider Contexte (num_ctx) Config : - GPU_VRAM_MB / GPU_NAME pour déclarer la VRAM si Ollama est distant Tests : recommandation (8B sur 12 Go -> ctx 32768), route /auto + persistance, transmission num_ctx aux options Ollama, placement via /api/ps. Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_01SVay7z3y7q2gEe54ByAE6N
27 lines
1.0 KiB
Bash
27 lines
1.0 KiB
Bash
# ── Loki — configuration ────────────────────────────────────────────────
|
|
# Hôte Ollama. En Docker, host.docker.internal pointe vers la machine hôte.
|
|
# En local (hors Docker), utilise http://localhost:11434
|
|
OLLAMA_HOST=http://host.docker.internal:11434
|
|
|
|
# Modèle sélectionné par défaut au démarrage
|
|
DEFAULT_MODEL=llama3.1:8b
|
|
|
|
# Dossier de travail de l'agent (monté en volume dans le conteneur)
|
|
WORKSPACE_DIR=/workspace
|
|
|
|
# Base SQLite (sessions, messages, config)
|
|
DATA_DIR=/data
|
|
|
|
# Port de l'application (identique dedans/dehors). 8717 par défaut.
|
|
PORT=8717
|
|
|
|
# Optionnel : URL d'une instance SearxNG pour l'outil web_search.
|
|
# Si vide, web_search utilise DuckDuckGo (sans clé d'API).
|
|
SEARX_URL=
|
|
|
|
# Optionnel : VRAM du GPU (en Mo) pour l'auto-réglage, si Ollama tourne sur une
|
|
# autre machine (la détection nvidia-smi ne voit pas un GPU distant).
|
|
# Ex. 12000 pour une carte 12 Go. 0 = détection automatique.
|
|
GPU_VRAM_MB=0
|
|
GPU_NAME=
|