mirror of
https://github.com/R0m1k3/Loki.git
synced 2026-10-14 10:48:35 +02:00
MichaelandClaude Opus 5.5
4b859c4eb6
L'image embarque loki-rs (étape Alpine, binaire musl statique) et l'entrypoint en fait la porte d'entrée : `loki-rs serve` sur le port public, le Go derrière lui sur 127.0.0.1:8091. LOKI_FACADE=0 revient à l'ancien schéma si la façade pose problème. Au démarrage, le loki-rs de l'image installe la dernière release « rolling » dans /data/bin/<build>/ ; l'entrypoint prend ensuite loki et loki-rs du même dossier (which-bin), et un lien dans /usr/local/sbin fait que `docker exec loki loki …` vise lui aussi la version installée. C'est toujours le loki-rs de l'image qui met à jour : un binaire publié défectueux ne peut pas bloquer le correctif suivant. CI : job Rust (fmt, clippy -D warnings, tests). Publication : la release « rolling » part à chaque push sur main avec le même numéro de run que l'image (LOKI_BUILD) ; IMAGE_ABI, source unique, empêche d'installer des binaires qui exigent une image plus récente. manifest.json est envoyé en dernier. Message corrigé quand l'image est plus récente que la release : rien à tirer dans ce cas. Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
83 lines
4.9 KiB
YAML
83 lines
4.9 KiB
YAML
# ───────────────────────────────────────────────────────────────────────────
|
|
# Loki — docker-compose pour Unraid (image préconstruite par GitHub Actions)
|
|
#
|
|
# Loki est un fork conteneurisé d'AJEAN (github.com/nathaninline/ajean, MIT) :
|
|
# moteur llama.cpp CUDA + interface web dans UN conteneur autonome.
|
|
# Aucun build ni git nécessaire sur Unraid — l'image est publiée sur GHCR à
|
|
# chaque push sur main.
|
|
#
|
|
# MISE EN PLACE :
|
|
# 1) Plugin « Nvidia Driver » (Apps) installé, GPU visible (nvidia-smi).
|
|
# 2) Crée les dossiers de données (terminal Unraid) :
|
|
# mkdir -p /mnt/user/appdata/loki/data /mnt/user/appdata/loki/models
|
|
# 3) Plugin « Compose Manager » -> nouvelle stack -> colle ce fichier.
|
|
# 4) Compose Up. Interface : http://<ip-unraid>:8090
|
|
#
|
|
# Les modèles se téléchargent directement depuis l'UI (catalogue intégré),
|
|
# ou dépose tes .gguf dans /mnt/user/appdata/loki/models.
|
|
#
|
|
# Mise à jour : AUTOMATIQUE au redémarrage du conteneur (binaires Loki de
|
|
# la release « rolling », vérifiés SHA-256 ; LOKI_AUTO_UPDATE=0 pour couper).
|
|
# Si le journal demande une nouvelle image : Compose Down puis Up avec
|
|
# « pull image », ou « docker compose pull » avant Up.
|
|
# ───────────────────────────────────────────────────────────────────────────
|
|
services:
|
|
loki:
|
|
image: ghcr.io/r0m1k3/loki:latest
|
|
container_name: loki
|
|
runtime: nvidia
|
|
ports:
|
|
# Pour changer de port : modifie 8090 à gauche ET LOKI_WEB_PORT… ou
|
|
# seulement à gauche (ex. "8717:8090") si tu veux garder l'ancien port.
|
|
- "8090:8090"
|
|
environment:
|
|
- NVIDIA_VISIBLE_DEVICES=all
|
|
# Optionnel : modèle initial (sinon, choisis-le dans l'UI au premier
|
|
# lancement). Ex. LOKI_MODEL=Qwen3-14B-Q4_K_M.gguf après dépôt du
|
|
# fichier dans /mnt/user/appdata/loki/models.
|
|
- LOKI_MODEL=
|
|
# Accès par NOM DE DOMAINE (reverse proxy, ex. loki.mondomaine.fr) sans
|
|
# clé de pilotage : liste ici le(s) nom(s), séparés par des virgules —
|
|
# sinon l'API répond 403 (protection contre les sites tiers / DNS
|
|
# rebinding). Inutile pour un accès par IP ou nom local.
|
|
- LOKI_TRUSTED_HOSTS=
|
|
volumes:
|
|
# PERFORMANCE — /mnt/user/… passe par la couche FUSE des partages
|
|
# Unraid (shfs) : chaque écriture de la base et chaque page d'un gros
|
|
# modèle relue depuis le disque (modèle plus gros que la RAM) traverse un
|
|
# démon en espace utilisateur. Loki le signale au démarrage (encart
|
|
# d'information, rien n'est perdu). Deux remèdes, au choix :
|
|
# - Recommandé (Unraid 6.12+) : partages en « Exclusive access ».
|
|
# Ce n'est pas une case mais un état : Settings -> Global Share
|
|
# Settings -> « Permit exclusive shares » = Yes, puis le partage
|
|
# appdata (et celui des modèles) entièrement sur UN pool — mover
|
|
# d'abord vers le pool, ensuite Secondary storage = None. La page du
|
|
# partage affiche alors « Exclusive access : Yes ». Redémarre le
|
|
# conteneur : le chemin /mnt/user reste le même, FUSE est
|
|
# court-circuité.
|
|
# - Avancé : mapper /mnt/<ton-pool>/appdata/loki/… (ex. /mnt/cache si
|
|
# ton pool s'appelle « cache »). Migration MANUELLE obligatoire :
|
|
# Compose Down, rsync -a de l'ancien dossier vers le nouveau, puis
|
|
# changer les deux lignes ci-dessous. Un /mnt/<pool> qui n'existe
|
|
# pas atterrit dans la RAM d'Unraid : données perdues au redémarrage,
|
|
# et un modèle de 80 Go peut saturer la mémoire du serveur.
|
|
# Ne change JAMAIS ce chemin sans migrer : /data apparaîtrait vide.
|
|
# /data : config, base, mémoire, workspace, modèles téléchargés par l'UI
|
|
- /mnt/user/appdata/loki/data:/data
|
|
# /models : dossier de .gguf déposés à la main (gros fichiers)
|
|
- /mnt/user/appdata/loki/models:/models
|
|
# Strata sur un SSD dédié (optionnel) : tout ce que Strata installe
|
|
# (moteur, Python, modèle de 66 à 84 Go, experts lus en mmap) va dans
|
|
# /data/strata. Monter un SSD à cet endroit l'y envoie entier. Le SSD
|
|
# doit être un pool Unraid (Main -> Add Pool, ex. « strata ») : chemin
|
|
# /mnt/<pool>/…, PAS /mnt/user/… (FUSE ralentit le mmap des experts).
|
|
# Vérifie que /mnt/strata existe avant Compose Up : sinon Docker crée
|
|
# le dossier dans la RAM d'Unraid. Détails : README, « Strata sur un
|
|
# SSD dédié ».
|
|
# - /mnt/strata/loki:/data/strata
|
|
# Moteur Strata (Qwen3.8 Flash Next) : il verrouille ses experts en RAM
|
|
# (mlock, 30 à 50 Go). La limite Docker par défaut (64 Ko) l'en empêche.
|
|
ulimits:
|
|
memlock: -1
|
|
restart: unless-stopped
|