mirror of
https://github.com/R0m1k3/Loki.git
synced 2026-10-11 17:26:57 +02:00
Claude
f174c8d58d
- routes/system : /api/system/hardware — liste les GPU vus par le conteneur (nvidia-smi, multi-GPU) ou l'override GPU_VRAM_MB, et le placement réel des modèles chargés côté Ollama (GPU/CPU/mixte + VRAM) via /api/ps. - config : réintègre gpu_vram_mb / gpu_name (perdus lors d'une fusion). - UI : carte MATÉRIEL dans Configuration (rafraîchie toutes les 5 s) montrant les deux points de vue et si Ollama est local ou distant. Répond à « l'appli est-elle réservée à la 3060 ? » (non) et permet de voir tout de suite si Ollama charge un modèle sur CPU faute de support GPU. Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_01SVay7z3y7q2gEe54ByAE6N
27 lines
897 B
Python
27 lines
897 B
Python
"""Configuration de l'application, chargée depuis l'environnement."""
|
|
from pydantic_settings import BaseSettings, SettingsConfigDict
|
|
|
|
|
|
class Settings(BaseSettings):
|
|
"""Réglages globaux de Loki (surchargés par variables d'environnement)."""
|
|
|
|
ollama_host: str = "http://host.docker.internal:11434"
|
|
default_model: str = "gemma4:12b"
|
|
workspace_dir: str = "/workspace"
|
|
data_dir: str = "/data"
|
|
port: int = 8080
|
|
|
|
# Marqueur de build injecté à la construction de l'image (git sha court).
|
|
# Permet de vérifier que l'image déployée est bien à jour.
|
|
loki_version: str = "dev"
|
|
|
|
# Override manuel de la VRAM (Mo) si la détection GPU échoue dans le
|
|
# conteneur (utile quand Ollama tourne sur une autre machine).
|
|
gpu_vram_mb: int = 0
|
|
gpu_name: str = ""
|
|
|
|
model_config = SettingsConfigDict(env_file=".env", extra="ignore")
|
|
|
|
|
|
settings = Settings()
|