Sélecteur de modèle qui charge vraiment ; % de chargement qui bouge

Quatre retouches d'interface :

- Le sélecteur de l'en-tête liste maintenant les MODÈLES du disque (groupe
  « Modèles (.gguf) ») en plus des presets : en choisir un le charge —
  POST /api/models/use écrit MODEL seul (contexte, NGL et échantillonnage
  conservés) et redémarre le service en arrière-plan. Sans preset créé, le
  sélecteur n'offrait aucun choix.

- Pourcentage de chargement : sur un redémarrage à chaud, le modèle est déjà
  dans le cache disque — llama-server ne lit rien (read_bytes reste à 0) et
  la pastille passait de « 0 % » à « prêt » sans jamais monter. On prend le
  plus avancé de read_bytes et de la mémoire résidente (VmRSS), qui grandit
  cache ou pas.

- Discussions triées par date de CRÉATION (récentes en tête) : une
  discussion garde sa place, écrire dans un vieux fil ne le fait plus
  remonter.

- Bouton Réglages ancré en pied de barre latérale, juste au-dessus du
  moniteur Performance — toujours au même endroit, quel que soit le nombre
  de discussions.

Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
This commit is contained in:
MichaelandClaude Fable 5 committed 2026-08-20 22:13:16 +02:00
1 parent ad107ed284
commit 86d711e772
9 files changed
+207 -46

No files matched your search

+28
View File
@@ -20,6 +20,24 @@ import (
"strings"
)
// procVmRSS lit la mémoire résidente (octets) d'un process — /proc/<pid>/status,
// ligne « VmRSS: N kB ». 0 si illisible.
func procVmRSS(pid int) int64 {
b, err := os.ReadFile("/proc/" + strconv.Itoa(pid) + "/status")
if err != nil {
return 0
}
for _, line := range strings.Split(string(b), "\n") {
if v, ok := strings.CutPrefix(line, "VmRSS:"); ok {
v = strings.TrimSpace(strings.TrimSuffix(strings.TrimSpace(v), "kB"))
if n, err := strconv.ParseInt(strings.TrimSpace(v), 10, 64); err == nil {
return n * 1024
}
}
}
return 0
}
// engineLoadPct renvoie le pourcentage estimé de chargement du modèle, ou -1
// quand il n'est pas mesurable (pas de PID, /proc illisible, taille inconnue).
func engineLoadPct() int {
@@ -54,6 +72,16 @@ func engineLoadPct() int {
if read < 0 {
return -1
}
// Modèle déjà dans le cache disque (redémarrage à chaud) : llama-server ne
// LIT plus rien sur le disque — les pages viennent du cache, read_bytes
// reste à zéro et le pourcentage restait figé à 0 jusqu'au « prêt ». La
// mémoire résidente (VmRSS), elle, grandit quoi qu'il arrive : les pages du
// .gguf touchées via mmap y comptent, cache ou pas. On prend le plus avancé
// des deux — approximatif (l'offload GPU peut relâcher des pages), mais le
// compteur BOUGE au lieu de mentir.
if rss := procVmRSS(pid); rss > read {
read = rss
}
pct := int(read * 100 / size)
if pct > 99 {
// 100 % n'existe pas ici : c'est /health qui dit « prêt ». Au-delà de 99