mirror of
https://github.com/R0m1k3/Loki.git
synced 2026-10-22 22:48:11 +02:00
v0.6.5 : telechargement de modeles bien plus rapide, barre de progression et annulation
- Telechargement d'un .gguf en 8 connexions paralleles (requetes Range, ecriture en place avec WriteAt) au lieu d'un seul flux TCP : sur le CDN Hugging Face le gain est typiquement de 3 a 6x. Repli automatique sur le flux unique si la source ne gere pas les ranges. - Client HTTP dedie (pool de connexions reutilisees, HTTP/2 desactive) et reprise par tranche en cas de coupure. Reglable via JEAN_DL_CONNS. - Barre de progression integree dans la modale de preset, avec vitesse et temps restant. - Bouton d'annulation : coupe vraiment le telechargement et supprime le fichier partiel. Fermer la modale ne l'interrompt plus, l'UI se rebranche dessus a la reouverture. - Les .gguf.part orphelins (crash, restart du service) sont nettoyes au demarrage. - La liste de selection du modele s'ouvre alignee a gauche et sur toute la largeur de la ligne.
This commit is contained in:
1 parent
1360eb1943
commit
065264a055
11 files changed
+722
-97
No files matched your search
@@ -67,6 +67,9 @@ func newWebMux() *http.ServeMux {
|
||||
// Pré-chauffe les serveurs MCP en tâche de fond : sinon le handshake (plusieurs
|
||||
// secondes pour un serveur lancé via npx) est payé par le premier message.
|
||||
MCPPrewarm()
|
||||
// Un téléchargement de modèle coupé net (crash, restart du service) laisse un
|
||||
// .part orphelin non reprenable : on nettoie au démarrage.
|
||||
cleanStalePartFiles()
|
||||
mux := http.NewServeMux()
|
||||
// Pages publiques : le HTML et le JS ne contiennent aucun secret. Toute la
|
||||
// donnée et toutes les actions passent par /api/* qui, lui, exige la clé.
|
||||
@@ -92,6 +95,7 @@ func newWebMux() *http.ServeMux {
|
||||
api("/api/models/delete", handleModelDelete)
|
||||
api("/api/models/download", handleModelDownload)
|
||||
api("/api/models/download/status", handleModelDownloadStatus)
|
||||
api("/api/models/download/cancel", handleModelDownloadCancel)
|
||||
api("/api/backends", handleBackends)
|
||||
api("/api/backends/custom", handleBackendsCustom) // backends custom uniquement (hors ⚡/🔧)
|
||||
api("/api/llamacpp", handleLlamacpp) // statut du backend llama.cpp
|
||||
|
||||
Reference in new issue
Block a user