mirror of
https://github.com/R0m1k3/Loki.git
synced 2026-10-15 19:29:16 +02:00
Un dépôt « gated » (orcarouter/Qwen3.8-27B-Uncensored-GGUF, vécu) laisse lire son arborescence sans rien : Loki listait donc ses seize quantifications avec leur verdict mémoire, puis échouait sur « HTTP 401 depuis la source » au premier octet. Le message ne disait ni que le dépôt était verrouillé, ni qu'il fallait accepter ses conditions, ni où poser un jeton. - Le refus est maintenant traduit à partir de X-Error-Code (GatedRepo, RepoNotFound, EntryNotFound…) et nomme le dépôt, l'action à faire et l'état du jeton : absent (il en faut un) ou présent mais sans accès. 404, 416, 429 et les pannes de la source y gagnent aussi une phrase utile. - Le verrou se voit AVANT de choisir une quantification : la recherche demande `expand[]=gated` et la fiche du dépôt est lue à l'ouverture, d'où une pastille « accès restreint » dans la liste et un avertissement en toutes lettres au-dessus des fichiers. Co-Authored-By: Claude Opus 5 <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_01Hz1QWmvZqW3t53YC5SJBKC
83 lines
3.1 KiB
Go
83 lines
3.1 KiB
Go
package loki
|
|
|
|
// web_hf.go — routes de recherche de modèles sur Hugging Face.
|
|
//
|
|
// GET /api/hf/search?q=… dépôts GGUF correspondants
|
|
// GET /api/hf/files?repo=auteur/dépôt modèles, projecteurs et drafts du dépôt
|
|
//
|
|
// Les deux renvoient aussi le matériel local, pour que l'interface n'ait pas à
|
|
// le demander séparément et n'affiche jamais une liste de tailles sans le
|
|
// budget en face.
|
|
|
|
import (
|
|
"net/http"
|
|
"strconv"
|
|
"strings"
|
|
)
|
|
|
|
func handleHFSearch(w http.ResponseWriter, r *http.Request) {
|
|
q := strings.TrimSpace(r.URL.Query().Get("q"))
|
|
if q == "" {
|
|
sendJSON(w, 400, map[string]any{"ok": false, "error": "précise ce que tu cherches"})
|
|
return
|
|
}
|
|
repos, err := hfSearch(r.Context(), q)
|
|
if err != nil {
|
|
sendJSON(w, 502, map[string]any{"ok": false, "error": err.Error()})
|
|
return
|
|
}
|
|
sendJSON(w, 200, map[string]any{"ok": true, "hardware": detectHardware(), "repos": repos, "hf_token": hfTokenSet()})
|
|
}
|
|
|
|
// handleHFFiles liste les .gguf d'un dépôt, chaque modèle portant son verdict
|
|
// « ça tient / ça ne tient pas ».
|
|
//
|
|
// Le verdict d'un modèle inclut le projecteur QUE si le dépôt en publie un : sur
|
|
// un dépôt sans vision, compter un projecteur inexistant ferait basculer à tort
|
|
// des modèles en « trop ». Le contexte pris en compte est celui du preset actif
|
|
// (CTX), pas une constante : c'est lui qui sera réellement lancé.
|
|
func handleHFFiles(w http.ResponseWriter, r *http.Request) {
|
|
repo := strings.TrimSpace(r.URL.Query().Get("repo"))
|
|
if repo == "" {
|
|
sendJSON(w, 400, map[string]any{"ok": false, "error": "dépôt manquant"})
|
|
return
|
|
}
|
|
list, err := hfFiles(r.Context(), repo)
|
|
if err != nil {
|
|
sendJSON(w, 502, map[string]any{"ok": false, "error": err.Error()})
|
|
return
|
|
}
|
|
hw := detectHardware()
|
|
|
|
// Contexte du preset actif, avec le même défaut que backend_serve.go — sinon
|
|
// le verdict est calculé sur un contexte que personne n'utilisera.
|
|
ctxTokens := 32768
|
|
if v, convErr := strconv.Atoi(strings.TrimSpace(ReadConfig()["CTX"])); convErr == nil && v > 0 {
|
|
ctxTokens = v
|
|
}
|
|
|
|
var mmSize int64
|
|
if p, ok := hfPickProjector(list.Projectors); ok {
|
|
mmSize = p.Size
|
|
}
|
|
for i := range list.Models {
|
|
list.Models[i].Verdict, list.Models[i].Why = fitVerdict(hw, list.Models[i].Size, mmSize, ctxTokens)
|
|
}
|
|
// `vision` sort d'ici et de nulle part ailleurs : c'est la présence d'un
|
|
// mmproj dans CE dépôt, pas un tag Hugging Face — lequel manque sur des
|
|
// dépôts qui en publient pourtant un.
|
|
// Un projecteur ne reçoit pas de verdict : il ne se charge jamais seul.
|
|
// `gated` et `hf_token` servent le même but que `vision` : dire AVANT le
|
|
// téléchargement ce qui va se passer. Un dépôt verrouillé se lit sans jeton
|
|
// mais ne se télécharge pas — l'avertir ici évite de choisir un quant, de
|
|
// lancer 15 Go et de récolter un 401.
|
|
sendJSON(w, 200, map[string]any{
|
|
"ok": true, "hardware": hw, "ctx": ctxTokens,
|
|
"repo": list.Repo, "models": list.Models,
|
|
"projectors": list.Projectors, "drafts": list.Drafts,
|
|
"vision": len(list.Projectors) > 0,
|
|
"gated": list.Gated,
|
|
"hf_token": hfTokenSet(),
|
|
})
|
|
}
|