mirror of
https://github.com/R0m1k3/Loki.git
synced 2026-10-11 17:26:57 +02:00
Chercher et installer un modèle depuis Loki
Installer un modèle demandait d'aller sur huggingface.co, de naviguer dans l'arborescence d'un dépôt et de coller un lien à la main. Rien ne disait si le fichier tiendrait en mémoire, et surtout rien ne reliait un modèle à SON projecteur vision : c'est ainsi qu'un mmproj-Qwen3VL-8B s'est retrouvé configuré pour un Qwen3.8-27B — deux modèles sans rapport, moteur qui démarre et ne voit rien. La recherche Hugging Face arrive dans l'éditeur de preset. Elle ne remonte que les dépôts GGUF ; déplier un dépôt montre ses quantifications avec leur taille et un verdict mémoire, et propose le projecteur vision DU MÊME DÉPÔT — le seul qui corresponde. Quand le dépôt n'en publie pas, Loki le dit au lieu d'aller en chercher un ailleurs. Le nouveau code ne télécharge rien : il produit des URL que le chemin existant consomme tel quel (normalizeHFURL, shardURLSet, sonde d'espace disque, reprise et annulation). Une file d'attente enchaîne modèle puis projecteur — le serveur ne mène qu'un transfert à la fois, et le champ Vision ne se remplit que si le modèle est déjà sélectionné. Trois familles de .gguf cohabitent dans un dépôt et ne veulent pas dire la même chose : mmproj-* (projecteur), mtp-* (poids de décodage spéculatif) et le modèle. Les deux premières ressemblent à un modèle ; les proposer en vrac, ce serait offrir de lancer llama-server sur un encodeur d'images. Les tranches d'une famille sont repliées en une entrée de taille TOTALE : annoncer 15 Go pour un modèle qui en occupe 45 promet une place qui n'existe pas. Le verdict mémoire s'appuie enfin sur le GPU. detectHardware() ne renvoyait que la RAM système alors que detectGPUs() existait déjà : sur un serveur à carte NVIDIA, le verdict se prononçait sur la mauvaise grandeur. Le coût du cache KV reste une estimation assumée — l'exact demanderait de parser l'en-tête GGUF — et l'interface l'annonce comme telle plutôt que d'afficher un chiffre faussement sûr. Le catalogue ajean.link disparaît. Sa route n'avait aucun consommateur (l'écran d'accueil qu'elle attendait n'a jamais existé), son repli embarqué proposait du Qwen2.5 de 2024, et un fork qui laisse le serveur de l'amont décider de ce qu'il propose n'est pas vraiment un fork. Une piste écartée en cours de route : marquer les dépôts « vision » d'après les tags Hugging Face. Ils mentent — des deux dépôts GGUF de Qwen3.8-27B qui publient tous deux un mmproj, seul ggml-org est taggé image-text-to-text. Une pastille sur l'un et pas sur l'autre aurait été pire que rien. La vision est donc déduite de la seule source qui ne se trompe pas : la présence d'un mmproj-*.gguf dans l'arborescence. Vérifié : 8 tests unitaires sur les arborescences réelles des deux dépôts, puis au navigateur contre le vrai Hugging Face — 25 dépôts trouvés, 3 quants listés sans aucun mtp ni mmproj, projecteur Q8_0 proposé et coché, verdicts affichés avec leur explication, modale dans l'écran. L'ordre de la file (modèle puis projecteur) est testé en interceptant les appels, sans transfert. Co-Authored-By: Claude Opus 5 <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_01VueWA9xcYadaYq65tBisix
This commit is contained in:
10 files changed
+1152
-66
No files matched your search
@@ -43,8 +43,36 @@ docker compose up --build # quelques minutes : llama-server vient précompilé
|
||||
# de l'image officielle llama.cpp (server-cuda)
|
||||
```
|
||||
|
||||
Interface : http://localhost:8090 — télécharge un modèle depuis le catalogue
|
||||
intégré (onglet modèles), il démarre tout seul.
|
||||
Interface : http://localhost:8090 — installe un modèle depuis la recherche
|
||||
Hugging Face intégrée (voir ci-dessous), il démarre tout seul.
|
||||
|
||||
## Installer un modèle
|
||||
|
||||
Dans l'éditeur de preset, **Chercher un modèle** interroge Hugging Face et ne
|
||||
remonte que les dépôts GGUF. Choisir un dépôt déplie ses quantifications avec
|
||||
leur taille et un verdict mémoire (`ok` / `juste` / `trop`) calculé sur la VRAM
|
||||
réellement détectée — ou sur la RAM système s'il n'y a pas de GPU. C'est une
|
||||
estimation : le coût exact du cache KV dépend de l'architecture du modèle, que
|
||||
la seule liste des fichiers ne révèle pas.
|
||||
|
||||
Si le dépôt publie un projecteur vision (`mmproj-*.gguf`), Loki propose de
|
||||
l'installer avec le modèle et remplit le champ **Vision** du preset. C'est le
|
||||
seul moyen fiable d'avoir la vision : un projecteur encode dans l'espace latent
|
||||
de **son** modèle, donc un `mmproj` pris dans un autre dépôt donne un moteur qui
|
||||
démarre et ne voit rien. Quand le dépôt n'en publie pas, Loki le dit plutôt que
|
||||
d'aller en chercher un ailleurs.
|
||||
|
||||
Deux repères pour choisir un dépôt :
|
||||
|
||||
- `unsloth/*` publie des quantifications **Dynamic** (`UD-Q4_K_XL`,
|
||||
`UD-IQ3_XXS`…) qui gardent en plus haute précision les tenseurs sensibles :
|
||||
à taille égale, elles se tiennent mieux qu'un `Q4_K_M` classique.
|
||||
- `ggml-org/*` est le dépôt de référence de l'équipe llama.cpp — c'est en
|
||||
général là que le projecteur vision est publié en premier.
|
||||
|
||||
Le champ **Télécharger un modèle** reste disponible pour coller un lien direct
|
||||
(dépôt privé, fichier hors des conventions). Un dépôt à accès restreint demande
|
||||
la variable d'environnement `HF_TOKEN`.
|
||||
|
||||
## Installation sur Unraid
|
||||
|
||||
|
||||
Reference in new issue
Block a user