Placement : liaison PCIe des cartes et guide d'ordre dans l'éditeur, en conseil

Deux cartes inégales (5060 Ti + 3060) se placent par deux règles du moteur
qui peuvent s'opposer : --fit remplit d'abord la DERNIÈRE carte, qui porte
la couche de sortie, et les experts MoE en RAM sont recopiés au prefill vers
la PREMIÈRE. Pour choisir l'ordre il faut voir la liaison de chaque carte ;
l'éditeur n'en montrait rien.

- detectGPUs lit aussi la liaison PCIe (génération et largeur, actuelles et
  maximales), le bus et l'horloge mémoire max, dans la même invocation de
  nvidia-smi. « [N/A] » vaut zéro ; un pilote qui refuse un champ fait
  retomber sur la requête historique (jamais de GPU perdu), un délai dépassé
  n'est pas relancé. Borné à 10 s. La largeur du bus mémoire n'existe pas
  dans nvidia-smi : absente.
- /api/backends/devices : une seule lecture nvidia-smi par énumération
  complète mémoire manquante ET liaison (annotateDevices, pure), par nom de
  carte, CUDA seulement, rien pour deux cartes homonymes. La lecture des
  jauges (gpuStatsCached) n'est pas touchée.
- Éditeur : liaison max par carte (l'actuelle et l'horloge en info-bulle),
  guide de placement dans l'ordre du moteur (--device compris), marges
  FIT_TARGET carte par carte, signalement d'un --tensor-split ou d'un
  CUDA_VISIBLE_DEVICES propre au preset, lien « inverser l'ordre » ; l'ordre
  choisi survit aux cases cochées.
- Pas de bouton de mesure : comparer deux ordres demande deux rechargements
  et un ordre inversé peut manquer de VRAM — le guide explique la marche à
  suivre (copie du preset, bench complet sur chacun).
- loki gpu affiche la liaison.

Rien ne change dans la ligne de commande du moteur.

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
MichaelandClaude Opus 5.5 committed 2026-10-04 11:03:02 +02:00
1 parent 889a85888d
commit 986a636c20
8 files changed
+481 -67

No files matched your search

+20
View File
@@ -584,6 +584,26 @@ Ajoutées par ce fork :
`SPEC`, `SIDE_SLOT`, `CTX` non chiffré, une seule carte ou une carte non
CUDA, une architecture que llama.cpp exclut (et `qwen4exp`), un preset
externe ; `SLOT_PERSIST` est refusé avec la clé.
- **Guide de placement entre cartes inégales** (éditeur de preset, groupe
« Cartes graphiques », dès deux cartes ; un conseil, rien n'est appliqué
d'office) : chaque carte CUDA affiche sa liaison PCIe maximale (génération,
largeur), l'actuelle et l'horloge mémoire en info-bulle — lues par
`nvidia-smi` en une requête, jointes par nom de carte (rien pour deux
cartes homonymes ni pour un moteur Vulkan), avec repli sur la requête
historique si un vieux pilote refuse un champ. `loki gpu` les affiche aussi.
Le guide rappelle les deux règles du moteur, dans l'ordre qu'il voit
(`--device` compris) : en placement auto, `--fit` remplit d'abord la
**dernière** carte, qui porte la couche de sortie (modèle dense : la plus
rapide en dernier, ou une marge `FIT_TARGET` plus large sur la lente) ; les
experts MoE en RAM sont recopiés au prefill vers la **première** (à elle la
liaison la plus large). Les marges `FIT_TARGET` du preset sont montrées carte
par carte ; un `--tensor-split` (qui désactive `--fit`) ou un
`CUDA_VISIBLE_DEVICES` propre au preset (ordre réel différent) est signalé.
Un lien « inverser l'ordre » écrit `--device` (et retourne `--tensor-split`)
dans le preset édité. Pas de bouton de mesure automatique : comparer deux
ordres demande deux rechargements du moteur et un ordre inversé peut manquer
de VRAM sur la petite carte — dupliquer le preset, inverser l'ordre dans la
copie, « bench complet » sur chacun, et vérifier `offloaded N/N layers`.
- **Discussions multiples** : historique complet dans la barre latérale, titre
repris du premier message (renommable), suppression. **Chaque discussion a son
dossier de fichiers** (`workspace/discussions/<id>/`) : les pièces jointes