mirror of
https://github.com/R0m1k3/Loki.git
synced 2026-10-22 06:28:11 +02:00
Moteur : LOAD_GUARD ne refuse plus sur la seule VRAM NVIDIA (Vulkan, cartes mixtes)
La borne basse des poids en RAM se calculait avec la VRAM de nvidia-smi. Un moteur Vulkan sur une machine NVIDIA + AMD, sans --device, place aussi des poids sur la carte AMD : la borne était fausse et le lancement refusé à tort. Un moteur ROCm à côté d'une carte NVIDIA n'utilise pas du tout celle-ci. - Le refus se décide désormais sur les cartes que le moteur liste lui-même (--list-devices, dans l'environnement du lancement, sélection GPU comprise), toutes additionnées : rien au-delà ne peut recevoir de poids, la borne est sûre. Une carte listée sans servir (iGPU) ne fait que rendre le refus plus rare. - Lu seulement quand un refus se profile sur la VRAM NVIDIA : aucun lancement de plus dans le cas ordinaire. Les cartes de SPLIT_MODE sont reprises si elles sont déjà lues. - Liste illisible, vide ou carte à 0 Mio (déjà pleine) : avertissement, jamais de refus. Même chose dans l'aperçu de l'éditeur, qui reprend la dernière liste complète du moteur (devices.json) sans le lancer. - Le reste ne bouge pas : VRAM inconnue, --device, --rpc, mémoire unifiée. - Tests : faux refus Vulkan évité, nvidia-smi seul n'est qu'un avis, lecture déclenchée seulement avec un refus en vue, somme des cartes (JSON relu). Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
1 parent
a4db6d4da1
commit
f0fef91773
5 files changed
+164
-16
No files matched your search
@@ -651,8 +651,11 @@ Ajoutées par ce fork :
|
||||
d'une version précédente (ou launchd) reçoit une sortie sans erreur pour ne
|
||||
pas boucler — `sudo systemctl edit loki-engine` (section `[Service]`,
|
||||
`RestartPreventExitStatus=78`) met l'unité à jour.
|
||||
VRAM inconnue (Mac Intel, AMD, Vulkan, `--device`) ou serveurs `--rpc` :
|
||||
avertissement, jamais de refus. `mmap` et `auto` ne sont jamais concernés ;
|
||||
La VRAM qui fonde un refus est celle des cartes que le moteur liste
|
||||
lui-même (`--list-devices`, lu seulement quand un refus se profile sur la
|
||||
VRAM NVIDIA) : un moteur Vulkan sur cartes mixtes NVIDIA + AMD compte les
|
||||
deux. Liste illisible, VRAM inconnue (Mac Intel, AMD seule, `--device`) ou
|
||||
serveurs `--rpc` : avertissement, jamais de refus. `mmap` et `auto` ne sont jamais concernés ;
|
||||
`LLAMA_ARG_NO_MMAP`/`LLAMA_ARG_MLOCK` ne comptent que sur un moteur ancien
|
||||
(un moteur à `--load-mode` les ignore). Rien ne change dans la ligne de
|
||||
commande.
|
||||
|
||||
Reference in new issue
Block a user