Michael/Loki
1
0 Fork 0
mirror of https://github.com/R0m1k3/Loki.git synced 2026-10-11 17:26:57 +02:00
Code Issues Packages Projects Releases Wiki Activity

Moteur : corrections de relecture — avec LOAD_GUARD=off, l'avis ne parle plus de refus

Browse Source 
L'avis rendu quand le refus attend les cartes du moteur (VRAM NVIDIA seule)
annonçait « refus seulement si les cartes listées par le moteur le
confirment » même avec LOAD_GUARD=off, où aucun refus n'est possible. Il
retombe alors sur l'avis ordinaire.

- Test : VRAM NVIDIA seule avec LOAD_GUARD=off, et aucun avis qui évoque un
  refus quand la clé d'échappement est posée.

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
MichaelandClaude Opus 5.5 committed 2026-10-04 14:56:00 +02:00
1 parent 5f7203a935
commit 911ffbfeaf
2 files changed
+7 -1
Download Patch File Download Diff File Expand all files Collapse all files

No files matched your search

internal/loki/backend_serve_moe.go
+1 -1
View File
@@ -346,7 +346,7 @@ func loadModeRisk(cfg map[string]string, args []string, si serveSysInfo) (warn,
if upTo { if upTo {
what = "jusqu'à " what = "jusqu'à "
} }
if unsure && est*10 > ram*9 { if unsure && est*10 > ram*9 && !loadGuardOff(cfg) {
return fmt.Sprintf("%s : environ %s de poids en RAM (modèle %s, VRAM NVIDIA %s) pour %s — échec probable ; "+ return fmt.Sprintf("%s : environ %s de poids en RAM (modèle %s, VRAM NVIDIA %s) pour %s — échec probable ; "+
"refus seulement si les cartes listées par le moteur le confirment, lancement sinon ; "+ "refus seulement si les cartes listées par le moteur le confirment, lancement sinon ; "+
"--load-mode mmap est plus sûr", mode, gibText(est), gibText(modelMiB), gibText(si.VRAMMiB), gibText(ram)), "" "--load-mode mmap est plus sûr", mode, gibText(est), gibText(modelMiB), gibText(si.VRAMMiB), gibText(ram)), ""
internal/loki/backend_serve_moe_test.go
+6
View File
@@ -145,6 +145,9 @@ func TestLoadModeRisk(t *testing.T) {
// seul ne fait jamais refuser. // seul ne fait jamais refuser.
{name: "VRAM NVIDIA seule, cartes du moteur non lues : avertissement, jamais de refus", {name: "VRAM NVIDIA seule, cartes du moteur non lues : avertissement, jamais de refus",
args: "--load-mode none", si: serveSysInfo{ModelBytes: 82 * gib, VRAMMiB: 16 << 10, RAMMiB: 60 << 10}, warn: true}, args: "--load-mode none", si: serveSysInfo{ModelBytes: 82 * gib, VRAMMiB: 16 << 10, RAMMiB: 60 << 10}, warn: true},
{name: "VRAM NVIDIA seule, LOAD_GUARD=off : l'avis ordinaire",
cfg: map[string]string{"LOAD_GUARD": "off"}, args: "--load-mode none",
si: serveSysInfo{ModelBytes: 82 * gib, VRAMMiB: 16 << 10, RAMMiB: 60 << 10}, warn: true},
{name: "Vulkan, NVIDIA 12 Gio + AMD 16 Gio listées par le moteur : rien (faux refus sur la seule VRAM NVIDIA)", {name: "Vulkan, NVIDIA 12 Gio + AMD 16 Gio listées par le moteur : rien (faux refus sur la seule VRAM NVIDIA)",
args: "--load-mode none", si: serveSysInfo{ModelBytes: 70 * gib, VRAMMiB: 12 << 10, EngineVRAMMiB: 28 << 10, RAMMiB: 60 << 10}}, args: "--load-mode none", si: serveSysInfo{ModelBytes: 70 * gib, VRAMMiB: 12 << 10, EngineVRAMMiB: 28 << 10, RAMMiB: 60 << 10}},
{name: "taille inconnue : rien", {name: "taille inconnue : rien",
@@ -162,6 +165,9 @@ func TestLoadModeRisk(t *testing.T) {
if refuse != "" && !strings.Contains(refuse, "LOAD_GUARD=off") { if refuse != "" && !strings.Contains(refuse, "LOAD_GUARD=off") {
t.Errorf("%s : refus sans clé d'échappement : %q", c.name, refuse) t.Errorf("%s : refus sans clé d'échappement : %q", c.name, refuse)
} }
if loadGuardOff(cfg) && strings.Contains(warn, "refus") {
t.Errorf("%s : refus évoqué avec LOAD_GUARD=off : %q", c.name, warn)
}
} }
} }