diff --git a/internal/loki/backend_serve_moe.go b/internal/loki/backend_serve_moe.go index fe8a1e9..a7665a1 100644 --- a/internal/loki/backend_serve_moe.go +++ b/internal/loki/backend_serve_moe.go @@ -346,7 +346,7 @@ func loadModeRisk(cfg map[string]string, args []string, si serveSysInfo) (warn, if upTo { what = "jusqu'à " } - if unsure && est*10 > ram*9 { + if unsure && est*10 > ram*9 && !loadGuardOff(cfg) { return fmt.Sprintf("%s : environ %s de poids en RAM (modèle %s, VRAM NVIDIA %s) pour %s — échec probable ; "+ "refus seulement si les cartes listées par le moteur le confirment, lancement sinon ; "+ "--load-mode mmap est plus sûr", mode, gibText(est), gibText(modelMiB), gibText(si.VRAMMiB), gibText(ram)), "" diff --git a/internal/loki/backend_serve_moe_test.go b/internal/loki/backend_serve_moe_test.go index e807e81..1254bba 100644 --- a/internal/loki/backend_serve_moe_test.go +++ b/internal/loki/backend_serve_moe_test.go @@ -145,6 +145,9 @@ func TestLoadModeRisk(t *testing.T) { // seul ne fait jamais refuser. {name: "VRAM NVIDIA seule, cartes du moteur non lues : avertissement, jamais de refus", args: "--load-mode none", si: serveSysInfo{ModelBytes: 82 * gib, VRAMMiB: 16 << 10, RAMMiB: 60 << 10}, warn: true}, + {name: "VRAM NVIDIA seule, LOAD_GUARD=off : l'avis ordinaire", + cfg: map[string]string{"LOAD_GUARD": "off"}, args: "--load-mode none", + si: serveSysInfo{ModelBytes: 82 * gib, VRAMMiB: 16 << 10, RAMMiB: 60 << 10}, warn: true}, {name: "Vulkan, NVIDIA 12 Gio + AMD 16 Gio listées par le moteur : rien (faux refus sur la seule VRAM NVIDIA)", args: "--load-mode none", si: serveSysInfo{ModelBytes: 70 * gib, VRAMMiB: 12 << 10, EngineVRAMMiB: 28 << 10, RAMMiB: 60 << 10}}, {name: "taille inconnue : rien", @@ -162,6 +165,9 @@ func TestLoadModeRisk(t *testing.T) { if refuse != "" && !strings.Contains(refuse, "LOAD_GUARD=off") { t.Errorf("%s : refus sans clé d'échappement : %q", c.name, refuse) } + if loadGuardOff(cfg) && strings.Contains(warn, "refus") { + t.Errorf("%s : refus évoqué avec LOAD_GUARD=off : %q", c.name, warn) + } } }