Captures : polices installées, et image réellement montrée au modèle

Deux défauts signalés à l'usage, tous deux réels.

1) Captures sans aucun texte. Le conteneur n'avait pas de polices : Chromium
   rendait images et aplats, mais pas un caractère. Ajout de Noto (écritures
   du monde, CJK, emoji), Liberation et DejaVu (substituts d'Arial/Times que
   réclament la plupart des sites), plus fc-cache. Le délai avant capture
   passe à 3,5 s : de nombreux sites chargent leurs polices en webfont et
   laissent le texte invisible le temps du téléchargement (font-display:
   block), ce qui produisait aussi des blocs vides.

2) « Je n'ai pas de vision » alors que le projecteur était configuré. Le
   modèle disait vrai deux fois : la description de l'outil lui affirmait
   « Tu ne vois pas l'image », et la capture ne lui était jamais transmise —
   un message  ne transporte que du texte.
   - la description SUIT désormais l'état du projecteur, comme web_open suit
     le moteur web choisi (même motif que l'amont) ;
   - la capture est relayée dans un message  multimodal (text +
     image_url en data URI), le format déjà utilisé par les pièces jointes.
     Sans projecteur, rien n'est envoyé : llama-server rejetterait l'image.

Vérifié : 359 polices dans l'image et texte lisible sur une capture réelle ;
tests sur la description et le relais selon MMPROJ, et sur l'extraction du
chemin de capture (si le texte de l'outil change, le relais casserait en
silence).
This commit is contained in:
Loki committed 2026-08-15 12:53:54 +00:00
1 parent 801e65dac2
commit 3ecbfe274e
4 files changed
+143 -2

No files matched your search

+59
View File
@@ -4,6 +4,7 @@ import (
"fmt"
"os"
"path/filepath"
"strings"
"testing"
"time"
)
@@ -80,6 +81,64 @@ func TestConvDeleteSupprimeLesCaptures(t *testing.T) {
}
}
// Le modèle annonçait « je ne vois pas l'image » alors que la vision était
// activée : sa description d'outil le lui disait, et la capture ne lui était
// jamais transmise. Les deux doivent suivre l'état réel du projecteur.
func TestScreenshotSuitLEtatDeLaVision(t *testing.T) {
t.Setenv("LOKI_HOME", t.TempDir())
if got := screenshotVisionNote(); !strings.Contains(got, "ne vois pas") {
t.Fatalf("sans projecteur, la description doit annoncer l'absence de vision : %q", got)
}
// Une capture existe, mais sans projecteur elle ne doit PAS partir au modèle :
// llama-server rejette un contenu image sans --mmproj.
dir, rel := captureDirFor(convEnsureActive())
if err := os.MkdirAll(dir, 0o755); err != nil {
t.Fatal(err)
}
shot := filepath.Join(dir, "vue.jpg")
if err := os.WriteFile(shot, []byte("\xff\xd8\xff jpeg"), 0o644); err != nil {
t.Fatal(err)
}
relPath := rel + "/vue.jpg"
if _, ok := screenshotImageMessage(relPath); ok {
t.Fatal("image transmise au modèle alors qu'aucun projecteur n'est configuré")
}
// Projecteur configuré → description ET transmission changent.
if err := SetConfigKey("MMPROJ", "mmproj-test.gguf"); err != nil {
t.Fatal(err)
}
if got := screenshotVisionNote(); strings.Contains(got, "ne vois pas") {
t.Fatalf("avec projecteur, la description ne doit plus nier la vision : %q", got)
}
msg, ok := screenshotImageMessage(relPath)
if !ok {
t.Fatal("image non transmise alors que le projecteur est configuré")
}
if msg.Role != "user" {
t.Fatalf("role %q : l'image doit voyager dans un message user, un message tool ne porte que du texte", msg.Role)
}
parts, _ := msg.Content.([]map[string]any)
if len(parts) != 2 || parts[1]["type"] != "image_url" {
t.Fatalf("contenu multimodal attendu (text + image_url), obtenu %#v", msg.Content)
}
}
// Le chemin de la capture est extrait du texte rendu par l'outil : si le format
// de ce texte change, le relais vers le modèle casse en silence.
func TestCapturedRelPath(t *testing.T) {
res := "Capture enregistrée (captures/c1/x.jpg, 42 Ko).\n" +
"Pour la montrer à l'utilisateur, recopie TELLE QUELLE cette ligne markdown dans ta réponse :\n" +
"![capture de exemple.com](/api/chat/image?path=captures/c1/x.jpg)"
if got := capturedRelPath(res); got != "captures/c1/x.jpg" {
t.Fatalf("chemin extrait %q", got)
}
if got := capturedRelPath("[erreur] capture impossible"); got != "" {
t.Fatalf("une erreur ne doit produire aucun chemin, obtenu %q", got)
}
}
// Une capture unique plus lourde que le plafond en OCTETS ne doit pas s'effacer
// elle-même : il ne resterait alors rien à montrer.
func TestPruneCapturesNEffacePasUneCaptureUniqueTropLourde(t *testing.T) {