mirror of
https://github.com/R0m1k3/Loki.git
synced 2026-10-23 06:58:14 +02:00
Captures : polices installées, et image réellement montrée au modèle
Deux défauts signalés à l'usage, tous deux réels.
1) Captures sans aucun texte. Le conteneur n'avait pas de polices : Chromium
rendait images et aplats, mais pas un caractère. Ajout de Noto (écritures
du monde, CJK, emoji), Liberation et DejaVu (substituts d'Arial/Times que
réclament la plupart des sites), plus fc-cache. Le délai avant capture
passe à 3,5 s : de nombreux sites chargent leurs polices en webfont et
laissent le texte invisible le temps du téléchargement (font-display:
block), ce qui produisait aussi des blocs vides.
2) « Je n'ai pas de vision » alors que le projecteur était configuré. Le
modèle disait vrai deux fois : la description de l'outil lui affirmait
« Tu ne vois pas l'image », et la capture ne lui était jamais transmise —
un message ne transporte que du texte.
- la description SUIT désormais l'état du projecteur, comme web_open suit
le moteur web choisi (même motif que l'amont) ;
- la capture est relayée dans un message multimodal (text +
image_url en data URI), le format déjà utilisé par les pièces jointes.
Sans projecteur, rien n'est envoyé : llama-server rejetterait l'image.
Vérifié : 359 polices dans l'image et texte lisible sur une capture réelle ;
tests sur la description et le relais selon MMPROJ, et sur l'extraction du
chemin de capture (si le texte de l'outil change, le relais casserait en
silence).
This commit is contained in:
4 files changed
+143
-2
No files matched your search
@@ -4,6 +4,7 @@ import (
|
||||
"fmt"
|
||||
"os"
|
||||
"path/filepath"
|
||||
"strings"
|
||||
"testing"
|
||||
"time"
|
||||
)
|
||||
@@ -80,6 +81,64 @@ func TestConvDeleteSupprimeLesCaptures(t *testing.T) {
|
||||
}
|
||||
}
|
||||
|
||||
// Le modèle annonçait « je ne vois pas l'image » alors que la vision était
|
||||
// activée : sa description d'outil le lui disait, et la capture ne lui était
|
||||
// jamais transmise. Les deux doivent suivre l'état réel du projecteur.
|
||||
func TestScreenshotSuitLEtatDeLaVision(t *testing.T) {
|
||||
t.Setenv("LOKI_HOME", t.TempDir())
|
||||
|
||||
if got := screenshotVisionNote(); !strings.Contains(got, "ne vois pas") {
|
||||
t.Fatalf("sans projecteur, la description doit annoncer l'absence de vision : %q", got)
|
||||
}
|
||||
// Une capture existe, mais sans projecteur elle ne doit PAS partir au modèle :
|
||||
// llama-server rejette un contenu image sans --mmproj.
|
||||
dir, rel := captureDirFor(convEnsureActive())
|
||||
if err := os.MkdirAll(dir, 0o755); err != nil {
|
||||
t.Fatal(err)
|
||||
}
|
||||
shot := filepath.Join(dir, "vue.jpg")
|
||||
if err := os.WriteFile(shot, []byte("\xff\xd8\xff jpeg"), 0o644); err != nil {
|
||||
t.Fatal(err)
|
||||
}
|
||||
relPath := rel + "/vue.jpg"
|
||||
if _, ok := screenshotImageMessage(relPath); ok {
|
||||
t.Fatal("image transmise au modèle alors qu'aucun projecteur n'est configuré")
|
||||
}
|
||||
|
||||
// Projecteur configuré → description ET transmission changent.
|
||||
if err := SetConfigKey("MMPROJ", "mmproj-test.gguf"); err != nil {
|
||||
t.Fatal(err)
|
||||
}
|
||||
if got := screenshotVisionNote(); strings.Contains(got, "ne vois pas") {
|
||||
t.Fatalf("avec projecteur, la description ne doit plus nier la vision : %q", got)
|
||||
}
|
||||
msg, ok := screenshotImageMessage(relPath)
|
||||
if !ok {
|
||||
t.Fatal("image non transmise alors que le projecteur est configuré")
|
||||
}
|
||||
if msg.Role != "user" {
|
||||
t.Fatalf("role %q : l'image doit voyager dans un message user, un message tool ne porte que du texte", msg.Role)
|
||||
}
|
||||
parts, _ := msg.Content.([]map[string]any)
|
||||
if len(parts) != 2 || parts[1]["type"] != "image_url" {
|
||||
t.Fatalf("contenu multimodal attendu (text + image_url), obtenu %#v", msg.Content)
|
||||
}
|
||||
}
|
||||
|
||||
// Le chemin de la capture est extrait du texte rendu par l'outil : si le format
|
||||
// de ce texte change, le relais vers le modèle casse en silence.
|
||||
func TestCapturedRelPath(t *testing.T) {
|
||||
res := "Capture enregistrée (captures/c1/x.jpg, 42 Ko).\n" +
|
||||
"Pour la montrer à l'utilisateur, recopie TELLE QUELLE cette ligne markdown dans ta réponse :\n" +
|
||||
""
|
||||
if got := capturedRelPath(res); got != "captures/c1/x.jpg" {
|
||||
t.Fatalf("chemin extrait %q", got)
|
||||
}
|
||||
if got := capturedRelPath("[erreur] capture impossible"); got != "" {
|
||||
t.Fatalf("une erreur ne doit produire aucun chemin, obtenu %q", got)
|
||||
}
|
||||
}
|
||||
|
||||
// Une capture unique plus lourde que le plafond en OCTETS ne doit pas s'effacer
|
||||
// elle-même : il ne resterait alors rien à montrer.
|
||||
func TestPruneCapturesNEffacePasUneCaptureUniqueTropLourde(t *testing.T) {
|
||||
|
||||
Reference in new issue
Block a user