Captures : polices installées, et image réellement montrée au modèle

Deux défauts signalés à l'usage, tous deux réels.

1) Captures sans aucun texte. Le conteneur n'avait pas de polices : Chromium
   rendait images et aplats, mais pas un caractère. Ajout de Noto (écritures
   du monde, CJK, emoji), Liberation et DejaVu (substituts d'Arial/Times que
   réclament la plupart des sites), plus fc-cache. Le délai avant capture
   passe à 3,5 s : de nombreux sites chargent leurs polices en webfont et
   laissent le texte invisible le temps du téléchargement (font-display:
   block), ce qui produisait aussi des blocs vides.

2) « Je n'ai pas de vision » alors que le projecteur était configuré. Le
   modèle disait vrai deux fois : la description de l'outil lui affirmait
   « Tu ne vois pas l'image », et la capture ne lui était jamais transmise —
   un message  ne transporte que du texte.
   - la description SUIT désormais l'état du projecteur, comme web_open suit
     le moteur web choisi (même motif que l'amont) ;
   - la capture est relayée dans un message  multimodal (text +
     image_url en data URI), le format déjà utilisé par les pièces jointes.
     Sans projecteur, rien n'est envoyé : llama-server rejetterait l'image.

Vérifié : 359 polices dans l'image et texte lisible sur une capture réelle ;
tests sur la description et le relais selon MMPROJ, et sur l'extraction du
chemin de capture (si le texte de l'outil change, le relais casserait en
silence).
This commit is contained in:
Loki committed 2026-08-15 12:53:54 +00:00
1 parent 801e65dac2
commit 3ecbfe274e
4 files changed
+143 -2

No files matched your search

+62 -2
View File
@@ -16,6 +16,7 @@ package loki
import (
"context"
"encoding/base64"
"fmt"
"os"
"os/exec"
@@ -69,8 +70,11 @@ func webScreenshotTool() Tool {
Name: "web_screenshot",
// Description tenue au plus court : les schémas d'outils partent dans
// CHAQUE requête et le préambule a un budget (TestSystemPromptStaysLean).
// Elle DÉPEND de la vision : annoncer « tu ne vois pas l'image » à un
// modèle qui la reçoit ensuite le fait se contredire devant l'utilisateur
// (il refuse de décrire ce qu'il a pourtant sous les yeux).
Description: "Photographie une page web (JS exécuté) pour la MONTRER. " +
"La réponse donne la ligne markdown à recopier. Tu ne vois pas l'image.",
"La réponse donne la ligne markdown à recopier. " + screenshotVisionNote(),
Parameters: map[string]any{
"type": "object",
"properties": map[string]any{
@@ -82,6 +86,59 @@ func webScreenshotTool() Tool {
}}
}
// screenshotVisionNote : ce que le modèle doit savoir de SA propre perception.
// Avec un projecteur configuré, la capture lui est réellement transmise (voir
// screenshotImageMessage) ; sans projecteur, il photographie sans regarder.
func screenshotVisionNote() string {
if visionEnabled() {
return "L'image t'est ensuite montrée : tu peux la décrire."
}
return "Tu ne vois pas l'image."
}
// screenshotImageMessage construit le message utilisateur qui PORTE la capture
// jusqu'au modèle. Le résultat d'un outil est un message `tool`, qui ne
// transporte que du texte : pour qu'un modèle multimodal voie l'image, elle doit
// arriver dans un message `user` au format OpenAI (partie text + partie
// image_url en data URI), le même que celui des pièces jointes.
//
// Renvoie ok=false quand la vision est absente ou le fichier illisible :
// llama-server rejette un contenu image sans --mmproj, donc mieux vaut ne rien
// envoyer que de faire échouer le tour.
func screenshotImageMessage(relPath string) (Message, bool) {
if !visionEnabled() {
return Message{}, false
}
abs := filepath.Join(agentWorkspace(), filepath.FromSlash(relPath))
mime := imageMime(abs)
if mime == "" {
return Message{}, false
}
b, err := os.ReadFile(abs)
if err != nil || len(b) == 0 {
return Message{}, false
}
return Message{Role: "user", Content: []map[string]any{
{"type": "text", "text": "Voici la capture demandée."},
{"type": "image_url", "image_url": map[string]any{
"url": "data:" + mime + ";base64," + base64.StdEncoding.EncodeToString(b),
}},
}}, true
}
// capturedRelPath extrait le chemin de la capture du texte rendu par
// toolWebScreenshot, pour éviter de faire porter deux valeurs de retour à
// l'outil (le protocole n'en accepte qu'une, textuelle).
var capturedRe = regexp.MustCompile(`\(/api/chat/image\?path=([^)]+)\)`)
func capturedRelPath(toolResult string) string {
m := capturedRe.FindStringSubmatch(toolResult)
if len(m) != 2 {
return ""
}
return m[1]
}
// safeSlug réduit un hôte à un nom de fichier sûr.
var slugRe = regexp.MustCompile(`[^a-zA-Z0-9._-]+`)
@@ -147,7 +204,10 @@ func toolWebScreenshot(args map[string]any) string {
cmdArgs := []string{"screenshot", "--browser", "chromium",
"--viewport-size", fmt.Sprintf("%d,800", width),
"--wait-for-timeout", "2500"}
// 3,5 s : beaucoup de sites chargent leurs polices en webfont et laissent le
// texte INVISIBLE le temps du téléchargement (font-display: block). Capturer
// trop tôt donnait une page aux blocs vides, sans un mot.
"--wait-for-timeout", "3500"}
if fullPage {
cmdArgs = append(cmdArgs, "--full-page")
}