Compaction : COMPACT_CONTINUATION résume dans le prolongement du prompt en cache, en opt-in

Le résumé d'une compaction part aujourd'hui dans une requête à part — prompt
du résumeur et transcription des anciens tours — que le moteur local calcule à
froid : des dizaines de secondes sur un 27B, des minutes sur un MoE, à chaque
compaction. Nouvelle clé COMPACT_CONTINUATION (off par défaut) : quand le slot
porte encore le prompt de la discussion, la requête de résumé est celle du tour
telle qu'elle est partie, suivie d'une seule demande de résumé ; le moteur ne
calcule qu'elle. Sans la clé, requêtes de compaction identiques à l'octet près
(prompt du résumeur comparé à une copie figée, testé).

- vue MODÈLE pour tout ce qui est rangé : bornes, archives recall, demande
  réinjectée, garantie de réduction et sortie ne changent pas ; la vue
  d'envoi (turnViewDry, wireMessages, buildChatPayload) ne sert qu'à la
  requête, rien d'injecté n'entre dans l'historique (testé)
- frontière recalée sur la vue envoyée (messages non système un pour un,
  vérifiés rôle par rôle), désignée par le nombre de messages gardés et le
  début du premier ; tout résumer avant, dater l'avancement à la frontière
- mêmes règles de résumé (+ mode Code), même budget, température 0.2 sans
  l'échantillonnage du preset, enable_thinking=false ajouté aux arguments du
  tour, reasoning_effort du tour, tool_choice « none », sans flux
- messages utilisateur de fin hors de la vue : pas en cache, et pas deux
  `user` d'affilée pour les gabarits stricts
- slot vérifié : tampon posé par une étape de tour acceptée (llm_slots.go,
  sous le verrou du compteur en vol), perdu dès qu'une autre requête part —
  vérification, sous-agent, tâche, préchauffage, résumé, bench, /v1 — ou que
  le modèle ou la fenêtre changent ; relu à l'envoi
- marge en jetons réels (dernier compte + non vu + demande + budget + 5 %)
- repli sur la transcription au moindre écart : refus du moteur, réseau,
  appel d'outil émis (tool_calls décodés) ou écrit en texte, raisonnement
  seul, résumé vide ; refus du gabarit ou appel d'outil = suspendue pour le
  modèle jusqu'au redémarrage, deux échecs de suite aussi
- avec la clé : pas de résumé quand même un vide ne réduirait pas de 20 %
  (borne exacte, avant tout archivage) ; après un refus faute de réduction,
  pas de nouvel essai avant +10 % de contexte, jamais à 90 % de la fenêtre,
  oublié quand le contexte baisse
- réactif, fenêtre pleine, bouton manuel, tâches, sous-agents, terminal,
  preset externe : chemin d'avant ; télémétrie kind=compact avec la discussion

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
MichaelandClaude Opus 5.5 committed 2026-10-04 09:21:57 +02:00
1 parent eb58f7982f
commit 2097c9f915
11 files changed
+1342 -61

No files matched your search

+27
View File
@@ -405,6 +405,33 @@ Ajoutées par ce fork :
la télémétrie sous `prewarm`. Ce que voit le modèle ne change pas : au pire, le
préchauffage ne sert à rien (moteur sans points de reprise aux messages
utilisateur, image juste avant, agent ou web changé avant d'envoyer).
- **Compaction en continuation** (clé `COMPACT_CONTINUATION`, **off** par
défaut, `loki config set COMPACT_CONTINUATION on`) : sans la clé, le résumé
d'une compaction part dans une requête à part — un prompt de résumeur et une
transcription des anciens tours — que le moteur local calcule à froid, des
dizaines de secondes sur un 27B, des minutes sur un MoE. Avec la clé, quand le
slot porte encore le prompt de la discussion, Loki renvoie la requête du tour
telle qu'elle est partie (mêmes messages, outils, arguments du gabarit et
intensité de raisonnement) suivie d'une seule demande de résumé : le moteur ne
calcule que celle-ci. La demande désigne le premier message gardé tel quel,
demande de tout résumer avant lui et de dater l'état d'avancement à cet
endroit ; mêmes règles de résumé qu'avant (mode Code compris), même budget,
température 0.2 sans l'échantillonnage du preset, réflexion coupée,
`tool_choice` à `none`. Ce qui est compacté, archivé et rangé ne change pas :
la requête sert seulement à obtenir le résumé, et rien du prompt système ou du
projet n'entre dans l'historique. Repli sur la transcription au moindre
écart : autre requête passée par le slot depuis le tour (vérification du mode Code,
sous-agent, tâche, préchauffage, bench, client `/v1`, autre discussion),
moteur relancé sur un autre modèle ou une autre fenêtre, marge insuffisante
dans la fenêtre, refus du moteur, appel d'outil émis, résumé vide ou fait de
seul raisonnement ; un refus du gabarit ou un appel d'outil la suspend pour ce
modèle jusqu'au redémarrage (gpt-oss à intensité haute peut épuiser le budget
en réflexion : repli). La clé évite aussi un résumé voué au refus (même vide,
il ne réduirait pas le contexte de 20 %) et, après un refus faute de réduction,
n'en redemande pas avant que le contexte ait grossi de 10 % — sauf à 90 % de la
fenêtre. Le filet réactif (prompt refusé), le bouton « compacter », les tâches,
les sous-agents et un preset externe gardent le chemin d'avant. Visible dans la
télémétrie sous `compact`.
- **Discussions multiples** : historique complet dans la barre latérale, titre
repris du premier message (renommable), suppression. **Chaque discussion a son
dossier de fichiers** (`workspace/discussions/<id>/`) : les pièces jointes