mirror of
https://github.com/R0m1k3/Loki.git
synced 2026-10-21 05:58:13 +02:00
fix(agent): mode réflexion — relance sur pensée pure + pensée hors historique
Avec la réflexion activée sur les longues tâches, le modèle brûlait tout son budget de génération à penser : done sans contenu ni appel d'outil, la boucle s'arrêtait et la tâche restait inachevée. - itération « réflexion seule » : relance avec consigne d'agir ; si ça recommence, think est coupé pour la fin du tour (+ notice) - marge num_predict >= 6144 quand la réflexion est active - la pensée reste affichée dans l'UI mais n'est plus renvoyée au modèle (elle regonflait le contexte à chaque itération) Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
This commit is contained in:
1 parent
f87ac32f88
commit
da76b8192d
2 files changed
+140
-1
No files matched your search
+40
-1
@@ -128,6 +128,14 @@ async def run_agent(
|
||||
# On n'envoie ``think`` que pour le DÉSACTIVER (False) ; laissé à None, le
|
||||
# modèle garde son comportement par défaut. Repli si le modèle le refuse.
|
||||
request_think: bool | None = None if think else False
|
||||
# Mode réflexion : la pensée consomme le budget num_predict. Sans marge,
|
||||
# le modèle « pense » tout son quota et s'arrête sans agir ni répondre.
|
||||
if request_think is None and think:
|
||||
request_options["num_predict"] = max(
|
||||
int(request_options.get("num_predict") or 0), 6144
|
||||
)
|
||||
# Compteur d'itérations où le modèle n'a produit QUE du raisonnement.
|
||||
thinking_only_strikes = 0
|
||||
|
||||
# Métriques cumulées sur tous les appels Ollama du tour agentique : Ollama
|
||||
# les renvoie dans le chunk final (done=true) de chaque génération.
|
||||
@@ -248,9 +256,40 @@ async def run_agent(
|
||||
continue
|
||||
raise
|
||||
|
||||
# Itération « réflexion seule » : ni contenu, ni appel d'outil —
|
||||
# le modèle a brûlé sa génération à penser. Sans relance, la
|
||||
# boucle s'arrêtait là et la tâche restait inachevée.
|
||||
if thinking_buf and not content_buf.strip() and not tool_calls:
|
||||
thinking_parts.append(thinking_buf)
|
||||
thinking_only_strikes += 1
|
||||
if thinking_only_strikes == 1:
|
||||
convo.append({
|
||||
"role": "user",
|
||||
"content": (
|
||||
"Tu n'as produit que du raisonnement, sans réponse "
|
||||
"ni action. Continue la tâche MAINTENANT : appelle "
|
||||
"l'outil suivant ou donne ta réponse finale, sans "
|
||||
"réfléchir davantage."
|
||||
),
|
||||
})
|
||||
yield {"type": "status", "message": "Relance après réflexion…"}
|
||||
continue
|
||||
# Deuxième fois : la réflexion est coupée pour finir la tâche.
|
||||
request_think = False
|
||||
yield {
|
||||
"type": "notice",
|
||||
"message": (
|
||||
"Réflexion désactivée pour ce tour : le modèle "
|
||||
"n'avançait plus."
|
||||
),
|
||||
}
|
||||
continue
|
||||
|
||||
assistant_turn: dict = {"role": "assistant", "content": content_buf}
|
||||
if thinking_buf:
|
||||
assistant_turn["thinking"] = thinking_buf
|
||||
# Gardée pour l'affichage (panneau repliable), mais JAMAIS
|
||||
# renvoyée au modèle : la re-soumettre gonflait le contexte à
|
||||
# chaque itération des longues tâches.
|
||||
thinking_parts.append(thinking_buf)
|
||||
if tool_calls:
|
||||
assistant_turn["tool_calls"] = tool_calls
|
||||
|
||||
Reference in new issue
Block a user