mirror of
https://github.com/R0m1k3/Loki.git
synced 2026-10-18 12:46:56 +02:00
MichaelandClaude Opus 4.8
2db6beea5c
Backend : - agent_config.py : profil persisté (invite système, génération, outils actifs) avec valeurs par défaut et fusion robuste - routes/config.py : GET/PUT /api/config - db.py : table config clé/valeur (get/set JSON) - agent.py : run_agent filtre les outils selon enabled_tools - routes/chat.py : utilise l'invite système, les options de génération et les outils actifs issus de la config sauvegardée Frontend : - api/client.ts + store : getConfig/saveConfig, état config - SettingsView : sliders interactifs (température, top-p, top-k, jetons max), toggles d'outils réels, éditeur d'invite système, bouton Enregistrer - ChatPanel : la barre de contexte reflète température et outils actifs réels Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_01SVay7z3y7q2gEe54ByAE6N
88 lines
2.8 KiB
Python
88 lines
2.8 KiB
Python
"""Route de conversation agentique : boucle d'outils + streaming SSE.
|
|
|
|
Flux :
|
|
1. on enregistre le message utilisateur ;
|
|
2. on lance la boucle agentique (run_agent) sur l'historique de la session ;
|
|
3. on relaie tokens et événements d'outils au client (SSE) ;
|
|
4. on enregistre la réponse finale de l'assistant + le récap des outils.
|
|
"""
|
|
from __future__ import annotations
|
|
|
|
import json
|
|
|
|
from fastapi import APIRouter, HTTPException
|
|
from fastapi.responses import StreamingResponse
|
|
from pydantic import BaseModel
|
|
|
|
from .. import agent_config, db
|
|
from ..agent import run_agent
|
|
from ..config import settings
|
|
|
|
router = APIRouter(prefix="/api", tags=["chat"])
|
|
|
|
|
|
class ChatRequest(BaseModel):
|
|
session_id: str
|
|
content: str
|
|
model: str | None = None
|
|
|
|
|
|
def _sse(event: str, data: dict) -> str:
|
|
return f"event: {event}\ndata: {json.dumps(data, ensure_ascii=False)}\n\n"
|
|
|
|
|
|
@router.post("/chat")
|
|
async def chat(req: ChatRequest) -> StreamingResponse:
|
|
session = db.get_session(req.session_id)
|
|
if not session:
|
|
raise HTTPException(404, "session introuvable")
|
|
|
|
model = req.model or session.get("model") or settings.default_model
|
|
cfg = agent_config.get_config()
|
|
|
|
# Premier message : titre la session avec un extrait.
|
|
if not db.list_messages(req.session_id):
|
|
title = req.content.strip().split("\n")[0][:60] or "Nouvelle session"
|
|
db.rename_session(req.session_id, title)
|
|
|
|
db.add_message(req.session_id, "user", req.content, None)
|
|
|
|
convo = [{"role": "system", "content": cfg["system_prompt"]}]
|
|
convo += db.list_messages_for_model(req.session_id)
|
|
|
|
async def event_stream():
|
|
yield _sse("start", {"model": model})
|
|
final_content = ""
|
|
tools_meta: list[dict] = []
|
|
|
|
async for ev in run_agent(
|
|
model,
|
|
convo,
|
|
options=agent_config.ollama_options(cfg),
|
|
enabled_tools=agent_config.enabled_tool_names(cfg),
|
|
):
|
|
etype = ev.pop("type")
|
|
if etype == "token":
|
|
yield _sse("token", ev)
|
|
elif etype == "tool_call":
|
|
yield _sse("tool_call", ev)
|
|
elif etype == "tool_result":
|
|
yield _sse("tool_result", ev)
|
|
elif etype == "error":
|
|
yield _sse("error", ev)
|
|
elif etype == "final":
|
|
final_content = ev["content"]
|
|
tools_meta = ev["tools"]
|
|
|
|
if final_content or tools_meta:
|
|
db.add_message(
|
|
req.session_id,
|
|
"assistant",
|
|
final_content,
|
|
model,
|
|
meta={"tools": tools_meta} if tools_meta else None,
|
|
)
|
|
yield _sse("done", {"content": final_content, "tools": tools_meta})
|
|
|
|
return StreamingResponse(event_stream(), media_type="text/event-stream")
|