Claude b3914e438c Nomme la cause d'un débit anormal : placement du modèle hors GPU ...

Un modèle dont les couches partent en RAM tombe à quelques jetons par
seconde. Loki subissait la lenteur sans jamais la nommer : l'utilisateur
ne pouvait pas distinguer un blocage de l'application d'un modèle placé
sur le CPU par Ollama.

Au début de chaque réponse, si /api/ps indique que le modèle n'est pas
entièrement en VRAM, une notice donne le pourcentage réellement en VRAM
et le volume resté en RAM.

Le placement appartient à Ollama — Loki le constate, il ne le corrige
pas. Silencieux quand tout est sur GPU, quand le modèle n'est pas encore
chargé, ou quand Ollama ne répond pas.

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
Claude-Session: https://claude.ai/code/session_01SVay7z3y7q2gEe54ByAE6N

2026-08-03 11:50:45 +00:00

..

app

Nomme la cause d'un débit anormal : placement du modèle hors GPU

2026-08-03 11:50:45 +00:00

skills

feat(skills): 5 méthodes expertes auto-injectées (routeur lexical)

2026-07-18 17:02:40 +02:00

tests

fix(agent): coupe-circuit de réflexion en cours de flux

2026-07-19 11:28:51 +02:00

pytest.ini

feat(mcp): gestionnaire de sessions lazy + conversion schémas + appels

2026-07-18 16:58:34 +02:00

requirements.txt

feat(mcp): catalogue préconfiguré + état persisté + infra pytest

2026-07-18 16:44:59 +02:00