mirror of
https://github.com/R0m1k3/Loki.git
synced 2026-10-21 14:08:11 +02:00
Lot 22 : backends llama.cpp et job des moteurs tenus par la façade (LOKI_BACKENDS=rust)
La façade (rust/loki-rs/src/backends) sert le statut du moteur llama.cpp (dépôt git, binaire, moteur de l'image, précompilé, moteur téléchargé, plan de build et conseil), la vérification git, la dernière release et l'installation des binaires précompilés (extraction avec liens, VERSION, ménage), la bascule fast/opt, les backends custom et leur désinstallation, et les GPU vus par un moteur (caches mémoire et disque). Elle détient LE job des moteurs (state/build_job + loki-build.log, repris au démarrage). Les jobs que le Go fait encore tourner (compilation depuis les sources, moteur de l'image, Strata) lui rapportent chaque étape par /internal/facade/v1/build-job/* ; le Go garde le garde de l'optimiseur et ne restaure plus de job quand la façade tient le lot. Correction du Go : prebuiltVersionFormat lisait le format comme 3e champ du marqueur VERSION ; hors CUDA Windows (« b300 fmt2 ») il n'y en a que deux, et chaque vérification retéléchargeait la release au lieu de dire « déjà à jour ». Le port suit. Parité : parity_backends_test.go (Linux) → tests/parity_backends, rejoué par tests/backends.rs (fausses machines dans le PATH, faux GitHub, dépôt git reproductible) ; TestFacadeBackends pour les étapes transmises. Mutations : 55 tuées sur 57, deux inobservables sous Linux (cudart Windows, garde d'un avertissement). Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_016tcGfJWefW5kUGoC2wL8cv
This commit is contained in:
26 files changed
+10896
-30
No files matched your search
@@ -90,6 +90,8 @@ pub struct FakeGo {
|
||||
pub cdp_shutdowns: Mutex<u32>,
|
||||
/// /internal/v1/service/action reçus : (action, if_active).
|
||||
pub service_actions: Mutex<Vec<(String, bool)>>,
|
||||
/// Le moteur tourne-t-il (`if_active` des actions de service) ?
|
||||
pub service_active: Mutex<bool>,
|
||||
/// Comportement de /internal/v1/crypt/* (préfixe « SCELLE: » par défaut).
|
||||
pub crypt_mode: Mutex<CryptMode>,
|
||||
/// Réponse de /internal/v1/conv/workspace (None : 404).
|
||||
@@ -426,10 +428,14 @@ async fn handle(st: Arc<FakeGo>, req: Request<Incoming>) -> Response<Full<Bytes>
|
||||
"/internal/v1/service/action" => {
|
||||
let body = req.into_body().collect().await.unwrap().to_bytes();
|
||||
let v: serde_json::Value = serde_json::from_slice(&body).unwrap_or_default();
|
||||
st.service_actions.lock().unwrap().push((
|
||||
v["action"].as_str().unwrap_or("").to_string(),
|
||||
v["if_active"].as_bool().unwrap_or(false),
|
||||
));
|
||||
let if_active = v["if_active"].as_bool().unwrap_or(false);
|
||||
st.service_actions
|
||||
.lock()
|
||||
.unwrap()
|
||||
.push((v["action"].as_str().unwrap_or("").to_string(), if_active));
|
||||
if if_active && !*st.service_active.lock().unwrap() {
|
||||
return resp(200, r#"{"ran":false,"error":""}"#);
|
||||
}
|
||||
resp(200, r#"{"ran":true,"error":""}"#)
|
||||
}
|
||||
"/internal/v1/dictate/stop" => {
|
||||
@@ -635,6 +641,7 @@ pub struct Opts {
|
||||
pub projects: bool,
|
||||
pub mcp: Option<Arc<loki_rs::mcp::Mcp>>,
|
||||
pub update: bool,
|
||||
pub backends: Option<Arc<loki_rs::backends::Backends>>,
|
||||
}
|
||||
|
||||
/// Comme [`start`], avec la conversation tenue par la façade
|
||||
@@ -736,6 +743,7 @@ pub async fn start_with(
|
||||
projects: opts.projects,
|
||||
mcp: opts.mcp,
|
||||
update: opts.update,
|
||||
backends: opts.backends,
|
||||
};
|
||||
tokio::spawn(loki_rs::proxy::serve(fl, cfg, async move {
|
||||
let _ = rx.await;
|
||||
|
||||
Reference in new issue
Block a user