mirror of
https://github.com/R0m1k3/Loki.git
synced 2026-10-19 21:18:20 +02:00
Lot 22 : backends llama.cpp et job des moteurs tenus par la façade (LOKI_BACKENDS=rust)
La façade (rust/loki-rs/src/backends) sert le statut du moteur llama.cpp (dépôt git, binaire, moteur de l'image, précompilé, moteur téléchargé, plan de build et conseil), la vérification git, la dernière release et l'installation des binaires précompilés (extraction avec liens, VERSION, ménage), la bascule fast/opt, les backends custom et leur désinstallation, et les GPU vus par un moteur (caches mémoire et disque). Elle détient LE job des moteurs (state/build_job + loki-build.log, repris au démarrage). Les jobs que le Go fait encore tourner (compilation depuis les sources, moteur de l'image, Strata) lui rapportent chaque étape par /internal/facade/v1/build-job/* ; le Go garde le garde de l'optimiseur et ne restaure plus de job quand la façade tient le lot. Correction du Go : prebuiltVersionFormat lisait le format comme 3e champ du marqueur VERSION ; hors CUDA Windows (« b300 fmt2 ») il n'y en a que deux, et chaque vérification retéléchargeait la release au lieu de dire « déjà à jour ». Le port suit. Parité : parity_backends_test.go (Linux) → tests/parity_backends, rejoué par tests/backends.rs (fausses machines dans le PATH, faux GitHub, dépôt git reproductible) ; TestFacadeBackends pour les étapes transmises. Mutations : 55 tuées sur 57, deux inobservables sous Linux (cudart Windows, garde d'un avertissement). Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_016tcGfJWefW5kUGoC2wL8cv
This commit is contained in:
26 files changed
+10896
-30
No files matched your search
@@ -93,6 +93,9 @@ pub struct Config {
|
||||
/// Mise à jour de Loki tenue par la façade (`LOKI_UPDATE=rust`, en
|
||||
/// conteneur).
|
||||
pub update: bool,
|
||||
/// Backends llama.cpp (statut, précompilé, bascule, GPU) et job des
|
||||
/// moteurs tenus par la façade (`LOKI_BACKENDS=rust`) ; `None` : au Go.
|
||||
pub backends: Option<Arc<crate::backends::Backends>>,
|
||||
}
|
||||
|
||||
struct Proxy {
|
||||
@@ -132,6 +135,7 @@ pub async fn serve(
|
||||
projects: cfg.projects,
|
||||
mcp: cfg.mcp,
|
||||
update: cfg.update,
|
||||
backends: cfg.backends,
|
||||
internal_token: cfg.internal_token.clone(),
|
||||
},
|
||||
});
|
||||
@@ -206,6 +210,12 @@ impl Proxy {
|
||||
{
|
||||
return crate::mcp::serve_internal(&self.ctx, m, req).await;
|
||||
}
|
||||
if from_go
|
||||
&& let Some(b) = &self.ctx.backends
|
||||
&& crate::backends::is_internal(path)
|
||||
{
|
||||
return crate::backends::serve_internal(&self.ctx, b, req).await;
|
||||
}
|
||||
// L'API interne du Go n'est jamais joignable de l'extérieur.
|
||||
if path.starts_with("/internal/") {
|
||||
return plain(StatusCode::NOT_FOUND, "404 page not found");
|
||||
@@ -230,6 +240,11 @@ impl Proxy {
|
||||
{
|
||||
return chatapi::serve(&self.ctx, chat, req, from_go).await;
|
||||
}
|
||||
if let Some(b) = &self.ctx.backends
|
||||
&& crate::backends::handles(path)
|
||||
{
|
||||
return crate::backends::serve(&self.ctx, b, req, from_go).await;
|
||||
}
|
||||
if self.ctx.update && crate::sysupdate::handles(path) {
|
||||
return crate::sysupdate::serve(&self.ctx, req, from_go).await;
|
||||
}
|
||||
|
||||
Reference in new issue
Block a user