mirror of
https://github.com/R0m1k3/Loki.git
synced 2026-10-22 14:38:12 +02:00
Index inversé dans le bucket chatsearch (chat_search.go) : une fiche légère par discussion (« d| » : version, date d'indexation, aperçu), sa liste de mots (« t| ») et, par mot, la liste des discussions (« p| »). Mots repliés sans accents, correspondance par début de mot, titre compté double, comme chez l'amont. Chiffré quand la mémoire l'est (encryptedBuckets) ; verrouillée, la recherche le dit (state=locked). Adapté au modèle de Loki : toutes les discussions vivent dans bkChat/conv:<id>. L'index suit chaque écriture de l'écrivain différé (chat_persist.go, avant que le lot soit marqué traité : une suppression passe toujours après) et ne touche que les mots ajoutés ou retirés. Il suit aussi les écritures de la façade Rust, qui passent par /internal/v1/store : le Go reste le seul à tenir l'index, la route /api/conversations/search est servie ici et relayée par la façade comme toute route qu'elle ne connaît pas (test de garde des deux côtés). Pas de second écrivain, donc pas de test de parité à tenir. Rattrapage en fond au démarrage, au déverrouillage et quand une recherche trouve l'index incomplet : discussions absentes ou plus anciennes que leur dernière écriture. La discussion ouverte est cherchée dans son journal en RAM quand ce process la tient. L'extrait est pris autour du mot trouvé, relu dans le corps des seuls résultats de la page. Tests repris d'AJEAN (chat_search_test.go), adaptés, plus les écritures de la façade, l'extrait en contexte, la mise à jour incrémentale et l'index périmé. Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
287 lines
9.8 KiB
Go
287 lines
9.8 KiB
Go
package loki
|
|
|
|
import (
|
|
"crypto/subtle"
|
|
"io"
|
|
"net/http"
|
|
"os"
|
|
"strings"
|
|
|
|
bolt "go.etcd.io/bbolt"
|
|
)
|
|
|
|
// API interne entre la façade Rust (rust/loki-rs) et ce serveur.
|
|
//
|
|
// La façade reprend des routes une à une ; pour authentifier celles qu'elle
|
|
// sert elle-même, elle doit connaître la clé de pilotage, qui vit dans la base
|
|
// bbolt — verrouillée en exclusif par ce process. Elle la demande donc ici, à
|
|
// chaque requête (même règle que requireWebAuth : un changement de clé prend
|
|
// effet immédiatement).
|
|
//
|
|
// Trois verrous, parce que la réponse contient un secret :
|
|
// - la route n'existe que sur l'écoute TCP directe (withInternalAPI enveloppe
|
|
// le mux dans cmdWeb) : le tunnel du relais sert le mux nu et ne la voit
|
|
// jamais ;
|
|
// - elle exige le jeton que la façade tire au hasard à chaque démarrage et
|
|
// transmet par l'environnement (LOKI_INTERNAL_TOKEN) ;
|
|
// - sans jeton, jeton trop court ou faux : 404, rien ne trahit la route.
|
|
|
|
const (
|
|
internalTokenEnv = "LOKI_INTERNAL_TOKEN"
|
|
internalTokenHeader = "X-Loki-Internal"
|
|
internalPrefix = "/internal/"
|
|
// Un jeton plus court qu'un secret de 128 bits désactive l'API interne :
|
|
// mieux vaut une façade qui ferme l'accès qu'une route devinable.
|
|
internalTokenMinLen = 32
|
|
)
|
|
|
|
func internalToken() string {
|
|
t := strings.TrimSpace(os.Getenv(internalTokenEnv))
|
|
if len(t) < internalTokenMinLen {
|
|
return ""
|
|
}
|
|
return t
|
|
}
|
|
|
|
// withInternalAPI sert /internal/* et passe tout le reste à next.
|
|
func withInternalAPI(next http.Handler) http.Handler {
|
|
return http.HandlerFunc(func(w http.ResponseWriter, r *http.Request) {
|
|
if !strings.HasPrefix(r.URL.Path, internalPrefix) {
|
|
next.ServeHTTP(w, r)
|
|
return
|
|
}
|
|
tok := internalToken()
|
|
got := r.Header.Get(internalTokenHeader)
|
|
if tok == "" || subtle.ConstantTimeCompare([]byte(got), []byte(tok)) != 1 {
|
|
http.NotFound(w, r)
|
|
return
|
|
}
|
|
switch r.URL.Path {
|
|
case "/internal/v1/auth":
|
|
handleInternalAuth(w, r)
|
|
case "/internal/v1/store":
|
|
handleInternalStore(w, r)
|
|
case "/internal/v1/store/all":
|
|
handleInternalStoreAll(w, r)
|
|
case "/internal/v1/oai/route":
|
|
handleInternalOAIRoute(w, r)
|
|
case "/internal/v1/oai/begin":
|
|
handleInternalOAIBegin(w, r)
|
|
case "/internal/v1/oai/end":
|
|
handleInternalOAIEnd(w, r)
|
|
case "/internal/v1/oai/served":
|
|
handleInternalOAIServed(w, r)
|
|
case "/internal/v1/turn/projsnap/refresh":
|
|
handleInternalTurnProjSnapRefresh(w, r)
|
|
case "/internal/v1/turn/slot":
|
|
handleInternalTurnSlot(w, r)
|
|
case "/internal/v1/prewarm/check":
|
|
handleInternalPrewarmCheck(w, r)
|
|
case "/internal/v1/prewarm/begin":
|
|
handleInternalPrewarmBegin(w, r)
|
|
case "/internal/v1/prewarm/end":
|
|
handleInternalPrewarmEnd(w, r)
|
|
case "/internal/v1/turn/keepimg":
|
|
handleInternalTurnKeepImg(w, r)
|
|
case "/internal/v1/turn/keepimg/store":
|
|
handleInternalTurnKeepImgStore(w, r)
|
|
case "/internal/v1/tool/exec":
|
|
handleInternalToolExec(w, r)
|
|
case "/internal/v1/tool/context":
|
|
handleInternalToolContext(w, r)
|
|
case "/internal/v1/tool/tracker":
|
|
handleInternalToolTracker(w, r)
|
|
case "/internal/v1/tool/wrote":
|
|
handleInternalToolWrote(w, r)
|
|
case "/internal/v1/crypt/seal":
|
|
handleInternalCrypt(w, r, true)
|
|
case "/internal/v1/crypt/open":
|
|
handleInternalCrypt(w, r, false)
|
|
case "/internal/v1/engine/lease":
|
|
handleInternalLease(w, r)
|
|
case "/internal/v1/engine/lease/renew":
|
|
handleInternalLeaseRenew(w, r)
|
|
case "/internal/v1/engine/lease/release":
|
|
handleInternalLeaseRelease(w, r)
|
|
case "/internal/v1/engine/stop":
|
|
handleInternalEngineStop(w, r)
|
|
case "/internal/v1/recall/archive":
|
|
handleInternalRecallArchive(w, r)
|
|
case "/internal/v1/recall/block":
|
|
handleInternalRecallBlock(w, r)
|
|
case "/internal/v1/recall/blocks":
|
|
handleInternalRecallBlocks(w, r)
|
|
case "/internal/v1/turn/start":
|
|
handleInternalTurnStart(w, r)
|
|
case "/internal/v1/turn/view":
|
|
handleInternalTurnView(w, r)
|
|
case "/internal/v1/turn/done":
|
|
handleInternalTurnDone(w, r)
|
|
case "/internal/v1/turn/verifier":
|
|
handleInternalTurnVerifier(w, r)
|
|
case "/internal/v1/turn/subagent":
|
|
handleInternalTurnSubagent(w, r)
|
|
case "/internal/v1/project/activate":
|
|
handleInternalProjectActivate(w, r)
|
|
case "/internal/v1/chat/holder":
|
|
handleInternalChatHolder(w, r)
|
|
case "/internal/v1/conv/active":
|
|
handleInternalConvActive(w, r)
|
|
case "/internal/v1/conv/dropped":
|
|
handleInternalConvDropped(w, r)
|
|
case "/internal/v1/conv/workspace":
|
|
handleInternalConvWorkspace(w, r)
|
|
case "/internal/v1/preset/apply":
|
|
handleInternalPresetApply(w, r)
|
|
case "/internal/v1/tune/guard":
|
|
handleInternalTuneGuard(w, r)
|
|
case "/internal/v1/service/prestart":
|
|
handleInternalServicePrestart(w, r)
|
|
case "/internal/v1/chat/generating":
|
|
handleInternalChatGenerating(w, r)
|
|
case "/internal/v1/dictate/stop":
|
|
handleInternalDictateStop(w, r)
|
|
case "/internal/v1/web/reach/reset":
|
|
handleInternalReachReset(w, r)
|
|
case "/internal/v1/web/fetch":
|
|
handleInternalWebFetch(w, r)
|
|
case "/internal/v1/web/search":
|
|
handleInternalWebSearch(w, r)
|
|
case "/internal/v1/cdp/shutdown":
|
|
handleInternalCDPShutdown(w, r)
|
|
case "/internal/v1/service/action":
|
|
handleInternalServiceAction(w, r)
|
|
case "/internal/v1/project/switch":
|
|
handleInternalProjectSwitch(w, r)
|
|
case "/internal/v1/project/drop-convs":
|
|
handleInternalProjectDropConvs(w, r)
|
|
case "/internal/v1/engine/sidejob":
|
|
handleInternalSideJob(w, r)
|
|
case "/internal/v1/bench/perf":
|
|
handleInternalBenchPerf(w, r)
|
|
case "/internal/v1/tune/context":
|
|
handleInternalTuneContext(w, r)
|
|
case "/internal/v1/tasks/run":
|
|
handleInternalTaskRun(w, r)
|
|
case "/internal/v1/push/send":
|
|
handleInternalPushSend(w, r)
|
|
default:
|
|
http.NotFound(w, r)
|
|
}
|
|
})
|
|
}
|
|
|
|
// --- Store ----------------------------------------------------------------
|
|
//
|
|
// Accès générique à la base pour les routes déjà portées en Rust (lot 4) : le
|
|
// Go reste l'unique propriétaire du fichier bbolt jusqu'au lot qui le
|
|
// migrera ; Rust lit et écrit À TRAVERS lui. Les écritures passent par
|
|
// putBytes/update, donc invalident le cache de ce process comme une écriture
|
|
// locale.
|
|
//
|
|
// GET /internal/v1/store?bucket=B&key=K 200 + valeur brute | 404 absente
|
|
// PUT /internal/v1/store?bucket=B&key=K corps = valeur → 204
|
|
// DELETE /internal/v1/store?bucket=B&key=K → 204
|
|
// GET /internal/v1/store/all?bucket=B 200 + {"clé":"valeur",…}
|
|
//
|
|
// Base illisible : 503 — l'appelant distingue « rien » de « pas pu lire »,
|
|
// comme getBytesErr.
|
|
|
|
// internalStoreMaxPut borne une écriture : la plus grosse valeur légitime (le
|
|
// journal d'une discussion) reste très en dessous.
|
|
const internalStoreMaxPut = 64 << 20
|
|
|
|
func handleInternalStore(w http.ResponseWriter, r *http.Request) {
|
|
q := r.URL.Query()
|
|
bucket, key := q.Get("bucket"), q.Get("key")
|
|
if bucket == "" || key == "" {
|
|
sendJSON(w, http.StatusBadRequest, map[string]any{"error": "bucket et key requis"})
|
|
return
|
|
}
|
|
switch r.Method {
|
|
case http.MethodGet:
|
|
var val []byte
|
|
var found bool
|
|
err := view(bucket, func(b *bolt.Bucket) error {
|
|
if v := b.Get([]byte(key)); v != nil {
|
|
val, found = append([]byte(nil), v...), true
|
|
}
|
|
return nil
|
|
})
|
|
if err != nil {
|
|
sendJSON(w, http.StatusServiceUnavailable, map[string]any{"error": err.Error()})
|
|
return
|
|
}
|
|
if !found {
|
|
http.NotFound(w, r)
|
|
return
|
|
}
|
|
w.Header().Set("Content-Type", "application/octet-stream")
|
|
w.Write(val)
|
|
case http.MethodPut:
|
|
val, err := io.ReadAll(io.LimitReader(r.Body, internalStoreMaxPut+1))
|
|
if err != nil || len(val) > internalStoreMaxPut {
|
|
sendJSON(w, http.StatusRequestEntityTooLarge, map[string]any{"error": "valeur trop grande ou illisible"})
|
|
return
|
|
}
|
|
if err := putBytes(bucket, key, val); err != nil {
|
|
sendJSON(w, http.StatusServiceUnavailable, map[string]any{"error": err.Error()})
|
|
return
|
|
}
|
|
// Une discussion écrite par la façade : l'index plein-texte la suit
|
|
// (chat_search.go). Avant la réponse, pour que sa suppression, qui
|
|
// n'arrive qu'après, ne soit jamais doublée par cette indexation.
|
|
histIndexStoreWrite(bucket, key, val, false)
|
|
w.WriteHeader(http.StatusNoContent)
|
|
case http.MethodDelete:
|
|
err := update(bucket, func(b *bolt.Bucket) error { return b.Delete([]byte(key)) })
|
|
if err != nil {
|
|
sendJSON(w, http.StatusServiceUnavailable, map[string]any{"error": err.Error()})
|
|
return
|
|
}
|
|
histIndexStoreWrite(bucket, key, nil, true)
|
|
w.WriteHeader(http.StatusNoContent)
|
|
default:
|
|
w.Header().Set("Allow", "GET, PUT, DELETE")
|
|
sendJSON(w, http.StatusMethodNotAllowed, map[string]any{"error": "méthode non permise"})
|
|
}
|
|
}
|
|
|
|
func handleInternalStoreAll(w http.ResponseWriter, r *http.Request) {
|
|
bucket := r.URL.Query().Get("bucket")
|
|
if r.Method != http.MethodGet || bucket == "" {
|
|
sendJSON(w, http.StatusBadRequest, map[string]any{"error": "GET ?bucket= attendu"})
|
|
return
|
|
}
|
|
m := map[string]string{}
|
|
err := view(bucket, func(b *bolt.Bucket) error {
|
|
return b.ForEach(func(k, v []byte) error {
|
|
m[string(k)] = string(v)
|
|
return nil
|
|
})
|
|
})
|
|
if err != nil {
|
|
sendJSON(w, http.StatusServiceUnavailable, map[string]any{"error": err.Error()})
|
|
return
|
|
}
|
|
sendJSON(w, http.StatusOK, m)
|
|
}
|
|
|
|
// handleInternalAuth : de quoi authentifier une requête de pilotage côté Rust.
|
|
// Base illisible → 503 : la façade ferme alors l'accès, elle n'ouvre jamais
|
|
// sur une panne d'E/S (cf. readWebKeyErr).
|
|
func handleInternalAuth(w http.ResponseWriter, r *http.Request) {
|
|
if r.Method != http.MethodGet {
|
|
w.Header().Set("Allow", http.MethodGet)
|
|
sendJSON(w, http.StatusMethodNotAllowed, map[string]any{"error": "GET attendu"})
|
|
return
|
|
}
|
|
key, err := readWebKeyErr()
|
|
if err != nil {
|
|
sendJSON(w, http.StatusServiceUnavailable, map[string]any{"error": "configuration illisible"})
|
|
return
|
|
}
|
|
w.Header().Set("Cache-Control", "no-store")
|
|
sendJSON(w, http.StatusOK, map[string]any{"web_key": key, "version": Version})
|
|
}
|