mirror of
https://github.com/R0m1k3/Loki.git
synced 2026-10-11 17:26:57 +02:00
- moteur precompile : la version installee est celle qui tourne (on elisait le dossier le plus ancien), et les anciennes extractions sont purgees - presets : le moteur precompile reste reconnu apres une mise a jour, et un BIN pointant une release disparue suit la version installee au lieu d'echouer - build CUDA : le toolkit est cherche avant le nvcc du PATH, sa racine est passee a CMake (fin du "CUDA Toolkit not found" avec CUDA installe) - job d'installation : etat persiste sur disque, une operation interrompue par un redemarrage du service est annoncee, pastille de rappel sur mobile - editeur de modele : section Cartes graphiques (--device / --tensor-split), la liste vient du moteur du preset car les identifiants dependent du backend - reglages : plus de menu replie, interrupteurs regroupes, decodage speculatif - CUDA_VISIBLE_DEVICES et WEB_ENGINE survivent au changement de preset, sauf si le preset les definit lui-meme
295 lines
11 KiB
Go
295 lines
11 KiB
Go
// ajean — single-binary LLM server manager + web UI for llama.cpp deployments.
|
|
// Point d'entrée réel : Main(), appelé par cmd/ajean (les métadonnées Windows
|
|
// .syso/go:generate vivent là-bas, dans le dossier du package main).
|
|
package ajean
|
|
|
|
import (
|
|
"fmt"
|
|
"os"
|
|
"path/filepath"
|
|
"strings"
|
|
)
|
|
|
|
const Version = "0.7.9"
|
|
|
|
// Main est le vrai main() du binaire (cmd/ajean ne fait que l'appeler).
|
|
func Main() {
|
|
// Rattache la console du terminal parent si on est lancé depuis un shell
|
|
// (Windows : binaire GUI). Retourne false au double-clic (aucune console) →
|
|
// on bascule alors sur l'expérience « application ». Hors Windows : toujours
|
|
// true. À faire AVANT toute écriture.
|
|
haveConsole := setupConsole()
|
|
|
|
// Migration one-shot des anciens skills (SKILLS/<nom>/SKILL.md) vers la
|
|
// nouvelle mémoire (MEMORY/<nom>.md). Idempotente, silencieuse si rien à faire.
|
|
migrateSkillsToMemory()
|
|
// Nettoie un éventuel binaire .old laissé par une mise à jour Windows.
|
|
cleanupOldBinary()
|
|
|
|
args := os.Args[1:]
|
|
noArgs := len(args) == 0
|
|
cmd := "help"
|
|
if len(args) > 0 {
|
|
cmd = args[0]
|
|
args = args[1:]
|
|
}
|
|
// Double-clic sur le binaire (aucun argument, aucune console rattachée) → on
|
|
// lance l'expérience « application » (UI web + navigateur + icône tray) plutôt
|
|
// que d'afficher l'aide. Le binaire étant compilé en sous-système GUI, il n'y a
|
|
// AUCUNE console à ce stade (donc plus de fenêtre noire). Lancé depuis un shell,
|
|
// `ajean` sans argument garde son comportement d'aide.
|
|
if noArgs && !haveConsole {
|
|
mustExit(cmdApp(args))
|
|
return
|
|
}
|
|
switch cmd {
|
|
case "app":
|
|
mustExit(cmdApp(args))
|
|
case "start", "stop", "restart", "status", "enable", "disable":
|
|
mustExit(serviceAction(cmd))
|
|
case "logs":
|
|
mustExit(serviceLogs())
|
|
case "edit":
|
|
mustExit(editConfig())
|
|
case "set-api-key":
|
|
mustExit(cmdSetAPIKey(args))
|
|
case "set-web-key":
|
|
mustExit(cmdSetWebKey(args))
|
|
case "vram":
|
|
mustExit(showVram())
|
|
case "gpu":
|
|
mustExit(cmdGPU(args))
|
|
case "switch":
|
|
mustExit(cmdSwitch(args))
|
|
case "chat":
|
|
mustExit(cmdChat(args))
|
|
case "web":
|
|
mustExit(cmdWeb(args))
|
|
case "link":
|
|
mustExit(cmdLink(args))
|
|
case "oai":
|
|
mustExit(cmdOAI(args))
|
|
case "agent", "skills", "machine", "tools":
|
|
// « mode agent » unifie l'ancien couple machine + skills : un seul
|
|
// interrupteur active TOUS les outils de l'IA (shell + mémoire ; les
|
|
// skills ont été fondus dans la mémoire). Les anciens noms restent
|
|
// acceptés comme alias rétro-compatibles.
|
|
mustExit(cmdAgent(args))
|
|
case "internet", "web-access":
|
|
mustExit(cmdInternet(args))
|
|
case "memory", "mem":
|
|
mustExit(cmdMemory(args))
|
|
case "serve":
|
|
mustExit(cmdServe(args))
|
|
case "test":
|
|
mustExit(cmdTest(args))
|
|
case "bench":
|
|
mustExit(cmdBench(args))
|
|
case "llamacpp", "llama":
|
|
mustExit(cmdLlamacpp(args))
|
|
case "update", "upgrade", "self-update":
|
|
mustExit(cmdUpdate(args))
|
|
case "where", "paths":
|
|
mustExit(cmdWhere(args))
|
|
case restartArg:
|
|
// Sous-commande interne, absente de l'aide : l'accompagnateur detache qui
|
|
// attend la fermeture de l'app, migre, puis la relance.
|
|
mustExit(cmdRestartAfterUpdate(args))
|
|
case migrateHomeArg:
|
|
// Sous-commande interne, volontairement absente de l'aide : c'est le
|
|
// travail delegue au process elevé par elevateForHomeMigration().
|
|
mustExit(cmdMigrateHomeElevated())
|
|
case "install":
|
|
mustExit(cmdInstall(args))
|
|
case "uninstall":
|
|
mustExit(cmdUninstall(args))
|
|
case "version", "-v", "--version":
|
|
fmt.Println("ajean", Version)
|
|
case "help", "-h", "--help", "":
|
|
printHelp()
|
|
default:
|
|
fmt.Fprintf(os.Stderr, "commande inconnue: %s\n\n", cmd)
|
|
printHelp()
|
|
os.Exit(2)
|
|
}
|
|
}
|
|
|
|
func printHelp() {
|
|
fmt.Printf(`ajean %s — manager llama.cpp + UI web (single binary)
|
|
|
|
Usage: ajean <commande> [args]
|
|
|
|
Application:
|
|
app lance l'UI web + ouvre le navigateur (auto au double-clic du binaire)
|
|
|
|
Service:
|
|
start | stop | restart gérer le service (systemd sous Linux, processus en arrière-plan sous Windows)
|
|
status | logs état / logs en direct
|
|
enable | disable auto-démarrage au boot
|
|
edit éditer $AJEAN_HOME/config.env
|
|
set-api-key [clé] protéger llama-server (clé Bearer); vide = générer, "" = retirer
|
|
set-web-key [clé] protéger l'API de pilotage 'ajean web'; vide = générer, "" = retirer
|
|
vram utilisation GPU/VRAM (nvidia-smi)
|
|
gpu [index…] liste les GPU / choisit le(s)quel(s) utiliser (gpu all = tous)
|
|
test vérifie que l'IA répond (health + completion)
|
|
bench [N] mesure prefill + decode tok/s (prompt 2000 tok, N=200 par défaut)
|
|
|
|
Presets:
|
|
switch [N] choisir un preset dans configs/ (interactif ou par numéro)
|
|
|
|
Interaction:
|
|
chat [system-prompt] chat terminal streamé
|
|
web [PORT] UI web (défaut :8090) — chat + presets + mode agent
|
|
internet [on|off|status|engine <go|crawl4ai>|url <url>|key <clé>]
|
|
accès web de l'IA (web_search/open/read/grep) — moteur intégré ou serveur Crawl4AI
|
|
memory [off|ondemand|always|status] mode mémoire de l'IA (off / sur demande / auto)
|
|
|
|
Accès distant (ajean.link) :
|
|
link <token> enregistre le token et démarre le lien au relais (token = 1re fois / pour le changer)
|
|
link start | restart | stop démarre / redémarre / arrête le service de lien
|
|
link code génère un code d'appairage (valable 10 min, à usage unique) pour le portail
|
|
link status | logout état du lien / oublier le token
|
|
link (sans argument) affiche l'aide des sous-commandes link
|
|
link serve exécute le worker au premier plan (utilisé par jean-link.service ; pendant de 'ajean serve')
|
|
|
|
Mode agent:
|
|
agent [on|off|status] active TOUS les outils de l'IA (shell complet + mémoire) — un seul interrupteur
|
|
|
|
Backend llama.cpp :
|
|
llamacpp install clone + compile llama.cpp (détecte CUDA/ROCm/Metal/CPU), pointe BIN dessus
|
|
llamacpp update git pull + recompile le backend existant (arrête/redémarre le service)
|
|
llamacpp status commit courant, backend détecté, retard sur origin
|
|
|
|
Entrypoint (utilisé par ajean.service) :
|
|
serve lit config.env et exec le binaire llama-server
|
|
|
|
Installation:
|
|
where affiche où sont le binaire, la config, la mémoire et le dossier de travail de l'agent
|
|
install installer (Linux: unité systemd, sudoers, dossiers ; Windows: dossiers + config)
|
|
uninstall désinstaller
|
|
update [--check] mettre à jour AJEAN depuis les releases GitHub (--check = signale sans installer)
|
|
|
|
Env:
|
|
AJEAN_HOME racine (défaut: /etc/ajean sur Linux/macOS, %%ProgramData%%\ajean sur Windows)
|
|
JEAN_HOME reste accepté (héritage)
|
|
EDITOR éditeur pour 'ajean edit' (défaut: nano sur Unix, notepad sur Windows)
|
|
|
|
Config: $AJEAN_HOME/config.env
|
|
`, Version)
|
|
}
|
|
|
|
func mustExit(err error) {
|
|
if err != nil {
|
|
fmt.Fprintln(os.Stderr, "[err]", err)
|
|
os.Exit(1)
|
|
}
|
|
}
|
|
|
|
// AjeanHome resolves the AJEAN data directory.
|
|
// Precedence: $AJEAN_HOME → $JEAN_HOME (héritage) → /etc/default/ajean puis
|
|
// /etc/default/jean (unix only) → migratedDefaultHome().
|
|
//
|
|
// Les deux noms de variable sont acceptés indéfiniment : ils sont posés À LA MAIN
|
|
// dans les config des utilisateurs et dans des scripts qu'on ne voit pas. Une
|
|
// variable explicite est un ordre — on ne migre RIEN quand il y en a une, on obéit.
|
|
func AjeanHome() string {
|
|
if h := os.Getenv("AJEAN_HOME"); h != "" {
|
|
return h
|
|
}
|
|
if h := os.Getenv("JEAN_HOME"); h != "" {
|
|
return h
|
|
}
|
|
if h := readEtcDefault(); h != "" {
|
|
return h
|
|
}
|
|
return migratedDefaultHome()
|
|
}
|
|
|
|
// readEtcDefault parses /etc/default/ajean (puis /etc/default/jean, hérité) for
|
|
// AJEAN_HOME=<path> ou JEAN_HOME=<path>. Quiet on errors.
|
|
func readEtcDefault() string {
|
|
for _, path := range []string{"/etc/default/ajean", "/etc/default/jean"} {
|
|
b, err := os.ReadFile(path)
|
|
if err != nil {
|
|
continue
|
|
}
|
|
for _, line := range strings.Split(string(b), "\n") {
|
|
s := strings.TrimSpace(line)
|
|
if s == "" || strings.HasPrefix(s, "#") {
|
|
continue
|
|
}
|
|
s = strings.TrimPrefix(s, "export ")
|
|
if eq := strings.IndexByte(s, '='); eq > 0 {
|
|
k := strings.TrimSpace(s[:eq])
|
|
v := strings.Trim(strings.TrimSpace(s[eq+1:]), "\"'")
|
|
if k == "AJEAN_HOME" || k == "JEAN_HOME" {
|
|
return v
|
|
}
|
|
}
|
|
}
|
|
}
|
|
return ""
|
|
}
|
|
|
|
func confPath() string { return filepath.Join(AjeanHome(), "config.env") }
|
|
func presetsDir() string { return filepath.Join(AjeanHome(), "configs") }
|
|
func skillsDir() string { return filepath.Join(AjeanHome(), "SKILLS") }
|
|
func memoryDir() string { return filepath.Join(AjeanHome(), "MEMORY") }
|
|
func agentFlag() string { return filepath.Join(AjeanHome(), ".agent_enabled") }
|
|
func internetFlag() string { return filepath.Join(AjeanHome(), ".internet_enabled") }
|
|
func mcpConfigPath() string { return filepath.Join(AjeanHome(), "mcp.json") }
|
|
|
|
// Anciens drapeaux séparés, conservés pour la migration vers le mode agent unifié.
|
|
func legacySkillsFlag() string { return filepath.Join(skillsDir(), ".enabled") }
|
|
func legacyToolsFlag() string { return filepath.Join(AjeanHome(), ".tools_enabled") }
|
|
func apiKeyPath() string { return filepath.Join(AjeanHome(), ".api_key") }
|
|
func crawlKeyPath() string { return filepath.Join(AjeanHome(), ".crawl4ai_key") }
|
|
|
|
// serviceName est le nom de l'unité qui exécute llama-server. AJEAN_SERVICE et
|
|
// JEAN_SERVICE sont tous deux honorés : le second est posé à la main sur des
|
|
// machines qu'on ne voit pas, le renommage ne doit pas les casser.
|
|
func serviceName() string {
|
|
if n := os.Getenv("AJEAN_SERVICE"); n != "" {
|
|
return n
|
|
}
|
|
if n := os.Getenv("JEAN_SERVICE"); n != "" {
|
|
return n
|
|
}
|
|
// Pas de nom imposé : on prend l'unité réellement installée. Un serveur
|
|
// simplement mis à jour tourne encore sous « jean.service » — voir
|
|
// sys_unitname.go.
|
|
return resolveUnitName("ajean", legacyServiceName())
|
|
}
|
|
|
|
// legacyServiceName est le nom d'avant le renommage.
|
|
func legacyServiceName() string { return "jean" }
|
|
|
|
// Color helpers (ANSI). Disabled when stdout is not a TTY.
|
|
var colorOn = isTerminal()
|
|
|
|
func col(code, s string) string {
|
|
if !colorOn {
|
|
return s
|
|
}
|
|
return "\033[" + code + "m" + s + "\033[0m"
|
|
}
|
|
func bold(s string) string { return col("1", s) }
|
|
func cyan(s string) string { return col("1;36", s) }
|
|
func green(s string) string { return col("32", s) }
|
|
func red(s string) string { return col("31", s) }
|
|
func dim(s string) string { return col("2", s) }
|
|
func yellow(s string) string { return col("33", s) }
|
|
func magenta(s string) string { return col("35", s) }
|
|
|
|
// trimSplit splits and drops empty tokens.
|
|
func trimSplit(s, sep string) []string {
|
|
out := []string{}
|
|
for _, p := range strings.Split(s, sep) {
|
|
p = strings.TrimSpace(p)
|
|
if p != "" {
|
|
out = append(out, p)
|
|
}
|
|
}
|
|
return out
|
|
}
|