mirror of
https://github.com/R0m1k3/Socialflow.git
synced 2026-10-11 17:26:45 +02:00
qwen-tts : chargement des modèles hors ligne
transformers interroge l'API Hugging Face au chargement quand le modèle est désigné par son nom de dépôt (détection des tokenizers Mistral), ce qui plantait le démarrage avec HF_HUB_OFFLINE=1 (conteneur en boucle sur Unraid). Le modèle est désormais chargé depuis son dossier local dans le cache. Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_01Upu97wMmsRkBoj6iVM4rH6
This commit is contained in:
1 file changed
+13
-1
+13
-1
@@ -65,11 +65,23 @@ def _load(name: str):
|
||||
from qwen_tts import Qwen3TTSModel
|
||||
|
||||
started = time.monotonic()
|
||||
_models[name] = Qwen3TTSModel.from_pretrained(name, device_map=DEVICE, dtype=DTYPE)
|
||||
_models[name] = Qwen3TTSModel.from_pretrained(_local_path(name), device_map=DEVICE, dtype=DTYPE)
|
||||
log.info("Modèle %s chargé sur %s en %.1f s", name, _device_label(), time.monotonic() - started)
|
||||
return _models[name]
|
||||
|
||||
|
||||
def _local_path(name: str) -> str:
|
||||
"""Dossier du modèle téléchargé au build. Avec un nom de dépôt, transformers
|
||||
interroge l'API Hugging Face au chargement (détection des tokenizers Mistral),
|
||||
ce qui échoue en mode hors ligne ; avec un chemin local, non."""
|
||||
from huggingface_hub import snapshot_download
|
||||
|
||||
try:
|
||||
return snapshot_download(name, local_files_only=True)
|
||||
except Exception: # noqa: BLE001 — absent du cache : téléchargement normal
|
||||
return name
|
||||
|
||||
|
||||
def _device_label() -> str:
|
||||
if DEVICE.startswith("cuda"):
|
||||
return f"{torch.cuda.get_device_name(torch.device(DEVICE))} ({DEVICE}, {DTYPE})"
|
||||
|
||||
Reference in new issue
Block a user