diff --git a/docker-compose.unraid.yml b/docker-compose.unraid.yml index e540cc2..95b5cbb 100644 --- a/docker-compose.unraid.yml +++ b/docker-compose.unraid.yml @@ -38,8 +38,12 @@ services: image: vllm/vllm-openai:latest container_name: liveflow-asr restart: unless-stopped + # L'image officielle vLLM n'embarque pas les décodeurs audio (soundfile, + # librosa) : on les installe au démarrage avant de lancer le serveur. + entrypoint: ["/bin/bash", "-c"] command: >- - --model Qwen/Qwen3-ASR-1.7B + pip install -q soundfile librosa && + exec vllm serve Qwen/Qwen3-ASR-1.7B --max-model-len 8192 --gpu-memory-utilization 0.70 runtime: nvidia diff --git a/docker-compose.yml b/docker-compose.yml index 4caa4b4..9743936 100644 --- a/docker-compose.yml +++ b/docker-compose.yml @@ -21,8 +21,12 @@ services: asr: image: vllm/vllm-openai:latest restart: unless-stopped + # L'image officielle vLLM n'embarque pas les décodeurs audio (soundfile, + # librosa) : on les installe au démarrage avant de lancer le serveur. + entrypoint: ["/bin/bash", "-c"] command: >- - --model Qwen/Qwen3-ASR-1.7B + pip install -q soundfile librosa && + exec vllm serve Qwen/Qwen3-ASR-1.7B --max-model-len 8192 --gpu-memory-utilization 0.70 environment: