vLLM sous Windows : trois portes, une seule supportée

93 632 étoiles GitHub depuis février 2023, et les prérequis d'installation s'ouvrent encore sur une seule ligne : « OS : Linux. Python 3.10–3.13. » La note WSL de la doc, c'est tout ce billet — voici l'entrepôt qu'elle a bâti : trois portes, une seule supportée.

■ la réponse d'abord

Aucune version Windows native n'existe. La doc d'installation liste un seul OS : Linux — leurs mots, pas les miens.

Oui, vous pouvez le faire tourner : WSL2. Ubuntu à l'intérieur de Windows, le pilote NVIDIA côté Windows, et le même pip install vllm.

Passer WSL coûte l'impôt du fork — vous êtes la QA. Utilisateur solo ? Ollama tourne Windows nativement.

93,632étoiles GitHub — pas une seule sous Windows

1la seule porte que la doc supporte : wsl2

2serrures sur le gguf : gpu + os

01L'ENTREPÔT TRANSFRONTALIER

un mur, deux cours, trois portes — la carte graphique passe par-dessus sur le tuyau, jamais dans une valise

FIG 1 · L'ENTREPÔT TRANSFRONTALIERtouches 1 · 2 · 3 — ou les boutons

ROUTE 1 · WSL2 — TRAVERSÉE OK · PILOTE DU CÔTÉ WINDOWS · VERDICT PASSE

la caisse est une requête — la touche 1 la fait passer par WSL2 pendant que la tuyauterie fait franchir la carte ; les portes 2 et 3 coûtent ce que disent les panonceaux

« vLLM ne supporte pas Windows nativement. Pour exécuter vLLM sous Windows, vous pouvez utiliser le sous-système Windows pour Linux (WSL) avec une distribution Linux compatible,

ou utiliser des forks maintenus par la communauté. » — la doc d'installation, verbatim. La première moitié est le mur ; la seconde moitié, ce billet.

02PORTE 1, PAS À PAS

une ligne dans powershell, l'installation linux normale à l'intérieur — le pilote ne bouge jamais

la porte — powershell (admin)

# PowerShell (Admin) — then reboot when it asks:
wsl --install -d Ubuntu

dans ubuntu — l'installation linux normale

# inside Ubuntu — the normal Linux install, nothing Windows-specific:
uv venv --python 3.12 && source .venv/bin/activate
uv pip install vllm --torch-backend=auto

# serve something small and prove the GPU passed through:
vllm serve Qwen/Qwen3-0.6B --port 8000

vérification — depuis windows

curl http://localhost:8000/v1/models
# WSL2 forwards localhost — the model comes back as JSON

vérification : curl http://localhost:8000/v1/models depuis Windows — WSL2 redirige le localhost, votre modèle revient en JSON

le pilote—habite du côté Windows, installé une seule fois — le CUDA-on-WSL de NVIDIA passe la carte graphique à n'importe quelle distribution

le piège classique—installer aussi un pilote à l'intérieur d'Ubuntu — une soirée passée à décoincer une pile qui n'a jamais été cassée

amd—roule ROCm-on-WSL — la voie est plus étroite, prévoyez-le

03PORTE 2, L'IMPÔT DU FORK

la doc nomme la scène elle-même : « des forks maintenus par la communauté » — le recensement, lu le 2026-10-12

fork	le registre	verdict
SystemPanic/vllm-windows	663 étoiles, poussée la veille de ce billet	le vivant — roues natives, CUDA 13, Blackwell, NCCL multi-GPU
devnen/vllm-windows	28 étoiles, dernier push mai 2026.	cinq mois de silence — un avis de retraite dans un projet aussi rapide
dexteri-ai/vllm-windows	habillage graphique, créé en janvier 2026	fait tourner vLLM à l'intérieur de WSL2 — la route qu'il prétend sauter

« vLLM ne peut tourner intégralement que sur Linux. »

— la doc, sur le pourquoi : les noyaux CUDA et NCCL n'existent intégralement qu'à cet endroit. Les forks prouvent la refonte MSVC par le peu de survivants.

l'impôt—MSVC-patched CUDA kernels, FlashAttention-3 disparu, retester après chaque publication en amont

quand payer—seulement quand la politique bloque WSL et qu'aucun serveur n'est à portée — sinon la porte 1 revient moins cher à chaque fois

04LES DEUX SERRURES, LA TABLE DES VOIES

le gguf empile une serrure matérielle sur la serrure d'os — les deux tournent ensemble, ou aucune

Oui — par WSL2, sur une carte graphique NVIDIA ou AMD.

GGUF dans vLLM est réservé aux cartes. Sur une boîte Windows CPU only, le même fichier tourne dans Ollama ou llama.cpp — tous deux natifs.

serrure 1 · le matériel—le plugin GGUF ne sert qu'un GPU, rien d'autre — les CPU x86 et Arm sont refusés

serrure 2 · l'os—le chemin réservé aux cartes doit tourner quelque part — sous Windows, ce quelque part est WSL2, la carte qui passe au travers

la règle—les deux serrures s'ouvrent ensemble ou pas du tout — et la serrure 1 ne s'ouvre jamais sur une boîte CPU only

Path	vLLM ?	Installation	Idéal pour
vLLM à l'intérieur de WSL2	moteur complet	une ligne + redémarrage	servir une équipe depuis une carte
fork natif SystemPanic	quasi-complet, vous testez	compiler, courir après CUDA	WSL bloqué par la politique, carte branchée
vLLM sur une boîte Linux, Windows en client	moteur complet, ailleurs	tout client compatible OpenAI	la carte vit dans une autre pièce de toute façon
Ollama, native	non — moteur différent	un installateur	usage solo, GGUF, `127.0.0.1:11434`
llama.cpp, native	non — moteur différent	binaires Windows	un utilisateur, la plus large couverture de quants

si la question était seulement « faire tourner un modèle sur ma boîte Windows » — ollama, natif, qui sert 127.0.0.1:11434. la porte 3 n'a jamais été une porte vers vllm.

■ honest stamp Source : le registre public — docs vLLM v0.24.0 + les dépôts de forks Windows · vérifié le 2026-10-12. La ligne « OS : Linux », la note WSL et le recensement des forks sont cités de la doc et des pages des dépôts eux-mêmes — étoiles, dates de push et fonctions telles qu'elles se tenaient cette semaine-là. J'ai lu le registre, pas fait tourner ; le flux WSL2 lui-même est l'installation Linux documentée derrière une porte d'une ligne.

fin des trois portes · rien de téléchargé · tout en local