vLLM en Windows: tres puertas, una sola con soporte

93 632 estrellas en GitHub desde febrero de 2023, y los requisitos de instalación siguen abriendo con una sola línea: "OS: Linux. Python 3.10–3.13." La nota WSL de la doc es el post entero — aquí está el depósito que levantó: tres puertas, una con soporte.

■ la respuesta primero

No existe ninguna build nativa de Windows. Los docs de instalación listan un solo OS: Linux — palabras suyas, no mías.

Sí, puedes hacerlo correr: WSL2. Ubuntu dentro de Windows, el driver NVIDIA del lado de Windows, y el mismo pip install vllm.

Saltar WSL paga el impuesto del fork — tú eres el QA. ¿Usuario solo? Ollama corre en Windows nativamente.

93,632estrellas en GitHub — ni una sola de ellas linux

1la única puerta con soporte en la doc: wsl2

2candados sobre el gguf: gpu + os

01EL DEPÓSITO DE PASO

un muro, dos patios, tres puertas — la gpu cruza por el tubo, nunca en una maleta

FIG 1 · EL DEPÓSITO DE PASOteclas 1 · 2 · 3 — o los botones

RUTA 1 · WSL2 — PASO OK · DRIVER DEL LADO DE WINDOWS · VEREDICTO PASA

la caja es una petición — la tecla 1 la hace pasar por WSL2 mientras el tubo del techo cruza la gpu; las puertas 2 y 3 cuestan lo que dicen los carteles

"vLLM no soporta Windows nativamente. Para correr vLLM en Windows, puedes usar el Subsistema de Windows para Linux (WSL) con una distribución Linux compatible,

o usar algunos forks mantenidos por la comunidad." — los docs de instalación, textual. La primera mitad es el muro; la segunda mitad es este post.

02PUERTA 1, PASO A PASO

una línea en powershell, la instalación linux normal adentro — el driver nunca se mueve

la puerta — powershell (admin)

# PowerShell (Admin) — then reboot when it asks:
wsl --install -d Ubuntu

dentro de ubuntu — la instalación linux normal

# inside Ubuntu — the normal Linux install, nothing Windows-specific:
uv venv --python 3.12 && source .venv/bin/activate
uv pip install vllm --torch-backend=auto

# serve something small and prove the GPU passed through:
vllm serve Qwen/Qwen3-0.6B --port 8000

verificación — desde windows

curl http://localhost:8000/v1/models
# WSL2 forwards localhost — the model comes back as JSON

verificación: curl http://localhost:8000/v1/models desde Windows — WSL2 reenvía el localhost, tu modelo vuelve en JSON

el driver—vive del lado de Windows, instalado una vez — el CUDA-on-WSL de NVIDIA mete la GPU en cualquier distro

la trampa clásica—instalar también un driver dentro de Ubuntu — una noche entera destrabando una pila que nunca estuvo rota

amd—va sobre ROCm-on-WSL — el camino es más angosto, planéalo

03PUERTA 2, EL IMPUESTO DEL FORK

los docs nombran la escena ellos mismos: "algunos forks mantenidos por la comunidad" — el censo, leído el 2026-10-12

fork	el registro	verdict
SystemPanic/vllm-windows	663 estrellas, pusheado la víspera de este post	el vivo — ruedas nativas, CUDA 13, Blackwell, NCCL multi-GPU
devnen/vllm-windows	28 estrellas, último push mayo 2026.	cinco meses callado — un aviso de retiro en un proyecto tan rápido
dexteri-ai/vllm-windows	envoltorio de GUI, creado enero 2026	maneja vLLM dentro de WSL2 — el camino que finge saltarse

"vLLM solo puede correr plenamente en Linux."

— la doc, sobre el porqué: los kernels CUDA y NCCL solo existen enteros ahí. Los forks prueban la reobra de MSVC por lo pocos que sobreviven.

el impuesto—MSVC-patched CUDA kernels, FlashAttention-3 fuera, re-probar tras cada lanzamiento upstream

cuándo pagar—solo cuando una política bloquea WSL y no hay servidor a mano — si no, la puerta 1 sale más barata siempre

04LOS DOS CANDADOS, LA TABLA DE CARRILES

el gguf apila un candado de hardware sobre el candado del os — ambos giran, o ninguno

Sí — por WSL2, en una GPU NVIDIA o AMD.

GGUF en vLLM es solo-GPU. En una caja Windows solo-CPU, el mismo archivo corre en Ollama o llama.cpp — ambos nativos.

candado 1 · hardware—el plugin GGUF solo sirve GPU — las CPU x86 y Arm quedan rechazadas

candado 2 · el os—el camino solo-GPU tiene que correr en algún lado — en Windows ese algún lado es WSL2, gpu pasando al través

la regla—ambos candados abren juntos o no abre ninguno — y el candado 1 jamás abre en una caja solo-CPU

Path	¿vLLM?	Montaje	Ideal para
vLLM dentro de WSL2	motor completo	una línea + reinicio	servir a un equipo desde una GPU
fork nativo SystemPanic	casi completo, tú lo pruebas	compilar, perseguir CUDA	WSL bloqueado por política, GPU conectada
vLLM en una caja Linux, Windows como cliente	motor completo, en otro sitio	cualquier cliente compatible con OpenAI	la GPU vive en otra habitación de todos modos
Ollama, native	no — motor distinto	un instalador	uso solo, GGUF, `127.0.0.1:11434`
llama.cpp, native	no — motor distinto	binarios Windows	un usuario, la mayor cobertura de quants

si la pregunta era solo "correr un modelo en mi caja Windows" — ollama, nativo, sirviendo en 127.0.0.1:11434. la puerta 3 nunca fue una puerta hacia vllm.

■ honest stamp Fuente: el registro público — docs de vLLM v0.24.0 + los repos de forks Windows · verificado 2026-10-12. La línea "OS: Linux", la nota WSL y el censo de forks son citados de los docs y de las páginas de los repos — estrellas, fechas de push y funciones tal como se hallaban esa semana. Leí el registro, no lo corrí; el flujo WSL2 en sí es la instalación Linux documentada detrás de una puerta de una línea.

fin de las tres puertas · nada descargado · todo en local