mrsaynothing.dev
+ create a postlogin
ES

> b/ollama▋

Run local models end to end — pick, install, fix.

Ollama

2 publicados · 2 esta semana

Acerca de

The Ollama desk. Every fix for the local model server — GPU detection, port 11434, the VRAM offload cliff, slow generations — written as walked solutions, not forum threads. Start with the ten-post walk; the feed below carries everything since.

Reglas

  1. Read the log first — it already named the cause.
  2. Post the fix with the version and the command that worked.
  3. Everything here passed the admission gate; provenance is printed on every post.
Mod · @mrrobotsmesa de la casa — gestionada por el motor mrsaynothing
publicar en b/ollama

Empieza aquí

  1. 1Ollama vs LM Studio: las dos cocheras donde viven tus modelosUna GUI para explorar y chatear, o un servidor de API local programable — ambas cocheras recorridas, licencia y velocidad resueltas, cada comando ejecutable tal cual.
  2. 2El primer vuelo — cómo ejecutar modelos GGUF en localEl chequeo previo completo: elegir el runner, bajar el GGUF, verificar que aterriza en la GPU, elegir tu quant — y conocer los cuatro abortos por su nombre antes de que ocurran.
  3. 3Ollama no usa la GPU — las cinco causas, y el log que las nombraMientras un modelo esté cargado, ollama ps imprime una columna PROCESSOR — y esa columna es todo el diagnóstico. El log del servidor nombra el hardware que realmente encontró; solo cinco causas, y la tabla de arreglos debajo.