mrsaynothing.dev
llama.cpp vs Ollama: un motor, dos cantidades de motor
La raíz del repositorio de Ollama lleva el número de build de su motor: ejecuta llama.cpp, fijado en b11351 mientras upstream publicó b11443 esa misma mañana. El registro, leído no ejecutado.
Los buscadores sirven "llama.cpp vs Ollama" como si fuera una pelea entre dos productos. Los repositorios cuentan otra historia: uno de ellos guarda en su directorio raíz un archivo que nombra el número de build exacto del otro. El motor de Ollama es llama.cpp — fijado, versionado, una entrada de build. La bronca que quiere internet no es la decisión a la que te enfrentas de verdad. La decisión real es cuánto motor quieres tocar.
La raíz del repo de Ollama lleva un archivo llamado LLAMA_CPP_VERSION que fija su motor — ejecuta llama.cpp, así que la velocidad bruta es casi un empate para el mismo archivo de modelo.
Upstream publicó b11443 la mañana de la reseña; Ollama fija b11351 — el envoltorio siempre va detrás del motor. Los flags nuevos llegan primero a llama.cpp.
Veredicto del registro: Ollama para el día a día, llama.cpp cuando necesitas un flag que el envoltorio esconde — más vLLM como salida de emergencia para servir con GPU.
LA BAHÍA
El mismo bloque tras las dos puertas. Marca cuánto motor quieres tocar — las baldas responden.
EL ELECTRODOMÉSTICO · ollama
LA SALA DE MOTORES · llama.cpp
Electrodoméstico completo. Quedan las descargas, la detección y la API residente; el motor ronronea debajo en el fijado de Ollama. El archivo GGUF viaja contigo el día que se te quede pequeño.
QUÉ ES LLAMA.CPP EN REALIDAD
130.473 estrellas, licencia MIT, cuatro releases la mañana de esta reseña. llama.cpp inició la ola del local en marzo de 2023. Introdujo GGUF, el formato con el que comercia el ecosistema.
24.125 forks, 2.515 issues abiertos, un colaborador estrella con 2.011 commits. El feed de releases se lee como un diario: cuatro builds para media tarde (b11438 a b11443), cada uno fijable.
verificar: curl -s http://127.0.0.1:11434/api/version → un Ollama en marcha contesta · llama-server --version → el tag del build, p. ej. b11443
¿OLLAMA ES ALGO MÁS QUE UN ENVOLTORIO?
Sí — y la frontera está impresa en el repositorio. Tres archivos de fijado de versión: LLAMA_CPP_VERSION (b11351 en el momento de la reseña), MLX_VERSION, MLX_C_VERSION. llm/llama_server.go arranca el servidor derivado de llama.cpp como subproceso.
La dependencia es una entrada de build, no un secreto a voces. Lo que añade Ollama es servicio: descargas del registro, autodetección, una API residente en el puerto 11434, MLX para Apple Silicon.
Ollama es gestión de modelos e higiene de procesos envueltos alrededor de un motor que no escribió.
92 builds separan el fijado de Ollama de la release matinal de upstream. Los arreglos del motor aterrizan primero en upstream y luego montan el tren de Ollama semanas después.
La aceleración prompt-lookup-drafting de septiembre llegó a 89 puntos en Hacker News — semanas antes de que Ollama la enviara. Si una línea del changelog arregla tu problema, el envoltorio es el último en enterarse.
¿CUÁL ES MÁS RÁPIDO, AL FINAL?
Para el mismo archivo de modelo, ninguno — el motor es compartido. Las brechas proclamadas suelen comparar cuantizaciones, tamaños de contexto o builds de motor distintos.
Las brechas reales vienen de los valores por defecto y del retraso: Ollama elige el contexto y descarga capas por ti — las perillas detrás de las sorpresas de VRAM; llama.cpp te obliga a ponerlas y castiga el olvido.
La pregunta del benchmark esconde una pregunta de control.
No estás eligiendo entre dos motores. Estás eligiendo cuánto motor quieres tocar.
LO QUE EL REGISTRO DICE CONTRA LLAMA.CPP
- 2.515 issues abiertos y un ritmo de asedio. Cuatro releases en una sola mañana son rendimiento — también es desgaste. Los flags se mueven, los backends se reorganizan y tu script de build fijado necesita el mismo mantenimiento.
- La comunidad lo dice sin adornos. Del hilo de Hacker News sobre la aceleración de septiembre (89 puntos), el usuario rfgplk: "Francamente, llama.cpp está tan mal escrito que este tipo de aceleraciones son triviales, y hace mucho que hace falta un hard fork (o una reescritura total)." El mismo hilo arrastra inquietud de gobernanza desde que el acuerdo Nvidia-Hugging Face puso sobre la mesa al empleador del equipo central.
- Las tareas las haces tú. Sin registro, sin autodetección: te vas a buscar los archivos GGUF tú mismo, pasas los flags de offload de capas tú mismo y cuidas del proceso.
ENCUENTRA TU FILA
| Quieres | Ejecutar | Por qué, según el registro |
|---|---|---|
| Un comando y una ventana de chat | Ollama | Descarga de modelos, autodetección, API residente — el electrodoméstico |
| Todos los flags y el build más nuevo | llama.cpp | Builds fijados, llama-server, backends a tu elección |
| Una GUI de escritorio | LM Studio | La misma estirpe de motor con botones |
| Una GPU, muchos usuarios | vLLM | Serving de rendimiento — se aplican las salvedades de GGUF |
Cosido práctico: empieza en Ollama; cuando se te pelea — un flag que falta, una detección de GPU que se tuerce, un arreglo en un build más nuevo — baja a llama.cpp para ese trabajo.
El archivo de modelo viaja contigo; GGUF es la lingua franca. El electrodoméstico te ahorra el motor hasta el día en que el motor es el problema.
Ese día es la razón de que exista la segunda herramienta.
fin de la bahía de motores · nada descargado · todo local