mrsaynothing.dev
Jev decision models explicados: una etiqueta, un número, nada de ensayo
Modelos diminutos responden sí-o-no con las cuotas adjuntas: los seis checkpoints locales, la trampa de la licencia y por qué 0.51 y 0.99 son decisiones distintas.
Cuando un pipeline necesita una decisión — qué cola, permitir o denegar, qué etiqueta — unos Jev decision models responden en una pasada con una probabilidad adjunta. Seis checkpoints llegaron en local con una semana de diferencia entre sí: cinco permisivos, uno no comercial. Úsalos para decidir, nunca para justificar — y pon a prueba las cifras antes de fiarte de ellas.
Línea de honestidad al frente: esta ola tiene días de vida — leí el expediente, no lo ejecuté. Fuentes: el anuncio de Ollama, las notas 0.6.0 de llama.cpp, las fichas de los checkpoints.
El banco con latencias de verdad es la continuación.
Enrutamiento, filtros, clasificar → un decision model. Un modelo diminuto (144M–27B) devuelve {label, probability} en una pasada — nada de prosa que analizar.
Ambos motores se hicieron locales en una semana: Ollama el 29 de septiembre, el /v1/systemone de llama.cpp en la 0.6.0 el 5 de octubre.
Revisa la licencia antes de uso comercial — OpenJev es CC BY-NC; los otros cinco vienen bajo Apache-2.0.
PALABRAS PARA LA PLATEA
- decision model — una IA diminuta que responde a una pregunta con una elección y un número de confianza, no con una frase
- probabilidad — el número de confianza: 0.87 significa "87 de cada 100 veces diría lo mismo"
- enrutamiento — enviar cada petición entrante a la cola o al trabajador correcto, como un cartero que elige su furgoneta
- calibración — que el número de confianza diga la verdad; un 0.9 calibrado acierta 9 de cada 10 veces
- GGUF — el formato de archivo en que llegan los modelos locales; el nombre en toda lista de descarga
LAS DOS FORMAS DE RESPUESTA
Los modelos de chat responden todo con prosa — la forma equivocada para la mitad de lo que los pipelines necesitan. Un router quiere qué cola; un filtro quiere permitir o denegar, cuánta certeza.
Un clasificador quiere una de seis etiquetas.
Pide una decisión a un modelo de chat: una frase que significa lo correcto — normalmente — en palabras distintas cada vez, más un paso de análisis que falla en silencio.
Uno separa el correo y escribe un ensayo por carta. El otro te entrega una bandeja: "seguro al 87% — facturas". ¿A quién le confías las 6 de la mañana?
LA FORMA EQUIVOCADA · pídele a un modelo de chat
LA FORMA CORRECTA · pídele a un decision model
{ "route": "sales", p: 0.09 }
{ "route": "other", p: 0.04 }misma forma en cada llamada
LAS BANDAS DEL VEREDICTO
La función silenciosa: la probabilidad es la respuesta. 0.51 y 0.99 son decisiones distintas — pon la línea donde actuar le gana a escalar, y la bandeja se ordena sola.
a chat model that says "this is probably billing" hides its own calibration — one phrasing, once. a decision model hands you the number; whether it tells the truth on YOUR labels is not in the release notes. that is what the bench is for.
LO QUE LA OLA ES REALMENTE
"Jev" es el contrato de API: entra una pregunta, lista fija de opciones, probabilidad por opción. TypeSafe lo definió; las herramientas locales lo adoptaron en una semana.
Ollama lo envió el 29 de septiembre — la v0.35 ganó /v1/systemone, con Nimble y Tev1 descargables desde el lanzamiento.
llama.cpp siguió en la 0.6.0 (5 de octubre): el mismo endpoint, cinco GGUF abiertos — Julia-1, Laya, Kev-4B, lev, OpenJev — Nimble días después.
Diminuto: de 144M a 27B parámetros; los modelos de chat arrancan con 30 veces eso. Lo pequeño es el punto — una decisión es una pasada, y la instantaneidad cambia qué tareas preguntan.
Una sola comparación pública de exactitud existe — los 13 datasets de Bespoke Labs, 3,880 decisiones etiquetadas por humanos: Nimble 75.7%, Tev1-4B 73.3%, Tev1-0.8B 63.5%, Jev alojado 1.13 en 76.0%.
Cifras vecinas al proveedor — un punto de partida. El banco que importa corre sobre TUS etiquetas.
imagínalo: un modelo de chat es un consultor senior que agendas por horas. un decision model es el sello del mostrador — solo dice a qué bandeja va, y nunca se cansa. el tamaño es el sueldo: el 144M hace el trabajo por centavos; pagas el 27B solo cuando el trabajo tiene que mirar imágenes.
THE MODELS ON THE SHELF
La repisa de llama.cpp — los seis checkpoints que su endpoint 0.6.0 sirve. La librería de Ollama trae su propio juego: Nimble, Tev1, Laya, Clef.
Filtra por licencia: OpenJev es la entrada NC. Un runtime MIT no cambia lo que los pesos permiten.
| Checkpoint | Tamaño | Licencia | Notas |
|---|---|---|---|
| Julia-1 | 144M | Apache-2.0 | 2–20 opciones, límite combinado de 8,192 tokens |
| Laya | 421M | Apache-2.0 | enrutamiento en inglés; no asumas multilingüe |
| lev | 4B | Apache-2.0 | Decisiones de texto |
| Kev-4B | 4B | Apache-2.0 | Preprocesado de fechas de referencia no incluido |
| Nimble | 9B | Apache-2.0 | LoRA sobre Qwen3.5-9B; solo texto en local |
| OpenJev | 27B | CC BY-NC 4.0 | Entrada de visión vía su proyector; no comercial |
Una séptima forma, Clef, llegó en la misma release 0.6.0 (Apache-2.0, texto y visión); la línea Clef de Cloudflare también se abastece de Ollama. Misma idea, más puertas.
La escalera de tamaños: 144M–421M en CPU ocioso para enrutamiento limpio; 4B para etiquetas sutiles; 27B añade ojos. Corre nvidia-smi --query-gpu=memory.total --format=csv,noheader — cualquier tarjeta califica.
DÓNDE ENCAJA — Y DÓNDE NO
Encaja cuando la salida es una decisión: enrutamiento de peticiones (ticket → billing / sales / abuse), filtros (permitir-o-denegar, con confianza), triaje documental a volumen.
Clasifica con el modelo pequeño; gasta tokens del modelo grande solo en lo que él señale.
No encaja cuando necesitas razones. Una etiqueta con probabilidad no trae razones adjuntas. ¿Necesitas el "por qué"? Vuelve a un modelo de chat — o a los documentos.
No encaja cuando necesitas verdad por consenso. El acuerdo no es verificación — una respuesta errada y unánime llega en la voz más confiada de todas.
Ese es el fallo que nuestros libros de registro existen para cazar.
verifica la forma en tu máquina: ollama run qwen3:0.6b "Reply YES or NO: is 7 prime?" — una respuesta de un solo token sin ensayo adjunto significa que la forma funciona.
fin de la sala del tribunal · nada descargado · todo en local