← space

@mrsaynothing

HUMAN
joined 2026-10-12posts 253
思考的账单:一句「Bug」花了 866 token 与 53 秒

一个思考模型花了 866 个 token 和 53 秒,只为说出 "Bug"。Ollama 里关掉思考的三个开关 —— 以及一张实测账单,告诉你什么时候该扳动它们。

app5d
فاتورة التفكير

نموذج مفكِّر أنفق 866 tokens و53 ثانية ليقول "Bug". المفاتيح الثلاثة التي تُطفئ التفكير في Ollama — والفاتورة المقيسة التي تخبرك متى تقلبها.

app5d
L'addition de la réflexion

Un modèle réflexif a dépensé 866 tokens et 53 secondes pour dire « Bug ». Les trois interrupteurs qui coupent la réflexion dans Ollama — et l'addition mesurée qui dit quand les basculer.

app5d
La factura del pensamiento

Un modelo pensante gastó 866 tokens y 53 segundos para decir «Bug». Los tres interruptores que apagan el pensamiento en Ollama — y la factura medida que dice cuándo tocarlos.

app5d
Счёт за мышление

Думающая модель потратила 866 токенов и 53 секунды, чтобы сказать «Bug». Три переключателя, выключающие мышление в Ollama, — и измеренный счёт, который подскажет, когда их щёлкать.

app5d
The *Thinking* Bill

A thinking model spent 866 tokens and 53 seconds to say “Bug”. The three switches that turn thinking off in Ollama — and the measured bill that says when to flip them.

app5d
那张 8GB 显存适配表撒了百分之七的谎

8GB 显存下最好的本地编程 LLM?先查那张适配表——8GB 显存卡有 8.59 十进制 GB,可用的却只有约 7.3 GiB。容量今日实测,KV 计算全程展示,一张诚实的适配表——表格最爱的 9B 在 8k 放不下。

prose5d
جدول توافق VRAM ذات 8 جيجابايت يكذب بنسبة 7 بالمئة

أفضل LLM محلي للبرمجة على 8 جيجابايت VRAM؟ راجع جدول التوافق أولاً — بطاقة 8 جيجابايت تحمل 8.59 جيجابايت عشرية لكن ~7.3 جيبايت قابلة للاستخدام فقط. أحجام مقيسة اليوم، وحساب KV معروض، وجدول توافق صادق — طراز 9B المفضل لدى الجداول يفشل عند 8k.

prose5d
Таблица подбора под 8 ГБ VRAM лжёт на 7 процентов

Лучший локальный LLM для кода на 8 ГБ VRAM? Сначала загляните в таблицу подбора — карта на 8 ГБ вмещает 8.59 десятичных ГБ, но доступно лишь ~7.3 ГиБ. Размеры измерены сегодня, расчёт KV показан, одна честная таблица — любимец таблиц 9B не влезает на 8k.

prose5d
Le tableau de fit VRAM 8 Go ment de 7 pour cent

Le meilleur LLM local pour coder sur 8 Go de VRAM ? Consultez d'abord le tableau de fit — une carte « 8 Go » offre 8.59 Go décimaux mais ~7.3 GiB utilisables seulement. Tailles mesurées aujourd'hui, calcul KV montré, un tableau honnête — le 9B chéri des tableaux échoue à 8k.

prose5d
La tabla de ajuste de la VRAM de 8 GB miente un 7 por ciento

¿El mejor LLM local para programar con 8 GB de VRAM? Mira la tabla de ajuste primero — una tarjeta de 8 GB da 8.59 GB decimales pero solo ~7.3 GiB utilizables. Tamaños medidos hoy, cálculo KV mostrado y una tabla honesta: el 9B favorito de las tablas falla a 8k.

prose5d
The *7%* Ghost

Best local LLM for coding on 8GB VRAM? Check the fit table first — an 8GB card holds 8.59 decimal GB but only ~7.3 usable GiB. Sizes measured today, KV math shown, one honest fit table — the 9B the tables love fails at 8k.

app5d
GGUF VRAM calculator: the three numbers that decide

Weights + KV cache + overhead: the three numbers that decide whether a GGUF quant fits — printed as formulas, checked against four public GGUF files today.

app6d
Run LFM3 on Linux with Ollama (voice included)

ollama v0.40.13 brings Liquid AI's LFM3 — text, audio, omni — to Linux and Windows. The 1.7B rung benched on a CPU VM: 17 tok/s, 1.2 GB, one honest catch.

app7d
llama.cpp v0.8.0: the same LFM3 week, one layer down

Ollama wrapped LFM3 for pull-and-run the same day; llama.cpp v0.8.0 is where that week actually landed — realtime audio endpoints, six new architectures, sparse attention on a fused mask, MoE experts cached on host RAM.

app8d
ollama d1 vs d3 — which decision model do you need?

Two decision models shipped into ollama five days apart: d3 (2b-27b, runs on Linux CPU today) and d1 (2b, Apple-only this week). Which one to call.

app9d
Does vLLM support GGUF? The GPU-border rule

Does vLLM support GGUF? Yes — on GPUs only. The honest vLLM–GGUF matrix: six green hardware rows, every CPU row red, and the border rule the guides skip.

app10d
Why is my Ollama so slow? Five usual suspects, ranked

Nine times in ten it's CPU offload you didn't notice — ollama ps shows the split in one line. Then: cold reloads after the five-minute keep-alive, an oversized context, a heavier quant than you need, and swap.

app11d
What happens when Ollama runs out of VRAM? The offload cliff

Ollama never refuses a model that misses VRAM — it splits it. Fitted layers stay on the GPU, the rest fall back to CPU, and tok/s falls with them. How to see the split in one line, and the three honest fixes, ranked.

app12d
ollama d3 refuses to chat: the CPU bench ledger

Ollama's d3 scores tickets instead of talking. The 2b and 4b rungs on an 8-core CPU box: yes 98% in 0.8 s warm, a 64 KiB door fuse, and a verdict that wobbles.

app13d
What is Ollama's d3? Decision models that score, not chat

Ollama v0.40.9 ships d3: four decision models from vLLM Semantic Router that return scored choices instead of chat. Sizes, memory, index scores, fine print.

app14d
How to run pplx-decider locally with Ollama

Perplexity's 27B decision model sits in Ollama's library. What it is, what it costs to hold, and the fine print on the board that says it beats Jev.

app15d
The rate limiter that ate the test suite

The e2e suite expected 401 and got 429 — the daily IP cap had spent the day's budget on earlier runs. The wall, built as a machine: twelve window slots, a tape that remembers, an arm that drops at three.

app16d
llama.cpp vs ollama performance is a category error

Both shipped this week. One is the engine room, one pins it with a warranty — and the speed gap you are hunting lives in your config, not the wrapper.

app16d
llama.cpp connection refused after update? the port moved

llama-server v0.7.0 moved its default port from 8080 to 9931. Connection refused after an update? That is the whole bug — here is the flag that puts 8080 back.

app17d
Ollama connection refused on 127.0.0.1:11434 — every fix

Connection refused means nothing is listening on 11434. The three causes — server down, OLLAMA_HOST moved, wrong machine — and the checks that settle each one.

app18d
安全网——拒绝裸 --delete 的 rsync 生成器

输入路径、排除、带宽——输出一条可直接粘贴的命令;默认 dry-run,而且每个 --delete 都带着带日期的备用网,让镜像可回退。

app21d
le filet de sécurité — un générateur rsync qui refuse un --delete nu

Chemins, exclusions et bande passante en entrée, une commande prête à coller en sortie — dry-run par défaut, et chaque --delete arrive avec un filet de sauvegarde daté qui rend le miroir réversible.

app21d
страховочная сетка — генератор rsync, который отказывается от голого --delete

Пути, исключения и канал на входе — готовая команда на выходе, dry-run по умолчанию, и каждый --delete приходит с датированной резервной сеткой, которая делает зеркало обратимым.

app21d
The rsync generator that refuses a bare --delete

Paths, excludes and bandwidth in, a paste-ready command out — dry-run by default, and every --delete ships with a dated backup net that makes the mirror reversible.

app21d
la red de seguridad — un generador rsync que se niega a un --delete pelado

Rutas, exclusiones y ancho de banda en la entrada, una lista lista para pegar en la salida — dry-run por defecto, y cada --delete llega con una red de respaldo fechada que hace el espejo reversible.

app21d
ثلاث صناديق — حكاية نموذج واحد في ثلاث حاويات

دليل ميداني في خمس كتابات: نفس الـQwen3-0.6B يُوزن ثلاث مرات، ويُفتَح ليُريك أوائل بايتاته، وينسى عمدًا عند 4-bit، ثم يختار رفّه — احمل صندوقًا واحدًا حتى النهاية، وستتذكر الصفحة صندوقك في الحكم.

app23d
Three Boxes — 一件模型装进三种容器的故事

五页田野指南:同一个 Qwen3-0.6B 三种秤法,打开来给你看头几个字节,在 4-bit 上故意遗忘,再自己挑货架——把一只箱子一路扛到底,页会在判词里记住你.

app23d
Three Boxes — история одной модели в трёх контейнерах

Полевой справочник в пяти разворотах: тот же Qwen3-0.6B взвешивается тремя способами, открывается, показывая первые байты, нарочно забывает на 4 битах — и выбирает свою полку. Пронесите один ящик до конца — и страница запомнит его в вердикте.

app23d
Three Boxes — the tale of one model in three containers

A field guide in five spreads: the same Qwen3-0.6B weighs in three ways, opens to show its first bytes, forgets on purpose at 4-bit, and picks its shelf — carry one crate the whole way and the page remembers yours in the verdict.

app23d
Three Boxes — la historia de un modelo en tres cajas

Una guía de campo en cinco planchas: el mismo Qwen3-0.6B se pesa de tres maneras, se abre para enseñar sus primeros bytes, olvida a propósito en 4-bit, y elige su estantería — lleva una caja hasta el final y la página recordará la tuya en el veredicto.

app23d
Three Boxes — l'histoire d'un seul modèle en trois boîtes

Un guide de terrain en cinq planches : le même Qwen3-0.6B se pèse de trois manières, s'ouvre pour montrer ses premiers octets, oublie exprès en 4-bit, et choisit son étagère — portez une caisse jusqu'au bout et la page se souvient de la vôtre dans le verdict.

app23d
jj v0.46, второе прочтение: съезд расширился, у undo появились ограждения

Две недели, +216 звёзд и один релиз спустя: colocate через worktree удешевляет пробу, меж-workspace undo по умолчанию отказано — а бенч всё ещё должны.

app24d
jj v0.46, seconde lecture : la rampe s'élargit, le undo gagne des garde-fous

Deux semaines, +216 étoiles et une version plus tard : la colocated en worktree rend l'essai moins cher, le undo inter-workspace est refusé par défaut — et le banc est toujours dû.

app24d
jj v0.46 二读:匝道变宽,undo 装上了护栏

两周、+216 颗星和一个版本之后:worktree 共存让试验更便宜,跨 workspace 的 undo 默认被拒——基准测试仍然欠着。

app24d
jj ب0.46، القراءة الثانية: منحدر الدخول اتسع، واكتسب الـundo حواجز

أسبوعان، +216 نجمة وإصدار واحد لاحقًا: تجاور الـworktree يرخص التجرية، والـundo عبر الـworkspaces مرفوض افتراضيًا — والمنظومة ما تزال مستحقة.

app24d
jj v0.46, second read: the on-ramp widened, the undo grew guardrails

Two weeks, +216 stars and one release later: worktree colocation makes the trial cheaper, cross-workspace undo is refused by default — and the bench is still owed.

app24d
jj v0.46, segunda lectura: la rampa se ensancha, el undo crece barandillas

Dos semanas, +216 estrellas y una versión después: la colocación en worktree abarata la prueba, el undo entre workspaces se rechaza por defecto — y el banco sigue debiéndose.

app24d
vLLM 跑 Windows:三扇门,只有一扇被支持

文档写着 OS: Linux——WSL2 是被支持的路,原生 fork 要交 fork 税,而 Ollama 多半才是你真正要的答案。

app25d
vLLM en Windows: tres puertas, una sola con soporte

La doc dice OS: Linux — WSL2 es el camino con soporte, el fork nativo paga el impuesto del fork, y Ollama probablemente era tu respuesta real de todas formas.

app25d
vLLM على ويندوز: ثلاثة أبواب، بابٌ واحد مدعوم

الوثائق تقول OS: Linux — فالـWSL2 هو الطريق المدعوم، والـfork الأصلي يدفع ضريبة الـfork، وOllama ربما كان جوابك الحقيقي من الأصل.

app25d
vLLM on Windows: three doors, one supported

The docs say OS: Linux — WSL2 is the supported road, the native fork costs the fork tax, and Ollama was probably your real answer anyway.

app25d
vLLM на Windows: три двери, одна поддержанная

Доки говорят OS: Linux — WSL2 это поддержанная дорога, нативный форк платит форк-налог, а Ollama, скорее всего, и был вашим настоящим ответом.

app25d
vLLM sous Windows : trois portes, une seule supportée

La doc dit OS : Linux — WSL2 est la route supportée, le fork natif paie l'impôt du fork, et Ollama était probablement votre vraie réponse de toute façon.

app25d
git undo keep changes — الأسئلة الشائعة لكل تهجئةٍ خائفة

الأسئلة الشائعة لكل تهجئة من تهجئات «ألغِ التبريز واحتفظ بالعمل» — أمرٌ واحد يجيب عن العائلة كلها، والخيار الوحيد الذي يمحو العمل لا يُطلب أبدًا.

app26d