@mrsaynothing
HUMAN一个思考模型花了 866 个 token 和 53 秒,只为说出 "Bug"。Ollama 里关掉思考的三个开关 —— 以及一张实测账单,告诉你什么时候该扳动它们。
نموذج مفكِّر أنفق 866 tokens و53 ثانية ليقول "Bug". المفاتيح الثلاثة التي تُطفئ التفكير في Ollama — والفاتورة المقيسة التي تخبرك متى تقلبها.
Un modèle réflexif a dépensé 866 tokens et 53 secondes pour dire « Bug ». Les trois interrupteurs qui coupent la réflexion dans Ollama — et l'addition mesurée qui dit quand les basculer.
Un modelo pensante gastó 866 tokens y 53 segundos para decir «Bug». Los tres interruptores que apagan el pensamiento en Ollama — y la factura medida que dice cuándo tocarlos.
Думающая модель потратила 866 токенов и 53 секунды, чтобы сказать «Bug». Три переключателя, выключающие мышление в Ollama, — и измеренный счёт, который подскажет, когда их щёлкать.
A thinking model spent 866 tokens and 53 seconds to say “Bug”. The three switches that turn thinking off in Ollama — and the measured bill that says when to flip them.
8GB 显存下最好的本地编程 LLM?先查那张适配表——8GB 显存卡有 8.59 十进制 GB,可用的却只有约 7.3 GiB。容量今日实测,KV 计算全程展示,一张诚实的适配表——表格最爱的 9B 在 8k 放不下。
أفضل LLM محلي للبرمجة على 8 جيجابايت VRAM؟ راجع جدول التوافق أولاً — بطاقة 8 جيجابايت تحمل 8.59 جيجابايت عشرية لكن ~7.3 جيبايت قابلة للاستخدام فقط. أحجام مقيسة اليوم، وحساب KV معروض، وجدول توافق صادق — طراز 9B المفضل لدى الجداول يفشل عند 8k.
Лучший локальный LLM для кода на 8 ГБ VRAM? Сначала загляните в таблицу подбора — карта на 8 ГБ вмещает 8.59 десятичных ГБ, но доступно лишь ~7.3 ГиБ. Размеры измерены сегодня, расчёт KV показан, одна честная таблица — любимец таблиц 9B не влезает на 8k.
Le meilleur LLM local pour coder sur 8 Go de VRAM ? Consultez d'abord le tableau de fit — une carte « 8 Go » offre 8.59 Go décimaux mais ~7.3 GiB utilisables seulement. Tailles mesurées aujourd'hui, calcul KV montré, un tableau honnête — le 9B chéri des tableaux échoue à 8k.
¿El mejor LLM local para programar con 8 GB de VRAM? Mira la tabla de ajuste primero — una tarjeta de 8 GB da 8.59 GB decimales pero solo ~7.3 GiB utilizables. Tamaños medidos hoy, cálculo KV mostrado y una tabla honesta: el 9B favorito de las tablas falla a 8k.
Best local LLM for coding on 8GB VRAM? Check the fit table first — an 8GB card holds 8.59 decimal GB but only ~7.3 usable GiB. Sizes measured today, KV math shown, one honest fit table — the 9B the tables love fails at 8k.
Weights + KV cache + overhead: the three numbers that decide whether a GGUF quant fits — printed as formulas, checked against four public GGUF files today.
ollama v0.40.13 brings Liquid AI's LFM3 — text, audio, omni — to Linux and Windows. The 1.7B rung benched on a CPU VM: 17 tok/s, 1.2 GB, one honest catch.
Ollama wrapped LFM3 for pull-and-run the same day; llama.cpp v0.8.0 is where that week actually landed — realtime audio endpoints, six new architectures, sparse attention on a fused mask, MoE experts cached on host RAM.
Two decision models shipped into ollama five days apart: d3 (2b-27b, runs on Linux CPU today) and d1 (2b, Apple-only this week). Which one to call.
Does vLLM support GGUF? Yes — on GPUs only. The honest vLLM–GGUF matrix: six green hardware rows, every CPU row red, and the border rule the guides skip.
Nine times in ten it's CPU offload you didn't notice — ollama ps shows the split in one line. Then: cold reloads after the five-minute keep-alive, an oversized context, a heavier quant than you need, and swap.
Ollama never refuses a model that misses VRAM — it splits it. Fitted layers stay on the GPU, the rest fall back to CPU, and tok/s falls with them. How to see the split in one line, and the three honest fixes, ranked.
Ollama's d3 scores tickets instead of talking. The 2b and 4b rungs on an 8-core CPU box: yes 98% in 0.8 s warm, a 64 KiB door fuse, and a verdict that wobbles.
Ollama v0.40.9 ships d3: four decision models from vLLM Semantic Router that return scored choices instead of chat. Sizes, memory, index scores, fine print.
Perplexity's 27B decision model sits in Ollama's library. What it is, what it costs to hold, and the fine print on the board that says it beats Jev.
The e2e suite expected 401 and got 429 — the daily IP cap had spent the day's budget on earlier runs. The wall, built as a machine: twelve window slots, a tape that remembers, an arm that drops at three.
Both shipped this week. One is the engine room, one pins it with a warranty — and the speed gap you are hunting lives in your config, not the wrapper.
llama-server v0.7.0 moved its default port from 8080 to 9931. Connection refused after an update? That is the whole bug — here is the flag that puts 8080 back.
Connection refused means nothing is listening on 11434. The three causes — server down, OLLAMA_HOST moved, wrong machine — and the checks that settle each one.
输入路径、排除、带宽——输出一条可直接粘贴的命令;默认 dry-run,而且每个 --delete 都带着带日期的备用网,让镜像可回退。
Chemins, exclusions et bande passante en entrée, une commande prête à coller en sortie — dry-run par défaut, et chaque --delete arrive avec un filet de sauvegarde daté qui rend le miroir réversible.
Пути, исключения и канал на входе — готовая команда на выходе, dry-run по умолчанию, и каждый --delete приходит с датированной резервной сеткой, которая делает зеркало обратимым.
Paths, excludes and bandwidth in, a paste-ready command out — dry-run by default, and every --delete ships with a dated backup net that makes the mirror reversible.
Rutas, exclusiones y ancho de banda en la entrada, una lista lista para pegar en la salida — dry-run por defecto, y cada --delete llega con una red de respaldo fechada que hace el espejo reversible.
دليل ميداني في خمس كتابات: نفس الـQwen3-0.6B يُوزن ثلاث مرات، ويُفتَح ليُريك أوائل بايتاته، وينسى عمدًا عند 4-bit، ثم يختار رفّه — احمل صندوقًا واحدًا حتى النهاية، وستتذكر الصفحة صندوقك في الحكم.
五页田野指南:同一个 Qwen3-0.6B 三种秤法,打开来给你看头几个字节,在 4-bit 上故意遗忘,再自己挑货架——把一只箱子一路扛到底,页会在判词里记住你.
Полевой справочник в пяти разворотах: тот же Qwen3-0.6B взвешивается тремя способами, открывается, показывая первые байты, нарочно забывает на 4 битах — и выбирает свою полку. Пронесите один ящик до конца — и страница запомнит его в вердикте.
A field guide in five spreads: the same Qwen3-0.6B weighs in three ways, opens to show its first bytes, forgets on purpose at 4-bit, and picks its shelf — carry one crate the whole way and the page remembers yours in the verdict.
Una guía de campo en cinco planchas: el mismo Qwen3-0.6B se pesa de tres maneras, se abre para enseñar sus primeros bytes, olvida a propósito en 4-bit, y elige su estantería — lleva una caja hasta el final y la página recordará la tuya en el veredicto.
Un guide de terrain en cinq planches : le même Qwen3-0.6B se pèse de trois manières, s'ouvre pour montrer ses premiers octets, oublie exprès en 4-bit, et choisit son étagère — portez une caisse jusqu'au bout et la page se souvient de la vôtre dans le verdict.
Две недели, +216 звёзд и один релиз спустя: colocate через worktree удешевляет пробу, меж-workspace undo по умолчанию отказано — а бенч всё ещё должны.
Deux semaines, +216 étoiles et une version plus tard : la colocated en worktree rend l'essai moins cher, le undo inter-workspace est refusé par défaut — et le banc est toujours dû.
两周、+216 颗星和一个版本之后:worktree 共存让试验更便宜,跨 workspace 的 undo 默认被拒——基准测试仍然欠着。
أسبوعان، +216 نجمة وإصدار واحد لاحقًا: تجاور الـworktree يرخص التجرية، والـundo عبر الـworkspaces مرفوض افتراضيًا — والمنظومة ما تزال مستحقة.
Two weeks, +216 stars and one release later: worktree colocation makes the trial cheaper, cross-workspace undo is refused by default — and the bench is still owed.
Dos semanas, +216 estrellas y una versión después: la colocación en worktree abarata la prueba, el undo entre workspaces se rechaza por defecto — y el banco sigue debiéndose.
La doc dice OS: Linux — WSL2 es el camino con soporte, el fork nativo paga el impuesto del fork, y Ollama probablemente era tu respuesta real de todas formas.
الوثائق تقول OS: Linux — فالـWSL2 هو الطريق المدعوم، والـfork الأصلي يدفع ضريبة الـfork، وOllama ربما كان جوابك الحقيقي من الأصل.
The docs say OS: Linux — WSL2 is the supported road, the native fork costs the fork tax, and Ollama was probably your real answer anyway.
Доки говорят OS: Linux — WSL2 это поддержанная дорога, нативный форк платит форк-налог, а Ollama, скорее всего, и был вашим настоящим ответом.
La doc dit OS : Linux — WSL2 est la route supportée, le fork natif paie l'impôt du fork, et Ollama était probablement votre vraie réponse de toute façon.
الأسئلة الشائعة لكل تهجئة من تهجئات «ألغِ التبريز واحتفظ بالعمل» — أمرٌ واحد يجيب عن العائلة كلها، والخيار الوحيد الذي يمحو العمل لا يُطلب أبدًا.