أفضل LLM محلي للبرمجة — الذاكرة أولاً ثم النموذج

■ space · مسار النثر

سلم الذاكرة

اقرأ ذاكرتك — nvidia-smi --query-gpu=memory.total --format=csv,noheader — ثم قف على درجتك:

قاعدتان تجعلان السلم يعمل: 1–2 GB هامش لذاكرة KV · التكميم قبل التصغير

قاعدتان تجعلان هذا الجدول عملياً: ترك 1–2 GB هامشاً في الذاكرة لذاكرة KV المؤقتة — فالنموذج 14B بتكميم Q4 مع سياق 8K رمزاً لا يتسعان في ميزانية 10 GB، لأن السياق يُحتسب ضمن الإجمالي. والنزول درجة تكميم قبل النزول حجم نموذج — تكلفة كمّات Q5/Q4 نسبة مئوية قليلة من الجودة؛ أما استبدال 14B بـ 7B فيكلف أربعة أضعاف ذلك.

كم من الذاكرة تحتاج؟

The honest rule of thumb: القاعدة الصادقة: سياق 8K يبلغ نحو 1 GB — إذن 14B بـ Q4 (~9 GB) مع 8K رمزاً لا يتسعان في 10 GB. بالأرقام الصريحة: 8 GB يشغّل نماذج 7B–8B بتكميم Q4 بارتاح — إجابات بطول الإكمال التلقائي، وسياق 4K–8K. هي النقطة الذهبية لـ 14B بـ Q4 مع سياق برمجة واقعي 8K–16K. is the sweet spot for 14B at Q4 with a realistic 8K–16K coding context. تفتح النماذج الكثيفة فئة 20B وQwen3 14B مع سياق أطول. opens 20B-class dense models and Qwen3 14B with longer context. 24 GB يشغّل Qwen3 Coder 30B A3B MoE بتكميم Q4 — أقرب شيء إلى نموذج برمجة بجودة سحابية يمكنك استضافته بنفسك. المعالج المركزي وحده؟ يعمل — llama.cpp يشغّل بكل سرور 7B Q4 على معالج حاسوب محمول بسرعة 5–10 رموز/ث — لكن تعامل معه كتمرين صبر لا كسيارة يومية.

QWEN3 CODER في مواجهة DEEPSEEK

المواجهة التي تسأل عنها أشرطة الإكمال التلقائي حقاً، والجواب ينقسم بوضوح:

• Qwen3 Coder (30B A3B) مبني لحلقة التحرير: يتبع اتفاقيات تنسيق التعليمات لاستدعاء الأدوات، وينتج فروقاتاً متسقة، والجزء الحاسم — تصميم MoE يفعّل نحو 3B من المعاملات فقط لكل رمز، فتحصل بطاقة واحدة بسعة 24 GB على 40–60 رمزاً/ث. للاستخدام على طريقة الـ IDE، الاستجابة هي الجودة.
• خط DeepSeek V3/R1 argues at a higher level: architecture decisions, tricky algorithms, multi-step reasoning. But the flagship is 600B+ parameters; locally you only run it heavily quantised on multi-GPU or Mac unified-memory rigs, and it writes prose about code faster than it writes code.
يجادل في مستوى أعلى: قرارات معمارية، خوارزميات عويصة، استدلال متعدد الخطوات. لكن السفينة الأم تحمل 600B+ معاملاً؛ محلياً تشغّله فقط بتكميم ثقيل على أجهزة متعددة البطاقات أو ذاكرة Mac الموحدة، وهو يكتب النثر عن الكود أسرع مما يكتب الكود نفسه.

الاختيار المحلي: Qwen3 Coder للقيادة اليومية، وDeepSeek فقط إذا كانت لديك العتاد لاستضافته شبه بكامل دقته. عند 8–16 GB يكون الجدل بلا موضوع — نماذج Qwen2.5/3 Coder هي الأقوى مما يتسع.

خمسة أوامر حتى يعمل

# 1. install Ollama (Linux)
curl -fsSL https://ollama.com/install.sh | sh

# 2. pull the model that fits your VRAM bracket (8 GB card shown)
ollama pull qwen2.5-coder:7b

# 3. chat with it interactively
ollama run qwen2.5-coder:7b

# 4. use it as an OpenAI-compatible API from any tool
curl http://localhost:11434/v1/chat/completions \\
  -d '{
    "model": "qwen2.5-coder:7b",
    "messages": [{"role": "user", "content": "Refactor this fn to be async: add(a,b){return a+b}"}]
  }'

# 5. point tools that expect OPENAI_BASE_URL at it
export OPENAI_BASE_URL=http://localhost:11434/v1

تحقق: curl -s $OPENAI_BASE_URL/models → "qwen2.5-coder:7b" في القائمة

أين يفوز المحلي، بدقة: حلقة التحرير — إعادة الهيكلة، الكود الجاهز، هياكل الاختبارات، "اجعل هذه الدالة async" — حيث الكمون هو المنتج والفرق صغير. وأين يخسر: الاستدلال الطويل متعدد الملفات عبر معمارية غير مألوفة، حيث ما زالت النماذج الحدودية المستضافة تكسب رموزها. شغّل الاثنين على نقطة النهاية نفسها واستخدم كل واحد حيث يفوز.

نهاية الدرجات · لم يُجلب شيء · كل شيء محلي