ثلاث صناديق — حكاية نموذج واحد في ثلاث حاويات
دليل ميداني في خمس كتابات: نفس الـQwen3-0.6B يُوزن ثلاث مرات، ويُفتَح ليُريك أوائل بايتاته، وينسى عمدًا عند 4-bit، ثم يختار رفّه — احمل صندوقًا واحدًا حتى النهاية، وستتذكر الصفحة صندوقك في الحكم.
■ space · دليل ميداني في خمس كتابات
GGUF صندوقٌ يصف نفسه ويجعل التكميم هو الوضع الافتراضي — ملفات صغيرة، رفُّ llama.cpp. وsafetensors جدولُ محتوياتٍ ملصوق على أوزانٍ خام — دقة كاملة افتراضيًا، رفُّ Python. بيئة التشغيل التي تجريها أصلًا تختار صندوقك؛ والقرص يختار مقاسك. والسرعة خاصيةٌ للبيئات والعتهاد — والبايتات ترفض الشهادة.
01الوزن
الأوزان نفسها في كل صندوق. رتِّبها بالحجم في رأسك قبل أن تمتلئ الأعمدة — ثم انظر.
الفجوة ليست هدرًا. الصندوق ذو الـ4-bit نسي عمدًا — كل وزنٍ مخزَّن بربع البتات، قريبٌ بما يكفي لمعظم العمل وثلثُ القرص. احتفظ بتلك الفكرة؛ فالكتابة الثالثة ستحصل على فصلها. أما الآن — اختر صندوقًا:
في اليد: GGUF · Q4_K_M — 397 MB — محبوب القرص
02داخل الصندوق
كل تنسيقٍ تخطيط. هذا كل صندوقٍ يُمدُّ من طرفٍ إلى طرف — تنقَّل بينها واقرأ كما تقرأ بيئة التشغيل.
المقاطع ليست بمقياس الرسم — في الملفين تُطفئ الأوزانُ الأوراقَ · تخطيطاتٌ من مواصفات التنسيقات العامة
03النسيان
سرُّ الصغير: كل وزنٍ مخزَّن بكسرٍ من البتات. اسحب العرض وشاهد الدقة تغادر — فالبايتات تتبعها.
عند 2-bit يلتوي العالم إلى 0، 1، −1 — نموذجٌ يعرف ثلاثة أشياء. وعند 16 يتذكر كل عشريًّا وُلد به. وبينهما تنزَم ميزانية قرصك. وما لا تستطيع البايتات قوله هو ما فقده الضبطُ في هبوطه — فذلك الحاجز قاؤم، وكل جدولٍ صادق يرمز له.
04الرفوف الاثنان
التنسيق لا يقرر شيئًا إلا هذا: أيُّ رفٍّ يُفتَح. قل ما يجيب على جهازك — فيجيبك المكان.
رف llama.cpp
الصناديق GGUF تُفتَح هنا
ملفات مفردة مكمَّمة، أقراص صغيرة، ولا Python في الأفق — رفُّ الأجهزة الجاهزة.
رف Python
safetensors يُفتَح هنا
from_pretrained هو الطريق الأصلي — أوزان خام، ولا خطوة تحويلٍ تصان.
مسارك: Ollama → رف llama.cpp → صناديق GGUF
والتحفظ الذي يقرّ به السجل: يقرأ vLLM صيغة GGUF عبر إضافته — رسوميًّا، مع تحفّظات — وOllama، جهازُ GGUF، لا يزال تُصدَّر له بيئة MLX. حتى الرفوف تتبادل.
05الحكم
GGUF يجعل التكميم الافتراضي؛ وsafetensors يجعل الدقة الكاملة الافتراضي. فتلك المبدئية أغلب القرار — إذ لم يبدّل أحدٌ تنسيقه يومًا من أجل السرعة. من بدّل، بدّل بيئة التشغيل من أجل ميزة، وجاء التنسيق تذكرةً. — الحكم الوحيد الذي تسمح به البايتات
curl -sIL … | grep -i content-length من طرفك. لا جهاز قياس. ولا تمثيلٌ عن «رموز كل ثانية».
نهاية الساحة · لم يُجلب شيء · كل شيء محلي