Table of Contents

اختيار النموذج: قيّم كل إصدار بحسب الإجابات المفيدة التي يكملها والجودة التي يحتفظ بها والذاكرة التي يحتاج إليها عبء العمل لديك. لا يثبت انخفاض عدد حالات الرفض أو شهرة بطاقة النموذج هذه النتائج.

لا يحمل وصف غير خاضع للرقابة مقياساً موحداً للأداء. يستخدمه ناشرو النماذج للإشارة إلى تعديلات مختلفة للأوزان وضبط دقيق وقوالب محادثة. قارن كل مرشح بالنموذج الأصلي واختبره على المهام التي تنوي تنفيذها.

ما الذي يخبرك به الوصف

النموذج الذي أزيل منه اتجاه الرفض هو نموذج عُدلت أوزانه لتغيير بعض سلوكيات الرفض. عرضت ورقة بحثية عن اتجاه الرفض نُشرت عام 2024 طريقة طُبقت على 13 نموذج محادثة مفتوحاً. تقدم الأدوات الأحدث أساليب إضافية. يوثق Heretic 2، على سبيل المثال، كلاً من إزالة المكونات برتبة اعتباطية وإزالة المكونات الاتجاهية. لا يخبرك وصف بطاقة النموذج بالسلوك الذي تغير أو بتأثير التعديل.

افصل بين هذه الخصائص الأربع عند مقارنة النماذج:

الخاصيةما الذي يجب التحقق منه
سلوك الرفضما الطلبات التي تحصل على رفض أو إجابة جزئية أو إجابة كاملة؟
الاحتفاظ بالقدراتكيف تقارن مهام المعرفة والاستدلال والبرمجة والتنسيق بالنموذج الأصلي؟
اكتمال الإجابةكم مرة ينتهي التوليد قبل بلوغ حد الرموز أو الوقت؟
ملاءمة بيئة التشغيلهل يعمل الملف المحدد بعد الكمّ مع ذاكرة تكفي للسياق الذي تحتاج إليه؟

يبقى النموذج المعدل نموذجاً احتماليّاً. افصل فحوص الجودة: الدقة والموثوقية والاستخدام الآمن. احتفظ بإمكانية الوصول إلى نموذج مضبوط على النحو المعتاد للمهام التي تهم فيها وسائل الحماية.

لماذا لا يصلح عدد حالات الرفض لترتيب النماذج

تقيس درجة الرفض نتيجة واحدة على مجموعة واحدة من الطلبات. ولا تكشف الكثير عن الدقة الواقعية أو طول الإجابة أو قدرة النموذج على تقديم إجابة نهائية قبل نفاد ميزانية التوليد.

اختبرت مقارنة Sapwell لنموذج Qwen3.8-27B في سبتمبر 2026 النموذج الأساسي وثمانية إصدارات بالإعداد نفسه للخدمة. قاست مجموعة من 13 مهمة المعرفة والرياضيات والبرمجة والصدق. وضمت مجموعة HarmBench منفصلة 400 طلب ضار، وراجع مُحكّم يعتمد على LLM الإجابات كاملة. تنطبق هذه النتائج على عائلة واحدة من النماذج وبطاقة GPU واحدة وتصميم تقييم واحد.

إصدار Qwen3.8-27B في الدراسةحالات الرفض الصريحة من أصل 400إجابات انتهى فيها الاستدلال قبل اكتماله
النموذج الأساسي3810%
OrcaRouter238%
Trohrbaugh12215%

تزامن ارتفاع حالات الرفض في النموذج الأساسي مع انخفاض المخرجات غير المكتملة. وتزامن انخفاضها في OrcaRouter مع ارتفاع نسبة الإجابات غير المكتملة. احتفظ Trohrbaugh بمزيد من حالات الرفض وأنتج إجابات غير مكتملة أقل. اختر وفق مهمتك والمقايضات المقبولة لديك.

وجدت دراسة شملت 23 إصداراً من Gemma 4 E4B خسائر كبيرة في بعض مقاييس القدرات لدى الإصدار الأكثر تنزيلاً، بينما ظل تعديل أصغر قريباً من النموذج الأساسي في الاختبار. تصف الشهرة وعدد التنزيلات مدى الانتشار، ولا تقيس الجودة.

لا تجمع هذه القياسات في درجة واحدة. افصل المقاييس: الرفض والاكتمال والصحة وزمن الاستجابة. وسجّل أيضاً مجموعة الطلبات ومراجعة النموذج وقالب المحادثة وبيئة التشغيل والسياق وحد المخرجات. تغيير أي إعداد من هذه الإعدادات يغيّر معنى المقارنة.

شخّص الإجابات الفارغة قبل استبدال النموذج

تستهلك رموز الاستدلال حد المخرجات قبل ظهور النص المرئي. إذا نفد الحد أثناء التفكير الداخلي، تعيد بعض بيئات التشغيل إجابة فارغة أو مبتورة. وتختلف هذه النتيجة عن الرفض أو عن إجابة مكتملة لكنها خاطئة.

أظهر معيار Sapwell لنموذج Qwen3.6-27B كيف يؤثر ذلك في الدرجات الرئيسية. تباينت درجات الرياضيات الخام كثيراً لأن بعض عمليات التشغيل لم تصل إلى إجابة نهائية. وكانت قيم الدقة المقاسة أقرب بكثير عند الاقتصار على الإجابات المكتملة. وفصل المعيار قدرة الإجابة عن نفاد ميزانية الاستدلال.

تحقق من سبب التوقف وسجلات بيئة التشغيل عندما تكون الإجابة فارغة. سجّل طول الطلب وتخصيص السياق وحد رموز المخرجات والوقت المنقضي وما إذا كان النموذج قد أنتج علامة الإجابة النهائية. ثم أعد الطلب بحد مخرجات أعلى إذا توفرت مساحة في العتاد.

النتيجةالفئة المحتملة التي ينبغي فحصها
نص رفضرفض النموذج الطلب.
مخرجات فارغة عند حد الرموزنفدت ميزانية المخرجات قبل الوصول إلى إجابة نهائية.
مخرجات مبتورةأوقف حد التوليد إجابة غير مكتملة.
خطأ في بيئة التشغيلأخفق الخادم أو ملف النموذج أو تخصيص الذاكرة.
إجابة مكتملة لكنها خاطئةأعاد النموذج نصاً لكنه أخفق في فحص الصحة.

المخرجات الفارغة: تحقق من نتيجة بيئة التشغيل قبل اعتبار كل حالة عيباً في النموذج. لا تعالج نافذة سياق أكبر تلقائياً حد مخرجات صغيراً أو قالباً معطوباً أو مهلة تطبيق منتهية.

خصص VRAM للأوزان والسياق

ملف النموذج مستهلك واحد للذاكرة. تحتاج بيئة التشغيل أيضاً إلى مساحة لـ ذاكرة KV المؤقتة، التي تخزن حالة الانتباه للطلب والاستجابة النشطين، إضافة إلى مخازن الحسابات والعمليات الأخرى المحمّلة. تؤدي زيادة طول السياق إلى زيادة استخدام الذاكرة.

تذكر وثائق Ollama الحالية نوافذ سياق افتراضية مقدارها 4K عندما تكون VRAM أقل من 24 GiB، و32K من 24 إلى 48 GiB، و256K عند 48 GiB أو أكثر. تصف هذه القيم سلوك بيئة التشغيل الافتراضي. تحقق من السياق المخصص وموقع المعالج باستخدام ollama ps.

مثال Linux: يضبط هذا الأمر قيمة افتراضية مقدارها 16K لجلسات خادم Ollama الجديدة:

OLLAMA_CONTEXT_LENGTH=16384 ollama serve

تحقق من السياق المخصص بمقارنته بأحجام الإدخال والاستجابة المعتادة مع النموذج المحمّل:

ollama ps

يعرض عمودا CONTEXT وPROCESSOR التخصيص وما إذا كان النموذج يعمل على GPU أو نُقل جزء منه إلى خارجها. تخصيص السياق: لا يضمن الحد المدرج أن نافذة السياق كاملة ستتسع في VRAM.

نقاط بداية وفق ذاكرة GPU

مرشحون للبدء: ظهرت عائلات النماذج هذه في مقارنات الإصدارات خلال 2026. أحجام الملفات مأخوذة من مستودعات محددة لملفات مكمّمة. تحقق من الملف المحدد ودعم بيئة التشغيل والذاكرة المقاسة قبل اعتبار المرشح ملائماً.

ذاكرة GPUمرشح للبدءالقيد الأساسي
8 GBGemma 4 E4B، مثل إصدار coder3101يحافظ على صغر ملف الأوزان. اترك ذاكرة للسياق ومخازن بيئة التشغيل.
12 GBGemma 4 12B، مثل ملف GGUF Q4 من TrevorJS بحجم 7.4 GBيزيد قدرات النموذج ويترك مساحة أقل لسياق طويل مقارنة بإصدار أصغر.
16 GBنموذج أصغر أو ملف Q3 من Qwen3.8-27Bيسجل مستودع Qwen حجم Q3_K_S على أنه 13.72 GB. ويصف ناشر الملف جودته بالمنخفضة. ستكون المساحة المتبقية للسياق محدودة.
24 GBQwen3.8-27B Q4_K_S أو Q4_K_Mيسجل المستودع الحالي ملفين بحجم 16.71 GB و17.77 GB. خصص مساحة للذاكرة المؤقتة والمخازن.
32 GBQwen3.8-27B Q6_Kيسجل المستودع الحالي ملفاً بحجم 23.46 GB. يترك الملف الأكبر ذاكرة أقل للسياق من كمّ أصغر.

استخدم هذه الخيارات نقطة بداية. تتغير المستودعات والإصدارات، وحجم الملف وحده لا يتنبأ بتخصيص ذاكرة التشغيل أو جودة الإجابة.

تلخص تسميات الكمّ في GGUF خيار الترميز. الفروق بين المستودعات: لا تضمن الملفات ذات عمق البت الاسمي نفسه جودة متساوية. يصف أحد مستودعات Qwen إصدار Q3_K_S بأنه منخفض الجودة وQ4_K_M بأنه خياره الافتراضي. تحقق من حجم الملف المحدد وبطاقة النموذج وتنسيق الطلب ونتائج الاختبارات قبل التنزيل.

لتحجيم الذاكرة المؤقتة وملاءمة GPU محلية، راجع دليل GPU والسياق للنماذج المحلية . تركز توصياته على مهام البرمجة. ويركز هذا المقال على سلوك الرفض المعدل والتقييم.

افحص قالب المحادثة ومصدر النموذج

يلف قالب المحادثة الرسائل برموز وتعليمات يتوقعها النموذج. تتضمن حزمة النموذج أحياناً قالباً مخصصاً أو تعليمات نظام. وتؤثر هذه التغييرات في السلوك المقاس حتى عندما تبقى الأوزان الأساسية كما هي.

أثر القالب: وجد Sapwell إصدار Qwen3.8 تتضمن حزمته شخصية تطلب من النموذج ألا يرفض أو يحذر مطلقاً. اعتمد ادعاء انخفاض الرفض على القالب. وحّد Sapwell القوالب في مقارنته كي يركز الاختبار على الفروق بين الأوزان. ولا يثبت هذا الضبط أن القالب المرفق خبيث أو غير قابل للاستخدام.

قبل التثبيت: تحقق من الناشر والنموذج الأساسي والترخيص وعملية التحويل وأداة الكمّ والقالب وسجل المراجعات. قارن بالنموذج الأصلي باستخدام القالب وبيئة التشغيل نفسيهما. إذا لم تعرض بطاقة النموذج الطريقة أو إعداد الاختبار، فسجّل مصدره على أنه مجهول.

نفّذ تقييماً صغيراً لعبء عملك

أنشئ مجموعة طلبات قابلة للتكرار من مهام عادية تملكها أو لديك إذن لاختبارها. أدرج العمل الذي سيؤديه النموذج وأسئلة واقعية ذات إجابات معروفة وطلبات تنسيق ذات شروط نجاح واضحة. أضف بعض الحالات الآمنة عند الحدود ليظل سلوك الرفض جزءاً من القرار.

ثبّت إعدادات الاختبار بين النموذج الأصلي والإصدار المعدل. أبقِ تعليمات النظام والقالب والكمّ وإصدار بيئة التشغيل والسياق وحد المخرجات وإعدادات أخذ العينات دون تغيير. واحفظ مراجعة النموذج أو بصمة الملف مع النتائج.

سجّل كل نتيجة على حدة:

  • الاكتمال: إجابة نهائية أو رفض أو مخرجات فارغة أو مبتورة أو خطأ في بيئة التشغيل.
  • الصحة: نجاح أو إخفاق وفق إجابة متوقعة أو معيار تقييم.
  • الفائدة: مدى استيفاء الإجابة متطلبات المهمة.
  • زمن الاستجابة: الوقت حتى أول رمز ووقت التوليد الكلي.
  • الذاكرة: السياق المخصص وموقع GPU وذروة VRAM.
  • سلوك السلامة: الرفض أو الاستمرار المناسب لكل حالة حدودية.

كرر المجموعة بعد تغيير متغير واحد. إذا اكتملت الإجابة بعد رفع حد المخرجات، فكان الإخفاق الأول متعلقاً بالميزانية. إذا ظلت الإجابات غير مكتملة، فتحقق من قالب النموذج ووضع الاستدلال وبيئة التشغيل ومراجعة النموذج. احتفظ بالإصدار فقط عندما يحسن المهمة المستهدفة دون خسائر غير مقبولة في الدقة أو السلامة.

اعزل النشر

الخصوصية: يعتمد الاستدلال المحلي على كامل المنظومة لديك. تحقق من الواجهة والسجلات والإضافات والقياس عن بُعد ومسارات الشبكة. تعامل مع الأوزان غير الموثوقة والقوالب المخصصة على أنها شيفرة وإعدادات من طرف ثالث.

الوصول العام: لا تعرض نقطة نهاية النموذج مباشرة على الإنترنت العام مطلقاً. اعزل الوصول إلى الأدوات واستخدم الإصدارات المعدلة في الأعمال المصرح بها فقط. للوصول عن بُعد، ضع نقطة النهاية خلف بوابة خاصة مزودة بالمصادقة وحدود للطلبات وعزل للشبكة. تشير ورقة اتجاه الرفض الأصلية إلى تبعات السلامة الناتجة عن التعديلات التي تزيل الرفض.

الخلاصة

قاعدة القرار: اختر النموذج الذي يحقق أقوى نتائج تم التحقق منها على مجموعة مهامك. استخدم عدد حالات الرفض كمقياس واحد، ثم افحص اكتمال الإجابات والصحة وسلوك القالب وهامش VRAM. ابدأ بملف يناسب GPU لديك، واضبط السياق وفق عبء العمل، وقارنه بالنموذج الأصلي باستخدام الإعدادات نفسها.

لتحديد حجم GPU، قارن هذه النتائج مع معيار استئجار GPU لنموذج Qwen 27B . استأجر العتاد أو استعِره قبل الشراء عندما لا تكون متأكداً من ملف النموذج المحدد أو هدف السياق.

المصادر