Table of Contents

يمنحك الذكاء الاصطناعي المحلي حداً أصغر للبيانات. تبقى المطالبة المعالجة عبر وقت تشغيل محلي على جهازك عندما يبقى النموذج والأدوات والسجلات ومسار الشبكة محلياً. لا تحوّل وحدة GPU المحلية الحاسوب إلى نظام مغلق.

تحدد أوقات تشغيل النماذج وإضافات الأدوات وامتدادات المتصفح والوصول عن بُعد وواجهات API المكشوفة وتنزيلات النماذج مستوى الخطر. تهم التكلفة أيضاً. قد تتفوق الكهرباء على سعر الرموز المستضافة، بينما تؤجل ملكية العتاد نقطة التعادل الكاملة كثيراً.

يرسم هذا الدليل حد الخصوصية أولاً. ثم يفحص التكلفة باستخدام أسعار الموردين الحالية وافتراض طاقة واضح والأرقام المبلغ عنها في الفيديو المقدم.

توفر مقارنة التكلفة بين المحلي والمستضاف سياقاً للصيغ أدناه. لا تنسخ أرقام الإنتاجية دون اختبار ملف النموذج نفسه ووقت التشغيل نفسه على عتادك.

يذكر الفيديو مدة تشغيل قدرها دقيقتان و31 ثانية. تحققت من عنوانه ومدته عبر صفحة المشاهدة. لم أكرر اختبار العتاد، لذلك تبقى السرعات المذكورة قياسات من المصدر.

الإجابة المختصرة

  • اختر الاستدلال المحلي لمسار بيانات مضبوط. أبقِ خادم النموذج على الجهاز، واربطه بالـ loopback، وقيّد وصول الأدوات.
  • اختر الاستدلال المستضاف للعمل المتقطع. تجنب إنفاق العتاد عندما يكون عبء العمل صغيراً أو عندما لا يلائم نموذجك المفضل نظامك.
  • تعامل مع التكلفة المحلية كرقمين. افصل الكهرباء لكل ساعة نشطة عن ملكية العتاد.
  • تعامل مع الخصوصية كخاصية للنظام. يفقد النموذج الخاص فائدته عندما ترفع إضافة ملفات أو تستمع واجهة API محلية على كل واجهة شبكة.

يفيد الاستدلال المحلي عندما يجب أن يبقى النص الحساس داخل محطة عمل أو شبكة معزولة. ويفيد أيضاً عند الحاجة إلى التشغيل دون اتصال، أو إصدار نموذج ثابت، أو وصول متوقع دون حصة مورد.

لا تثبت هذه الفوائد إجابات أفضل. قد يلائم النموذج المستضاف مهمةً بصورة أفضل، أو ينهيها أسرع، أو يحتاج إلى صيانة أقل. قِس عبء العمل قبل شراء العتاد.

تتبع مسار البيانات

ارسم كل مكوّن يدخل في الطلب. لا يوضح اسم النموذج وحده مكان انتقال البيانات.

المكوّنسؤال الخصوصيةالدليل المطلوب جمعه
خادم النموذج المحليهل تبقى المطالبة على المضيف؟إعداد العملية وعنوان الاستماع وحركة الخروج
النموذج السحابيأي نصوص وملفات ونتائج أدوات تغادر المضيف؟نقطة API وشروط المورد وسجلات الطلب وإعدادات الحساب
الوضع السحابي في تطبيق محليهل يعمل النموذج المختار على الجهاز؟معرّف النموذج واسم المورد والاتصال الشبكي
إضافة الأداةهل يستلم النموذج ملفات أو مخرجات shell أو محتوى المتصفح؟قائمة الأدوات والأذونات وبيانات الطلب الملتقطة
تنزيل النموذجأي كود وأوزان تدخل المضيف؟مستودع المصدر والترخيص وتحقق الإصدار ومسار التنزيل
السجلات المحليةأين تستمر المطالبات ونتائج الأدوات؟سجلات وقت التشغيل وتاريخ shell وتقارير التعطل ونطاق النسخ الاحتياطي

يزيل النموذج المحلي مورداً واحداً من مسار المطالبة. لكنه لا يلغي الحاجة إلى مراجعة بقية المسار.

المحلي لا يعني الخصوصية افتراضياً

تنص سياسة خصوصية Ollama على أن Ollama لا ترى المطالبات أو البيانات عندما يعمل النموذج محلياً. تفصل السياسة أيضاً التشغيل المحلي عن النماذج المستضافة سحابياً. ينشئ النموذج السحابي حد خدمة حتى عندما يطلق التطبيق نفسه الوضعين.

توضح وثائق خادم llama.cpp أن الخادم المحلي يستمع إلى 127.0.0.1:8080 افتراضياً. وتوضح أمثلة Docker الخاصة به --host 0.0.0.0 أيضاً، ما يكشف الخدمة على كل الواجهات. يغيّر عنوان الربط الأوسع حد الوصول.

تحقق من عنوان الاستماع قبل إرسال نص حساس:

lsof -nP -iTCP -sTCP:LISTEN | rg 'ollama|llama|8080|11434'

يقيّد 127.0.0.1 أو localhost الوصول إلى المضيف نفسه في الحالة المعتادة. يحتاج عنوان LAN أو 0.0.0.0 إلى قاعدة جدار ناري وخطة مصادقة. لا تكشف نقطة نهاية نموذج لشبكة قبل اختبار كليهما.

تحقق من اسم النموذج المختار أيضاً. تصف وثائق Ollama السحابية النماذج السحابية كمسار خدمة منفصل. لا يثبت وجود واجهة محلية التنفيذ المحلي.

توثق الأسئلة الشائعة لـ Ollama وضعاً محلياً فقط. اضبط disable_ollama_cloud في ~/.ollama/server.json، أو اضبط OLLAMA_NO_CLOUD=1 قبل إعادة تشغيل الخدمة. يزيل هذا نماذج Ollama السحابية والبحث على الويب من وقت التشغيل المختار. ولا يقيّد التطبيقات الأخرى أو أدوات المتصفح أو الإضافات أو وصول الشبكة على المضيف.

{
  "disable_ollama_cloud": true
}

تحقق من الإعداد بعد إعادة التشغيل. يضيّق وقت التشغيل المحلي فقط مساراً واحداً. ولا ينشئ مضيفاً خاصاً.

احسب التكلفة المستضافة

تفصل أسعار الرموز بين الإدخال والإخراج. تدرج Anthropic سعر Claude Haiku 5.5 عند 0.10 دولار لكل مليون رمز إدخال و0.50 دولار لكل مليون رمز إخراج للمطالبات حتى 100,000 رمز . تستخدم المطالبات فوق 100,000 رمز الأسعار الأعلى المدرجة.

تشرح دليل رموز OpenAI سبب عدم مساواة عدد الكلمات بعدد الرموز. ويفصل أيضاً بين رموز الإدخال والإخراج والإدخال المخزن مؤقتاً والاستدلال. استخدم حقول الاستخدام من المورد بدلاً من تقدير عدد الكلمات.

للمقارنة البسيطة، استخدم مليون رمز مولد ومليون رمز إدخال كعبءي عمل منفصلين. يرسل وكيل البرمجة سياقاً مكرراً غالباً وينتج إجابة أصغر، لذلك يخفي رقم رموز مشترك واحد مزيج التكلفة.

احسب طاقة التشغيل المحلي

أدرج إعلان إطلاق NVIDIA لـ RTX 5070 سعراً ابتدائياً قدره 549 دولاراً. وتدرج صفحة عائلة RTX 5070 من NVIDIA ذاكرة 12 GB وقدرة رسومية إجمالية 250 W لتصميم Founders Edition المرجعي. ما زالت صفحة المنتج تدرج 549 دولاراً، وأظهرت البطاقة غير متوفرة أثناء هذه المراجعة.

رقم طاقة GPU ليس طاقة النظام كله. استخدم مقياساً عند الحائط لحاسوبك. يفترض المثال أدناه سحباً قدره 400 W للنظام كله، يشمل GPU والمعالج والذاكرة والتخزين والمراوح وفاقد مزود الطاقة. هذا افتراض للحساب، وليس نتيجة قياس.

استخدم توقع إدارة معلومات الطاقة الأمريكية متوسط سعر الكهرباء السكنية لعام 2026، وهو 18.2 سنتاً لكل كيلوواط-ساعة. يغيّر سعر المرفق لديك النتيجة.

استخدم هذه الصيغة للإخراج المولد:

local cost per 1M output tokens =
(whole_system_watts / 1,000)
× (1,000,000 / output_tokens_per_second / 3,600)
× electricity_price_per_kWh

عند 400 W و0.182 دولار لكل كيلوواط-ساعة، يكلف النظام 0.0728 دولار لكل ساعة نشطة.

سرعة الإخراجزمن مليون رمزتكلفة الطاقة لمليون رمز
20 رمزاً في الثانية13 ساعة و53 دقيقة1.01 دولار
50 رمزاً في الثانية5 ساعات و33 دقيقة0.40 دولار
94 رمزاً في الثانيةساعتان و57 دقيقة0.22 دولار

عند 50 رمز إخراج في الثانية، تكلف الطاقة المحلية أقل من سعر إخراج Haiku 5.5 البالغ 0.50 دولار. وعند 20 رمزاً في الثانية، تكلف الطاقة المحلية أكثر. يبلغ حد سرعة الإخراج وفق هذه الافتراضات نحو 40 رمزاً في الثانية.

يستخدم حساب الإدخال الصيغة نفسها. عند 2,650 رمز إدخال في الثانية، يستغرق مليون رمز إدخال نحو 6 دقائق و17 ثانية، وتبلغ تكلفة الطاقة نحو 0.008 دولار. وعند 1,000 رمز إدخال في الثانية، تكلف العملية نفسها نحو 0.020 دولار.

يفيد النص المقدم بسرعة إخراج 94 رمزاً في الثانية وسرعة إدخال 2,650 رمزاً في الثانية لمثال RTX 5070. تتفق الحسابات أعلاه مع هذه الأرقام وفق افتراض 400 W. لا يوفر النص سجلاً مختبرياً مستقلاً أو تجزئة ملف نموذج أو بنية وقت التشغيل أو مطالبة أو قراءة مقياس حائط. تعامل مع هذه السرعات كنتيجة مرجعية، لا كضمان شراء.

تغييرات العتاد ونقطة التعادل

لا تسدد وفورات الطاقة ثمن العتاد وحدها. قارن الشراء الكامل بالفرق بين تكلفة الإخراج المستضاف والتكلفة المحلية المتغيرة.

عند 50 رمز إخراج في الثانية:

$0.50 hosted output price - $0.40 local power = $0.10 saved per 1M tokens
$549 GPU price / $0.10 = about 5.5 billion output tokens

عند 94 رمز إخراج في الثانية، ترتفع الوفورات المقربة إلى نحو 0.28 دولار لكل مليون رمز. يتطلب استرداد GPU بسعر 549 دولاراً نحو ملياري رمز إخراج. يستثني الرقمان ذاكرة النظام والتخزين واللوحة الأم ومزود الطاقة والتبريد والصيانة وقيمة إعادة البيع.

سعر الإطلاق ليس عرض شراء عاماً. أظهرت صفحة NVIDIA الحالية السعر الرسمي دون مخزون. يحتاج عرض بائع بسعر 819 دولاراً إلى تحقق منفصل قبل إدخاله في نموذج نقطة التعادل. استخدم فاتورتك الفعلية وطاقة الحائط المقاسة.

يغير العتاد الموجود القرار. إذا كانت محطة عملك تملك ذاكرة كافية وGPU مناسباً، تكون تكلفة العتاد غارقة للمهمة التالية. قارن الطاقة والوقت والجودة والخصوصية والصيانة. إذا احتجت إلى شراء نظام كامل، فقارن النظام الكامل بالاستخدام المستضاف.

لتفاصيل ملاءمة النماذج، اقرأ دليل نموذج الذكاء الاصطناعي المحلي وسياق GPU و دليل تحديد حجم 16GB VRAM . ولإعداد وكيل برمجي محلي مذكور، اقرأ دليل Strata وOpenCode .

ما تمنحك إياه الخصوصية المحلية

  • مسار بيانات أقصر: لا تحتاج المطالبة إلى الوصول إلى مورد نموذج عندما يبقى الاستدلال محلياً.
  • التشغيل دون اتصال: لا يحتاج النموذج المنزّل ووقت التشغيل المحلي إلى اتصال مورد حي لتوليد النص.
  • التحكم في الإصدار: تختار ملف النموذج وإصدار وقت التشغيل بدلاً من تلقي تغيير تلقائي من المورد.
  • التحكم في الاستخدام: يتجنب الاستدلال المحلي عداداً سحابياً لكل طلب بعد احتساب ملكية العتاد والطاقة.
  • التحكم في سياسة الشبكة: يحدد جدارك الناري وضوابط المضيف من يصل إلى نقطة نهاية النموذج.

تهم هذه المكاسب أكثر للشفرة المصدرية وسجلات العملاء والتصاميم غير المنشورة والملاحظات الخاصة والعمل في بيئة منفصلة. يحتاج الاستدلال المحلي أيضاً إلى تشفير القرص وتحديثات المضيف وفصل الحسابات وتقييد الأدوات.

ما لا تمنحك إياه الخصوصية المحلية

  • ضمان الجودة: تحتاج النماذج الأصغر أو المكمّمة إلى اختبار مقابل معايير القبول الفعلية.
  • ضمان سلسلة التوريد: تحتاج ملفات النماذج ووقت التشغيل والإضافات وصور الحاويات إلى مصادر موثوقة وفحوص سلامة.
  • مضيف نظيف: ما زالت البرمجيات الخبيثة وامتدادات المتصفح والنسخ الاحتياطية وتقارير التعطل والإدارة عن بُعد ترى بيانات المضيف.
  • نقطة نهاية شبكية آمنة: ينشئ الخادم المرتبط بكل واجهة خدمة جديدة تحتاج إلى دفاع.
  • نظام مجاني: تحمل الكهرباء والتخزين والتبريد واستهلاك العتاد والصيانة تكلفة.

يوضح دليل Strata لوكيل البرمجة المحلي سبب دخول ذاكرة النظام والسياق ووصول الأدوات وإعدادات وقت التشغيل في التقييم. لا تحدد ذاكرة GPU وحدها حدود الخصوصية أو الأداء.

اختر الحد المناسب

الحالةالاختيار الأول الأفضلالسبب
مستندات حساسة وحاسوب متوافق موجودالاستدلال المحليإبقاء المطالبات داخل مضيف مضبوط وتجنب إنفاق عتاد جديد
صياغة عامة متقطعةAPI أو خدمة محادثة مستضافةدفع تكلفة عبء العمل الصغير وتجنب الصيانة
نموذج متقدم أو أداة سحابية متخصصةالخدمة المستضافةالنموذج أو الأداة المطلوبة غير متوفرة على المضيف المحلي
حجم كبير متكرر مع نموذج محلي تم التحقق منهمحلي أو هجينمقارنة الطاقة والجودة ووقت الدعم وتسعير المورد
أعباء عمل مختلطةتوجيه هجينإبقاء المهام الحساسة محلية وإرسال المهام العامة المعتمدة إلى نموذج مستضاف

يحتاج التوجيه الهجين إلى قاعدة تصنيف صريحة. صنف البيانات على أنها محلية فقط، أو معتمدة للمعالجة المستضافة، أو ممنوعة حتى المراجعة. لا تعتمد على اسم النموذج أو رمز التطبيق لتطبيق القاعدة.

تحقق قبل الثقة

  1. سمِّ مسار النموذج. سجّل معرّف النموذج ووقت التشغيل والإصدار ومصدر التنزيل.
  2. تحقق من عنوان الربط. تأكد من استماع الخادم إلى loopback ما لم توجد حاجة موثقة لمسار أوسع.
  3. أدرج كل أداة. راجع وصول الملفات وshell والمتصفح والشبكة والإضافات.
  4. افحص الاستمرارية. اعثر على سجلات المطالبات ومخرجات الأدوات وتقارير التعطل والنسخ الاحتياطية ومجلدات النماذج المشتركة.
  5. اختبر سلوك الشبكة. راقب الاتصالات أثناء اختبار حساس بمطالبة ممثلة.
  6. قِس النظام. سجّل طاقة الحائط وسرعة الإخراج وسرعة الإدخال وطول السياق والمحاولات.
  7. اختبر العمل المقبول. قارن المهام المكتملة وجهد المراجعة، لا الرموز في الثانية فقط.

يغطي دليل الذكاء الاصطناعي المحلي مقابل ChatGPT مقايضات قدرات النماذج. استخدم قائمة الخصوصية هذه إلى جانب اختبار الجودة.

المراجع