🤯 أغرب خطة لتشغيل الذكاء الاصطناعي محلياً: حمّل النماذج أولاً ثم فكّر من أين ستحصل على الرام!
هناك توجه متزايد بين عشاق الذكاء الاصطناعي لبناء مكتبة شخصية مفتوحة الأوزان، وتشغيلها محلياً بعيداً عن الاشتراكات الشهرية .
وتقوم الفكرة على خطة طريفة من 6 خطوات:
1. اشترِ جهاز NAS: جهّز مساحة تخزين شبكية كبيرة للاحتفاظ بنماذج الذكاء الاصطناعي وملفاتها الضخمة.
2. افتح منصة Hugging Face: استكشف مستودعات النماذج مفتوحة الأوزان واختر الإصدارات التي تريد تجربتها.
3. حمّل Qwen3.8-27B: نموذج من عائلة Qwen يحتوي على نحو 28 مليار معامل، ويمكن استخدامه في مهام المحادثة والاستدلال.
4. حمّل GLM-5.3-Flash: نموذج ضخم بتصميم الخبراء المتعددين، يضم 320 مليار معامل إجمالاً، مع تفعيل 18 مليار معامل تقريباً أثناء المعالجة.
5. حمّل 1017: أضف إصداراً آخر إلى مكتبتك لتوسيع خيارات التجربة والمقارنة.
6. ابدأ بتوفير المال لشراء الرام: هذه هي الخطوة التي ستذكّرك بأن تنزيل النماذج أسهل بكثير من تشغيلها!
لكن هل هذه الخطة عملية فعلاً؟
الفكرة المضحكة تخفي وراءها نقطة تقنية مهمة: التخزين ليس هو الذاكرة العشوائية. جهاز NAS ممتاز لحفظ النماذج وتنظيمها، لكنه لا يوفر تلقائياً القدرة الحاسوبية اللازمة لتشغيلها.
فعلى سبيل المثال، قد يحتاج نموذج GLM-5.3-Flash إلى مساحة ضخمة حتى مع استخدام نسخ مضغوطة، كما أن تشغيل النماذج يعتمد على حجم الأوزان ونوع الضغط وطول السياق والذاكرة المتاحة للمعالجة.
نصيحة مهمة: قبل شراء الأجهزة، حدّد النماذج التي تريد تشغيلها، واحسب احتياجاتها من RAM وذاكرة GPU، ولا تنسَ سرعة المعالج والتخزين. يمكنك البدء بنموذج أصغر وتجربة التشغيل المحلي قبل الاستثمار في عتاد مكلف.
الخلاصة: اجمع النماذج أولاً إن كانت لديك مساحة تخزين كافية، لكن لا تنسَ أن امتلاك مكتبة ضخمة من النماذج لا يعني امتلاك جهاز قادر على تشغيلها! 😂
المصادر:
- Qwen على Hugging Face: huggingface.co
- GLM-5.3-Flash: huggingface.co
- DeepSeek V4.1 Flash 1017: huggingface.co
- دليل Hugging Face لتحسين الذاكرة: huggingface.co
41 مشاهدة