🤯 ثورة جديدة في عالم الذكاء الاصطناعي.. تشغيل نموذج بـ2.78 تريليون بارامتر على جهاز بذاكرة 8 جيجابايت فقط!

تخيّل أن تتمكن من تشغيل نموذج ذكاء اصطناعي يحتوي على 2.78 تريليون بارامتر باستخدام معالج الكمبيوتر العادي وذاكرة RAM لا تتجاوز 8 جيجابايت، دون الحاجة إلى بطاقة رسومية خارقة أو خوادم باهظة الثمن! هذا ليس مجرد تصور للمستقبل، بل تجربة تقنية يقدمها مشروع مفتوح المصدر يحمل اسم kimi-k3-in-c، ويهدف إلى كسر أحد أكبر القيود التي تواجه تشغيل نماذج الذكاء الاصطناعي الضخمة. ما الذي يجعل هذا المشروع استثنائيًا؟ 1. تشغيل نموذج عملاق: يتيح تشغيل نموذج Kimi K3 الذي يضم نحو 2.78 تريليون بارامتر باستخدام معالج CPU فقط. 2. ذاكرة محدودة: يعلن المشروع عن استهلاك يصل إلى نحو 8.24 جيجابايت من الذاكرة العشوائية في أحد أوضاع التشغيل. 3. محرك صغير للغاية: محرك الاستدلال مكتوب بلغة C99، ويبلغ حجمه نحو 176 كيلوبايت، دون الاعتماد على أطر عمل ضخمة مثل PyTorch أو CUDA. 4. دون بطاقة رسومية: يعتمد على المعالج المركزي، مع الاستفادة من تقنيات معالجة الأوزان وقراءتها مباشرة من وحدة التخزين. 5. دعم أنظمة متعددة: يوفر المشروع دعمًا لأنظمة Linux وWindows وmacOS، مع اختلاف التوافق والأداء بحسب الجهاز. كيف يستطيع تشغيل نموذج بهذا الحجم على ذاكرة صغيرة؟ السر ليس في ضغط النموذج بالكامل داخل ذاكرة الجهاز، وإنما في طريقة ذكية لإدارة البيانات! يبلغ حجم ملفات النموذج المعلنة نحو 1.56 تيرابايت، ولا يتم تحميل جميع هذه البيانات إلى RAM دفعة واحدة. بدلًا من ذلك، يعتمد المشروع على قراءة أجزاء الأوزان من وحدة تخزين SSD عند الحاجة، مع إبقاء الأجزاء الضرورية في الذاكرة واستخدام تقنيات مثل Mixture of Experts والتكميم MXFP4. لكن هل يعني ذلك أن الأداء سيكون سريعًا؟ هنا تظهر التضحية الأساسية؛ فإمكانية التشغيل لا تعني الحصول على سرعة استجابة مماثلة للخدمات السحابية. تشير اختبارات المشروع إلى أن الجهاز المزود بذاكرة 8 جيجابايت قد يحتاج إلى عشرات الثواني لإنتاج الرمز الواحد، بحسب الإعدادات ومواصفات التخزين والمعالج. لذلك فهو إنجاز هندسي مثير للاهتمام أكثر من كونه بديلًا عمليًا سريعًا للمساعدات الذكية التجارية. كيف يمكنك تجربة المشروع؟ 1. افتح مستودع المشروع على GitHub. 2. نزّل الملفات وابنِ البرنامج باستخدام أمر "make". 3. شغّل أداة "k3-doctor(.)sh" لفحص توافق جهازك. 4. جهّز مساحة تخزين كافية لتنزيل ملفات النموذج، التي يصل حجمها إلى نحو 1.56 تيرابايت. 5. اختر إعداد التشغيل المناسب لمواصفات جهازك. لماذا يستحق هذا المشروع الاهتمام؟ لأنه يثبت أن حجم النموذج لم يعد بالضرورة مرتبطًا بحجم الذاكرة العشوائية المطلوبة لتشغيله، وأن تحسين طرق قراءة البيانات وإدارتها قد يفتح الباب أمام تشغيل نماذج أكبر على أجهزة أقل تكلفة. قد لا يكون تشغيل نموذج بهذا الحجم على كمبيوتر منزلي تجربة سريعة اليوم، لكن ما يحدث يطرح سؤالًا مهمًا: هل نشهد بداية مرحلة يصبح فيها تشغيل أقوى نماذج الذكاء الاصطناعي محليًا أكثر سهولة واستقلالية عن الخدمات السحابية؟ المصادر: - مستودع المشروع على GitHub: github.com - توثيق بنية المشروع: github.com - إصدارات المشروع وتحديثاته: github.com