هل انتهى عصر الحاجة إلى الحواسيب الخارقة؟ مشروع colibri يختبر تشغيل نموذج ذكاء اصطناعي بـ744 مليار معامل على جهاز شخصي!
من أكثر التحديات التي تواجه تشغيل نماذج الذكاء الاصطناعي محليًا الحاجة إلى ذاكرة ضخمة وبطاقات رسومية باهظة الثمن. لكن مشروعًا مفتوح المصدر يحمل اسم colibri يقدم فكرة مختلفة تمامًا: ماذا لو لم نكن بحاجة إلى تحميل النموذج بالكامل داخل الذاكرة في الوقت نفسه؟
يعتمد المشروع على بنية نماذج الخبراء المتعددين (Mixture of Experts)، وهي بنية تسمح بتفعيل أجزاء محددة من النموذج عند معالجة كل رمز، بدل استخدام جميع أجزائه في كل مرة.
1. كيف يستطيع تشغيل نموذج بهذا الحجم؟
بدل الاحتفاظ بجميع أوزان النموذج في ذاكرة الوصول العشوائي، يحتفظ colibri بالأجزاء الأساسية والأجزاء المطلوبة في الذاكرة، بينما يقرأ الخبراء الآخرين من وحدة التخزين عند الحاجة.
هذه الطريقة تسمح بتجربة نماذج ضخمة على أجهزة لا تمتلك ذاكرة تكفي لتحميل النموذج كاملًا بالطريقة التقليدية.
2. هل يمكن تشغيل نموذج 744 مليار معامل على 25 جيجابايت RAM؟
نعم، يعرض المشروع تجربة تشغيل نموذج GLM-5.2 ذي 744 مليار معامل على جهاز بذاكرة تقارب 25 جيجابايت، مع الاعتماد على وحدة تخزين سريعة وتقنيات إدارة الذاكرة.
لكن هناك تفصيل مهم: حجم النموذج على القرص قد يصل إلى مئات الجيجابايت، وبالتالي فإن 25 جيجابايت من الذاكرة لا تعني أنك تستطيع تحميل النموذج كاملًا بهذا الحجم الصغير.
3. هل الأداء سريع مثل الخدمات السحابية؟
ليس بالضرورة. تشغيل النموذج شيء، والحصول على استجابة سريعة شيء آخر.
عندما يحتاج النظام إلى قراءة أجزاء كثيرة من النموذج من القرص، تصبح سرعة وحدة التخزين عاملًا حاسمًا. وقد سجلت التجربة المرجعية للمشروع على جهاز بذاكرة 25 جيجابايت سرعة تقارب 0.05 إلى 0.1 رمز في الثانية في ظروف الاختبار الباردة، وهي سرعة منخفضة للغاية للاستخدام الحواري المعتاد.
4. ما متطلبات التجربة؟
- معالج يدعم التعليمات المطلوبة من المشروع.
- ذاكرة وصول عشوائي مناسبة للنموذج المختار.
- وحدة تخزين NVMe سريعة.
- مساحة تخزين كبيرة قد تصل إلى مئات الجيجابايت.
- نظام تشغيل مدعوم مثل Linux أو Windows أو macOS وفق تعليمات الإصدار.
5. لماذا يعتبر المشروع مهمًا؟
تكمن أهميته في إثبات أن حجم النموذج لا يجب أن يكون دائمًا مساويًا لحجم الذاكرة المطلوبة لتشغيله. كما يفتح الباب أمام تجارب جديدة لتشغيل نماذج ضخمة على أجهزة شخصية، مع منح المطورين فرصة لدراسة طرق أكثر كفاءة لإدارة الموارد.
الخلاصة: لا يعني هذا المشروع أن الحواسيب العادية أصبحت أسرع من الخوادم العملاقة، لكنه يقدم اتجاهًا تقنيًا مثيرًا قد يغير طريقة تشغيل النماذج الضخمة مستقبلًا.
المشروع متاح مجانًا ومفتوح المصدر على GitHub:
github.com