🚀 وداعًا للاعتماد الكامل على الذكاء الاصطناعي السحابي؟ تعرف على Edge0-145B وEdge0-120B!

تطورًا لافتًا مع إطلاق نموذجي Edge0-145B وEdge0-120B، اللذين يقدمان تجربة مختلفة لتشغيل نماذج ضخمة الدائم على الخدمات السحابية المدفوعة. تتميز هذه النماذج بأنها مفتوحة الأوزان، ومصممة خصيصًا لمهام البرمجة الوكيلة وتنفيذ المهام المعقدة، مع إمكانية تشغيلها باستخدام محرك Edge0 على الأجهزة المدعومة. ما أبرز مميزات نماذج Edge0 الجديدة؟ 1. عدد هائل من المعاملات: يصل النموذج الأكبر إلى 145 مليار معامل، بينما يقدم الإصدار الثاني 120 مليار معامل، ما يمنحهما بنية ضخمة لمعالجة المهام المتنوعة. 2. تشغيل محلي: يمكن تنفيذ عمليات الاستدلال المحادثات والملفات إلى خوادم خارجية، وهو أمر مهم للمطورين وأصحاب المشاريع الحساسة. 3. سرعة معالجة مرتفعة: تعرض النتائج الرسمية سرعات تصل إلى 98.3 توكن في الثانية في توليد المهام الوكيلة لنموذج 145B باستخدام بطاقة RTX 5090 D. 4. سياق طويل: يدعم النموذج نافذة سياق تصل إلى 256 ألف توكن، ما يساعده على التعامل مع مشاريع برمجية وملفات كبيرة. 5. تكامل مع أدوات المطورين: يوفر المشروع خادم API محليًا متوافقًا مع واجهة OpenAI، ما يسهل ربطه بالتطبيقات والأدوات البرمجية. هل انتهى عصر النماذج السحابية؟ ليس بالضرورة، لكن ظهور هذه النماذج يمنح المطورين خيارًا إضافيًا مهمًا، خصوصًا لمن يريد تقليل تكاليف الاستخدام والتحكم في بياناته وتشغيل مساعد برمجي محلي. ومع ذلك، يحتاج تشغيل الإصدار الأكبر إلى عتاد مناسب، ولا يعني وصفه بأنه محلي أنه يعمل على أي لابتوب عادي. المستقبل قد يشهد منافسة أقوى بين النماذج السحابية والمحلية، والمستفيد الأكبر سيكون المستخدم الذي يحصل على خيارات أكثر وحرية أكبر في اختيار بيئة العمل.
42 مشاهدة

هذا المنشور جزء من حديث على FameBlogs

يشهد عالم الذكاء الاصطناعي

وردت في 3 منشورات من 3 كتّاب

مجاني على Google Play · لأجهزة Android

اقرأ أيضًا

FameBlogsللحديث بقية في التطبيق حمّل