«آنت غروب» تفتح مصدر Ling-3.1-flash بنسخة مضغوطة تعمل على نصف العتاد
كتب – نبيل الخوارزمى
فتحت مجموعة «آنت غروب» الصينية مصدر نموذجها اللغوي Ling-3.1-flash ضمن عائلة «بايلينغ»، وأتاحت أوزانه للتنزيل على منصتي «هاغينغ فيس» و«مودل سكوب»، بعد إطلاقه في وقت سابق، مع نسخة مضغوطة تخفض متطلبات التشغيل المحلي إلى النصف تقريبًا، ما يسهل على الشركات والمطورين تشغيله على خوادمهم الخاصة.
ويضم النموذج نحو 560 مليار معامل إجمالًا، لكنه لا يفعّل منها إلا نحو 25 مليارًا عند معالجة كل رمز، وهو أسلوب يعرف بمزيج الخبراء، إذ يوزع النموذج العمل على أجزاء متخصصة ويستدعي المناسب منها فقط، ما يوفر الطاقة ويسرع الاستجابة. ويدعم النموذج سياقًا يصل إلى مليون رمز، أي أنه يستطيع قراءة مستندات طويلة جدًا في طلب واحد.
والجديد في هذا الإصدار هو تسهيل التشغيل على خوادم الشركات، إذ ضغطت «آنت» أجزاء النموذج بصيغتي MXFP4 وFP8، وهما طريقتان لتمثيل الأرقام بعدد أقل من البتات، فانخفض حجم الأوزان من نحو 534 جيجابايت إلى 292 جيجابايت، وأصبح من الممكن تشغيله على أربع بطاقات رسومية من فئة «هوبر» بدلًا من ثماني بطاقات.
كما حسنت الشركة قدرة النموذج على استدعاء الأدوات الخارجية وفق مخططات JSON المنظمة، وهي مهارة أساسية لبناء الوكلاء الذكيين الذين ينفذون مهام متعددة الخطوات. وحصل النموذج على 41 نقطة في مؤشر الذكاء لدى مؤسسة Artificial Analysis، مع سرعة إخراج تقارب 210 رموز في الثانية. وفي اختبار على ثماني بطاقات، بلغ متوسط زمن ظهور أول رمز في الإجابة نحو 604 أجزاء من الألف من الثانية.
وتقدم «آنت» النموذج عبر منصتها الخاصة وعبر منصة «أوبن راوتر» بخصم مؤقت يبلغ 75 في المئة من السعر المعلن، لتشجيع المطورين على تجربته. ويعزز هذا الإصدار موقع الشركات الصينية في سباق النماذج مفتوحة المصدر التي يمكن للمطورين تشغيلها وتعديلها بأنفسهم.
ــــــــــــــــــــ
هذا المحتوي تم باستخدام أدوات الذكاء الإصطناعي
