«تاوباو» تفتح مصدر MNN-Pocket-0.3B لتشغيل الذكاء الاصطناعي على الهاتف دون إنترنت
كتب – نبيل الخوارزمى
أعلن فريق «MNN» التابع لمنصة «تاوباو» للتجارة الإلكترونية، المملوكة لمجموعة «علي بابا» الصينية، إطلاق نموذج لغوي صغير مفتوح المصدر باسم MNN-Pocket-0.3B، صُمم ليعمل على الهواتف دون اتصال بالإنترنت، وبلغت سرعته نحو 350 رمزًا في الثانية على هاتف آيفون 18 برو، وفق ما نشره الفريق.
ويضم النموذج قرابة 300 مليون معامل موزعة على 28 طبقة، والمعامل قيمة رقمية يتعلمها النموذج أثناء التدريب، وكلما زاد عددها زاد حجم النموذج واحتياجه إلى الذاكرة. وقد دُرّب النموذج من الصفر مع تركيز على اللغتين الصينية والإنجليزية، وخفض الفريق حجم مفرداته من نحو 151 ألف رمز إلى 64 ألفًا لتقليل الحجم وتسريع العمل.
ويبلغ حجم ملف النشر 173 ميغابايت فقط بعد ضغطه بتقنية INT4، وهي طريقة تخزن أرقام النموذج بدقة أقل لتوفير الذاكرة. وعلى جهاز آيباد برو بمعالج M5 سجّل النموذج 466 رمزًا في الثانية عند توليد النص، و8721 رمزًا في الثانية عند معالجة المدخلات، والرمز وحدة نصية صغيرة قد تكون كلمة أو جزءًا منها.
وفي اختبارات اتباع التعليمات حقق النموذج 73.2 درجة في اختبار IFEval الإنجليزي و74.59 درجة في نسخته الصينية، بينما بلغ متوسطه 50 درجة عبر 11 اختبارًا معياريًا. وأتاح الفريق عدة نسخ مفتوحة المصدر، منها النسخة الأساسية ونسخة الضبط الدقيق ونسخة جاهزة لمحرك MNN، إلى جانب نموذج مساعد لتسريع توليد النص.
وتعكس هذه الخطوة اهتمام الشركات الصينية بالذكاء الاصطناعي الطرفي، أي تشغيل النماذج مباشرة على الأجهزة بدل الخوادم، بما يحافظ على خصوصية البيانات ويقلل زمن الاستجابة وتكلفة التشغيل، وإن ظل الحجم الصغير يحد من قدرات النموذج مقارنة بالنماذج الكبيرة.
ــــــــــــــــــــ
هذا المحتوي تم باستخدام أدوات الذكاء الإصطناعي
