مايكروسوفت تشغّل نموذج برمجة ضخمًا محليًا دون رسوم رموز سحابية

ماذا حدث؟

نشرت مايكروسوفت نتائج هندسية عن تشغيل نموذج MAI-Code-1.1-Flash محليًا على حواسيب RTX Spark بذاكرة موحدة قدرها 128 جيجابايت. ويضم النموذج 137.9 مليار معلمة وفق بنية خبراء متعددة، واستطاع الفريق تقليص حجم أوزانه من نحو 276 جيجابايت عند دقة 16 بت إلى نسخة مكمّمة بحجم 53 جيبيبايت، مع المحافظة على توازن بين الجودة والسرعة.

وفي إعداد الاختبار المنشور، حقق النموذج سرعة وسيطة تبلغ 51.12 رمزًا في الثانية مع سياق إدخال بطول 120 ألف رمز. وتعرض الشركة دمجه في مسار GitHub Copilot لمراجعة المستودعات البرمجية واقتراح خطط تنظيف الشيفرة، موضحة أن التشغيل المحلي لا يلغي احتياجات الذاكرة الإضافية للسياق ومحرك التنفيذ.

ماذا يعني؟

لا تتعلق الفكرة بزيادة عدد المعلمات وحده، بل بكيفية توزيع الدقة الحسابية وإدارة الذاكرة كي تصبح نماذج البرمجة الكبيرة قابلة للاستخدام في جهاز محلي متخصص. كما أن غياب الرسوم السحابية لكل رمز لا يعني غياب تكلفة الجهاز والطاقة والصيانة.

لماذا يهمك؟

إذا كنت تفكر في بناء مساعد برمجي محلي، فهذا مثال عملي على أن الذاكرة المتاحة وكفاءة التكميم تؤثران في التجربة بقدر اسم النموذج. لكن النتائج تتعلق بأجهزة RTX Spark مرتفعة الذاكرة، ولا تعني أن النموذج سيعمل بالمستوى نفسه على حاسوب محمول عادي بذاكرة 16 جيجابايت.