ماذا حدث؟
أعلنت شركة ديب سيك الصينية إتاحة إطار تشغيل جديد مفتوح المصدر يحمل اسم ديب إنفر، صممته لتحسين كفاءة تشغيل نماذج الذكاء الاصطناعي بعد انتهاء تدريبها. ويستهدف الإصدار خصوصاً نموذج ديب سيك في 4.1 فلاش، مع دعم عتاد مختلف يشمل معالجات إنفيديا بلاكويل من فئة إس إم 100 وشرائح هواوي أسند 950، في محاولة لتقليل الاعتماد على منصة عتادية واحدة عند تقديم خدمات الذكاء الاصطناعي.
يركز الإطار على مرحلة الاستدلال، وهي المرحلة التي يعالج فيها النموذج طلبات المستخدمين ويولد الإجابات. وتقول الشركة إن تحسين إدارة المعلومات التي سبق للنموذج معالجتها يساعد على تقليل الحسابات المكررة، خصوصاً عند الاحتفاظ بالبيانات المؤقتة لفترات تتجاوز 72 ساعة. كما تشير إلى أن هذه التحسينات يمكن أن تقلل استهلاك الطاقة والموارد وترفع عدد الطلبات القابلة للتنفيذ على العتاد نفسه.
قدمت ديب سيك مثالاً حسابياً قالت فيه إن مجموعة حوسبة تستخدم الإطار مع نموذجها تستطيع تحقيق إيرادات تعادل 38 دولاراً لكل معالج رسومي في الساعة عند تطبيق أسعار الاستخدام خارج أوقات الذروة. لكن الشركة لم تكشف تكاليف التشغيل الفعلية أو هوامش الربح، ولذلك لا يمكن اعتبار الرقم عائداً مضموناً للمشغلين. وتزامن الإعلان مع تصريحات حادة من باحثين في الشركة بشأن المنافسة بين النماذج مفتوحة الأوزان والنماذج المغلقة.
ماذا يعني؟
تحاول ديب سيك نقل المنافسة من قوة النموذج وحده إلى كفاءة تشغيله على البنية التحتية. فحتى النموذج المفتوح قد يكون مكلفاً إذا احتاج إلى ذاكرة كبيرة أو أعاد تنفيذ الحسابات نفسها بصورة متكررة. وتوفير أدوات التشغيل للآخرين قد يشجع الشركات ومزودي الخدمات على استضافة النموذج بأنفسهم بدلاً من الاعتماد الكامل على واجهة الشركة الأصلية.
لماذا يهمك؟
إذا كنت تفكر في استضافة نموذج ذكاء اصطناعي على خادم خاص أو داخل مؤسسة، فإن أدوات تحسين الاستدلال قد تكون مؤثرة في التكلفة بقدر اختيار النموذج نفسه. ويكتسب دعم شرائح هواوي أهمية إضافية في سوق يسعى إلى تنويع العتاد المتاح. لكن ينبغي اختبار الأداء واستهلاك الذاكرة والتوافق والأمان على التجهيزات الفعلية، وعدم التعامل مع تقديرات الشركة بوصفها نتائج مضمونة لجميع المستخدمين.