الحوسبة والسحابة
ZML تطلق أداة مجانية لتشغيل نماذج الذكاء الاصطناعي عبر أي شريحة
ZML، الشركة الناشئة الفرنسية المدعومة من Yann LeCun ومقرها باريس، أطلقت برنامج الاستدلال المجاني LLMD الذي يشغّل نماذج اللغة الكبيرة مفتوحة المصدر عبر شرائح Nvidia وAMD وGoogle TPU وApple Metal وIntel Arc.
أطلقت ZML أداة ZML/LLMD، وهي خادم استدلال جديد يتيح لنماذج اللغة الكبيرة مفتوحة المصدر العمل عبر شرائح Nvidia وAMD وGoogle TPU (وحدة معالجة الموترات) وApple Metal وIntel Arc. وقال المؤسس Steeve Morin إن طموح الشركة الناشئة المتمركزة في باريس مع LLMD يتمثل في كسر الحواجز القائمة وإتاحة شرائح مختلفة لاستخدامات الذكاء الاصطناعي بأقصى سرعة متاحة، وأحياناً بسرعة أكبر.
وقال Morin إن تحسين الاستدلال - أي معالجة المطالبات (prompts)، على عكس تدريب النماذج - قد تجاوز التدريب من حيث الأهمية، لكن العملية غالباً ما تبدو متقطعة خلف الكواليس لأن الحواجز البرمجية والمعمارية تتسبب في الارتهان لمورد واحد. وتأمل ZML في أن تمنح الشركات والسحابات خيار الجمع بين الشرائح، التي قد يكون بعضها أقل تكلفة أو أقل استهلاكاً للطاقة. وقال Morin: “الفكرة هي أن نعيد للناس القدرة على بناء أنظمتهم الخاصة وتحقيق مكاسب فعلية في الكفاءة تتيح نشر [الذكاء الاصطناعي]”. ويأتي هذا المسعى في ظل ما وُصف بـ”حمى الاستدلال الذهبية” - وهي فترة من الاستثمار المكثف في هذا المجال.
ويرى Morin أن فريق ZML الصغير المكوّن من 20 شخصاً هو السبب في قدرة الشركة الناشئة على التحرك بسرعة، مع وجود المزيد من الإصدارات على الخطة. وجمعت الشركة 20 مليون دولار من شركات استثمار جريء من بينها 20VC (التي يديرها Harry Stebbings) و>commit وAALVC وDrysdale Ventures وKima Ventures (التي يديرها Xavier Niel) وKindred Capital وLocalGlobe وPuzzle Ventures - وهو جمع تمويل استفاد من سجل Morin كنائب رئيس الهندسة في Zenly، التي استحوذت عليها Snapchat بمبلغ من تسعة أرقام في عام 2017. ووصف Morin نهج ZML بأنه بلغ مرحلة المشاركة في تصميم الشرائح نفسها. وتواجه ZML منافسة من Baseten، التي قُيّمت مؤخراً بـ13 مليار دولار، وInferact، التي أسسها مبتكرو المشروع مفتوح المصدر vLLM، وRadixArk، الشركة التجارية التي تقف خلف SGLang؛ ويتنافس كل من vLLM وSGLang جزئياً مع LLMD. وخلافاً لأول مشروع علني لـZML - وهو إطار عمل للتعلم الآلي يركز على الاستدلال صدر في عام 2024 وتم تحديثه في مارس - فإن LLMD ليس مفتوح المصدر؛ بل يُطرح كمنتج مجاني بهدف التعرف على أنماط استخدامه.
وقال Morin إن الدعم البرمجي من ZML قد يساعد شركات تصنيع شرائح الذكاء الاصطناعي الجديدة، وكثير منها من أوروبا، مستشهداً بـAxelera وFractile وKalray وOLIX وQ.ANT وSiPearl وSpiNNcloud وVSORA. ومن السابق لأوانه معرفة الوقت الذي قد يتحول فيه LLMD إلى منتج مدفوع، أو كيف سيبدو تبنيه. ويُظهر جدول الملكية الخاص بـZML أن مؤسسين آخرين يتابعون الأمر، من بينهم Solomon Hykes من Dagger وDocker، وClément Delangue وJulien Chaumond من Hugging Face، وLeCun، الذي ينتمي الآن إلى AMI Labs.
لماذا يهم
تحقيق أقصى أداء للاستدلال عبر مختلف ماركات الشرائح هو إنجاز تقني قد يُحدث اضطراباً في السوق في ظل تصاعد المخاوف من تكاليف الذكاء الاصطناعي، وقد يساعد بشكل خاص شركات تصنيع شرائح الذكاء الاصطناعي الجديدة، وكثير منها أوروبية، على تحقيق موطئ قدم.