الحوسبة والسحابة
لماذا تتحول البنية التحتية للذكاء الاصطناعي إلى لعبة ذاكرة
تسلط مستويات التخزين المؤقت للمطالبات (prompt caching) المتطورة لدى شركة Anthropic الضوء على تحول أوسع في القطاع، حيث أصبح إتقان تنسيق الذاكرة أمراً بالغ الأهمية لكفاءة تكاليف الذكاء الاصطناعي وجدوى الأعمال.
في حين تركز المناقشات حول تكلفة البنية التحتية للذكاء الاصطناعي عادةً على شركة Nvidia ووحدات معالجة الرسومات (GPUs)، أصبحت الذاكرة جزءاً متزايد الأهمية من هذه الصورة. ومع استعداد شركات الحوسبة السحابية العملاقة لبناء مراكز بيانات جديدة بمليارات الدولارات، قفز سعر رقائق DRAM (ذاكرة الوصول العشوائي الديناميكية) بنحو 7 أضعاف في العام الماضي. وتُحوّل هذه القفزة في الأسعار البنية التحتية للذكاء الاصطناعي إلى “لعبة ذاكرة”، حيث أصبحت إدارة كيفية تخزين البيانات واسترجاعها أمراً حيوياً لجدوى الأعمال.
وتتجلى تعقيدات “لعبة الذاكرة” هذه في كيفية تسعير مطوري الذكاء الاصطناعي لخدماتهم. وفي مقابلة مع محلل أشباه الموصلات Doug O’Laughlin، أشار Val Bercovici، الرئيس التنفيذي للذكاء الاصطناعي في شركة منصات البيانات Weka، إلى وثائق التخزين المؤقت للمطالبات (prompt caching) الخاصة بشركة Anthropic باعتبارها مؤشراً رئيسياً على هذا التحول. وأشار Bercovici إلى أن صفحة تسعير التخزين المؤقت للمطالبات لدى Anthropic كانت بسيطة للغاية قبل ستة أو سبعة أشهر. أما اليوم، فقد تطورت لتصبح ما وصفه بـ “موسوعة من النصائح حول عدد عمليات الكتابة في ذاكرة التخزين المؤقت التي يجب شراؤها مسبقاً بالضبط”. ويتميز النظام الآن بمستويات مدتها 5 دقائق ومستويات مدتها 1 ساعة، مما يتطلب من العملاء التعامل مع فرص المراجحة. وعملياً، يعني هذا أن على الشركات الموازنة بين “عمليات الكتابة في ذاكرة التخزين المؤقت” — وهي تكلفة حفظ بيانات المطالبات في ذاكرة مؤقتة — وبين “عمليات القراءة من ذاكرة التخزين المؤقت”، وهي الاستعلامات التي يتم إجراؤها عند استرجاع تلك البيانات المخزنة مسبقاً. وتعد إدارة هذه النافذة أمراً صعباً لأن إضافة بيانات جديدة إلى استعلام ما قد يؤدي إلى إخراج المعلومات الموجودة من ذاكرة التخزين المؤقت.
ويدفع هذا التحول نحو تركيز جديد على تنسيق الذاكرة عبر مكدس التكنولوجيا. فعلى مستوى البرمجيات، ستتمكن الشركات التي تتقن تنسيق الذاكرة من إجراء نفس الاستعلامات باستخدام عدد أقل من الرموز (tokens)، مما يخفض تكاليفها التشغيلية بشكل مباشر. وتخلق هذه الديناميكية فرصاً للشركات الناشئة؛ فعلى سبيل المثال، غطت TechCrunch في أكتوبر شركة Tensormesh، وهي شركة ناشئة تركز على تحسين ذاكرة التخزين المؤقت. وفي الوقت نفسه، وعلى مستوى الأجهزة، تعمل مراكز البيانات على تحسين كيفية استخدامها لأنواع مختلفة من الذاكرة، مثل تحديد متى يجب استخدام رقائق DRAM بدلاً من HBM (ذاكرة النطاق الترددي العالي). وفي مستويات أعلى من المكدس، يقوم المستخدمون أيضاً بهيكلة أسراب نماذجهم للاستفادة من ذاكرة التخزين المؤقت المشتركة. وفي نهاية المطاف، ستتمكن الشركات التي تدير مستويات الذاكرة هذه بنجاح من تشغيل تطبيقات لم تكن تبدو مربحة في السابق.
لماذا يهم
مع تحول تكاليف البنية التحتية للذكاء الاصطناعي من الحوسبة البحتة إلى إدارة الذاكرة، ستكتسب الشركات التي تعمل على تحسين كيفية تعاملها مع البيانات في ذاكرة التخزين المؤقت ميزة تنافسية كبيرة من خلال تقليل استهلاك الرموز (tokens) وتحسين الربحية.