أعلنت CoreWeave عن تشغيل معالج Nvidia Vera Rubin NVL72 على منصة CoreWeave السحابية.
CoreWeave CRWV | 0.00 | |
إنفيديا NVDA | 0.00 |
بفضل برمجياتها وحلولها الهندسية المصممة خصيصًا لهذا الغرض، تُعدّ CoreWeave أول مزود لخدمات الذكاء الاصطناعي السحابية يُفعّل منصة Vera Rubin، مما يُوسّع نطاق دعم منصة CoreWeave لأجهزة NVIDIA. ويشمل هذا الإنجاز البارز إتمام عملية التحقق الصارمة على مستوى النظام لبنية الخوادم الكاملة.
يُعيد الذكاء الاصطناعي الوكيل تشكيل متطلبات البنية التحتية. فمع وصول النماذج إلى تريليون مُعامل، وامتداد نوافذ السياق إلى ملايين الرموز، وتحول جلسات الاستدلال المستمر إلى معيار، برز أداء الاستدلال كقيد حاسم على سرعة عمل شركات الذكاء الاصطناعي ونموها.
يوفر نظام NVIDIA Vera Rubin NVL72 - الذي يضم 72 وحدة معالجة رسومية NVIDIA Rubin و36 وحدة معالجة مركزية NVIDIA Vera لكل رف، متصلة عبر شبكة NVIDIA NVLink من الجيل السادس بسرعة 260 تيرابايت/ثانية - أداءً أفضل يصل إلى 10 أضعاف في الاستدلال لكل واط، مع تقليل عدد وحدات المعالجة الرسومية إلى الربع، وخفض التكلفة إلى عُشر تكلفة المليون رمز مقارنةً بنظام NVIDIA Blackwell1. بفضل Vera Rubin، ستقدم CoreWeave نتائج أفضل لعملائها.
قال كريغ فولز، رئيس قسم الأبحاث الكمية في شركة جين ستريت: "يعتمد بحثنا على بنية تحتية قوية وموثوقة، وقد أثبتت CoreWeave جدارتها في هذا الصدد مع توسعنا عبر NVIDIA Hopper وBlackwell. إن قدرتهم على توفير مجموعات حاسوبية عالية الأداء مع إمكانية مراقبة كاملة للمجموعة، وفريق دعم متفانٍ في حل المشكلات المعقدة، يمنحنا الثقة للتعاون معهم في مشروع Vera Rubin. نحن متحمسون لتحقيق مكاسب في الكفاءة على مستوى الخوادم، مما سيؤدي إلى تسريع عمليات التدريب وتقصير دورات التكرار لباحثينا."
بنية تحتية مصممة خصيصًا للذكاء الاصطناعي على مستوى الرف، مدعومة بتقنية CoreWeave Mission Control™
لتمكين العملاء من الاستفادة بشكل أفضل من فيرا روبين على نطاق الإنتاج، طورت شركة كورويف مجموعة جديدة من الابتكارات المصممة خصيصًا لهذا الغرض:
نظام التبريد السائل المُعرّف برمجياً: Valvey هو نظام صمامات قابل للبرمجة من CoreWeave، يُركّب على كل رف، ويحوّل التبريد من نظام ميكانيكي سلبي إلى سطح تحكم مُعرّف برمجياً على مستوى الرف. يُعد Valvey جزءاً من CoreWeave Mission Control، حيث يراقب معدل التدفق ودرجة الحرارة والضغط ويكشف التسريبات في الوقت الفعلي، مما يُتيح العزل التلقائي والإغلاق الطارئ والصيانة دون التأثير على الرفوف المجاورة في حلقة التبريد المشتركة.
التحكم الموحد في الرفوف: Racky هو جهاز تحكم موحد جديد في الرفوف مصمم خصيصًا لتجميع الطاقة والتبريد وأجهزة الاستشعار البيئية في سطح إدارة موحد، مما يسمح بإدارة كل رف من رفوف Vera Rubin كمورد سحابي بدلاً من كونه بناءً مخصصًا لمرة واحدة.
شبكات متعددة المسارات والمستويات: يدعم CoreWeave كلاً من NVIDIA Quantum-X800 InfiniBand وNVIDIA Spectrum-X Ethernet مع RDMA عبر شبكة إيثرنت متقاربة (RoCE)، مع بنية RoCE غير مانعة ومتعددة المسارات والمستويات توفر عرض نطاق ترددي خلفي يبلغ 1.6 تيرابت/ثانية لكل وحدة معالجة رسومية (GPU). ويمكن توسيع بنية Spectrum-X Ethernet لتشمل تكوينات تضم مئات الآلاف من وحدات معالجة الرسوميات في طبقتين من الشبكة.
عمليات سحابية آمنة وقابلة للتوسع للذكاء الاصطناعي: تعمل CoreWeave على تطوير عمليات سحابية آمنة ومتعددة المستأجرين للذكاء الاصطناعي باستخدام وحدات معالجة البيانات NVIDIA BlueField-4، مما يتيح الوصول إلى البيانات بشكل أسرع، وتقليل زمن الاستجابة، وتعزيز عزل المستأجرين على نطاق واسع. تعمل BlueField-4 على تخفيف وتسريع خدمات البنية التحتية، مما يسمح للمستأجرين بتشغيل أحمال العمل عبر منصة الحوسبة Vera Rubin الكاملة مع الحفاظ على التحكم والأمان.
قال تشين غولدبيرغ، نائب الرئيس التنفيذي للمنتجات والهندسة في شركة CoreWeave: "يتطلب عصر الذكاء الاصطناعي نهجًا مختلفًا جذريًا للبنية التحتية، نهجًا يواكب أحمال العمل التي تتطلب تفكيرًا مستمرًا، وتتوسع بشكل غير متوقع، وتعمل في بيئة الإنتاج على مدار الساعة. ما يميز البنية التحتية التي تعمل بكفاءة في المختبر عن تلك التي تعمل بكفاءة في بيئة الإنتاج هو عمق الهندسة الكامنة وراءها. بفضل ابتكارات قيد براءة الاختراع مثل Valvey وRacky، أنجزت CoreWeave أعمال التنسيق الشاملة لتمكين Vera Rubin من العمل بالطريقة التي صُممت من أجلها، ليس فقط في المختبر، بل على نطاق الإنتاج لأكثر فرق الذكاء الاصطناعي تطلبًا في العالم."
"تُعدّ منصة Vera Rubin أقوى منصة ذكاء اصطناعي طورتها NVIDIA على الإطلاق"، هذا ما صرّح به إيان باك، نائب رئيس قسم الحوسبة فائقة الأداء (HPC) في NVIDIA. وأضاف: "لطالما كانت CoreWeave في طليعة نشر كل جيل جديد من بنية NVIDIA على نطاق واسع، ونهجها الشامل والمتكامل لمنصة Vera Rubin، بدءًا من التبريد وصولًا إلى التنسيق، هو السبيل الذي ستتبعه فرق الذكاء الاصطناعي الأكثر طموحًا في العالم لدفع حدود الذكاء الاصطناعي إلى آفاق جديدة."
مبني على أساس شراكات تقنية عميقة
يتطلب تشغيل منصة بحجم الرفوف مثل Vera Rubin NVL72 تعاونًا وثيقًا عبر جميع مكونات البنية التحتية. ويُعدّ نظام شركاء التكنولوجيا التابع لشركة CoreWeave أساسيًا لوصول Vera Rubin إلى العملاء بسرعة وكفاءة عاليتين. وقد وفّرت Dell Technologies البنية التحتية الأساسية للمنصة من خلال خوادم PowerEdge XE9812 عالية الأداء. كما تتضمن المنصة وحدات تخزين Micron 7600 SSD، مما يُحسّن كفاءة استهلاك الطاقة من خلال أحد أوائل حلول تخزين NVMe المبردة بالسوائل التي تم نشرها على نطاق الرفوف.
قال مايكل ديل، رئيس مجلس الإدارة والرئيس التنفيذي لشركة ديل تكنولوجيز: "تتشارك ديل تكنولوجيز وكور ويف التزامًا بتقديم ابتكارات ترقى إلى مستوى متطلبات الذكاء الاصطناعي. وقد صُمم جهاز PowerEdge XE9812 خصيصًا لتحقيق هذا المستوى من الكثافة والدقة. ويُعدّ تعاوننا مع كور ويف لتشغيل أول وحدة NVIDIA Vera Rubin NVL72 دليلًا قاطعًا على إمكانيات الأجهزة المخصصة للمؤسسات عند دمجها مع الخبرة التشغيلية المناسبة."
يقدم CoreWeave باستمرار أداءً رائدًا في الصناعة، ويتجلى ذلك من خلال نتائج معيار MLPerf القياسية، ومكانته كسحابة الذكاء الاصطناعي الوحيدة التي حصلت على أعلى تصنيف بلاتيني في كل من SemiAnalysis ClusterMAX™ 1.0 و 2.0، وتصنيفه رقم 1 لسرعة الاستدلال وأداء السعر لـ Kimi K2.6 من Moonshot AI في معايير الاستدلال المستقلة التي أجرتها Artificial Analysis.
