NVIDIA NVLink Fusion يجلب NVHBM إلى البنية التحتية للذكاء الاصطناعي من الجيل التالي
تقدم NVIDIA NVLink Fusion تقنية NVHBM إلى البنية التحتية للجيل القادم من الذكاء الاصطناعي، مما يوسع نطاق تجميع الذاكرة عالية النطاق الترددي وكفاءة الترابط. يفحص هذا الدليل التحول المعماري وآثاره على توسيع نطاق أعباء عمل الذكاء الاصطناعي، استنادًا إلى توثيق مطوري NVIDIA الموثق.
الوسوم
ملخص سريع
تقدم NVIDIA NVLink Fusion تقنية NVHBM إلى البنية التحتية للجيل القادم من الذكاء الاصطناعي، مما يوسع نطاق تجميع الذاكرة عالية النطاق الترددي وكفاءة الترابط. يفحص هذا الدليل التحول المعماري وآثاره على توسيع نطاق أعباء عمل الذكاء الاصطناعي، استنادًا إلى توثيق مطوري NVIDIA الموثق.
NVLink Fusion من NVIDIA يجلب NVHBM إلى البنية التحتية للذكاء الاصطناعي من الجيل التالي
إن التوسع المستمر في نماذج الذكاء الاصطناعي قد دفع كل طبقة من طبقات حزمة مراكز البيانات إلى حدودها القصوى، وأصبح نظام الذاكرة الفرعي الآن هو الاختناق الأكثر وضوحًا. في 26 أغسطس 2026، نشرت NVIDIA إعلانًا على مدونة المطورين الخاصة بها بعنوان NVIDIA NVLink Fusion Brings NVHBM to Next-Generation AI Infrastructure، يصف خطوة مهمة إلى الأمام في كيفية تصميم ذاكرة GPU وتجميعها واستهلاكها عبر أنظمة الذكاء الاصطناعي من الجيل التالي. يقدّم المنشور، المستضاف على https://developer.nvidia.com/blog/nvidia-nvlink-fusion-brings-nvhbm-to-next-generation-ai-infrastructure، NVLink Fusion ليس مجرد زيادة في السرعة على خارطة طريق الربط البيني، بل بصفته الوسيلة التي تنقل NVHBM — ذاكرة NVIDIA عالية النطاق الترددي — إلى قلب البنية التحتية للذكاء الاصطناعي.
بالنسبة للمهندسين الذين يخططون للموجة التالية من مجموعات GPU، من الأفضل قراءة هذا الإعلان كإشارة إلى أين تتجه الذاكرة: بعيدًا عن حزم HBM المحلية الخاصة بكل GPU، ونحو نموذج ذاكرة متصل بالشبكة (fabric) يعامل النطاق الترددي والسعة كموارد للبنية التحتية. تشرح هذه المقالة ما يعنيه الإعلان، ثم تنتقل إلى منظور هندسي عملي — المتطلبات الأساسية، وخطوات التثبيت والتحقق، وأنماط الاستخدام — للفرق التي تستعد لتشغيل أنظمة مبنية حول NVLink Fusion و NVHBM.
التحول المُعلن: الذاكرة تصبح جزءًا من الشبكة
إن جوهر هذه القصة المؤكد بسيط ومهم: NVLink Fusion يجلب NVHBM إلى البنية التحتية للذكاء الاصطناعي من الجيل التالي. يضع الإعلان هذا كتطور طبيعي لخارطة طريق NVIDIA للربط البيني والذاكرة، حيث يتطور نسيج NVLink إلى طبقة دمج قادرة على تقديم HBM مُجمّعة لوحدات GPU بطريقة متماسكة ومنخفضة زمن الوصول. الفكرة الأساسية وراء NVHBM هي أن الذاكرة عالية النطاق الترددي لم تعد مضطرة إلى العيش حصريًا على كل شريحة GPU أو لوحة. بدلاً من ذلك، يعامل NVLink Fusion ذاكرة HBM عبر مجموعة من وحدات GPU كمورد مشترك، مما يسمح لمسرّع واحد بالوصول إلى ذاكرة موجودة فعليًا في مكان آخر في النظام بنطاق ترددي من فئة NVLink.
من الجدير فصل الادعاء المؤكد عن التفسير المحيط به. ما تم تأكيده هو وجود الإعلان: NVLink Fusion هو الآلية، NVHBM هي تقنية الذاكرة، والهدف هو البنية التحتية للذكاء الاصطناعي من الجيل التالي. ما يظل تفسيرًا — معقولاً، لكنه غير مفصّل صراحةً في ملخص الإعلان — هو مدى عمق تغيير فصل الذاكرة (disaggregation) لنماذج برمجة GPU. استنادًا إلى مسار أعمال NVIDIA السابقة في الربط البيني، من المرجح أن يكون التأثير العملي نموذج برمجة لم تعد فيه سعة الذاكرة والنطاق الترددي مرتبطين ارتباطًا صارمًا بوحدة GPU المحلية. الوظيفة التي تحتاج إلى مساحة عمل تبلغ 600 غيغابايت لن تتطلب بالضرورة وحدة GPU بسعة 600 غيغابايت من HBM المحلي؛ قد تستخدم وحدة GPU بمساحة محلية أصغر مع الوصول إلى NVHBM المُجمّع عبر NVLink Fusion.
لماذا يغيّر HBM المجزأ اقتصادات مجموعات الذكاء الاصطناعي
بالنسبة لفرق البنية التحتية للذكاء الاصطناعي، فإن أهمية NVLink Fusion و NVHBM لا تتعلق بمعيار أداء واحد، بل بكيفية تصميم المجموعات. اليوم، غالبًا ما يخضع اختيار GPU لسعة الذاكرة قبل قدرة الحوسبة. قد يختار فريق يدير تدريب نماذج لغوية كبيرة أو استدلالها وحدة GPU بسعة HBM وفيرة حتى لو كانت قدرتها على العمليات العائمة (FLOPS) أعلى من اللازم، ببساطة لأن النموذج لن يتسع في الذاكرة بخلاف ذلك. وهذا يؤدي إلى الإفراط في التزويد، وسعة معطّلة، ومفاضلات صعبة بين التوازي الموتر وكفاءة الذاكرة.
مع بنية الذاكرة المُجمّعة، تتغير هذه القرارات. تصبح العقدة أو الرف وحدة تخطيط الذاكرة بدلاً من وحدة GPU الفردية. إذا كان NVLink Fusion قادرًا على توسيع مساحة الذاكرة الفعالة لوحدة GPU بشكل شفاف عبر نطاقات NVHBM، فإن استراتيجيات الاستخدام تتغير: يمكن حزم الحوسبة بكثافة أكبر، ويمكن تخصيص الذاكرة للمهام الأكثر احتياجًا إليها في أي لحظة. هذا هو نفس القوس المفاهيمي الذي شهدته الصناعة بالفعل مع تجميع ذاكرة CPU، لكن المخاطر أعلى بكثير لأن HBM أغلى بكثير وأكثر حساسية للنطاق الترددي.
هناك أيضًا زاوية الموثوقية. في الأنظمة الحالية، يمكن أن يؤدي فشل HBM في وحدة GPU واحدة إلى تعطيل مهمة تدريب متعددة وحدات GPU. إذا كانت NVHBM موردًا مُجمّعًا عبر النسيج، يصبح نطاق الفشل أكثر مرونة: يمكن إعادة توازن الذاكرة، أو إعادة توجيه مساراتها، أو تصريفها حول منطقة فاشلة دون تدمير السياق المتوازي بأكمله بالضرورة. مرة أخرى، هذا تفسير استشرافي وليس ميزة مؤكدة في الإعلان، لكنه يتماشى مع الهدف المعلن المتمثل في جلب NVHBM إلى البنية التحتية للذكاء الاصطناعي من الجيل التالي كمورد مُدار.
المتطلبات
نظرًا لأن الإعلان هو كشف إطلاق وليس دليل تكامل كامل، فإن المتطلبات أدناه تعكس خط الأساس الهندسي القياسي لتشغيل أنظمة من فئة NVLink، مُصاغة في اتجاه البنية الجديدة. يجب على الفرق التي تقيّم NVLink Fusion و NVHBM التخطيط لما يلي:
- وحدات GPU تدعم NVLink. يتم تسليم NVHBM عبر NVLink Fusion، لذا يجب أن تدعم وحدات GPU في المجموعة الجيل الحالي من اتصال نسيج NVLink والبرامج الثابتة التي تتضمن دعم NVLink Fusion.
- طوبولوجيا نسيج متماسكة. يعتمد NVLink Fusion على نطاقات NVLink، وليس على ناقل حركة حزم Ethernet أو InfiniBand التقليدية. يجب توصيل اللوحة الخلفية (backplane) وتكوين المحول والهيكل لتشكيل نطاقات NVLink وليس فقط للاتصال بتمرير الرسائل.
- برنامج تشغيل NVIDIA وحزمة CUDA. يجب أن يكون برنامج التشغيل في مساحة المستخدم، ومدير النسيج (fabric manager)، وبيئة تشغيل CUDA حديثة بما يكفي للتعرف على سمات NVHBM. عمليًا، هذا يعني تحديث برنامج تشغيل NVIDIA، ونسخة برنامج تشغيل مركز البيانات المستخدمة في الحاويات، والبرامج الثابتة لمحولات NVLink.
- تكوين مدير النسيج (Fabric Manager). تعتمد أنظمة NVLink متعددة وحدات GPU عادةً على خدمة NVIDIA Fabric Manager لتشغيل نسيج NVLink والحفاظ عليه. من شبه المؤكد أن مشاركة ذاكرة NVLink Fusion ستتطلب تشغيل مدير النسيج بشكل صحيح قبل أن تبلغ وحدات GPU عن طوبولوجيا الذاكرة الكاملة الخاصة بها.
- وصول إداري وأدوات مراقبة. تتطلب تشغيل وحدات GPU ذات الذاكرة المُجمّعة رؤية واضحة لصحة الروابط، وتقارب الذاكرة، وتشخيصات النسيج. تشكل أدوات مثل
nvidia-smiوdcgmiوnvtopخط الأساس العملي.
الأوامر في الأقسام التالية توضح نوع أعمال التحقق والإعداد التي قد يؤديها المهندس على نظام به NVLink Fusion و NVHBM. إنها أمثلة عملية باستخدام أدوات NVIDIA حقيقية، وليست مستخرجة من الإعلان نفسه.
التثبيت خطوة بخطوة
قبل العمل مع HBM المُجمّع، يجب أن يكون نسيج NVLink الأساسي سليمًا ومرئيًا لنظام التشغيل. يحدد التسلسل التالي خط أساس نظيفًا وقابلًا للتحقق. ابدأ بتثبيت برنامج التشغيل. على نظام قائم على Ubuntu، حدّث فهرس الحزم وثبّت حزمة برنامج تشغيل NVIDIA لمراكز البيانات:
sudo apt-get update
sudo apt-get install -y nvidia-driver-570-serverتعتمد نسخة الحزمة الدقيقة على فرع برنامج تشغيل NVIDIA الذي يدعم وحدات GPU الخاصة بك والبرامج الثابتة الخاصة بـ NVLink Fusion. استبدل 570-server بالإصدار المطابق لأجهزتك وإصدار CUDA. بعد التثبيت، أعد تشغيل العقدة حتى يتم تحميل وحدات النواة (kernel modules) بشكل نظيف:
sudo rebootبمجرد عودة النظام، تأكد من أن جميع وحدات GPU مرئية وأنه لا توجد أخطاء في حالة برنامج التشغيل:
nvidia-smiابحث عن العدد المتوقع لوحدات GPU، وأحجام الذاكرة الصحيحة، وحالة حرارة وطاقة سليمة. إذا كانت وحدة GPU مفقودة أو أظهرت ERR!، فإن نسيج NVLink أو الفتحة المادية غير سليمة ويجب تصحيحها قبل المتابعة.
بعد ذلك، تحقق من حالة رابط NVLink. يُبلغ الأمر الفرعي nvidia-smi nvlink عن حالة كل رابط ونطاقه الترددي. يتحقق العلم -s من الحالة عبر جميع الروابط:
nvidia-smi nvlink -sيُظهر نطاق NVLink Fusion السليم جميع الروابط بحالة Active ونطاق ترددي مُبلغ بما يتوافق مع جيل NVLink المثبت. أي رابط في حالة Inactive أو ERROR يشير إلى مشكلة في الكابلات أو البرامج الثابتة أو المحول.
لإجراء فحص أكثر اكتمالاً للنسيج، استعلم عن مصفوفة اتصال NVLink بين جميع أزواج وحدات GPU:
nvidia-smi nvlink -cيطبع هذا مصفوفة لاستقرار الاتصال وسرعته لكل زوج وحدات GPU. في سياق NVHBM، هذه المصفوفة هي العمود الفقري لمشاركة الذاكرة: إذا كانت روابط الاقتران متدهورة، فسيتراجع الوصول إلى الذاكرة المُجمّعة إلى مسارات أبطأ وستنهار فوائد أداء NVLink Fusion.
تحقق من طوبولوجيا الذاكرة لترى كيف يتم توزيع HBM وكيف تتماشى نطاقات الذاكرة مع نسيج NVLink:
nvidia-smi topo -mيُظهر الإخراج نوع الاتصال بين كل زوج من وحدات GPU (NV#، PIX، PXB، SYS، وما إلى ذلك). بالنسبة لـ NVLink Fusion، ستحتاج إلى رؤية روابط NV# بين وحدات GPU التي ستشارك نطاقات NVHBM. يكشف هذا الأمر أيضًا ما إذا كان النظام قد قام بتوصيل وحدات GPU عبر جذر CPU بدلاً من نسيج NVLink — وهو تكوين لن يوفر النطاق الترددي اللازم لذاكرة HBM المُجمّعة.
فعّل وضع الاستمرارية (persistence mode) بحيث تظل حالة GPU مهيأة بين العمليات، وهذا مهم بشكل خاص عندما تتم إدارة موارد الذاكرة كمجموعة وليس لكل عملية:
sudo nvidia-smi -pm 1يمنع وضع الاستمرارية وحدات GPU من الدخول في حالة خمول تمزق سياق برنامج التشغيل، مما يقلل من زمن الاستجابة لتسجيل الذاكرة لمجموعات NVHBM.
إذا كان مدير النسيج جزءًا من النشر، فتأكد من تمكينه وتشغيله بحيث تتم تهيئة نسيج NVLink بالكامل. على الأنظمة القائمة على systemd:
sudo systemctl enable nvidia-fabricmanager
sudo systemctl start nvidia-fabricmanager
systemctl status nvidia-fabricmanagerأخيرًا، قم بتشغيل جولة تشخيص للتحقق من صحة الحوسبة والذاكرة والروابط لكل وحدة GPU. توفر أداة NVIDIA Data Center GPU Manager مستوى تشخيص غير تدميري مناسبًا للفحوصات الدورية:
dcgmi diag -r 1ينفذ هذا مجموعة أساسية من الاختبارات التي تغطي تعداد الأجهزة، وسلامة الذاكرة، ومعالجة المقاطعات. يجب حل أي فشل هنا قبل جدولة أعباء العمل التي تعتمد على NVHBM على العقدة.
أمثلة الاستخدام
بمجرد أن يكون النسيج سليمًا، يكون السؤال العملي هو كيف تلاحظ التطبيقات بيئة الذاكرة وتستخدمها. العادة الأولى التي يجب تطويرها هي فحص طوبولوجيا الذاكرة برمجيًا قبل تشغيل مهمة تدريب. في Python، باستخدام واجهات برمجة تطبيقات PyTorch CUDA، يمكن للمهندس سرد عدد وحدات GPU وسعة الذاكرة المُبلغ عنها:
import torch
num_gpus = torch.cuda.device_count()
print(f"Detected {num_gpus} GPUs")
for i in range(num_gpus):
props = torch.cuda.get_device_properties(i)
print(f"GPU {i}: {props.name}")
print(f" SMs: {props.multi_processor_count}")
print(f" Total memory: {props.total_memory / 1e9:.1f} GB")على نظام يتم فيه كشف NVHBM كسعة ذاكرة ممتدة، قد تعكس قيم total_memory مزيجًا من HBM المحلي ومجموعة NVHBM القابلة للوصول عبر NVLink Fusion. قد تختلف الطريقة الدقيقة التي يتم بها تقديم ذلك إلى بيئة التشغيل، لذا فإن الانضباط المهم هو القياس وليس الافتراض. سجّل الذاكرة المُبلغ عنها في بداية المهمة وقارنها بمواصفات HBM الفعلية لوحدات GPU.
العادة الثانية هي التحقق من اتصال NVLink بين وحدات GPU التي ستبادل الموترات أو تصل إلى نفس نطاق الذاكرة المُجمّعة. يتحقق المقتطف التالي من حالة الارتباط من خلال الإبلاغ عن قدرات الجهاز في PyTorch:
import torch
def nvlink_ok(device_a: int, device_b: int) -> bool:
try:
torch.cuda.nvlink.query(device_a, device_b)
return True
except RuntimeError:
return False
pairs = [(0, 1), (0, 2), (1, 3)]
for a, b in pairs:
print(f"NVLink between GPU {a} and GPU {b}: {nvlink_ok(a, b)}")هذا الفحص مهم لأن التوازي الموتر والتوازي الخطي (pipeline parallelism) يستفيدان من الوصول السريع للذاكرة من نظير إلى نظير. إذا كان الزوج الذي يجب أن يشارك نطاق NVHBM لا يُبلغ عن اتصال NVLink، فستتراجع المهمة إلى نقل ذاكرة المضيف وسيكون الإنتاجية أقل بشكل كبير من المتوقع.
الخطوة العملية الثالثة هي مراقبة حركة الذاكرة أثناء عبء عمل تمثيلي. باستخدام nsys، أداة التنميط النظامية من NVIDIA، يمكنك التقاط ملف تعريف قصير لتشغيل تدريب أو استدلال لمعرفة ما إذا كانت عمليات النقل من نظير إلى نظير تحدث بنطاق NVLink:
nsys profile --trace=cuda,nvtx -o profile_output python train.pyبعد التنميط، افحص أثر عمليات ذاكرة CUDA للنقل بين الأجهزة. مع NVLink Fusion، يجب أن تظهر هذه التحويلات كنسخ سريعة من جهاز إلى جهاز بدلاً من نسخ مضيفة مرحلية. إذا رأيت Memcpy DtoH متبوعًا مباشرة بـ Memcpy HtoD، فإن التطبيق لا يستخدم مسار NVLink ويفقد معظم فائدة HBM المُجمّع.
نمط استخدام أكثر تقدمًا، لا يزال في جانب التخطيط، هو هيكلة النموذج ووضع البيانات حول تقارب الذاكرة. بالنسبة لحلقة تدريب مجزأة، ضع كل جزء من النموذج على وحدة GPU التي تمتلك أقرب منطقة NVHBM. المقتطف التالي هو توضيح بسيط لكيفية ربط المهندس أجزاء النموذج بأجهزة مرتبة ذات اتصال مؤكد:
import torch
import torch.distributed as dist
dist.init_process_group(backend="nccl")
rank = dist.get_rank()
local_gpu = rank % torch.cuda.device_count()
torch.cuda.set_device(local_gpu)
# In a memory-pooled system, the "world" of NVHBM is visible
# as a per-node memory domain; this is where a framework would
# register the buffer with the local fabric manager.
model_shard = torch.nn.Linear(8192, 8192).cuda(local_gpu)
buffer = torch.empty(2 * 1024 * 1024, dtype=torch.int8).cuda(local_gpu)القصد من هذا المقتطف هو إظهار أن نموذج البرمجة يظل مألوفًا: torch.cuda.set_device، و .cuda()، و NCCL لا تزال تعمل. ما يتغير هو تخطيط الموارد — تحديد الجزء الذي يعمل أين بناءً على موقع مجموعة NVHBM، وليس فقط على حدود ذاكرة كل وحدة GPU.
المراقبة والتحقق في الإنتاج
تشغيل بنية NVHBM التحتية يعني التعامل مع الذاكرة كمورد مُراقَب من الدرجة الأولى. بالإضافة إلى فحوصات وقت التثبيت، يجب أن تشمل عمليات الإنتاج مراقبة مستمرة. يوفر الأمر nvidia-smi dmon عرضًا متجددًا لاستخدام GPU ونشاط الذاكرة:
nvidia-smi dmon -s pum -d 1يحدد العلم -s pum أعمدة الطاقة والاستخدام والذاكرة، ويتم التحديث كل ثانية. بالنسبة لصحة NVLink على وجه التحديد، راقب أخطاء الارتباط بمرور الوقت:
nvidia-smi nvlink -g -eيعرض هذا عدّادات أخطاء NVLink لجميع الروابط. القيم غير الصفرية التي تزداد بشكل مطرد هي إشارة خطيرة، خاصة على نظام يعتمد على NVHBM، لأن حركة الذاكرة عبر رابط متدهور ستسبب زيادات في زمن الاستجابة أو، الأسوأ من ذلك، إعادة محاولات تصحيح الأخطاء التي تلتهم النطاق الترددي الفعال.
بالنسبة للمجموعات، قم بدمج هذه الفحوصات في مهمة تحقق مجدولة بدلاً من الاعتماد على الفحص اليدوي العرضي. يمكن أن يقوم إدخال cron بتشغيل تشخيص خفيف كل ساعة:
0 * * * * /usr/bin/dcgmi diag -r 1 > /var/log/nvlink_diag.log 2>&1القيود المفتوحة وما لم يوضحه الإعلان بعد
إعلان NVLink Fusion هو علامة فارقة تقنية، لكنه يترك العديد من الأسئلة التشغيلية مفتوحة. لا يوفر المنشور مواصفات مفصلة في ملخّصه العام: لا أرقام نطاق ترددي دقيقة، ولا حدود لسعة الذاكرة لكل مجموعة NVHBM، ولا قائمة بأجهزة GPU، ولا أسعار، ولا جدول زمني للإصدار يتجاوز وصفه بأنه بنية تحتية من الجيل التالي. يجب على المهندسين التعامل مع الإعلان كاتجاه رسمي، وليس كمواصفات شراء. حتى تنشر NVIDIA وثائق برنامج التشغيل، وملاحظات إصدار البرامج الثابتة، ودليل برمجة NVHBM، يجب فهم خطوات التكامل الملموسة في هذه المقالة كخط أساس منضبط لأي مجموعة GPU متصلة بـ NVLink — ممارسات سليمة تخدم الفرق بغض النظر عن كيفية كشف واجهة برمجة تطبيقات NVHBM النهائية.
هناك أيضًا سؤال مفتوح حول دلالات الفشل. عندما تقرأ وحدة GPU من قسم NVHBM بعيد عبر NVLink Fusion، فإن ملف زمن الاستجابة يختلف عن HBM المحلي. قد لا تستفيد أعباء العمل ذات أنماط الوصول العشوائي الدقيقة بالتساوي. سيحتاج مطورو التطبيقات إلى تنميط نوى الحوسبة الخاصة بهم بدلاً من افتراض أن جميع عمليات الوصول إلى الذاكرة تتصرف بشكل متماثل.
الخلاصة
إعلان NVIDIA بأن NVLink Fusion يجلب NVHBM إلى البنية التحتية للذكاء الاصطناعي من الجيل التالي هو بيان واضح حول الشكل المستقبلي للحوسبة المتسارعة: الذاكرة أصبحت موردًا مُجمّعًا ومتصلًا عبر النسيج بدلاً من كونها خاصية ثابتة لكل وحدة GPU. بالنسبة لفرق البنية التحتية للذكاء الاصطناعي، فإن الآثار العملية فورية حتى قبل وصول الأجهزة. ينتقل تخطيط السعة من وحدة GPU إلى نطاق النسيج. الانضباط التشغيلي — روابط NVLink سليمة، وبرامج ثابتة متسقة، وطوبولوجيا ذاكرة مُتحقق منها — يصبح أكثر أهمية لأن الرابط المتدهور الآن يدهور الذاكرة، وليس الاتصال فقط. وحزمة البرامج، على الرغم من بقائها مألوفة عبر CUDA و PyTorch، ستتطلب عادات جديدة للقياس والتنسيب القائم على التقارب.
الحقيقة المؤكدة من مدونة مطوري NVIDIA هي الاتجاه نفسه. الاستجابة الهندسية هي التحضير: حافظ على فحوصات صحة NVLink صارمة، وقم بقياس سلوك الذاكرة تحت أعباء العمل الحقيقية، وابنِ مجموعات تتمتع بالمرونة اللازمة للتعامل مع HBM كمجموعة وليس كتكلفة ثابتة مرتبطة بكل وحدة GPU. هذا التحضير، أكثر من أي إصدار برنامج تشغيل منفرد، هو ما سيمكن الفرق من الاستفادة الكاملة من NVHBM عند وصول أنظمة NVLink Fusion إلى الإنتاج.



