NVIDIA CUDA 13.5 يوفر دعم NVIDIA Vera Rubin GA
توفر NVIDIA CUDA 13.5 الإمكانية العامة لاستخدام بنية معالجات الرسوميات NVIDIA Vera Rubin، مما يسمح باستخدامها في البيئات المؤسسية. كما يوسع هذا الإصدار دعم Windows on Arm ليشمل NVIDIA DGX Station for Windows، مع توفير ميزات جديدة لجدولة المهام وإدارة الذاكرة.
الوسوم
ملخص سريع
توفر NVIDIA CUDA 13.5 الإمكانية العامة لاستخدام بنية معالجات الرسوميات NVIDIA Vera Rubin، مما يسمح باستخدامها في البيئات المؤسسية. كما يوسع هذا الإصدار دعم Windows on Arm ليشمل NVIDIA DGX Station for Windows، مع توفير ميزات جديدة لجدولة المهام وإدارة الذاكرة.
NVIDIA CUDA 13.5 توفر دعم NVIDIA Vera Rubin GA
مع استمرار الذكاء الاصطناعي والحوسبة المتسارعة في توسيع حدود ما هو ممكن، يأتي أحدث إصدار من NVIDIA CUDA لتحقيق أداء وقدرة غير مسبوقين. يوفر NVIDIA CUDA 13.5 توافرًا عامًا (GA) على منصات جديدة رئيسية، مما يمثل معلمًا مهمًا لبيئات الإنتاج المؤسسية.
وفقًا لشركة NVIDIA، فإن هذا الإصدار ينقل دعم هندسة GPU NVIDIA Vera Rubin من مرحلة الوصول المبكر للمطورين إلى التوافر العام. بالإضافة إلى ذلك، فإن دعم Windows on Arm، الذي أصبح متاحًا بشكل عام منذ إصدار CUDA 13.4، يمتد الآن بشكل خاص إلى NVIDIA DGX Station for Windows. تضمن هذه التوسعات في المنصات قدرة المطورين على نشر الأعباء على مجموعة أوسع من تكوينات الأجهزة مع استقرار يتناسب مع الإنتاج.
تحسينات في مجالات الموقع المحلي وتقسيم الموارد
أحد التركيزات الأساسية لـ CUDA 13.5 هو زيادة قابلية التخصيص في كيفية جدولة عمل GPU من خلال مجالات الموقع المحلي. أصبحت التطبيقات الآن تمتلك خيارًا بين تقسيمات المعالجات المتعددة المتساوية (SM) عبر مجالات الموقع المحلي أو تقسيمات تشمل جميع المعالجات المتاحة.
بشكل افتراضي، تستخدم التقسيمات ذات السياق الأخضر المحلي نفس عدد المعالجات المضمونة لكل مجال، مع ترك المعالجات الإضافية خارج هذه التقسيمات. ومع ذلك، فإن العلامة الجديدة cudaDevSmResourceGroupLocalityDomainSupplementalSms، بالاقتران مع cudaDevSmResourceGroupLocalityDomainId، تسمح للتطبيقات بتضمين هذه المعالجات الإضافية ضمن كل مجال مختار. يتيح ذلك استخدام جميع معالجات الجهاز عند التقسيم عبر مجالات الموقع المحلي، رغم أن حجم التقسيمات الناتجة قد يختلف.
لتسهيل هذه المرونة، يمكن للتطبيقات استخدام وضع الاكتشاف في واجهة برمجة التطبيقات cudaDevSmResourceSplit(). تسمح هذه الواجهة للمطورين بالحصول على عدد المعالجات في كل تقسيم وتوزيع الأعباء وفقًا لذلك. كما هو مذكور في الوثائق، فإن هذه القدرة تتيح للمستخدمين الاختيار بين التساوي والقابلية للتنبؤ بحجم المعالجات في كل مجال محلي، أو اختيار أقصى عدد من المعالجات التي يمكن لكل مجال استخدامها لاستغلال أكبر قدر ممكن من أجهزة GPU.
ابتكارات خدمة NVIDIA Multi-Process Service v3
توفر خدمة NVIDIA Multi-Process Service (MPS) v3 تحكمًا كبيرًا في كيفية مشاركة الأعباء العملية لوحدة المعالجة الرسومية، بدءًا من جدولة الخوادم الفردية وصولًا إلى تخصيص الموارد لمجموعات العملاء. تعزز عدة ميزات جديدة إدارة الموارد وكفاءتها.
تقسيم الوقت المرجح وتوازن الأحمال
يسمح تقسيم الوقت المرجح للمسؤولين بمنح دورات معالجة أطول للخوادم التي تستضيف أعباء عمل تحتاج إليها. يمكن للمستخدمين تحديد قيمة أساسية لتقسيم الوقت، وتعديلها حسب كل خادم MPS، وضبط مدى سرعة تبديل وحدة المعالجة الرسومية بين الأعباء العملية بشكل مستقل.
يتيح توازن أحمال أجزاء SM استخدام الأعباء العملية لسعة تتجاوز الجزء الأساسي الخاص بها عند توفر الموارد. تشمل هذه الميزة آليات الاقتراض والإعارة. يمكن للمستخدمين تفعيل الاقتراض باستخدام --max-chunks والسماح لجزء معين بإعارة أجزائه SM في حال عدم وجود عملاء مرتبطين به باستخدام --shareable=true. هذه الإعدادات مستقلة، مما يعني أن الجزء يمكنه الاقتراض أو الإعارة أو القيام بكليهما. تستعيد خدمة MPS الموارد المستعارة قبل إعادة تخصيصها، بينما تظل التطبيقات ترى حجم الجزء الأساسي ثابتًا.
التوجيه القائم على Cgroup وتخصيص المساحات الاسمية
يربط التوجيه القائم على Cgroup مجموعات العمليات الخاصة بمُشغّل الأعباء العملية بسياسات موارد خدمة MPS. من خلال تعيين فرع cgroup v2 إلى مساحة اسمية لخدمة MPS، يتم توجيه العملاء الذين يتصلون عبر المنفذ الرئيسي للخادم تلقائيًا إلى تلك المساحة الاسمية.
علاوة على ذلك، يسمح تخصيص أجزاء SM حسب كل مساحة اسمية للمسؤولين باختيار جزء معين لكل جهاز مرة واحدة وتطبيق هذا الاختيار على كل عميل يتم توجيهه إلى تلك المساحة الاسمية. هذا يلغي الحاجة إلى ضبط CUDA_MPS_SM_PARTITION بشكل منفصل لهؤلاء العملاء. تحتل تخصيصات المساحات الاسمية الأولوية، بينما تحتفظ الأجهزة التي لا يوجد لها تخصيص بخيار المتغيرات البيئية كبديل.
المحاسبة القائمة على الاستطلاع للذاكرة
لتحسين موثوقية إدارة الذاكرة، تم تقديم خيار بديل قائم على الاستطلاع للمحاسبة الخاصة بالذاكرة. يوفر هذا الميزة حلًا بديلًا عند غياب إشعارات عتبة مجموعات cgroup أو عدم موثوقيتها. أثناء اتخاذ قرارات الطرد، يمكن لـ MPS قراءة الاستخدام الحالي والحدود مباشرة بدلاً من الاعتماد على حالة الإشعارات المخزنة مؤقتًا. لفرض الاستطلاع، يمكن للمستخدمين تشغيل nvidia-cuda-mps-control memacct set force_polling=true قبل بدء المحاسبة الخاصة بالذاكرة. تشير NVIDIA إلى أن ذلك يزيد من العمل لكل قرار طرد ولكنه يزيل الاعتماد على تسليم الإشعارات.
تواصل CUDA Tile والرسوميات المتعددة
يضيف CUDA 13.5 دعمًا للتواصل بين الرسوميات المتعددة مباشرة داخل نوى CUDA Tile. تسمح المؤشرات من نوع Unicast للنوى بالوصول إلى الذاكرة الموجودة على رسومية أخرى متصلة عبر NVLink. بالإضافة إلى ذلك، تدعم المؤشرات من نوع Multicast وعمليات multimem المخصصة عمليات الجمع والتخزين عبر رسوميات متعددة ضمن هياكل NVIDIA NVSwitch مع دعم NVIDIA NVLink SHARP.
تقوم التطبيقات بإعداد تخصيصات الذاكرة المشتركة قبل التشغيل، ثم تدمج عمليات التواصل مع الحسابات داخل النوى. تتيح هذه القدرة تنفيذ أعباء عمل مثل ضرب المصفوفات المدمج وعمليات الجمع بين الرسوميات المختلفة.
عرض تجريبي لتكامل SIMT
في العرض التجريبي العام، يسمح CUDA 13.5 لنوى CUDA Tile باتصال دوال أجهزة مكتبة SIMT مباشرة. في السابق، كان من الممكن فقط دمج كود نوى Tile ومكتبة SIMT عبر حدود النوى، مع مرور البيانات عبر الذاكرة العالمية بينهما. مع هذا التحديث، يمكن للنوى المكتوبة بلغة cuTile Python أو CUDA Tile C++ استدعاء دوال أجهزة من مكتبات SIMT في وسط كودها الخاص، على بيانات موجودة بالفعل في السجلات أو الذاكرة المشتركة.
تشمل المكتبات المدعومة NVIDIA NVSHMEM، NVIDIA CCCL Coop، NVIDIA Warp، وNVIDIA MathDx. يغطي NVIDIA MathDx كل من NVIDIA cuFFTDx، NVIDIA cuBLASDx، NVIDIA cuSolverDx، وNVIDIA nvCOMPDx. تؤكد NVIDIA أن دعم التكامل هذا سيتم تفعيله قريبًا من قبل كل من هذه المكتبات.
لتمكين عرض المسبق في C++، يقوم المستخدمون بالتجميع باستخدام nvcc --tile-preview simt وإرسال tilelib إلى مُجمّع tile. في cuTile Python، يتم استخدام الدالة cuda.tile_preview.foreign_call المقدمة من حزمة cuda.tile_preview. توضح NVIDIA أنه في الإصدار 13.5، يغطي عرض التكامل بين Tile-SIMT دوال المكتبة فقط؛ ومن المخطط إضافة دعم لاستدعاء الدوال المخصصة __device__ من كود tile في إصدارات مستقبلية.
دعم برامج تشغيل Windows على Rubin
ابتداءً من هندسة NVIDIA Rubin، يدعم CUDA نموذج عرض برامج تشغيل Windows (WDDM) ونموذج برامج تشغيل Microsoft للحوسبة (MCDM). يوفر MCDM نموذج برنامج تشغيل خاص بالحوسبة فقط. تؤكد NVIDIA صراحةً أن Tesla Compute Cluster (TCC) غير مدعوم على Rubin والرسوميات المتقدمة اللاحقة. وبالتالي، يجب على التطبيقات وأدوات النشر التي تفترض استخدام وضع TCC استخدام إعدادات WDDM أو MCDM المدعومة لنظامها المستهدف.
تحديثات CUDA Python و CCCL
يواصل CUDA Python من NVIDIA توسيع إمكانية الوصول الخاصة بلغة Python إلى برمجة CUDA. يقدم مكتبة النواة الأساسية لـ CUDA Python cuda.core 1.2 نسخًا جماعية للذاكرة، وإطلاق برنامجي معتمد على البرنامج (PDL)، وتجميع أثناء التشغيل أبسط، بالإضافة إلى تحديثات أكثر مرونة لرسومات CUDA.
يقوم النموذج الجديد cuda.core.utils.copy_batch() بتقديم عدة نسخ للمخازن عبر استدعاء واحد لبرنامج تشغيل CUDA. يوفر CopyOptions التحكم في ترتيب الوصول إلى المصادر، وإرشادات مواقع الذاكرة، وسلوك التداخل. على سبيل المثال، يقوم الكود التالي بتقديم نسختين مستقلتين باستخدام مخازن المصدر والوجهة الموجودة:
from cuda.core.utils import copy_batch
# Each source and destination pair must have matching sizes.
# Copies within the batch must not alias.
copy_batch(stream, srcs=[src_a, src_b], dsts=[dst_a, dst_b])
stream.sync()يعرض LaunchConfig الآن خاصية PDL من خلال خيار programmatic_stream_serialization. على الرسوميات ذات القدرة الحسابية 9.0 أو الأحدث، يمكن للنوى المتعاونة أن تتداخل في التنفيذ داخل نفس تيار CUDA، مما يسمح لنواة معتمدة على أخرى ببدء عمل مستقل قبل اكتمال النواة السابقة.
يمكن للتطبيقات أيضًا تحديث عقد تعريف الرسومات قبل التنفيذات المستقبلية وتعديل عقد الرسومات القابلة للتنفيذ من خلال عروض graph[node] دون إعادة إنشاء الرسومات. تشمل التحديثات المدعومة معاملات النوى، ونسخ الذاكرة، ومجموعات الذاكرة، والرسومات الفرعية، والأحداث، ودوال الاستدعاء للجهاز المضيف.
في إصدار CCCL 3.5، يتم توفير واجهات برمجة التطبيقات للضبط العام لـ CUB. كما يشمل التحديث عمليات مسح بنقاط عشرية قابلة لإعادة تنفيذها واختيار Top-K جماعي مدمج في FlashInfer. بالإضافة إلى ذلك، تستخدم عمليات التقليل المعتمدة على البيانات أعداد العناصر من ذاكرة الجهاز باستخدام cuda::args::deferred.
الخلاصة
تمثل NVIDIA CUDA 13.5 تطورًا كبيرًا في أدوات الحوسبة المتسارعة، خاصة مع التوافر العام لمعمارية NVIDIA Vera Rubin. من خلال توفير تحكم دقيق في مجالات المحلية، وتحسين MPS v3 باستخدام تقسيم الزمن بالأوزان وتوجيه cgroup، وتمكين الاتصال المباشر بين الـ GPU المتعددة داخل نوى CUDA Tile، يمنح هذا الإصدار المطورين القدرة على تحسين الأعباء العملية من حيث الحجم والكفاءة.
كما أن دمج دعم Windows on Arm لجهاز DGX Station والانتقال إلى نماذج WDDM/MCDM لمعمارية Rubin يوسعان نطاق التطبيقات أكثر. ومع استمرار NVIDIA في تحسين هذه الإمكانيات من خلال الإصدارات التجريبية العامة وتحديثات المكتبات، يظل النظام البيئي مستعدًا لدعم الجيل القادم من بنية تحتية الذكاء الاصطناعي.



