NVIDIA H100 GPUs: تشغيل الموجة القادمة من ابتكار الذكاء الاصطناعي

وحدات معالجة الرسوميات NVIDIA H100: دفع الموجة القادمة من ابتكار الذكاء الاصطناعي

يتميز مشهد الذكاء الاصطناعي الحديث بتقدّم مذهل. ففي كل أسبوع، تنشر مختبرات الأبحاث الكبرى ومزودو الخدمات السحابية breakthroughs جديدة، بدءًا من نماذج اللغة الكبيرة التي تكتب التعليمات البرمجية إلى نماذج الانتشار التي تولّد صورًا واقعية. تقدم مدونات الذكاء الاصطناعي من OpenAI وGoogle وMicrosoft تدفقًا مستمرًا من هذه التطورات، بينما تشارك شركات البنية التحتية مثل Replicate إرشادات عملية حول نشر وتشغيل أحدث النماذج. وفي قلب هذه الثورة تقع وحدة معالجة الرسوميات NVIDIA H100. صُممت H100 بناءً على بنية Hopper، وهي مصممة خصيصًا للتعامل مع المتطلبات الحسابية الهائلة لتدريب وخدمة أحدث نماذج التعلم العميق.

إن H100 ليست مجرد نسخة أسرع من سابقتها؛ بل تمثل تحولًا جوهريًا في طريقة تصميم أنظمة الذكاء الاصطناعي. بفضل محرك المحولات المخصص (Transformer Engine)، وعمليات الموتر المتسارعة، وعرض النطاق الترددي الهائل للذاكرة، أصبحت H100 الأداة الفعلية الأساسية للمؤسسات التي تدرب نماذج بحجم متطور. لكن الأجهزة المتطورة لا تكون مفيدة إلا بقدر قدرتك على تشغيلها. في هذه المقالة، سأرشدك خلال دليل عملي كامل لتشغيل وحدة H100 على خادم Linux، بدءًا من تثبيت برنامج التشغيل وصولًا إلى تشغيل أعباء عمل تدريب حقيقية.

المتطلبات

قبل الخوض في الأوامر وملفات الإعدادات، دعنا نحدد ما تحتاجه للمتابعة بنجاح.

متطلبات الأجهزة

• **وحدة معالجة الرسوميات NVIDIA H100**: تتوفر H100 بعدة عوامل شكل، بما في ذلك وحدة SXM5 (الموجودة عادةً في لوحات HGX الأساسية أو أنظمة NVIDIA DGX) وإصدار PCIe للخوادم القياسية. كلاهما يعمل مع الخطوات أدناه، لكن وحدات SXM تتطلب منصة خادم متوافقة.
• **النظام المضيف**: خادم بمعمارية x86_64 أو ARM64 مع至少 منفذ PCIe عالي النطاق الترددي فارغ واحد (لإصدار PCIe) أو نظام NVIDIA HGX مسبق البناء.
• **ذاكرة النظام**: يُوصى بذاكرة وصول عشوائي (RAM) بسعة 32 غيغابايت على الأقل. لأحجام الدفعات الكبيرة والتدريب متعدد وحدات معالجة الرسوميات، فكّر في 64 غيغابايت أو أكثر.
• **التخزين**: قرص NVMe SSD سريع بمساحة خالية لا تقل عن 100 غيغابايت لنظام التشغيل وبرامج التشغيل ومجموعة أدوات CUDA والنماذج التجريبية. ستتطلب مجموعات بيانات التدريب مساحة إضافية.
• **مصدر الطاقة**: تستهلك بطاقات H100 PCIe حتى 350 واط، بينما يمكن لوحدات SXM أن تستهلك حتى 700 واط. تأكد من أن ميزانية الطاقة والتبريد كافية للتشغيل المستمر.

متطلبات البرمجيات

• **نظام التشغيل**: يُستخدم Ubuntu 22.04 LTS في هذا الدليل، لكن الأوامر متوافقة إلى حد كبير مع توزيعات Linux الحديثة الأخرى.
• **برنامج تشغيل NVIDIA**: يلزم إصدار حديث من برنامج التشغيل (525.60.13 أو أحدث) لدعم H100.
• **مجموعة أدوات CUDA**: يُوصى باستخدام CUDA 12.x للاستفادة الكاملة من بنية Hopper، بما في ذلك محرك المحولات.
• **بيئة الحاويات**: Docker مع مجموعة أدوات حاويات NVIDIA اختياري لكن يُوصى به بشدة لبيئات الذكاء الاصطناعي القابلة للتكرار.

متطلبات الوصول

ستحتاج إلى صلاحيات إدارية (sudo) على الجهاز. إذا كنت تستأجر مثيل H100 سحابيًا، فمن المرجح أن يقدم مزودك صورة أساسية مع برامج تشغيل مثبتة مسبقًا. ومع ذلك، من المفيد فهم عملية الإعداد من الصفر، خاصةً إذا كنت تجهز أجهزتك الخاصة.

خطوات التثبيت التفصيلية

الآن نصل إلى صلب الموضوع. يبدو مسار العمل كما يلي: تحديد الأجهزة، تثبيت برنامج تشغيل NVIDIA، تثبيت CUDA، إضافة cuDNN ومجموعة أدوات الحاويات، وأخيرًا التحقق من كل شيء باستخدام `nvidia-smi`.

الخطوة 1: التحقق من ظهور وحدة معالجة الرسوميات

قبل تثبيت أي شيء، تأكد من أن نظام التشغيل يمكنه رؤية H100. أولاً، استخدم `lspci` لسرد جميع أجهزة PCI وتصفية النتائج المتعلقة بـ NVIDIA:

lspci | grep -i nvidia

يجب أن ترى سطر إخراج يتضمن "NVIDIA" واسم جهاز مثل "H100" أو "H100 SXM". إذا لم يظهر شيء، تحقق من التثبيت الفعلي للبطاقة وكابلات الطاقة وإعدادات BIOS (تأكد من تمكين منافذ PCIe).

الخطوة 2: تحديث النظام وتثبيت أدوات البناء

يأتي برنامج تشغيل NVIDIA كوحدة نواة (kernel module)، لذا ستحتاج إلى رؤوس نواة Linux ومترجم C. حدّث قائمة الحزم وقم بتثبيت الأساسيات:

sudo apt update && sudo apt upgrade -y

يضمن هذا تصحيح نظامك بالكامل قبل المتابعة. بعد ذلك، ثبّت الأدوات اللازمة لبناء وحدات النواة:

sudo apt install -y build-essential dkms linux-headers-$(uname -r)

توفر حزمة `linux-headers-$(uname -r)` الرؤوس المطابقة تمامًا لنواتك الحالية، والتي تعتمد عليها عملية بناء برنامج تشغيل NVIDIA.

الخطوة 3: تثبيت برنامج تشغيل NVIDIA

هناك طريقتان شائعتان لتثبيت برنامج التشغيل: باستخدام مدير حزم التوزيعة، أو باستخدام ملف التشغيل الرسمي من NVIDIA. بالنسبة لمعظم المستخدمين، يكون أسلوب مدير الحزم أبسط وأسهل في الصيانة. على Ubuntu، يمكن لأداة `ubuntu-drivers` تحديد الإصدار الموصى به من برنامج التشغيل وتثبيته تلقائيًا:

sudo ubuntu-drivers install

تقرأ أداة `ubuntu-drivers` قاعدة بيانات الأجهزة وتختار برنامج التشغيل الاحتكاري الأنسب لوحدتك. بعد اكتمال التثبيت، أعد تشغيل النظام حتى تتمكن وحدة نواة برنامج التشغيل من التحميل:

sudo reboot

بمجرد عودة الجهاز إلى الإنترنت، تحقق من حالة برنامج التشغيل باستخدام:

nvidia-smi

إذا نجح تنفيذ الأمر، سترى جدولًا يعرض وحدة H100 الخاصة بك وإصدار برنامج التشغيل وكمية ذاكرة وحدة معالجة الرسوميات. في بيئات الإنتاج، قد ترغب في تثبيت إصدار معين من برنامج التشغيل بدلاً من ذلك. في هذه الحالة، قم بتنزيل ملف `.run` المطلوب من الموقع الرسمي لـ NVIDIA ونفّذه باستخدام:

sudo sh NVIDIA-Linux-*.run

عند استخدام ملف التشغيل، تأكد من أن وحدة نواة NVIDIA غير محملة مسبقًا، وإلا سيحذرك المثبت. أسلوب مدير الحزم أنظف لمعظم السيناريوهات.

الخطوة 4: تثبيت مجموعة أدوات CUDA

مع تثبيت برنامج التشغيل، الطبقة التالية هي مجموعة أدوات CUDA، التي توفر مترجم `nvcc` ومكتبات CUDA. على Ubuntu، يمكنك تثبيت المجموعة مباشرة من مستودع حزم NVIDIA. أولاً، أضف مفتاح مستودع CUDA:

sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.1-1_all.deb

لاحظ أن `apt-key` مهمل على الأنظمة الأحدث؛ يتضمن النهج الأكثر حداثة تنزيل وتثبيت حزمة المفتاح:

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.1-1_all.deb

ثم قم بتثبيت الحزمة التي تم تنزيلها وتحديث قائمة الحزم:

sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt update

الآن قم بتثبيت مجموعة أدوات CUDA الكاملة:

sudo apt install -y cuda-toolkit-12-4

يؤدي هذا إلى تثبيت CUDA 12.4، الذي يتمتع بدعم كامل لبنية H100. للحصول على أحدث إصدار، استبدل `12-4` برقم الإصدار الأحدث المتاح. بمجرد اكتمال التثبيت، أضف ملفات CUDA الثنائية والمكتبات إلى PATH و LD_LIBRARY_PATH:

export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH

لجعل هذه الإعدادات دائمة عبر الجلسات، أضفها إلى ملف تعريف الصدفة الخاص بك:

echo 'export PATH=/usr/local/cuda/bin:$PATH' >> ~/.bashrc
echo 'export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc
source ~/.bashrc

تحقق من المترجم باستخدام:

nvcc --version

يجب أن ترى إخراج الإصدار الذي يؤكد أن CUDA 12.4 نشط. لاحظ أن هذا يقوم بتثبيت المجموعة على مستوى النظام بأكمله؛ إذا كنت تفضل، يمكنك تثبيت وقت تشغيل CUDA فقط عبر حزم `libcudart` وإدارة تبعيات CUDA داخل حاوية Docker. سنعود إلى هذا الخيار لاحقًا.

الخطوة 5: تثبيت cuDNN

توفر cuDNN (مكتبة الشبكات العصبية العميقة CUDA) تطبيقات عالية التحسين لعمليات الشبكات العصبية مثل الالتفاف والطبقات المتكررة. وهي شرط أساسي لمعظم أطر التعلم العميق. قم بتنزيل حزمة cuDNN المناسبة من بوابة مطوري NVIDIA (التسجيل مطلوب)، ثم قم بتثبيتها:

sudo dpkg -i cudnn-linux-x86_64-*.deb

بدلاً من ذلك، إذا قمت بتثبيت مجموعة أدوات CUDA عبر المستودع، يمكنك استخدام `apt` مباشرة:

sudo apt install -y libcudnn8 libcudnn8-dev

تحتوي حزمة `libcudnn8` على مكتبات وقت التشغيل، بينما تتضمن `libcudnn8-dev` الرؤوس اللازمة للترجمة باستخدام cuDNN. بعد التثبيت، تحقق من وجود cuDNN عن طريق فحص مسار المكتبة:

ldconfig -p | grep cudnn

الخطوة 6: تثبيت مجموعة أدوات حاويات NVIDIA (Docker)

إذا كنت تخطط لاستخدام Docker — وأوصي بشدة باستخدامه لعزل بيئات الذكاء الاصطناعي الخاصة بك — فستحتاج إلى مجموعة أدوات حاويات NVIDIA حتى تتمكن الحاويات من الوصول إلى وحدة معالجة الرسوميات. أولاً، تأكد من تثبيت Docker:

sudo apt install -y docker.io
sudo systemctl enable --now docker

بعد ذلك، قم بتثبيت مجموعة أدوات حاويات NVIDIA. ابدأ بإضافة المستودع الرسمي لـ NVIDIA إلى مصادر apt الخاصة بك:

curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg

ثم أضف إدخال المستودع:

echo "deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://nvidia.github.io/libnvidia-container/stable/deb/$(lsb_release -cs)/" | sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

حدّث قائمة الحزم وقم بتثبيت المجموعة:

sudo apt update
sudo apt install -y nvidia-container-toolkit

الآن أعد تشغيل Docker لتسري التغييرات:

sudo systemctl restart docker

الخطوة 7: التحقق من كل شيء

أخيرًا، تحقق من عمل المجموعة بأكملها معًا. قم بتشغيل حاوية تستخدم وحدة معالجة الرسوميات:

docker run --rm --gpus all nvidia/cuda:12.4.0-base-ubuntu22.04 nvidia-smi

إذا طبع الحاوية جدول وحدة معالجة الرسوميات، فهذا يعني أن برنامج التشغيل وCUDA وبيئة تشغيل الحاويات كلها مضبوطة بشكل صحيح. الآن لديك جهاز H100 مجهز بالكامل وجاهز للتعلم العميق.

أمثلة على الاستخدام

مع الإعداد الوظيفي، دعنا ننظر إلى طرق عملية لاستخدام H100. سنغطي التحقق من توفر وحدة معالجة الرسوميات باستخدام PyTorch، وتدريب نموذج صغير، وتشغيل مهمة متعددة وحدات معالجة الرسوميات.

المثال 1: التحقق من عمل PyTorch مع وحدة معالجة الرسوميات

PyTorch هو الإطار الأكثر استخدامًا لأبحاث الذكاء الاصطناعي، ويأتي مُجمّعًا مسبقًا بدعم CUDA. ابدأ بتثبيت PyTorch في بيئة افتراضية جديدة:

python3 -m venv h100-env
source h100-env/bin/activate

ثم قم بتثبيت أحدث إصدار من PyTorch مع دعم CUDA:

pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124

يضمن علم `--index-url` حصولك على الإصدار المرفق بدعم CUDA 12.4. الآن أنشئ سكربت Python قصيرًا للتحقق من اكتشاف H100:

python <<EOF
import torch
print("CUDA available:", torch.cuda.is_available())
print("GPU count:", torch.cuda.device_count())
print("GPU name:", torch.cuda.get_device_name(0))
EOF

يجب أن ترى مخرجات مثل `CUDA available: True` و`GPU name: NVIDIA H100`. بعد ذلك، قم بتشغيل عملية موتر بسيطة على وحدة معالجة الرسوميات للتأكد من تنفيذ العمليات فعليًا على الجهاز:

import torch

# إنشاء موتر عشوائي كبير مباشرة على وحدة معالجة الرسوميات
x = torch.randn(10000, 10000, device="cuda")
y = torch.randn(10000, 10000, device="cuda")

# إجراء ضرب المصفوفات على H100
z = x @ y

# مزامنة وعرض شكل النتيجة
torch.cuda.synchronize()
print("Matrix multiplication complete. Result shape:", z.shape)

يضمن مزيج `device="cuda"` و`torch.cuda.synchronize()` وضع العمليات على H100 وانتظار كود Python لانتهاء الحساب.

المثال 2: تدريب شبكة عصبية صغيرة

دعنا ندرّب شبكة عصبية خفيفة على مجموعة بيانات MNIST لرؤية H100 أثناء العمل. أولاً، تأكد من تثبيت `torchvision` (قمنا بذلك بالفعل أعلاه). ثم احفظ سكربت التدريب التالي في ملف:

# train_mnist.py
import torch
import torch.nn as nn
import torch.optim as optim
from torchvision import datasets, transforms

# تعريف شبكة تغذية أمامية بسيطة
class SimpleNet(nn.Module):
    def __init__(self):
        super().__init__()
        self.fc = nn.Sequential(
            nn.Flatten(),
            nn.Linear(28 * 28, 128),
            nn.ReLU(),
            nn.Linear(128, 10)
        )

    def forward(self, x):
        return self.fc(x)

# تحميل مجموعة بيانات MNIST
transform = transforms.ToTensor()
train_dataset = datasets.MNIST(root="./data", train=True, transform=transform, download=True)
train_loader = torch.utils.data.DataLoader(train_dataset, batch_size=64, shuffle=True)

# إنشاء النموذج ودالة الخسارة والمحسّن، ونقل كل شيء إلى وحدة معالجة الرسوميات
model = SimpleNet().cuda()
criterion = nn.CrossEntropyLoss()
optimizer = optim.Adam(model.parameters())

# التدريب لعدة عصور
for epoch in range(3):
    total_loss = 0.0
    for images, labels in train_loader:
        images, labels = images.cuda(), labels.cuda()
        optimizer.zero_grad()
        outputs = model(images)
        loss = criterion(outputs, labels)
        loss.backward()
        optimizer.step()
        total_loss += loss.item()

    print(f"Epoch {epoch + 1}, Loss: {total_loss / len(train_loader):.4f}")

قم بتشغيل السكربت باستخدام:

python train_mnist.py

على الرغم من أن هذا النموذج صغير، ستلاحظ أن التدريب سريع للغاية. إن H100 أكثر من اللازم لمجموعة MNIST، لكن سير العمل يوضح كيفية تفاعل إطار العمل مع وحدة معالجة الرسوميات.

المثال 3: التدريب متعدد وحدات معالجة الرسوميات باستخدام `torchrun`

تتطلب نماذج الذكاء الاصطناعي الواقعية وحدات معالجة رسوميات متعددة. غالبًا ما تُنشر H100 في مجموعات من ثماني وحدات أو أكثر. تبسّط أداة `torchrun` في PyTorch التدريب الموزع المتوازي للبيانات. افترض أن لديك خادمًا مزودًا بثماني وحدات H100 وتريد تشغيل التدريب عليها جميعًا. أولاً، اكتب دالة تدريب تستخدم `DistributedDataParallel`:

# ddp_train.py
import torch
import torch.distributed as dist
import torch.nn as nn
from torch.nn.parallel import DistributedDataParallel as DDP

def main():
    dist.init_process_group("nccl")
    local_rank = int(os.environ["LOCAL_RANK"])

    model = nn.Linear(1024, 1024).cuda(local_rank)
    model = DDP(model, device_ids=[local_rank])

    optimizer = torch.optim.SGD(model.parameters(), lr=0.01)

    for step in range(100):
        x = torch.randn(256, 1024).cuda(local_rank)
        y = model(x).sum()
        optimizer.zero_grad()
        y.backward()
        optimizer.step()

    dist.destroy_process_group()

if __name__ == "__main__":
    import os
    main()

ثم قم بتشغيل المهمة باستخدام `torchrun`، وأخبره بإنشاء عملية واحدة لكل وحدة معالجة رسوميات:

torchrun --nproc_per_node=8 ddp_train.py

سيتعامل الخلفية NCCL مع الاتصال عالي السرعة بين وحدات H100، سواء عبر NVLink داخل نفس العقدة أو عبر InfiniBand بين العقد.

المثال 4: تشغيل حاوية جاهزة مسبقًا

للتجارب القابلة للتكرار، قم بتشغيل حاوية تعلم عميق جاهزة تتضمن PyTorch وCUDA، ثم قم بتشغيل الكود الخاص بك بداخلها. يوفر كتالوج NGC حاويات رسمية:

docker run --gpus all -it --shm-size=8g nvcr.io/nvidia/pytorch:24.04-py3 bash

يعمل علم `--shm-size=8g` على زيادة الذاكرة المشتركة المتاحة لعمال DataLoader، وهو مصدر شائع للأعطال في حاويات التدريب. بمجرد دخولك إلى الحاوية، يمكنك تشغيل `python` والوصول إلى وحدة معالجة الرسوميات تمامًا كما تفعل على المضيف. هذا النهج مفيد بشكل خاص لمشاركة البيئات مع الزملاء.

الخاتمة

إن وحدة معالجة الرسوميات NVIDIA H100 هي أكثر من مجرد قطعة عتاد؛ إنها المحرك الذي يدفع الموجة الحالية من ابتكار الذكاء الاصطناعي. إن التقدم الملحوظ عبر مدونات الذكاء الاصطناعي لـ OpenAI وGoogle وMicrosoft — نماذج جديدة بقدرات استدلال ناشئة، وأدوات تولد التعليمات البرمجية والفن، وأنظمة تفهم المدخلات متعددة الوسائط — سيكون غير قابل للتصور بدون القدرة الحسابية التي توفرها وحدات معالجة الرسوميات مثل H100. وفي الوقت نفسه، فإن منصات مثل Replicate، التي كتبت عن كيفية نشر H100 على نطاق واسع، تجعل هذه التقنية متاحة للمطورين الذين لا يمتلكون مراكز البيانات الخاصة بهم.

في هذه المقالة، أخذتك من خادم فارغ إلى محطة عمل تعلم عميق مهيأة بالكامل. تحققنا من وحدة معالجة الرسوميات، وقمنا بتثبيت برنامج تشغيل NVIDIA، وأعددنا CUDA وcuDNN، وقمنا بتكوين Docker، وشغّلنا أعباء عمل أحادية ومتعددة وحدات معالجة الرسوميات. قوة H100 مذهلة، لكنها تتطلب أيضًا عناية: فهي تتطلب إدارة دقيقة للطاقة، ومجموعة برمجيات حديثة، ونهجًا منضبطًا للحاويات لاستخدامها بكفاءة.

مع تسارع أبحاث الذكاء الاصطناعي، ستستمر الفجوة بين النماذج الممكنة فقط والنماذج العملية في التقلص. ومع H100 في مجموعة أدواتك، فأنت في وضع جيد لتكون على الحافة المتطورة لتلك المنحنى. الأوامر والأمثلة في هذه المقالة هي نقطة البداية. الآن اذهب وابنِ شيئًا رائعًا.