نشرت جوجل معالجات TPU 8tx و8i Max لعصر الوكلاء
توسع جوجل في مجموعة وحدات TPU من الجيل الثامن مع وحدة TPU 8tx ووحدة TPU 8i Max، ليصبح لديها أربعة أنظمة جديدة في عام واحد. تهدف هذه الإضافات إلى توفير عمليات استنتاج آمنة وسرية، ونوافذ سياقية كبيرة، على التوالي، لدعم أعباء العمل المعقدة. يسلط الإعلان الضوء على الأجهزة المتخصصة للأمان والكثافة والاستدلال، إلى جانب تحديثات برمجية جديدة لتحسين سهولة الوصول لدى المطورين.
الوسوم
ملخص سريع
توسع جوجل في مجموعة وحدات TPU من الجيل الثامن مع وحدة TPU 8tx ووحدة TPU 8i Max، ليصبح لديها أربعة أنظمة جديدة في عام واحد. تهدف هذه الإضافات إلى توفير عمليات استنتاج آمنة وسرية، ونوافذ سياقية كبيرة، على التوالي، لدعم أعباء العمل المعقدة. يسلط الإعلان الضوء على الأجهزة المتخصصة للأمان والكثافة والاستدلال، إلى جانب تحديثات برمجية جديدة لتحسين سهولة الوصول لدى المطورين.
تكشف جوجل عن TPU 8tx و8i Max لعصر العوامل الذاتية
قامت جوجل بتوسيع مجموعة TPU من الجيل الثامن لديها من خلال إطلاق نظامين جديدين: TPU 8tx وTPU 8i Max. ووفقًا لجوجل AI، فإن هذا الإعلان يمثل إضافة أربعة أنظمة TPU جديدة في عام واحد، مما يشير إلى تحول استراتيجي نحو أجهزة متخصصة مصممة لـ"عصر العوامل الذاتية". بينما قدم الجيل السابق TPU 8t للتدريب على نطاق واسع وTPU 8i للاستدلال في الوقت الفعلي، فإن هذه الإضافات الجديدة تتناول تحديات محددة تظهر مع استخدام الشركات للعوامل الذاتية: أمان البيانات على مستوى الأجهزة ونوافذ السياق الضخمة.
التخصص من أجل ذكاء اصطناعي آمن ذو سياق عالٍ
الدافع الرئيسي وراء هذه الأنظمة الجديدة هو تطور أعباء العمل في مجال الذكاء الاصطناعي من مجرد استنتاجات بسيطة إلى عمليات معقدة متعددة الخطوات تتطلب عوامل ذاتية. تشير جوجل إلى أنه مع انتقال الحوسبة من المستوى البشري إلى مستوى العوامل الذاتية، تحتاج الشركات إلى مسرعات قادرة على الاستدلال ضمن نوافذ سياق ضخمة ومعالجة البيانات الحساسة دون المساس بالأمان.
يتناول TPU 8tx الحاجة الملحة إلى استنتاجات سرية. في الحوسبة التقليدية، يتم تشفير البيانات أثناء الراحة أو أثناء النقل، لكن يجب فك تشفيرها في الذاكرة أثناء المعالجة، مما يخلق نافذة ضعف. أما TPU 8tx، الذي يُبنى على نفس السيليكون المستخدم في TPU 8t ويتم تزويده بمعالجات AMD EPYC من الجيل 5th، فيدمج الأمان مباشرةً في طبقة الأجهزة. تضمن هذه البنية حماية البيانات الحساسة وأوزان النماذج وعزلها حتى أثناء الاستخدام الفعلي.
تؤكد جوجل أن TPU 8tx مُحسّن للشركات والحكومات الخاضعة للرقابة التي تستخدم نماذج رائدة أو حصرية مع بياناتها الأكثر حساسية. يدعم النظام التعديل الدقيق الخاص وتقنية تكرير النماذج والتعلم المعزز للوكلاء دون الحاجة إلى نقل البيانات الحساسة بين المجموعات المنفصلة. علاوة على ذلك، من خلال استخدام شبكة Boardfly ذات التأخير المنخفض نفسها المستخدمة في الاستدلال في الوقت الفعلي، يوفر TPU 8tx تأخيرًا أقل بمقدار يصل إلى 2x مقارنةً بـ TPU 8t مع عقوبة أداء شبه صفرية. وهذا يضمن قدرة الوكلاء المتعددين الخطوات على التحرك بكفاءة مع الحفاظ على بروتوكولات أمان صارمة.
كسر جدار الذاكرة باستخدام TPU 8i Max
بينما تُعد الأمان أمرًا بالغ الأهمية لبعض أعباء العمل، يواجه أعباء أخرى "جدار الذاكرة". عندما يتعاون عشرات الوكلاء الذكائيين عبر قواعد برمجية ضخمة أو يحللون ساعات من الفيديو في نفس الوقت، غالبًا ما يصبح عرض نطاق الذاكرة عائقًا، مما يؤدي إلى توقف المعالجات.
تم تصميم TPU 8i Max خصيصًا لحل هذه المشكلة. يدمج النظام شريحتين من TPU 8i ذوات التأخير المنخفض في عبوة واحدة. توفر هذه التكوينات ذات الشريحتين قدرة حسابية وذاكرة متزامنتين، مما يوفر ضعف القدرة الحسابية وضعف ذاكرة SRAM وضعف عرض نطاق الذاكرة HBM مقارنةً بـ TPU 8i. القياسي.
وفقًا لجوجل، يضمن هذا التصميم بقاء المعالجات مزودة بالبيانات الأساسية، مما يمنع توقف أعباء العمل الكبيرة. بالإضافة إلى ذلك، نظرًا لأن TPU 8i Max يتسع لضعف كمية السيليكون داخل مساحة الرف الحالية، يمكن لمراكز البيانات نشر قدر أكبر بكثير من القوة الحسابية لكل قدم مربع ولكل واط. تعتبر هذه الكثافة العالية للحسابات ضرورية للتعامل مع نوافذ السياق الضخمة المطلوبة في أساليب العمل الوكيلية الحديثة.
نهج معياري لتحقيق توازن النظام
يعكس إدخال TPU 8tx وTPU 8i Max قرارًا معماريًا أساسيًا تم اتخاذه منذ أكثر من عقد من الزمن، وهو بناء الحاسوب حول الشريحة. تؤكد جوجل أنه بينما يتطلب تصميم شريحة جديدة دورة حياة تصنيعية ممتدة لسنوات تخضع لقوانين الفيزياء، فإن تصميم نظام جديد يسمح بإجراء تعديلات سريعة على التغليف والذاكرة عالية السرعة وشبكات الاتصالات الضوئية والأمان.
يتيح هذا الطابع المعياري لجوجل توفير أجهزة كمبيوتر فائقة متخصصة في غضون أشهر بدلاً من سنوات. يشمل محفظة الجيل الثامن الموسعة الآن أربعة أنظمة مختلفة، كل منها موجه لمرحلة معينة في دورة حياة الذكاء الاصطناعي:
- TPU 8t: مصمم للتدريب على نطاق واسع مع أقصى قدر من “الكفاءة” (الذكاء المفيد المقدم لكل واط).
- TPU 8i: محرك الاستدلال المصمم لتجاوز حدود الذاكرة عن طريق تقليل تأخيرات التواصل بين الشرائح.
- TPU 8tx: مُحسّن للاستدلال الآمن والسري والتدريب على نطاق صغير.
- TPU 8i Max: مصمم لنوافذ سياق ضخمة وأعلى كثافة حسابية لكل رف.
يتيح هذا التنوع للعملاء اختيار مسرعات مصممة خصيصًا لكل مرحلة من دورة حياة الذكاء الاصطناعي، بدءًا من تدريب النماذج الأساسية وصولاً إلى تشغيل الوكلاء المستقلة في الإنتاج.
فتح TPU أمام كل مطور
لدعم الأجهزة الجديدة، تعمل جوجل في الوقت نفسه على إزالة العوائق أمام استخدامها، بهدف جعل TPU سهلة الاستخدام مثل الأجهزة ذات الاستخدامات العامة. قامت الشركة بجعل TorchTPU مفتوح المصدر، مما يسمح لكود PyTorch ونماذج Hugging Face بالتشغيل بشكل أصلي على TPU إلى جانب خوادم جاهزة لمحركات الاستدلال مثل vLLM وSGLang.
علاوة على ذلك، يوجد مجموعة جديدة من برامج TPU مفتوحة المصدر (حاليًا في مرحلة تجريبية) تتكامل مباشرة مع أدوات البرمجة مثل Claude Code وCursor وGoogle Antigravity. تقوم هذه المجموعة بأتمتة عملية دمج TPU، وتشخيص نقاط الاختناق، وضبط النوى المخصصة باستخدام لغة بسيطة. بالنسبة للتطبيقات في الإنتاج، يتيح محرك XLA Serving Engine المفتوح المصدر الجديد للفرق تدريب النماذج باستخدام Python وتقديمها مباشرة في بيئة تشغيل C++ منخفضة التأخير عبر TPU وGPU وCPU.
تسلط جوجل أيضًا الضوء على التحسينات في كفاءة الإنتاج. يقوم برنامج Agent Compute Engine تلقائيًا بتعليق واستئناف الجلسات غير المستخدمة لوكلاء الذكاء الاصطناعي ذوي الحالة، مما يقلل من تكاليف البنية التحتية التشغيلية أثناء فترات التوقف الناتجة عن عمليات البحث في قواعد البيانات أو التفاعل مع الأدوات الخارجية. بالإضافة إلى ذلك، فإن فتح مصدر TPU Sync، وهو طبقة لحالة النموذج لمجموعات TPU، يوحد الذاكرة والتخزين وشبكات الاتصال في البرمجيات. تم تصميم هذه الطبقة للتعامل مع متطلبات الذاكرة لدى الوكلاء الذين يقومون بالاستدلال في سياقات تحتوي على ملايين الرموز ودورات التعلم المعزز المستمر.
الخلاصة
يمثل إطلاق TPU 8tx وTPU 8i Max توسعًا كبيرًا في قدرات بنية جوجل التحتية لعصر الوكلاء. من خلال معالجة التحديين المزدوجين المتمثلين في الاستدلال الآمن والسري وإدارة نوافذ السياق الضخمة، تهدف جوجل إلى توفير الأجهزة المتخصصة اللازمة للجيل القادم من تطبيقات الذكاء الاصطناعي. وبالإضافة إلى التحديثات البرمجية الأخيرة التي تقلل من العوائق أمام المطورين، فإن هذه الأنظمة تضع مجموعة TPU من الجيل الثامن في موقع يسمح لها بدعم مجموعة واسعة من الشركات وحالات الاستخدام، بدءًا من المختبرات الرائدة وصولاً إلى الشركات الخاضعة للتنظيم.
المصدر: https://blog.google/innovation-and-ai/infrastructure-and-cloud/global-network/tpu-8i-max-and-8tx



