Google präsentiert TPU 8tx und 8i Max für das Zeitalter der Agenten
Google erweitert sein Portfolio an TPU-Modellen der achten Generation um die Modelle TPU 8tx und TPU 8i Max – womit insgesamt vier neue Systeme innerhalb eines Jahres hinzukommen. Diese Erweiterungen richten sich jeweils auf sichere, vertrauliche Auswertungen sowie große Kontextfenster, um komplexe Arbeitslasten zu bewältigen. In der Ankündigung wird auf spezialisierte Hardware für Sicherheit, Dichte und logisches Denken hingewiesen, ergänzt durch neue Software-Updates zur Verbesserung der Zugänglichkeit für Entwickler.
Tags
Kurze Zusammenfassung
Google erweitert sein Portfolio an TPU-Modellen der achten Generation um die Modelle TPU 8tx und TPU 8i Max – womit insgesamt vier neue Systeme innerhalb eines Jahres hinzukommen. Diese Erweiterungen richten sich jeweils auf sichere, vertrauliche Auswertungen sowie große Kontextfenster, um komplexe Arbeitslasten zu bewältigen. In der Ankündigung wird auf spezialisierte Hardware für Sicherheit, Dichte und logisches Denken hingewiesen, ergänzt durch neue Software-Updates zur Verbesserung der Zugänglichkeit für Entwickler.
Google präsentiert TPU 8tx und 8i Max für das agierende Zeitalter
Google hat sein Portfolio an TPU-Systemen der achten Generation um zwei neue Systeme erweitert: TPU 8tx und TPU 8i Max. Laut Google AI markiert diese Ankündigung die Hinzufügung von vier neuen TPU-Systemen innerhalb eines Jahres und signalisiert einen strategischen Wandel hin zu spezialisierten Hardwarelösungen, die für das „agierende Zeitalter“ konzipiert sind. Während die vorherige Generation TPU 8t für großangelegtes Training sowie TPU 8i für Echtzeit-Logikverarbeitung eingeführt hat, begegnen diese neuen Systeme spezifischen Herausforderungen, die entstehen, wenn Unternehmen autonome Agenten einsetzen: Datensicherheit auf Hardwareebene sowie große Kontextfenster.
Spezialisierung für sichere, hochkontextbezogene KI
Der Hauptantrieb für diese neuen Systeme ist die Entwicklung von KI-Aufgaben von einfachen Inferenzvorgängen zu komplexen, mehrschrittigen Agentenoperationen. Google weist darauf hin, dass Unternehmen, je mehr die Rechenleistung vom menschlichen Niveau auf das Niveau von Agenten steigt, Beschleuniger benötigen, die in der Lage sind, mit großen Kontextfenstern zu arbeiten und sensible Daten ohne Einbußen bei der Sicherheit zu verarbeiten.
TPU 8tx adressiert den dringenden Bedarf an vertraulicher Inferenz. In der traditionellen Informatik wird Daten zwar im Ruhezustand oder während der Übertragung verschlüsselt, muss jedoch während der Verarbeitung im Speicher entschlüsselt werden, was ein Sicherheitsrisiko darstellt. TPU 8tx, das auf dem gleichen Silizium wie TPU 8t basiert und mit 5th-Generation AMD EPYC-CPU-Hosts kombiniert wird, integriert die Sicherheit direkt in die Hardwareebene. Diese Architektur schützt sensible Daten sowie Modellgewichte auch während der aktiven Nutzung.
Google weist darauf hin, dass der TPU 8tx für regulierte Unternehmen und Regierungen optimiert ist, die fortschrittliche oder proprietäre Modelle zusammen mit ihren sensibelsten Daten betreiben. Das System unterstützt das private Feintunen, die Modelldestillation sowie das Verstärkungslernen für Agenten, ohne dass es zu einer Migration sensibler Daten zwischen separaten Clustern kommt. Zudem liefert der TPU 8tx dank der Verwendung derselben Low-Latency Boardfly-Netzwerke, die für Echtzeit-Verarbeitung genutzt werden, im Vergleich zum TPU 8t eine bis zu 2x geringere Latenz bei nahezu null Leistungseinbußen. Dadurch können mehrstufige Agenten effizient arbeiten, während strenge Sicherheitsprotokolle eingehalten werden.
Die „Gedächtniswand“ überwinden mit TPU 8i Max
Während Sicherheit für einige Arbeitslasten von größter Bedeutung ist, stoßen andere auf die „Gedächtniswand“. Wenn Dutzende von KI-Agenten in riesigen Software-Codebasen zusammenarbeiten oder gleichzeitig Stunden an Videoinhalten analysieren, wird die Speicherkapazität oft zum Engpass, wodurch Prozessoren zum Stillstand kommen.
Der TPU 8i Max ist speziell dafür entwickelt, dieses Problem zu lösen. Das System kombiniert zwei Low-Latency TPU 8i-Chips in einem einzigen Paket. Diese Doppel-Chip-Konfiguration skaliert Rechenleistung und Speicherkapazität im Gleichschritt, wodurch die doppelte Rechenleistung, doppelt so viel SRAM sowie doppelt so hohe HBM-Bandbreite im Vergleich zum Standard-TPU 8i. erreicht werden.
Laut Google sorgt diese Konstruktion dafür, dass Prozessoren stets über die notwendigen Daten verfügen, wodurch große Arbeitslasten nicht zum Stillstand kommen. Zudem passt der TPU 8i Max doppelt so viel Silizium in den vorhandenen Rack-Raum, sodass Rechenzentren pro Quadratfuß und pro Watt deutlich mehr Rechenleistung einsetzen können. Diese hohe Rechenleistungsdichte ist entscheidend, um die riesigen Kontextfenster zu bewältigen, die moderne agentbasierte Arbeitsabläufe erfordern.
Ein modulares Vorgehen zur Systemausgewogenheit
Die Einführung der TPU 8tx und TPU 8i Max spiegelt eine grundlegende architektonische Entscheidung wider, die vor über einem Jahrzehnt getroffen wurde: Den Computer um den Chip herum zu bauen. Google betont, dass das Entwerfen eines neuen Chips einen mehrjährigen Herstellungsprozess erfordert, der durch die Gesetze der Physik begrenzt ist, während das Entwerfen eines neuen Systems schnelle Anpassungen bei der Verpackung, der Hochgeschwindigkeitsmerkmitteltechnologie, dem optischen Netzwerk und der Sicherheit ermöglicht.
Diese Modularität ermöglicht es Google, spezialisierte Supercomputer innerhalb weniger Monate statt Jahre bereitzustellen. Das erweiterte Portfolio der achten Generation umfasst nun vier unterschiedliche Systeme, von denen jedes eine bestimmte Phase des KI-Lebenszyklus abdeckt:
- TPU 8t: Entworfen für Skalierungsübungen mit maximaler „Goodput“ (pro Watt bereitgestellte nützliche Intelligenz).
- TPU 8i: Der Reasoning-Engine, der darauf abzielt, die Speichermauer zu durchbrechen, indem er Verzögerungen in der Kommunikation zwischen Chips verringert.
- TPU 8tx: Optimiert für sichere und vertrauliche Inferenzprozesse sowie für Übungen in kleinem Umfang.
- TPU 8i Max: Konzipiert für riesige Kontextfenster sowie die höchste Rechendichte pro Rack.
Diese Vielfalt ermöglicht es Kunden, für jede Phase des agierenden Lebenszyklus maßgeschneiderte Beschleuniger auszuwählen – von der Schulung von Grundmodellen bis zur Ausführung autonomer Agenten in der Produktion.
TPUs für alle Entwickler zugänglich machen
Um die neue Hardware zu ergänzen, arbeitet Google gleichzeitig daran, Barrieren für die Einführung zu beseitigen, um TPUs genauso einfach nutzbar zu machen wie Allzweck-Hardware. Das Unternehmen hat TorchTPU als Open Source veröffentlicht, wodurch PyTorch-Code und Hugging Face-Modelle direkt auf TPUs laufen können, zusammen mit fertig konfigurierten Backend-Lösungen für Inferenz Engines wie vLLM und SGLang.
Darüber hinaus integriert sich ein neues Open-Source-TPU-Agenten-Set (derzeit in Vorabversion) direkt in Programmierwerkzeuge wie Claude Code, Cursor und Google Antigravity. Dieses Set automatisiert die Einführung von TPUs, diagnostiziert Engpässe und justiert benutzerdefinierte Kerne mithilfe einfacher Sprache. Für Produktivumgebungen ermöglicht der neue Open-Source XLA Serving Engine es Teams, Modelle in Python zu trainieren und sie direkt in einer niedriglatenzigen C++-Laufzeitumgebung über TPUs, GPUs und CPUs bereitzustellen.
Google weist zudem auf Verbesserungen in der Produktivitätsrate hin. Die Agent Compute Engine-Software stellt automatisch inaktive Sitzungen für stateful KI-Agenten ein und setzt sie wieder fort, wodurch die Kosten für die Betriebsinfrastruktur während von Datenbankabfragen oder Interaktionen mit externen Tools verursachter Pausen gesenkt werden. Zudem vereint die Offenlegung von TPU Sync, einer Modell-Zustands-Schicht für TPU-Cluster, Speicher, Speichermöglichkeiten und Netzwerkfunktionen in der Software. Diese Schicht ist darauf ausgelegt, den Speicherverbrauch von Agenten zu bewältigen, die in Kontexten mit Millionen von Tokens sowie in kontinuierlichen Verstärkungslernschleifen arbeiten.
Fazit
Der Start von TPU 8tx und TPU 8i Max stellt eine bedeutende Erweiterung der Infrastrukturkapazitäten von Google für das Zeitalter der Agenten dar. Indem Google die dualen Herausforderungen einer sicheren, vertraulichen Inferenz sowie der Verwaltung großer Kontextfenster angeht, zielt es darauf ab, die spezialisierte Hardware bereitzustellen, die für die nächste Generation von KI-Anwendungen erforderlich ist. In Kombination mit jüngsten Softwareaktualisierungen, die die Einstiegshürden für Entwickler senken, rücken diese Systeme das Portfolio der achten Generation von TPU-Modellen in die Lage, eine breite Palette von Unternehmen und Anwendungsfällen – von Forschungslaboren bis zu regulierten Unternehmen – zu unterstützen.
Quelle: https://blog.google/innovation-and-ai/infrastructure-and-cloud/global-network/tpu-8i-max-and-8tx



