Google Cloud zeigt zwei TPUs für die Agenten-Ära und bleibt zugleich NVIDIA-Kunde

Google Cloud hat auf der Cloud Next 2026 die achte TPU-Generation vorgestellt. Sie besteht zum ersten Mal aus zwei separaten Chips: TPU 8t fürs Training und TPU 8i für die Inferenz. Beide sollen die Workloads der „agentischen Ära“ bedienen, in der KI-Agenten mehrstufige Aufgaben eigenständig abarbeiten.

Warum spaltet Google die TPU-Generation in zwei Chips auf?

Bisher war jede TPU-Generation ein Universal-Beschleuniger für das Training und die Modelle. Mit der achten Generation weicht Google Cloud erstmals von diesem Ansatz ab. Im offiziellen Blog-Beitrag gab Amin Vahdat bekannt, dass beide Chips gezielt für unterschiedliche Lastprofile entwickelt wurden. Vahdat ist SVP und Chief Technologist für AI und Infrastructure bei Google.

Der TPU 8t ist auf hohen Durchsatz und große Bandbreiten zwischen Chips ausgelegt. TPU 8i bietet mehr Speicherbandbreite für Anwendungen mit besonders niedriger Latenz.

Der Hintergrund ist eine Marktverschiebung. Die Ausführung von KI-Modellen dominiert inzwischen den Großteil der Rechenzeit auf KI-Beschleunigern. Agenten-Workloads treiben diese Entwicklung weiter voran. Ein einziger Agent kann pro Aufgabe Hunderte kurze Modell-Aufrufe absetzen, jeder davon mit Latenzanforderungen im Bereich von Millisekunden. Die Anforderungen an Hardware für den Einsatz von KI-Modellen unterscheiden sich so stark vom Training, dass ein gemeinsamer Chip zwangsläufig Kompromisse erfordert.

Beide Chips können laut Google verschiedene Workloads ausführen. Die Spezialisierung dient laut Hersteller der Effizienz, nicht einer harten Trennung. Beide Chips sollen noch im aktuellen Kalenderjahr erhältlich sein.