Cloud-natives Computing befindet sich in einer Phase starken Wachstums, angetrieben durch den rasanten Anstieg von KI-Inferenz-Workloads. Auf der KubeCon North America 2025 in Atlanta präsentierten führende Vertreter der Cloud Native Computing Foundation (CNCF) ihre neuesten Entwicklungen.Es wird erwartet, dass in den nächsten 18 Monaten Hunderte von Milliarden Dollar in neue KI-gestützte Cloud-native Lösungen investiert werden. Dies markiert einen der bedeutendsten Infrastrukturwandel seit Beginn des Cloud-Zeitalters.
KI-Inferenz ist heute der Hauptmotor für die KI-Einführung in Unternehmen. CNCF-Geschäftsführer Jonathan Bryce betonte, dass Inferenz der Punkt sei, an dem KI “Intelligenz mit der Welt verbindet”. Dadurch werden Modelle wie GPT-5.1 zu Echtzeitdiensten, die von Anwendungen, Agenten und Geschäftssystemen genutzt werden.
Da das Training von Spitzenmodellen extrem kostspielig ist (die geschätzten Trainingsläufe für GPT-5 liegen bei fast einer Milliarde), empfiehlt die CNCF Unternehmen dringend, kleinere, feinabgestimmte Open-Source-Modelle zu priorisieren und deren Nutzen durch Inferenz zu steigern. Diese Entwicklung hat die Nachfrage nach Cloud-nativen Inferenz-Engines wie KServe, NVIDIA NIM, Parasail.io, AIBrix und llm-d erhöht. Diese Plattformen sind für die Bereitstellung und Verwaltung von KI-Workloads mithilfe von Containern und Kubernetes optimiert.
Zu den wichtigsten Vorteilen spezialisierter Inferenzplattformen gehören:
- Niedrigere Betriebskosten
- Schnellere, domänenspezifische Leistung
- Verringerte Abhängigkeit von knappen High-End-GPUs
- Verbesserter Datenschutz und Kontrolle vor Ort
Die Verantwortlichen der CNCF beschrieben eine Konvergenz zwischen Cloud-nativer und KI-nativer Entwicklung, wobei Kubernetes sich weiterentwickelt, um GPUs und TPUs in großem Umfang zu unterstützen. Die CNCF kündigte außerdem an, Ein zertifiziertes Kubernetes AI Conformity Program zur Standardisierung der Ausführung von KI-Workloads in verschiedenen Umgebungen, um eine Portabilität und Zuverlässigkeit ähnlich moderner Cloud-Anwendungen zu gewährleisten.
Der Aufstieg von KI-optimierten “Neoclouds” – GPU-as-a-Service-Anbietern, die ausschließlich für KI-Training und -Inferenz entwickelt wurden – signalisiert zudem eine Neugestaltung des Cloud-Marktes.
Da die Inferenz-Workloads rasant zunehmen (Google verarbeitet mittlerweile über 1,33 Billiarden Token pro Monat), prognostiziert die CNCF, dass die Nachfrage von Unternehmen nach skalierbarer, kosteneffizienter KI-Infrastruktur den Cloud-nativen Markt vorantreiben wird. Die Computerbranche befindet sich in ihrem bisher stärksten Wachstumszyklus.
Quelle:
