Was sind Neoclouds? Der Aufstieg der KI-zentrierten Cloud-Infrastruktur

Was sind Neoclouds?

Neoclouds sind spezialisierte, GPU-zentrierte Cloud-Computing-Provider, die speziell für den Betrieb von KI-Workloads wie Modelltraining und Inferenz anstelle von Mehrzweck-Computing entwickelt wurden. Die Nachfrage generativer KI nach dichten GPU-Clustern und Netzwerken mit hoher Bandbreite hat den Rahmen gesprengt, für den herkömmliche Cloud-Plattformen konzipiert wurden, wodurch diese neue Kategorie von Providern entstanden ist.

Im Gegensatz zu Hyperscalern (AWS, Microsoft Azure, Google Cloud), die breite Servicekataloge anbieten, die für ein möglichst breites Spektrum an Allzweck-Workloads ausgelegt sind, konzentrieren sich Neoclouds eng auf die Bereitstellung von dichtem GPU-Computing, High-Speed-Netzwerken und Bare-Metal-Performance für KI. Prominente Beispiele sind CoreWeave, Lambda, Crusoe, Nebius und Vultr.

Der Begriff entstand Ende 2024 und 2025 und hat sich seither zu einer Industriestandard-Kategorie entwickelt. Ihr Umfang ist bereits beträchtlich und wächst rasant. 

Laut der Synergy Research Group überstiegen die Umsätze von Neoclouds im Jahr 2025 25 Milliarden US-Dollar und erreichten allein im vierten Quartal 9 Milliarden US-Dollar – ein Anstieg von 223 % im Jahresvergleich. Der gleichen Analyse zufolge wird sich der Markt bis 2031 der Marke von 400 Milliarden US-Dollar nähern, was einer anhaltenden durchschnittlichen jährlichen Wachstumsrate von 58 % entspricht und die aktuellen Verpflichtungen zum Ausbau sowie die Kluft zwischen KI-Rechenbedarf und den Kapazitäten der Hyperscaler widerspiegelt. 

Diese Entwicklung spiegelt eine strukturelle Realität wider: Die Nachfrage nach GPU-beschleunigtem Computing übersteigt weiterhin die Kapazitäten, die herkömmliche Hyperscaler bereitstellen können. Dies ist kein zyklischer Spike. Dies spiegelt eine signifikante Verlagerung bei dem Ort wider, an dem KI-Computing stattfindet.

Was sind GPU-Neoclouds und warum sind sie wichtig?

Die meisten Neoclouds sind in der Praxis GPU-Neoclouds. Das Verständnis der Kategorie beginnt mit dem Verständnis, warum die GPU das entscheidende Element ist.

Eine GPU (Graphics Processing Unit) ist ein auf paralleles Rechnen optimierter Prozessor, der Tausende von Berechnungen gleichzeitig ausführt, während eine CPU Aufgaben nacheinander (sequenziell) verarbeitet. Das Training von KI-Modellen und Inferenz sind massiv parallele Probleme, weshalb sie von GPUs und nicht von CPUs angetrieben werden. Dies ist die Grundlage des Verbrauchsmodells „GPU-as-a-Service“ (GPUaaS), bei dem Kunden GPU-Kapazitäten on demand mieten, anstatt Hardware direkt zu kaufen.

Zu den prägenden Merkmalen einer GPU-Neocloud gehören:

• GPU-First-Architektur: Rechenleistung, Netzwerke und Storage sind auf Beschleuniger-Performance optimiert, nicht auf Allzweck-Virtual-Machines.

• Bare-Metal- oder Thin-VM-Zugriff: Workloads laufen nah an der Hardware, wodurch der Virtualisierungs-Overhead minimiert wird, der die KI-Performance beeinträchtigen kann.

• High-Speed-Netzwerk-Fabric: InfiniBand oder 400G-/800G-Ethernet verbindet GPU-Cluster für das distribuierte Training.

• Schmaler Servicekatalog: Ein fokussierter Satz von KI-Computing-Services anstelle von Hunderten zusammenhangloser Angebote.

• On-Demand- und verbrauchsbasierter Zugriff: Stündliche GPU-Preise ohne die in Hyperscaler-Umgebungen üblichen, mehrschichtigen Gebühren.

Was sind die wichtigsten Vorteile von Neoclouds für KI-Workloads?

Für die Teams, die sie bewerten, wird der Wert von Neoclouds an Ergebnissen gemessen, nicht an Spezifikationen. Jeder Vorteil beantwortet eine direkte Frage: Was bedeutet dies für das Unternehmen?

• Schnellerer Zugang zu KI-Kapazitäten: Die Provisionierung erfolgt innerhalb von Minuten statt Wochen, und neue Standorte sind innerhalb von Monaten statt Jahren einsatzbereit.

• Geringere Kosten pro GPU-Stunde: Zweckorientierte Infrastruktur kann eine deutlich bessere Wirtschaftlichkeit pro Einheit für rechenintensive KI-Workloads ermöglichen, wobei Neoclouds High-End-GPUs im Regelfall zu Preisen unterhalb vergleichbarer Hyperscaler-Instanzen anbieten.

• Vorhersagbare, leistungsstarke KI-Workloads: Bare-Metal-Zugriff und KI-optimierte Netzwerke eliminieren den Virtualisierungs-Overhead und die „Noisy Neighbors“-Effekte, die General-Purpose-Clouds plagen.

• Transparente, verbrauchsbasierte Preisgestaltung: Stündliche GPU-Preise ohne die in Hyperscaler-Umgebungen üblichen, mehrschichtigen Gebühren.

• Zugriff auf neueste GPU-Hardware: Neoclouds stellen neue GPU-Generationen typischerweise Wochen nach der Markteinführung bereit, nicht erst Monate später.

Diese Vorteile machen Neoclouds besonders stark für Burst-Kapazitäten, Experimente und das Training von Frontier-Modellen – also genau jene Workloads, bei denen es am meisten auf einen schnellen Zugriff auf die neuesten Beschleuniger ankommt. Für Steady-State-Inferenz rund um die Uhr oder hochgradig regulierte Datensätze verschiebt sich jedoch das Kalkül, und genau dieser Unterschied wird prägen, wie Unternehmen KI in den kommenden Jahren architektonisch aufbauen.

Wie unterscheiden sich Neoclouds von Hyperscalern?

Dieselben Hyperscale-Plattformen, die sich bei elastischen Web-Workloads bewährt haben, können für KI einfach nicht länger Einzellösungen aneinanderstückeln. Das nächste Jahrzehnt wird nicht dadurch definiert werden, wer die meisten Services hat, sondern wer KI-Rechenleistung mit der Geschwindigkeit, Skalierung und Souveränität bereitstellen kann, die das Unternehmen heute fordert.

Die Unterscheidung lässt sich am besten als Breite im Vergleich zur Tiefe formulieren. Auf der einen Seite bieten Hyperscaler Breite: Hunderte Services, globale Regionen und Allzweck-Funktionen. Auf der anderen Seite bieten Neoclouds Tiefe: einen fokussierten GPU-Katalog, vorhersagbare KI-Performance und eine einfachere Preisgestaltung.

Das aufkommende Muster ist keine Substitution, sondern Spezialisierung. Unternehmen führen Geschäftsanwendungen zunehmend auf Hyperscalern und KI-Workloads auf Neoclouds aus und orchestrieren beide als Teil einer umfassenderen hybriden Multi-Cloud-Strategie. Die Glaubwürdigkeit von Neoclouds hängt davon ab, sie als Ergänzung zu Hyperscalern anzuerkennen, nicht als Ersatz für sie. Zusammen bilden sie die beiden Enden einer hybriden KI-Realität, die Unternehmen nun als Einheit verwalten lernen müssen.

Was sind gängige Neocloud-Use-Cases?

Neoclouds bedienen die Workloads, die eine dichte, dedizierte GPU-Kapazität erfordern. Zu den häufigsten gehören:

• Training von KI-Modellen im großen Maßstab: Das Training von Foundation-Modellen oder das Fine-Tuning von Large Language Models auf Tausenden von GPUs, wobei der on-demand-Zugriff auf Beschleuniger wichtiger ist als deren Besitz.

• KI-Inferenz mit hohem Durchsatz: Ausführen von Produktions-Inferenz-Workloads, bei denen vorhersagbare Latenz und dedizierte Performance unerlässlich sind.

• Entwicklung generativer KI-Anwendungen: Start-ups und Enterprise-KI-Teams bauen auf GPU-Kapazitäten auf, ohne die Beschaffungsvorlaufzeiten für den Hardwarekauf abwarten zu müssen.

• Wissenschaftliches und High-Performance-Computing: Genomik, Klimamodellierung, Wirkstoffforschung und groß angelegte Simulationen.

• Souveräne und regulierte KI-Workloads: Unternehmen und Organisationen des öffentlichen Sektors, die eine KI-Infrastruktur benötigen, die innerhalb einer bestimmten Jurisdiktion verbleibt.

Genau an diesem letzten Use Case kreuzt sich das Wachstum der Kategorie mit einem umfassenderen geopolitischen Wandel, und genau hier hören Neoclouds auf, eine reine Beschaffungsentscheidung zu sein, und werden zu einer Souveränitätsstrategie.

Wie unterstützen Neoclouds souveräne KI?

Die Neocloud-Kategorie wächst nicht nur in ihrer Größe; sie wächst auch in ihrer geografischen und politischen Vielfalt. Mittlerweile sind weltweit mehr als 100 Neoclouds tätig, die in Europa, dem Nahen Osten und Asien expandieren.

Sovereign AI ist ein wichtiger Treiber. Einfach ausgedrückt handelt es sich bei Sovereign AI um eine KI-Infrastruktur, die Daten und Governance innerhalb eines bestimmten Landes oder einer bestimmten Jurisdiktion hält – genau dasselbe Prinzip, auf dem auch eine sovereign cloud basiert. Dies ist aufgrund von Vorschriften zur Datenresidenz (Data Residency), regulierten Branchen wie Behörden, Verteidigung, Gesundheitswesen und dem Finanzwesen sowie wachsenden geopolitischen Bedenken hinsichtlich der Abhängigkeit von Hyperscalern wichtig. 

Rahmenwerke wie der EU AI Act und DORA (Digital Operational Resilience Act) gießen diese Erwartungen nun in Gesetze und verlangen von Unternehmen, sensible Daten und operative Abhängigkeiten innerhalb kontrollierter Jurisdiktionen zu halten. Hyperscaler, die für riesige, breit einsetzbare Infrastrukturen konzipiert sind, hatten in der Vergangenheit Schwierigkeiten, echte Lokalisierung zu bieten, obwohl viele inzwischen souveräne und regionsspezifische Cloud-Umgebungen anbieten, die genau auf diese Anforderungen zugeschnitten sind. 

Regionale und souveräne Neoclouds sind möglicherweise gut für diese Workloads geeignet: Sie können Souveränitätsziele durch die Bereitstellung lokalisierter Infrastrukturen und lokalisierter Regionen unterstützen, sodass sensible geistige Eigentumsrechte und regionale Daten ihren Zuständigkeitsbereich niemals verlassen. 

Um diese Souveränität zu gewährleisten, ist jedoch mehr als nur ein lokalisiertes Rechenzentrum erforderlich. Dies erfordert eine Plattform für die hybride Multi-Cloud, die Datenresidenz, Governance und Sicherheit über den gesamten Footprint hinweg durchsetzt – eine Disziplin, die eher durch rechtliche, operative und architektonische Entscheidungen als durch ein einzelnes Produktmerkmal geprägt ist. Souveränität ist kein Ziel, sondern eine Disziplin, und die Neoclouds, die erfolgreich sein werden, sind diejenigen, die mit der Plattform gekoppelt sind, um sie durchzusetzen.

Von der GPU-Vermietung zu Full-Service-Plattformen: Wie entwickeln sich Neoclouds weiter?

Das frühe Neocloud-Modell war einfach: reine GPU-Vermietung mit unkomplizierter stundenbasierter Preisgestaltung. Dieses Modell ändert sich. Führende Neoclouds bewegen sich im Stack nach oben, um einen breiteren Katalog von KI-Services anzubieten:

• GPU-as-a-Service (GPUaaS)

• Kubernetes-as-a-Service (K8s-aaS)

• Notebooks-as-a-Service

• Vector Database-as-a-Service (für Retrieval-Augmented Generation und agentische KI)

• Models-as-a-Service

Diese Verschiebung offenbart die zentrale operative Herausforderung: Die Bereitstellung von Services für mehrere Unternehmenskunden über eine gemeinsam genutzte GPU-Infrastruktur erfordert starke Mandantenfähigkeit (Multitenancy), Metering und Governance – Funktionen, die die meisten Neoclouds noch nicht von Grund auf aufgebaut haben. Fast alle Neoclouds haben sich unabhängig voneinander auf denselben Basis-Stack geeinigt, verfügen jedoch nach wie vor über keinen echten, mandantenfähigen und kontrollierten KI-Servicekatalog mit integriertem Metering und Abrechnung. 

Kurz gesagt haben Neoclouds das Hardware-Versorgungsproblem gelöst, aber sie haben das Enterprise-Software-Problem nicht gelöst. Der Aufbau einer KI-Cloud ist ein Software-Problem, und reine GPUs stellen keine vollständige Architektur dar. Die Neocloud-Provider, die für die nächste Phase am besten positioniert sind, werden diejenigen sein, die diese Lücke schließen.

Die Software-Lücke: Warum Neoclouds eine Plattformschicht benötigen

Neoclouds haben die Hardware-Bereitstellung gelöst, jedoch nicht die Anforderungen von Unternehmen an Enterprise-Software wie Mandantenfähigkeit (Multitenancy) und Governance. Plattformen wie die Nutanix Cloud Platform sind ein Beispiel für Software, die diese Lücke schließt, indem sie Orchestrierung, Governance und hybrides Routing zwischen Neoclouds und On-Premises-Infrastrukturen bereitstellt.

Nutanix ist keine Neocloud. Sie bietet Softwarefunktionen, die Neocloud-Provider dabei unterstützen, wie Enterprise-KI-Dienstleister zu agieren, und es Unternehmen ermöglichen, Neocloud-Kapazitäten als Teil eines hybriden KI-Betriebsmodells zu verwalten.

Für Neocloud-Entwickler bietet die Nutanix Cloud Platform die Software-Grundlage für die Bereitstellung sicherer, mandantenfähiger KI-Services:

• Die Nutanix Kubernetes Platform bringt Orchestrierung, Ausfallsicherheit und Day-2-Operations der Enterprise-Klasse für Cloud-native KI-Workloads in Rechenzentren, Edge-Umgebungen und Public Clouds.

• Nutanix Cloud Manager vereinheitlicht Governance und Operations über eine zentrale Konsole und optimiert so das Management, das Neoclouds zum Skalieren benötigen.

• Nutanix Enterprise AI erleichtert die Bereitstellung, Überwachung und Anpassung von KI-Modellen mit rollenbasierten Zugriffskontrollen und air-gapped Operations und wandelt rohe Beschleunigerkapazität in einen geregelten, mandantenfähigen KI-Dienst um. 

Zusammen bilden diese eine Software-Schicht, die Unternehmen dabei helfen kann, eine unternehmensbereite KI-Betriebsumgebung aufzubauen, die Souveränitätsziele unterstützt.

Für Unternehmen stellt dieselbe Plattform die Beziehung zu Neoclouds in einen neuen Kontext. Anstatt ein Ziel zu sein, zu dem migriert werden muss, wird eine Neocloud zu einem Endpunkt, zu dem dynamisch geroutet wird. Das Nutanix Agent Gateway fungiert als einheitliche Steuerungsebene: Burst- und nicht sensible Workloads werden an eine Neocloud geleitet, während souveräne und regulierte Workloads on-premises verbleiben – alles verwaltet über eine Schnittstelle. 

Das Prinzip ist einfach: Bringen Sie KI dorthin, wo Ihre Daten gespeichert sind; senden Sie Ihre Daten nicht dorthin, wo die GPUs gemietet werden. Der Besitz von KI-Infrastruktur punktet bei den Gesamtbetriebskosten bei dauerhaftem Volumen sowie bei der Data Gravity, während Neoclouds die eigene Kapazität erweitern, anstatt sie zu ersetzen. Unternehmen müssen sich nicht zwischen On-Premises-KI und einer Neocloud entscheiden; sie benötigen eine einzige Steuerungsebene, um beide zu verwalten.

Aus diesem Grund ist digitale Souveränität kein nachträglicher Gedanke. Gekoppelt mit Nutanix können Neoclouds Unternehmen dabei unterstützen, Ziele im Bereich der souveränen KI in bestimmten, lokalen Regionen zu verfolgen, wobei sensible geistige Eigentumsrechte und regionale Daten innerhalb ihrer Gerichtsbarkeit verbleiben und gleichzeitig eine Cloud-native GPU-Skalierbarkeit erreicht wird.

Neoclouds sind eine leistungsstarke architektonische Komponente, die ihr volles Potenzial nur in Kombination mit einem hybriden KI-Betriebsmodell entfalten. Um zu sehen, wie Nutanix Ihre Neocloud unterstützen oder Ihre hybride KI-Strategie vereinheitlichen kann, sprechen Sie mit einem Experten oder entdecken Sie unsere KI-Lösungen..