Ihre KI-Fabrik benötigt eine Infrastruktur, die tatsächlich funktioniert

Die agentische KI-Lösung von Nutanix abstrahiert Komplexität und schafft eine nahtlose Brücke von den Entwicklern von KI-Agenten zu den KI-Fabrikbetreibern. Diese Full-Stack-Lösung bietet ein Cloud-Betriebsmodell für KI-Fabrikbetreiber, indem sie den Betrieb vereinfacht, Leistung und Sicherheit maximiert und die Token-Kosten optimiert. Gleichzeitig ermöglicht es den Entwicklern von KI-Agenten, sich auf Innovation, Modellmanagement und die schnelle Skalierung von Inferenz-Prozessen zu konzentrieren.

Entwickler von agentenbasierter KI sehen sich in einem hohen Maß mit „Innovationsreibung“ konfrontiert, da sie sich in einer fragmentierten Landschaft von Modellen, Werkzeugen und Datensilos zurechtfinden müssen, anstatt sich auf den Aufbau von Intelligenz zu konzentrieren. Entwicklern fehlt ein einheitlicher, sicherer Weg, um diverse LLMs und Open-Source-Tools für die schnelle Weiterentwicklung von Anwendungen zu nutzen – von einfachen Chat-Schnittstellen bis hin zu anspruchsvoller agentenbasierter KI, die in der Lage ist, echte Geschäftsergebnisse zu erzielen.

Für KI-Fabrikbetreiber ist die größte Herausforderung, geschäftlichen Nutzen zu liefern, gemessen in Zeit bis zu Tokens und Kosten pro Token aufgrund der Komplexität der Operationen in KI-Fabriken wie: 

• Komplexität bei der Verwaltung vielfältiger und sich schnell entwickelnder KI-Hardware (GPUs, Netzwerke, Storage), 
• Die Komplexität, einen gemeinsamen Zugang zu kritischer KI-Infrastruktur zu gewährleisten, den sicheren Zugriff auf Modelle und Daten sicherzustellen und die Souveränitätsanforderungen einzuhalten
• Die Komplexität der konsistenten Bereitstellung maximaler Performance bei gleichzeitiger Optimierung der Ressourcennutzung in der gesamten KI-Fabrik.
• Die Komplexität der Verwaltung des Lebenszyklus von fragmentierten, maßgeschneiderten Einzellösungen zur Unterstützung von KI-Fabrikprozessen

Das Cloud-Betriebsmodell ist der Ansatz von Nutanix, der die Lücke zwischen KI-Entwicklern und Infrastruktur-Teams schließt. Anstatt fragmentierte Insellösungen oder komplexe Bare-Metal-Cluster zu verwalten, stellt dieses Modell eine einheitliche Full-Stack-Umgebung bereit. Sie ermöglicht es Betreibern, KI-Infrastruktur (GPUs, DPUs und Storage) so einfach wie einen Cloud-Dienst zu verwalten, und gibt Entwicklern sofortigen, sicheren Zugriff auf die Tools und Modelle, die sie benötigen, um Tausende intelligenter Agenten zu skalieren.

Nutanix optimiert die Wirtschaftlichkeit von Token durch mehrere integrierte Effizienzsteigerungen:

• Topologiebewusste Optimierung: Der AHV-Hypervisor platziert Workloads automatisch auf GPU-dichten Servern, um eine optimale Hardwarezuordnung zu erzielen.
• Ressourcen-Offloading: Die Verwendung von DPUs (Data Processing Units) zur Handhabung von Netzwerk- und Sicherheitsaufgaben setzt GPU-Zyklen speziell für die Inferenz frei.
• Intelligenter Speicher: Nutanix Unified Storage bietet eine Hochleistungsschicht für das KV-Cache-Offloading, wodurch teurer GPU-Speicher gespart und größere Kontextfenster ohne Leistungseinbußen ermöglicht werden.

Während Bare-Metal der Standard für das anfängliche Modelltraining war, fehlt es oft an der Sicherheit und Isolation, die für die Skalierung von Agenten in einem Unternehmen erforderlich sind. Nutanix verwendet eine VM-basierte Kubernetes-Infrastruktur, um Folgendes bereitzustellen:

• Leistungsstarke Isolation: Stärkere Multi-Tenancy- und Sicherheitsgrenzen zwischen verschiedenen KI-Workloads.
• Management at Scale: Einfacheres Lebenszyklusmanagement und Ressourcenzuweisung.
• Bare-Metal-Performance: Durch die Nutzung der DPU-Beschleunigung und Topologieerkennung bietet Nutanix die Geschwindigkeit von Bare-Metal mit der Steuerung einer virtualisierten Umgebung.

Das NAI Gateway fungiert als sichere „Eingangstür“ für alle KI-Modelle. Es bietet einen einheitlichen Inferenz-Endpunkt, der es Unternehmen ermöglicht, in der Cloud gehostete Modelle und private LLMs an einem Ort zu verwalten. Zu den wichtigsten Merkmalen gehören:

• Governance: Tokenbasierte Ratenbegrenzung zur Vermeidung von „Rechnungsschocks“.
• Beobachtbarkeit: Vollständige Einsicht darüber, wer Ressourcen verbraucht und wie.
• Konnektivität: Unterstützung für das Model Context Protocol (MCP), das es Agenten ermöglicht, sich sicher mit privaten Unternehmensdaten und -tools zu verbinden.

Die Lösung reduziert „Innovationsreibung“, indem sie eine entwicklerzentrierte Umgebung bietet, in der sie das Infrastruktur-Setup umgehen können. Durch die Nutanix Kubernetes Platform (NKP) erhalten Entwickler Zugang zu einem umfangreichen KI-Katalog, einschließlich:

• Vorgefertigte Open-Source-Tools (Notebooks, Vektordatenbanken, MLOps-Engines).
• Sofortige Bereitstellung von NVIDIA NIMs und der NVIDIA Nemotron-Modellfamilie.
• Sichere Inferenz-Endpunkte mit einem Klick und schlüsselfertigem Zugang zu Feinabstimmungs-Services.

Nutanix Unified Storage bietet eine skalierbare, leistungsstarke Datenplattform, die speziell für moderne Workloads wie KI und Anwendungen der nächsten Generation entwickelt wurde. Zu den wichtigsten Funktionen gehören:

• Ultraschneller Lesedurchsatz und hohe NVMe-Kapazität zur Verarbeitung massiver Datensätze für KI-Pipelines, einschließlich Inferenz und Retrieval-Augmented Generation (RAG).
• Integration mit der Nutanix Kubernetes Plattform, was eine nahtlose Einführung containerisierter KI/ML-Pipelines und Cloud-native Anwendungen ermöglicht.
• Multi-Protokoll-Datenzugriff, der die Speicherung für verschiedene Workloads vereinfacht und Innovationen beschleunigt.