大規模執行代理式人工智慧需要進行管控

從實際執行環境轉換到大規模運作,同時掌控詞元成本、資料主權及營運,確保代理式人工智慧能高效且安全地執行。

人工智慧競賽已不再僅是實驗階段

人工智慧正從實際執行環境轉向在真實世界環境中運作。在受控實驗中行之有效的方法,一旦擴大到實際應用層面,便會開始失效。

數位圖案

代理式 AI 將改變一切

自主式人工智慧代理的興起,大幅增加了人工智慧的運作規模,進而對治理、可觀察性、運作一致性及基礎架構彈性提出了新的需求。
 

數位圖案

人工智慧經濟面臨壓力

詞元成本、推斷 擴展性、模型過度擴張以及雲端的不確定性,正迫使各組織重新思考人工智慧的營運模式。
 

數位圖案

資料引力與治理至關重要

人工智慧仰賴企業資料,因此隨著使用量的增加,安全性、存取及合規性便顯得至關重要。
 

數位圖案

人工智慧導致營運複雜性增加

要運作人工智慧,必須管理橫跨多個系統與環境的模型、資料、GPU 以及基礎架構。
 

數位圖案

人工智慧正成為核心基礎架構

人工智慧正迅速融入各類應用程式與工作流程,這需要基於加速運算的代理與推斷 基礎架構。
 

企業要將「代理式人工智慧」付諸實行需要什麼

傳統基礎架構無法支援企業級的自主人工智慧系統。要將人工智慧投入實際運作,需要一套專為運作自由度、可預測的人工智慧經濟模式、嚴格的資料保護以及分散式主權而設計的新架構。

第一章

成本與性能效率

透過高效利用基礎架構及針對詞元進行最佳化的推斷,來控制 AI 詞元成本並最佳化性能。

第二章

無所不在的治理與管控

在分散式人工智慧環境中,貫徹一致的治理、安全與政策管控措施。

第三章

統一的人工智慧運作

透過跨環境的一致運作,標準化人工智慧在基礎架構、資料及應用程式間的執行方式。

04

彈性而不受廠商限制

在各種模型、基礎架構和環境中執行人工智慧,且不受限於單一廠商或部署模式。

Nutanix 將 AI 工廠轉型為 AI 雲端,以加速代理式 AI 的採用

Nutanix 為 AI 工廠提供一套雲端運作模式,透過集中式控制平面來管理自主型 AI 在應用程式、模型及基礎架構間的執行方式,進而對實際執行環境中的成本、存取及營運進行管控。

加速人工智慧開發

透過整合式 AI 平台,加速 AI 的開發與部署。

  • 透過現成的 AI 服務目錄,加速代理式 AI 開發進程
  • 無需等待 GPU,立即啟動您的 AI 程式

一致性地治理人工智慧

在分散式人工智慧運作中,實施統一的治理、安全與主權管控措施。

  • 用於集中管理代理、工具及模型的代理閘道
  • 資料主權、合規性與安全強制執行

高效擴展 AI

針對實際執行環境級推斷與自主人工智慧系統,最佳化人工智慧基礎架構與運作。

  • 具詞元效率的推斷,以控制 AI 成本
  • 經 GPU 最佳化的基礎架構,以實現最高利用率

代理式 AI 技術堆疊

應用程式與代理

自主代理、代理式應用程式、實體人工智慧

模型

公開前沿模型、私有模型、微調模型

AI 平台 (Nutanix)

代理閘道、私有推論、AI 控制與治理

資料與人工智慧服務

資料湖、RAG、向量資料庫、管線

AI 最佳化基礎架構軟體 (Nutanix)

虛擬機器、容器、軟體定義網路、儲存

運算基礎架構

GPU、CPU、DPU、網路

Nutanix 作為代理式人工智慧的控制平面,負責管理應用程式、模型與基礎架構在實際執行環境中的協作方式。

透過試用體驗 Nutanix Enterprise AI

無需任何設定或安裝,即可透過導覽體驗親身試用 Nutanix Enterprise AI (NAI)。

一個專為代理式人工智慧打造的開放生態系統

代理式人工智慧的發展速度過快,已超出封閉式架構與分散式基礎架構所能應付的範圍。Nutanix 打造了一個開放的人工智慧生態系統,讓企業能夠彈性整合頂尖的人工智慧模型、基礎架構、框架及雲端環境,同時避免營運上受到廠商限制。

代理式人工智慧藍圖

探索一套用於大規模建置、運作及治理人工智慧系統的實用藍圖。了解如何透過企業級人工智慧所需的基礎架構、資料服務、安全控制措施及營運模式,來支援數千個 AI 代理。

Power International Holding 為旗下 400 多家實體部署人工智慧

了解 Power International Holding 如何透過 Nutanix Enterprise AI,實現跨洲的 AI 治理集中化,並確保敏感資料的安全。


常見問答

擴展代理式人工智慧會帶來顯著的運作複雜性。企業必須在跨雲端、資料中心及邊緣環境中,管理分散式 AI 基礎架構、高度依賴 GPU 的推斷工作負載、資料治理、安全性、可觀察性,以及 AI 經濟效益。隨著自主代理數量不斷增加並與企業系統進行互動,要維持運作的一致性、合規性及掌控度,正變得越來越困難。

代理式人工智慧需要具備可擴展性且已為人工智慧就緒的基礎架構,該基礎架構須能支援高性能推斷、分散式資料存取、Kubernetes 協調、GPU 加速,以及在混合環境中進行安全運作。企業還需要統一的管理、治理及營運自動化,才能在資料中心、公有雲和邊緣據點之間一致地執行人工智慧。

Nutanix 提供了一個開放的人工智慧生態系統,讓企業能夠彈性整合頂尖的人工智慧模型、基礎架構、框架及雲端環境,同時避免營運上受到廠商限制。這種開放式方法確保企業能夠隨著人工智慧技術的發展而靈活調整,使其能夠在各種模型和基礎架構上執行工作負載,且無需依賴單一廠商或架構。

Nutanix 提供了一個專為代理式人工智慧設計的統一運作平台,協助企業在分散式環境中,以一致的方式建置、部署、管理及擴展自主式人工智慧系統。Nutanix 簡化了 AI 基礎架構的運作,支援基於 GPU 的工作負載,並為大規模的代理式 AI 提供集中式治理、安全性、合規性及運作自動化。

Nutanix 在資料中心、公有雲及邊緣環境中提供一致的運作模式。AI 工作負載可根據需求進行部署與遷移,進而實現混合推斷架構與可攜式 AI 運作。

Nutanix 能夠橫跨模型、資料及企業系統將存取控制集中管理。透過基於角色的政策與受到治理的存取權限,組織能夠控制 AI 代理和應用程式與內部工具及資料的互動方式。