介紹 Nutanix Agent Gateway：為基於代理的 AI 提供統一治理與成本控制

生成式人工智慧的格局已發生根本性的轉變。最初僅是用來回答問題的反應式聊天機器人，如今已演變為能夠主動與企業工具、業務系統及大型語言模型（LLMs）互動的自主代理。這些代理現在能夠生成具備相同能力水準的子代理。這種演變帶來了層層疊加的挑戰：隨著代理在各組織中日益擴張，其對憑證消耗及存取控制風險所產生的倍增效應也隨之加劇。

正是基於這項挑戰，我們才開發了 Nutanix Agent Gateway 解決方案。一個統一且受到監管的層級，旨在提供成本控制與治理能力，以協助管理這些自主代理的所有使用者。Nutanix Agent Gateway 現已全面供貨 (GA)，並作為 Nutanix Enterprise AI 2.7 版本的一部分提供。

Nutanix Agent Gateway 如何應對這些挑戰

Nutanix Agent Gateway 與 Nutanix Enterprise AI 的私有推斷堆疊緊密整合，旨在為企業提供一個橫跨公有雲託管模型與私有自建模型的一致性控制層。 

從本質上來說，Nutanix Agent Gateway 扮演著集中式閘道器的角色，負責管理並協助保障從代理流向大型語言模型（LLMs）的流量，以及從模型上下文協定（MCP）伺服器*（技術預覽版）存取 GitHub 和 Stripe 等商業工具的流量。組織可跨公有雲與自建推斷環境，實現集中化的政策強制執行、全面的使用狀況可見性，以及即時追蹤詞元成本。

Nutanix Agent Gateway 旨在提供跨不同廠商的集中式詞元可觀察性，讓 IT 和平台團隊能夠追蹤使用狀況、歸因成本，並協助控制過度的詞元消耗。透過這種可見性，團隊能夠將工作負載轉移至自行託管的本地模型，進而最佳化支出，並有助於降低對昂貴託管服務供應商的依賴。

Nutanix Agent Gateway 透過 MCP 伺服器，作為代理與企業工具之間的控制層，對 MCP 伺服器實施存取控制政策及工具層級的篩選機制，使代理能在符合企業治理要求的受控環境中，安全地存取業務工具及私有資料來源。

Nutanix Agent Gateway 搭配 Nutanix Enterprise AI 的私有推斷管理功能，提供了一種機制，讓使用者能夠自行託管私有模型，並透過統一的 API 調用這些模型；同時，僅需配置一次使用者管理與政策，即可讓其同時套用至閘道器與私有推斷環境。

為何人工智慧治理與成本控制在當下至關重要

從實驗性人工智慧到實際執行環境等級的自主代理的轉變，其速度之快，已超出許多治理框架所能跟上的程度。代理不再是孤立的工具，而是已深度整合至企業工具與外部來源之中，用以執行複雜的多步驟工作流程。

缺乏集中管控的基礎架構團隊，必須面對相關的營運與資安風險。若開發人員無法安全地存取模型和代理，便可能建立「影子 AI」，這將對資料外洩及合規標準構成嚴重風險。這引發了關鍵問題：如何在確保 AI 存取安全性的同時，不拖慢開發人員的工作進度？在規模擴大的情況下，該如何維持可見性與掌控度？

Gartner 預測：「到了 2027 年，將有超過 40% 的代理型人工智慧專案因成本攀升、商業價值不明或風險管控不足而遭取消。」1

這凸顯了為何治理與成本控制正逐漸成為企業採用人工智慧時至關重要的要求。若沒有這些工具，成本控制與詞元使用將淪為憑空猜測，而合規工作也將淪為被動應對。Nutanix Agent Gateway 為基礎架構團隊提供集中式管控功能，以支援治理工作，同時讓開發人員能夠無障礙地進行開發。

應對代理型人工智慧的運作挑戰

若缺乏監管，代理系統可能會迅速加劇風險。詞元消耗的規模不斷擴大，卻缺乏實質的可見性，而**存取控制的落差則在每次工具互動中不斷增加，導致治理不一致。Nutanix Agent Gateway 透過以下方式解決此問題：

• Nutanix Agent Gateway 針對 MCP 的治理： 對 MCP 伺服器設定精細的存取控制，使代理能安全地連線至業務工具和私有資料來源
• 統一的可觀察性：集中掌握詞元的使用、MCP 伺服器的存取及 LLM 活動狀況
• 稽核記錄：透過完整的稽核軌跡，記錄每項 MCP 請求，以利 AI 治理
• 統一 API：透過單一 API存取外部供應商的模型及自行託管的模型，讓開發人員能自由選擇最適合特定使用案例的模型 
• 精細的詞元式費率限制：集中強制執行詞元配額與限制，提供各代理和團隊詞元使用情況的即時可見性

Nutanix Agent Gateway 賦予團隊彈性，使其能執行最適合自身的模型、基礎架構和環境，有助於降低受到廠商限制的風險。它可快速部署於公有雲或受支援的 Kubernetes 基礎架構中，讓您從第一天起即可順利運作，並有望降低整體持有成本。

立即開始

所有 Nutanix Enterprise AI 客戶均可使用 Nutanix Agent Gateway。如果您已是我們的客戶，今天即可開始探索最新功能。

請前往https://www.nutanix.com/products/nutanix-enterprise-ai 了解更多資訊並開始使用。 

*「技術預覽」表示這些功能不應在實際執行環境中使用。

1 - Gartner，《推動代理型人工智慧解決方案建構成功的關鍵措施》，作者：Aaron Harrison、Haritha Khandabattu，發表日期：2026 年 4 月 9 日

GARTNER 是 Gartner, Inc. 及／或其相關公司的商標。©2026 Nutanix, Inc.保留所有權利。Nutanix、Nutanix 標誌以及文中提及的所有 Nutanix 產品與服務名稱，均為 Nutanix, Inc. 在美國及其他國家/地區的註冊商標或商標。Kubernetes 是 Linux 基金會在美國及其他國家/地區的註冊商標。本文中提及的所有其他品牌名稱僅供識別之用，且可能為其各自擁有者的商標。本內容可能包含明示及暗示的前瞻性陳述，包括與 NAI 的技術預覽版發布以及計畫中的未來正式版發布相關的內容；這些陳述並非歷史事實，而是基於我們目前的預期、估計及信念。此類陳述的準確性涉及風險與不確定性，並取決於未來事件（包括可能超出我們控制範圍的事件）；實際結果可能與此類陳述所預期或暗示的結果存在重大且不利的差異。本文所載之任何前瞻性陳述僅以本文件日期為準；除法律另有規定外，本公司不承擔任何更新或以其他方式修訂該等前瞻性陳述以反映後續事件或情況之義務。