Nutanix表示,隨著企業加速導入代理式AI,自主代理(AI Agent)將愈來愈頻繁地與大型語言模型(LLM)、企業應用程式及業務資料互動,以自動化執行複雜工作流程。然而,企業也面臨治理、存取安全及模型使用成本等新課題,因此推出Nutanix Agent Gateway,作為代理式AI、AI模型及企業工具之間的集中管理入口,提供單一控制點,統一管理代理程式活動、存取政策及Token使用情況。
Nutanix指出,透過整合至NAI平台,Agent Gateway可保護代理程式、AI模型與企業應用程式之間的互動,並建立一致的治理機制。無論企業採用公有雲託管的大型語言模型,或自行建置的私有模型,都能以一致方式管理與控管,提升AI部署的安全性與管理效率。
Nutanix台灣總經理劉國龍表示,亞太及日本地區企業導入AI的速度持續加快,但治理能力仍普遍落後於應用發展。當企業從實驗階段邁向大規模部署代理式AI後,最大的挑戰已不再只是模型效能,而是如何建立足夠的可視性與治理能力,掌握AI代理在營運環境中的使用方式與行為。
他表示,Nutanix Agent Gateway正是為了解決這項需求而推出,透過一致化的控制介面,協助IT團隊取得管理、保護及擴展AI代理所需的可視性與治理能力,不論底層模型部署於公有雲或企業內部,都能更有信心推動代理式AI落地。
在成本管理方面,Nutanix表示,Agent Gateway可集中管理不同模型供應商的Token使用情況,協助IT及平台團隊監控用量、分配成本,並掌握AI支出,也能進一步辨識適合轉移至自行託管模型的工作負載,降低對外部AI服務的依賴,提升整體成本效益。
此外,Agent Gateway也提供多項治理功能,包括針對模型上下文協定(MCP)伺服器設定細緻存取權限、集中監控Token用量與LLM運作狀態、完整保留MCP請求稽核紀錄,以及透過單一API整合外部供應商模型與企業自行託管模型,讓企業可依不同應用需求彈性選擇模型,同時透過集中管理Token配額及使用限制,提升AI環境的治理能力。
Nutanix表示,未來企業無論部署公有雲或私有AI模型,都可透過Agent Gateway建立一致的治理與安全架構,協助IT團隊統一管理存取政策、治理機制及Token使用情況,加速代理式AI在企業環境中的落地應用。
點擊閱讀下一則新聞