部署規劃工具
設計您的私有 AI 部署
建立雲端資源前,先為客戶端 AI 應用程式、AI Gateway 及 AI Server 工作節點建立完整拓撲。本規劃工具中的每個「工作節點」都是執行模型的 AI Server 節點。
部署輸入
即時拓撲
建議
閘道配合受管理工作節點集區
應用程式及 API 用戶端
10 users/devices · HTTPS / OpenAI API
AI Gateway
路由、健康狀態、容錯移轉
指標、預算、稽核及模型儲存
基礎設施估算
—
軟件授權
—
每月參考總額
—
美元,未連稅
規劃估算,並非報價。 費率為 2026 年 8 月 21 日的公開價格快照。估算不包括資料傳輸、公用 IPv4、負載平衡器、監察資料擷取、備份、支援計劃、折扣、預留或 Spot 容量、稅項及特定模型效能要求。
請與安全及平台團隊驗證設計、測試所選模型、確認 GPU 配額及區域 SKU 可用性,再於供應商計算機為最終架構定價。
在批准之前,使用 私人人工智慧採購清單 來驗證資料路線、人工監督、營運、總成本和退出條款。
實用起點
試點
使用一個 CPU 工作節點驗證網絡、金鑰、用戶端相容性及操作。這可證明部署可行,但不代表生產推理速度。
團隊
先在 AI Gateway 後方使用兩個 GPU 工作節點。一個服務流量時可維護另一個,亦可在不改動用戶端的情況下增加容量。
生產
在不同故障域使用至少三個工作節點,配合生產控制平面 SLA、自動擴展護欄、持久模型儲存、TLS 入口及標準可觀測性工具。