部署规划工具
设计您的私有 AI 部署
在创建云资源之前,为客户端 AI 应用、AI Gateway 和 AI Server 工作节点构建完整拓扑。本规划器中的每个“工作节点”都是运行模型的 AI Server 节点。
部署参数
实时拓扑
推荐
网关与托管工作节点池
应用和 API 客户端
10 users/devices · HTTPS / OpenAI API
AI Gateway
路由、健康检查、故障转移
指标、预算、审计和模型存储
基础设施估算
—
软件许可证
—
每月参考总额
—
美元,税前
仅为规划估算,并非报价。 费率为 2026 年 8 月 21 日的公开价格快照。估算不含数据传输、公有 IPv4、负载均衡器、监控数据摄取、备份、支持计划、折扣、预留或 Spot 容量、税费及模型特定性能要求。
请与安全和平台团队验证设计,对所选模型进行基准测试,确认 GPU 配额和区域 SKU 可用性,再在供应商计算器中为最终架构定价。
在批准之前,使用 私人人工智能采购清单 来验证数据路线、人工监督、运营、总成本和退出条款。
实用起点
试点
使用一个 CPU 工作节点验证网络、密钥、客户端兼容性和运维。这能证明部署可行,但不代表生产推理速度。
团队
从 AI Gateway 后的两个 GPU 工作节点开始。一个处理流量时可维护另一个,并可在不改客户端的情况下扩容。
生产
在不同故障域使用至少三个工作节点,并配置生产控制平面 SLA、自动扩缩护栏、持久模型存储、TLS 入口及标准可观测性栈。