推理服务弹性伸缩闭环
AI基础设施 · Kubernetes · GPU调度 · 平台治理
请求进入
队列堆积
指标触发
扩缩副本
成本回收
持续优化
指标驱动平台运营