Amazon SageMaker AI 如何停止猜测 TTS 自动扩缩容目标

在 Amazon SageMaker AI 上部署 Kokoro-82M 模型时，通过实测 Q_max 和 T_total 两个指标推导自动扩缩容阈值，替代传统猜测值。该方案利用 ConcurrentRequestsPerModel 原生指标，解决了 TTS 非自回归特性导致的默认监控失效问题，确保流量高峰下延迟符合 SLO。