兜底与降级:模型挂了,产品不能跟着挂

ap1.1 教过重试:超时、限流、5xx——该重试的重试。那一节的结论在那一节是对的。

但这一节要打破它:当服务是"挂了"而不是"抖了一下"的时候,重试是这套体系里最没用、也最贵的动作。

实测:主模型宕机,12 次请求——

• 只用主模型:成功 0/12,耗时 36 秒;
• 加上重试 3 次:成功还是 0/12,耗时 126 秒;
• 失败就切备用:12/12,49 秒;
• 再加个熔断器:12/12,20 秒。

重试把耗时涨了 3.5 倍,可用性一点没动。这一节讲的就是:什么时候该重试,什么时候该换条路走。