模型调用失败很常见:网络抖动、上游限流、超时、返回格式异常。没有策略的重试会让故障雪崩,甚至重复扣费。
一、先分类错误
| 类型 | 示例 | 是否重试 |
|---|---|---|
| 客户端参数错误 | 400、404、413、415 | 不重试,修请求 |
| 鉴权错误 | 401 | 不重试,检查 Key |
| 额度不足 | 402 | 不重试,购买套餐 |
| 限流 | 429 | 退避后重试 |
| 上游临时故障 | 502、503、超时 | 有限重试 |
| 业务内容拒绝 | 内容审核不通过 | 不重试,提示用户 |
区分可重试与不可重试错误,设计幂等、退避和降级,避免重试放大故障。
模型调用失败很常见:网络抖动、上游限流、超时、返回格式异常。没有策略的重试会让故障雪崩,甚至重复扣费。
| 类型 | 示例 | 是否重试 |
|---|---|---|
| 客户端参数错误 | 400、404、413、415 | 不重试,修请求 |
| 鉴权错误 | 401 | 不重试,检查 Key |
| 额度不足 | 402 | 不重试,购买套餐 |
| 限流 | 429 | 退避后重试 |
| 上游临时故障 | 502、503、超时 | 有限重试 |
| 业务内容拒绝 | 内容审核不通过 | 不重试,提示用户 |