在调用 AI 接口时偶发的网络闪断、上游超时或限流错误很常见。如果程序遇到错误直接中断用户体验会受到影响。本文介绍一种适合个人项目的自动重试与故障恢复实现方法。为什么基础异常捕获不够很多项目在调用接口时会写这样的代码try:responseclient.chat.completions.create(...)exceptExceptionasexc:print(请求失败,exc)这段代码能防止程序崩溃但它无法解决实际问题临时网络抖动时请求直接放弃遇到限流错误时没有等待就再次发起请求导致失败加剧无法区分“可以重试的临时错误”和“不能重试的参数错误”因此成熟的调用层需要配合自动重试Retry与退避策略Backoff。一、明确哪些错误可以重试不是所有异常都适合重试。盲目重试非但无用还可能加重上游服务负担。1. 适合重试的错误连接中断APIConnectionError请求超时APITimeoutError服务端临时错误5xx 状态码或APIError限流错误RateLimitError2. 不适合重试的错误鉴权失败401 错误Key 无效请求参数错误400 错误如模型名称写错、消息格式非法额度不足如果请求参数本身存在问题重试一百次也无法成功应当直接报错并终止。二、使用指数退避减少连续冲击如果请求因为限流Rate Limit失败立即重试往往会再次失败。合理的做法是逐渐延长重试等待时间也就是指数退避Exponential Backoff第 1 次失败 → 等待 2 秒 第 2 次失败 → 等待 4 秒 第 3 次失败 → 等待 8 秒同时可以加入随机抖动Jitter避免多个客户端在同一时间同时发起重试造成惊群效应。三、Python 实现带重试的请求封装下面是一个结合了异常过滤与退避等待的完整封装示例importtimeimportrandomfromopenaiimportOpenAIfromopenaiimportAPIError,APIConnectionError,APITimeoutError,RateLimitError clientOpenAI(api_keyyour-api-key,base_urlhttps://your-api-domain.com/v1,timeout20.0)RETRYABLE_ERRORS(APIConnectionError,APITimeoutError,RateLimitError,)defask_llm_with_retry(prompt:str,model:stryour-model-name,max_retries:int3)-str:last_exceptionNoneforattemptinrange(1,max_retries1):try:responseclient.chat.completions.create(modelmodel,messages[{role:system,content:你是一个专业的技术助手。},{role:user,content:prompt}])returnresponse.choices[0].message.contentexceptRETRYABLE_ERRORSasexc:last_exceptionexcifattemptmax_retries:break# 计算退避时间2的次方 随机抖动sleep_time(2**attempt)random.uniform(0,1)print(f请求临时失败 ({exc})将在{sleep_time:.2f}秒后进行第{attempt1}次重试...)time.sleep(sleep_time)exceptExceptionasexc:# 不可恢复的错误直接抛出不进行重试raiseRuntimeError(f请求发生不可恢复错误{exc})fromexcraiseRuntimeError(f请求失败已达到最大重试次数{max_retries}。最后错误{last_exception})四、这段代码的核心设计1. 明确的重试边界通过max_retries3限制最大重试次数防止程序陷入死循环。2. 异常精准匹配只捕获RETRYABLE_ERRORS像参数错误BadRequestError等会直接进入底部的Exception分支并抛出。3. 指数退避与抖动2 ** attempt让等待时间随着重试次数递增random.uniform(0, 1)错开并发请求的时间点。五、在日志中记录重试轨迹为了方便后续排查稳定性问题建议在重试时记录日志importlogging logging.basicConfig(levellogging.INFO,format%(asctime)s | %(levelname)s | %(message)s)# 在捕获到可重试异常时logging.warning(fAPI temporary failure | attempt{attempt}| error{exc}| retry_in{sleep_time:.2f}s)这样当某个模型或节点出现抖动时你可以从日志中清楚看到重试的频率和恢复情况。六、重试与超时的配合重试和超时是相辅相成的超时Timeout决定单个请求最多等待多久。如果设置过长用户体验会变差如果设置过短容易引发不必要的超时重试。重试Retries决定在超时或连接失败后重新尝试的次数。建议单次请求超时设在 15~30 秒之间重试次数设为 2~3 次。七、结语AI API 自动重试与故障恢复的核心在于有条件的容错区分可恢复错误与致命错误使用指数退避避免瞬间流量冲击限制最大重试次数记录重试日志以便复盘对于 Python AI 项目来说这一层封装可以显著降低网络波动导致的调用失败率。免责声明本文内容仅用于技术交流与经验分享具体实现请结合项目实际情况调整。