LiteLLM 特性与参数配置版本LiteLLM 1.50 |作者Pozicaiman |日期2026-07-27定位LiteLLM 核心特性、关键参数配置与性能指标详解关键词特性列表、参数配置、性能调优、路由策略适用版本Python 3.8 / LiteLLM 1.50一、核心特性LiteLLM 围绕「统一接入、可靠路由、成本可控、安全合规」四大目标提供了一系列覆盖请求全生命周期的企业级特性。下表汇总了 12 项核心特性及其适用场景便于快速建立整体认知。序号特性说明适用场景1统一 OpenAI 兼容 API所有 provider 使用相同接口格式调用方无需感知底层差异多 provider 切换、SDK 统一封装2100 Provider 支持覆盖 OpenAI / Anthropic / Gemini / Azure / Bedrock 等主流厂商异构模型管理、混合云部署3负载均衡支持加权 / 最少连接 / 延迟优先等多种路由策略高可用部署、多副本分流4Fallback 故障转移主模型失败自动切换至备选模型保障请求成功率容灾保障、SLA 敏感业务5响应缓存支持 Redis / 内存缓存避免重复调用相同请求降低成本、降低延迟6速率限制支持 RPM / TPM 限制粒度覆盖 per-key / per-team流量控制、配额管理7成本追踪提供 per-key / team / model 维度的预算管理与花费统计成本控制、计费分摊8虚拟密钥带预算和限制的 API Key可独立颁发与回收多租户管理、对外授权9Guardrails输入输出内容过滤支持预设词表与自定义规则安全合规、内容审核10流式响应SSE streaming 支持兼容 OpenAI 流式协议实时交互、打字机效果11可观测性集成 Prometheus / Langfuse / Helicone 等监控追踪平台监控追踪、链路分析12多语言 SDK提供 Python / JS SDK并集成 Langchain / LlamaIndex开发者友好、快速集成特性分层说明特性 1-2 属于「统一接入层」特性 3-4 属于「可靠路由层」特性 5-8 属于「成本与配额层」特性 9-11 属于「安全与可观测层」特性 12 属于「生态集成层」。理解分层有助于在架构设计时按需启用。二、关键参数配置LiteLLM 的参数配置分为三个层面Proxy Server 全局参数控制网关整体行为Router 路由参数控制请求分发与容错策略Model 配置参数控制单个模型实例的调用细节。此外Cache 配置参数独立控制缓存行为。下面分别详述。2.1 Proxy Server 核心参数Proxy Server 参数主要通过环境变量注入影响网关进程的运行行为。生产环境需重点关注的参数已标注「★」。参数名默认值说明调优建议PORT4000Proxy 监听端口生产环境建议 8080避免与开发端口冲突LITELLM_LOGINFO日志级别生产用 WARNING减少日志量DROP_PARAMS★False丢弃目标 provider 不支持的参数True 避免因参数不兼容报错SET_VERBOSE_MODEFalse详细日志输出仅调试时开启 TrueFAST_API_SLACK_ALERTING★FalseSlack 告警通知生产开启及时感知异常REDIS_HOST★NoneRedis 地址分布式部署必须设置REDIS_PORT6379Redis 端口保持默认注意防火墙放行REDIS_PASSWORD★NoneRedis 密码生产必须设置避免未授权访问DATABASE_URL★NonePostgreSQL 连接串日志持久化 / 预算管理必须LITELLM_SALT_KEY★None密钥加密盐值生产必须设置保护虚拟密钥STORE_MODEL_IN_DBFalse从 DB 加载模型配置动态管理模型时开启MAX_WORKERS8uvicorn worker 数按 CPU 核数调整建议 2×CPUREQUEST_TIMEOUT600请求超时(秒)按场景调整长文本建议 900LITELLM_LICENSENone企业版 License启用 SSO / 审计等企业功能DISABLE_ERROR_LOGSFalse禁用错误日志不建议关闭影响排障配置示例.env文件PORT8080LITELLM_LOGWARNINGDROP_PARAMSTrueREDIS_HOSTredis.internalREDIS_PORT6379REDIS_PASSWORD********DATABASE_URLpostgresql://litellm:****db.internal:5432/litellmLITELLM_SALT_KEYsk-salt-********MAX_WORKERS162.2 Router 路由参数Router 参数定义在litellm_settings配置块中控制请求在多个 model deployment 之间的分发、重试与容错逻辑。参数名默认值说明调优建议routing_modesimple-shuffle路由策略生产用 least-busy避免热点num_retries3重试次数保持默认过大易放大下游压力retry_after1重试间隔(秒)建议配合指数退避fallbacks[]故障转移链按需配置形成主备梯队allowed_fails3允许失败次数触发 cooldown 前的容忍度cooldown_time60冷却时间(秒)保持默认过短易抖动retry_policyNone重试策略按状态码精细配置timeout30超时(秒)流式场景建议 60cacheNone缓存配置分布式用 Rediscache_params.max_size1000缓存大小按内存与命中率调整enable_pre_call_checksFalse调用前检查生产开启提前校验上下文窗口等context_window_fallbacks[]上下文窗口回退长文本场景必备路由策略对比simple-shuffle随机加权实现简单适合均匀部署least-busy选择当前请求数最少的实例适合长连接 / 流式latency-based-routing选择历史延迟最低的实例适合延迟敏感场景usage-based-routing按 TPM 使用率选择适合配额均衡配置示例litellm_settings:routing_mode:least-busynum_retries:3retry_after:1timeout:30allowed_fails:3cooldown_time:60enable_pre_call_checks:truefallbacks:-gpt-4:[gpt-4-backup,claude-3-opus]context_window_fallbacks:-gpt-4:[claude-3-opus]retry_policy:InternalServerErrorRetries:2RateLimitErrorRetries:32.3 Model 配置参数Model 配置定义在model_list中每个条目对应一个可调用的 deployment。同一个model_name可挂载多个 deploymentRouter 会按策略在它们之间分发。下面给出一份带详细注释的完整 YAML 配置示例。model_list:-model_name:gpt-4# 用户调用的模型名(对外暴露的逻辑名)litellm_params:model:azure/gpt-4-turbo# 实际 provider 模型(provider/model 格式)api_base:https://xxx.openai.azure.com# provider API 地址api_key:os.environ/AZURE_API_KEY# 从环境变量读取密钥api_version:2024-02-15-preview# Azure API 版本weight:50# 权重(负载均衡,按比例分流)rpm:100# 每分钟请求限制(RPM)tpm:100000# 每分钟 token 限制(TPM)max_tokens:4096# 最大输出 token 数timeout:30# 非流式超时秒数stream_timeout:60# 流式超时秒数input_cost_per_token:0.00001# 输入成本/token(用于成本追踪)output_cost_per_token:0.00003# 输出成本/token(用于成本追踪)# 同名挂载多 deployment,Router 自动负载均衡-model_name:gpt-4litellm_params:model:openai/gpt-4-turboapi_key:os.environ/OPENAI_API_KEYweight:50# 与上面各 50% 权重rpm:200tpm:200000# Anthropic 模型示例-model_name:claude-3-opuslitellm_params:model:anthropic/claude-3-opus-20240229api_key:os.environ/ANTHROPIC_API_KEYmax_tokens:4096timeout:30input_cost_per_token:0.000015output_cost_per_token:0.000075# Gemini 模型示例-model_name:gemini-prolitellm_params:model:gemini/gemini-1.5-proapi_key:os.environ/GEMINI_API_KEYtimeout:60stream_timeout:120配置要点model_name是对外逻辑名调用方始终用此名model是 provider 真实模型名。同一个model_name挂载多个 deployment 即可启用负载均衡无需额外配置。weight决定流量分配比例rpm/tpm用于速率限制与配额保护。input_cost_per_token/output_cost_per_token是成本追踪的依据务必准确填写。敏感信息统一用os.environ/VAR_NAME引用避免明文写入配置。2.4 Cache 配置参数缓存配置通过litellm_settings.cache块定义命中缓存可直接返回结果避免重复调用上游。下表列出核心参数。参数名默认值说明调优建议typeredis缓存类型生产用 redis单机可用 localhostNoneRedis 地址分布式部署必填port6379Redis 端口保持默认ttl86400缓存 TTL(秒)按场景调整实时性要求高则调小namespaceNone命名空间多租户隔离用disableFalse禁用缓存调试时临时关闭max_size1000最大缓存条目数按内存与命中率调整semantic_cacheFalse语义缓存降低成本但需 embedding 模型配置示例litellm_settings:cache:truecache_params:type:redishost:redis.internalport:6379password:os.environ/REDIS_PASSWORDttl:3600namespace:prod-tenant-amax_size:5000# semantic_cache: true # 开启语义缓存需额外配置 embedding model# semantic_cache_embedding_model: openai/text-embedding-3-small调用端启用缓存在请求中传入cache{no-cache: false, no-store: false}即可命中如需强制刷新设置no-store: true。三、性能指标3.1 基准性能数据以下数据基于单节点8 核 16G标准部署、Redis 缓存、PostgreSQL 持久化的测试环境供容量规划参考。实际数值随 provider 响应速度、网络质量与请求模式而变化。指标数值说明请求吞吐量1000 RPS单节点 (8C16G)Proxy 层处理能力P99 延迟开销 50msProxy 层额外延迟(不含上游模型耗时)并发连接10000单节点可支撑的并发连接数Cache 命中率30-60%重复请求场景下的命中率区间故障切换 2sFallback 触发到备选返回的时间启动时间 5s冷启动到就绪状态内存占用200-500MB基础内存(不含缓存与日志缓冲)CPU 占用1-2 core中等负载(500 RPS)下的 CPU 使用指标解读吞吐量瓶颈通常不在 Proxy 本身而在上游 provider 的响应速度水平扩展 Proxy 副本可线性提升。P99 延迟开销主要来自参数校验、路由决策与日志写入开启enable_pre_call_checks会略有增加。Cache 命中率高度依赖请求模式客服 FAQ 场景可达 60%而多轮对话场景通常 20%。故障切换时间包含重试与 fallback 两次调用超时设置过大会显著拉长该时间。3.2 性能调优方向性能调优应遵循「先观测、后调优」原则借助可观测性指标定位瓶颈再有针对性地调整。以下为 5 个核心优化方向。序号优化方向关键措施预期收益1Worker 调优MAX_WORKERS按 CPU 核数调整建议 2×CPU过大会增加调度开销提升吞吐量 20-30%2连接池优化复用 HTTP 连接减少 TLS 握手开销调整httpx连接池上限降低 P99 延迟 10-15%3缓存策略高频重复请求开启缓存按场景调整 TTL语义缓存覆盖相似问题命中率提升至 50%成本下降4路由优化least-busy策略避免热点按 TPM 使用率均衡分发消除单点过载提升整体稳定性5批量请求使用 Batch API 合并多个独立请求减少往返次数单位成本下降吞吐提升调优顺序建议先确保MAX_WORKERS与连接池配置合理硬件层→ 再启用缓存与路由优化策略层→ 最后通过 Batch API 等手段优化请求模式业务层。逐层验证收益避免多变量同时调整导致难以归因。小结本章梳理了 LiteLLM 的 12 项核心特性与四类关键参数配置。核心要点Proxy 参数影响网关运行行为Router 参数决定路由容错策略Model 参数控制单实例调用细节Cache 参数独立管理缓存。性能层面LiteLLM Proxy 层开销极低P99 50ms瓶颈多在上游 provider调优应聚焦 worker、连接池、缓存与路由策略。后续章节将进入应用场景与安装部署的实战环节。