OpenGuardrails: A Configurable, Unified, and Scalable Guardrails Platform for Large Language Models
文章主要内容与创新点总结一、主要内容OpenGuardrails 是首个完全开源的大型语言模型(LLM)护栏平台,专为解决 LLM 部署中的安全、鲁棒性和隐私合规问题而设计,可防御三类核心风险:内容安全违规(如有害/色情文本生成)、模型操纵攻击(如提示注入、越狱、代码解释器滥用)以及敏感信息泄露。该平台支持 119 种语言,通过统一架构、量化优化和可配置策略,在多语言安全基准测试中实现了最先进(SOTA)性能,同时提供 API 接口和部署脚本,可作为企业级安全网关或 API 服务部署,所有模型、数据集和部署脚本均基于 Apache 2.0 许可证开源。二、核心创新点可配置策略适配机制:允许用户在每次请求时自定义不安全类别(如暴力、数据泄露等)和灵敏度阈值(τ∈[0,1]),支持高/中/低语义映射与数值调节,解决了现有安全基准和护栏模型中的政策不一致问题,无需重新训练或重启模型即可适配不同行业、地区的监管与文化需求。统一 LLM 护栏架构:采用单一大型语言模型同时完成内容安全检测和模型操纵防御,相比依赖多模型混合架构(如 LlamaFirewall 的 BERT 分类器+LLM 组合),具备更优的语义理解能力,且简化了部署流程。可扩展高效模型设计:基于 14B 稠密基础模型微调,通过 GPTQ 量化技术压缩至 3.3B 参数,在保留 98% 以上基准准确率的同时,实现低延迟(P95=274.6ms)和高吞吐量,满足实时生产环境需求,突破了现有