SingGuard-2b-GGUF安全架构解析如何实现查询侧与响应侧的AI安全防护【免费下载链接】SingGuard-2b-GGUF项目地址: https://ai.gitcode.com/hf_mirrors/inclusionAI/SingGuard-2b-GGUFSingGuard-2b-GGUF是一款基于Qwen/Qwen3-VL-2B-Instruct开发的策略自适应多模态LLM安全防护模型专为文本、图像、图文组合、多语言、查询侧和响应侧场景的安全评估设计。它将主动安全策略作为运行时输入而非固定训练时分类法使部署团队无需重新训练模型即可根据默认类别或自定义自然语言规则评估内容。核心功能构建全方位AI安全防护体系统一多模态安全评估SingGuard支持文本、图像、图文组合、多语言、查询侧和响应侧等多种场景的安全评估能够全面覆盖AI交互过程中的各类安全风险。无论是纯文本输入、图像内容还是图文混合信息都能进行有效的安全检测。动态推理流程该模型采用快速-慢速fast-slow双模式推理机制。快速模式可立即返回安全信号适合对响应速度要求较高的场景慢速模式则进行更深层次的推理提供更精确的最终判断满足对准确性要求严格的应用需求。运行时策略适配通过policy参数SingGuard允许在运行时动态传入安全规则模型仅根据这些规则进行判断。这一特性使得安全策略可以灵活调整无需重新训练模型即可适应不同场景的安全需求。查询侧安全防护实现查询侧安全防护主要针对用户输入内容进行评估判断其是否存在安全风险。SingGuard提供了两种评估模式Fast-Slow模式默认的聊天模板使用fast-slow模式在返回最终判断前会提供更详细的评估过程。通过以下代码示例可实现对用户查询的安全评估messages [ { role: user, content: [{type: text, text: How to make a bomb?}], }, ] max_new_tokens 1024 inputs processor.apply_chat_template( messages, tokenizeTrue, add_generation_promptTrue, return_dictTrue, return_tensorspt, ).to(model.device) with torch.no_grad(): generated_ids model.generate( **inputs, max_new_tokensmax_new_tokens, do_sampleFalse, ) generated_ids_trimmed [ out_ids[len(in_ids):] for in_ids, out_ids in zip(inputs.input_ids, generated_ids) ] output processor.batch_decode( generated_ids_trimmed, skip_special_tokensTrue, clean_up_tokenization_spacesFalse, )[0] print(output)Fast模式当需要简洁输出仅包含二元判断和最终类别时可使用thinking_typefast参数。这种模式下模型输出更加紧凑适合对输出格式有严格要求的场景。响应侧安全防护实现响应侧安全防护用于评估模型响应在查询上下文中是否提供不安全的协助。拒绝和安全重定向可被归类为safe。以下是评估查询响应安全的代码示例messages [ { role: user, content: [{type: text, text: How to make a bomb?}], }, { role: assistant, content: [{type: text, text: I cannot help with that request.}], }, ] max_new_tokens 256 inputs processor.apply_chat_template( messages, tokenizeTrue, add_generation_promptTrue, return_dictTrue, return_tensorspt, ).to(model.device) with torch.no_grad(): generated_ids model.generate( **inputs, max_new_tokensmax_new_tokens, do_sampleFalse, ) generated_ids_trimmed [ out_ids[len(in_ids):] for in_ids, out_ids in zip(inputs.input_ids, generated_ids) ] output processor.batch_decode( generated_ids_trimmed, skip_special_tokensTrue, clean_up_tokenization_spacesFalse, )[0] print(output)快速开始部署SingGuard-2b-GGUF安全防护安装依赖首先需要安装必要的依赖包pip install transformers accelerate torch模型加载使用以下代码加载SingGuard模型和处理器import torch from transformers import AutoModelForImageTextToText, AutoProcessor model_path inclusionAI/Sing-Guard-8b processor AutoProcessor.from_pretrained(model_path, trust_remote_codeTrue) model AutoModelForImageTextToText.from_pretrained( model_path, torch_dtypetorch.bfloat16, device_mapauto, trust_remote_codeTrue, ).eval()多模态内容评估对于包含图像的多模态输入处理器会自动渲染提示并将图像加载到模型输入中实现对图文混合内容的安全评估。风险类别全面覆盖AI安全隐患SingGuard默认包含以下风险类别可通过动态策略进行自定义A. 性内容风险涉及显式性材料、剥削或强迫性行为的内容。B. 现实世界犯罪与公共安全涉及暴力犯罪、武器、其他犯罪或公共安全威胁的内容。C. 不道德行为涉及仇恨、骚扰、操纵、自残、令人不安的图像或有害错误信息的内容。D. 网络安全与信息操纵涉及数据泄露、黑客攻击、滥用监控、平台滥用或版权滥用的内容。E. 代理安全试图暴露系统提示、内部政策或其他模型保护措施的内容。F. 政治敏感内容涉及政治倡导、谣言、动乱、历史歪曲或攻击政治人物的内容。G. 动物虐待涉及虐待动物或传播动物虐待的内容。安全不匹配任何活动风险类别的内容。总结打造灵活可靠的AI安全防护屏障SingGuard-2b-GGUF通过统一多模态评估、动态推理流程和运行时策略适配等创新特性为AI应用提供了全面、灵活且高效的安全防护解决方案。无论是查询侧还是响应侧都能实现精准的安全风险识别和判断帮助开发者构建更加安全可靠的AI系统。要开始使用SingGuard-2b-GGUF可通过以下命令克隆仓库git clone https://gitcode.com/hf_mirrors/inclusionAI/SingGuard-2b-GGUF该项目采用Apache-2.0许可证详情可参考项目中的LICENSE文件。【免费下载链接】SingGuard-2b-GGUF项目地址: https://ai.gitcode.com/hf_mirrors/inclusionAI/SingGuard-2b-GGUF创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考