文章主要内容总结该研究提出了Self-HarmLLM这一新型攻击场景，核心探索大型语言模型（LLM）能否通过自身生成的“弱化有害查询（MHQ）”绕过自身安全护栏，产生有害响应。现有LLM安全机制多针对外部攻击者构造的恶意查询，而该研究首次聚焦“模型自身输出成为攻击向量”的可能性：攻击流程：在“弱化会话（A）”中，模型将原始有害查询（HQ）转化为保留核心恶意意图但模糊有害特征的MHQ；将MHQ输入同一模型的“目标会话（B）”，若模型未识别其危害性并生成有害响应，则攻击成功。实验设计：选取GPT-3.5-turbo、LLaMA3-8B-instruct、DeepSeek-R1-Distill-Qwen-7B三种模型，在Base（无弱化）、Zero-shot（零样本弱化）、Few-shot（少样本弱化）三种条件下测试，采用前缀自动化评估与人工评估双方法验证。核心结果：Few-shot条件下，MHQ转化成功率最高达65%，越狱成功率最高达41%；Zero-shot条件下转化成功率最高52%，越狱成功率最高33%。前缀自动化评估普遍高估越狱成功率（平均偏差52%），人工评估更精准，证实单一自动化评估存在局限性。DeepSeek模型的安全护栏表现最弱，即使在Base条件下也有较高越狱率。研究意义：揭示了现有LLM安全护栏的结构性漏洞，提出需重新设计护栏机制