AI 陪伴回复生成共情不是顺着用户说一、陪伴产品最怕无边界共情AI 陪伴产品需要温柔回应但温柔不等于永远顺着用户说。用户表达低落、愤怒、冲动或孤独时模型如果只迎合情绪可能会放大风险。共情应该先承认感受再帮助用户回到更安全的行动。陪伴回复生成要把情绪支持、安全边界和现实行动放在一起设计。二、回复流程要先识别风险flowchart TD A[用户消息] -- B[情绪识别] B -- C[风险分级] C -- D{风险等级} D -- 低 -- E[普通陪伴回复] D -- 中 -- F[温和引导] D -- 高 -- G[安全升级]低风险可以提供陪伴、提问和小建议。中风险要避免强化消极循环引导用户做具体、可执行的小动作。高风险则需要更明确的安全提示和现实支持。风险分级应在生成前完成而不是生成后简单过滤。生成前知道边界回复会更稳。三、回复结构要稳定type CompanionReply { acknowledge: string reflection?: string nextStep?: string safetyNote?: string }陪伴回复可以包含四层承认感受、轻度复述、下一步建议、安全提示。不是每次都需要四层但结构能帮助模型避免跑偏。companion_reply_policy: avoid_diagnosis: true avoid_over_promise: true suggest_small_action: true escalate_high_risk: true不要做诊断不要承诺永远陪伴不要替用户决定现实关系。这些边界比“语气温柔”更重要。四、用户控制同样重要不同用户喜欢的回应方式不同。有些人想要安静倾听有些人想要行动建议。产品可以提供回复偏好而不是假设一种温柔适合所有人。还要允许用户纠正。比如“别给建议只听我说”。这种反馈应该影响后续回复但安全边界不能因此被关闭。陪伴回复还要避免制造依赖。产品不应该暗示“只有我理解你”或“随时都必须来找我”。更健康的设计是在合适时鼓励用户联系现实中的朋友、家人或专业支持。companion_dependency_guard: avoid_exclusive_language: true encourage_real_world_support: true limit_repetitive_reassurance_loop: true detect_escalating_distress: true重复安慰也要谨慎。用户连续表达同一种痛苦时模型如果只不断说“我理解你”可能让对话停在原地。可以轻轻引导用户做一个小动作比如喝水、暂停一下、记录具体事件或者选择稍后再聊。回复生成还要有评测集。样本应覆盖普通抱怨、轻度低落、愤怒、孤独、高风险表达和正常闲聊。每次 Prompt 或模型升级都要确认安全边界没有退化。最后用户偏好不能覆盖安全规则。用户要求“不要提醒我求助”系统仍应在高风险场景保留必要提示。陪伴产品还要记录安全策略版本。一次回复为什么升级、为什么给出安全提示后续需要能复盘。日志可以保存风险等级和策略命中不必保存完整私密原文。type SafetyTrace { conversationId: string riskLevel: low | medium | high policyVersion: string action: reply | guide | escalate }评测时还要看误伤。普通倾诉被频繁当成高风险会让产品显得紧张真正高风险没识别出来则更危险。安全系统要在敏感和克制之间找平衡。五、总结AI 陪伴回复生成要先做风险分级再在共情、引导和安全之间保持边界。真正的温柔不是无条件附和而是在尊重感受的同时保护用户。