美团对话摘要技术:从信息抽取到业务落地的实践
1. 对话摘要技术的行业背景与核心挑战在美团这样日订单量超过4000万的本地生活服务平台客服中心每天需要处理海量的用户咨询电话。传统的人工记录方式存在两个显著痛点一方面客服人员需要在通话结束后花费大量时间整理关键信息平均每通电话的后续处理时间长达3-5分钟另一方面人工记录的主观性可能导致重要信息遗漏或偏差。这正是美团技术团队研发对话摘要技术的核心驱动力。对话摘要作为文本摘要的特殊分支面临着比常规文本摘要更复杂的挑战。通过对美团实际业务场景的分析我们发现主要存在以下技术难点信息密度不均衡在客服对话中关键信息如用户诉求、解决方案等往往只占整体对话的10%-15%其余多为寒暄、确认等低信息量内容。例如在酒店退订场景中我要取消明晚的订单这一关键诉求可能被淹没在10轮以上的对话中。话题跳跃性强用户可能在同一通电话中先后咨询订单修改、投诉处理和优惠券使用等多个不相关话题。我们的数据分析显示约23%的客服对话存在明显的话题转换。领域专业术语多美团业务覆盖餐饮、酒店、旅游等200多个细分领域每个领域都有特定的专业词汇体系。例如dfpid美团酒店唯一标识符这样的内部术语在公开数据集中从未出现。说话人角色差异客服坐席和用户的表达方式存在系统性差异。坐席通常使用结构化、规范化的语言而用户表达则更口语化且可能存在语病。2. 美团对话摘要技术方案演进2.1 基线模型选型与效果评估在项目初期我们对比测试了三种主流摘要方案序列到序列模型S2SAtt采用双向LSTM编码器-解码器结构在测试集上ROUGE-L仅为28.7主要问题生成的摘要中35%的实体信息错误指针生成网络Pointer-Generator加入copy机制处理OOV问题ROUGE-L提升至32.4仍存在17%的重复生成问题Transformer基线模型使用6层Transformer结构ROUGE-L达到34.2但对长对话30轮效果下降明显这些基线模型在美团的真实业务场景中暴露出两个共性缺陷一是无法保证摘要包含必要的关键要素如用户诉求必须100%准确二是对领域专业术语的处理能力不足如美团key和iv等加密参数的识别准确率不足60%。2.2 DSMRC-S模型架构创新针对基线模型的问题我们提出了基于阅读理解范式的DSMRC-SDistant Supervision based Machine Reading Comprehension for Extractive Summarization模型其核心创新点包括问题-答案对重构将摘要任务转化为阅读理解任务预定义6个关键问题模板questions [ 用户来电的背景是什么, 用户的具体诉求是什么, 坐席提供的解决方案是什么, 需要后续跟进的事项有哪些, 涉及的美团业务标识有哪些, 最终达成的共识是什么 ]远程监督标注利用现有客服记录自动生成训练标签标注示例{ text: 用户说我想取消订单号MT20230515的酒店预订, label: { 出现在答案中的tokens: [4,5,6,7,8,9,10,11], span_density: 0.92 } }密度感知的Span抽取设计基于BERT的token级分类器引入密度计算算法density (sum(p_i) α * sum(p_i*p_j)) / (l^β)其中α0.4β1.2为调优参数2.3 关键技术实现细节在模型实现层面有几个值得注意的工程优化点说话人感知编码在BERT输入中加入角色嵌入token_emb word_emb position_emb segment_emb role_emb角色分为用户、坐席、系统三类领域自适应预训练在美团客服语料上继续预训练BERT添加领域特定词汇new_tokens [dfpid, 美团key, iv, cocos creator, ...] tokenizer.add_tokens(new_tokens)动态批处理策略根据对话长度动态调整batch_size使用梯度累积解决显存限制if len(dialogue) 512: batch_size max(1, 32 // (len(dialogue)//256))3. 生产环境部署与效果验证3.1 A/B测试指标对比我们在2022年Q2进行了为期一个月的线上A/B测试关键指标对比如下指标人工记录DSMRC-S提升幅度处理时效秒/通2834783.4%关键要素完整率92%96%4%用户满意度4.2/54.5/57.1%人工复核通过率-89%-3.2 典型业务场景案例酒店退订场景 原始对话21轮用户我通过美团预订了明天入住的酒店... 坐席请问订单号是 用户MT20230515 坐席查询到您预订的是北京饭店... ... 用户因为行程变更需要取消 坐席根据政策可以免费取消...DSMRC-S输出用户来电背景预订了明天入住的北京饭店 用户诉求取消订单MT20230515 解决方案符合免费取消政策 跟进事项系统自动处理退款3.3 模型局限性分析在实际应用中我们发现模型存在以下待优化点多Span场景处理当关键信息分散在多个话轮时占比约15%当前方案可能遗漏部分信息。隐式诉求识别对于我可能不需要这个服务了这类隐式表达识别准确率仅为68%。跨领域迁移从餐饮客服迁移到酒店客服时效果下降约12%。4. 工程实践中的经验总结4.1 数据质量提升方法我们发现数据质量对模型效果的影响远超模型结构本身总结出以下数据优化经验对话清洗规则过滤含特殊符号的文本如[语音中断]标准化业务术语统一美团key和密钥修复ASR转写错误如dfpid被误转为地府pid主动学习策略def get_uncertain_samples(model, pool_data, k100): probs model.predict_proba(pool_data) entropy -np.sum(probs * np.log(probs), axis1) return pool_data.iloc[np.argsort(entropy)[-k:]]4.2 模型部署优化在生产环境中我们采用以下优化措施保证服务稳定性动态负载均衡根据对话长度分配计算资源长对话30轮路由到GPU实例短对话使用CPU实例处理分级回退机制if 对话轮次 50: 使用Lead-3策略 elif 包含技术术语: 触发人工复核 else: 执行完整模型推理持续学习框架class ContinuousLearner: def __init__(self, base_model): self.buffer deque(maxlen1000) self.model base_model def add_feedback(self, text, human_edit): self.buffer.append((text, human_edit)) if len(self.buffer) % 100 0: self.fine_tune()5. 未来演进方向基于当前实践我们认为对话摘要技术还有以下突破空间多模态摘要结合通话语音特征如语调变化整合屏幕操作记录如坐席系统操作日志实时增量摘要在通话过程中动态生成摘要采用流式处理架构class StreamingSummarizer: def __init__(self): self.buffer [] self.summary def update(self, new_utterance): self.buffer.append(new_utterance) if len(self.buffer) % 5 0: self.summary self._update_summary()可解释性增强可视化注意力权重生成决策依据说明将订单MT20230515识别为用户诉求的依据 - 出现在问题模板匹配区域 - 与取消的共现概率达87% - 说话人角色为用户在美团业务持续扩展的背景下对话摘要技术正在从单纯的效率工具逐步发展为提升服务质量的核心基础设施。特别是在美团酒店、到店餐饮等高频场景中准确高效的对话理解能力已经成为优化用户体验的关键环节。