在实际 NLP 项目中文本摘要是一个高频且极具实用价值的功能它要求模型能够从冗长的原文中提取核心信息生成简洁、连贯的摘要。无论是新闻简报、报告生成还是对话总结一个稳定可靠的摘要系统都能极大提升信息处理效率。然而从基础概念到构建一个可用的高级摘要模型中间涉及大量的技术选型、模型理解、数据处理和工程化细节。本文将围绕“文本摘要”这一核心主题系统性地拆解从零到一的实现路径。我们将从理解摘要的两种基本范式抽取式与生成式及其背后的原理开始然后逐步搭建一个完整的实践环境使用经典的 Transformer 模型如 BART 或 T5完成一个可运行的生成式摘要案例。文章会详细解释数据处理、模型加载、推理调优以及结果评估的每一个步骤并重点剖析在实际编码和部署中可能遇到的“坑”例如长文本处理、摘要重复、事实一致性等问题。最后我们会探讨如何将这个小实验升级为更健壮的生产级服务需要考虑的要素。本文适合有一定 Python 和深度学习基础希望系统掌握 NLP 文本摘要技术并能将其应用于实际项目的开发者。通过阅读和实践你将能够独立完成一个文本摘要模型的训练、推理和基础优化。1. 理解文本摘要从两种范式到技术选型在动手写代码之前必须厘清文本摘要的核心分类和工作原理。错误的技术选型会导致后续所有努力事倍功半。1.1 抽取式摘要 vs. 生成式摘要文本摘要主要分为两大类抽取式摘要和生成式摘要。它们的根本区别在于“摘要文本的来源”。抽取式摘要可以理解为“划重点”。算法从原文中直接选取一些重要的句子或短语然后按原顺序或重新排序后拼接成摘要。原文中的词汇和句式被原封不动地保留。工作原理通常基于句子重要性打分。经典方法有 TextRank基于图排序类似 PageRank、Lead-3直接取前几句以及基于 BERT 等预训练模型计算句子嵌入向量再通过聚类或排序选出代表句。优点摘要绝对忠实于原文不会出现事实性错误幻觉实现相对简单计算开销小。缺点摘要的流畅性和连贯性可能较差尤其是当重要句子分散时拼接结果生硬无法进行概括、 paraphrasing复述或生成原文中不存在的新表述。生成式摘要则是“重新组织语言进行概括”。算法像人一样在理解原文后用新的、更精炼的语言来复述核心内容。摘要中的词可能从未在原文中出现过。工作原理基于序列到序列的深度学习模型如 LSTM、Transformer。模型将原文作为输入序列逐词生成摘要输出序列。如今的主流是使用 BART、T5、PEGASUS 等在大规模文本上预训练过的 Transformer 模型进行微调。优点摘要更流畅、连贯更像人工撰写能够进行概括和复述信息密度可能更高。缺点可能生成与原文事实不符的内容即“幻觉”对数据和算力要求高训练和调参更复杂。在项目初期选择哪种范式取决于你的核心需求如果需要绝对的事实保真度且对语言流畅度要求不高如法律条文、技术报告的关键句提取抽取式摘要是更稳妥的起点。如果需要生成类似新闻导语、会议纪要那样自然流畅的文本生成式摘要是必由之路但必须配套事实一致性校验机制。1.2 生成式摘要的核心架构Encoder-Decoder 与注意力机制现代生成式摘要几乎都建立在 Transformer 的 Encoder-Decoder 架构之上。理解这个架构是理解后续所有模型BART, T5的基础。Encoder编码器负责“阅读”和理解原文。它将输入文本的每个词转换为一个富含上下文信息的向量表示。Transformer Encoder 的核心是自注意力机制它让模型在编码每个词时都能考虑到文中所有其他词的重要性从而捕获长距离依赖。Decoder解码器负责“写作”生成摘要。它是一个自回归模型逐个生成摘要的下一个词。在生成每个新词时Decoder 会做两件事自注意力关注已经生成的部分摘要。交叉注意力或称 Encoder-Decoder Attention去“看”Encoder 输出的原文表示决定当前生成词应该聚焦于原文的哪些部分。这是确保摘要不偏离主题的关键。BART 和 T5 都是基于此架构的预训练模型但预训练目标不同BART是一个去噪自编码器。预训练时对原文进行多种破坏如打乱顺序、遮盖词句然后让模型学习重建原始文本。这使其非常擅长文本生成和重构任务摘要就是其天然应用场景。T5将所有 NLP 任务都统一为“文本到文本”的格式。预训练目标是遮盖原文中的连续片段并让模型预测这些片段。它的设计更通用摘要任务被格式化为“summarize: ” 原文 - 摘要。对于新手从BART开始是一个很好的选择因为它在摘要任务上的表现通常非常出色且 Hugging Facetransformers库对其支持极为完善。2. 环境准备与依赖配置我们将使用 Python 和 PyTorch 框架并依托 Hugging Facetransformers和datasets库来快速构建项目。这些工具极大地简化了模型加载、训练和评估的流程。2.1 基础环境清单在开始之前请确保你的开发环境满足以下要求。一个常见的问题是库版本不兼容因此建议尽量使用指定的版本范围。组件推荐版本/说明检查命令Python3.8 - 3.10python --versionPyTorch1.9.0 (需与CUDA版本匹配)python -c “import torch; print(torch.__version__)”CUDA(GPU)可选推荐 11.3 以上nvidia-smi(Linux)pip最新版pip --version注意如果你没有 GPU 或 CUDA 环境PyTorch 将自动使用 CPU 运行但生成式摘要模型推理速度会非常慢不适合处理大量文本。2.2 创建虚拟环境与安装依赖强烈建议使用虚拟环境来管理项目依赖避免污染系统环境。# 创建并激活虚拟环境 (以 conda 为例) conda create -n text_summarization python3.9 conda activate text_summarization # 安装 PyTorch (请根据你的CUDA版本到 https://pytorch.org/ 获取准确命令) # 例如对于 CUDA 11.3 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu113 # 安装 Hugging Face 核心库及其他工具 pip install transformers datasets pip install sentencepiece # T5/BART等模型的分词器可能需要 pip install rouge-score nltk # 用于评估摘要质量 pip install tqdm # 用于显示进度条 pip install pandas # 用于数据处理安装完成后可以通过以下命令快速验证核心库是否可用# 验证脚本 verify_env.py import torch print(f“PyTorch version: {torch.__version__}”) print(f“CUDA available: {torch.cuda.is_available()}”) if torch.cuda.is_available(): print(f“CUDA device: {torch.cuda.get_device_name(0)}”) import transformers print(f“Transformers version: {transformers.__version__}”) import datasets print(f“Datasets version: {datasets.__version__}”)运行python verify_env.py如果没有报错并正确输出版本信息说明环境准备就绪。3. 实战使用预训练 BART 模型生成摘要现在我们进入实战环节。我们将跳过复杂的训练过程直接使用 Hugging Face 上预训练好的facebook/bart-large-cnn模型来生成摘要。这个模型已经在 CNN/DailyMail 新闻摘要数据集上进行了微调开箱即用。3.1 项目结构与数据准备首先创建一个简单的项目目录。text_summarization_demo/ ├── config/ # 存放配置后续扩展 ├── data/ # 存放原始数据和预处理后的数据 ├── src/ # 源代码 │ ├── __init__.py │ ├── inference.py # 推理脚本 │ └── utils.py # 工具函数 ├── outputs/ # 存放生成的摘要 └── requirements.txt # 依赖列表我们不需要自己准备训练数据来做推理。但为了演示一个完整的流程我们假设data/raw下有一个sample_articles.txt文件里面存放着需要摘要的文本。# data/raw/sample_articles.txt The European Union has announced a new comprehensive package of sanctions against several major technology firms, citing concerns over data privacy and market dominance. The sanctions, which include hefty fines and restrictions on data processing activities within the bloc, are expected to come into effect by the end of the fiscal quarter. Analysts predict that this move could significantly impact the global tech landscape and potentially trigger retaliatory measures from the affected companies’ home countries. The EU commissioner stated that the decision was made after a two-year investigation into anti-competitive practices. Researchers at a leading university have developed an artificial intelligence model capable of predicting protein folding with unprecedented accuracy. This breakthrough, published in the journal ‘Science’, could dramatically accelerate drug discovery and the understanding of complex biological processes. The model, named ‘AlphaFold 2.0’, outperformed all previous computational methods in a recent international competition. The team has made the model’s code and predictions openly available to the scientific community, a move hailed as a major step towards collaborative scientific advancement.3.2 编写推理脚本核心逻辑在src/inference.py中。我们将实现一个完整的推理流程加载模型和分词器、预处理文本、生成摘要、后处理输出。# src/inference.py import torch from transformers import BartForConditionalGeneration, BartTokenizer from typing import List, Optional import logging logging.basicConfig(levellogging.INFO) logger logging.getLogger(__name__) class BartSummarizer: def __init__(self, model_name: str “facebook/bart-large-cnn”, device: Optional[str] None): 初始化 BART 摘要生成器。 Args: model_name: Hugging Face 上的模型名称。 device: 指定运行设备‘cuda’ 或 ‘cpu’。为 None 时自动选择。 logger.info(f“Loading model and tokenizer: {model_name}”) self.tokenizer BartTokenizer.from_pretrained(model_name) self.model BartForConditionalGeneration.from_pretrained(model_name) # 设备选择 if device is None: self.device ‘cuda’ if torch.cuda.is_available() else ‘cpu’ else: self.device device self.model.to(self.device) self.model.eval() # 设置为评估模式 logger.info(f“Model loaded on device: {self.device}”) def preprocess(self, text: str, max_input_length: int 1024) - dict: 对输入文本进行分词和编码。 Args: text: 原始输入文本。 max_input_length: 输入序列的最大长度超长部分会被截断。 Returns: 包含 ‘input_ids’ 和 ‘attention_mask’ 的字典。 # BART 分词器会自动添加特殊 token如 bos, eos inputs self.tokenizer( text, max_lengthmax_input_length, truncationTrue, padding“max_length”, # 为了批处理这里先padding到最大长度 return_tensors“pt” # 返回 PyTorch 张量 ) return inputs def summarize(self, text: str, max_length: int 150, min_length: int 30, num_beams: int 4, **kwargs) - str: 生成摘要。 Args: text: 原始输入文本。 max_length: 生成摘要的最大长度。 min_length: 生成摘要的最小长度。 num_beams: 束搜索的大小值越大结果越好但越慢。 **kwargs: 其他传递给 model.generate() 的参数。 Returns: 生成的摘要字符串。 # 1. 预处理 inputs self.preprocess(text) input_ids inputs[“input_ids”].to(self.device) attention_mask inputs[“attention_mask”].to(self.device) # 2. 生成 with torch.no_grad(): # 禁用梯度计算节省内存 summary_ids self.model.generate( input_idsinput_ids, attention_maskattention_mask, max_lengthmax_length, min_lengthmin_length, num_beamsnum_beams, length_penalty2.0, # 长度惩罚1.0鼓励生成长摘要1.0鼓励短摘要 early_stoppingTrue, # 当所有束假设都遇到 eos 时停止 **kwargs ) # 3. 解码 summary self.tokenizer.decode(summary_ids[0], skip_special_tokensTrue) return summary def summarize_batch(self, texts: List[str], batch_size: int 4, **kwargs) - List[str]: 批量生成摘要简单实现实际生产需更复杂的批处理。 Args: texts: 原始输入文本列表。 batch_size: 批处理大小。 Returns: 生成的摘要列表。 summaries [] for i in range(0, len(texts), batch_size): batch_texts texts[i:ibatch_size] # 简单的循环调用真实场景应实现真正的批处理以提升GPU利用率 batch_summaries [self.summarize(text, **kwargs) for text in batch_texts] summaries.extend(batch_summaries) return summaries if __name__ “__main__”: # 示例用法 summarizer BartSummarizer() sample_text “”” The European Union has announced a new comprehensive package of sanctions against several major technology firms, citing concerns over data privacy and market dominance. The sanctions, which include hefty fines and restrictions on data processing activities within the bloc, are expected to come into effect by the end of the fiscal quarter. Analysts predict that this move could significantly impact the global tech landscape and potentially trigger retaliatory measures from the affected companies’ home countries. The EU commissioner stated that the decision was made after a two-year investigation into anti-competitive practices. “”” summary summarizer.summarize(sample_text, max_length100, num_beams4) print(“ Original Text ) print(sample_text) print(“\n Generated Summary ) print(summary)3.3 关键参数详解与调优model.generate()方法中的参数控制着生成过程对结果质量有决定性影响。以下是核心参数说明参数类型默认值/示例作用与影响max_lengthint150生成摘要的最大 token 数。需根据原文长度和期望摘要长度设置。太长浪费算力太短可能截断。min_lengthint30生成摘要的最小 token 数。避免生成过短、无意义的摘要。num_beamsint4束搜索大小。这是最重要的参数之一。num_beams1是贪心搜索速度快但质量通常较差。num_beams4或更高会同时保留多个候选序列最终选择整体概率最高的质量显著提升但速度变慢。length_penaltyfloat2.0长度惩罚因子。1.0鼓励模型生成长度更长的摘要1.0鼓励生成更短的摘要。对于新闻摘要通常设置在 1.0 到 2.0 之间。early_stoppingboolTrue是否在束搜索中提前停止。当所有束假设都生成了结束符eos_token时停止生成。通常设为 True 以提高效率。no_repeat_ngram_sizeint3禁止重复的 n-gram 大小。例如设为 3则模型不会生成包含相同三元组三个词的序列。有效缓解摘要中的词语重复问题。temperaturefloat1.0采样温度。仅在do_sampleTrue时有效。降低温度如 0.7会使模型输出更确定、更保守提高温度如 1.2会增加随机性、创造性但也可能产生不合逻辑的内容。摘要任务通常使用束搜索而非采样。top_k,top_pint, float-核采样参数。与temperature和do_sampleTrue配合使用用于控制采样范围。在需要多样性的创意写作中常用在追求准确性的摘要中较少使用。对于生产环境通常的调优步骤是固定num_beams4调整length_penalty(1.0-2.0) 以获得合适长度。如果发现摘要中有明显重复设置no_repeat_ngram_size3。如果对速度有要求可以尝试num_beams2但会牺牲一些质量。始终在验证集上用 ROUGE 等指标客观评估参数变化的影响。3.4 运行与验证现在我们可以运行脚本来查看摘要生成效果。# 在项目根目录下运行 python src/inference.py预期输出类似INFO:__main__:Loading model and tokenizer: facebook/bart-large-cnn INFO:__main__:Model loaded on device: cuda (或 cpu) Original Text The European Union has announced a new comprehensive package of sanctions against several major technology firms... Generated Summary The EU has announced a new package of sanctions against major tech firms over data privacy and market dominance concerns. The sanctions include fines and restrictions on data processing and are expected to come into effect by the end of the fiscal quarter.可以看到模型成功地将长新闻压缩成了一个包含核心事件制裁、对象科技公司、原因数据隐私和垄断和时限本财季末的流畅摘要。为了更系统地验证我们可以编写一个简单的评估脚本使用 ROUGE 指标Recall-Oriented Understudy for Gisting Evaluation来对比生成摘要和参考摘要如果有的话的相似度。ROUGE-N 衡量 N-gram 的重合度ROUGE-L 衡量最长公共子序列。# src/evaluate.py from rouge_score import rouge_scorer import nltk nltk.download(‘punkt_tab’) # 下载分词器数据 def calculate_rouge(predictions: List[str], references: List[str]): 计算一组预测摘要和参考摘要之间的 ROUGE 分数。 scorer rouge_scorer.RougeScorer([‘rouge1’, ‘rouge2’, ‘rougeL’], use_stemmerTrue) scores [] for pred, ref in zip(predictions, references): score scorer.score(ref, pred) scores.append(score) # 简单平均 avg_scores {‘rouge1’: {‘f’: 0, ‘p’: 0, ‘r’: 0}, ‘rouge2’: {‘f’: 0, ‘p’: 0, ‘r’: 0}, ‘rougeL’: {‘f’: 0, ‘p’: 0, ‘r’: 0}} for score in scores: for key in avg_scores: avg_scores[key][‘f’] score[key].fmeasure avg_scores[key][‘p’] score[key].precision avg_scores[key][‘r’] score[key].recall for key in avg_scores: avg_scores[key][‘f’] / len(scores) avg_scores[key][‘p’] / len(scores) avg_scores[key][‘r’] / len(scores) return avg_scores # 示例假设我们有参考摘要 reference “The EU imposes sanctions on big tech companies due to privacy and dominance issues, with fines and data restrictions set to start next quarter.” prediction “The EU has announced a new package of sanctions against major tech firms over data privacy and market dominance concerns. The sanctions include fines and restrictions on data processing and are expected to come into effect by the end of the fiscal quarter.” scores calculate_rouge([prediction], [reference]) print(“ROUGE Scores:”) for rouge_type, metrics in scores.items(): print(f“ {rouge_type}: F1{metrics[‘f’]:.4f}, Precision{metrics[‘p’]:.4f}, Recall{metrics[‘r’]:.4f}”)4. 生产级考量与常见问题排查将实验代码转化为稳定可靠的服务需要解决一系列工程问题。以下是文本摘要系统在实际部署中常见的挑战和解决方案。4.1 处理长文本模型输入长度限制Transformer 模型包括 BART对输入序列长度有硬性限制如 BART 通常是 1024 个 token。对于超过此长度的文档直接截断会丢失信息。解决方案滑动窗口法将长文档分割成重叠的片段分别生成每个片段的摘要再将片段摘要拼接起来最后对这个“摘要的摘要”进行二次摘要。这种方法简单但可能丢失全局连贯性。层次化模型先使用一个模型或规则抽取文档中最重要的句子抽取式然后将这些关键句子输入生成式模型。这结合了两种范式的优点。使用支持长文本的模型如LED(Longformer-Encoder-Decoder)它使用局部注意力全局注意力的机制能处理更长的输入如 16384 token。对于生产环境如果长文本是主要场景应考虑迁移到这类模型。# 滑动窗口法示例代码片段 def summarize_long_text(text: str, summarizer, window_size: int 800, stride: int 200, max_input_len: int 1024): 使用滑动窗口处理长文本摘要。 if len(summarizer.tokenizer.encode(text)) max_input_len: return summarizer.summarize(text) # 简单按句子分割生产环境应用更稳健的分句器 sentences nltk.sent_tokenize(text) window_sentences [] start 0 while start len(sentences): end start current_len 0 # 构建一个不超过 window_size token 的窗口 while end len(sentences): sent sentences[end] sent_len len(summarizer.tokenizer.encode(sent)) if current_len sent_len window_size and end start: break current_len sent_len end 1 window ‘ ‘.join(sentences[start:end]) window_sentences.append(window) # 滑动设置步长 start max(start 1, end - stride) # 确保有重叠 # 生成每个窗口的摘要 window_summaries [summarizer.summarize(w, max_length60) for w in window_sentences] # 合并窗口摘要进行最终摘要 combined_summary ‘ ‘.join(window_summaries) final_summary summarizer.summarize(combined_summary) return final_summary4.2 摘要质量常见问题与调优即使使用强大的预训练模型生成的摘要也可能不尽如人意。下表列出了常见问题及其对策问题现象可能原因排查与解决思路摘要过于笼统或重复原文开头模型可能学到了数据集的偏见如新闻数据集摘要常是开头几句。1. 检查生成参数尝试提高length_penalty(如 2.0) 和num_beams(如 6)。2. 使用no_repeat_ngram_size防止重复。3. 考虑在特定领域数据上对模型进行微调。摘要包含事实错误幻觉生成式模型的固有风险模型“捏造”了原文没有的信息。1.后处理校验使用 NER 工具提取摘要中的实体人名、地点、组织检查是否在原文中出现。2.约束生成使用类似“Constrained Beam Search”的技术强制要求某些关键实体必须出现在摘要中。3.使用抽取式方法作为兜底或与生成式结果融合。摘要不连贯或语法奇怪可能由于生成长度过短、beam search 参数不当或模型在领域外数据上表现不佳。1. 适当增加min_length。2. 尝试不同的num_beams值。3. 对生成结果进行简单的后处理如句子边界修正。4. 在目标领域数据上微调模型。生成速度慢模型大、文本长、num_beams值高。1.模型优化使用模型量化、动态剪枝或转换为 ONNX/TensorRT 等推理优化格式。2.硬件加速确保使用 GPU 并开启 CUDA。3.参数调整降低num_beams但需评估质量损失。4.缓存对相同或相似文本的摘要结果进行缓存。处理超长文本时内存溢出输入序列过长导致注意力矩阵过大。1. 必须实现长文本处理策略如上述滑动窗口或层次化方法。2. 切换到支持长序列的模型架构如 LED。3. 使用梯度检查点等技术主要在训练时。4.3 从脚本到服务工程化 checklist当摘要功能需要集成到线上服务时以下 checklist 可供参考[ ]配置管理将模型路径、生成参数max_length, num_beams等外置到配置文件如 YAML避免硬编码。[ ]模型加载实现模型的懒加载或预热避免服务启动时卡顿。考虑使用模型池管理多个实例以应对并发。[ ]输入验证与清洗对输入文本进行长度限制、编码检查、敏感词过滤等。[ ]异步处理对于长文本或高并发场景使用消息队列如 RabbitMQ, Kafka或异步框架如 Celery将摘要任务异步化通过回调或轮询返回结果。[ ]监控与日志记录请求量、响应时间、文本长度分布、模型负载。对生成失败、幻觉率高等异常情况进行告警。[ ]版本管理与回滚模型文件应有版本号服务应支持快速切换模型版本以便回滚或 A/B 测试。[ ]限流与降级为摘要接口设置 QPS 限制。在模型服务不可用时可降级为简单的抽取式摘要如 TextRank或返回缓存结果。[ ]评估闭环设计机制收集人工对摘要质量的反馈如打分、修正用于持续优化模型和参数。一个简单的 Flask 服务示例如下# src/app.py (简化版) from flask import Flask, request, jsonify from src.inference import BartSummarizer import threading app Flask(__name__) summarizer None lock threading.Lock() def get_summarizer(): global summarizer if summarizer is None: with lock: if summarizer is None: summarizer BartSummarizer(device‘cuda:0’) return summarizer app.route(‘/summarize’, methods[‘POST’]) def summarize_api(): data request.get_json() text data.get(‘text’, ‘’) if not text: return jsonify({‘error’: ‘No text provided’}), 400 if len(text) 10000: # 简单长度限制 return jsonify({‘error’: ‘Text too long’}), 400 try: model get_summarizer() summary model.summarize(text, max_length150, num_beams4) return jsonify({‘summary’: summary}) except Exception as e: app.logger.error(f“Summarization failed: {e}”) return jsonify({‘error’: ‘Internal server error’}), 500 if __name__ ‘__main__’: app.run(host‘0.0.0.0’, port5000, debugFalse)5. 进阶方向与学习路径掌握了基础的单模型推理后你可以根据需求向更深处探索。5.1 模型微调如果你的摘要场景非常特定如科技论文、医疗报告、中文新闻使用通用模型效果可能打折。此时需要在你的领域数据上对预训练模型进行微调。关键步骤准备数据格式为{“document”: “…”, “summary”: “…”}的 JSONL 文件。选择模型可以从facebook/bart-large,google/t5-base等基础预训练模型开始。使用 Trainer APIHugging Face 的transformers.Trainer类极大简化了训练流程。定义评估指标通常使用 ROUGE 分数在验证集上评估。超参数调优学习率、批次大小、训练轮数等。微调是一个资源密集型过程需要 GPU 和足够的数据至少数千对样本。5.2 探索更先进的模型与架构PEGASUSGoogle 专门为摘要预训练的模型其预训练目标就是“遮盖重要句子并生成”在摘要任务上表现 SOTA。BRIO一种新的训练范式将摘要视为文本排序问题通过对比学习获得更高质量的摘要。基于 LLM 的摘要使用 ChatGPT、Claude 或开源的 Llama、Qwen 等大语言模型通过精心设计的提示词Prompt进行摘要。这种方式零样本或少样本能力强灵活度高但成本和控制力是挑战。5.3 构建混合摘要系统单一的生成式或抽取式模型各有短板。工业级系统常采用混合策略抽取-生成先用快速、准确的抽取式模型如 BERT聚类选出关键句再用生成式模型对这些关键句进行润色和概括。这能在保证事实准确性的基础上提升流畅度。多模型投票/融合同时运行多个不同的摘要模型如 BART, T5, PEGASUS然后通过规则如选择最长的、ROUGE分数最高的或模型如训练一个选择器来融合结果。后处理与校验增加事实一致性校验模块、语法纠错模块、敏感信息过滤模块等。文本摘要是一个典型的从理论到实践再从实践反馈理论的 NLP 任务。从使用开箱即用的模型开始理解其局限然后针对具体业务场景进行数据准备、模型选型、参数调优和系统设计是构建一个可靠摘要服务的完整路径。始终记住没有“最强”的模型只有最适合当前场景、数据和约束的解决方案。下一步你可以尝试在特定领域数据集上微调模型或设计一个结合抽取与生成的混合系统来应对更复杂的真实需求。