)
随着 AI 从简单的单次任务向自主运行的智能体演进开发的重点正从单纯的“提示词工程”转向全局的“上下文工程”。但上下文工程容量越来越大如下问题从模型承载能力看上下文窗口过大会超过模型一次最多能读取的上下文容量上限如Claude-4.5-sonnet 为 200kGPT-5.1 和 GPT-5.1-codex 为 272K而 DeepSeek-3.1 仅有128K从成本角度看每次请求会根据输入和输出的 token 计费上下文越长消耗越大如# Kimi K3 的价格为输入 20 元/1M token缓存未命中输出 100 元/1M token。虽然输出价格远高于输入但输出 token 的量级通常远小于输入真正的成本大头是输入 token从效果角度看会出现关键信息被遗忘、注意力被分散、响应速度变慢等问题使模型无法捕捉关键细节处理时间长导致回答跑题或抓不住重点。上下文context想解决上述问题我们需要先了解上下文里面有什么模型实际“看到并读取”的所有内容统称为上下文context通常包含系统提示词system prompt由开发者编写定义 Agent 的身份、行为规则、约束条件。模型将其视为最高优先级的指令。整个对话过程中通常只有一条放在消息列表的最前面。用户输入的消息user message用户消息。来自终端用户的输入是 Agent 需要响应的请求。模型的回答model response模型之前的回复包括文本回复和工具调用请求。在多轮对话中之前的模型回答消息会被放回消息列表让模型“记住”自己说过什么。附加的文件、代码片段、图片等引用内容定义的规则、存储的记忆、MCP、Skills等他们一起构建了上下文已一家专业中药房看病的全过程为例【系统提示词】老药师身份与守则 【存储记忆】顾客过敏史/病史 【规则】配药禁忌 │ ▼ 【用户消息】“我失眠乏力帮我开药” 【附件】体检报告/旧处方照片 │ ▼ 【调用Skills/Tools】老药师把脉(Skill) ── 查药库存/电子称重(MCP/Tool) │ ▼ 【模型回答】生成个性化药方 煎药服药说明书整个上下文估计有8000个汉字左右中间还夹杂着各类英文标签按照英文中大约 34 个字符 ≈ 1 个 token中文中通常 1 个汉字 ≈ 1 个 Token来计算一轮下来至少需要10k的Token如果用户和老药师多聊几轮上下文肯定会成倍增长。上下文实用技巧整个上下文会过长业界一般有几种解决方案经常同时使用简单高效如开启新会话、及时关闭不再需要的扩展和规则、合理规划模型切换、精准引用工具Token 缓存机制上下文压缩优先使用 Skills谨慎使用 MCP简单高效的解决方案纯小白也会根据用户的实践经验当出现以下情况时建议及时开启新会话回答质量下降模型开始重复修改、遗忘早期细节、出现幻觉或答非所问对话过于冗长继续在臃肿的上下文中堆叠信息不仅成本高昂还会导致回答质量进一步恶化话题多次转换对话涉及多个不相关的任务或问题上下文信息杂糅混乱除了开启新会话外也可以手动总结或在中间内容另起一个话题分支。手动总结已使用的是Codex为例可以使用如下几步第一步在老会话中提取“核心资产”在当前那个冗长的旧对话中直接发送一条总结指令让模型自己提取关键信息。 你可以这样问“请帮我总结一下我们当前的讨论进度。要求提取核心的项目背景和业务需求。罗列已经确认的代码实现方案或使用的框架。列出目前待解决的问题。 请尽量精简、结构化保留关键的技术约束即可。”第二步复制并手动微调摘要Codex 生成总结后你可以快速扫一眼。如果 AI 漏掉了某些绝对不能妥协的技术细节比如特定的版本号或网络配置你可以手动补充上去。确认无误后将这段纯净的“核心摘要”复制下来。第三步开启新会话轻装上阵在 Codex 桌面端应用中点击新建会话通常是New Chat或图标打开一个全新的空白窗口。彻底抛弃之前的历史包袱。在新会话的第一条消息中把复制的摘要发给它并顺势抛出你的新任务“这是我们之前讨论的项目背景和已确认的决策[粘贴刚才的摘要内容]接下来请基于上述前提帮我解决这个新问题[输入你当下要写的具体代码或要排查的 Bug]”在中间内容另起一个话题分支在 Codex 桌面端应用中找到所选择的会话点击分叉箭头 branch in new chat会出现“-----从聊天中继续------”就可以接着上面的上下文继续聊了。合并多条指令多个问题合并成一条消息发送。示例把“总结摘要”、“列出要点”、“给我起一个标题”3条消息合并成1条发送即“帮我把这篇文章内容总结摘要、列出要点并起一个标题”提问对比表低效 vs 高效❌ 低效提问✅ 高效提问“帮我看看这个项目”“分析src/auth/login.ts的认证流程列出潜在安全风险”“这个报错了怎么办”“运行npm run build报 TS2345 错误这是完整日志: [粘贴日志]”连续追问 5 个小问题一次性列出所有问题编号 1-5“帮我改一下”“将config.ts:42的超时时间从 5000 改为 10000”节省效果精准提问平均减少2-4 轮澄清对话。Token 消耗每减少一轮对话约节省3000-5000 tokens避免了重复携带上下文历史的开销。合理规划模型切换不同模型各有所长根据任务特点选择合适的模型可以兼顾效果和成本国内模型个人观点仅供参考任务类型推荐模型选型理由1. 深度逻辑、复杂代码与技术推理DeepSeek、Qwen、Kimi、GLM、文心DeepSeek 在代码、数学、长链推理上性价比极高Qwen-Max 在代码和工具调用上稳定Kimi 技术推理增强明显GLM 逻辑严谨适合需可控推理的场景2. 中文通用理解、营销文案与办公辅助Doubao-pro、Kimi、Qwen-Max、GLM、文心 、讯飞星火中文表达更自然、公文/营销语感强文心和 Doubao 在中文语境、本土办公场景写周报、公文、小红书文案上更“接地气”3. 高并发、低延迟、轻量级任务Qwen-Turbo、Doubao-lite、GLM-Flash、文心 Speed/Lite、DeepSeek中小规模部署延迟低、单价便宜、适合分类、摘要、意图识别、客服等对响应速度敏感的场景通常要牺牲少量推理深度4. 长文本解析与多模态交互Kimi、QwenVL-Max、Doubao-vision、GLM、文心 Turbo 长文本版Kimi 是长文本代表Qwen-VL 系列在图文理解、文档 OCR、视频理解上能力突出GLM/Doubao-vision 在多轮图文对话上体验好国外模型个人观点仅供参考性价比模型如 GLM、Claude Haiku价格低、速度快适合日常使用高性能模型如 Claude Opus、Claude Sonnet推理能力强适合复杂重构、大型代码分析、架构设计等高价值场景审美能力强的模型如 Gemini Banana前端页面生成、视觉审美判断等 切换模型打破思维定式如果发现当前模型陷入死循环或方案不理想时也可以尝试切换模型寻求不同思路。不同模型系列在代码生成、问题分析上的风格差异可能带来新的启发帮助快速跳出困境。精准引用工具常见的上下文唤起指令 (Context References)这些指令主要用来向 AI 精确指定希望它读取或参考的信息范围Web/Search允许 AI 联网搜索最新的网页信息、文档或解决方案。Docs引用特定的第三方技术文档如 React、Python 或系统 API让 AI 基于最新或指定的官方文档回答。Git/Commit/PR引用提交记录、分支日志或 Pull Request 信息帮助撰写 Changelog 或理解变动历史。Terminal/Console获取你终端或控制台的最新输出/错误日志常用于自动分析和修复报错Debug。Codebase对整个项目代码库进行全局语义检索寻找相关的模块或类。Definitions/Symbol定位特定的函数、类型或变量定义。常见的/快捷动作指令 (Slash Commands)这类指令用来指定 AI具体执行什么操作避免手动输入重复的提示词/explain解释选中的代码、报错或概念。/fix自动分析选中的代码并修复 Bug 或错误。/tests为当前代码或函数自动生成单元测试Unit Tests。/doc//comment自动为代码生成标准格式的注释或 API 文档如 JSDoc、Docstring。/refactor重构选中的代码优化结构或性能。/clear//reset清除当前的会话上下文重新开始对话。不同的Agent可能显示的也不太相同已Codex为例OpenCode的是简单的区分方式是指令回答的是“看什么”提供哪里的信息作为上下文用的最多的是制定代码或文件。/指令回答的是“做什么”对上下文执行什么具体动作用的最多的是制定的/skill。/skill则属于更高级的自定义扩展功能允许你给 AI 挂载特定的专业技能组/工作流。总结梳理四大低成本、即学即用的基础优化策略及时开启新会话在回答质量下降、对话冗长或话题转换时及时止损手动总结与分支提取借助 AI 提取核心背景与代码方案剔除无用历史轻装上阵合并多条指令将同一阶段的多个诉求或问题一次性合并发送通过精准提问减少2-4 轮澄清对话每轮可节省3000-5000 tokens的历史开销合理规划模型选型按任务复杂度与成本灵活切换模型如 DeepSeek/Qwen 处理复杂代码逻辑轻量级模型处理高并发任务特定模型处理视觉/前端陷入思维死循环时切模型破局精准引用工具巧用指令明确“看什么”精准注入代码或文档利用/指令明确“做什么”自动执行重构或单测配合 Skill 挂载专业工作流从源头掌控 Token 消耗。依靠良好的使用习惯与精准调用可以解决大部分日常开发中的 Token 浪费。但面对长流水线、复杂 Agent 自动迭代等超大上下文场景仅靠人工控制远远不够。下半部分将深入底层技术与架构设计详细拆解 缓存机制Prefix Caching与 上下文自动压缩/剪枝Context Compression的实战落地 告别 Token 暴涨！AI Agent 深度上下文管理与降本实战(上)
随着 AI 从简单的单次任务向自主运行的智能体演进开发的重点正从单纯的“提示词工程”转向全局的“上下文工程”。但上下文工程容量越来越大如下问题从模型承载能力看上下文窗口过大会超过模型一次最多能读取的上下文容量上限如Claude-4.5-sonnet 为 200kGPT-5.1 和 GPT-5.1-codex 为 272K而 DeepSeek-3.1 仅有128K从成本角度看每次请求会根据输入和输出的 token 计费上下文越长消耗越大如# Kimi K3 的价格为输入 20 元/1M token缓存未命中输出 100 元/1M token。虽然输出价格远高于输入但输出 token 的量级通常远小于输入真正的成本大头是输入 token从效果角度看会出现关键信息被遗忘、注意力被分散、响应速度变慢等问题使模型无法捕捉关键细节处理时间长导致回答跑题或抓不住重点。上下文context想解决上述问题我们需要先了解上下文里面有什么模型实际“看到并读取”的所有内容统称为上下文context通常包含系统提示词system prompt由开发者编写定义 Agent 的身份、行为规则、约束条件。模型将其视为最高优先级的指令。整个对话过程中通常只有一条放在消息列表的最前面。用户输入的消息user message用户消息。来自终端用户的输入是 Agent 需要响应的请求。模型的回答model response模型之前的回复包括文本回复和工具调用请求。在多轮对话中之前的模型回答消息会被放回消息列表让模型“记住”自己说过什么。附加的文件、代码片段、图片等引用内容定义的规则、存储的记忆、MCP、Skills等他们一起构建了上下文已一家专业中药房看病的全过程为例【系统提示词】老药师身份与守则 【存储记忆】顾客过敏史/病史 【规则】配药禁忌 │ ▼ 【用户消息】“我失眠乏力帮我开药” 【附件】体检报告/旧处方照片 │ ▼ 【调用Skills/Tools】老药师把脉(Skill) ── 查药库存/电子称重(MCP/Tool) │ ▼ 【模型回答】生成个性化药方 煎药服药说明书整个上下文估计有8000个汉字左右中间还夹杂着各类英文标签按照英文中大约 34 个字符 ≈ 1 个 token中文中通常 1 个汉字 ≈ 1 个 Token来计算一轮下来至少需要10k的Token如果用户和老药师多聊几轮上下文肯定会成倍增长。上下文实用技巧整个上下文会过长业界一般有几种解决方案经常同时使用简单高效如开启新会话、及时关闭不再需要的扩展和规则、合理规划模型切换、精准引用工具Token 缓存机制上下文压缩优先使用 Skills谨慎使用 MCP简单高效的解决方案纯小白也会根据用户的实践经验当出现以下情况时建议及时开启新会话回答质量下降模型开始重复修改、遗忘早期细节、出现幻觉或答非所问对话过于冗长继续在臃肿的上下文中堆叠信息不仅成本高昂还会导致回答质量进一步恶化话题多次转换对话涉及多个不相关的任务或问题上下文信息杂糅混乱除了开启新会话外也可以手动总结或在中间内容另起一个话题分支。手动总结已使用的是Codex为例可以使用如下几步第一步在老会话中提取“核心资产”在当前那个冗长的旧对话中直接发送一条总结指令让模型自己提取关键信息。 你可以这样问“请帮我总结一下我们当前的讨论进度。要求提取核心的项目背景和业务需求。罗列已经确认的代码实现方案或使用的框架。列出目前待解决的问题。 请尽量精简、结构化保留关键的技术约束即可。”第二步复制并手动微调摘要Codex 生成总结后你可以快速扫一眼。如果 AI 漏掉了某些绝对不能妥协的技术细节比如特定的版本号或网络配置你可以手动补充上去。确认无误后将这段纯净的“核心摘要”复制下来。第三步开启新会话轻装上阵在 Codex 桌面端应用中点击新建会话通常是New Chat或图标打开一个全新的空白窗口。彻底抛弃之前的历史包袱。在新会话的第一条消息中把复制的摘要发给它并顺势抛出你的新任务“这是我们之前讨论的项目背景和已确认的决策[粘贴刚才的摘要内容]接下来请基于上述前提帮我解决这个新问题[输入你当下要写的具体代码或要排查的 Bug]”在中间内容另起一个话题分支在 Codex 桌面端应用中找到所选择的会话点击分叉箭头 branch in new chat会出现“-----从聊天中继续------”就可以接着上面的上下文继续聊了。合并多条指令多个问题合并成一条消息发送。示例把“总结摘要”、“列出要点”、“给我起一个标题”3条消息合并成1条发送即“帮我把这篇文章内容总结摘要、列出要点并起一个标题”提问对比表低效 vs 高效❌ 低效提问✅ 高效提问“帮我看看这个项目”“分析src/auth/login.ts的认证流程列出潜在安全风险”“这个报错了怎么办”“运行npm run build报 TS2345 错误这是完整日志: [粘贴日志]”连续追问 5 个小问题一次性列出所有问题编号 1-5“帮我改一下”“将config.ts:42的超时时间从 5000 改为 10000”节省效果精准提问平均减少2-4 轮澄清对话。Token 消耗每减少一轮对话约节省3000-5000 tokens避免了重复携带上下文历史的开销。合理规划模型切换不同模型各有所长根据任务特点选择合适的模型可以兼顾效果和成本国内模型个人观点仅供参考任务类型推荐模型选型理由1. 深度逻辑、复杂代码与技术推理DeepSeek、Qwen、Kimi、GLM、文心DeepSeek 在代码、数学、长链推理上性价比极高Qwen-Max 在代码和工具调用上稳定Kimi 技术推理增强明显GLM 逻辑严谨适合需可控推理的场景2. 中文通用理解、营销文案与办公辅助Doubao-pro、Kimi、Qwen-Max、GLM、文心 、讯飞星火中文表达更自然、公文/营销语感强文心和 Doubao 在中文语境、本土办公场景写周报、公文、小红书文案上更“接地气”3. 高并发、低延迟、轻量级任务Qwen-Turbo、Doubao-lite、GLM-Flash、文心 Speed/Lite、DeepSeek中小规模部署延迟低、单价便宜、适合分类、摘要、意图识别、客服等对响应速度敏感的场景通常要牺牲少量推理深度4. 长文本解析与多模态交互Kimi、QwenVL-Max、Doubao-vision、GLM、文心 Turbo 长文本版Kimi 是长文本代表Qwen-VL 系列在图文理解、文档 OCR、视频理解上能力突出GLM/Doubao-vision 在多轮图文对话上体验好国外模型个人观点仅供参考性价比模型如 GLM、Claude Haiku价格低、速度快适合日常使用高性能模型如 Claude Opus、Claude Sonnet推理能力强适合复杂重构、大型代码分析、架构设计等高价值场景审美能力强的模型如 Gemini Banana前端页面生成、视觉审美判断等 切换模型打破思维定式如果发现当前模型陷入死循环或方案不理想时也可以尝试切换模型寻求不同思路。不同模型系列在代码生成、问题分析上的风格差异可能带来新的启发帮助快速跳出困境。精准引用工具常见的上下文唤起指令 (Context References)这些指令主要用来向 AI 精确指定希望它读取或参考的信息范围Web/Search允许 AI 联网搜索最新的网页信息、文档或解决方案。Docs引用特定的第三方技术文档如 React、Python 或系统 API让 AI 基于最新或指定的官方文档回答。Git/Commit/PR引用提交记录、分支日志或 Pull Request 信息帮助撰写 Changelog 或理解变动历史。Terminal/Console获取你终端或控制台的最新输出/错误日志常用于自动分析和修复报错Debug。Codebase对整个项目代码库进行全局语义检索寻找相关的模块或类。Definitions/Symbol定位特定的函数、类型或变量定义。常见的/快捷动作指令 (Slash Commands)这类指令用来指定 AI具体执行什么操作避免手动输入重复的提示词/explain解释选中的代码、报错或概念。/fix自动分析选中的代码并修复 Bug 或错误。/tests为当前代码或函数自动生成单元测试Unit Tests。/doc//comment自动为代码生成标准格式的注释或 API 文档如 JSDoc、Docstring。/refactor重构选中的代码优化结构或性能。/clear//reset清除当前的会话上下文重新开始对话。不同的Agent可能显示的也不太相同已Codex为例OpenCode的是简单的区分方式是指令回答的是“看什么”提供哪里的信息作为上下文用的最多的是制定代码或文件。/指令回答的是“做什么”对上下文执行什么具体动作用的最多的是制定的/skill。/skill则属于更高级的自定义扩展功能允许你给 AI 挂载特定的专业技能组/工作流。总结梳理四大低成本、即学即用的基础优化策略及时开启新会话在回答质量下降、对话冗长或话题转换时及时止损手动总结与分支提取借助 AI 提取核心背景与代码方案剔除无用历史轻装上阵合并多条指令将同一阶段的多个诉求或问题一次性合并发送通过精准提问减少2-4 轮澄清对话每轮可节省3000-5000 tokens的历史开销合理规划模型选型按任务复杂度与成本灵活切换模型如 DeepSeek/Qwen 处理复杂代码逻辑轻量级模型处理高并发任务特定模型处理视觉/前端陷入思维死循环时切模型破局精准引用工具巧用指令明确“看什么”精准注入代码或文档利用/指令明确“做什么”自动执行重构或单测配合 Skill 挂载专业工作流从源头掌控 Token 消耗。依靠良好的使用习惯与精准调用可以解决大部分日常开发中的 Token 浪费。但面对长流水线、复杂 Agent 自动迭代等超大上下文场景仅靠人工控制远远不够。下半部分将深入底层技术与架构设计详细拆解 缓存机制Prefix Caching与 上下文自动压缩/剪枝Context Compression的实战落地