本文通过构建AI Agent的六层工程分层架构深入解析了Token、LLM API、幻觉缺陷、RAG、Function Calling、MCP、Agent核心、ReAct循环、反思机制、Skill、SDD和Harness等关键术语的工程本质。从物理原子层Token到环境操作系统层Harness为开发者提供了一套清晰的AI应用落地框架旨在消除术语焦虑提升大模型应用开发能力。在前两期中我们梳理了大模型从象牙塔到平民基建的十年范式更迭也解构了为什么命令行终端正在成为 AI 编程的终局战场。基建有了操控界面也有了。但摆在大多数开发者面前的现实障碍不是技术能力不够而是 AI 领域满天飞的术语构成了一道高昂的“认知税”。从 2024 年的 RAG、Function Calling到 2025 年百花齐放的 Agent再到 2026 年突然火热的 MCP、SDD、Skill 和 Harness。大量新名词不断涌现许多开发者陷入了名词焦虑这些概念之间到底是什么关系哪些是底座哪些是外挂是颠覆性的新发明还是老技术换了一层皮本篇的目标是为开发者画一张概念知识地图。我们拒绝抽象的哲学定义而是将这些名词整理进一套六层工程分层架构中。从最底层的物理 Token到顶层的 Harness 操作系统一次性把所有核心术语的工程本质讲清楚。AI Agent 的六层工程分层架构正如现代软件工程有 OSI 七层网络模型和经典的系统分层架构AI 应用的落地在工程上也已经分化出了清晰的六层架构。我们将所有的核心术语映射到这六层架构中下面我们由底向上逐层剥离这些概念的学术外衣还原它们的工程本质。第一层物理原子层 —— Token词元一切大模型推理与计算的物理终点都是 Token。对于大语言模型来说它根本不认识中文也不认识英文它只认识数字。因此要让大模型处理输入必须有一种方式把原始文本转换为数字。这就是分词器Tokenizer所做的事情。分词器按照特定的分词算法如 BPE 算法把输入的文本切分为多个最小语义单元即 Token然后用一个数字 ID 来表示这个 Token。后续大模型的矩阵计算与推理都是基于这些数字 ID 来进行的。从工程视角看Token 带来了三个极其显眼的工程约束Token 经济学大模型 API 的输入Prompt和输出Completion是按 Token 数量计费的。类比于网络带宽按字节流量收费请求体越庞大、响应体越长费用就呈线性或指数级上升。上下文窗口Context Window限制每个模型能接收的最大数字 ID 序列是有限的如 8K、128K 或 1M。一旦超过这个物理限制模型就会发生内存溢出OOM或者直接遗忘最早的输入。分词退化隐形灾难在代码生成或处理多语言文本时Tokenizer 常常会发生分词退化。例如代码中的泛型符号 List、多重转义符 /n/t 或不常见的中文生僻词分词器无法将其识别为完整语义词而是切碎成一堆单字符或乱码 Token。这不仅会导致 Token 消耗量暴增数倍还会使得模型的推理准确度发生断崖式下跌。第二层模型底座层 —— LLM API 与幻觉缺陷在 Token 之上是提供核心推理能力的模型底座。对于工程开发而言LLM API 本质上就是一个“无状态的远程文本转换服务”。你发一段数字 ID 序列Token过去它经过复杂的注意力机制计算以流式SSE或一次性的方式返回另一段数字 ID 序列出来。理解大模型的“无状态性”是构建 AI 系统的核心前提。大模型在服务端没有任何记忆它不会记住你上一秒对它说了什么。你在聊天界面看到的流畅多轮对话全部是由客户端把所有历史上下文拼接在一起在下一次请求时完整重新发送过去的。在这一层有两个大模型训练阶段的概念经常被提及预训练Pre-training这是大模型的“通识教育”。在数万亿 Token 的海量通用数据上进行自监督训练核心任务非常单纯根据前文不断预测下一个 Token。这训练出了模型的基座Base Model。微调Fine-Tuning这是模型的“岗前业务培训”。在已经受过通识教育的基座模型上使用规模较小如几千条的高质量针对性数据继续训练调整部分权重参数使模型在特定任务格式、敏感词过滤或垂直领域黑话如医疗、金融术语上输出概率更加符合预期。工程红线不可消灭的“幻觉”无论微调得多么完美大模型在本质上都只是基于统计概率输出下一个 Token这决定了它天生自带一个致命 Bug幻觉Hallucination。它会在置信度完全不足时以极度自信、一本正经的语气编造事实。后续所有高层工程方案RAG、Function Calling、Agent、Harness 等的统一出发点不是为了消灭幻觉而是为了约束、控制并增强这个有幻觉的无状态接口。第三层数据与接口外挂层 —— RAG、Function Calling 与 MCP由于底座模型具有无状态和幻觉缺陷且训练数据具有截止日期我们必须在 API 之外为其挂载辅助系统。这就是外挂层。1. RAG检索增强生成—— 开卷考试RAGRetrieval-Augmented Generation的工程本质极其朴素先查库再回答。既然大模型不知道你的私有数据那我们就不让它凭空脑补。在调用 LLM 之前先去你的私有知识库检索出与用户问题最相关的背景资料拼进 Prompt 发给模型强迫它“根据以下参考资料回答问题”。经典的 RAG 包含四个核心阶段切片Chunking将海量文档切成小文本块相邻块保留重叠区以防止信息被切断。向量化Embedding把切片通过 Embedding 模型转为向量存入向量数据库如 pgvector、Milvus。检索与重排Retrieve Rerank根据用户提问的向量相似度召回最相关的 Top-K 切片并用 Rerank 模型进行精准的二次排序。生成Generate将最相关的文本拼入 Prompt交给大模型做总结和格式化输出。2. Function Calling函数调用—— 动态路由器如果说 RAG 给了大模型看资料的“眼睛”Function Calling 则给了大模型做事情的“双手”。一个极其重要的工程事实大模型自己不执行任何代码它只负责输出结构化的 JSON 描述。大模型在 Function Calling 中扮演的是“意图解析器”和“接口路由器”。开发者向模型注册可用工具列表用户输入指令后大模型自动判断应该调用哪个函数、需要哪些参数并输出一个包含函数名和参数值的 JSON 对象。最后由开发者编写的后端代码去执行真实操作。安全警示由于幻觉存在大模型完全可能输出带有注入攻击字符或完全非法的 JSON 参数。后端服务必须对大模型生成的 JSON 进行严格的参数校验、类型拦截并把涉及文件读写、数据库修改的操作放进受限沙箱中运行严禁直接执行。3. MCP模型上下文协议—— AI 应用的“Type-C 接口”在 2025 年末Anthropic 提出了 MCPModel Context Protocol模型上下文协议迅速成为行业标准。在 MCP 出现前如果你有三个不同的 Agent写代码的、查数据库的、管日程的你必须为每个 Agent 重复编写读取本地文件、查询 Slack 或操作 GitHub 的接口代码。Agent 数量和工具数量呈 M * N 的网状复杂度。MCP 协议的核心本质是解耦了 AI 应用与外部数据/工具的连接将复杂度降为 M N。MCP 采用了类似客户端-服务端Client-Server的经典架构MCP Server数据和工具的提供者如 Postgres-Server、Git-Server、Filesystem-Server通过统一的 JSON-RPC 2.0 协议向外暴露 Resources数据源、Prompts提示词模板和 Tools可调用函数。MCP Client大模型 Agent 应用。它只需要实现一个 MCP Client 接口就能无缝连接世界上任何一个现成的 MCP Server。MCP 就像是 AI 时代的 Type-C 接口标准。只要双方都遵循这个协议大模型就能随时插拔任何外部工具与数据源。第四层自循环决策层 —— Agent 核心、ReAct 与反思机制在拥有了外挂数据和标准化工具后大模型终于可以摆脱“一问一答”的被动响应模式晋升为能够自主推进任务的 Agent智能体。从工程定义上看Agent 是以大模型为核心具备规划Planning、记忆Memory和工具调用能力能够自主拆解复杂任务并持续运行直至任务闭环的计算实体。Agent 与 Function Calling 的层级关系一目了然Function Calling 是 Agent 的“双手”Agent 是 Function Calling 的“大脑”。1. ReAct 自循环Agent 驱动任务的核心机制是 ReAct 循环Reasoning Acting[开始] ── Observe (观察环境/输入) ── Think (推理下一步) ── Act (调用工具) ── Observe (拿回结果) ── [判断是否闭环]当用户输入一个模糊的指令如“修复项目中的 NPE 异常”Agent 会进入 ReAct 循环Think我需要定位异常发生的位置。Act调用 grep 查找 NPE 关键字。Observe拿到文件路径和行号。Think我需要查看该文件的代码内容。Act调用 read_file 读取对应代码段。Observe发现变量未做非空校验。Think我需要编写补丁并验证。Act调用 modify_file 修改代码并执行 Maven 测试。Observe测试通过任务完成。2. 记忆系统Memory为了在多轮 ReAct 中保持状态Agent 的记忆系统在工程上通常被分为两层短期记忆Short-term Memory用于当前会话。由于上下文窗口限制通常采用滑动窗口截断或历史对话摘要Summary的方式在保留语义连贯性的前提下主动压缩 Prompt 长度。长期记忆Long-term Memory用于跨会话场景。Agent 会自动将历史会话的关键决策、用户习惯转化为知识摘要存入向量库。在新会话启动时根据当前意图做向量检索召回按需注入上下文。3. 反思与反馈机制Self-Reflection反思是 Agent 摆脱盲目循环、实现自我纠错的关键。反思机制在本质上就是“生成后再评估根据反馈修正结果”。工程上主要分为两类自我反馈Self-Feedback大模型自己充当裁判审查自己刚刚输出的文本或代码。例如检查是否满足字数限制、是否遵循了格式约束、有没有意外改动不该改的内容。外部反馈External Feedback不相信模型的自我审查而是把结果放入真实物理环境中运行。例如直接调用编译器编译生成的代码运行单元测试查看结果或者使用 JSON Schema 校验生成的 JSON 是否合规。外部事实反馈是防范 Agent 逻辑死锁与幻觉滑坡的终极防线。4. 三道安全熔断机制由于 Agent 具有自我循环能力一旦发生异常很容易陷入无休止的“思考-行动”黑洞导致费用失控。工程上必须在自循环决策层强制安装三道保险最大迭代次数Max Iterations例如强制限制单次任务最大循环 30 次超出则必须暂停并向人类请求协助。Token 费用熔断单次任务累计消耗 Token 金额达到阈值如 $5立即触发硬熔断。死锁与无用功检测如果 Agent 连续 3 轮执行完全相同的 Action 且返回相同的 Error或者在两个状态间反复横跳判定为逻辑死锁强制退出。第五层经验沉淀层 —— Skill技能包与 SDD规格驱动开发当大模型具备了自主循环的能力后企业在实际工业落地中很快遇到了新的挑战如何让 Agent 的行为变得规范、可控并能沉淀为企业的数字资产这促成了经验沉淀层的诞生。1. Skill技能包—— 结构化任务经验包正如前文提到的Anthropic 研究员在 2026 年提出了一个变革性的观点与其为每一个任务单独写一个 Agent不如打造一个通用的 Agent并为它装载不同的 Skill。通用 Agent 提供基础的 ReAct 循环、文件操作、终端访问等底层 Harness 能力而 Skill 则决定了 Agent 会做什么。在工程实现上一个 Skill 本质上就是一个结构化的本地文件夹。它将特定领域的 SOP标准作业程序和最佳实践进行了显式封装skill.md主说明文件告诉通用 Agent 遇到这类任务时该遵循什么逻辑。rules/流程与规则约束细化的执行边界与安全红线。examples/One-shot/Few-shot 示例告诉 Agent 好的输出长什么样坏的输出长什么样。scripts/辅助小工具提升 Agent 执行效率的本地脚本。例如一个企业可以拥有“SQL 注入漏洞修复 Skill”、“bug 修复处理Skill”等。遇到不同任务Agent 挂载不同的 Skill 目录就能立即以极高的标准执行任务。这使得 AI 的能力可以随着 Skill 的不断迭代而持续沉淀。2. SDD规格驱动开发—— 契约化上下文管理SDDSpec-Driven Development规格驱动开发 是在正式编码之前将模糊的用户意图彻底转化为稳定、具体工程上下文的一种设计模式。如果你直接对 Agent 说“帮我把项目重构一下”大模型会因为上下文太空泛而开始猜测需求接着开始大面积修改代码最后导致大量 Regression回归 Bug。在 SDD 模式下在编码前人与 AI 协作先写出一份极其详细的 Specification规格文档明确写清楚变更的目标、变更的范围、系统交互行为的改变、修改哪些具体文件、必须保留的历史逻辑以及任务的具体拆分步骤。规格文档定稿后再让 AI 严格按照这份规格去写代码。通过这一契约模糊的“自然语言意图”在第五层被过滤并固化为“规格上下文”。AI 只需要按图索骥去编码极大地避免了实现跑偏、引入意外 Bug 或改坏历史代码的问题。第六层环境操作系统层 —— Harness 工程驾驭工程在最顶层是包容并控制一切的 Harness 工程。业界在 2026 年达成了一个广泛的共识If you’re not the model, you’re the harness.在 Agent 应用中除了大模型本身剩下的一切工作都是 Harness。Harness驾驭工程/运行控制框架是 Agent 真正能够运行的操作系统。模型提供了推理但 Harness 提供了生存的物理世界与控制律。一个标准的 Harness 工程必须为 Agent 提供以下系统级支持Harness 组件物理实现与作用Tool Execution提供运行 Shell 命令的终端、隔离的 Docker 沙箱、Git 版本库、浏览器等物理环境。Context Management自动向模型注入必要的环境背景信息如 README、AGENTS.md 约束、当前目录树结构。State Tracking追踪任务进度的状态机。即使程序崩溃或网络中断也能重新加载状态继续执行而不是重新开始。Permission Gate权限门禁。敏感操作如 git push、rm -rf、写大文件、网络请求必须拦截并等待人类输入 Y/N 确认。Verification Loop验证回路。当 Agent 宣称完成任务时Harness 自动运行 Maven Clean Build / Linter / Unit Test 检验真伪。Observer Logging日志观测。完整记录 Agent 的思考过程Thought、行动Action及报错用于事后回溯与重放。为什么 Harness 在 2026 年成为了竞争焦点因为行业逐渐发现拼模型参数的红利期正在过去在相同模型底座下Harness 做得差Agent 成功率不到 20%Harness 做到极致成功率可以飙升到 80% 以上。 决定 AI 能否在真实生产环境中落地的正是这套“操作系统”的工程质量。六层架构全局速查表我们将这六个层次及其代表的术语用一张全景映射表做一次最终的工程脱水分层术语一句话本质工程实践意义与边界第一层物理原子Token数字 ID 词元推理和计费的物理原子单元警惕代码转义带来的分词退化灾难。第二层模型底座LLM API无状态远程 RPC文本转换服务天生自带幻觉 Bug后续所有工程都是为了对其进行约束和增强。Fine-Tuning岗前格式微调调整权重使其输出更符合特定格式/风格大部分场景 PromptRAG 表现更优。第三层数据接口RAG开卷检索生成先用向量/全文检索查资料再拼接成 Prompt 提交解决私有数据盲区。Function Calling动态接口路由大模型扮演网关路由器输出 JSON 指令后端必须设立严格的沙箱与校验红线。MCPAI 版 Type-C 接口标准化的模型上下文协议实现 Agent 应用与外部工具/数据源的插拔解耦。第四层自循环决策Agent自循环 Worker具备规划、记忆与工具调用的自主闭环运行实体。ReAct推理-行动循环Think-Act-Observe 的状态机自循环直至满足任务退出条件。反思机制生成后评估修正分为自我反馈与外部反馈外部编译和测试反馈是防范逻辑失控的硬核防线。第五层经验沉淀Skill结构化经验包文件夹形式的领域 SOP 封装让通用 Agent 快速装备并化身为专业领域专家。SDD规格契约开发在编码前用规格文档锁定任务边界和拆分防止 AI 因上下文模糊而盲目猜需求。第六层环境系统HarnessAgent 操作系统除了模型外的一切包括沙箱环境、权限拦截、状态追踪与自动测试校验。结语从物理原子的 Token到作为操作系统的 Harness这六层架构画出了当前 AI 应用从底层推理到上层系统工程的完整坐标系。消除名词焦虑的最好方法是看清其物理本质。你会发现AI 工程的落地并不是一门全新的玄学其核心难点依然是我们熟悉的那套东西接口的安全防线如何构建、网络通信的开销如何降低、复杂的状态机如何维护、系统的权限与沙箱如何隔离、SOP 与设计契约如何落地。大模型提供了一个有幻觉的大脑而我们后端工程师真正的舞台恰恰是为这个大脑穿上盔甲、接入神经构建一个坚固、安全且规范的 Harness 物理世界。最后如果说程序员已经是高薪职业那么干AI的程序员就是高薪中的高薪。现在的市场已经用数据给程序员指明了方向学AI大模型就是冲刺高薪的最优解看着身边越来越多的同行转型大模型、拿到高薪offer很多人心里都动了心但真正的难题来了零基础小白不知道从哪入门有基础的程序员找不到系统学习路径实战项目练手无门面试不知道考什么别慌今天就给大家整理了一份【2026年最新版】AI大模型免费学习资源包覆盖从入门到实战、从理论到面试、从基础到进阶的全流程所有资料均已整理归档无冗余、无套路免费分享给每一位想抓住AI风口的程序员和小白扫码免费领取全部内容1、大模型系统化学习路线2、大模型学习书籍文档3、AI大模型最新行业报告4、大模型项目实战配套源码5、大模型大厂面试真题四阶段精细化学习规划附时间节点可直接照做结合上述资源给大家整理了一份可直接落地的四阶段学习规划总时长约2个月小白可循序渐进程序员可根据自身基础调整节奏高效掌握大模型核心能力快速实现从“入门”到“能落地、能面试”的跨越。第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…扫码免费领取全部内容6、这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】