一、AI大模型工作原理高级的“文字接龙”AI大模型特别是我们常用的大型语言模型LLM其工作原理可以通俗地理解为一个超高级的“文字接龙”游戏。它通过在海量数据上的学习掌握了语言的规律并能够根据上文内容一个字一个字地预测并生成下文下面这张图可以帮你快速了解它的核心流程具体来说它的工作过程主要包含以下几步第一步把文本“翻译”成数字——分词Tokenization大模型并不直接认识文字。在处理你的输入时它会先把一整段话拆分成一个个更小的单元叫做Token词块 或官方命名词元。Token是什么一个Token可以是一个完整的单词也可以是单词的一部分甚至是标点符号。例如“我爱人工智能”可能会被拆分成“我”、“爱”、“人工”、“智能”等几个Token。为什么要这么做拆分后每个Token都会被映射成一个独一无二的数字ID。这样一来你的问题就从一段文本变成了一串模型能够理解和计算的数字序列。第二步预测下一个Token核心机制这是大模型工作的灵魂步骤。它基于Transformer架构详见第二部分核心在于“自注意力机制”。简单来说模型在生成下一个词时会“关注”输入文本中所有其他词并判断它们与当前生成任务的相关性从而选择最合适的词。整个过程是自回归的即用自己生成的新结果作为下一步预测的依据模型分析你输入的所有Token你的问题。基于分析它会计算出一个概率并选出可能性最高的那一个Token作为回答的第一个字或词。接着模型会把你原来的问题 它刚生成的第一个Token放在一起再次进行分析预测出第二个Token。这个过程会不断重复直到模型生成一个表示“回答完毕”的Token或达到预定的长度上限。这就好比手机输入法的“联想输入”功能但它强大在能根据一整段话甚至一本书的上下文来预测下一个词从而生成逻辑通顺、内容连贯的长篇回答。强大的秘密三个阶段的学习模型之所以能如此精准地“接龙”是因为经历了三个关键的学习阶段海量预训练Pre-training这是打基础阶段。模型被“投喂”了互联网上近乎所有的公开文本包括书籍、文章、代码等总量相当于人类阅读几十万年的量。在这个阶段它学会了语法、事实、逻辑和推理的“语言模式”但并不具备对话能力。训练任务很简单随机遮住一句话中的几个词让模型预测被遮住的是什么。微调与对齐Fine-tuning Alignment为了让模型从一个“文本补全工具”变成有用的“助手”研发人员会用大量高质量的“人类问答”示例来训练它让它学会理解指令和遵循对话格式。其中基于人类反馈的强化学习RLHF是关键技术即由人类对模型的多个回答进行打分模型通过学习这些反馈来优化自己的回答使其更符合人类的偏好和价值观。推理过程强化Reasoning对于最先进的模型如OpenAI o1系列还会额外训练它们“思考”的能力。即在给出最终答案前先生成一系列中间的推理步骤如“让我们一步步分析...”这大幅提升了它们在数学、逻辑和编程等复杂任务上的表现但也意味着更长的响应时间。一些有趣的关键点它是在“理解”还是“计算”严格来说大模型并不像人一样真正“理解”含义。它所有的输出都是基于海量数据训练出的概率统计模型是一种基于模式的概率预测。“涌现能力”当模型的规模参数量大到一定程度时会突然表现出一些未被明确训练过的能力比如常识推理、类比等。这就像它突然“开窍”了一样是学术界一个很有趣的现象。“幻觉”因为模型本质是“猜下一个最可能的词”所以它有时会“一本正经地胡说八道”编造不存在的事实。因此对模型的关键回答进行事实核查非常重要。二、什么是TransformerTransformer是一种革命性的神经网络架构由Google在2017年提出论文《Attention Is All You Need》。你可以把它理解为驱动ChatGPT等所有主流大模型的“基础设施”或“引擎”。它的核心突破在于解决了老模型如RNN的两个致命短板无法并行处理RNN必须一个字一个字地按顺序处理速度慢。记不住太长的上下文RNN在处理长文本时会“遗忘”前面的内容。Transformer之所以能成为主流主要靠两大核心机制自注意力机制Self-Attention让模型能同时“看到”所有词并判断它们之间的相关性这是它最聪明的“杀手锏”。在处理某个词时它会计算该词与句子中所有其他词的相关性权重类似搜索引擎排序。比如分析“苹果很好吃”时它会自动让“吃”紧盯着“苹果”这彻底解决了长距离遗忘问题且能并行计算效率极高。位置编码Positional Encoding因为自注意力是并行“同时看”所有词它本身不懂顺序。所以需要给每个Token的位置附加一个“坐标信息”让模型知道语序。基于这套架构大模型演化出了三个经典流派流派架构代表模型擅长任务纯编码器只有编码器BERT文本分类、情感分析、命名实体识别理解任务纯解码器只有解码器GPT系列、Claude、LLaMA文本生成、问答、续写生成任务——这是当前主流编码器-解码器两者都有原版Transformer、T5机器翻译、文本摘要序列到序列任务你现在正在对话的ChatGPT等大模型属于纯解码器架构。它没有编码器只有一个解码器在不断“接龙”。三、深入拆解Transformer的三大核心机制1. 自注意力机制Self-Attention核心的“全局关联”能力这是Transformer最根本的创新也是它强大能力的来源。通俗比喻开会时的“超级笔记员”想象你在一个全是重要人物的会议室里。当你要理解“他”这个代词指代谁时你不会只看这个词本身而是会扫视全场根据前面所有人的发言上下文判断谁最可能是“他”。自注意力机制做的就是让模型在处理任何一个词时都能同时“扫视”句子中所有其他词并给每个词分配一个“关注度分数”。分数高的词就是当前词最需要参考的上下文。工作原理Q、K、V为了实现这个“扫视”模型为输入序列中的每个Token生成了三个向量注意这些向量是针对当前上下文动态计算的不是词本身的固定属性向量角色比喻精确专业含义QQuery查询当前词“想问的问题”由当前Token生成的“探针”向量用于扫描所有Token的Key以计算它们与当前Token在该语境下的相关性分数。KKey键当前词“被搜索的标签”由每个Token生成的“索引”向量用于被Query扫描匹配。它和Query共同决定了注意力权重的分配。VValue值当前词携带的“信息内容”由每个Token生成的“内容”向量其本身不参与权重计算但会根据注意力权重进行加权求和最终决定当前Token从上下文中吸收了什么信息。注意力计算的精确公式Attention(Q,K,V)softmax(Q⋅KTdk)⋅VAttention(Q,K,V)softmax(dk​​Q⋅KT​)⋅V这个公式告诉你Q·Kᵀ打分确定注意力权重权重来自Q和K的匹配softmax(...)归一化使权重之和为1...·V加权求和聚合信息被聚合的是V√dₖ缩放因子防止点积结果过大导致梯度消失举个例子加深理解假设处理句子“苹果砸到了牛顿的头。”单头注意力的计算过程模型为每个词“苹果”、“砸”、“到”、“了”、“牛顿”、“的”、“头”分别生成各自的Q、K、V向量。这些向量是由整个句子的上下文经过矩阵乘法实时算出来的。以“牛顿”这个词为例它的Q向量会去和所有词的K向量包括“苹果”、“砸”、“头”等分别做点积得到7个分数。这7个分数经过Softmax归一化后变成权重和为1。如果“苹果”的K和“牛顿”的Q算出来的分最高那么“苹果”的V在被加权求和时所占的比重大。最终“牛顿”获得的新表示就是所有词的V根据各自权重混合后的结果。它可能既包含了“苹果”的信息也包含了“头”的信息。2. 编码器-解码器结构Encoder-Decoder负责“听”与“说”的分工这个结构定义了数据在模型中如何流动是“理解”与“生成”的分界线。通俗比喻同声传译员的工作流程注意这个比喻完美适用于原版Transformer编码器-解码器架构但不适用于纯解码器架构如GPT。编码器Encoder就像一个听讲者。他只聚精会神地听完 speaker 刚刚说完的这一整句中文例如“明天北京会下雨吗”。听完后他立刻在脑海中把这句话精炼成一个完整的“语义笔记”语义向量。他的任务到此结束不涉及任何历史内容。解码器Decoder就像一个翻译官。他面前有两份资料资料A来自编码器刚才听讲者递过来的关于“明天北京天气”的笔记。资料B历史记录他自己手里之前已经翻译好的、关于“今天天气”的英文记录。他结合资料A当前句子的精确理解和资料B之前聊过的背景一个字一个字地翻译出对应的英文。维度编码器Encoder解码器Decoder输入完整的输入序列如“明天北京会下雨吗”已生成的部分输出 编码器输出的语义向量注意力类型双向自注意力能看到整个句子的前后文掩蔽自注意力只能看到当前位置及之前的内容输出富含上下文信息的语义向量笔记下一个Token的概率分布角色“听懂”并做笔记不说话“说话”一个字一个字地生成技术细节掩蔽Masking在解码器中自注意力是带掩蔽的Masked。预测第N个词时模型只能看到第N个词之前包括自身的信息不能“偷看”后面的词。这保证了生成过程是因果的、从左到右的。当前主流大模型GPT系列是纯解码器架构现在的顶尖大模型为了追求极致的生成能力和扩展性砍掉了编码器只保留了解码器。在这种架构里没有“听讲者”只有“翻译官”。所有对话历史你第一次问的、它回答的、你现在问的都被当作一个超长的“上文”一股脑塞进解码器的输入里。模型根据这个超长上文一个字一个字地往下“接龙”。3. 多头注意力Multi-Head Attention“多双眼睛”的集体智慧在自注意力机制基础上Transformer引入“多头”来提升模型的观察能力。比喻投资决策委员会如果只有一个分析师单头来评估一个项目他可能只看到财务风险。但如果有一个委员会多头成员分别来自财务、市场、技术部门他们会从各自专业角度子空间分析同一个项目。最后委员会综合所有成员的报告拼接并投影得出一个更全面、稳健的投资决策。专业解读并行运行模型将原始的Q、K、V向量通过不同的权重矩阵投影到h个不同的、维度更低的“子空间”里。然后在每个子空间里独立地执行一次自注意力计算。每个头各司其职每个“头”都被迫关注输入信息的不同方面。例如头1可能聚焦于语法关系主谓宾头2可能关注指代消解“它”指什么头3可能捕捉语义相关性同义词、上下位关系最终输出将各个头计算出的结果拼接Concat在一起再通过一个线性层进行投影得到最终的输出向量。关键点多头机制让模型拥有了多角度的观察能力而且这些计算是完全并行且相互独立的不会增加太多时间成本却能显著提升模型的表现力。四、Transformer的“其他核心组件”不仅仅是自注意力自注意力机制是Transformer的“灵魂”但它无法单独工作。Transformer之所以能成为强大的深度模型还依赖以下三个缺一不可的核心组件。1. 前馈神经网络Feed-Forward Network, FFN定义FFN是一个作用于每个Token独立位置的两层全连接网络。它的数学形式为FFN(x) max(0, x·W₁ b₁)·W₂ b₂其中max(0, ·)是ReLU激活函数负责引入非线性。第一层将输入维度d_model映射到更高的d_ff通常为d_model的4倍。第二层再将维度从d_ff映射回d_model。核心作用引入非线性变换自注意力本质是线性加权求和而FFN通过激活函数让模型能够拟合复杂模式。特征增强与提炼先升维扩大表达空间再降维压缩回原始维度类似“展开→分析→总结”的过程。逐位置独立处理FFN不跨Token交互与自注意力形成互补——自注意力负责“词与词的关系”FFN负责“每个词自身的深度加工”。通俗比喻自注意力机制像是一位情报收集员它帮每个词从全局上下文中收集了相关信息融合了上下文的新表示。但收集来的信息还是“原材料”需要送到加工厂进行深度处理和提炼才能变成更有价值的“成品”。FFN就是这座加工厂——对每个词独立地进行“深加工”不与其他词交互。2. 残差连接Residual Connection定义即把子层自注意力或FFN的输入“绕道”直接加到输出上形成一个“短路”路径。这个技巧最早由ResNet残差网络在计算机视觉中提出Transformer直接沿用。核心作用防止梯度消失在深层网络中梯度需从输出层反向传播到输入层。残差连接让梯度可以通过“短路”路径直接回传避免了多层变换导致的梯度衰减使得训练数百层的Transformer成为可能。加速收敛网络只需学习“残差”输入与输出之间的差异而非从头学习完整映射训练更快。保护原始信息即使后续层没有学到有用的特征原始输入依然可以通过残差连接直达输出避免信息丢失。通俗比喻想象你在爬一栋50层的高楼。如果每层都必须自己走楼梯直接堆叠网络爬到顶楼时腿已经酸得不行而且一旦某层楼梯坏了梯度消失整条路线就断了。残差连接就像是在这栋楼里加了一部“直通电梯”——你可以从1楼直接坐到50楼同时每层楼的楼梯你依然可以走几步学习新的特征。这样就算中间某层楼梯不太好走你依然可以借助电梯到达顶楼。3. 层归一化Layer Normalization定义层归一化对每个Token的向量表示计算其所有特征维度的均值和方差然后进行标准化输出 (输入 - 均值) / 标准差 * 缩放参数 偏移参数其中“缩放参数”和“偏移参数”是可学习的让模型在归一化后仍能保留一定的表达能力。核心作用稳定训练将每层输出的分布稳定在均值为0、方差为1的范围内避免不同Token的值域差异过大导致训练震荡。加速收敛归一化后的数据更容易被梯度下降法优化减少了训练迭代次数。与Batch Normalization的关键区别层归一化是对单个样本的所有特征做归一化而不是对整个批次的所有样本这使得它在处理变长序列时更加稳定且训练和推理时行为一致。通俗比喻一个乐队里不同乐器的音量大小不一——鼓声可能震耳欲聋小提琴可能细若游丝。如果直接把这些信号混合在一起指挥模型很难做出准确的判断。层归一化就像是一位调音师他时刻监控着每个乐器的音量把它们调整到统一的、适中的水平让指挥能够公平地听取每个乐器的贡献。四者配合一个Token的完整“一日游”用一个具体的Token比如“苹果”这个词在Transformer一层中的经历来展示四个组件如何协同工作步骤处理阶段发生了什么①输入“苹果”的当前向量表示进入该层。②自注意力层“苹果”与“砸”、“牛顿”、“头”等所有词交互收集上下文信息输出融合了全局关系的新向量。③残差连接①把②的输出 原始输入防止信息丢失。④层归一化①对③的结果做归一化稳定分布加速收敛。⑤前馈神经网络FFN对④的结果独立做非线性变换特征增强与提炼。⑥残差连接②把⑤的输出 ④的结果再次防止信息丢失。⑦层归一化②对⑥的结果做归一化输出“苹果”在这一层加工后的新表示进入下一层。上述过程会重复N层如GPT-3有96层每一层都在逐步提炼和深化每个Token的表示。为什么说“缺一不可”组件如果没有它会发生什么自注意力模型无法建立词与词之间的长距离关联退化为普通的前馈网络。前馈神经网络FFN模型只剩线性变换加权求和无法学习复杂模式表达能力严重不足。残差连接深层网络无法训练梯度消失模型只能做到很浅几层性能大幅下降。层归一化训练不稳定收敛极慢甚至无法收敛到好的结果。五、大模型的“求学之路”——三大训练阶段你现在对话的AI并不是生来就会“接龙”。它从一个“文盲”成长为“超级助手”经历了三个严苛的“学历教育”阶段。这三个阶段的目标、数据和训练方式完全不同缺一不可。阶段一预训练Pre-training——海量阅读专业定义预训练是大模型训练的基石阶段。模型被投喂了互联网上近乎所有的公开文本——包括书籍、维基百科、新闻、论文、代码、论坛帖子等总量达到万亿级Token相当于一个人类连续阅读几十万年的量。在这个阶段模型只做一件事预测下一个词。它不断地看一段上文猜下一个词是什么然后对比正确答案调整自己的参数让下一次猜得更准。这个过程在成千上万块GPU上并行运行持续数月。核心目标学习语言的语法和结构。积累世界知识事实、常识、逻辑。掌握推理模式比如“因为...所以...”的因果关系。通俗比喻寒窗苦读这就像一个孩子被关在一座全世界最大的图书馆里不许出门没日没夜地读了十几年的书。他读了所有能读到的文字虽然还没有专门练习过“对话”但他已经潜移默化地学会了语言规律和大量知识。关键认知预训练结束后模型是一个“基础模型”Base Model。它很强大——能续写文章、能补全代码但它不会对话。你问它问题它更可能继续问“你在说什么”而不是直接回答。因为它只学过“补全”没学过“问答”。阶段二监督微调Supervised Fine-Tuning, SFT——做练习题专业定义为了让模型从“文本补全器”变成“对话助手”研发人员构建了数百万条高质量的“人类问答对”——即指令标准回答的配对数据。例如指令Instruction标准回答Response“请解释什么是光合作用。”“光合作用是植物利用阳光将水和二氧化碳转化为氧气和葡萄糖的过程...”“写一首关于秋天的诗。”“金风起落叶黄天高云淡雁南翔...”模型在这些数据上进行有监督训练学习“当看到指令时应该给出什么样的回答”。这个阶段通常只需数天到数周远短于预训练。核心目标学习问答格式学会“一问一答”的对话模式。学习指令遵循理解“请解释”、“请总结”、“请翻译”等指令的含义。学习有用性给出信息密集、逻辑清晰的回答而不是废话。通俗比喻做练习题那个读了十几年书的孩子终于走出了图书馆。现在老师给他发了数百万道练习题——每道题都带标准答案。他不停地做、不停地对照答案修改终于学会了“当被问到某个问题时应该如何组织语言来回答”。他现在能对话了但回答还不一定“安全”或“讨喜”。阶段三基于人类反馈的强化学习RLHF——老师打分专业定义RLHFReinforcement Learning from Human Feedback是让模型与人类价值观对齐的关键技术也是ChatGPT相比前代模型的核心突破。它的工作流程是训练奖励模型Reward Model让人类对同一个问题的多个不同回答进行好坏排名比如回答A 回答B 回答C。用这些排名数据训练一个“奖励模型”让它学会模仿人类的打分偏好。强化学习微调让SFT阶段结束的模型继续生成回答由“奖励模型”实时打分。模型的目标不再是“预测下一个词最准”而是“让奖励模型的打分最高”。模型通过试错如PPO算法不断调整自己的行为以获得更高分数。核心目标安全性拒绝回答有害、违法、危险的问题。有用性回答更详尽、更准确、更贴合用户意图。无害性减少偏见、歧视、误导性信息。拟人化语气更自然、更友好、更像真人。通俗比喻老师打分那个练习了数百万道题的学生现在进入了一个“模拟考场”。每一次作答都有一位看不见的“老师”奖励模型给他打分——回答得安全、有用、得体就给高分回答得危险、敷衍、冒犯就给低分。为了拿高分他不断调整自己的答题策略最终成了一个既聪明又懂礼貌的优等生。六、大模型的“记忆系统”——它是如何“记住”我们的对话的你有没有发现当连续追问时AI能“记得”你几分钟前说过的话这并不是因为它有无限大的“内存”而是依靠一套精妙的多层次记忆策略。记忆层级一上下文窗口短期记忆专业定义当你输入新问题时模型并没有在“大脑”里保留历史记忆。它的做法其实很“笨”但很有效把本次对话的所有历史记录从第一句到你最新的提问全部拼接成一个超长文本作为“上文”一次性输入然后在此基础上进行“文字接龙”。这个“超长文本”的最大长度就是模型的上下文窗口Context Window。GPT-4早期版本8K Token约6000个汉字GPT-4 Turbo128K Token约10万个汉字相当于《三体》三部曲的体量Claude 3200K Token约15万个汉字Gemini 1.5 Pro2M Token可一次性处理《指环王》三部曲通俗比喻复制粘贴聊天记录这就像你给朋友发微信时把之前的所有聊天记录都复制粘贴在每一条新消息下面方便他随时回顾上下文。但如果聊天记录太长超过窗口限制最早的那部分就会被“剪掉”朋友就“忘记”了。局限性窗口越长计算成本越高自注意力机制的计算复杂度与序列长度的平方成正比。超过窗口长度的历史信息会被直接丢弃无法回忆。即使窗口足够大模型对窗口中间部分的记忆精度也会下降“迷失在中间”现象。记忆层级二向量数据库与RAG长期记忆专业定义当你上传一份上百页的PDF让AI“阅读”并提问时模型不可能把整份文档塞进上下文窗口——太长了而且每次提问都塞一次成本极高。RAG检索增强生成Retrieval-Augmented Generation是解决这个问题的标准方案离线建库系统先将你的文档或历史对话切分成小段落用嵌入模型Embedding Model将每个段落“压缩”成数学向量一组浮点数存入向量数据库。在线检索当你提问时系统将你的问题也转换成向量然后在向量数据库中检索出与问题语义最相似的Top-K个段落。增强生成将这些检索到的段落作为“参考资料”拼接到你的问题前面一起喂给大模型辅助它生成回答。通俗比喻开卷考试这就像你考试时可以“开卷”。你不必把所有的教材都背下来上下文窗口不够大但你可以在厚厚的教材中快速查阅索引找到与当前题目最相关的那几页向量检索然后把这几页内容夹在试卷里一起作答。核心优势成本可控不需要把海量文档都塞进上下文只检索最相关的几段。实时更新向量数据库可以随时增删文档模型的知识可以“动态扩展”无需重新训练模型。可溯源回答可以附带引用来源“根据您提供的文档第3页...”增强可信度。两大记忆层级对比维度上下文窗口短期记忆向量数据库 RAG长期记忆通俗比喻复制粘贴聊天记录开卷考试查教材记忆内容当前对话的所有历史外部文档、历史对话库、企业知识库记忆容量有限如128K Token近乎无限取决于数据库大小检索方式全量输入所有历史都喂给模型语义检索只取最相关的几段成本随长度线性增长且平方级计算每次只处理Top-K段成本固定典型应用多轮对话、长文档分析一次性企业知识库问答、AI客服、个人AI助理关键认知升级大模型的“记忆”不是像人脑那样自然存储而是一套工程策略的组合——短期靠“暴力拼接”长期靠“按需检索”。七、全文总结层面核心问题关键技术通俗理解推理层面模型如何回答自注意力 文字接龙自回归根据上文一个字一个字地预测下文架构层面模型内部长什么样Transformer自注意力 FFN 残差 层归一化 多头由“灵魂组件”和“骨架组件”构成的深度网络训练层面模型是怎么学会的预训练 SFT RLHF先海量阅读 → 再做练习题 → 最后由老师打分记忆层面模型如何记住对话上下文窗口 RAG向量检索短期靠“暴力拼接”长期靠“按需检索”