这类主题最怕的就是一上来就堆概念、列术语把“大模型”、“生成式AI”讲得云里雾里最后代码跑不起来实际问题一个没解决。这篇文章不打算这么干。我会直接告诉你对于一个想入门、想动手、想知道这东西到底能干嘛的新手来说最该关注的是什么。核心就三点第一别被“大模型”三个字吓住它本质上是一个能根据你的“提示”生成文本、代码、图片的超级文本预测工具。第二入门的关键不是背原理而是学会用“提示词”跟它有效对话。第三所有学习最终都要落到能运行的代码和可复现的场景上否则都是空谈。下面我会按照一个真正从零开始、踩过坑的实践者路径带你走一遍。从最核心的概念“祛魅”到搭建一个能对话的本地环境再到用代码实战文本生成、数据分析、简单多模态任务最后聊聊如何避开新手最常见的那些“坑”。全程围绕“可运行、可验证”展开。1. 先拆解“生成式AI”与“大模型”到底在解决什么问题很多人一听到“生成式AI”就觉得是魔法听到“大模型”就觉得需要超级计算机。我们先去掉这些光环看看它们最朴素的价值。1.1 生成式AI从“识别”到“创造”的范式转变传统的AI比如图像分类、语音识别主要是“判别式”的。你给一张图它告诉你这是猫还是狗。它的核心任务是分析和归类已有的信息。生成式AI则相反它的核心任务是根据已有的模式创造出新的、合理的内容。你给一段文字描述提示词它能生成一封邮件、一段代码、一张图片甚至一段音乐。对小白最直接的价值是它把你从一个“搜索者”或“执行者”部分变成了一个“指挥者”。你不需要会写漂亮的文章但你可以描述想要的文章风格和要点让AI来写。你不需要精通Python所有库但你可以描述想要的数据处理功能让AI生成代码框架。1.2 大模型为什么“大”是关键你可以把大模型理解为一个在互联网级别海量文本和图像、代码等上训练出来的“语言规律超级压缩包”。它的“大”主要体现在两个方面参数规模大动辄数百亿、数千亿的参数。这些参数可以类比为模型学到的“知识节点”或“规律记忆点”。参数越多模型能记住和组合的规律就越复杂、越细微。训练数据大它见过的文本可能覆盖了整个互联网的公开信息。这让它学到了人类语言中丰富的语法、事实知识、逻辑链条和风格模式。“大”带来的核心能力是“涌现”。就像单个水分子没有“湿”的属性但亿万水分子聚集在一起就有了“液体”的属性一样。大模型在参数和数据规模超过某个阈值后会突然获得一些小模型没有的能力比如指令跟随能理解“用鲁迅的风格写一段关于内卷的讽刺短文”这种复杂指令。思维链推理能通过“A比B高B比C高所以A最高”这样的步骤回答问题。上下文学习在对话中你给它几个例子“把‘你好’翻译成英语是‘hello’把‘谢谢’翻译成法语是‘merci’那么‘再见’翻译成西班牙语是”它就能举一反三。对于入门者你需要建立的认知是大模型不是一个“知道一切”的神而是一个“概率预测器”。你给它上文提示词它根据从海量数据中学到的统计规律一个词一个词地预测出最可能的下文。所有看似智能的对话、创作、推理都源于这个基础机制。1.3 提示词你与这个“概率预测器”沟通的界面这是小白入门最需要掌握也最容易出效果的技能。模型再强大如果你不会“问”它也给不出好答案。提示词Prompt就是你输入给模型的文本。模型的一切输出都基于此。一个糟糕的提示词“写点东西”会得到空洞的回答。一个精准的提示词则能激发模型的最佳能力。提示词工程的核心思想是通过设计你的输入来引导和约束模型的输出概率分布让它更倾向于生成你想要的答案。这听起来抽象但实操很简单后面我们会用大量例子来演示。2. 环境准备最低成本搭建一个可对话的本地大模型理论说再多不如跑行代码。对于新手我强烈建议从能在自己电脑上运行的、轻量级的开源大模型开始。这能让你最直观地感受“提示-生成”的过程完全掌控输入输出没有网络延迟和费用焦虑。我们不追求最强大的模型而追求最容易成功启动、最节省资源、最适合练手的模型。2.1 选型为什么从Llama 3.2或Qwen2.5的轻量版开始市面上开源模型很多如 LlamaMeta、Qwen阿里、GemmaGoogle等。对于入门我推荐从这两个系列的1B~7B 参数的版本开始如 Llama-3.2-1B-Instruct, Qwen2.5-1.5B-Instruct。理由如下硬件要求低1B-3B 参数模型在消费级显卡如 RTX 3060 6GB甚至只有 CPU 的电脑上速度慢些也能运行。7B 模型则需要至少 8GB 显存。下载和加载快模型文件小几百MB到几个GB下载不费时加载到内存快。响应速度快生成文本是秒级响应交互体验好。具备基础能力虽然不如千亿模型博学但对于学习提示词、理解生成过程、完成简单任务文本总结、改写、基础问答完全足够。不要一上来就挑战 70B 模型那需要专业级硬件和复杂部署会极大增加你的挫败感。2.2 工具用Ollama实现一键部署和管理手动下载模型、配置 Python 环境、处理依赖非常麻烦。Ollama完美解决了这个问题。它是一个开源的、跨平台的工具可以理解为“大模型的 Docker”。它的好处是一条命令拉取模型ollama pull llama3.2:1b一条命令运行对话ollama run llama3.2:1b内置了 REST API方便我们用 Python 代码调用。管理多个模型轻松切换不同模型进行测试。安装步骤以 macOS/Linux 为例Windows 类似访问官网打开 Ollama 官网下载对应操作系统的安装包。安装并启动按照指引安装。安装后Ollama 服务通常会自动在后台运行。你可以在终端输入ollama --version检查是否安装成功。拉取你的第一个模型# 拉取一个超轻量模型约400MB ollama pull llama3.2:1b-instruct-q4_0 # 或者拉取一个能力稍强的3B模型 # ollama pull qwen2.5:3b-instruct-q4_0这里的q4_0是一种模型量化格式能在几乎不损失精度的情况下大幅减小模型体积、提升运行速度非常适合本地部署。2.3 验证第一次与 AI 对话模型拉取成功后直接在终端运行ollama run llama3.2:1b-instruct-q4_0你会看到类似的提示符这时你就可以输入提示词了。试着问 用一句话介绍你自己。模型会生成一段自我介绍。再试试 法国的首都是哪里它应该能正确回答“巴黎”。恭喜至此你已经拥有了一个本地运行的、可交互的大模型。这是所有后续实战的基础。如果这一步失败了最常见的原因是网络问题拉取模型需要访问国外模型仓库请确保网络通畅。磁盘空间不足检查你的硬盘是否有足够空间几个GB。权限问题Linux/Mac尝试用sudo运行命令或检查 Ollama 服务状态。3. 提示词实战从“无效提问”到“精准指令”现在我们进入最核心的部分——如何与模型有效沟通。我们将通过一系列对比示例让你立刻感受到提示词设计的威力。我们将使用刚刚部署好的本地模型通过 Python 代码来调用。3.1 基础调用用 Python 连接你的本地模型首先确保 Ollama 服务在运行。然后在 Python 中我们可以通过 HTTP 请求调用它的 API。import requests import json def ask_ollama(prompt, modelllama3.2:1b-instruct-q4_0, hosthttp://localhost:11434): 向本地 Ollama 服务发送提示词并获取回复。 url f{host}/api/generate payload { model: model, prompt: prompt, stream: False # 设为 False 一次性获取完整回复方便调试 } try: response requests.post(url, jsonpayload) response.raise_for_status() # 检查HTTP错误 result response.json() return result.get(response, ).strip() except requests.exceptions.RequestException as e: return f请求出错: {e} except json.JSONDecodeError: return 解析响应出错 # 测试连接 test_reply ask_ollama(你好) print(f模型回复: {test_reply})如果运行成功你会看到模型的一句问候回复。这说明你的代码环境已经和模型联通。3.2 场景一内容生成——从空洞到具体糟糕的提示词prompt 写一篇关于健康的文章 result ask_ollama(prompt) print(result)输出可能非常宽泛、空洞像是从百科上摘抄的段落拼凑而成。优化后的提示词应用角色、任务、要求、格式prompt 你是一位资深健康科普编辑。请为关注办公室健康的年轻白领写一篇短文。 主题如何利用工位碎片时间进行微运动。 要求 1. 文章风格轻松有趣带点幽默感。 2. 提供3-5个具体、可立即上手的动作如座椅脊柱扭转。 3. 每个动作附带一句话的功效说明。 4. 以“亲爱的久坐星人”开头以“动一动没烦恼”结尾。 请直接输出文章内容不要有额外解释。 result ask_ollama(prompt) print(result)这个提示词明确了角色资深健康科普编辑 - 让模型采用专业又亲民的口吻。受众年轻白领 - 让内容更有针对性。具体任务写“利用工位碎片时间进行微运动”的短文 - 范围聚焦。具体要求风格、动作数量、格式 - 约束输出结构。输出格式直接输出文章不要解释 - 避免模型画蛇添足。对比之下后者的输出会立刻变得有用、有条理、可直接使用。3.3 场景二信息提取与总结——从杂乱到清晰假设你有一段冗长的会议纪要文本。糟糕的提示词long_text “””今天下午两点召开了项目推进会...此处是几百字杂乱纪要...”” prompt f“总结一下{long_text}” result ask_ollama(prompt) print(result)模型可能会简单地复述原文或者抓不到重点。优化后的提示词结构化输出prompt f 请将以下会议纪要内容提取并总结成三个部分 1. 【决议事项】列出会议中做出的明确决定。 2. 【待办任务】列出分配给具体人用【人名】标出的下一步行动及其截止时间如有。 3. 【遗留问题】列出需要进一步讨论或调研的开放性问题。 会议纪要原文 {long_text} 请严格按照“1.【决议事项】... 2.【待办任务】... 3.【遗留问题】...”的格式输出每一项用“-”开头。 result ask_ollama(prompt) print(result)这个提示词通过定义清晰的输出结构引导模型进行筛选、分类和格式化最终得到一份可以直接纳入项目跟踪表的清晰总结。3.4 场景三代码生成与解释——从“能用”到“好用”糟糕的提示词prompt “写一个Python函数处理数据” result ask_ollama(prompt) print(result)输出可能是一个叫process_data()的空函数毫无用处。优化后的提示词提供上下文、输入输出示例、约束prompt 你是一个经验丰富的Python数据分析师。请帮我写一个函数。 函数功能清洗从CSV读取的、包含缺失值和异常值的用户年龄数据。 已知列名为‘age’数据为整数。 要求 1. 函数名为 clean_age_data。 2. 输入是一个Pandas Series对象。 3. 清洗逻辑将小于0或大于120的值视为异常替换为NaN然后将所有NaN用该列的中位数填充。 4. 返回清洗后的Series。 5. 在函数内部添加适当的注释。 6. 最后写一个简单的示例展示如何用 pd.Series([25, -5, 30, 150, None]) 调用这个函数并打印结果。 请只输出最终的Python代码块。 result ask_ollama(prompt) print(result)这个提示词的成功在于明确角色数据分析师 - 代码风格会更偏向数据处理。定义清晰接口函数名、输入类型、输出类型。描述具体业务逻辑不是“处理数据”而是“小于0或大于120替换为NaN再用中位数填充”。要求注释和示例让生成的代码更易读、可验证。约束输出格式“只输出最终的Python代码块” - 避免模型附加多余解释。生成的代码通常可以直接使用或稍作修改后使用。3.5 进阶技巧思维链Chain-of-Thought与少样本学习Few-Shot对于更复杂的任务可以引导模型“一步一步思考”。思维链示例数学推理prompt 问题一个篮子里有15个苹果。小明拿走了3个小华又放进去比现在篮子里苹果数多一半的苹果。现在篮子里有多少个苹果 请一步一步推理。 result ask_ollama(prompt) print(result)对于小模型直接问可能答错。但加上“请一步一步推理”后模型更可能展示出15-312-12的一半是6-12618这样的步骤最终得出正确答案18。这显著提升了复杂问题的正确率。少样本学习示例格式转换prompt 将自然语言描述转换为JSON格式。 示例1 描述创建一个用户对象名字叫张三年龄28岁城市是北京。 JSON{name: 张三, age: 28, city: 北京} 示例2 描述商品信息名称是“无线鼠标”价格是99.5元库存有150件。 JSON{product_name: 无线鼠标, price: 99.5, stock: 150} 现在请转换 描述会议安排在2023年10月27日下午2点地点在301会议室主题是项目评审。 JSON result ask_ollama(prompt) print(result)通过提供一两个例子模型就能迅速理解你想要的精确输出格式并模仿生成。这在需要严格结构化输出的场景下非常有效。4. 图文多场景实战结合外部工具扩展能力纯文本模型LLM本身不能“看”图或“听”声音但我们可以通过“多模态”思路结合其他专门工具让大模型担任“总指挥”实现图文处理。这里介绍两个最实用、最易上手的实战场景。4.1 场景AI 辅助内容创作文本图片大纲需求你想写一篇关于“城市公园设计”的公众号文章并需要为文章配几张图的想法。思路让大模型生成详细的文章大纲和分镜描述然后你可以根据这些描述用文生图工具如 Stable Diffusion、Midjourney 或 DALL-E 3 的 API来生成图片。步骤与代码让模型生成图文大纲article_brief “”” 你是一位城市规划专栏作家。请为一篇题为“未来城市公园不只是绿地更是社区客厅”的文章生成一份详细大纲。 大纲需包含 1. 文章标题和引言约100字。 2. 3个主要章节的小标题及其核心论点每个论点50字左右。 3. 为每个主要章节构思1-2个关键的配图场景描述。描述需详细以便画师或AI绘图使用。 例如“配图1黄昏下一个融合了太阳能板座椅和无线充电桩的现代公园一角年轻人在此聚会远处有孩童在互动水景中玩耍。” 请以清晰的层级格式输出。 “”” outline ask_ollama(article_brief, modelqwen2.5:3b-instruct-q4_0) # 换一个稍大的模型可能效果更好 print(“生成的文章图文大纲”) print(outline)解析大纲提取图片描述简单示例# 假设模型返回的outline中图片描述行以“配图”开头 lines outline.split(‘\n’) image_descriptions [line for line in lines if line.strip().startswith(‘配图’)] print(“\n提取的图片描述”) for i, desc in enumerate(image_descriptions, 1): print(f“描述{i}: {desc}”)延伸调用文生图 API 这里以调用一个假设的本地 Stable Diffusion API 为例你需要先部署相关服务。# 伪代码展示流程 # for desc in image_descriptions: # img_prompt f“专业摄影风格高清8K{desc}” # # 调用如 http://localhost:7860/sdapi/v1/txt2img 等接口 # # 保存生成的图片 # print(f“已根据‘{desc[:30]}...’生成图片”)核心价值大模型在这里扮演了“创意总监”和“脚本作家”的角色将模糊的主题转化为可执行的内容和视觉元素清单。4.2 场景数据分析与可视化文本图表需求你有一份 CSV 格式的销售数据想让 AI 分析并建议合适的图表类型甚至生成绘图代码。思路让大模型理解数据通过读取列名、样本或统计摘要然后基于数据分析目的如趋势分析、对比分析、分布分析推荐图表并生成对应的 Python 绘图代码使用 Matplotlib 或 Seaborn。步骤与代码准备数据示例import pandas as pd # 创建一个示例 DataFrame data { ‘Month’: [‘Jan’, ‘Feb’, ‘Mar’, ‘Apr’, ‘May’, ‘Jun’], ‘Product_A_Sales’: [120, 135, 150, 165, 180, 195], ‘Product_B_Sales’: [90, 95, 110, 115, 125, 130], ‘Region’: [‘North’, ‘North’, ‘South’, ‘South’, ‘East’, ‘East’] } df pd.DataFrame(data) print(“数据预览”) print(df.head()) # 将数据信息转换为文本供模型阅读 data_info f“”” 这是一个销售数据表包含以下列 - Month: 月份Jan, Feb, ... - Product_A_Sales: 产品A的销售额数值 - Product_B_Sales: 产品B的销售额数值 - Region: 销售区域分类North, South, East 数据预览前6行 {df.head().to_string()} “””让模型分析并生成代码prompt f“”” {data_info} 你是一个数据分析专家。请完成以下任务 1. **分析**简要说明从这份数据中能看出什么趋势或洞察不超过3点。 2. **建议**为了直观展示“两款产品上半年销售趋势对比”最适合的图表类型是什么为什么 3. **编码**请生成绘制该图表的Python代码。使用Pandas和Matplotlib库。 要求代码应包含数据加载假设数据已在变量df中、绘图、添加标题和标签、显示图例并保存为‘sales_trend.png’。 请只输出最终的、可独立运行的代码块。 “”” analysis_and_code ask_ollama(prompt, model“qwen2.5:3b-instruct-q4_0”) print(“模型的分析与代码”) print(analysis_and_code)执行模型生成的代码重要安全考虑永远不要直接exec()不可信的代码正确做法是仔细阅读模型生成的代码理解其意图。在一个隔离的、不影响主要项目的环境中手动运行或复制粘贴运行。更好的方式是让模型生成代码后由你将其整合到你的主分析脚本中。核心价值大模型充当了“数据分析助手”帮你从“看数据”到“出图表”的思考过程结构化并提供了可立即验证或修改的代码草稿极大提升了分析效率。5. 避坑指南与进阶学习路线走通了上面的流程你已经超越了90%的“只看不练”的初学者。但在独立实践中你肯定会遇到问题。下面是我总结的几个最常见“坑”及解决方法。5.1 新手常踩的“坑”坑模型回答胡言乱语或重复原因提示词不清晰模型太小或达到了生成长度限制温度Temperature参数过高导致随机性太强。解决精炼提示词使用前面讲的技巧角色、任务、格式。调整参数通过Ollama API调用时可以设置“temperature”: 0.1降低随机性更确定性和“num_predict”: 512限制最大生成长度。payload { “model”: model, “prompt”: prompt, “stream”: False, “options”: { # Ollama 的参数选项 “temperature”: 0.1, “num_predict”: 512 } }换稍大的模型1B模型能力有限对于复杂任务尝试3B或7B模型。坑模型回答“我不知道”或拒绝回答原因问题涉及隐私、伦理或模型知识盲区指令过于模糊。解决提供上下文在提示词中补充相关背景信息。分解问题将一个大问题拆解成几个模型能处理的小问题。引导思考使用“请根据以下信息进行分析...”或“假设你是一个...你会如何考虑这个问题”坑生成代码有语法错误或逻辑错误原因模型毕竟不是编译器尤其小模型代码生成能力不稳定。解决要求添加注释让模型解释代码逻辑有时它能自我修正。提供更详细的输入输出示例Few-Shot。分步生成先让模型描述算法步骤再根据步骤生成代码。人工审查和调试这是必须的步骤。将AI视为高级代码补全工具而非可靠程序员。坑本地模型运行慢原因硬件资源CPU/GPU/内存不足模型未量化或量化等级低。解决使用量化模型优先选择名称带q4_0,q5_1,q8_0的模型它们在精度和速度间有较好平衡。关闭无关程序释放内存和CPU。考虑云服务对于大型任务或需要强大模型时可以使用各大厂商提供的合规的在线API注意需自行注册并了解相关服务条款与使用规范。5.2 你的进阶学习路线图完成本地模型对话和基础提示词工程后你可以按以下路径深入提示词工程深化学习结构化提示框架如 CRISPECapacity, Role, Insight, Statement, Personality, Experiment等系统化设计复杂提示。探索高级技巧思维树Tree of Thoughts、自动提示优化等。使用更强的模型本地部署在硬件允许下尝试Llama 3.1 8B、Qwen2.5 7B等更大模型能力会有显著提升。探索API服务了解如何通过代码调用国内外的合规大模型API服务体验最前沿的模型能力注意成本与合规性。构建AI应用学习 LangChain/LlamaIndex 等框架它们能帮你轻松地将大模型与外部数据你的文档、数据库、工具搜索引擎、计算器连接起来构建真正的智能体Agent。简单项目做一个本地知识库问答系统、一个自动邮件分类回复工具、一个智能会议纪要生成器。了解微调理解概念当通用模型在特定领域如医疗、法律、你公司的产品文档表现不佳时需要用领域数据对它进行“再训练”这就是微调。尝试轻量微调使用LoRA、QLoRA等技术在消费级显卡上对模型进行低成本微调让它更懂你的专业。最后也是最关键的一点大模型是强大的工具但它无法替代你的领域知识、批判性思维和工程实践。它的价值在于放大你的能力而不是替代你思考。从今天起把它当成一个有时会犯糊涂但潜力巨大的实习生用清晰的指令提示词去引导它用你的专业眼光去审查它的输出你们才能合作创造出真正有价值的东西。现在关闭这篇博客打开你的终端和编辑器从运行ollama run开始吧。 大模型入门实战：从零搭建本地AI环境与提示词工程指南
这类主题最怕的就是一上来就堆概念、列术语把“大模型”、“生成式AI”讲得云里雾里最后代码跑不起来实际问题一个没解决。这篇文章不打算这么干。我会直接告诉你对于一个想入门、想动手、想知道这东西到底能干嘛的新手来说最该关注的是什么。核心就三点第一别被“大模型”三个字吓住它本质上是一个能根据你的“提示”生成文本、代码、图片的超级文本预测工具。第二入门的关键不是背原理而是学会用“提示词”跟它有效对话。第三所有学习最终都要落到能运行的代码和可复现的场景上否则都是空谈。下面我会按照一个真正从零开始、踩过坑的实践者路径带你走一遍。从最核心的概念“祛魅”到搭建一个能对话的本地环境再到用代码实战文本生成、数据分析、简单多模态任务最后聊聊如何避开新手最常见的那些“坑”。全程围绕“可运行、可验证”展开。1. 先拆解“生成式AI”与“大模型”到底在解决什么问题很多人一听到“生成式AI”就觉得是魔法听到“大模型”就觉得需要超级计算机。我们先去掉这些光环看看它们最朴素的价值。1.1 生成式AI从“识别”到“创造”的范式转变传统的AI比如图像分类、语音识别主要是“判别式”的。你给一张图它告诉你这是猫还是狗。它的核心任务是分析和归类已有的信息。生成式AI则相反它的核心任务是根据已有的模式创造出新的、合理的内容。你给一段文字描述提示词它能生成一封邮件、一段代码、一张图片甚至一段音乐。对小白最直接的价值是它把你从一个“搜索者”或“执行者”部分变成了一个“指挥者”。你不需要会写漂亮的文章但你可以描述想要的文章风格和要点让AI来写。你不需要精通Python所有库但你可以描述想要的数据处理功能让AI生成代码框架。1.2 大模型为什么“大”是关键你可以把大模型理解为一个在互联网级别海量文本和图像、代码等上训练出来的“语言规律超级压缩包”。它的“大”主要体现在两个方面参数规模大动辄数百亿、数千亿的参数。这些参数可以类比为模型学到的“知识节点”或“规律记忆点”。参数越多模型能记住和组合的规律就越复杂、越细微。训练数据大它见过的文本可能覆盖了整个互联网的公开信息。这让它学到了人类语言中丰富的语法、事实知识、逻辑链条和风格模式。“大”带来的核心能力是“涌现”。就像单个水分子没有“湿”的属性但亿万水分子聚集在一起就有了“液体”的属性一样。大模型在参数和数据规模超过某个阈值后会突然获得一些小模型没有的能力比如指令跟随能理解“用鲁迅的风格写一段关于内卷的讽刺短文”这种复杂指令。思维链推理能通过“A比B高B比C高所以A最高”这样的步骤回答问题。上下文学习在对话中你给它几个例子“把‘你好’翻译成英语是‘hello’把‘谢谢’翻译成法语是‘merci’那么‘再见’翻译成西班牙语是”它就能举一反三。对于入门者你需要建立的认知是大模型不是一个“知道一切”的神而是一个“概率预测器”。你给它上文提示词它根据从海量数据中学到的统计规律一个词一个词地预测出最可能的下文。所有看似智能的对话、创作、推理都源于这个基础机制。1.3 提示词你与这个“概率预测器”沟通的界面这是小白入门最需要掌握也最容易出效果的技能。模型再强大如果你不会“问”它也给不出好答案。提示词Prompt就是你输入给模型的文本。模型的一切输出都基于此。一个糟糕的提示词“写点东西”会得到空洞的回答。一个精准的提示词则能激发模型的最佳能力。提示词工程的核心思想是通过设计你的输入来引导和约束模型的输出概率分布让它更倾向于生成你想要的答案。这听起来抽象但实操很简单后面我们会用大量例子来演示。2. 环境准备最低成本搭建一个可对话的本地大模型理论说再多不如跑行代码。对于新手我强烈建议从能在自己电脑上运行的、轻量级的开源大模型开始。这能让你最直观地感受“提示-生成”的过程完全掌控输入输出没有网络延迟和费用焦虑。我们不追求最强大的模型而追求最容易成功启动、最节省资源、最适合练手的模型。2.1 选型为什么从Llama 3.2或Qwen2.5的轻量版开始市面上开源模型很多如 LlamaMeta、Qwen阿里、GemmaGoogle等。对于入门我推荐从这两个系列的1B~7B 参数的版本开始如 Llama-3.2-1B-Instruct, Qwen2.5-1.5B-Instruct。理由如下硬件要求低1B-3B 参数模型在消费级显卡如 RTX 3060 6GB甚至只有 CPU 的电脑上速度慢些也能运行。7B 模型则需要至少 8GB 显存。下载和加载快模型文件小几百MB到几个GB下载不费时加载到内存快。响应速度快生成文本是秒级响应交互体验好。具备基础能力虽然不如千亿模型博学但对于学习提示词、理解生成过程、完成简单任务文本总结、改写、基础问答完全足够。不要一上来就挑战 70B 模型那需要专业级硬件和复杂部署会极大增加你的挫败感。2.2 工具用Ollama实现一键部署和管理手动下载模型、配置 Python 环境、处理依赖非常麻烦。Ollama完美解决了这个问题。它是一个开源的、跨平台的工具可以理解为“大模型的 Docker”。它的好处是一条命令拉取模型ollama pull llama3.2:1b一条命令运行对话ollama run llama3.2:1b内置了 REST API方便我们用 Python 代码调用。管理多个模型轻松切换不同模型进行测试。安装步骤以 macOS/Linux 为例Windows 类似访问官网打开 Ollama 官网下载对应操作系统的安装包。安装并启动按照指引安装。安装后Ollama 服务通常会自动在后台运行。你可以在终端输入ollama --version检查是否安装成功。拉取你的第一个模型# 拉取一个超轻量模型约400MB ollama pull llama3.2:1b-instruct-q4_0 # 或者拉取一个能力稍强的3B模型 # ollama pull qwen2.5:3b-instruct-q4_0这里的q4_0是一种模型量化格式能在几乎不损失精度的情况下大幅减小模型体积、提升运行速度非常适合本地部署。2.3 验证第一次与 AI 对话模型拉取成功后直接在终端运行ollama run llama3.2:1b-instruct-q4_0你会看到类似的提示符这时你就可以输入提示词了。试着问 用一句话介绍你自己。模型会生成一段自我介绍。再试试 法国的首都是哪里它应该能正确回答“巴黎”。恭喜至此你已经拥有了一个本地运行的、可交互的大模型。这是所有后续实战的基础。如果这一步失败了最常见的原因是网络问题拉取模型需要访问国外模型仓库请确保网络通畅。磁盘空间不足检查你的硬盘是否有足够空间几个GB。权限问题Linux/Mac尝试用sudo运行命令或检查 Ollama 服务状态。3. 提示词实战从“无效提问”到“精准指令”现在我们进入最核心的部分——如何与模型有效沟通。我们将通过一系列对比示例让你立刻感受到提示词设计的威力。我们将使用刚刚部署好的本地模型通过 Python 代码来调用。3.1 基础调用用 Python 连接你的本地模型首先确保 Ollama 服务在运行。然后在 Python 中我们可以通过 HTTP 请求调用它的 API。import requests import json def ask_ollama(prompt, modelllama3.2:1b-instruct-q4_0, hosthttp://localhost:11434): 向本地 Ollama 服务发送提示词并获取回复。 url f{host}/api/generate payload { model: model, prompt: prompt, stream: False # 设为 False 一次性获取完整回复方便调试 } try: response requests.post(url, jsonpayload) response.raise_for_status() # 检查HTTP错误 result response.json() return result.get(response, ).strip() except requests.exceptions.RequestException as e: return f请求出错: {e} except json.JSONDecodeError: return 解析响应出错 # 测试连接 test_reply ask_ollama(你好) print(f模型回复: {test_reply})如果运行成功你会看到模型的一句问候回复。这说明你的代码环境已经和模型联通。3.2 场景一内容生成——从空洞到具体糟糕的提示词prompt 写一篇关于健康的文章 result ask_ollama(prompt) print(result)输出可能非常宽泛、空洞像是从百科上摘抄的段落拼凑而成。优化后的提示词应用角色、任务、要求、格式prompt 你是一位资深健康科普编辑。请为关注办公室健康的年轻白领写一篇短文。 主题如何利用工位碎片时间进行微运动。 要求 1. 文章风格轻松有趣带点幽默感。 2. 提供3-5个具体、可立即上手的动作如座椅脊柱扭转。 3. 每个动作附带一句话的功效说明。 4. 以“亲爱的久坐星人”开头以“动一动没烦恼”结尾。 请直接输出文章内容不要有额外解释。 result ask_ollama(prompt) print(result)这个提示词明确了角色资深健康科普编辑 - 让模型采用专业又亲民的口吻。受众年轻白领 - 让内容更有针对性。具体任务写“利用工位碎片时间进行微运动”的短文 - 范围聚焦。具体要求风格、动作数量、格式 - 约束输出结构。输出格式直接输出文章不要解释 - 避免模型画蛇添足。对比之下后者的输出会立刻变得有用、有条理、可直接使用。3.3 场景二信息提取与总结——从杂乱到清晰假设你有一段冗长的会议纪要文本。糟糕的提示词long_text “””今天下午两点召开了项目推进会...此处是几百字杂乱纪要...”” prompt f“总结一下{long_text}” result ask_ollama(prompt) print(result)模型可能会简单地复述原文或者抓不到重点。优化后的提示词结构化输出prompt f 请将以下会议纪要内容提取并总结成三个部分 1. 【决议事项】列出会议中做出的明确决定。 2. 【待办任务】列出分配给具体人用【人名】标出的下一步行动及其截止时间如有。 3. 【遗留问题】列出需要进一步讨论或调研的开放性问题。 会议纪要原文 {long_text} 请严格按照“1.【决议事项】... 2.【待办任务】... 3.【遗留问题】...”的格式输出每一项用“-”开头。 result ask_ollama(prompt) print(result)这个提示词通过定义清晰的输出结构引导模型进行筛选、分类和格式化最终得到一份可以直接纳入项目跟踪表的清晰总结。3.4 场景三代码生成与解释——从“能用”到“好用”糟糕的提示词prompt “写一个Python函数处理数据” result ask_ollama(prompt) print(result)输出可能是一个叫process_data()的空函数毫无用处。优化后的提示词提供上下文、输入输出示例、约束prompt 你是一个经验丰富的Python数据分析师。请帮我写一个函数。 函数功能清洗从CSV读取的、包含缺失值和异常值的用户年龄数据。 已知列名为‘age’数据为整数。 要求 1. 函数名为 clean_age_data。 2. 输入是一个Pandas Series对象。 3. 清洗逻辑将小于0或大于120的值视为异常替换为NaN然后将所有NaN用该列的中位数填充。 4. 返回清洗后的Series。 5. 在函数内部添加适当的注释。 6. 最后写一个简单的示例展示如何用 pd.Series([25, -5, 30, 150, None]) 调用这个函数并打印结果。 请只输出最终的Python代码块。 result ask_ollama(prompt) print(result)这个提示词的成功在于明确角色数据分析师 - 代码风格会更偏向数据处理。定义清晰接口函数名、输入类型、输出类型。描述具体业务逻辑不是“处理数据”而是“小于0或大于120替换为NaN再用中位数填充”。要求注释和示例让生成的代码更易读、可验证。约束输出格式“只输出最终的Python代码块” - 避免模型附加多余解释。生成的代码通常可以直接使用或稍作修改后使用。3.5 进阶技巧思维链Chain-of-Thought与少样本学习Few-Shot对于更复杂的任务可以引导模型“一步一步思考”。思维链示例数学推理prompt 问题一个篮子里有15个苹果。小明拿走了3个小华又放进去比现在篮子里苹果数多一半的苹果。现在篮子里有多少个苹果 请一步一步推理。 result ask_ollama(prompt) print(result)对于小模型直接问可能答错。但加上“请一步一步推理”后模型更可能展示出15-312-12的一半是6-12618这样的步骤最终得出正确答案18。这显著提升了复杂问题的正确率。少样本学习示例格式转换prompt 将自然语言描述转换为JSON格式。 示例1 描述创建一个用户对象名字叫张三年龄28岁城市是北京。 JSON{name: 张三, age: 28, city: 北京} 示例2 描述商品信息名称是“无线鼠标”价格是99.5元库存有150件。 JSON{product_name: 无线鼠标, price: 99.5, stock: 150} 现在请转换 描述会议安排在2023年10月27日下午2点地点在301会议室主题是项目评审。 JSON result ask_ollama(prompt) print(result)通过提供一两个例子模型就能迅速理解你想要的精确输出格式并模仿生成。这在需要严格结构化输出的场景下非常有效。4. 图文多场景实战结合外部工具扩展能力纯文本模型LLM本身不能“看”图或“听”声音但我们可以通过“多模态”思路结合其他专门工具让大模型担任“总指挥”实现图文处理。这里介绍两个最实用、最易上手的实战场景。4.1 场景AI 辅助内容创作文本图片大纲需求你想写一篇关于“城市公园设计”的公众号文章并需要为文章配几张图的想法。思路让大模型生成详细的文章大纲和分镜描述然后你可以根据这些描述用文生图工具如 Stable Diffusion、Midjourney 或 DALL-E 3 的 API来生成图片。步骤与代码让模型生成图文大纲article_brief “”” 你是一位城市规划专栏作家。请为一篇题为“未来城市公园不只是绿地更是社区客厅”的文章生成一份详细大纲。 大纲需包含 1. 文章标题和引言约100字。 2. 3个主要章节的小标题及其核心论点每个论点50字左右。 3. 为每个主要章节构思1-2个关键的配图场景描述。描述需详细以便画师或AI绘图使用。 例如“配图1黄昏下一个融合了太阳能板座椅和无线充电桩的现代公园一角年轻人在此聚会远处有孩童在互动水景中玩耍。” 请以清晰的层级格式输出。 “”” outline ask_ollama(article_brief, modelqwen2.5:3b-instruct-q4_0) # 换一个稍大的模型可能效果更好 print(“生成的文章图文大纲”) print(outline)解析大纲提取图片描述简单示例# 假设模型返回的outline中图片描述行以“配图”开头 lines outline.split(‘\n’) image_descriptions [line for line in lines if line.strip().startswith(‘配图’)] print(“\n提取的图片描述”) for i, desc in enumerate(image_descriptions, 1): print(f“描述{i}: {desc}”)延伸调用文生图 API 这里以调用一个假设的本地 Stable Diffusion API 为例你需要先部署相关服务。# 伪代码展示流程 # for desc in image_descriptions: # img_prompt f“专业摄影风格高清8K{desc}” # # 调用如 http://localhost:7860/sdapi/v1/txt2img 等接口 # # 保存生成的图片 # print(f“已根据‘{desc[:30]}...’生成图片”)核心价值大模型在这里扮演了“创意总监”和“脚本作家”的角色将模糊的主题转化为可执行的内容和视觉元素清单。4.2 场景数据分析与可视化文本图表需求你有一份 CSV 格式的销售数据想让 AI 分析并建议合适的图表类型甚至生成绘图代码。思路让大模型理解数据通过读取列名、样本或统计摘要然后基于数据分析目的如趋势分析、对比分析、分布分析推荐图表并生成对应的 Python 绘图代码使用 Matplotlib 或 Seaborn。步骤与代码准备数据示例import pandas as pd # 创建一个示例 DataFrame data { ‘Month’: [‘Jan’, ‘Feb’, ‘Mar’, ‘Apr’, ‘May’, ‘Jun’], ‘Product_A_Sales’: [120, 135, 150, 165, 180, 195], ‘Product_B_Sales’: [90, 95, 110, 115, 125, 130], ‘Region’: [‘North’, ‘North’, ‘South’, ‘South’, ‘East’, ‘East’] } df pd.DataFrame(data) print(“数据预览”) print(df.head()) # 将数据信息转换为文本供模型阅读 data_info f“”” 这是一个销售数据表包含以下列 - Month: 月份Jan, Feb, ... - Product_A_Sales: 产品A的销售额数值 - Product_B_Sales: 产品B的销售额数值 - Region: 销售区域分类North, South, East 数据预览前6行 {df.head().to_string()} “””让模型分析并生成代码prompt f“”” {data_info} 你是一个数据分析专家。请完成以下任务 1. **分析**简要说明从这份数据中能看出什么趋势或洞察不超过3点。 2. **建议**为了直观展示“两款产品上半年销售趋势对比”最适合的图表类型是什么为什么 3. **编码**请生成绘制该图表的Python代码。使用Pandas和Matplotlib库。 要求代码应包含数据加载假设数据已在变量df中、绘图、添加标题和标签、显示图例并保存为‘sales_trend.png’。 请只输出最终的、可独立运行的代码块。 “”” analysis_and_code ask_ollama(prompt, model“qwen2.5:3b-instruct-q4_0”) print(“模型的分析与代码”) print(analysis_and_code)执行模型生成的代码重要安全考虑永远不要直接exec()不可信的代码正确做法是仔细阅读模型生成的代码理解其意图。在一个隔离的、不影响主要项目的环境中手动运行或复制粘贴运行。更好的方式是让模型生成代码后由你将其整合到你的主分析脚本中。核心价值大模型充当了“数据分析助手”帮你从“看数据”到“出图表”的思考过程结构化并提供了可立即验证或修改的代码草稿极大提升了分析效率。5. 避坑指南与进阶学习路线走通了上面的流程你已经超越了90%的“只看不练”的初学者。但在独立实践中你肯定会遇到问题。下面是我总结的几个最常见“坑”及解决方法。5.1 新手常踩的“坑”坑模型回答胡言乱语或重复原因提示词不清晰模型太小或达到了生成长度限制温度Temperature参数过高导致随机性太强。解决精炼提示词使用前面讲的技巧角色、任务、格式。调整参数通过Ollama API调用时可以设置“temperature”: 0.1降低随机性更确定性和“num_predict”: 512限制最大生成长度。payload { “model”: model, “prompt”: prompt, “stream”: False, “options”: { # Ollama 的参数选项 “temperature”: 0.1, “num_predict”: 512 } }换稍大的模型1B模型能力有限对于复杂任务尝试3B或7B模型。坑模型回答“我不知道”或拒绝回答原因问题涉及隐私、伦理或模型知识盲区指令过于模糊。解决提供上下文在提示词中补充相关背景信息。分解问题将一个大问题拆解成几个模型能处理的小问题。引导思考使用“请根据以下信息进行分析...”或“假设你是一个...你会如何考虑这个问题”坑生成代码有语法错误或逻辑错误原因模型毕竟不是编译器尤其小模型代码生成能力不稳定。解决要求添加注释让模型解释代码逻辑有时它能自我修正。提供更详细的输入输出示例Few-Shot。分步生成先让模型描述算法步骤再根据步骤生成代码。人工审查和调试这是必须的步骤。将AI视为高级代码补全工具而非可靠程序员。坑本地模型运行慢原因硬件资源CPU/GPU/内存不足模型未量化或量化等级低。解决使用量化模型优先选择名称带q4_0,q5_1,q8_0的模型它们在精度和速度间有较好平衡。关闭无关程序释放内存和CPU。考虑云服务对于大型任务或需要强大模型时可以使用各大厂商提供的合规的在线API注意需自行注册并了解相关服务条款与使用规范。5.2 你的进阶学习路线图完成本地模型对话和基础提示词工程后你可以按以下路径深入提示词工程深化学习结构化提示框架如 CRISPECapacity, Role, Insight, Statement, Personality, Experiment等系统化设计复杂提示。探索高级技巧思维树Tree of Thoughts、自动提示优化等。使用更强的模型本地部署在硬件允许下尝试Llama 3.1 8B、Qwen2.5 7B等更大模型能力会有显著提升。探索API服务了解如何通过代码调用国内外的合规大模型API服务体验最前沿的模型能力注意成本与合规性。构建AI应用学习 LangChain/LlamaIndex 等框架它们能帮你轻松地将大模型与外部数据你的文档、数据库、工具搜索引擎、计算器连接起来构建真正的智能体Agent。简单项目做一个本地知识库问答系统、一个自动邮件分类回复工具、一个智能会议纪要生成器。了解微调理解概念当通用模型在特定领域如医疗、法律、你公司的产品文档表现不佳时需要用领域数据对它进行“再训练”这就是微调。尝试轻量微调使用LoRA、QLoRA等技术在消费级显卡上对模型进行低成本微调让它更懂你的专业。最后也是最关键的一点大模型是强大的工具但它无法替代你的领域知识、批判性思维和工程实践。它的价值在于放大你的能力而不是替代你思考。从今天起把它当成一个有时会犯糊涂但潜力巨大的实习生用清晰的指令提示词去引导它用你的专业眼光去审查它的输出你们才能合作创造出真正有价值的东西。现在关闭这篇博客打开你的终端和编辑器从运行ollama run开始吧。