00 大模型概述 —— 低代码平台 Agent 开发与部署导论一、大模型是什么1.1 大语言模型LLM定义大语言模型Large Language Model, LLM是基于Transformer 架构、在海量文本数据上预训练、通常拥有千亿级以上参数的深度学习模型。它的核心能力包括文本生成根据 Prompt 生成连贯、有逻辑的自然语言文本理解与推理理解复杂指令执行逻辑推理、数学计算、代码编写多轮对话在上下文中保持话题一致性完成长对话任务关键概念速览概念说明Token模型处理文本的最小单元一个汉字约 1-2 个 TokenPrompt用户输入给模型的指令或问题Context Window模型一次能看到的最大 Token 数如 128K、1MTemperature控制输出随机性的参数0确定性1高创造性代表性模型GPT-5、Claude 4.x、DeepSeek-V4、Qwen3、豆包、文心一言、Kimi、Gemini 等。1.2 市面常见应用场景大模型已渗透到各行各业以下是当前最主要的应用方向智能客服—— 自动应答、意图识别、工单分类替代传统规则引擎内容生成—— 营销文案、产品海报、宣传视频脚本、卖点提炼知识库问答—— 基于企业私有文档的专业知识检索与问答RAG 模式数据分析—— 评论情感分析、客服对话复盘、舆情监控Agent 自主任务—— 多步骤自主规划与执行自动调研、信息收集、工具调用代码辅助—— 代码生成、Bug 定位、代码审查办公自动化—— 邮件处理、会议纪要、钉钉/飞书机器人集成1.3 本课程覆盖的应用场景本课程围绕电商与商户运营场景完整覆盖从知识库搭建到企业级部署的全链路应用场景对应课件落地形式知识库问答01Cherry Studio / ima / Dify 知识库Agent 搭建与平台选型02Coze / Dify 智能体开发内容生成海报/视频/卖点03Coze 多工作流联动数据分析评论/对话03Coze Dify 双平台自动调研报告03Dify 搜索 迭代工作流钉钉机器人集成03Dify 钉钉 WebhookAPI 编程集成04Python SDK / REST API私有化部署05, 06Docker / 云服务器 GPU二、文档用途与定位学习地图串联6个主题章节建立从理论到上线的完整认知选型参考对比 Cherry Studio、ima、Coze、Dify、n8n 等平台的适用场景快速索引提供案例对照表按业务需求快速定位到对应课件三、技术栈全景概览本课程涉及的技术栈分为四大板块板块技术 / 平台用途大语言模型DeepSeek、豆包、硅基流动、火山方舟云端模型 API 调用Qwen3通过 vLLM/Ollama 部署本地/私有模型推理bge-small-zh-v1.5、bge-reranker-base嵌入与重排序低代码平台Cherry Studio桌面级个人知识库ima腾讯多端同步个人知识库Coze扣子零代码 Agent 工作流编排Dify开源 LLM 应用开发平台RAG Agent Workflow部署运维Docker / Docker Compose容器化部署Xinference模型托管平台统一管理 LLM/Embedding/RerankvLLM高性能推理引擎PagedAttention 优化Coze Studio Coze Loop开源 AI Agent 开发与运维套件开发工具Python cozepyCoze 平台编程调用Python requestsDify 平台 API 调用SSEServer-Sent Events流式响应处理四、课程学习路径总图本课程按知道 → 会用 → 能上线的认知曲线编排分为四个递进部分┌─────────────────────────────────────────────────────────────────┐ │ 00 大模型概述本文档 │ │ 大模型基础认知 应用场景图谱 学习路线索引 │ └─────────────────────────────┬───────────────────────────────────┘ │ ┌───────────────────────┼───────────────────────┐ ▼ ▼ ▼ ┌──────────────┐ ┌──────────────┐ ┌──────────────────────────┐ │ Part 1 │ │ Part 2 │ │ Part 3 │ │ 知识库入门 │ │ Agent 开发 │ │ Agent 应用实践 │ │ (01) │ │ (02) │ │ (03) │ ├──────────────┤ ├──────────────┤ ├──────────────────────────┤ │ RAG 理论 │ │ Agent 概念 │ │ 7 个商户运营场景案例 │ │ 知识库平台 │ │ 三级能力模型 │ │ Coze Dify 双平台实现 │ │ 选型与实践 │ │ 平台对比 │ │ 海报/视频/分析/报告/卖点 │ ├──────────────┤ ├──────────────┤ ├──────────────────────────┤ │ 建立知识根基│ │ 掌握开发工具 │ │ 积累实战经验 │ └──────────────┘ └──────────────┘ └──────────────────────────┘ │ ▼ ┌──────────────────────────┐ │ Part 4 │ │ 企业级部署 │ │ (04 - 06) │ ├──────────────────────────┤ │ 04 Python API 编程调用 │ │ 05 Windows 本地部署 │ │ 06 云服务器 GPU 部署 │ ├──────────────────────────┤ │ 实现生产上线 │ └──────────────────────────┘五、四部分详细内容Part 1知识库搭建入门01目标理解 RAG 原理掌握个人/企业知识库的搭建方法。01 RAG — 搭建企业私有 个人知识库核心问题大模型存在知识冻结训练数据截止日期和幻觉编造事实两大痛点。RAGRetrieval-Augmented Generation检索增强生成通过引入外部知识库来解决。RAG 标准流程┌──────────┐ ┌──────────┐ ┌──────────┐ ┌──────────┐ │ 文档导入 │ → │ 文本分块 │ → │ 向量化 │ → │ 向量存储 │ │ │ │ (Chunking)│ │ (Embedding)│ │ (Vector DB)│ └──────────┘ └──────────┘ └──────────┘ └──────────┘ │ 用户提问 ┌──────────┐ ┌──────────┐ ┌──────────┐ │ │ LLM 生成 │ ← │ 重排序 │ ← │ 语义检索 │ ←────┘ │ 最终答案 │ │ (Rerank) │ │ (Retrieval)│ └──────────┘ └──────────┘ └──────────┘三个关键模型节点Embedding向量化、Rerank精排、LLM生成。平台选型建议场景推荐平台理由个人知识管理Cherry Studio / ima零门槛、多端同步团队协作 Agent 交付Dify完整 Workflow 编排 权限管理企业复杂文档解析RAGFlow深度文档理解、复杂 PDF/表格动手实践Cherry Studio 连接硅基流动 API 建知识库 → ima 微信生态多端同步 → Dify 法律助手案例。Part 2Agent 智能体工作流平台开发02目标理解 AI Agent 概念熟练使用 Coze/Dify 平台开发智能体。02 基于 Coze Dify 平台的智能体开发核心问题什么是 AI Agent它与单纯的 LLM 对话有什么区别AI Agent 定义以 LLM 为大脑结合**记忆Memory、工具调用Tool Use、规划Planning、行动Action**的自主软件系统。Agent 三级能力模型Level 1: 提示词立人设 ──→ Level 2: 工作流编排 ──→ Level 3: 自主任务拆解 (设定角色知识库) (定义步骤链) (Agent 自主规划执行) 例深夜情感主持 例高考报考指南 例家庭记账助手Coze vs Dify vs n8n 平台对比维度Coze扣子Difyn8n用户定位零基础个人/小团队开发者/技术团队开发者/复杂自动化核心优势零代码、字节生态LLMOps 全链路、开源自托管400 集成节点学习曲线低几小时中1-2 天高3-5 天部署方式云端 开源自部署云端 私有化自托管 云端动手实践Coze 三大案例情感主持 / 高考指南 / 家庭记账 Dify 两大案例时事评论 / 北京旅行助手 DeepResearch 前沿应用介绍。Part 3Agent 工作流具体应用实践03目标通过 7 个全流程案例掌握 Coze/Dify 工作流在实际业务中的落地能力。03 商户运营管家7 个全流程案例覆盖商户运营的核心场景——从内容生产海报/视频/卖点到数据分析评论/对话再到外部集成钉钉推送/调研报告。03 商户运营管家7 个独立案例可按需跳跃学习 │ ├─ Coze 平台 ──────────────────────────────────────── │ ┌─────────────────┐ ┌─────────────────┐ │ │ 03-01 海报生成 │ │ 03-02 宣传视频 │ │ │ 文生图图生图 │ │ 三工作流链式调用 │ │ └─────────────────┘ └─────────────────┘ │ ┌─────────────────┐ ┌─────────────────┐ │ │ 03-05 对话分析 │ │ 03-06 评论分析 │ │ │ Excel→LLM 分析 │ │ CSV→Agent工作流 │ │ └─────────────────┘ └─────────────────┘ │ ┌──────────────────────────────────────┐ │ │ 03-07 卖点提炼最复杂案例 │ │ │ 5 工作流联动 通用→独特→保障三层卖点 │ │ └──────────────────────────────────────┘ │ ├─ Dify 平台 ──────────────────────────────────────── │ ┌─────────────────┐ ┌─────────────────┐ │ │ 03-03 投诉分类 │ │ 03-04 调研报告 │ │ │ LLM分类钉钉推送 │ │ 搜索迭代总结 │ │ └─────────────────┘ └─────────────────┘ │ └─ ★ 双平台对比同场景对话分析/评论分析Coze vs Dify 实现7 个案例一览编号案例名称平台核心能力03-01产品营销海报生成Coze文生图/图生图、工作流链式调用03-02一键生成商品宣传视频Coze多工作流协作、分镜生成、变量管理03-03客户投诉分类助手-钉钉DifyLLM 分级分类、外部 Webhook 集成03-04一键生成行业调研报告Dify搜索 迭代节点 结构化输出03-05客服对话记录分析Coze DifyExcel 解析、情感分析、对话总结03-06商品评论分析Coze DifyCSV 解析、Agent工作流混合架构03-07商品营销卖点提炼Coze5 工作流联动、卖点→买点情绪转化每个案例在 Coze 和 Dify 上均有独立实现通过对比帮助理解不同平台的优劣势与适用场景。Part 4企业级部署04 - 06目标从平台内部运行到外部系统集成从云端平台到自有服务器部署。04 Python 调用平台工作流打通外部系统 │ ├─ Coze SDK 调用链路 │ 发布 API → 获取 workflow_id app_id → 创建 API Key │ → cozepy.workflows.runs.stream() → 迭代 WorkflowEvent │ → 解析 MESSAGE / ERROR / INTERRUPT 事件 │ └─ Dify API 调用链路 发布工作流 → 查看 API 文档 → 创建 API Key → POST /v1/workflows/run → SSE 流式解析 → 捕获 workflow_finished → 提取 outputs.output │ ▼ 05 Windows 本地部署开发验证环境 │ ├─ Coze 开源套件部署 │ Docker Desktop 安装 → 镜像加速配置 → 下载源码 │ → 模型配置云端 API / Ollama 本地模型 │ → docker compose up -d │ → Coze Studio(localhost:8888) Coze Loop(localhost:8082) │ └─ Dify 开源部署 Docker Desktop → git clone → 配置 .env → docker compose up -d → localhost 访问 │ ▼ 06 企业级大模型部署生产环境 │ └─ 三层企业架构全景 ┌──────────────────────────────────────────────────────┐ │ 用户 / 外部系统 │ └──────────────────────┬───────────────────────────────┘ │ HTTP / API ▼ ┌──────────────────────────────────────────────────────┐ │ 应用层DifyDocker腾讯云轻量服务器 4C8G │ │ · Web UI API 统一入口 │ │ · 工作流编排 Agent 管理 知识库维护 │ │ · 通过 Xinference 插件对接私有模型 │ └──────────────────────┬───────────────────────────────┘ │ OpenAI-compatible API ▼ ┌──────────────────────────────────────────────────────┐ │ 推理层XinferenceAutoDL GPU 服务器 RTX 4090 │ │ ┌──────────────┐ ┌──────────────┐ ┌──────────────┐ │ │ │ LLM 推理 │ │ Embedding │ │ Rerank │ │ │ │ Qwen3-0.6B │ │ bge-small │ │ bge-reranker │ │ │ │ (vLLM 引擎) │ │ -zh-v1.5 │ │ -base │ │ │ └──────────────┘ └──────────────┘ └──────────────┘ │ │ 加速技术vLLM PagedAttention 多卡并行 FlashAttn │ └──────────────────────────────────────────────────────┘04 Python 调用平台工作流将 Part 1-3 搭建的 Agent 和工作流通过编程方式暴露为 API 服务。Coze 使用官方 cozepy SDK 的 Stream 模式Dify 使用 requests 库处理 SSE 流式响应。这是将低代码平台能力集成到现有业务系统的关键桥梁。05 低代码平台 Windows 部署Coze 于 2025 年 7 月开源Apache 2.0 协议最低 2 核 CPU 4GB 内存即可运行。本章涵盖 Coze Studio可视化开发 Coze Loop评测运维双组件部署以及 Dify Docker 部署。Coze Loop 提供 Prompt 开发、Playground 对比、评测集、评估器、实验统计、Trace 追踪等八大运维功能。06 企业级大模型部署为什么要自部署数据安全敏感数据不外传、成本可控高频调用不失控、能力可定制模型版本/性能自主管控、运维可观测QPS/TTPS/GPU 利用率监控。三层解耦架构Dify应用层腾讯云 4C8G 轻量服务器→ Xinference推理层AutoDL GPU RTX 4090→ vLLM底层加速引擎。三者通过 OpenAI-compatible API 标准通信实现应用与推理分离。部署三件套模型LLMQwen3-0.6B Embeddingbge-small-zh-v1.5 Rerankbge-reranker-base。