做了三年SaaS,我转型做了AI应用全栈
一个做了三年Node.js全栈的程序员在SaaS产品同质化到没人愿意付费之后用AI功能重新撬开了客户的钱包。一、三年全栈SaaS赛道卷到窒息2024年4月我和两个朋友创业做SaaS产品方向是团队协作工具。我负责全部技术——前端Next.js、后端Node.js、数据库PostgreSQL、部署Vercel。标准的独立开发者全栈配置。前两年还行产品有几百个付费用户每个月MRR月经常性收入两三万虽然不多但养得活团队。但2024年开始日子急转直下。原因是SaaS赛道太卷了。团队协作工具这个方向大厂有飞书、钉钉、企业微信小团队有Notion、ClickUp、Monday开源有Trello、OpenProject。你的功能别人都有别人的生态你没有。用户凭什么为你的产品付费“你们这个功能Notion免费版就有我为什么要给你们付钱”这是一个用户在客服群里说的。他说得没错我们做了个文档协作功能跟Notion比就是个玩具。但问题是Notion也开始卷了——它的免费版越来越强大付费版的门槛越来越低。2024年第三季度我们的流失率飙到了15%每月。意思是每个月有15%的付费用户取消订阅。新增用户追不上流失速度MRR从三万跌到了一万五。那段时间我每天都在看竞品分析看完更绝望——每家都在加功能每家都在降价每家都在烧钱。我们三个人没有融资拿什么跟人家打2024年10月我们开了个会决定转型不做通用协作工具了做垂直领域的AI工具。原因很简单——AI功能是目前唯一能制造差异化的东西而且用户愿意为AI付费。但问题是我不会做AI应用。我是个Node.js全栈会写React、会写API、会配数据库但大模型、Prompt工程、向量检索这些我全没碰过。二、从调一个API开始AI没那么神秘2024年11月我开始学AI应用开发。跟很多人一样第一步是调OpenAI的API。我选了一个最简单的场景切入给我们的协作工具加一个AI总结功能——用户选中一段文档AI自动生成摘要。这个功能技术门槛低但用户感知强。第一版我用的是最粗暴的方式前端把选中的文本发给后端后端拼一个Prompt调OpenAI API把结果返回前端。代码不到五十行一个下午就搞定了。“这也太简单了吧AI应用开发就这”我当时确实有点飘。但很快现实就教育了我。第一版上线后问题一大堆。响应时间不稳定——简单文本两秒出结果长文本要等十五秒用户以为卡死了。Token费用没控制——有个用户一次性传了三万字进去一次调用花了0.3美元而他的月费才9美元。没有错误处理——OpenAI API限流了直接500报错用户体验极差。我意识到AI应用开发不是调个API这么简单。API谁都会调难的是怎么把API包装成一个稳定、可控、有商业模型的产品功能。这恰恰是全栈工程师的活儿。产品经理定需求算法工程师调模型但把模型变成产品功能——前端交互、后端编排、数据存储、计费监控——这些全是我的老本行。我开始认真研究AI应用的全栈架构。三、Next.js Vercel AI SDK全栈的AI方案2024年12月到2025年2月我重构了整个AI功能的架构。技术选型上我选择了跟我现有技术栈最契合的方案Next.js App Router Vercel AI SDK。Vercel AI SDK是一个为React/Next.js设计的AI应用开发工具包。它封装了跟各种大模型API的交互原生支持流式输出跟React Server Components深度集成。对我来说这意味着我不用学新框架、不用换语言用我熟悉的Next.js就能做AI应用。最让我兴奋的是流式渲染。以前用户发一个请求要等AI完整生成才看到结果。用了AI SDK的useChathook之后AI的回复是流式的一个字一个字蹦出来跟ChatGPT一样的体验。而且这个hook封装了对话状态管理、消息历史、错误重试我几乎不用写状态管理代码。但流式输出在Next.js App Router里有个坑。App Router默认是React Server Components服务端渲染完才发给客户端这跟流式输出的边生成边发送是矛盾的。解决方案是用Server Actions配合Streaming Response——服务端先把已经准备好的部分发给客户端AI生成的内容通过流式通道持续推送。这个架构调试了我整整一周最大的问题是React的hydration。服务端渲染的HTML和客户端hydration后的状态如果不一致React会报错。流式输出的过程中DOM在不断变化hydration的时机很难把握。最后我用了一个折中方案对话历史用Server Component渲染利于SEO和首屏速度新消息的流式输出用Client Component处理避免hydration问题。“你这个AI回复的速度比之前快多了体验跟ChatGPT差不多。”这是一个老用户用了新版后的反馈。从卡死了到跟ChatGPT差不多中间是我两周的架构重构。四、Token计费和多模型路由SaaS的商业逻辑AI功能的体验做好了下一个问题是商业模型。我们的SaaS是按月收费的但AI功能有边际成本——每次调用大模型API都要花钱。如果用户付9美元月费但一个月调了1000次AI功能Token费用可能就要6美元那我几乎没利润。这是我作为全栈开发者要解决的核心问题怎么在产品里内嵌一套AI计费系统。我设计的方案是Token配额制。每个用户根据订阅等级有不同的月度Token配额——基础版10万token/月专业版50万token/月企业版不限量但有速率限制。每次AI调用消耗的Token实时扣减配额用完了要么升级要么等下月重置。技术实现上我用PostgreSQL存用户的Token余额和消耗记录每次AI调用前检查余额调用后扣减并记录。为了不影响响应速度扣减操作是异步的——先返回AI结果后台再扣Token。但这里有个一致性问题如果用户并发发多个请求可能同时通过余额检查但实际余额不够。我加了个Redis分布式锁来处理并发确保Token扣减是原子的。另一个关键设计是多模型路由。不是所有请求都需要用最贵的模型。简单的文本分类用GPT-4o-mini便宜30倍复杂的推理才用GPT-4o。我写了个路由层根据请求的复杂度自动选择模型——判断逻辑也是一个轻量模型来做的先用GPT-4o-mini判断请求复杂度再路由到对应模型。这套机制上线后平均每用户的Token成本降了60%。原来一个用户月均消耗0.8美元的Token费用降到了0.3美元。利润空间一下子就出来了。“你们这个AI功能真好用而且不像别的工具动不动就限额。”这是一个用户在Product Hunt上的评论。他不知道的是不限额的背后是精细的成本控制和模型路由——不是真的不限是让用户感觉不到限制。五、AI SaaS全栈工程师每天在干什么2025年5月我们的产品转型基本成功了。MRR从一万五回升到了四万AI功能是核心驱动力——80%的新用户是因为AI功能来的。我的角色也从全栈开发变成了AI SaaS全栈工程师。日常工作的内容大概是这样的。前端部分核心是AI交互体验。流式输出、打字机效果、Markdown实时渲染、代码高亮、对话滚动控制——这些我在前面已经做了很多。新的是多模态交互——用户可以上传图片让AI分析前端要做图片预览、上传进度、大文件分片上传。还有AI生成内容的交互——复制、编辑、重新生成、历史对比。后端部分核心是AI编排和计费。多模型路由、Token配额管理、对话历史持久化、Function Calling的后端工具支持。对话历史我用PostgreSQL pgvector存储——pgvector是PostgreSQL的向量检索扩展用来做RAG的文档检索。选pgvector而不是单独搭一个Pinecone或者Weaviate是因为全栈一个人搞能少一个组件就少一个PostgreSQL我本来就在用。运维部分核心是成本监控和告警。我做了一个实时大屏监控每日Token消耗、模型调用分布、用户配额使用率。Token消耗异常时自动告警——比如某个用户突然一天消耗了正常值十倍的Token大概率是脚本在刷接口得自动限流。这些活儿每一个都需要全栈能力——前端要会写交互、后端要会搭架构、数据库要会设计、运维要会监控。在AI创业公司里这种端到端能交付的人极度稀缺。因为大公司里这些活儿是不同团队做的创业公司没钱养那么多人一个人得全干。六、全栈工程师在AI SaaS里的不可替代性2025年8月我们的产品被一个中型SaaS公司看中了他们在谈收购。尽调的时候他们的CTO问了我一个问题“你们就三个人AI功能是怎么做出来的我们团队十五个人AI功能做了半年还没上线。”我当时的回答是因为我们一个人能从头做到尾。前端交互、后端编排、数据库设计、模型选型、计费系统——一个人全包了没有跨团队沟通成本没有接口对齐的损耗想到什么当天就能做出来验证。这是全栈工程师在AI SaaS里的核心价值端到端的交付速度。AI产品的特点是——你不知道什么功能用户会买单必须快速试错。大公司的流程是产品经理写PRD、设计出图、前端开发、后端开发、测试、上线一个功能从想法到上线要两周。我们三个人一个功能从想法到上线只要两天。试错速度快在AI产品早期就是核心竞争力。如果你是做Node.js全栈的正在想怎么切入AI方向我的建议是第一步装Vercel AI SDK跑通一个流式对话。这是最快上手AI全栈开发的方式——不用学新框架用你熟悉的Next.js就行。useChat这个hook能让你十分钟内有一个能跑的AI聊天界面。第二步搭一套Token计费系统。这是AI SaaS跟普通SaaS最大的区别——AI功能有边际成本你必须从第一天就考虑成本控制。用PostgreSQL存Token消耗记录做个配额管理这套东西做好了你的AI功能才能可持续。第三步学pgvector做RAG。不用搭独立的向量数据库PostgreSQL pgvector就够用了。把你的业务数据向量化让AI能检索用户的数据来回答问题——这是AI SaaS的核心差异化通用AI做不到的。全栈工程师在AI时代不是被淘汰的角色恰恰相反——当AI技术本身变得人人可用的时候能把AI技术变成产品的人才是最值钱的。我就是那个做了三年Next.js Node.js的全栈仔现在做的AI SaaS产品核心技术栈一点没变——还是Next.js、还是PostgreSQL、还是Vercel。只不过多了一层AI的能力产品的价值和我的身价都翻了几番。想入门 AI 大模型却找不到清晰方向备考大厂 AI 岗还在四处搜集零散资料别再浪费时间啦2025 年AI 大模型全套学习资料已整理完毕从学习路线到面试真题从工具教程到行业报告一站式覆盖你的所有需求现在全部免费分享扫码免费领取全部内容一、学习必备100本大模型电子书26 份行业报告 600 套技术PPT帮你看透 AI 趋势想了解大模型的行业动态、商业落地案例大模型电子书这份资料帮你站在 “行业高度” 学 AI1. 100本大模型方向电子书2. 26 份行业研究报告覆盖多领域实践与趋势报告包含阿里、DeepSeek 等权威机构发布的核心内容涵盖职业趋势《AI 职业趋势报告》《中国 AI 人才粮仓模型解析》商业落地《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》领域细分《AGI 在金融领域的应用报告》《AI GC 实践案例集》行业监测《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。3. 600套技术大会 PPT听行业大咖讲实战PPT 整理自 2024-2025 年热门技术大会包含百度、腾讯、字节等企业的一线实践安全方向《端侧大模型的安全建设》《大模型驱动安全升级腾讯代码安全实践》产品与创新《大模型产品如何创新与创收》《AI 时代的新范式构建 AI 产品》多模态与 Agent《Step-Video 开源模型视频生成进展》《Agentic RAG 的现在与未来》工程落地《从原型到生产AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。二、求职必看大厂 AI 岗面试 “弹药库”300 真题 107 道面经直接抱走想冲字节、腾讯、阿里、蔚来等大厂 AI 岗这份面试资料帮你提前 “押题”拒绝临场慌1. 107 道大厂面经覆盖 Prompt、RAG、大模型应用工程师等热门岗位面经整理自 2021-2025 年真实面试场景包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题每道题都附带思路解析2. 102 道 AI 大模型真题直击大模型核心考点针对大模型专属考题从概念到实践全面覆盖帮你理清底层逻辑3. 97 道 LLMs 真题聚焦大型语言模型高频问题专门拆解 LLMs 的核心痛点与解决方案比如让很多人头疼的 “复读机问题”三、路线必明 AI 大模型学习路线图1 张图理清核心内容刚接触 AI 大模型不知道该从哪学起这份「AI大模型 学习路线图」直接帮你划重点不用再盲目摸索路线图涵盖 5 大核心板块从基础到进阶层层递进一步步带你从入门到进阶从理论到实战。L1阶段:启航篇丨极速破界AI新时代L1阶段了解大模型的基础知识以及大模型在各个行业的应用和分析学习理解大模型的核心原理、关键技术以及大模型应用场景。L2阶段攻坚篇丨RAG开发实战工坊L2阶段AI大模型RAG应用开发工程主要学习RAG检索增强生成包括Naive RAG、Advanced-RAG以及RAG性能评估还有GraphRAG在内的多个RAG热门项目的分析。L3阶段跃迁篇丨Agent智能体架构设计L3阶段大模型Agent应用架构进阶实现主要学习LangChain、 LIamaIndex框架也会学习到AutoGPT、 MetaGPT等多Agent系统打造Agent智能体。L4阶段精进篇丨模型微调与私有化部署L4阶段大模型的微调和私有化部署更加深入的探讨Transformer架构学习大模型的微调技术利用DeepSpeed、Lamam Factory等工具快速进行模型微调并通过Ollama、vLLM等推理部署框架实现模型的快速部署。L5阶段专题集丨特训篇 【录播课】四、资料领取全套内容免费抱走学 AI 不用再找第二份不管你是 0 基础想入门 AI 大模型还是有基础想冲刺大厂、了解行业趋势这份资料都能满足你现在只需按照提示操作就能免费领取扫码免费领取全部内容2025 年想抓住 AI 大模型的风口别犹豫这份免费资料就是你的 “起跑线”