尧图建网站 尧图建网站 YAOTU WEB BUILD 免费咨询
ARTICLE DETAIL

资讯详情

深耕网站建设与建站编程的一线实战洞察。

3 条命令跑起一个心理陪伴大模型:EmoLLM 完整上手指南

3 条命令跑起一个心理陪伴大模型:EmoLLM 完整上手指南 3 条命令跑起一个心理陪伴大模型EmoLLM 完整上手指南【免费下载链接】EmoLLM心理健康大模型 (LLM x Mental Health), Pre Post-training Dataset Evaluation Depoly RAG, with InternLM / Qwen / Baichuan / DeepSeek / Mixtral / LLama / GLM series models项目地址: https://gitcode.com/gh_mirrors/emo/EmoLLM凌晨睡不着想找个人说说话但又不想打扰朋友。EmoLLM 是一个开源心理健康大模型项目把倾听-共情-建议这条链路做成了本地能跑的对话服务用 3 条命令就能在自己的机器上支起一个会安慰人的 AI 伙伴。它基于 InternLM、Qwen、Llama 等开源模型微调而来还提供 RAG 知识库、评测脚本和量化部署工具从能聊到能上线一条龙。用 3 条命令搭好本地情感陪伴整个上手路径只有三步拉代码、装依赖、下模型、起服务。git clone https://gitcode.com/gh_mirrors/emo/EmoLLM cd EmoLLM pip install -r requirements.txtpython download_model.py ajupyter/EmoLLM_aiweipython web_demo-Llama3.py第二条命令是项目自带的模型自动下载脚本当前支持 OpenXLab 平台仓库其他平台的模型手动放到EmoLLM/model目录即可第三条启动 Streamlit 网页版对话界面。启动成功后浏览器打开http://0.0.0.0:7860就能开聊端口在app.py里可改。官方建议的环境是 Ubuntu 22.04 Python 3.11 CUDA 12.2参考 快速体验文档里面还有保姆级教程 Baby EmoLLM 笔记本。EmoLLM 心理健康大模型框架数据构建、微调、RAG、评测、部署全链路它能陪聊、能换人设、能答专业问题跑起来之后这个模型主要替你干三件事。情感陪伴对话默认的温柔御姐心理医生艾薇aiwei风格偏温和引导适合日常倾诉和情绪疏导换成 mother 系列权重后它会变成老母亲心理咨询师语气更操心、更直接。两个角色共用同一套启动流程只是模型目录不同。多角色切换项目还开源了爹系男友、科学家等角色权重配置文件在 xtuner_config 下比如 艾薇的 QLoRA 配置、老母亲微调配置下载对应权重放进model目录即可换人设。专业问题有据可依仓库内置 RAG 管线把心理学理论、经典案例、咨询文档灌进 Faiss 向量库回答前先检索再生成减少编道理的情况RAG 使用文档 里给了从数据准备到问答演示的完整步骤。![EmoLLM情感陪伴大模型聊天界面原型](https://raw.gitcode.com/gh_mirrors/emo/EmoLLM/raw/955155bb536eb1c28ff4500c6dc6a093a24e8209/front/Wechat small program prototype design/ui/emollm小程序.bitmap-2.jpg?utm_sourcegitcode_repo_files)EmoLLM 情感陪伴聊天界面支持背景设置、记录查找与清空本地量化部署与云端上线两条路本地路线适合想省显存或要长期服务的人。项目用 LMDeploy 做量化部署核心动作是三步lmdeploy convert把模型转成 TurboMind 格式、lmdeploy lite auto_awq做 4bit 权重量化W4A16、再开 API 服务4bit 模型推理效率约是 FP16 的 2.4 倍长对话场景还能叠加 KV Cache 量化继续压显存。完整命令和环境细节都写在 deploy/lmdeploy.md。EmoLLM 基于 LMDeploy TurboMind 的量化部署结构云端路线适合没显卡的人。在 OpenXLab 平台创建一个 Gradio 应用填写应用信息、任务类型选自然语言处理、关联仓库、选好硬件规格等几分钟构建完就能拿到在线体验地址操作截图见 部署文档 和 模型上传指南。云端跑的就是仓库里同一套 Gradio 代码本地和云端行为一致。一份目录地图找资源不再翻仓库快速入门quick_start/quick_start.md含环境要求和模型下载说明数据集datasets/ 下 16 个数据集含 151 万条多轮对话和 1 万条 DeepSeek-R1 心理学思维链蒸馏数据微调配置xtuner_config/ 覆盖 InternLM2、Qwen、Llama3、DeepSeek、Mixtral 等模型的全量/LoRA/QLoRA 方案训练框架swift/ 提供基于 ms-swift 的微调指南评测evaluate/ 分通用指标ROUGE/BLEU和专业指标共情、专业性、安全性两套脚本演示服务根目录的web_demo-Llama3.py、web_internlm2.py等demo/ 里有各模型对应的启动说明EmoLLM 开源模型权重文件结构下一步EmoLLM 把心理健康陪伴这条链路完整开源了有能跑的角色模型、能追的训练数据、能验的评测指标、能上线的部署方案还拿过 2024 浦源大模型系列挑战赛春季赛 50 强。现在就可以照着上面的 3 条命令在自己机器上试跑一轮觉得有用就点个 Star想加角色或改数据直接从 datasets/ 和 xtuner_config/ 入手提 PR。EmoLLM 从模型训练到部署优化的季度路线图【免费下载链接】EmoLLM心理健康大模型 (LLM x Mental Health), Pre Post-training Dataset Evaluation Depoly RAG, with InternLM / Qwen / Baichuan / DeepSeek / Mixtral / LLama / GLM series models项目地址: https://gitcode.com/gh_mirrors/emo/EmoLLM创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表