GPT-SoVITS项目的API改良与使用
GPT-SoVITS是一个非常棒的少样本中文声音克隆项目之前有一篇文章详细介绍过如何部署和训练自己的模型并使用该模型在web界面中合成声音可惜它自带的 api 在调用方面支持比较差比如不能中英混合、无法按标点切分句子等因此对原版api做了修改详细使用说明如下。修改后代码开源地址github.com/jianchang51…代码下载地址 github.com/jianchang51…api2.py 使用示例下载解压 github.com/jianchang51… 将 api2.py 复制到GPT-SoVITS软件目录下执行命令同自带api.py一样只需要将名字 api.py 改成 api2.py。默认端口也是 9880默认绑定 127.0.0.1效果音频听听这是谁启动默认模型并指定默认参考音频 -dr -dt -dl假设参考音频要使用根目录下的123.wav,音频文字是“一二三四五六七。”音频语言是中文那么命令如下.\runtime\python api2.py -dr 123.wav -dt 一二三四五六七。 -dl zhLinux下命令去掉.\runtime即可如上述命令这样在启动后指定的参考音频将作为默认配置在api请求数据中未指定参考音频时将使用。启动默认模型并指定ip地址和端口 -a -p假设要指定绑定内网ip192.168.0.120端口要使用9001不指定默认参考音频那么执行如下命令:.\runtime\python api2.py -a 127.0.0.1 -p 9001启动自己训练好的模型 -s -g在指定自己的模型时必须确保同时指定参考音频。训练好的模型可分别在软件目录下的GPT_weights和SoVITS_weights目录下寻找以你训练时命名的模型名称开头后跟e数字最大的那个即可。.\runtime\python api2.py -s SoVITS_weights/你的模型名 -g GPT_weights/你的模型名 -dr 参考音频路径和名称 -dt 参考音频的文字内容使用双引号括起来确保文字内容里没有双引号 -dl zh|ja|en三者选一强制在CPU上推理 -d cpu默认将优先使用 CUDA 或 mps(Mac), 如果你想指定在CPU上运行可以通过-d cpu指定.\runtime\python api2.py -d cpu注意-d后只能是cpu 或 cuda 或 mps并且只有在正确配置 cuda 后才能指定 cuda只有Apple CPU Mac上才能指定 mps全部按照默认运行.\runtime\python api2.py这种方式将使用默认模型并且在 api 请求时必须指定参考音频、参考音频文字内容、参考音频语言代码api 监听 9880 端口可使用的语言代码 zh ja en仅支持中文、日语、英语三种语言对应只可使用zh(代表中文或中英混合)、ja(代表日语或日英混合)、en(代表英语)使用 -dl 指定如-dl zh,-dl ja,-dl en参考音频路径 -dr参考音频填写以软件根目录为起点的相对目录假如你的参考音频是直接放在软件根目录下那么只需要填写带后缀的完整名字即可比如-dr 123.wav,如果是在子目录下比如在wavs文件夹下那么填写-dr wavs/123.wav参考音频的文字内容 -dt参考音频的文字内容就是音频里的说话文字需要正确填写标点符号并使用英文双引号括起来。请注意文字中不要再有英文双引号。-dt 这里填写参考音频的文字内容不要含有英文双引号可用的命令行参数:模型相关参数-sSoVITS模型路径, 默认模型无需填写自训练模型在 SoVITS_weights 目录下-gGPT模型路径, 默认模型无需填写自训练模型在 GPT_weights 目录下参考音频相关参数-dr默认参考音频路径如果在根目录下直接填写带后缀名字否则加上 路径/名字-dt默认参考音频文本音频的文字内容以英文双引号括起来-dl默认参考音频内容的语种, “zh或en或ja”设备和地址相关参数-d推理设备, “cuda”,“cpu”,“mps” 只有配置好了cuda环境才可指定cuda只有Apple CPU上才可指定mps-a绑定地址, 默认127.0.0.1-p绑定端口, 默认9880不常用参数新手可忽略不必设置-fp使用全精度-hp使用半精度-hbcnhubert路径-bbert路径API调用示例:调用地址url:http://你指定的ip:指定的端口默认是http://127.0.0.1:9880调用时不指定参考音频启动 api2.py 时必须指定默认参考音频才可在调用api时不指定否则将报错:GET方式调用可直接浏览器中打开http://127.0.0.1:9880?text亲爱的朋友你好啊希望你的每一天都充满快乐。text_languagezhPOST方式调用以json格式传参:json 复制代码 { text: 先帝创业未半而中道崩殂今天下三分益州疲弊此诚危急存亡之秋也。, text_language: zh }手动指定当次所使用的参考音频:GET方式:http://127.0.0.1:9880?refer_wav_pathwavs/5.wavprompt_text为什么御弟哥哥甘愿守孤灯。prompt_languagezhtext亲爱的朋友你好啊希望你的每一天都充满快乐。text_languagezhPOST方式:json 复制代码 { refer_wav_path: wavs/5.wav, prompt_text: 为什么御弟哥哥甘愿守孤灯。, prompt_language: zh, text: 亲爱的朋友你好啊希望你的每一天都充满快乐。, text_language: zh }Api调用返回信息:成功时: 返回 wav 音频流可直接播放或保存到 wav文件中http 状态码 200失败时: 返回包含错误信息的 json, http 状态码 400css 复制代码 {code: 400, message: 未指定参考音频且接口无预设}问题想切换模型怎么办api2.py和官方原版api.py 一样都不支持动态模型切换也不建议这样做因为动态启动加载模型很慢而且在失败时也不方便处理。解决方法是一个模型起一个api服务器绑定不同的端口在启动 api2.py 时指定当前服务所要使用的模型和绑定的端口。比如起2个服务一个使用默认模型绑定 9880 端口一个绑定自己训练的模型绑定 9881 端口命令如下默认模型 9880 端口: http://127.0.0.1:9880.\runtime\python api2.py -dr 5.wav -dt 今天好开心 -dl zh自己训练的模型: http://127.0.0.1:9881.\runtime\python api2.py -p 9881 -s SoVITS_weights/mymode-e200.pth -g GPT_weights/mymode-e200.ckpt -dr wavs/10.wav -dt 御弟哥哥为什么甘愿守孤灯 -dl zh在视频翻译软件中使用如下图所示打开 菜单-设置-GPT-SoVITS 填写api地址以及参考音频 填写格式为一行一个参考音频bash 复制代码 参考音频路径带后缀名称1#参考音频1文字内容#参考音频1语言 参考音频路径带后缀名称2#参考音频2文字内容#参考音频2语言详细说明可看上一篇文章 在其他软件中调用GPT-SoVITS将文字合成语音小技巧中英混合的句子如何取得更好的训练效果英文单词前后要留有空格不要直接和汉字连在一起因为英文是靠空格区分的如果连在一起可能无法正确识别。此api2.py 兼容视频翻译配音软件的 GPT-SoVITS 声音合成功能如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线互联网企业工作十余年里指导过不少同行后辈。帮助很多人得到了学习和成长。我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限很多互联网行业朋友无法获得正确的资料得到学习提升故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…学习是一个过程只要学习就会有挑战。天道酬勤你越努力就会成为越优秀的自己。如果你能在15天内完成所有的任务那你堪称天才。然而如果你能完成 60-70% 的内容你就已经开始具备成为一名大模型 AI 的正确特征了。领取方式我会放在下面希望领取了的朋友不要忘了下方名片放心添加