尧图建网站 尧图建网站 YAOTU WEB BUILD 免费咨询
ARTICLE DETAIL

资讯详情

深耕网站建设与建站编程的一线实战洞察。

104、昇腾服务器910B3部署gpustack,进行模型部署

104、昇腾服务器910B3部署gpustack,进行模型部署 基本思想:昇腾服务器910B3部署gpustack,进行模型部署一、下载源码到昇腾服务器上,进行gpustack拉起服务git clone https://github.com/gpustack/gpustack.git然后进行文件内容修改,将docker-compose.server.yaml重命令成docker-compose.yamlubuntu@ubuntu:/data/gpustack$ ls alembic.ini charts conftest.py docker-compose docs gpustack hack LICENSE Makefile mkdocs.yml pack pyproject.toml pytest.ini README_CN.md README_JP.md README.md static tests uv.lock ubuntu@ubuntu:/data/gpustack$ cd docker-compose/ ubuntu@ubuntu:/data/gpustack/docker-compose$ ls 1 docker-compose.external-observability.yaml docker-compose.server.yaml docker-compose.yaml grafana prometheus ubuntu@ubuntu:/data/gpustack/docker-compose$ pwd /data/gpustack/docker-compose拉镜像doc
返回列表