如果您要在windwos系统上使用v2版本的gpustack,需要先安装wsl子系统,可以在命令行运行命令:
wsl --install
在WSL端安装Docker Engine
然后在WSL终端中,安装NVIDIA Container Toolkit
sudo nvidia-ctk runtime configure --runtime=docker
sudo systemctl restart docker
然后在WSL内部部署GPUStack,部署完成后在wsl终端启动GPUStack Server
sudo docker run -d --name gpustack \
--restart unless-stopped \
-p 80:80 \
-p 10161:10161 \
--volume gpustack-data:/var/lib/gpustack \
gpustack/gpustack