N卡环境下以Docker方式一键部署ComfyUI
之前直接在N卡
物理机上跑模型难免因为各种依赖兼容的问题反复折腾,
并且当模型升级时依赖环境又得升级。
特别当跑多个不同模型时,环境的兼容性就成了“鱼与熊掌不可兼得”尴尬。
最近发现可以用Docker
方式部署,不得不说英伟达的生态还是非常棒的,也难怪成为显卡一哥。
下面把折腾笔记记录一下。
假设在debian12
服务器系统下已安装好如下基础环境:
- 安装好英伟达显卡驱动;
- 安装好
Docke
r;
安装英伟达为Docker容器工具包
检查 NVIDIA
容器工具包是否安装:
dpkg -l | grep nvidia-container-toolkit
确认 NVIDIA
容器工具包是否已正确安装
如果没有任何信息出现,则使用以下命令安装:
distribution=$(. /etc/os-release;echo $ID$VERSION_ID) \
&& curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add - \
&& curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list
sudo apt update
sudo apt install -y nvidia-container-toolkit
sudo systemctl restart docker
注意,如果是ubuntu18.04
之类的系统,上面步骤是可以的。
但是debian12
可能会报错,可能是debian12
作为debian
最新发行版显卡一哥还没来得及更新。
不过没关系用deiban11
也是可以,如下:
curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey > /etc/apt/keyrings/nvidia-docker.key
curl -s -L https://nvidia.github.io/nvidia-docker/debian11/nvidia-docker.list > /etc/apt/sources.list.d/nvidia-docker.list
sed -i -e "s/^deb/deb \[signed-by=\/etc\/apt\/keyrings\/nvidia-docker.key\]/g" /etc/apt/sources.list.d/nvidia-docker.list
apt update
apt -y install nvidia-container-toolkit
systemctl restart docker
部署ComfyUI
拉取第三方ConfyUI
镜像:
docker pull dockerproxy.net/yanwk/comfyui-boot:cu124-cn
定义工作空间:
mkdir -p /data/comfyui/storage
启动镜像容器:
……