Docker 镜像

(简体中文|English)

该文档维护了 Paddle Serving 提供的镜像列表。

获取镜像

您可以通过两种方式获取镜像。

通过 TAG 直接从 dockerhub 或 registry.baidubce.com 拉取镜像，具体TAG请参见下文的镜像说明章节的表格。
```
docker pull registry.baidubce.com/paddlepaddle/serving:<TAG> 
```
基于 Dockerfile 构建镜像

建立新目录，复制对应 Dockerfile 内容到该目录下 Dockerfile 文件。执行
```
docker build -f tools/${DOCKERFILE} -t registry.baidubce.com/paddlepaddle/serving:<images-tag> .
```

若需要基于源代码二次开发编译，请使用后缀为-devel的版本。在TAG列，0.9.0也可以替换成对应的版本号，例如0.5.0/0.4.1等，但需要注意的是，部分开发环境随着某个版本迭代才增加，因此并非所有环境都有对应的版本号可以使用。

开发镜像：

开发镜像中安装多种开发工具，可用于调试和编译代码，适配2种 GCC 版本和多种 CUDA 环境，但镜像体积较大。

镜像选择	操作系统	TAG	Dockerfile
CPU development	Ubuntu16	0.9.0-devel	Dockerfile.devel
GPU (cuda10.1-cudnn7-tensorRT6) development	Ubuntu16	0.9.0-cuda10.1-cudnn7-devel	Dockerfile.cuda10.1-cudnn7.devel
GPU (cuda10.2-cudnn7-tensorRT6) development	Ubuntu16	0.9.0-cuda10.2-cudnn7-devel	Dockerfile.cuda10.2-cudnn7.devel
GPU (cuda10.2-cudnn8-tensorRT7) development	Ubuntu16	0.9.0-cuda10.2-cudnn8-devel	Dockerfile.cuda10.2-cudnn8.devel
GPU (cuda11.2-cudnn8-tensorRT8) development	Ubuntu16	0.9.0-cuda11.2-cudnn8-devel	Dockerfile.cuda11.2-cudnn8.devel

运行镜像：

运行镜像比开发镜像更加轻量化, 运行镜像提供了serving的whl和bin，但为了运行期更小的镜像体积，没有提供诸如cmake这样但开发工具。如果您想了解有关信息，请检查文档在Kubernetes上使用Paddle Serving。

Env	Version	Docker images tag	OS	Gcc Version	Size
CPU	0.9.0	0.9.0-runtime	Ubuntu 16	8.2.0	3.9 GB
CUDA 10.1 + cuDNN 7	0.9.0	0.9.0-cuda10.1-cudnn7-runtime	Ubuntu 16	8.2.0	10 GB
CUDA 10.2 + cuDNN 7	0.9.0	0.9.0-cuda10.2-cudnn7-runtime	Ubuntu 16	8.2.0	10.1 GB
CUDA 10.2 + cuDNN 8	0.9.0	0.9.0-cuda10.2-cudnn8-runtime	Ubuntu 16	8.2.0	10.1 GB
CUDA 11.2 + cuDNN 8	0.9.0	0.9.0-cuda11.2-cudnn8-runtime	Ubuntu 16	8.2.0	14.2 GB

Java镜像：

registry.baidubce.com/paddlepaddle/serving:0.9.0-cuda10.2-cudnn8-java

XPU镜像：

registry.baidubce.com/paddlepaddle/serving:xpu-arm # for arm xpu user
registry.baidubce.com/paddlepaddle/serving:xpu-x86 # for x86 xpu user

运行CUDA容器需要至少具有一个支持CUDA的GPU以及与您所使用的CUDA工具包版本兼容的驱动程序。

运行CUDA容器的机器只需要相应的NVIDIA驱动程序，而CUDA工具包不是必要的。

相关CUDA工具包版本、驱动版本和GPU架构的关系请参阅 nvidia-docker wiki。