在Kubernetes中部署AI算法，最关键的一步是在Kubernetes中调用GPU，本文是对Kubernetes调用GPU机制的一个记录。

在AI的应用中，GPU是无法绕过的设备。在Docker中调用GPU是AI算法部署时必然需要考虑的问题。

Docker创建任务数量是有限制的，某些场景下需要增加任务数量。

容器技术在解决什么问题？

随着应用架构朝着微服务演进，为了提高单台服务器的使用效率，需要把多个（几十、几百）微服务部署在一台服务器上，于是面临服务之间隔离的问题。

首先发展的是虚拟化技术，一台物理机切成多个虚拟机，再把服务部署在虚拟机中。这个时候如果为每个应用程序分配一个虚拟机，耗费的资源相当多。如果每个虚拟机上运行多个微服务又会发生依赖库版本的问题。

容器技术出现之后，这些问题得以更好地解决。

要在程序中使用GPU，首先需要安装GPU驱动。在ubuntu 18.04中安装驱动，只需遵循以下的步骤

一般GPU服务器都会有多张GPU卡，如果直接在上面安装操作系统来使用GPU会非常不灵活，多个人对GPU的使用相互干扰。因此使用虚拟机来进行隔离就非常有必要，ESXi是我们常用的虚拟机软件。在ESXi中虚拟CPU非常方便，但是对GPU的使用没有很好的解决方案，当前的消费级GPU都不支持虚拟化操作。因此只能做GPU直通来让虚拟机直接使用GPU。ESXi配置GPU直通步骤如下：

程序代码开发完成之后，为了运行在不同的CPU架构中，需要将代码编译成对应架构的可执行文件。

KubeEdge 是一个华为开源的边缘编排系统，本文是在学习安装过程中的记录。

我们的/目录通常空间有限。在Docker的使用过程中，Docker的工作目录/var/lib/docker会占用非常大的空间，导致系统空间占满无法工作。此时我们可以创建虚拟磁盘，挂载到/var/lib/docker目录，从而给Docker来使用。

Docker构建上下文是理解Docker构建过程的关键。