在Kubernetes中部署AI算法,最关键的一步是在Kubernetes中调用GPU,本文是对Kubernetes调用GPU机制的一个记录。
ESXi配置GPU直通
发表于
一般GPU服务器都会有多张GPU卡,如果直接在上面安装操作系统来使用GPU会非常不灵活,多个人对GPU的使用相互干扰。因此使用虚拟机来进行隔离就非常有必要,ESXi是我们常用的虚拟机软件。在ESXi中虚拟CPU非常方便,但是对GPU的使用没有很好的解决方案,当前的消费级GPU都不支持虚拟化操作。因此只能做GPU直通来让虚拟机直接使用GPU。ESXi配置GPU直通步骤如下: