推理加速型Pi1 Pi2服务器规格及功能介绍

推理加速型Pi1 Pi2服务器规格及功能介绍

推理加速型Pi1

Pi1型弹性云服务器采用专为AI推理打造的NVIDIA Tesla P4 GPU，能够提供超强的实时推理能力。Pi1型弹性云服务器借助P4的INT8运算器，能够将推理延时降低15倍。配备硬件解码引擎，能够同时支持35路高清视频流的实时转码与推理。

Pi1型弹性云服务器的规格规格名称vCPU内存（GB）最大带宽/基准带宽（Gbps）最大收发包能力（万PPS）网卡多队列数GPU显存（GB）本地盘虚拟化类型pi1.2xlarge.48325/1.64021×P41×8GB-KVMpi1.4xlarge.416648/3.27042×P42×8GB-KVMpi1.8xlarge.43212810/6.514084×P44×8GB-KVM

Pi1型弹性云服务器功能如下：

支持NVIDIA Tesla P4 GPU卡，单实例最大支持4张P4 GPU卡提供GPU硬件直通能力单GPU单精度计算能力最高5.5 TFLOPS单GPU INT8计算能力最高22 TOPS单GPU提供8GB ECC显存，带宽192GB/sGPU内置硬件视频编解码引擎，能够同时进行35路高清视频解码与实时推理

常规支持软件列表

常用的软件支持列表如下：

Tensorflow、Caffe、PyTorch、MXNet等深度学习框架

推理加速型Pi2

Pi2型弹性云服务器采用专为AI推理打造的NVIDIA Tesla T4 GPU，能够提供超强的实时推理能力。Pi2型弹性云服务器借助T4的INT8运算器，能够提供最大130TOPS的INT8算力。Pi2也可以支持轻量级训练场景。

Pi2型弹性云服务器的规格规格名称vCPU内存（GB）最大带宽/基准带宽（Gbps）最大收发包能力（万PPS）网卡多队列数GPU显存（GB）本地盘虚拟化类型pi2.2xlarge.483210/45041×T41×16GB-KVMpi2.4xlarge.4166415/810082×T42×16GB-KVMpi2.8xlarge.43212825/15200164×T44×16GB-KVM

Pi2型弹性云服务器功能如下：

支持NVIDIA Tesla T4 GPU卡，单实例最大支持4张T4 GPU卡提供GPU硬件直通能力单GPU单精度计算能力最高8.1 TFLOPS单GPU INT8计算能力最高130 TOPS单GPU提供16GB GDDR6显存，带宽300GB/s内置1个NVENC和2个NVDEC

常规支持软件列表

Pi2实例主要用于GPU推理计算场景，例如图片识别、语音识别、自然语言处理等场景。也可以支持轻量级训练场景。

常用的软件支持列表如下：

Tensorflow、Caffe、PyTorch、MXNet等深度学习框架。