2022年4月7日，AI推理(Inference)V2.0榜单，浪潮AI服务器以高性能获得了数据中心(固定任务)的全部16项头衔。

本次MLPerf™AI推理性能评测涵盖使用广泛的六大AI场景，包括图像分类、自然语言理解、语音识别、目标物体检测、医学影像分割、智能推荐，每个场景采用AI模型作为测试任务，分别为ResNet50、BERT、RNNT、SSD-ResNet34、3D-Unet、DLRM。MLPerf™测试要求模型推理精度达到99%以上，对于自然语言理解、医学影像分割和智能推荐3个任务则设置99%与99.9%两种精度要求，以考察当提升AI推理精度要求时对计算性能的影响。
为更加贴近实际应用情况，MLPerf™推理测试在数据中心赛道下设置了离线(Offline)与在线(Server)两种模式。离线模式代表任务所需所有数据都在本地可用，典型场景如大批量医疗影像样本存于本地等待统一识别。在线模式则反映了大部分的即时AI应用，其数据和请求以突发和间歇的方式在线送达，例如用户在浏览购物网站时智能推荐的推理请求。
浪潮AI服务器此次表现好，以高性能包揽了此次MLPerf™数据中心(固定任务)赛道的全部16项头衔。

本次MLPerf™测试中，浪潮AI服务器在ResNet50模型任务中创造了每秒处理449,856张图片的性能纪录，相当于仅用2.8秒即完成ImageNet数据集128万张图片的分类；在3D-UNet模型任务中，创造了每秒处理36.25张医疗影像的新纪录，相当于在6秒内完成对KiTS19数据集207张3D医疗影像的分割；在SSD-ResNet34模型任务中，创造了每秒对11,081.9张图片完成目标物体识别及定位的新纪录；在BERT模型任务中，创造了平均每秒完成38,776.7个问答的性能纪录，在RNNT模型任务中，创造了每秒将155,811段语音转为文字的性能纪录，在DLRM模型任务中，则创造每秒实现2,645,980次点击预测的性能纪录。
此外，本次MLPerf™评测还设有边缘推理赛道，浪潮面向边缘场景设计的AI服务器同样表现好，在边缘固定任务赛道的全部17项任务中斩获了11项头衔。
随着AI应用在各个行业中的持续深化，更快的推理速度，将带来更高的AI应用效率与能力,加速产业智能化转型。相比半年前的MLPerf™AI推理榜单V1.1，浪潮AI服务器将图像分类、语音识别和自然语言理解任务的推理性能分别提升31.5%、28.5%及21.3%，意味着浪潮AI服务器在自动驾驶、语音会议、智能问答和智慧医疗等等场景中，能够更*效快速地完成各类智能任务。