AIIA 公布首轮AI芯片基准评测结果

本篇文章1839字，读完约5分钟

基于端侧推理任务发布的深度神经网络处理器基准测试第一轮评估结果

3月6日，由国际电信联盟和中国信息通信研究院联合主办、亚投行和中兴通讯联合主办的“亚投行5国集团——引领新时代论坛”国际论坛在深圳举行。来自电信运营商、标准组织、互联网公司、设备制造商、大学和其他行业的专家和嘉宾齐聚一堂，讨论基于人工智能的5g网络智能和行业应用创新。会上，aiia正式发布了第一轮“aiiadnnbenchmarkv0.5”评估结果，客观反映了基于aiia权威测试平台的四种典型应用场景下具有深度学习处理能力的处理器或加速器的性能水平。参与第一轮评估的产品有:HiSilicon 980和瑞信威rk3399开发委员会。

国内权威ai芯片基准测试

亚投行副秘书长王爱华在论坛上介绍了评估背景。为了真实反映当前的人工智能芯片能力，聚集更多的人工智能芯片企业参与，促进市场健康发展，在国家发改委、科技部、工信部、网络办的指导下，2018年10月，亚投行的众多代表性应用企业、主流芯片企业和芯片工具企业正式发布了0.5版《人工智能端芯片对标评估方案》，并于2018年12月开始了首轮评估工作。

图1: AIIA副秘书长王爱华介绍评价背景

第一轮评估结果的发布

aiiadnnbenchmarkv0.5测试评估主要是端到端的，旨在客观反映具有深度神经网络加速能力的处理器在完成推理任务时的性能。亚投行整体团队负责人孙明军正式向行业发布了首轮评估结果。

图2:2:亚投行整体团队负责人孙明军公布第一轮评估结果

孙明军表示，首轮评估包括四个典型场景(见图3)和两类评估指标，包括速度(fps)和算法性能，如top1、top5、map、miou、psnr等。值得一提的是，在深度学习处理器领域，这是区分整数和浮点比较的基准。

图3:评估指标和应用场景

aiiadnnbenchmarkv0.5第一轮测试对麒麟980和瑞星威rk3399开发板进行了评估。

海斯麒麟980-适用于手机终端mate20系列，采用7纳米工艺。具体评估结果如图4和图5所示。

图4:场景1下海斯麒麟980的评估结果

图5:场景2/3/4中海斯麒麟980的评价结果

瑞星威rk3399开发板-该芯片广泛应用于安防等领域，采用28纳米工艺。结果表明，在浮点模型不需要定点再训练的情况下，以精度损失1%为代价，int8计算的性能是浮点计算的两倍(见图6)。

图6:瑞信威rk3399发展局评估结果

评估工具开放源代码

aiiadnnbenchmarkv0.5测试评估工具采用开源模式，支持安卓系统，易于扩展到所有posix兼容系统，用户可以根据项目文档自行添加框架或新模型。面对未来的市场需求，aiiadnnbenchmark项目将不断更新。

据孙明军介绍，v0.5的基准工具可以评估基于cpu/gpu/dsp/npu的终端推理任务，支持评估的机器学习框架包括tensorflow/caffe。目前，已完成的移动适应环境包括hiai/snpe/tenen gine/tensorflowsite/mace/ncnn等。

项目代码已通过以下链接打开给GitHub:GitHub/AIIABenchmark/AIIABenchmark

v1.0评估计划将很快发布

会上，交通大学的任教授解释了aiiadnnbenchmarkv0.5第一轮评估的结果，并宣布了评估计划对行业的后续推广计划。aiiadnnbenchmark v1.0的官方版本预计将于今年上半年正式发布。

图7:交通大学任教授解读v0.5版评估结果

图8:V 0.5版本评估结果分析

图9:V 0.5版本评估结果分析

最后，arm中国ai技术营销经理分享了题为“arm中国周易开放aiot应用平台”的演讲。他表示，arm人工智能的《周易》平台已成功对接aiiadnnbenchmark项目，旨在帮助芯片公司获得客观公正的arm芯片ai性能评估报告，方便应用算法公司的芯片选择。

图10:ARM中国人工智能技术营销经理的讲话

未来，aiia将满足行业发展需求，并不断迭代评估规范。aiiadnnbenchmark项目1.0官方版本的评估对象将进一步丰富，涵盖语音、自动驾驶、安全等应用场景中的ai芯片。可以预见，aiiadnnbenchmark项目将基于开放、双赢的产业生态吸引更多的企业和开发商。

有关会议和亚投行联盟的更多信息，请访问:c =指数和。a =演出&。catid=14&。id=67