4月7日，權(quán)威AI基準評測組織MLPerf公布了最新一期推理性能榜單。阿里云聯(lián)合平頭哥、達摩院等在數(shù)據(jù)中心、邊緣計算、物聯(lián)網(wǎng)領(lǐng)域斬獲多項第一，展現(xiàn)出阿里AI算力的強大競爭力。

北京時間4月7日，MLCommons發(fā)布最新MLPerf榜單

MLPerf由圖靈獎得主David Patterson于2018年發(fā)起，每年組織全球AI訓練和AI推理性能測試并發(fā)榜，已成為業(yè)界最主流標準之一。本次榜單重點更新了面向數(shù)據(jù)中心和邊緣計算的場景，以及最新的MLPerf Tiny 0.7測試榜單。

在當前激烈的數(shù)據(jù)中心和邊緣計算場景下，各廠商及機構(gòu)基于硬件加速的成績差距并不大，競爭主要聚焦在模型軟硬協(xié)同優(yōu)化方面。最終，阿里云磐久服務(wù)器脫穎而出，成為MLPerf有史以來首個獲得純CPU推理性能最高的ARM架構(gòu)服務(wù)器，且在數(shù)據(jù)中心和邊緣側(cè)該類別的總體性能均為第一。

MLPerf 2.0 DatacenterCPU-Only推理性能數(shù)據(jù)對比

據(jù)悉，阿里云震旦異構(gòu)加速平臺利用模型優(yōu)化工具SinianML來進行用于AI任務(wù)的神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索和壓縮，以及最佳算子實現(xiàn)。在保證達到基準測試精度目標同時，能得到遠高于標準ResNet50 v1.5的計算效率。此外在MLPerf Tiny場景，阿里云通過大規(guī)模深度算子融合和針對平頭哥玄鐵RISC-V微架構(gòu)的極致優(yōu)化，從而能夠大大提高CPU算力利用率，實現(xiàn)軟硬協(xié)同優(yōu)化。

Tiny場景是MLPerf近年新增的性能測試分類。有別于Datacenter等大規(guī)模、高算力的情景，Tiny聚焦于低功耗、高性價比的IoT場景，考驗在日益廣泛的IoT智能應(yīng)用場景下的軟硬件性能和優(yōu)化能力。在此次公布的MLPerf Tiny 0.7性能數(shù)據(jù)榜單中，阿里云震旦異構(gòu)計算加速平臺通過編譯和軟硬件一體化創(chuàng)新優(yōu)化，結(jié)合達摩院在語音和視覺等機器智能的算法知識，基于平頭哥自研RISC-V玄鐵C906處理器在所有4項Benchmark的CPU性能數(shù)據(jù)均取得第一，在滿足模型精度要求的同時創(chuàng)造了RISC-V架構(gòu)在該AI基準測試榜單上的最好成績。

MLPerf Tiny 0.7 推理性能數(shù)據(jù)對比

不難發(fā)現(xiàn)，MLPerf正將評測環(huán)境更多地向云廠商傾斜，后者已成為AI產(chǎn)業(yè)的主力軍。“高度集成的專業(yè)化AI芯片對應(yīng)用場景限制很多，我們希望研發(fā)出更通用的軟硬協(xié)同加速平臺來發(fā)揮AI應(yīng)用的價值，”阿里云異構(gòu)計算首席科學家張偉豐博士表示。