亚洲全黄无码一级在线看_国产剧情久久久性色_无码av一区二区三区无码_亚洲成a×人片在线观看

當(dāng)前位置: 首頁(yè) > 科技新聞 >

為什么平頭哥和英偉達(dá)在MLPerf基準(zhǔn)測(cè)試中都獲得

時(shí)間:2019-11-12 18:37來(lái)源:網(wǎng)絡(luò)整理 瀏覽:
為什么平頭哥和英偉達(dá)在MLPerf基準(zhǔn)測(cè)試中都獲得了第一?

語(yǔ)音播放文章內(nèi)容

由深聲科技提供技術(shù)支持

您的瀏覽器不支持 audio 元素。

雷鋒網(wǎng)按,本周,MLPerf組織發(fā)布了第一個(gè)MLPerf Inference v0.5的結(jié)果,雖然這個(gè)基準(zhǔn)測(cè)試還不成熟,但依舊獲得了巨頭公司的廣泛關(guān)注。并且平頭哥、英偉在成績(jī)公布后紛紛發(fā)布消息表示自己成績(jī)都獲得了第一?

為什么平頭哥和英偉達(dá)在MLPerf基準(zhǔn)測(cè)試中都獲得了第一?

自去年初成立之后,MLPerf組織一直在穩(wěn)步建立其機(jī)器學(xué)習(xí)到的Benchmarks。為了能夠讓機(jī)器學(xué)習(xí)處理器的基準(zhǔn)測(cè)試也像CPU那樣,該組織囊括了該行業(yè)中的所有知名企業(yè),比如英特爾、NVIDIA、Google和百度。從技術(shù)上講,MLPerf基準(zhǔn)測(cè)試還處于初期階段,它們甚至還沒(méi)有完成,但是該組織的成果引起發(fā)了巨大關(guān)注。

早在6月份,該組織就發(fā)布了第二個(gè)基準(zhǔn)測(cè)試集MLPerf Inference v0.5。顧名思義,這是MLPerf組織的機(jī)器學(xué)習(xí)推理基準(zhǔn)測(cè)試,旨在衡量各種加速器和系統(tǒng)執(zhí)行訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)的程度和速度。MLPerf Inference是測(cè)試推理性能的通用方法,它最終將成為衡量從低功耗SoC中的NPU到數(shù)據(jù)中心高性能加速器的標(biāo)準(zhǔn)。在基準(zhǔn)測(cè)試首次發(fā)布的四個(gè)多月之后,MLPerf組織發(fā)布推理基準(zhǔn)測(cè)試的首個(gè)官方結(jié)果。

基準(zhǔn)測(cè)試的初始版本v0.5仍然非常不完整,它目前僅涵蓋5個(gè)網(wǎng)絡(luò)/基準(zhǔn),并且還沒(méi)有功耗測(cè)試指標(biāo),這是衡量整體能源效率是必不可少的。盡管如此,基準(zhǔn)測(cè)試的初始版本吸引了主要芯片公司的關(guān)注,這些公司都渴望展示其硬件在基準(zhǔn)測(cè)試中的成績(jī),并向客戶(hù)(和投資者)說(shuō)明為什么他們的解決方案更好。實(shí)際上,第一輪官方基準(zhǔn)測(cè)試提交了近600份結(jié)果,遠(yuǎn)超出了該組織非正式預(yù)期的全新基準(zhǔn)測(cè)(通常需要一段時(shí)間才能建立新的行業(yè)基準(zhǔn)),這更能說(shuō)明了行業(yè)對(duì)MLPerf的期待,推理芯片數(shù)十億美元的市場(chǎng)將繼續(xù)快速增長(zhǎng)。

為什么平頭哥和英偉達(dá)在MLPerf基準(zhǔn)測(cè)試中都獲得了第一?

隨著第一輪申請(qǐng)工作的完成,MLPerf組織現(xiàn)在發(fā)布其Inference v0.5的官方結(jié)果,不過(guò)只是大多數(shù)(如果不是全部)主要芯片公司都在發(fā)布與結(jié)果相關(guān)的公告,聲明或新聞稿。說(shuō)實(shí)在的,600份提交的成果分布在40種不同的測(cè)試中,芯片公司還有很多事情可以做??s小標(biāo)準(zhǔn)范圍,每個(gè)人都可以找到成功的方案,例如總吞吐量、延遲,每個(gè)加速器的吞吐量等。這并不是基準(zhǔn)測(cè)試本身,甚至也不是芯片公司所為,但這給我們提醒,即使初始版本足夠廣泛,也可以涵蓋很多用例,尤其是在專(zhuān)用加速器的情況下,它們通常針對(duì)特定用例進(jìn)行了優(yōu)化。

為什么平頭哥和英偉達(dá)在MLPerf基準(zhǔn)測(cè)試中都獲得了第一?

作為更新,MLPerf v0.5分為5個(gè)基準(zhǔn),其中兩個(gè)基準(zhǔn)實(shí)質(zhì)上是其各自主基準(zhǔn)的移動(dòng)衍生產(chǎn)品。當(dāng)前這個(gè)套件的桌面/服務(wù)器版本涵蓋了圖像分類(lèi)(ResNet50),對(duì)象檢測(cè)(ResNet34)和機(jī)器翻譯任務(wù)(GNMT)。所有基準(zhǔn)測(cè)試都提供了四種方案:?jiǎn)温罚ㄒ粋€(gè)終端運(yùn)行一個(gè)任務(wù)),多路(一個(gè)終端同時(shí)運(yùn)行多個(gè)任務(wù)),服務(wù)器(服務(wù)器的實(shí)時(shí)性能)和離線(xiàn)(不在線(xiàn)的服務(wù)器)。這些實(shí)質(zhì)上將方案分解為終端和服務(wù)器方案,并從分解為相應(yīng)平臺(tái)的兩個(gè)最常見(jiàn)方案。

為什么平頭哥和英偉達(dá)在MLPerf基準(zhǔn)測(cè)試中都獲得了第一?

更進(jìn)一步,MLPerf提供了兩個(gè)測(cè)試“分區(qū)”:封閉分區(qū)和開(kāi)放分區(qū)。封閉分區(qū)是“蘋(píng)果對(duì)蘋(píng)果(apples-to-apples)”測(cè)試,芯片將獲得預(yù)先訓(xùn)練的網(wǎng)絡(luò)和預(yù)先訓(xùn)練的權(quán)重。在選擇要使用的精度等級(jí)(只要滿(mǎn)足精度要求)方面,芯片公司在量化方面仍具有一定的靈活性,但是在封閉的分區(qū),他們的解決方案仍必須達(dá)到數(shù)學(xué)上的等效性,并且禁止重新訓(xùn)練網(wǎng)絡(luò)。這個(gè)目的在于,測(cè)試平臺(tái)能否很好地執(zhí)行預(yù)訓(xùn)練好的網(wǎng)絡(luò)。

為什么平頭哥和英偉達(dá)在MLPerf基準(zhǔn)測(cè)試中都獲得了第一?

相比之下,開(kāi)放式分區(qū)顯然更加開(kāi)放。芯片公司被允許重新訓(xùn)練網(wǎng)絡(luò)以及進(jìn)行更廣泛的量化工作。絕對(duì)不是封閉測(cè)試區(qū)那樣的蘋(píng)果對(duì)蘋(píng)果,開(kāi)放分區(qū)本質(zhì)上是一種結(jié)構(gòu)較少的結(jié)構(gòu)化格式,可以讓芯片公司以最佳的方式展示其解決方案和團(tuán)隊(duì)的獨(dú)創(chuàng)性。

深入研究結(jié)果,MLPerf最終收到了從CPU和GPU到FPGA,DSP和專(zhuān)用ASIC等各領(lǐng)域的官方意見(jiàn)。正如一位MLPerf代表指出的那樣,該組織實(shí)質(zhì)上收到了除神經(jīng)形態(tài)和模擬系統(tǒng)以外的每種類(lèi)型處理器的成果。當(dāng)然會(huì)有大公司的代表,包括NVIDIA的GPU、谷歌的TPU、英特爾的CPU和加速器以及Habana Labs的Goya加速器。即使在封閉分區(qū),也有一些預(yù)期外的結(jié)果,包括Raspberry Pi 4和阿里巴巴的含光800加速器。

為什么平頭哥和英偉達(dá)在MLPerf基準(zhǔn)測(cè)試中都獲得了第一?

為什么平頭哥和英偉達(dá)在MLPerf基準(zhǔn)測(cè)試中都獲得了第一?

總的來(lái)說(shuō),我不會(huì)在這里對(duì)結(jié)果進(jìn)行過(guò)多的剖析,因?yàn)榇罅康臏y(cè)試意味著非常多的對(duì)比。更重要的是,缺少功耗測(cè)試意味著目前無(wú)法測(cè)量能效。但總的來(lái)說(shuō),幾乎每個(gè)芯片公司都可以在某個(gè)類(lèi)別中取得勝利。在離線(xiàn)測(cè)試中,看到了Google從1 TPUv3到32的幾乎完美的拓展性,NVIDIA的Tesla加速器在一些測(cè)試中名列前茅,英特爾在CPU中位居榜首,高通的驍龍855在官方結(jié)果中也遠(yuǎn)遠(yuǎn)超過(guò)其它SoC。

關(guān)于MLPerf推理的第一組結(jié)果不會(huì)成為推理性能的最終成績(jī)。在開(kāi)發(fā)方面,MLPerf組織仍在努力完善基準(zhǔn),以添加其他網(wǎng)絡(luò)類(lèi)型,著眼于語(yǔ)音識(shí)別等任務(wù)。同樣,該組織將進(jìn)行功耗測(cè)試,以便每個(gè)人都能看到他們的設(shè)計(jì)效率,因?yàn)殡娫葱释ǔJ谴笠?guī)模部署規(guī)劃的最重要考慮因素。

盡管這些早期版本的MLPerf在添加和優(yōu)化測(cè)試時(shí)和目標(biāo)還有不同,但對(duì)于芯片公司來(lái)說(shuō),他們現(xiàn)在知道自己和競(jìng)爭(zhēng)對(duì)手所處的位置。比參數(shù)更重要的是,機(jī)器學(xué)習(xí)優(yōu)化的開(kāi)放性性質(zhì)意味著芯片公司還有大量空間來(lái)優(yōu)化其系統(tǒng)以進(jìn)行將來(lái)的測(cè)試,以及設(shè)計(jì)更好的新硬件??蛻?hù)(其中許多人在MLPerf委員會(huì)中)希望加快工作進(jìn)展。因此,既然第一個(gè)結(jié)果已經(jīng)出爐,芯片公司就可以專(zhuān)注于其產(chǎn)品,并了解如何才能進(jìn)行下一輪正式測(cè)試。

最后,從更長(zhǎng)遠(yuǎn)來(lái)看,MLPerf Inference基準(zhǔn)測(cè)試在未來(lái)幾年內(nèi)將趨于成熟(該組織目前尚未估計(jì)1.0何時(shí)準(zhǔn)備就緒),這也意味著該基準(zhǔn)測(cè)試將穩(wěn)定下來(lái),并且在芯片公司的性能實(shí)驗(yàn)室之外更容易使用。MLPerf組織已經(jīng)發(fā)表評(píng)論說(shuō),他們將開(kāi)發(fā)移動(dòng)應(yīng)用程序以加快對(duì)智能手機(jī)和其他智能設(shè)備的測(cè)試,并且我們期望桌面基準(zhǔn)測(cè)試的情況也將日趨成熟。如果運(yùn)氣好的話(huà),在不久的將來(lái),我們將能夠把MLPerf推理應(yīng)用到我們自己的測(cè)試中,并將這些測(cè)試轉(zhuǎn)換為有意義的結(jié)果,以比較消費(fèi)類(lèi)硬件。激動(dòng)人心的時(shí)刻到來(lái)了!

雷鋒網(wǎng)(公眾號(hào):雷鋒網(wǎng))編譯,via anandtech雷鋒網(wǎng)

為什么平頭哥和英偉達(dá)在MLPerf基準(zhǔn)測(cè)試中都獲得了第一?

推薦內(nèi)容