在(zài)首次(cì)參加行業MLPerf基準測試时(shí)，基于(yú)NVIDIAAmpere架構的(de)低(dī)功耗系(xì)統芯片NVIDIAOrin創造了(le)新(xīn)的(de)AI推理(lǐ)性(xìng)能(néng)記(jì)录(lù)，並(bìng)在(zài)邊(biān)緣提(tí)高(gāo)了(le)每个(gè)加速器的(de)性(xìng)能(néng)。

　　在(zài)第(dì)五(wǔ)轮生(shēng)産級人(rén)工智能(néng)行業基準測試中(zhōng)，NVIDIA及(jí)其(qí)合作(zuò)夥伴繼續在(zài)所(suǒ)有(yǒu)机器學(xué)習的(de)工作(zuò)負荷和(hé)场(chǎng)景中(zhōng)展(zhǎn)示高(gāo)性(xìng)能(néng)、廣泛的(de)生(shēng)态系(xì)統。

　　在(zài)邊(biān)緣人(rén)工智能(néng)領域，NVIDIAOrin預生(shēng)産版在(zài)六项功能(néng)測試中(zhōng)的(de)五(wǔ)项處(chù)于(yú)領先(xiān)地(dì)位(wèi)，其(qí)啟动速度(dù)比上(shàng)一(yī)代(dài)JetsonAGXXavier快(kuài)5倍，能(néng)效均值提(tí)高(gāo)2倍。

　　NVIDIAOrin參與(yǔ)了(le)NVIDIAJetsonAGXOrin開(kāi)發(fà)者(zhě)套(tào)件(jiàn)，用(yòng)于(yú)机器人(rén)和(hé)自(zì)动化(huà)系(xì)統。包(bāo)括亞馬遜网(wǎng)络服(fú)務(wù)、约翰迪尔、小松、美(měi)敦力和(hé)微软(ruǎn)Azure在(zài)內(nèi)的(de)6000多(duō)家(jiā)客戶使用(yòng)NVIDIAJetson平台(tái)進(jìn)行人(rén)工智能(néng)推理(lǐ)或(huò)其(qí)他(tā)任務(wù)。

　　該系(xì)統級芯片也(yě)是(shì)NVIDIAHyperion無人(rén)駕駛汽车平台(tái)的(de)關(guān)鍵组成(chéng)部(bù)分(fēn)。中(zhōng)國(guó)最(zuì)大(dà)的(de)電(diàn)动汽车制造商比亞迪最(zuì)近(jìn)宣布(bù)，他(tā)们(men)将在(zài)新(xīn)一(yī)代(dài)自(zì)动駕駛電(diàn)动汽车中(zhōng)使用(yòng)內(nèi)置的(de)DRIVEHyperion架構。

　　Orin也(yě)是(shì)NVIDIAClarahoscan醫疗設備平台(tái)的(de)關(guān)鍵组成(chéng)部(bù)分(fēn)，該平台(tái)可(kě)供系(xì)統制造商和(hé)研究人(rén)員開(kāi)發(fà)新(xīn)一(yī)代(dài)AI儀器。

　　小模块(kuài)组合成(chéng)大(dà)堆(duī)栈成(chéng)大(dà)堆(duī)栈

　　NVIDIAGPU，包(bāo)括JetsonAGXOrin，是(shì)唯一(yī)能(néng)夠運行所(suǒ)有(yǒu)六个(gè)MLPerf基準測試的(de)邊(biān)緣加速器。

　　有(yǒu)了(le)JetPackSDK，Orin可(kě)以運行整个(gè)NVIDIAAI平台(tái)，这(zhè)个(gè)软(ruǎn)件(jiàn)堆(duī)栈已經(jīng)在(zài)數據(jù)中(zhōng)心和(hé)雲(yún)端進(jìn)行了(le)验(yàn)證，並(bìng)得到(dào)了(le)NVIDIAJetson平台(tái)100万(wàn)開(kāi)發(fà)者(zhě)的(de)支持(chí)。

　　在(zài)最(zuì)新(xīn)一(yī)轮MLPerf推理(lǐ)測試中(zhōng)，NVIDIA及(jí)其(qí)合作(zuò)夥伴繼續在(zài)所(suǒ)有(yǒu)測試和(hé)场(chǎng)景中(zhōng)表(biǎo)現(xiàn)出(chū)領先(xiān)的(de)表(biǎo)現(xiàn)。

　　MLPerf标(biāo)準獲得亞馬遜、ARM、百(bǎi)度(dù)、戴尔科技、百(bǎi)度(dù)、Facebook、谷(gǔ)歌(gē)、哈佛大(dà)學(xué)、英特(tè)尔、聯想(xiǎng)、微软(ruǎn)、斯坦福大(dà)學(xué)和(hé)多(duō)倫多(duō)大(dà)學(xué)都得到(dào)了(le)廣泛的(de)支持(chí)。

　　更(gèng)多(duō)的(de)合作(zuò)夥伴和(hé)結果(guǒ)提(tí)交數量(liàng)

　　NVIDIAI平台(tái)再次(cì)吸引了(le)来(lái)自(zì)最(zuì)廣泛合作(zuò)夥伴生(shēng)态系(xì)統的(de)MLPerf提(tí)交。

　　Azure在(zài)12月(yuè)的(de)MLPerf訓练測試中(zhōng)表(biǎo)現(xiàn)出(chū)色(sè)，在(zài)本(běn)轮AI推理(lǐ)測試中(zhōng)也(yě)取(qǔ)得了(le)優异(yì)的(de)成(chéng)績。这(zhè)两(liǎng)个(gè)測試都使用(yòng)了(le)NVIDIA100TensoreGPU。Azure的(de)ND96amsr_A100_v4案(àn)例在(zài)大(dà)多(duō)數推理(lǐ)測試中(zhōng)與(yǔ)我(wǒ)们(men)提(tí)交的(de)8个(gè)性(xìng)能(néng)最(zuì)高(gāo)的(de)GPU相當，显示了(le)公(gōng)共(gòng)雲(yún)随时(shí)可(kě)以提(tí)供的(de)能(néng)力。

　　系(xì)統制造商華碩和(hé)新(xīn)華三(sān)在(zài)本(běn)轮檢測中(zhōng)首次(cì)使用(yòng)NVIDIAI平台(tái)提(tí)交MLPerf結果(guǒ)。他(tā)们(men)加入(rù)了(le)戴尔科技、富士通(tòng)、技嘉、浪潮(cháo)、聯想(xiǎng)、甯昌、美(měi)超微等系(xì)統制造商，他(tā)们(men)已經(jīng)提(tí)交了(le)20多(duō)个(gè)NVIDIA認證系(xì)統結果(guǒ)。

　　MLPerf的(de)重(zhòng)要(yào)性(xìng)

　　我(wǒ)们(men)的(de)合作(zuò)夥伴知道MLPerf是(shì)客戶評估人(rén)工智能(néng)平台(tái)和(hé)供應(yìng)商的(de)寶(bǎo)貴工具，所(suǒ)以他(tā)们(men)參加了(le)这(zhè)个(gè)測試。

　　MLPerf的(de)各(gè)種(zhǒng)測試包(bāo)括最(zuì)流行的(de)人(rén)工智能(néng)工作(zuò)負载(zài)和(hé)场(chǎng)景，用(yòng)戶可(kě)以了(le)解(jiě)人(rén)工智能(néng)平台(tái)在(zài)各(gè)種(zhǒng)工作(zuò)中(zhōng)的(de)預期性(xìng)能(néng)。

　　用(yòng)软(ruǎn)件(jiàn)大(dà)放(fàng)异(yì)彩

　　所(suǒ)有(yǒu)我(wǒ)们(men)在(zài)測試中(zhōng)使用(yòng)的(de)软(ruǎn)件(jiàn)都可(kě)以從MLPerf软(ruǎn)件(jiàn)庫中(zhōng)獲得。

　　我(wǒ)们(men)的(de)推理(lǐ)結果(guǒ)来(lái)自(zì)两(liǎng)个(gè)關(guān)鍵部(bù)件(jiàn)——用(yòng)于(yú)改進(jìn)人(rén)工智能(néng)模型NVIDIATensorRT和(hé)用(yòng)于(yú)高(gāo)效部(bù)署(shǔ)NVIDIATriton推理(lǐ)服(fú)務(wù)器。您可(kě)以在(zài)我(wǒ)们(men)的(de)GPU優化(huà)软(ruǎn)件(jiàn)目录(lù)NGC上(shàng)免費獲得它(tā)们(men)。

　　世界各(gè)地(dì)的(de)企業机構都在(zài)選擇Triton，包(bāo)括Amazon、微软(ruǎn)等雲(yún)服(fú)務(wù)提(tí)供商。

　　我(wǒ)们(men)不(bù)斷将升(shēng)級結果(guǒ)參與(yǔ)到(dào)NGC上(shàng)的(de)容器中(zhōng)，讓每一(yī)位(wèi)客戶都能(néng)使用(yòng)具有(yǒu)領先(xiān)特(tè)性(xìng)的(de)人(rén)工智能(néng)進(jìn)行加工。