使用(yòng)NVIDIAJetsonOrin在(zài)邊(biān)緣提(tí)供服(fú)務(wù)器級性(xìng)能(néng)。

 行業动态     |      2023-05-18 17:21:33    |      瀝拓

　　


　　AI机器人(rén)和(hé)其(qí)他(tā)獨立机器的(de)開(kāi)發(fà)和(hé)部(bù)署(shǔ)正(zhèng)在(zài)加快(kuài)。随着新(xīn)一(yī)代(dài)應(yìng)用(yòng)的(de)出(chū)現(xiàn)，處(chù)理(lǐ)即时(shí)並(bìng)行運行的(de)多(duō)模态AI應(yìng)用(yòng)，需要(yào)大(dà)大(dà)提(tí)高(gāo)AI的(de)计算性(xìng)能(néng)。


　　人(rén)與(yǔ)机器人(rén)的(de)互动在(zài)零(líng)售店(diàn)、食品配送、醫院(yuàn)、倉庫、工廠(chǎng)车間(jiān)等商業應(yìng)用(yòng)中(zhōng)日(rì)益增多(duō)。这(zhè)些(xiē)自(zì)主(zhǔ)机器人(rén)必須同(tóng)时(shí)執行3D感(gǎn)知、自(zì)然語(yǔ)言理(lǐ)解(jiě)、路(lù)徑規劃(huà)、避障、姿勢估算等行为。这(zhè)些(xiē)行为不(bù)僅需要(yào)超高(gāo)的(de)计算性(xìng)能(néng)，還(huán)需要(yào)高(gāo)度(dù)精确的(de)神經(jīng)模型進(jìn)行每一(yī)種(zhǒng)應(yìng)用(yòng)訓练。


　　NVIDIAJetsonAGXOrin模块(kuài)是(shì)NVIDIAJetson家(jiā)族的(de)最(zuì)新(xīn)成(chéng)員，並(bìng)且(qiě)具有(yǒu)最(zuì)強(qiáng)的(de)性(xìng)能(néng)。該模块(kuài)具有(yǒu)极強(qiáng)的(de)性(xìng)能(néng)和(hé)領先(xiān)的(de)能(néng)效，可(kě)以運行所(suǒ)有(yǒu)NVIDIAAI软(ruǎn)件(jiàn)，並(bìng)且(qiě)可(kě)以驅动新(xīn)一(yī)代(dài)高(gāo)要(yào)求的(de)邊(biān)緣AI應(yìng)用(yòng)。


　　JetsonAGXOrin和(hé)JetsonOrinNX系(xì)列系(xì)列


　　我(wǒ)们(men)宣布(bù)，今年(nián)第(dì)四季度(dù)将在(zài)2022年(nián)春季GTC会(huì)议上(shàng)推出(chū)四个(gè)JetsonOrin模块(kuài)。JetsonOrin模块(kuài)的(de)最(zuì)高(gāo)性(xìng)能(néng)达(dá)到(dào)每秒(miǎo)275万(wàn)亿(yì)次(cì)。(TOPS)，可(kě)以在(zài)邊(biān)緣運行服(fú)務(wù)器級AI，並(bìng)且(qiě)具有(yǒu)端到(dào)端應(yìng)用(yòng)流水線(xiàn)加速功能(néng)。JetsonXavier模块(kuài)相比，JetsonOrin为現(xiàn)代(dài)AI應(yìng)用(yòng)带(dài)来(lái)了(le)更(gèng)高(gāo)的(de)性(xìng)能(néng)、能(néng)效和(hé)推理(lǐ)能(néng)力。


　　AI算率性(xìng)能(néng)对比


　　JetsonAGXOrin系(xì)列包(bāo)括JetsonAGXOrin64GB和(hé)JetsonAGXOrin32GB模块(kuài)。


　　最(zuì)高(gāo)算力为275TOPS的(de)JetsonAGXOrin64GB，功率設備範围为15W至(zhì)60W。


　　这(zhè)类模块(kuài)具有(yǒu)相同(tóng)的(de)緊湊外(wài)觀，與(yǔ)JetsonAGXavier系(xì)列模块(kuài)的(de)引脚兼容，性(xìng)能(néng)提(tí)高(gāo)了(le)8倍，或(huò)者(zhě)在(zài)相同(tóng)的(de)價格下(xià)提(tí)高(gāo)了(le)6倍。


　　繼續增加邊(biān)緣和(hé)嵌入(rù)式系(xì)統的(de)傳感(gǎn)器數量(liàng)、性(xìng)能(néng)和(hé)带(dài)宽(kuān)。JetsonAGXOrin系(xì)列不(bù)僅为處(chù)理(lǐ)这(zhè)些(xiē)傳感(gǎn)器提(tí)供了(le)額外(wài)的(de)计算率，還(huán)增加了(le)I/O：


　　PCIeGen4通(tòng)道高(gāo)达(dá)22条(tiáo)。


　　10Gb4个(gè)以太网(wǎng)


　　CSI通(tòng)道速度(dù)更(gèng)快(kuài)。


　　双(shuāng)倍存儲空(kōng)間(jiān)選擇64GBeMMC5.1。


　　內(nèi)存带(dài)宽(kuān)的(de)1.5倍


　　有(yǒu)關(guān)詳细(xì)信(xìn)息，请參考JetsonOrin産品页(yè)面(miàn)。(https://developer.nvidia.com/embedded/jetson-orin)以及(jí)JetsonAGXOrin系(xì)列數據(jù)表(biǎo)(https://developer.nvidia.com/embedded/downloads#?search=DataSheet&tx=$product,jetson_agx_origin)。


　　USB3.2、UFS、MGBE和(hé)PCIe共(gòng)享UPHY通(tòng)道。有(yǒu)關(guān)UPHY設備的(de)支持(chí)，请參考設计指南(nán)。(https://developer.nvidia.com/embedded/downloads#?search=JetsonAGXOrinProductDesignGuide)。


　　NVIDIAOrinNX系(xì)列包(bāo)括JetsonOrinNX16GB和(hé)JetsonOrinNX8GB，前(qián)者(zhě)最(zuì)大(dà)AI算率为100TOPS，後(hòu)者(zhě)最(zuì)大(dà)AI算率为70TOPS。該系(xì)列采用(yòng)了(le)类似JetsonXavierNX的(de)設计理(lǐ)念。我(wǒ)们(men)将NVIDIAOrin架構封裝(zhuāng)到(dào)最(zuì)小的(de)Jetson尺(chǐ)寸(即260針(zhēn)SODIMM)，並(bìng)且(qiě)完成(chéng)了(le)較低(dī)的(de)功耗。


　　您可(kě)以在(zài)新(xīn)一(yī)代(dài)超小型商品中(zhōng)獲得这(zhè)種(zhǒng)更(gèng)強(qiáng)大(dà)的(de)性(xìng)能(néng)，如(rú)無人(rén)机、手(shǒu)持(chí)設備等。JetsonOrinNX16GB的(de)功率設備範围为10W到(dào)25W，JetsonOrinNX8GB的(de)功率設備範围为10W到(dào)20W。


　　OrinNX系(xì)列的(de)外(wài)觀與(yǔ)JetsonXavierNX系(xì)列相兼容，其(qí)性(xìng)能(néng)是(shì)後(hòu)者(zhě)的(de)5倍，或(huò)者(zhě)在(zài)同(tóng)樣(yàng)的(de)價格下(xià)是(shì)後(hòu)者(zhě)的(de)3倍。OrinNX系(xì)列還(huán)提(tí)供了(le)多(duō)达(dá)7个(gè)PCIe通(tòng)道和(hé)3个(gè)10GbpsUSB3.2接口的(de)額外(wài)高(gāo)速I/O能(néng)力。为了(le)擴大(dà)存儲空(kōng)間(jiān)，您可(kě)以使用(yòng)額外(wài)的(de)PCIe通(tòng)道連(lián)接外(wài)部(bù)NVMe。有(yǒu)關(guān)詳细(xì)信(xìn)息，请參考JetsonOrin産品页(yè)面(miàn)。


　　围繞NVIDIAXavier系(xì)統級ic設计的(de)JetsonAGXXavier，NVIDIAXavier是(shì)我(wǒ)们(men)重(zhòng)新(xīn)開(kāi)發(fà)自(zì)主(zhǔ)机器的(de)第(dì)一(yī)个(gè)架構。NVIDIAOrin架構将这(zhè)类産品提(tí)升(shēng)到(dào)了(le)一(yī)个(gè)新(xīn)的(de)水平，我(wǒ)们(men)在(zài)此(cǐ)基礎上(shàng)不(bù)斷開(kāi)發(fà)出(chū)能(néng)力、性(xìng)能(néng)和(hé)能(néng)效更(gèng)強(qiáng)的(de)系(xì)統級芯片。


　　JetsonOrin模块(kuài)包(bāo)括以下(xià)內(nèi)容：


　　GPU的(de)NVIDIAAmpere架構高(gāo)达(dá)2048个(gè)CUDA核和(hé)64个(gè)Tensor核。


　　ArmA78AECPU核多(duō)达(dá)12个(gè)


　　两(liǎng)个(gè)新(xīn)一(yī)代(dài)深度(dù)學(xué)習加速器(DLA)


　　電(diàn)腦视覺加速器


　　還(huán)有(yǒu)许多(duō)其(qí)它(tā)用(yòng)途可(kě)以减輕(qīng)GPU和(hé)CPU處(chù)理(lǐ)器的(de)負擔：


　　视頻編碼器


　　视頻解(jiě)碼器


　　视頻图(tú)像合成(chéng)器


　　图(tú)像信(xìn)号(hào)轉(zhuǎn)換器


　　傳感(gǎn)器處(chù)理(lǐ)引擎


　　音(yīn)頻處(chù)理(lǐ)引擎


　　JetsonOrin使用(yòng)系(xì)統級模块(kuài)級模块(kuài)，就(jiù)像其(qí)它(tā)Jetson模块(kuài)一(yī)樣(yàng)。(SOM)設计。模块(kuài)上(shàng)包(bāo)含了(le)所(suǒ)有(yǒu)的(de)處(chù)理(lǐ)、內(nèi)存和(hé)電(diàn)源軌道。所(suǒ)有(yǒu)的(de)高(gāo)速I/O都是(shì)通(tòng)过(guò)一(yī)个(gè)699針(zhēn)的(de)連(lián)接器(JetsonAGXOrin系(xì)列)或(huò)者(zhě)一(yī)个(gè)260針(zhēn)的(de)SODIMM連(lián)接器(JetsonOrinNX系(xì)列)提(tí)供的(de)。这(zhè)个(gè)SOM設计可(kě)以讓你快(kuài)速地(dì)将模块(kuài)集成(chéng)到(dào)你的(de)系(xì)統設计中(zhōng)。


　　JetsonAGXOrin開(kāi)發(fà)者(zhě)套(tào)件(jiàn)


　　NVIDIA還(huán)宣布(bù)在(zài)GTC2022上(shàng)推出(chū)JetsonAGXOrin開(kāi)發(fà)者(zhě)套(tào)件(jiàn)。这(zhè)个(gè)開(kāi)發(fà)套(tào)件(jiàn)包(bāo)含了(le)所(suǒ)有(yǒu)快(kuài)速啟动和(hé)運行所(suǒ)需的(de)工具。它(tā)包(bāo)含了(le)JetsonAGXOrin模块(kuài)的(de)最(zuì)高(gāo)特(tè)性(xìng)，並(bìng)運行了(le)世界上(shàng)最(zuì)先(xiān)進(jìn)的(de)深度(dù)學(xué)習软(ruǎn)件(jiàn)堆(duī)栈。該套(tào)件(jiàn)提(tí)供了(le)建立當前(qián)和(hé)未来(lái)複雜AI解(jiě)決方(fāng)案(àn)所(suǒ)需的(de)靈活性(xìng)。


　　該開(kāi)發(fà)者(zhě)套(tào)件(jiàn)憑借(jiè)其(qí)緊湊的(de)尺(chǐ)寸、高(gāo)速接口和(hé)大(dà)量(liàng)的(de)連(lián)接器，特(tè)别适用(yòng)于(yú)制造、物(wù)流、零(líng)售、服(fú)務(wù)、农業、智慧城(chéng)市(shì)、醫疗、生(shēng)命科學(xué)等領域的(de)先(xiān)進(jìn)AI机器人(rén)和(hé)邊(biān)緣應(yìng)用(yòng)原型設计。