随着人(rén)工智能(néng)驅动的(de)机器人(rén)和(hé)邊(biān)緣設備的(de)開(kāi)發(fà)部(bù)署(shǔ)速度(dù)持(chí)續增长(cháng)，下(xià)一(yī)代(dài)AI算法(fǎ)模型对于(yú)設備算力的(de)要(yào)求也(yě)在(zài)逐步提(tí)升(shēng)，從而(ér)應(yìng)对實(shí)时(shí)並(bìng)發(fà)運行的(de)多(duō)模态AI應(yìng)用(yòng)场(chǎng)景。

　　例如(rú)在(zài)制造、零(líng)售、建築、农業、物(wù)流等多(duō)種(zhǒng)行業中(zhōng)，人(rén)机交互场(chǎng)景在(zài)不(bù)斷增加，这(zhè)些(xiē)自(zì)主(zhǔ)机器人(rén)必須同(tóng)时(shí)執行3D感(gǎn)知、自(zì)然語(yǔ)言理(lǐ)解(jiě)、路(lù)徑規劃(huà)、避障、姿勢估计以及(jí)许多(duō)需要(yào)高(gāo)计算性(xìng)能(néng)和(hé)高(gāo)準确度(dù)的(de)AI算法(fǎ)模型。

　　NVIDIA为了(le)應(yìng)对这(zhè)樣(yàng)的(de)應(yìng)用(yòng)场(chǎng)景，給(gěi)出(chū)一(yī)套(tào)優秀的(de)解(jiě)決方(fāng)案(àn)——Jetson邊(biān)緣计算模组。其(qí)中(zhōng)，Jetson Orin NX作(zuò)为NVIDIA Jetson中(zhōng)具有(yǒu)超高(gāo)性(xìng)價比的(de)系(xì)列，在(zài)提(tí)供卓越性(xìng)能(néng)和(hé)一(yī)流能(néng)效的(de)同(tóng)时(shí)，可(kě)以全(quán)面(miàn)運行的(de)NVIDIA AI软(ruǎn)件(jiàn)堆(duī)栈，为下(xià)一(yī)代(dài)要(yào)求嚴苛的(de)邊(biān)緣AI應(yìng)用(yòng)场(chǎng)景提(tí)供动力。

　　Jetson Orin NX超高(gāo)性(xìng)能(néng)

　　憑借(jiè)高(gāo)达(dá)100TOPS的(de)性(xìng)能(néng)，Jetson Orin NX模组可(kě)以在(zài)邊(biān)緣運行服(fú)務(wù)器級的(de)AI算法(fǎ)模型，並(bìng)提(tí)供端到(dào)端的(de)服(fú)務(wù)。與(yǔ)此(cǐ)前(qián)的(de)Jetson Xavier NX相比，Jetson Orin NX为現(xiàn)代(dài)AI带(dài)来(lái)了(le)更(gèng)高(gāo)的(de)性(xìng)能(néng)、能(néng)效和(hé)推理(lǐ)能(néng)力。

　　Jetson Orin NX以NVIDIA Jetson中(zhōng)最(zuì)小的(de)外(wài)形尺(chǐ)寸、可(kě)擴展(zhǎn)的(de)NVMe存儲，相比Jetson Xavier NX提(tí)供5倍的(de)性(xìng)能(néng)升(shēng)級(或(huò)以相同(tóng)的(de)價格提(tí)升(shēng)高(gāo)达(dá)3倍的(de)性(xìng)能(néng))，将更(gèng)高(gāo)級别的(de)性(xìng)能(néng)带(dài)入(rù)下(xià)一(yī)代(dài)邊(biān)緣産品，如(rú)巡檢机器人(rén)、無人(rén)机和(hé)手(shǒu)持(chí)設備等。

　　Jetson Orin NX系(xì)列應(yìng)用(yòng)场(chǎng)景

　　etson Orin NX可(kě)以和(hé)NVIDIA強(qiáng)大(dà)的(de)AI软(ruǎn)件(jiàn)堆(duī)栈、SDK和(hé)软(ruǎn)件(jiàn)平台(tái)相結合，作(zuò)为高(gāo)性(xìng)能(néng)、小尺(chǐ)寸、低(dī)功耗以及(jí)有(yǒu)預算限制的(de)嵌入(rù)式邊(biān)緣计算設備，應(yìng)用(yòng)于(yú)制造、物(wù)流、零(líng)售、服(fú)務(wù)、农業、智慧城(chéng)市(shì)、醫疗保健、生(shēng)命科學(xué)等領域的(de)先(xiān)進(jìn)人(rén)工智能(néng)机器人(rén)、邊(biān)緣檢測設備和(hé)AI應(yìng)用(yòng)场(chǎng)景。

　　搭配NVIDIA JetPack 5.0，Jetson Orin NX與(yǔ)Jetson Xavier NX相比，性(xìng)能(néng)同(tóng)樣(yàng)也(yě)有(yǒu)极大(dà)的(de)提(tí)升(shēng)。NVIDIA JetPack是(shì)Jetson平台(tái)的(de)基礎SDK，为硬(yìng)件(jiàn)加速的(de)邊(biān)緣AI開(kāi)發(fà)提(tí)供了(le)完整的(de)開(kāi)發(fà)环(huán)境，實(shí)現(xiàn)端到(dào)端加速：NVIDIA TensorRT和(hé)cuDNN用(yòng)于(yú)加速AI推理(lǐ)、CUDA用(yòng)于(yú)加速通(tòng)用(yòng)计算、VPI用(yòng)于(yú)加速计算机视覺和(hé)图(tú)像處(chù)理(lǐ)、Jetson Linux Multimedia API用(yòng)于(yú)加速多(duō)媒體(tǐ)......

　　JetPack中(zhōng)還(huán)包(bāo)含NVIDIA-container-runtime，可(kě)在(zài)邊(biān)緣端實(shí)現(xiàn)雲(yún)原生(shēng)技術(shù)和(hé)工作(zuò)流，同(tóng)时(shí)将AI算法(fǎ)模型容器化(huà)，使用(yòng)雲(yún)原生(shēng)技術(shù)大(dà)規模管(guǎn)理(lǐ)这(zhè)些(xiē)模型，優化(huà)软(ruǎn)件(jiàn)開(kāi)發(fà)和(hé)部(bù)署(shǔ)流程。

　　为了(le)在(zài)Jetson平台(tái)上(shàng)快(kuài)速開(kāi)發(fà)完全(quán)加速的(de)應(yìng)用(yòng)程序，NVIDIA還(huán)提(tí)供了(le)适用(yòng)于(yú)各(gè)種(zhǒng)用(yòng)例的(de)應(yìng)用(yòng)程序框架：

　　1、DeepStream：快(kuài)速開(kāi)發(fà)和(hé)部(bù)署(shǔ)视覺AI應(yìng)用(yòng)程序和(hé)服(fú)務(wù)。DeepStream借(jiè)助端到(dào)端的(de)AI管(guǎn)道硬(yìng)件(jiàn)加速插件(jiàn)，提(tí)供了(le)超越硬(yìng)件(jiàn)的(de)推理(lǐ)加速功能(néng)。

　　2、Isaac：提(tí)供硬(yìng)件(jiàn)加速的(de)ROS软(ruǎn)件(jiàn)包(bāo)，使ROS開(kāi)發(fà)人(rén)員能(néng)夠更(gèng)輕(qīng)松地(dì)實(shí)現(xiàn)高(gāo)性(xìng)能(néng)机器人(rén)解(jiě)決方(fāng)案(àn)。

　　3、Omniverse：提(tí)供NVIDIA Isaac Sim，对物(wù)理(lǐ)环(huán)境進(jìn)行高(gāo)度(dù)的(de)仿真(zhēn)還(huán)原、實(shí)現(xiàn)物(wù)理(lǐ)上(shàng)精确的(de)虛拟环(huán)境，以開(kāi)發(fà)、測試和(hé)管(guǎn)理(lǐ)基于(yú)AI的(de)机器人(rén)。

　　4、Riva：为自(zì)动語(yǔ)音(yīn)識别(ASR)和(hé)文(wén)本(běn)轉(zhuǎn)語(yǔ)音(yīn)(TTS)提(tí)供最(zuì)先(xiān)進(jìn)的(de)預訓练模型，这(zhè)些(xiē)模型可(kě)以輕(qīng)松定(dìng)制、快(kuài)速開(kāi)發(fà)GPU加速的(de)对话式AI應(yìng)用(yòng)程序。

　　为了(le)縮短(duǎn)可(kě)用(yòng)于(yú)生(shēng)産且(qiě)高(gāo)度(dù)準确的(de)AI模型開(kāi)發(fà)时(shí)間(jiān)，NVIDIA提(tí)供一(yī)系(xì)列的(de)工具来(lái)生(shēng)成(chéng)數據(jù)集、訓练和(hé)優化(huà)模型，並(bìng)快(kuài)速創建可(kě)部(bù)署(shǔ)的(de)AI模型。

　　用(yòng)于(yú)生(shēng)成(chéng)合成(chéng)數據(jù)的(de)NVIDIA Omniverse Replicator，有(yǒu)助于(yú)創建大(dà)量(liàng)多(duō)樣(yàng)化(huà)、高(gāo)質(zhì)量(liàng)數據(jù)集以促進(jìn)模型訓练，在(zài)現(xiàn)實(shí)世界中(zhōng)这(zhè)不(bù)僅很难，而(ér)且(qiě)有(yǒu)时(shí)候是(shì)不(bù)可(kě)能(néng)創建的(de)。使用(yòng)合成(chéng)數據(jù)和(hé)真(zhēn)實(shí)數據(jù)来(lái)訓练模型，可(kě)以显著提(tí)高(gāo)模型的(de)準确性(xìng)。NVIDIA NGC提(tí)供豐富的(de)預訓练模型，适用(yòng)于(yú)各(gè)種(zhǒng)高(gāo)精準的(de)AI應(yìng)用(yòng)场(chǎng)景。結合此(cǐ)前(qián)創建的(de)真(zhēn)實(shí)或(huò)合成(chéng)數據(jù)，NVIDIA TAO(訓练-适配-優化(huà))可(kě)以使用(yòng)这(zhè)些(xiē)預模型進(jìn)行遷移學(xué)習，實(shí)現(xiàn)AI應(yìng)用(yòng)场(chǎng)景從無到(dào)有(yǒu)。最(zuì)後(hòu)使用(yòng)Triton快(kuài)速部(bù)署(shǔ)这(zhè)些(xiē)AI應(yìng)用(yòng)模型。