NVIDIA的(de)DLA硬(yìng)件(jiàn)是(shì)專門(mén)用(yòng)于(yú)深度(dù)學(xué)習操作(zuò)的(de)固定(dìng)功能(néng)加速器引擎。它(tā)旨在(zài)对卷(juǎn)積神經(jīng)网(wǎng)络進(jìn)行全(quán)硬(yìng)件(jiàn)加速，支持(chí)各(gè)種(zhǒng)层(céng)，如(rú)卷(juǎn)積、反卷(juǎn)積、全(quán)連(lián)接、激活、池化(huà)、批量(liàng)歸一(yī)化(huà)等。NVIDIA的(de)Jetson Orin SoC最(zuì)多(duō)支持(chí)2个(gè)第(dì)二(èr)代(dài)DLA(第(dì)二(èr)代(dài)DLA在(zài)功耗效率方(fāng)面(miàn)表(biǎo)現(xiàn)最(zuì)佳)，而(ér)Xavier SoC最(zuì)多(duō)支持(chí)2个(gè)第(dì)一(yī)代(dài)DLA。

　　DLA软(ruǎn)件(jiàn)包(bāo)括DLA編譯器和(hé)DLA運行时(shí)堆(duī)栈。離線(xiàn)編譯器将神經(jīng)网(wǎng)络图(tú)轉(zhuǎn)化(huà)为DLA可(kě)加载(zài)的(de)二(èr)進(jìn)制文(wén)件(jiàn)，並(bìng)可(kě)通(tòng)过(guò)NVIDIA TensorRT™、NvMedia-DLA或(huò)cuDLA来(lái)調用(yòng)。運行时(shí)堆(duī)栈由(yóu)DLA固件(jiàn)、內(nèi)核模式驅动程序和(hé)用(yòng)戶模式驅动程序组成(chéng)。

　　为什(shén)麼(me)在(zài)Orin上(shàng)使用(yòng)DLA是(shì)必要(yào)的(de)?

　　DLA的(de)峰(fēng)值性(xìng)能(néng)对Orin的(de)總(zǒng)深度(dù)學(xué)習(DL)性(xìng)能(néng)貢獻在(zài)38%至(zhì)74%之(zhī)間(jiān)

　　DLA平均比GPU功耗效率高(gāo)3倍至(zhì)5倍(取(qǔ)決于(yú)電(diàn)源模式和(hé)工作(zuò)負载(zài))，下(xià)表(biǎo)显示了(le)在(zài)JetPack 5.1.1下(xià)，根(gēn)據(jù)不(bù)同(tóng)的(de)電(diàn)源模式，基于(yú)Jetson AGX Orin 64GB的(de)DLA相对于(yú)GPU的(de)性(xìng)能(néng)與(yǔ)功耗比率(僅考慮加速器的(de)功耗，性(xìng)能(néng)指标(biāo)为每秒(miǎo)處(chù)理(lǐ)的(de)图(tú)像數)。

　　注意(yì)：

　　Jetson AGX Orin 64GB在(zài)30W和(hé)50W功率模式下(xià)的(de)DLA TOPs與(yǔ)用(yòng)于(yú)汽车領域的(de)DRIVE Orin平台(tái)的(de)最(zuì)大(dà)时(shí)钟頻率相當。

　　Jetson Orin NX 16GB的(de)最(zuì)大(dà)DLA TOPs與(yǔ)Jetson AGX Orin 64GB的(de)15W功率模式相當。

　　在(zài)Jetson Orin上(shàng)使用(yòng)DLA是(shì)必要(yào)的(de)，因为DLA可(kě)以提(tí)供更(gèng)高(gāo)的(de)性(xìng)能(néng)和(hé)更(gèng)低(dī)的(de)功耗。DLA是(shì)專門(mén)用(yòng)于(yú)深度(dù)學(xué)習操作(zuò)的(de)硬(yìng)件(jiàn)加速器引擎，可(kě)以对卷(juǎn)積神經(jīng)网(wǎng)络進(jìn)行全(quán)硬(yìng)件(jiàn)加速，支持(chí)各(gè)種(zhǒng)层(céng)，如(rú)卷(juǎn)積、反卷(juǎn)積、全(quán)連(lián)接、激活、池化(huà)、批量(liàng)歸一(yī)化(huà)等。在(zài)Orin上(shàng)使用(yòng)DLA可(kě)以大(dà)大(dà)提(tí)高(gāo)深度(dù)學(xué)習應(yìng)用(yòng)的(de)性(xìng)能(néng)，同(tóng)时(shí)降低(dī)功耗，使得深度(dù)學(xué)習應(yìng)用(yòng)更(gèng)加高(gāo)效和(hé)可(kě)靠。