面向網(wǎng)絡(luò)邊緣應(yīng)用的新一代神經(jīng)網(wǎng)絡(luò)

Hussein Osman

摘要：介紹了面向網(wǎng)絡(luò)邊緣應(yīng)用的新一代神經(jīng)網(wǎng)絡(luò)——微型二值神經(jīng)網(wǎng)絡(luò)，可在保持低功耗的同時(shí)減少對(duì)存儲(chǔ)器的需求。

關(guān)鍵詞：二值；神經(jīng)網(wǎng)絡(luò)；CNN；FPGA

人工智能（AI）、神經(jīng)網(wǎng)絡(luò)和機(jī)器學(xué)習(xí)領(lǐng)域的發(fā)展十分迅速，開(kāi)發(fā)工程師正不斷嘗試為系統(tǒng)添加更多智能功能，前景不可估量。其中各類應(yīng)用對(duì)于計(jì)算的需求是不同的。在數(shù)據(jù)中心領(lǐng)域，用于執(zhí)行圖像識(shí)別的神經(jīng)網(wǎng)絡(luò)是“經(jīng)過(guò)訓(xùn)練”的，舉個(gè)例子，通過(guò)向神經(jīng)網(wǎng)絡(luò)投喂成千上萬(wàn)的圖像并分配權(quán)重直至神經(jīng)網(wǎng)絡(luò)能夠正確識(shí)別對(duì)象。就像人類從一張白紙到最后成為知識(shí)淵博的人，當(dāng)新數(shù)據(jù)出現(xiàn)時(shí)，人們能夠根據(jù)過(guò)去的經(jīng)驗(yàn)進(jìn)行“推理”并做出決定，同樣，系統(tǒng)必須使用“推理技術(shù)”根據(jù)神經(jīng)網(wǎng)絡(luò)從新數(shù)據(jù)上學(xué)到的東西來(lái)進(jìn)行“推理”并得出結(jié)果。

建立數(shù)據(jù)架構(gòu)并計(jì)算推理所需的權(quán)重可能需要數(shù)TB的數(shù)據(jù)和大量的計(jì)算資源。因此，數(shù)據(jù)中心常用的深度學(xué)習(xí)技術(shù)通常使用大尺寸、高性能GPU來(lái)滿足如此大量的計(jì)算要求。

高功耗GPU對(duì)于想要將AI優(yōu)勢(shì)引入到網(wǎng)絡(luò)邊緣領(lǐng)域的設(shè)計(jì)工程師來(lái)說(shuō)太過(guò)奢侈。在網(wǎng)絡(luò)邊緣領(lǐng)域，部署數(shù)據(jù)中心使用的基于浮點(diǎn)運(yùn)算的深度學(xué)習(xí)技術(shù)是不太現(xiàn)實(shí)的。設(shè)計(jì)工程師必須開(kāi)發(fā)計(jì)算效率高的解決方案，不僅要達(dá)到精度要求，還要滿足消費(fèi)電子市場(chǎng)對(duì)于設(shè)備的功耗、尺寸和成本的限制。盡管設(shè)備在數(shù)據(jù)中心接受過(guò)訓(xùn)練，可是一旦部署到網(wǎng)絡(luò)邊緣領(lǐng)域，就要盡可能使用更少位數(shù)進(jìn)行計(jì)算來(lái)實(shí)現(xiàn)推理。……