為差異化AIOT應(yīng)用提供GPU和神經(jīng)網(wǎng)絡(luò)加速器IP

Andrew Grant

1為AIOT提供神經(jīng)網(wǎng)絡(luò)加速器

Imaginatron Technologies專注于邊緣和終端上的人工智能物聯(lián)網(wǎng)（AIoT）。我們創(chuàng)建半導(dǎo)體知識(shí)產(chǎn)權(quán)（IP），soc設(shè)計(jì)人員使用它們來(lái)開(kāi)發(fā)用于邊緣設(shè)備的芯片。我們可以為神經(jīng)網(wǎng)絡(luò)增加加速功能，以使它們能夠在終端上快速運(yùn)行，進(jìn)而增強(qiáng)邊緣的能力。在某些AI任務(wù)中，神經(jīng)網(wǎng)絡(luò)加速器（NNA）的性能是典型嵌入式cPu的100倍，從而將以前只有在數(shù)據(jù)中心才能實(shí)現(xiàn)的性能直接帶給終端用戶。

我們看到的趨勢(shì)是，隨著“網(wǎng)絡(luò)邊緣”逐步涵蓋智慧城市、機(jī)器人流程自動(dòng)化（RPA）和用于安防監(jiān)控的智能攝像頭等智能設(shè)備，這一點(diǎn)正變得越來(lái)越重要。通過(guò)開(kāi)發(fā)可用于邊緣同時(shí)占用最小芯片面積的全能型IP，將推動(dòng)新一波邊緣設(shè)備面世。

2如何簡(jiǎn)化AIOT終端設(shè)備的設(shè)計(jì)

簡(jiǎn)化物聯(lián)網(wǎng)（IoT）終端設(shè)備的需求就是將功能整合到盡可能小的芯片面積中，以節(jié)省芯片成本。Imagination的IP（GPu和NNA）具備的靈活性和支持的功能，意味著能以極低的功耗為邊緣推理增加加速性能，這對(duì)于AIoT設(shè)備而言是非常理想的。

如今機(jī)器學(xué)習(xí)和邊緣AI的創(chuàng)新速度十分迅速，意味著幾乎每天都有新的進(jìn)展。通過(guò)與主要框架的開(kāi)發(fā)人員和終端用戶市場(chǎng)保持緊密聯(lián)系，Imaginatron一直身處于創(chuàng)新方法的前沿。Imagination不斷更新自己的軟件驅(qū)動(dòng)程序，以利用新的技術(shù)進(jìn)展和層操作運(yùn)算方法。

3針對(duì)具體應(yīng)用的差異化方法將是人們渴望實(shí)現(xiàn)的最終目標(biāo)

今天，市面上仍有8位、16位Mcu，并新出現(xiàn)了RIsc-V Mcu。實(shí)際上，盡管純粹的性能始終是業(yè)界關(guān)鍵的成功因素之一，但針對(duì)具體應(yīng)用采用差異化和優(yōu)化的方法將是人們渴望實(shí)現(xiàn)的最終目標(biāo)。

無(wú)論如何，探求靈活的、可用于眾多領(lǐng)域的IP是非常重要的，同時(shí)使用可組合在一起以實(shí)現(xiàn)更高性能的IP構(gòu)建模塊將是一個(gè)決定性因素。Imagination的AIsynergy就是這方面一個(gè)很好的例子，利用AI synergy技術(shù)，各層可以在NNA上加速，同時(shí)浮點(diǎn)運(yùn)算和自定義層可在GPU上運(yùn)行。通過(guò)使用Imagination的Hyperlane技術(shù)中預(yù)留的HypeL ane通道，在保護(hù)任何圖形輸出的同時(shí)，還可以運(yùn)行其他計(jì)算任務(wù)。