AI芯片的發(fā)展及應(yīng)用

文/劉衡祁

AI（Artificial Intelligence，人工智能）是當(dāng)今社會所面臨的重要科學(xué)技術(shù)變革，支撐著不同應(yīng)用場景。傳統(tǒng)的計(jì)算架構(gòu)已無法支撐深度學(xué)習(xí)大規(guī)模并行計(jì)算的需求，此時(shí)，AI 芯片的出現(xiàn)讓人工智能領(lǐng)域中大規(guī)模計(jì)算的需求得以滿足。雖然中國在芯片設(shè)計(jì)領(lǐng)域起步晚，但我國在大數(shù)據(jù)采集分析技術(shù)以及人工智能算法等方面具有一定的實(shí)力，加之國家對芯片自主可控的重視，為AI 芯片的發(fā)展和技術(shù)追趕創(chuàng)造了良好的環(huán)境。針對人工智能領(lǐng)域運(yùn)算的特征，AI 芯片的應(yīng)用主要包括圖像識別、語音識別和搜索引擎優(yōu)化等。在做智能處理任務(wù)時(shí)，AI 芯片的性能是普通芯片的百倍，而且能耗更低，能夠?yàn)槿斯ぶ悄芗夹g(shù)的應(yīng)用和實(shí)現(xiàn)提供強(qiáng)有力的計(jì)算基礎(chǔ)。

1 AI芯片的發(fā)展及現(xiàn)狀

隨著AI 產(chǎn)業(yè)的發(fā)展，越來越多的企業(yè)相繼投入到AI 芯片的研發(fā)中。目前人工智能領(lǐng)域中的機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等顛覆性技術(shù)對芯片提出了更高的要求，原有的CPU（Central Processing Unit，中央處理器）已無法滿足，所以GPU（Graphics Processing Unit，圖像處理器）、FPGA（Field Programmable Gate Array，現(xiàn)場可編程邏輯門陣列）和ASIC（Application Specific Integrated Circuit，專用集成電路）等芯片被廣泛用于人工智能領(lǐng)域。上世紀(jì)80年代后期神經(jīng)網(wǎng)絡(luò)算法和模式識別成為AI 的主要應(yīng)用，并在數(shù)年后開始使用專用芯片來突破計(jì)算資源和內(nèi)存訪問的瓶頸。2004年以后，隨著基于深度學(xué)習(xí)的視覺識別和語音識別算法水平的大幅度提升，AI 芯片的發(fā)展得到更多的關(guān)注和機(jī)會。目前，人工智能芯片技術(shù)領(lǐng)域的國外代表性企業(yè)包括Google、NVIDIA、Intel 和SAMSUNG 等公司，國內(nèi)則呈現(xiàn)出百花齊放的態(tài)勢，主要包括中科寒武紀(jì)、地平線機(jī)器人、深鑒科技、百度、華為、平頭哥等，其中寒武紀(jì)在2016年發(fā)布的AI 處理器是世界首款商用深度學(xué)習(xí)專用處理器。2019年9月25日，阿里巴巴旗下的芯片研發(fā)公司平頭哥發(fā)布了首顆云端超大型AI 推理芯片——含光800。該芯片的性能及能效比已經(jīng)突破了現(xiàn)有AI 芯片的記錄，據(jù)說在業(yè)務(wù)測試中，一顆該芯片的計(jì)算能力相當(dāng)于十顆GPU（通用AI 處理器）。該芯片目前已經(jīng)部署在阿里云平臺，供阿里內(nèi)部的多個(gè)視覺業(yè)務(wù)場景大規(guī)模使用，未來還將應(yīng)用到醫(yī)療影像、自動駕駛等場景。

目前全球各大芯片公司和科技公司都在積極進(jìn)行AI 芯片的布局。就目前來看，AI 芯片領(lǐng)域逐漸呈現(xiàn)出三股勢力，第一股勢力是致力于通用AI 芯片的專業(yè)芯片廠商，比如NVIDIA、Intel 等等；第二股勢力是致力于定制化AI 芯片的新興AI 獨(dú)角獸企業(yè)，比如商湯科技、曠視科技、依圖科技；第三股勢力是致力于云端AI 芯片的互聯(lián)網(wǎng)公司，比如谷歌、百度、阿里巴巴等。

2 AI芯片的應(yīng)用

2.1 ADAS（高級駕駛輔助系統(tǒng)）的應(yīng)用

隨著人工智能技術(shù)的不斷發(fā)展，智能汽車也得到高速發(fā)展。無人駕駛技術(shù)也是當(dāng)下發(fā)展的熱點(diǎn)，其中ADAS（Advanced Driving Assistant System，高級駕駛輔助系統(tǒng)）做出了決定性的貢獻(xiàn)。ADAS 需要處理大量的激光雷達(dá)、攝像頭等傳感器實(shí)時(shí)采集的數(shù)據(jù)，并在極短時(shí)間內(nèi)處理完數(shù)據(jù)并及時(shí)反饋。ADAS 的優(yōu)越性體現(xiàn)在對控制模型優(yōu)化和綜合信息處理的算法上，主要包括神經(jīng)網(wǎng)絡(luò)控制和深度學(xué)習(xí)算法等。AI 芯片的飛速發(fā)展，可以滿足ADAS中的圖像分析、環(huán)境感知等環(huán)節(jié)對計(jì)算速度的要求。傳統(tǒng)芯片的計(jì)算延時(shí)無法滿足無人駕駛的應(yīng)用場景，只有AI 芯片才能實(shí)時(shí)處理隨時(shí)變化的交通信息及各類傳感器的反饋信息。現(xiàn)在各大AI 芯片廠商都發(fā)布了或正在研究專用ADAS 處理器芯片，例如美國高通公司在國際消費(fèi)類電子產(chǎn)品展覽會上推出首個(gè)基于Snapdragon 820A 平臺的車規(guī)級ADAS 芯片產(chǎn)品。該產(chǎn)品可以實(shí)現(xiàn)道路移動障礙物的識別，但離商用還有一定距離。除此之外，Intel、瑞薩、英飛凌等公司都有推出自己基于智能駕駛的AI 芯片產(chǎn)品。

2.2 智能手機(jī)中的應(yīng)用

華為在2017年9月推出包含專用AI 模塊的麒麟970 芯片，并成功應(yīng)用在隨后推出的Mate10 系列的智能手機(jī)上。該款芯片搭載了寒武紀(jì)的NPU（Neural-network Processing Unit，嵌入式神經(jīng)網(wǎng)絡(luò)處理器），成為“全球首款智能手機(jī)終端AI 芯片”。緊跟其后，Apple 公司發(fā)布了A11 Bionic 芯片并應(yīng)用在iPhone X 系列的手機(jī)終端。A11 Bionic 芯片中應(yīng)用了雙核架構(gòu)神經(jīng)網(wǎng)絡(luò)處理引擎，提升了用戶在拍照等方面的使用體驗(yàn)。在智能手機(jī)終端上應(yīng)用AI 芯片可以讓其具備更強(qiáng)的深度學(xué)習(xí)和推斷能力，讓各類基于深度神經(jīng)網(wǎng)絡(luò)圖像處理技術(shù)的應(yīng)用能夠?yàn)橛脩籼峁└昝赖氖褂皿w驗(yàn)。除了在智能手機(jī)上，AI 芯片在其他智能終端上也有廣泛的應(yīng)用，比如智能家居、無人機(jī)領(lǐng)域。在AI 芯片的幫助下，掃地機(jī)器人可以敏捷地躲避障礙物，較臟的地方重點(diǎn)清掃，無人機(jī)的圖像處理功能也變得更加強(qiáng)勁。

2.3 安防監(jiān)控中的應(yīng)用

安防領(lǐng)域現(xiàn)在正處于“智能化”升級階段，邊緣推理芯片使得安防攝像頭具有了推理、篩選功能，而不是只具備之前單純的影像記錄功能。比如安裝在家里的AI 智能監(jiān)控系統(tǒng)，可以對陌生面孔進(jìn)行識別，并且通過Wifi 將安裝在家里的視頻、音頻、監(jiān)控門窗損壞的傳感器等連接起來，使用AI 技術(shù)進(jìn)行篩選，將有用信息發(fā)送到手機(jī)、筆記本電腦等終端，緊急時(shí)刻還可以主動向出門在外的主人進(jìn)行報(bào)警提醒。智慧安防監(jiān)控系統(tǒng)將使用邊緣推理芯片的安防攝像頭所采集到的信息傳遞到云端，并且在IT 系統(tǒng)所在的云端引入人工智能、大數(shù)據(jù)等技術(shù)，有效降低了傳統(tǒng)安防領(lǐng)域過度依賴人力的問題。除此之外，AI 技術(shù)可以用在商店客流量監(jiān)控器、入侵者檢測器等設(shè)備中，采用圖像識別技術(shù)，過濾掉監(jiān)控視頻中的無用信息，自動識別不同物體，使得統(tǒng)計(jì)結(jié)果更為可靠。

Intel 斥巨資收購了ASIC 芯片設(shè)計(jì)廠商Movidius，積極布局安防監(jiān)控領(lǐng)域，云天勵飛設(shè)計(jì)的具有人臉識別抓拍功能的AI 芯片——DeepEye1000 也已流片成功。與此同時(shí)，海康、宇視、大華等安防巨頭均開始設(shè)計(jì)制造自己的安防芯片。

2.4 CV設(shè)備與VR設(shè)備的應(yīng)用

CV（Computer Vision，計(jì)算機(jī)視覺）設(shè)備主要應(yīng)用在無人機(jī)、行車記錄儀、智能攝像頭以及智能手寫板等方面。目前計(jì)算機(jī)視覺技術(shù)的成熟度及相關(guān)AI 芯片的發(fā)展將決定CV 設(shè)備的應(yīng)用是否廣泛。應(yīng)用于CV 設(shè)備的AI 芯片多基于ASIP（Application Specific Instruction Set Processor，定制指令集處理器）架構(gòu)，有效解決了CPU 計(jì)算能力不足和GPU功耗、成本過高的矛盾，因此，ASIP 是CV發(fā)展的關(guān)鍵技術(shù)。VR（Virtual Reality，虛擬現(xiàn)實(shí)）是指利用計(jì)算機(jī)圖形系統(tǒng)和多種控制的接口設(shè)備，在計(jì)算機(jī)上生成的可交互的三維環(huán)境，并給用戶提供沉浸感覺的一種技術(shù)。現(xiàn)在VR 設(shè)備主要用在游戲體驗(yàn)和電影電視方面。比如微軟為自身VR 設(shè)備研制的HPU 芯片，可同時(shí)處理來自多個(gè)攝像頭和多種運(yùn)動傳感器的數(shù)據(jù)，并具有CNN（Convolutional Neural Networks，卷積神經(jīng)網(wǎng)絡(luò)）運(yùn)算的加速功能，能夠充分滿足VR 設(shè)備實(shí)現(xiàn)功能的計(jì)算需求。

3 AI芯片的關(guān)鍵技術(shù)

AI 芯片是基于新工藝、新器件，從工具到架構(gòu)都有所優(yōu)化的新型芯片，加上不斷迭代的算法和超前、多樣化的應(yīng)用，才形成了AI芯片的核心競爭力。AI 芯片涉及的關(guān)鍵技術(shù)眾多，其中主要分為五大類：工藝、器件、芯片架構(gòu)、算法、應(yīng)用這五大類，以下重點(diǎn)對其中幾點(diǎn)進(jìn)行介紹。

3.1 新型工藝與器件的突破

基于CMOS 工藝節(jié)點(diǎn)（16nm，7nm，5nm）的不斷突破，器件的集成度越來越高。一些新興器件，比如3D NAND、Flash Tunning FETs、FeFET、FinFET，應(yīng)用的越來越廣泛。3D NAND 通過堆疊內(nèi)存顆粒來擴(kuò)展2D NAND 閃存的存儲容量，可滿足移動消費(fèi)端AI 芯片的存儲要求。FeFET（Ferroelectric Gate Field-effect Transistors），全稱為鐵電柵場效應(yīng)晶體管，其主要原理是使用基于鐵電氧化鉿的High-K 柵電介質(zhì)和金屬柵進(jìn)行堆疊，使柵極具有鐵電性。所以FeFET 雖然與現(xiàn)有邏輯晶體管的結(jié)構(gòu)相同，但是具有可拓展、非易失、低功率等優(yōu)點(diǎn)。高帶寬片外存儲器技術(shù)，如HBM、高速GDDR、LPDDR、STT-MRAM的應(yīng)用也可以大大提升芯片的存儲和運(yùn)算能力，STT-MRAM 為自旋轉(zhuǎn)移矩磁阻內(nèi)存，其第一代產(chǎn)品是基于40nm 制造工藝，容量只有32MB。第二代產(chǎn)品基于28nm 制造工藝，容量已增加到了128MB。LPDDR（Low Power Double Data Rate SDRAM）作為第二代低功耗內(nèi)存技術(shù)，由于功耗低、體積小的特點(diǎn)，可以用于移動終端的AI 芯片中。

除了器件工藝的突破，封裝技術(shù)的提升也能大大提高微系統(tǒng)的性能，3D 堆疊技術(shù)是將不同功能的芯片通過層間孔互聯(lián)工藝堆疊起來的系統(tǒng)級封裝工藝技術(shù)，可以減小微系統(tǒng)外形尺寸，降低功耗，提高芯片速度。

3.2 算法的迭代和創(chuàng)新

算法是AI 技術(shù)的靈魂，目前AI 云端芯片主要以訓(xùn)練、學(xué)習(xí)為主，AI 終端芯片以推理、應(yīng)用為主。但無論是類腦芯片的自我學(xué)習(xí)功能，還是終端芯片的推理功能，都是基于神經(jīng)網(wǎng)絡(luò)算法和機(jī)器學(xué)習(xí)算法。神經(jīng)網(wǎng)絡(luò)算法又是基于神經(jīng)網(wǎng)絡(luò)互聯(lián)結(jié)構(gòu)（比如卷積神經(jīng)網(wǎng)絡(luò)CNN、循環(huán)神經(jīng)網(wǎng)絡(luò)RNN、長短時(shí)記憶LSTM 等）以及深度神經(jīng)網(wǎng)絡(luò)系統(tǒng)結(jié)構(gòu)（如AlexNet、GoogleNet、VGGNet 等）的一類算法。可見AI 算法是一門很大的學(xué)問，AI 芯片必須與AI 算法相互迭代升級，才能得到更廣泛的應(yīng)用。

深度學(xué)習(xí)算法是人工神經(jīng)網(wǎng)絡(luò)算法的拓展，多基于半監(jiān)督式學(xué)習(xí)算法，通過輸入數(shù)據(jù)的分類和回歸，進(jìn)而進(jìn)行預(yù)測。常見的深度學(xué)習(xí)算法有：受限玻爾茲曼機(jī)RBN、堆棧式自動編碼器等。深度學(xué)習(xí)算法相比以前的神經(jīng)網(wǎng)絡(luò)算法相比，擁有更多的“神經(jīng)元”、更復(fù)雜的連接層、更強(qiáng)大的計(jì)算能力來訓(xùn)練，所以基于深度學(xué)習(xí)的AI 技術(shù)有更強(qiáng)的推理能力和遷移學(xué)習(xí)的能力。可見AI 算法的突破和創(chuàng)新，能讓AI 技術(shù)更上一層樓。

3.3 芯片系統(tǒng)級結(jié)構(gòu)的優(yōu)化

為了滿足云計(jì)算和邊緣計(jì)算AI 芯片的性能和功耗的要求，需要優(yōu)化人工智能芯片的系統(tǒng)架構(gòu)。比如，神經(jīng)網(wǎng)絡(luò)芯片的卷積神經(jīng)網(wǎng)絡(luò)吞吐量和功耗之間的平衡，就需要架構(gòu)師在芯片系統(tǒng)級架構(gòu)上給出優(yōu)化方案。AI 芯片多采用多核、眾核的系統(tǒng)級架構(gòu)，以突破在提高芯片性能時(shí)遇到的三個(gè)限制（互聯(lián)時(shí)延、設(shè)計(jì)復(fù)雜度、功耗）。設(shè)計(jì)這些系統(tǒng)級架構(gòu)是將AI芯片中各個(gè)處理器分別設(shè)計(jì)和優(yōu)化，從而降低整體設(shè)計(jì)的復(fù)雜度；單個(gè)處理器中的互聯(lián)減小了傳輸?shù)木嚯x，降低了互聯(lián)時(shí)延；多核結(jié)構(gòu)在滿足性能提高的同時(shí)，減小晶體管整體翻轉(zhuǎn)的頻率，從而降低功耗，解決了單核結(jié)構(gòu)高頻率、高功耗的老問題。

AI 芯片的結(jié)構(gòu)優(yōu)化方法還有很多，比如SIMD（Single Instruction Multiple Data，單指令多數(shù)據(jù)流）技術(shù)，用于數(shù)據(jù)密集型的運(yùn)算上，能讓多媒體應(yīng)用芯片如虎添翼。片上網(wǎng)絡(luò)NoC是片上集成系統(tǒng)SoC 發(fā)展來的新的通信方法，常用于多核架構(gòu)中。除此之外，存儲器結(jié)構(gòu)、內(nèi)存接口結(jié)構(gòu)的優(yōu)化也是AI芯片的關(guān)鍵技術(shù)。

4 AI芯片產(chǎn)業(yè)的發(fā)展趨勢

當(dāng)今AI 芯片的研發(fā)方向基本還是基于馮諾依曼架構(gòu)，但隨著深度學(xué)習(xí)加速器的不斷增加，原有的架構(gòu)并不能有效地解決帶寬的問題，架構(gòu)的創(chuàng)新是AI 芯片產(chǎn)業(yè)發(fā)展面臨的一個(gè)不可回避的問題。目前，模仿人類腦部神經(jīng)元結(jié)構(gòu)設(shè)計(jì)的“腦類芯片”和“神經(jīng)形態(tài)芯片”已經(jīng)在研發(fā)的初期階段。不同于之前處理器和存儲器要分開的架構(gòu)，它的主要思想是模仿人腦神經(jīng)元結(jié)構(gòu)，將CPU、內(nèi)存和通信部件都集成在一起，以分布式和并發(fā)式的方式傳導(dǎo)信息，極大地提高了數(shù)據(jù)傳輸速度和計(jì)算能力，而且大大降低了功耗。

AI 算法與AI 芯片開發(fā)的一體化發(fā)展也將是AI 芯片產(chǎn)業(yè)的趨勢。首先算法公司和芯片公司分別專注各自的領(lǐng)域，硬件性能的提升很快會被軟件消化掉。而且目前算法公司和芯片公司不能實(shí)現(xiàn)傾囊相授的合作，傳統(tǒng)的合作模式無法解決芯片迭代速度慢和AI 算法更新速度快之間的矛盾。所以現(xiàn)在有一些公司開始將算法和芯片作為一個(gè)整體進(jìn)行開發(fā)、迭代，最終構(gòu)建一個(gè)完整的人工智能平臺，這種開發(fā)方式將具有明顯優(yōu)勢。

除此之外，廣闊的移動終端消費(fèi)市場決定了應(yīng)用在移動終端上的AI 芯片將會是開發(fā)重點(diǎn)。前段時(shí)間擊敗世界圍棋冠軍的谷歌智能機(jī)器人AlphaGo 其實(shí)是基于谷歌的云端AI 處理器，所以擊敗世界冠軍是一個(gè)很大的云端人工智能平臺，而不是一個(gè)小小的機(jī)器人。阿里巴巴的含光800 也是基于云平臺。應(yīng)用在移動終端的AI 芯片要求體積小，集成度高、功能定制化程度高，需要芯片公司的職能集中化。現(xiàn)在許多公司都成立的自己專門的芯片部門，比如中興微電子、華為海思、阿里平頭哥等等，都體現(xiàn)了各大公司對核心芯片自主可控的追求，以及芯片研發(fā)的部門化和戰(zhàn)略化。

5 結(jié)束語

AI 技術(shù)的應(yīng)用和發(fā)展需要使用基于新架構(gòu)的AI 芯片來突破計(jì)算量和數(shù)據(jù)吞吐量的瓶頸，今年可是說是端側(cè)AI 芯片的商業(yè)化元年，眾多AI 芯片流片成功。本文主要介紹了AI 芯片的發(fā)展現(xiàn)狀和應(yīng)用場景，分析了AI 芯片涉及的關(guān)鍵技術(shù)，并對未來發(fā)展趨勢做了簡單分析。AI 芯片是未來發(fā)展智能安防、智能家居、智能駕駛、智能終端必須攻克的難題，對于科學(xué)技術(shù)的變革和人類社會的發(fā)展具有重要的意義。