中美人工智能專用芯片龍頭企業發展路線對比研究

徐國亮，陳淑珍

（1.國家知識產權局專利局專利審查協作江蘇中心，江蘇 蘇州 215163；2.國家知識產權局專利局專利審查協作北京中心福建分中心，福建 福州 350000）

一、引言

自1956 年達特茅斯會議上提出人工智能的概念以來，經歷數十載的起起浮浮[1-3]，從2006 年起，隨著深度學習算法的進一步優化，伴隨著芯片計算能力的不斷提升，人工智能技術進入高速發展的快車道，為迎接由移動時代向智能時代的歷史變革，我國于2017 年開啟了人工智能發展的新紀元。在黨的十九大報告中提到“加快建設制造強國，加快發展先進制造業，推動互聯網、大數據、人工智能和實體經濟深度融合”；同年編制印發了《新一代人工智能發展規劃的通知》，為人工智能產業的發展營造了積極有利的紅利時期，是我國在自動駕駛、人臉識別、智能安防、工業機器人等人工智能應用行業的百花齊放。

2018 年中美貿易戰中，美國禁止企業向中興通訊銷售元器件，一度讓我國的通訊行業龍頭陷入癱瘓，最后以中興通訊的天價罰單和美方派遣工程師入駐中興行使技術監管暫告一段落。痛定思痛，由此引發了國人對于芯片自主知識產權的深刻思考。

人工智能產業技術上可分為基礎層、中間層與應用層，其中基礎層包括人工智能芯片、算法、大數據[2]；中間層又稱技術層，主要定義人工智能的技術方向，具體分為自然語言處理、計算機視覺、語音識別和云服務；最上層則是直接與日常生活息息相關的應用層，直接定義人工智能的應用場景或具體行業[3]，例如自動駕駛、智能安防、機器人、智慧醫療、智能家居、智慧城市等，然而真正定義人工智能產業生態的卻是基礎層，尤其是芯片運行機器學習算法的計算力及其功耗，構成了人工智能產業發展的基石和原始推動力。

圖1 人工智能產業結構

二、人工智能芯片的分類

人工智能芯片從技術架構上主要分為通用芯片和專用芯片[4]。其中通用芯片是指本質上傳統芯片架構，通過軟件編程支持深度學習和復雜神經網絡算法的芯片，主要包括CPU、GPU、DSP、FPGA 等；而專用芯片，又稱ASIC 芯片，是具有為人工智能算法量身定制的新架構[5]的芯片類型，例如谷歌公司推出的TPU 芯片、寒武紀科技推出的Cambricon 芯片和IBM 公司研發的TrueNorth 類腦芯片。各種人工智能芯片的優缺點及在人工智能領域的表現整理如表1 所示。

表1 AI 芯片分類及對比

三、人工智能專用芯片

雖然目前占據市場主流的仍是以GPU、FPGA為主的通用芯片，但隨著算法的不斷發展與完善，通用芯片由于運算與存儲相分離的架構，即便可以通過軟件編程實現復雜運算，但在訪存時的帶寬限制與隨之而來的功耗問題將成為限制其性能的瓶頸，而某種意義上來說，專用芯片是專為特定算法開發的芯片，是算法芯片化的直接結果，因此業內大膽預測專用芯片將成為未來人工智能芯片的終端主流形態，至少能夠與通用芯片并駕齊驅地發展。

專用芯片又稱為ASIC 芯片，在人工智能領域已經商業化的ASIC 芯片企業主要集中在中美兩國，其中的龍頭企業當屬美國谷歌公司和中國寒武紀科技。

（一）谷歌TPU 芯片

谷歌公司從2013 年就開始研發張量處理單元，即TPU 芯片，2016 年谷歌公司首次公開了TPU 芯片的概念圖，但關鍵部分并沒有展示出來，直到2017 年才在國際計算機體系結構頂級會議ISCA 上正式發表了論文《在數據中心分析中對張量處理器性能進行分析》，詳細解構了TPU 芯片的結構組成，在此之前，谷歌已將TPU 芯片用于Google 街景以及被谷歌收購的Deepmind 公司研發的AlphaGo 機器人，正是AlphaGo 戰勝頂尖職業棋手讓谷歌公司的TPU 芯片名聲大躁，但當時的TPU 芯片只能用于終端推理，并且功耗實在讓人瞠目。2017 年5 月，谷歌公司推出了第二代TPU 芯片，又稱Cloud TPU 或TPU2.0，并聲稱已將該芯片用于谷歌的計算引擎平臺，用于圖像和語音識別，機器翻譯等，相比于第一代TPU 芯片，TPU2.0 最大的特色在于它既可以用于訓練神經網絡，又可以用于推理。時間再回到2018 年5 月，谷歌公司時隔僅1 年，又推出了第三代專用處理器芯片TPU3.0，實現了超過100PFLOPS的處理能力，大約是TPU2.0 的8 倍，其中來自于芯片制造技術換代的貢獻只有2 倍，意味著更多的改進在于芯片架構層面。

客觀地說，谷歌公司的TPU 系列芯片仍然用于谷歌自營業務，基本上還屬于閉環生態的狀態，然而谷歌公司采取的策略是第一時間開源其TensorFlow開發平臺，并且開放Cloud service，讓全球范圍內的開發人員可以參與到其芯片研發環節，無形中實現了芯片設計、邏輯實現、平臺模式和應用環境的生態循環，也只有谷歌的體量能夠充分實現這一進程。

（二）寒武紀Cambricon 芯片

寒武紀科技是我國人工智能芯片領域的龍頭企業，由中科院計算所的陳天石、陳云霽兄弟于2016 年成立，宗旨是打造各類智能云服務器、智能終端以及智能機器人的核心處理器芯片。2011 年，寒武紀初創團隊即與華為合作成立了聯合實驗室，致力于神經網絡處理器架構優化。2014 年，寒武紀團隊共發表37 篇論文，其中15 篇論文與法國國家信息與自動化研究所Inria 的Olivier Temam 教授合作，公開提出國際首個深度學習處理器架構DianNao、首個多核深度學習處理器架構DaDianNao，在頂級會議發表論文并獲獎。2015 年，寒武紀初創團隊開始研發世界首款深度學習專用處理器樣片。2016 年3 月，北京中科寒武紀科技有限公司正式成立，并完成天使輪投資數千萬元，此外獲得了1 億元訂單實現盈利，當年，寒武紀團隊發布國際首個智能處理器指令集Cambricon ISA，最初命名為DianNaoYu，對應的論文發表于ISCA2016，位列第一。2017 年8月，寒武紀科技獲得了價值1 億美元的A 輪融資，該輪投資由國投創業領投，阿里巴巴創投、聯想創投、國科投資、中科圖靈、元禾原點（天使輪領投方）、涌鏵投資（天使輪投資方）聯合投資。在本輪融資過后，這家背靠中科院計算所的創業公司估值已接近10 億美元，成為了全球第一家智能芯片領域獨角獸公司，集成了寒武紀1A 處理器的世界首款人工智能手機芯片華為麒麟970 正式發布并在Mate10 手機中大規模商用，市場為之沸騰。移動終端是否成功最終取決于用戶的使用體驗，事實證明，搭載寒武紀1A 處理器的華為麒麟970 以每分鐘識別2005 張照片擊敗了當時蘋果公司A11 芯片每分鐘識別889 張照片的記錄。2017 年底，寒武紀科技在首場發布會上又發布了第二代終端雙核處理器Cambricon 1H 以及面向開發者的軟件平臺Cambricon NeuWare；2018 年5 月，寒武紀科技發布了第三代終端處理器Cambricon 1M 以及第一代云端機器學習芯片MLU100，標志著寒武紀成為國內首家、并且是世界少數幾家（如英偉達）同時擁有終端和云端處理器芯片的公司。1 個月后，寒武紀科技完成數億美元的B 輪融資，公司估值達25 億美元，領跑初創AI 芯片公司。2018 年10 月底，華為海思推出最新旗艦芯片麒麟980，搭載寒武紀1H 雙核處理器，為華為手機帶來更加卓越的AI 算力。

四、TPU 芯片對比Cambricon 芯片

谷歌公司是美國互聯網科技巨頭，寒武紀科技則是底蘊深厚的時代新貴，兩者遵循著符合各自切身利益的發展模式，并且在業內都取得了成功，看似各自經營，實則內里關系錯綜復雜。

（一）內在聯系

前文提到，寒武紀團隊在確定AI 芯片研發方向時，就與法國國家信息與自動化研究所的Olivier Teman 教授共同合作，并且首個神經網絡加速器的命名DianNao，也是由Temam 教授提出，正是由于雙方的研究成果在業內引起了軒然大波，Temam 教授隨后被谷歌招致麾下，成為TPU2.0 芯片的奠基人，Temam 教授也將于寒武紀團隊合作時的設計理念融入了TPU 芯片的研發中，從某種程度上來說，寒武紀科技推出的Cambricon 芯片和谷歌公司的TPU芯片也算是同宗同源。

此外，寒武紀團隊和谷歌公司都做了同樣的一件事情，就是在國際頂級的計算機學術會議ASPLOS、MICRO、ISCA 上發表了自己的研究成果，其中寒武紀團隊的DianNao 獲得ASPLOS2014 的最佳論文獎、DaDianNao 獲得MICRO2014 最佳論文獎、ShiDianNao 發表于ISCA2015、PuDianNao 發表于ASPLOS2015、DianNaoYu 獲得ISCA2016 評分第一名；谷歌公司盛名已久，但在人工智能專用芯片方面的成績依然要通過披露TPU 芯片技術細節的論文獲評ISCA2017 的最佳論文加以證明，值得一提的是，谷歌公司的TPU 論文全文引用了寒武紀團隊前期的6 篇論文。可以說在頂級學術會議上發表論文是一個迅速打開知名度的捷徑，也是近幾年上述頂級會議上收到有關神經網絡加速器論文逐年增多的主要原因。

（二）不同發展路線

谷歌公司在2013—2014 年完成了多筆收購，其中包括2014 年1 月收購英國AI 初創公司Deepmind，連勝圍棋好手李世石、聶衛平、柯潔的AlphaGo 就出自Deepmind 公司，除了在每局棋要耗電3 000 美元的AlphaGo 機器人上使用以搏人眼球之外，TPU 芯片的商用主要還是在谷歌自營的業務，并不對外售賣。但是谷歌公司開發了可以直接對TPU 進行加速的第二代深度學習框架平臺Tensorflow 并且立即開源，Tensorflow 平臺可以支持各種深度學習算法，并且用Python、C++、CUDA 語言開發，可以說編程人員用起來得心應手，結合Cloud TPU 業務，使得全世界范圍內的研發人員都在利用谷歌的軟件開發平臺和硬件服務器來進行平臺搭建和系統開發，無形中就助力谷歌建立了自己的生態圈，讓人不免聯想到移動時代幾乎一統天下的開源的安卓系統。

寒武紀團隊則是另一種發展策略，除了搶占市場先機之外，借鑒了PC 時代的intel 和移動時代的ARM，他們先后推出了x86 和ARM 指令集，實現了對PC 和移動終端軟硬件的壟斷。指令集是軟件、硬件之間的接口，在人工智能算法多樣化的今天，設計一套調用靈活，且兼容性好的指令集，可以說直接影響AI 生態的發展。寒武紀科技推出的Cambricon ISA 指令集，通過對10 種典型的神經網絡算法測試后，證明了其適應性更強，該指令集受RISC 啟發，將復雜的神經網絡計算分解成模塊，從而設計簡單短小的調用指令，簡化了芯片設計，并且預留了支持未來多變算法的空間，相較于目前僅較好地支持CNN 卷積網絡的TPU 而言，擁有自己的指令集的寒武紀芯片的前景更為樂觀。表2 是谷歌TPU 芯片和寒武紀Cambricon 芯片的產品對比。

五、結論

芯片性能提升推動人工智能產業的發展，AI 專用芯片是基于特定算法研制的芯片類型，相較于通用芯片具有性能更優、功耗更小的優勢，未來有望成為人工智能產業的主流芯片，本文比較了中美兩國AI 專用芯片龍頭企業的發展路線，希望能為致力于AI 專用芯片研發的從業人員提供一些借鑒。

表2 谷歌TPU 芯片與寒武紀Cambricon 對比