存算一體化的發展現狀、挑戰與對策

李雅琪 溫曉君

2019年9月，世界計算機大會在湖南長沙召開，存算一體化成為會議的熱點議題之一。馮·諾依曼體系自20世紀30年代被提出后一直作為經典計算機架構沿用至今，然而，近年來隨著數據量的日益增長，CPU運算能力不斷提升，內存的訪問延遲卻幾乎沒有提升。在傳統架構下，存儲與運算之間數據交換通路窄、能耗高的問題日益凸顯，存算一體成為現階段滿足高帶寬、低功耗計算需求的一條有效途徑。

存內計算的發展現狀

存算一體化成為緩解存算調用低效的有效方案。在馮·諾依曼架構中，存儲器與處理器是兩個完全分離的單元，處理器根據指令從存儲器中讀取數據、完成運算，并存回存儲器。兩者之間數據交換通路窄以及由此引發的高能耗兩大難題，在存儲與運算之間筑起了一道“存儲墻”。存算一體化則是將計算機中的運算從中央處理器轉入內存中進行，可大幅降低數據交換時間以及計算過程中的數據存取能耗;其技術路線可分為片外存儲與片內存儲兩大類。片外存儲即基于數字芯片和存儲器配合的存算一體技術，通過在存儲器中植入計算芯片或者邏輯計算單元來提高讀寫速度。片內存儲即數模混合的存算一體技術，通過在存儲器嵌入算法權重，使存儲器具備算法功能，實現真正意義上的將存儲和計算完全結合在一起。

人工智能熱潮為存算一體化的應用帶來新空間。存算一體的雛形概述出現在20世紀90年代，一直被認為是很有潛力的革命性技術，但對其應用的必要性始終缺乏論證，因此尚未在處理器與存儲行業得到產業化應用。隨著基于深度學習技術的人工智能應用熱潮再次涌起，馮·諾依曼架構的“存儲墻”問題也隨之日益凸顯。例如，深度學習模型的每一層神經網絡運算都面臨大量存儲調用，每一次讀取權重值都相當于做了一次乘加累積運算，90%以上的運算資源都消耗在數據搬運過程中。存算一體化尤其適用于此類數據訪問密集的應用場景，可以為人工智能芯片的產業化發展提供有效助力。

存算一體芯片市場廣闊，國內外企業、科研院所紛紛布局。據Gartner預測，全球內存計算市場規模將以每年22%的速度持續增長，2020年底有望達到130億美元。在企業層面，英特爾、博世、美光、Lam Research、微軟、亞馬遜、軟銀都投資了NOR閃存存算一體芯片。其中，英特爾發布的傲騰固態盤采用片外存儲技術，實現了CPU與硬盤之間數據的高速搬運，從而平衡了高級分析和人工智能等大規模內存工作負載的性價比。國內的知存科技、新憶科技等初創公司也進入存算一體市場，其中知存科技開發的超低功耗語音識別存算一體芯片采用片外存儲技術，與普通專用芯片相比，其算力可提高10～50倍。在科研院所層面，加州大學圣芭芭拉分校謝源教授團隊致力于在新型存儲器件ReRAM（阻變存儲）里面實現計算的功能研究，即PRIME架構。清華大學劉勇攀教授團隊和汪玉教授團隊均參與了PRIME架構的研發，目前已實現在150nm工藝下流片，在阻變存儲陣列里實現了計算存儲一體化的神經網絡，功耗降低至原來的1/20，速度提高50倍。此外，清華大學與SK海力士聯合成立了智能存儲計算芯片聯合研究中心，未來五年，中心將致力于研發存算一體與近存儲處理技術。

存算一體化面臨三大挑戰

計算精度有限。現有浮柵存儲器件并不適合用于計算，且片內存儲本質上使用模擬計算，計算精度會受到模擬計算低信噪比的影響，通常精度上限在8bit左右，而且只能做定點數計算，難以實現精準的浮點數計算。因此，并不適用于需要高計算精度的人工智能訓練場景，而僅適用于嵌入式人工智能等對能效比有高要求且對精確度有一定容忍的場景。

應用落地場景邊界條件限制較多。存內計算僅適合原本就對存儲需求較大的場景，對于本身存儲需求并不高的場景，為了引入內存計算而加上一塊大內存反倒會增加成本。尤其是隨著內存容量的增加，內存成本往往呈指數級增長，且內存容量有上限，性價比不理想可能導致內存計算無法惠及更多用戶和更多場景。目前來看，在人工智能仍在探尋應用場景的前提下，存算一體化的落地問題，仍需緊密結合應用場景進行具體分析。

芯片開發生態亟待打造。存算一體芯片產業化尚處于起步階段，目前仍面臨產業鏈上游支撐不足、下游應用不匹配等諸多困局。在芯片設計階段，由于存算一體芯片區別于常規的芯片設計方案，所以目前市面上沒有成熟的專用EDA工具輔助設計和仿真驗證;芯片流片之后，也沒有成熟的工具協助測試;在芯片落地應用階段，暫時沒有專用的軟件與之匹配。因此，亟需圍繞存算一體化打造芯片開發生態。

對策建議

把握技術路徑轉換機遇，加快存算一體技術研發步伐。聚力發展高帶寬內存、新型非易失性存儲器等存算一體技術，著力突破存算一體模擬信號誤差、高效模擬/數字信號轉換等關鍵技術。引導高校、科研院所與企業成立聯合實驗室，加強存算一體芯片原型設計、驗證、流片加工等技術工藝儲備，加快存算一體芯片產業化進程，推動其在人工智能、物聯網等領域應用，打造我國的長項優勢。

制定全面且長期的存算一體發展戰略。建議在“十四五”及中長期集成電路研發與產業化布局中，將存算一體作為重點發展方向，編制存算一體技術發展路線圖。加大存算一體研發支持力度，在01專項和集成電路、人工智能相關產業化專項中予以引導支持。拓展存儲設計類初創企業的融資渠道，對于標志性成熟產品，推動國家基金和社會資本跟投。強化高校、科研院所、芯片設計企業、晶圓廠、生產制造企業、封裝測試企業、整機企業之間的聯動效應，構建存算一體產業新生態。