自適應計算加速提升核心基礎設施性能

常莽

AI無處不在、隨時在線和以數據為中心的時代，正催升對更高帶寬的需求，而這已經超出了當今技術和產品的能力范疇，世界需要一種當前CPU和GPU技術所無法企及的更高效的、更普適的計算，自適應計算應運而生。

AI無處不在、隨時在線和以數據為中心

金錢不算什么，數據才是推動當今世界運轉的王者。從遠程物聯網終端為城市規劃、健康跟蹤、環境保護和業務改進等多樣化用途采集數據，到我們熱衷的視頻流內容和在線分享生活，以及數據的遷移、管理和分析，正處于所有功能的核心，也促使消費者更廣泛地使用隨時在線的個人物聯網設備，并讓企業和科研越來越依賴以AI為中心的應用。

數字化的生活方式和新興的物聯網與云端計算及數據服務的快速增長密不可分。云是全新的生活與工作方式的中心，它存儲著海量的內容，供人們隨時隨地進行訪問；它托管點播音樂和視頻流服務；它采集和分析工業數據或企業數據；它將功能強大的軟件應用以按次計費的方式，低成本地提供給金融分析、數據庫搜索或基因組測序等工作使用。

此外，5G New Radio（NR）引入了對海量機器通信（MMTC）和超低時延通信（ULLC）的支持，能實現全新的實時蜂窩通信服務。而這將給回傳網、城域網以及核心網的容量和性能帶來巨大壓力。

核心基礎設施面臨越來越大的壓力

如今，提高數據帶寬和計算吞吐量是所有的云數據中心、電信網絡和蜂窩通信回程網共同面臨的強勁需求。涉及的主要基礎設施組成部分包括進出數據中心的鏈路、連接地域分散型數據中心站點的數據中心互聯（DCI）、基礎設施接口卡和加速器卡。事實上，核心基礎設施對數據帶寬的需求名義上是以51 %的年均復合增長率增長，然而，單是5G的推出便可推動區域流量容量需求增長100倍。

利用協議處理芯片和接口芯片等分立組件打造新的、更高性能的設備來滿足這些需求，不僅復雜費時，而且越來越難以按照性能需求進行擴展。此外，采用這種方式設計出的系統體積龐大、功耗驚人，無法滿足數據中心和基礎設施對空間占用、功耗和熱管理的限制性要求。新一代設備必須在現有的物理、電氣和熱約束條件范圍內大幅提升性能。

此外，設計工作需要在最終規格商定之前采用最先進的協議和標準，才能率先投放市場，盡早抓住機遇。對于想要率先將產品投放市場的設備提供商而言，等待標準成熟之后再部署肯定無法實現領先的預期，只有擁有隨著項目的進展在硬件層面靈活地適應變化的能力，才能與時俱進領先同行。

具有突破性意義的可編程加速器

對于一些使用傳統CPU或GPU的架構無法快速執行或功耗約束得不到滿足的工作負載，高密度FPGA和異構的可編程片上系統IC（MPSoC）等可編程邏輯器件已成為理所當然的加速器選擇。這些器件不僅可以通過高度并行的處理模式以極為高效的方式解決特定計算難題（例如信號處理和近期的神經網絡），還提供了可編程器件固有的靈活應變能力。

現在，為了滿足日益嚴苛的性能、帶寬、功耗和集成目標，被稱為自適應計算加速平臺（ACAP）的新型可編程器件已經問世。賽靈思Versal ACAP內置一系列智能AI和DSP計算引擎、等效于FPGA邏輯架構的自適應引擎，以及應用處理和實時標量引擎，并通過片上可編程網絡（NoC）互聯緊密耦合。它還集成了軟件控制平臺管理功能和眾多先進的接口，包括DDR4、100G以太網、PCIe Gen 5和數千兆位光通信接口。

Versal DSP引擎采用經過改進的DSP塊，為INT8、32位浮點等操作數提供本機支持，從而提升了多種應用的速度和效率，不僅包括數字信號處理，而且也包括寬動態總線移位器、存儲器地址生成器、寬總線多路復用器以及存儲器映射I/O寄存器。標量引擎由一個雙核Arm Cortex-A72應用處理器和一個雙核Arm Cortex-R5F實時處理單元構成。ACAP的異構引擎能夠實現重新編程，以適應隨時間推移而變化的工作負載，或是隨著算法實現或神經網絡模型演進而變化的工作負載。

優化ACAP連接性

依托于這種新型可編程器件助力實現的創新，Versal Premium系列現已能夠應對當今核心基礎設施面臨的壓力。這些高帶寬器件將高計算密度與附加的專用高速加密（HSC）引擎以及先進的網絡接口相結合。

高密度網絡連接功能包括：提供總雙向帶寬高達9 Tb/s的可擴展光纖收發器（支持最新的以太網和Interlaken速率與協議）、112 GB/s PAM4收發器、加密處理能力高達400 Gb/s的高速加密引擎，以及靈活應變的硬件。

與現有的58 GB/s PAM4技術相比，在核心網、城域網和DCI基礎設施中采用112G PAM4收發器能夠使每端口帶寬密度翻倍，從而緩解前面板機柜空間的壓力，并為電信和數據中心應用加倍提供單位體積帶寬。與此同時，給定的數據有效載荷的傳輸時延降低50 %，提高了應用的響應能力，有助于降低時延對地域分散型數據中心互聯的影響。

較之賽靈思16 nm Virtex UltraScale+ FPGA，片上集成資源提供了高達3倍的帶寬和2倍的計算密度。另一方面，與專用的特定應用光傳輸網絡（OTN）處理器相比，應用吞吐量提高了3～5倍。

提升計算密度

為了滿足超大規模云服務提供商的當前及未來需求，Versal ACAP架構將極高的片上存儲器帶寬與高性能異構計算引擎緊密耦合，并通過動態功能交換（DFX）實現靈活的工作負載配置。與之前的16 nm FPGA相比，DFX交換內核的速度加快了8倍，支持加速器的動態配置，從而最高效地將器件資源用于隨時間推移而變化的計算工作負載，如數據分析、機器學習視覺處理、基因組學、視頻轉碼和加密處理等。

憑借多種類型的分布式片上RAM，高達1 GB的緊密耦合存儲器可供使用，進而提供了最高123 TByte/s的等效片上存儲器帶寬。該帶寬能實現各種處理引擎與存儲器之間的高速交互，其速度比如今最優秀的GPU快9倍。此外，可編程NoC互聯支持與片外DDR4存儲器進行高速交互。

Versal Premium ACAP能夠滿足DCI設備的需求，兼容服務器側和傳輸側的多種光通信接口與協議，同時以安全、低成本的平臺靈活適應新興的、且不斷演進的標準。1RU系統或單卡就能提供3.2 TB/s的容量，支持多種多樣的標準化和新興協議以及光通信接口。憑借其先進的連接和加密核心，單個Versal Premium ACAP器件就能為服務器側的光通信接口提供4×25G NRZ連接的多條100 G FlexE以太網通道、為線路側提供4×112 G PAM4連接的400 G以太網通道、線路速率為1.6 TB/s的AES256加密、控制和端口管理功能。

這些器件也非常適合用于高速客戶端接口卡，具體方式是利用Versal Premium ACAP將數據流量與服務橋接并封裝到行業標準的OTN封裝程序中。Versal Premium ACAP內部集成通道化以太網、Interlaken、112 G和58 G PAM4 GTM收發器與32.75 G GTYP收發器，提供每秒多太位容量。這些資源以專用硬IP的形式集成，既能獲得ASIC級的功率效率，又能釋放ACAP邏輯架構用于映射、開銷和SAR功能。

面向未來的AI加速

通過將異構計算引擎與高存儲器帶寬相結合，Versal Premium ACAP在處理高難度工作負載（如使用神經網絡開展圖像分類或對象檢測）時，性能顯著優于GPU。對比Versal Premium與領先GPU的性能，可以看到運行在680×680 YOLOv2模型上的對象檢測速度在ACAP Premium器件上能提速高達7.7倍。

與FPGA和MPSoC架構相比，ACAP另一個有助于簡化加速器開發的引人矚目的特性是預先構建的外殼程序，通過它能硬連接到片外接口，如以太網、PCIe Gen 5、DDR4和光通信接口。這種高效的云連接基礎設施提供了多重優勢，包括允許在設備啟動時進行CPU主機和系統存儲器通信、簡化內核布局與時序收斂、簡化加速器虛擬化。外殼程序便于設計人員將器件的內部邏輯架構更多地用于定制功能，否則就需要實現必要的基礎設施，如存儲器和DMA控制器。

外殼程序和角色架構可以幫助設計人員快速高效地在Versal Premium ACAP中實現先進的智能零售技術。ACAP器件支持數據驅動的視頻內容分析，有助于降低損失以及提供自動、實時、可執行的庫存洞察，并提供可促進銷售最大化的客戶體驗定制能力。借助Versal Premium ACAP能夠在單個平臺上托管視頻分析解決方案，用于視頻元數據的識別、提取和分類。

外殼程序提供了現成的連接與加密功能，而器件的DSP引擎和軟件可編程計算內核則可處理對象檢測、圖像分類以及視頻編碼、解碼和縮放。而且能夠在緊鄰計算內核的地方提供最大1 GB的片上SRAM，面向AI加速提供高達123 TB/s的存儲器帶寬。通過消除GPU架構和基于GPU的架構所特有的存儲器瓶頸與批次大小限制，分析加速器能夠為Resnet50提供高達每秒13 000幅圖像的處理速度。

盡管消費者和企業界越來越重視數據的價值，客戶也越來越依賴于即時服務交付，但復雜性、計算強度和帶寬耗用正成為瓶頸。ACAP將高效的分布式異構計算引擎與高速互聯融為一體，以滿足飛速增長的性能需求。通過綜合運用硬IP、預先構建的創新型連接外殼程序、可編程邏輯架構和軟件可配置資源，ACAP器件不僅能夠助力提升性能，還能簡化設計，同時提供面向未來的靈活性。