OpenPOWER+CAPI實現第二代分布計算

摘要：本文介紹了CAPI技術，并給出基于CAPI應用的三個案例。本文網絡版地址：http：//www.eepw.com.cn/article/281881.htm

關鍵詞：CAPI；CPU；FPGA

DOI：10.3969/j.issn.1005-5517.2015.10.005

1.向第二代分布計算演進

最早的時候計算機系統單任務的，隨著數據量的增加，單計算任務的處理能力已不足以滿足人們日益增長的需求，所以計算機系統逐漸演進到多任務的計算環境，同時有多個CPU運行（圖1），這就產生一個訪問內存中的數據，數據的一致性是要急需解決的問題。那么什么是數據一致性的問題呢？當一個CPU對一個數據進行操作之后，另外一個CPU需要拿到正確的數據。

在系統里面，電腦是用硬件來保證數據一致性，同時保證另外一個線程在讀取數據的時候能讀取到正確的數據。如圖2所示，圖2中有6個CPU核，每個CPU核都有自己的緩存，他們共享了一個更大的主存。圖2展示第一個POWER上面的嶄新的應用，要對地址為1000的應用進行操作。第一個應用會把這個地址為1000的數據從主存里面讀到自己的緩存上面，并且對它進行修改，比如把它修改成綠色，有另外一個應用跑在了第三個CPU核上面，它也是讀取地址為1000的數據，應該期望的是它讀到的是綠色的數據而不是原來白色的數據。同樣第三個核上的應用會把這個數據進行改寫，比如改寫成紅色，這時候如果還有另外一個應用跑在了第四個第五個核上面的應用，它也會去讀取這個數據，也應該期望它能夠讀到紅色的數據，這背后都是由一個內存通知器硬件來幫軟件完成這些數據的一致性，保證它們讀到的數據都是最新的數據。當計算機系統從一個單CPU系統進化到多CPU系統的時候，它的性能功耗比其實是在下降的，所以現在可以用這樣的系統處理更多的數據，比如在線交易業務、企業ERT業務、數據庫業務等。

隨著互聯網的普及，數據量比以往更多。對于系統來說需要更強的硬件計算能力，來處理更多的數據。常見的解決方案是在CPU核上，開辟更多個硬件的線程，用這些線程來提高其處理能力，來幫助它對I/O端口過來的數據進行更好的處理，同時加入了GPU和FPGA，使用這些硬件來幫助系統處理數據（圖3）。但是傳統上GPU和FPGA都是以I/O設備的形式掛載在這個系統上面，為了使用I/O設備，需要提高技能，如編程人員需要學習硬件知識，需要懂得內核的人為I/O設備進行驅動的開發，同時由于它們是I/O設備，沒有和CPU共享內存，所以需要內核代碼幫助他們做數據傳輸。擺在面前的另外一個難題就是半導體技術的性價比不再持續增長，現在已經到了一個拐點，不能依賴于半導體技術的增長使系統更快更強，需要從硬件還有固件、操作系統、設備應用等多角度考慮，尋求一個更好的解決方案。

為了解決這種需求，現在引入FPGA使用CAPI（相干加速器處理器接口）接入系統更快更好地處理數據。隨著移動互聯網的發展，這樣數據會比以往更多，所以我們需要硬件來幫助系統處理數據。當然整個系統不是IBM提供的封閉系統，雖然IBM也有一個192線程的機器，再加上FPGA的板卡，但是IBM沒有提供這樣一個封閉系統，相反IBM會有更多的合作伙伴，比如中太數據的服務器、NVIDIA的GPU、賽靈思的FPGA芯片、恒揚的FPGA板卡解決方案，還有Ubuntu的操作系統解決方案、三星提供的存儲解決方案。以一個合作伙伴的形式，向更多的企業提供應用，提供服務。

CAPI可以使FPGA連接到系統上面（如圖4），通過在FPGA上面內嵌了一點處理邏輯，使FPGA上面的硬件可以和CPU線程共同共享一段虛擬的地址空間，在CPU上的線程會產生數據，同時也會產生一個任務隊列，隊列可以定義指導FPGA上面硬件如何對數據進行操作。在新一代的系統里面，允許FPGA硬件和CPU上面軟件共享虛擬的地址空間，并且它們的一致性是由硬件來進行維護。通過一個調動CPU上的軟件可以觸發IPA硬件去任務隊列里面獲取任務的描述，然后FPGA通過共享的存儲空間來讀取內存上面的數據，并產生結果，這些結果和數據都可以被CPU上軟件直接訪問的。IBM已有系統是工作在這樣的模式。用CAPI技術不再需要面對之前麻煩，但是因為FPGA軟件員不需要再去了解具體的硬件是如何工作，FPGA工作在協處理器的模式共享內存。

圖5是一個OpenPOWER的機器，在紅色的兩個圈子里是兩個POWER8的處理器模塊，綠色的地方是可以插兩個CAPI板卡的地方。

2.解決方案的案例

CAPI可以在哪里應用呢？向大家介紹三個案例，癌癥的治療方案、銀行欺詐的檢測、零售業水平的分析。

2.1癌癥治療方案

醫生可以把一些藥物注入到癌細胞里面，癌細胞吸收了藥物之后就有可能被治療，看上去也非常好，但是有一個問題，當癌細胞多了以后，很難區分跟正常機體的區別，所以導致藥物有可能誤傷。為了讓治療更加安全高效，醫生需要模擬這種藥物在人體生效的過程，傳統理念針對一個人需要模擬大概兩周的時間，給病人制定一個最佳的治療方案。現在，為了模擬這種情況，使用一種叫做FullMonte蒙特卡羅模擬的方法，模擬光子在吸收前在體內的散射情況，對這種行為進行建模并且進行模擬。在蒙特卡羅模擬里面（圖6），每個光子大概需要1000多次循環，模擬它在人體中的飛行，同時會有更多的光子需要在并行的被模擬，通過CAPI接口使用FPGA硬件來對這樣的行為模擬。現在已經可以通過FPGA加速大大縮短時間，兩個小時就可以完成這樣的模擬，如果使用傳統的計算機結構再加上PCI的FPGA，可以獲得比軟件快4倍的能力，如果使用CAPI再加上POWER8機器的話，可以獲得64倍性能的提升。

2.2銀行欺詐檢測

開戶的時候，在身份證或者護照上都會有照片，還有文檔上會寫地址等信息，拿著身份證或護照信息來到銀行，就可以開戶。這個問題就在于如果這個人使用同樣一張照片但是用不同的名字，他可以去到另外一個地方的另外一家銀行，可能會開一個新的賬號，如此反復他就可以用不同的身份去開更多個帳號。銀行解決這個問題的唯一辦法就是因為他們會使用同樣一張照片，銀行可以對這些照片進行存儲，這樣銀行會有存儲數百萬張人臉的照片。

使用CAPI，可以實現一個訓練的引擎，神經網絡還有視頻等算法把這些圖片變成一個數據庫。使用這樣的方式可能在很短的時間內從數百萬張照片里匹配出一個指定的人臉。這樣當有一個新用戶來到銀行的時候，他就可以把新用戶的臉形跟所有數據庫里面數百萬張照片進行匹配，可以發現他是匹配還是不匹配。在系統里使用CAPI，它不是以I/O設備存在這個系統，而是像一個協處理器之間來處理數據，軟件線程只需要做一些初始化的設置，然后全部的計算任務都交給CAPI上面的加速器來進行計算（圖7）。

2.3零售業視頻分析

還有另外一個例子，把安全攝像頭系統接入到CAPI系統上面，CAPI系統可以實時地對視頻上面的各種目標進行識別，比如你可以查詢在某一個時間段之內有多少藍色的汽車停靠。可以使用人臉識別對人的表情進行識別，比如識別這個人高興、傷心還是意外，通過對臉的表情進行訓練的話，可以迅速對一個實時的人臉進行識別。還可以展示另外一個場景，推著這個購物車的時候可以對貨架上的商品進行識別。當推著這個購物車在貨架前走過的時候，通過實時的視頻分析，可以知道哪個貨架上已經缺貨，貨品已經被賣光了，或者通過視頻分析得知某一件商品被放到了不應該被的位置上面，同時結合前面介紹的人臉分析，當一個人把東西從貨架拿起來的時候，可以知道他是否滿意商品，假設他把這個商品放到購物車里面，可以知道這個人對這個商品很滿意，同時如果識別出他對這個貨品并不感興趣，把這個物品又放回到貨架上面，那就會知道這個人對這個貨品并不滿意。但是可以通過給他更高的折扣來吸引他。想象一下SV可以通過這樣一個場景來幫助這樣的零售商做更好的客戶開發。