Fortran程序CUDA并行化總結

段紅英

摘 要：雖然Fortran常用來進行科學計算，但是面對計算量大的程序仍然很耗時。通常人們用MPI進行粗粒度的并行來提高程序的運行效率，近年來隨著GPU計算能力的提高，將程序進行細粒度GPU并行化成為一種趨勢。文章基于NVIDIA公司的CUDA框架，就Fortran程序向CUDA移植過程中的一些問題進行總結，并給出了相應的解決方案。

關鍵詞：Fortran ；C；CUDA；Fortran程序

中圖分類號：TP311 文獻標識碼：A 文章編號：2095-1302（2015）11-00-02

0 引 言

Fortran是常用的科學計算語言，其突出的特性就是能實現自然描述且描述接近數學公式，有較好的執行效率，但是由于在計算流體力學、現代醫學影像、分子動力學等領域的模擬中，存在大量的程序計算，仍然耗時很多，有的計算需要幾天甚至幾十天才能完成。為了提高程序的計算效率，我們將Fortran代碼并行化。通常人們用MPI進行粗粒度的并行來提高程序的運行效率，近年來隨著GPU計算能力的提高，將程序進行細粒度GPU并行化成為一種趨勢。

CUDA是NVIDIA公司推出的一種用于 GPU 高性能計算的軟硬件架構，它是對C語言的擴展。在其編程模型中，CPU作為主機（Host）端調度整個程序，GPU作為計算設備（device）對計算量大、數據并行性強的程序并行處理。運行在GPU上的并行計算程序稱為kernel，其必須通過__global__函數類型限定符定義，由host端程序調用啟動。

Fortran程序CUDA并行化的完成一般分為編碼、編譯、測試、優化幾個階段，以下從這幾個方面分別進行總結闡述。

1 編 碼

在編碼階段，Fortran程序CUDA并行化即為Fortran→C→CUDA的過程。

1.1 Fortran→C的轉化過程

從Fortran到C的轉化過程，只需要在掌握二者語法的基礎上，逐行翻譯即可，但翻譯工作中需要注意以下細節。

（1）數組

C語言中數組的起始編號為0，而Fortran的默認起始編號為1，但也可以用（idx1：idx2）的方式自己定義，這就需要我們把程序中的每個數組變量的定義弄明白，翻譯時對默認定義的數組標號減1，非默認定義的，則用[i-idx1]來計算實際標號。

其次是多維陣列。雖然C和Fortran中所謂的多維陣列都是一個連續的一維存儲空間，但是它們對于行列的分割卻相反。如圖1（a）和圖1（b）分別給出了C和Fortran對于數組a[3][2]各自的數組分割方式。由此，我們在翻譯過程中定義和使用多維數組時都須將數組的行列轉換。如a（3：2）變為C時應為a[2][3]，對應圖1（b）。

（a） C語言數組分割圖 （b）Fortran數組分割圖

圖1 不同數組的分割圖

（2）函數參數傳遞

Fortran中函數調用時一般傳遞的是參數的內存地址，而C既可以進行值傳遞，也可以進行地址傳遞，一般需要返回多個參數值時用地址傳遞。在翻譯中，為了方便，所有函數都采用地址傳遞。

（3）函數重載

在Fortran中為了共享數據的方便一般會用common，如下例所示，Fortran代碼為：

Integer：：I，j，k

Integer：：kk（3）

COMMON/test/I，j，k

用C表達，需要用以下的方式：

int I，j，k；

int kk[3]；

int*test[3]={&I，&J，&K}；

即把變量的地址連續地存儲到一個數組中。在函數參數傳遞時，在Fortran中調用addkt函數就可以傳遞數組kk，也可以傳遞test，代碼如下：

subroutineaddkt（ kd， kt ）

Integer， intent（inout） ：： kd（3）

但是在C語言中要傳遞以上兩種參數就出現函數重載問題（一個為一維數組，另一個為二維數組），但對于過程化語言C則沒有該功能，我們只能把函數addt定義為addkt1（int *kd，intkt）和addkt2（int *kd[]，intkt）兩個函數。

1.2 C→CUDA的轉化過程

CUDA是一種數據并行性而非功能并行性的并行計算解決方案。在C到CUDA的轉化過程中，最關鍵的就是分析整個程序，找到最耗時的代碼部分，分析整個的可并行性，在對整個物理過程理解的基礎上，進行算法設計，然后并行化。

以核物理中的蒙卡輸運程序為例，蒙特卡羅（MC）方法采用隨機方法模擬物理過程，應用數理統計獲取計算結果的計算方法。蒙卡的整個輸運框架如圖2所示，其中，n為粒子編號，N為粒子總數。由于每個粒子輸運過程相對獨立、粒子間通信量少、循環次數多，因此，可以一個粒子對應一個線程來并行。

圖2 蒙卡輸運框架

當然，若是有對程序足夠的理解，并且Fortran和C都很精通的情況下，則可以直接將Fortran程序CUDA并行化。

2 測 試

我們借助GDB調試工具，將測試過程分為由下到上，和由上到下兩步。首先，由下到上的對單個程序逐級測試；然后，根據程序寫出多種輸入參數，由上往下整體測試。

判定程序正確的方法就是此程序有相同的輸入和輸出，有隨機數的程序會給我們的測試帶來很大的困難。如上面提到的蒙卡輸運程序，我們既要保證程序中輸運過程的隨機性，又要通過測試保證程序的正確性。一般大家會想到產生一個很大的隨機數文件，分別讀入到Fortran和C程序中，此方法可行，但是在粒子數很多的情況下，效率很低。文章就此問題提出了很好的解決方案，此處不再詳細解述。

2.1 Fortan→C測試

對于變量少的程序，我們只需要手動打印出需要檢測的變量值進行對比，但是對于有幾千個全局變量的計算程序，逐一手動輸出效率會很低。因此我們首先要找到程序中用到的全局變量，然后根據這些變量書寫main函數測試。這個問題我們可以借助Perl、Shell等腳本語言完成。其步驟如下：

（1）人工找到程序中所有的全局變量，其類型，維數，每一維的長度按照某種格式寫到文件A中；

（2）人工找出程序中的所有程序、子程序及函數的名字，寫到B中；

（3）書寫腳本，根據文件A，在所要測試的Fortran程序的初始化部分，打印出所有全局變量的值，作為C程序的輸入；在所要測試的Fortran程序結束之前，打印出所有全局變量的值，作為判斷C程序的標準；

（4）書寫腳本，實現初始化函數，即給C語言的變量初始化；

（5）書寫腳本，實現讀入Fortran的輸出值，判斷C程序的正確性。

在具體的腳本實現過程中，需要對Fortran語法詳細分解，如一個程序可能有多處結束，而在每個結束前都需要輸出打印。為了方便，同時打印出變量的類型、維數及每一維的長度。

2.2 Fortan→CUDA測試

CUDA程序的測試并不像C程序的測試那樣簡單，因為由于算法原因，在功能不變的情況下整個程序可能會被打亂，甚至對變量數組進行排序，由于原來的數組會打亂，致使不能用GDB調試工具進行對比，并且無法定位錯誤或者判斷計算中的正確性。雖然程序及數組順序亂了，但是程序的功能不會變，并且在相同功能的地方這些數組之和不會變，所以我們可以在功能相同的地方對數據之和進行對比。

3 結 語

面對科學計算中串行程序的瓶頸，我們需要應用并行化方法來解決，本文就Fortran向基于CUDA架構的GPU移植過程中所遇到的一些問題進行總結。當然為了更高的計算效率，可以對初步的程序優化。

參考文獻

[1]龔春葉.面向異構體系結構的粒子輸運并行算法研究[D].長沙：國防科學技術大學，2011.

[2] NVIDIA.CUDA C PROGRAMMING GUIDE[Z].2012.

[3] Stephen J.Chapman. Fortran 95/2003程序設計[M].劉瑾，龐巖梅，趙越，等，譯.北京：中國電力出版社，2009.

[4] Jason Sanders，EdwardKandrot.GPU高性能編程CUDA實戰[M]. 聶雪軍，等，譯.北京：機械工業出版社，2011：43-68.

[5] Randal L.Scbwartz，TomPboenix brain d foy. Perl語言入門[M].盛春，蔣永清，王暉，譯.南京：東南大學出版社，2007.