“互聯網+”時代下的GPU 體系結構教學改革研究
——《計算機組成與系統結構》課程的創新設計

張荔哲，劉 凱，張亞杰

（西安電子科技大學 計算機科學與技術學院，陜西 西安 710071）

一、引言

計算機專業本科生的基礎課程具有拓展學生學科理論和提升學生科研素養的作用。通常此類課程理論與實踐結合密切，對學生數理邏輯能力要求較高?？紤]到課程內容的深度和廣度，傳統上主要采取教師課堂授課、學生到課聽講和課下完成作業的教學模式。但這種模式過于注重知識的垂直灌輸，以致學生興趣不足、專注度不高且獨立思考和自主學習時間過少。此外，本課程考核形式也比較單一，通常以期末閉卷筆試為主，教材內容老舊過時，以《計算機組成與系統結構》課程為例，極少包含GPU（圖形處理器）相關內容，教師基本不講授GPU 體系結構知識。盡管部分高校在教授GPU 內容，但僅停留在表面概述，沒有對GPU 內部系統結構和計算模型進行全面且深入的研究。GPU 相較于中央處理器（CPU），主要在以下類型的程序中有著更高的效率：計算密集型的程序，即大部分運行時間集中在寄存器運算上；易于并行的程序[1]。GPU 越來越多地應用在并行計算、高性能計算、數據挖掘、深度學習和人工智能等領域。學生在課程中不能系統地學習到GPU 體系結構知識會導致在這些領域中遇到學習障礙。為進一步提升計算機專業本科生的培養質量，本科生基礎課程的教學改革與創新非常必要。如何將教學內容現代化、將學習方式多樣化、將考核評估多樣化，是擺在本科生基礎課程教學改革面前的難題。

國內外高校已開始對本科生基礎課程的教學模式開展改革探索[2-5]，在教學過程中注重引導學生學習方法和思維的轉變[6-7]，同時結合課程特點圍繞教學內容和教學方法進行了初步改革探索[8]。不過在課程內容、教學模式、考核方式和挖掘學生個性化以及成效等方面，相對于教學改革的既定目標仍有較大差距。西安電子科技大學《計算機組成與系統結構》教學組在過去的幾年內積極探索高等院校計算機專業本科生基礎課程教學改革的思路和方法。本文總結了該課程教學組在改革實踐中的經驗體會，從規劃教學內容、設計教學模式和完善考核體系等多個維度提出創新性優化方案，以達到構建計算機專業本科生專業知識體系和提升學生科研創新能力的教學目標。

二、課程背景及開設情況

《計算機組成與系統結構》及其相關內容在計算機系統中的位置是至關重要的。傳統課程中相關的計算機硬件內容包含：算數邏輯運算器、內部存儲系統、指令系統、中央處理器、流水線技術與指令級并行系統、總線與輸入輸出系統和并行體系結構。這些硬件由操作系統進行管理，同時，高級語言的源代碼經過編譯器（Compiler）編譯產生目標程序代碼，目標程序代碼也直接運行在這些硬件平臺上。因此，《計算機組成與系統結構》課程教學內容不僅包括計算機硬件的各部件及它們的互連互通和指令系統等，還與計算機操作系統、編譯原理、微型計算機原理與接口等課程與技術密切關聯，對于學生全面地理解計算機系統的結構層次，系統地形成計算機整體概念，掌握計算機硬件系統的應用、分析、設計以及開發能力，都起著不可或缺的重要作用。所以，這部分內容是計算機系統的核心內容，自然成為計算機相關專業的重要基礎課程。

圖1 是美國加州大學伯克利分校2011 年“Computer Organization and Architecture”課程的設置情況[9]。從圖中可以看出，在這門課程的教學內容中，加州大學伯克利分校在保留了傳統教學內容的同時，也在FPGA 的硬件設計能力方面加強了培養。同時，還對并行體系結構的相關內容加深了教學。

圖1 美國加州大學伯克利分校關于《計算機組成與系統結構》的課程設置

圖2 是中國科學技術大學2012 年本門課程的課程設置情況[10]。如圖所示，中國科學技術大學在本科教學中加強了中央處理器設計能力的培養和操作系統的相關知識，但還未引入GPU 體系架構、并行體系結構、高性能計算設備等相關課程內容。

圖2 中國科學技術大學關于《計算機組成與系統結構》的課程設置

為了總結各大高校本類課程的設置情況，有研究對MIT、Stanford 等多個美國著名大學和清華大學、國防科技大學等國內知名高校在相關課程方面的教學情況進行了分析[11-13]。在計算機組成等相關課程中，以上大學以及我校在教學思想、教學概念乃至教學內容都有著大量相似之處，都是處在計算機系統的角度描述計算機組織體系結構及硬件的設計思想和結構，都以典型的數據編碼、存儲系統、指令設計及其系統、中央處理器和流水線技術為核心內容，加強學生對并行體系結構等知識的掌握，鼓勵學生通過多種途徑在課下自主學習，強調引起學生興趣和培養動手實踐能力。

通過對這些國內外權威高校相關課程的教學理念、教學思路和教學內容進行分析，結合本校近年來在該課程上的教學實踐，對教學方法進行了深入研究，提出引入GPU 體系結構教學內容及采用基于MOOC 的“互聯網+”教學方式的教學改革，并在《計算機組成與系統結構》課程教學中進行了實踐與研究。

三、教學內容改革實踐

1.GPU 介紹

GPU 是一種專門在PC、服務器、游戲主機和智能手機、平板電腦等小型移動設備上進行圖形計算工作的擴展微型處理器。在個人計算機中，GPU 可以集成于顯卡上或嵌入在主板上?，F如今GPU 已經不僅限于處理圖形渲染，GPU 通用計算技術作為在CPU 計算之后的新一代計算技術已經在計算機行業內引起大量關注，在并行計算、幾何運算和浮點數計算等方面，GPU 可以提供比CPU 高出十倍甚至百倍的算力，所以GPU 越來越多地被應用在并行計算、高性能計算、深度學習、神經網絡和人工智能等領域。

GPU 與CPU 設計處理計算任務的目標是不一樣的，導致兩者的整體結構有很大區別。具體來說，CPU 是一種低延遲的設計（如圖3 所示）：①CPU 有強大的ALU，時鐘頻率很高；②CPU 的容量較大的cache，一般包括L1、L2 和L3 三級高速緩存，L3 可以達到8MB；③CPU有復雜的控制邏輯，例如：復雜的流水線、分支預測和亂序執行等，這些設計使得真正進行計算的算數邏輯單元（ALU）只占據很小一部分片上空間。

圖3 中央處理器（CPU）體系結構

而GPU 是一種高吞吐的設計（如圖4 所示），具體來說：①GPU 有大量的算數邏輯單元（ALU）；②緩沖區（caches）很小：緩存的目的是為線程提高服務，而不是保存后面需要訪問的數據；③控制邏輯簡單，沒有分支預測等這些組件。GPU 需在有限的面積上實現超強的運算能力和極高的存儲器帶寬，因此有大量的執行單元去運行更多相對簡單的線程。

圖4 圖形處理器（GPU）體系結構

總體來說，CPU 擅長處理邏輯復雜、要求低延遲的計算任務；而GPU 擅長的是大規模數據集的并行計算（data-parallel）任務。

2.引入GPU 教學的必要性

（1）浮點計算能力強。GPU 相對多核CPU 在系統結構設計上有本質的區別，GPU 設計目標是為解決復雜的浮點計算。作為眾核協處理器的典型，GPU 上一個warp的32 個線程由一個控制器控制，同時處理同一條指令。這種設計為GPU 提供了超強的浮點計算能力，從而使得這種異構系統在超級計算機領域表現突出。

（2）超高性價比。在CPU/GPU 異構系統中，多核CPU 在提供256 位寬向量處理的基礎上，主要負責復雜的邏輯處理，而眾核GPU 協處理器的設計目的是高速進行浮點運算，特別是雙精度浮點計算。由于多核CPU和GPU 設計理念不同，故在內部結構和組件成本方面存在著明顯差異。GPU 在設計時避免或減弱了類似分支處理、邏輯控制等與浮點計算無關的復雜功能，專注于浮點計算，因此在制造成本上有著巨大的優勢，眾核GPU 協處理器僅需要十分之一的成本即可達到與多核CPU 同等的浮點運算能力。

（3）綠色功耗比。GPU 集成了大量的輕量級微處理器單元，這些處理單元功能簡單（僅用于浮點運算）、時鐘頻率有限，能最大限度降低所消耗的功率。比如NVIDIA Tesla K20c GPU 在休眠狀態僅需15 瓦左右功耗，其滿載運轉時功耗約為150 瓦，能提供超過2Tflops單精度浮點運算能力；而Intel Xeon Phi 31S1P 協處理器在低功耗狀態的能耗為100 瓦，在滿載運行提供2Tflops單精度浮點運算能力時需要250 瓦供能。因此GPU 比MIC 在能耗上更有優勢。

（4）普及度廣。部分GPU 產品（顯卡）已經裝備于許多設備上，用于科研、實驗、工程、娛樂等。購置新GPU也十分便捷。GPU 產品擁有完善的商業體系，其產品價格區間大，無論經濟實力好壞，都可以購買到合適的GPU來搭建編程平臺。

另外，從計算機組成與系統結構的并行計算領域來說，該領域存在以下幾個重大問題：存儲小、功耗大、編程難和不平衡的計算機科學生態系統。GPU 提供了程序員可控制的層次式存儲，在一定程度上突破了存儲問題；GPU 的低功耗優勢在一定程度上解決了功耗大的問題。GPU 并行體系結構設計可以充分發揮CPU/GPU 異構系統和GPU 的集群性能，真正扭轉計算機科學生態系統“重軟輕硬”的不平衡。

所以，無論從當前業界需求，還是未來計算機技術的發展來看，在本科生《計算機組成與系統結構》課程中引入關于GPU 的內容并重點講授都十分必要。同時，掌握GPU 各類系統架構知識和其相關通用計算標準，能為本科生在研究生階段學習神經網絡和深度學習等知識打下牢固基礎。

3.規劃課堂教學內容

基于《計算機組成與系統結構》課程的教學改革，引入GPU 硬件系統架構教學內容。主要包括GPU 架構、kernel函數的GPU映射、GPU存儲體系、GPU計算能力、CPU/GPU 異構系統、GPU 組成相關實驗和典型GPU介紹。通過這六個方面的教學可以使學生對GPU 硬件體系有一個整體的認知。

（1）GPU 架構：對英偉達主要的5 類不同架構的GPU產品架構進行教學。分別為：特斯拉（Tesla）架構、費米（Fermi）架構、開普勒（Kepler）架構、麥克斯韋（Maxwell）架構、帕斯卡（Pascal）架構。不同GPU 架構的設計理念、流程層次和工藝水平等均不相同，相應的內部體系結構和性能也不一致。學習這五類架構可以認識到GPU 浮點運算高性能的原因。

（2）GPU 存儲系統：GPU 存儲系統是影響其程序性能最關鍵的因素之一。GPU 采用了清晰的分層存儲設計，可以用于優化程序性能，分層存儲結構系統的使用是性能優化的關鍵。

（3）GPU 計算能力：即GPU 架構及其所支持的功能。隨著GPU 架構的發展，GPU 支持的功能也越來越多，計算能力版本也從1.0 升級至6.0，提高了計算性能、統一了存儲空間、擴展了原子操作等。這個模塊將講述GPU的浮點計算能力、訪存帶寬、通信帶寬，以及如何使用GPU-Z、CUDA-Z 等軟件測試GPU 性能，分辨其真偽。GPU 的計算能力也是衡量GPU 質量的重要標準之一。

（4）CPU/GPU 異構系統：CPU 和GPU 各自有獨立的外部存儲器，CPU 負責邏輯性較強的事務處理，GPU 負責高密集度的浮點運算。當面對大量的數據時，CPU 處理事務，GPU 的高存儲帶寬發揮其強大的運算能力，故CPU/GPU 異構系統此類計算設備的計算能力可以明顯提高系統的速度，異構系統的應用越來越普遍，也是獲得高計算能力的途徑。

（5）GPU 組成的相關實驗：warp 是GPU 執行程序時的調度單位，sp（streaming processor）是GPU 最基本的處理單元，sm（streaming multiprocessor）由多個sp 及一些資源組成。進行warp 排程實驗需要對線程劃分塊，一個sm 僅會執行一個塊中的warp，當該塊執行完畢時才進行下一個塊的資源執行。只有合理劃分每個塊中的warp，讓GPU 將每個sm 都利用起來，才可達到高效率的目標，本實驗可以讓學生學會GPU 內資源的具體調度操作，同時可以學會如何分配線程塊的資源增加GPU利用率以提高效率。

（6）典型的GPU：截至2018 年，英偉達和AMD 控制了近100%的市場份額，各自的市場份額分別為66%和33%。在這個模塊介紹第一代GPU（GeForce 6800）和第二代GPU（GeForece 8800）的相關參數，及英偉達和AMD生產制造的經典顯卡設備型號、計算核心數、各級存儲容量、計算能力、時鐘頻率、grid 和block 網絡維度及ECC 錯誤校驗等參數。

四、教學方式改革實踐

1.“互聯網+”時代的多媒體技術

“互聯網+”思維可以應用于各類傳統教學方法中，在充分利用信息科技技術和平臺的前提下，將互聯網與傳統教學方式深度融合，為教育改革、創新、發展引入新的活力，提供寬廣的網絡平臺，增添便捷與效率?！盎ヂ摼W+”代表了一種新的教學形態，可以充分發揮互聯網在課堂教學、本科生教育中的優化和集成作用。

MOOC 是一種旨在通過互聯網廣泛參與和開放訪問的網絡課程。除了傳統的網絡課程材料，如視頻講座、PPT、練習題和線上測試，許多MOOC 還提供用戶論壇，以支持學生與學生、學生與教授之間的社區互動，以及對作業和測驗的即時反饋。MOOC 已經發展為一種廣泛的學習方式[14]。

2.MOOC 技術在GPU 結構教學中的優勢

對比傳統課堂教學，MOOC 具有許多顯著優勢，比如費用低廉、在線、開放等?，F如今很多課程教學均選擇通過MOOC 技術進行在線教學，大多數課程的目的是豐富教學資源，便于學生自主學習，降低教育成本。傳統課堂教學無法讓所有同學清晰地了解GPU 實物的系統結構，MOOC 通過將GPU 實物系統構造教學錄制為特寫視頻，提高學生對實物結構難點的理解，增加了MOOC 教學的優勢。搭建一個GPU 實驗室需要高昂的費用，而將GPU 服務器引入MOOC 教學可顯著降低教學成本且完成實驗教學。GPU 服務器是為其應用于視頻編解碼、深度學習、科學計算等多種場景提供的快速、穩定、彈性的計算服務，可以讓實驗者們了解到GPU出色的圖形處理能力和極致的計算性能。在GPU 體系結構MOOC 教學中加入實驗室搭建的小型GPU 服務器，可基本滿足《本科計算機組成與系統結構》實驗要求，突破成本的限制，再加上其豐富開放的學習資源，對學生更加友好。

基于MOOC 的“互聯網+”教學模式吸收了傳統課堂教學和網絡在線教學兩者的各自優點，是一種將兩者相結合的教學模式，比單純的線下教學或線上教學都具有優勢。

3.具體教學方式改革的探索

（1）線上網絡平臺教學

在《計算機組成與系統結構》課程開課前，教師將傳統線下課堂難以完成的教學內容制作成在線課程資源，上傳于學校互聯網教育平臺。改變傳統單一的圖片及文字PPT 教學課件模式，將GPU 實物教學放置于MOOC課程中，可以清晰詳細地講解真正的GPU 體系結構而非僅停留于書面及圖片，解決了傳統課程無法使每位同學均看清GPU 內部構造等問題。同時將GPU 相關實驗與傳統課堂教學中的應用相結合，將課程中的難點、重點引入多媒體技術中，將GPU 服務器運用于實驗教學，不僅解決了搭建GPU 實驗室費用高昂的問題，也使每位同學均可現實對顯卡使用的操作，切身體驗到GPU的高效。

（2）線下課堂教學

在本科生教育中，MOOC 教學僅是一種輔助教學工具，網絡端的教學方式不能取代《計算機組成與系統結構》的理論和實踐教學，而是將難以口述、不易理解的實物、實驗教學穿插于線下傳統課堂教學中。教師可將網絡教學平臺上學生的問題進行匯總，查看學生在平臺上的自學測驗結果，針對學生反映的學習困難內容在課堂上統一深入講解，著重解決。

（3）完善考核評估體系

合理有效的評價機制對于反映學生真實的學習效果有重要作用。相對于傳統課堂教學主要依據線下筆試成績，基于MOOC 的“互聯網+”教學模式需要一套更加多元的評價體系來準確反映學生的學習成績。評價體系應將隨堂評價和期末評價相結合。隨堂評價分為線上隨堂評價和線下隨堂評價兩部分，其中線上隨堂評價指標包括學生觀看線上課程完成程度、線上課程自學測試情況等，線下隨堂評價指標包括學生課堂出勤情況、隨堂測試情況等。期末評價同樣也分為線上實驗機試和線下筆試兩部分。多元的評價機制有利于學生形成良好和符合趨勢的學習習慣，提高學習質量。

五、改革預期成效及問題

通過對GPU 體系結構和計算模型進行全面且深入的教學，豐富了《計算機組成與系統結構》課程內容，拓寬了本科生的知識視野，為學生將來在并行計算、大數據、高性能計算、深度學習、神經網絡和人工智能等領域的科研和工作打下了基礎。

基于MOOC 的“互聯網+”教學模式為學生提供了一個開放、獨立的學習平臺，并促進了計算機網絡化教學，使教師學習、使用現代網絡科學技術的水平有所提高。為GPU 體系結構提供了一個便捷且成本低廉的教學方式，將傳統課堂上無法完成的實物、實驗教學改善，每位同學均可具體清晰地觀看且了解到GPU 是由什么部件組成且如何運轉的。為對于基礎薄弱的同學，可以多次觀看平臺上發布的視頻教程進行自主學習。對于學習能力強的同學，可以找到高階的課程，提高自己的能力。網絡教學平臺中可直接設置測試項目，教師可以隨時查看學生對知識的掌握。鼓勵學生充分利用線上教學資源，培養了學生獨立主動學習的能力，提高了學生《計算機組成與系統結構》課程的參與度，從而切實提升了學生學習計算機專業知識的能力，進而推動大學計算機學科教學發展。

但值得注意的是，將GPU 體系架構相關內容引入《計算機組成與系統結構》課程也會導致一些問題。目前GPU 通用計算領域主要采用英偉達公司生產的GPU 產品，產品的單個售價較高，導致學生自行學習成本較高，加之本科生人數較多，每位學生真正使用高性能GPU進行實操學習的機會有限，教學資源沒有CPU 普遍易得。且MOOC 教學存在一定的局限性，比如學生的課程完成率和真實完成度不夠高。由于MOOC 缺乏有效的監督，一些學習主動性不高的學生容易中途放棄，并且存在部分同學虛假學習的情況。

六、結束語

針對傳統《計算機組成與系統結構》課程教學內容落后和硬件類課程課堂教學方式成本高昂且受設備儀器、時間和地點限制的問題，本文引入GPU 體系結構教學內容并采用基于MOOC 的“互聯網+”教學方式，提高了計算機硬件系統結構的教學質量。同時采用了多元評價機制對學生的學習效果進行評價，激發了學生的學習熱情和學習興趣，培養了學生自主學習的習慣和能力，拓寬了本科《計算機組成與系統結構》課程的知識覆蓋面，為學生日后進行GPU 體系架構、高性能計算、數據挖掘和深度學習等方面的學術科研打下了堅實的基礎。