楊潔 蔣志剛 孫麗君
摘要:隨著科技的進步,特別是近年來以深度學習為代表的算法研究的飛速發展,微積分在深度學習的算法設計以及理論推導過程中的重要性尤為凸顯。本文主要研究深度學習中的高等數學基礎,并在此基礎上提出如何在教學過程中引入深度學習思想,把一些深度學習的學術前沿問題滲透給學生,提高其數學興趣,培養科研能力。
關鍵詞:深度學習;高等數學;科研思想滲透
中圖分類號:G642.0 ? ? 文獻標志碼:A ? ? 文章編號:1674-9324(2019)18-0169-02
學生科研能力的培養,不僅需要傳統教學模式的改變,還需要把科研意識引入到課堂教學過程中。在對學生的數學基礎進行后,把有關深度學習的學術前沿問題的信息及時傳授給學生,消除高等數學就是用來敷衍考試的消極思想,以拓寬視野,提高對數學的興趣,培養科研能力。
但是根據本人與學生的交流發現近七成的工科類學生,甚至是部分工科教師還沒能認識到學習高等數學的重要性,特別是其應用方面的重要性。事實上,隨著深度學習算法研究的不斷前進,高等數學在此領域的運用已經勝于講義的理論常識了。例如,在講授方向導數與梯度這一節內容時,通過瞎子下山這樣一個簡單的實際應用問題引出深度學習的代表性算法之一的梯度下降法,不僅調動起學生的聽課積極性,而且使其明白高等數學在深度學習中起到的基礎性作用。
最近幾年深度學習技術逐步成為了最熱門的技術,大多數在校生(不僅軟件工程師、計算機方向)都嘗試過做一些深度學習方面的學習和實踐。但是很多人在學習深度學習的第一步就被高等數學這只攔路虎給擋住了,繼而很多人就調轉方向,遠離深度學習這個熱門而又神奇的人工智能技術。因此,將高等數學中深度學習所涉及的內容進行整理,并在學習過程中滲透深度學習的思想,使得學生有能力和興趣自學深度學習算法,對他們的就業也起到一定的積極引導作用。
一、深度學習的高等數學內容總結與歸納
深度學習經過近幾年的飛速發展,學生對這一名稱已經不再陌生,但是其用到的具體高等數學內容卻沒有系統的綜述。事實上,幾乎每個現有的深度學習算法都會用到我們的教學內容。例如,函數與極限、導數與偏導數、微分與積分、單調與凸函數、方向導數與梯度等。我們計劃對一些熱門算法進行系統的梳理與總結,找出相對應的教學知識點,以便授課或個別感興趣的學生查詢使用。例如,著名的向后傳播(BP)算法的權值更新量:
在計算此量時用到了多元函數求偏導,而且此公式也是從梯度這一概念中引申出來的。
在此過程中的主要問題是,事實上,深度學習的每個算法都不是單一的數學問題,不僅涉及高等數學,而且同時設計線性代數、概率論等綜合內容。因此,很難清晰分析算法中的高等數學內容點,只能與其他課程相結合。例如,在學習利用雅克比行列式計算多元函數的偏導數時,首先補充學習線性代數齊次方程組的解,然后在課堂教學中簡要描述相片壓縮技術以及數據稀疏化在深度學習中的基本原理與重要性。
二、適當壓縮書本內容,引入深度學習的前沿
高等數學均安排在大學一年級,大學生進入大學最先接觸到的數學課就是高等數學。傳統的課堂教學為了提高學生的計算與邏輯推理能力,只講解高等數學知識點與習題。這樣的教學模式往往使學生迷茫,高等數學這么難學,它到底有什么用?事實上是教學內容與實際應用的嚴重脫節。因此,在課堂教學過程中本人講完知識點與例題后會介紹此知識點在深度學習中的應用。不僅學生對此知識點產生了濃厚的興趣,而且使得對此知識點印象深刻,容易記憶。
例如在學習完導數這一概念后,介紹了深度學習算法中的誤差向后傳播(BP)算法,讓他們明白導數這一基本概念在算法的設計與收斂性推導中起了非常關鍵的作用。不僅如此,還讓學生思考如何能跳出局部極小,已達到思維拓展的目的。通過這樣的學習方式,學生深刻體會到了導數在前沿科研中的應用,不僅激發了他們的學習興趣,而且達到了科研思想滲透的目的。
在高等數學內容中介紹科研前沿問題的例子在教學過程中還可以找到很多。例如,在學習極限的概念時,先介紹了神經網絡的能量函數是如何趨向于0或者穩定值的,并實際演示了一個科研案例。逐步引導學生對極限這一概念的印象以及極限這一基本概念在現代科研中依然起著重要的基礎作用。這種引入科研實際問題演示的方法,初步培養了學生的科研興趣,得到了同學們的認可。
三、優化教學過程,引入深度學習網絡模型
事實上,高等數學的許多概念和方法本身就是從實際應用中獲得的,因此有很強的實際背景,而深度學習的各種網絡模型本質上就是模擬人類思維進行數學建模的過程。通過引入網絡模型來引導學生積極主動地參與課堂教學,掌握學習方法,真正成為學習的主體。例如,在學習極值這一部分時,圍繞函數的極值必須熟練掌握這一教學目標,簡單介紹了神經網絡方法,引導學生通過迭代方法逐步逼近函數的極值,使學生在教學過程中始終保持積極的學習心理狀態。因此學生靈活地掌握了極值的基本概念、基本原理以及基本方法,同時這種教學方法也可以看作是一個簡單的科學研究過程,為以后的科學研究工作打下良好的基礎。
不僅課堂上鼓勵學生積極思考高等數學在深度學習中的應用,課間休息時還鼓勵學生積極討論,尤其是對深度學習感興趣的學生,對其進行啟發性的科學思維培養。同時,利用本人的科研成果展現深度學習中的高等數學理論推導過程,讓學生對這一科技前沿問題有較深的印象。例如,利用多媒體向學生展示了卷積神經網絡處理圖片的過程,并展示了部分收斂性推導,取得了很好的教學效果,學生的學習積極性明顯提高。
四、結語
深度學習是用層層迭代的深度網絡對非結構數據進行抽象表征,這不是平白過來的,這是優化出來的,用比較通俗的話說就是調整參數。而整個調整參數的基礎,都在于優化理論,優化理論又是以多元微積分理論為基礎的。這就是學習微積分對于深度學習非常重要的根源。如果說線性代數和概率論是深度學習的語言,那么高等數學就是其強有力的理論工具。
我們希望通過研究高等數學在深度學習中的重要性,結合本人的科研經歷,有機結合高等數學的傳統內容與學術,充分發揮科研教學結合的優勢,把教師科研過程中的一些前沿問題所涉及到的微積分問題通過淺顯的描述滲透給學生,讓學生對微積分這門基礎課產生濃厚興趣,有效提高教學質量和效率,達到最佳的教學效果,同時拓寬學生視野,提高對數學的興趣,培養科研能力。
參考文獻:
[1]孫志遠,魯成祥,史忠植,馬剛.深度學習研究與進展[J].計算機科學,2016,43(2):1-8.
[2]趙向奎,孫玉華,廖福成.科研思想在高等數學教學中的滲透[J].中國冶金教育,2010,(6):33-35.
[3]連坡.高等數學課堂教學的思考與探索[J].高等數學研究,2011,14(2):45-47.
[4]李斌.高職院校高等數學課程教學改革的實踐與探索[J].滁州學院學報,2011,13(2):85-87.
[5]孫麗潔.關于高等數學課程教學改革的幾點探索與思考[J].新教育時代電子雜志:教師版,2015,(35):63.
[6]王素華,張寧,趙童娟,李富江.高等數學課堂教學中激發學生學習興趣的策略探索[J].產業與科技論壇,2016,15(17):220-221.
Abstract:With the progress of science and technology,especially the rapid development of the algorithm research on deep learning,the importance of the application of calculus is particularly prominent.This paper mainly studies the basis of calculus in deep learning,and on this basis,how to introduce deep learning ideas into teaching is presented to infiltrate some advanced academic problems into students and then improve their interest in mathematics and cultivate their scientific research ability.
Key words:deep learning;calculus;scientific research penetration