楊潔 蔣志剛 孫麗君
摘要:隨著科技的進(jìn)步,特別是近年來(lái)以深度學(xué)習(xí)為代表的算法研究的飛速發(fā)展,微積分在深度學(xué)習(xí)的算法設(shè)計(jì)以及理論推導(dǎo)過(guò)程中的重要性尤為凸顯。本文主要研究深度學(xué)習(xí)中的高等數(shù)學(xué)基礎(chǔ),并在此基礎(chǔ)上提出如何在教學(xué)過(guò)程中引入深度學(xué)習(xí)思想,把一些深度學(xué)習(xí)的學(xué)術(shù)前沿問(wèn)題滲透給學(xué)生,提高其數(shù)學(xué)興趣,培養(yǎng)科研能力。
關(guān)鍵詞:深度學(xué)習(xí);高等數(shù)學(xué);科研思想滲透
中圖分類(lèi)號(hào):G642.0 ? ? 文獻(xiàn)標(biāo)志碼:A ? ? 文章編號(hào):1674-9324(2019)18-0169-02
學(xué)生科研能力的培養(yǎng),不僅需要傳統(tǒng)教學(xué)模式的改變,還需要把科研意識(shí)引入到課堂教學(xué)過(guò)程中。在對(duì)學(xué)生的數(shù)學(xué)基礎(chǔ)進(jìn)行后,把有關(guān)深度學(xué)習(xí)的學(xué)術(shù)前沿問(wèn)題的信息及時(shí)傳授給學(xué)生,消除高等數(shù)學(xué)就是用來(lái)敷衍考試的消極思想,以拓寬視野,提高對(duì)數(shù)學(xué)的興趣,培養(yǎng)科研能力。
但是根據(jù)本人與學(xué)生的交流發(fā)現(xiàn)近七成的工科類(lèi)學(xué)生,甚至是部分工科教師還沒(méi)能認(rèn)識(shí)到學(xué)習(xí)高等數(shù)學(xué)的重要性,特別是其應(yīng)用方面的重要性。事實(shí)上,隨著深度學(xué)習(xí)算法研究的不斷前進(jìn),高等數(shù)學(xué)在此領(lǐng)域的運(yùn)用已經(jīng)勝于講義的理論常識(shí)了。例如,在講授方向?qū)?shù)與梯度這一節(jié)內(nèi)容時(shí),通過(guò)瞎子下山這樣一個(gè)簡(jiǎn)單的實(shí)際應(yīng)用問(wèn)題引出深度學(xué)習(xí)的代表性算法之一的梯度下降法,不僅調(diào)動(dòng)起學(xué)生的聽(tīng)課積極性,而且使其明白高等數(shù)學(xué)在深度學(xué)習(xí)中起到的基礎(chǔ)性作用。
最近幾年深度學(xué)習(xí)技術(shù)逐步成為了最熱門(mén)的技術(shù),大多數(shù)在校生(不僅軟件工程師、計(jì)算機(jī)方向)都嘗試過(guò)做一些深度學(xué)習(xí)方面的學(xué)習(xí)和實(shí)踐。但是很多人在學(xué)習(xí)深度學(xué)習(xí)的第一步就被高等數(shù)學(xué)這只攔路虎給擋住了,繼而很多人就調(diào)轉(zhuǎn)方向,遠(yuǎn)離深度學(xué)習(xí)這個(gè)熱門(mén)而又神奇的人工智能技術(shù)。因此,將高等數(shù)學(xué)中深度學(xué)習(xí)所涉及的內(nèi)容進(jìn)行整理,并在學(xué)習(xí)過(guò)程中滲透深度學(xué)習(xí)的思想,使得學(xué)生有能力和興趣自學(xué)深度學(xué)習(xí)算法,對(duì)他們的就業(yè)也起到一定的積極引導(dǎo)作用。
一、深度學(xué)習(xí)的高等數(shù)學(xué)內(nèi)容總結(jié)與歸納
深度學(xué)習(xí)經(jīng)過(guò)近幾年的飛速發(fā)展,學(xué)生對(duì)這一名稱(chēng)已經(jīng)不再陌生,但是其用到的具體高等數(shù)學(xué)內(nèi)容卻沒(méi)有系統(tǒng)的綜述。事實(shí)上,幾乎每個(gè)現(xiàn)有的深度學(xué)習(xí)算法都會(huì)用到我們的教學(xué)內(nèi)容。例如,函數(shù)與極限、導(dǎo)數(shù)與偏導(dǎo)數(shù)、微分與積分、單調(diào)與凸函數(shù)、方向?qū)?shù)與梯度等。我們計(jì)劃對(duì)一些熱門(mén)算法進(jìn)行系統(tǒng)的梳理與總結(jié),找出相對(duì)應(yīng)的教學(xué)知識(shí)點(diǎn),以便授課或個(gè)別感興趣的學(xué)生查詢使用。例如,著名的向后傳播(BP)算法的權(quán)值更新量:
在計(jì)算此量時(shí)用到了多元函數(shù)求偏導(dǎo),而且此公式也是從梯度這一概念中引申出來(lái)的。
在此過(guò)程中的主要問(wèn)題是,事實(shí)上,深度學(xué)習(xí)的每個(gè)算法都不是單一的數(shù)學(xué)問(wèn)題,不僅涉及高等數(shù)學(xué),而且同時(shí)設(shè)計(jì)線性代數(shù)、概率論等綜合內(nèi)容。因此,很難清晰分析算法中的高等數(shù)學(xué)內(nèi)容點(diǎn),只能與其他課程相結(jié)合。例如,在學(xué)習(xí)利用雅克比行列式計(jì)算多元函數(shù)的偏導(dǎo)數(shù)時(shí),首先補(bǔ)充學(xué)習(xí)線性代數(shù)齊次方程組的解,然后在課堂教學(xué)中簡(jiǎn)要描述相片壓縮技術(shù)以及數(shù)據(jù)稀疏化在深度學(xué)習(xí)中的基本原理與重要性。
二、適當(dāng)壓縮書(shū)本內(nèi)容,引入深度學(xué)習(xí)的前沿
高等數(shù)學(xué)均安排在大學(xué)一年級(jí),大學(xué)生進(jìn)入大學(xué)最先接觸到的數(shù)學(xué)課就是高等數(shù)學(xué)。傳統(tǒng)的課堂教學(xué)為了提高學(xué)生的計(jì)算與邏輯推理能力,只講解高等數(shù)學(xué)知識(shí)點(diǎn)與習(xí)題。這樣的教學(xué)模式往往使學(xué)生迷茫,高等數(shù)學(xué)這么難學(xué),它到底有什么用?事實(shí)上是教學(xué)內(nèi)容與實(shí)際應(yīng)用的嚴(yán)重脫節(jié)。因此,在課堂教學(xué)過(guò)程中本人講完知識(shí)點(diǎn)與例題后會(huì)介紹此知識(shí)點(diǎn)在深度學(xué)習(xí)中的應(yīng)用。不僅學(xué)生對(duì)此知識(shí)點(diǎn)產(chǎn)生了濃厚的興趣,而且使得對(duì)此知識(shí)點(diǎn)印象深刻,容易記憶。
例如在學(xué)習(xí)完導(dǎo)數(shù)這一概念后,介紹了深度學(xué)習(xí)算法中的誤差向后傳播(BP)算法,讓他們明白導(dǎo)數(shù)這一基本概念在算法的設(shè)計(jì)與收斂性推導(dǎo)中起了非常關(guān)鍵的作用。不僅如此,還讓學(xué)生思考如何能跳出局部極小,已達(dá)到思維拓展的目的。通過(guò)這樣的學(xué)習(xí)方式,學(xué)生深刻體會(huì)到了導(dǎo)數(shù)在前沿科研中的應(yīng)用,不僅激發(fā)了他們的學(xué)習(xí)興趣,而且達(dá)到了科研思想滲透的目的。
在高等數(shù)學(xué)內(nèi)容中介紹科研前沿問(wèn)題的例子在教學(xué)過(guò)程中還可以找到很多。例如,在學(xué)習(xí)極限的概念時(shí),先介紹了神經(jīng)網(wǎng)絡(luò)的能量函數(shù)是如何趨向于0或者穩(wěn)定值的,并實(shí)際演示了一個(gè)科研案例。逐步引導(dǎo)學(xué)生對(duì)極限這一概念的印象以及極限這一基本概念在現(xiàn)代科研中依然起著重要的基礎(chǔ)作用。這種引入科研實(shí)際問(wèn)題演示的方法,初步培養(yǎng)了學(xué)生的科研興趣,得到了同學(xué)們的認(rèn)可。
三、優(yōu)化教學(xué)過(guò)程,引入深度學(xué)習(xí)網(wǎng)絡(luò)模型
事實(shí)上,高等數(shù)學(xué)的許多概念和方法本身就是從實(shí)際應(yīng)用中獲得的,因此有很強(qiáng)的實(shí)際背景,而深度學(xué)習(xí)的各種網(wǎng)絡(luò)模型本質(zhì)上就是模擬人類(lèi)思維進(jìn)行數(shù)學(xué)建模的過(guò)程。通過(guò)引入網(wǎng)絡(luò)模型來(lái)引導(dǎo)學(xué)生積極主動(dòng)地參與課堂教學(xué),掌握學(xué)習(xí)方法,真正成為學(xué)習(xí)的主體。例如,在學(xué)習(xí)極值這一部分時(shí),圍繞函數(shù)的極值必須熟練掌握這一教學(xué)目標(biāo),簡(jiǎn)單介紹了神經(jīng)網(wǎng)絡(luò)方法,引導(dǎo)學(xué)生通過(guò)迭代方法逐步逼近函數(shù)的極值,使學(xué)生在教學(xué)過(guò)程中始終保持積極的學(xué)習(xí)心理狀態(tài)。因此學(xué)生靈活地掌握了極值的基本概念、基本原理以及基本方法,同時(shí)這種教學(xué)方法也可以看作是一個(gè)簡(jiǎn)單的科學(xué)研究過(guò)程,為以后的科學(xué)研究工作打下良好的基礎(chǔ)。
不僅課堂上鼓勵(lì)學(xué)生積極思考高等數(shù)學(xué)在深度學(xué)習(xí)中的應(yīng)用,課間休息時(shí)還鼓勵(lì)學(xué)生積極討論,尤其是對(duì)深度學(xué)習(xí)感興趣的學(xué)生,對(duì)其進(jìn)行啟發(fā)性的科學(xué)思維培養(yǎng)。同時(shí),利用本人的科研成果展現(xiàn)深度學(xué)習(xí)中的高等數(shù)學(xué)理論推導(dǎo)過(guò)程,讓學(xué)生對(duì)這一科技前沿問(wèn)題有較深的印象。例如,利用多媒體向?qū)W生展示了卷積神經(jīng)網(wǎng)絡(luò)處理圖片的過(guò)程,并展示了部分收斂性推導(dǎo),取得了很好的教學(xué)效果,學(xué)生的學(xué)習(xí)積極性明顯提高。
四、結(jié)語(yǔ)
深度學(xué)習(xí)是用層層迭代的深度網(wǎng)絡(luò)對(duì)非結(jié)構(gòu)數(shù)據(jù)進(jìn)行抽象表征,這不是平白過(guò)來(lái)的,這是優(yōu)化出來(lái)的,用比較通俗的話說(shuō)就是調(diào)整參數(shù)。而整個(gè)調(diào)整參數(shù)的基礎(chǔ),都在于優(yōu)化理論,優(yōu)化理論又是以多元微積分理論為基礎(chǔ)的。這就是學(xué)習(xí)微積分對(duì)于深度學(xué)習(xí)非常重要的根源。如果說(shuō)線性代數(shù)和概率論是深度學(xué)習(xí)的語(yǔ)言,那么高等數(shù)學(xué)就是其強(qiáng)有力的理論工具。
我們希望通過(guò)研究高等數(shù)學(xué)在深度學(xué)習(xí)中的重要性,結(jié)合本人的科研經(jīng)歷,有機(jī)結(jié)合高等數(shù)學(xué)的傳統(tǒng)內(nèi)容與學(xué)術(shù),充分發(fā)揮科研教學(xué)結(jié)合的優(yōu)勢(shì),把教師科研過(guò)程中的一些前沿問(wèn)題所涉及到的微積分問(wèn)題通過(guò)淺顯的描述滲透給學(xué)生,讓學(xué)生對(duì)微積分這門(mén)基礎(chǔ)課產(chǎn)生濃厚興趣,有效提高教學(xué)質(zhì)量和效率,達(dá)到最佳的教學(xué)效果,同時(shí)拓寬學(xué)生視野,提高對(duì)數(shù)學(xué)的興趣,培養(yǎng)科研能力。
參考文獻(xiàn):
[1]孫志遠(yuǎn),魯成祥,史忠植,馬剛.深度學(xué)習(xí)研究與進(jìn)展[J].計(jì)算機(jī)科學(xué),2016,43(2):1-8.
[2]趙向奎,孫玉華,廖福成.科研思想在高等數(shù)學(xué)教學(xué)中的滲透[J].中國(guó)冶金教育,2010,(6):33-35.
[3]連坡.高等數(shù)學(xué)課堂教學(xué)的思考與探索[J].高等數(shù)學(xué)研究,2011,14(2):45-47.
[4]李斌.高職院校高等數(shù)學(xué)課程教學(xué)改革的實(shí)踐與探索[J].滁州學(xué)院學(xué)報(bào),2011,13(2):85-87.
[5]孫麗潔.關(guān)于高等數(shù)學(xué)課程教學(xué)改革的幾點(diǎn)探索與思考[J].新教育時(shí)代電子雜志:教師版,2015,(35):63.
[6]王素華,張寧,趙童娟,李富江.高等數(shù)學(xué)課堂教學(xué)中激發(fā)學(xué)生學(xué)習(xí)興趣的策略探索[J].產(chǎn)業(yè)與科技論壇,2016,15(17):220-221.
Abstract:With the progress of science and technology,especially the rapid development of the algorithm research on deep learning,the importance of the application of calculus is particularly prominent.This paper mainly studies the basis of calculus in deep learning,and on this basis,how to introduce deep learning ideas into teaching is presented to infiltrate some advanced academic problems into students and then improve their interest in mathematics and cultivate their scientific research ability.
Key words:deep learning;calculus;scientific research penetration