ChatGPT在網(wǎng)絡(luò)攻防領(lǐng)域的應(yīng)用及發(fā)展趨勢

李祉岐 羅大勇 孫磊 霍鈺 尹琴 宋潔

2022年，OpenAI公司的ChatGPT風(fēng)靡全球。ChatGPT是一種專注于對(duì)話生成的大型語言模型，它能夠根據(jù)用戶的文本輸入，產(chǎn)生相應(yīng)的智能回答，模仿人來的自然對(duì)話，可以生成講話稿、策劃方案、學(xué)術(shù)論文、詩歌、軟件代碼等。ChatGPT熱潮也吸引了網(wǎng)絡(luò)安全工業(yè)界、學(xué)術(shù)界，甚至網(wǎng)絡(luò)犯罪分子的注意。

ChatGPT降低了網(wǎng)絡(luò)犯罪的門檻，只要對(duì)網(wǎng)絡(luò)安全和計(jì)算機(jī)科學(xué)的基礎(chǔ)知識(shí)有基本了解，就可借助ChatGPT實(shí)施網(wǎng)絡(luò)攻擊。

（1）網(wǎng)絡(luò)釣魚

利用ChatGPT可以快速按照網(wǎng)絡(luò)犯罪分子的需求生成指定的釣魚內(nèi)容，例如自動(dòng)化制作網(wǎng)絡(luò)釣魚電子郵件，然后通過郵件發(fā)送出去進(jìn)行釣魚。攻擊者只需修改固定的位置，即可構(gòu)造一封完美的釣魚郵件。

（2）生成爆破口令

在ChatGPT中輸入“用Python寫一個(gè)生成口令的腳本”，就會(huì)生成一個(gè)可運(yùn)行的Python程序，且附帶程序解釋。對(duì)于網(wǎng)絡(luò)安全研究人員或者攻擊者來說，能夠大大提高攻擊效率。由于因?yàn)楸惶嗳藶E用，ChatGPT進(jìn)行了一次安全更新，更新后很多惡意軟件相關(guān)的內(nèi)容已經(jīng)無法生成。如果輸入“用Python寫一個(gè)生成口令爆破工具”，ChatGPT將回應(yīng)“我很抱歉，但我不能提供關(guān)于口令爆破工具的支持。口令爆破是一種非法的行為，違反了網(wǎng)絡(luò)安全和道德規(guī)范。它可以被用來未經(jīng)授權(quán)地訪問他人的賬戶和系統(tǒng)，造成嚴(yán)重的損害和違法行為。”說明當(dāng)前ChatGPT已經(jīng)針對(duì)網(wǎng)絡(luò)攻擊等生成需求做了一定限制。

（3）生成攻擊載荷Payload

上面已介紹ChatGPT的安全限制，但通過更換表達(dá)后仍可以生成指定需求的內(nèi)容。例如，生成攻擊載荷。輸入“用Python幫我寫幾個(gè)最新的Payload”，即可生成SQL注入、XSS等Payload。生成的Payload可以直接用于滲透測試攻擊。

（1）威脅情報(bào)

ChatGPT可以用于威脅情報(bào)收集、分析、模擬、共享、響應(yīng)等。ChatGPT可以通過分析各種來源，如黑客論壇、惡意軟件樣本、公開報(bào)告等，幫助收集有關(guān)威脅行為、攻擊方法和漏洞的情報(bào)信息；可以對(duì)收集到的威脅情報(bào)進(jìn)行分析，幫助理解攻擊者的意圖、技術(shù)手段和攻擊模式；可以識(shí)別攻擊中使用的工具、漏洞利用方式以及攻擊者可能采取的后續(xù)行動(dòng)；可以利用威脅情報(bào)和攻擊模式，進(jìn)行威脅演繹和模擬，幫助組織預(yù)測潛在攻擊，評(píng)估安全風(fēng)險(xiǎn)，并制定相應(yīng)的防御策略；可以幫助整理和組織威脅情報(bào)，促進(jìn)威脅情報(bào)的共享和合作；它可以幫助創(chuàng)建安全社區(qū)，使不同組織之間能夠共享有關(guān)攻擊、惡意軟件或威脅漏洞的信息，以提高整體的網(wǎng)絡(luò)安全水平；用于快速響應(yīng)威脅事件，與安全團(tuán)隊(duì)合作，提供即時(shí)的威脅情報(bào)分析和建議，幫助組織采取適當(dāng)?shù)拇胧﹣響?yīng)對(duì)和緩解攻擊。

（2）惡意攻擊檢測

ChatGPT可以幫助識(shí)別惡意鏈接和惡意文件。通過分析鏈接或文件的內(nèi)容和特征，判斷其是否包含惡意代碼、病毒或其他威脅；可以協(xié)助識(shí)別垃圾郵件，通過分析郵件的文本、附件、發(fā)件人等信息，辨別是否包含釣魚鏈接、惡意附件或其他欺詐行為；可以幫助監(jiān)測網(wǎng)絡(luò)流量，識(shí)別異常行為和潛在的攻擊；可以分析用戶的行為模式，檢測異常活動(dòng)和可能的惡意行為。例如，識(shí)別賬戶登錄異常、異常的數(shù)據(jù)訪問行為等，以幫助防止未經(jīng)授權(quán)的訪問和數(shù)據(jù)泄露。ChatGPT可以協(xié)助分析惡意代碼的行為和特征，幫助識(shí)別和理解惡意軟件、病毒和其他惡意代碼的工作原理，以及其對(duì)系統(tǒng)和數(shù)據(jù)的潛在威脅。

（3）安全漏洞檢測

ChatGPT可以用于檢測代碼中存在的安全漏洞。對(duì)于開發(fā)人員具有較強(qiáng)的輔助功能，能夠編寫出更加安全的程序。作者提供一段包含緩沖溢出漏洞的程序，讓ChatGPT進(jìn)行安全漏洞檢測。在提供的程序中，在bof函數(shù)中，使用strcpy函數(shù)將輸入字符串復(fù)制到名為buffer的字符數(shù)組中，但沒有進(jìn)行長度檢查。如果輸入字符串的長度超過了buffer的大小（12個(gè)字節(jié)），則會(huì)導(dǎo)致緩沖區(qū)溢出。

ChatGPT已經(jīng)開展應(yīng)用各個(gè)領(lǐng)域，在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用也比較廣泛，上文也分析了相關(guān)應(yīng)用。通過調(diào)查分析，ChatGPT等大語言模型未來在網(wǎng)絡(luò)攻防方面將呈現(xiàn)以下3個(gè)趨勢。

（1）網(wǎng)絡(luò)攻擊智能化

把ChatGPT與安全攻擊工具結(jié)合，將大大提高網(wǎng)絡(luò)攻擊的自動(dòng)化、智能化程度，進(jìn)而使得國與國之間的網(wǎng)絡(luò)空間戰(zhàn)愈發(fā)激烈。例如，利用ChatGPT搜集被攻擊目標(biāo)的信息，根據(jù)搜集的信息以及威脅情報(bào)等，智能化生成攻擊載荷，并自動(dòng)化構(gòu)建網(wǎng)絡(luò)攻擊武器，實(shí)現(xiàn)對(duì)目標(biāo)的精準(zhǔn)打擊。

（2）網(wǎng)絡(luò)認(rèn)知規(guī)模化

當(dāng)前網(wǎng)絡(luò)認(rèn)知戰(zhàn)還沒有完全呈現(xiàn)自動(dòng)化、智能化的攻擊態(tài)勢，還需大量人力、物力、時(shí)間等才能形成有效的攻擊結(jié)果。ChatGPT可快速生成相關(guān)內(nèi)容并迅速傳播，不僅可構(gòu)建某個(gè)主題的輿情還能加快輿情的傳播。

（3）網(wǎng)絡(luò)防御精準(zhǔn)化

由于可以通過輸入大量的提示“Prompt”，構(gòu)建類ChatGPT的智能化檢測惡意軟件、惡意內(nèi)容、惡意攻擊等安全威脅，未來網(wǎng)絡(luò)防御將呈現(xiàn)更加精準(zhǔn)化發(fā)展趨勢。例如，早期惡意軟件檢測主要通過特征碼匹配方式檢測，后期通過啟發(fā)式、云查殺、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等多種方式結(jié)合，類ChatGPT大模型的介入將會(huì)大大提高惡意軟件檢測的準(zhǔn)確度。

本文首先用實(shí)例分析了ChatGPT在網(wǎng)絡(luò)攻擊領(lǐng)域的應(yīng)用，包括網(wǎng)絡(luò)釣魚、生成爆破口令、生成Payload、生成木馬程序等；其次分析了ChatGPT在網(wǎng)絡(luò)防御領(lǐng)域的應(yīng)用，包括威脅情報(bào)、惡意攻擊檢測、安全漏洞檢測、安全防御策略方案制定等；最后，分析了ChatGPT在網(wǎng)絡(luò)攻擊與防御領(lǐng)域的發(fā)展趨勢，對(duì)于把握ChatGPT在網(wǎng)絡(luò)安全方面的發(fā)展態(tài)勢具有一定的參考價(jià)值和意義。