算力網(wǎng)絡(luò)資源管理安全架構(gòu)與關(guān)鍵技術(shù)

高凱輝 李 丹， 陳 力

1 清華大學(xué) 北京 100084

2 中關(guān)村實(shí)驗(yàn)室 北京 100083

引言

近年來(lái)，隨著5G、人工智能、物聯(lián)網(wǎng)等新技術(shù)向各行業(yè)滲透，數(shù)字經(jīng)濟(jì)快速發(fā)展，全社會(huì)產(chǎn)生了海量數(shù)據(jù)[1]，數(shù)據(jù)處理需要云、邊、端協(xié)同的強(qiáng)大算力和廣泛部署的高速網(wǎng)絡(luò)。2023年2月，中共中央、國(guó)務(wù)院印發(fā)了《數(shù)字中國(guó)建設(shè)整體布局規(guī)劃》，提出“系統(tǒng)優(yōu)化算力基礎(chǔ)設(shè)施布局，促進(jìn)東西部算力高效互補(bǔ)和協(xié)同聯(lián)動(dòng)”[2]。我國(guó)提出的“東數(shù)西算”工程正在加快構(gòu)建算力網(wǎng)絡(luò)體系[3]。算力網(wǎng)絡(luò)(Computing First Network，CFN)是以算為中心、網(wǎng)為根基，與云計(jì)算、人工智能、邊緣計(jì)算、智能終端、網(wǎng)絡(luò)安全等技術(shù)深度融合，提供一體化服務(wù)的新型信息基礎(chǔ)設(shè)施[4]。

算力網(wǎng)絡(luò)在助力數(shù)字生產(chǎn)生活的同時(shí)，也帶來(lái)暴露面增多、算力濫用、數(shù)據(jù)泄露等安全問(wèn)題[5]。目前，業(yè)界對(duì)算力網(wǎng)絡(luò)的整體架構(gòu)達(dá)成共識(shí)[5-11]，其主要包含三個(gè)層面：基礎(chǔ)設(shè)施層、管理調(diào)度層、運(yùn)營(yíng)服務(wù)層。本文主要關(guān)注管理調(diào)度層的安全需求，聚焦算力網(wǎng)絡(luò)資源管理安全架構(gòu)與關(guān)鍵技術(shù)，保障算力資源供應(yīng)方和消費(fèi)方的真實(shí)可信，以及算力網(wǎng)絡(luò)資源管理過(guò)程中的隱私安全，全面提升算力網(wǎng)絡(luò)資源管理體系的安全能力。

1 背景

1.1 算力網(wǎng)絡(luò)研究現(xiàn)狀

算力網(wǎng)絡(luò)的整體架構(gòu)包含基礎(chǔ)設(shè)施、管理調(diào)度和運(yùn)營(yíng)服務(wù)三個(gè)層面?；A(chǔ)設(shè)施層提供底層算力資源，以及算力間的高速互聯(lián)；管理調(diào)度層是算力網(wǎng)絡(luò)的中樞，實(shí)現(xiàn)算力網(wǎng)絡(luò)資源的安全接入、統(tǒng)一管理、智能調(diào)度和全局優(yōu)化；運(yùn)營(yíng)服務(wù)層是算力網(wǎng)絡(luò)服務(wù)提供平臺(tái)，實(shí)現(xiàn)算力網(wǎng)絡(luò)產(chǎn)品的一體化供給和消費(fèi)[5]。

在算力網(wǎng)絡(luò)管理調(diào)度層面，業(yè)界相關(guān)研究工作探討了算力感知網(wǎng)絡(luò)架構(gòu)[6-7]、基于IPv6/SRv6的算力資源標(biāo)記方式[12]，以及利用區(qū)塊鏈技術(shù)存儲(chǔ)算力資源相關(guān)敏感信息[13]。同時(shí)，學(xué)術(shù)界對(duì)于算力網(wǎng)絡(luò)整體安全架構(gòu)[5]、算力交易[13]、算力路由和計(jì)算任務(wù)調(diào)度[8,12]、資源分配[9-10]、編排管理[9,11]也展開(kāi)了研究。

1.2 算力網(wǎng)絡(luò)資源管理安全挑戰(zhàn)

在算力網(wǎng)絡(luò)管理調(diào)度的安全方面，有研究工作提出利用區(qū)塊鏈對(duì)算力用戶注冊(cè)、算力資源池注冊(cè)、算力交易、信譽(yù)評(píng)估等進(jìn)行安全可信保障[13]。另有研究為邊緣算力節(jié)點(diǎn)設(shè)計(jì)了一種“Watchdog”協(xié)議[14]，以及研究算力網(wǎng)絡(luò)中聯(lián)邦學(xué)習(xí)任務(wù)的安全和運(yùn)維問(wèn)題[15]。然而，算力網(wǎng)絡(luò)資源管理尚未構(gòu)建體系化的安全架構(gòu)，仍然面臨著以下安全挑戰(zhàn)。

1)參與者不可信：攻擊者會(huì)冒充算力資源供應(yīng)方或消費(fèi)方接入算力網(wǎng)絡(luò)資源管理系統(tǒng)，以實(shí)現(xiàn)緩存污染、數(shù)據(jù)竊取等攻擊。

2)暴露面增多：算力網(wǎng)絡(luò)資源管理過(guò)程涉及眾多遠(yuǎn)程交互，這些過(guò)程都可能遭遇中間人攻擊。

3)算力濫用：攻擊者利用算力網(wǎng)絡(luò)提供的強(qiáng)大算力實(shí)現(xiàn)網(wǎng)絡(luò)攻擊或其他惡意行為。

4)拒絕服務(wù)攻擊：算力網(wǎng)絡(luò)資源管理系統(tǒng)會(huì)遭遇攻擊者的過(guò)度使用而無(wú)法處理合法請(qǐng)求。

2 算力網(wǎng)絡(luò)資源管理安全架構(gòu)

算力網(wǎng)絡(luò)資源管理安全架構(gòu)如圖1 所示。首先，算力資源池(比如終端算力、邊緣算力和云端算力等)使用算力資源安全通告協(xié)議(Secure Protocol for Computational Resource，S P 4 C R)將自身的算力和服務(wù)能力通告給算力資源信息管理系統(tǒng)(Computational Resource Information System，CRIS)。算力資源安全通告協(xié)議是一個(gè)分布式協(xié)議，用于在算力資源池和CRIS服務(wù)器之間以及CRIS服務(wù)器之間安全地傳遞算力資源信息。其次，CRIS系統(tǒng)是一個(gè)以算力資源管理根服務(wù)器(CRIS Root Server)為中心的、由多層級(jí)算力資源管理服務(wù)器(CRIS Server)組成的分布式系統(tǒng)。為了實(shí)現(xiàn)安全和可信的算力網(wǎng)絡(luò)資源管理，CRIS系統(tǒng)使用高效算力資源校驗(yàn)機(jī)制(Efficient Verification for Computational Resource，EV4CR)對(duì)算力資源池的服務(wù)能力進(jìn)行遠(yuǎn)程證明。然后，CRIS系統(tǒng)使用算力請(qǐng)求安全解析機(jī)制(Secure Resolution for Computational Request，SR4CR)對(duì)用戶提交的計(jì)算任務(wù)進(jìn)行可信解析。

圖1 算力網(wǎng)絡(luò)資源管理安全架構(gòu)

2.1 實(shí)體

算力網(wǎng)絡(luò)資源管理安全架構(gòu)主要包含兩類實(shí)體：算力資源池和CRIS服務(wù)器。滿足安全需求的算力網(wǎng)絡(luò)資源管理架構(gòu)需要定義這些實(shí)體的核心功能要求、與其他實(shí)體的交互要求，以及安全防護(hù)措施。

1)實(shí)體一：算力資源池

算力資源池指的是接入算力網(wǎng)絡(luò)的算力資源供應(yīng)方，包括公有云、私有云和邊緣云等。接入算力網(wǎng)絡(luò)的算力資源池需要測(cè)量并通告自身的服務(wù)能力矩陣。隨著算力網(wǎng)絡(luò)的服務(wù)方式從資源式(即用戶獨(dú)占計(jì)算資源)向任務(wù)式(即用戶提交計(jì)算任務(wù))轉(zhuǎn)變，算力硬件信息與用戶關(guān)系的指標(biāo)(如完成時(shí)間、成本等)不匹配的矛盾愈加突出，算力資源池需要將自身算力硬件信息映射為針對(duì)某些計(jì)算任務(wù)的服務(wù)能力。比如，算力資源池需評(píng)估出其完成不同規(guī)模的AI訓(xùn)練任務(wù)需要的時(shí)間與能耗，形成資源池服務(wù)能力矩陣?；谠摼仃?，算力網(wǎng)絡(luò)可以將用戶的計(jì)算任務(wù)調(diào)度到最匹配的資源池。

2)實(shí)體二：CRIS服務(wù)器

算力資源信息管理系統(tǒng)(CRIS)負(fù)責(zé)存儲(chǔ)與校驗(yàn)資源池的算力和其他相關(guān)信息，并為算力網(wǎng)絡(luò)調(diào)度系統(tǒng)提供支撐。與DNS系統(tǒng)[16]類似，CRIS使用分布式數(shù)據(jù)庫(kù)來(lái)存儲(chǔ)算力資源等信息和IP地址的映射關(guān)系。CRIS系統(tǒng)具有層次化架構(gòu)，能夠從邊緣、省市到區(qū)域、全國(guó)層層匯聚算力資源池的服務(wù)能力矩陣，以便于快速解析與響應(yīng)用戶發(fā)出的計(jì)算請(qǐng)求。在算力網(wǎng)絡(luò)資源管理安全架構(gòu)下，CRIS系統(tǒng)除了需要具備高可用性和可擴(kuò)展性外，還需要提供安全保障。

2.2 工作流程

展開(kāi)來(lái)說(shuō)，算力網(wǎng)絡(luò)資源管理安全架構(gòu)具有以下工作流程。

1)算效評(píng)估：為了統(tǒng)一對(duì)比異構(gòu)算力的成本和能耗，接入算力網(wǎng)絡(luò)的算力資源池需要將自身算力硬件信息映射為服務(wù)能力信息，形成資源池服務(wù)能力矩陣。

2)算力資源信息通告：算力資源池將服務(wù)能力矩陣通告給CRIS服務(wù)器，并注冊(cè)到算力資源數(shù)據(jù)庫(kù)中，以此加入到算力網(wǎng)絡(luò)中。在通告過(guò)程中，算力資源安全通告協(xié)議(SP4CR)需要保證算力資源供應(yīng)方的真實(shí)性，同時(shí)保障供應(yīng)方的隱私。

3)算效校驗(yàn)：算力資源池可能會(huì)故意或者無(wú)意地誤報(bào)算力資源信息，或者被攻擊者惡意篡改算力資源通告消息，從而產(chǎn)生算效虛報(bào)問(wèn)題。該問(wèn)題會(huì)導(dǎo)致用戶無(wú)法得到符合需求的算力，甚至遭遇數(shù)據(jù)泄露問(wèn)題。為了解決該問(wèn)題，CRIS服務(wù)器使用面向任務(wù)的算力檢測(cè)算法來(lái)保證算力資源池上報(bào)的服務(wù)能力信息的可信性。

4)算力資源信息存儲(chǔ)：CRIS系統(tǒng)使用分布式數(shù)據(jù)庫(kù)來(lái)存儲(chǔ)算力資源等信息和IP地址的映射關(guān)系。這些數(shù)據(jù)庫(kù)存儲(chǔ)在眾多層次化CRIS服務(wù)器中，以提高系統(tǒng)的可用性和安全性。CRIS系統(tǒng)使用CDN優(yōu)化技術(shù)來(lái)提升針對(duì)用戶計(jì)算任務(wù)的響應(yīng)速度。

5)算力請(qǐng)求安全解析與答復(fù)：算力請(qǐng)求由算力網(wǎng)絡(luò)的用戶發(fā)起，或由低層級(jí)CRIS服務(wù)器向高層級(jí)CRIS服務(wù)器發(fā)起，實(shí)現(xiàn)遞歸解析，最終用戶得到CRIS系統(tǒng)的答復(fù)。算力請(qǐng)求解析的目標(biāo)是在CRIS數(shù)據(jù)庫(kù)中查詢符合用戶需求的算力資源池，此過(guò)程涉及多個(gè)實(shí)體之間的遠(yuǎn)程交互，SR4CR機(jī)制使用加密通信協(xié)議[17]和數(shù)字證書(shū)認(rèn)證技術(shù)[18]來(lái)防范解析過(guò)程中的中間人攻擊。為了實(shí)現(xiàn)對(duì)于用戶請(qǐng)求的語(yǔ)義化感知，SR4CR使用一種基于自然語(yǔ)言的請(qǐng)求模式。另外，CRIS服務(wù)器需要過(guò)濾異常的請(qǐng)求，防止CRIS服務(wù)器資源被濫用。為此，SR4CR利用大語(yǔ)言模型提取請(qǐng)求的語(yǔ)義化特征，并設(shè)計(jì)雙向關(guān)聯(lián)的語(yǔ)義增強(qiáng)模塊實(shí)現(xiàn)業(yè)務(wù)意圖分類和安全風(fēng)險(xiǎn)評(píng)估。

3 算力資源安全通告協(xié)議

算力資源通告協(xié)議的目標(biāo)是將泛在的算力資源信息匯聚到算力資源信息管理系統(tǒng)中，并支撐算力網(wǎng)絡(luò)調(diào)度系統(tǒng)。此過(guò)程涉及的實(shí)體眾多、交互復(fù)雜，面臨著諸多網(wǎng)絡(luò)和信息安全風(fēng)險(xiǎn)，對(duì)算力網(wǎng)絡(luò)資源管理安全架構(gòu)有著重要影響。因此，算力網(wǎng)絡(luò)亟需研究算力資源安全通告協(xié)議(SP4CR)，如圖2所示，SP4CR定義了算力網(wǎng)絡(luò)資源管理安全架構(gòu)中的實(shí)體的交互行為，該協(xié)議定義了以下消息類型。

圖2 算力資源通告、請(qǐng)求與響應(yīng)過(guò)程

算力資源通告：在本架構(gòu)中，算力資源供應(yīng)方通過(guò)將自身的計(jì)算能力通告到CRIS系統(tǒng)中來(lái)接入算力網(wǎng)絡(luò)。SP4CR通過(guò)數(shù)字簽名等方式對(duì)資源通告進(jìn)行身份認(rèn)證，以確保算力資源供應(yīng)方身份的真實(shí)性。同時(shí)，SP4CR還需要保護(hù)供應(yīng)方的隱私信息，防止通告消息被劫持、篡改等。

算力資源請(qǐng)求：算力資源請(qǐng)求用于在CRIS系統(tǒng)中查詢符合用戶需求的算力資源池，此過(guò)程涉及算力網(wǎng)絡(luò)調(diào)度系統(tǒng)與CRIS各層級(jí)服務(wù)器之間的交互，可能會(huì)遭遇“中間人攻擊”[19]。另外，惡意的資源請(qǐng)求會(huì)導(dǎo)致CRIS服務(wù)器被濫用，無(wú)法響應(yīng)合法的資源請(qǐng)求。

算力資源響應(yīng)：由CRIS服務(wù)器返回給算力網(wǎng)絡(luò)調(diào)度系統(tǒng)，包含了滿足用戶需求的算力資源池信息，包括IP地址、時(shí)間、收費(fèi)等信息。算力資源響應(yīng)可能會(huì)遭遇攻擊者的惡意篡改和竊聽(tīng)，使得用戶訪問(wèn)惡意的算力資源池，甚至將重要數(shù)據(jù)發(fā)送給攻擊者。

總而言之，SP4CR協(xié)議需要防范以下幾類關(guān)鍵安全威脅：1)仿造攻擊：攻擊者會(huì)通過(guò)發(fā)送虛假通告消息來(lái)偽造算力資源池；2)篡改攻擊：攻擊者會(huì)篡改通告消息的內(nèi)容，使得合法算力資源池?zé)o法正常接入算力網(wǎng)絡(luò)；3)拒絕服務(wù) (DoS) 攻擊：攻擊者會(huì)向CRIS服務(wù)器發(fā)送大量通告消息，使得SP4CR協(xié)議過(guò)載，無(wú)法處理合法的算力通告消息；4)竊聽(tīng)攻擊：攻擊者會(huì)攔截和竊聽(tīng)通告或響應(yīng)消息，從而獲得算力資源池的敏感信息和訪問(wèn)權(quán)；5)重播攻擊：攻擊者會(huì)捕獲并重放一個(gè)合法的通告消息，以掩蓋算力資源池真實(shí)的狀態(tài)變更，使得CRIS服務(wù)器無(wú)法及時(shí)獲取算力資源池的最新?tīng)顟B(tài)。

在借鑒DNS系統(tǒng)中的諸多安全技術(shù)后，SP4CR協(xié)議需要使用以下安全機(jī)制來(lái)防范這些安全威脅。

身份驗(yàn)證和授權(quán)機(jī)制：該機(jī)制是算力網(wǎng)絡(luò)資源管理安全架構(gòu)中至關(guān)重要的安全措施，其目的是確保只有授權(quán)的用戶和算力資源池才能夠訪問(wèn)系統(tǒng)中的敏感數(shù)據(jù)，以防止偽造攻擊和篡改攻擊。在身份驗(yàn)證方面，SP4CR協(xié)議采用多種身份驗(yàn)證手段，如數(shù)字證書(shū)、源地址驗(yàn)證等。此外，CRIS系統(tǒng)建立嚴(yán)格的身份權(quán)限策略，限制用戶訪問(wèn)系統(tǒng)數(shù)據(jù)的權(quán)限，以最大程度地降低安全風(fēng)險(xiǎn)。在授權(quán)機(jī)制方面，SP4CR協(xié)議采用基于角色的訪問(wèn)控制(RBAC)或基于策略的訪問(wèn)控制(ABAC)等授權(quán)模型。

加密技術(shù)：加密技術(shù)用于保護(hù)通告、請(qǐng)求和響應(yīng)等消息的機(jī)密性和完整性，它可以在數(shù)據(jù)傳輸過(guò)程中對(duì)消息進(jìn)行加密，防止信息泄露和篡改。常用的加密技術(shù)包括對(duì)稱加密和非對(duì)稱加密。對(duì)稱加密使用同一密鑰進(jìn)行加密和解密，因此密鑰的保護(hù)和分發(fā)需要非常謹(jǐn)慎。非對(duì)稱加密則使用一對(duì)密鑰，公鑰用于加密數(shù)據(jù)，私鑰用于解密數(shù)據(jù)。相比之下，非對(duì)稱加密具有更高的安全性和可靠性。

速率限制和其他反DoS措施：為了防范DoS攻擊，SP4CR協(xié)議和CRIS系統(tǒng)需要采取速率限制和其他反DoS措施。速率限制通過(guò)限制特定資源在單位時(shí)間內(nèi)的請(qǐng)求次數(shù)來(lái)防止系統(tǒng)過(guò)載。此外，CRIS系統(tǒng)部署其他反DoS 措施，例如IP黑名單、白名單機(jī)制、防火墻、反向代理等技術(shù)。其中IP黑名單和白名單機(jī)制可以限制指定IP地址的請(qǐng)求，防范不可信來(lái)源的攻擊；防火墻可以過(guò)濾惡意流量，防止攻擊者占用網(wǎng)絡(luò)帶寬；反向代理可以屏蔽CRIS服務(wù)器的IP地址，提高系統(tǒng)的安全性。

分布式ID生成技術(shù)：為了防范重播攻擊，SP4CR協(xié)議使用Snowflake算法[20]來(lái)為消息生成ID和時(shí)間戳。Snowflake算法是一種輕量的分布式ID生成算法，它通過(guò)使用時(shí)間戳、機(jī)器ID和序列號(hào)來(lái)生成全局唯一的消息ID。其中時(shí)間戳用于保證ID在時(shí)序上的唯一性，機(jī)器ID用于區(qū)分不同的機(jī)器，序列號(hào)用于避免同一毫秒內(nèi)生成重復(fù)的ID。通過(guò)使用Snowflake算法，SP4CR協(xié)議可以確保每個(gè)消息ID的唯一性，防范重播攻擊。

通過(guò)將這些安全措施納入SP4CR協(xié)議，算力網(wǎng)絡(luò)資源管理安全架構(gòu)能夠抵御一系列潛在的安全威脅。

4 高效算力資源校驗(yàn)機(jī)制

算力資源池可能會(huì)誤報(bào)自身算力資源信息，從而引發(fā)資源虛報(bào)問(wèn)題，另外攻擊者也可能偽造或篡改算力資源通告消息，向CRIS系統(tǒng)注入惡意的算力資源池。這些問(wèn)題會(huì)使用戶的算力請(qǐng)求無(wú)法得到及時(shí)響應(yīng)，并且泄露敏感數(shù)據(jù)。為了保證算力資源池上報(bào)的算力資源信息的真實(shí)性，CRIS系統(tǒng)使用高效算力資源校驗(yàn)機(jī)制(EV4CR)對(duì)算力資源池的真實(shí)算效進(jìn)行遠(yuǎn)程證明[21]。

EV4CR機(jī)制的核心是面向任務(wù)的算力檢測(cè)算法。雖然算力資源池具有CPU、GPU和FPGA等異構(gòu)的計(jì)算資源，但其最終只會(huì)上報(bào)針對(duì)典型任務(wù)的服務(wù)能力矩陣。因此，CRIS系統(tǒng)只需要設(shè)計(jì)一些有代表性的計(jì)算任務(wù)(例如深度學(xué)習(xí)訓(xùn)練任務(wù)、復(fù)雜哈希函數(shù)計(jì)算任務(wù))，這些計(jì)算任務(wù)具有不同的計(jì)算資源、內(nèi)存容量和內(nèi)存帶寬需求，因此在不同的計(jì)算條件下有不同的執(zhí)行效率。當(dāng)CRIS系統(tǒng)收到算力資源池的資源通告消息后，根據(jù)其所聲明的服務(wù)能力矩陣，CRIS系統(tǒng)將多個(gè)測(cè)試性計(jì)算任務(wù)發(fā)送給該算力資源池，并要求其及時(shí)返回計(jì)算結(jié)果。CRIS系統(tǒng)在收到算力資源池返回的結(jié)果后，計(jì)算任務(wù)執(zhí)行時(shí)間，并驗(yàn)證計(jì)算結(jié)果的正確性。根據(jù)結(jié)果的正確性和任務(wù)執(zhí)行時(shí)間，CRIS系統(tǒng)能夠校驗(yàn)該算力資源池通告的服務(wù)能力的真實(shí)性。此外，EV4CR機(jī)制還需具備高效性和安全性。

1)高效性。EV4CR機(jī)制需持續(xù)對(duì)算力資源池的計(jì)算能力進(jìn)行校驗(yàn)，因?yàn)閻阂馑懔Y源池會(huì)中途減少算力而不上報(bào)。但持續(xù)校驗(yàn)會(huì)浪費(fèi)算力資源，降低算力網(wǎng)絡(luò)效率。EV4CR機(jī)制將算力資源池分為兩種狀態(tài)：空閑和服務(wù)。在算力資源池空閑時(shí)，即沒(méi)有被分配計(jì)算任務(wù)，EV4CR機(jī)制定期執(zhí)行上述算力檢測(cè)算法來(lái)驗(yàn)證算力資源的真實(shí)性；在算力資源池服務(wù)用戶的計(jì)算任務(wù)時(shí)，該機(jī)制只需要檢查用戶任務(wù)的完成狀態(tài)，以此來(lái)校驗(yàn)算力資源，這樣極大地降低了算力檢測(cè)算法的執(zhí)行次數(shù)，減少了算力資源的浪費(fèi)。

2)安全性。上述機(jī)制可能面臨重大安全風(fēng)險(xiǎn)，如果惡意算力資源池能夠區(qū)分算力檢測(cè)算法生成的計(jì)算任務(wù)和用戶的計(jì)算任務(wù)，那么它可以使用其他算力來(lái)臨時(shí)地“應(yīng)付”算力校驗(yàn)，以欺騙CRIS系統(tǒng)，使得CRIS系統(tǒng)將用戶的計(jì)算任務(wù)發(fā)送給該惡意算力資源池，導(dǎo)致用戶數(shù)據(jù)的泄露。為了防范這一安全風(fēng)險(xiǎn)，算力檢測(cè)算法生成的計(jì)算任務(wù)應(yīng)該和用戶的計(jì)算任務(wù)具有一致的格式和模式，使得算力資源池?zé)o法區(qū)分它們，因此惡意算力資源池?zé)o法有效規(guī)避算力校驗(yàn)階段。

5 算力請(qǐng)求安全解析機(jī)制

針對(duì)算力資源請(qǐng)求的解析需要自適應(yīng)地感知用戶的資源請(qǐng)求意圖，以實(shí)現(xiàn)精準(zhǔn)的算力調(diào)度與安全風(fēng)險(xiǎn)管控。然而，現(xiàn)有的資源請(qǐng)求解析機(jī)制需要用戶指定算力硬件信息(比如需要的內(nèi)存量、CPU和GPU數(shù)量等)，用戶使用門(mén)檻較高，并且這類描述無(wú)法刻畫(huà)計(jì)算任務(wù)的實(shí)際需求，算力網(wǎng)絡(luò)調(diào)度系統(tǒng)難以實(shí)現(xiàn)算力資源的最優(yōu)調(diào)度，會(huì)造成算力及能源的浪費(fèi)。此外，CRIS系統(tǒng)難以根據(jù)用戶指定的算力硬件信息實(shí)現(xiàn)對(duì)解析劫持、解析污染、用量攻擊等安全風(fēng)險(xiǎn)的感知。

為了準(zhǔn)確地感知用戶意圖，相比于傳統(tǒng)的用戶指定硬件的模式，算力請(qǐng)求安全解析機(jī)制(SR4CR)提出一種基于自然語(yǔ)言的請(qǐng)求模式，用戶無(wú)需了解有關(guān)算力和網(wǎng)絡(luò)的專業(yè)知識(shí)，只需要描述計(jì)算任務(wù)的相關(guān)信息以及對(duì)完成時(shí)間、費(fèi)用等的需求信息。如圖3所示，SR4CR機(jī)制使用大語(yǔ)言模型(Large Language Model，LLM)[22]從用戶的自然語(yǔ)言描述中提取出意圖，形成細(xì)粒度的算力資源清單，然后輸入給算力網(wǎng)絡(luò)調(diào)度系統(tǒng)。同時(shí)，SR4CR機(jī)制對(duì)用戶請(qǐng)求進(jìn)行安全風(fēng)險(xiǎn)評(píng)估，過(guò)濾異常的請(qǐng)求，防止CRIS服務(wù)器資源被濫用。

圖3 基于大語(yǔ)言模型解析用戶請(qǐng)求

基于LLM的用戶接口在提供智能化意圖解析的同時(shí)，也會(huì)面臨復(fù)雜的安全風(fēng)險(xiǎn)。安全風(fēng)險(xiǎn)可大致分為算力層面的風(fēng)險(xiǎn)和模型層面的風(fēng)險(xiǎn)。在算力層面，惡意的算力請(qǐng)求會(huì)導(dǎo)致算力資源池被惡意占用。模型層面的風(fēng)險(xiǎn)包括LLM用量攻擊風(fēng)險(xiǎn)等。因?yàn)長(zhǎng)LM的計(jì)算需要消耗一定資源，尤其是基于Self-Attention的Transformer結(jié)構(gòu)對(duì)于長(zhǎng)度為n的輸入序列會(huì)產(chǎn)生O(n^2)的計(jì)算開(kāi)銷，惡意的算力請(qǐng)求會(huì)導(dǎo)致LLM處于長(zhǎng)時(shí)間高負(fù)荷運(yùn)行的狀態(tài)，從而構(gòu)成LLM用量攻擊。為了防范基于LLM的用戶接口中潛在的安全風(fēng)險(xiǎn)，SR4CR設(shè)計(jì)了一套全面、高效、可控的安全機(jī)制，包括內(nèi)容審計(jì)[23]、用量審計(jì)等技術(shù)。

1)內(nèi)容審計(jì)。LLM的內(nèi)容審計(jì)指的是對(duì)LLM的輸入及輸出內(nèi)容的審核和管理機(jī)制。其中輸入為描述用戶請(qǐng)求的自然語(yǔ)言文本，輸出為解析后的格式化的算力資源清單。審計(jì)的方法主要是通過(guò)模型發(fā)現(xiàn)可疑的輸入或輸出，實(shí)現(xiàn)對(duì)惡意內(nèi)容的發(fā)現(xiàn)和攔截。當(dāng)檢測(cè)到可疑輸入或輸出時(shí)，模型會(huì)按照惡意內(nèi)容的嚴(yán)重性生成風(fēng)險(xiǎn)評(píng)分。對(duì)于高風(fēng)險(xiǎn)輸入，如包含惡意算力資源請(qǐng)求的文本、LLM用量攻擊的輸入，系統(tǒng)會(huì)自動(dòng)拒絕服務(wù)；而對(duì)于LLM生成的高風(fēng)險(xiǎn)輸出，如惡意算力資源清單，系統(tǒng)會(huì)自動(dòng)攔截該請(qǐng)求。對(duì)于所有可疑內(nèi)容，系統(tǒng)會(huì)生成日志以供人工審閱和修改風(fēng)險(xiǎn)評(píng)分，人工反饋可以用于進(jìn)一步優(yōu)化判別模型。

2)用量審計(jì)。用戶級(jí)別的用量審計(jì)是一種防止用量攻擊的有效方法。對(duì)于每個(gè)用戶，系統(tǒng)監(jiān)測(cè)和記錄LLM的用量信息，例如在15分鐘、1小時(shí)或1天的統(tǒng)計(jì)周期內(nèi)，統(tǒng)計(jì)輸入token總數(shù)及請(qǐng)求總數(shù)。為了根據(jù)用量統(tǒng)計(jì)信息及任務(wù)信息判斷風(fēng)險(xiǎn)評(píng)級(jí)，系統(tǒng)構(gòu)建統(tǒng)計(jì)模型(如SVM、Boosted Trees等)并學(xué)習(xí)人工標(biāo)注。用量風(fēng)險(xiǎn)評(píng)級(jí)可分為低、中、高三個(gè)級(jí)別。當(dāng)風(fēng)險(xiǎn)評(píng)級(jí)為中級(jí)時(shí)，用戶需要通過(guò)填寫(xiě)驗(yàn)證碼等方式繼續(xù)使用LLM接口，而當(dāng)風(fēng)險(xiǎn)評(píng)級(jí)為高級(jí)時(shí)，用戶的所有請(qǐng)求將在一段時(shí)間內(nèi)被拒絕。

6 結(jié)語(yǔ)

算力網(wǎng)絡(luò)通過(guò)協(xié)同調(diào)度算力和網(wǎng)絡(luò)資源，提升針對(duì)海量數(shù)據(jù)的處理效率，對(duì)全社會(huì)的數(shù)字化轉(zhuǎn)型具有重大意義。算力網(wǎng)絡(luò)資源管理安全架構(gòu)為算力資源的供應(yīng)方和消費(fèi)方提供安全保障，推動(dòng)算力網(wǎng)絡(luò)的建設(shè)和應(yīng)用。在未來(lái)，算力網(wǎng)絡(luò)安全體系應(yīng)進(jìn)一步考慮數(shù)據(jù)流轉(zhuǎn)、聯(lián)合計(jì)算中的安全風(fēng)險(xiǎn)，保障算力網(wǎng)絡(luò)的全方位高質(zhì)量發(fā)展。