積極推進人工智能與網絡安全融合創新

隨著信息技術的迅猛發展，人工智能已成為加速新一輪科技革命和產業變革的重要力量。世界主要國家和地區陸續制定和實施人工智能戰略，以期在這一新興領域占據領先地位。人工智能技術正在以前所未有的速度發展，并且與各個行業深度融合。

但在人工智能技術賦能千行百業的同時，先進技術的“雙刃劍”效應也逐步顯現。伴隨著數字化、網絡化、智能化的發展大潮，網絡安全威脅和風險日益突出，網絡安全形勢日益嚴峻、復雜多變，全局性和滲透性前所未有，隱蔽性和動態性前所未有，給國家安全和社會發展帶來嚴峻挑戰。

全球網絡安全威脅態勢嚴峻

當下，全球網絡安全威脅態勢依然嚴峻，嚴重的網絡攻擊事件從未間斷，眾多組織遭到了勒索軟件、數據竊取和隱私泄密的攻擊威脅，暴露出網絡空間的脆弱性，對各行各業構成巨大威脅。

網絡攻擊日益指向重要設施。近年來，全球因網絡攻擊導致城市癱瘓、服務中斷、生產停工等“新秩序”混亂事件層出不窮，政府、城市和大型企業都是被攻擊的主要目標。俄烏沖突爆發以來，全球網絡戰加劇，網絡攻擊日益組織化，甚至出現專業化程度極高的國家軍事力量。這些網絡攻擊組織往往行動迅速、手段高超，破壞力驚人。截至2023年底，奇安信累計監測到49個針對國內發動攻擊的APT（高級持續性威脅）組織。過去，網絡攻擊主要為獲取經濟利益，現在，網絡攻擊主要以關基設施為目標，極有可能導致“斷水”“斷電”“斷氣”“斷聯”，危害社會穩定。

智慧城市網絡安全防線脆弱。智慧城市包含通信網絡、政務云、大數據平臺等眾多基礎設施。任何未被納入監管的“影子”設備或系統，都可能成為攻擊窗口，造成“一失萬無”的嚴重后果。從頂層視角看，系統觀念缺失，安全管理協調配合難度大，不同行業間無法實現威脅情報及時同步、安全能力靈活調度，一個漏洞能在幾天時間內打穿醫療、交通、能源等20多個領域的超30家不同單位。從建設視角看，數字化設備系統復雜多樣，技術標準不統一，安全能力割裂。近三年，奇安信參與及組織了上千場實戰攻防演練，參演單位數萬家，約70%的單位被攻破。特別是醫療行業，據統計，針對醫療行業的攻擊近兩成目標是三甲醫院，一旦被攻破會引發醫療系統混亂，直接威脅人民生命健康安全。

人工智能帶來新的安全威脅。作為新一輪科技革命的核心技術，AI極大提升了生產力，但也加劇了數據泄露、欺詐攻擊等風險。攻擊者可以利用AI工具對網絡攻擊進行改造和升級，短時間內發動大范圍連續攻擊，讓目標處于無法應付的狀態。很多政企機構的網絡安全建設目前還處于初期階段，存在人力不足、思路落后、體系不全等薄弱環節，很容易陷入“攻強守弱”的境地。

安全意識不足的問題依然存在。從運營視角看，安全防線易從內部被突破，實戰演練中由于人為因素被攻破的比例高達90%，釣魚、使用弱口令、配置錯誤等因素占比最高。政企單位在數字化轉型過程中，積累了大量數據資產，但缺乏針對性防護手段，甚至不清楚自己有多少數據、數據存在哪兒、被誰使用，造成大量防護盲點。很多企業缺乏多維度風險感知能力，數據被大量販賣還不知情。IBM發布的《2023年數據泄露成本報告》顯示，2023年識別一起數據泄露事件平均需要204天，遏制一起數據泄露事件平均需要73天。

數據和網絡安全制度應有作用尚未充分發揮。一方面，傳統的生產事故有詳細的領導干部追責制度，而網絡攻擊引發的事故，還沒有相應的追責制度；另一方面，瞞報、漏報網絡安全事故現象普遍存在，部分政企單位“紅線意識”不強，安全防護措施多數是為了應付檢查，無法應對隨時可能發生的安全事件。

強化“AI+安全”科技創新能力

面對網絡安全新態勢，如何保證信息和網絡安全，提高應對網絡空間安全風險與不確定性的能力？我們認為，要大力增強“AI+安全”的科技創新能力，把AI安全技術融入到數字化場景當中，借助AI能力加速網絡安全技術創新、安全防護體系創新，積極構建“AI+安全”防護體系，以應對網絡安全新態勢。

在“AI+安全”這條路上，奇安信已率先進行大量探索實踐。在單點設備檢測方面，AI可以對過去人工漏掉的告警進行全量研判，實現安全能力十倍級提升；在體系化防御方面，通過AI賦能的綜合分析和全局聯動，實現安全能力百倍級提升；在溯源和反制方面，從威脅發現到攻擊溯源環節，依托AI的智能化、自動化，可實現響應能力的千倍級提升。

以AI驅動安全，提升分析研判效率。奇安信AI戰略產品QAX—GPT安全機器人的研判效率相當于人工的數十倍。例如，某家萬人規模的企業，只有12名安全運營人員，每天能夠研判6000條的告警，但該企業的單日告警量超過10萬，漏報率極高。使用QAX—GPT安全機器人后，該企業可以完成10萬條告警全量研判，漏報率僅0.05%，揪出人工漏掉的真實告警700多條，極大提升了集團的整體安全能力。

以AI驅動安全，實現運營能力循環上升。通過部署安全機器人與NGSOC構成的“AI+安全運營”方案，可實現威脅事件的自動化響應；通過AI與防火墻、WAF、SOAR等安全產品的協同聯動，對遏制安全威脅的處置時間從過去的10分鐘縮短到秒級；對復雜事件的溯源分析縮短到分鐘級，安全運營效率大幅提升。

以AI驅動安全，升級全場景防護能力。在“AI+安全開發”方面，奇安信基于大模型的代碼助手極大提高了開發人員的效率，不僅實現了代碼的高效編寫，還能自動檢測并修復潛在的安全漏洞；在“AI+終端安全”方面，奇安信天擎、反病毒、沙箱等產品深度融合安全大模型的分析能力，無論是二進制文件還是非PE腳本類代碼，都能快速分析并識別；奇安信還將AI全方位應用在漏洞挖掘、電子取證、操作流程自動化上等眾多產品和業務流程方面，大大提高了產品威脅發現、研判、處置水平，升級全場景的安全防護能力，激發網絡安全最大效能。

構建全方位人工智能安全治理體系

當然，面對網絡安全新態勢，還需要國家層面從頂層設計、治理體系、技術創新等多方面下功夫，倡導社會各界攜手合作，積極構建全方位人工智能安全治理體系。

加強人工智能安全頂層設計，推動形成人工智能綜合治理體系。黨的二十屆三中全會對“健全網絡綜合治理體系”作出系統部署，其中明確提出完善生成式人工智能發展和管理機制。我國目前已有多項管理規定，如工業和信息化部對大模型的備案要求、新一代人工智能管理規范、互聯網信息服務深度合成管理規定、生成式人工智能服務暫行管理辦法等，這些政策法規為我國人工智能健康發展保駕護航。未來，還要推動人工智能安全治理政府監管、行業自治、企業自律、社會監督協調一致、形成共識，逐步形成人工智能綜合治理體系。

統籌網絡安全各方力量，推動形成體系化防御能力。面對嚴峻復雜的網絡安全形勢，尤其是境外國家級高水平網絡攻擊，僅靠關鍵信息基礎設施和重要信息系統運營者往往難以抵御，要堅持全國一張網、一盤棋，匯聚政府、行業、專業機構、網絡安全企業、運營者等各方力量，梯次布防、縱深防御，健全網絡安全態勢感知、信息共享、預警通報的協同組織機制，推動形成體系化防御能力。

加強安全技術研發和創新，為人工智能健康發展提供堅實的技術保障。人工智能時代，社會各界應當加大對人工智能安全技術保障的研發投入，進一步促進人工智能安全技術創新。我們需要構建準確、穩健、安全、隱私、公平和可解釋的人工智能算法，加強對軟硬件設施的安全防護能力，以應對日益變化的算法安全、數據隱私和設施安全風險挑戰，形成涵蓋數據層、算法層、設施層和應用層的安全縱深防護技術體系，為人工智能健康有序安全發展提供堅實的技術保障。

責任編輯：董常芳