全國政協委員、奇安信集團董事長齊向東：AI帶來的安全問題，要靠AI來解決

郭霽瑤

《中國經濟周刊》記者 馬銘悅I攝

新一輪科技革命和產業變革方興未艾，信息化、數字化正在重新繪制世界圖譜，這也讓網絡安全成為大國博弈的重要領域。

在這一輪科技革命的浪潮中，人工智能正迅速重塑人類經濟社會生活的方方面面，同時也帶來了AI武器化、數據泄露、“深偽”詐騙等安全問題。與此同時，人工智能也在賦能網絡安全行業，越來越多的國家和機構正加速布局網絡安全與AI技術融合。

“我們有責任、有使命大力發展安全技術。”全國政協委員、奇安信集團董事長齊向東在接受《中國經濟周刊》記者采訪時說。今年全國兩會期間，齊向東將目光聚焦“AI+安全”領域，并提出相關建議。

2024年將是“安全底線大年”

當下，以“求財”為目的的勒索攻擊愈演愈烈，境外國家網絡軍隊和情報機構成為重點防范對象，漏洞后門事故頻發，AI武器化趨勢愈演愈烈。

齊向東判斷，在多重因素影響下，2024年將是“安全底線大年”。

“我們將主要面臨三大網絡安全新挑戰。”齊向東表示，這三大挑戰主要包括：一是攻擊者假冒身份的挑戰。數智時代，數據流轉過程復雜，安全邊界模糊，導致訪問者的身份難以辨認、行為難以管控。黑客能披著合法外衣做壞事，竊取重要的隱私信息。

二是軟件后門和漏洞層出不窮的挑戰。齊向東透露，奇安信代碼安全實驗室曾對1589個軟件項目的源代碼進行分析，結果顯示，程序員每敲1000行原始代碼，會出現大約11個缺陷，其中包括0.85個高危缺陷。

“這些年，我們感覺漏洞是越補越多，而且是成倍增長。因為補漏洞也是用代碼補，這種用于補漏洞的代碼本身又會被扒出漏洞。”齊向東坦言，“而且現在AI武器化趨勢非常明顯，其中一種方式就是用AI挖漏洞。這使得利用漏洞和后門進行網絡攻擊的成本越來越低。2024年我認為這種情況將泛化。”

三是“內鬼”猖獗的挑戰。齊向東解釋，內鬼主要是“三員”，包括管理員、技術員和操作員。他們有較高的數據訪問權限，很容易獲取企業內部資料和財產。

“但新的機遇現在也非常明晰。”齊向東特別提到。他認為，我國在加快建設網絡強國、數字中國的進程中，網絡安全產業迎來了兩大機遇。一是網絡安全系統的信創化（指信息技術自主可控，規避外部技術制裁和風險）。如果以網絡安全投資占比5%～10%的比例測算，萬億級的信創風口將帶來上千億的網絡安全市場。二是數據安全駛入發展快車道。建設數字中國，數據安全是重要保障，我國數據安全市場將持續高速增長。

“像支持新能源汽車一樣，支持‘AI+安全”

從ChatGpt的橫空出世到Sora的顛覆式創新，圍繞人工智能的討論熱度從去年兩會一直延續到今年。“人工智能+”也成為幾乎每一個網絡科技從業者在接受媒體采訪時繞不開的話題，齊向東也不例外。

“不法分子利用AI技術犯罪已經進入一個普及期。”齊向東直言，當下人工智能大幅降低了網絡攻擊門檻，不懂代碼、不懂技術的普通人也能成為黑客，這增加了網絡攻擊數量。同時，專業的黑客組織可以利用人工智能對網絡攻擊進行改造升級，安全威脅進一步加劇。

“未來可能會出現利用人工智能加劇網絡犯罪的熱潮。”齊向東說。

更令人擔憂的是，AI還加劇了軍事威脅，AI武器化趨勢顯現。齊向東表示，一方面，人工智能可以被用在“機器人殺手”等致命性自主武器（LAW）上，通過自主識別攻擊目標、遠程自動化操作等，隱藏攻擊者來源、建立對抗優勢；另一方面，人工智能可以將網絡、決策者和操作者相連接，讓軍事行動針對性更強、目標更明確、打擊范圍更廣，越來越多的國家開始探索AI在軍事領域的應用。

面對如此艱巨的挑戰，我們又該如何應對？

“AI帶來的安全問題，只能用AI來解決。”齊向東認為，AI一方面讓安全問題凸顯，同時也在賦能網絡安全行業，在促進攻防技術升級上有大作用，這將推動攻防雙方在AI利用方面展開競賽。

“人工智能不會取代網絡安全專家，但是它會讓網絡安全專家更有能力應對危險，所以人工智能應該是在網絡安全領域掀起一場技術革命，讓網絡安全行業變得更好。”齊向東說。

他建議，應大力探索“AI+安全”創新應用，搶占國家安全的人工智能戰略制高點。具體來說，齊向東認為要抓住三個關鍵。

從供給側看，開展聯合創新，圍繞攻防實戰和應用場景實現“AI+安全”尖端技術研發突破。建議鼓勵各行業頭部企業與專業安全廠商結成創新聯合體，在關鍵行業選取典型場景開展聯合創新，共同探索大模型安全創新產品在威脅檢測、漏洞挖掘、指揮研判等方面的應用，在實戰中推動“AI+安全”進入越用越強的良性循環。

從需求側看，強化政策牽引，推動“AI+安全”技術創新產品在各行業落地應用。積極的政策引導是推動新事物落地應用、成長壯大的催化劑。建議像支持新能源汽車發展一樣，支持“AI+安全”發展，設置專項基金，對研發創新“AI+安全”產品的企業，給予政府基金、貼息貸款或科研項目等支持；對率先取得技術突破，實現成果轉化的科研機構和企業給予獎勵；對積極使用相關技術、產品和服務的企業給予相應補貼，推動“AI+安全”相關產業取得更多科技創新成果。

從人才側看，壯大“AI+安全”領域的實戰型、復合型人才隊伍。隨著AI技術普及和應用領域不斷擴展，齊向東認為，我國AI人才嚴重短缺。建議充分發揮民營企業在人才培養上的優勢，鼓勵成立校企共同體，在實踐中培養更多大數據、人工智能、網絡安全等新興產業領軍人才，為我國搶抓人工智能機遇貢獻力量。

編輯：孫曉萌sunxiaomeng@ceweekly.cn

美編：孟凡婷