2020年全球人工智能發展相關風險分析

人工智能是一種理論、方法、技術和應用系統，它使用數字計算機或由數字計算機控制的機器來模擬和擴展人類智能，從而感知環境，獲取知識并利用知識獲得最佳結果。 隨著人工智能技術現在正得到越來越多的應用，其風險也越來越受到人們的關注。

一、人工智能發展相關風險分析

（一）警惕人工智能等新興技術帶來的系統性安全風險。世界經濟論壇官方網站曾發布《未來系列：網絡安全、新興技術和系統風險》報告，稱第一代基于人工智能（AI）的網絡攻擊工具已經出現，并且越來越多的證據表明攻擊者正在使用AI。深度偽造已被用來制造新的網絡攻擊載體，語音模擬軟件已經被用于大型網絡盜竊中。

（三）警惕西方國家主導人工智能相關國際規范制定中的話語權。美國政府在制定人工智能發展戰略時，一直把中國當作首要的比較和防范對象，把中國在人工智能領域里的競爭視為爭奪世界領導權的戰略競爭，嚴密關注中國在發展人工智能方面的動向，竭力防止中國獲得人工智能領域的領先地位。歐盟委員會近期也宣布啟動人工智能道德準則的試行階段，盡管歐盟在人工智能投資和尖端研究上無法與中美比肩，但希望借助其在AI道德準則上的優勢，構建AI全球監管框架。

（四）警惕我國人工智能產業應用和技術突破可能受阻。全球高校人工智能學術聯盟秘書處上海蓋亞人工智能中心理事長王延峰認為，無論應用層，還是在核心技術層，中國人工智能發展都處于國際第一梯隊。但我們的基礎研究確實較弱，主要是“一軟一硬”兩個方面。硬件在通用GPU方面，有很大的短板，特別是現在華為海思被美國打壓。軟件方面主要是開源開放平臺。目前，中國尚未形成自主可控、具有國際影響力的人工智能開源開放平臺。

（五）警惕人工智能的軍事化和實戰化應用。近年來，伴隨著人工智能第三次發展浪潮的來臨，軍事領域的人工智能應用也迎來了大發展階段，而這又尤其體現在人工智能武器的研制與應用方面。《電子政務》稱，就目前的發展現狀而言，人工智能在海軍、陸軍、空軍以及網絡攻擊等相關軍事領域都已經有所應用。在新形勢新背景下，各國圍繞人工智能的激烈競爭已然開始。具體到人工智能武器而言，以此為核心的新一輪軍備競賽同樣正在悄然發生。

（六）人工智能的發展將進一步加劇個人隱私泄露的風險。中科院院士、清華大學人工智能研究院院長張鈸表示，目前大數據等領域還欠缺一定安全性，而人工智能理應更好的保護用戶隱私。但是隨著技術的發展應用，由此引起的數據偽造、算法瓶頸、隱私安全、倫理困境等問題也日益凸顯，人工智能亟需發展出安全、可信、可靠與可擴展的第三代人工智能技術。

二、相關建議

（一）加快數據的開放和大力整合，實現數據準確與有效聯通，防范安全風險。中國機器人網稱，在規范數據使用、保護隱私等前提下，借助區塊鏈等技術，建設數據中臺，匯聚多種來源數據，形成統一標準和體系。在此基礎上，根據用戶的各種需求， 快速響應，及時提供可視化、智能化、便捷化的數據服務方案。一是完善細化法律法規，保護數據安全。二是使用“聯邦學習”策略，保護數據安全。三是借助大數據和人工智能等技術，保障網絡安全。此外，加強政府、科研院所、企業和行業等各方緊密合作，共建有利于網絡安全的大生態。

（二）構建人工智能治理的全球協調機制。騰訊網稱，在自我保護與相互協作之間尋求平衡的“數字主權”需求可能會破壞多邊主義并轉變為技術民族主義，進而可能導致國際治理機制復合體功能失調，破壞地方和區域治理，削弱其作用或有效性。因此，只有在全球范圍內進行全面協調，才能有效應對、化解未來的威脅與失衡狀態。需要建立正式的磋商機制，將利益攸關方入其中，推動官方政策的討論。公共磋商機制應當推動實現包容性協調進程、促進自組織和治理網絡發展、并幫助適應治理的多層次、多學科和多中心環境。

（三）我國要在人工智能領域取得應有的話語權，就必須在人工智能基礎理論和前沿技術方面加強引領性原創科學研究并率先取得重大突破。中國電子網稱，相對于歐美國家，我國人工智能研究起步晚，又長期處于低門檻，具有國際影響力的人才稀缺，掌握“撒手锏”技術的高水平人才更十分匱乏，尚需建設完備的人工智能人才體系。高端技術必須與產業對接，形成龐大的應用市場，人工智能必須與產業緊密融合。這意味著需要抓緊助推人工智能應用場景的落地，爭取基礎數據和平臺技術的突破，搭建好與傳統行業生態有效銜接的橋梁。

（四）要在基礎研究的“一軟一硬”兩方面要加大力度發展。全球高校人工智能學術聯盟秘書處上海蓋亞人工智能中心理事長王延峰認為，只有形成生態，我們自己生產的東西才能運用到整個產業鏈。所以，基礎研究的“一軟一硬”兩方面要加大力度發展。美國斷供其實也在倒逼我們發展。還是要把自己生產的產品用起來，形成生態后迭代升級。

（五）積極配置資源參與人工智能軍事化發展，推動武器領域具有約束性的國際法律條約。就人工智能武器風險規制而言，中國尚未出臺專門的相關政策，而是表現在《新一代人工智能發展規劃》中，針對一般性人工智能的發展，提出了建設倫理規范和政策法規的總要求。因此建議：第一，應積極配置資源參與人工智能武器的全球治理工作，推動國際安全治理體系的進一步完善。第二，應積極推進政府間合作協議的簽訂，以推動建立人工智能武器領域具有約束性的、多種形式的法律條約。第三，恰當、適時地推進致命性人工智能武器的軍備控制。

（六）我國需要建立系統的個人信息數據保護機制，整合民法、刑法等規范，為個人信息安全保駕護航。百家號“眷誠法務”稱，首先，需要明確個人信息權。應該區分個人信息被使用的知情權、更改權、刪除權等，明確人工智能收集個人信息的界限，讓個人信息成為一個有價值、受保護的權利。其次，要為人工智能領域收集個人數據建立科學的原則。科學的原則主要體現在收集個人信息的合法、必要、正當性上。最后，對于人工智能的領域內的個人信息安全，應該制定專門的法律，明確侵權的救濟方式。

作者簡介：

張弛，女，漢族，江蘇江陰，1979年10月出生，碩士學位，工程師。。研究方向：網絡輿情傳播規律;網絡空間治理;互聯網領域前沿科技研究。