人工智能發展機遇與安全治理

1956年達特茅斯會議之后，人工智能（Artificial Intelligence，AI）這一概念開始獲得廣泛關注。近年來，伴隨著生成式人工智能的橫空出世，人工智能進入了發展爆發期。新一代AI技術的應用場景不斷拓展，不僅能與人對話、創作詩詞，也成為推動實體經濟發展的新動能。作為賦能手段，無論是孕育新產業、新模式、新業態，還是促進傳統產業轉型升級、提質增效，人工智能都蘊含著巨大的“智慧潛能”。

值得注意的是，人工智能的發展有可能帶來“二律背反”現象：一方面，人工智能極大地提升了生產效率；另一方面，隨著人與人工智能的邊界逐漸模糊，人工智能也對社會、法律、哲學領域提出了新的考驗。

從歷史經驗看，中國錯過了引領前三次工業革命的機遇，甚至有學者為此提出“李約瑟之謎”。但是，隨著并聯式現代化的推進，中國深刻把握了人工智能的發展契機，成為推動“AI革命”的重要力量。在這一背景下，掌握人工智能發展的現狀、分析人工智能的發展機遇、完善人工智能的安全治理，是擺在我們面前的一個重要課題。

人工智能發展現狀

近年來，人工智能產業在政策與技術的雙重驅動下呈現高速增長態勢。根據IDC（International Data Corporation）的最新數據，2022年全球人工智能收入預計同比增長19.6%，達到4328億美元，包括軟件、硬件和服務。從工業機器人來看，根據IFR（International Federation of Robotics）的最新數據，2022年全球安裝的新工業機器人數量為55.3萬臺，同比增長6.9%，創歷史新高，全球工業機器人的庫存量創下了約400萬臺的新紀錄。圖1展示了近10年來全球工業機器人安裝情況，安裝量呈現明顯的上升趨勢。其中，中國已連續10年成為全球最大的工業機器人消費市場。

全球人工智能的快速發展，離不開資本的推動。從人工智能融資來看，圖1展示了2015-2021年全球人工智能融資情況，融資數量除了在2020年略有下降，其余年份均保持快速增長趨勢。2021全球AI領域共完成2841筆交易，同比增長16.1%。

人工智能發展機遇

人工智能的可拓展性決定了其正在快速地向眾多應用場景滲透，從線上到線下、從制造業到服務業，人工智能賦能千行百業，引發了大量將傳統生產技術與人工智能深度融合的需求。這些需求正是人工智能發展的新機遇，也是人工智能賦能經濟的新增長點。

1.人工智能賦能國際貿易

AI技術為大數據的處理提供了強大支撐，在國際貿易中利用AI技術可以大幅提高效率、降低成本。人工智能賦能國際貿易表現在以下方面：

一是賦能跨境電商。通過基于自然語言處理技術的智能客服、基于機器學習技術的個性化推薦算法，可以提高跨境電商業務效率。

二是賦能供應鏈管理。基于大數據和預測分析技術的供應鏈智能調度系統，可以降低物流成本和提高供應鏈效率。

三是貿易數據分析。貿易數據分析平臺可以快速準確地識別市場趨勢和預測需求。四是智能海關。通過貨物識別技術和風險預警系統，提高海關監管效率。

2.人工智能賦能金融

“AI+金融”并非單純的技術累加概念，而是針對不同業務需求，運用AI技術推動金融業務高質量發展的一系列配套解決方案。目前，人工智能在金融領域已經“多面開花”，中國銀行打造沉浸式元宇宙體驗空間、中信銀行的“數字員工”出現在千余個場景上。

除了在銀行業，在保險業人工智能也有充分的應用空間。利用機器學習和大數據分析，人工智能系統可以為保險公司塑造客戶的人物畫像，制定相應的定價水平和費率，推出滿足客戶潛在需求的個性化保險方案，從而提升服務效應。

此外，人工智能在金融領域還有一個重要的應用方向——風險控制，利用深度學習等技術，人工智能系統可以快速識別欺詐行為，幫助金融機構規避風險事件。當然，人工智能在金融領域還有相當大的拓展空間，人工智能需繼續深耕。

3.人工智能賦能醫療

《超越想象的GPT醫療》一書中充分描繪了GPT-4模型在醫療產業的應用場景。事實上，人工智能在醫療產業的應用并非新事件，早在20世紀70年代就已經開始。此后隨著機器學習、NLP等技術普及，AI手術機器人、AI制藥等應用領域逐漸成熟落地，并涌現了如IBM Watson等知名醫療AI應用系統。

根據Global Market Insights的報告，2022年全球醫療AI市場規模超過50億美元。未來人工智能與醫療產業還有眾多深度融合的機會，包括診斷疾病，利用深度學習技術，人工智能可以對醫學影像進行自動分析，幫助醫生快速準確地診斷腫瘤等疾病；制定治療方案，通過對大量醫療數據的挖掘和分析，人工智能可以根據患者的病情、病史和治療方案等信息，生成最合適的治療方案；研發藥物，通過模擬藥物與生物體的相互作用和效果，人工智能可以輔助藥物研發人員篩選和優化候選藥物。

4.人工智能賦能教育

以Chat GPT為代表的新一代人工智能在教育領域的應用是多方面的，其作用可以凝練為“三個助力”。

一是助力解決教育發展不均衡問題，在貧困地區，可以通過引入機器人助教，緩解師資匱乏的問題。

二是助力解決“因材施教”難題，借助視頻智能化采集與分析技術，人工智能能夠實現“一對一”教學，對每個孩子進行實時評測，培養學生的良好習慣。

三是助力解決心理疏導問題，目前“青少年智能心理評測系統”已經在一些地區落地，該系統能夠發現孩子的心理問題，幫助家長和學校提早對學生進行心理疏導和治療。

5.人工智能賦能農業

最前沿的技術與最古老的產業相遇，人工智能在農業產業的適用范圍非常廣泛。包括農業機器人、智能化種植、農業大數據等。

一是農業機器人可以進行農業操作和監控作物，包括播種、播種后的觀察與薄荷控制、成熟期的測量等，大幅降低農民的勞動強度。

二是智能化農業是農業發展的趨勢，利用傳感器、數據分析等技術，智能化種植可以提供包括測試土壤環境、監控作物生長等多種功能，提高農產品產量。

三是農業大數據可以全面掌握農作物的生長軌跡、需求、災害等各種狀態信息，幫助農戶實現更加準確地生產決策，降低農業生產成本。

6.人工智能賦能制造業

作為經濟的支柱產業，制造業的發展一直致力于提升生產率，AI的崛起為制造業帶來了新的活力。目前，人工智能在制造業的應用有以下趨勢。

一是以數據制定生產決策。通過AI技術分析海量消費者需求數據，企業能夠快速調整生產流程，甚至推出個性化定制，提高競爭力。

二是以人機協同推進生產過程。智能機器人、協作機器人不僅可以替代傳統生產中的工序，還能與人員實現緊密協作，完成危險、費時費力的操作步驟，提高生產效率。

三是以技術優化質量檢驗。AI技術可以實現基于圖像識別的智能質檢，提高質檢效率和準確性。例如，華為公司已經采用AI技術進行手機質檢。

人工智能安全治理的全球行動

作為新一輪科技革命的重要驅動力量，人工智能迎來眾多發展機遇的同時，也帶來了新的挑戰，尤其是在安全治理方面。2023年11月，中國、美國、英國、法國、德國等28個國家和歐盟，在英國簽署了首個全球性人工智能聲明——《布萊切利宣言》，該宣言呼吁加強對前沿AI技術的科學研究與風險評估。縱觀全球，各國對人工智能治理還沒有統一認識，治理方案正處于起步階段，不過隨著各國政策文件的出臺，全球人工智能安全治理表現出以下三個特點。

1.治理目標兼顧發展與安全

歐盟發布了《人工智能法案》（草案）和《人工智能責任指令》提案，前者強調保護人工智能領域的創新能力，后者聚焦于人工智能的法律規范；美國發布了《人工智能應用的監管指南》，強調監管的科學性和靈活性，堅持監管的前提是鼓勵人工智能的創新和發展。習近平總書記在第三屆“一帶一路”國際合作高峰論壇開幕式主旨演講中提出《全球人工智能治理倡議》明確提出，發展AI產業應堅持相互尊重、平等互利的原則，為全球AI治理提供了中國方案。

2.治理主體兼顧政府與市場

歐盟和美國都主張采用多元主體參與、協同共治的模式，人工智能治理從政府主導向“政府+市場”主導轉型，中國也鼓勵企業參與人工智能安全治理。在全球范圍內，企業成為越來越重要的治理主體。例如：Meta、Partnership AI與其他組織發起了“深度造假”視頻檢測競賽；中國國家互聯網應急中心與騰訊等單位聯合發起了人工智能安全治理專業委員會。

3.治理方式兼顧規制與倡議

全球人工智能立法已經進入快車道，經合組織（OECD）官方網站數據顯示，目前全球已有69個國家和地區提出了800余項人工智能政策舉措。2023年，中國連續推出了《科技倫理審查辦法（試行）》（征求意見稿）以及《生成式人工智能服務管理暫行辦法》。由于人工智能應用場景豐富，僅僅依靠法律等規制性文件難以完全管控人工智能風險。通過倡議提升相關企業與相關用戶的自我約束，也是當前人工治理的重要方式，例如美國于2020年發布的《人工智能應用監管指南》側重于通過鼓勵、引導的方式防控風險。

人工智能安全治理的中國方案

伴隨著人工智能應用場景的快速擴展，人工智能濫用的風險呈指數級上升。《關于加強科技倫理治理的意見》出臺后，中國在人工智能安全治理領域開展了眾多探索，當然，中國仍需進一步參考各國優秀經驗，結合人工智能在中國發展的具體實踐，形成人工智能安全治理的中國方案。

1.完善監管措施

基于權力保護、倫理捍衛、社會穩定原則，政府可從兩個維度建立立體式監管體系。

一是區分應用場景，在教育、金融、制造等不同場景下，制定不同的監管政策。

二是明確技術風險程度。列出具體人工智能技術的風險程度，基于風險-收益考量將人工智能技術分類。將低風險、高收益的技術歸為綠燈技術，加快研發與應用；將具有一定程度風險，但“收益-成本比”較高的技術歸為黃燈技術，謹慎研發與應用；將高風險技術歸為紅燈技術，禁止研發與應用。

2.建立制動機制

對關鍵基礎設施領域（如電網、水供應和交通等）的人工智能系統，建立與高鐵制動系統類似的系統，確保人對人工智能系統的有效控制。由政府界定哪些關鍵基礎設施的人工智能系統屬于高風險范疇，并要求這些系統在設計之初，就將安全制動機制作為系統安全治理的一部分嵌入其中，并要求運營商定期測試高風險系統。

3.打擊AI犯罪

按照《生成式人工智能服務管理辦法（征求意見稿）》的指導思想，依據《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》等法律、行政法規的規定，對人工智能犯罪行為予以處罰。依法打擊利用人工智能進行危害國家安全的犯罪行為，并督促人工智能行業和用戶個人自覺提升防范意識、遵守法律法規，履行維護國家安全主體責任。

4.推動全球治理

一是密切跟蹤技術發展形勢，在全球范圍分享中國治理方案，通過對話與合作，開展風險評估和政策溝通，在人工智能治理領域形成國際共識。

二是增強發展中國家在人工智能全球治理中的代表性和發言權，開展面向發展中國家的AI治理援助。

三是支持在聯合國框架下成立國際人工智能治理機構，協調管控人工智能風險與犯罪問題。

AI技術帶來難以預知的復雜風險和多元挑戰，是世界各國需要共同面對的時代課題。當然，我們無需對AI技術產生“科幻式”擔心和“盧德情緒”，正如馬克思曾指出的“問題與解決問題的手段同時產生”，在各國共同努力下，人工智能一定會朝著有利于人類文明進步的方向發展。