“人工智能+”：熱潮下的冷思考與治理破局

薛瀾

文科資深教授，現任人工智能國際治理研究院院長、蘇世民書院院長，兼任中國科技政策研究中心主任、全球可持續發展研究院聯席院長等職務；同時還兼任國務院參事、國務院學位委員會公共管理學學科評議組聯合召集人、國家新一代人工智能治理專業委員會主任、聯合國可持續發展解決方案網絡理事會成員、聯合國公共行政專家委員會委員及聯合國互聯網治理論壇首屆領導小組成員等。

本文核心觀點：

1.中國開展“人工智能 + ”行動的核心目標是推動人工智能向善，促進經濟社會發展，最終造福于人民，而非大國競爭。

2.與歐美國家（特別是美國）側重于前沿模型競爭和“大國對決”的敘事不同，中國的路徑更注重人工智能技術在經濟社會各領域的廣泛應用和安全落地，以支撐高質量發展。其未來方向是人機協同，而非簡單的人工替代。

3.面對快速迭代的技術，治理須跟上技術發展，應采取“邊發展、邊治理”的“敏捷治理”模式，在實踐中不斷完善。

4.中國在人工智能全球治理中發揮積極引領作用，倡導開放、共享與普惠發展，致力于縮小“數字鴻溝”，期待建立以聯合國為核心的全球治理框架。

5.充分考慮立法的嚴肅性與審慎穩妥的必要性，平衡好發展與安全。

機器人在生產線上精準作業、無人駕駛汽車穿梭于城市街道、智能算法推送心儀的商品和服務人工智能正以前所未有的發展速度重塑著我們的世界。‘ ”的未來，正從科幻小說的情節撞進現實。

隨著AI技術加速迭代演進，各國紛紛把AI作為推動經濟社會發展的核心驅動力和科技競爭的戰略焦點。近年來，中國大力推進“人工智能 +^′′ 行動，2017年國務院發布的《新一代人工智能發展規劃》，為我國人工智能發展指明了方向。2024年，“人工智能 +^; ，首次被寫人《政府工作報告》，標志著我國人工智能戰略從技術導向邁向場景導向的新階段。2025年7月31日召開的國務院常務會議審議通過《關于深入實施“人工智能 +^′′ 行動的意見》，強調深人實施“人工智能 +^′′ 行動，大力推進人工智能規?；虡I化應用。

然而，人工智能的廣泛應用也帶來諸如數據安全、倫理合規、算法偏見等治理挑戰，如何平衡技術創新與風險防控？如何構建健全的治理體系以推進人工智能健康、可持續發展？這些問題正日益成為政策界、產業界和學術界共同關注的焦點。圍繞“人工智能 + ”行動與人工智能治理的關鍵議題，《新經濟導刊》特邀請蘇世民書院院長、人工智能國際治理研究院院長薛瀾展開深入探討。

“人工智能+”旨在造福民生，人機協同是未來方向

新經濟導刊：自2024年《政府工作報告》提出開展“人工智能 + ”行動以來，人工智能高效賦能千行百業，形成了一批具有示范效應的重大應用場景。日前，由您擔任總主編、人工智能國際治理研究院牽頭組織編寫、中國發展出版社出版的“人工智能重大應用場景叢書”在2025世界人工智能大會“人工智能的全球發展與治理：共贏與共治之路”論壇上發布，在國家深入推進“人工智能 + ”行動背景下，這套叢書的出版恰逢其時。請您向讀者介紹一下這套叢書的出版背景、目的及亮點內容。

薛瀾：當前人工智能已進入大規模應用階段，但在實際落地過程中，無論是對于開發者還是用戶來說，仍面臨諸多挑戰，尤其是在人工智能相關法規和治理機制方面仍有待完善。為此，人工智能國際治理研究院組織研究團隊，選取了多個重要應用場景開展深入調研，并在此基礎上完成了本套叢書的編寫。

本叢書的出版與我國深入實施“人工智能 + ”行動計劃高度契合，其核心目標在于連接人工智能企業、用戶與治理機構，共同識別重大應用場景，系統分析其在落地過程中所面臨的挑戰，并通過政策支持與多方協作，加速推動人工智能技術的廣泛應用與推廣。

本叢書的內容涵蓋多個行業領域，力求從實際應用出發，結合豐富的典型案例，幫助讀者全面理解人工智能技術在不同場景中的價值與意義，深人認識人工智能的巨大潛力，推動其在具體實際場景中的應用；同時，叢書為人工智能企業和開發者在商業應用等方面提供了重要參考，有助于促進企業與用戶之間的溝通與協作。此外，叢書還可為相關機構在政策與法規制定方面提供依據，從而支撐人工智能更廣泛、更安全地落地應用。我們相信，通過各方共同努力，人工智能將在推動社會經濟發展、提升公共服務水平、優化產業結構等方面發揮更重要的作用。同時，叢書也為構建開放、協同、安全的人工智能生態體系貢獻一份力量。希望讀者能夠從中獲得啟發，進一步推動人工智能的創新發展與實踐應用。

薛瀾正在接受《新經濟導刊》雜志采訪。圖/楊智童攝

新經濟導刊：從戰略層面講，國家推動“人工智能 + ”行動的核心目標是什么？與歐美等國家的人工智能發展戰略相比，中國的路徑有何特點？

薛瀾：我國發展人工智能最根本的目標是推動人工智能向善，促進經濟社會發展，最終造福于人民。這一點與歐美國家尤其是美國所主導的發展路徑存在根本差異。當前，一些歐美國家媒體在人工智能國際發展敘事方面，往往將其描繪成中美之間的一場“巔峰對決”，認為這是大國在前沿領域的競爭。當然，中國也有一批企業在不斷研發先進模型，但我們發展與應用人工智能的核心宗旨，始終是造福人類、服務社會。因此，我們更積極地推動人工智能在經濟社會各領域的廣泛應用，為我國的高質量發展提供支撐與保障。而最前沿領域的模型競爭并不是我們發展人工智能的核心自標，我國更注重推動人工智能安全廣泛地應用以實現造福民生的目的。

新經濟導刊：當前，“人工智能 + ”行動正在全國范圍內如火如茶地推進。在您看來，哪些行業或重點領域更具發展潛力？同時，您認為在推進過程中還存在哪些政策、市場等層面的挑戰？

薛瀾：人工智能的應用范圍非常廣泛，正因其作為一項通用型技術，能夠滲透到眾多場景中，而人工智能技術的不斷進步也將深刻影響社會的方方面面。以醫療領域為例，人工智能在醫療技術中的應用前景十分廣闊，正成為醫療行業的關鍵賦能者，其價值不僅體現在提升醫療質量和效率上，更致力于讓優質的醫療服務變得更具普惠性和可持續性。未來，隨著技術與臨床實踐的深度融合，AI有望進一步重構人類健康的守護體系。例如，人工智能賦能影像診斷已經較為普遍，此外還有許多企業正在積極開發各類診斷模型。如我們調研過的一家專注于大模型的人工智能公司一百川智能，其聯手北京兒童醫院、小兒方健康科技（北京）有限公司推出的一款兒科診斷大模型—“福棠·百川”是全球首個兒科診斷大模型。兒科診斷本身難度較大，幼兒往往無法清晰表達不適，更多依賴醫生的經驗進行判斷。該模型覆蓋了兒童常見病與疑難病癥的立體化知識體系，具備較強的兒科臨床推理能力，并首創兒科“循證模式”。在兒童疑難病癥的診斷方面，人工智能在某些測試中的表現甚至已經超過了有經驗的醫生。由此可見，在醫療影像和輔助診斷等領域，人工智能具備巨大的發展潛力。

當然，人工智能在賦能醫療領域過程中也面臨著一些挑戰，比如目前仍無法完全保證模型不會產生“幻覺”或誤判。因此，即便模型平均表現優于人類，但我們依然需要人類醫生的最終審核和確認，這意味著人工智能系統必須與醫生協同工作，而不是替代醫生。同樣的情況也適用于處方權問題：人工智能可以提供治療方案或藥物使用的建議，但最終處方必須由醫生簽字確認。因此，人機協同將是未來發展的核心方向。

AI治理如何跟上技術狂奔？“敏捷治理”是破題密碼

新經濟導刊：隨著人工智能規模化商用進程的加速推進，人工智能的科學治理正日益成為全球各方關注的重要議題。當前，國際社會在AI治理方面呈現出哪些主要趨勢？面臨哪些風險與挑戰？

薛瀾：從宏觀角度來看，自人工智能國際治理研究院正式成立之前，我們就已開展相關研究。縱觀近幾年的發展，一個非常明顯的趨勢是，全球各國和相關領域的專家都開始高度關注人工智能治理問題，全球人工智能治理也在不斷推進中。

然而，這一進程并非一帆風順。在近期召開的2025年世界人工智能大會（WAIC）期間，我與國際專家進行了廣泛交流，大家普遍認為2023-2024年堪稱人工智能治理議題的一個“高潮期”，全球范圍內，人工智能治理主題的國際會議廣泛召開，相關治理規則和機制的探討與實踐正在持續深化。但近期也出現一些回落跡象，部分國家在治理態度上有所反復。這與人工智能技術本身的發展歷程相似，必然伴隨起伏。但總體而言，國際社會對AI潛在風險的認識正不斷深化，相應治理措施也在持續完善。

2025世界機器人大會上展示的機器人。圖/賈雅楠攝

國際上的專家把發展人工智能帶來的風險概括分為三大類。第一類是“惡意使用”或“濫用”帶來的風險，即有意利用人工智能從事加害行為，例如，極端分子可能借助AI開發生化武器，造成大規模傷害；濫用深度偽造技術或從事違法行為。

第二類風險源于技術本身的缺陷。比較典型的情況就是所謂“幻覺”的產生，即AI模型可能會生成不實或誤導性內容，甚至是完全虛構的信息內容。而其中最令人擔憂的是技術失控風險一人工智能若脫離人類控制、形成自主意識和行為，將構成根本性威脅，這也是國際專家普遍關注的焦點。

第三類風險涉及AI大規模應用對社會結構的長期影響，包括對就業、知識產權、社會認知等方面的影響。當前最受關注的是就業問題，AI未來可能替代體力勞動，還可能影響腦力勞動和高技能白領崗位，其潛在影響廣泛且深刻，對社會發展提出了嚴峻挑戰，亟須構建系統性的應對策略。

總體來看，人工智能治理仍處于動態發展、多方博弈的階段，但認知在深化，機制也在逐漸健全。

新經濟導刊：隨著人工智能技術的快速迭代演進，其帶來的風險和挑戰也日益增多。如何構建能夠適應AI技術快速演進的治理框架？是否需要動態調整監管政策？您有哪些建議？

薛瀾：動態調整監管無疑是必要的，但當前面臨的最大挑戰在于：技術發展速度很快，而治理體系的調整、新法律法規的出臺往往相對滯后。我們很難控制技術的快速發展，等待治理規則完善之后再繼續推進，這顯然是不現實的。因此，我們必須采取“敏捷治理”的方式，努力跟上技術發展的步伐，“邊發展、邊治理”，在實踐中不斷迭代和完善治理體系。

具體來說，我提出以下幾個方面的建議。首先，要轉變傳統治理觀念。過去我們傾向于出臺一套全面的、覆蓋所有方面的法規，但在AI領域，這種做法很容易錯失治理時機。更有效的方式是：針對新出現的風險點，及時制定相應的治理措施或辦法。關鍵是要先建立治理框架，再從實踐中持續優化和調整。

其次，應重新定位監管者與被監管者的關系。以往，監管部門與企業之間可能存在一種“貓鼠游戲”：企業尋找監管漏洞，監管部門專注于查處違法行為。然而在AI治理領域中，很多風險不僅政府不了解，企業自身也可能尚未意識到。因此，政府和企業應站在同一戰線，加強溝通協作，共同識別和應對AI可能帶來的各類風險，探索更適宜的監管方式。

最后，要推動監管工具多樣化。政府應根據企業行為采取差異化監管措施，對出現輕微風險或非故意違規的企業，可以通過提醒、警告等方式引導其改正；對屢教不改或造成嚴重后果的，則依法嚴厲處罰。監管的目標不是扼殺創新，而是推動人工智能在合規前提下更好地發展，應采取輕重手段結合的方式，既保持約束力，也給予企業成長的空間。

中國積極引領全球AI治理，國內立法需平衡好發展與安全

新經濟導刊：未來5年，全球AI治理可能呈現怎樣的格局？中國應如何提前布局？

薛瀾：在全球人工智能治理方面，我們期待建立起一個有效的全球治理體系。目前，聯合國已在此方面做出積極努力，包括計劃成立一個全球性專家小組，旨在及時研判人工智能發展過程中出現的各類風險。同時，也致力于構建一套安全檢測與評估體系，確立相關標準并形成評測機制。該體系要求各國前沿大模型必須通過安全測試，才能進人實際部署階段，以確保人工智能在大規模應用中的安全性與可信性。

與此同時，推動人工智能的普惠發展也至關重要。中國在國際社會中積極倡導并推動人工智能的開放、共享與普惠發展，致力于縮小“數字鴻溝”，中國在推進全球人工智能治理方面做出了多方面努力。一方面，中國在聯合國框架下提出多項倡議，例如，2024年7月第78屆聯合國大會協商一致通過中國提出的加強人工智能能力建設國際合作決議，140多國參加決議聯署；另一方面，中國已舉辦多期國際交流研討會，幫助發展中國家的政府官員和技術人員提升人工智能治理與運用能力。此外，國務院總理李強出席2025世界人工智能大會暨人工智能全球治理高級別會議開幕式并致辭時宣布，中國政府倡議成立世界人工智能合作組織。強調要堅持統籌發展和安全，加強各國對接協調，推動早日形成具有廣泛共識的人工智能全球治理框架和規則。中國在人工智能治理方面提出了眾多務實倡議，并持續付諸行動。

未來五年，全球人工智能治理可能逐步形成以聯合國為核心的全球治理框架，中國在推動人工智能國際合作、能力建設和普惠發展等方面將發揮更加積極的作用。

新經濟導刊：隨著加快人工智能領域立法呼聲漸高，全國人大常委會2025年度立法工作計劃將人工智能健康發展等方面的立法項目列為預備審議項目。如果請您為將來的人工智能立法提幾點建議，您最想寫進哪些話？

薛瀾：人工智能立法確實是一個受到各方高度關注的議題。首先，關于中國是否有必要盡快推進人工智能立法的問題，過去幾年已經持續引發討論，許多法律領域的專家也為此進行了大量的前期準備工作。例如，中國社科院、中國政法大學等機構都分別提出了各自的專家建議稿，這表明我國法學界已經為此奠定了良好的基礎。然而，正如前面提到的，人工智能技術發展極為迅速，而立法本身通常需要一個充分討論和謹慎推進的過程，以全面考量各方利益與技術現實。因此，如何在“盡快立法”與“審慎穩妥”之間取得平衡，仍需社會各方進一步凝聚共識。

在推動人工智能專項立法方面，以下幾個方面值得重點考慮。一是立法定位問題。我們究竟要制定一部以促進人工智能發展為導向的“促進法”，還是以風險監管為核心的“監管法”？例如，歐盟的《人工智能法案》就明顯側重于風險規制。而我國在立法中也需要思考如何既有效防范風險，又為技術創新留有空間，實現創新發展與安全之間的平衡。二是監管框架與風險分級機制。目前，歐盟《人工智能法案》雖然對風險進行了分類，但劃分仍相對宏觀，具體實施尚需配套細化的規則。若立法條款過于注重原則性，可能會影響其可操作性與應用效果。因此，立法路徑選擇至關重要，即是針對特定應用場景出臺專門的法規，還是制定一部全面的綜合的人工智能基本法，這需要結合實際情況審慎決策。三是與現有法律體系的銜接問題。實際上，盡管我國尚未出臺專門的人工智能法，但已經初步建立起一套覆蓋多層面的治理體系。例如，《個人信息保護法》《數據安全法》《網絡安全法》等基礎性法律已發揮重要作用，而針對生成式人工智能等特定領域也出臺了相應的管理規定。未來任何新立法都應充分考慮與現行法律法規的協調性，避免規則沖突，確保制度體系的整體性和一致性。綜上所述，人工智能立法是一項系統工程，仍需在立法定位、監管設計和體系融合等方面開展深人研究和廣泛討論。