人工智能時代 標準化需做好哪些準備

人工智能時代的大幕已經徐徐拉開，人類社會的生產和生活方式將發生巨大變革，在洶涌澎湃的智能技術浪潮面前，我們都做好準備了嗎？在近日召開的2024（第九屆）世界物聯網大會上，《中國標準化》記者就此問題采訪了世界工程組織聯合會前任主席、中國新一代人工智能戰略研究院執行院長龔克，請他介紹了人工智能標準化方面的熱點問題。

人工智能標準化面臨的機遇和挑戰

當前人工智能技術的飛速發展已超乎人們的想象，那么人工智能標準化目前的狀況怎樣呢？龔克向記者介紹，新一代人工智能從發展伊始，各國就將標準放在非常重要的位置。2017年，國務院公布了《新一代人工智能發展規劃》（以下簡稱規劃），規劃從2017—2030年期間跨越三個5年計劃，在“戰略目標”的設計上，從時間上分三步走，即到2020年為第一步，到2025年為第二步，到2030年為第三步；在內容上分為三個方面建設：第一方面是人工智能理論和技術，提出了第一步在新一代人工智能理論和技術取得重要進展，第二步到新一代人工智能理論和技術體系初步建立，第三步要形成較為成熟的新一代人工智能理論與技術體系；第二方面是人工智能產業，提出了第一步是人工智能產業競爭力進入國際第一方陣，第二步讓人工智能產業進入全球價值鏈高端，第三步使人工智能產業競爭力達到國際領先水平；第三方面是關于人才和人工智能法規政策標準等發展環境，就法規政策和標準而言，提出了第一步初步建立部分領域的人工智能倫理規范和政策法規，第二步初步建立人工智能法律法規、倫理規范和政策體系，第三步建成更加完善的人工智能法律法規、倫理規范和政策體系?？梢?，我國從人工智能發展的頂層設計上將標準擺在重要位置，把標準化水平設為重要發展目標。

從人工智能相關技術標準的發展情況看，我國在2020年由國家標準化管理委員會等五部委聯合印發《國家新一代人工智能標準體系建設指南》（以下簡稱《指南》）。《指南》提出以市場驅動和政府引導相結合，建立國家新一代人工智能標準體系的指導思想和從標準化頂層設計到初步建立人工智能標準體系的建設目標?！吨改稀方o出的標準體系框架，不但明確了支撐技術與產品、基礎軟硬件平臺、關鍵通用技術、關鍵領域技術、產品與服務、行業應用六個層次，而且明確規定了“共性基礎”（包括術語標準、參考架構標準、測試評估標準等）和“安全/倫理”（包括安全與隱私保護、倫理等）兩類貫穿各個層次的通用要求，以確保人工智能技術的規范化發展。

龔克表示，過去我們一般只是在醫學技術、生物技術涉及倫理屬性，但人工智能技術因為它有技術與社會屬性緊密融合的性質，所以這個框架特別將其倫理要求納入其中。

國際上也很重視AI標準化工作?，F在國際標準組織在這方面非常積極，國際標準化組織（ISO）、國際電工委員會（IEC）、國際電信聯盟（ITU）等都非常積極。特別是IEEE，早在多年前就開始做這方面的工作。ISO已經先后頒布了幾批涉及人工智能的標準，它有一個非常重要的特點，就像它做的ISO 9000系列。它先對研制人工智能產品、提供智能服務的組織提出要求，包括設計決策程序、倫理審查機制等。歐洲方面的標準化有一個重要的特點，就是關注人工智能對社會發展的影響。比如說歐盟目前在著手創建一個技術手段以評估人工智能系統對人權的影響?？梢哉f各國對于人工智能的標準化都很重視，中國在這方面也取得了重要的進展，我們比較早地推出了人工智能標準化建設導則和框架，對于國際上整個標準化工作應該都有一定影響力。

另一方面，中國也在積極參與ISO、ITU、IEC等國際標準組織的工作。中國電子技術標準化研究院是國內標準積極的推動者，同時也是國際標準重要的參與者。

標準化體系考慮倫理與安全隱私

龔克介紹，日前，工業和信息化部等四部門聯合發布《國家人工智能產業綜合標準化體系建設指南（2024版）》，指南在標準體系的層次劃分上分為基礎支撐、關鍵技術、智能產品與服務、賦能新型工業化與行業應用四個大層次，突出了賦能新型工業化的標準建設，在貫穿各層次的“共性基礎”中進一步明確了“管理”和“可持續”兩項內容，同時將“安全/倫理”拓展為“安全/治理”，構建起一個涵蓋人工智能產業全生命周期的標準體系。

從倫理的角度來講，我國組建了國家科技倫理委員會，這是前所未有的。國家科技倫理委員會下設幾個分委員會，其中一個分委員會就是人工智能分委員會，該分委員會做的一項重要工作，就是研究人工智能倫理風險清單。中央明確提出人工智能的治理要倫理先行，就是要引導人工智能向善；同時根據人工智能對人、對社會可能造成的風險進行分類分級的管控。這些都是很清晰的思路和做法。

在法規方面，我國已經推出了個人信息保護法和數據安全法，之前有網絡安全法，這些都形成了上位法規的體系。對人工智能技術的立法也在積極推進之中。

從技術角度來講，人工智能的基本技術還在快速發展變動之中，對標準化工作的挑戰是如何把握技術快速變動性和標準相對穩定性的關系，既保證安全可靠又為創新發展留出空間。此外，可能還要注意標準之間的互操作性，特別是與國際上的標準具有互操作性，這些都是現在標準化需要關注的問題。

人工智能標準研究要促進跨界融合和綠色化發展

中國標準化研究院（以下簡稱“中標院”）是市場監管總局下設的面向全國、全行業的國家標準化研究機構。標準化工作一方面要為人工智能技術確定必要的標準，這些標準應該是可拓展的，并與國際接軌的，要適應技術發展并確保安全。這項工作并不是中標院自身能做到的，在技術方面更多地要由中國人工智能產業發展聯盟去做；另一方面，就是今年政府工作報告中提出人工智能+，這個“+”，按龔克的理解也包括人工智能+標準化。

那么如何做到將來這些標準是機器可讀、機器可執行、機器可檢測、機器可報告呢？龔克認為，這些要求對標準化自身而言，就是人工智能+標準化發展或者智能的標準化發展，抑或是標準化智能發展，在這些方面中標院可以做更多的工作。中標院作為市場監管總局直屬研究機構，本身具有跨行業的屬性。人工智能是一個通用技術，而現在很多標準化工作是按行業切分的，中標院應該能夠在跨行業的標準研究方面發揮獨特作用。希望它能形成一個平臺，匯聚不同行業的技術，在平臺實現標準的高效互聯互通，做到標準化可拓展、可互操作，特別在智能化時代，在新的數據和AI驅動發展的背景下，做好標準化的工作。

現在從國際上來看，面向社會組織、社會服務、社會管理方面的標準化有了很大發展，使得標準化工作大大超出了產品和技術服務標準的范圍，而我國這方面相對滯后，所以需要加強。比如，很多公共服務項目，百姓并不知道，從而不能及時接受應有的服務。如何做到廣而告之，應該有標準，讓公共服務達標，是社會治理上的重要的標準化工作。這方面中標院應有所作為。

龔克強調，還有非常重要的一點是標準化要支撐服務綠色化發展。綠色化發展的要求如何嵌入到各種的產品、服務、樓宇、道路的服務之中，這也非常重要。綠色化發展不僅是環保，還包括社會的平等、包容性、經濟的公平與可持續增長等問題。這些要求也要反映到人工智能技術及其應用的標準之中。

希望千方百計地推進人工智能標準國際合作與相互融合

對于國際人工智能的標準化工作，龔克認為，由于人工智能領域已經成為一個關鍵核心競爭領域，這幾年我們面臨的主要問題是地緣政治沖突的影響。比如美國成立的某些組織就排斥中國企業。但是事情也有另外一面，比如去年英國召開的人工智能安全峰會，英國當時頂住了很多壓力，邀請中國政府代表參加，但是我們沒有參加會議的所有環節，即有些環節沒讓我們參加。請我們參加，是因為認識到國際合作治理的重要性；不要我們全部參加，則又是排斥性。這種兩面性也體現在國際標準研制領域。那么今后在這些方面還會有很多的較量，有很多的工作要做，要努力朝著合作共贏這個歷史正確的大方向走。

現在一般國家都認為美國和中國是人工智能的大國。龔克認為，中國作為人工智能大國，不希望看到今后世界上人工智能的標準是兩套，整個資源配置也是兩套，這不僅妨礙技術進步，而且妨礙安全管控，造成資源浪費。在人工智能領域要千方百計推進全球合作，因為標準本來就是為了互聯互通，這方面要發揮多邊國際組織的作用。

去年11月，習近平主席和拜登總統在舊金山的會晤達成了5點共識，其中4點包括恢復航班、人文交流、禁毒合作和部分的軍事對話，都是恢復性的。但是有一條是新建立的，就是建立政府間人工智能對話。這個人工智能對話首先是治理方面，必然涉及安全、標準等。第一次對話2024年5月份在日內瓦已經舉辦，專家層面的第二次對話也在進展之中，我們希望在人工智能這樣一個重大的技術變革面前，中美兩國以及世界上其他國家要為全世界的共同利益來共同努力。

對未來風險適當治理

龔克指出，人工智能標準化工作面臨最主要的問題，是技術的快速發展變動和它尚未成熟就得到了普遍應用這樣的一個矛盾。

如果它沒有得到普遍應用，只是在實驗室里發展，就不需要做標準化工作。但是它現在一方面自身快速發展、不斷變革突破，另一方面又大量地應用到實際工作和生活中，這就使得在標準相對穩定性和技術的變動性之間，出現了一個在其他的技術標準上很少見的問題。問題就是它在發展變動過程中同時得到大規模的應用。比如大模型在本身還不可解釋的情況下，就有數以十億計的人在用，所以這種情況下需要適當的治理，治理的手段之一就是標準。而這個治理的適當性主要是根據不同的風險來區別。

從國際層面，各國要對風險達成共識。我們研究過世界幾十個國家的AI政策文件，其實存在大量的共識，現在需要的是一個好的對話機制，把這個共識確定下來，然后進一步判斷為了實現這樣一個共識的風險控制，哪些是需要用社會的規制，哪些是需要使用技術的標準，這是一個方面。

另外一個方面，非常急迫的是發展一些支撐人工智能安全發展的技術手段。首先要把這樣的技術手段建立起來并實現標準化。比如說一個大模型，應該是無偏見，對各種人種、對各種民族，各種不同年齡、性別、經濟狀況，社會地位應該是平等的。那么怎樣測量一個模型是無偏見的呢？有種做法是做兩個數據集，一個數據集是含有偏見的，再有一個數據集沒有偏見，然后用這兩個數據集分別去訓練同一個模型，然后我們再觀察這個模型的表現。如果這個模型經過有偏的數據集訓練之后是有偏的，無偏的數據集訓練出來的模型是無偏的，那么這個模型叫作數據敏感模型；如果有偏無偏的訓練，它都有偏見，那就是算法偏見模型；如果兩個訓練都沒有偏見，就是算法去偏見模型。但是，這個數據集是不是標準、是不是大家公認這是無偏數據集呢？這就需要建立標準化的手段。在支撐安全可靠發展這方面，建立標準化的檢測、認證方面的技術手段非常急迫。