《上海市促進人工智能產業發展條例》的10個關鍵詞

■文/陳吉棟

《上海市促進人工智能產業發展條例》是上海市三大先導產業的第一部全市性法規，也是上海市在人工智能高地建設中攀登的又一座新的高峰，為我國人工智能地方立法樹立了新的標桿。

2022年9月22日，上海市第十五屆人民代表大會常務委員會第四十四次會議通過了《上海市促進人工智能產業發展條例》（以下簡稱《條例》），并于2022年10月1日起施行。《條例》共分6章72條，核心章節是基本要素與科技創新（第二章）、產業發展（第三章）、應用賦能（第四章）和產業治理與安全（第五章）。這部條例有諸多亮點。總體來看，體例安排上將基礎要素單獨規定。具體來看，重視基礎要素的流通，強調應用賦能和場景開放運營，構建了一個較為完備的治理框架等。《條例》是上海市三大先導產業的第一部全市性法規，也是上海市在人工智能高地建設中攀登的又一座新的高峰，為我國人工智能地方立法探索樹立了新的標桿。本文選取了10個關鍵詞，揭示條例的不同面向，方便讀者對《條例》形成整體認知。

1 人工智能定義：界定變動不居的技術

《條例》第二條界定了人工智能的概念和人工智能產業的內涵。

該條規定：“本條例所稱人工智能，是指利用計算機或者計算機控制的機器模擬、延伸和擴展人的智能，感知環境、獲取知識并使用知識獲得最佳結果的理論、方法、技術及應用系統。本條例所稱人工智能產業，是指人工智能技術研發和應用所涉及的軟硬件產品開發和生產、系統應用、集成服務等，包括關鍵基礎元器件產業、智能軟件產業、智能終端產業，以及人工智能技術在經濟、生活、城市治理等領域融合應用帶動的相關行業。”

在起草過程中，關于概念界定專家團隊曾有一種設想，即不界定人工智能，直接界定人工智能產業。即便一定要界定人工智能的概念，也有一個基本共識，即概念的界定不應過于技術化，可以采取從目的或者功能角度進行界定的方法。無論是界定人工智能，還是界定人工智能產業，采取描述加列舉的綜合方式可能更方便認知。這些觀點在《條例》中部分被采納。

2 定位：認識產業發展條例與人工智能條例的區別

經常有人拿歐盟的《人工智能法》提案（AIA）與《條例》進行對比，指出《條例》的優缺點，這種比較在某種程度上反映了評論者對《條例》的期許和肯定。在對比中一個經常被提及的問題是《條例》關于產業治理的規定似乎弱于AIA。這一問題涉及《條例》的基本定位。

首先，應該正確認識“人工智能產業發展條例”與“人工智能條例”的區別。AIA給我們的提示在于，在聚焦產業發展措施的同時，設計復雜的監管制度大致是行不通的，至少在現有的篇幅內是行不通的。《條例》的主旨恰是促進產業發展。

在起草過程中，關于條例名稱的幾次討論可以作為理解這一問題的背景。被討論的名字有“上海市人工智能條例”“上海市人工智能產業條例”“上海市人工智能產業發展條例”，討論的核心是我們到底是制定產業發展條例還是人工智能條例。無論選取哪個名字，促進產業的發展一直是這個條例的核心目的、基本理念和價值追求。由于有《上海市數據條例》珠玉在前作為參考，如果定位是人工智能條例,則其范圍至少應該涉及不同主體的權益配置和法律責任，而不應限于產業。最后起草者選擇了“產業發展條例”這一名稱，這樣選擇的理由有很多，在此不再展開。

其次，如果客觀分析《條例》的全文就會發現，治理的內容與規則設計其實不限于治理這一章，在第二章基本要素與科技創新等章節均有相關內容。換句話說，條例不但沒有放棄產業治理，而且其所確立的產業治理的基本框架是較為完備的。

最后，需要提及的是在人工智能上海高地建設中，尤其是制度供給高地的建設中，《條例》一方面是一個集大成的制度成果，另一方面又是一個生發具體制度的規范母體。換句話說，《條例》應該是未來上海市人工智能規則體系的“母法”。我們有理由相信，在《條例》實施后，更多更為具體的規定將陸續制定頒行，與《條例》一起構成引導、規范與保障上海市人工智能產業發展的制度體系。

3 充分供給：從要素到場景

要素的調配和市場化供給是產業發展的基本保障。專家在《條例》起草過程中花了大量的時間和精力進行調研與討論，以便設計以市場為主導且可以保障科學供給的要素制度。《條例》很多制度設計聚焦于此。例如，第十三條規定：“市經濟信息化部門應當會同市發展改革、科技等部門制定公共算力資源供給辦法，推動公共算力資源平臺建設與利用，……保障中小企業獲得普惠的公共算力。”又如，第十八條規定：“……擴大面向人工智能產業的公共數據供給范圍。支持相關主體單獨或者聯合申請公共數據開放，保障中小企業、個人開發者等公平使用開放數據。……推動人工智能產業數據流通交易。”

算力供給制度是一個頗具上海特色，同時也契合國家“東數西算”的創新。雖然這一制度的效果還有待觀察，但可以確定的是，無論是算力，還是算法或數據，供給即服務。有了這種服務的提供甚至是高質量提供，才有產業的全面健康發展。

《條例》在數據方面的規則數量較少，但與之前的《上海市數據條例》相比創新度頗大。在公共數據方面支持相關主體單獨或者聯合申請公共數據開放，就是創新的典型。這是對公共數據開放制度的深化，同時也可能影響后續出臺的公共數據開放辦法的具體設計。

在應用場景方面，對保障并提升供給也有所體現。例如，第五十六條規定：“探索應用人工智能技術豐富教育資源供給，建設智能化開放教育資源平臺。”

4 要素開放運營：流動創造價值

在保障充分供給的基礎上，《條例》進一步強化基礎要素的流通利用。圍繞智能芯片、框架軟件與系統軟件、智能機器人、智能網聯汽車等重點產業方向，《條例》聚焦數據、算法與算力等基礎要素的供給與市場化配置，進行了較為周全的制度設計。例如，第十三條規定：“本市推動算力、數據、應用資源集約化和服務化創新，保障人工智能產業發展算力需求。”又如，第十六條規定：“本市推動算法模型交易流通。”再如，第十八條規定：“本市依托公共數據開放機制，……鼓勵企業通過上海數據交易所開展相關數據產品的交易，合法合規創造數據價值、分配數據增值收益，推動人工智能產業數據流通交易。”

這些制度設計有助于釋放市場潛能，激發產業活力，引導人工智能產業健康持續發展，鞏固、擴大上海在人工智能產業上的優勢地位。

開放與運營在應用賦能中也有體現。一般來說，安全、高效的社會應用將極大地擴展人工智能的社會應用需求，支撐人工智能產業的發展。社會應用需求本身依賴于多樣、規模應用場景的建設。為此，《條例》積極推動場景的培育、開放與運營，支持人工智能在經濟、生活和城市治理中的規模化應用。例如，第四十八條規定：“本市建立人工智能應用場景開放制度。……參與人工智能應用的相關主體應當推動應用場景優化升級與持續運營。鼓勵第三方服務機構、金融機構等多元主體參與人工智能場景建設和運營。”如此的制度設計支撐了應用的賦能作用，促進人工智能在千行百業中的應用，客觀上也為數字經濟發展、城市的數字化轉型提供新的動能。

5 綜合監管：以風險為中心的分級監管

《條例》第六十五條規定：“對高風險的人工智能產品和服務實行清單式管理，遵循必要、正當、可控等原則進行合規審查。對中低風險的人工智能產品和服務采用事前披露和事后控制的治理模式，促進先行先試。具體辦法由市人民政府另行制定。”

無論上海市還是深圳經濟特區的人工智能條例，雖然都確立了分級監管，但并未展開進行更為具體、明確的制度設計。原因是分級監管制度設計的核心在于不同主體的權益配置，在我國的立法體制下，屬于中央事權的范疇，地方立法探索的空間有限。另外，兩地立法都具有濃厚的產業立法的特征，治理法的成分不足，這是有意為之的理性選擇。

《條例》確立分級治理的意義是，我們面對一個監管者與被監管者可能都處于無知狀態的變動不居的高科技領域，第一次提出了完整的監管框架——根據風險進行分級治理。

《條例》的分級治理具有自身的特點：第一，與歐盟相較，分級數量少，只分高風險和中低風險，而歐盟四級劃分中的其他兩級則用其他制度予以調整；第二，兩級的基本治理制度不同，即對高風險采取清單式管理，事前為主，力推合規，而對中低風險則以事后為主。風險級別如何判斷、清單如何制定等都需要將來市政府制定更為具體的規定。

6 認證與備案：某些高風險制度設計

《條例》第六條第五款規定：“市市場監管部門負責人工智能產業計量、標準、檢驗檢測、認證認可、相關產品質量監督等工作。”這里在職責分工中將認證作為市場監管部門的職責之一。雖然《條例》并未以專條設置認證制度，但未來對高風險的人工智能系統開展認證仍有可能。參考域外立法的情況和理論研究成果，有效的認證制度設計至少包括認證機構設置、認證流程設計和認證方法備置等部分，這需要在后續立法中與市場監管部門進行妥善協調，并深入理解人工智能系統進入市場的既有實踐。關于認證制度，不僅可以參考歐盟AIA的具體規定，還可考察美國的認證體系的設計。

7 評估：為了更好的發展

《條例》多處規定了評估制度，每種評估的作用和目的不同，應該分別研究，予以重視。從評估的對象來看，涉及“特色產業園區的智能化程度開展評估”（第三十條），“行業發展態勢、制定政策措施”（第三十八條），“人工智能資產評估體系”（第五十條）等。

其中，最為重要的評估規定在第四十九條，該條規定：“市有關部門應當組織行業組織等制定人工智能的應用成效評估方法，建立人工智能產品和應用的智能化水平評價機制，探索評估人工智能產品和應用的社會綜合影響，推動人工智能深度應用與持續創新。”本條規定意義重大，如何具體實踐運作，仍待未來的檢驗。

8 中小企業保護：激發活力

《條例》第六十五條規定：“市人民政府及有關部門……探索分級治理和沙盒監管，激發各類主體創新活力，拓展人工智能發展空間。……市有關部門可以就人工智能產業發展過程中的輕微違法行為等制定依法不予行政處罰清單……”該條強調了沙盒監管，旨在放松發展空間、寬容科技創新風險，而制定“不予行政處罰清單”則有助于減小中小企業的輕微違法負擔。

《條例》第十三條第二款規定：“市經濟信息化部門應當……保障中小企業獲得普惠的公共算力。”第十八條規定：“支持相關主體單獨或者聯合申請公共數據開放，保障中小企業、個人開發者等公平使用開放數據。”綜合來看，在對中小企業保護的制度設計上，《條例》從給政策和免處罰兩個方面進行全面規定，并配合了開放沙盒和減輕企業相關成本等制度。

9 可信人工智能：型構緩解信任焦慮的共識

實現人工智能可信被認為是人工智能技術發展與社會治理的核心目標。綜觀《條例》的內容，雖然僅在第十五條規定了算法可信化——該條第一款規定“本市支持……實現算法可信化……”——其他部分無一字可信，但“可信”如地下甘泉，滋養著《條例》的規制體系。

在人工智能系統開發或應用階段的任何錯誤都可能是災難性的，特別是當涉及人類生命時。實現人工智能可信有助于緩解社會對人工智能及其治理的普遍焦慮。在這一點上，《條例》確立的前述制度顯然給出了可信人工智能發展的上海答卷。目前來看，可信的內涵至少包括基礎合法、符合倫理、技術穩定和可以測評等內容。

不過，創建道德的和值得信賴的人工智能不僅需要了解技術本身，還需要了解存在的社會和道德條件，以及如何適當地解釋和評估它們對人工智能的設計、構建和測試方式的影響，以及人工智能與人類互動的方式。因此，可信目前雖無成熟制度，但其作為基本精神影響未來實踐和制度更新。

10 倫理專家委員會：軟法有了硬載體

《條例》規定設立人工智能倫理專家委員會，這一設置為“軟法”轉“硬”提供了組織支撐。第六十六條規定：“本市設立人工智能倫理專家委員會，履行下列職責：（一）組織制定人工智能領域倫理規范指南；（二）指導高等學校、科研機構、企業和相關行業組織等開展人工智能領域倫理理論研究和探索，推動參與國內外人工智能領域倫理重大問題研討和規范制定；（三）推動人工智能企業探索建立倫理安全治理制度；（四）對涉及生命健康、公共安全等重點領域人工智能應用的潛在風險開展評估；（五）開展人工智能領域倫理咨詢活動，為相關部門提供決策咨詢服務；（六）開展人工智能領域倫理安全教育和宣傳。”

數字社會的治理在硬法之外需要軟法的配合。軟法不限于倫理，還包括習慣，甚至可以把技術包含在內。軟法的“軟”一般是說其不具備強制力、權利義務責任設計等。面向未來，這些軟性的規則（法）所提供的秩序在數字社會中將發揮越來越重要的作用。因此，一個議題是重新審視所謂的硬法的局限和發展的趨向。硬法之“硬”，包含的是不可缺少的程序、權利義務設置、監管與責任安排等以公權力支撐的制度，硬法具有剛性，但立法與修改程序多，耗時長，效率低下，不足以應對數字社會的發展。因此，軟硬法之間的協調和互動將不可避免，也就是說，硬法需要在更大程度上肯認軟法的地位，吸納軟法的規則，為其提供支撐。

創建一個兼具多方面專業知識和具有權威性的人工智能倫理專家委員會是必要且重要的。地方立法確認這一制度為相關實踐提供了法治基礎。目前，還有以下幾個問題需要解決：一是如何處理人工智能倫理專家委員會與戰略咨詢專家委員會的關系；二是人工智能倫理專家委員會的權力邊界；三是人工智能倫理專家委員會的運作機制。這將直接決定該組織在人工智能綜合治理框架中的作用發揮，關系到政府、企業、消費者和其他利益相關者的協調，尚待后續實踐完善。