美國人工智能立法態勢介評

劉曉春 夏杰

2023年8月4日，美國國會研究部門發表《人工智能：概述、近期進展和對第118屆國會的展望》，該報告對美國針對人工智能的立法監管政策進行了詳細歸納和匯總。本文在此基礎上，剔除促進人工智能產業發展的部分，僅從監管舉措或強制性義務方面，重點梳理近兩年美國關于人工智能的立法現狀，介紹當前美國針對人工智能的治理經驗，以期為我國后續人工智能的立法提供參考。

一、美國現行法律法規或行業規范

1.法律法規

《國家人工智能倡議法（National Artificial Intelligence Initiative Act of 2020 ）》：2021年1月1日，《國家人工智能倡議法》正式生效成為法律，該法主要目的是通過設立一個協調統籌機構來促進聯邦加速人工智能研究和應用，以促進國家經濟繁榮和國家安全。這一法律要求商務部成立一個專門的國家人工智能咨詢委員會，這一委員會的部分職責是向總統和倡議辦公室提供關于人工智能產生的法律問題以及相關的責任和法律權利的相關情況，例如：倡議是否解決人工智能帶來的倫理、法律、安全或其他社會問題；關于人工智能治理路徑的檢視；人工智能系統違反現有法律的責任以及平衡個體權利與人工智能創新的發展情況。本倡議法還規定倡議委員會應當成立專門的人工智能和法律實施子委員會，這一子委員會應當定期向總統提供與人工智能相關的法律實施的發展情況：一是偏見，包括檢視政府機關對人臉識別技術的使用是否會帶來偏見以及是否需要額外的監督、控制和限制；二是數據安全，包括執法機關對數據的獲取以及相關的安全參數情況；三是可適用性，包括在移除人工智能濫用帶來的危害的情況下，充分利用人工智能技術；四是法律標準，包括人工智能的使用是否與隱私權利、民事權利和自由、因技術使用帶來的權利行使無障礙相一致。

第13859號行政令：2019年2月11日，時任美國總統唐納德·川普發布第13859號行政令，即“維持美國在人工智能領域的領導地位”，行政令主要規定美國政府在人工智能研究和開發、數據和計算資源以及治理人工智能應用的指南、人工智能對美國勞動力市場影響等方面的計劃和安排。在聯邦數據和計算資源的開放方面，行政令要求聯邦各行政機關仔細研究可以向非聯邦AI研究機構開放的數據和模型，并在保護安全、隱私和采取保密措施的情況下，向非聯邦AI研究機構提供可用的數據目錄以及模型，并優化對AI數據和模型的接入方式和質量；優先分配高質量的AI云計算資源給聯邦贊助的AI研發等。在AI應用的監管指導方面，行政令強調美國管理和預算辦公室應當在協調各部門意見的基礎上，發布相關議題的備案錄：例如在保護民事權利、隱私和美國價值的基礎上，促進人工智能創新所采取的法律和非法律治理路徑的發展情況以及減少使用人工智能技術障礙的具體舉措；幫助增進公眾信任；支持可信賴、穩健和可靠的人工智能的相關標準和工具等。

第13960號行政令：2020年12月3日，美國總統拜登發布第13960號行政令，即“促進聯邦政府內可信賴人工智能的使用”，行政令規定了除國家安全和國防領域以外的聯邦政府機構使用人工智能的原則，即聯邦政府機構在設計、開發、部署、購買或使用人工智能技術時需要如下9個原則：一是合法原則；二是合目的原則；三是準確、可靠和有效原則；四是安全、可靠、有彈性原則；五是可理解原則；六是負責任和可追溯原則；七是常態化被監管；八是透明度原則；九是可追責原則。這一行政令的適用范圍是美國國防系統和國安系統之外的聯邦行政機關，不適用于一般的商業產品（ 商業AI產品被政府采購也需要適用這一行政令 ）和AI研發活動。

2.政策文件和行業規范

2020年11月17日，為響應13859號行政命令“保持美國在人工智能領域的領導地位”，美國政府管理預算局在協同相關聯邦部門的情況下，向各聯邦機構負責人發布備忘錄規定行政機關在制定關于AI應用的監管舉措時應當考慮的原則：一是提升公眾對AI的信任；二是公眾參與；三是科學整合和信息質量；四是風險評估和管理；五是成本收益考慮；六是靈活性；七是公平和無歧視；八是透明原則；九是安全原則；十是跨部門合作。

2022年10月，白宮科技政策辦公室發布了《AI權利法案藍圖：讓自動化系統為美國人民服務》，該框架是在科學和政策技術辦公室（OSTP）宣布啟動“為AI驅動的世界制定權利法案”進程一年后發布。這一人工智能權利法案規定了關于人工智能或自動化系統設計、使用和部署的5項原則和相關實踐，這一文件并無法律約束力，也不構成美國政府政策。這5項原則為：一是安全和有效的系統（ 自動化系統應事前咨詢公眾意見、部署前廣泛測試、識別風險、持續監測和采取明確的組織監督；采用相關和高質量的數據、仔細跟蹤和審查衍生的數據源、敏感領域的數據再利用限制；進行獨立的評估和報告來證明系統的安全性和有效性 ）；二是避免被算法歧視（ 主動評估設計中的公平性、使用具有代表性的數據、避免使用代理、確保無障礙、差異性評估、部署前持續監測等；進行獨立評估和報告來證明系統可以防止算法歧視 ）；三是保護數據隱私（ 通過設計或默認設置來保護隱私；保護公眾免受無約束的監控；為公眾提供合適的同意、訪問和控制其數據的機制；進行獨立評估和報告來證明數據隱私和用戶控制受到保護；為敏感領域數據提供額外保護 ）；四是告知和解釋（ 提供清晰、及時、可理解和可訪問的使用通知和解釋；告知用戶正在使用自動化系統，并向用戶解釋結果是如何以及為何由自動化系統決定 ）；五是人工智能替代方案、補救和退出（ 適當時保證用戶能夠選擇退出，并向用戶提供人工或其他替代方案；系統出現故障或錯誤時，提供及時的人工介入和補救措施；培訓評估和監督，以確保基于人的部分的有效性而避免自動化偏見 ）。

2023年1月26日，美國商務部下的國家標準和技術研究機構（NIST）發布了AI風險管理框架等相關資料，這一AI風險管理框架為最小化AI負面潛在不利影響，且最大化AI正向收益提供了基本的分析框架，為搭建可信賴AI提供了治理路徑。框架首先闡述了可信賴AI需要遵守的7個特征，分別是有效與可靠、安全、可靠與穩健、問責和透明、可理解與可解釋、隱私增強、公平。框架提供了解決AI風險問題的四個步驟：治理（govern）、識別（map）、測量（measure）、管理（manage），其中治理是一個混合其他3個功能的環節，能夠促進其他3個功能的運行；識別是指確立與AI系統相關風險的上下文；測量是指采用定性、定量或混合方法來分析、評估、基準或監控AI風險和相關影響；管理是指通過常規方法或上文治理環節的方法來給識別和測量分配風險資源。

2023年2月，美國國家版權局在一份對外的聲明中表達了其對人工智能生成物可版權性的觀點。如果AI技術確定作品輸出的表達要素時，生成的內容不是人類作者的產物，該內容不受版權法保護，其必須在注冊申請中被駁回。在其他情況下，如果AI生成的作品包含足夠的人類作者身份來支持其版權主張，則這一由AI輔助生成的內容能夠獲得版權保護的要求，但版權只會保護作品的人類創作部分，這些部分“獨立于”，且不“影響”AI生成內容本身的版權狀況。

2023年4月25日，美國聯邦貿易委員會主席Lina Khan和美國司法部民權司、消費者金融保護局和美國平等就業機會委員會的官員發表了《關于對自動化系統中的歧視和偏見進行執法行動的聯合聲明》，概述了執行各自法律法規以促進自動化系統負責任創新的承諾，其主要內容包括重申上述機構對自動化系統的執法適用，重點在處理自動化系統對美國民眾帶來的歧視性有害影響，例如消費者金融保護局處理自動化系統在信貸決策中對金融消費者的歧視問題、司法部民權司處理自動化系統在教育、刑事司法系統、就業、住房、貸款和投票等方面的歧視；平等就業機會委員會處理自動化系統在求職、殘疾人等方面的歧視；聯邦貿易委員會處理自動化系統在欺詐或不公平的商業行為/競爭方法方面的問題。聲明最后還提出對自動化系統中歧視來源環節（ 數據和數據集、模型的不透明、設計和使用） 的重點關注。

2023年5月4日，拜登政府宣布將進一步推動對現有生成式人工智能系統的公開評估。來自幾家最大的AI生產商——Anthropic、Google、Hugging Face、Microsoft、NVIDIA、OpenAI和Stability AI——承諾對他們的AI進行公開評估，評估其是否符合美國之前提出的《AI權利法案》。

2023年7月21日，拜登政府宣布與7家頭部人工智能公司（Amazon， Anthropic， Google， Inflection， Meta， Microsoft， OpenAI）達成安全自愿承諾，這些承諾措施包括：一是確保AI產品在推向公眾之前是安全的：承諾在發布前對其AI系統進行內部和外部安全測試；承諾在整個行業以及與政府、民間社會和學術界共享關于管理AI風險的信息。二是構建安全優先的系統：承諾投資網絡安全和內部威脅防護措施，以保護專有和未發布的模型權重；致力于促進第三方發現和報告其AI系統中的漏洞。三是贏得公眾的信任：致力于開發強大的技術機制，以確保用戶知道內容是AI生成，例如水印系統；承諾公開報告其AI系統的功能、局限性以及適當和不適當使用的領域；承諾優先研究AI系統可能帶來的社會風險，包括避免有害偏見和歧視以及保護隱私。上述承諾中“模型”所指的范圍僅適用于總體上比當前行業前沿更強大的生成模型（ 例如，GPT-4、Claude2、PaLM 2、Titan，和圖像生成模型DALL-E 2 ）。

二、美國正在擬議中的立法行動

在美國第117屆國會任期（ 即2021年1月到2023年1月 ）中，至少有關于AI或機器學習（machine learning，ML）的75項法案被提出，但最后在整個兩年的國會任期里，僅有6個與AI相關法案在眾議院和參議院最終通過成為法律，其中有3個預算和撥款法案（《2022年國防授權法案》《2023年國防授權法案》《綜合撥款法》），3個產業政策法案（《芯片和科學法案》《2021年美國創新和競爭法案》《量子計算網絡安全準備法案》），以上法案中與AI相關內容基本上都是關于促進人工智能產業發展的立法規定。

在第118屆國會的任期（ 2023年1月到2025年1月 ）中，目前已經引入的關于AI的法案至少有50部，其中有4部跟生成式AI相關。其中，正在進行中的幾部典型立法有：

《2022年算法問責法案》，該法案要求某些企業應對其使用和出售的自動化決策系統（ 包括使用ML和AI的系統 ）進行影響評估，為自動化決策系統的使用時間和方式創造新的透明度，并使消費者能夠被明確告知關鍵決策選擇；

《確保安全、可靠、合乎道德和穩定的AI系統法》，法案將成立一個特別工作組來研究美國的AI政策，并確定如何最好地減少對隱私、公民自由和正當程序的威脅；

《國家人工智能委員會法案》，該法案要求成立一個委員會，其職權為回顧美國現有的關于人工智能的治理路徑，并推薦新的關于人工智能的政府監管機構和形式，確定具有法律約束力的風險規制路徑；

《禁止欺騙性AIGC音視頻內容影響聯邦選舉法案》；

《為每個美國人創造資源以試驗人工智能法案》；

《人工智能領先法案（AI LEAD Act）》，法案要求聯邦政府為AI培訓、透明度以及行政機構如何購買AI驅動系統制定規則。

除了國會立法之外，美國政府機構也在其行政職權范圍內加大對AI監管問題的研究。例如，2023年4月11日，美國商務部下轄咨詢機構國家電信與信息管理局（NTIA）公布其已經開始就AI相關監管問題向社會各界征集意見，截至6月10日公眾都可以向其反饋意見，NTIA將據此起草AI問責政策相關報告。

三、啟示和借鑒

1.我國應當立足激勵產業發展，適當調整針對人工智能的立法規制節奏，避免過度超前規制

美國目前生效的針對人工智能的已生效法律法規或行業規范以原則性要求為主，不管是美國總統拜登發布第13960號行政令規定的聯邦政府機構使用人工智能應當遵守的九大原則，還是白宮科技政策辦公室發布的《AI權利法案藍圖：讓自動化系統為美國人民服務》的五大原則以及國家標準和技術研究機構（NIST）發布的七大原則，都只針對使用人工智能技術需要遵守的基本原則進行規定，并沒有發布剛性更強的法律規則或具體義務要求。這一方面反映出美國針對新技術、新業態發展一貫持有的鼓勵創新的態度，也反映出針對人工智能，美國各界目前并沒有達成共識的成熟的規制方案。

2023年1月26日，美國商務部下的國家標準和技術研究機構（NIST）發布的AI風險管理框架以及配套NIST AI-RMF等相關資料，給國會等立法機關進行人工智能立法提供了規制框架或方法論。從美國本屆國會任期引入的人工智能立法，例如《人工智能領先法案》《國家人工智能委員會法案》《確保安全、可靠、合乎道德和穩定的AI系統法案》《禁止欺騙性AIGC音視頻內容影響聯邦選舉法案》等來看，綜合性、系統性的針對人工智能技術的立法在美國推行的可能性依然不大，目前議員們提供的方案依然要么是對人工智能技術影響和危害以及對當前現有法律法規沖擊程度進行的立法前調研，要么是針對選舉等特別領域的專門性立法規制。

我國在已經發布《互聯網信息服務算法推薦管理規定（2021年12月）》《互聯網信息服務深度合成管理規定（2023年1月）》《生成式人工智能服務管理暫行辦法（2023年7月 ）》等一系列規定以后，可以考慮適當放緩針對算法、人工智能等新技術的立法立規節奏。目前階段來看，上述規定已經針對目前可預見的相關風險給出了規制方案，后續的政策導向，可以轉到如何更好地激勵新興產業的發展上來，作為下一個階段重點考慮的問題。

2.人工智能立法應注重與行業充分溝通，重視立法前調研評估，避免過度威懾，提供穩定的市場預期

美國對于人工智能的治理分成多個層級。在立法層面來看，充分的立法前調研評估是一大特色。例如美國專門出臺《國家人工智能倡議法》成立一個人工智能咨詢委員會，針對當前人工智能產生的法律問題以及相關的責任和法律權利的相關情況進行持續更進研究；美國政府管理預算局（OMB）多次對外征求監管AI的指導意見，避免監管機關與行業之間存在的信息不對稱，出現規制手段不合適，形成過度威懾的情形。在柔性治理方面，美國總統協調各部委與頭部人工智能公司達成安全承諾，通過讓頭部企業自我承諾來避免AI產生不可控的極端風險，以贏得公眾信任。在執法司法方面，目前也有集體訴訟或個人針對人工智能技術公司，如針對Meta、OpenAI、微軟公司等訓練數據行為違反版權法與個人信息保護等法律規定提起訴訟，通過司法先行，能夠讓新技術新應用帶來的危害和現有法律法規體系進行充分碰撞與適應，充分論證后才能真正產生出是否需要新的立法的結論。

我國人工智能技術的治理進程中，采取立法前充分評估與討論、加強柔性治理、司法先行先試等路徑，可以對新技術新產業的發展帶來較穩定的預期，避免形成過度威懾，讓市場優先演化或發展出規則的形成，隨之輔助市場失靈時的強制性規則，充分形成適應外部環境的規范體系，在預測和評估技術相關風險的同時，最大限度地充分享受人工智能技術帶來的巨大好處，持續推進和帶領我國高科技產業升級轉型。

（作者單位：中國社會科學院大學互聯網法治研究中心，本文為教育部新文科研究與改革實踐項目（2021140027）“計算社會科學與國家治理”和北京高等教育本科教學改革創新項目“檢法協作機制下網絡法治研究型人才培養模式創新研究”的階段性成果。）