《AI安全創新法案》的拉鋸戰

5月，美國加利福尼亞州參議院以32∶1的懸殊表決通過參議員斯科特·維納發起的《前沿人工智能模型安全可靠創新法案》。8月，加州眾議院已經表決通過新法案。

監管空前嚴格，新法案推出多項AI模型開發者民事、行政和刑事責任機制，包括對AI模型一刀致命的“死亡開關”（kill switch，終止鍵）設置要求；AI模型開發者可能承擔遭人濫用的天價罰金，甚至牢獄之災。一時之間，硅谷大科技公司、學者激辯不休。

加州頒布新法

今年2月7日，加利福尼亞州參議員維納提交加州參議院第1047號法案。“從根本上說，我希望人工智能取得成功，創新繼續下去，但讓我們先從安全風險前走出來。”他向外澄清，“這是一項輕觸監管的法案，僅僅要求開發人員訓練大型模型進行基本的安全評估，以識別重大風險并采取合理措施來減輕風險。”

新法案旨在規范高級人工智能模型的開發和使用，要求開發人員在訓練AI模型之前作出安全決定，遵守各種安全要求，并報告AI安全事件。法案規定加州技術部內設立前沿模型司，負責監督人工智能模型，并對違反該法案的行為進行民事處罰。

法案要求加州的AI相關企業向前沿模型司披露是否符合AI新規，保證他們不會開發具有“危害能力”的AI模型，例如用來制造生化武器、核武器，或協助網絡攻擊。

首當其沖，新法案關注深度偽造等潛在危害，為大規模人工智能系統的開發設置多重安全護欄。法案首先將“人工智能模型”定義為基于機器的系統，可以作出影響真實或虛擬環境的預測、建議或決策，并可以制定信息或行動選項。

新法案并未一刀切，將所有人工智能系統納入嚴審機制，而是對所規范的對象作出限制。

該法案要求開發人員在訓練“涵蓋的人工智能模型”之前評估安全性，確保模型安全無虞，不會對公共安全或福利構成風險。

法案規定強制報告義務，開發者必須在發生“人工智能安全事件”后72小時內通知監管部門加州技術部新設的前沿模型司。法案同時納入保護和鼓勵人工智能開發實體內部舉報條款，確保員工有權舉報公司違反法案的行為，不必擔心遭到打擊報復。

新法案一大亮點是其關機能力。當人工智能模型未獲得積極的安全判定時，開發人員必須為此類模型實現關機功能。這意味著開發人員能夠實現在極端情況下關閉或限制 AI模型的功能。值得一提的是，法案明確規定，對不遵守法定要求的組織進行處罰；違法實體面臨禁令、高額罰款和其他處罰。加州總檢察長將有權起訴與人工智能相關的損害和對公共安全的威脅。

引發各方爭論不休

人工智能技術的飛速發展，引發了人們對新技術安全性的強烈擔憂。

6月4日，13名現任和前任OpenAI員工發表公開信，警告說前沿人工智能公司“沒有得到政府的充分監管，對人類構成嚴重風險”。強調人工智能企業受利益驅使缺乏有效監管，現有企業治理架構不足以改變這一點。而不受監管的人工智能會觸發虛假信息傳播、人工智能系統喪失獨立性。

加州新法案得到AI先驅辛頓（Geoffrey Hinton）和本吉奧（Yoshua Bengio）的大力支持，他們一直擔心人工智能對人類生存造成威脅。

馬斯克曾是ChatGPT制造商OpenAI的早期投資者，后來雙方反目成仇。今年5月馬斯克為旗下人工智能初創企業xAI公司在B輪融資中籌得60億美元。馬斯克公開稱OpenAI為對人類的生存威脅，支持新法案。“這是一個艱難的決定，會讓一些人不滿，但綜合考慮，我認為加州應該通過法案。在過去20多年里，我一直是AI監管的倡導者，就像我們監管任何對公眾有潛在風險的產品和技術一樣。”

英國《金融時報》6月爆料，加州新法案背后的推手是人工智能安全中心（CAIS），該中心由計算機科學家丹·亨德里克斯經營，他也是xAI公司的安全顧問。“這些競爭壓力正在影響這些人工智能組織，這些組織基本上激勵員工在安全方面偷工減料。”丹說，“加州法案現實合理，大多數人都希望強化監管。”

加州法案成為硅谷強烈反對焦點。Meta生成式AI首席產品經理拉奧（Arun Rao）表示，法案不可行，將終結大模型開源。他補充說：“隨著公司和高薪員工的離開，摧毀人工智能行業和將公司趕出去的凈稅收影響可能達到數十億美元。”

“如果有人想制定法規來扼殺創新，那他幾乎不可能做得更好！”著名計算機科學家吳恩達說，“它為科幻小說中渲染的風險帶來了開發者巨大的責任，激起了任何敢于創新的人的巨大恐懼。”

不少硅谷風險投資者和初創企業高管擔心法案會給AI開發者帶來無法承受的責任，他們無法保證自己的服務不被壞人濫用，企業被迫改變運營方式。

5月，加州商會抨擊法案“模糊且不切實際”，將造成重大監管不確定性，阻礙創新。加州進步商會批評法案，指出加州對科技企業及其200億美元稅收的依賴。

科技游說團體TechNet 執行董事霍夫曼表示：“我們不應該對主要位于加州的行業進行過度監管，完全沒有必要這樣做，尤其是當我們談論本州的預算赤字。”

面對批評，維納反駁說：“這是科技行業，它不喜歡有任何監管，所以對我來說，有阻力一點也不奇怪。”他說外界報道并不完全準確，正在修訂法案，澄清其范圍。

修訂后的法案規定，開源開發人員將不對“經過大量調整”的大模型負責，“終止開關”要求也不適用于開源模型。

“我是人工智能的堅定支持者，開源的堅定支持者。我不會以任何方式阻礙創新。”維納直言，“但隨著事態發展，人們要重視安全，這一點很重要。”

維納表示自己更希望這個問題在聯邦層面處理，“但正如我們在數據隱私、社交媒體、網絡中立性方面所看到的那樣，即使是在兩黨大力支持的技術問題上，國會采取行動非常困難，有時甚至無法采取行動”。

聯邦立法難， 加州一馬當先

彭博社強調：“在沒有關于人工智能的聯邦立法的情況下，美國各州越來越多地推動自己的法規。”6月10日《紐約時報》發文，討論聯邦陷入停滯，各州開始實施人工智能監管立法的新常態。

“加州立法機構已經幫助制定了美國科技消費者保護法。該州于 2020年通過一項隱私法，限制了用戶數據的收集，并于2002年通過一項兒童安全法，為18歲以下兒童提供了上網保障。”

除最近強制出售或禁止社交媒體應用TikTok的立法外，盡管提出了多項提案，美國國會多年來尚未通過重大科技監管立法。

布魯金斯學會學者約書亞·特納觀察：“盡管有一系列法案、框架和聽證會，但美國國會未能通過任何立法來針對特定的人工智能風險，或廣泛地確保人工智能系統的負責任開發和部署。”

前聯邦貿易委員會人工智能顧問安巴·卡克 （Amba Kak） 表示：“國會無所作為令人失望，我們已經錯過了幾次采取行動的機會，而世界其他國家已經采取行動了。”

加州立法者填補了這一空白，率先推出了一系列監管法案，這些法案隨即成為事實上的全美法規。像加州這樣的科技大州經常為全國49州樹立先例，這在很大程度上是因為49州立法者都知道，大公司要遵守跨州零散法規極具挑戰性，合規成本無法承受。

2023年10月，伯克利大學一項包括加州選民在內的民意調查顯示，73%受訪者支持制定法律，打擊誤導性信息或深度偽造，并限制在競選期間使用人工智能技術。哈里斯認為對人工智能生成的深度偽造的擔憂是當下最重要的問題之一。

近幾個月來，全美各州的立法者提出400項有關人工智能的新法律。加州以50項法案遙遙領先各州。

加州的優勢正在于本州經濟和科技一枝獨秀，執政黨偏好監管。誰人不知，福布斯全球人工智能公司50強中32家的所在地在加州，這里有OpenAI、Anthropic、Meta、xAI、Google和Microsoft等領先的人工智能前沿參與者。此外，加州的GDP占美國GDP的14.5%。

數十年來，民主黨長期執政的加州，立法機構向來支持立法監管大公司，保護消費者，反對歧視，傲視全美。加州州長和議會多數為民主黨人，不易受到聯邦政治僵局和兩極分化的影響，因此加州議會更容易通過法律。加州消費者隱私法案（CCPA）的成功，也讓州議員更加自信。

“我們處于一個獨特的位置，擁有如此多的科技創新者。”加州眾議院議員喬希·洛文塔爾表示，“人們期望我們成為美國人工智能立法領域的領導者，我們也希望自己能成為領導者。”（作者系中國政法大學比較法學院講師）