歐盟推出《人工智能法案》

高榮偉

《人工智能法案》將提高AI系統的透明度和公平性，減少歧視和偏見現象的發生。

經過馬拉松式的談判之后，2023年12月8日，歐洲議會、歐盟成員國和歐盟委員會三方就《人工智能法案》達成協議。這項法案有望成為全球第一部關于人工智能領域的全面監管法規。

在科技飛速發展的今天，人工智能（AI）已經深入影響到人們生活的方方面面。然而，隨著AI技術的不斷進步，其帶來的倫理和監管問題日益增加，在歐盟各國表現尤其突出。德國工業聯合會（BDI）表示，歐洲目前在人工智能關鍵技術方面，面臨落后危險，因此，迫切需要制定一部人工智能領域的全面監管法規。

2019年以來，歐盟一直在立法方面對人工智能監管領域進行布局，先后發布人工智能倫理準則并出臺了《人工智能白皮書》。隨著生成式人工智能的蓬勃發展，歐洲官員們抓緊更新規則。2021年，歐盟公布了人工智能規則手冊的初稿。同年4月，歐盟委員會提議制定一部《人工智能法案》。在2023年人工智能大模型引發廣泛關注后，歐盟加快了推進《人工智能法案》的步伐。2023年6月，歐洲議會以499票贊成、28票反對和93票棄權，高票通過了《人工智能法案》談判授權草案，推動了該法案進入立法程序的最后階段，即舉行歐洲議會、歐盟成員國和歐盟委員會的“三方談判”，以確定法案的最終條款。

歐洲議會、歐盟成員國和歐盟委員會三方終于在漫長談判后，就《人工智能法案》達成協議。這份法案的達成是歷史性的一刻，標志著歐盟在人工智能監管方面邁出了關鍵一步。《紐約時報》在報道中則表示，《人工智能法案》的關鍵輪廓已經確定，為那些尋求利用這項技術潛在好處的國家設定了一個新的全球基準。

歐盟各國一致認為，發展人工智能能使歐盟獲得競爭優勢，在未來全球治理中贏得話語權。法案的起草過程困難重重。對此，有專家表示，歐盟各方最終就《人工智能法案》達成協議，是各方做出妥協的結果，這既有來自歐盟內部的迫切需求，也有來自外部環境的壓力。事實上，談判人員在談判初期就設法達成初步妥協，盡管以法國為首的反對方呼吁自我監管。

《人工智能法案》旨在以全面的、基于倫理的方式監管AI，法案內容包括對AI系統的安全性、透明度、可追溯性、公平性和道德標準的評估和管理，以及對AI系統的監管、執法和司法審查等方面的規定。該法案按照不同的風險類別為人工智能技術應用進行了分類，由低到高劃分為四個等級，從“不可接受”，也就是必須禁止的技術，到高、中、低風險的人工智能，通過識別不同風險來進行監管。

第一，對于眼下備受關注的生成式人工智能如何監管，也就是包括Chat GPT在內的先進人工智能模型如何監管，是此次談判的爭論點之一。有歐盟委員提出，時下，像Chat GPT這樣的生成式人工智能系統突然闖入人們的視野，它們居然能夠生成類似人類創作的文字、照片和歌曲，這樣的功能讓人驚嘆不止。不過，這項快速發展的技術對就業、隱私和版權保護，甚至人類生命本身構成了風險。對此，歐盟要求其在投放市場前需要起草技術文件、遵守歐盟版權法等。歐盟官員表示，希望新的法案可以幫助歐盟地區的人工智能技術更好地發展，提升行業競爭力。

第二，根據該法案，被視為有“系統性風險”的模型將受到額外的約束。其草案明確規定，所有通用型人工智能系統的開發者都必須滿足基本的透明度要求。具體來看，其透明度要求包括：具有可接受的使用策略、更新訓練大模型的最新信息、遵守歐盟版權法以及報告用于訓練其模型的數據信息。對于那些高風險的人工智能技術應用，歐盟將在使用相關技術的產品投放市場前，進行嚴格評估，并根據用于訓練模型的計算能力來確定這種風險。根據協議，那些構成最大“系統性風險”的先進基礎模型將受到額外審查，包括被要求披露更多信息。

第三，對于人類安全具有不可接受風險的人工智能系統，包括有目的地操縱技術、利用人性弱點或根據行為、社會地位和個人特征等進行評價的系統等，將被禁止使用。文件還規定，禁止利用分類系統來推斷用戶種族、宗教信仰等個人信息。消費者有權提出投訴并獲得相應解釋，違規者將被罰款。

第四，有關另一項頗具爭議的生物識別監控技術，協議中規定，各國政府只能在公共場所使用實時生物識別監控，防止像恐怖襲擊等可預見的威脅公共安全的事件，以及搜索犯罪嫌疑人等。事實上，關于生物識別監控技術，歐洲議會希望能夠全面禁止。

值得一提的是，該法案的達成并非一蹴而就。對于該法案，業內一直存在不同的聲音。在此之前，歐盟內部就AI技術的監管問題進行了長期的討論和爭議。

一些人認為，過度的監管可能會阻礙AI技術的發展和應用，影響經濟發展和社會進步。而另一些人則認為，AI技術的廣泛應用已經帶來了嚴重的倫理和安全問題，必須加強監管以保護公眾利益。據《紐約時報》報道，歐洲議會和歐盟27個成員國的談判代表，為協議的達成克服了巨大的分歧。“2023年12月中旬，三方展開了最后馬拉松式的閉門談判，其中一次談判就持續了22個小時。”事實上，直到談判的最后一分鐘，立法者和歐盟各國仍在為“如何在促進創新與防范可能的傷害間取得平衡”這一問題進行激烈的辯論。參與談判的西班牙數字化和人工智能國務秘書卡梅·阿蒂加斯表示，為確保“里程碑式”的監管法案的達成而付出的這些巨大努力是值得的。法案一旦頒布實施，其影響將會涉及人工智能的研發、人工智能產品和服務的設計與運行。該法案也將促進AI產業的健康發展，增強消費者對AI系統的信任和安全感，提高整個社會的福祉水平。首先，該法案會影響各類人工智能企業的市場格局、業務模式、運營方式乃至發展前景。從執法和實施的前景來看，對于人工智能企業是一個比較大的挑戰，同時也是一個業務重構、業務設計的過程。具體來看，《人工智能法案》不僅會影響谷歌、Meta、微軟和OpenAI等主要人工智能開發商，還會影響使用該技術的教育、醫療保健、銀行等領域。政府部門因為近年來在公共業務方面更多地轉向人工智能，也將受到影響。其次，法案正式頒布實施后，各成員國將基于本國的公共政策基礎，做出一定的變通適用。與此同時，它還將為全球其他國家和地區提供一個參考和借鑒的范例，從而推動全球AI監管體系的建立和完善。美國哥倫比亞大學法學院教授、歐盟和數字監管專家阿努·布拉德福德就曾表示，歐盟制定強有力且全面的監管措施，“可以為許多考慮監管的政府樹立良好的樣板”。其他國家“可能不會照搬每一項條款，但其中很多條款提到的很多方面會被效仿”。對此，歐盟委員會內部市場專員蒂埃里·布雷東坦言，這份協議將有助于歐洲“在全球人工智能競賽中領跑”。

展望未來，《人工智能法案》的實施將為歐盟乃至全球帶來一系列積極影響。首先，該法案將提高AI系統的透明度和公平性，減少歧視和偏見現象的發生。其次，嚴格的監管將促使企業和研究機構更加注重AI技術的倫理和道德問題，推動AI向更加可持續的方向發展。此外，該法案還將為其他領域提供借鑒和參考，推動全球范圍內的人工智能監管體系的建立和完善。總而言之，該法案將對歐盟乃至全球的人工智能發展格局和立法格局帶來非常重大的影響。據悉，該法案最早要到2025年才會生效。預計他們還將就相關細則的制定展開進一步談判。

編輯：薛華? ? icexue0321@163.com