或推動人工智能前瞻性立法進程

趙麗

記者：針對AI深度換臉技術風險多發，有關網絡安全法律專家認為，必須高度警惕這種技術被惡意使用的風險，盡快開展法律風險評估。

王四新（中國傳媒大學網絡法與知識產權研究中心主任）：我們需要對它進行安全評估，這種安全評估也是有法律依據的，網絡安全法、網信辦制定的規范性文件都有相應要求。安全評估需要弄清楚的是，實際運作過程中可能會存在哪些風險，針對這些風險，我們可以采取哪些措施。只有這些問題全部落實，才可以正常運轉。

記者：今年6月13日，美國眾議院情報委員會召開關于人工智能深度偽造的聽證會，公開談論了深度偽造技術對國家、社會和個人的風險及防范和應對措施。隨著AI技術的深度應用，也有不少業內人士提出，我們必須高度警惕這種技術被惡意使用的風險。但對深度偽造的內容不能一棍子打死，很多深度偽造的合成媒體內容具有存在的正當性，只有影響國家安全、公共安全、民主政治的虛假信息才需要加強監管和規制。涉及刑事犯罪和一般網絡侵權的深度偽造適用不同的規制。

王四新：要構建非常完備的內部制度，或者說構建一個比較好的體制和機制，對于這些發展過程中出現的問題，有一些特殊的流程。同時，還要建立有效的反饋機制。

鄭寧（中國傳媒大學政法學院法律系副主任）：對于深度偽造，要具體問題具體分析。如果不影響國家安全、公共安全、公民個人權利，比如電影特效，就不用太多干預，如果有影響才應當加以監管。具體的法律責任要看違法的嚴重程度，然后來判斷承擔民事責任、行政責任還是刑事責任。

記者：有專家建議，立法部門應緊跟國際人工智能技術最新進展，聯合國內專業研究力量，評估這項新技術可能帶來的法律風險，以及對國家安全等構成的威脅，加快對類似新興技術的前瞻性立法研究。

鄭寧：網絡安全法第十七條規定，國家推進網絡安全社會化服務體系建設，鼓勵有關企業、機構開展網絡安全認證、檢測和風險評估等安全服務。對于新技術，應該開展安全評估，評估可以由社會組織或企業自行開展，政府部門監督檢查。

王四新：網絡安全法是一個非常龐大的系統工程，需要企業全面履行主體責任，真正解決實踐中出現的這些問題。

劉德良（北京師范大學法學院網絡與智慧社會法治研究中心主任）：針對這種立法，可能在未來需要跨過一些坎。首先要轉變觀念，從關注個人信息的泄露轉到濫用的方向。我認為障礙就在于觀念問題，現在的主流看法都在強調泄露，而不在防止濫用上。

在觀念轉變之后，再組織專家商討、提案，或許情形很復雜，主體也不一樣、侵犯的權益也不盡相同，要系統地規范什么叫濫用，濫用有哪些類型，如何從民法、行政法、刑法有效防止濫用。如果沒有立法，司法也沒有意義。

記者：在您看來，防止泄露、絕對的保密是否無法做到，未來相關領域的立法重點是否應該在如何防止這些信息或數據的濫用

劉德良：相關法律法規的建立完善要具有可操作性，不能不利于大數據和人工智能產業的發展。大數據、人工智能產業本身就需要數據搜集，現在我們的個人信息已經存在于N個商家和機構中，泄露了也不知道從哪里泄露的，防止的不是泄露，關鍵在于不能濫用。

從立法上要讓進行身份識別的機構或者平臺（比如銀行、支付平臺、電信公司、保險公司）去承擔責任。如果用戶的個人信息被盜用、濫用，有兩種思路去問責：一是對這些機構、平臺進行過錯推定，除非能證明履行了核實比對義務，這種義務的標準隨著技術、時代的變遷也會不斷升級改變，需要司法按照這個標準去判定取證，來確定是否盡到義務，才可以免責，否則就要和假冒者一起承擔連帶責任；二是更加嚴苛，承擔無過錯責任。

如果法律有這種規定，就會倒逼這些機構、平臺認真核查比對，甚至會想方設法開發更新的技術手段，來有效避免身份假冒濫用。如果不這樣立法，掌握個人信息的機構、平臺就會把風險轉嫁給被假冒者，讓個人承擔風險。

（摘自9月6日《法制日報》。作者為該報記者）