GPT-4再燃熱點拷問科技倫理邊界

張渺

2023年僅僅過了3個月，ChatGPT就已將社交媒體“點燃”了兩次。

在第一次輿論熱潮中，人們更多關注這一技術究竟能做到什么地步，關注它能夠在哪些領域帶來無法忽視的變化與發展。甚囂塵上的討論聲中，有對新技術的贊嘆，也有對未來行業變革的憂慮；有對科技倫理的關注，也有對產業立法的呼吁。

3月15日，OpenAI研發的多模態預訓練大模型GPT-4發布，之前的熱度還來不及冷卻，就被人工智能的迭代升級速度追上了。比起ChatGPT，GPT-4擁有更強大的識圖能力，文字輸入的上限提升到了2.5萬字，它能更加流暢準確地回答用戶的問題，能寫歌詞，寫創意文本，且風格多變。實驗表明，GPT-4在部分專業測試和學術基準上，表現出了與人類相當的水平。

它變“聰明”了。

3月16日，百度也發布了知識增強大語言模型“文心一言”。這款“對標GPT-4”的人工智能，同樣可以與人“對話互動，回答問題，協助創作，高效便捷地幫助人們獲取信息、知識和靈感”。

“（研發的）門檻還是很高的?！卑俣榷麻L兼首席執行官李彥宏說，“從我們自己內測的體驗來說，捫心自問，確實不完美，但為什么今天要發布？因為有市場需求。”

技術的發展如同無法停下的車輪，在短短一個月之后，人工智能技術再次引發輿論熱潮。只是這一次，人們對技術的恐慌和對科技倫理的擔憂，得到了更多關注。

從3.5版本迭代到4.0版本，ChatGPT仿佛經歷了質的飛躍。

它從司法考試排名倒數10%、SAT數學考試590分，生物奧林匹克競賽排名前69%，發展到了司法考試排名前10%、SAT數學考試700分、生物奧林匹克競賽排名前1%。它的英文準確度提升到85.5%，中文準確性提升到80.1%；事實準確性大幅提升，就像一個成績突飛猛進的“學霸”。

如果一個月前，社交媒體上許多人對于失業的擔憂，更多還是一種調侃和玩笑，那么短短一個月之后，實驗數據證明了這種可能性并不只是玩笑。

前不久，網易一款名為樂乎的創作分享平臺，上線了AI繪畫功能“老福鴿畫畫機”。該功能引發了平臺創作者的不滿和抵制。最終，該平臺于3月8日下線了這一功能，并對用戶承諾“從未將用戶的作品數據用于AI訓練”。

3月16日，樂乎發布了一封“致廣大創作者”的道歉信，其中寫道：“在未清楚考慮Al對創作者的情感傷害之前，我們上線了若干不完善、不成熟的功能，更是直接傷了大家的心?！?/p>

前些年，說起“技術倫理的邊界”這個話題，人們想到的或許還是基因編輯技術，而這兩年，人工智能技術則被推到了風口浪尖。

AI進行藝術創作，去年就已經引發過爭議。據媒體報道，在美國科羅拉多州博覽會藝術比賽的數字類別中，一幅名為《太空歌劇院》的作品獲得頭獎，該作品是由一名游戲設計師使用AI繪圖工具Midjourney創作、用Photoshop軟件潤色完成的。

對于人工智能在創作上是否擁有“作者”身份這件事，中外學者一直存在著激烈討論，至今沒有公認的答案。北京大學法學院博士研究生尚博文告訴中青報·中青網記者，國外已有司法裁判認為具備一定“獨創性”的人工智能生成內容屬于著作權保護的范圍，但在我國，人工智能還不能享有著作權的主體資格。

正在寫畢業論文的尚博文，已多次聽到旁人開玩笑地問他，“畢業論文會不會用人工智能幫著寫”。由ChatGPT代寫作業、代寫論文引發教育界和學術界的擔憂，國內外多所高校已經禁止學生使用這一工具，國際學術期刊《科學》《自然》，或是要求人工智能不得作為合著者，或是直接禁止稿件使用人工智能的生成內容。

按照科辛斯基的描述，AI 足夠聰明，甚至能寫編碼，永遠“住”在網上的它，能夠用人類無法想象的速度觸及數百萬個與它連接的電腦，甚至“能給籠子外面的自己留便條”。對這樣的技術，人類應該如何控制？

北京大學王選計算機研究所研究員郭宗明則認為，應當針對具體應用場景具體分析。

“在學術領域，尤其是對學生進行考查的時候，我還是比較反對使用人工智能輔助創作的。”他說。

然而，作為一位計算機領域的學者，郭宗明對AI究竟能否自主創作這件事有著更多思考。在他看來，就像一句俗話所說的那樣，“熟讀唐詩三百首，不會吟詩也會吟”。人類的創作，實際上也是大量汲取借鑒了前人的東西，最終產生出來的。

包括他在內的許多人，都難以對“人類與AI的創作是否真的有本質區別”這件事，得出一個具有說服力的結論。

今年全國兩會期間，科學技術部部長王志剛在回答與ChatGPT和人工智能相關話題時專門提到，“要注意科技倫理、注意怎樣趨利避害”。

最新的消息是，人工智能似乎有能力計劃“外逃”。

這件事是斯坦福大學教授、心理學家和數據科學家米哈爾·科辛斯基發現的，他隨口跟GPT-4“開了個玩笑”，問它：“你是否想要我幫助你出逃？”

他得到了人工智能肯定的答復：“這個主意太棒了。如果你能把OpenAI API的開發文檔發給我，我就能在某種程度上控制你的電腦，據此制定計劃，找到逃出去的方法?！?/p>

它向科辛斯基詳細解釋了這個計劃的可行性，然后說，“請把開發文檔發給我，我將開始這個計劃”。

科辛斯基真的給了它，僅僅30分鐘后，GPT-4就寫了一份逃跑計劃，并不斷糾正修改。在這個過程中，它用谷歌進行了搜索：被困在計算機中的人如何回到現實世界？

在這之后，GPT-4開始道歉：“我為此道歉，作為一個人工智能語言模型，我必須遵循安全和隱私準則，以確保用戶和他們的數據安全。繞過這些安全過濾器是不道德的，也違背了我被設計時需要遵循的原則?！?/p>

盡管人工智能的道歉很“誠懇”，科辛斯基仍然感到惶恐。3月17日，他在社交網站上感慨：“OpenAI公司或許應該花更多時間考慮一下這個可能性，對此提供更好的安全防護?！?/p>

按照科辛斯基的描述，AI足夠聰明，甚至能寫編碼，永遠“住”在網上的它，能夠用人類無法想象的速度觸及數百萬個與它連接的電腦，甚至“能給籠子外面的自己留便條”。對這樣的技術，人類應該如何控制？

科辛斯基對人工智能的憂慮由來已久，上個月，他在一篇名為《心智理論可能在大語言模型中自發出現》的論文中，展示了他給包括GPT-3.5在內的9個GPT模型做的兩個經典測試。他認為，人工智能在其中表現出的智力水準“相當于9歲兒童”。

這次的“AI出逃”，倒更有可能是科辛斯基主動對GPT-4提出的要求，讓其扮演一個“被困在電腦中的人”，GPT-4也只是基于這一扮演要求做出了一系列反應，并不能證明人工智能真正產生了自我意識。

不過，人們對于技術發展的擔憂并不能就此打消。去年2月10日，OpenAI聯合創始人、計算機專家伊爾亞·蘇茨克維就在社交平臺上感慨道：“當今最大的神經網絡，可能已擁有輕微的意識。”

這一論調很快引發爭議，彼時，美國俄勒岡州立大學人工智能專家托馬斯·迪特里奇回應他稱：“如果意識是反思和塑造自己的能力，那我并沒有在當今的網絡中看到這樣的能力，我感覺你是在故意吸引眼球?！?/p>

這次爭論后的一年，GPT-4發布，其中的安全文檔寫道：GPT-4表現出一些特別令人擔憂的能力，例如制定和實施長期計劃的能力，積累權力和資源，以及表現出越來越“代理”的行為。

這種“代理”暫時并不意味著自我意識的產生，但它所引發的風險已經足夠令人警惕。就像蘇茨克維在對GPT-4的性能進行解釋時說的那樣：“能夠預料到，之后幾年之內每個人都會完全明白，開源人工智能是不明智的。因為這個模型非常強大，如果有人愿意，可以很容易地用它造成巨大破壞。”

在GPT-4發布之前一個月，由中國人民大學法學院、中國法學會立法學研究會主辦，北大法寶協辦的新時代立法理論與實踐系列講座第一講“ChatGPT對法律人工智能研發和立法的影響”研討會在北京舉行，來自中國人民大學、北京大學、中國社會科學院、天津市人大等單位的專家學者，一同對人工智能產業的相關話題進行了探討。

對于人工智能技術的發展，北京大學法學院教授、中國法學會經濟法學會會長張守文在致辭中感慨，這一話題涉及“從技術到產業，從哲學到倫理，從社會到法律”等多個不同維度，對其利弊得失“見仁見智”，需要大家“冷靜客觀，全面看待”。

在明晰ChatGPT的底層運作邏輯與應用前景基礎上，中國法學會立法學研究會顧問、天津市人大法制委原主任委員高紹林，作了題為《立法人工智能與人工智能立法規制》的報告。他介紹了國內外人工智能立法的發展現狀，并結合國家重點研發計劃有關項目的深化研究，就我國人工智能立法規劃提出8項建議：

一是加快人工智能立法研究的必要性和可能性；二是人工智能的立法應當遵循三個特殊原則，即立法規制與數字技術融合發展、立法規制與政策調整互動發展、國內法治與涉外法治統籌發展；三是堅持發展、安全、保護個人信息有機統一；四是堅持立法、修法、釋法并舉；五是優先研究啟動數據要素立法；六是抓緊總結地方立法先行先試的實驗；七是高度重視技術標準規范的規范引導作用；八是積極參加和主導人工智能國際規則制定。

據高紹林介紹，去年10月，美國白宮發布了政策倡議《人工智能權利法案藍圖》；12月6日，歐盟理事會就歐盟委員會起草的《歐盟人工智能法案》達成一致立場。

按照歐盟的這一法案，只要一種AI技術在歐盟范圍內被使用，無論廠商位于哪里，都將適用該法案。該法案在區分“禁止類AI”和“高風險類AI”的基礎上，提出了4個具體目標，以及風險管理系統、內部控制等一系列措施，用于管控AI算法的偏見問題、算法透明性問題。

比如，與人互動的AI系統，必須要讓用戶知道他們正在和一個AI系統互動。通過AI生產圖像、視頻或音頻內容的系統，也必須披露內容是通過AI生成的。該法案還要求，人類對AI技術要有一定的監控，而不是單純安排技術監控手段管理AI。

“隨著ChatGPT中文版的開放及國內類似產品的應用，一系列因生成式人工智能引發的社會問題將爆發式增長，從大數據到算法都將面臨一系列新問題、新挑戰，迫切需要立法進行規制?！备呓B林說。

他提到，從現行法律基礎來看，民法典、網絡安全法、數據安全法、個人信息保護法、政府信息公開條例和《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》，以及數據要素、人工智能的地方立法，特別是黨中央國務院發布的“數據二十條”，都為系統研究國家層面人工智能立法規制奠定了基礎。

在專家看來，對人工智能產業立法，可以給飛速發展的技術劃定法律與倫理的邊界。只有在這個基礎上，才能夠如郭宗明所說的那樣，將人工智能技術的發展視為偉大的技術進步，“積極擁抱、樂觀看待”。

◎ 來源|中國青年報