ChatGPT緣何突然被禁

朱之林

3月份，ChatGPT引發(fā)的浪潮沖擊世界，風(fēng)頭無兩，已經(jīng)不需贅言。

英偉達(dá)CEO黃仁勛贊嘆說，ChatGPT的出現(xiàn)，是AI界的“iPhone時刻”，勢必改變我們的現(xiàn)實生活。這一次變革中，獲益最多的無疑是開發(fā)公司OpenAI，以及聯(lián)手OpenAI的微軟。

3月24日，OpenAI CEO奧特曼還在“深情”發(fā)推，“祝GPT-4十天生日快樂！”像對自己的孩子似的，甚至等不到“滿月”慶祝。

但他當(dāng)時不會想到，在“這個孩子”出生當(dāng)月，就會遭遇禁令。

當(dāng)?shù)貢r間3月31日，意大利個人數(shù)據(jù)保護(hù)局宣布，將暫時封鎖意大利境內(nèi)訪問ChatGPT的途徑，同時，審查OpenAI在最近一次網(wǎng)絡(luò)安全事件中收集的個人信息等問題。

突如其來的監(jiān)管動作，讓意大利成為全球第一個因隱私考慮，禁用ChatGPT的國家。

幾小時后，奧特曼委屈巴巴地回應(yīng)：“我們當(dāng)然遵從意大利政府，并已停止在意大利使用ChatGPT。盡管我們認(rèn)為遵守了所有的隱私法?！?/p>

人工智能與“人的智能”，終于狹路相逢了。

在這全球第一張對ChatGPT的禁令中，意大利個人數(shù)據(jù)保護(hù)局列出了3項指控。

一是3月20日ChatGPT平臺出現(xiàn)了用戶對話數(shù)據(jù)和付款服務(wù)支付信息丟失。

二是平臺沒有就收集處理用戶信息進(jìn)行告知。

三是由于無法驗證用戶的年齡，ChatGPT“讓未成年人接觸到與發(fā)育程度和意識相比，絕對不合適的答案”。

北京師范大學(xué)互聯(lián)網(wǎng)發(fā)展研究院法學(xué)教授吳沈括告訴南風(fēng)窗，第一個情況，通俗來講便是發(fā)生了數(shù)據(jù)泄露。

“而數(shù)據(jù)泄露，是意大利個人信息保護(hù)法等法律法規(guī)中非常重要的非法場景?！奔词箍萍脊臼潞髮Υ私忉屨f明，也不見得能產(chǎn)生抗辯效力。

“因為它沒有及時在數(shù)據(jù)泄露時對外通告。”吳沈括說。

當(dāng)時，OpenAI的通告晚了5天。3月25日，該公司發(fā)布道歉聲明，稱3月20日ChatGPT出現(xiàn)漏洞，臨時下線。約有1.2%的ChatGPT Plus用戶數(shù)據(jù)被泄露。

“在ChatGPT下線前的幾個小時，一些用戶有可能看到另一在線用戶的姓名、郵箱地址、付款地址、信用卡號后4位等。完整的信用卡號碼在任何時候都沒暴露。” OpenAI對外表示，公司隨后修復(fù)了這一漏洞。

僅僅以一次漏洞為契機(jī)，就禁用全球流行的AI工具，意大利是不是太過責(zé)難？

吳沈括介紹，發(fā)出禁令的意大利個人數(shù)據(jù)保護(hù)局，并不隸屬政府機(jī)關(guān)，“這是一個獨立的數(shù)據(jù)保護(hù)機(jī)關(guān)，由議會任命”。

而對于個人數(shù)據(jù)保護(hù)，意大利向來嚴(yán)格，“它有一個比較嚴(yán)格的傳統(tǒng)，而且敢于執(zhí)法?！北热?，只有在意大利，谷歌的高管受過刑事處罰，“在其他國家都沒有碰到過這一級別的處罰”。

不過，全球首張“禁令”并非沒有回旋余地。意大利個人數(shù)據(jù)保護(hù)局給了OpenAI 20天時間，要求說明它將如何解決上述隱患。

否則，意大利將對OpenAI處以 2000 萬歐元（2170 萬美元）或高達(dá)年收入4% 的罰款。

吳沈括解釋，這一處罰辦法依據(jù)歐洲議會2016年通過的《一般數(shù)據(jù)保護(hù)條例》的明文規(guī)定?！疤貏e是4%年營業(yè)額這一條處罰。邏輯就是公司沒有遵守、貫徹、實現(xiàn)監(jiān)管的要求?！?/p>

需要注意的是，意大利的這次出手，只是一個首發(fā)信號。

“意大利在歐洲的數(shù)據(jù)保護(hù)環(huán)境當(dāng)中，具有非常大的權(quán)重。無論是它的監(jiān)管機(jī)制、監(jiān)管政策，還是重要人物，意大利都（在歐洲）占據(jù)非常高的比重，包括在歐盟決策層，有非常多的意大利的權(quán)威人士和高層官員存在?！眳巧蚶ū硎尽?/p>

這意味著，對ChatGPT一類工具的高密度、高強(qiáng)度監(jiān)管措施，可能正在路上。

近一周，已有多個第三方機(jī)構(gòu)在呼吁，禁用ChatGPT。歐洲消費者權(quán)益聯(lián)盟（BEUC）呼吁，歐盟和其他政府機(jī)構(gòu)要徹查ChatGPT和類似的聊天機(jī)器人。

從數(shù)據(jù)保護(hù)角度而言，ChatGPT的底層技術(shù)天然與其存在矛盾。

GPT背后是大語言模型。OpenAI 官方曾披露，GPT-3有1750億參數(shù)，該大模型使用的是互聯(lián)網(wǎng)的文本數(shù)據(jù)庫。

這其中，共計有高達(dá) 570GB 的數(shù)據(jù)，來源包括書籍、網(wǎng)絡(luò)文本、維基百科、個人問答等。更精確地說，系統(tǒng)輸入了 3000 億個單詞，訓(xùn)練這一人工智能模型。

放在強(qiáng)調(diào)個人數(shù)據(jù)保護(hù)和“被遺忘權(quán)”的歐洲，數(shù)據(jù)量驚人的GPT模型是一種天然僭越。

吳沈括分析：“GhatGPT的運行邏輯，在本質(zhì)上跟《通用數(shù)據(jù)保護(hù)條例》（General Data Protection Regulation，簡稱GDPR）的以當(dāng)事人知情同意控制權(quán)為核心的數(shù)據(jù)保護(hù)思路，很不一樣?！?/p>

一個在社交媒體流行的觀點是，OpenAI根本沒想過為從互聯(lián)網(wǎng)上抓取的數(shù)據(jù)付費。掌握數(shù)據(jù)的個人、網(wǎng)站所有者和公司沒有獲得收入，也不知道數(shù)據(jù)被采用了。但OpenAI利用這些數(shù)據(jù)，成長為比2021年估值高一倍多的巨頭。

全球監(jiān)管層面臨的矛盾十分相似：ChatGPT橫空出世，帶動AI大模型的發(fā)展，而人類的各項政策法規(guī)都無法跟上。

即使走在數(shù)據(jù)保護(hù)全球最前沿的歐洲，歐盟也還在制定世界上第一部人工智能的法規(guī)，距離法案生效還需要數(shù)年。

一個在社交媒體流行的觀點是，OpenAI根本沒想過為從互聯(lián)網(wǎng)上抓取的數(shù)據(jù)付費。掌握數(shù)據(jù)的個人、網(wǎng)站所有者和公司沒有獲得收入，也不知道數(shù)據(jù)被采用了。

技術(shù)發(fā)展與政府監(jiān)管之間，“相愛相殺”的關(guān)系并不奇怪。

對于ChatGPT的討論中，反常的一幕是，對ChatGPT前所未有的抵制竟同時出現(xiàn)在科技圈。

4月初，一封多位知名人物簽署的聯(lián)名信備受矚目。

在曝光但尚未證實的名單中，包括馬斯克、圖靈獎得主Yoshua Bengio、Stability AI首席執(zhí)行官Emad Mostaque、紐約大學(xué)教授馬庫斯，以及《人類簡史》作者Yuval Noah Harari。

他們表示，目前具有和人類競爭智能的AI系統(tǒng)，可能對社會和人類構(gòu)成深遠(yuǎn)的風(fēng)險。因此，“應(yīng)停用6個月，停止再發(fā)展出GPT-5的大模型”。

在他們看來，GPT-4展現(xiàn)出的能力表明，當(dāng)下的AI不再風(fēng)險可控了。比起各大巨頭相繼押注大模型，科技公司現(xiàn)階段更該聯(lián)合政府，開發(fā)強(qiáng)大的AI管理系統(tǒng)。

“系統(tǒng)至少應(yīng)該包括：專門負(fù)責(zé)監(jiān)管AI的機(jī)構(gòu)；出處和水印系統(tǒng)，從而幫助區(qū)分真實與生成的內(nèi)容，跟蹤數(shù)據(jù)泄露；強(qiáng)大的認(rèn)證系統(tǒng)；在AI造成傷害后，明確誰該承擔(dān)責(zé)任……”

暫停開發(fā)GPT-4之后的AI，這聽上去是無稽之談，卻成為科技圈對AI爆炸性發(fā)展真切的焦慮。技術(shù)的潘多拉魔盒一旦掀開，現(xiàn)在的人們開始擔(dān)心再也無法合起來。

“我們必須捫心自問，”聯(lián)名信上寫道，“是否應(yīng)該讓機(jī)器用宣傳和謊言充斥我們的信息渠道？是否應(yīng)該讓所有工作都變得自動化？是否應(yīng)該發(fā)展可能某一天會超越我們、淘汰我們、取代我們的人工智能？是否應(yīng)該冒險失去對人類文明的控制？”

回到意大利禁用ChatGPT的事件中，曾在意大利生活8年的吳沈括表示，根據(jù)他對當(dāng)?shù)厝诵拍畹牧私?，出現(xiàn)這張禁令毫不奇怪。

“意大利有一句很流行的話，是說，以消滅人類為目標(biāo)的人工智能，不應(yīng)該被研發(fā)出來。”吳沈括分析說，在意大利人的判斷當(dāng)中，這個問題具有最高度的嚴(yán)重性，需要有強(qiáng)力的介入、強(qiáng)力的監(jiān)管態(tài)度。

因此，意大利監(jiān)管部門的做法，不能簡單歸結(jié)為“因噎廢食”。

“當(dāng)一個高強(qiáng)度的監(jiān)管禁令提出之后，后續(xù)自然就伴隨著一個高密度的游說過程?！眳巧蚶ń忉屨f，在這個游說過程中，監(jiān)管意圖將得到更多的實現(xiàn)，它會形成一個博弈的過程。最終，建構(gòu)一個可持續(xù)的、各方受益的良性循環(huán)的生態(tài)。

◎ 來源|南風(fēng)窗