愚蠢的人工智能

詹姆斯·布賴德爾

我們接觸的人工智能其實是對既有文化的大范圍盜用。如果我們真覺得這樣的人工智能可以給人類帶來諸多益處，后果將不堪設想。

| 互聯網上的人工智能熱潮 |

2021年1月，“開放人工智能”公司發布了一款名為“達力”的產品。用戶只需輸入一小段文字，簡單描述自己想要的圖片，稍等片刻，達力就可以生成一張和文字匹配度頗高的圖片，效果不比插畫師的作品差，但速度更快，而且免費。舉例來說，如果輸入“用圣–?？颂K佩里的風格畫一只帶翅膀的豬從月球上空飛過”，你就會得到一幅帶有《小王子》作者水彩風格的畫作。2022年，達力新版本問世更是在互聯網引發了“創作”狂潮。社交媒體上到處都是網友千奇百怪的作品，什么風格都有。短短幾個月后，“開放人工智能”另一款名為ChatGPT的產品再次引爆互聯網。這款產品瞄準的是語言，而非圖像。比如，你讓它用美國詩人艾倫·金斯伯格的口吻給《約伯記》寫一篇概要，幾秒鐘內，你就可以得到一篇像模像樣的作品；你讓它將金斯伯格的詩作《嚎叫》用咨詢公司演示文稿的形式呈現出來，它也可以照做。這些產品擁有靠圖像和文字創造新奇事物的能力，有幾個人會對這樣的能力說“不”呢？

實際上，這些產品依托的是“提示工程”技術：用戶輸入文本后，系統會基于對文本內容的理解，生成與用戶期待最匹配的反饋，有時甚至可以給出超預期的反饋?？萍荚u論員預測，提示工程師將成為最受追捧和最賺錢的職業。未來，代碼將不復存在，人類和人工智能系統之間最有效的溝通方式也將變成人類語言本身。屆時，我們再也不用學代碼了，只需將想法告訴人工智能，剩下的一切它自會處理。我們的想象力有多遠，人工智能就可以走多遠——人類想象力的邊界將成為人工智能天花板的唯一上限。

沒多久，市面上就出現了達力的效仿者。沒有獲得達力內測資格的用戶可以嘗試達力迷你版（后更名為“人工智能蠟筆”），其功能雖然沒有達力強大，但也足以讓用戶體驗一番。與此同時，達力的競品也相繼浮出水面，比如《旅途之間》和《穩定擴散》，它們雖說采用了不同的方式整理和生成圖像，但其目的和達力并無二致。短短幾個月，人工智能應用的細分領域就涌現出了制作三維模型以及短視頻的產品，出品方既有業余愛好者和學術機構，也有谷歌、微軟等巨頭。

達力這個名字結合了迪士尼動畫片主人公瓦力和西班牙超現實主義畫家薩爾瓦多·達利的名字。提起瓦力，我們會想到那個在人類廢墟上清掃垃圾的可愛機器人；提起達利，我們則會想到他的名言，比如“那些什么都不屑于模仿的人，什么也創作不了”，再比如“重要的是傳播混亂，而非消除混亂”。

過去一年，人工智能迎來了新風口，以達力和ChatGPT為代表的軟件牢牢抓住了大眾的想象力?？萍季揞^曾經想靠區塊鏈和虛擬現實創造新增長點，但無一不折戟而返。這一次，他們終于在人工智能上找到了夢寐以求的增長點。對用戶而言，人工智能至少是有趣的，雖然這種新鮮感最多能維持五六分鐘。其次，人工智能本身自帶光環，會讓人聯想到科幻小說、巨大的機器人以及超級大腦，光是這種聯想就足以讓人倍感新奇和興奮。不過，我們如果能揭開人工智能光鮮的面紗，就會發現事實遠非如此。

| 人工智能并非新鮮事物 |

過去幾十年，人工智能在學界的基本定義從未變過，其底層技術就是神經網絡。神經網絡的理論以及實踐最早可以追溯到上世紀90年代。彼時，我們可以用神經網絡技術生成圖片，只不過絕大多數情況下得到的是抽象色塊。聊天機器人的歷史就更悠久了，早在上世紀60年代，麻省理工學院的約瑟夫·維森鮑姆就以心理咨詢師為原型，做出了第一款真正意義上的人工智能聊天機器人“伊麗莎”。你如果說“我好難過”，伊麗莎會問你“為什么覺得難過??？”維森鮑姆想借此證明人類的溝通是膚淺的，他并沒有打算以此為基礎，為未來的產品提供藍圖。

早期的人工智能對世界知之甚少，學術機構也缺乏大規模實驗的計算能力。和今日的人工智能相比，早期的產品并不是差在智能上，而是差在數據和功率上。過去20年，科技巨頭從我們的文化和日常生活中收集了海量數據，建立了大型數據中心，并配裝了功能強大的超級電腦來整理數據。陳舊的人工神經網絡也因此脫胎換骨，變得馬力十足，也正是這一變化造就了如今的人工智能新風口。

| 盜用藝術家心血生產圖片 |

科技公司的數據中心存有數以百萬計帶標簽的圖片，人工智能靠分析它們生成新的圖片?！皫撕灐笔侵该繌垐D片都附帶一小段描述圖片內容和特征的文字。神經網絡“吃掉”這些帶標簽的圖片后，會將形狀、顏色、構圖等細微的圖片特征和特定的詞語或短語聯系起來，構成數十億組配對。用戶只需輸入簡單的文字，神經網絡就會調動相關配對，依據優先次序將既有的形狀、顏色和構圖重新排列組合，生成新圖片。那么，這些帶標簽的原始圖片從何而來？

答案是圖文數據集。德國非營利機構萊恩發布的圖文數據集訓練過許多大型人工智能模型，比如《穩定擴散》以及谷歌的圖像生成器。萊恩的研究員從網頁數據集抓取那些本身附有描述性文字的圖片，再將文字圖片加工，之后把這些素材以大型圖文數據集的形式發布。2022年3月，萊恩發布新的圖文數據集，總共含有50多億組圖像–文本對。這些圖片是最廣義上的“公共”圖像——凡是網上出現過的圖片，都有可能成為其中一分子。因此，不出意料，這種圖文數據集會帶來詭異的副作用。

2022年9月，舊金山的數字藝術家拉賓使用了一款名為“我是否被抄了”的軟件。藝術家的作品是否淪為了人工智能圖像生成模型的“養料”，用“我是否被抄了”一測便知。藝術家馬特·德里赫斯特和霍莉·赫恩登共同研發了該軟件，想弄清楚人工智能究竟是如何利用藝術家心血的。拉賓用軟件掃描了一遍萊恩數據庫，發現有一張自己的頭像。她一路倒查，找到了照片的源頭。她曾經因為一種罕見的遺傳病看過醫生，治療期間，醫生給她拍過幾張照片。這些照片是她病歷的一部分，她也在病歷上簽過字，病歷上明確寫明一切資料僅限治療使用。醫生于2018年去世，之后，這些照片以某種方式跑到了網上，最后還進了萊恩的圖文數據集，成為了神經網絡理解和創作圖像的“養分”。

“這無異于數字版的收受贓物。有人從我已故醫生那兒偷了我的照片，上傳到網上，隨后照片又被數據集抓取了?！崩e接受采訪時說，“照片泄露本身就夠糟了，現在還成了別人產品的一部分。而且，每個人的照片都有可能遭遇同樣的事。未來，照片被濫用的可能性非常高。”

面向大眾的人工智能產品，不管是主攻圖像還是主攻文字，抑或是那些基于數據的應用軟件，其實都是對既有文化的大范圍盜用，只是這個范圍確實大到了我們難以想象的地步。不論是公眾的還是私人的，不論是法律還是其他層面，那些被人工智能“吃掉”的文字和圖片都屬于“合理使用”的模糊范疇。先進的神經網絡里究竟發生了什么，我們很難從外部理解。不過，有一點可以肯定：人工智能生成的結果遠談不上神奇或原創，所有一切都是依托歷代藝術家既有的作品拼湊出來的，這些藝術家既沒有得到應有的認可，也沒有得到任何經濟回報。

換句話說，人工智能的圖文生成系統本質上是純粹的原始積累：盜用絕大多數人的心血，為硅谷少數幾家科技巨頭及其億萬富豪老板創造財富。這些公司的賺錢模式就是將觸角伸到人們日常生活的方方面面，其中也包括最私密和最具創造力的部分，比如我們的私密對話、偏好以及夢想。它們將我們的夢想據為己有，一如往日的地主和強盜貴族將土地圈為私有；它們承諾這樣做可以為人類提供前所未有的新體驗，讓我們享有接觸人類所有知識的機會，并創造人與人溝通的新方式。但是，真相并非如此，它們所做的無非是將我們的夢想打包兜售給我們，還宣稱這是人工智能的結晶，它們真正能兌現的承諾就是借此撈到更多的錢。

| ChatGPT只是看似聰明 |

2022年11月，“開放人工智能”發布ChatGPT。這一產品的問世重塑了我們的觀念，讓我們重新思考人工智能和人類創造力互動的可能。它的結構與聊天機器人類似，但其功能遠比傳統聊天機器人強大。你只要會用，就可以讓它幫你寫代碼，解決數學難題，寫作任務也不在話下，書評、學術文章、婚禮致辭、法律合同，你都可以找它代筆。

對于那些一想到寫郵件或者寫文章就頭疼的人，ChatGPT顯然是一大利器。不過，和圖像生成器一樣，它也可能讓一些人丟掉飯碗。許多學校擔心學生會用它寫作業，為了避免此類情況，校方出臺規定，禁用ChatGPT。學術期刊《自然》也發布規定，禁止將ChatGPT列為學術論文作者。但是，機構本身其實也有可能濫用這款聊天機器人。今年2月，范德堡大學皮博迪教育與人類發展學院做了一件令學生震驚的事：美國一所學校發生槍擊案后，學院給學生群發了一封吊唁信，并為學生提供了建議，但這封電子郵件的落款竟然是ChatGPT。這樣的事提醒我們，人工智能到底能否在諸多領域代勞，似乎還需要我們進一步思考。

倘若用ChatGPT完全替代我們的日常交流不合適，那讓它充當我們的助手，幫助我們從浩如煙海的信息中快速提取想要的信息如何？微軟已經在這個方向先行一步了。它的做法是將自家搜索引擎必應和ChatGPT結合起來，這一舉動也提升了必應的知名度。這段時間，網上確實興起了“遇事不決問ChatGPT”的潮流，但它的回復能否稱得上真的知識，還要打上問號。

不久前，我和ChatGPT互動過一次，讓它給我推薦幾本與多物種生命民主有關的書。多物種生命民主是一個新興的研究領域，主要強調政治決策應該把非人類物種的生存納入考慮范疇。“你能不能給我推薦幾本這方面的書？”我問道。它很快開出書單，并且附上了頗具說服力的推薦語。太牛了！但我一查才發現，推薦的四本書里只有一本真實存在。它提到幾點與多物種生命民主有關的概念，也都是從右翼手冊打包拷貝過來的。比如，它告訴我多物種生命民主名義上是在維護動物權益，實則是對環境有害的自由派觀念，并且會導致產權擴張。

ChatGPT能跟我說這些，并不是因為它站在右派立場，而是因為它本身就很蠢。它讀取了互聯網大部分的內容，知道人類語言聽上去應該是怎樣的，但它從未和現實有過任何交集。它擅長生產像模像樣的話語，但那些話頂多也就是陳詞濫調和平庸之語。它并沒有能力生成與真實世界存在真實關聯的語句。倘若有人告訴你ChatGPT可以仿效人類意識或者說接近人類意識，你可千萬別上當。

越來越多的人相信人工智能知識淵博，可以說出有意義的內容。這種想法非常危險，任其發展，人類的集體智慧會受到污染，我們的思考能力和批判性思維也會受到損害。科技公司聲稱，大家有疑問，可以讓ChatGPT解答；評論員宣稱，可以讓ChatGPT走進課堂，充當助教。果真如此，我們與可靠合法的信息源只會越隔越遠，因為我們之間插入了ChatGPT的套話，并且套話與可靠信息的界限會變得越來越模糊，直至我們看不出區別。

人工智能對地球也有害。2019年發布的一篇研究報告指出，單是訓練一款人工智能模型，整個過程釋放的二氧化碳就可以達到284噸，相當于五輛美國汽車一生的碳排放量。據估計，未來五年，人工智能所造成的碳排放會上漲近50%。從氣候變暖到海洋酸化，從森林大火到物種滅絕，每一項罪責都與人工智能脫不了干系。從這個角度看，眼下還有什么比追捧人工智能更蠢的事嗎？

| 探索新可能 |

我們不妨后退一步，倘若當下的人工智能應用模式讓人感到無比凄涼，我們是否還有別的選擇？我們能否將人工智能用于正途，而不是讓它去剝削、苛待、誤導或頂替我們？答案是肯定的，只要我們愿意跳出公司霸權對人工智能的定義，我們就可以有其他選擇。

有人就繞開了公司霸權，試圖用人工智能拯救瀕危的土著語言。聯合國估計，平均每兩周就有一門土著語言消失，講這門語言的人的智慧經驗也會跟著一并消失。土著語言瀕危的全球性問題是幾百年來殖民主義以及種族同化政策帶來的惡果，而如今崛起的主流機器語言學習模型更是進一步加劇了這一趨勢。也就是說，主要語種的影響力會因為這些模型進一步加強，而弱勢語種則會因此被進一步邊緣化。

新西蘭小型非營利電臺“?？帷钡墓澞坎捎妹Z播放。語言在科技領域并非對等，有的強勢，有的邊緣。?？犭娕_為了對抗這種不平等，將20余年的廣播錄音全部轉化成了電子版，希望惠及語言研究人員和毛利族社區。許多俚語和俗語都失傳了，沒人聽得懂。?？犭娕_為了將音頻資料轉為文字，專門訓練了自己的語音識別模型。如此一來，該模型就可以“聽懂”音頻，將多年的電臺錄音轉成文本。

經過幾年努力，?？犭娕_成功打造了一套高精度開源毛利語識別系統。這一系統成長如此之快，離不開毛利族社區的貢獻。?？犭娕_把能聯系到的毛利族社區都聯系了一遍，邀請毛利人朗讀文本，充實語料庫。海酷電臺的成功范例為土著語言的復蘇蹚出一條新路，加拿大東南部的莫霍克人以及夏威夷土著都跟著做起了類似項目。

之前，有外國企業想建立自己的毛利語語音識別模型，聯系過毛利人，希望他們伸出援手。?？犭娕_動員毛利族社區拒絕這一邀請：“這些人排擠我們的語言，用蠻力迫使我們的祖父母放棄了自己的語言，如今又想把我們的語言做成服務賣給我們，賺我們的錢?！焙？犭娕_的辦法是，毛利人貢獻的一切數據都歸毛利族社區所有，這樣既可以幫助毛利人復興自己的語言，又可以避免電子殖民主義。

這波人工智能浪潮教會了我們一個道理：公司理解的人工智能具有非常大的局限性。如果將利益最大化視作終極目標，那股東價值將成為衡量一切的尺度，如此一來，我們對藝術、想象力、審美還有情感的追求自然會大打折扣。實際上，我們理應從人工智能中獲得更多，但前提是我們有能力參與其中。不要怕，它們并沒有那么復雜，正如科幻作家厄休拉·勒古恩所寫：“科技，只要我們想學，還是學得會的。”

[編譯自英國《衛報》、美國《紐約客》]

編輯：要媛