AI：非人類權威的生成

熊偉

生成式AI的狂飆突進讓人工智能受到的關注又多了一些。其實，在實驗室里，在數不清的服務器組成的廣袤“農場”上，在生產車間，在線上線下的閑聊中，人工智能從未離場。只是看到生成式AI跨過了嫻熟運用自然語言的關口，人們對各種技術路線的人工智能又新增了期待，也新增了擔憂。

人工智能技術本身的進步引發好奇，人工智能在各產業的應用值得跟蹤，人工智能的社會影響同樣不容忽視。我們已經在《中國信息化》今年（2023年）5月號刊發《生成式AI與輿論——“海量耳機效應”》，提出生成式AI能夠造就一種輿論工具，給海量用戶“戴上耳機”，在他們耳邊絮語，潛移默化地影響他們的思想。新的輿論工具將是顛覆性的，比已有的報紙、雜志、廣播、電視、網站、移動新媒體等等媒介更加有力。

輿論是社會的“皮膚”，也可能是人工智能首先影響的社會層面。我們將由表及里，繼續討論。

回溯祭祀活躍的部落，以吏為師的國家，以及其他林林總總的古代社會，我們會意識到，人群中出現權威的歷史已經十分漫長了。如果要找到各種權威的共同點，或許可以說，他們都是受到周圍人們信服的知識提供者，占據著文化的高地。按照文化社會學的觀點，所謂文化，就是社會或人群共同的信息。如果把文化的范圍擴大，加上物質部分，文化則是社會或人群共同的成果。在人工智能出現之前，知識全部直接產自人類；而現在人工智能也可以生產知識，盡管其中有大量錯誤的知識。但這一點并不特殊，因為人類也生產了大量錯誤的知識。當新的知識源出現時，非人類權威也立即出現了。

圍棋之“神”

生物學中有“生態龕位”概念，指不同物種憑借各自優勢在生態系統中占據生存位置。人類在飛翔、游泳、視覺、聽覺、嗅覺、速度、力量等等方面，都弱于某些物種，但智力卓越，由此占據了生物圈中最具優勢地位的生態龕位。因為人的優勢來自智力，所以當人們看到比自己跑的快的羚羊、獵豹，比自己力量強的獅子、大象，不會有心理劣勢。同樣地，當人們制造出比自己速度快的工具，汽車、火車、飛機，比自己力量大的機械，起重機、空氣錘，也沒有什么失落感。然而一旦人們發覺智力被其他事物超越，感受就完全不同了。人容易接受非人的“他者”力強于人，卻難以接受“他者”智勝于人。而且智力之中還有區分，有些智近乎力，如暴力解算。計算機算多位數相乘比人快很多，毫不稀奇，人們不放在心上，但在分析、推理、決策上，人總是自負的，被人工智能超越，就沒那么舒服了。

棋類游戲是一個值得研究的角度。人工智能下棋超過人類造成很大的心理改變，而圍棋帶來最后一擊。1997年5月，IBM公司的計算機“深藍”第一次在標準國際象棋比賽中打敗世界冠軍卡斯帕羅夫。這一事件在未來幾年引起了嚴重的擔憂。筆者在2001年采訪包括三位圖靈獎獲得者在內的多位專家，寫了題為《像海參一樣愚蠢——人工智能與智能計算縱橫》的科普文章，發表在《計算機世界》上。其中有一句“當IBM的計算機打敗國際象棋大師的時候，有人坐不住了：計算機如此聰明，它們能力的成長會失去控制，最終危害人類嗎？”反映了二十多年前世紀之交時人們面對人工智能的心態。可見對人工智能的警惕絕不是新近產生的。那時計算機下圍棋還很業余，有人一度認為計算機永遠也下不過人類專業圍棋手，并臆想了一些理由來支持這種判斷。但圍棋的特殊性并沒有維持住人類的領先地位，2016年3月，谷歌旗下DeepMind公司研發的AlphaGo戰勝圍棋冠軍李世石，比分為4：1；2017年5月，AlphaGo的升級版AlphaGo Master戰勝世界排名最高的圍棋手柯潔，比分為3：0。

頂尖圍棋手面對比自己下棋更厲害的人工智能，一開始表現得非常不甘心。李世石36歲就退役了，他說敗給人工智能對他打擊很大。柯潔在與AlphaGo Master對局時落淚，此后數次表示不愿意與人工智能比賽，還說“我這輩子打不敗AI”“我并不希望AI出現”。但在機器的實力面前，人類不得不承認差距。李世石九段在退役紀念賽上與韓國圍棋AI“韓豆”下了兩局棋，第一局竟然被讓二子！面對AI，棋手們的心理也有明顯的變化，從原先的不甘、遺憾，到現在下出AI的第一選擇時的自喜——棋手們已經甘當AI的小學生了。不得不說，他們是理智的。自從棋手們不再“妄想”戰勝AI而是誠心誠意向AI學習，他們的棋力迅速提高了。世界冠軍唐韋星說，人工智能可以很好地幫助年輕棋手提高水平。

圍棋AI已然遠遠超越人類，成了圍棋之“神”。這正是一個非人類權威生成的故事。

知識的流向

下棋的策略方法是知識的一類，此類知識的效用體現在棋力上。棋手向人工智能學習，是通過觀察對局，總結規律，然后自己形成關于行棋方法的知識。棋手們并沒有向圍棋人工智能詢問如何提升棋力。

知識檢索類AI則與此不同，你可以向它們提問，然后獲得想要的知識。知識檢索類AI大放異彩的事件發生在2011年2月，IBM公司研發的人工智能“沃森”以懸殊比分在美國著名智力競答電視節目“危險邊緣”中擊敗兩位人類“常勝將軍”，把100萬美元大獎收入囊中。筆者曾采訪參與IBM“沃森”項目的研究員潘越，寫了一篇題為《像海參一樣愚蠢，但比科學家聰明》的專欄文章，2011年7月發表在財富中文網上。潘越說，通過上網檢索并用判斷算法評估檢索結果的正確性，“沃森”能回答“是什么”，但對“為什么”和“怎么樣”類型的問題表現很差。

生成式AI如ChatGPT和知識檢索類AI也不同。“沃森”工作時是要接入互聯網搜索答案的，ChatGPT卻不聯網，它自己根據此前的訓練來生成答案。“沃森”出錯的情況很少發生，偶爾出錯的原因是它搜到了錯誤答案卻誤以為正確；ChatGPT則“擅長”胡編亂造，每每提供錯誤答案，需要人類自己核實它生成內容的正確性。讓今天的ChatGPT和12年前的“沃森”來一場知識比賽，“沃森”必然完勝。

生成式AI的長處在于掌握自然語言，真的能夠自己“說話”而不是復述輸入的內容。當生成式AI和知識檢索類AI實現優勢互補，人們就有了既能夠提供可靠知識，又很會使用人類語言文字的AI。即使只考察12年前的“沃森”，也不難認識到，AI能夠掌握的數據比一個人的記憶庫不知大多少倍。其實，知識權威的桂冠正像棋力桂冠一樣，已經牢牢戴在AI的頭上，如在醫療領域，人工智能作為醫學知識權威，早就開始“執業”診療了。今年6月，中國科學院院士顧東風教授說：人工智能可以快速處理大量醫療數據；在臨床診斷方面，AI能夠識別5類38種心電圖，算法的診斷敏感性明顯高于普通心內科醫師的水平。

吉登斯在《現代性的后果》一書中提出：“在現代性的條件下，再沒有什么知識是‘原來意義上的知識了，在‘原來的意義上，‘知道就是能確定。”這種觀點能夠幫助我們理解數字時代的“知識反哺”現象——傳統社會里總是前輩向后輩傳授知識，而在現代社會，由于知識日新月異，并且青少年接受能力更強，父母、祖父母反而要從青少年那里獲得知識，如手機的設置、網購的方法。我們也可以設想，在AI應用普及的未來，再沒有什么知識是“原來”意義上的知識了，除非它經過了AI的確認。在那樣的場景中，AI扮演熟悉互聯網和手機操作的青少年，人類扮演它們的父母和祖父母。人們開始習慣于就某個不了解的知識向AI提問，把獲得的回答奉為標準答案。這種方法的好處是節約時間，讓學習知識的效率極大提高，但難免讓AI成為無可爭議的知識權威。

當人們在諸多領域習慣了非人類權威，社會心理將變得怎樣？不妨參考圍棋手們預演的心路歷程：痛苦——不甘——反抗——反抗失敗——接受現實——察覺好處——甘之如飴。

非人類權威的生成，也即人類權威的黃昏。由于AI，世界將從諸神的黃昏走向人類的黃昏嗎？抑或AI將成為新的造神運動的產物？或許我們還有一些時間來思考這些問題。