認識AI，更多是為了認識人類自身

徐梅

“這里面的利害遠遠超過了對索拉里斯文明的探索，因為它所牽涉的是我們自己，事關人類認知的局限性。”

當我在《索拉里斯星》里讀到這句話的時候，心里一震。

2023年3月22日跟李喆通話時，他提到了這本科幻小說——波蘭作家斯坦尼斯瓦夫·萊姆在上世紀六七十年代以不可思議的想象力，寫出了這個人類與外星文明相遇的故事。

索拉里斯星文明是一個類似于智能海洋文明的超級存在，充滿人類科學家不能解釋的現象，“這片活海洋”仿佛一個巨型大腦，它比人類文明領先數百萬年，但它的行為并不依照“人類的觀念”，它不建造城市和橋梁，也不造飛行器或試圖穿越太空，也不試圖征服宇宙，而是“整天忙于進行成千上萬次的‘本體自發變形”。

像不像黑匣子里不知疲倦地自主學習不斷進化的AI？

小說里萊姆寫道，承認這片大海具有意識已經需要極大的勇氣，跟這個會思考、擁有心理活動卻非人類觀念的龐然大物“對話”更是要逼瘋人類。

“歸根到底，一個人只能用他自己的大腦來思考。”

“再說，就算真的和會思考的海洋實現了‘信息交流，人們究竟希望從中得到些什么呢？他們又能從中期待些什么呢？”

“誰知道呢？也許這樣是值得的，……我們恐怕不會對它有任何了解，但也許能夠了解一下我們自己……”

索拉里斯星上的智慧大海沉默不語，精神瀕臨崩潰的人類科學家喃喃自語。

我是跟李喆通完電話后，才看的這本小說，書上讀到的這些句子，讓我對他的思考和認知更新有了更多理解。

李世石退役的時候，李喆在《圍棋天地》上發表了一篇文章，流傳甚廣。他在文中稱，李世石的退役標志著充滿智慧創造和個人風格的棋士時代的終結，稱之為“一個時代的退隱”。

李喆在那篇文章里借用了文學批評中“作者已死”的觀念，以此關照AI出現后被迫“從創造主體降格為模仿者”的人類頂級棋手，“作者的隱匿退出，作品的同質化與套路化，創造性的消亡，新形式的缺失……如果說這些危機在文藝領域還只是影影綽綽地呈現于敏銳專業的人群心中，那么在圍棋界，這些危機在技術飛躍的這兩三年里，已經實實在在地擺在所有人面前。”

跟李喆通話的時候，武漢大學正是櫻花盛放的時節，在這所被譽為全國最美的花園大學里，李喆給武大學生開了一門圍棋課，下棋不多討論不少，期末考試，學生并不需要在棋盤上鏖戰收官，而是要交一篇小文章。

李喆總是會聯系最新的新聞，讓同學們展開討論。思辨是人類最強大的認知更新工具，而ChatGPT永遠“自信滿滿”，研究人員迄今還未攻克的一個難題是訓練它，讓它知道自己“不知道”，遇到未知領域的問題，可以直接回復“我不知道”，而不是一本正經地說瞎話。

3月份有一個重大新聞，美國棋手凱琳·佩林并非職業棋手，甚至在業余棋手中也算不上高手，然而他與頂級圍棋AIKataGo對陣竟然14勝1負，這個戰績令世界頂級棋手都不敢想象。

“他取勝的方式并不是人類常規的行棋思路，而是一個科技公司開發出來的，由另一個AI算出的針對AI盲點的下法。”

研究人員表示，KataGo之所以失手，可能是因為在它的對抗性演練中，并沒有經歷過足夠多的此類下法——或者說，這種制造“包圍圈”的下法往往在剛開始時就因為浪費棋子太多，而被認為注定落敗，所以圍棋AI也沒有意識到如果讓“包圍圈”合圍，自己就會落敗。

這個棋盤上的實驗充分顯示了AI快速部署的潛在風險，如同開發這個擊敗頂級圍棋AI程序的美國加州科技公司FARAI的首席執行官所言，“我們能看到，非常龐大的AI系統在幾乎沒有被驗證的情況下就被大規模部署了。”

除了人工智能并非全知全能、在部署上必須慎重可控這個點，李喆更想要引導學生們通過這則新聞深入思考圍棋AI的思維模式與人類的差異，以此理解縱使AI可以在知識層面上迅速超過人類，人類與AI之間的學習過程仍然是復雜的、長期的。

在李喆看來，人類棋手這些年在做一個非常前沿的思維實驗，將AI所展示的下法，通過人類的思維方式進行理解，“轉化為人類的知識。”

“我們都在說人類棋手在學習AI，其實AI怎么想的，人們并不知道，它在黑匣子里運行，它的啟示是一種沉默的啟示。人類向AI學習的過程是非常漫長的，這個過程中人類會看到AI的邊界，也會更多認識自己。”

“人類棋手與AI共存七年，你最深的感觸和思考是什么？”李喆在我們結束通話前的最后一問中陷入了長考，“我要想一下再回答你，我給你發微信吧！”

掛斷電話幾分鐘后，我的手機對話框里跳出這樣一段話——“七年來，和圍棋領域一樣，AI在各行業生成超越以往人類認知的信息，這些信息之精確和高效將帶來許多外在的行業結構變化和內在的反思性，也引發一些焦慮不安。不安和抗拒的源頭或許關于人類思維與AI算法的對照：解AI算法bug不易，破人類思維慣性更難。”

以下是李喆關于人類智慧與人工智能如何“接觸”的思考：

這學期開始我給學生出了一個題目：“AlphaGo之后ChatGPT又引發了一個人工智能的熱潮，為什么AI在圍棋和語言方面的應用會引起全世界的關注？”

有一個學生交的作業寫得特別好，他說就他而言，AI最讓人感興趣的是，它就像是人類認知世界思考問題的一面鏡子，圍棋AI甚至沒有收官的概念，只有勝率和最好的下法，恰恰反映出人類對圍棋是以自己的思維方式來認知的。

他說就像科幻小說《索拉里斯星》里的一句話，“在人類不存在的地方也就不存在人類能夠理解的邏輯。”

這位同學說，“人類的有限性促使我們必須追求在自我的理解中實現最優解，同時還要明白世界存在著各種各樣的認知方式，對此我們必須理解和尊重。”

我上學期給他們上課的時候講了很多關于AI的算法和我們人類下棋的思維差異性，首先是為什么AI能贏我們，其次是除了勝負以外還有什么內容。

這里面肯定不光是輸贏，還有很多關于認知方面的問題——我們人類下棋是通過一個什么樣的認知和決策結合起來的；AI下棋是怎么下的？這些異同都會反映在棋盤上。

有了AI之后，AI的下法是不是真的能被我們理解，我們所謂的理解到底是什么？這些都很值得去探討。

AI為我們展現并揭示出一種更真實、更正確的“認識”或者可稱之為真理，當然它們現在能力還有限，不是絕對正確。

這種揭示是一種沉默的揭示，它不會告訴你為什么。如果不告訴你為什么的話，其實它給出的知識就還不完全是一個可以直接在思維上指導你的一種工具，思維的重新建立，還是要人類自己來做的。

我們依靠AI先拿到一個結果，然后我們去推這個過程，這和以往我們的認知方式是相反的，而且這個過程并不是AI本身的過程，因為AI的過程我們是不知道的，我們也無法模仿。

我們要用人的思維模式來完成這個過程，這個過程實際上也只是對我們人類自己有意義，對人類提高自身的認知能力有意義。

我們這一代跨越了前AI和AI兩個時代的“過渡時期的棋手”都在做這個工作，從小學的都是傳統的人類整體的經驗，加上自己個體的天賦和經驗的結合，這是我們在AI出現之前的學習方式和知識獲得的方式。

AI出現之后，它呼喚了一種新的能力，一種在AI給出的信息和你自身的認知之間建立起一種新的連接的能力。掌握這種能力不是一件很容易的事情，在AI的算法和人類的道理中，要建立起一個術和道的對話，這是比較困難的，是一個長期的事情，不是一下子能夠完成的。

有一種說法認為現在的棋手記憶力強就會占優，把AI的棋都背下來就贏了。這是不可能的，圍棋太復雜了，變化太多，不可能靠死記硬背學AI就行。我覺得這完全是一種誤解，是對后AI時代人類優秀棋手的貶低，能夠把AI的棋更好地轉化為自己的理解，這個能力是很難得的，是一種很強的能力。

有趣的是，AI看似給了標準答案，但由于它沒有給出解釋，導致每個棋手用人類思維轉換它的時候，理解路徑都不一樣。AI的一步棋，同樣是頂尖棋手，因為他們各自的風格不同、認知不同，可能產生的理解就不同。

從這個角度來看，我也不認同今天的棋手因為AI失去了個人風格這個說法，我覺得這個說法是非常粗糙簡單的。打一個不那么恰當的比方，今天世界足壇也有風格化喪失的說法，但實際上每支球隊都有自己的節奏和特點，只是隨著專業化的進程，這些風格差異更難被識別出來了。

AI時代的圍棋也是這樣，整體更快更強，但由于知識轉化過程中特別依賴于個人的思維，每個人從AI下法收獲到的東西是不一樣的，反映出來就可能是下棋質量的高低，也有可能是風格的不同。我認為隨著對AI下法和信息的不同角度的理解轉化，未來或許反而是更加具有個人風格的時代。

AI不僅對棋手提出了要求，對圍棋解說評論和寫作闡釋都提出了更高的要求，這些從業者也要具備更高的認知轉化能力才能將棋盤上的思維撞擊闡釋得更加精彩。

我一直很遺憾，AI出來后，我們沒有利用這個工具，更生動更準確地展示出棋手下棋時頭腦中的風云變幻。都說圍棋很難，難在哪里？懂棋的人看得大呼過癮，能不能把激烈的智力戰斗用AI這個輔助工具更直觀地展現出來？這些工作都沒有做，只盯著AI的實時勝率看，太可惜了。

對于行業來說，AI改變了訓練方式、改變了行業格局，但非常可惜，在揭示圍棋真理上，還有很多可能性沒有被實現出來。AI讓我們有了一個自我關照的對象，可能更能夠讓我們明白自己是什么，然后我們的能力是什么，我們的思維是什么，我們下棋的時候思維到底是什么樣子的，到底是由哪些部分組成的？厚薄、死活、輕重、官子……這些圍棋知識的性質和區別是什么？棋感、計算、判斷，這些下棋時的基本思維，又與人的哪些認知能力和特點有關？由于可以跟AI做對比，人類思維的長處和弱點更容易體現出來，這些東西都是非常有價值的。在這些重新理解和回顧認知的基礎上，我們或許還可以向前一步，借助AI技術上的超越性來創造一些新的有效的概念，由此突破人類自身原有的思維邊界。

我們下棋到底用了什么樣的思維方式，然后我們的認知和情緒是怎么產生作用的，這些東西其實是構成人性的東西，里面有關于人本身的知識。

不管怎么樣，AI至少讓我們看到了圍棋更美的東西，我們人類圍棋進步的速度是很慢的，我們的界限就在那里了。AI出來，打破了藩籬，讓我們對圍棋的認知因為更接近真理而產生了一種美感，這種影響是不可能磨滅的，AI給我們打開了一個新世界的大門，看到了更廣闊的世界，而不是相反。

這個過程中所涉及的關于知識論和認知科學的部分，如何利用AI這面鏡子，更深地把握人類的認知和思考的某種真實，這是我現在最感興趣的問題。

（摘自微信公眾號“南方人物周刊”）