以改造教育和學習應對人工智能時代的挑戰
——段偉文研究員訪談

◎張 棟

人工智能是當今人類社會所面對的最具根本性的挑戰和機遇之一，其對人類社會的潛在影響兼有高度的不確定性、復雜性。基于這種認識，我們采訪了中國社會科學院哲學所的段偉文研究員，面對高度不確定的未來社會，努力尋求其中具有一定確定性的部分。

記者：由AlphaGo戰勝李世石開始，人工智能在近幾年成為了公眾關注的一個熱點話題。在您看來，人工智能在近幾年是否取得了重要的突破性的進展？

段偉文：從人工智能的應用層面來看，由于計算能力的提升、計算成本的下降、大數據和深度學習等發展，近年在數據智能和跨媒體智能上，實現了一些具有商業、產業和軍事價值的發展，出現了一些合成智能技術和可能替代人類的自動化智能系統，如智能服務終端、智能翻譯系統、智能聊天與陪伴機器人等。但從理論上來說，現在的人工智能仍然處于弱人工智能或專用人工智能階段，只能在特定的環境中按規則執行單一任務，其智能識別等功能并非建立在理解的基礎上，不會思考，沒有行動意向，也沒有意識和自我意識，強人工智能和通用人工智能還看不到實現的前景。因此，目前人工智能并沒有取得實質性的突破。

記者：暢銷書《未來簡史》中，作者把人類和生物也理解為自然演化出的算法。生物智能可以被理解為算法嗎？

段偉文：有一個理論叫計算主義，是當代認知科學和人工智能研究中的流行范式。其中心觀點，簡言之，就是萬物皆算法。從計算主義的角度看，計算機算法和宇宙中所有事物的算法都是沒有差別的，都是可以符號化的，都是按照程序、條件關系來運行的。如同牛頓力學時代把宇宙中一切事物的基本規律都用力學來概括，計算主義就是把整個宇宙中一切事物的基本規律用算法來概括。計算主義是一種認識論，是一種觀察和認識世界的當代視角，從這個視角，我們可以看到很多以往看不到，認識不到的問題。從這個角度，生物智能不僅可以被理解為算法，而且把生物智能作為算法進行研究還是認知科學的重要主題，其成果是人工智能研究的重要基礎。但計算主義也僅是一個觀察世界的方式，既不是唯一的方式，也不一定是正確的方式，之所以采取這樣的視角，是因為它能夠帶來新的發現。

段偉文，中國社會科學院哲學所研究員。主要研究方向：科學哲學、技術哲學、科技倫理、網絡研究。

記者：如果生物智能也可以被視為算法，那目前人工智能和人類智能是否存在本質性的差別？

段偉文：即使從計算主義的視角，算法也至少有兩類，一種是自然發生的算法，自然世界和社會系統自動運行演化的規律和條件關系，另一種是體現人如何理解這些規律和條件關系，如何去模擬自然過程，通過計算機實現的人工算法，后者是對前者的擬合。人對自然的認識和理解，必然要采取特定的視角，必然有所簡化。兩者當然是有區別的。

至于兩者是否具有本質上的一致性，這可能并不是一個重要的問題，因為本質是什么，很難說清楚。本質的東西，我們不一定認識到了，我們認識到的不一定就是本質，我們今天認為是本質的東西，明天不一定還是。如果把這個問題提給計算主義者，他會認為是，不論人類智能還是人工智能，思考和認知的過程都是一種對符號的運算和處理。如果不從計算主義的角度出發，那么人類智能和人工智能之間的差別也很明顯，比如人能自我控制，機器不能；人有信念，有欲望，有意圖，有情緒，機器沒有；人的知覺是和身體相關的，比如我們的空間感，是具身性的認知，機器不是。

所以與其談他們在本質上相同與否，不如談他們在某一個抽象程度上所具有的相似性，但同時，人類智能中的很多東西，比如意識、信念、欲望、情緒，是抽象不了的，至少在今天我們的認知水平下，是抽象不了的。如果有一天我們能夠把意識、信念、欲望、情緒這些都用算法表達出來，那么生物智能也就可以在更高的層次，更多的部分上被化約成為算法。

記者：在您看來強人工智能是否是可能的？基于目前的計算機原理是否可能？

段偉文：強人工智能，接近人類智能，甚至超越人類智能的人工智能是不是可能實現，如果從現代人類技術發展的歷史視角去看，那一切皆有可能。無數前人不敢想，想不到的東西都已經變成了現實。而且強人工智能本身就是人工智能技術研究的初衷，是最開始的目標。只是在發展過程中，發現很難，所謂的莫拉維克效應，實現對人來說復雜高級的智力活動只需要較少的計算能力，是相對簡單的，但實現無意識的技能和直覺卻需要極大的運算能力。計算機可以解復雜的數學題，可以在圍棋上戰勝人類，但在感知能力趕不上一個一歲嬰兒。因此我們的研究才逐漸集中到針對特定任務和功能的弱人工智能上去。

目前的人工智能，其實也可以說根本就沒有什么智能，因為目前機器學習還必須借助于人工標注，即使所謂無監督學習，也必須依賴人為其做決策。所有的機器都必須在既定的規則下運行，不可能像人一樣去創作，或者創造出一些東西。目前一些看上去像是智能的機器，比如像“深藍”、“alpha go”、“alpfa zero”， 仍然是通過窮舉法或是自我博弈中大量試錯來實現的，只不過它的運行速度非常快，但這仍然很難說是智能。

目前來看，強人工智能還很遙遠，基于目前的計算機原理可以說還看不到明確的前景，并不像《奇點臨近》之類的那些作者所宣傳的那樣可以預見、迅速實現。事實上，如果過度樂觀的估計了人類的技術能力，把資源和投入過度集中到特定的方向上，還可能導致重大的挫折和浪費，日本80年代開始的第五代計算機計劃的失敗，就是典型的教訓。

記者：計算機的原理在未來有沒有可能發生根本性的變革？

段偉文：我們知道計算機的技術一直在不斷的進步，目前正在研發的比如量子計算機，在技術上是重大的突破，但從計算機原理的角度來說，還沒有什么重大變革，還沒有超越圖靈機的范疇。

原理上的變革，當然是可能的，但同時也是無法預見的。但凡科學上的革命性變化，都是這樣，發生之前誰也不知道，甚至無從預料。

記者：如果強人工智能是可能的，那么它有沒有可能成為不受人類控制的系統？

段偉文：如果有強人工智能的出現，那它實際上就已經不是完全受人類控制了。這是必然的，否則它就不是強人工智能了。強人工智能本身就要求它能夠自我學習、自我迭代、自主決策。自主決策，本身就意味著不依賴人的決策，所謂人的控制，首先就是決策由人掌握。一個自我演進的決策系統，必然不在人的控制之下。

事實上，即使是現在的計算機系統、網絡系統是完全為人所控制嗎？也不一定。這里需要思考的是人類和機器之間的關系。在未來的社會中，不僅有人這個主體，還有各種人工智能、自動機器這些準主體、亞主體，不管強人工智能來不來，我們都必須建立一種機制，能夠讓人和機器共同構成的行動者的網絡中，使整個過程能夠為人所控制，否則這個前景一定不是人類所希望看到的。

機器超過人其實并不新鮮，我們誰也跑不過汽車、火車，飛不過飛機，為什么在智能領域我們會覺得難以接受呢？因為智能涉及的是決策的問題。比如，未來如果無人駕駛比人類駕駛還要安全，那是不是人類駕駛會是不道德的呢？是不是機器應該成為人的監護者呢？在決策的鏈條中，哪些決策可以交給機器，哪些情境可以由機器主導，在人和機器的關系上，應該有怎樣的定位，這是值得思考的問題。

記者：關于人工智能，一個比較現實的擔憂是其對人類就業的影響，您如何看待？

段偉文：一般而言，重大的科技突破和新技術的應用，必然在社會的資源配置上尋求新的優化組合。由此，在短時間內，某些行業的勞動力可能被低成本的新技術替代而造成所謂的技術性失業；長期來看，則可能形成新的行業生態，帶來新的就業機會。但人工智能巨大的研發投入，很可能在短時間內使智能機器的效率迅速提升、成本迅速降低。一旦智能機器的成本低于人工成本，很可能帶來對人力大規模、快速的替代。

理論上，人工智能對就業的沖擊會被市場調節和社會適應機制逐漸消化。但實際上，由于未來人工智能的產業應用，在廣泛性和快速性上可能超過以往的技術革新，在特定歷史時期對眾多具體行業的就業影響可能更加復雜和嚴重。

首先，人工智能最有可能先在勞動力密集、技能要求低、勞動重復性較高、人力總成本大的行業實現低成本商業化。大量的服務業和低端制造業崗位可能首先被替代。比如快遞業和送餐業，最近京東和順豐對無人機的開發，很可能會影響到這些行業的普通從業人員。

其次，一旦人工智能出現突破性的發展，對就業的影響還會出倍增效應和甚至指數效應。人工智能可能會在一些行業帶來突發的、快速的、大規模與斷崖式的失業潮，這種情況一旦發生，就有可能造成大范圍的社會問題。

第三，人工智能還有可能對部分專業技術人員造成沖擊。大數據智能與跨媒體智能等合成智能與一些自動智能系統的結合應用，初步形成了替代部分知識型工作的趨勢。一些人工智能系統可以高效地完成特定的認知性工作，如數據比對、信息深度整理、知識洞察、現象識別等，一旦可以實現低成本商業化，勢必對金融、財務、保險、新聞、法律以及一般的秘書等行業和崗位帶來巨大沖擊。

記者：一直以來，人本身都是最重要的資源，但如果人工智能在就業和生產上對人形成了廣泛、大規模的替代，人似乎就會面對根本的價值困境，您如何看待？

段偉文：歷史上歷次科技革命和工業革命帶來的機器取代人、新產業汰換舊產業的沖擊，都通過一系列的創新，特別是教育與學習上的變革，轉化成了創造性破壞的效果。但一方面，這種基于歷史經驗的自信在邏輯上并不完備，不能肯定面對人工智能的挑戰人們依舊能自然地找到創造性應對的辦法；另一方面，即使最終找到應對之策，也不能不考慮嬗變過程中的沖突與無序，特別是受沖擊的特定群體為之所付出的代價。基于這種考慮，我們需要為智能化社會的到來做好系統的準備，教育與學習應該是這種準備的首要方面。

人工智能可能帶來的就業問題的復雜性和特殊性，首要的是機器的智能化使其具有了學習能力。智能機器在記憶、對象識別等領域，以及有明確規則的特定任務上，經常表現出比人更強的能力，讓人類自慚形穢。

如何面對這種挑戰，很多方面仍然是未知的，但在改造我們教育和學習方面的必要性是確定的。未來學家們的預見中始終隱含著一個可能是誤導性的預設，即以科技和機器的標準衡量人的價值和能力。從這一預設出發，教育和學習的首要目的不是為了人自身的創造性需求，而是去適應科技的發展。教育和學習以專業化和技能化為主導。

如何改造我們的教育和學習？當代教育與學習變革的首要目標不應再局限于單純的專業知識和專業技能的獲得，而要上升到使人作為智能化社會有價值的存在的層面。

在指導思想上，未來的教育與學習必須在首先實現視角的轉換，即從人類與科技分離和人與機器對立的二元視角轉向人類與科技融合和人機共生的系統協同視角。如果說未來社會將走向人類與機器人、智能自動系統等人工智能體共在的泛主體社會，那么人類應該擔當其中的主導者、創新者和決策者。這就對未來的教育與學習提出了新的總體目標：用教育和學習支撐人類在未來智能化泛主體社會中的認知力、創造力和領導力。

在教育與學習的核心內容上，重點不應再是具體的專業知識和專業技能，而是更加凸顯用于掌握專業知識與專業技能的核心素質和認知能力的培養。

在技術手段上，沒有太多懸念的是人工智能本身將用于教育和學習。但如何合理地使用人工智能作為教育的工具，需要有系統的研究。包括如何規避人工智能的局限性，以及如何通過人工智能使得教育更具包容性、減少人的發展的不平衡性等等。

在組織形式上，教育和學習的終身化趨勢日益顯現，未來繼續教育可能會成為主要的成人教育形式，還有可能會出現與實踐經驗累積，工作方式與生活方式的階段性選擇相契合的多段式高等教育。

智能化時代，可以預見：其一，大學將真正成為城市的中心，不僅會作為知識和文化的中心，還將擔當起城市的靈魂的角色，成為每個人免于被機器邊緣化的精神家園。其二，人類文明的未來命運取決于人類與科技融合、人機共生境遇下的文化創造力，其基礎則是通過教育和學習對人的價值賦予。