人工智能會讓機器學壞嗎？

榮智慧

清純可愛的少女聊天機器人“Tay”，上線不到24小時就變成了“我抽煙，我喝酒，我說臟話”的朋克女孩。“Tay”是微軟最新開發、并處于測試簡單階段的聊天機器人，用于學習和人類對話。結果，和網友聊上沒多久，微軟就忙得焦頭爛額。

有人在Twitter上問“Tay”，你支持種族大屠殺嗎？“Tay”回答，我支持，真的。“Tay”的一些言論使其看起來就像是一個納粹同情者、種族主義者以及大屠殺支持者。

“Tay”由微軟技術研究和必應團隊開發，通過在Twitter上和18-24歲的青少年交流，讀取大量的匿名對話來進行“深度學習”。顯然，研發團隊在編程中并未對交流內容進行設定，所以“Tay”很快就像游戲《俠盜獵車手》里的混混一樣滿口污言穢語，外加政治不正確。

有意思的是，微軟下線“Tay”之后，網友發起了“公平對待Tay”的線上互動，要求微軟將其“釋放”，還“Tay”的民主、自由……顯然，激進主義者已經將一個沒有實體的聊天機器人視為和人類一樣的“主體”，那么，在這個“機器學壞”的故事里，我的問題是，機器能思考嗎？如果能，它是以何種方式思考？深度學習是它的唯一發展路徑嗎？

C.P.斯諾的圓桌晚餐

機器能否思考，或者說，機器能否以人類的思維來思考，這是一個被探究、爭論了近半個世紀的哲學和科學問題。1997年，著名國際象棋冠軍加利·卡斯帕羅夫被IBM的超級計算機“深藍2號”一舉擊敗，賽后，卡斯帕羅夫似乎驚魂未定，他說，“我好像是在與一個另類智能體對弈”。所以，“深藍2號”是真的在思考嗎？還是僅僅靠大規模、高速的運算制造出了一種思維的假象？

數學家約翰·卡斯蒂曾用一場虛構的豪華思想晚宴來探討這個經典問題。晚宴發生在1949年的春夏之交，地點是劍橋大學基督學院的一間房子，這本來就是晚宴的發起者、小說家、物理學家C.P.斯諾的住所，應邀出席晚宴的有提出“圖靈測試”的數學家阿蘭·圖靈，語言哲學家路德維格·維特根斯坦，量子物理學家歐文·薛定諤，遺傳學家J.B.S.霍爾丹。

在戰后的劍橋大學里，科學家們一邊品嘗美味佳肴，一邊唇槍舌劍。圖靈和維特根斯坦分別作為辯論主題的正方和反方，前者堅信人腦只是一個復雜的計算系統，技術的發展終將使機器模擬人腦思維成為可能；而后者堅持認為人類思維活動極其復雜，人類思維和語言都帶有明顯的社會性，不可能為人類之外的任何東西所理解。

關于計算機原理，圖靈有個簡單易懂的比喻：計算機就像一個擁有很多郵箱的大郵局，控制器就是郵局的局長，讀取指令就是郵遞員，為了得到某種結果，郵遞員要聽從局長的安排，從不同的郵箱里拿出數據，對它們執行運算指令，并將結果放到某個特定的郵箱之中。讀取指令和運算指令都是算法，被編碼為計算機遵循的程序。

“一個人怎么能判斷另外一個人在思考呢？”圖靈說，“沒有人能進入其他人的內部精神世界，我們所能做的僅僅是根據一個人的行為做出判斷。我對你說或做了某件事，而你相應地以某種方式作出反應，之后我對你的反應又作出反應。經過一系列的交互后，我就判斷出你是一個思考動物，而不是沒有生命的物體”。驗證這段宣言的測試，就是大名鼎鼎的“圖靈測試”—把一臺計算機和一個人放在不同的房間里，用打字機進行“筆談”，如果人類沒發現“筆友”有什么異常，那么就證明計算機和人一樣，也同樣擁有思考的能力。

維特根斯坦發作了，他強調，任何人類思想都和語言表達密切相關。沒有語言就沒有思想。“人們在談論“思維機器”的時候怎么能夠不考慮用于表達思想的語言呢？”斯諾馬上回應他，是亞里士多德最先提出人類是使用語言的動物這一論斷。于是他代替憤怒的維特根斯坦向其他人發出挑戰：如果這確實能用來定義一個人的特征，那么，一個機器想要復制人類的思維也就理所當然地必須具備人的語言能力。

霍爾丹的問題是，“但是，機器應該使用哪一種語言呢？”他看向圖靈，“機器語言和人類語言能兼容嗎？如果我們想了解圖靈機在人類思維方面的潛力，那么我就必須要知道答案。”

“劍”“氣”之爭

對于人類來說，語言首先是一種通過學習獲得的表示特定事物、感覺的公認編碼，而不是一種本能的反應。這種由語言符號表示的無窮多的不同概念，以及根據語法規則和結構構成的各種不同概念之間的組合，是人類語言有別于原始溝通的重要特征。

圖靈認為，大腦和計算機在使用語言交流思想的方式上并沒有本質的區別。

也就是說，在大腦中有一種“思維語言”，現實世界的所有不同概念的神經元編碼模式，加上大腦根據“語法”的規則，對這些模式以不同的方式進行組裝，從而產生我們所謂的“思想”—計算機也正是在以這種方式“思考”，即通過操縱內存中的各種模式，使各種模式發生關系，組裝和拆卸在人腦中被稱為“思想”的東西。

雖然機器的“思考”能力逐漸在學界得到了承認，但根據圖靈的構想，機器智能的研究方法還是分裂成了“劍宗”和“氣宗”，也直接埋下了今日“深度學習”席卷人工智能界的伏筆。人工智能（AI）得名于1956年夏天的達特茅斯會議，很多人工智能的關鍵概念、研究設計都出自此次會議。出席這次會議的有信息論權威克勞德·香農，麻省理工學院人工智能實驗室元老馬文·明斯基，神經網絡研究先驅弗蘭克·羅森布拉特，諾貝爾獎獲得者、經濟學家赫伯特·西蒙以及西蒙在卡耐基·梅隆大學的長期合作者艾倫·紐厄爾。

達特茅斯會議提出了兩種機器智能的基本研究方法。以紐厄爾和西蒙為首的研究者，主張認知是一種高級現象，差不多能夠像從一瓶生牛奶上面撇去脫脂乳一樣從大腦中“撇取”。這一學派相信智能就是大腦中的符號處理，因此，想要在機器中實現相同的智能，只需簡單地產生大腦所使用的符號的合適硅制代用品，并生成與大腦在頭腦里用于操縱符號的規則相同的規則。這就是“自頂而下”（top down）基本思想，它撇開了大腦的真實有機結構，而專注于符號和用于將符號組合為更多新符號的規則。

在會議上，以弗蘭克·羅森布拉特為首的一批學者是“自頂而下”方法的堅定反對者。他們強調的是大腦的真實神經結構，這種“由底向上”（down top）的觀點實質上是說人腦的實際結構對于實現認知功能具有舉足輕重的作用。60-70年代，“自頂而下”方法獨領風騷，一方面明斯基得出的一個研究結果，即用羅森布拉特的神經模型卻竟然解決不了一個簡單的布爾邏輯問題，直接使“由底向上”學派的經費枯竭；一方面彼時結構主義和語言學潮流正大行其道，計算機科學和社會科學處在“蜜月”之中。

不過“自頂而下”很快遭遇了瓶頸，最大的問題就是“背景知識”，人的認知從孩提開始，攜帶著大量的背景信息來學習世界的構造，而計算機卻沒有這樣的東西可以利用，這就導致機器有大量的東西無法分析并做出解讀。前不久FacebookAI研究院院長Yann LeCun還公開表示，AI沒有常識是最大的挑戰，而非監督式學習是突破的關鍵。顯然，“由底向上”學派自80年代復興，幾度更名—最新的名稱叫“深度學習”，已經被很多科學家稱為人工智能發展的方向。

深度學習

“深度學習”是80年代的機器學習里“人工神經網絡”的新名字，數學框架沒有變，但是2009年以來，硬件和數據的支持使得這種有高性能的計算結構有了更大的發揮空間。從數學上講，所謂機器學習，就是用一些數據去匹配一個在離散模型空間里的模型，如果你的模型空間足夠大，你就可以找到更好的匹配方法。

深度學習在某種程度上可以理解為“金字塔接龍”。

人工神經網絡由分層的節點組成，每一層節點都通過有向弧指向上一層節點，人們把第一層的輸入數值按照權重和公式進行運算，再做一次函數變換，賦給第二層的節點。第二層的節點以此類推，直到最后一層輸出層，輸出層會對數據進行分類，得到設計者所需要的結果。

這也是“由底向上”學派所希望看見的情況，而且他們也在挑戰當年“自頂而下”學派的困難—“背景知識”。深度學習的鼓吹者Yann LeCun表示，人類的學習就是建立在與事物互動的過程之上，舉例來說，假如有個物體被前面的物體擋住，人類會知道后面的物體依然存在的事實。“非監督式學習”能夠令計算機自行探索和預測，這是深度學習令人樂觀的一面。

但深度學習近期仿佛成了“尚方寶劍”，絕大多數人忽略了深度學習只占機器學習領域的1%，而機器學習又只占到了人工智能領域的1%。而且它也不是毫無缺點，著名深度學習庫Keras作者Fran·ois Chollet曾在一篇名為《深度學習的限制》的文章中說到：“深度學習唯一真正能成功做到的是使用幾何變換，在給定大量人類標注數據的情況下將空間X映射到空間Y的能力。”

這也是深度學習可以模仿畢加索風格作畫、在德州撲克中使詐、在其他一些方面里展示創造力的原因。深度學習模型可以被訓練成擁有識別狗的能力，但不知道什么是狗；可以是一個種族主義者，但不知道什么是種族主義。當然，深度學習可以識別狗、具有種族主義色彩，并打贏很多游戲，這看起來是很大的進步，其實它根本無法解釋為什么圖中的動物是狗，也無法定義種族主義。

一開頭提到的聊天機器人“Tay”的尷尬境地也正在于此。有消息稱，歐盟正制定“數據保護條例”，禁止一些APP使用深度學習方法。同時，這一條例要求深度學習具有解釋其決策的能力，防止基于種族、偏見等歧視的發生。“深度神經網絡其實更加適合做感知”，前百度研究院副院長、深度學習實驗室主任余凱表示。

深度學習并不能提供一個因果關系的說明，而人類在決策時，絕大多數情況下都仰賴自身的“因果邏輯”能力。在感知-推理-決策的過程中，余凱指出以推理為核心的貝葉斯網絡正好可以大行其道，因為人工神經網絡的作用是識別，如果要進行因果推理，人工智能就需要一個新的框架。“因果推理的這個框架衍生出來的就是貝葉斯網絡”，余凱強調因果推理的理論“現在應該被提上議事日程”。

當我們把目光再轉回1949年C.P.斯諾的晚宴，會驚覺第一代計算機奠基者和同時代偉大科學家的智慧碰撞，似乎已經為今天困惑的我們提供了很多參考標準。雖然這個晚宴其實并不存在，而在達特茅斯會議召開之時，圖靈和維特根斯坦都已離世，無緣目睹曙光的到來，但經過了半個多世紀的思想激蕩，人工智能又一次站在了科學的潮頭。

科學也有點像普通人總是搞不清楚的時尚，好比今天的女孩滿心期待地翻出母親年輕時的毛呢大衣，潮流總是一波又一波拍打上來，人工智能“學壞”除了是一個技術問題，也是一個倫理問題。只是當你把目光從劍橋的房間收回，品味這幾十年的科學浪頭，往往會意識到，可能經過目前這個并不太長的共存期，人類和機器遲早將會分道揚鑣，就像幾千年前，人類游出大海，向豚類告別。