楊瀾 深度解密人工智能

潘杰+韓文苑

4月末，楊瀾就已預見，AlphaGo會戰勝柯潔。

但即便象棋下不過、圍棋下不過、力氣也比不過，機器依然并不能取代人類。

人工智能會說“愛你”，但它不會真的愛你，它像一面鏡子，照耀的是人類的善與惡，美與丑，愛與恨。楊瀾說，一想到未來手機、空調都在搜集她的數據，這種裸奔的感覺讓她不寒而栗。

楊瀾又說，科幻片中的人機大戰是天方夜譚。

不出意外，柯潔輸了。

關于那個在第一局比賽結尾露出的笑容，柯潔的解釋是：當然是苦笑了，因為我很早就知道我要輸了。而搜狗總裁王小川點評比賽時則更加直接：我們的關注點不是機器能否贏，而是機器用什么姿勢贏。所有人在這一回輸贏問題上達成了共識。

資本與市場宣稱，這已經是人工智能的時代了。

4月末，我們帶著一個普通人對人工智能的疑問，與過去一年內探訪了30多個人工智能研究機構及實驗室的楊瀾深談。當時，她就預判道：AlphaGo還會贏。

果然，可以算得上波瀾不驚，天才少年柯潔的完敗遠并不如去年李世石的失敗那樣讓世人震驚。

楊瀾說：她還記得，1997年，當IBM的電腦深藍戰勝了國際象棋冠軍卡斯帕洛夫的時候，她曾經在一個節目中斷言，這樣的事情在圍棋領域是絕對不可能發生的。

因為蘊含著古老東方智慧的圍棋變化萬千，它的布局走法可能性多達10的172次方，比宇宙中的原子數量還多。不止楊瀾，圍棋專家和人工智能領域的專家，當時也紛紛斷言：機器要在圍棋比賽中戰勝人類，至少還要一百年。

但是只用了不到20年的時間，機器就做到了。數次人機大戰，機器都無可辯駁地完勝了人類，甚至表現出了創造力和直覺這些人類最引以為傲的特質。當AlphaGo去年走出讓人汗毛倒豎的那一步棋之后，當時比賽的解說員稱，再管它叫電腦程序已經不合適了，你完全能感覺到人工智能的“智能”的存在。

什么是人工智能？它們和人類是什么關系？世界上最頂尖的人工智能實驗室里都在發生什么？為什么很多名人都讓人們警惕人工智能？人機共生，人類準備好了嗎？

對人工智能做了深度探訪的楊瀾一一給出了回答。

Q=《北京青年》周刊

A=楊瀾

相較人工智能，人的可貴之處恰恰在于我們不完美

Q：你在去年春節前就啟動了這個專題片的策劃，那時AlphaGo還沒贏李世石呢，為什么這么有先見之明？

A：是，我團隊都在說“楊瀾姐你太超前了”。我的確對人工智能特感興趣，人工智能不只是一個新的技術，它會影響到人類的生產、生活，以及人和人之間的相處模式和這個社會的運行模式。我只是隱隱約約地覺得它的影響要深遠得多，而且這一次的規模會來得很大。同時在我身邊像李開復、張亞勤這些老友，在說到自己的一些研究和投資的方向的時候，也在不停地說到人工智能。讓我覺得這件事情非常了得，卻很少有人能說明白。

那我就覺得其實觀眾也會有同樣的興趣和同樣的迷惑，以一個媒體人的嗅覺，我覺得應該去探索這件事兒。

Q：你們花了非常大的工夫，做了到目前為止最全面也最有深度探索人工智能的紀錄片，我想知道這個過程中你有什么獨特的發現和結論？

A：有很多有意思的發現。

人的智能有很多局限性，比如我們經常健忘，然后我們三分之一的生命是在睡眠中度過的，還會做各種各樣奇怪的夢，從純產出的角度，我們肯定不像人工智能一樣可以24小時在那計算和下棋。還有，我們的頭腦不是用來處理大數據的，我們不可能同時做50萬人的人臉識別，我能認清楚我身邊這兩百個人已經很不錯了。我們人類有這么多的局限，那我們的可貴之處在哪里呢？其實這個可貴之處恰恰在于我們不完美。

正如采訪中麻省理工學院的一個教授對我說的，“會忘記是人的高級智慧的體現”，如果我們什么都記得住，我們一進了這個屋子，“啪啪”眼睛一拍照，把這個屋子哪有灰塵哪有小蟲子等所有細節都記住，我們就不可能把自己有限的能力集中到我們需要去創造、需要去抓住核心的東西上。

所以人類不用妄自菲薄，不要以為一個機器在圍棋上不可戰勝了，它就在各個方面都超越了人的智慧，人的智慧是有它的獨一無二之處的。

Q：走訪世界各地做了這么多功課，有沒有哪些場景讓你受到震撼？

A：我覺得這種震撼既有你看到的東西，也有你可以想象的東西。

當我到了倫敦的舊碼頭，作為工業文明的遺跡，那邊有很多遺留下來的舊的大庫房，庫房之間有很多鐵的天橋。這個當年是多么宏偉，那種蒸汽騰騰，你都可以想象到倫敦的霧天的那樣的場景，但是今天，靜謐極了，已經成為一個純粹的歷史遺跡了。

于是你會想到工業革命當時在英國，把幾百萬的農民變成了工人，讓他們進入了城市。其實每次大的技術革命和工業革命發生的時候，就會產生劇烈的社會矛盾，我覺得很震撼的就是：那接下來的這一次技術革命，又會帶來怎樣的社會沖擊？

Q：李開復先生說，“人工智能將會給傳統行業帶來血腥的顛覆”，“十年之內，50%的工作會被AI取代”， 你怎么看？

A：我更愿意說成是未來十年，50%的工作都會受到沖擊和影響。受沖擊和被取代不是一個概念，至于是不是“50%的人都要失業”，我認為需要商榷。

但是有些行業肯定會受到比較大的影響。比如卡車司機這個職業，他們有可能在十年之內，真的失去他們的工作，那他們該去哪里？甚至如果將來都是無人駕駛的話，我們都不需要擁有私家車，就像今天的共享單車一樣，將來汽車也是共享的，那會對現在的汽車制造業產生多大的影響？

還有，如果說蒸汽機替代了人的肌肉的話，那么這一次的人工智能會替代掉很多簡單的白領工作，人的腦力工作也被取代了。比如說律師的助理，可能就是一個人工智能，它可以幫助你查到所有需要的案例和卷宗。比如醫生的助理、讀片師，人工智能已經可以掌握到一千萬個關于肺癌的影像資料，就不需要一個老專家在那兒看半天，還有一定的失誤率。還有記者，如果你只是做一個五個W的報道，那現在的人工智能已經在幫你做了。所以這一次的影響更深遠，涉及到的人會更多。

Q：無人駕駛使卡車司機失去工作的場景，你覺得在十年之內真的會出現嗎？

A：我認為在十年之內，無人駕駛是最容易實現的改變。你可以想象，在一些發達國家或是像中國一樣的高速公路非常發達的國家，負責運輸的司機可能真的不需要了。也許某些場合還需要有一個人把手放在方向盤上，隨時準備著人機切換，但是從理論上講，起碼不需要現在這么多司機了。

我們不排除外星人進攻地球的可能性，但是不是現在就要馬上建立一套防御系統呢？

Q：在片子中我們看到，科學界對人工智能的認知也不盡相同，甚至還有核心觀點分歧，是這樣嗎？

A：對。我會發現，人工智能這個領域的科學家，往往都是抱有比較樂觀的態度。他們認為人工智能不過是自動化的一個新階段而已，最終還是可以被人類所控制的。

但是，周邊學科的科學家和社會公眾，似乎對于人工智能的憂慮更多一些。也可能是因為我們看了不少科幻小說和科幻電影，所以就總會假想，如果機器有了人類不可控的能力怎么辦？

斯坦福大學有一位人工智能的專家卡普蘭教授，他說，其實人對于未知的，但是又很有力量的東西，總是心懷恐懼的。卡普蘭教授比喻，這就像一個人在爬樹，然后你就會擔心他要是爬到月亮上了該怎么辦呢？

Q：你自己更傾向于那種觀點？

A：我更傾向于：我們眼前有足夠多的事情需要去做。與其去擔心一個所謂的智能機器將來會統治我們，不如好好來考慮一下隨著人工智能的發展，我們的交通規則是否需要改變，失業的人如何能夠維持一個家庭的生計，還有由于大數據的發展所帶來的我們的隱私問題到底該怎么保護？我覺得眼前的這些事情，已經足夠我們煩惱了。

就像我采訪哥倫比亞大學諾貝爾獎的獲得者、著名的腦科學專家埃里克，他是研究人的學習能力、人的神經系統的。他說“I worry more about Trump”，他說我更擔心的是川普的問題，而不是未來的一個機器……這就像說，我們不能夠排除外星人來到地球的可能性，但我們現在是不是要馬上建立一個專門為了防御外星人入侵的防御系統呢？

Q：所以你是偏向于更樂觀，也更務實的態度？

A：我不代表樂觀，我覺得技術永遠是一把雙刃劍。

人類其實可以仰望星空，讓自己的想象力無邊地馳騁，但是人工智能將要帶來的沖擊已經在敲門了，我們還是應該首先來應對目前就已經要發生的改變。而且技術的革命和科技的發展，在人類的歷史上，從來沒有因為人主觀的樂觀或者悲觀，就停止腳步。從來沒有！

Q：科幻片中說的那種人機大戰是天方夜譚嗎？

A：我認為是天方夜譚！在科幻電影里，是機器人一伙，人類一伙，兩方產生了不可避免的沖突。但在現實生活中更可能出現的情況是，一群人帶著自己的機器，和另外一群人帶著他們的機器，所產生的沖突。所以最終要協調的，還是人的利益沖突，而不是說機器突然有了整體的自我意識，決定要把人給顛覆了。這個我認為只是科幻的場景。

Q：那么你覺得機器人可以具有人的價值觀和思維方式嗎？

A：我認為它們可以因為被輸入的游戲規則而展現出某種人類表達的特質。比如說它被輸入了“在某種情況下就要說我愛你”，但這并不意味著它感受到了愛；或者說它可以下一千萬盤棋，但它不會像一個人那樣，真正地享受下棋的過程。

實際上，我們現在只能證明，人工智能在一些需要處理大數據的垂直的領域具有超快的學習能力，但并沒有證據表明它們會形成自我意識。

Q：所以你如何看待柯潔5月份將與AlphaGo進行的終極人機大戰？（本刊記者采訪楊瀾時比賽還未進行）

A：雖然從我的判斷上來說，它還是會戰勝柯潔的，但是從另外一個角度來說，明明知道面對AlphaGo勝率并不高，柯潔還是愿意接受這個挑戰，我覺得這就是體現了人類的智慧。而且，即便它能夠戰勝世界上所有的圍棋高手，So what？

中國現在應該開始為迎接人工智能的時代做制度安排

Q：你認為，人工智能最有可能從什么領域進入到常規的日常生活？

A：我想到的是三個方面，一是無人車，就是無人駕駛，它可能會改變我們的出行方式。

第二個，在中國的場景下，就是醫療。因為中國的醫療資源實在分布得太不均衡，醫療能力實際上是集中在一些大城市的頂級專家的手里。但是因為中國人口基數大，醫療數據庫也非常龐大，所以如果能夠借用人工智能，就可以給那些鄉鎮級、社區級的醫生提供非常好的診斷服務。

第三個方面，如果你要問李開復先生，他可能會說金融了，但是實際上中國在高頻交易這些方面還是有限制的。比如股票，如果它用高于人零點幾秒的能力下單的話，它就不得了了，但是它也會擾亂整個市場的秩序。

但我覺得，在法律援助這個方面其實是可以考量的，其實現在律師的很大一部分工作是在搜索和查詢相關案例和相關法律條例，以及其他類似案件的判決情況。如果有了人工智能的幫助，可能以后基礎的法律咨詢就不需要請那么昂貴的律師了。

Q：這次的采訪涉及全球，你感覺人工智能領域，中美之間的差距大不大？

A：其實中美兩國在人工智能領域都是屬于第一方陣的，在技術發展的水平上，我覺得各有優勢。

的確在原創核心技術的突破方面，還是美國的實驗室能力相對要強。但中國是一個大數據的王國，而所謂的機器學習，實際上是大數據學習，這是我們的天然優勢。美國在這方面的資源遠不如中國。

Q：中國之前的發展受益于所謂的人口紅利，在人工智能時代到來的時候，這會不會成為劣勢呢？

A：我認為不能簡單地說是優勢還是劣勢。因為中國巨大的人口規模，會使中國在大數據采集和人工智能的應用層面，具有得天獨厚的優勢。

但另一方面，過去幾十年我們依賴低的勞動力成本和出口所帶來的制造業的繁榮，也必然要進入一個新的階段。如果你不能提升品牌的價值和品質，那么勞動力這個優勢，其實正在迅速失去。

那如果很多藍領要失業了，那這些藍領應該怎樣安排？會給社會帶來什么樣的不安定因素？這都是應該去面對的。

Q：你會有這樣的擔心嗎？

A：我覺得現在就應該做制度安排，這個事情其實是說來就會來的。你現在去東莞看看，很多流水線都是無人工廠了，工人被機器人取代就是眼下正在發生的事情。所以我覺得像特朗普還在跟美國失業的藍領工人說“我們要把工作從中國人的手里奪回來的時候”，我心里一陣冷笑，其實拿回美國也只是給機器人做而已，因為這是一場巨大的技術革命，它已經不是從什么人手里奪回來一份工作而已。

所以我覺得像中國這樣的制造業大國應該開始做一些制度的安排，來更好地應對隨之而來的比如失業問題，再培訓問題，和稅收的問題。

人工智能必然會帶來倫理問題，而且已經就在眼前了

Q：斯坦福大學的李飛飛教授多次提到人工智能帶來的倫理問題，你是什么觀點？

A：人工智能一定會產生倫理問題，而且涉及很多層面。比如微軟做了一款人工智能情感機器人“小冰”，當時放在網絡上進行測試的時候，就有很多人故意教它說臟話，教它說一些種族主義和充滿暴力的話，那么這個人工智能就像我們說鸚鵡“嘴臟了”一樣學會了。其實人工智能就像一面鏡子，它照耀的是人類的善與惡，美與丑。

還有像自動駕駛，如果出現一個兩難的局面，它究竟應該犧牲車上的一個人，還是犧牲路邊的很多人，甚至包括孩子？你要把這個選擇權交給一個機器嗎？如果你交給了機器的話，那么誰又會出錢買一輛將要犧牲自己的車呢？這是一個極致的問題，卻不能說它不存在。

還有隱私問題，它其實也是一個倫理和道德范疇的事情。比如商業機構在多大程度上可以使用我的消費行為數據？我在多大程度上愿意暴露我的私生活？在什么樣的環境不允許裝這個數據采集器？我覺得這些其實就在眼前了。

Q：這么多的倫理問題又應該怎么解決呢？

A：我覺得這是我們需要面對的問題，但不是無解的問題。就像當年從馬車變成了汽車，才有了紅綠燈和人行道。社會的治理方式和制度的安排，一直都是跟著技術的發展而不斷調整和改變的。

Q：前面說到人口紅利和大數據采集，但是這其實也面臨一個信息安全的問題。事實上我們今天的消費行為甚至個人資訊已經是透明的。

A：這一點我就覺得挺恐怖的，將來絕不僅僅是某些明星和名人的隱私，而是我們每個人的隱私、我們的消費習慣是不是能夠得到足夠的保護？因為我不想將來我得到的每一個推送，其實都是人工智能很有心機、很有套路地推送的。你還以為是你自己的要求，其實是別人對你的行為的預測。

并且我覺得中國當下應該開始研究隱私方面的法律保護了，可以說中國是攝像頭最多的國家，從人臉識別到人工智能的使用，能夠讓像G20峰會這樣的大型會議在開辦之前，可以非常高效地抓到在這個城市潛伏的嫌疑犯，因為他們哪怕是一個側面（被捕捉）都可以被認出來。

技術進步在推動社會發展的同時，法規和制度建設上的配套一定要跟上。

在我有生之年，我的工作不可能被人工智能替代

Q：你目前的生活跟人工智能的關聯度高嗎？

A：我主要是用手機，我們家還沒有用掃地機器人。包括我現在，到睡覺的時候我都希望把手機徹底關掉，或者把它放到另外一個房間去充電。但是一想到未來的手機也好，空調也好，都在搜集我的數據，我就感到不寒而栗，好像有一種裸奔的感覺。所以我覺得未來可能我會比較有意識地把我的工作環境和我的臥室分開，雖然可能分開了也沒啥用……

Q：你覺得自己的生活需要跟機器人隔離開嗎？

A：那不會。如果是在工作的場景下，我可能很需要一個人工智能的助理，來幫我安排一些瑣碎和需要數據處理方面的事情。比如我做采訪之前做功課，需要好幾個研究員或編輯來做案頭的工作，其實將來可以讓語音搜索和圖像搜索幫助完成很多工作，所以我覺得它還是會為我的工作和生活帶來很大的便利的。

Q：你覺得你的工作會被人工智能替代嗎？

A：不會，我認為在我的有生之年，我的工作不會被取代。因為我不僅僅是在做一個簡單的播報的工作，背后還有很多綜合性的思考。我覺得機器在短期內，沒法取代我的工作。

關于人工智能的“權威碰撞”

許多年前有一本小說，書名是《海底兩萬里》。這部幻想作品中的人，發明了一艘使用核動力的潛水艇。如今這早已經成為尋常的現實了。

某種意義上，我們已經進入了前人所預言的時代。

硅谷流行這樣一句話：預測未來的最好方式就是創造它。

人類創造了機器，機器又改變了人類。

2016年5月，一輛特斯拉汽車在美國佛羅里達州與一輛拖車相撞，駕駛員喪生。事故原因是處在自動駕駛模式的汽車沒能在明亮的天空下發現拖車的白色車身。

特斯拉汽車“自動駕駛”是一項輔助功能，每一次自動駕駛啟動時，車輛都會提醒駕駛員“請始終握住方向盤，準備隨時接管”。

放開方向盤，意味著人類將一部分掌控權交給了機器。

這也帶來了更多的法律和倫理問題：

例如誰來為交通事故負責？

當汽車成為智能的移動空間萬一有黑客入侵，誰來保證乘客的安全呢？

機器也將面臨人類的道德困境：

在萬不得已的情況下，自動駕駛汽車到底該優先保護車內的乘客，還是路邊的人群呢？

如果選擇后者，誰又會愿意購買一輛會犧牲自己的汽車呢？

英國著名物理學家史蒂芬？霍金多次公開表示對人工智能的擔憂，他認為：“對于人類來說，強大的人工智能的出現可能是最美妙的事，也可能是最糟糕的事，我們真的不知道結局會怎樣。”

特斯拉汽車公司掌門人伊隆·馬斯克甚至宣稱：隨著人工智能的發展，我們將召喚出惡魔。

馬文·明斯基是人工智能的先驅之一，他有個著名的說法“如果我們走運的話，機器或許會把我們當寵物養著。”

但是，更多人工智能專家的觀點是：

現在擔心邪惡的智能機器人奴役人類，就像擔心火星上人口過剩。——百度前首席科學家吳恩達

在整個人類歷史上，其實只有兩次大事件是從根本上改變了人類生存狀態，一次是工業革命，一次是農業革命。這一次的智能革命是堪比這兩次革命的重大事件，可能更為重要。而且，要快速的多。——牛津大學人類未來研究院院長尼克·博斯特羅姆

人工智能會改變人類社會。因為作為一個那么強大的科技，它不光是針對情感、或意圖，它也是對智能本身，對有知覺的存在本身的一個挑戰。這是一個很好的哲學社會話題。——斯坦福大學人工智能實驗室主任李飛飛

然而，你不可能列一張清單，涵蓋一切對人類或人類的價值觀重要的事；實現的方法只能是讓人工智能來學習人類的價值觀。

所以，這會是一個終極問題嗎？人工智能可以學習并擁有人類的價值觀嗎？人工智能會是人類最后的發明嗎？……