為何技術會促成專制

編譯 魏劉偉

對被邊緣化日益加深的恐懼

民主并非是必要的。由于民主國家在過去一個世紀或更長時間里取得了很大的成功，因此它們成為歷史上的亮點。然而，君主制、寡頭制和其他形式的威權統治是更為普遍的人類治理模式。

自由民主的出現與自由和平等的理想聯系在一起，這些理想似乎是不言自明和不可逆轉的。但這些理想遠比我們認為的脆弱。它們在20世紀的成功取決于獨特的技術條件，而這種技術條件有可能是暫時性的。

在21世紀的第2個10年，自由主義開始聲名狼藉。關于自由民主服務中產階級的能力的問題逐漸凸顯；政治變得越來越種族化；在越來越多的國家中，領導人都開始表現出對群眾煽動和專制的偏好。這種政治轉變的原因是復雜的，但它們似乎與當前的技術發展交織在一起。支持民主的技術正在發生變化，隨著人工智能的發展，民主可能會發生進一步的變化。

信息技術繼續突飛猛進；生物技術正開始為我們的內在生活（我們的情感、思想和選擇）提供窗口。信息技術和生物技術將共同在人類社會中造成前所未有的動蕩，侵蝕人類機構并可能顛覆人類的欲望。在這種情勢下，自由民主和自由市場經濟可能會成為過去時。

普通人可能不了解人工智能和生物技術的任何細節，但他們能感覺到未來的趨勢。在1938年，蘇聯、德國或美國的普通男人的處境可能比較嚴峻，但他們經常被告知自己是世界上最重要的事物，他們是未來。當他們看宣傳海報時（這些海報通常描繪了煤礦工人和鋼鐵工人的英雄姿態），會發現自己就在其中：“我就在那張海報里！我是未來的英雄！”

在2018年，普通人感到自己越來越無關緊要。在TED演講、政府智庫和高科技會議中，人們興奮傳播許多神秘的術語（全球化、區塊鏈、基因工程、人工智能、機器學習），普通人無論男女，都會認為這些術語與他們無關。

在20世紀，民眾反對剝削，并尋求將他們在經濟中的重要作用轉化為政治權力。而現在，民眾擔心自己被邊緣化，他們瘋狂地想在為時已晚之前使用剩余的政治權力。2016年，特朗普和英國退歐得到了許多人的支持，他們仍然享有政治權力，但擔心自己正在失去經濟價值。也許在21世紀，民粹主義的反叛將不是針對剝削人民的經濟精英，而是針對不再需要他們的經濟精英。

信息技術和生物技術革命仍處于初級階段，它們對當前的自由主義危機究竟要負多大的責任，這值得商榷。伯明翰、伊斯坦布爾、圣彼得堡和孟買的大多數人只是模糊地意識到人工智能的興起及其對他們生活的潛在影響。然而，毫無疑問，技術革命正在加速發展，在今后幾十年中，人類將面臨迄今所遇到的最嚴峻考驗。

一個新的無用階級？

讓我們從就業和收入開始討論，因為不管自由民主在哲學上有多大的吸引力，它的力量在很大程度上都得益于一個實際優勢：在政治學和經濟學中，自由主義的特點是分散決策，這使得自由民主國家能夠勝過其他國家，并為人民帶來越來越多的財富。

自由主義向每個人承諾分得更大的蛋糕，從而使無產階級與資產階級、有信仰者與無神論者、土著與移民、歐洲人與亞洲人和解。如果存在一個不斷增長的蛋糕，上述的和解是可能達到的。而且這個蛋糕很可能還會繼續增長。然而，經濟增長可能無法解決目前因顛覆性技術而產生的社會問題，因為這種增長越來越依賴于更具顛覆性的技術的發明。

當然，對于機器將人們趕出就業市場的恐懼并不新鮮。然而在過去，這種擔心被證明是沒有根據的。但是人工智能不同于舊機器。在過去，機器與人類所競爭的主要是手工技能。現在人工智能開始在認知技能上與我們競爭。

至少在未來幾十年中，人類的智能在許多領域可能仍遠超計算機智能。因此，隨著計算機取代越來越多的日常認知工作，人類新的創造性工作將繼續涌現。這些新工作中有許多可能會依賴于合作，而不是人類與人工智能之間的競爭。人類-人工智能團隊可能不僅會比人類更優越，而且還會比獨立工作的計算機更優越。

然而，大多數新工作可能需要高水平的專業知識和聰明才智，因此可能無法解決非熟練工人的失業問題或只能以極低工資就業的工人問題。此外，隨著人工智能的不斷進步，甚至那些需要高智商和高創造力的工作也可能逐漸消失。國際象棋世界就是例子，能夠說明這種可能的趨勢。在IBM的計算機“深藍”于1997年擊敗加里·卡斯帕羅夫（Garry Kasparov）的幾年后，人類棋手仍在蓬勃發展；人工智能被用來訓練人類神童，由人和計算機組成的團隊證明比單純的電腦更加優越。

然而近年來，計算機已經變得如此擅長下棋，以至于他們的人類合作者已經失去了價值，可能很快就會變得完全無關緊要。2017年12月6日，谷歌的AlphaZero項目擊敗了Stockfis 8項目，從而達到了另一個重要的里程碑。Stockfish 8在2016年贏得了世界電腦國際象棋錦標賽的冠軍，它可以接觸到幾百年來人類所積累的國際象棋經驗和幾十年的計算機經驗。相比之下，AlphaZero并沒有被其人類創造者教授過任何象棋策略，甚至連標準的開局都沒有教過。相反，它使用最新的機器學習原理自學國際象棋。盡管如此，在新手AlphaZero對陣Stockfish 8的100場比賽中，AlphaZero贏了28場，打平了72場，一次都沒有輸。由于AlphaZero沒有從任何人類身上學習，它的許多勝手和策略在人類看來似乎都是非常規的。這些策略即使不是真正的圣手，也是極具創造性。

你能猜出AlphaZero花了多長時間完成如下的工作嗎？從頭開始學習國際象棋，準備與Stockfish8的比賽，培養自己的天才本能。答案是4個小時。幾個世紀以來，國際象棋被認為是人類智慧的最高榮耀之一。AlphaZero在沒有任何人類的幫助下，在4個小時內從完全無知達到了創造性的掌握。

AlphaZero并不是唯一具有想象力的軟件。在如今的國際象棋比賽中，抓作弊者的方法之一就是監控玩家展示的創意水平。如果他們下了一步特別有創意的棋，評委通常會懷疑這不是人類的下法，而一定是電腦的下法。至少在國際象棋中，創造力已經被認為是計算機而非人類的標志！今天人類-人工智能團隊在國際象棋中正在發生的事情，未來可能會延伸到警務、醫學、銀行業和許多其他領域。

更重要的是，人工智能擁有獨特的非人能力，這使得人工智能和人類工作者之間的區別不僅僅是程度上的差異。人工智能所具有的兩種特別重要的非人能力是連通性和可更新性。

例如，許多司機不熟悉他們所行駛道路上不斷變化的交通規則，而且他們經常違反這些規定。此外，由于每個司機都是個體，當兩輛車接近同一交叉口時，駕駛員有時會誤判彼此的意圖并發生碰撞。相比之下，自動駕駛汽車會知道所有的交通規則，并且不會故意違反交通規則，而且自動駕駛汽車可以相互連接在一起。當兩輛無人駕駛汽車接近同一個交叉口時，它們實際上不是兩個獨立的個體，而是同一個算法的一部分。因此，它們誤判和碰撞的可能性要小得多。

同樣，如果世界衛生組織發現了一種新的疾病，或者某個實驗室研發了一種新藥，我們無法使得世界上所有的人類醫生立刻同步更新這個信息。然而，即使世界上有數十億個人工智能醫生，每個醫生分別監測一個人的健康狀況，它們仍然可以在一秒鐘內完成更新，它們還可以互相交流對這種新疾病或新藥的評估。連接性和可更新性的潛在優勢是如此巨大，以至于即使在某些工作領域某些個人仍然比機器做得好，用計算機取代所有人也是有意義的。

所有這一切導致了非常重要的結論：自動化革命不是由單一的分水嶺事件所組成的，相反，這將是更大混亂的連鎖事件。舊的工作會消失，新的工作會出現，但新的工作也會迅速改變和消失。人們需要重新訓練和改造自己，不是一次而是很多次。

在20世紀，各國政府為年輕人建立了大規模的教育體系，但在21世紀，他們將需要為成年人建立大規模的再教育體系。但這就足夠了嗎？變化總是充滿壓力的，21世紀初繁忙的世界已經產生了全球性的壓力流行病。隨著工作波動的增加，人們是否有能力應付？到2050年，可能會出現一個無用階級，這不僅是因為缺乏就業機會或缺乏相關教育，而且也是因為缺乏繼續學習新技能的精神毅力。

數字獨裁的興起

由于許多人失去了他們的經濟價值，他們也可能會失去政治權力。同樣的技術，可能使數十億人在經濟上邊緣化，也可能使他們更容易受到監測和控制。

人工智能會嚇到許多人，因為他們不相信它會聽話。科幻小說中都認為計算機或機器人產生意識的可能性很大，不久之后就會試圖殺死所有人類。但是沒有證據表明：人工智能會變得更聰明而發展出意識。相反，我們應該擔憂人工智能對人類主人的絕對服從而非反抗。人工智能與人類開發的任何其他工具和武器都不同；它會使得強者進一步鞏固其權力。

說到監視，包括幾個民主國家在內的許多國家，都在忙著建立前所未有的監視系統。例如，以色列在監控技術領域處于領先地位，并在占領的西岸創建了一個全面監控體系的工作原型。時至今日，每當巴勒斯坦人打電話、在臉書上發帖，或從一座城市到另一座城市旅行時，他們都可能受到以色列的麥克風、照相機、無人機或間諜軟件的監視。算法分析收集到的數據，幫助以色列安全部隊找到并消除他們認為的潛在威脅。巴勒斯坦人也許管理著西岸的一些城鎮和村莊，但以色列人控制著天空、電波和網絡空間。因此，不需要多少以色列士兵就能夠有效控制住在西岸的大約250萬巴勒斯坦人。

在2017年10月的一起事件中，一名巴勒斯坦勞工在他的個人臉書賬戶上貼出了自己在工作場所的照片，照片中他的旁邊有推土機。在圖片旁邊，他寫道：“早上好！”臉書的翻譯算法在翻譯阿拉伯字母時犯了一個小錯誤。算法將這些字母識別為“Ydbachhum”（意為“傷害它們”），而不是“Ysabechhum”(意為“早上好”)。以色列安全部隊懷疑這名男子可能是恐怖分子，打算用推土機把人撞倒，于是迅速逮捕了他。當他們意識到算法犯了一個錯誤后，他們釋放了他。即便如此，臉書上的那篇帖子還是被刪除了——你再怎么小心也不為過。巴勒斯坦人今天在西岸的經歷可能只是全世界數十億人終將會經歷的一個預演。

然而，在大多數情況下，這種強硬的策略可能并不是必要的。在一些國家，自由選擇和自由投票的表象可能仍然存在，甚至公眾所受的實際控制越來越少。誠然，操縱選民情緒的企圖并不新鮮。但是，一旦有人獲得了操控人類內心的技術能力，民主政治就會演變成一場情緒化的木偶劇。

在未來的幾十年里，我們不太可能會遇到有意識機器的反叛，但我們可能不得不面對成群結隊的機器人。這些機器人比我們的母親更懂得如何觸發我們的情感，并在人類精英的命令下，利用這種不可思議的能力，試圖向我們推銷某種東西，無論是汽車、政治家，還是整個意識形態。機器人可能會識別我們最深的恐懼、仇恨和渴望，并利用它們來對付我們。我們已經在近期世界各地的選舉和公民投票中領略到了這一點，黑客學會了如何通過分析有關選民的數據并利用他們的偏見來操縱個體選民。雖然科幻驚悚片中的末日伴隨著大火和濃煙，但在現實中，我們可能只會面對一個由鼠標點擊帶來的乏味末日。

人工智能革命最大和最可怕的影響可能是民主國家和獨裁政權的相對效率。我們傾向于認為民主和獨裁之間的沖突是兩種不同的道德體系之間的沖突，但實際上這是兩種不同的數據處理系統之間的沖突。民主在眾多人和機構中分配處理信息和決策的權力，而獨裁則把信息和權力集中在一個地方。考慮到20世紀的技術，把太多的信息和權力集中在一個地方是沒有效率的。沒有人有能力快速處理所有可用的信息并做出正確的決定。然而，人工智能可能很快會改變這種趨勢。人工智能使得集中處理大量信息成為可能。事實上，它可能會使集中式系統比分散系統更高效，因為當機器有更多的信息需要分析時，機器學習會更有效率。如果你無視所有的隱私問題，把所有與10億人有關的信息集中在一個數據庫中，那么相對于尊重個人隱私且只有100萬人的部分信息的數據庫，你最終會得到更好的算法。如果一個威權政府命令所有公民進行DNA測序，并與某些中央機構分享他們的醫療數據，這將使得該政府在遺傳學和醫學研究方面對那些醫學數據嚴格保密的社會取得巨大優勢。20世紀威權政體的主要障礙（將所有信息和權力集中在一個地方的愿望）可能成為其在21世紀的決定性優勢。

當然，新技術將繼續出現，其中一些技術可能會有助于信息和權力的分配，而不是集中。區塊鏈技術以及其所導致的加密貨幣的使用就被吹捧為對集權的一種平衡。但是區塊鏈技術還處于萌芽階段，我們還不知道它是否真的能抵消人工智能的集中化趨勢。請記住，互聯網在其早期也被炒作為自由意志的靈丹妙藥，它將人們從所有的集中系統中解放出來，但現在它正使得中央集權比以往任何時候都更加強大。

權力向機器的轉移

即使有些社會表面上仍然是民主的，算法效率的提高仍將使越來越多的權威從個人轉移到聯網機器上。我們可能會自愿放棄越來越多關于自己生活的權威，因為我們會從經驗中學到要相信算法而不是自己的感受，最終會失去為自己做決定的能力。想想看，在短短20年的時間里，數十億人都開始委托谷歌的搜索算法來完成最重要的任務之一：找到相關、值得信賴的信息。隨著我們更依賴谷歌來尋找答案，我們獨立定位信息的能力就會減弱。今天，“真相”已經被谷歌搜索的最高結果所定義。這個過程同樣影響了我們的身體能力，例如空間導航。人們要求谷歌不僅要找到信息，還要為人們導航。自動駕駛汽車和人工智能醫生將代表進一步的侵蝕：雖然這些創新將使卡車司機和人類醫生失業，但更重要的是他們的權威和責任會轉移到機器上。

人類習慣于把生活看作是一場關于決定的戲劇。自由民主和自由市場資本主義將個人視為不斷對世界作出選擇的自主個體。無論是莎士比亞的戲劇、簡·奧斯汀的小說還是俗氣的好萊塢喜劇，藝術作品的主題通常是英雄做出的一些至關重要的決定。生存還是毀滅？聽妻子的話殺了鄧肯國王還是遵循良心而寬恕他？嫁給柯林斯先生還是達西先生？基督教和穆斯林神學同樣關注選擇的戲劇性，認為永恒的救贖取決于做出正確的選擇。

當我們依靠人工智能為我們做出更多的決定時，這種人生觀會發生什么變化呢？即使現在，我們也信任Netflix所推薦的電影、Spotify所選擇的音樂。但人工智能的體貼怎么會到此為止呢？

每年都有數以百萬計的大學生需要決定學習什么科目。這是一個非常重要和困難的決定，是在父母、朋友和不同興趣和意見的教授的壓力下作出。它也受學生自己的個人恐懼和幻想的影響，而這些恐懼和幻想本身是由電影、小說和競選宣傳所塑造的。更復雜的是，一個特定的學生并不真正知道在某一特定職業中取得成功需要什么，也不一定對自己的長處和弱點有現實的認識。

不難看出，人工智能總有一天能對職業甚至人際關系做出比我們更好的決定。但是，一旦我們開始依靠人工智能來決定該學習什么，在哪里工作，以及與誰約會甚至結婚，人類的生活將不再是一場關于選擇的戲劇，我們的人生觀將需要改變。民主選舉和自由市場可能不再有意義，大多數宗教和藝術作品也是如此。想象一下，安娜·卡列尼娜拿出她的智能手機，問Siri，她是應該和卡列寧結婚還是應該和時髦的弗倫斯基伯爵私奔。或者想象一下你最喜歡的莎士比亞劇中的所有關鍵決定都是由谷歌算法做出的。哈姆雷特和麥克白會有更舒心的人生，但那會是怎樣的生活呢？我們有模型來理解這種生活嗎？

議會和政黨能否克服這些挑戰，防止更黑暗的情況發生？目前看來似乎不太可能。技術的顛覆性甚至不是政治議程上的主要議題。在2016年美國總統大選期間，主要提到的顛覆性技術是希拉里·克林頓的電子郵件崩潰。盡管人們都在談論失業問題，但這兩位候選人都沒有直接提到自動化的潛在影響。特朗普警告選民，墨西哥人會搶走他們的工作，因此美國應該在其南部邊境修建一堵墻。他從來沒有警告過選民，算法會搶走他們的工作，他也沒有建議在加州周圍建立防火墻。

我們該怎么辦？

首先，我們需要把理解人類思維的運作方式放在更高的優先級上，特別是關于我們自己的智慧和同情心是如何培養出來的。如果我們在人工智能上投入太多，而在開發人類頭腦方面的工作太少，那么復雜的計算機人工智能可能只會增強人類的愚蠢，并培養我們最壞（但可能也是最強大）的沖動，其中包括貪婪和仇恨。為了避免這樣的結果，對于我們投資于改進人工智能的每一美元和每一分鐘，明智的選擇應當是將其投資在探索和發展人類意識方面。

如果我們想要防止所有財富和權力集中在少數精英手中，我們就必須更實際和更直接管理數據的所有權。在古代，土地是最重要的資產，所以政治是爭奪土地的斗爭。在現代，機器和工廠比土地更重要，所以政治斗爭集中在控制這些重要的生產資料上。在21世紀，數據將取代土地和機械成為最重要的資產，因此政治將是控制數據流的斗爭。

不幸的是，我們在管理數據所有權方面沒有多少經驗，這本身就是比管理土地或機器更困難的任務。數據隨處可見，同時也無處可尋，它們可以光速移動，你可以隨心所欲復制它們。收集的關于我的DNA、大腦和生活的數據是屬于我、政府、公司、還是全體人類？

積累數據的競爭已經開始，目前由谷歌、臉書等巨頭主導，在中國是百度和騰訊等巨頭。到目前為止，這些公司都是“注意力商人”（attention merchants），它們通過向我們提供免費的信息、服務和娛樂來吸引我們的注意力，然后將我們的注意力轉賣給廣告商。然而，他們真正的業務不僅僅是銷售廣告。相反，通過吸引我們的注意力，他們設法積累了大量關于我們的數據，這些數據比任何廣告收入都更有價值。我們不是他們的顧客，而是他們的產品。

普通人會發現很難抗拒這個過程。目前，我們當中的很多人都很樂意放棄我們最寶貴的資產（我們的個人數據），以交換免費的電子郵件服務和有趣的視頻。但是，如果以后普通人決定嘗試阻止數據的流動，他們很可能會遇到麻煩，尤其是他們可能會依靠網絡來幫助他們做出決定，甚至是關于他們的健康和生存方面。

政府將數據國有化可以提供解決方案，它肯定會抑制大公司的力量。但歷史表明，在權力過大的政府手中，我們的生活并不一定更好。因此，我們最好呼吁科學家、哲學家、律師甚至詩人，把他們的注意力轉移到這個大問題上：如何管理數據的所有權？

目前，人類面臨著與馴養動物相似的風險。我們已經培育了溫順的奶牛，它們生產大量牛奶，但在其他方面遠遠不如它們的野生祖先。它們不那么靈活、不那么好奇、也不那么聰明。我們現在正在創造馴服的人類，他們產生大量的數據，并在巨大的數據處理機制中充當高效的芯片，但他們很難最大限度發揮他們的人類潛力。如果我們不小心，我們會濫用升級的電腦給自己和世界造成巨大的破壞，最終成為退化的人類。

如果你發現這些前景令人擔憂，如果你不喜歡生活在數字專政或某種退化的社會中，那么你能做出的最重要的貢獻就是找到辦法，防止過多的數據集中在極少數人手中，并找到方法使分布式數據處理比集中式數據處理更有效率。這些任務并不容易。但實現這些目標可能是民主的最佳保障。

資料來源 theatlantic.com