機(jī)器的智能和人類(lèi)的智慧

《AI聯(lián)結(jié)的社會(huì)：人工智能網(wǎng)絡(luò)化時(shí)代的倫理與法律》

（日）福田雅樹(shù)等著 宋愛(ài)譯

社會(huì)科學(xué)文獻(xiàn)出版社即出

圍繞人工智能主題，我讀過(guò)很多作品。一些書(shū)名看起來(lái)很學(xué)術(shù)的，讀起來(lái)卻非常科普。也許是人工智能話題炙熱的緣故，除了科普作家，某些學(xué)有專(zhuān)長(zhǎng)的著名專(zhuān)家也加入其中，但對(duì)人工智能卻是一知半解，有關(guān)人工智能的研究成果也是魚(yú)龍混雜。我手里的這本書(shū)是否也是其中之一呢？

我抱著嘗試的心態(tài)讀下去。這一讀，便沒(méi)有放手，直至卷終。《AI聯(lián)結(jié)的社會(huì)：人工智能網(wǎng)絡(luò)化時(shí)代的倫理與法律》（以下簡(jiǎn)稱(chēng)《AI聯(lián)結(jié)的社會(huì)》）是一本論文集。通常，論文集會(huì)依照論文的主題匯集，難以讓討論具有內(nèi)在邏輯一致性。這本論文集不同的是，它的主題內(nèi)在邏輯一致性很強(qiáng)，從這個(gè)角度來(lái)說(shuō)，它更像一本合著成果。在假定人工智能自身形成網(wǎng)絡(luò)的場(chǎng)景下，會(huì)給人類(lèi)帶來(lái)哪些挑戰(zhàn)。圍繞這一主題，全書(shū)劃分為六個(gè)部分，總論部分交代了問(wèn)題和方法，第二部分探討人工智能的研發(fā)原則，第三部分討論人工智能數(shù)據(jù)、信息、知識(shí)的流通和使用，第四部分分析在人工智能網(wǎng)絡(luò)化的場(chǎng)景里人類(lèi)的隱私與安全，第五部分探索人類(lèi)社會(huì)基本準(zhǔn)則面對(duì)的挑戰(zhàn)和應(yīng)對(duì)之策，第六部分再回到人類(lèi)自身，討論保障人類(lèi)珍視的尊嚴(yán)、人格與責(zé)任。

務(wù)實(shí)的智慧

簡(jiǎn)要的內(nèi)容構(gòu)成介紹應(yīng)該能讓讀者了解，這是一部接地氣的著作。與天馬行空地探討智能時(shí)代、機(jī)器崛起、人工智能時(shí)代的作品不同，與聳人聽(tīng)聞地?cái)嘌灾悄芨锩C(jī)器取代人類(lèi)、奇點(diǎn)臨近的作品也不同，《AI聯(lián)結(jié)的社會(huì)》的出發(fā)點(diǎn)是，我們知道人工智能的發(fā)展是一股歷史潮流，勢(shì)不可當(dāng);我們不用像算命先生那樣去預(yù)測(cè)什么時(shí)候人工智能時(shí)代會(huì)到來(lái);我們也不用像森林里的小女孩那樣不斷呼喊“狼來(lái)了”，人工智能要奪走我們的工作;我們嘗試著回答，人工智能會(huì)以什么樣的形態(tài)到來(lái)，在這個(gè)進(jìn)程中，人類(lèi)可以做什么來(lái)保證人類(lèi)的基本利益，即人還是人！說(shuō)得更加簡(jiǎn)潔一些，在人類(lèi)面對(duì)網(wǎng)絡(luò)化的智能機(jī)器時(shí)，如何保障人類(lèi)的基本利益：身體、人格、責(zé)任、尊嚴(yán)？

以我對(duì)人工智能有限的認(rèn)知，我以為，這樣的提問(wèn)非常日本！工業(yè)化的歷史表明，同在儒家文化圈，日本卻是一個(gè)非常務(wù)實(shí)的國(guó)家。明治維新以后，我們不知道日本人提出了什么驚世駭俗的理論，卻知道日本的產(chǎn)品行銷(xiāo)世界，對(duì)日本產(chǎn)品的質(zhì)量，鮮有人懷疑。這源于日本人的務(wù)實(shí)。人工智能的發(fā)展顯然還沒(méi)有走到真正威脅人類(lèi)的時(shí)刻，探討人工智能場(chǎng)景下的人類(lèi)利益，顯然是一個(gè)虛擬問(wèn)題。務(wù)實(shí)的日本人在遭遇一個(gè)虛擬問(wèn)題時(shí)，又如何處理呢？《AI聯(lián)結(jié)的社會(huì)》同樣展現(xiàn)了務(wù)實(shí)的智慧：日本專(zhuān)家們采用了情境錨定法（Anchoring Vignettes）。情境錨定法是社會(huì)調(diào)查中面對(duì)未來(lái)時(shí)常用且有效的測(cè)量方法。它假設(shè)一個(gè)情境，實(shí)在的、可以在頭腦中呈現(xiàn)的情境，然后，詢問(wèn)人們面對(duì)情境的決策和行為取向。在理論研究中，這樣的方法也被稱(chēng)為思想實(shí)驗(yàn)（Thought Experiment），是理論邏輯演繹的常用且有效的方法。

當(dāng)今科技發(fā)展的現(xiàn)實(shí)充分證明，人類(lèi)與人工智能共生的時(shí)代已經(jīng)開(kāi)始，未來(lái)全球聯(lián)機(jī)協(xié)作的人工智能，將構(gòu)筑起深度改變?nèi)祟?lèi)生活的“人工智能網(wǎng)絡(luò)”。圍繞這些問(wèn)題，日本信息學(xué)界、法學(xué)界、社會(huì)學(xué)界、人工智能技術(shù)領(lǐng)域的多位前沿學(xué)者從國(guó)際化、專(zhuān)業(yè)化的視角出發(fā)，進(jìn)行了深入探討，在社會(huì)政策和法律應(yīng)對(duì)層面，提出了建議。

本文為著名學(xué)者邱澤奇教授為《AI聯(lián)結(jié)的社會(huì)》中文版所作序言。本書(shū)簡(jiǎn)體中文版將于8月上市。

運(yùn)用情境錨定法，《AI聯(lián)結(jié)的社會(huì)》給定了一個(gè)討論的初始：在未來(lái)，無(wú)論是專(zhuān)用人工智能還是通用人工智能，人工智能自身形成了一個(gè)網(wǎng)絡(luò)，“使用者不僅可以自己設(shè)置，也可以接受他人設(shè)置”（第10頁(yè)），就像是《黑客帝國(guó)》里的機(jī)器帝國(guó)，人工智能甚至具有了擬人的“意志”，“擁有與人類(lèi)智能相關(guān)的功能;能夠通過(guò)對(duì)信息、知識(shí)進(jìn)行系統(tǒng)化處理，得到數(shù)據(jù)、信息和知識(shí)”（第6頁(yè)），“滲透到社會(huì)整體之中，進(jìn)而使人類(lèi)和人工智能網(wǎng)絡(luò)共存，在各種社會(huì)場(chǎng)景中，都將可能實(shí)現(xiàn)人工智能、物和人的相互聯(lián)結(jié)”（第11頁(yè)），人類(lèi)如何做才能既利用人工智能為人類(lèi)服務(wù)，又保護(hù)人類(lèi)的基本利益？

在汗牛充棟的人工智能研究中，人工智能網(wǎng)絡(luò)化是一個(gè)被忽略或被默認(rèn)的議題。說(shuō)是被忽略，至少在我讀到的文獻(xiàn)中這是第一本將其特別強(qiáng)調(diào)的作品。說(shuō)是被默認(rèn)，在眾多討論人工智能的研究中，作者們往往忽略了人們生活在一個(gè)政治和社會(huì)制度有差異的世界，國(guó)家技術(shù)能力的強(qiáng)弱和國(guó)家之間關(guān)系的好壞并非與人工智能創(chuàng)新和應(yīng)用沒(méi)有關(guān)系。忽視既存的制度約束和假設(shè)人類(lèi)的一般存在看起來(lái)有利于討論，實(shí)則是學(xué)術(shù)的不負(fù)責(zé)任。《AI聯(lián)結(jié)的社會(huì)》突出強(qiáng)調(diào)人工智能網(wǎng)絡(luò)化的現(xiàn)實(shí)社會(huì)情境，也是學(xué)術(shù)務(wù)實(shí)的另一個(gè)證明。

面向超級(jí)智慧

《AI聯(lián)結(jié)的社會(huì)》首先呈現(xiàn)的不是人工智能帶給人類(lèi)的便利，而是風(fēng)險(xiǎn)。“這些風(fēng)險(xiǎn)與人工智能網(wǎng)絡(luò)化為社會(huì)帶來(lái)的便利同在，有時(shí)可能超越國(guó)境，超越現(xiàn)實(shí)與虛擬的界限，瞬時(shí)擴(kuò)散出去”（第13頁(yè)）。借用既有的研究成果，《AI聯(lián)結(jié)的社會(huì)》將風(fēng)險(xiǎn)區(qū)分為功能風(fēng)險(xiǎn)和制度風(fēng)險(xiǎn)，認(rèn)為其中重要的不是功能風(fēng)險(xiǎn)，而是制度風(fēng)險(xiǎn)。因此，風(fēng)險(xiǎn)分析是人類(lèi)面對(duì)人工智能挑戰(zhàn)的出發(fā)點(diǎn)，包括風(fēng)險(xiǎn)評(píng)估、風(fēng)險(xiǎn)管理和風(fēng)險(xiǎn)傳播（第14頁(yè)）。風(fēng)險(xiǎn)分析的目的，不是為了甩鍋，而是讓風(fēng)險(xiǎn)明確化，進(jìn)而確保公平競(jìng)爭(zhēng)，讓風(fēng)險(xiǎn)與收益達(dá)成平衡。在這里，我們既看到了日本人務(wù)實(shí)的一面，又看到儒家文化的深層存在。

設(shè)定人工智能網(wǎng)絡(luò)化的前提，自然地提出了人工智能治理的人類(lèi)化議題。《AI聯(lián)結(jié)的社會(huì)》的主張是，人工智能的治理，一定是國(guó)際的，而不是一國(guó)的。為促進(jìn)技術(shù)創(chuàng)新和應(yīng)用，初始期宜采用軟性治理，治理內(nèi)容除了確保各種價(jià)值觀，還應(yīng)確保廉潔、透明性、可控性、安全性、隱私性、安保體系、公正性等（第18頁(yè)）。為了既促進(jìn)人工智能的發(fā)展，給人類(lèi)帶來(lái)更多便利，又保障治理的有效性，約束人工智能可能帶來(lái)的風(fēng)險(xiǎn)，《AI聯(lián)結(jié)的社會(huì)》認(rèn)為，一個(gè)由人工智能高度互聯(lián)建構(gòu)的智聯(lián)社會(huì)（第20頁(yè)），應(yīng)該遵從八項(xiàng)基本原則：“第一，所有人都可以受惠;第二，保障個(gè)人的自主性及人的尊嚴(yán);第三，保證革新性研究開(kāi)發(fā)的持續(xù)與公平競(jìng)爭(zhēng);第四，堅(jiān)持可控性和透明性;第五，利益相關(guān)方的參與;第六，兼顧虛擬世界與現(xiàn)實(shí)社會(huì);第七，通過(guò)超越空間的協(xié)調(diào)合作實(shí)現(xiàn)有活力的區(qū)域社會(huì);第八，通過(guò)分散合作解決全球性問(wèn)題。”（第21頁(yè)）

與上述原則關(guān)聯(lián)密切的被分解為了人工智能研發(fā)中的人類(lèi)倫理與秩序的貫徹，人工智能使用中的數(shù)據(jù)、信息、知識(shí)等價(jià)值觀，人工智能與人類(lèi)的關(guān)系，包括如何保障人的尊嚴(yán)、人格與責(zé)任以及支撐因素如隱私、安全、既存的社會(huì)準(zhǔn)則等。貫穿《AI聯(lián)結(jié)的社會(huì)》始終的是，保障人類(lèi)基本利益的原則被置于最優(yōu)先的位置，基于此，《AI聯(lián)結(jié)的社會(huì)》里出現(xiàn)了一些日文風(fēng)格突出的概念。它意味著《AI聯(lián)結(jié)的社會(huì)》的討論既不是日本人自己圈子內(nèi)的討論，也不是脫離了日本的話術(shù)販賣(mài)，而是從日本的關(guān)切出發(fā)，面向整個(gè)世界的分析和探討。

參與討論的近20位作者，既有業(yè)界人士，也有學(xué)界新秀。從《AI聯(lián)結(jié)的社會(huì)》文本可以看出，他們的一個(gè)共同特點(diǎn)是，都非常熟悉國(guó)際上人工智能探討的熱點(diǎn)和難點(diǎn)問(wèn)題，表達(dá)的也是他們對(duì)這些熱點(diǎn)和難點(diǎn)的觀點(diǎn)。人工智能數(shù)據(jù)是大數(shù)據(jù)問(wèn)題的一個(gè)子集，歐盟有GDPR，美國(guó)有關(guān)聯(lián)的法律卻沒(méi)有一般的法律，中國(guó)在《民法典》中有涉及，日本的《個(gè)人信息保護(hù)法》也只是關(guān)聯(lián)的法律。到目前為止，數(shù)字化前沿國(guó)家對(duì)此還沒(méi)有達(dá)成一致。

我以為，根本不可能達(dá)成一致，盡管其基本出發(fā)點(diǎn)是保護(hù)人類(lèi)利益。但我們知道，機(jī)器并沒(méi)有利益，機(jī)器的利益實(shí)際上是掌握機(jī)器的人的利益，電車(chē)難題（見(jiàn)第五部分的討論）便是典型的例子。當(dāng)我們?cè)谌斯ぶ悄芾镌O(shè)定人類(lèi)生命優(yōu)先時(shí)，不是犧牲機(jī)器的問(wèn)題，而是優(yōu)先保護(hù)誰(shuí)的生命的問(wèn)題。如此，問(wèn)題又回到了人類(lèi)，而不是人與機(jī)器的關(guān)系。為此，我更愿意把問(wèn)題修訂為，當(dāng)人工智能網(wǎng)絡(luò)化將帶給人類(lèi)更大利益同時(shí)也帶來(lái)更大風(fēng)險(xiǎn)時(shí)，如何分配這些利益才是對(duì)大多數(shù)人更加有利的，也是對(duì)大多數(shù)人而言更加有利于控制風(fēng)險(xiǎn)的？

在這個(gè)問(wèn)題面前，人類(lèi)自身的歧視、分化、極化、壟斷等將會(huì)是長(zhǎng)久且難以達(dá)成平衡的議題。我們期待一個(gè)可以促進(jìn)技術(shù)發(fā)展的競(jìng)爭(zhēng)性研發(fā)生態(tài)，卻又希望避免一個(gè)由發(fā)展帶來(lái)的壟斷性市場(chǎng)，回避一個(gè)由利益分配嚴(yán)重不均所產(chǎn)生的極化社會(huì)，還希望避免一個(gè)因倫理失衡而可能帶來(lái)的毀滅性后果，最終希望做到人類(lèi)自洽（第307頁(yè)），這的確需要超級(jí)智慧。《AI聯(lián)結(jié)的社會(huì)》至少是面向超級(jí)智慧的有益嘗試。