面向社會推理的人工智能邏輯

董惠敏 [盧森堡] 雷卡·馬爾科維奇 [盧森堡] 里昂·范德拓,

(1.浙江大學 哲學系， 浙江 杭州 310058； 2.盧森堡大學 計算機系， 埃斯蘇阿茲特 L-4001)

一、 導 論

人工智能不僅是計算機科學的子學科，還覆蓋了哲學、心理學、社會學、法律、經濟學等學科的不同方面。人工智能研究開發模仿人類智能的程序，使計算機具有智能行為[1]，在感知、表征與推理、學習、自然交互、社會影響等五個方面開發相應的人工智能技術。將邏輯用于這些方面[2-3]，尤其是在可解釋性人工智能(explainable AI)這一背景下，能彌補以往“黑匣子”式人工智能技術的不足[4]。

隨著人工智能和機器學習的興起，人們關心的不僅是自主機器人及其他智能系統對自身行為的推理問題，還包括如何在個體愿望、目標與社會、法律、倫理規范之間保持平衡[5]。此外，還要思考智能主體是如何考慮其他主體行為的[6-8]。例如，自動駕駛汽車不僅能做出駕駛和導航這類行為，而且必須考慮交通法規，還需要對其他自動駕駛或人類駕駛行為進行推理。因此，本文集中回應如下挑戰：人工智能邏輯如何考慮社會推理？

盡管社會人工智能邏輯領域已經有一定的進展，如利用道義邏輯去刻畫人工智能規范推理，但本文強調的是，構建社會人工智能邏輯更為迫切。抽象地說，社會推理和實踐推理與經典推理的主要區別在于，主體可以對何為正確行動、何為當前世界狀態有各自不同的意見[9-11]。對實踐推理的形式化旨在刻畫個體概念與集體概念之間的多種互動方式，例如基于知識的義務及其推理互動[12]。雖然在某種意義上，社會集體行為是全部主體個人行為的總和[13]，但在形式理論層面上，依然存在著如何將社會推理與實踐推理聯系起來這一挑戰。單主體的推理是基于其能力與知識的，主體的能力反映于他所能執行的行動，同時他依據具有不確定性的知識進行決策[14-15]。

因而，就下面關于構建社會人工智能邏輯的問題，本文將給出有針對性的回答：(1)如何通過智能主體的義務與允許之間的關系來表示權利這一概念？(2)如何將人工智能與知情權等社會概念結合起來？(3)何種智能主體之間的沖突可以得到識別？如何解決這些沖突？(4)如何為智能主體的自由行動做辯護？

本文首先將權利和允許作為社會推理的核心概念，并將它們引入人工智能邏輯中來回答第一個問題。我們將給出這兩個概念與禁止、義務的不同互動方式，并解釋它們是如何與自由行動等社會概念相互聯系的[16-18]。權利和允許強調社會規范是如何授權給主體，以實現僅主體自身無法實現的目標的[5,19-20]。從智能主體的角度來看，禁止和義務是消極的，它們僅強調社會規范是如何限制個人規劃的[20]。

本文通過將重點放在知情權上來回答第二個問題。盡管知情權對隱私[21]等重要問題有實際影響，但它仍未被充分研究；同時，知情權涉及不同主體和不同社會關系，比如患者對他們自身治療結果與治療情況的知情權、士兵對他們奮斗原因的知情權[22]、公民對政府工作的知情權、美國環境法所規定的大眾對所接觸化學物品的知情權。

對第三個問題，通過社會推理中普遍存在的沖突和不確定性，本文指出形式論辯理論的重要性[18]。這一理論并沒有忽略反而是接受沖突，同時，其推理目標不僅旨在解決此類沖突，還在于使不同意見達成共識。

對第四個也是最后一個問題，我們不僅從權利的角度來探討自由，也從允許這一語境來討論。對于自由選擇允許帶來的挑戰，我們將使用形式論辯來應對。

通過回答上述四個問題，本文提出一個基于論辯的社會人工智能邏輯研究計劃，或者，更一般地講，一個社會人工智能邏輯。本文通過社會、法律、倫理推理中的例子來說明構建社會人工智能邏輯所面臨的挑戰。下面，我們先談談關于使用邏輯語言或其他知識表示的形式語言對現實生活場景進行建模的三個著名論點。首先，形式化這一工作是很難的，它是一種技巧，有人甚至稱之為藝術。其次，通常并不存在“最好”的形式化，而往往存在對一個論點的多種形式化，因為每一種形式化都有它自身的優缺點。再次，對例子進行建模的主要挑戰總是與建模方法的發展息息相關。這就像決策論的發展一樣，對期望函數和概率分布的第一個猜測總是錯的。人們需要實際參與到決策中，例如在決策論里是參與到博彩中，從而更好地理解它。決策分析中的偏好誘導概念正是這樣提出的。不過，本文并不就建模方法做進一步的討論。

二、 在人工智能邏輯中的權利與允許

人工智能邏輯對智能自主主體的實踐推理進行形式化。本文所采用的人工智能邏輯相對于經典邏輯具有兩個特征：它具有豐富的語言表達力；它能處理不確定性與不一致性。本節將解釋人工智能邏輯如何從經典邏輯中擴張出來，使其擴張語言包括了刻畫智能自主主體行動、信念、知識、權利、義務和允許的模態算子。后面則會解釋人工智能邏輯是如何采用形式論辯的技術來表示常識推理，處理不確定性、沖突與異常的。本節使用如下示例。

例1[敏感數據]：每個人的健康數據均被視為敏感信息，因此在大多數國家受到保護原則的嚴格約束(歐盟中稱之為GDPR，即歐洲議會及其理事會頒布于2016年4月27日的2016/679條例，它針對自然人個人數據處理的保護與自由流通，并廢除95/46/EC命令)。這意味著其他人不允許知道這些敏感信息。然而，如果有人生病并需要治療，那么醫生應治療，而要履行這種義務，醫生就要求知道患者的健康數據。

圖1展示了上述示例所涉及的各種論點，它是使用人工智能邏輯后得到的一個形式模型。此外，通過豎箭頭，這些論點可劃分為兩組論據。左邊四個論點組成了結論為不允許醫生知道敏感信息的論據，而右邊三個論點組成了結論為允許醫生知道這些信息的論據。最上面的論點為結論，而其他論點用以支撐這些結論。最上面的從右往左指向的箭頭表示醫生的知情權占據上風這一事實。本節僅考慮自然語言陳述在人工智能邏輯中的形式化，第三節將對論辯進行更為詳盡的討論。

圖1 敏感數據場景中的兩個論據

(一) 模態人工智能邏輯語言

給出一個經典邏輯語言，其公式包括生病和治療，從而表示患者生病和患者得到治療。我們也可以添加變元，使得公式生病(患者)表示患者生病。此外，若考慮諸如醫生、患者、張三這類主體，在模態邏輯中我們可以用形如K醫生生病的公式表示醫生知道患者生病，以及￢K醫生生病表示患者不知道其生病。這里可以采取認知邏輯中最常見的假設，即信念可以有誤但知識必須正確。也就是說，當醫生知道患者生病，那么推出患者生病這一事實。知識可刻畫為得到辯護的真信念。

我們再來考慮權利、義務、允許的社會性。例如，O醫生治療可以表示醫生有義務讓患者得到治療，而P患者生病可以表示允許患者生病。在一些情況下，在模態算子中標示出兩個主體，使得被標示的義務具有方向性(1)針對主體間的社會依賴性的形式化也是多樣的。依據本文的方法，我們可以通過帶有方向性的模態詞來表示一個主體相對于或依賴于另一主體的某種社會性質。在下文的例2中，醫生知道某個患者a而非患者b的病情，可以表示為K醫生,a病情∧￢K醫生,b病情。(參見第二小節)。例如，O醫生,患者治療可以表示醫生有義務讓患者得到治療，明確義務中所關涉的兩個主體。在這里，這是一個醫生對患者的義務。一般來講，這個示例可以有多種形式化，而這些都將留待建模者來完成。

由于實踐推理考慮的是主體行動，因此主體行動也必須在語言中得到表征[13]，例如，公式[醫生](治療)表示醫生具有使患者得到治療的能力。也可以使用全稱模態去表征必然性，例如，□(生病→敏感)表示患者生病時的健康數據被視為敏感信息。

模態邏輯的好處在于其表達式可以通過不同方式混合使用，本文會有大量這種例子。例如，P醫生[醫生]K醫生生病表示允許醫生讓患者知道其病情。我們可以通過省略主體的方法來表征普遍允許和普遍義務，PK醫生生病就是其中一個例子。

(二) 表示社會依賴性的權利

權利在本文中具有重要地位，因為它指出一個關鍵的社會現象：主體的社會地位(在特定情況下為規范地位)依賴彼此之間的地位。在法學的實際操作中，對權利本身的談論往往是模糊的。這種模糊性很容易導致概念上的不清晰，因此，在一百年前，美國著名法學家Hohfeld對權利的可能含義進行了區分[23-24]。Hohfeld的權利系統由四組不同的法律關系構成，其中包括四種不同的權利，每種權利都對應一方對另一方的義務類型：某人的權利總是意味著他人的義務，這些配對被稱為規范地位[19]。而這四種可能關系被稱為相鄰權，因為它們總是一起出現(2)從邏輯的觀點來看即等價關系。。Hohfeld的權利系統如圖2所示，其中權利(包括主張權、自由權、權力、豁免權)(3)權利的英文為rights或legal rights；權力的英文為power，可理解為賦權。Hohfeld給出的法權系統中將主張、自由、義務、無主張、權力、豁免、責任、無能力作為八種最為基本的權利。可見，權力也是權利的一種。在上一行，義務和責任在下一行。

圖2 Hohfeld的權利框架

主張和義務這兩個權利概念之間的聯系在采購合約的協商過程中體現得最為明顯：賣家對買家的采購價格的主張和要求顯然意味著買家有義務為賣家提供該信息。這一現象是很普遍的。在認知地位中，如若某人具有知悉某事的主張權，這意味著其他主體有義務告知他此事：Ra[b]Kaφ?Ob,a[b]Kaφ。然而，如果某人具有知悉某事的自由權，那僅意味其他主體不具備主張其不得獲悉此事的權利。我們通常認為這一規范地位為允許，第三小節將會對其進行分析。

圖2(b)具有類似圖2(a)的結構，并且涉及圖2(b)的權利地位是動態的[25-27]，是關于改變他人權利和義務的潛力[24]。例如，如果我們認為知情權是一種權利，那這意味著具有這種權利的主體使其他主體具有使前者知情的義務，而這樣的規范地位在這個法理系統中被稱為責任：Pa,b[a]Ob,a[b]Kaφ。同時，如果某人具有對其知識的豁免權，我們可以認為其他主體沒有權力對前者施加告知后者信息的義務。即便使用Hohfeld的法理系統和標示出主體的規范地位，我們也并不排除談論普遍權利和普遍義務(4)從法律觀點來看，也可以稱之為絕對權利和絕對義務。的可能性。我們所常常討論的公民自由，如言論自由權利，意味著一個主體對其他人而言具有能表達其所知所想的權利[24]。就像我們有不殺害他人的義務一樣，一般來說，這并不需要指明這樣的義務針對的是誰，因為它指向的是所有人：Oa￢[a]殺人。這里涵蓋了主體a與社會其他成員之間的全體相關法律關系的復合[28-29]。更重要的是，如果我們認為這一義務在一般意義上對所有人來說都是有效的，而且只關注沒有人應該被殺害這一結果，那我們可以這樣表達：O￢殺人。

(三) 自由選擇允許

我們可以在系統層面上同時以邏輯來處理允許和義務這兩個概念，即建立一個道義邏輯[20]。這一工作歸功于馮·賴特[30]。馮·賴特提出的弱允許通常可理解為“沒有禁令”。所以“這被允許”這一表達方式意為“不被禁止”。這樣的還原論觀點將弱允許簡化，使其等價于禁止的否定，稱之為義務的對偶。這樣的相互定義由標準道義邏輯的兩條基礎公理之一所刻畫[31]。正如正則模態邏輯中的可能性模態那樣，弱允許采用的是向上原則。“如果允許醫生查閱患者的醫療記錄并進行醫治，那么允許醫生醫治患者”：P醫生(查閱∧治療)→P醫生治療。

這一向上封閉性不可避免地給弱允許帶來過強的、超出社會推理所需要的推理能力，引致羅斯悖論的變種[31]。假定允許醫生去查閱患者的醫療記錄，它會推出允許醫生去查閱患者的醫療記錄或者將其售賣給保險公司：P醫生治療→P醫生(查閱∨售賣)(5)因此，如前所述，允許始終與主體的行動有關，這里所談論的允許P醫生查閱或P[醫生]查閱是P醫生[醫生]查閱的縮寫。，但后者在道德、法律上都是不被允許的。

馮·賴特后來說，“(強)允許意味著在所允許范圍之內的所有選項中自由選擇”[32]32。這種開放性意味的自由選擇在哲學中往往被看作一種自由的[33]允許。這在日常語言和法律語境下，往往以自主意志的形式出現，如“顧客可自行決定給多少小費”，“保釋由法院酌情決定”。與弱允許相比，這種開放性是受限向下封閉的(所用公理記為FCP)。“如果允許醫生知道患者的醫療記錄，那么允許醫生知道患者的病情”：PK醫生記錄→PK醫生病情，因為當前病情往往是醫療記錄的一種，即□(病情→記錄)。范·丙申的道義模態邏輯刻畫了這類允許[34]。其中，強允許不僅遵循那條刻畫了開放性的公理，還必須遵守一條被稱為“義務為最弱允許”的公理(OWP)[35]。針對強允許，后面的這條公理給出了“不違反規定”的限制：所有強允許必須在義務所設置的范圍之內。當允許醫生知道并使用患者的電子郵箱去與之聯系時，醫生是被禁止濫用這些數據的，例如，不允許醫生給患者發送垃圾郵件：O醫生￢垃圾郵件。雖然允許醫生知道和使用患者的電子郵箱，即PK醫生電郵，但醫生所被允許的行為受限于禁令，即□(K醫生電郵→￢垃圾郵件)。這一點與馮·賴特的觀點十分相近[36]。

有人認為強允許的推理能力也會過強，在社會推理中面臨著自由選擇悖論[16]那樣的難題。這里主要是擔心向下封閉性會導致異常情況：如果允許醫生知道患者的醫療記錄，那么就允許醫生知悉患者醫療記錄并毀掉它，即PK醫生記錄→P(K醫生記錄∧毀壞)。這一異常結果基于這樣一個假設：醫生知道醫療記錄并毀壞它是醫生知道醫療記錄的一個例子，即□(K醫生記錄∧毀壞→K醫生記錄)。不過這一假設并非日常生活中的常見例子。第四小節將對強允許做進一步分析。

主張權常常出現在法律、倫理規范中，很容易與我們所說的強允許相混淆[32]。允許無論強弱，總是關于我們自身的行動，而與他人無關。所以，允許與動態的權力更為相似。在某種程度上，這兩者都指向關于我們自身的在規范上不同的可能性。正如Makinson[37]所指出的，它們之間的重要差別在于后果：當我們在沒有允許的情況下做某事時，后果就是被懲罰；然而，如果我們在沒有權力的情況下做某事，我們就不可能去做這件事。正如Markovich[24]所論述的，權力與行動相關，這些行動由構成性規則[38]所生成。我們不能售賣不屬于我們的東西：售賣是一個構成性概念或行動，由描述了當某人出售某物時將會發生何事的規則所構成。擁有財產的這一規范狀態包括了出售這一財產的權力；而如果不擁有這份財產，我們就不能出售它。

(四) 隱私、知情權、允許獲悉：可廢止性、共存性與知識互動

對知識和規范概念的使用，或許會影響我們可以(或應該)使用何種模型。隱私權是一個涉及眾多權利的復雜概念(6)參見關于敏感數據的例1。，它指向隱私這樣一個復合概念[21]。隱私權的內核是一組指向其他所有人的主張權，要求他人遠離其私人領域。也就是說，其他人不得獲悉其私人生活。這意味著長長的一系列禁令，包括那些實際上可能采集或公開其隱私信息的行為。

這些權利像大多數權利一樣是可廢止的。這一性質意味著權利的存在(表達它們的句子的真值或者推出它們的推理有效性)可能依賴語境。某人的知情權所對應的信息可能出于某種原因需要保密，同時存在一個更強的論證支持其保密性而非使之獲悉，在這種情況下，并不存在使前者獲悉此信息的義務。又或者反過來：某人的隱私權意味著禁止其他人知道其私人生活和私人信息，這也是可廢止的。他們的私人生活可能給他人帶來危險，而公共利益通常是反對個人利益的更強論證。有時候要決定哪一個論證更強不是一件容易的事，這是我們所要面對的困境。這兩種情況都可以通過第三節的形式論辯理論來表示。

當我們在知情權這一背景下去談論數據和查詢數據時，需要考慮允許獲悉與知識之間的互動。作為公民，你被允許知道這個城市的歷史檔案。這似乎是一種許可，并且你似乎顯然可以(即允許)走進檔案館查閱資料。如果你提出要查詢數據，那似乎可以說檔案館應該將你所需要的數據提供給你。這意味著你所具有的許可不僅是一個允許，而且是一個主張權。所以，在此場景下，Pa[a]查詢和Ra[b]Ka數據同時成立。這樣的日常許可反映出使用多模態邏輯的另一挑戰。考慮如下與知識交互的例子。如果我們認為在當前情景下所涉及的知識應該是經典的“得到辯護的真信念”，即知識推出真，那么依據知情權RaKaφ這一前提，我們會得到Ob,a[b]Ka數據這樣一個奇怪的結論：檔案館必須讓數據內容為真。當與規范概念互動時，我們尚不清楚知識是否依然推出真。社會推理的其他方面也存在類似的關于知識的挑戰[39]。其中一個著名例子是摩爾悖論[40]，它涉及語用悖論公式Ka(φ∧￢Kaφ)。當我們對自然語言中的“允許”“獲悉”等模態詞進行形式化時，我們希望使用的是何種意義上的知識？在社會推理中，這是一個重要問題。

(五) 人工智能邏輯中的主體間沖突

兩個主體的信念可能是不同的，這會導致主體之間的沖突。然而，兩個主體發生沖突的方式有很多。例如，它們可以執行帶來相反結果的行動，或者它們具有互不兼容的權利。BOID邏輯[41]采用Thomason[42]劃分優先級的想法，將不同類型的信念、義務、愿望、意圖劃分不同優先級，然后通過陳述不同主體類型的通用策略來解決沖突。下一節將介紹主體間的形式論辯理論，以表征不同邏輯公式之間的矛盾沖突。

邏輯有兩種定義沖突的方法。一種方法是使用形式語義，如果一個句子沒有模型，那就有沖突。模態邏輯語義基于可能世界語義。每個模態算子都存在一集合可通達的可能世界，使得形如Oφ為真，當且僅當它所通達的可能世界φ為真。在一個具有持續性的模型上，我們不能為O￢治療和O治療這兩個句子找到同一個模型。另一種方法是為模態邏輯定義一個證明系統：在一集合給定的前提下得出矛盾沖突，當且僅當這個系統同時推出一個公式和它的否定。證明系統的另一個優點是，證明系統的公理可以反映出該邏輯的特征和性質。

三、 論辯理論

論辯理論分析社會推理中的爭論，以期在不同意見中達成共識。爭論在社會生活中是很常見的。下面的例子給出了人工智能邏輯中的三種常見沖突。通過使用論辯理論這一工具，可以表示和解決現實情景中的沖突。我們以墮胎這一全球性話題為例討論知情權，并展示形式論辯理論的方法和工具(圖3)。

圖3 墮胎爭論的形式化(7)其中我們考慮的是新生兒患重病的情況，而[父母]￢孩子表示墮胎這一行為。>

例2[墮胎與知情權]：普遍認為，準父母有權知道胎兒在出生后是否健康。這意味著醫生必須告訴他們是否健康。支持這一觀點的論據是，如果預期胎兒會患重病，那么準父母有權決定他們是否要這個孩子，為了做這一決定，他們必須知道這一點。這會得出墮胎是允許的(如果不被允許，那么就不需要做決定了)。而事實上另一個與之相矛盾的觀點認為墮胎是錯誤的，支持這一觀點的論據是每個人都有生存的權利，即其他人包括準父母都不允許扼殺這個生命。而這一論證支持關系(即論點C1和C2之間的關系)被“生命是從出生開始算起”這一論點所否定，從而不成立，也就是說，墮胎并不違反生存的權利。在美國得克薩斯州，參議院通過了一項法案，宣布生下患有重疾的嬰兒的父母不能因為在懷孕期間醫生沒有識別這一疾病而起訴醫生。如果某事(或其賠償)不能讓法院強制執行，則其不作為義務存在[24]。這意味著，在得克薩斯州，準父母沒有權利讓醫生識別胎兒是否患病。我們將對疾病的識別形式化為[醫生](K醫生患病∨K醫生￢患病)，即醫生讓自己知道胎兒是否患病。而問題在于，這一識別行為如何與這種(最可能的)義務相聯系：如果醫生知道胎兒患病，那么他應當告訴準父母。而告訴準父母胎兒是否患病可以被形式化為[醫生](K患者患病∨K患者￢患病)。在理論上，這兩個命題似乎是相互獨立的，因為醫生不必須識別，而如果他識別了則必須告知。但在實際操作中，如正被廣泛討論的，在得克薩斯州和法律界，這似乎給了醫生選擇的可能性：我們不知道醫生是否識別出疾病，或者醫生已識別但他因為擔心準父母可能不要這個胎兒而決定不告訴他們。由于我們似乎難以得知他人所知所想，我們難以區分上面闡述的那兩種情況：如果醫生知道了這一疾病但并未讓其他任何人知道，那么我們可能永遠不可能知道醫生是否知道。這意味著識別疾病這一行為不可能被起訴，更何況如果醫生知道，他就應當告知準父母。但如果醫生沒有告知準父母的義務(因為它不能被強制執行)，那么識別問題成了告知問題，從實踐角度來講，這也意味著準父母沒有關于其胎兒是否健康的知情權。

(一) 可廢止性

社會現實中的推理通常不像模態邏輯那樣演繹有效，而是不確定的，需要解決沖突。不確定的社會推理是普遍存在的。如果患者患重病，那么醫生有義務為其治療：患病→O醫生治療。如果醫生不知道患者的醫療記錄，那么他不應該去治療：￢O醫生￢治療→K醫生患病。到目前為止，一切還好。但如果換成是患者得病但其隱私權阻止醫生得知患者的醫療記錄的情景，即這個假設為集合{患病,￢K醫生患病}，那么我們會得出O醫生治療和O醫生￢治療這樣的結論，即醫生有義務醫治患者，同時他也有義務不治療。哪一個結論才應最終被接受呢？這樣的不確定性給出了一組規范沖突[43-44]，而人工智能邏輯正是要解決這一問題(8)參見van der Torre L., ″Reasoning about Obligations: Defeasibility in Preference-Based Deontic Logic,″ PhD Thesis, Erasmus University Rotterdam, 1997。[45]。

智能的關鍵特征在于，當例外的新證據出現時，它能對社會推理的結論的不確定性進行處理[3,45-46]。一般采用“可廢止性”去處理這一問題，后面將對這個概念進行解釋。

(二) 表征、解決主體之間沖突的形式論辯理論

利用邏輯解決沖突的基本思路是很直接的。在經典邏輯中，沖突就是不一致。如果假設中既存在結論為“門開著”的論證，也存在結論為“門關著”的論證，那么在經典邏輯中就會從這一假設推出任意結論。而在人工智能邏輯中，僅有部分論證的邏輯有效并最終被接受。因此，人工智能邏輯就像一個篩子那樣對所有可能的論證進行篩選[43]。

這兩種處理沖突的方法的微妙差別在于，形式論辯系統并不假設所有的沖突都可以得到解決。有時候我們并沒有足夠的信息去解決沖突，或者存在兩種互不相容的方案。在這種情況下，形式論辯理論仍然具有重要作用，因為它能夠明確表明分歧所在。正如其目標所示：贊同不同之處。

形式論辯系統的特殊性在于，它并不事先假定論證在對話中的作用，與之相反，它假設所有論證都得到展示，然后決定哪些論證會被接受、哪些被拒絕。這種方法與法律運作的方式相似：所有證據都會呈遞給法官，然后由法官來做出決定。而呈遞、發現證據的順序被認為與判決無關。

形式論辯系統和其他人工智能邏輯的重要特征是，一旦有更多可用信息，就可以舍棄原有結論[3,45]。這使得缺省推理是可行的。例如，在我們知道Tweety是企鵝之前，我們可以假定Tweety會飛。在這種意義上，人工智能邏輯是非單調邏輯[43]。

(三) 可廢止知識、可廢止規則、論證

通過系統地對論證的(可)廢止性進行比較，論辯理論提供一種方法去澄清社會推理的非單調原因。一般來講，論辯理論通過可廢止知識或可廢止推理規則來定義論證，從而定義三種攻擊論證的方法：攻擊作為前提的可廢止知識、攻擊可廢止規則的結論、攻擊這些可廢止規則的使用。這樣也解釋了可廢止規則的前提是推定地而非演繹地支持其結論[47]。關于墮胎的例子表明了在論辯或爭論的不同階段其可廢止性是如何成為可能的。

我們區分兩類知識和推理規則(參見圖3)，以刻畫可廢止規則和可廢止論證。一類不是可廢止的而是嚴格的。在圖3中，可廢止的用虛線表示。嚴格規則記為，圖中用實線表示，用以刻畫演繹有效的推理，其中前提的真保證了結論的真。而可廢止規則記為，圖中用虛線表示，表示推定性推理，其中前提很可能支持結論，但它可以由相反證據來推翻。每個論證可以通過知識作用于推理規則來遞歸地定義。一個論證是可廢止的，當它所使用的規則是可廢止的，否則是嚴格的。一個論證是穩固的，當前提中的所有知識都是嚴格的，否則是可能的。在圖3中，帶*號的方塊表示知識，而沒有*號的表示那些通過推理規則構造的論證的結論。以“墮胎不可接受”為結論的論證C2是可廢止的，因為它所使用的規則是可廢止的；而“生命始于出生”的論證D本身就是嚴格知識，因而它是穩固的。在圖3中，每一個方塊代表了一個論點，它們也是論證的結論。論證C2是可廢止的而論證D是嚴格的。圖3中所有論證除了B4和B5都是穩固的。

(四) 關于論證的偏好

我們首先介紹基于規則的偏好[18]來給論證劃分優先級。基于規則的偏好總是偏好嚴格論證甚于可廢止論證。因而在圖1中，它(嚴格)優于論證B3甚于論證A4。此外，還有其他比較論證的方法，其中一種叫作全稱偏好，另一種叫作基于前提的偏好[18,47]。全稱偏好對每一個論證的偏好都是一樣的，因而全稱偏好是作用于所有論證的等價關系。我們也可以通過前提的性質來對論證進行分類。基于前提的偏好認為穩固的論證比可能的論證更優。

(五) 使用擊敗關系來解決論證之間的沖突

將帶有不同論點的論證放在一起會導致不一致，我們可以通過擊敗這個概念來比較它們。我們遵循已有文獻所定義的三種擊敗關系：反駁、切斷、削弱[47]。關于墮胎的爭論很好地說明了這種區分。第一種擊敗關系是最廣為人知的反駁關系，它基于論證規則的結論去探討可廢止性。在這個爭論中，嚴格論證A4的結論“醫生應當告訴準父母其胎兒是否患病”與可廢止論證B4的結論相反。因為在基于規則的偏好中A4比B4更優，所以A4反駁了B4。第二個概念切斷關系是基于論證前提來考察可廢止性。穩固論證A2的前提“準父母有權決定他們是否要孩子”與穩固論證C2的結論相反，而在基于前提的偏好中A2不比C2更優，因而我們說A2被C2切斷。最后一個概念削弱關系指出一個論證是如何通過攻擊另一個論證的規則使用來擊敗后者的。在基于規則的偏好下，嚴格論證D的結論“生命始于出生”與結論為“墮胎不可接受”的可廢止論證C2所使用的推理規則相矛盾，因此論證D削弱了論證C2。

(六) 穩定外延

如何從一集合存在沖突的論證中挑選出得到辯護的、無沖突的論證？1995年Dung[48]提出一個叫作“穩定外延”的概念來處理沖突。在Dung看來，稱一集合的論證為穩定外延，當前僅當被這個外延里的論證所擊敗的那些論證都不包含在這個集合里。也就是說，首先集合內的論證不會相互攻擊，其次所有外部論證會被這個外延中的某個論證所擊敗。每個穩定外延所包含的論證相互接受。因而，穩定外延為我們提供了另一種一致性，用以解釋在何時一集合的論證不存在沖突。在例2中，支持論點“醫生應當告訴準父母其胎兒是否患病”的那些論證形成了一個穩定外延，也就是論證A1、A2、A3、A4、B1、D之間相互接受。

四、 行動自由

如第二節第三小節所闡釋的，如果我告訴你可以喝綠茶或喝紅茶，那么我是在建議你可以自由選擇喝綠茶或喝紅茶。因此，你可以喝紅茶，也可以喝綠茶。這被稱為自由選擇允許[16,36]。基于關于知識和行動的人工智能邏輯這一背景，本節來探討自由選擇允許。例如，假設你被允許知道客戶住址或電話號碼，這是否意味著你被允許知道客戶住址及電話號碼？如果你被允許步行或坐公交車，是否意味著你被允許步行及坐公交？

本節將描述基于論辯的人工智能邏輯是怎樣使用形式論辯理論去應對關于自由選擇允許的挑戰的。我們必須謹慎對待自由選擇允許這一概念。例如，自由選擇悖論[16]闡釋了倫理沖突的核心之一在于不恰當地將義務、允許、可能行動放在一起考慮。這一點可以通過道義邏輯[34]的兩個基本原則FCP和OWP來解釋。

如第二節的第三小節所述，FCP描述了自由、自由行事的直觀，刻畫了自由選擇允許[16]和強允許[35]。FCP可以用來表示產品購買情景下的允許知悉。為了提供在線購買服務，電商公司被允許知道顧客所提供的信息或顧客使用情況的信息。這會得出電商公司具有知道這兩類信息的許可。電商公司這種知情的自由可被視為提供在線服務的必要條件，而這是寫在其隱私聲明中的。

而OWP這一公理表達了所有允許都受限于義務。在在線購買這一例子里，電商公司對不同類型私人信息的獲悉允許被隱私聲明、它所參與的隱私保護框架、數據保護法中的義務和責任所限制。FCP和OWP這兩個原則在不同類型的社會推理中常常被用到，例如自然語言推理[49]、博弈[17,35]、法律推理[27]等。

以上提及的兩個原則是相互一致的，但與某些例外假設放在一起時可能會產生不一致的情況。考慮圖4中的例子如下：

(1)允許知道用戶個人信息。(B)

(2)禁止將用戶個人信息用于其他目的。(A)

采用“義務為最弱允許”原則OWP，我們會得到如下結論：

(3)知道用戶個人信息(通常)不會導致濫用。(C′)

然而，我們同時有作為例外的前提“知道用戶個人信息后也可能將其用于其他目的”(C)，而這一前提與前面的陳述C′相矛盾。而較C′而言，我們更偏好陳述C這一可能的新信息，因為它以社會事實作為證據；與此相比，舊陳述C′是可廢止的。如此，我們便不再認為知道用戶個人信息(通常)是在在線購買服務的目標范圍內的(C)。此外，我們不會推論說濫用信息是允許的(B′)，因為它是一個在已有的得知用戶個人信息許可的基礎上通過使用可廢止規則FCP推出的結論。在社會情景下，比起用可廢止規則刻畫自由選擇允許，我們認為將允許置于義務范圍內是更合理和更可取的。因此，規則OWP壓倒規則FCP。不過，依據社會思維，我們仍然希望得到諸如電商公司被允許知道用戶個人信息以接收和處理訂單的論證(B″)，因為這里不存在比之更優的相反論證(圖4)。

圖4 知道用戶個人信息的示例

五、 社會人工智能邏輯研究計劃

高性能計算和其他計算技術使得計算機的計算能力不斷增強，推動人工智能的驚人發展。目前，應用于機器學習中的技術其實已經存在了幾十年，卻在現今計算技術的幫助下才得到廣泛應用。普遍認為，在人工智能的其他領域，如表示和推理，也將有類似的革命到來。尤其是，盡管數據科學和機器學習已經催生出被稱為動物智能的技術，但人們期待信息與知識技術的發展會帶來人工智能，雖然關于什么是人工智能依然沒有達成共識。

對于社會人工智能的發展，我們需要理解知識表示與推理所面臨的挑戰。我們可以從20世紀80年代系統的研究中吸取一些教訓：以往的人工智能工作承諾了很多，但缺少我們今天所擁有的計算能力。本節將基于對本文所提出的四個研究問題的討論，提出一個面向基于論辯的社會人工智能未來發展的研究方案。

本研究方案始于20多年前所編寫的《人工智能邏輯和邏輯編程設計手冊》[50]。其中人工智能邏輯包括五個主題：邏輯基礎、演繹方法、非單調推理和不確定推理、認知與時態推理、邏輯編程。在過去的20多年中，這些領域有了一些發展：(1)一階邏輯的片段已經得到更為具體的研究和發展，尤其是用于表示和推理本體的描述邏輯(9)描述邏輯可參見Gabbay D.M., Hogger C.J. & Robinson J.A. (eds.), Handbook of Logic in Artificial Intelligence and Logic Programming, Volume 1: Logic Foundations, Oxford: Clarendon Press, 1994。。(2)已有的演繹方法已在新的計算技術中得到采用，而像Isabelle那樣的交互式定理證明器對用戶已經變得更為友好[51]。(3)形式論辯理論是處理非單調推理和不確定性的主流方法，這可參見COMMA系列會議(10)The Conference on Computational Model of Arguments (COMMA系列會議)的歷年信息可在http://comma.csc.liv.ac.uk查閱。。形式論辯理論系列手冊的第一卷于2019年出版，而第二卷正在準備中。(4)認知與時態推理已經拓展至主體推理，其中包括行動、偏好、意圖等概念，這些概念在AAMAS系列會議中得到討論(11)International Foundation for Autonomous Agents and Multiagent Systems (AMMAS系列會議)的歷年會議論文集可在http://www.ifaamas.org/proceedings.html查閱。。(5)邏輯編程已經發展至回答集編程[50]。

此外，如前所述，當前人工智能的挑戰在于如何將人工智能邏輯應用于社會推理。

(一) 基于論辯的邏輯

本文方法論的第一步是將形式論辯系統和形式邏輯一起考慮，從而建立基于論辯的邏輯。這里并不區分理論推理和實踐推理。

本文假設形式論辯理論是形如ASPIC+這樣的基于規則的論辯理論。它采用兩個基本邏輯，一個作為下限邏輯，一個作為上限邏輯，使一個刻畫嚴格規則而另一個刻畫可廢止規則[47]。這種定義論證的方法被稱為粗略方法。大致來說，選出兩個模態邏輯，嚴格規則可由下限邏輯的推演來定義，而可廢止規則可由上限邏輯的推演來定義[18]。這種方法如Modgil和Prakken[47]所論述的，是基于某種認知或理性標準。這種方法通常用于定義論辯理論，并進一步通過關于社會推理的系統性論辯理論表示不同的非單調人工智能邏輯。

然后，我們通過對知識分類來區分不同的論證[47]。我們將知識區分為可錯的和可靠的。在這種情況下，一個論證的可錯性不僅可以存在于前提中，還可以存在于從前提到結論的推理過程中[47]。這種分類定義了一個新的偏好，即基于前提的偏好，通過比較不同類型的擊敗關系來解決倫理沖突。人工智能邏輯的構建也會反映這樣的區分：通過不同的前提來區分不同的推演。

我們在以往工作[18]中提出如何在穩定外延、兩個單調邏輯和基于規則偏好的基礎上通過一種統一的方法建立人工智能邏輯。這一逐步構建的方法與模態邏輯中的Lindenbaum引理證明[52]類似。其基本思想是先基于下限邏輯再基于上限邏輯去構建一個一致的論證集合，在平衡嚴格規則和可廢止規則所對應的論證的同時保持論證集的極大一致性。

基于這種兩步構造法一步步地構建穩定外延，從而給出我們的人工智能邏輯的定義[18]。所有邏輯推演來自下限邏輯或上限邏輯。這里有三步：首先構建基于論辯的邏輯，其次構建基于論辯的人工智能邏輯，最后構建基于論辯的社會人工智能邏輯。

(二) 基于論辯的人工智能邏輯及推理

在第二步中，我們將聚焦實踐推理在人工智能邏輯中的特殊性。由于理論和可觀察現實之間的對應，傳統上認為理論推理比實踐推理簡單。但是，隨著量子力學等現代物理學的興起，實驗檢測理論的推進也變得越來越困難。然而，一般來說，由于實踐推理所內含的模糊性以及缺乏實驗數據，對實踐推理的形式化要比對理論推理的形式化困難。據此，本文的示例提示了三點注意事項：

(1)復雜性：正如本文示例所展示，形式化是困難的，每一個給出的自然語言句子都有多種不同的形式化，而每一種形式化都有其優缺點(12)在例1中，存在三種對穩固知識“醫生應當治療患者”的形式化方式。圖1中給出的O醫生〈醫生〉治療是其中一種，而另外兩種是O醫生[醫生]治療和生病→O醫生[醫生]治療。。

(2)多樣性：最優的形式化往往是不存在的，而通常是在表征或模型之間做出權衡。

(3)論證提取：人們可能會在不同程度上錯誤地表征論證，我們需要一種方法去調整其論證。

當前的數據驅動方法，如自然語言處理、論證挖掘、機器學習等，將幫助我們完成上述的論證提取任務，幫助我們設計更好的社會人工智能邏輯。

(三) 基于論辯的社會人工智能邏輯

在架構社會人工智能邏輯時，不僅對示例的表征必須足夠靈活，而且所給出的一種好的語言、一些好的公理和一種好的語義也是必須經過經驗檢驗的。這解釋了為何本文題目采用了“面向”一詞。

例如，我們來考察使用強允許對表征多主體交互中的信任所起到的作用。信任反映了多種在社會交互下的依賴，它賦予可信賴的個體以行動的自由。而另一方面，可信賴的機構的大多數活動需要帶來正面影響。因此，要得到其他人的信任從而可自由行動，被信任的主體需要針對其行為有一個好的決策規劃。這些社會現象的形式模型需要處理信任、允許、決策行為之間的進一步聯系。

六、 相關工作

許多來自人工智能邏輯和社會推理的概念已經得到了研究，雖然本文尚未對它們進行討論。人工智能邏輯和社會推理的總體領域是很廣闊的[53]，表1中列出了其中的一部分。本文將必要的概念限制在知情權和隱私的范圍之內，因此沒有明確地討論信任、聲譽、責任、職責等概念。不過，通過形式擴展，我們的人工智能邏輯也可以處理這些概念。例如，可在我們的人工智能邏輯語言中增加多主體認知模態算子，從而刻畫多主體之間關于公平與偏見的社會認知。

表1 關于個體和集體推理的概念

社會推理考慮一個主體如何受其他主體行為的影響，并明確展示出主體間的社會依賴性[13,53]。此外，社會依賴與主體間的信任相關[54-55]。一方面，信任是一種挑戰，因為信任的破壞會對個體規劃造成負面影響[56]；另一方面，通過對其他主體的依賴能夠比單個個體實現更多的目標[57]。從這個角度來講，社會依賴和社會信任是這個社會的黏合劑。在認知邏輯中，它們由社會網絡中的信念和信任所表征[58-60]。在規范推理中，社會網絡由主體之間的權利來表示。

在法律語境下，部分社會規范是被制度化的[19，25-26,61-63]。同樣，法律可以看作一種限制主體的方式，或是一種賦予主體權利的機制[19, 26,62]。隱私規范可以限制每一主體對其他主體的知情，同時幫助每個主體保護自己的數據和隱私[64]。

按照這樣的做法，主體的其他認知態度也可以用相同方式來建模，包括主體的愿望、目標、意圖[13,65-66]。此外，還可以對行動及其變化進行形式化[67]以表達因果性。雖然本文并沒有考察這些概念的形式化，不過，下面給出了與之相關的三類工作。與它們相比，本文所提出的用于刻畫社會推理的人工智能邏輯是一個道義認知行動邏輯。

1.關于義務與主體的邏輯。STIT邏輯是一個得到廣泛應用的關于義務與主體的邏輯[13]。基于Bratman關于實踐推理的哲學觀點，STIT邏輯給出了一個刻畫主體義務的BDI框架[68]。STIT邏輯的語義是一個細化了主體選擇的分支時態模型：主體的每一個選擇都依賴它所處的時刻和歷史。主體的行為通過其行為結果來隱含地表達。STIT模態的基本思想為：主體a導致狀態φ，即[a:STIT]φ，當且僅當主體的選擇保證了狀態φ的成立。因此對主體來說，STIT邏輯所刻畫的并非“應當做”而是“應當是”：對主體來說應當是的行為就是與之相關的主體的理想選擇都能實現。事實上STIT邏輯不僅很好地刻畫了個體行動，也很好地刻畫了集體行動[69]。所以，STIT邏輯廣泛應用于對社會影響[70]、決策博弈[71]、法律推理[19,24]等方面的分析。近年來，關于義務和知識的STIT邏輯也得到了研究[12,14]。關于STIT邏輯，《多主體規范系統手冊》相關章節有更多討論[72]。

2.關于條件規范邏輯。條件規范通常用來表達道義分離陳述，如“當ψ時φ是應當的”。也就是說，給出一個條件規范及其前件，可以推出這個條件陳述的道義后承。道義邏輯學家給出不同的形式系統去探索條件規范的普遍特征，其中，輸入/輸出邏輯[73]與基于偏好的道義邏輯[74]及其動態邏輯[66]是刻畫道義分離的兩個主流方法。在實際應用中，條件規范邏輯可以討論法理學中的構成性規范[63]。

3.關于權利與允許的邏輯。在社會推理中，要通過模擬主體之間的規范行為來充分考察主體間互動，那么允許是一個重要但尚未被充分研究的概念(13)關于允許這一道義概念的最新研究，請參見Dong H., ″Permission in Non-monotonic Normative Reasoning,″ PhD Thesis, University of Bayreuth, 2017。[16]。在社會現實中允許是很常見的：“本雜志是開放獲取的，每個人都可以免費閱讀并下載其中的文章”；“在激活了月票后，你可以在一個月之內乘搭盧森堡任意公共交通工具”；“在簽署房屋購買合同后，你可以自由地裝修自己的房子”。這里的允許涉及幾乎所有社會生活中的自由、隱私、賦權等概念。給定一個允許，要理解這個概念的含義，我們需要一種合適的方法對這個允許與義務、知識及主體所能實施的行為等相關概念之間的關系進行推理。

在哲學、語言學、計算機科學、法律等領域，許多研究人員已經指出允許這一概念的多面性。例如，允許可被看作作為義務對偶的弱允許[30]、刻畫自由行動的強允許[36,49,75]、具有動態特征的允許[76]、作為已有規范的例外的可廢止允許[77-78]等等，它們涵蓋了許多在多主體互動中使用到的重要理性原則。

在這里，我們依據馮·賴特的思想來比較弱允許和強允許兩個概念[36]：如果一個行動不被禁止，那么它在弱意義上被稱為是可允許的；如果它不被禁止并服從規范，那么它就是在強意義上可允許的。被強允許的行動因而是被弱允許的，但反過來不必然成立。這兩種允許可以通過它們與知識的交互來區分。假如你有一張月票，那么你被允許使用任意公共交通工具。但如果它是一個弱允許，又假如你不知道在搭乘交通工具前并不禁止不打卡，那么你就不知道在進入交通工具前是否可以不打卡。這樣給出的弱允許并不能指導主體的行動。而如果將車票看作一個強允許，而你知道不打卡是使用這一車票搭乘公共交通工具的其中一個行為，那么你知道在搭乘交通工具前允許不打卡。此外，在多主體交互語境下，同伴的信任賦予你在其房屋中逗留并使用房屋設施的自由，而無須明確指出什么是不被禁止的。

七、 結 論

本文給出了一個社會人工智能邏輯研究計劃，它是在數據科學和機器學習技術等人工智能技術上的擴展。人工智能邏輯對智能主體的推理進行形式化。社會人工智能邏輯在人工智能邏輯的基礎上增加與社會推理相關的機制。本文展示了關于行動、知識、權利、義務和允許的人工智能論辯邏輯如何形式化社會推理的各個重要方面。除了對個體知識和行動進行推理外，社會人工智能邏輯也對主體間的社會依賴性進行推理。

首先，我們指出權利如何分析主體的義務和允許之間的關系。例如，將自由看作允許的一種，那么，一個主體有知道某信息的自由就是他人沒有知道該信息的主張權。當一個主體對他人有對數據知情的主張權，這意味著他人有義務去讓這個主體知道這些數據。在社會實踐中，這種義務和允許之間的互動涉及主體之間的依賴。

其次，我們解釋了主體間的沖突是如何得到識別的且可以通過對比關于允許和禁止的邏輯論證來解決沖突。使用形式邏輯或者形式論辯理論工具可以達到這一目的。邏輯的不一致概念可以用來識別爭論中的沖突，而要解決沖突，我們就要用到論辯理論。通過被擊敗的論證可以展示沖突。在論辯理論中解決沖突的方法是采用穩定外延來選出所有被相互接受的論證。

再次，我們用兩個例子來闡明如何探討知情權。這與近年關于隱私和倫理討論的中心問題密切相關。第一，與其他社會推理類似，關于知情權推理具有非單調性。我們的例子考慮了兩類知情權的非單調性。一方面，醫生對病人健康數據的知情不應導致不良結果的產生，如病人數據的濫用；另一方面，準父母是否對其胎兒是否患病有知情權，這在倫理、法律的元理論層面依然存在爭論。第二，我們要回答如何通過邏輯對主體知情權進行建模。知情權不僅與允許、義務等規范概念相關，也和主體的認知和行動緊密聯系。這一方面要求我們嘗試對知情權給出不同的形式表征，另一方面則要求我們積極探索知情權與其他主體概念之間的多層次關聯。例如，知情權存在的前提在于主體的知識，如何通過人工智能邏輯來表示知情權所涉及的爭論，依然值得我們進一步探討。

最后，我們在形式論辯的框架下討論了自由選擇允許所帶來的挑戰。在這里，我們并沒有簡單地斷言自由選擇允許是否為一個理性概念，而是給出關于個人信息的知情權這一實例，指出自由選擇允許所涉及的問題是如何在義務、允許、行動的互動之下得到重新解釋的。使用用戶個人信息的自由是受法律所約束的。如果不考慮自由選擇允許與其他道義概念之間互動，則很難說我們所擁有的自由是理性的、合理的。