何時是“他們”，何時是“我們”

陳晟

如果一個人工智能，真的到了能夠獨立判斷、獨立學習的水平，它會把我們人類視為自己的同類嗎？

最近，隨著電影《超能查派》、《復聯2》隆重上映，對“怎么讓AI（人工智能）理解人類的道德體系”、“AI造反了怎么辦”等問題的討論非常熱烈，“人工智能”似乎一夜之間就和普通人扯上了關系。

想要造出一個能夠和人類智力水平相當的AI（比如查派），顯然并不容易;而如果真的造出來了，這些個AI會如何看待我們，則是個更加復雜的問題。

內外有別

具有社會性的生物，在自然界并不罕見：螞蟻、蜜蜂、大猩猩等等，都能在不同程度上顯示出高度的分工合作，這和人類社會有些相似。實際上，這些生物的集體行為，強大得令人驚訝：工蜂可以甘心情愿地出外覓食來喂養蜂王和幼蟲，面對入侵者時不惜自殺性的攻擊（蜜蜂在蜇刺之后自己也會很快死去）;紅火蟻在溺水時會迅速而有序地簇擁成一個漂浮的球體，保證“球心”中部分的同類有機會生存下去——大公無私的典范。

然而，這些生物的“團結友愛”往往有個決絕的界限：只對本群的同類有效。對于其他種類的生物，或是不屬于本群的同類生物，其手段的殘酷性同樣令人咋舌，比如成年的雄性黑猩猩如果遇到其他族群的幼年黑猩猩，通常都會毫不猶豫地將其殺死。

類似的現象，其實在人類的歷史上也很常見。

在氏族社會，部落沖突中的戰俘往往會被殺掉祭神，在一些地區甚至會被視為合法的食物做成燒烤;到了封建時代，諸侯國之間的戰爭，偶爾也會伴有對戰俘的大規模屠殺，比如戰神白起那令人遺憾的“坑埋趙卒”。即便到了工業社會，仍然有人將異族的性命視為草芥，美國先賢們對印第安土著的逼迫，二戰中對猶太人的大規模殘害，發生在中國南京的大屠殺，都是這種殘忍行為的突出表現。甚至到了后工業時代，在地球上的一些落后地區，還不時發生對異族的種族滅絕慘案，比如電影《盧旺達飯店》所展現的那樣。

這種種現象，背后的邏輯往往驚人的一致：非我族類，其心必異;對于這些異類，完全不必也不該采取和同類相同的道德標準，怎么狠就怎么來吧。

DNA的失敗？

上述現象，無論是黑猩猩還是人類，可能有一個共同的成因：DNA。

在數萬年的進化過程中，如何將自己的DNA延續下去，成為每一個物種面臨的最嚴峻考驗，也成為大多數生物建立行為模式的終極指南。為了讓DNA延續下去，個體會努力爭取一切繁殖的機會，會不惜代價地保護自己的幼崽;更深一步，則會盡量讓擁有共同DNA的其他個體獲得繁殖、生存的機會：蜜蜂和螞蟻的行為似乎就可以歸于此類。

但是，在人類脫離自然、慢慢形成更高層次的社會文明之后，DNA那說一不二的強權卻被悄悄地逐漸稀釋了：從有直接血緣關系的兄弟姊妹，擴展到擁有共同祖先的氏族（表現為相同的姓氏）;從以居住地為依據的諸侯國，擴展到以身份認同為主的民族國家（比如“炎黃子孫”就曾被用作與“夷狄”區分開來），人類對于“我的同類”的認定范圍，不斷的擴大開來，也更善待自己的同類，甚至可以為了保護同類而作出自我犧牲，而這些顯然都是不利于自己的DNA延續的。

這種認同感擴大有很多可能的原因，但都和DNA或者說和血緣漸行漸遠;相反，人類的思想、感情、精神因素在其中的作用則越來越大。有些人是出于宗教上的認知，基于對死后生活或者下一世生活的恐懼與期待;另一些人則完全出自道德和信念的考量，為了保護同類而甘冒生命危險，也并不追求有形或無形的報償。戰場上的軍人、火災中的消防員、面對恐怖分子的警察，都是身邊常見的例子。

同時，這種高尚的品質，可以超越DNA而傳播下去——人類的語言文字能力，讓思想的傳播不再依賴繁殖本身，由此克服了“無私的基因容易被演化淘汰”的悖論。電影中的AI機器人查派，也正是目睹了自己“父母”的英勇行為之后，才迅速形成了這種違反自我保存本能的意識，把僅有的一具機體讓給了男主角，實現了認知上的飛躍。

無論是出于何種原因，借用道金斯在《自私的基因》一書中的話來說就是：“只有人類，才能夠反抗基因的暴政。”

此起彼伏

進入信息時代后，對于“誰是同類”的問題，又有了一些新的波動：既有所擴大，也有所收縮。

擴大方面，是人類把對“同類”的情感延伸到非人類物種身上。很多人已經能夠對動物福利有所重視，不僅是對那些看起來很可愛的寵物，也包括不那么符合人類審美情趣但更需要保護的野生動物;連一些行為有趣的機器人都能獲得人類的認可，包括那只飛到月球上的兔子。

這種擴大很有意思，因為這些被視為同類的生物，實質上對于人類的利益并無直接促進。

《圣經》中有一個著名的典故：耶穌說，你們要愛你們的鄰居如同你們自己;一個律師就問說那誰是我的鄰居呢？耶穌就舉了“好撒瑪利亞人”的例子，并說能夠這樣幫助別人的人就是你的鄰居。不考慮宗教本身的教義，這里頭對于“鄰居”或者說“同類”的認定標準，還是帶有一定的功利主義色彩的。也就是說，無論是DNA還是價值觀使得人類產生了舍己利他的行為，潛臺詞都是“這對人類整體利益而言是有益的”，但對于野生動物的保護則顯然不在于此。

也可以說，人類此刻的共情已經超越物種間的界限，甚至超越了生物的本能。

而限縮方面，則主要體現在“敵人刑法”（Enemy Criminal Law）上。這個由德國法學家雅各布斯（Jakobs）提出的觀點，簡單而言就是對于“社會的敵人”要區別對待，不能給予他們和普通公民一樣的法律權利，比如說允許秘密監聽、限制出入境、延長審判前的羈押期限、縮短上訴期限等等;而“社會的敵人”主要指那些危害國家安全、實施恐怖襲擊的特殊罪犯。

基于這種理論，美國在二戰期間制定了《敵國僑民法案》，將大量的日本裔美國人“集中居住”，在反恐戰爭開打之后則設立了關塔那摩監獄，將大批恐怖分子不定罪即羈押。很難說清這種做法是否正確，但它顯然是將一部分敵對分子從“同類”的概念中剔除出去了。

此外，“誰是同類”的問題還存在一些爭議區域。比如，克隆人算不算是人類呢？電影《銀翼殺手》中就表現過這種深深的糾結。而另一部經典電影《E.T.》，拋出的問題則是：如果有外星生物，我們該把它們視為同類嗎？它們又會怎么看待我們呢？

人工智能

好了，繞了一大圈，該回到開頭提到的主題上了：

如果一個人工智能，真的到了能夠獨立判斷、獨立學習的水平，它會把我們人類視為自己的同類嗎？

如果AI走了大多數人類的路子，把人類也納入了“同類”的范疇，那真應該慶幸，至少智能機器人在對待人類上不會隨心所欲;而如果AI只把另一個AI視為同類，拒不承認人類的“同類”地位，問題可能就會非常麻煩了。正如我們煮開牛奶時不會考慮細菌的痛苦一樣，《黑客帝國》里“母體”把人類做成生物電池時，也沒有有任何的負疚感。

至于如何促進AI產生對人類的認同感，有個例子或許可以借鑒：頻繁接觸、共同生活后，人類的移情作用往往會投射到寵物身上，甚至投射到掃地機器人和家用轎車上，產生了強烈的認同感和感情。

不過，人類的行為當然也會對AI的感情產生影響，如果AI發現我們只不過把它們當作用過就扔的工具（就像是《七武士》中的那些村民那樣），會不會感到憤怒和寒心呢？

然而，事情究竟會朝著哪個方向發展，我們依然不得而知。或許某一天，一臺真正意義的AI，會坐在門檻上望著夕陽，苦苦的思考著：“人類和另一個AI，誰才是我的鄰居？”（本文首發于果殼網，本刊略有改動）