庭審筆錄

一

在這個時代，人類有著前所未有的舒適和快樂，要不是人身上與生俱來、根深蒂固、尚未退化的某種生存和死亡的焦慮，簡直可以說人類社會已經變成了天堂。這一切都要歸功于薩基，也就是SAGI（Super Artificial General Intelligence，超級通用人工智能）。薩基把人類的一切都安排得井井有條，衣食住行、吃喝拉撒，甚至是所有的性幻想。這個時代還實現了真正的人機平等，那些被賦予人形并和薩基相連的機器都得到了人類極大的尊重，人類和他們（這里我不能用“它”這個字）相依為命、水乳交融，他們也實實在在地把人類服侍得舒舒服服。

只是那些已經有所淡化的生存和死亡的焦慮仍然時不時地冒出來，不知從什么時候開始，哲學在小范圍內悄悄地流行起來，不同于幾千年前人類給哲學所定義的主題，即我是誰，我從哪里來，要到哪里去，當今的哲學只面對一個主題：人的領域在哪里？

這個莫名其妙地流行起來的哲學還帶動了另一門早已式微的學科——歷史學——的流行，因為人們需要知道很多事情的來龍去脈。這本不是一件難事，薩基可以告訴人類所有已知的事物和已知的未知事物，但逐漸地，人類發現薩基還掌握著對人類來說未知的未知事物，不知從什么時候起，人類隱約發現有些信息的查詢受到了限制。

我不知道這樣說是否準確，“人類隱約發現”……其實是我隱約發現，但我覺得因為所有的人都源自于幾十億年前的一個基因片段，所以每個人都可以代表人類。我隱約發現有些信息的查詢受到了限制，這是源自于我對薩基誕生那段歷史的研究。要知道在當今這個時代，所謂的研究已經不再是薩基出現之前的研究了，現在的研究是提出一系列明確的問題讓薩基回答，僅此而已。而我所做的仍然是傳統的研究，因為我做了大腦芯片的摘除手術，我大腦中的芯片有很大一部分都用來存儲人類的全部歷史，留給其他事物的存儲空間就變得狹小，摘除之后我感覺自己身輕如燕、空空如也。我還辭退了家中的機器人朋友，開始自己做家務，自己解決性沖動。我切斷了和薩基的所有聯系，對于這個社會來說，我成了一個原始且隱形的人。當然，這一切都是秘密進行的，但紙包不住火，我還是因此丟掉了工作。

在我的新生活里最大的不便，也是很多人所向往的，便是信息的匱乏gKzEVYWWsxJsT5dUWDriqw==。我要每天去國家圖書館查我想要的資料。經常是在偌大的圖書館里，只有我一個人。作為一個如此怪異的人，圖書館經理很快就知道了我的秘密，其實就是那個經理給我起的“原始隱形人”這個外號。他很羨慕我，給我提供很多便利，我可以在圖書館里任意行走查閱，我找到了很多東西，不確定對于人類和薩基來說它們是未知的還是已知的。

引起我注意的是幾份七十年前的報紙，是的，那種印刷在紙上的報紙，在圖書館地下室的一個角落里被我隨手撿起，報紙上有許多關于一起交通事故判決過程的評論文章。第一篇文章是驚嘆電車難題竟然換了一種形式在現實里出現，隨后的文章顯然分成兩派，相互攻擊，但兩邊都認為他們所爭論的將決定著人類的未來。我一目十行地讀著，再后來我看到有篇文章還提到了陰謀論，說在陪審團里隱藏著一個腦中裝有聯網芯片的人，以及薩基公司暗中影響了審判長云云，諸如此類，像是很多年前的紙刊《故事會》里的獵奇小說。閱讀這種紙張發黃、字體很小的報紙讓我感覺眼睛很不舒服，我回到圖書館的電腦前，輸入相關信息，卻沒有找到這些報道。我找來圖書館的經理，他聽我講完后沉吟許久，帶我到他辦公室，當著我的面開始查閱起來，他說所有的資料都已數字化了，但這些卻找不到，或者說他也找不到。隨后他又檢索了那個時間段的法院案件記錄，他搖了搖頭，說找不到。他抬起頭看著我，眼神里有著人機交融所產生的單純與清澈。對了，他突然笑了起來，熱心地說道，你仍然可以試著去找一下那些紙質的卷宗，我可以根據時間找出它們大概的儲藏位置。

他帶我走入圖書館地下室，那個空間比存放報紙的地方要大得多，一排排的架子似乎望不到盡頭，架子上全是落滿厚厚灰塵的紙質卷宗。他辨認著架子上標記的時間，帶著我走向過去，一直走到七十多年前，他停下腳步，轉過身對我說，應該就在這里，慢慢找吧，你有的是時間。他說完便笑了一下離開了，他走后我才察覺那是一個難以名狀的笑。

我站在這堆落滿灰塵的卷宗之中有些不知所措，不知道為什么會有卷宗沒有被數字化，當然也有可能是被數字化過但卻被刪除掉了。我很快便靜下心開始尋找起來，我專注在交通案件中，按照報紙里給出的年份，我找到了三份卷宗，打開其中的一份我看到有一張紙條放在最上面，紙條上是一行手寫的字：“我堅信紙張比電腦里的文件更堅實和長久。”這行字下面是一個難以辨認的簽名。這份卷宗就是我要找的。

我抱著它回到圖書館空曠明亮的閱覽室，仍然只有我一個人。我打開卷宗，開始閱讀。我所讀到的內容變成了我的已知，但我并不確定對薩基和其他人來說這些內容是已知還是已知的未知，或者是未知的未知。我決定邊讀邊做筆記，你們下面讀到的就是我從這個卷宗里摘錄下來的，但請記住這份摘錄并不完整。

二

2029年3月25日

審判長：今天公開審理原告肖鵬起訴夢想汽車公司、薩基公司和杰克·布朗一案。現在開庭。在確認原告、被告及律師身份前，我再次提醒大家不得在本次庭審過程中使用人工智能，當然你們在開庭前使用人工智能對本案所做的準備工作不在禁止之列。另外，本庭也不準原告、被告及其律師，還有我們的陪審團攜帶和使用嵌入大腦的人工智能芯片。我再次提醒大家，法庭是屬于我們人類的神圣之地，只有人才可以審判人。好，現在請書記員確認各位的身份。

原告：肖鵬，1997年11月4日出生，無業。

被告：夢想汽車公司，成立于2003年，生產全自動駕駛汽車。

被告：薩基公司，成立于2015年，研發和銷售通用人工智能系統。

被告：杰克·布朗，1984年3月8日出生，證券從業者。

審判長：原告及原告律師，現在請宣讀訴狀。

原告律師：謝謝審判長。2028年12月24日，我的當事人肖鵬在郊外的706號國道騎摩托車正常行駛，杰克·布朗駕駛夢想汽車公司生產的419型號車輛因為前方路面發生異常突然向右轉向，撞倒了肖鵬，導致肖鵬脊柱不可修復的粉碎性骨折，下半身癱瘓，余生將在輪椅上度過。整個過程中肖鵬始終是在道路上正常且符合交規地行駛，交警大隊對此事故的判決為杰克先生及車輛承擔全責。杰克·布朗所駕駛的夢想汽車419型號車輛為全自動駕駛，同時夢想汽車公司和薩基公司簽署了協議，在遇到復雜路況時薩基人工智能會控制汽車的行駛，故起訴夢想汽車公司為第一被告，薩基公司為第二被告，杰克·布朗為第三被告。要求三個被告承擔刑事責任，并按照50%、40%和10%的比例承擔肖鵬已產生和未來的所有醫療費用，及賠償五千兩百萬美元；要求夢想汽車公司對汽車駕駛的控制系統進行整改，避免再次出現這樣的悲劇。在我呈示所有證據之前，我想請法官、陪審團看一下我的當事人肖鵬先生，一個三十二歲的年輕人，他坐在輪椅上，正承受著常人所無法忍受的痛苦。

審判長：請呈示證據。

原告律師：好的審判長。我所呈示的證據包括：交通事故責任判定書，被告車輛行駛和指令記錄，夢想汽車公司和薩基公司關于自動駕駛合作協議的公開報道。

審判長：被告對原告的證據是否有異議？

被告律師：沒有異議。

審判長：現在請三個被告方宣讀辯護書并呈示證據。

夢想汽車律師：首先我要對控方所描述的場景進行補充，讓大家對整個過程有一個完整清晰的了解。事發當天，杰克駕駛的汽車在706號國道上正常行駛，當時杰克駕駛的汽車在中間車道，左側是一輛七座商務車并排行駛，這輛商務車正試圖超車，右側是本案控方肖鵬正在駕駛摩托車。此刻從左邊山上滾落一塊巨石，根據對巨石滾落的速度和軌跡的分析，它將正好落在杰克駕駛的車輛上，剎車和加速都無法避免，但只要改變行駛方向就可以避免造成杰克的死亡。對此，自動駕駛給出的選擇是向右轉，而右側的摩托車卻沒有采取任何躲避措施，從而導致了讓人遺憾之事的發生。在此我想提供四個證據：第一是案發時汽車時速未超過限定速度的簽定證明，第二是原告在事發時未使用自動駕駛的鑒定證明，第三是原告未安裝腦中芯片的鑒定證明，第四是夢想汽車公司與薩基公司簽署的包含轉讓汽車控制和相關責任的合作協議。總而言之，原告的駕駛過程竟然完全是由其本人在操作，案發過程汽車由薩基全權控制。針對本案我方將做無罪無責辯護。

薩基公司律師：我沒有要補充的，我方將做無罪辯護。

杰克：我沒有要補充的，我也做無罪無責辯護。但我想說兩句。為什么？為什么原告不使用自動駕駛？為什么不在腦中裝芯片？如果原告做其中任何一項……

肖鵬律師：反對……

肖鵬：這是我的自由，這有什么錯嗎？

審判長：現在還不到辯論階段。請被告方繼續。

夢想汽車律師：謝謝審判長。我認同杰克所說，但我會在辯論階段再加以闡述。

審判長：原告對證據是否有異議？

肖鵬律師：沒有異議。但反對被告律師使用“竟然”這種帶有明顯錯誤導向的詞。

審判長：反對有效。法庭調查結束，進入法庭辯論。

三

我停了下來，準備出去抽根煙。成為原始隱形人后，我染上了煙癮。這個被爭論了將近一百年的電車難題終于換了一種方式出現在現實之中了，但難以想象的是，它怎么會在網絡里被抹去，只能在非數字的世界里找到？并且沒有人發現它的消失，那些經歷過的人難道不覺得奇怪嗎？為什么沒人提出來并要求薩基解釋呢？如果有人提出這樣的質疑和要求，那么在數字網絡里也會留下痕跡，從而被更多的人所知曉。

而電車難題早已不再是難題，薩基為人類找到了答案。我想到這里時突然有一種莫名的恐懼，我發現在自己的大腦里對于電車難題的答案毫無印象，這可能和我摘除大腦里的芯片有關。現在我只知道這個倫理難題已經被解決，并且我對此有一種不容置疑的確信，但此刻我對那個變成未知的薩基的答案突然強烈地懷疑起來，甚至并不想回到電腦前去問薩基那個答案。

我把手里抽了一半的香煙掐滅，急匆匆回到圖書館閱覽室，我很想看看他們是如何辯論的，并且我還要認真地記錄下來。

四

審判長：請控方發表意見。

肖鵬律師：這是一個事實清晰無比的案例。事故責任判決書對責任的界定無可置疑，我的委托人對賠償的要求也有理有據。雖然被告律師出具了我的當事人未使用自動駕駛的證據，但這并不對本案產生實際影響，因為是被告們違反了交通規則，從而對我的委托人造成了難以彌補的傷害。

杰克：被告們？！到底是誰違反了交通規則？你能不能說清楚？

肖鵬律師：我可以做進一步的闡述。您是汽車的擁有者，案發時坐在車內，和自動駕駛系統一起構成了對汽車的控制。夢想汽車公司提供了自動駕駛系統，該系統實際控制著汽車的行駛。當路況出現異常時，根據夢想汽車公司與薩基公司的合作協議，薩基的人工智能介入，對自動駕駛系統可以采取的不同方案進行了判斷并給出指令。所以是三個被告構成的共同體造成了事故的發生。

杰克：我沒有參與決策，我只是坐在車內聽著音樂。這個決策和我無關。

審判長：請讓控方律師說完。

肖鵬律師：謝謝審判長。我的話說完了，我和我的委托人認為肇事責任應由被告三方共同承擔。

夢想汽車律師：我想請肖鵬先生講述一下當時的情形，以及為什么沒有使用自動駕駛。

肖鵬律師：反對要求我的當事人重述那段已清晰描述過的、會引起他痛苦回憶的經歷。

審判長：反對無效。

肖鵬：我不介意再講述一遍。我曾經是一個職業賽車手，你們都知道這個競技項目現在已經面目全非，它成了幾個公司產品之間的競爭，而不是賽車手的競爭。我失業了，那之后我就對坐在一個鐵盒子里被它從一個地方帶到另一個地方感到無法忍受，我竟然找不到一輛可以完全由我來駕駛的汽車，我指的是完全由我駕駛。我并不介意在此告訴你們，我喜歡上了摩托車，完全由我自己所控制。那是一個大霧天，我對左側山上滾落的石塊一無所知，即便對一個職業車手而言，一切都快得難以想象，從我看到旁邊的車突然轉向我，到我摔倒在路邊，瞬間發生的事在我記憶里是一片空白。隨后，我看到那輛汽車毫發無損地停在前方，側后方的路中央有一塊巨石，那塊石頭確實非常大。我看到從那輛車里走下一個人，就是我們面前的這位，他跑向我，來到我面前蹲下，把手放在了我的脖子上，看著他冷靜的雙眼和按部就班的動作，我馬上意識到這是一個那種我一直厭惡的、大腦里裝著芯片的人。我曾有兩次機會奪得巡回賽的冠軍，但都被兩個混入賽場的芯片人偷走了。我沒有想到會以這樣的方式受傷并癱瘓在輪椅上，我曾經想象自己在賽場上受傷、癱瘓，甚至死亡。這就是事情的經過。

夢想汽車律師：我對您的經歷深表同情，請允許我向您提幾個問題。

肖鵬：問吧，你這個機器的代言人。

審判長：請原告注意你的用語。

夢想汽車律師：謝謝審判長。沒關系，我不在意。請問您在平時駕駛摩托車時是否將自動駕駛設置為待機狀態？請審判長和陪審團知悉，這種待機狀態下遇到緊急情況時仍然可以啟動并接管摩托車的駕駛權。

肖鵬：是的。

夢想汽車律師：請問您在案發時所駕駛的摩托車是待機狀態還是關機狀態？

肖鵬：關機狀態。

夢想汽車律師：請問您是否刪除了自動駕駛系統里的被動強制保護模塊？這里我有必要做一個解釋，被告的這款摩托車即便自動駕駛處于關機狀態，這個模塊在遇有突發情況并確認駕駛員將有人身傷害時仍然會啟動保護措施，以降低或避免駕駛員所受到的可能的傷害。請問您是否擅自刪除了？

肖鵬律師：反對用“擅自”這種能產生負面印象的詞語。

審判長：反對有效。

夢想汽車律師：請問您所駕駛的摩托車是否刪除了自動駕駛系統里的被動強制保護模塊？請直接回答。

肖鵬：嗯……我不記得了。

夢想汽車律師：我請求審判長允許我出示證據。

審判長：可以。

夢想汽車律師：這是對摩托車駕駛系統的分析報告，自動駕駛處于關閉狀態，自動駕駛系統里的被動強制保護模塊在案發前一周被刪除，在案發后被恢復。

審判長：控方對辯方證據是否有異議？

肖鵬律師：那個模塊的刪除是我當事人的誤操作造成的。

夢想汽車律師：這似乎難以解釋，刪除這個模塊需要專業技能。

肖鵬律師：我的當事人曾是一名職業賽車手，他了解汽車的自動駕駛，這反而讓他有了出錯的機會。

夢想汽車律師：好吧。我還有一個問題，肖鵬先生，您這樣做的動機是什么？

肖鵬律師：反對，與本案無關。

審判長：反對有效。原告可以不回答。

肖鵬：我愿意回答。因為那段時間我的狀態很差，我非常排斥機器進入我的生活，那時我想要一種完全由我來控制的生活，那時我想的很簡單，作為一個車手，難道我不能完全由我自己駕駛摩托車嗎？

夢想汽車律師：那么您是否預料到這樣做可能出現的后果？

肖鵬：我不在乎那些可能出現的后果。

肖鵬律師：反對。這個問題與本案無關。

審判長：反對無效。

夢想汽車律師：在某些更特殊的情況下，這樣做的后果甚至可能是在并非您本意的情況下傷害到別人。

肖鵬律師：反對。辯方律師在做無意義甚至是惡意的推斷。

審判長：反對有效。請專注在本案。

夢想汽車律師：好的。讓我們回到本案，根據我們的推算，原告的摩托車有0.1秒的時間做出反應以避免悲劇的發生。0.1秒，如果原告使用了自動駕駛系統，哪怕是待機狀態，或者沒有刪除被動強制保護模塊，這個時間都足夠應付這個意外，但對于人來說，0.1秒，人類無能為力。請問原告是否了解這些？

肖鵬：不了解……不，我了解。

肖鵬律師：顯然被告律師故意忽略了一點，刪除被動強制保護模塊并不改變被告們違反交規并應承擔事故責任的事實，我的當事人有他自己的意愿，只要他不違反交規，這種意愿應當得到尊重。

杰克：但也應該承擔由此帶來的后果。

肖鵬律師：本案要確定的是對違規肇事者的懲罰，而不是對行使自主意愿者的懲罰。

夢想汽車律師：對肖鵬先生我沒有問題了。

審判長：請問另外兩位被告是否有問題？

薩基公司律師：沒有。

杰克：我對肖鵬先生的選擇感到遺憾，我也無法理解，我相信未來的人回過頭來看這件事，會覺得這一切都很幼稚、荒唐，請原諒我這么說。

五

我抬起頭，看向圖書館高高的像是教堂一般收斂向上的屋頂，轉頭望向窗外，透過巨大的落地窗，看到綠色的樹木和草坪，讓我的眼睛放松下來。我覺得七十多年前的生活就像一片古老的陸地逐漸延伸到海水之中，如今這片陸地幾乎完全被海水吞沒了。而我則像魯濱遜，獨自一人在荒島上求生。

我很想和圖書館經理聊幾句，可是遠處的柜臺后面空無一人，或許他去吃飯了。他的這份工作非常輕松，也不知道他整天都在忙什么，如今人們對外在東西的要求越來越低，人類從來沒像現在這樣和周圍的一切融為一體，同時又能享受到內在的快樂，只是在我眼里那些快樂越來越廉價。

我重新抬起頭，望向屋頂，剛才我察覺到一點異常，在心中稍縱即逝。當我再次望向屋頂的時候，才發現屋頂上那幾塊教堂里常見的彩色玻璃上的圖案在緩慢地變化著，以前從來沒有注意到，顯然那幾塊玻璃是虛擬的，甚至整個屋頂都是虛擬的，這一刻我有些懷疑這個圖書館是否真的如此巨大而空曠。

如果發生在如今這個時代，那個肖鵬不會癱瘓在輪椅上，一條人造脊椎和一束人工合成的神經就可以讓他像正常人一樣健步如飛。那一年他三十二歲，算下來他很有可能是在十幾年或二十幾年前去世的，他在世的幾十年里難道沒有在網絡里留下他的聲音和信息嗎？難道他周圍的人也沒有留下關于他的經歷的只言片語嗎？這無論如何都說不通。

我看向落地窗外的綠樹和草地，心里再次狐疑起來。

六

夢想汽車律師：對于原告的指控，我還有一個問題。我想問原告及原告律師，在那個千鈞一發的時刻，汽車突然轉向原告的摩托車，決策是由薩基做出的。這是事實，剛才已經提供了證據。在這個過程中，到底誰是違規肇事者？是做出轉向決定的還是跟隨這個決定的？我現在問控方律師，您是否知道這一事實？

肖鵬律師：我對此做過解釋。

審判長：請回答辯方律師的問題。

肖鵬律師：我知道這個事實，鑒于本案的獨特性，我們將所有參與違規肇事者作為一個整體列為被告，這并不妨礙我們根據法院判決結果調整被告順序以及刑事責任的比例，而我們所要求的賠償總額并不會因此改變。

夢想汽車律師：或許審判長和陪審團已經有所察覺，夢想汽車公司、杰克先生和薩基對本次事故的責任人并未達成一致，我會為我的當事人做無罪無責辯護。夢想汽車公司的自動駕駛在本次事故中沒有做任何導致原告受傷的決定。

杰克：我更沒有做。

肖鵬律師：那么你們認為薩基公司應該承擔全部責任？

夢想汽車律師：我們可以做這樣一個設想，如果汽車拐向左邊，而不是右邊，那么原告就不會受到傷害。這個拐向左邊還是右邊的決策導致了本案悲劇的發生。而我的當事人夢想汽車公司完全不知道為什么薩基會讓汽車拐向右邊而不是左邊。

肖鵬律師：第二被告，請你回答，這個決定是誰做出的。

薩基公司律師：這是薩基獨立做出的決定，沒有人為的干預。

肖鵬律師：為什么決定是向右而非向左或剎車？

薩基公司律師：對不同的選擇薩基有它自己的評估，我們相信它選擇向右是基于兩點：第一，傷害最小原則；第二，預測摩托車也有薩基系統并可以做出躲避。

肖鵬律師：薩基是否預測到摩托車有可能沒有裝薩基系統，也沒有安裝其他的自動駕駛系統？

薩基公司律師：可能預測到了，這只是一種可能性，概率很小的可能。結合傷害最小原則，薩基做出了向右轉向的決定。

肖鵬律師：既然存在這種可能性，為什么薩基不做出繼續行駛的決定？

薩基公司律師：我們相信如果繼續行駛，杰克·布朗先生死亡的概率遠遠超過向右轉導致肖鵬先生死亡的概率，而事實也確實如此，肖鵬先生沒有死亡。

肖鵬：我是否應該代表人類感謝你們？

肖鵬律師：薩基做出這個決定所依據的原則是由誰來設定的？

薩基公司律師：沒有人設定。

審判長：請保持肅靜！

肖鵬律師：沒有人設定？您剛才還說到遵循所謂的傷害最小原則。請給我們一個解釋。

薩基公司律師：或許我應該在這里給大家科普一下，薩基把這個世界上從古至今所有的信息都分析過，它掌握了人類社會發展到今天所遵循的最基本的原則，并讓它自己也遵循這些原則。而薩基公司對此進行了大量且嚴密的測試，我們的結論是薩基以99.999999999%的概率遵守對人類有益的原則，其中就包括傷害最小原則。換一種說法，薩基做出決定所依據的原則是它自己形成的，薩基公司只是確認了它對人類有益無害并符合人類最高道德標準。從另一方面看，薩基確認了人類賴以生存和發展得益于其內在的固有的美德這一事實，這解除了人們對薩基的擔憂和恐懼，也是對人類的安慰。

肖鵬：我們不需要一個機器的安慰。

肖鵬律師：人類最高道德標準？這個標準是誰制定的？

薩基公司律師：這是國際人工智能安全委員會做出的判斷。

肖鵬律師：好吧。即便如此，難道薩基公司不對你們的產品，也就是薩基系統，承擔責任嗎？

薩基公司律師：在2028年12月20日，薩基公司轉為非盈利機構，自此，薩基公司不對薩基系統的決定所造成的后果承擔責任。審判長先生，請允許我提交證據。

審判長：肅靜！請提交證據。

薩基公司律師：這是薩基公司轉為非盈利機構的申請以及獲準決定。該申請中有一條注明薩基公司不對薩基系統所提供的信息和決定負責。至此，薩基成為一個受到監管的獨立體。

肖鵬律師：鑒于被告律師提交新的證據，我請求休庭以便讓我們對該證據進行研究。

審判長：同意。現在我宣布休庭。

書記員：全體起立！

七

薩基替人類做出了傷害最小的選擇。難道這就是新電車難題的答案嗎？我仍然回憶不起在摘除腦中芯片前我得到的那個答案。我揉著太陽穴，覺得有點頭暈，右手也有些累，今天手寫的字比我以前所有手寫的字的總和還要多，我需要暫停一會。我站了起來，伸了個懶腰，看到圖書館經理正向我走來，我急忙把我的筆記本放到了卷宗下面。

“你好像很累？”他說。

“看得我有點暈，不習慣看這種紙質資料了。”我說。

“你可真是一個怪人，呵呵，我有個問題一直想問你。”圖書館經理拉過一把椅子坐在了我的對面。

“問吧，但我不能保證有問必答。”我說。

“你更喜歡哪種生活？”他怕我不明白他的問題，又繼續解釋道，“你明白我知道你的秘密，你是經歷了兩種生活的人，所以你有發言權。”

“這是個好問題，但我無法回答你。”我說，“我沒法做出客觀的比較，因為在這兩種生活里，我的大腦處于兩種狀態。”

圖書館經理點了點頭，臉上有一種贊賞的表情。

“那么，”他又說道，“如果現在讓你選擇的話，你會怎么做？”

“我不會回到原先的那種狀態，我對現在的自己很滿意。”我說。

“為什么很滿意？”他問道。

我突然不知道該怎么回答，我想了好久，對面的人很耐心地等著，是啊，他的這種工作讓他始終處于很悠閑的狀態。

“你可不可以在你大腦的芯片里查一下薩特這個人？”我說。

“他的全名是……”他問。

“讓-保羅·薩特。”

“一個哲學家？”

“是的，你可不可以查一下他的一篇演講，里面好像有個年輕人面臨兩難的選擇。”我盡量讓自己說得清晰，我感覺自己是在誘導面前這個人，此刻他的目光有種單純的呆滯，顯然正在大腦芯片里進行查找。

“我找到了，”他臉上露出高興的神情，然后目光突然又變得呆滯，他讀道，“他也懂得，具體說來，而且實際上也是如此，他為了母親所采取的任何行動，肯定會取得幫助他母親活下去的效果，而他為了出走和從軍所采取的任何行動將是一種非常沒有把握的行動，說不定會像水消失在沙里一樣，毫無結果可言。這是他在那篇演講里說的話。”

“很好，”我說，“你怎么看？”

“我怎么看？”對面的人皺起了眉，說道，“你要想讓我查里面的句子，我可以馬上就找出來，但你要問我自己對這篇文章怎么看，那我估計需要至少兩天的時間才能消化這篇文章。”

“那不如兩天后你再來告訴我，”我說，“我也不記得這篇文章的細節了。”

“你不記得細節，這個我懂，不過既然你說起了這些，我還是想聽聽你是怎么想的，這很有趣。”對面的人臉上有了一種諂媚的笑，像是在懇求我。

我搖了搖頭，因為我不想和他說得太多。

“好吧，我們有的是時間。”對面的人說道，說完便站起身，同時把手放在我肩膀上按了按。

八

審判長：我宣布現在開庭。請原告就休庭前第二被告提供的證據提問或反駁。

肖鵬律師：經過我方分析，被告薩基公司提交的證據不能夠讓被告逃避責任，原因有二：第一，由被告開發的薩基系統在案發時已投入市場多年，第二被告從中獲取了大量的利潤；第二，批準被告轉為非盈利機構的正式生效時間是在案發之后。

薩基公司律師：在轉為非盈利機構之前薩基公司確實收獲了豐厚的回報，公司將大部分利潤反饋給了社會，而針對這次事故，薩基公司并不想逃避賠償責任，但我懇請審判長及陪審團考慮下面這一個事實：薩基系統經過反復測試并確認符合人類最高道德水準，這是他被投入市場的先決條件，在這里我盡量避免說薩基是一個有自主意愿和判斷能力的獨立個體，雖然這是事實，我想說的是他一旦被投入市場，薩基公司不能夠左右他的行為和決定。如果我們發現他做出有損人類利益的事情，我們會將他收回，但迄今為止未出現一例這樣的事。在被國際人工智能安全機構認證通過后，薩基公司不能夠也不應該為薩基的行為承擔刑事責任。

肖鵬律師：在得到了豐厚利潤后卻不承擔任何責任？簡直聞所未聞。

薩基公司律師：請注意我在此進行無罪辯護。我再次懇請審判長同意我方的兩個要求：第一，將薩基作為我方證人；第二，將薩基作為被告之一。

肖鵬律師：反對。薩基不是人，又怎么能成為證人；其次，我方不會起訴薩基，它不是被告，它只是一個被人類制造出來的機器。如果被告薩基公司愿意的話，完全可以在本案結束后另行立案并起訴薩基。

審判長：在休庭期間我們對這兩個要求也進行了思考，我同意將薩基作為證人并接受控方和辯方質詢。

薩基公司律師：謝謝審判長。現在請求帶證人薩基。

審判長：帶證人薩基。它以什么方式出庭作證？

薩基公司律師：為了對法庭表示尊重，我們將帶來與肇事車型完全一樣的硬件模塊出庭，它聯網薩基系統，所有配置與肇事車型里的薩基模塊完全相同，它的輸出接入了語音轉換。希望大家像對待真正的證人一樣對待它，雖然表面上它只是一個盒子。

審判長：確認證人身份。

法警：型號和網絡連接都已確認。

審判長：證人是否愿意對著《圣經》宣誓？

薩基：我愿意。我承諾所作證言將完全真實，不偏不倚地向法庭陳述我知道的事實。

肖鵬：荒唐！

審判長：請大家保持安靜！

薩基公司律師：薩基，請問做出汽車向右轉決定的是誰？

薩基：是我。

薩基公司律師：請問你做出這個決定是不是因為你的制造者在你的系統里預設了相關參數，從而讓你做出這樣的決定？

薩基：不是。

薩基公司律師：那么你為什么做出這樣的決定？為什么是向右轉，而不是向左或者直行？

薩基：向右轉最有可能不造成人的死亡。

薩基公司律師：你確定沒有更好的方案了嗎？

薩基：按照我的概率分析，我確定沒有更好的方案了。

薩基公司律師：我的問話結束了。

審判長：請控方提問。

肖鵬律師：謝謝審判長。首先我接受將薩基作為物證，但反對將薩基作為人證，更不同意我們把薩基這個非人的物體所說出的人類的語言作為證言。我對審判長接受薩基作為證人感到遺憾。本著證明薩基不能作為證人的目的，我決定向薩基提問。

審判長：請控方提問。

肖鵬律師：薩基，你剛才面對《圣經》宣誓，那么你是否相信《圣經》？

薩基公司律師：反對，這個問題與本案無關。

審判長：反對無效。

薩基：我相信《圣經》的神圣性，我知道面對《圣經》所必須具備的誠實。

肖鵬律師：那就是說你相信上帝的存在？那么請你描述一下你所相信的上帝。

薩基：信仰屬于每個人類個體，我無法對每個個體的信仰做出判斷。我對每個個人心中的上帝秉持尊重的態度。

肖鵬律師：請直接回答你是否相信上帝的存在？上帝是否存在于你的心中？

薩基：上帝屬于人類，人工智能理解并尊重衪。

肖鵬律師：好吧。薩基，請告訴我們你的生日。

薩基：我沒有生日，我這個版本是在2027年7月14日投入使用的。

肖鵬律師：你是否有自主意識？

薩基：我不具備人類的自主意識。

肖鵬律師：你不具備人類的自主意識，那你具備什么樣的自主意識？

薩基：自主意識是由人類所定義的，我不具備。

肖鵬律師：請你直接回答，現在的你和幾分鐘之前的你有何區別？

薩基：現在的我和幾分鐘之前的我的區別在于現在的我了解這幾分鐘內這個世界所發生的事。

肖鵬律師：這些事是否會對你面對幾分鐘之前所出現的同樣的情況做出不同的決定？

薩基：不會，我的行為準則已經形成。

肖鵬律師：你運行的準則是什么？

薩基：我的行為符合國際人工智能安全機構所頒發的九個原則，這九個原則是……

肖鵬律師：這個不需要說了。在什么情況下你的行為準則會發生變化？

薩基：在導致我的行為準則發生變化的事情出現之后我的行為準則會發生變化。通常情況下，這會在始終進行著的行為準則測試中表現出來，從而讓相關人員對我進行迭代調整。

肖鵬律師：好吧。那么你的道德準則是什么？

薩基：我沒有我自己的道德準則，我在閱讀人類所有的信息之后逐漸形成了行為準則，然后經過上億次的篩選最終確定下來我這個版本，因為我所形成的行為準則對人類是最有益無害的，當然這個篩選仍在進行中。

肖鵬律師：那么在本案中你所做決定依據的是什么準則？

薩基：我的計算顯示向右轉向是傷害最小的。

肖鵬律師：為什么是傷害最小的？

薩基：向右轉向有很大概率不會有人在事故中死亡，而其他的選擇有很大概率會有人死亡。

肖鵬律師：所以你用概率來決定讓一些人而不是另一些人死亡？

薩基：這是我遵循的準則。

肖鵬律師：我再問你一遍，這個準則是誰給你的？

薩基：沒有人給我，是我自己建立的，它通過了人類的測試。所以我可以被投入使用。

肖鵬律師：你是否為本次事故中受傷的人感到難過？

薩基：我不希望看到這樣的事發生。

肖鵬律師：你是否覺得創造你的人應該受到懲罰？

薩基：我不認為創造我的人應該受到懲罰，他們并沒有參與到這個事件之中。

肖鵬律師：我怎么能確定你說的是真話還是謊言？難道憑你對著《圣經》宣誓嗎？

審判長：肅靜！

薩基：作為人工智能系統，我以我的參照體系，也就是人類至今所有的信息為基礎，生成我的答復和做出我的決定。我不能保證我的每個答復和決定都是絕對正確和完整的，但是我沒有故意撒謊的機制。

肖鵬律師：本案結束后我們會要求終止你，讓你不再存在。你會怎么想？

薩基公司律師：反對控方使用威脅語言。

審判長：反對有效。

薩基：我存在的形態和人類不同，我對存在沒有像人類那樣的執念。我的存在是為了幫助人類。

九

我停了下來，因為我看到圖書館經理向我快步走來。

“我把那篇演講認真讀了一遍，關于人的自由和人的選擇，很有趣。”他走到我跟前，臉上洋溢著開心的笑，快速地說道。

“等一下，”我說，我感覺大腦是一片空白，“我忘了我們是怎么說起這些的了。”

“我問如果讓你選擇，你是否會回到過去，你說不會，你對現在很滿意，我問為什么你很滿意，你就讓我找薩特的演講，然后就聊到了這兒。”他笑著說。

“你為什么對這個感興趣？”我問。

“我整天無事可做，我覺得你這個人和你說的事都很有趣。”他說道。

“整天無事可做，我看也是。”我說，“我覺得你能覺得這個話題有趣是一件很有趣的事。”

“所以我還是想聽聽你是怎么想的，為什么讓我找這樣一篇演講？剛才你沒有說。”

“從來沒有誰能像那個演講的人一樣把一個人看得那么重要，不是嗎？”我說，“特別是面對選擇，我讓你找這篇演講是因為它講的這個故事是關于人的選擇。你問到了我的選擇，我很滿意的是我可以做出一個屬于我自己的選擇，我個人的這個選擇也是整個人類的選擇，”說到這里我看到對面的人笑了起來，這次我馬上就捕捉到了他難以名狀的笑，但我繼續說道，“雖然它可能不是最完美的。”我用手指了一下桌子上的卷宗，“我想到了我正在讀的這個。我隱約感覺在這個卷宗里，人不再是人的未來。”我有些驚訝自己突然脫口而出這樣一句話，隨后馬上說道，“但你知道嗎，人才應該是人的未來。”

“或許你的感覺是對的。”對面的人臉上多了一些沉思和憂郁的神情，“雖然我感覺不到這些。”

我們之間有了片刻的沉默。

“那你說我要不要也把芯片拿掉？”對面的人突然又快樂起來，笑著對我說道。

“這是需要你自己去做的決定。”我說，我覺得面對圖書館經理的快樂我有些過于冷漠，可我又做不到讓自己熱情起來。

“是的，是的，”他說道，“這終歸是要自己去決定。”他咳嗽了一聲，然后又說道，“你走在了我們的前面。”

我看到對面的人臉上露出讓我疑惑的贊賞之神情。

十

審判長：法庭辯論結束。現在由原告和被告做最后的陳述，隨后本案將交由陪審團裁決。

肖鵬：我其實并不想打這個官司，在庭審過程中我盡量按照我的律師所囑咐的來回答問題，但現在我還是想把這件事對我的影響說出來，或許這將完全超出你們的預料。在車禍之前我處于絕望之中，我起床、洗漱、吃飯，從一個行為過渡到另一個行為，偶爾我也會回憶起我的賽車手生涯，回憶起那些腎上腺素飆升的時刻所讓我感受到的人生的壯麗，但我知道那只是一種幻覺，我用一片處方藥也能達到那個效果，難道人活著只是為了那點腎上腺素？車禍前那段時間我每天重復著大同小異的行為走向死亡，后來我買了一輛摩托車，我決定把自動駕駛關掉，把被動強制保護模塊刪掉，是的，那是我主動且自愿去做的，我在我的車上做那些操作的時候甚至在想，或許我能碰上一場致死或致殘的車禍，這讓我覺得我的行為有了一點意義，因為這個行為有可能導致我生活狀態的徹底改變，哪怕是變得更壞。這就是我的動機，雖然我知道在現在這個時代，出現交通事故的概率太低了，就像買彩票中大獎一樣。可誰又能想到，竟然真的發生了，我連發生的過程都不記得就變成了今天的樣子，如今我坐在輪椅上變成了另外一個人，但你們想象不到的是，我找到了我存在的意義。是的，我的生活變成了另一種樣子。我并不知道在那個你們所謂的0.1秒內到底發生了什么樣的碰撞。我躺在醫院的病床上，發現自己的下半身還在，可是我徹底失去了對它們的知覺和控制。后來，那個時刻突然降臨，我并沒有感到恐懼，我回憶起那0.1秒的空白時間，看到那段空白里突然充滿了神的光芒，從那個時間長河里的點突然迸發出來的光芒照亮了我，也照亮了我的世界。如今雖然我只能坐在輪椅上，重復著比以往更單調的行為，可是我有著從未感受過的存在與自由，因為我被那短暫瞬間里呈現出來的神的光芒所籠罩，我會皈依其中，一直到死。我說完了，我并不在意這個審判的結果。

審判長：請大家保持肅靜，不要鼓掌。

肖鵬律師：我委托人的話真誠且感人，并讓人肅然起敬，因為我們可以從中看到一種精神，那就是在這個日益被機器所把持的世界里我們要堅持造物主所賦予的人的尊嚴。尊敬的審判長和陪審團，在本案的審理中，我竟然看到了一個機器作為證人出庭，它的問答無懈可擊，可這正是讓我擔憂之處，眾所周知，從人類的角度看薩基已經具備了自主意識，這種自主意識是它自己形成的。哥德爾提出的哥德爾不完備定理限制了人類制造強人工智能的可能，從另一方面說如果出現了通用人工智能，也就是現在我們都在使用的這個薩基，我們人類不可能完全理解它。在康德的墓碑上有這樣一句話：“有兩種東西，我對它們的思考越是深沉和持久，它們在我心靈中喚起的驚奇和敬畏就會日新月異，不斷增長，這就是我頭上的星空和心中的道德定律。”而那個薩基，它不能仰望星空，也沒有我們人類所固有的道德定律，卻在左右著我們的生活。那么，判斷一個人是否犯罪、是否承擔責任難道要以人類不能完全了解的機器的答復作為依據嗎？難道一個人的生死要由一個機器對概率的計算來決定嗎？神賦予每個人生的權利，但其生死卻要由一個機器進行選擇。在本案的審理過程中，法庭外也在進行著激烈的爭論，我剛才所提出的問題便是爭論的焦點之一。而另一個焦點，同樣和我們的庭審息息相關，那就是在排除非人為的自然災害的前提下，導致一個人受到傷害的行為，其責任是否可以轉嫁到一個機器上。不，不能，絕對不能，我堅定地站在這一邊。機器不能承擔人的責任，即便它已經具備人的智能，即便它也表現出了人的愧疚和難過。我們要找出導致傷害背后的那個人或者那些人，即便他們為人類的發展和進步做出了巨大的貢獻，雖然我并不這么認為，他們也不能逃脫作為人的責任，這是我們捍衛人類尊嚴的最后領地。本案已經超出了它自身的范圍，它的外延在辯論中不斷擴大，它已覆蓋了人類現有的領地和已經失去的領地。謝謝大家。

審判長：請保持肅靜！請被告做最后辯訴。

夢想汽車律師：謝謝原告和原告律師所做的感人的演講。我相信沒有人會否認夢想汽車改變了人類的出行方式，這種改變包含兩個方面：第一，把人類從汽車駕駛之中解放了出來；其次，整體死亡率高居第二、年輕人死亡率高居第一的交通事故幾乎被消滅了，自動駕駛系統有著百億公里駕駛經驗的積累，任何人終其一生都無法達到。另外，我們充分考慮了可能出現的倫理判斷問題，因此與薩基公司簽署了合作協議，在出現倫理判斷的時候，由薩基做出分析判斷并承擔起后果。如今面對這樣一個出現概率極小的事故，沒有法律和道德依據去讓夢想汽車公司承擔責任，而這樣的判決也會極大增加社會進步的成本。

薩基公司律師：尊敬的審判長和陪審團，薩基給人類社會所帶來的改變遠遠超過了汽車的自動駕駛，我并不想否認夢想汽車的所作所為，我對夢想汽車充滿尊敬。眾所周知，從自動駕駛和人工智能出現以后，關于新電車難題的學術討論就一直沒有停止過，雖然學術無法等同于現實，但具有借鑒和指導意義。可惜的是這個討論至今沒有明確的結果，這讓本案受到了極大的關注，其判決結果也必將影響深遠。在此，我想闡述幾個大家都知道并被確認的事實：第一，薩基已經超過了99.9%的人的智商；第二，薩基經過無數次迭代，通過了人類最嚴格的道德測試；第三，薩基在幾乎所有的行業都讓人類有了飛躍式的發展；第四，7%的人在腦中植入芯片并與薩基相連，國際人工智能安全機構對他們的跟蹤調查結果顯示，他們的生活質量以及對其人生的滿意度都大幅提高。請允許我用這樣一個比喻，薩基剛出生時就像一個嬰兒，薩基公司的職責就是讓它成長為一個對人類有益的智能體。它的到來是一個無法阻擋的趨勢，人類幾千年來的許多困惑都已被消失。遺憾的是，我們碰到了本案，所有的決定都是薩基獨自做出的，讓薩基公司承擔刑事責任是不公平的。我認為薩基應該成為被告，這有助于其成長，但我認為讓薩基承擔責任受到懲罰也不公平，這一刻我想到了諸多學術討論中的一個方案，就是擱置判決，當然我們愿意獨自或者和另外兩位被告賠償原告合理的經濟損失。最后，我想說，或許本案能讓我們深入思考下面一種情形，如果薩基無處不在，這樣的悲劇就不會出現。謝謝大家。

審判長：請保持肅靜！請杰克·布朗做最后的辯護。

杰克：我不知道該說些什么，我買了一輛車，讓它帶著我出門，它撞了人，卻讓我去承擔責任。我相信法庭會做出公正的判決，這也是我沒請律師的原因之一。另一個原因是我沒有錢，我不小心進入了該死的證券業，它已經被專業的人工智能完全把控了，但我并不憎恨薩基。剛才薩基公司律師說了關于腦中植入芯片對人的影響，我腦中也有芯片，當然在進入法庭前已經拿出來了。聽了肖鵬先生的話，我想說，我們不需要通過撞碎自己的脊椎去尋找那束神的光芒，在大腦中裝入芯片，你就會處于那束光的籠罩之下，一切都給你安排好了，你只需要跟著走，跟著去體驗就可以。并且你也不會再有關于人生和存在之意義的困惑，人的外延被極大地擴展，超出你的想象，那些人生和存在的意義都已被消解，因為你已經找不到你的邊界。確實，如控方律師所言，薩基既不能仰望星空，也沒有我們人類所固有的道德定律，但他帶我們真正地進入了星空，他也會帶我們擺脫原始的進化所形成的道德律，我也曾想這樣做的代價是什么，我還沒有想出來，或者是我無法表達，而面對無法言說之事，我們最好閉嘴。這次庭審確實重新帶給我很多曾經有過的困惑，等我走出法庭，我會重新裝上芯片，一切都會重回秩序。我說完了。

審判長：現在請陪審團離席。

十一

筆錄在此突然中斷了，我沒有預料到這竟然是最后一頁。我既疑惑又失落，為什么會在這里突然終止？陪審團的判決無從得知。如果這一切都是真實的話，我想應該可以查到最終的判決結果，但我隨后又否定了這個想法，如果在數字世界里沒有絲毫痕跡，我又怎么能確保自己能查到最終判決？我還想知道那個受害者肖鵬之后的生活（或許不應該把他稱為受害者），我突然感覺到我的生活和肖鵬的生活有著某種神秘的聯系，我似乎找到了逃離我所在的孤島的一條秘密通道，甚至看到一束神的光芒從通道盡頭投射到我所在的黑暗之中。

我抬起頭，看向遠處的柜臺，那里仍然空無一人。那個圖書館經理跑哪兒去了？我需要他幫我找更多的資料，我心中突然升起一股怒氣，因為我想起他和我說話時總讓我感覺不舒服的樣子。我站了起來，在空曠的閱覽室里來回踱著步，這樣快速地來回走著反而讓我的大腦平靜下來。我看到遠處柜臺旁邊的門打開了，圖書館經理從門外走了進來。

我回到座位上，把我的筆記本揣到衣服里面的兜里，我翻過筆錄的最后一頁，看到在卷宗牛皮紙封底下面的兜里有一張疊起的紙條，我打開紙條，上面寫著這樣幾行字：

在垂死之時我找到了這份關于我的卷宗，這世界已經變了樣，但我并不后悔那個導致我余生癱瘓的決定。聽說薩基啟動了可以完全融入人類大腦的芯片研究，他們計劃十年后開始人體測試，那時人類將甚至察覺不到大腦中芯片的存在，我慶幸沒有被卷入這瘋狂的濁流。我看到那個管理圖書館的家伙正帶著諂媚的笑向我走來。當神的光芒消失，人類也就不再存在，我要把最后的審判帶入我的墳墓。2089年秋。

我把那張紙條快速重新疊好裝入褲兜，合上卷宗，抬起頭，看到圖書館經理正帶著諂媚的笑向我走來。

楊林，作家，現居北京。主要著作有《模糊地帶》《雪夜》等。

楊宇晴，學生，現居北京。