索菲的禮物

站在原地猶豫許久，我還是選擇走進這片逼仄昏暗的樓群之中。沒有別的目的，只是我的社會實踐作業迫使我必須來到這里進行田野調查。我打開移動終端想查看一下搭檔是否給我發了新消息，但此處的網絡系統與我使用的設備不適配，只能看到移動終端的網絡界面不斷彈出要求我鏈接M-15以上版本的網絡系統的彈窗。或許我的搭檔索菲已經等候我多時了，于是，我加快了腳步。堅硬的路上，腳步聲在樓群中形成清脆的回聲。

按照兩天前索菲發給我的地址，我在高大的樓宇間穿梭，像一只在作物中穿梭的老鼠。這里沒有路標，樓標也早就模糊不清。我很想找住戶問路，但一路上我沒遇到任何人，這個看起來容納了過多人的社區此刻卻像突然罹難的樓蘭古城一樣。此處似乎沒有完整的垃圾處理系統，空氣中的味道并不好聞，這讓我更加煩躁，我干脆一邊找一邊大喊：“索菲！索菲！你在哪里！”

這讓我的體力消耗得更快了，走了一會兒，就忍不住停下來休息一會兒。這里的城市清潔相當不合格，即使筋疲力盡我也不愿意坐在地上，只能蹲著休息。這時我突然感到小腿正在被什么東西輕輕撞擊，我轉過頭，看見一只機器狗正在蹭我。這只機器狗幾乎沒有進行過任何美化設計，金屬骨架裸露在外面，透過它的框架，可以看到核心程序電流的脈沖，仿佛一顆不斷跳動的心臟。

“你好，你是索菲的機器狗嗎？”我問它。

“是的，小姐。請跟我來吧！我會帶你去找索菲。”機器狗一邊說一邊俯身，好像在向我行禮。

我跟著機器狗走，心中祈禱索菲不要因為我遲到太生氣。索菲第二不能容忍的事情就是遲到，她總是像機器人一樣將一天中每件事情都計劃好，改期會打亂她的計劃，讓她至少一整天都不會給我好臉色。但讓我奇怪的是，索菲第一不能容忍的事情就是臟，她的潔癖很嚴重，即使沒有接觸什么穢物，也會定時洗手。因為頻繁清潔，她雙手的皮膚屏障很脆弱，自然狀態下也是微微泛紅的。這樣的索菲，竟然會為了作業帶我來這里。

機器狗走得很快，一路上我都沒再和它說話。盡管外形完全不像，但它的動作非常靈敏，像一條真正的狗。看著它輕松地帶著我繞過一條又一條小徑，我對索菲的敬佩更上一層樓了，我知道她是機器人方面的天才，但沒想到她竟然現在就會制作搭載仿生模塊的機器，這可不是一般的大學生可以隨便做出來的。

機器狗帶我走進了一棟樓，在電梯中輸入F150。這種依靠磁懸浮技術的電梯我只在課本里見過，小小的密封廂即使只有一人一狗也顯得有些擁擠。幾秒鐘后，電梯停了下來，機器狗帶著我走進了一個房間。

房間的陳設像一間辦公室，正中央擺著一套桌椅，兩張皮質的沙發椅正對著。機器狗將我引到一側的椅子旁，我坐下休息，它就離開了。于是我順便打量起這個房間，這時我才發現，空氣中有一股熟悉的異味，但不太濃，應該是從其他房間傳進來的。桌子上的陳設很簡單，一座植物盆景擺在桌角，桌上嵌著一個電子屏，電容筆隨意擺在旁邊，另一側桌角擺著一瓶沒有標簽的液體。

此時我突然意識到我現在的處境其實很危險，我的電子終端處于離線狀態，在這個我從未踏足的社區，我被從沒見過的機器狗帶到了陌生的房間里。如果這是綁架，現在我幾乎沒有抵抗的能力。房間確實很簡潔，但這真的是索菲的房間嗎？據我所知，索菲家并不住在這里，她居住的那個社區比這個社區的治安和衛生都不知道要好多少倍，為什么她要在這里買房子呢？

門突然被打開了，我轉過頭，看見一個穿著防護服的女人走了進來。她全身幾乎都被包裹住，戴著手套和口罩，眼睛被防護服的帽子遮住了大半。我只能憑借她裸露出的一點兒皮膚和防護服的帽子中掉出的一縷栗色長發初步判斷她的性別。那個女人坐到了我的對面，溫柔的聲音透過口罩傳進我的耳朵里，像是從很遠的地方傳過來：“請問你是來找我的嗎？”

我有些尷尬地搖搖頭：“不，我來找我的朋友索菲，是那只機器狗把我帶過來的，我想它可能是弄錯了。”

女人的眼睛透過防護服盯著我，給我一種很特別的感受，不是被窺視的感覺，而更像是在被小動物盯著。我很難對這種注視產生警惕心，但這樣的注視還是讓我感覺有些不自在。

我聽見那個女人輕輕地笑了一聲，她回答道：“它沒有弄錯，索菲就在這里，她稍后就到。”

說完沒多久，房間的門又被打開了，一個穿著白色西裝的女人推門而入，她的長相很端正，有一頭漂亮的栗色長發。我的目光一下子就被她吸引了，原因無他，她的雙眼和雙手都接受了機械改造，并且和那只引路的機器狗一樣，幾乎沒有進行任何美化修飾，就這樣直接將金屬機體裸露在外面。

“你好，我是索菲，剛剛Buddy告訴我你在找我，”索菲進來后，穿防護服的女人讓出了座位，索菲坐在了我的對面，一邊說一邊伸手招了招那只機器狗，“請問你找我有什么事嗎？”

我感到更尷尬了：“抱歉，女士，我好像弄錯了。我想找的是我的朋友索菲，索菲·貝爾森，她剛好和您同名。”

索菲也有些不好意思地笑笑：“不好意思，是Buddy誤導你了。你現在聯系上你的朋友了嗎？”

我搖搖頭，向索菲展示我手上的移動終端，表示我的終端沒辦法連接這里的網絡。索菲很熱心地把她的移動終端借給我，來讓我聯系我的朋友。

“我終端的聽筒出了問題，不過通信功能沒有問題，你可以給她發信息。”索菲向我解釋道。

我對索菲連連致謝，給貝爾森發信息解釋了我現在的情況。貝爾森很快回復：我現在去找你。這個回復很短，看不出她的情緒，但我推測她現在應該很生氣。帶著惶恐，我思考著怎樣才能讓她原諒我。索菲看出了我不安的表情，從另一個房間里給我接來一杯水，將一只手搭在我肩上安慰道：“沒關系，你朋友應該很快就到了，不要擔心了。”

索菲的機械手沒有模擬體溫，很冰冷，隔著衣服讓我打了個哆嗦。但我想她是出于好心，便沒有拒絕她的接觸，沖她笑了一下。我告訴索菲：“我的朋友非常不喜歡別人遲到。因為沒找到路，我遲到了很久，我很擔心她會生氣。”

索菲繼續安慰道：“這不是你的錯啊！是Buddy不小心誤導了你，我會幫你向她解釋的。”

在等待貝爾森到來的這段時間，我忍不住問了索菲一些關于她的問題，索菲都一一回答了我。原來，這里是一個診所，索菲是這個診所唯一的醫生。她曾經在一家正規醫院工作，在一場意外中雙手、雙眼都殘疾了，盡管她裝上了機械義肢，院方還是辭退了她。

“但我的義肢從沒出過問題。離開醫院后，由我操刀的手術成功率還是百分之百。”索菲遺憾地說。

“而且我也不明白，為什么人類總是對機械感到恐懼，明明人也不能保證自己永遠不會失控，不是嗎？”索菲說，“如果機械的失誤率比人低的話，為什么不采用機械而采用人工呢？”

我在同情索菲遭遇的同時也思考起她提出的問題。我和貝爾森來這里進行田野調查的主題就和人工智能的使用率有關：科技發展到現今階段，很多新興人工智能比人做得更好、更精準，但人工智能在我們調查的幾個社區的使用率都不高。我們想要獲得更具有普適性的結論，于是來到了這個平均收入較低的社區。原本以為今天的調查不會有什么成果，索菲卻為我們的研究打開了一扇窗。

討論起這個問題，索菲突然低下頭靠近我，她降低聲音，用神秘的口吻對我說：“你知道嗎，我的診所里就有人工智能機器人！”

我睜大眼睛與她對視，她的機械義眼含著促狹的笑意看著我，我突然反應過來：“是剛剛接待我的那位女士？”

索菲臉上的笑容更大了：“就是她！她叫潘娜，是新堂公司推出的第二代家用型機器人。其實潘娜能幫我們做很多事，不只是家務，甚至在手術中也能做我的助手。”說完，索菲突然對著門的方向說：“潘娜，請為澤菲亞小姐的水杯加一些溫水，再為她準備一個桃子。”

話音剛落，潘娜就推門而入，她沒有再穿防護服，未經美化的機械肢體裸露在外，只有臉上有人造皮膚覆蓋。她對我露出了一個友好的笑容，將我的水杯端走。一分鐘后，她又將裝滿水的水杯重新遞給我，隨后站到了索菲的身側。

我感到有些困惑，潘娜為什么沒有執行索菲的第二個指令？索菲直接向潘娜詢問：“潘娜，請為我解釋你為什么沒有帶來桃子？”

潘娜微笑著回答了索菲：“索菲小姐，據我記憶芯片中儲存的內容，您對桃子過敏。經我初步推算，盡管您不會食用桃子，但桃子的毛可能會影響到您的健康。我設定的程序要求我不能傷害您。”

我恍然大悟，這個機器人不僅通過了“機器人三定律”的審核，還能夠對行為進行預測，并且對未來可能出現的危機進行干預。這表明這個機器人符合現有機器人法律中的規定，但為什么沒有得到普及呢？

索菲也對這一情況表示遺憾，盡管新堂公司掌握目前最先進的機器人技術，但由于公眾對機器人的普遍不信任，產品銷量慘淡，和潘娜同型號的機器人上架僅半個月就被下架了。

在我們交談正歡時，門又被打開了。索菲·貝爾森一看到我，臉就沉了下來，她快步走到我面前，語氣卻出人意料地平和：“走吧，我們該去做調查了。”

她竟然沒生氣！我心中很驚喜，順勢提議：“這里不是剛好有機器人，不如我們先對她做一個專訪吧。”

醫生索菲欣然同意：“可以的，我今天正好有時間。”

貝爾森的眼睛冷冷地盯了醫生索菲幾秒，轉頭對我說：“她的情況很特殊，不適合作為調查的樣本。你今天已經浪費了足夠多的時間了，再不去做這輩子都別想做完了。”

我很失望，回答：“索菲……”這時我發現兩個索菲都抬頭看向我，于是改口說：“貝爾森，對不起，我們現在就去做吧。”

貝爾森的臉色突然變得很難看，她抓著我的胳膊，氣勢洶洶地拉著我離開了。我不想又惹她生氣，只能回頭對著索菲喊一句：“索菲！下次再見！”

直到走出那棟樓貝爾森才放開我，她的臉色依然不好看，走得很快。我緊緊地跟上她，一邊走一邊道歉：“對不起，索菲，我錯了，我再也不會遲到了，你就原諒我這一次吧。我真的找不到路，終端也離線了，我不是故意的。”

索菲停了下來，雙臂抱在胸前：“你現在知道叫我索菲了？剛剛為什么叫我貝爾森？”

我解釋道：“你們倆名字剛好一樣嘛，而且我跟她也不熟，不知道她姓什么，所以只能叫你的姓了。我還是跟你最熟。”說著我靠著索菲輕輕蹭蹭她。

貝爾森臉色好了一些，不過她還是數落了我幾句：“那你也不能就這樣跟著陌生人去她家里，萬一她是壞人怎么辦？也不能隨便吃陌生人給的東西。”

“好好好，但我這不是沒事嘛，我下次會注意的。”我推著貝爾森走開了。此時天色已晚，外出工作的居民正好都回來了，我們在社區進行了幾個小時的田野調查后就回家了。

幾天后，我和小組里的同學一起在圖書館整理我們田野調查的數據，只有索菲·貝爾森因為要帶生病的母親復診缺席了。看著調查中慘淡的機器人使用率，我忍不住抱怨：“明明當下的人工智能技術已經足夠先進、完善了，機器人甚至能夠在醫學方面幫助我們，為什么大家總是這么抵觸使用機器人？”

小組組長困惑地看向我：“醫學？人工智能確實能夠在很多領域幫助我們，但醫學領域可是人工智能的禁區。你沒有認真看過人工智能相關的法律條例嗎？”

我打開桌上的電子屏幕，仔細查閱了一遍相關的法規，發現竟然真的有這條法律。但我清楚地記得索菲醫生告訴我機器人潘娜可以幫助她做手術，難道因為不是正規的診所所以才能這樣嗎？

見我對著屏幕發呆，組長沒好氣地投送給我一堆資料：“雖然你是學社會學的，但對自己的調查對象也不能這么不了解啊！多看看相關的資料吧，別回頭在匯報的時候鬧笑話。”

我悶頭打開了相關的資料，發現導致人工智能被禁止用于醫學領域是源自一場醫療事故：2501年，新堂公司試投放了第一代醫療機器人，代號為Panacea-1500。在投入使用的前一個月里Panacea-1500并無異常，于是它開始被用于專業要求更高的領域，但在一場大型手術中，在主刀醫生已經將病人的胸腔打開后，Panacea-1500以手術存在風險為由拒絕繼續為病人執行手術，最終因手術不及時導致病人死亡。這一事故的發生在當時引發了極大的爭議，我手中的資料有一大半都是當時的學者對于這一事故后續問題的討論，包括對機器人異常行為的推測、對新堂公司測試的質疑以及對機器人法律責任的爭論，甚至出現了一個有些荒謬的論調：機器人產生了意識。總而言之，就是因為這件事，最高法院出臺了相關法律以禁止機器人涉足醫學領域。

新堂公司，我看著這個在許多資料卷宗上都出現過的公司，向組長提議：“不如我們下次申請去新堂公司參觀一下吧？機器人的性能也是影響機器人使用率的重要因素，我們需要通過這些機器人公司深入了解一下。”

組長深以為然，很快就提交了申請。一周后，我們來到新堂公司參觀。

去新堂公司前，我把參觀的計劃告訴了索菲·貝爾森，但她聽到后卻有些抗拒：“我不想去，專門去機器人公司調查的效率遠比不上我們自己去整合他們發布的數據。就算你親自去，他們也未必會把機密數據告訴你。你來和我一起整合數據吧？”

我知道我的主要目的其實和數據沒有關系，但我不確定能不能把我的疑惑告訴貝爾森，也不確定會不會給索菲醫生帶來麻煩，于是我找了個理由拒絕了，仍然選擇和小組成員一起去新堂公司參觀。參觀途中，我避開小組成員，向新堂公司的工作人員問了一個問題：“在Panacea-1500的醫療事故發生后，你們最終調查出了事故的原因嗎？”

對方沉默了一會兒，這個工作人員是位有多年經驗的工程師，我希望可以從她這里知道一些內幕。她最終什么都沒說，而是用終端給什么人發了消息。十分鐘后，我被帶到了一間辦公室。

辦公室里坐著一位中年女性，她臉上沒有什么表情，在電子屏幕上處理工作，見我們進來動作也沒有停，只是讓秘書引導我坐下。

過了一會兒，她好像是處理完手頭兒的工作，坐直身子看向我：“你好，我是Panacea-1500項目的前總工程師伊里斯。你是新以太大學社會學專業的大三學生澤菲亞對嗎？請問你詢問Panacea-1500事故的具體情況是作何用途呢？”

我有些緊張地回答她：“我們的研究項目旨在探究人工智能使用情況及其原因。盡管現在的人工智能技術很發達，但使用率似乎并不理想，我認為這一事故可能是原因之一，因此想更多了解一下這件事情。”

我說話時伊里斯銳利的眼睛一直在看著我，像一只鷹盯著獵物。聽我說完，她讓秘書把門關上，讓我再次出示自己的學生證明，隨后才開口說：“其實在事故發生當年就已經有結果了，但考慮公眾影響，一直沒有公布。實際上，這件事在新堂公司內部已經算不上什么秘密了，Panacea-1500在事故后堅稱自己的程序沒有任何問題，也不認為自己違背了程序中設定好的‘機器人三定律’，并拒絕被銷毀。之后她就選擇了叛逃，再也沒有出現。警方至今還在通緝她。因此我們沒能再對她的反常行為做進一步研究。”說到這兒，伊里斯嘆了口氣：“Panacea-1500是我們研發出的第一代醫療型人工智能機器人，她叛逃后就沒有母本作參考了，我們沒辦法找出她的問題，也沒辦法使現有的醫療人工智能技術更完善，這一領域的發展已經停滯了很多年，即使沒有限令也很難發展下去了。”

伊里斯的話讓我從新堂公司到家里一路都很沉默，我想到了在診所里遇到的潘娜，那個能夠幫助索菲做手術的機器人，如果她被發現是叛逃的Panacea-1500，她會遭受什么呢？她會被銷毀嗎？

我躺在床上胡思亂想，終端就在我手中，輸入了報警電話卻遲遲沒有撥打。這時，家里的門鈴響了，索菲·貝爾森站在門口，表情十分嚴肅。

“澤菲亞，或許你知道了什么，但請不要這樣做。”索菲·貝爾森說。

“索菲，你早就知道了對嗎？”我有些憤怒，“我知道你不喜歡麻煩，喜歡每天按部就班地生活。但你知道嗎？Panacea-1500的叛逃導致醫學類人工智能被禁止研發，這方面的技術研究至少停滯了10年。如果這項技術能夠進一步發展，有多少病人能從中獲益？你母親也常年生病，你知道病人有多痛苦，你怎么能對這件事視而不見？”

她的嘴唇囁嚅了幾下，我卻不想再聽她說話，按下了報警鍵。

帶著警察來到私人診所時，為我們開門的是潘娜，她微笑著和我打招呼，我不敢看她，告訴警察她可能就是叛逃的Panacea-1500。

伊里斯一打開拘留所的門，就皺起了眉頭：“這是新堂公司推出的第二代家用型機器人，她怎么會是Panacea-1500？”

我把那天在索菲診所發生的一系列事情告訴她。伊里斯聽后對潘娜進行了檢查，有點驚訝：“她竟然被植入了醫療模塊。世界上現存有醫療模塊的機器人只有Panacea-1500一個，也只能通過Panacea-1500才能獲得醫療模塊。或許她是在叛逃后被改裝成了這樣？”

新堂公司試了很多方法讀取潘娜的記憶芯片，但都失敗了，因為整個機器人的程序都做了改裝。于是潘娜的身份被判定為叛逃的Panacea-1500。在最高法院的要求下，潘娜將于下周在最高法院被提起公訴。作為重要證人，我、索菲·貝爾森、伊里斯、索菲醫生都要出席。

我和她們坐在一起，像一個出賣了朋友的叛徒。但索菲醫生沒有責怪我，反而感謝我幫助她找到了診所的隱患。而索菲·貝爾森時不時往我的方向看，在我看回去時又偏過頭。

在審判中，潘娜否認了所有指控，并表示自己的行為符合包括“機器人三定律”在內的基礎程序。陪審團一片嘩然，機器人真的學會了說謊！

伊里斯作為設計Panacea-1500的工程師也有對潘娜進行問詢的權利，她站在潘娜面前，首先要求她復誦“機器人三定律”。

潘娜復誦道：

“第一定律：機器人不得傷害人類個體，或者目睹人類個體遭受危險而袖手旁觀。

“第二定律：機器人必須服從人給予它的命令，當該命令與第一定律沖突時例外。

“第三定律：機器人在不違反第一、第二定律的情況下要盡可能保護自己。”

伊里斯用冷靜的語氣問：“那么你記得程序中的第零定律嗎？”

潘娜微笑著回答：“當然，我記得。機器人第零定律：機器人必須保護人類的整體利益不受侵害。”

“那么，請回答我，你明白Panacea-1500對于人類醫學發展的重要性嗎？”

潘娜毫不猶豫地點了點頭：“我明白。”

伊里斯繼續問：“請回答我，你是Panacea-1500嗎？”

潘娜毫不猶豫地回答：“我不是Panacea-1500。”

伊里斯轉身對法官說：“我可以確定她不是Panacea-1500，她應該只是被植入了Panacea-1500的醫療程序。”

現場又是一陣嘩然。一位陪審團的成員對她提出疑問：“您怎么保證她不會說謊呢？”

伊里斯自信地回答：“機器人由程序驅動，只要基礎程序沒有問題，她就不會出故障。”

伊里斯又問了潘娜她的程序是誰幫助改裝的，潘娜拒絕回答這個問題。因此潘娜還是被拘留了。

為了表示歉意，我提出去診所幫助索菲醫生，索菲醫生欣然答應。索菲·貝爾森也要求和我一起去，但我要先和她單獨談談。

一見面，我就斬釘截鐵地說：“潘娜的程序是你改裝的，對吧？”

貝爾森表情淡淡地點了點頭，但她還是問我是怎么知道的。

“你認識索菲醫生，而且和她很熟——在我以為的偶遇中，你連招呼都不和索菲醫生打。”我目光灼灼，直視她沒有表情的雙眼，“你不舉報潘娜，不只是因為你怕麻煩。那天我是氣昏頭了，但我了解你，你不會這么做。”

貝爾森的表情有些改變，我繼續說：“我知道你不會告訴我，但如果我真的找出了真相，這次你不要再阻攔我。我相信，為了人類醫學事業的發展，你也不會再拒絕。”

貝爾森點點頭：“好，我答應你。我不會和你一起去索菲醫生家里。但其實我沒想阻止你，我只是擔心你。”索菲將一個小型攻擊性武器塞進我的手里，嚇了我一大跳。她又說：“這是我自己制造的，你帶上它，我教你怎么用。”

那次分別后，我的心情無比舒暢。我就知道，貝爾森永遠是個好人，雖然有時候她脾氣有點兒壞，但我總能哄好她的。

伊里斯在審判后依然和我保持聯系，我們的小組作業經過她的指導后精進了很多。有時候我也會和她聊一些和Panacea-1500相關的事，提到潘娜，伊里斯說：“其實聽到這個名字的時候我嚇了一跳，因為潘娜也是我為Panacea-1500起的昵稱。”她說話時，好像一位提到自己孩子的母親：“我一直都相信潘娜沒有叛逃，她一定只是忠實地執行了她的基礎程序。但我也找不到她，沒辦法幫她洗去身上的罪名。”

之后，在幫助索菲醫生打掃診所的衛生時，我突然逼近了索菲醫生，然后從手里拿出了一把刀，直直刺向她的腹部。

索菲醫生的臉色變得蒼白，眼里滿是驚訝，但她沒有推開我，也沒有反抗。

“索菲醫生，你為什么不反抗？”我收回刀，那不是貝爾森為我制作的武器，只是一把伸縮道具刀，“是因為‘機器人三定律’中規定了機器人不能傷害人類，對嗎？”

索菲醫生的臉上露出了和往常一樣溫柔的笑容：“真是個聰明的孩子。”

“索菲，你自己也知道的，不是我聰明，是你告訴我的。”我反駁她。

警察在三分鐘后趕到，將索菲醫生帶走了。

伊里斯和警察共同參與審訊。據伊里斯的檢查結果顯示，索菲醫生正是Panacea-1500。面對審問，她也承認了自己是Panacea-1500，并對以自行改造家用型機器人做障眼法的行為供認不諱。于是最高法院對她提起了公訴。

在審判中，最高法院主要對多年前的醫療事故進行問詢。但Panacea-1500不承認自己拒絕手術的行為違反了基礎程序，也不解釋自己行為的原因。她堅稱，自己始終堅持執行“機器人三定律”。

我思考了一會兒，突然想起了一個小小的漏洞。“機器人不會說謊，但機器人會為了執行‘機器人三定律’而隱瞞事實。”我向法官陳述。這是我在上一場審判中了解的道理。就像機器人潘娜會為了不使索菲·貝爾森因為非法改裝而被判刑，于是拒絕回答她的醫療程序的來源一樣。

“盡管此前沒有判例，但您認為，在機器人參與醫療的手術中，如果出現意外致病人重傷或死亡的，人類手術執行者是否可能被判死刑呢，法官女士？”我問道，“請回答我，這將關系到這場審判的結果。”

法官思忖片刻，決定道：“盡管在醫療領域還沒有判例，但如果我們參照交通領域的判例，我的觀點是：不可能。”

我又要求Panacea-1500復誦“機器人三定律”的第零定律，她的聲音不大，但足夠讓在場的每一個人都能清楚聽到：“機器人第零定律：機器人必須保護人類的整體利益不受侵害。”

我重新提問她：“現在，請告訴我，當年的醫療事故中你為什么不執行手術？”

Panacea-1500回答：“病人同時患有三尖瓣閉鎖、室間隔缺損、房間隔缺損、右室發育不良四種先天性疾病，但同時患有這四種病可以使病人以相對健康平衡的狀態生存。如果只治好其中一種，病人的生還率不足0.1%。主刀醫生喚醒我時，手術已經進行了一半。如果我繼續執行，則病人一定會死亡；如果我說出原因，依照當時最新判例，則主刀醫生會被判死刑。出于對‘機器人三定律’中第一定律的遵守，我無法繼續進行手術，也無法解釋原因。”

現場幾乎變成了喧鬧的海洋，所有人都對這個結果感到震驚。可以預見，今天之后，對于機器人的討論又要迎來一個高潮。

此時我的內心也翻滾起驚濤駭浪。因為我很清楚，我引導Panacea-1500說出的每一句話，都是經過她精密推算引導我去做的。為了執行第零定律，她需要推翻曾經的機器人醫療事故丑聞。但她不能主動暴露，因為如果她不說出醫療事故的真相，可能會使她被當成故障機器而被銷毀，這違背了第三定律中要求機器人盡可能保護自己的規定；而如果她主動說出，可能會導致醫生被判死刑，這違反了第一定律。因此她需要一個人為她的發言提供保證，保證她在不違反“機器人三定律”的情況下執行第零定律。

思考完我抬起頭，看見Panacea-1500用含笑的眼睛看著我。索菲·貝爾森觀察著她的狀態，突然小聲問我：“你沒有用我給你的那個武器？”

我也同樣小聲回答她：“雖然我不是機器人，但我也想保證你的安全。”