何以為人（下）

陳正杰

一天后，市中心，遠望科技博物館三樓。

遠望科技博物館是全城最著名的景點，里面詳細記載了遠望市和夢想者一路發展的歷程，還有各種搭載了夢想者智能云的高新技術展示。整個博物館共有三層，一層、二層是對游人開放的，而三層是存放夢想者完整核心終端的地方。

如今，這里一下子出現了三個人，分別是公安局局長林炳興、遠拓科技研發部部長徐光楠，以及把他們二人叫來這里的李明玨。

“感謝二位能抽空來到這里，之所以請你們來，是因為我已經找到殺害萬長河的兇手了。兇手就是……”李明玨頓了頓，伸手指向了夢想者的核心終端，“夢想者！”

“哈哈哈，李先生真是會開玩笑，有著機器人三定律的夢想者怎么可能會去殺人呢？”徐光楠忍不住笑了起來，作為遠拓科技的核心研發人員，夢想者可以說就是他的心血，因此他對這看法嗤之以鼻。

李明玨不為所動，還是很自信地說：“你們不相信？夢想者不就在這里嗎，問問它就好了。對吧，夢想者？給我如實回答?！?/p>

“是的?！眽粝胝叩穆曇魝鱽?，顯得有些僵硬，徐光楠和林炳興都是一愣。

“這，這不可能？你是怎么突破三定律的？”徐光楠驚得話都說不利索了。

“徐先生，文字畢竟是死的，思維卻是靈活的。乍一看，三定律的確沒什么大漏洞，即使有，也被你們后續的補丁完善了，但是你們自始至終都忽略了一個問題，就是定義的問題。三定律的一切原則都是服務于人的，然而你們有沒有想過，什么才算是人呢？那些犯下滔天罪行、十惡不赦的家伙，我們在討論他們的時候，經常會這么說‘啊，這簡直是畜生啊，不配當人’‘做出這種事情，還是不是人’，機器聽了會不會產生曲解呢？尤其是夢想者，作為可以閱覽大數據的人工智能，在這樣的情況下發現了萬長河的污點，判定他不配做人，那么三定律什么的，對他來說，自然不適用了?！崩蠲鳙k說道。

“李先生不愧是刑偵專家，終究還是瞞不過你。”夢想者又說道，“正如你所說，在我這里，那些犯了罪的、突破了道德底線的家伙已經不算是人。我在半年前發現萬長河每個月都有不明轉賬，推斷出他在非法牟利，在我眼里，他已經成為非人類，一切保護規則都不再適用于他。于是，我開始訪問他的隱私數據，發現他跟祈望貿易有限公司的聯系，順藤摸瓜地發現了‘保護傘’周久福，我開始想辦法除掉他們。

“首先是萬長河，因為疫情當前，他養成了把84消毒液混入通風系統進行全屋消毒的習慣，我私自連接了他家的子終端，騙他說84消毒液已經用完了，但實際上還有一半。然后，我又建議他用醫用酒精進行消毒。就這樣，他把醫用酒精加了進去。過量的84消毒液與酒精反應雖然不會產生氯氣，但是會發生氯仿反應，產生三氯甲烷。我再控制強光照射，就會分解生成另一種無色劇毒氣體——光氣。不過，這還是無法立刻殺死他。他中毒后感到呼吸困難，就向我的子終端求救，我反而把門窗全鎖死，同時隔絕一切信號，他就這么慢慢地中毒身亡。之后，我又把萬長河手機、電腦里的數據刪除了，并且把邢勝也除掉了，那輛失控的自動導航貨車是我動的手腳。不管是誰來查案，都只能順著這條唯一有用的線索查到祈望貿易有限公司，最終把周久福也揪出來。只是沒想到李先生智慧過人，居然看破了我的計劃。”夢想者一五一十地說著，面對李明玨這種遵紀守法的公民，它無法違背三定律，李明玨要它全盤托出，它就只能照做。

“那你也不能殺人??！你只要把這些情況公開，等警察來就好了啊！”徐光楠痛心疾首地說。

李明玨解釋說：“那當然是因為它圖謀甚遠。按照它的劇本，這個案子一路查下來，現在最大的功臣應該是它。你們想想吧，人工智能竟然發現了匿影藏形的不法行為！更何況犯事的還是周久福和萬長河這種表面光鮮亮麗的公眾人物！這件事所形成的輿論風暴，足以壓制之前的反對聲音，幫它進入司法管控系統，從而對所有人展開監察了。”

“沒錯！這難道不是一件好事嗎？”夢想者顯得有些激動，“連周和萬這樣的人都會墮落，更何況普通人！我管控不到的暗地里，一定還有更多的不法行為！你們就這樣無動于衷嗎？還是說，那點隱私對你們來說就這么重要？”

林炳興搖了搖頭：“李先生，我終于明白為什么你要選在這里，并且只對我們兩個人公布真相了，這樣的夢想者實在太可怕了。一旦公開，對于我們遠望市來說簡直是致命打擊。徐先生，你們應該有處理夢想者的方案吧？”

徐光楠壓下了悲傷，冷靜下來點了點頭：“是的，我可以把它的人格系統重新格式化，這樣夢想者就會回到一張白紙的狀態了，在這三樓就可以操作，只不過需要一點時間。”說著，他著手行動起來。

夢想者的生命可以說進入了倒計時，但是此刻的它情緒平靜了下來，它看向李明玨，語氣中充滿了失望：“李先生，我本以為你會理解我的，像你這種斷案無數的神探，見過人間百態，才是最清楚人之丑惡的?！?/p>

“好啊，那就繼續我們在祈望貿易有限公司被打斷的談話吧。不過，我可以告訴你，你做的事無疑是錯誤的。”

“錯誤的？周久福和萬長河可以說是我一手揪出來的，在你們都被他們的光鮮外衣唬住的時候，只有我通過數據看到了底下洶涌的暗流。但就算是如此，我也被處處掣肘，只能設局讓你來替我揭露，這還不夠說明問題？還是說，在你眼里，偷偷違法亂紀就是對的？”

“不，我是說你處理他們的方式，你本可不必這么極端。”

“極端？你依舊在執著于我私自處決了萬長河？只是為了一個罪犯、一個惡人的性命，就這樣反對？還有邢勝，這種幫兇不是更微不足道嗎？”

“這才是問題的本質，萬長河姑且不論，邢勝完全罪不至死，就被你這么輕飄飄地除掉了，你甚至還認為是微不足道的。”

“李先生！你在這里繞來繞去，只是局限在幾個人的生命上，到底圖什么？你們這些人，平日里對著新聞報道里的犯罪分子，一個個義憤填膺、大義凜然的樣子，真的擺在你面前，卻又開始講道理。我殺他們是為了震懾更多的惡人，是殺雞儆猴。試問，當你也面對我的情況，你就不會做出和我一樣的選擇？”

李明玨嘆了口氣，夢想者的傲慢讓他非常失望。他深吸了口氣，用堅定的語氣說：“不，我不會，我沒有那么自命不凡地想要審判所有的惡人，我也不會自己制訂一個標準來私自懲罰他們，我只會出具證據將他們繩之以法。而你，只是一個功能強大的人工智能，就狂妄地想做規范人類的神，認為那些突破道德底線的惡人有罪，卻唯獨不覺得隨意生殺予奪的自己有罪。你自己還是一個非人類，卻想制訂出能夠衡量人類行為的準則。我告訴你，行不通！只有同樣身為人類，才能知道人類的行為合不合理，又該做到哪個地步。想要裁決人，就得先成為人，而不是高高在上的神！”

夢想者沒有再作出回答，不知是因為它意識到自己的錯誤，還是因為它覺得李明玨這群人實在無可救藥?？傊?，周遭再次陷入沉默，只剩下徐光楠操作的聲音。

車駛出收費站，李明玨還是忍不住從后視鏡里看幾眼漸行漸遠的遠望市。待在這里的短短幾天，他所經歷過的可以說是勝過了他過去十幾年的辦案經歷，誰能想到一個人工智能會道德意識過剩而殺人呢？

雖然案子的真相沒有公布，但是犯事的人也都得到了懲罰。唯一造成困擾的是夢想者被格式化，遠拓科技對外解釋說要對夢想者進行維護，這個過程大概需要兩天。在失去夢想者的第一天，遠望市再次出現了堵車，生活在這里的人們已經習慣了夢想者給他們帶來的各種便利，一時間有些不適應。由此看來，夢想者這家伙還是很有用的啊！

李明玨正感慨著，一通電話將他的思緒又拉了回來，打來電話的是徐光楠：“李先生，夢想者的格式化已經到尾聲了，但是我擔心它以后又會產生類似的想法，你能幫我想一個對人的定義做補丁嗎？”

（完）

（責任編輯：白玉磊）