虛幻與現(xiàn)實(shí)：大眾媒體中的機(jī)器人形象對(duì)機(jī)器人倫理學(xué)的啟示

摘 要 對(duì)于機(jī)器人倫理學(xué)研究，目前主要都集中于阿西莫夫提出的“機(jī)器人學(xué)三定律”，但大眾媒體中的機(jī)器人形象，不論是小說(shuō)還是影視，已遠(yuǎn)遠(yuǎn)超出了“三定律”所能規(guī)范和解釋的范疇。相反，大眾媒體中機(jī)器人的各種創(chuàng)新，從某種意義上說(shuō)，很可能為目前機(jī)器人倫理學(xué)研究開(kāi)辟更大的戰(zhàn)場(chǎng)，提供更豐富的研究依據(jù)和展望。文章對(duì)大眾媒體，如小說(shuō)、影視等，做了大致梳理，借此為機(jī)器人倫理學(xué)研究提出新的切入點(diǎn)。

關(guān)鍵詞 機(jī)器人倫理學(xué)；“機(jī)器人學(xué)三定律”；科幻小說(shuō)；科幻影片；大眾媒體

中圖分類號(hào) G2 文獻(xiàn)標(biāo)識(shí)碼 A 文章編號(hào) 1674-6708（2019）235-0118-02

科幻作品對(duì)人類科技的推動(dòng)是巨大的，其中“機(jī)器人（robot）”一詞，最早就是出現(xiàn)在文學(xué)作品中。這一詞匯誕生于荒誕劇，正式進(jìn)入英語(yǔ)后，便成為“機(jī)器人”的專用詞匯，機(jī)器人開(kāi)發(fā)研究也隨之而來(lái)。隨著這一研究的不斷深入，科學(xué)界近年來(lái)提出了一個(gè)新的概念——機(jī)器人倫理學(xué)。作為一個(gè)專業(yè)術(shù)語(yǔ)的“機(jī)器人倫理學(xué)”首次由Gianmarco Veruggio提出。在他的觀念里，人類應(yīng)該在機(jī)器人引發(fā)各類危險(xiǎn)前找出控制方法。

Veruggio認(rèn)為人類目前面臨的問(wèn)題不是為一大群半智能類人機(jī)器人制定道德規(guī)范，而是那些功能遠(yuǎn)遠(yuǎn)超過(guò)人類水平的高級(jí)人工智能。在他看來(lái)，機(jī)器人、仿生人、模擬大腦什么的都無(wú)關(guān)緊要，一二十年之后將要面對(duì)的真正的大問(wèn)題——為超級(jí)智能開(kāi)發(fā)倫理道德[1]。

這一概念如同一顆驚雷，打破了原本的平靜，研究學(xué)者和研發(fā)專家就這一命題積極展開(kāi)討論并進(jìn)行深入研究。

1 機(jī)器人倫理學(xué)發(fā)展

目前我國(guó)機(jī)器人倫理研究方面，一些學(xué)者表示，對(duì)于機(jī)器人倫理學(xué)，應(yīng)從“安全問(wèn)題”“法律和倫理問(wèn)題”以及“社會(huì)問(wèn)題”三大問(wèn)題域來(lái)提出機(jī)器人論理學(xué)[2]。還有一些學(xué)者提出，不同文化、意識(shí)形態(tài)背景下存在使用機(jī)器人的倫理標(biāo)準(zhǔn)也不盡相同[3]。但受制于目前科學(xué)技術(shù)水平，這些無(wú)異于紙上談兵，空有理論卻得不到實(shí)際證實(shí)。

與此同時(shí)，在現(xiàn)實(shí)操作中，我們發(fā)現(xiàn)人工智能在我們的生活中日益增多，不斷觸發(fā)各種倫理問(wèn)題。例如，新京報(bào)在2013年5月刊登了一篇題為“聯(lián)合國(guó)討論封殺‘殺人機(jī)器人”的文章。文中提到，聯(lián)合國(guó)人權(quán)理事會(huì)特別調(diào)查員克里斯多夫·海因斯強(qiáng)烈反對(duì)這一研發(fā)項(xiàng)目，要求立即終止“殺人機(jī)器人”的研發(fā)和應(yīng)用。但這簡(jiǎn)直就是蜉蝣撼樹(shù)。大家都知道現(xiàn)代軍事科技的一大發(fā)展趨勢(shì)便是開(kāi)發(fā)和應(yīng)用“殺人機(jī)器人”，這一研究一定程度上代表了一個(gè)國(guó)家軍事科技水平。

在這種情況下，應(yīng)用倫理學(xué)研究必須認(rèn)真對(duì)待機(jī)器人的道德倫理問(wèn)題，這一研究也成為一個(gè)亟待開(kāi)發(fā)的新領(lǐng)域。機(jī)器人倫理問(wèn)題是一個(gè)涉及到多領(lǐng)域的交叉性學(xué)科，要開(kāi)發(fā)研究該領(lǐng)域，不僅需要跨學(xué)科、多層次的人才，甚至需要聯(lián)合機(jī)器人進(jìn)行研究。

有研究學(xué)者從文學(xué)作品出發(fā)，對(duì)機(jī)器人倫理學(xué)研究提出了大膽的預(yù)測(cè)，認(rèn)為機(jī)器人倫理有可能帶領(lǐng)人類倫理走向新的高度。筆者在2013年發(fā)表一篇“科學(xué)小說(shuō)的生命倫理探究”的文章，指出科學(xué)小說(shuō)作者應(yīng)秉持科學(xué)態(tài)度，對(duì)人類社會(huì)的未來(lái)做出有依據(jù)的預(yù)測(cè)，并永于承擔(dān)相應(yīng)的責(zé)任[4]。美國(guó)學(xué)者Susan Leigh Anderson在其“Asimovs ‘three laws of robotics and machine metaethics”一文通過(guò)分析阿西莫夫的《活了兩百歲的人》，提出機(jī)器人或許可以自己發(fā)展自我倫理學(xué)，因?yàn)閭惱韺W(xué)并不是某種可以用計(jì)算機(jī)演算的學(xué)科[5]。這兩篇研究論文都為研究者帶來(lái)了一個(gè)新的倫理學(xué)研究方向，即基于機(jī)器人科學(xué)小說(shuō)的倫理學(xué)研究。

2 美國(guó)大眾媒體中的機(jī)器人倫理發(fā)展史

從20世紀(jì)30年代開(kāi)始，隨著科學(xué)的迅速發(fā)展，有關(guān)機(jī)器人的科學(xué)小說(shuō)數(shù)量劇增，但大多都以鋼鐵類機(jī)器人為主題。其中貢獻(xiàn)最大的，非美國(guó)科幻小說(shuō)作家艾薩克·阿西莫夫莫屬。

阿西莫夫與著名科幻編輯坎貝爾在20世紀(jì)40年代，認(rèn)為小說(shuō)中機(jī)器人的“怪物”“惡魔”“毀滅者”的負(fù)面形象狀況應(yīng)得以改觀，兩人一同為機(jī)器人制定出一套基本的行為規(guī)范和道德準(zhǔn)則，試圖依靠這套標(biāo)準(zhǔn)使機(jī)器人成為人類的朋友和伙伴[6]。這套標(biāo)準(zhǔn)首先出現(xiàn)在阿西莫夫的小說(shuō)《我，機(jī)器人》中，被命名為“機(jī)器人學(xué)三定律”：

第一定律：機(jī)器人不得傷害人類，也不得在人受到傷害時(shí)袖手旁觀；

第二定律：機(jī)器人必須服從人的命令，前提是不違反第一定律；

第三定律：機(jī)器人必須保護(hù)自己，前提是不違反第一、第二定律。

值得說(shuō)明的是，這三定律并非完美無(wú)暇，作為補(bǔ)充，阿西莫夫在后續(xù)小說(shuō)作品中又補(bǔ)充了“第零定律”，即機(jī)器人必須以人類的整體利益不受傷害為第一前提。只有在這一前提下，其它三條定律才能成立。在這一道德準(zhǔn)則指導(dǎo)下，阿西莫夫有關(guān)機(jī)器人的一系列科幻小說(shuō)才得以面世。在他的筆下，機(jī)器人不是背叛人類、為害四方的惡魔，雖然這些機(jī)器人或多或少還是會(huì)受到各種心理問(wèn)題的困擾，但他們一直是人類忠心耿耿的朋友和伙伴。在與人類的互動(dòng)中，這些心理問(wèn)題最終得到解決。而這正是阿西莫夫創(chuàng)作機(jī)器人系列小說(shuō)故事情節(jié)的基礎(chǔ)。

假如阿西莫夫小說(shuō)的構(gòu)想全部能夠?qū)崿F(xiàn)，那些鋼鐵機(jī)器人真有可能永遠(yuǎn)陪伴人類、臣服于人類，也根本不會(huì)出現(xiàn)“機(jī)器人與人類為敵”的情況了。但是，這三條定律并非完美，對(duì)此的質(zhì)疑之聲不絕于耳。比如波蘭科學(xué)小說(shuō)作家萊姆就曾提出：按西莫夫的“機(jī)器人學(xué)三定律”幾乎是不可能做到的，它對(duì)技術(shù)的要求極高。比如按西莫夫在“機(jī)器人學(xué)三定律”中提到“機(jī)器人不得傷害人類”，要做到這一條，就必須為機(jī)器人的大腦程序安裝一種保險(xiǎn)裝置。而這種保險(xiǎn)裝置的工作原理是基于統(tǒng)計(jì)學(xué)和概率學(xué)的計(jì)算的，也就是說(shuō)只要一個(gè)機(jī)器人有萬(wàn)分之一可能性會(huì)傷害人類，為了防止這種情況出現(xiàn)，必須給它配備超高保險(xiǎn)系數(shù)的保險(xiǎn)裝置，其結(jié)果只能是機(jī)器人變得呆滯[7]。可見(jiàn)，“三定律”并非是萬(wàn)能的。

而科幻小說(shuō)作家總是喜歡大膽幻想，不會(huì)受困于技術(shù)條件，他們創(chuàng)作的機(jī)器人智能越來(lái)越高，甚至超出了人類所能控制的范圍。蘇姍妮·范·魯尹的作品《我愛(ài)機(jī)器人》中，音樂(lè)天才機(jī)器人奎因因?yàn)樵趯W(xué)校與人類孩子的接觸，而引發(fā)機(jī)器人對(duì)自身身份的思考。奧爾迪斯的短篇小說(shuō)《月光掠影》中象征人類進(jìn)化的隊(duì)伍之中，人類卻越來(lái)越少，而越來(lái)越多的是機(jī)器。甚至喬治·奧威爾在其小說(shuō)《1984》中就描寫到窮人所讀的書都是機(jī)器人寫的……文學(xué)創(chuàng)作中的機(jī)器人形象層出不窮，正邪難辨。他們不再是人類的仆從，他們具有思考寫作能力，具備獨(dú)立的機(jī)器人格，要求“機(jī)器人權(quán)”……“三定律”的倫理標(biāo)準(zhǔn)越來(lái)越難以應(yīng)付這些新?tīng)顩r。

同時(shí)，隨著電影技術(shù)的發(fā)展，許多機(jī)器人形象被搬上了銀幕，更為直觀，也更加生動(dòng)地展現(xiàn)給世人。比如阿西莫夫的小說(shuō)《我，機(jī)器人》改編的電影《機(jī)械公敵》，影片中的機(jī)器人發(fā)生叛亂并試圖控制人類。由小說(shuō)《機(jī)器人會(huì)夢(mèng)見(jiàn)電綿羊嗎？》改編的影片《銀翼殺手》，這里不僅有與人類一般無(wú)二的機(jī)器人，甚至還出現(xiàn)了人類與機(jī)器人之間的愛(ài)情。影片《機(jī)械紀(jì)元》則講述了機(jī)器人尋求自由的歷程。這些小說(shuō)及影片中都涉及了統(tǒng)治與被統(tǒng)治、權(quán)利、愛(ài)情、自由等這些倫理主題。但如果僅僅展現(xiàn)這些故事情節(jié)，那你就低估了編劇和導(dǎo)演的眼光，他們?cè)噲D通過(guò)影片表面所傳達(dá)的故事，讓觀眾去體會(huì)更深層次的倫理問(wèn)題，人類作為機(jī)器人創(chuàng)造者，該如何處理由科技發(fā)展而引發(fā)的倫理道德問(wèn)題，從而讓科技更好地服務(wù)人類。詹姆斯·卡梅隆執(zhí)導(dǎo)的《終結(jié)者》系列電影是公認(rèn)的機(jī)器人影片的杰作，機(jī)器人正邪兩派之戰(zhàn)，在帶來(lái)極大的視覺(jué)沖擊的同時(shí)，也留下了巨大的思考空間——是非、正邪，本就是倫理道德之要素。這時(shí)的“機(jī)器人學(xué)三定律”已經(jīng)愛(ài)莫能助。按照之前的經(jīng)驗(yàn)以及科學(xué)的發(fā)展，人工智能機(jī)器人、甚至類人機(jī)器人在不遠(yuǎn)的將來(lái)真的出現(xiàn)，是否應(yīng)該制定相應(yīng)的倫理學(xué)標(biāo)準(zhǔn)來(lái)制約機(jī)器人，或者說(shuō)制約其研發(fā)人類，如何制定這一系列的標(biāo)準(zhǔn)和條列，就成了學(xué)者需要考慮的內(nèi)容。

3 大眾媒體對(duì)機(jī)器人倫理的啟發(fā)

鑒于對(duì)機(jī)器人倫理學(xué)研究困難之大，而確有學(xué)者借文學(xué)作品來(lái)研究倫理學(xué)，筆者在這里大膽提出一個(gè)建議：我們可以利用科學(xué)小說(shuō)為實(shí)驗(yàn)場(chǎng)所，正如阿西莫夫當(dāng)時(shí)的機(jī)器人學(xué)三定律，在小說(shuō)中以科學(xué)為依據(jù)，發(fā)揮想象，提出可能的解決方法和策略。在所后的作品中對(duì)此加以改進(jìn)和完善。

機(jī)器人、類人機(jī)器人以及半機(jī)器人已成為當(dāng)今大眾文化的部分。書籍，乃是文化傳播最普遍和成本也較低的方式之一，最易為人們所接受；而電影產(chǎn)業(yè)具有全球性傳播影響力。Allmovie.com網(wǎng)站上搜索“機(jī)器人”得到的影片有百部有余，搜索“機(jī)器人和類人機(jī)器人”得到的影片超過(guò)400部。這里面有1958年的《機(jī)器人與阿茲特克木乃伊》，也有2014年的《機(jī)器紀(jì)元》。而boxofficemojo.com網(wǎng)站資料顯示，機(jī)器人電影也為電影公司帶來(lái)了相當(dāng)不錯(cuò)的收益。這樣的成績(jī)無(wú)不對(duì)大眾產(chǎn)生了深遠(yuǎn)的影響力。

“人們對(duì)機(jī)器人的態(tài)度從根本上取決于對(duì)機(jī)器人的預(yù)判。由于大部分都沒(méi)有真正和機(jī)器人接觸過(guò)，他們對(duì)于機(jī)器人能力的認(rèn)知都是通過(guò)第三方渠道，比如科學(xué)小說(shuō)和影視作品。人們將自己讀過(guò)小說(shuō)或看過(guò)的電影中的故事情節(jié)當(dāng)作自我經(jīng)驗(yàn)。”[8]因?yàn)椴徽撌强茖W(xué)小說(shuō)還是科幻影片都極力地塑造出一種“真實(shí)”。這一“真實(shí)性”，也是筆者認(rèn)為大眾媒體中的機(jī)器人可以成為機(jī)器人倫理學(xué)研究對(duì)象的主要依據(jù)。而在這種虛構(gòu)的“真實(shí)”之中，機(jī)器人的倫理道德取向和需求，也在一步步影響著機(jī)器人科技工作者的工作倫理，二者相輔相成，不可分割。

科幻作品中的機(jī)器人形象，是科幻作家們結(jié)合對(duì)科學(xué)技術(shù)合理的預(yù)測(cè)，大膽想象，并按照人類自身的形象創(chuàng)造出來(lái)的，滿足了人類自身“造物主”的想像。人類創(chuàng)造的機(jī)器人思考的速度更為敏捷，學(xué)習(xí)能力更強(qiáng)，身體各項(xiàng)機(jī)能遠(yuǎn)超人類……這樣的一個(gè)群里是否需要更為完善的道德規(guī)范來(lái)引領(lǐng)呢？答案當(dāng)然是肯定的，這就需要我們學(xué)者專家去開(kāi)發(fā)。從某種意義上說(shuō)，科幻作品中的機(jī)器人就是我們?nèi)祟惖倪M(jìn)化版，而對(duì)機(jī)器人倫理學(xué)的研究必將成為人類倫理學(xué)研究的一個(gè)重要方面。

參考文獻(xiàn)

[1]魏郎兒.為什么愛(ài)西莫夫的三定律救不了我們[N].科學(xué)人，2014-04-26.

[2]王紹源，崔文芊.國(guó)外機(jī)器人倫理學(xué)的興起及其問(wèn)題域分析[J].未來(lái)與發(fā)展，2013（6）.

[3]王東浩.機(jī)器人論理問(wèn)題探賾[J].未來(lái)與發(fā)展，2013（5）.

[4]魏蘭.科學(xué)小說(shuō)的生命倫理探究[J].短篇小說(shuō)（原創(chuàng)版），2013（2）.

[5]Susan Leigh Anderson. Asimovs “three laws of robotics” and machine metaethics[J]. AI & Soc（2008）22：477–493.

[6]黃祿善.美國(guó)通俗小說(shuō)史[M].南京：譯林出版社，2003.

[7]星河.取代上帝和人類鏡像：科幻小說(shuō)中的機(jī)器人題材[J].知識(shí)就是力量，2005.

[8]Ulrike Bruckenberger， Astrid Weiss， Nicole Mirnig. The Good， The Bad， The Weird： Audience Evaluation of a “Real” Robot in Relation to SF and Mass Media[J]. Lecture Notes in Computer Science （8239），2013.