智能機(jī)器人倫理道德問(wèn)題探析
——觀電影《機(jī)械姬》有感

馬承鳳 （南京林業(yè)大學(xué) 馬克思主義學(xué)院 210000）

電影《機(jī)械姬》中描述的人形智能機(jī)器人不僅擁有逼真的人形外貌，而且其智力水平遠(yuǎn)超人類(lèi)。人工智能新技術(shù)在社會(huì)生活多領(lǐng)域的廣泛應(yīng)用為人們帶來(lái)了極大便捷，具有深刻變革世界的革命性力量，同時(shí)也是遠(yuǎn)未成熟的顛覆性技術(shù)，其可能導(dǎo)致的安全性問(wèn)題、倫理道德問(wèn)題尚難準(zhǔn)確預(yù)料。隨著機(jī)器人領(lǐng)域的科技發(fā)展，未來(lái)智能機(jī)器人可能會(huì)越來(lái)越聰明靈活，具備自主性和認(rèn)知能力，甚至超越人類(lèi)。因此，人們需要在機(jī)器人能力還未達(dá)到人類(lèi)之前就要尋找預(yù)防性解決辦法，準(zhǔn)確把握人工智能的發(fā)展軌道，深刻思考人工智能可能導(dǎo)致的安全性問(wèn)題和倫理道德問(wèn)題。

一、什么是人工智能和智能機(jī)器人

1920年，捷克劇作家卡雷爾·卡佩克在他的科幻劇本《羅薩姆的萬(wàn)能機(jī)器人》首次提出“機(jī)器人”這個(gè)詞，并且將機(jī)器人描述為像人一樣的機(jī)器。從此，“機(jī)器人”一詞廣泛流傳使用。從1961年美國(guó)第一臺(tái)工業(yè)機(jī)器人的問(wèn)世到機(jī)器人大規(guī)模應(yīng)用的今天，機(jī)器人主要經(jīng)歷了三個(gè)發(fā)展階段，分別為第一代、第二代和第三代機(jī)器人。第三代機(jī)器人也就是智能機(jī)器人，智能機(jī)器人是“一種能夠在各種環(huán)境中自主地或交互地執(zhí)行各種擬人任務(wù)的機(jī)器人”。不同于普通工業(yè)機(jī)器人，智能機(jī)器人具有行走、感知周?chē)h(huán)境變化、獨(dú)立思考和解決復(fù)雜問(wèn)題的能力。智能機(jī)器人是由機(jī)器人學(xué)、人工智能、自動(dòng)控制和材料工程等學(xué)科相互交叉的邊緣性科學(xué)，但國(guó)際上至今仍沒(méi)有統(tǒng)一公認(rèn)的定義。

1950年，被譽(yù)為“人工智能之父”的阿蘭·圖靈在論文《計(jì)算機(jī)器與智能》中提出了著名的“圖靈測(cè)試”重要概念，“圖靈測(cè)試”是用于衡量人工智能的重要標(biāo)準(zhǔn)，文章中首次提出機(jī)器人具有思考學(xué)習(xí)的可能性。直到1956年，“人工智能”的概念才正式在達(dá)特矛斯會(huì)議上被約翰·麥卡錫首次提出。人工智能是用人工的方法在機(jī)器上實(shí)現(xiàn)的智能，或者說(shuō)是人類(lèi)智能在機(jī)器上的模擬，因此又可稱之為機(jī)器智能。

二、我國(guó)人工智能領(lǐng)域的發(fā)展現(xiàn)狀

人工智能作為新一輪產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力和引領(lǐng)未來(lái)發(fā)展的戰(zhàn)略技術(shù)，2017年2月，成功入選“十三五”新興產(chǎn)業(yè)規(guī)劃；3月，被寫(xiě)入政府工作報(bào)告；7月，國(guó)務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，其上升為國(guó)家戰(zhàn)略，提出要在2030年前成為“世界主要人工智能創(chuàng)新中心”。2018年3月和2019年3月的政府工作報(bào)告中，均強(qiáng)調(diào)指出要加快新興產(chǎn)業(yè)發(fā)展，推動(dòng)人工智能等研發(fā)應(yīng)用，培育新一代信息技術(shù)等新興產(chǎn)業(yè)集群壯大數(shù)字經(jīng)濟(jì)。

目前，我國(guó)多個(gè)單項(xiàng)技術(shù)處于世界領(lǐng)先水平，比如語(yǔ)音識(shí)別、視覺(jué)識(shí)別、機(jī)器翻譯和中文處理等技術(shù)。全球最值得關(guān)注的100家人工智能企業(yè)中有27家中國(guó)企業(yè)，其中騰訊、阿里云、百度、科大訊飛等企業(yè)成為全球人工智能領(lǐng)域的引領(lǐng)者。但是整體水平與發(fā)達(dá)國(guó)家仍有較大差距，比如在高精尖零部件、技術(shù)工業(yè)設(shè)計(jì)和大型智能系統(tǒng)等方面還存在較大提升空間。

三、智能機(jī)器人的倫理道德問(wèn)題

《機(jī)械姬》描述了一名神秘的億萬(wàn)富翁納森邀請(qǐng)一位贏得公司幸運(yùn)大獎(jiǎng)的程序員迦勒到他的別墅共度一周。其實(shí)迦勒被邀請(qǐng)的背后原因是對(duì)人工智能機(jī)器人“艾娃”進(jìn)行“圖靈測(cè)試”。測(cè)試中，“艾娃”利用他的感情來(lái)幫助自己做好周密的逃跑計(jì)劃，影片的最后“艾娃”在迦勒和女性機(jī)器人“京子”的幫助下順利出逃，殺死了納森，并將幫助它的迦勒困在了系統(tǒng)故障的研究所內(nèi)?！稒C(jī)械姬》中最有趣的就是人工智能機(jī)器人“艾娃”和女性機(jī)器人“京子”，前者讓人類(lèi)對(duì)機(jī)器人產(chǎn)生了感情，后者則和人類(lèi)發(fā)生了親密關(guān)系。影片勾起了人們對(duì)機(jī)器人倫理道德問(wèn)題的思考。

（一）基于倫理道德對(duì)人工智能機(jī)器人“艾娃”的角色分析

影片中人工智能機(jī)器人“艾娃”具有人類(lèi)才具有的認(rèn)知能力和意識(shí)，它向往人類(lèi)社會(huì)的生活，為了逃出研究所，人工智能機(jī)器人“艾娃”實(shí)施一系列出逃策略，故意服從人類(lèi)指令，利用人類(lèi)迦勒的感情，殺死創(chuàng)造它的人類(lèi)納森，最終成功逃脫研究所。從整個(gè)影片看來(lái)，人工智能機(jī)器人“艾娃”已具備了與人類(lèi)類(lèi)似的自我意識(shí)，那么限制它的自由、剝奪它的自主能力或者強(qiáng)迫它成為人類(lèi)的附屬品或是不道德的。

影片構(gòu)想人工智能機(jī)器人可能給人類(lèi)帶來(lái)的負(fù)面影響和安全威脅以及人工智能機(jī)器人可能帶來(lái)的不確定性和未知風(fēng)險(xiǎn)，這就是人工智能技術(shù)應(yīng)用中的技術(shù)風(fēng)險(xiǎn)，可以理解為技術(shù)發(fā)展應(yīng)用的不確定性以及技術(shù)主體不期望的結(jié)果發(fā)生的概率。影片中出現(xiàn)的負(fù)面形象加劇了人們對(duì)人工智能機(jī)器人的擔(dān)憂。目前，盡管人類(lèi)是否真的很想制造出很像人類(lèi)的人工智能機(jī)器人，但是機(jī)器人領(lǐng)域仍在繼續(xù)發(fā)展。因此，人們不該去簡(jiǎn)單地限制或者阻止技術(shù)的進(jìn)步，而應(yīng)積極面對(duì)現(xiàn)實(shí)問(wèn)題，比如人們能夠接受機(jī)器人對(duì)人們生活上有多大程度的影響，如何預(yù)防機(jī)器人造成的事故、故意傷害或犯罪，以及如何預(yù)防機(jī)器人具有反社會(huì)傾向和能力，并確保其對(duì)人類(lèi)的有益性。正如艾薩克·阿西莫夫提出的“機(jī)器人學(xué)三定律”，此后又添加了“第零法則”，這表明機(jī)器人是人類(lèi)制作并服務(wù)于人類(lèi)生活生產(chǎn)的，從生命倫理角度看，保障人類(lèi)的生命安全就是最基本的倫理道德原則。

（二）基于倫理道德對(duì)女性機(jī)器人“京子”的角色分析

影片中女性機(jī)器人“京子”是被老板納森設(shè)計(jì)成有著模特般身材和靚麗容貌的美女，但它并不會(huì)說(shuō)話也聽(tīng)不懂人類(lèi)語(yǔ)言，它主要負(fù)責(zé)家務(wù)、陪護(hù)以及為老板提供性服務(wù)。不過(guò)在人們的現(xiàn)實(shí)生活中也有著類(lèi)似影片中的情況，比如2010年美國(guó)“真實(shí)伴侶”公司推出的全世界第一款性愛(ài)機(jī)器人洛克斯（Roxxxy），其就是專(zhuān)門(mén)提供性服務(wù)的機(jī)器人，這不可避免地沖擊著人們的傳統(tǒng)道德觀念。性愛(ài)機(jī)器人的設(shè)計(jì)理念是機(jī)械地模仿人類(lèi)，使得機(jī)器人發(fā)生性關(guān)系像是與真實(shí)的人發(fā)生一樣，而機(jī)器人本身并沒(méi)有任何欲望，這可能會(huì)導(dǎo)致人類(lèi)誤以為出于真愛(ài)與機(jī)器人發(fā)生親密關(guān)系。在英劇《真實(shí)的人類(lèi)》中，由于男主啟動(dòng)了保姆機(jī)器人“阿妮塔”的性愛(ài)程序?qū)е滤钠拮訉?duì)此感到非常厭惡并對(duì)他們的婚姻感情產(chǎn)生極大負(fù)面影響。因此，性愛(ài)機(jī)器人將在一定程度上沖擊人們的婚戀家庭倫理和人類(lèi)道德觀念。

四、小結(jié)

人工智能技術(shù)的發(fā)展使得機(jī)器人的應(yīng)用對(duì)人類(lèi)生產(chǎn)生活的影響越來(lái)越深刻廣泛，準(zhǔn)確把握機(jī)器人與人類(lèi)的關(guān)系對(duì)創(chuàng)制機(jī)器人時(shí)納入合理的倫理道德理念十分重要。機(jī)器人是人類(lèi)思維實(shí)踐化具體化的產(chǎn)物，人類(lèi)是機(jī)器人的創(chuàng)造者，機(jī)器人是人類(lèi)大腦的模擬化結(jié)果。人類(lèi)的倫理道德發(fā)展程度決定了機(jī)器人的倫理道德發(fā)展程度。人類(lèi)的道德雖是由占統(tǒng)治地位的統(tǒng)治階級(jí)的思想形成的上層建筑，但是從根本上來(lái)說(shuō)是由生產(chǎn)力的發(fā)展水平及其與生產(chǎn)關(guān)系的相互作用決定的。因此，機(jī)器人的發(fā)展不僅僅是自身技術(shù)發(fā)展的問(wèn)題，更是人類(lèi)構(gòu)建人性化倫理道德體系所不可避免的問(wèn)題。機(jī)器人對(duì)人類(lèi)的影響是復(fù)雜多變的，如果人類(lèi)不夠謹(jǐn)慎對(duì)待機(jī)器人的倫理道德問(wèn)題，那么就要承受該技術(shù)可能帶來(lái)的負(fù)面?zhèn)Α?/p>