關(guān)于當代科技倫理問題的思考

張珍 吳文娟 夏紹培 趙康 程燕

摘 要：人工智能技術(shù)研究開始于20世紀50年代中期，距今已有60年的發(fā)展歷程，對人類生產(chǎn)生活產(chǎn)生了重大而深遠的影響。但是，隨著人工智能技術(shù)發(fā)展的逐步深入，很多問題暴露出來。由于人類對技術(shù)過于依賴，“技術(shù)異化”現(xiàn)象日益嚴重，技術(shù)的發(fā)展給人類生活帶來了負面的影響。因此，本文試圖從技術(shù)層面、人類自身層面、道德法律層面作出分析，為解決人工智能技術(shù)發(fā)展面臨的困境提供新思路，使人工智能技術(shù)更好地造福人類。

關(guān)鍵詞：人工智能；異化；規(guī)范；生態(tài)文明觀

中圖分類號：TP18

文獻標識碼：A

一、人工智能技術(shù)的發(fā)展及其影響

人工智能技術(shù)研究開始于20世紀50年代中期，距今僅有60年的發(fā)展歷程，但是其迅猛的發(fā)展速度，廣泛的研究領(lǐng)域以及對人類產(chǎn)生的深遠影響等令人驚嘆。調(diào)查顯示，77.45%的人認為現(xiàn)實生活中人工智能技術(shù)的影響較大，并且86.27%的人認為人工智能技術(shù)的發(fā)展對人類的影響利大于弊；認為人工智能技術(shù)對人類生活影響很小且弊大于利的人權(quán)占很小一部分。人工智能技術(shù)的發(fā)展和應用直接關(guān)系到人類社會生活，并且發(fā)揮著重要的作用。人工智能技術(shù)的發(fā)展方向和領(lǐng)域等由人類掌控著，所以人類應該盡可能地把人工智能技術(shù)的弊處降到最低以便更好地為人類造福。2016年3月份，圍棋人工智能AlphaGo與韓國棋手李世乭對弈，最終比分4∶1，人類慘敗。4月份，中國科學技術(shù)大學正式發(fā)布了一款名為“佳佳”的機器人，據(jù)了解，機器人“佳佳”初步具備了人機對話理解、面部微表情、口型及軀體動作匹配、大范圍動態(tài)環(huán)境自主定位導航和云服務等功能。而在這次正式亮相之前，“佳佳”就擔綱主持了2016“首屆全球華人機器人春晚”和“誰是棋王”半決賽。人工智能技術(shù)確實給人類帶來了諸多的便利，給人類生產(chǎn)生活帶來便利；但是，人工智能技術(shù)的快速發(fā)展超乎人類的預測，引起了人類的恐慌和擔憂。百度CEO李彥宏稱，人工智能是“披著羊皮的狼”。毋庸置疑，科學技術(shù)是一把雙刃劍，當人類醉心于科學技術(shù)所帶來的福利中時，更應當注意其帶來的負面作用。人類發(fā)明和創(chuàng)造科學技術(shù)最終是為了造福人類，而非受到科技的異化。

隨著科技的發(fā)展，人工智能技術(shù)越來越成熟，在此整體趨勢之下，不同的人群對人工智能技術(shù)的不斷成熟與應用有著不同的看法。調(diào)查結(jié)果顯示，在關(guān)于機器人會不會擁有人類的思維甚至超過人類的問題方面，27.45%的人認為機器人會擁有人類的思維和超過人類；而56.86%的人認為機器人不會擁有人類的思維和超過人類，小部分人對此不是很清楚。由于受到人工智能技術(shù)迅猛發(fā)展的沖擊，如機器人保姆、AlphaGo圍棋等智能產(chǎn)品對人類發(fā)展帶來的威脅，一部分人仍然對人工智能技術(shù)的發(fā)展擔憂甚至認為終有一天機器人將代替人類、征服人類、控制人類。但是，大部分的人在機器人是否能夠超過人類方面，保持樂觀積極的態(tài)度，認為機器人永遠不會擁有人類的思維并且超越人類，因為人類是技術(shù)的主導者，人類掌握著技術(shù)的發(fā)展方向，技術(shù)終究是為了人類服務。這一看法肯定了人類的無止境的創(chuàng)新，然而，在人類醉心于技術(shù)創(chuàng)新的同時，應意識到某些創(chuàng)新確實超出了人類的預料，如AlphaGo與李世乭圍棋人機大戰(zhàn)就是人類在技術(shù)面前失敗的慘痛教訓。因此，面對科技對人類的異化，人類要時刻保持警惕，適時地總結(jié)“技術(shù)異化”的緣由和解決對策。

二、人工智能技術(shù)發(fā)展面臨的問題及其原因

隨著技術(shù)的革新，人工智能技術(shù)的應用越來越廣泛，與人們的日常生活聯(lián)系也愈加密切。從智能手機的普及到自動駕駛汽車的研制成功，再到生產(chǎn)、建設、醫(yī)療等領(lǐng)域人工智能技術(shù)的應用，都表明了人工智能技術(shù)正悄無聲息地改變著我們生活方式。誠然，人工智能技術(shù)使我們的生活更加豐富多彩，給我們帶來了極大便利，但與此同時，人工智能技術(shù)也給社會帶來了一系列不可忽視的問題：人工智能技術(shù)在社會生產(chǎn)領(lǐng)域的應用對勞動市場造成沖擊；人工智能系統(tǒng)在收集、統(tǒng)計用戶數(shù)據(jù)過程中個人隱私及信息安全方面的隱患；人類對人工智能產(chǎn)品的依賴引發(fā)的身心健康問題；人工智能引起的責任認定問題等。斯蒂芬·霍金在接受BBC采訪時表示，“制造能夠思考的機器無疑是對人類自身存在的巨大威脅。當人工智能發(fā)展完全，就是人類的末日。”表示同樣擔憂的還有特斯拉的創(chuàng)始人馬斯克，他曾直言，“借助人工智能，我們將召喚出惡魔。在所有的故事里出現(xiàn)的拿著五芒星和圣水的家伙都確信他能夠控制住惡魔，但事實上根本不行。”不可否認，人工智能技術(shù)是把雙刃劍，有利亦有弊，爭議從來就沒有停止過，而最不容忽視的莫過于人工智能技術(shù)引發(fā)的一系列倫理困境，關(guān)于人工智能的倫理問題成了重中之重。

調(diào)查發(fā)現(xiàn)，47.55%的人認為人工智能所引發(fā)的倫理問題是因為人性的思考，占比較大；而22.55%的人認為是由于人們價值觀念的改變；29.9%的人認為是利益分化與失衡以及一些其他的原因?qū)е碌摹Ｓ纱丝梢钥闯鰧е氯斯ぶ悄軅惱砝Ь车脑蚴嵌喾矫娴摹Ｖ饕偨Y(jié)為以下幾個方面。

第一，從技術(shù)層面來看，人工智能技術(shù)在現(xiàn)階段仍然有很大的局限性。人工智能是對人腦的模仿，但人腦和機器還是存在本質(zhì)區(qū)別的，人腦勝于人工智能的地方，就是具有邏輯思維、概念的抽象、辯證思維和形象思維。人工智能雖能進行大量的模仿，但由于不具備形象思維和邏輯思維，僅能放大人的悟性活動中的演繹方法，不可能真正具有智能，這決定了機器不能進行學習、思維、創(chuàng)造。此外，智能機器人也不具備情感智能，它們根本無法去判斷自己行為的對錯，也無法自動停止自己的某項行為，所以如果人工智能技術(shù)一旦被不法分子利用，后果不堪設想。可見，由于人工智能自身技術(shù)上的局限性導致的倫理問題已經(jīng)影響到其未來發(fā)展。

第二，從規(guī)制層面來看，倫理規(guī)制的缺失和監(jiān)督管理制度的不完善是導致倫理問題產(chǎn)生的重要原因。科技的發(fā)展目標是為人類謀求幸福，但我們必須認識到，無論是在科技的應用還是發(fā)展過程中總是存在一些難以控制的因素，倘若沒有相應的倫理原則和倫理規(guī)制加以約束，后果難以想象。在目前人工智能領(lǐng)域，缺乏一套成體系的關(guān)于人工智能技術(shù)產(chǎn)品的從設計、研究、驗收到投入使用的監(jiān)督管理方案，也沒有一個國際公認的權(quán)威性的規(guī)范及引導人工智能技術(shù)的發(fā)展及運用的組織或機構(gòu)。現(xiàn)有的監(jiān)督體制遠遠滯后于人工智能技術(shù)的發(fā)展速度，無法匹配技術(shù)發(fā)展的需要。缺乏相關(guān)監(jiān)管制度的約束，人工智能技術(shù)就不可避免會被濫用，從而危害社會。

第三，從社會層面來看，公眾對人工智能技術(shù)的誤解也是原因之一。人工智能作為一門發(fā)展迅猛的新興學科，屬于人類研究領(lǐng)域的前沿。公眾對人工智能技術(shù)的了解十分有限，調(diào)查顯示，對人工智能技術(shù)只是了解水平較低的人較多，占62.75%，以致部分人在對人工智能技術(shù)沒有真實了解的情況下，在接觸到人工智能技術(shù)的負面新聞后就夸大其詞，人云亦云，最終導致群眾的恐慌心理，從而使得更多不了解人工智能技術(shù)的人開始害怕甚至排斥人工智能技術(shù)。我們必須清楚，人工智能是人腦的產(chǎn)物，雖然機器在某些領(lǐng)域會戰(zhàn)勝人，但它們不具備主觀能動性和創(chuàng)造思維，也不具備面對未知環(huán)境的反應能力，綜合能力上，人工智能是無法超越人腦智能的。在李世乭對弈AlphaGo的曠世之戰(zhàn)中，盡管人工智能贏了棋，但人類贏得了未來。

三、人工智能技術(shù)的發(fā)展轉(zhuǎn)向

人工智能技術(shù)的發(fā)展已經(jīng)深入到人類社會生活的方方面面，其最終發(fā)展目標是為人類服務。但是，科學技術(shù)是把雙刃劍，它在造福人類的同時，不可避免地會給人類帶來災難，因此，人類應該趨利避害，使人工智能和科學技術(shù)最大化地為人類服務。這就要求人類必須從主客體兩個角度出發(fā)，為人工智能技術(shù)的健康發(fā)展找出路。

1.技術(shù)層面

（1）加強各個國家人工智能的對話交流與合作。人工智能自20世紀50年代被提出以來，尤其是近六十年來發(fā)展迅速，取得了許多豐碩的成果。如Deep Blue在國際象棋中擊敗了Garry Kasparov； Watson 戰(zhàn)勝了Jeopardy的常勝冠軍；AlphaGo 打敗了頂尖圍棋棋手李世乭。從表面上看，人工智能取得了很大的進步，但深究這些人工智能戰(zhàn)勝人類的案例，我們發(fā)現(xiàn)這些成功都是有限的，這些機器人的智能范圍狹窄。造成這一現(xiàn)象的很大一部分原因就在于國際間人工智能技術(shù)的對話交流與合作還不夠積極，所以加強各個國家人工智能的對話和交流迫在眉睫，同時也勢在必行。

（2）跨學科交流，擺脫單一學科的局限性。從事人工智能這項工作的人必須懂得計算機知識、心理學和哲學。歷史的經(jīng)驗告訴我們，一項科學要想走得長遠就必須有正確的意識形態(tài)領(lǐng)域的指導思想的介入。在人工智能這項技術(shù)中，有些科學家們可能只關(guān)注經(jīng)濟利益而沒有引進相應的倫理評價體系，最終使得技術(shù)預測不到位，沒有哲學的介入，等真正出現(xiàn)問題時就晚了。所以要加強科學家與哲學家的溝通交流，令科學家能更多地思考倫理問題，提高哲學素養(yǎng)，在人工智能技術(shù)中融入更多的哲學思想，保證人工智能技術(shù)能朝著正確、健康方向發(fā)展。

（3）人工智能技術(shù)的發(fā)展，要與生態(tài)文明觀相結(jié)合。在人工智能技術(shù)發(fā)展中，要注入更多的生態(tài)思想，這關(guān)系人民福祉、關(guān)乎民族未來的長遠大計。在人工智能發(fā)展中，若是產(chǎn)生資源過度消耗、環(huán)境破壞、生態(tài)污染等全球性的環(huán)境問題時，人類必須制止并進行調(diào)整。人工智能技術(shù)要想發(fā)展得更好，前景更加明亮，前途更為平坦，就必須保持與生態(tài)文明觀一致，與人類自身利益一致，為人類造福。

2.人類自身層面

（1）增強科學家道德責任感。科學技術(shù)本身并沒有善惡性，而研發(fā)的科學家或是使用者有善惡性。人工智能將向何處發(fā)展，往往與研發(fā)人工智能的科學家息息相關(guān)。科學家應打破“個體化原理”，要融入社會中去，關(guān)注社會道德倫理問題，承擔起道德責任，為自己、他人、社會負責，多去思考自己研發(fā)的技術(shù)可能帶來的后果，并盡可能去避免，多多進行思考，嚴格履行科學家的道德責任。

（2）提高公眾文化素養(yǎng)。調(diào)查發(fā)現(xiàn)，對人工智能技術(shù)了解水平較低的人較多，占62.75%；而非常了解的人較少，占4.41%；另外，對人工智能技術(shù)了解的人占21.08%，不了解的人占11.76%。由此可以看出，大部分的人對人工智能技術(shù)都能有所了解，但都不是很深入，而且仍有部分人對人工智能技術(shù)絲毫不了解，所以，人工智能技術(shù)對于個體的影響是比較微小的，其發(fā)展還沒有深入到個人的日常生活中。特別是在一些關(guān)于人工智能的科幻電影的渲染，可能使那些對于人工智能技術(shù)并不了解或是一知半解的人產(chǎn)生偏見。在日常生活中，人工智能給人類帶來了極大的便利。通過提高公眾的文化素養(yǎng)，使公眾正確認識人工智能技術(shù)，將是緩解甚至是解決人工智能技術(shù)某些倫理問題的重要途徑之一。

（3）加大監(jiān)督力度。人類需要通過建立一個完善的監(jiān)督系統(tǒng)引導人工智能技術(shù)的發(fā)展。對于每項新的人工智能技術(shù)產(chǎn)品從產(chǎn)生到使用的各個環(huán)節(jié)，都要做好監(jiān)督工作，以此來減少人工智能技術(shù)的負面影響，緩解甚至減少人工智能技術(shù)的倫理問題。

3.道德法律層面

（1）通過立法規(guī)范人工智能技術(shù)的發(fā)展。調(diào)查發(fā)現(xiàn)，90.69%的人認為有必要對人工智能技術(shù)所引發(fā)的科技倫理問題實行法治，由此可以看出，要想保證科技的良好健康發(fā)展，必須要建立健全相關(guān)法律條例。然而我國在這一方面的法律還存在很大的漏洞，相關(guān)法律條文滯后于人工智能的發(fā)展，并未頒布一套完整的關(guān)于人工智能的法律體系。沒有規(guī)矩不成方圓，在人工智能領(lǐng)域亦是如此。我們都無法預測將來人工智能將發(fā)展到何種地步，這時就需要人類預先加以適當?shù)南拗疲梅煞ㄒ?guī)加以正確引導，使其朝安全、為人類造福的方向發(fā)展。

（2）構(gòu)建人工智能技術(shù)倫理準則并確立最高發(fā)展原則。要構(gòu)建以為人類造福為最終目的的倫理準則。人工智能技術(shù)的倫理問題已經(jīng)給人類造成了很多負面影響，而要防止其帶來更多負面影響，構(gòu)建合適的人工智能技術(shù)倫理準則勢在必行。

此外，要確立以人為本的最高發(fā)展原則 。一切科學技術(shù)的發(fā)展都應把人的發(fā)展作為出發(fā)點。人工智能的發(fā)展也是如此，要將以人為本、為人類服務為出發(fā)點，并作為最高發(fā)展原則。

四、結(jié)語

科學技術(shù)是把雙刃劍，人類只有消除人工智能技術(shù)的潛在威脅，發(fā)揮人工智能技術(shù)最大化效用，避免倫理困境重演，才能實現(xiàn)人機交互的良性發(fā)展，實現(xiàn)人工智能與人類的良性互動。

參考文獻：

[1]王文杰，葉世偉.人工智能原理與應用[M].北京：人民郵電出版社，2004.

[2]甘紹平.人權(quán)倫理學[M].北京：中國發(fā)展出版社，2009.

[3]楊懷中.現(xiàn)代科技倫理學概論：高科技倫理研究[M].武漢：湖北人民出版社，2004.

[4]王志良.人工情感[M].北京：機械工業(yè)出版社，2009.

[5]鄒 蕾，張先鋒.人工智能及其發(fā)展應用[J].信息網(wǎng)絡安全，2012（2）.

[6]王 毅.基于仿人機器人的人機交互與合作研究[D].北京：北京科技大學，2015.

[7]田金萍.人工智能發(fā)展綜述[J].科技廣場，2007（1）.

[8]郝勇勝.對人工智能研究的哲學反思[D].太原：太原科技大學，2012.

[9]龔 園.關(guān)于人工智能的哲學思考[D].武漢：武漢科技大學，2010.

[10]王洪勝.試析環(huán)境倫理的困境[J].長春工業(yè)大學學報（社會科學版），2009（4）.

[11]劉泉寶，劉永青.關(guān)于人工智能的哲學思考[J].計算機科學，1995（2）.