人工智能的社會(huì)問題

◎蔡自興

20 17年7月8日國務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，提出了面向2030年我國新一代人工智能發(fā)展的指導(dǎo)思想、戰(zhàn)略目標(biāo)、重點(diǎn)任務(wù)和保障措施，部署構(gòu)筑我國人工智能發(fā)展的先發(fā)優(yōu)勢，加快建設(shè)創(chuàng)新型國家和世界科技強(qiáng)國。這個(gè)規(guī)劃給全國人民，特別是人工智能工作者以巨大鼓舞。

近年來，人工智能在全世界獲得巨大進(jìn)展，進(jìn)一步促進(jìn)科學(xué)技術(shù)和國民經(jīng)濟(jì)的發(fā)展。人工智能能夠提供重要的信息處理能力，包括知識(shí)獲取與表達(dá)、確定性推理與不確定性推理、規(guī)劃、特征識(shí)別與跟蹤、自然語言處理、圖像處理、地圖構(gòu)建與導(dǎo)航、計(jì)算智能及機(jī)器學(xué)習(xí)等。人工智能技術(shù)也為機(jī)器人技術(shù)向智能化方向提供理論支持，是智能機(jī)器人發(fā)展的根本保障。人工智能能夠模仿人類行為以實(shí)現(xiàn)智能機(jī)器的特定應(yīng)用。例如，機(jī)器人護(hù)士專家系統(tǒng)，可以讓機(jī)器人在非預(yù)期情況下具有自我判斷能力并從中學(xué)習(xí)。其他重要應(yīng)用領(lǐng)域包括通過語音合成器講話、快速甚至同步進(jìn)行語言翻譯、處理與識(shí)別語音。為了使表達(dá)更真實(shí)，操作系統(tǒng)必須將聲音、嘴唇、面部表情、手勢、眼神及眨眼等方面協(xié)調(diào)好。人工智能使機(jī)器人 “如虎添翼”，機(jī)器人這只老虎開始飛起來了！

讓我們看看兩個(gè)數(shù)據(jù)：智商 （IQ）值與智能機(jī)器人總數(shù)。大家知道，智商（IQ）即智力商數(shù)，為個(gè)人智力測驗(yàn)成績和同年齡人被試成績相比的指數(shù)，是衡量個(gè)人智力高低的一個(gè)標(biāo)準(zhǔn)。設(shè)定人的平均IQ值為100，愛因斯坦的IQ為190，屬于特高智商，而達(dá)芬奇的IQ為205，是至今已知的個(gè)人最高智商。據(jù)預(yù)測，隨著計(jì)算機(jī)智能程度的不斷提高，20年后人工智能的IQ將達(dá)到10,000。這絕非癡人說夢(mèng)，而是不久后的現(xiàn)實(shí)。另一個(gè)數(shù)據(jù)，預(yù)測未來20年智能機(jī)器人 （含工業(yè)機(jī)器人、服務(wù)機(jī)器人、智能駕駛汽車等）的數(shù)量會(huì)達(dá)到100億以上，將超過人口總量；這也不是空穴來風(fēng)，而是科學(xué)預(yù)測。從這兩個(gè)數(shù)據(jù)可以看到，就某些重要指標(biāo)而言，20年后智能機(jī)器人將從數(shù)量到質(zhì)量全面趕超人類。智能機(jī)器人的進(jìn)步，將為人類做出全面的更大貢獻(xiàn)。

人工智能和智能機(jī)器人將改變?nèi)祟惖墓ぷ髋c生活環(huán)境、經(jīng)濟(jì)發(fā)展方式和醫(yī)療衛(wèi)生狀況，可以做人類的助手，為我們提供各種專業(yè)服務(wù)，修復(fù)受傷人類的肢體，甚至給人們帶來 “永生”。人工智能的發(fā)展已對(duì)人類社會(huì)的方方面面產(chǎn)生了十分重大和深遠(yuǎn)的影響。

未來的人工智能系統(tǒng)和智能機(jī)器將發(fā)展到非常 “聰明”的程度，將能夠自動(dòng)識(shí)別并解決人類無法應(yīng)對(duì)的體力和智力問題。智能機(jī)器將比人類至今已經(jīng)制造出來的任何機(jī)器更有智慧和更加有用，它們不僅是工具，更是具有創(chuàng)造性的機(jī)器。我們可以期待，在不遠(yuǎn)的將來，高級(jí)智能機(jī)器人將普遍出現(xiàn)在我們的生活中，人工智能和智能機(jī)器人今后必將產(chǎn)生更大和更深遠(yuǎn)的影響。

人工智能的快速發(fā)展在給人類社會(huì)進(jìn)步和經(jīng)濟(jì)發(fā)展帶來巨大利益的同時(shí)，也帶來嚴(yán)峻挑戰(zhàn)。就像任何新技術(shù)一樣，人工智能的發(fā)展也引起或即將出現(xiàn)許多問題，并使一些人感到擔(dān)心或懊惱。社會(huì)上一些人擔(dān)心人工智能技術(shù)會(huì)搶奪他們的飯碗而使他們失業(yè)，擔(dān)憂智能機(jī)器人的智慧超過人類而威脅人類安全等。這些問題涉及勞務(wù)就業(yè)、社會(huì)結(jié)構(gòu)變化、思維方式與觀念的變化、法律、倫理道德、心理威脅和技術(shù)失控危險(xiǎn)等。這些都是值得高度關(guān)注的影響社會(huì)安定和諧的社會(huì)問題。

下面探討人工智能帶來的幾個(gè)具體的社會(huì)問題。

1.勞務(wù)就業(yè)問題

由于人工智能能夠代替人類進(jìn)行各種腦力勞動(dòng)和體力勞動(dòng)，例如，用工業(yè)機(jī)器人代替工人從事焊接、噴漆、搬運(yùn)、裝配和加工作業(yè)，用服務(wù)機(jī)器人從事醫(yī)護(hù)、保姆、娛樂、文秘、記者、會(huì)計(jì)、清掃和消防等工作，用?？仗剿鳈C(jī)器人替代宇航員和潛水員進(jìn)行太空和深海勘探和救援。機(jī)器人將可能引發(fā)就業(yè)市場的變動(dòng)并影響人類生活。因此，將有一部分人員可能把自己的工作讓位給機(jī)器人，造成他們的下崗和再就業(yè)，甚至造成失業(yè)。

2013年英國牛津大學(xué)的一項(xiàng)研究報(bào)告稱：未來有700多種職業(yè)都有被智能機(jī)器替代的可能性。越是可以自動(dòng)化、計(jì)算機(jī)化的任務(wù)，就越有可能交給智能機(jī)器完成，其中以行政、銷售、服務(wù)業(yè)首當(dāng)其沖。涉及的職業(yè)有司機(jī)、技工、建筑工人、裁縫、快遞員、接線員、抄表員、會(huì)計(jì)、收銀員、翻譯、記者、法官、播音員、節(jié)目主持人、保安、交易員、客服、保姆等。

廣泛采用人工智能技術(shù)和智能機(jī)器替代員工從事各種勞動(dòng)，這是由智能機(jī)器的優(yōu)點(diǎn)決定的。這些優(yōu)點(diǎn)包括：提高生產(chǎn)效率，降低運(yùn)營成本；提高產(chǎn)品質(zhì)量的穩(wěn)定性與一致性；縮短產(chǎn)品改型換代的準(zhǔn)備周期，減少相應(yīng)設(shè)備投資；降低對(duì)一線操作人員的技能要求，改善勞動(dòng)環(huán)境；節(jié)約人工工資和相關(guān)費(fèi)用，提高生產(chǎn)安全；更加靈活，大大提升批量化生產(chǎn)效率，實(shí)現(xiàn)小批量產(chǎn)品的快速響應(yīng)；更加信息化，使得生產(chǎn)制造過程中的材料、半成品、成品、各種工藝參數(shù)等信息更加容易采集，方便質(zhì)量控制、質(zhì)量分析、產(chǎn)品制造過程追溯，同時(shí)產(chǎn)品的成本統(tǒng)計(jì)和控制也更加容易。智能機(jī)器特別能夠代替人們從事危險(xiǎn)和不愿意從事的工作。

采用人工智能技術(shù)還與直接經(jīng)濟(jì)效益有密切關(guān)系。以機(jī)器人為例，根據(jù)機(jī)器人平均價(jià)格指數(shù)和勞務(wù)報(bào)酬指數(shù)曲線，機(jī)器人的平均價(jià)格一直下降 （如10年降價(jià)一半），而勞務(wù)報(bào)酬卻一直上升（如10年提高一倍）；也就是說，10年間勞務(wù)報(bào)酬指數(shù)與機(jī)器人價(jià)格指數(shù)的比值提高了4倍。因此，企業(yè)愿意采用機(jī)器人換人，世界各國必然更多地應(yīng)用各種機(jī)器人 （含工業(yè)機(jī)器人和服務(wù)機(jī)器人等）以替代人工勞動(dòng)，這已成為21世紀(jì)的一個(gè)必然趨勢。這是一個(gè)值得社會(huì)學(xué)家、經(jīng)濟(jì)學(xué)家、人口學(xué)家以及政府決策官員們高度關(guān)注和深入研究的緊迫社會(huì)問題。

要解決智能機(jī)器換人問題或部分員工失業(yè)問題，一方面要擴(kuò)大新的行業(yè) （如第三產(chǎn)業(yè)）和服務(wù)項(xiàng)目，向生產(chǎn)和服務(wù)的廣度和深度進(jìn)軍；另一方面，要加強(qiáng)對(duì)工人和技術(shù)人員的繼續(xù)職業(yè)教育與培訓(xùn)，使他們適應(yīng)新的社會(huì)結(jié)構(gòu)，能夠到綠色產(chǎn)業(yè)或行業(yè)工作，繼續(xù)為社會(huì)做出貢獻(xiàn)。從某種意義上看，智能機(jī)器代替員工的主要是那些單調(diào)、重復(fù)、危險(xiǎn)、惡劣等不適宜人類或人類不愿意從事的工作，而可能為員工創(chuàng)造新的綠色環(huán)保工作崗位與需要更高創(chuàng)造能力的工作。這應(yīng)該是社會(huì)的一種進(jìn)步，人類要適應(yīng)這種進(jìn)步就需要不斷學(xué)習(xí)新技術(shù)，更新知識(shí)。

2.社會(huì)結(jié)構(gòu)、思維方式與觀念的變化

人們一方面希望人工智能和智能機(jī)器能夠代替人類從事各種勞動(dòng)，另一方面又擔(dān)心它們的發(fā)展會(huì)引起新的社會(huì)問題。實(shí)際上，數(shù)十年來，社會(huì)結(jié)構(gòu)正在發(fā)生一種靜悄悄的變化。過去人們直接與機(jī)器打交道，而現(xiàn)在要通過智能機(jī)器與傳統(tǒng)機(jī)器打交道。也就是說，人—機(jī)器的社會(huì)結(jié)構(gòu)，終將為人—智能機(jī)器—機(jī)器的社會(huì)結(jié)構(gòu)所取代。智能機(jī)器人就是一種智能機(jī)器。從發(fā)展的角度看，從醫(yī)院里看病的 “醫(yī)生”、護(hù)理病人的 “護(hù)士”，旅館、飯店和商店的 “服務(wù)員”，辦公室的“秘書”，指揮交通的“警察”，到家庭的“勤雜工”和 “保姆”等等，將均由機(jī)器人來擔(dān)任。因此，人們將不得不學(xué)會(huì)與智能機(jī)器相處，并適應(yīng)這種變化了的社會(huì)結(jié)構(gòu)。

1999年，國際自動(dòng)控制聯(lián)合會(huì) （IFAC）第14屆世界大會(huì)主席、中國工程院院長宋健在大會(huì)開幕式主題報(bào)告中說：再過20～30年，“可以設(shè)想，全世界的老人都可以有一個(gè)機(jī)器人服務(wù)員，每一個(gè)參加會(huì)議的人都可能在文件箱中帶一個(gè)機(jī)器人秘書?！边@一設(shè)想已經(jīng)開始實(shí)現(xiàn)。

2016年，比爾·蓋茨預(yù)言未來社會(huì)家家都有機(jī)器人。他說，“現(xiàn)在，我看到多種技術(shù)發(fā)展趨勢開始匯成一股推動(dòng)機(jī)器人技術(shù)前進(jìn)的洪流，我完全能夠想象，機(jī)器人將成為我們?nèi)粘Ｉ畹囊徊糠帧！鄙w茨的預(yù)言也開始實(shí)現(xiàn)。現(xiàn)在，各種服務(wù)機(jī)器人已進(jìn)入千家萬戶。

人工智能的發(fā)展與推廣應(yīng)用，還將影響到人類的思維方式和傳統(tǒng)觀念，并使它們發(fā)生改變。例如，傳統(tǒng)知識(shí)一般印在書本報(bào)刊或雜志上，因而是固定不變的，而人工智能系統(tǒng)的知識(shí)庫的知識(shí)卻是可以不斷修改、擴(kuò)充和更新的。又如，一旦專家系統(tǒng)的用戶開始相信智能系統(tǒng) （智能機(jī)器）的判斷和決定，那么他們就可能不愿多動(dòng)腦筋，變得懶惰，并失去對(duì)許多問題及其任務(wù)的責(zé)任感和敏感性。那些過分依賴計(jì)算器的學(xué)生，他們的主動(dòng)思維能力和計(jì)算能力也會(huì)明顯下降。過分地依賴人工智能的建議而不加分析地接受，將會(huì)使智能機(jī)器用戶的認(rèn)知能力下降，并增加誤解。人工智能在科技和工程中的應(yīng)用，會(huì)使一些人失去介入信息處理活動(dòng) （如規(guī)劃、診斷、理解和決策等）的機(jī)會(huì)，甚至不得不改變自己的工作方式。

此外，由于與機(jī)器人打交道畢竟不同于與人打交道，所以人們必須改變自己的傳統(tǒng)觀念和思維方式，逐步適應(yīng)與智能機(jī)器的共處。

因此，在設(shè)計(jì)和研制智能系統(tǒng)和智能機(jī)器時(shí)，應(yīng)考慮到上述問題，盡量鼓勵(lì)用戶在處理問題中的主動(dòng)性，讓他們的智力積極參與問題求解過程。

3.心理上的威脅

人工智能使一部分社會(huì)成員感到心理上的威脅，或叫做精神威脅。人們一般認(rèn)為，只有人類才具有感知精神，而且以此與機(jī)器相別。如果有一天，這些人開始相信機(jī)器也能夠思維和創(chuàng)作，那么他們可能會(huì)感到失望，甚至感到威脅。他們擔(dān)心：有朝一日，智能機(jī)器的人工智能會(huì)超過人類的自然智能，使人類淪為智能機(jī)器和智能系統(tǒng)的奴隸。對(duì)于人的觀念 （更具體地指人的精神）和機(jī)器的觀念 （更具體地指人工智能）之間的關(guān)系問題，哲學(xué)家、神學(xué)家和其他人們之間一直存在著爭論。按照人工智能的觀點(diǎn)，人類有可能用機(jī)器來規(guī)劃自己的未來，甚至可以把這個(gè)規(guī)劃問題想象為一類狀態(tài)空間內(nèi)的搜索求解過程。當(dāng)社會(huì)上一部分人歡迎這種新觀念時(shí)，另一部分人則發(fā)現(xiàn)這些新觀念是惹人煩惱的和無法接受的，尤其是當(dāng)這些觀念與他們鐘愛的信仰和觀念背道而馳時(shí)。

4.技術(shù)失控的危險(xiǎn)

任何新技術(shù)的最大危險(xiǎn)莫過于人類對(duì)它失去了控制，或者是它落入那些企圖利用新技術(shù)反對(duì)人類的人手中。我國引以自豪的火藥發(fā)明被某些外國人用于制造炸彈；化學(xué)科學(xué)的成果被人用于制造化學(xué)武器；生物學(xué)的最新成就可能被用于制造生物武器；核物理研究的重大突破導(dǎo)致原子彈和氫彈的威脅。難怪現(xiàn)在有人擔(dān)心機(jī)器人有一天會(huì)反賓為主，奴役它們的創(chuàng)造者——人類，擔(dān)心人工智能的其它智能制品威脅人類的安全。正是由于認(rèn)識(shí)到這種擔(dān)心，著名的美國科幻作家阿西莫夫 （I.Asimov）提出了“機(jī)器人三守則”：

（1）機(jī)器人必須不危害人類，也不允許它眼看人類受害而袖手旁觀。

（2）機(jī)器人必須絕對(duì)服從人類，除非這種服從有害于人類。

（3）機(jī)器人必須保護(hù)自身不受傷害，除非為了保護(hù)人類或者是人類命令它作出犧牲。

我們認(rèn)為，如果把這個(gè) “機(jī)器人三守則”推廣到整個(gè)智能機(jī)器，成為 “智能機(jī)器三守則”，那么，人類社會(huì)就會(huì)更容易接受智能機(jī)器和人工智能。

可惜至今未能創(chuàng)造出一種能夠鑒別實(shí)際上是否遵循 “三守則”的人工智能軟件。一個(gè)人工智能系統(tǒng)可能與其它一些機(jī)構(gòu)結(jié)合起來，力圖遵循這些規(guī)則，但尚無足夠的智能來確保長期地遵守這些規(guī)則。

人工智能技術(shù)是一種信息技術(shù)，能夠極快地傳遞。因此，存在某些比爆炸技術(shù)更大的潛在危險(xiǎn)，即人工智能技術(shù)可能落入不負(fù)責(zé)的人手中，被他們用于進(jìn)行反對(duì)人類和危害社會(huì)的犯罪 （有的人稱之為 “智能犯罪”）。對(duì)此，我們必須保持高度警惕。同時(shí)人類有足夠的智慧和信心，能夠研制出防范、檢測和偵破各種智能犯罪活動(dòng)的智能手段。如果社會(huì)上少數(shù)敗類膽敢利用人工智能進(jìn)行危害人類的活動(dòng)，那么他們將受到歷史的無情懲罰。玩火者必自焚，這是歷史的必然。人類一定能夠從人工智能技術(shù)中獲得不可估量的利益。

5.法律問題

人類將對(duì)具有人工意識(shí)的機(jī)器人給予前所未有的關(guān)注。機(jī)器人的發(fā)展與應(yīng)用帶來了許多法律問題，例如，汽車機(jī)器人發(fā)生事故，造成傷害應(yīng)該由誰負(fù)責(zé)？又如，自主機(jī)器人士兵在戰(zhàn)場上開槍打死人類是否違反國際公約？再如，機(jī)器人參加運(yùn)動(dòng)會(huì)賽跑可能會(huì)要求得到獎(jiǎng)賞，并由此獲得收入。隨著思想復(fù)雜性的提高，人形機(jī)器人可能開始表達(dá)對(duì)于生活現(xiàn)象和問題的觀點(diǎn)，甚至提出政治主張，要求擁有言論自由和游行示威權(quán)利。這些現(xiàn)象可能給人類帶來挑戰(zhàn)、不安，甚至危險(xiǎn)。有些學(xué)者認(rèn)為：機(jī)器人與人類反目成仇的可能性遠(yuǎn)高于我們的預(yù)想。機(jī)器人可能與人類對(duì)抗，它們不具備人類那種良知意識(shí)、是非觀念和人生觀念。用于對(duì)實(shí)施暴力、人身傷害甚至殺人行為的人類法律，是非也適用于機(jī)器人？機(jī)器人法律問題已經(jīng)提上議事日程。

據(jù)報(bào)道，已有一些國家，如韓國、日本和美國等，已就機(jī)器人的一些問題立法，保護(hù)人類和機(jī)器人。韓國政府頒布了《機(jī)器人道德憲章》，以確保人類對(duì)機(jī)器人的控制，保護(hù)機(jī)器人獲得的數(shù)據(jù)，保護(hù)機(jī)器人的權(quán)利。日本也頒布了《下一代機(jī)器人安全問題指導(dǎo)方針》，保護(hù)人類在使用機(jī)器人過程中不被傷害。

阿西莫夫提出的 “機(jī)器人三守則”的目的是創(chuàng)造一個(gè)基本框架，以便讓機(jī)器人擁有一定程度的 “自我約束”。雖然這樣復(fù)雜的機(jī)器人目前還沒有制造出來，但機(jī)器人法律卻已被廣泛應(yīng)用在在科幻、電影以及機(jī)器人研發(fā)領(lǐng)域中的 “機(jī)器人學(xué)”和 “人工智能”領(lǐng)域上。

阿西莫夫

不過，阿西莫夫三法則有著一定的歷史局限性和概念歧義性，三條法則之間也存在邏輯矛盾。

假如兩個(gè)人斗毆，機(jī)器人應(yīng)當(dāng)選擇幫誰呢？加入任一方都違反第一法則前半部分，不加入?yún)s又違反第一法則后半部分。

假如主人要機(jī)器人幫他去搶銀行，“搶銀行”也是主人的一種命令，也不違反第一法則，那么機(jī)器人一定是去搶銀行。這種違法的事情算不算違背第一法則？

假如機(jī)器人在執(zhí)行 “保護(hù)人質(zhì)”命令的過程中，未能保護(hù)自己而被綁架者 “擊斃”，算不算機(jī)器人違背了第三法則？

由此可見，機(jī)器人三法則自身就存在著嚴(yán)重的邏輯矛盾。

后來，阿西莫夫又補(bǔ)充了 “第零法則”，只是偷換了概念，把第一條的 “個(gè)人”換成了 “人類”，但是人類之間是有不同的利益集團(tuán)的。例如，如果兩個(gè)集團(tuán)或兩個(gè)國家發(fā)生武裝沖突，任何一方都認(rèn)為自己是正義的，雙方都研發(fā)軍事機(jī)器人投入戰(zhàn)爭，做著傷害人類的事情。其結(jié)果是，機(jī)器人做和不做都不對(duì)；如果做的話就意味幫助一部分人傷害另一部分人，如果什么也不做的話機(jī)器人就違反第二法則了。

至今，又出現(xiàn)了對(duì)阿西莫夫機(jī)器人法則的補(bǔ)充意見。那些在阿西莫夫機(jī)器人三法則基礎(chǔ)上加以修改得出的所謂 “完善”一點(diǎn)的定律，其實(shí)也并不完美，而且走向了窮盡所有，可能走進(jìn)制定規(guī)則的誤區(qū)。試想，連人類 （指令制定者）都無法判斷是否正確的行為，機(jī)器人又如何能夠得出正確的結(jié)論呢？在這個(gè)問題沒有解決之前，誰能說機(jī)器人做錯(cuò)了？

機(jī)器人的發(fā)展也給現(xiàn)行法律帶來了嚴(yán)峻挑戰(zhàn)。

現(xiàn)有勞動(dòng)法以保護(hù)勞動(dòng)者為宗旨。而當(dāng)大量工作崗位被機(jī)器人取代時(shí)，勞動(dòng)法的適用廣度勢將大大縮減。

在全面迎來無人駕駛的時(shí)代，主要根據(jù)駕駛?cè)藛T過錯(cuò)劃分責(zé)任的道路交通制度體系將被徹底顛覆。一旦發(fā)生交通事故，現(xiàn)有的駕駛員責(zé)任不復(fù)存在，汽車公司可能將成為保險(xiǎn)公司最大客戶，交通法規(guī)或?qū)⒏膶憽?/p>

在人工智能時(shí)代，大量的作品可能由智能機(jī)器創(chuàng)作，如記者機(jī)器人撰寫新聞稿。這一切或?qū)㈩嵏铂F(xiàn)有的與知識(shí)產(chǎn)權(quán)相關(guān)的法律制度。

“高級(jí)案件管理”系統(tǒng)，也被稱為 “機(jī)器人法官”。該系統(tǒng)能夠通過對(duì)既有數(shù)據(jù)的判例與分析，自動(dòng)生成最優(yōu)的判決結(jié)果。與法官一樣面臨職業(yè)危機(jī)的還有律師、教師、藝術(shù)家等行業(yè)。在人工智能時(shí)代，法律也將重塑對(duì)他們的職業(yè)要求。

人工智能時(shí)代的法律話題或者才剛剛開始，人類社會(huì)對(duì)它的探索也將持續(xù)不懈。無論喜歡或者不喜歡，人工智能時(shí)代終將到來。這將是一個(gè)智能機(jī)器與人高度融合的時(shí)代。在這個(gè)時(shí)代，我們將與智能機(jī)器一起生活、一起工作、一起思考。傳統(tǒng)法律將面臨巨大挑戰(zhàn)，法律觀念將被重新構(gòu)建。法律的終極關(guān)懷，不僅包括人，還包括智能機(jī)器。無論你喜歡或不喜歡法律都將重構(gòu)，不得傷害人類與不得虐待機(jī)器人或?qū)⑼瑫r(shí)寫進(jìn)憲法。

如同其他產(chǎn)品一樣，人工智能產(chǎn)品在法律領(lǐng)域的許多責(zé)任問題和安全問題需要引起世界各國和智能機(jī)器研發(fā)者的高度關(guān)注。在醫(yī)療領(lǐng)域，醫(yī)療機(jī)器人引發(fā)的醫(yī)療事故或?qū)嵤┑膼阂庑袨榈呢?zé)任問題；在軍事和執(zhí)法領(lǐng)域，執(zhí)法機(jī)器人代行警察職能。具有反社會(huì)傾向的機(jī)器人將向人類伸出黑手，實(shí)施非法行為或恐怖襲擊。這些問題應(yīng)當(dāng)如何考慮與處理？因此需要解決許多相關(guān)的法律問題。

由于人形機(jī)器人可以移動(dòng)，具有自主性，能夠通過內(nèi)置軟件做出決定，因此將提升機(jī)器人作業(yè)的安全性，但也將帶來更加復(fù)雜的法律問題。機(jī)器人制造商必須為其產(chǎn)品的不良后果負(fù)法律責(zé)任，甚至被起訴。

希望法律能夠規(guī)范人形機(jī)器人和其他智能機(jī)器的發(fā)展。特別是當(dāng)超級(jí)智能機(jī)器變得越來越強(qiáng)大以至于超出人類控制時(shí)，這種能力可以幫助界定人機(jī)交互的界限。這需要我們確保對(duì)智能機(jī)器的控制、防止非法使用、保證智能機(jī)器獲取安全數(shù)據(jù)，以及建立智能機(jī)器身份識(shí)別和跟蹤系統(tǒng)。

人類制訂智能機(jī)器 （包括智能機(jī)器人）法律的目的在于：通過完善的法律法規(guī)，最大限度地利用智能機(jī)器具有的能力，引領(lǐng)它們的發(fā)展進(jìn)入正確軌道，并防范它們可能帶來的消極影響，確保人工智能和智能機(jī)器以及人類社會(huì)的長治久安。

6.倫理道德問題

首先看看人工智能倫理問題出現(xiàn)的背景。

智能機(jī)器的發(fā)展關(guān)系人類的存亡。人工智能與智能機(jī)器的倫理問題應(yīng)該引起全社會(huì)的關(guān)注，現(xiàn)代技術(shù)的進(jìn)步讓人類社會(huì)置于風(fēng)險(xiǎn)之中。對(duì)于人工智能的倫理問題，要做好智能技術(shù)的控制，先控制后制造，在機(jī)器人的設(shè)計(jì)和生產(chǎn)中人類應(yīng)有所保留。

人們所擔(dān)憂的應(yīng)用服務(wù)機(jī)器人引發(fā)的風(fēng)險(xiǎn)與倫理問題，主要涉及兩個(gè)方面：一是小孩和老人的看護(hù)，另一是軍用自主機(jī)器人武器的發(fā)展。

孩子與機(jī)器人短期接觸可以提供愉悅的感受，還可以激發(fā)他們的興趣和好奇心。但是，機(jī)器人還不能作為孩子的看護(hù)者，因?yàn)楹⒆邮冀K需要大人來照顧。過長時(shí)間與機(jī)器人相處，可能會(huì)造成孩子成長過程中不同程度的社會(huì)孤立。如果將孩子完全交給一個(gè)機(jī)器人保姆，讓機(jī)器人保姆照料孩子的安全，那么可能使孩子缺失社交功能。人口老年化程度加深促進(jìn)了助殘機(jī)器人的發(fā)展。例如，喂食機(jī)器人、洗澡機(jī)器人、提醒用藥的監(jiān)控機(jī)器人等。老年人長期完全置于機(jī)器人照顧之下也是存在風(fēng)險(xiǎn)的。老年人需要與人接觸，需要看護(hù)者為他們提供日常護(hù)理工作。即使它們可以減輕老年人的親友的內(nèi)疚感，卻無益于解決老年人的孤獨(dú)問題。人們正在逐漸被現(xiàn)實(shí)世界中人與機(jī)器人之間的關(guān)系所誤導(dǎo)。

軍用機(jī)器人的應(yīng)用也產(chǎn)生另一些道德問題。例如，美國在伊拉克和阿富汗配置了5000多個(gè)遙控機(jī)器人，用于偵察與排雷，也有少數(shù)用于作戰(zhàn)的重型武裝機(jī)器人。在作戰(zhàn)行動(dòng)中，由地面機(jī)器人充當(dāng)先鋒，當(dāng)隱藏著的敵人攻擊時(shí)，無人駕駛偵察機(jī)發(fā)現(xiàn)敵軍位置，通知巡航中的戰(zhàn)斗機(jī)，然后，戰(zhàn)斗機(jī)發(fā)射導(dǎo)彈，命中目標(biāo)。這一切行動(dòng)都通過網(wǎng)絡(luò)由戰(zhàn)場上的美軍操控。地面武裝機(jī)器人和自主/半自主武裝無人機(jī)造成許多無辜群眾 （包括兒童、婦女）的傷亡。如在敘利亞、伊拉克、阿富汗經(jīng)常出現(xiàn)的那樣。

高端軍用無人機(jī)正在不斷智能化

通常，武器都是在人的控制下選擇合適的時(shí)機(jī)發(fā)動(dòng)致命打擊。然而，軍用機(jī)器人可在無人控制的條件下自動(dòng)鎖定目標(biāo)并且推毀它們。這些倫理問題的出現(xiàn)是因?yàn)槟壳斑€沒有能夠在近距離遭遇戰(zhàn)中區(qū)別戰(zhàn)斗人員和無辜人員的運(yùn)算系統(tǒng)。計(jì)算機(jī)程序需要一個(gè)非常清晰的非戰(zhàn)斗人員的定義，但目前還沒有這種定義。機(jī)器人被設(shè)計(jì)用于實(shí)施包括軍事活動(dòng)或違法行為在內(nèi)的對(duì)抗人類的行動(dòng)。自主機(jī)器人士兵將大大增加引發(fā)地區(qū)性沖突和戰(zhàn)爭的可能性。

人工智能和智能機(jī)器的倫理道德問題將關(guān)系到智能機(jī)器是繼續(xù)為我們?nèi)祟愃眠€是成為我們的敵人？

許多科幻影片的劇情和結(jié)局反映了人類對(duì)于他們的創(chuàng)造物可能進(jìn)行反抗的恐懼。例如，影片《終結(jié)者》中人類為了生存權(quán)而與機(jī)器人開展戰(zhàn)斗?！逗诳偷蹏分校藗兂蔀榧纳鷻C(jī)器人的俘虜；它們讓人類活著只是為了從人類身上獲取能量?？ɡ谞枴P佩克在1921年創(chuàng)作的舞臺(tái)劇《羅薩姆的萬能機(jī)器人》劇中，機(jī)器人發(fā)動(dòng)叛變并摧毀它們的人類主人。

人形機(jī)器人的發(fā)展引發(fā)對(duì)倫理道德的關(guān)注。如果不謹(jǐn)慎對(duì)待，那么機(jī)器人可能使我們受到傷害：造成傷害事故、實(shí)施故意傷害或犯罪行為、可能直接接觸我們的個(gè)人隱私信息，并把它泄露給公眾。

人形機(jī)器人已獲得廣泛應(yīng)用，它們可以從事藝術(shù)表演、醫(yī)療實(shí)驗(yàn)對(duì)象、招待工作、時(shí)裝表演。開發(fā)者力圖復(fù)制人類的表情與行為，然而它們當(dāng)前所具有的功能與科幻小說描述的相差甚遠(yuǎn)。對(duì)科技的恐懼感也將繼續(xù)出現(xiàn)。比如，有一位機(jī)器人科普書籍的作者給他的3歲女兒買了一個(gè)和她一樣高、能走路、會(huì)唱歌的機(jī)器人娃娃。當(dāng)娃娃走向女兒并唱歌表演時(shí)，女兒不但沒有感到驚喜和跑過去擁抱娃娃，相反，她臉色變得煞白，尖叫著跑回房間，好像見到怪物和幽靈一樣。多年后他的3歲的外孫，在迪士尼樂園觀看人形機(jī)器人表演時(shí)也被嚇了一跳，為了讓外孫平靜下來，他只好把外孫帶離機(jī)器人表演現(xiàn)場。這些說明人類在面對(duì)機(jī)器人時(shí)會(huì)產(chǎn)生出于本能的恐懼感。這個(gè)問題值得研究。

地球上某種由人類創(chuàng)造出來的生物，對(duì)人類是危險(xiǎn)的，而且可能存在最具毀滅性的威脅。人類如何才能讓智能機(jī)器具有同情心、責(zé)任心、同理心、負(fù)罪感、羞恥感和是非判斷能力，如何通過編程實(shí)現(xiàn)機(jī)器人道德？否則，人形機(jī)器人就可能具有反社會(huì)和毀滅人類的傾向。在生物工程技術(shù)的啟發(fā)下，機(jī)器人被制作的越來越像人類。仿生應(yīng)用程序的開發(fā)要確保機(jī)器人作為有道德的生物存在。智能機(jī)器的智能構(gòu)建需要得到人類本性的啟發(fā)，同時(shí)又要避免人類的故有缺點(diǎn)。我們希望制作出和善的智能機(jī)器，而不希望它們完全仿效人類，不希望它們仿效殘忍、自私、自以為是、為了一己私利而不擇手段等不良品性。

那么，人類是否需要對(duì)智能機(jī)器的權(quán)利加以限制？

人類賦予智能機(jī)器某些權(quán)利是合理的，智能機(jī)器應(yīng)該擁有得到尊重的道德權(quán)利。不過，在賦予智能機(jī)器某些權(quán)利的同時(shí)，我們更應(yīng)該對(duì)智能機(jī)器的權(quán)利進(jìn)行限制。

智能機(jī)器和人工智能系統(tǒng)研發(fā)人員正在不斷努力，通過建立道德準(zhǔn)則、指導(dǎo)方針以及將道德編制為相應(yīng)算法以指導(dǎo)智能機(jī)器的行為，尋求解決問題的方法，以確保人工智能機(jī)器對(duì)人類是友好的。

許多學(xué)者認(rèn)為，具有高度智能的機(jī)器會(huì)向人類要求更多的權(quán)利。這也提醒我們，技術(shù)上的可能并不能成為道德上的應(yīng)當(dāng)。我們是否應(yīng)該對(duì)智能機(jī)器的發(fā)展做出某種制度上的限定，使其按照某種規(guī)范發(fā)展？對(duì)某種技術(shù)的應(yīng)用范圍進(jìn)行限制，這并不是全新的話題，比如許多國家已經(jīng)通過各種形式以至立法禁止克隆人。即使人們認(rèn)為科學(xué)技術(shù)的研究不應(yīng)該較多地受到倫理規(guī)范的限制，但至少應(yīng)該對(duì)科技研究成果的應(yīng)用范圍保持高度的警惕。關(guān)于智能機(jī)器的科學(xué)技術(shù)基礎(chǔ)至少包括人工智能、計(jì)算機(jī)科學(xué)技術(shù)與機(jī)器人學(xué)，對(duì)這些相關(guān)領(lǐng)域的科技成果的應(yīng)用并不是無限度的。如果說克隆人的出現(xiàn)關(guān)乎人類尊嚴(yán)的話，那么智能機(jī)器的無限發(fā)展也將可能對(duì)人類的安全形成威脅。關(guān)于智能機(jī)器的發(fā)展限度等問題，政府部門、科技界、哲學(xué)界與法學(xué)界等不同領(lǐng)域的人員顯然需要精誠合作，共同努力解決相關(guān)問題。這已經(jīng)不是只存在于科幻小說與思辨哲學(xué)等領(lǐng)域的話題，而是一個(gè)日益緊迫的現(xiàn)實(shí)問題。

公眾和立法機(jī)構(gòu)將采取行動(dòng)限制智能機(jī)器和人工智能技術(shù)的發(fā)展，而不是像原子彈和生化武器那樣要在人類遭受重大傷害后才加以限制。國際社會(huì)的科學(xué)家和工程師們正致力于建立適用于人形機(jī)器人開發(fā)與使用的“道德準(zhǔn)則”。要努力確保人類對(duì)智能機(jī)器的控制，防止非法使用，保障智能機(jī)器獲取安全數(shù)據(jù)，確立明確的識(shí)別與跟蹤智能機(jī)器的方法。需要制定相關(guān)法律保護(hù)人類免受變得越來越聰明能干、甚至某些能力超過人類的智能機(jī)器的傷害。

人工智能技術(shù)的發(fā)展給人類帶來福祉，但需要謹(jǐn)慎地對(duì)待智能機(jī)器發(fā)展過程中可能出現(xiàn)的問題，尤其要考慮如何編制友好的人工智能算法來使智能機(jī)器按照倫理道德標(biāo)準(zhǔn)行事。

有必要把人工智能的社會(huì)學(xué)問題提上議事日程。政府部門、科研機(jī)構(gòu)和學(xué)術(shù)團(tuán)體，都要把人工智能社會(huì)學(xué)研究納入相應(yīng)計(jì)劃，研究解決對(duì)策與辦法。人工智能可能出現(xiàn)的一些負(fù)面效應(yīng)或新問題，如利用人工智能技術(shù)進(jìn)行金融犯罪，智能駕駛車輛需要出臺(tái)相應(yīng)的交通法規(guī)等。因此，需要建立相關(guān)的政策和法律法規(guī)，避免可能風(fēng)險(xiǎn)，確保人工智能的正面效應(yīng)。只有人工智能應(yīng)用得好、把握得好，才能確保人工智能不被濫用，確保人工智能是天使而不是魔鬼。