人工智能時(shí)代的社會(huì)風(fēng)險(xiǎn)思考

劉自英

摘??要：?人工智能作為當(dāng)今最具前瞻性的高新科學(xué)技術(shù)，發(fā)展遍及社會(huì)生活的各個(gè)領(lǐng)域，同時(shí)也受到社會(huì)各界的關(guān)注。人工智能為我們的生活提供極大的便捷，人類(lèi)似乎渴求一個(gè)全人工智能時(shí)代的到來(lái)，準(zhǔn)備投入其懷抱。但科學(xué)技術(shù)的發(fā)展從來(lái)都是一把雙刃劍，我們?cè)谙硎芷浔憷耐瑫r(shí)也應(yīng)該著眼于人工智能所引發(fā)的諸多社會(huì)風(fēng)險(xiǎn)，并且考量與分析其可能存在的潛在新風(fēng)險(xiǎn)。人工智能引發(fā)的社會(huì)風(fēng)險(xiǎn)無(wú)外乎可以從人工智能的制造與應(yīng)用方面來(lái)考慮，分析其帶來(lái)的社會(huì)風(fēng)險(xiǎn)，并從相應(yīng)方面提出規(guī)避風(fēng)險(xiǎn)的可能路徑。

關(guān)鍵詞?：人工智能;社會(huì)風(fēng)險(xiǎn);風(fēng)險(xiǎn)規(guī)避;可能路徑

一、?人工智能

人工智能簡(jiǎn)稱(chēng)AI，從科學(xué)的角度來(lái)看，人工智能是研究、開(kāi)發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)應(yīng)用系統(tǒng)的一門(mén)科學(xué)。[1]1956年美國(guó)的達(dá)特茅斯會(huì)議中約翰·麥卡錫首次提出了?“人工智能”這個(gè)術(shù)語(yǔ)，標(biāo)志著“人工智能”概念的誕生，在此后人工智能浪潮不斷發(fā)展。從“機(jī)器學(xué)習(xí)”到“深度學(xué)習(xí)”技術(shù)鴻溝的跨越，人工智能在一段時(shí)間內(nèi)獲得長(zhǎng)足性和突破性的發(fā)展。人工智能在影響著這個(gè)時(shí)代，也在改變著這個(gè)時(shí)代。人工智能在數(shù)據(jù)挖掘、計(jì)算機(jī)視覺(jué)、專(zhuān)家系統(tǒng)等方面的發(fā)展，為企業(yè)帶來(lái)了經(jīng)濟(jì)效益，為大眾帶來(lái)了舒適的生活，為國(guó)家?guī)?lái)科技的革新，深刻的影響著人類(lèi)社會(huì)的發(fā)展。然而，我們享受著人工智能的便捷也不能忽視其帶來(lái)的負(fù)面影響。人工智能對(duì)人類(lèi)主體地位的沖擊，對(duì)社會(huì)倫理的挑戰(zhàn)等諸多風(fēng)險(xiǎn)都是我們必須要思考和解決的問(wèn)題。

二、?人工智能時(shí)代的社會(huì)風(fēng)險(xiǎn)思考的必要性

在現(xiàn)階段下的人工智能給我們生活帶來(lái)了便捷，其負(fù)面影響是不可忽視的。研發(fā)不透明的黑箱操作，算法主觀(guān)性帶來(lái)的倫理問(wèn)題，一些行業(yè)失業(yè)等問(wèn)題，從現(xiàn)實(shí)意義上，我們必須對(duì)其產(chǎn)生的社會(huì)風(fēng)險(xiǎn)加以分析并提出應(yīng)對(duì)措施。在人工智能發(fā)展過(guò)程中，人工智能是否超過(guò)人類(lèi)智力即奇點(diǎn)是否會(huì)出現(xiàn)，一直是學(xué)界談?wù)摰臒狳c(diǎn)。奇點(diǎn)是否會(huì)出現(xiàn)？奇點(diǎn)出現(xiàn)后的人類(lèi)社會(huì)又會(huì)面臨什么樣的風(fēng)險(xiǎn)，人工智能技術(shù)發(fā)展可能性決定了我們必須去思考其潛在的風(fēng)險(xiǎn)。所以無(wú)論從人工智能的現(xiàn)實(shí)性還是可能性來(lái)看，關(guān)于人工智能時(shí)代的社會(huì)風(fēng)險(xiǎn)思考都有其必要性。

一、人工智能時(shí)代社會(huì)風(fēng)險(xiǎn)思考的現(xiàn)實(shí)性

人工智能研發(fā)是不透明的，人工智能的研發(fā)“虛擬化”和研發(fā)過(guò)程的“黑箱效應(yīng)”環(huán)境，很容易脫離監(jiān)管而引發(fā)失控。同時(shí)由于人工智技術(shù)研發(fā)的特點(diǎn)，研發(fā)過(guò)程的隱秘性與技術(shù)的保密性極易誘發(fā)壟斷現(xiàn)象。若掌握了人工智能技術(shù)核心優(yōu)勢(shì)，壟斷陰云是極易可能出現(xiàn)的。人工智能技術(shù)壟斷的陰云一方面會(huì)帶來(lái)技術(shù)人才的斷層，同時(shí)也會(huì)加大數(shù)字鴻溝。而人工智能技術(shù)存在的算法主觀(guān)性與算法偏差更是誘發(fā)社會(huì)風(fēng)險(xiǎn)的重要來(lái)源。比如谷歌推出的機(jī)器人誤把兩名黑人標(biāo)注為“大猩猩”，微軟公司推出的聊天機(jī)器人，在發(fā)布24小時(shí)內(nèi)，就成為一個(gè)集反猶太人、性別歧視、種族歧視于一身的“不良少女”。[2]在現(xiàn)目前的發(fā)展階段來(lái)說(shuō)，人工智能已經(jīng)逐步取代大量依靠人力的工作，在一些行業(yè)已經(jīng)實(shí)現(xiàn)了自動(dòng)化，同時(shí)人工智能也進(jìn)軍了服務(wù)行業(yè)。在服務(wù)行業(yè)，國(guó)內(nèi)的無(wú)人酒店與無(wú)人超市也已出現(xiàn)，海底撈機(jī)器人全程送菜服務(wù)。繁重或者危險(xiǎn)及簡(jiǎn)單重復(fù)的工作由機(jī)器人所替代，縱然人工智能的操控離不開(kāi)人，但從管理與操控的工作要求來(lái)看，勞動(dòng)力需求量并不高。這一大批依靠勞力的工作者將何去何從？從現(xiàn)實(shí)意義上，我們都必須對(duì)其產(chǎn)生的社會(huì)風(fēng)險(xiǎn)加以深度思考與分析并提出可行的應(yīng)對(duì)措施，促進(jìn)人工智能健康有序的發(fā)展。

二、人工智能時(shí)代社會(huì)風(fēng)險(xiǎn)思考的可能性

從現(xiàn)實(shí)層面上，人工智能已經(jīng)帶來(lái)的問(wèn)題我們必須去面對(duì)，與此同時(shí)隨著人工智能的繼續(xù)發(fā)展，我們也不得不去思考其潛在的風(fēng)險(xiǎn)。其潛在風(fēng)險(xiǎn)的思考主要在于對(duì)奇點(diǎn)的預(yù)判。美國(guó)未來(lái)學(xué)家、人工智能先驅(qū)雷·庫(kù)茲韋爾在《奇點(diǎn)臨近》一書(shū)中大膽預(yù)言，21世紀(jì)50年代左右，奇點(diǎn)會(huì)來(lái)臨，人工智能將超越人類(lèi)智力。1983年數(shù)學(xué)家弗諾·文奇，他認(rèn)為奇點(diǎn)來(lái)臨后，世界的發(fā)展將會(huì)脫離人類(lèi)世界的掌控。人工智能超越人類(lèi)智力這一天是否會(huì)到來(lái)，人類(lèi)又會(huì)面臨什么樣的風(fēng)險(xiǎn)？盡管諸如此類(lèi)的問(wèn)題我們沒(méi)法預(yù)判。但是從人工智能的發(fā)展來(lái)看，人工智能對(duì)人類(lèi)思維的模擬只會(huì)走向更精細(xì)化、更精密化。對(duì)人類(lèi)社會(huì)的發(fā)展來(lái)說(shuō)是機(jī)遇與挑戰(zhàn)并存。而那就意味著我們對(duì)人工智能社會(huì)風(fēng)險(xiǎn)的研究必須引起重視，必須深入。

對(duì)于人工智能的風(fēng)險(xiǎn)研究我們既要解決好當(dāng)下的風(fēng)險(xiǎn)，又要有防范未來(lái)風(fēng)險(xiǎn)的正確進(jìn)路。

三、?人工智能時(shí)代的社會(huì)風(fēng)險(xiǎn)思考的重要性

人工智能時(shí)代的社會(huì)風(fēng)險(xiǎn)思考是從人工智能的現(xiàn)實(shí)性與可能性，實(shí)踐性與理論性層面出發(fā)，對(duì)其社會(huì)風(fēng)險(xiǎn)進(jìn)行剖析與研究。通過(guò)對(duì)風(fēng)險(xiǎn)的思考，提出解決風(fēng)險(xiǎn)的治理措施。在理論意義上，豐富了人工智能社會(huì)風(fēng)險(xiǎn)研究的內(nèi)容，在實(shí)踐層面上，促進(jìn)人工智能的有序發(fā)展，造福人類(lèi)。人文社會(huì)科學(xué)研究本來(lái)就應(yīng)該超越自然科學(xué)的發(fā)展，哲學(xué)的預(yù)見(jiàn)性，在社會(huì)風(fēng)險(xiǎn)還未轉(zhuǎn)變成社會(huì)危機(jī)時(shí)，我們就應(yīng)該做好充分的相關(guān)準(zhǔn)備。

四、?人工智能時(shí)代的社會(huì)風(fēng)險(xiǎn)分析

關(guān)于人工智能時(shí)代的社會(huì)風(fēng)險(xiǎn)研究視角是豐富的。社會(huì)風(fēng)險(xiǎn)治理專(zhuān)家唐鈞從技術(shù)、社會(huì)、治理三個(gè)視角分析所產(chǎn)生的社會(huì)風(fēng)險(xiǎn)并提出應(yīng)對(duì)措施。馬長(zhǎng)山在分析人工智能的本質(zhì)上結(jié)合法律的視角，提出人工智能引發(fā)的五個(gè)風(fēng)險(xiǎn)--倫理、極化、異化、規(guī)則、責(zé)任風(fēng)險(xiǎn)，并從法律層面給出詳細(xì)的應(yīng)對(duì)措施。也有學(xué)者從風(fēng)險(xiǎn)的危害程度視角做出研究。吳漢東則是從人工智能社會(huì)風(fēng)險(xiǎn)的特征提出人工智能時(shí)代的冷思考，宏觀(guān)提出人工智能存在的四個(gè)問(wèn)題---法律、倫理、社會(huì)、監(jiān)管。

結(jié)合以上研究成果，人工智能時(shí)代社會(huì)風(fēng)險(xiǎn)可以從兩個(gè)方面來(lái)分析，無(wú)外乎在于兩個(gè)關(guān)鍵點(diǎn)，一為制造方面，二為應(yīng)用方面。從制造方面來(lái)看，一是技術(shù)的不完善帶來(lái)風(fēng)險(xiǎn)，如日本曾經(jīng)發(fā)生過(guò)工業(yè)機(jī)器人在生產(chǎn)過(guò)程中將工人放入沖壓機(jī)之下碾死的慘痛事例。技術(shù)制造本身的缺陷而導(dǎo)致風(fēng)險(xiǎn)的產(chǎn)生。二是研發(fā)人員的主觀(guān)性造成的風(fēng)險(xiǎn)，也就是人工智能算法主觀(guān)性和算法偏差，由于在制造過(guò)程中，研發(fā)人員的主動(dòng)裁量權(quán)很大。研發(fā)人員可能存在種族歧視、性別偏見(jiàn)、宗教偏好、極端價(jià)值觀(guān)等主觀(guān)偏差，代入研發(fā)后算法將出現(xiàn)失誤，導(dǎo)致預(yù)測(cè)不準(zhǔn)確、甚至決策不公正等社會(huì)問(wèn)題。同時(shí)研發(fā)人員的道德倫理底線(xiàn)原則無(wú)法兜底，研發(fā)人員可能研發(fā)出殺人武器甚至反社會(huì)反人類(lèi)的人工智能，進(jìn)而引發(fā)社會(huì)倫理和社會(huì)安全問(wèn)題。三是研發(fā)技術(shù)的壟斷，而造成的數(shù)字鴻溝，兩端極化的的風(fēng)險(xiǎn)。從應(yīng)用方面來(lái)看，社會(huì)風(fēng)險(xiǎn)則會(huì)涉及到更多的方面，人的主體地位的沖擊、社會(huì)安全、倫理的風(fēng)險(xiǎn)等等。人工智能的社會(huì)風(fēng)險(xiǎn)可以從制造端和應(yīng)用方面分析，二者也是沒(méi)法割裂的。綜合制造方面和應(yīng)用方面的分析，人工智能時(shí)代的社會(huì)風(fēng)險(xiǎn)可以分為社會(huì)主體的缺失、社會(huì)安全、社會(huì)倫理、進(jìn)而引發(fā)社會(huì)治理的困境。