科技面前，人類應(yīng)不應(yīng)該有禁區(qū)？

魏霞

就在30年前，普通人還沒(méi)有預(yù)想到科技會(huì)如此無(wú)孔不入地嵌入到我們的日常生活中，那時(shí)沒(méi)有微博、微信、支付寶，手機(jī)是富豪的象征，電腦更是奇珍異玩。如今，無(wú)人機(jī)愛(ài)好者能夠低成本做出曾經(jīng)只在戰(zhàn)爭(zhēng)中使用的造價(jià)昂貴的無(wú)人機(jī)，身處偏遠(yuǎn)地區(qū)的農(nóng)民可以接收到通信信號(hào)并開(kāi)通社交賬戶，科技觸手可及。歷史上那些需要幾十年、幾個(gè)世紀(jì)才會(huì)發(fā)生的改變，現(xiàn)在幾年間就發(fā)生了。

美國(guó)布朗大學(xué)、斯坦福大學(xué)等多家機(jī)構(gòu)的研究人員日前在美國(guó)《科學(xué)公共圖書(shū)館·綜合》雜志上介紹了一項(xiàng)最新開(kāi)發(fā)的“大腦門(mén)戶”系統(tǒng)，3名四肢癱瘓的受試者使用腦機(jī)接口技術(shù)成功獲得了控制平板電腦的能力。他們只需想一想，植入大腦中的小型傳感器就能夠監(jiān)測(cè)到大腦運(yùn)動(dòng)皮層發(fā)出的神經(jīng)信號(hào)，光標(biāo)就能隨著心意移動(dòng)并完成點(diǎn)擊操作。這一大腦門(mén)戶系統(tǒng)的開(kāi)發(fā)無(wú)疑為四肢癱瘓病人帶來(lái)福音。

人類發(fā)明了科技，科技也不遺余力地為人類做貢獻(xiàn)。據(jù)普華永道分析預(yù)計(jì)，至2030年，僅人工智能一項(xiàng)，就將為世界經(jīng)濟(jì)貢獻(xiàn)15.7萬(wàn)億美元，并且會(huì)為人類創(chuàng)造更多的就業(yè)崗位，盡管麥肯錫在肯定新的就業(yè)崗位產(chǎn)生的同時(shí)，分析有7000多萬(wàn)個(gè)崗位可能會(huì)面臨自動(dòng)化的風(fēng)險(xiǎn)。這對(duì)人的挑戰(zhàn)就是要有從事不同工作的技巧和能力。

科技進(jìn)步為人類帶來(lái)效率和利益，人類也不得不因此承受前所未有的壓力。比如通過(guò)社交媒體我們有機(jī)會(huì)接觸到更多的人和信息，卻增加了過(guò)濾虛假新聞的成本和上當(dāng)受騙的概率。更為嚴(yán)重的是，科技幾乎讓個(gè)人失去了隱私權(quán)。道德是一種約定俗成，規(guī)則的建立需要時(shí)間，而科技發(fā)展的速度遠(yuǎn)在二者之上。

我們剛剛開(kāi)始建立規(guī)則保護(hù)隱私權(quán)時(shí)，一則“世界首例免疫艾滋病基因編輯嬰兒在中國(guó)誕生”的新聞，又將人類陷入了科技可能引起人類基因池改變的恐慌。122位中國(guó)科學(xué)家發(fā)聯(lián)合聲明堅(jiān)決反對(duì)貿(mào)然嘗試做可遺傳的人體胚胎基因編輯的任何嘗試，因?yàn)橐坏┳龀鰜?lái)，活人就不可避免地會(huì)混入人類的基因池，沒(méi)有人能預(yù)知最終的影響，這是一個(gè)潘多拉的盒子。

科技面前，人類應(yīng)不應(yīng)該有禁區(qū)？法律和道德的邊界在哪里？我們使用人工智能，但人工智能，甚至智能手機(jī)都可以跟蹤我們的動(dòng)作和習(xí)慣、運(yùn)動(dòng)和健康，通過(guò)我們的網(wǎng)絡(luò)搜索揭示我們的想法。人工智能對(duì)我們的了解會(huì)不會(huì)使人陷入風(fēng)險(xiǎn)？農(nóng)耕生活、城市生活曾經(jīng)是我們的生活方式，當(dāng)下我們進(jìn)入科技生活的時(shí)代，如果前兩種生活方式是我們可以選擇的，那么在強(qiáng)大的科技、在AI面前，我們是否有選擇？在現(xiàn)有的道德和法律范圍內(nèi)，我們也許還很難評(píng)估科技的對(duì)錯(cuò)和它給我們帶來(lái)的利弊。著名物理學(xué)家、宇宙學(xué)家、數(shù)學(xué)家、思想家、哲學(xué)家霍金支持人工智能，但同時(shí)也三番五次地表態(tài)，人工智能將摧毀人類;特斯拉和太空探索技術(shù)公司SpaceX創(chuàng)始人埃隆·馬斯克曾經(jīng)提出，人工智能有可能會(huì)成為人類文明的最大威脅。

人與人工智能最大的區(qū)別就是人工智能有腦，而人不但有腦，還有心，道德是用心來(lái)衡量和判斷的。如果某一天機(jī)器人殺人了，它不會(huì)有罪惡感。所以，人在開(kāi)發(fā)科技和利用人工智能的時(shí)候，道德應(yīng)作為首要考慮因素。我們已經(jīng)離不開(kāi)人工智能帶來(lái)的效率，但如果僅讓效率和利益大行其道，人類面臨的風(fēng)險(xiǎn)可能是不可控的。核武器的發(fā)明和使用可以瞬間摧毀人類文明，聯(lián)合國(guó)大會(huì)2017年通過(guò)《禁止核武器條約》，希望“禁止核武器的擁有、研發(fā)、儲(chǔ)存、轉(zhuǎn)移、試驗(yàn)，或是威脅使用”，讓核武器“完全非法化”，要求各國(guó)銷毀所持有的核武器。科技和人工智能還遠(yuǎn)沒(méi)有到瞬間摧毀人類文明的地步，但人類必須未雨綢繆。

科技與人工智能關(guān)系到政治、經(jīng)濟(jì)、社會(huì)、法律、倫理道德，盡管它的發(fā)展是日新月異的，但人類一旦意識(shí)到其中的問(wèn)題，就要做出相應(yīng)的規(guī)范，前提是，我們能夠始終保證人在操縱人工智能。

（作者系內(nèi)蒙古師范大學(xué)法政學(xué)院博士、副教授）