警惕人工智能的異化

林治波

從無人駕駛汽車到電腦棋手戰(zhàn)勝人類頂尖選手，人們?cè)谡痼@之余，開始議論：人工智能到底會(huì)發(fā)展到什么程度？

筆者認(rèn)為，人工智能對(duì)人類的近期影響是大量取代簡單、機(jī)械性重復(fù)勞動(dòng)的崗位；中期影響是部分取代人類在腦力方面的機(jī)械性重復(fù)勞動(dòng)；遠(yuǎn)期則難以預(yù)測(cè)，因?yàn)檫@在很大程度上取決于人類是否有節(jié)制地發(fā)展人工智能。

異化，是人類社會(huì)始終存在的規(guī)律性現(xiàn)象。比如，官員作為群眾的服務(wù)者而存在，但久而久之一些服務(wù)者竟變成官老爺；后勤部門是為服務(wù)業(yè)務(wù)人員而設(shè)置的，但結(jié)果往往是后勤部門自身的地位高于業(yè)務(wù)人員，甚至?xí)治g業(yè)務(wù)人員的權(quán)益。

科技也是如此。且不說壞人掌握科技而導(dǎo)致的種種惡果，即便是好人運(yùn)用科技也未必都是好結(jié)果，工業(yè)革命以來自然環(huán)境的大規(guī)模破壞、物種的加速滅絕、人類自身本能的退化、各種添加劑對(duì)人類健康的損害以及人類對(duì)電子游戲的沉迷等等，就是和科學(xué)技術(shù)的廣泛應(yīng)用密切相關(guān)的。問題不在技術(shù)本身，而在于人類的道德出了問題，以致把科技用錯(cuò)了方向。

人工智能是科學(xué)技術(shù)中最先進(jìn)的部分，同時(shí)存在著造福與危害人類的可能性，關(guān)鍵在于實(shí)行怎樣的生產(chǎn)關(guān)系：在進(jìn)步的生產(chǎn)關(guān)系之下，先進(jìn)科技的推廣將普惠多數(shù)人；反之，則專惠于極少數(shù)大資本家。科技本身不能為自己確定方向，人類必須以進(jìn)步的人文精神和社會(huì)制度規(guī)范并駕馭科技發(fā)展，才能讓科技最大限度地有益于人類和自然。

現(xiàn)在的機(jī)器人，絕大部分只能從事簡單的機(jī)械性勞動(dòng)，即便是戰(zhàn)勝人類頂尖圍棋高手的“大師”，也只是能夠替代人類腦力中的機(jī)械邏輯部分，并無能動(dòng)的主觀意志、思維能力和自我完善能力，更談不上審美、道德與情感。

無論將來的人工智能能夠進(jìn)展到哪一步，其發(fā)展的限度應(yīng)當(dāng)是——人類能夠控制它，而不是被它所控制。但做到這一點(diǎn)并不容易。因?yàn)椋诵灾械男皭骸e幸、好奇，人與人、企業(yè)與企業(yè)、國家與國家之間的激烈競(jìng)爭，很容易導(dǎo)致人工智能的研發(fā)犬牙交錯(cuò)，失去控制。

針對(duì)這種危險(xiǎn)性，前不久，亞馬遜、臉譜、谷歌、IBM和微軟等五家公司聯(lián)合發(fā)起“AI伙伴關(guān)系”，旨在通過成立聯(lián)合組織來制定基本規(guī)則。希望更多政府、頂級(jí)科研機(jī)構(gòu)以及聯(lián)合國教科文組織也能在這方面發(fā)揮作用。▲

（作者是人民日?qǐng)?bào)甘肅分社社長兼蘭州大學(xué)新聞與傳播學(xué)院院長）