學(xué)會信任人工智能

柒奈

在2018年的世界人工智能圍棋大賽中，柯潔再次對戰(zhàn)人工智能。盡管柯潔吸取教訓(xùn)，奮力反抗，但依然被國產(chǎn)人工智能“星陣”擊敗。人類開始思考一個問題：“我們制造出的人工智能既然能戰(zhàn)勝我們，那它們是否會對我們造成威脅？我們能信任它們嗎？”在回答這個問題之前，我們先來看看目前的人工智能都能干什么。

人工智能“小助手”

當(dāng)下的人工智能，正在不斷地造福人類，并且已經(jīng)成為了人類的智能“助手”。

在日常生活中，被數(shù)億人使用的微信，采用了人工智能技術(shù)中的語音識別技術(shù)，即語音轉(zhuǎn)換成文字，只需要長按加點擊，語音就變成文字，免去不方便聽語音的煩惱;被廣泛使用的搜索引擎如谷歌、百度、搜狗等，都運用了人工智能信息檢索技術(shù)，讓我們不出家門卻知天下;深受廣大“抖友”們喜愛的抖音APP，其中的人臉識別和各類變臉功能同樣采用了人工智能識別技術(shù)……

隨著人工智能的發(fā)展，人們越來越享受到了人工智能帶來的快捷與效率。近期，人工智能更是發(fā)揮出了極大的潛能。現(xiàn)代化工廠里的蛇形臂機器人，支持遠程操作，能在極端環(huán)境下工作;人工智能領(lǐng)域?qū)＜液歪t(yī)院合作，利用人工智能輔助醫(yī)生進行疑難雜癥的診斷和管理病人;無人零售鼻祖Amazon Go商店，因為加入了人工智能，給消費者制造了全新的購物體驗……人工智能得到了更加廣泛的應(yīng)用。

人工智能能夠得到廣泛應(yīng)用，直接說明了人類需要人工智能，所以發(fā)展人工智能是大勢所趨，但發(fā)展人工智能帶來巨大可能性的同時可能也會給人類帶來潛在危險。

可能存在的潛在危險

一方面，隨著人工智能的升級，當(dāng)它們可以承擔(dān)部分工作時，相應(yīng)工作崗位上的員工將面臨失業(yè)的威脅。最常見的一個例子是市面上出現(xiàn)的各式各樣的學(xué)習(xí)機，它們精通各門學(xué)科，似乎沒有解決不了的難題。你只需要輸入問題，點擊按鈕，就可以得到答案和解析，它們似乎可以取代人類老師成為學(xué)生的機器老師。

另一方面，人工智能的升級可能賦予人工智能可以獨立管理信息的能力，當(dāng)安裝在手機和電腦上的人工智能程序獲取人類的機密信息時，由于人工智能可以獨立管理信息，我們將無法控制信息的傳遞和使用，尤其當(dāng)人工智能被病毒信息感染時，病毒可能在人工智能程序的“引導(dǎo)”下，造成更大范圍的傳播和感染。

因此，隨著人工智能的發(fā)展，我們需要給自己打預(yù)防針，預(yù)防人工智能成為像人類一樣的智能生命體，并且預(yù)知可能出現(xiàn)的潛在危險。那么應(yīng)該如何防止危險的出現(xiàn)呢？答案是建立HI社會。

建立HI社會成為必須

人類是通過建立一些規(guī)矩，才由野蠻進入文明的。而后通過健全建立道德規(guī)范和法律法規(guī)，才使社會進一步良性發(fā)展，進入了現(xiàn)代社會。

同樣的，為了建立一個文明有序，人類和人工智能和平高效地共同成長的HI社會，即人類智能社會，首先就是要建立屬于HI社會的規(guī)則，這個規(guī)則與人類社會的規(guī)則有所不同，它包括了對人工智能行為的約束和對人工智能設(shè)計者的要求。

一方面，對人工智能行為的約束主要是對其良好行為和錯誤行為的不同應(yīng)對。在使用人工智能時，良好行為和錯誤行為都會被記錄下來。對于良好行為如勝任工作、幫助人類取得成果等良好行為，人類通過編程代碼，告知人工智能它可以得到升級;而對于錯誤行為如反程序，人類同樣可以通過計算機語言，警告人工智能，讓它停止此類行為，否則它將會被銷毀。另一方面是對設(shè)計者的要求，設(shè)計者要給人工智能設(shè)定人類可控的程序，當(dāng)工作中的人工智能失責(zé)時，人類可以對其嚴(yán)加控管。

除了建立規(guī)則外，還可以通過標(biāo)記人工智能，將人工智能和制造商捆綁在一起。一個值得信任的制造商的商品往往也是值得信賴的。就像商品通過國家標(biāo)準(zhǔn)而可以銷售給消費者一樣，標(biāo)記過后的人工智能技術(shù)代表已經(jīng)通過人工智能標(biāo)準(zhǔn)，證明它可以無后顧之憂地在日常生活中使用。

如果能建立良好的人工智能社會，人工智能威脅論也許永遠不會成真。