人工智能的幾宗“罪”

四川省南充市纖維檢驗所 陳春全

人工智能的幾宗“罪”

四川省南充市纖維檢驗所 陳春全

2015年初，谷歌放出了一段機器狗的視頻。這只名為Spot的機器狗重約70公斤，具有強大的電力續航能力，可以完成行走、快跑、翻越各種地形等一系列動作。視頻中的Spot正如同一只真狗那樣在行走。為了測試它的堅固及可靠性能，突然從旁邊沖出來一個彪形大漢對著Spot的身子猛踹了一腳。Spot先是一個踉蹌，然后立即加快步伐以保持平衡，同時似乎還發出了幾聲悲慘的“叫喚”。這段視頻熱播之后，有人評論說：人工智能結束世界的方式不是大爆炸，而是在被你踹了之后，機器狗轉身撲向你。

NO.1 差三錯四

“過而能改，善莫大焉”，這句話出自《左傳》，前面一句是“人誰無過？”。指一個人犯了錯誤后，能夠認識并改正錯誤，就是最好的事情。但是，對于人工智能機器人來說，它們一旦出了錯，自己并不能意識到，反而需要人類來找出錯誤的根源，然后編寫補丁程序，再檢驗補丁，甚至還需要補丁的補丁，最后還要檢測整個程序等等。

對人工智能的程序，修正差錯或是遺漏似乎永遠沒有盡頭，讓人不勝其煩。這一點從我們現在使用的計算機程序就能得知，你是不是經常需要為軟件更新升級下載補丁程序呢？

人類研發人工智能和制造機器人的初衷其實是想讓機器人按照我們事先編排好的程序工作，既能提升效率，還不會出差錯。不過，機器人出錯的概率并不比人類低多少，因為它們不但有軟件問題，還存在硬件損壞等問題。由此帶來的煩惱更是不勝枚舉。比如，語音識別時遇到說方言的指令識別不了，當你正在心急火燎的時候，機器人卻無動于衷……

更為可怕的是，明明出了差錯，必須立即停止工作，但機器人仍然在繼續按照錯誤的方式執行下一步操作。因為它們本身意識不到錯誤，只要程序不中斷，機器人就不會停止任務。想想科幻大片里的那些人工智能們，因為無法停止任務而產生的諸多殺戮，真是讓人不寒而栗啊！

對于錯誤來說，于一個人只需語重心長地告訴他：“不能再這么干了……”，但對于人工智能來說，修正錯誤則需要耗費更多的時間、人力、物力。

NO.2 喧賓奪主

假如將來你的家里有了一臺智能機器人，它的任務類似于我們現在的家庭保姆的工作。在它的程序中不但設置好了各種各樣的營養食物搭配模式，還可以幫助主人測量各種身體健康指標，并且能夠按照主人的健康指標來安排每天的膳食搭配。

在下班的路上，辛苦了一天的你為了犒勞一下自己，訂購了燒雞、鹵鵝、啤酒、可樂等自己喜歡的外賣。但是當你推開家門的時候，卻發現智能機器人的模式中認為這些食物不適合今天的你，為了你的健康著想，它在網上幫你把食物改成了咸菜加白粥。此情此景，你能奈何得了它嗎？

周末的你準備跟朋友到郊外游玩，但是智能機器人認為外面的霧霾太重，你不適合暴露于曠野之中。它為了你的健康著想，把你鎖在家中死不開門。此時你除了翻窗、跳墻之外，似乎也沒有其他辦法，你是否會感到很無奈呢？

更為可怕的是，假如你的單位請了機器人保安，或者有一天你突然發現，你們部門的小頭目其實也是一個機器人，你又該做何反應呢？

NO.3 無情無義

最近風靡一時的無人駕駛汽車，實際上也是人工智能的一種表現形式。它們主要依靠車內的以計算機系統為主的智能駕駛儀來實現無人駕駛，也可以被稱為輪式移動機器人。人類研發和使用它們的終極目的是實現安全穩定駕駛，避免交通事故的發生。

然而，2016年美國加州就發生了一起谷歌無人駕駛汽車撞上公交車的事故。據說此次事故與路側排水系統的沙袋有關。當時，谷歌無人駕駛汽車為避讓沙袋而沒有注意到公交車，因此在向左變道時蹭撞了后方的公交車。這說明在面對復雜的交通狀況時，智能機器人也會出現很嚴重的判斷失誤。

這次事故雖然沒有造成人員傷亡，但是引發了人們的一些思考。無人駕駛汽車在行駛過程中發現面前有障礙物時，會采取規避動作避免發生事故，但障礙物可能是一個垃圾桶，也可能是一個人或者動物，人工智能汽車是優先選擇保證車上乘客的安全而直接撞上去，還是考慮障礙物的安全而直接開到溝里去呢？

毋庸置疑，如果是一個真人在開車，他立刻就能做出正確的選擇，而智能汽車恐怕就會釀出慘禍。不論機器多么先進，多么智能，它們都無法做出道德的判斷。

再者說了，無人駕駛汽車出了事故，交警肯定是第一個傻了的，我找誰來負責？

NO.4 毀形滅性

我們使用人工智能的目的無非是想讓生活更美好。將來有一天，機器人可以幫我們做洗衣做飯、打掃清潔等一切服務性的工作。除了少數從事研發的人之外，其他人只需要愜意地逛街、旅游、聚會就可以了，只不過在商場和飯店接待你的也是機器人罷了。

但實際上，這一旦成為現實是很危險的。大多數的人會因此變得更加懶惰，很多年輕人會喪失學習和工作的愿望。到時候學生們的周末會是什么樣子呢？告訴你吧，是集體窩在被窩里面玩手機。學生們現在的戶外活動已經越來越少了，而下一步智能機器人更會替他們包辦一切。

說到知識，那個時候誰還會傻乎乎地學習知識呢？人工智能什么問題都能回答，什么事情都能幫你搞定。我們既不學習，也不工作，更不會運動，身體機能開始退化，直至淪為一群除了吃喝啥也不會的高級動物，而實質上我們已經被智能機器人給“圈養”起來了。

目前，西方一些國家已經開始計劃給智能機器人裝上槍炮。戰場上機器人固然能減少人類的傷亡，但誰又敢保證它們的槍口會永遠朝外呢？顯然，人類的這一做法無疑是提前給自己挖好了墳墓，敲響了喪鐘。

長此以往，終有一天，世界將被智能機器人所占領和統治。而或許只是因為機器人被人類植入了“保護地球”之類冠冕堂皇的程序，使它們遵照我們的命令而行，最終把我們當成了地球的“毒瘤”。當然這只是一種猜測，因為那時人類可能已經被滅亡了，我們也就無法知道確切的原因了……

“我們人類之所以存活于世，從來不是因為我們是這個星球上最強壯、行動最快的物種，而是因為我們最聰明。所以當比我們更聰明的力量出現在這個星球上的時候，它將接管地球。”

2016年初，霍金、比爾·蓋茨等幾位人類科技界的“頂梁柱”在一封提倡控制人工智能發展的公開信上簽下了自己的名字。在他們看來，飛速發展的人工智能已經成為“我們現存的最大威脅”。