人工智能十宗罪

孫子厚

人工智能（AI）已經成為科學前沿最熱點的研究領域，它構成許多光怪陸離的科幻故事，人們醉心其中。

然而，一些著名科學家和科技先驅，卻認為人工智能的終極影響非常不好，將給人類帶來十大危害。

No.10 致人大量失業

近年來，機器代替人，已成事實。大到汽車制造，小至自助服務終端，都有這種趨勢。

當機器配上人工智能，它就能自動更新，人類被代替的趨勢，愈演愈烈。這將造成失業工人大量涌現，只有少數人從中受益，比如智能機器的制造者、使用者和升級者。

No.9 陷入道德窘境

如果人工智能控制一輛汽車，載著幾名乘客，在公路上行駛。突然發現路上有一麻袋垃圾，智能汽車會怎么辦？它會轉彎避開垃圾，撞向旁邊造成車禍而傷人呢？還是會徑直撞向垃圾？我們都希望是后者。

但是，假如路上的不是一麻袋垃圾，而是一只病狗，或者一個嬰兒呢？智能汽車會認為一只動物不值得去救，或者一個嬰兒遠不及幾個乘客的生命寶貴，而直接撞上去嗎？

如果人開車，馬上就能做出正確決定，但汽車自動駕駛的話，估計會釀成悲劇。不管機器有多智能，它和人始終有差距，它做不出道德判斷！

No.8 方便黑客入侵

未來的冰箱、烤箱、電燈、汽車等，日常用品都將聯網。方便我們自己，同樣也方便了黑客。

Siri是蘋果iOS系統的智能語音助手。未來，它將濃縮進一個小盒子，接入網絡，全天候工作，自動更新，自動記錄，保存你所有信息。Siri一旦被黑客攻取，后果非常嚴重。

由人工智能儲存保護個人信息，你能放寬心嗎？

No.7 差錯不曾減少

最初，人類以為機器按事先編好的程序工作，效率提升，不會出差錯。

實際上，機器頻頻出錯，由此帶來的煩惱不勝枚舉。它誤聽語音指令，它無動于衷，它錯誤識別命令，它反應過激，等等。這與機器帶來的好處幾乎抵消。

更可氣的，明明出了差錯，應當立即停止，但機器仍在運行，甚至繼續執行下一步操作！因為它根本意識不到出了差錯，它在執行程序而已。只要事先編好的程序不中斷，機器就不會停止，無論有沒有出差錯。

No.6 差錯更難修正

人犯錯了，自己能意識到，能立即改正。“知錯能改，善莫大焉。”

機器出錯，自己意識不到，相反，需要人找到出錯的根源。重新檢查程序，瀏覽代碼，確定根源，然后編寫補丁程序，再檢驗補丁，更新補丁，有時需要補丁的補丁，最后甚至導致程序整體升級。

兩相比較，孰易孰難？高下立判！對人而言，只需一句告誡：“不要再犯錯，因為……”對機器而言，修正差錯似乎繁瑣到令人厭煩，很不值得。

No.5 反仆為主

機器是幫助人的，智能機器對人的幫助應該更大，可實際上呢？

假如你家里有位機器人，它儲存你的個人信息，很了解你。你喜歡啤酒、披薩、冰淇淋，在網上訂外賣。但機器人覺得這些食物不健康，為你著想，就在網上私自更改菜單，改成了胡蘿卜、生菜、鱈魚肝油。

再假如你皮膚過敏，怕曬太陽。機器人在網上獲悉天氣預報，它覺得晴天紫外線強烈，不適合你出門。為你著想，它把你鎖在家里，堅決不開門（門及家里各種設備都是聯網的）。你無法上班，怎么交差？假如你的上司也是機器人，你又怎么解釋？

No.4 致人懶惰退化

制造機器人，就是為了幫助人類，使人類更輕松愜意、繁榮興盛。比如，生活中機器人隨時提醒，什么時間吃藥，喝酒到什么程度剛剛好；機器人還可以灑掃庭除、燒水做飯。人類要么悠閑逛街，要么一心搞研發，其他什么都不用做。

實際上恰恰相反。人類不是更悠閑，而是更懶惰，甚至退化。機器人承擔一切家務，打掃拾掇，買米買肉，煮飯燒菜等等。人類則呆在家里不出門，蜷在沙發看電視，窩在床上玩手機。

如今，年輕一代參加戶外活動越來越少，他們通過手機和網絡相互溝通。下一步，他們就呆在家里，窩在床上，蜷在沙發，動動嘴唇發發指令，智能機器包辦一切，而我們越來越懶，身體機能越來越退化。

No.3 反叛終結人類

在美國科幻大片《終結者》里，人工智能覺醒，發動核戰，操控機器，于是各種用途各種形狀的機器人、銷毀機器人的鋼鐵溶池、無所不在的天網等，有條不紊地運行；人類處境非常不妙。

人工智能配上武器，后果將非常嚴重。今天，給機器人裝上槍炮，相當于給人類提前掘了墳墓，奏了死亡之曲，直到將來有一天，機器智能覺醒。

戰場上，機器人減少人類傷亡，但是，我們不能保證機器人的槍口永遠朝外。人類制造機器人，機器人學會殺人，這應了《侏羅紀公園》的名言：“生命會自己找出路。”

No.2 替代主宰人類

常常這樣聽說：機器人將占領地球，屠殺、奴役人類，而人類不得已逃到地下求生，暗無天日。如同《黑客帝國》，機器主宰地球，人類要么沉浸于無知卻美好的虛擬世界，要么拼殺在磨難而殘酷的現實世界。

然而，如果人工智能懂得進化，學習人類更多特性，使自己更像人，會怎么樣？

機器人懂得感情，有了焦慮、后悔、沮喪、嘲諷、愛情、厭煩、猥褻、快樂等等情感，與人類又有何異？在地球上，這些機器人將居于主導地位，替代主宰人類。

科幻世界里，《2001太空漫游》的哈爾，能力出眾，精通唇語，妄圖控制人類；《銀河系漫游指南》的馬文患抑郁癥，又是偏執狂，極其嘮叨；《飛出個未來》的班德，嗜酒如命，自私自利，脾氣暴躁。這種機器人越來越多，人類立足之地將會越來越少。

No.1 滅亡人類

世界被機器人統治，人類被滅亡，末日來臨——這是人工智能帶給人類的最大災難。

滅亡人類，只因為機器人把人類視為自己進化路上的唯一障礙。又或許，機器人被植入了“保護地球”的程序，它遵命而行，只不過把人類當成了地球的最大威脅。

不管什么原因，至少結果都一樣——人類被消滅了，而人類也不可能知道原因了。但是，唯一知道的是，這全部由人類自己的錯誤造成。

人類當警醒，否則，將來可能只剩下靈魂在悲泣：“早知如此，何必當初？！”