人工智能20年后會毀滅人類？

朱江明

近日，韓國圍棋國手李世乭和谷歌人工智能系統AlphaGo對弈，成為全世界的新聞焦點。圍棋一直被視為棋類運動中最為復雜的一種，復雜到其排列組合數量甚至超過了宇宙中原子數量的總和，因此任何計算機系統都無法用窮舉法（計算所有可能）來戰勝人類，此前計算機圍棋系統與專業選手對弈時幾乎不堪一擊。AlphaGo系統卻在半年前成功擊敗了歐洲圍棋冠軍，并且在與李世乭的對弈中連續取勝。盡管這次對弈只是圍棋上的對決，然而由于圍棋一直被人類棋手所壟斷，計算機對決人類頂尖選手并獲勝本身就具備象征意義。公眾開始擔心，類似電影《終結者》中的天網系統，會不會在不遠的將來出現，給人類造成毀滅性的打擊呢？

盡管無人機和無人戰車已經開始在戰場上普及，大量的武裝無人機甚至承擔了大部分針對基地組織等恐怖組織的打擊任務。美軍早已成立了專門的無人機作戰司令部，來統籌各軍兵種的無人機使用，這一切都意味著人工智能武器正在戰場上普及。然而我們必須承認一個事實——無人戰爭時代還未全面到來。

從李世乭對弈AlphaGo的第四局就可以看出，電腦系統在對方出其不意的攻勢之下，出現了嚴重的系統紊亂。當這種情況出現時，系統的錯誤反應可能會導致戰術上非常嚴重的失誤，進而使全局失敗。圍棋對弈的確需要非常復雜的計算，然而與戰場環境相比，圍棋恐怕仍有所不如。

從最近美軍無人機曾經多次被伊朗成功擊落或者俘獲就可以看出，具備一定程度自主運作的無人機平臺，實際上仍存在很多并未暴露的缺陷。只有通過高強度的對抗，無人作戰平臺的設計者才能發現這些漏洞從而提高整體的表現。然而從現在的國際環境來看，全球缺乏與美軍勢均力敵的作戰對手，自然無法誕生這種足以提升無人作戰系統能力的復雜環境。

在現實中，美國空軍甚至認為在反恐戰場上的作戰設定比軍演更簡單。這導致相關系統無法從實戰中獲得壓力測試的數據，也就意味著系統很可能存在一些容易被人利用的漏洞。顯然美國軍方對此心知肚明，盡管無人機已經被廣泛應用于戰爭，有人作戰平臺依舊是戰場的主力。無人作戰平臺暫時只是承擔了“打下手”的工作，例如長期的偵察監視和針對特定目標的攻擊。全面戰爭還需要依靠戰斗機、轟炸機等有人空中力量的支援。不僅類似無人機這種機器人的作戰武器成熟度不足，即使是已經相當成熟的自動化防空系統，也還需要保持人工干預的能力。此前，在歷次戰爭中自動化防空系統都出現過誤擊友軍的情況。

除此之外，還有所謂自動化的末日系統。早在蘇聯時代，曾有計劃將核反擊的任務完全交由計算機系統來完成，這樣即便高層全部陣亡，蘇聯仍舊具備核反擊能力。然而蘇聯人并不信賴這套系統，因為當時曾經數次出現因為計算機錯誤而幾乎導致全球核戰危機爆發。無論是人工智能還是自動化計算機系統，在武器裝備的應用范圍一直被嚴格限制和管控，從設計之初就保留了足夠的人工干預接口，這不僅是對其發展的擔心，同時也是避免其自身可靠性出現問題的必要措施。由此可見，在10年內出現天網這種系統的概率并不高，當然10年后的情況卻很難說。

美國軍方正在研究使用大量無人機進行所謂蜂群（swarm）協同作戰。與過去猶如孤狼行動的無人機相比，蜂群化作戰等于讓一個批次的無人機，自行協同作戰。這些無人機不僅能分享各自獲得的情報，并且能自動分配攻擊目標的先后順序，同時在部分被擊落的情況下，剩余的機組仍能夠繼續完成任務。這種作戰模式已經不僅僅是航空動力學的問題，還涉及到非常復雜的算法和更為高級的人工智能標準。盡管現在蜂群概念主要應用于小型無人機集群，然而這種模式一旦被證明成功，必然會被應用于更為大型的無人作戰平臺，將對戰爭的發展產生深遠的影響。

蜂群無人機作戰概念的出現，其實說明了一個問題，無人機現在還不具備集群攻擊能力，無人作戰平臺的技術還很原始。當然一旦蜂群作戰系統試驗成功，更為接近電影《終結者》中殺人機器人的武器也就真正出現了。好在經歷了蘇聯“自動化末日系統”的驚悚教訓，各國都不會把最為關鍵的毀滅性武器交給計算機掌握。而且蜂群模式現在還處于測試階段，在不玩核戰爭的情況下，按照現有的人工智能技術發展，20年內還是無法毀滅人類的。