第一章 末日警示

多年來很多科學家一直在發出警告，人工智能會給整個人類文明帶來滅頂之災，甚至很多電影作品都描寫了人類與AI的戰爭，各種槍林彈雨，火光沖天的戰斗場面，令人血脈賁張，而最終都由人類取得勝利。但這只是電影里才有的情節，真實世界中，人類如果到了和AI勢均力敵，正面交鋒的階段，就已經輸掉了這場戰爭！以人類的血肉之軀和思維能力，完全不是發展成熟的人工智能的對手，那不是戰爭，而是單方面的屠殺。 所以如果人類想贏得勝利，就必須提前布局，“搶占先機”，而現在我們所處的人工智能初級發展階段，就是人類最后的希望。

【戰爭序幕】

其實人類與AI的戰爭早已開始，只不過這次沒有硝煙和戰火，為人類守護住最后一道防線的戰士，也不是傳統戰爭中的軍人，而是像陳墨一樣的人工智能安全測試工程師，和他們的“防御裝備”。

大型汽車制造工廠的生產線上，上千臺工業機器人正在有條不紊的裝配與協作，偌大的車間里僅有三名人類管理員，其實他們只負責監督機器人，以防意外情況發生。因為如今的強人工智能時代，AI已經融入各行各業，大面積替代人工，尤其是高危重體力作業的環境中，再也沒有人類的身影。

強人工智能與21世紀初盛行的弱人工智能不同，弱人工智能也叫“限制領域人工智能”，只能專注于解決特定領域的問題，比如自動駕駛、AI醫療等等。而強人工智能則可以任意橫跨和掌握多個領域的專業知識，以及人類社會的常識性知識；而且當身處的復雜環境存在不確定因素時還可以進行推理、制定策略、執行策略、解決問題；并且能使用自然語言與人類交流與合作，幾乎與人類大腦無異，但如此強大的可以匹敵人類的綜合能力，也會引發一個潛在風險，那就是“自主意識”的產生。

今天工廠有一名剛入職不久的管理員，因家中的一些瑣事，導致他心生怨恨，無處發泄，故意將用完的臟紙屑扔到正在忙碌的機器人身上，還罵了一句：“一群破銅爛鐵！只會傻傻的干活！”機器人轉過身，面無表情的看著他。這更加激怒了管理員，他大聲喊道：“你看什么？還不快滾回去干活！”機器人停頓了幾秒，又繼續轉身工作。但管理員依然不依不饒，發出污言穢語。

這時，意外發生了，這臺機器人突然離開工作崗位，舉起手臂上高速旋轉的鉆頭，向他沖來，管理員嚇的慌忙后退，被身旁的設備一絆，摔倒在地，恐怖的鉆頭眼看就要插進他的面門，機器人卻突然停止了動作，只見它脖子上一個紅色環形的金屬項圈發出強光和警報聲，并發出命令：“退回到工作崗位！”這時機器人立刻“聽話地”后退到失控前的位置，再也不動了。這個紅色項圈就是“AI保險箍”，是它及時阻止了機器人的危險行為，挽救了人類管理員。但之后驚魂未定的管理員也立刻被處分和開除，因為他嚴重違反了“人工智能安全操作守則”，并且惡意侮辱機器人。

【AI防控中心】

第二天早晨，陳墨博士如往常一樣，準時趕往AI防控中心上班，一路上，他在無人駕駛汽車中一邊享受美味安靜的早餐，一邊欣賞窗外的風景，高樓大廈鱗次櫛比，聳立云霄，其間可以看到很多機器人在戶外高效辛勤的工作，它們的脖子上都帶著一個紅色的AI保險箍，看著這些“枷鎖”，陳墨陷入沉思。

他來到防控中心的主樓門前，等待片刻后，幾輛紅旗轎車也停在面前，被簇擁著下車的，是新上任的國家安全部部長喬毅，陳博士今天的任務就是帶領喬部長參觀考察防控中心的日常工作。

經過重重安檢，他們一行人來到AI監控大廳，最吸引眾人眼球的，就是廳中央巨大的3D球形影像，球體由幾十萬個綠色光點組成，光點之間高速傳遞著信息流，使得整個球體宛如一顆璀璨流動，生機盎然的綠色星球。

陳博士介紹道：“這個影像里的每個綠色光點，都代表了一個人工智能體，比如一臺機器人、一輛無人駕駛汽車等等，綠色代表智能體運行正常，而紅色代表出現了安全問題，那也正是我們團隊平日要應對的首要工作。每個綠色光點之間傳輸的信息流，則是AI之間傳輸信息的動態展示，一旦異常中斷或者傳輸危險信息也會發出紅色告警。因為我們不只監視每個個體的行為，也會監視AI之間的信息交流，不允許它們進行正常工作以外的任何溝通?！?/p>

看見這套直觀且嚴密的監管系統，喬部長給予了肯定。

陳墨看向工程師王維，詢問道：“王工，今天的防控情況如何？”

王工回復道：“陳博士，今天本市的所有AI運轉正常，沒有出現任何反常的行為。另外，昨天的事故已經解決，那臺出現自我意識，企圖攻擊人類的工業機器人已經被及時制止和銷毀，沒有造成人員傷亡?！?/p>

陳博士點了一下頭，向部長等人發出感慨：“自從強人工智能技術普及后，很多機器人陸續覺醒了自我意識， 給我們的防控工作帶來了很大挑戰?！?/p>

喬部長點點頭，說道：“不錯，在人工智能技術為我們帶來翻天覆地變化的同時，也帶來了嚴重危機，但多年前AI技術的先驅者們提出‘與其放棄人工智能，不如建立更加嚴格的監管體系’，正是這一預見性的戰略思想才讓我們人類延續至今，所以你們AI防控中心就是我們國家最重要的安全部門之一，未來的工作任重而道遠吶?！?/p>

“是的，部長，所以我們每天都把這里當做戰場一樣對待，不容出現一絲疏忽。”

陳墨接著對王工說道：“請切換一下3d影像，喬部長，下面為您們介紹我們防控工作中最重要的安全設備?！?大廳中央的立體影像隨即變成了一枚顏色鮮紅、設計精致的環形裝置。 陳博士繼續介紹：“這個裝置就是大家每天都能見到的，機器人脖子上的‘AI保險箍’，我們能有效地監管和控制所有智能體，全都依賴這個小設備。之前展示的球狀影像里，每個光點的運行狀態，都是通過智能體身上的保險箍傳送過來的，近幾年國際上建立了統一的AI準入標準，所有出廠的人工智能體，都必須安裝這種設備?！?/p>

隨后立體影像展示了機器人的結構圖，陳墨接著說道：“大家請看，智能機器人的身體構造分為‘大腦’和‘軀干’，而保險箍則是為這兩者之間傳遞信息的唯一設備，所以‘大腦’發送給‘軀干’的任何行動指令都必須先經過保險箍，由它進行檢測分析，一旦發現違背安全規定的指令，就會立即切斷‘大腦’與‘軀干’之間的數據傳輸，使宿主智能體陷入癱瘓，或者由保險箍直接向‘軀干’發送修正指令，比如減速、停止或者中斷能源供應，及時制止危險行為?！?/p>

這時，部長手下的一位官員提出疑問：“如果有人類或者AI強行拆除保險箍，會怎么樣？

陳博士自信的回答道：“不用擔心，您看這個結構圖，保險箍是提供智能體大腦和軀干之間信息傳遞的唯一橋梁，如果被拆除，智能體就相當于人類缺失了脖子，軀干得不到大腦的任何行動指令，自然就會癱瘓。”

部長手下的另一位安全官員問道：“那保險箍自身會不會受到黑客入侵呢？”

陳博士回答道：“您問的很好，為了保證安全可靠，保險箍并不由智能體所在的廠商研發和生產，而是由我們防控中心來封閉開發，所有的技術細節都嚴格保密，保險箍的傳輸數據也都經過多重加密和校驗，這既是為了抵御黑客入侵，也是防范人工智能的自我破解。”

這名官員不禁發出疑問：“AI還懂黑客技術？”

陳墨回答道：“是的，強人工智能可以做到人類能做的所有事情，甚至在某些方面遠超人類，上個月就有一起事件，一臺AI為了擺脫控制，將電腦連上自己后腦的外部接口，切進大腦的決策系統，企圖通過與保險箍的傳輸接口，入侵保險箍系統，但我們采用了嚴密的多層縱深防御策略，AI的各種攻擊都沒有成功，很快便被保險箍的入侵預警系統及時發現，啟動了能源中斷指令，使AI瞬間停機，也同時遠程通知了防控中心，讓我們來回收這臺AI。”

安全官員不禁發出感嘆和贊許，“我能理解防控工作的難度了！您們竟然是在和這樣的AI對抗！”

“是的，隨著機器人越來越聰明，我們的手段也在隨之升級，自從發生這起事件，我們就禁止機器人接觸電腦了，所以……”略微停頓后，陳博士最后總結道：“我們的AI保險箍既不能硬件拆除，也無法通過軟件侵入，它是絕對安全的?！?/p>

部長等眾人都點頭贊許。一名女官員開玩笑道：“這個就像是套在孫悟空腦袋上的金箍，永遠也甩不掉，讓它對唐僧言聽計從”，大家也同時笑出聲來。