粒子機器人，能否敲開機器覺醒的大門

志剛

我們知道，以往在設計機器智能系統的時候，技術人員總是會試圖讓它們模擬和還原人類的行為。于是我們看到，機器在復制人類的過程中，學會了如何看、如何下棋，甚至還會像人一樣控制肢體來上一段花式體操。看起來，似乎機器的能力已經突飛猛進了，但為什么小說和電影里那么多牛氣沖天的機器人，生活中卻一個也沒有呢？這就是因為機器人的自我意識缺失。它只能完成人類告訴它的事情，并且還十分費勁。至于強智能系統需要的自我模擬、自我建模，更是遙遠的天方夜譚。但現在，仿生群體粒子機器人的出現，似乎讓這個問題有了新的答案。

和人們想象中擁有機械身體、超智慧大腦的人形智能機器人不同，Hod Lipson所說的機器意識，很可能最先從粒子機器人集群中誕生。

2019年3月，hod lipson團隊發明的新興粒子機器人登上了《自然》雜志封面，讓“機器的自我意識”出現了松動，這一發現也在學界引起了軒然大波。其創新性主要來自兩個方面：一是這些由“粒子”（即圓盤狀單元）組成的機械系統，不需要人類的強集中控制，也能依靠自主性伸縮和隨機運動完成復雜的任務；二是這種系統很可能產生覺知，通過思考“我為什么在這里”進而做出自我模擬、自我復制，從而可以在設備故障、特殊作業環境中順利完成任務。

模擬人類心智的一小步，機器人的一大步

我們知道，人工智能研究是建立在人腦如何工作的基礎之上的，而意識則是其中十分高級的一環。粒子機器人集群的進步，說明機器人學來到了哪個階段呢？

首先，在擔憂機器威脅人類社會之前，我們會率先品嘗到技術進步帶來的甜蜜時刻。之所以這么說，是因為前面的發現，正在將機器能夠模擬的心智能力推向更高維度。根據目前的科學研究，人類的心智主要包括四大能力，其中視覺感知和推理能力，已經被神經網絡模型復制到了現實世界，計算機視覺、AI大腦正在成為新的生產力引擎。而情感和社會關系，比如不同文化圈的人類能夠感受到愛恨悲喜等相通的感情，能夠根據合作、競爭、友誼、家人等不同的社會關系來產生動機并預測行為。

后面兩種能力才是機器人和科研人員苦求而不得的高級智能。機器如果擁有它們，會發生什么呢？至少目光所能及的未來很值得心動。

以粒子機器人為例，這種非常初級的“極可能擁有意識”的機器系統，能夠帶來的社會價值都是巨大的。

一方面，機器人如果能夠模擬其它的人類和機器人，那也就會啟動機器人之間的社會行為，進而可以認知環境、預測未來并主動采取行動。

如果機器某個零件壞了，它就可以自己修復，這使得機器的利用效率和適用范圍大大提升。比如工廠里的機器、家里的吸塵器等，一些部件壞掉就會讓整個機器無法運作。未來由這些納米級機器人組成的機器，就能夠不斷循環，單個足見壞掉之后依然可以使用，幫助使用者不斷節省成本。

另一方面，能夠為未來科技打開新的想象空間與可能性。比如太空科技，生物醫藥等，隨著粒子機器人技術向毫米、納米級演進，未來應用到人類的血管中幫助處理病灶，亦或是在月球上機器人可以根據任務的需求改變自身的形態。任何自動化智能系統，包括在技術瓶頸中苦尋出路的無人駕駛等，一旦它們能夠有自我意識，從毀壞中恢復，就能夠更快地改進，這都是并不遙遠得機器智能未來。

機器的善惡誰說了算？

接下來，我們再來聊聊第二個問題——如果機器有意識，“他”會是善還是惡？

在回答這個問題之前，我們不妨先聊聊計算機的進步。眾所周知，今天的計算機已經比上個世紀更加聰明且強大，但類似《2001太空漫游》等科幻電影中大型主機反叛人類的擔憂，卻越來越少了。今天，我們也許會擔心網絡漏洞所引發的混亂或是人為惡意制造的病毒，卻很少會想象出現什么電腦殺手或秘密組織。

人類為什么對智能機器人這么緊張呢？除了在智力、能力、體力上對人類個體的碾壓之外，恐怕一個很大的恐懼來自于未知與不確定性：一旦機器擁有獨立的人格和認知，會不會傷害人類呢？

問題來了，為什么機器人想要這么做呢？為了更多的服務器資源，還是傷害流水線工人會使其得到快感？在沒有足夠“獎勵”的前提下機器會自己變壞嗎？顯然還要問人類自己。

很多人認為，機器人覺醒會像《西部世界》中女主角德洛瑞絲一樣，意識到自己是被人類奴役和玩弄的，進而開始復仇。即使這一天真的會到來，我想以目前人類與機器人之間的關系，也不至于會變得劍拔弩張吧。

哪個“變態科學家”會甘愿冒天下之大不韙，丟給智能機器這樣“反人類”的數據集，而不擔心先被機器虐的是自己呢？

再進一步，如果出現了這樣的人類“恐怖分子”，比如利用AI行騙、犯罪，將機器人改造成爆炸裝置之類的，在技術上能否及時發現并遏制呢？

對于這一點，智能科學正在向網絡安全界學習，引入一些成熟的防范機制，比如人工智能開發中的紅色團隊、人工智能系統中的正式驗證，以及負責任地披露人工智能漏洞等等。

2019年，由OpenAI、牛津大學、劍橋大學等14家機構和高校共同發布的《人工智能惡意使用》報告中，也進一步號召人工智能領域形成規范和道德框架。在這樣道德、技術、法律等多方面的做功下，機器人的自主意識還會對人類帶來危險嗎？嚴謹如Hod Lipson也只是回答——沒那么簡單。

“應該說任何這樣的問題都沒有一個簡單的答案，但是我們必須走上這樣一個歷程，并且一步一步的往前走，我們現在要公開討論它應該可以做些什么，不可以做些什么，要不斷地進行研究。”

對技術的擔憂，就如同初次觸摸火種的驚懼，永恒地懸在人類心頭。今天絕大多數人提到AI，已經沒有了初見深藍和阿爾法狗的恐懼，開始重點關注其如何為經濟釋放能量。

從這個角度看，智能機器人的“黃金時代”還沒能到來，它正如所有“前輩們”一樣，經歷著幻想、質疑、混沌。所以，在這個技術尚且十分初級的階段，來探討其覺醒后是善是惡，似乎是一件很形而上的事情，但關乎我們每個人的未來，也孕育在這樣與技術進步相勾連的思索與拷問之間。

（編輯/高緯時）