人工智能詞典里不應有“敵人”

瞬雨

近期，人工智能領域迭代迅速，技術取得了一系列突破。

首先是谷歌AI團隊DeepMind所研究的AlphaFold算法攻克了困擾生物學家半個世紀的蛋白折疊問題。隨后，由著名機器人公司波士頓動力研制的機械動力狗開始在切爾諾貝利勘察輻射地區。這兩個進展表明，人工智能已經具備了承擔復雜科研任務和高風險工作的能力。

更激動人心的一步，是Deep?Mind正式宣布第四代“阿爾法狗”——MuZero的誕生。第一代“阿爾法狗”尚需人類的棋譜數據來完成學習過程；第二代只需要告知游戲規則，就能戰勝人類旗手和第一代；第三代已經可以精通各種棋類；到了四代，就是最新的MuZero，已經不需要事先教會規則，從一開始就能在與自身的對弈中學習，換句話講，就是“無師自通”。這是人工智能里程碑式的成果，表明人類已經接近用通用算法來描繪“智能”本身。

同樣在2020年末，由潘建偉團隊與中科院上海微系統所、國家并行計算機工程技術研究中心合作構建的量子計算原型機“九章”。這是算力領域的重大突破，算法加上算力，人工智能的未來已不可限量。

這些成果對人類來說意味著什么，從樂觀的方面看，意味著現有勞動生產率和生產力不僅可以保持當前增長勢頭并持續提高，建筑、醫療、制造等等傳統行業都有望進一步形成指數性增長。這就是互聯網科技界常說的“奇點”后時代。即使是很多人擔心的生育率風險，也很可能不再制約經濟發展和養老質量。在亞當·斯密的時代，人口代表著國力。到了短缺經濟時代，生產對資源的依賴重，人口在一定意義上成了負擔。伴隨著科技進步，創造型經濟成為主導，人口作為具備消費能力和潛力的存在又成了紅利。而人工智能帶來的生產力爆炸，有可能從各方面解決現有的短缺問題，擺脫人口與資源的矛盾關系，可以預見，人類距離產品極大豐富，由人工智能去完成一切生產任務、解決一切物質和技術問題、提供一切服務的日子近了。

樂觀還來自于我們對人工智能的認識越發來自于現實而非想象。人工智能沒有主體，也沒有欲望，歸根到底始終還是一臺機器。很多以往科幻作品中對這個問題的思考，“機器人會統治人類”的預言，都缺省地設定了主體性，讓機器跟人在一段時間的相處之后，突然而自然地產生了情感、目的和主體性。隨著對人工智能認識的深入，我們發現，無意識不是意識，主體性也不是相處來的。人類工具的能力超越人類自身，從來都是人類進步所依賴和伴生的必然，人工智能也不例外。人類的生物學局限毋庸置疑，蒸汽機、內燃機、汽車、輪船、飛機對人類自身能力的超越已經是碾壓性的。人工智能只是在此基礎上的進一步提升而已。

但樂觀也必須謹慎。無論是MuZero還是“九章”，人工智能歸根到底就是算法加算力。它只有“我能”，而沒有“我要”。有人說，MuZe?ro已經超越算法，它是自己尋找的算法。那它怎么尋找算法？方法論還是設計者給出的，說到底還是算法，只不過是更高級的算法。人工智能的第一推動，也就是目的，必須由人給它。即使某一天出現了人工智能殺人，那也是背后的某個人叫它去做的，它只是個工具。

由此我們不難發現，人工智能具備強有力的潛質，有能力成為比原子彈更具殺傷力和威脅的武器。今天在棋盤上給人工智能設定對手，它已經有能力戰勝人類，達到無敵境界。那么同理可以設想，當人工智能發展到極致之后，只要給它指定一個“敵人”，它就可能動用一切手段去打敗甚至消滅對方。它對工具和手段的利用能力會是無敵的。所以人類接下來面臨的問題是，如何不要成為人工智能的敵人。因為人工智能的背后永遠是人，換句話說，其實就是如何才能不成為他人的敵人。

“己所不欲，勿施于人”，中國傳統文化已經給出了答案：要避免成為他人的敵人，首先自己就不要以他人為敵。只有把“敵人”這個詞從人類的詞典中抹去，作為工具的人工智能才不會把人類當成敵人。永遠不要給人工智能創造一個敵人，因為在它面前，“敵人”與棋盤對面坐著的對手沒有任何區別。▲

（作者是技術經濟觀察家）

國際論壇版文章除社評外，均不代表本報觀點。歡迎讀者參與討論。電子信箱：taolun@globaltimes.com.cn