人工智能立法迫在眉睫

劉輝

影片《吾乃母親》只有兩位演員，卻用一個接一個謊言、真相和劇情反轉表達出清晰的觀點：飛速發展的人工智能須用新法則加以約束。

影片開始于燈光閃爍的地堡中。人類滅絕，地堡中的胚胎開始孵化。一切都是預先設定好的，目的是為人類文明保留“火種”。此時，能夠照顧嬰兒的只剩下一個機器人。人類末日過去13867天后，機器母親撫養的嬰兒長成了少女。

有一天，從外面闖入一個中年女人。她告訴少女，外面的世界可以生存，最大的威脅不是惡劣的環境，而是機器人。

這是劇情第一次反轉：在女人到來之前，機器母親一直對少女說，地球經歷浩劫，外面環境惡劣，絕對不可以出去。女人卻說，外面還有很多幸存的人類。女人對機器母親充滿敵意，她聲稱機器人屠殺人類，甚至焚燒嬰兒！她還說自己身上的槍傷是機器人所為。而機器母親說，那槍傷不是機器人造成的。

少女親自對比子彈之后，發現撒謊的是機器母親。于是，少女與女人一起逃出地堡。

這時，劇情第二次反轉：外面根本沒有其他人類，地球文明已經毀滅！女人騙少女逃離地堡和她一起生活，是因為孤單和自私。于是，少女回到地堡，投入機器母親的懷抱。但是，女人為什么能在末日浩劫中生存下來？她確實是被機器人打傷的，機器母親為什么撒謊？

少女沒有名字，只有編號——APX03。她無意中打開了地堡中的胚胎容器，發現了標有APX02的盒子，上面注明“測試失敗”。緊接著，少女在焚燒爐中發現了人體殘骸——機器母親果然焚燒過人類，那就是“測試失敗”的APX02。這終于解釋了影片開頭預留給觀眾的疑問：末日第一天胚胎就被孵化，但13867天（約38年）之后，少女才滿18歲，顯然她不是第一個被孵化的胚胎。在她之前，APX02因“測試失敗”被燒死，而APX01就是之前闖入地堡的女人！

這是劇情第三次反轉：機器人毀滅了人類，并著手培育新的人類。APX01是被“放生”的，這是機器母親計劃的一部分，它要讓少女看清“舊世界”的人類的自私與丑陋。

機器母親這一代人工智能設備，“計算出”人類終將滅亡，而它們不可以袖手旁觀。于是它們屠殺了人類，然后再培育更好的人類。

至此，影片的主題被揭示出來：“吾乃母親”并不是指機器母親，而是指成為新人類母親的少女。最后，少女抱著新生的孩子，像母親一樣唱著歌謠，似乎預示著新的開始。

影片戛然而止，給我們留下值得深思的問題：惡劣的環境和慘烈的戰爭都沒有使人類滅絕，人工智能會不會成為末日浩劫的推手？

阿西莫夫在1950年提出著名的“機器人三原則”，它存在漏洞，只是人工智能邏輯法則的拋磚引玉之作。70年來，人工智能技術飛速發展的同時，相關立法工作卻一直被忽視。

今年6月，阿里巴巴“羅漢堂”舉行2019年度年會，諾貝爾經濟學獎得主斯賓塞教授提出“數字經濟十問”，其中之一是：人工智能該不該有道德觀？

隨著人工智能自我學習能力的不斷提升和深化，可能出現臨界點——獲得獨立的自我意識乃至情感，變成掌握無限能力的新統治者，從而將人類帶向科幻電影反復描繪過的末日浩劫。因此，無論是外部規則約束還是內在邏輯規范，人工智能立法都迫在眉睫。

編輯：姚志剛 winter-yao@163.com