AI探索無止境，應用有禁區

馬麗霞

著名物理學家史蒂芬·霍金曾言，“創造人工智能可能是人類文明史上最偉大的事件，但也可能是最后一個。”人工智能的正向作用有目共睹，但它將使人類遭遇怎樣的倫理困境？人工智能是福是禍？

變革總是充滿爭議的。人類不斷造物的漫漫歷史中，每一項變革性技術的問世，總會引發人們一輪又一輪激烈爭論，爭論的焦點主要不是技術，而是由此可能帶來的未知風險和倫理困境。這是必要的，它反映了人對自身性質、地位、價值的嚴肅思考。

人工智能可能給人類社會帶來顛覆性的變革，它的發展必須有倫理的介入和匡正。但是，對于技術，過度期待不可行，深度憂慮亦不可取。技術本身無善惡，這把雙刃劍劍指何方取決于人類自身。人的大腦是一個通用的智能系統，可以舉一反三、融會貫通。與之相比，當前人工智能仍很“稚嫩”，能理解人類的情感文化，擁有智慧、情商，會推理、“算計”的強人工智能尚只存在于銀幕中的虛構世界里。如果因為前方可能存在危險，就停止向前探索的步伐，人類不可能擁有如此豐富多元的今天，也無法創造出更多可能性的明天。

但是，現代科技的不可逆性，也警示我們不能隨便拿人類的命運冒險。在人工智能的推進中要注入人文理性，堅持“科技以人為本”的基本原則，倫理學家、人類學家、哲學家等學術各界和社會公眾都要積極參與其中。而為了防止技術被某些利益團體利用或造成新的社會不公，除了強調科學家和科學共同體遵守道德義務外，政府的管控、法律的約束不能缺位。要讓技術的發展始終在一個社會開放的空間中進行，防止黑箱操作。

人類制造工具，而工具讓我們走得更遠。人工智能初顯的應用前景令人歡欣鼓舞。它的長遠化應用，將是全球新一輪產業革命的引爆點。無論是德國的工業4.0，美國的“再工業化”戰略，還是我國十九大報告部署的“推動互聯網、大數據、人工智能和實體經濟深度融合”，都反映出各國對人工智能的高度重視。畢竟，在這場新的技術革命中，誰搶占先機，誰就能獲得新一輪產業革命的主動權。

毫無疑問，人工智能越向前發展，人類面臨的倫理問題也會越尖銳。但是，技術應用有禁區，科學探索無止境。發展人工智能技術的同時應重視相關倫理問題的思考研究，但未雨綢繆的同時要避免過度敏感。播種善因、規避惡意，才是更加理性的作為。面對人工智能發展道路上接踵而來的問題、挑戰，我們要做的，就是努力把控好技術發展的方向，讓它造福人類、造福自然。▲

（作者是中國科學院自動化研究所智能感知與計算研究中心高級工程師）