ChatGPT，不只是機器

江寧

這段時間，關于ChatGPT的話題很熱。這款由美國人工智能研究實驗室推出的“聊天機器人”，上線僅兩個月注冊用戶就已破億，成為史上用戶增長最快的應用。

ChatGPT突然爆紅自有其道理，它似乎上知天文、下知地理，在文本生產、數據分析、代碼編寫、圖像生成等多模態話語領域均有驚人表現——美國北密歇根大學教授發現，獲得全班最高分的論文是用ChatGPT寫的；谷歌面試官發現，ChatGPT能通過年薪18萬美元的工程師招聘考試；以色列總統公開發表了ChatGPT參與撰寫的演講；在ChatGPT續寫的《紅樓夢》后40回中，黛玉和寶玉愛情終得圓滿；更吊詭的是，在回答中美是否應擊落進入各自領空的飛行器時，ChatGPT居然給出截然不同的答案……

這些軟科幻色彩濃郁的“段子”正在實實在在地發生著，又一次引發人們對人工智能發展和人類社會變革的思考和討論。

站在人類科技革命的浩瀚進程中觀察，任何變革性的、里程碑式的科技創新都是歷史潮流中的一朵浪花。立足彼時，每個新鮮事物都代表著未來；今時回望，它們又都成了逝去的歷史——16、17世紀的科學革命標志著人類知識增長的重大轉折。18世紀出現了蒸汽機等重大發明，成就了第一次工業革命，開啟了人類社會現代化歷程。19世紀，科學技術突飛猛進，催生了由機械化轉向電氣化的第二次工業革命。20世紀前期，量子論、相對論的誕生形成了第二次科學革命，繼而發生了信息科學、生命科學變革，基于新科學知識的重大技術突破層出不窮，引發了以航空、電子技術、核能、航天、計算機、互聯網等為里程碑的技術革命。進入21世紀以來，全球科技創新進入空前密集活躍的時期，新一輪科技革命和產業變革正在重構全球創新版圖、重塑全球經濟結構。這當中，人工智能是引領這一輪科技革命和產業變革的戰略性技術，具有溢出帶動性很強的“頭雁”效應。

半個多世紀前，“圖靈測試”首次界定了人工智能——如果一臺機器能夠與人類展開對話而不被辨別出其機器身份，那么這臺機器就是智能的。按照學界的劃分，人類目前正處于弱人工智能向強人工智能邁進的重要階段。強人工智能呈現的深度學習、跨界融合、人機協同、群智開放、自主操控等新特征，必然對經濟發展、社會進步、國際政治經濟格局等方面產生重大而深遠的影響。

人工智能的誕生自帶悖論：一方面，人工智能可以幫助人類突破自身局限，使人類從眾多事務中解放出來；另一方面，原本發明出來服務人類的人工智能卻有可能反客為主，甚至傷害人類。近年來，人工智能迅猛發展，也在實踐層面演繹著這種悖論。信息捕捉和數據分析帶來的國家安全風險，算法壟斷帶來的不正當競爭和權益侵害，深度合成技術帶來的虛假內容和輿論操控，均已在現實中發生。而ChatGPT對中國用戶的應用限制，以及在回答中美關系問題時給出自帶美國立場的答案，也不能不讓人將其同美國“脫鉤斷鏈”、“政治雙標”、壟斷話語權等議題聯系起來。

潮流來了，跟不上就會落后，就會被淘汰。我們能夠做的和應該做的就是要搶抓機遇，讓科技進步惠及更多國家和人民。同時也要看到，科技是發展的利器，也可能成為風險的源頭。要前瞻研判科技發展帶來的規則沖突、社會風險、倫理挑戰，完善相關法律法規、倫理審查規則及監管框架。從《弗蘭克斯坦》中失控的科技怪物，到《鄰家特工》中恐怖分子持有的能毀滅石油的藥水，再到正在熱映的《流浪地球2》中一次次制造滅亡危機的MOSS，對“科技作惡”的警惕已成為文藝生產特別是科幻作品的重要主題。MOSS所代表的，正是人工智能發展的下一階段——超級理性并且具有自我意識的人工智能。這類的內容詮釋，一次次提醒著人們，科技向善是人類社會務須秉持的主流價值和發展底線。

脫離了向善的軌道，科技成果越先進，相應危害就越大。面對電影里MOSS的作惡，人們很容易想到物理學家霍金生前的警告：人類需要控制以人工智能為代表的新興科技，以防止它們在未來可能對人類生存帶來的毀滅性威脅。不能跨越人類社會法律、道德、倫理、制度的邊界，不能跨越全人類共同價值的邊界，是人工智能發展的一根紅線。就如《流浪地球2》中所言，“沒有人類的文明，毫無意義”。

引導人工智能向善發展已成為全球科技治理的重要課題。人工智能必須遵守科技倫理和價值準則，必須增進人類福祉、尊重生命權利、公平公正、合理控制風險，必須置于多方參與、協同共治的治理體制機制之下，從而塑造人工智能向善的文化理念和保障機制。作為一個負責任大國，中國也必然會緊緊圍繞增進人類福祉這個一切科技發展的終極目標，把造福人類作為科技創新的最強大動力，從理念倡導、技術支持、機制構建、全球治理等多個維度，推動科技創新沿著向善的軌道在軌運行、行穩致遠。

當前，世界正經歷百年未有之大變局，新一輪科技革命和產業變革深入發展，國際力量對比深刻調整。歷史經驗表明，科技革命總是能夠深刻改變世界發展格局，一些國家抓住科技革命的難得機遇，實現了經濟實力、科技實力、國防實力迅速增強，綜合國力快速提升。面對具有多學科綜合、高度復雜特征的人工智能，我們必須以關鍵核心技術為主攻方向，夯實新一代人工智能發展的基礎，支持科學家勇闖人工智能科技前沿的“無人區”，努力在人工智能發展方向和理論、方法、工具、系統等方面取得變革性、顛覆性突破，確保我國在人工智能這個重要領域的理論研究走在前面、關鍵核心技術占領制高點。

回到ChatGPT。人們驚艷于ChatGPT的“能說會道”，但ChatGPT們是否有一顆“科技向善”的芯，才是人們關心的根本問題。