AI需要被限制嗎？

陳冰

在史蒂文·斯皮爾伯格導演的電影《人工智能》中，一對因車禍痛失愛子的夫妻收養了人工智能“大衛”。在被人類養育的過程中，大衛漸漸產生了“我到底是一個機器，還是一個人”的困惑。

這背后隱含了一個深刻的哲學問題——機器能夠思考嗎？

隨著AI的快速發展，許多人類自以為機器無法觸達的領域正在被機器攻破，以至于國內知名的軟件人發出了這樣的感慨——人不知疲倦地重復勞動，讓自己變成機器；而機器不斷地學習提升智能，讓自己變成人……

對于人工智能的發展，社會各界的觀點目前可大致分為樂觀論、悲觀論和泡沫論三類。支持“泡沫論”的華裔科學家、斯坦福大學教授李飛飛曾說，不要高估現在人工智能的發展水平，從物理學角度看人工智能，它目前還處于前伽利略階段。

不管AI目前處于何種階段，其狂飆突進的技術演進，引發了人們深深的擔憂：它催生的是一個更便捷、更快速、徹底解放勞動力的時代？還是一個信息垃圾滔天，人類注意力迅速耗竭的時代？

何為生成式人工智能？

目前，生成式人工智能還沒有統一的定義，一般可以理解為一種能夠根據提示生成文本、圖像或其他媒體信息的人工智能系統。

“這個技術不是像魔法一樣憑空出現的，而是有著悠久的歷史淵源。”浙江大學公共管理學院信息資源管理系研究員蔣卓人指出，在生成式人工智能90多年的發展歷程中，不乏人類智慧閃耀的時刻。

1932年，法國工程師Georges Artsrouni創造了裝置“mechanical brain”（機器大腦）。機器大腦通過查詢多功能詞典完成翻譯，輸入、輸出都是一條紙帶。蔣卓人認為，雖然它和今天的機器翻譯不同，但它完全符合今天對生成式人工智能的定義，即人類輸入一段內容，機器產生一段新的內容。

1956年的夏天，美國達特茅斯學院一群志同道合的學者驅車赴會，暢談如何利用剛剛問世不久的計算機來實現人類智能的問題。在會議籌備期間，麥卡錫建議學界以后就用“人工智能”一詞來標識這個新興的學術領域，與會者則附議。

20世紀中葉，麻省理工學院創造了最早的生成式人工智能之一伊莉莎，計算機科學家朱迪亞·珀爾引入了貝葉斯網絡因果分析概念，人工智能科學家楊立昆等人展示了如何利用卷積神經網絡來識別圖像……

2006年，李飛飛著手構建數據庫ImageNet。該數據庫中有超過1400萬張手工標注的圖片，包含超過2萬個類別。正是有了這樣一個龐大數據庫的支撐，深度學習才能得以興起。

2022年ChatGPT發布后，成為有史以來用戶增長最快的應用。

“AI奠基人”陷入AI恐慌

在復旦大學哲學學院教授徐英瑾看來，生成式人工智能的本質并不困難。

生成式人工智能系統訓練方式不得不把“常人”的意見加以建制化與機械化，由此使得社會意識形態的板結現象變得更為嚴重。換言之，從機器的視角看，一個正確的意見就是被大多數人所認可的意見，因此，少數“異類”提出的“離經叛道”之說在技術上就會被過濾掉。

“這需要我們高度警惕。”徐英瑾強調。

從時間樣態上看，“常人”的天然時間標簽是“過去”，而“自由”的天然標簽則是“未來”，但任何的深度學習機制都必然帶有“過去”的時間標簽。因為大量的數據收集、喂入與訓練都會消耗大量的時間，并由于這種消耗所造成的時間差而必然與“當下”失之交臂，更不用說去擁抱未來了。

作為與楊立昆、約書亞·本吉奧并稱為人工智能領域三位奠基人之一的杰弗里·辛頓也表達了類似的擔憂。5月1日，這位75歲的圖靈獎得主突然宣布從谷歌離職。他在社交平臺發文稱，他離開谷歌是為了可以公開地談論人工智能的危險。他表示，對自己的畢生工作感到非常后悔。

辛頓說：“相比大模型，人類在學習速度上并無優勢。AI所制造的‘幻覺并不是缺陷，而是特性，編造也是人類記憶的一個特點，這些模型正在做類似于人類的事情，它們現在已經非常接近人類了，將來會比我們聰明得多，我們將如何生存？”

新智能面臨新挑戰

面對生成式人工智能帶來的挑戰，世界各國都曾出現過“AI威脅論”。

馬斯克就是其中最為有名的一員。今年3月，一份名為《暫停大型人工智能研究》的公開信在未來生命研究所官網上發布。緊接著，5月初，AI領域知名投資人伊恩·霍加斯在外媒專欄中發表了一篇名為《我們必須放慢通往人工智能的速度》的文章，警告AI公司的研究存在“一些潛在的風險”。

霍加斯在文中指出，目前AI研究已經發展到“大模型時代”，若是繼續不加管控，讓AI按照預定軌跡發展下去的話可能會對地球環境、人類生存、公民身心健康等方面造成威脅。

復旦大學國家智能評價與治理實驗基地副主任、大數據研究院教授趙星指出：“科技界曾將人工智能的應用比作煉金術，人們將數據一股腦往模型里面扔，至于能否煉出有價值的東西，煉出的是什么，卻沒有明確的預期。”很明顯，在技術層面上，生成式人工智能存在內生的不確定性。

面對生成式人工智能這個新對手，趙星認為不能沿用傳統治理“被動回應外在威脅”的方法。

“我們應當在年輕人的成長過程中，讓他們學會如何與人工智能良好共處與規避‘信息繭房，以及如何去做一個智能社會中的‘好人。”趙星說。

內生安全治理模型的原理，是基于群體智能將個體“未知的未知”轉化為群體“已知的未知”，從而進一步將其轉化為“已知的已知”。

“初步結果顯示，雖然現階段的生成式人工智能遠沒到能勝任學術評價這樣的嚴肅評價工作的程度，但生成式人工智能表現出的‘跨學科評價能力和‘涌現推斷預測潛力值得我們高度關注。”趙星表示。

（摘自《新民周刊》）