打開人工智能的“黑箱”從ChatGPT走紅說起

王大鵬

如今我們進入了一個智能時代，而人工智能也以這樣或者那樣的方式在影響著我們的生活，雖然有時候我們并未察覺，但是不可否認的是，人工智能的各種應用就發生在我們身邊。與此同時，有關人工智能的各種話題也日益成為街頭巷尾熱議的一個領域，從之前引發關注的AI作畫到最近爆火的ChatGPT，這背后都是人工智能的一種應用形式。

卡爾·薩根有言，“我們生活在一個完全依賴科學和技術的社會中，然而幾乎沒有人了解這些科學和技術”。應該說人工智能就是這樣一個典型的例子。雖然我們每天可能都在接觸各種人工智能的應用，但是似乎沒有哪一個人完全了解這背后的邏輯和知識架構，似乎人工智能背后仍然是一個“黑箱”，有待于我們去深入了解和研究。當然，不懂人工智能并不會妨礙我們應用人工智能，因為在當前時代，任何一個人都不可能掌握所有領域的知識，甚至是某一個具體子領域的知識，這也是專業分工使然，同時也在一定程度上表明我們還是需要有專家這個群體的（這是另外一個值得特別討論的話題）。當然這其中還有一個問題值得辨析，那就是我們普通人是否有意愿去了解人工智能以及是否有途徑和渠道讓我們去了解人工智能。

近年來一系列新的概念層出不窮，從基礎研究領域的暗物質、暗能量、黑洞到科技應用方面的量子計算、大數據、云計算、區塊鏈、元宇宙，應該說這一系列科技詞匯的背后都有著大量的基礎科學研究成果發揮著支撐作用，如果我們只是知其然，而不知其所以然，這便可能導致一些“出其不意”的后果，一方面我們對此會持有一種“不明覺厲”的認知，因為“任何足夠先進的科技，都與魔法無異”。當然，這里可以適當拓展一下，那就是如果人們不理解這些科技的話，就會感覺它更像是某種魔法，因為“脫離了知識背景的技術離巫術本來就不遠”。因為對于我們普通人來說，我們更傾向于接受某種科技的成果或者產品，而對這些成果是如何產生的不太感興趣，“一個人不必知道平底煎鍋的內涂層怎么會有一種不粘的屬性，對他而言只需擁有一個天真的信念：如果他付了錢，某個工廠里一位穿白大褂的巫師給這個器皿施加的魔法就會靈驗”，其實這也是我們需要做科普的一個原因。基于上述方面的結果就會導出第二方面的后果，那就是某些別有用心的人就會把這些高科技概念宣傳得神乎其神，同時用來欺騙公眾，謀取不法利益。

就此而論，我們就需要加強科普工作，讓公眾了解這些高科技概念背后的科學內涵，一方面是為了更好地提高公眾的科學素養，另外一方面，從功利主義和短期主義的角度來說，也有助于提高自我防范意識。以最近爆火的ChatGPT為例，在業界熱議它將會給商業模式等帶來哪些沖擊和挑戰的同時，我們已經注意到有人開始對它打起了歪念頭，比如前幾天就出現了ChatGPT撰寫的杭州將取消限行的假消息，這當然還涉及另外一個話題，那就是人們只關注自己希望關注的消息，那其實這也會給一些人提供了假借各種高科技概念鉆空子的機會。

曾經有一句很戲謔的話，“人工智能有多智能就有多人工”，雖然有消息曾顯示ChatGPT可能已經通過了圖靈測試，但是我們還要注意到，無論是ChatGPT，還是其他的人工智能應用，都是通過對一些數據的輸入而對程序進行預訓練，然后不斷修正完善的結果，因而人工智能在某種意義上來說與人的本身還有很大的差異。人類可以根據知識的輸入而產生出新的知識，而人工智能距離這個目標還有些距離。奶牛吃進去的是草，擠出來的是奶，但是人工智能在一定程度上可以說是你給它投喂的東西決定了它的產出，這其中涉及一個問題，如果用計算機科學的專業術語來說就是，“廢料進，廢品出”（garbage in，garbage out），因而訓練數據的不透明性也是一個值得關注的問題。

而從科技向善的角度來說，人工智能更應該把向善作為更高的追求。一方面要避免人工智能的應用給人類帶來危害性的后果，另外一方面也要注意到科技發展所帶來的數字化社會給公眾生活帶來的沖擊和挑戰，同時更要關注公平與普惠的問題，彌合技術鴻溝以及數字鴻溝。

◎ 來源|光明網