正視AI才能擁抱AI

何積豐

1950年，在人工智能啟蒙時期，艾倫·圖靈提出了著名的“圖靈測試”，給出了判斷機(jī)器是否具有“智能”的方法。受限于技術(shù)水平，當(dāng)時的人工智能僅限于小范圍實驗。

20世紀(jì)50年代至90年代中期，人工智能發(fā)展處于比較緩慢的階段，原因一是當(dāng)時算力基礎(chǔ)較差，二是整個過程依賴符號計算、計算規(guī)則而非數(shù)據(jù)。

第二個發(fā)展階段是從20世紀(jì)90年代至2015年前后，AI從實驗性向?qū)嵱眯赞D(zhuǎn)變，受限于算法瓶頸，無法直接進(jìn)行內(nèi)容生成。主要是以深度學(xué)習(xí)開始，建設(shè)小模型，每5至7個月要求算力提高一倍。

從2015年前后至今，人工智能進(jìn)入了快速發(fā)展階段。生成式大模型時代到來后，對算力要求是每1至2個月翻一番，算力基礎(chǔ)已落后于科技發(fā)展的需求。這個階段深度學(xué)習(xí)算法不斷迭代，人工智能生成內(nèi)容百花齊放，以AI為代表的革命，實際上是知識生產(chǎn)力的變革，作為知識革命，這在人類歷史上還沒有先例。

人工智能學(xué)習(xí)知識的速度是人類平均速度的1倍以上，人工智能檢索知識的時間是人類檢索時間的20%。預(yù)計2026年后，人類歷史上所有有價值的文字?jǐn)?shù)據(jù)，智能系統(tǒng)都可以自動消化。

人類創(chuàng)造了一種物種，比人類學(xué)習(xí)得快，比人類聰明，但我們有駕馭的能力嗎？這是人類第一次遇到這樣的問題。過去三次工業(yè)革命，所有的東西都是由人創(chuàng)造，人工智能在這方面有明顯差別。

據(jù)不完全統(tǒng)計，人工智能的行業(yè)采用率達(dá)到60%左右，與各行業(yè)的關(guān)系非常密切，可以說沒有一個行業(yè)與人工智能無關(guān)。好的技術(shù)出現(xiàn)后，我們往往會擔(dān)心安全問題。人工智能的安全隱患客觀上會產(chǎn)生哪些威脅？這里從兩個角度進(jìn)行分析：

一是大模型開啟了真正意義上的通用人工智能，人類如何去應(yīng)對一個比自己更強(qiáng)大的智能？當(dāng)人類創(chuàng)造出比自己更聰明的“物種”，是否有足夠能力去駕馭？這個問題現(xiàn)在并沒有明確的答案。有人擔(dān)心人工智能可能比核武器還危險，需要降低發(fā)展速度；也有人認(rèn)為人工智能推動人類進(jìn)步，應(yīng)該盡可能發(fā)揮其作用。

二是大模型的通用能力讓其能夠應(yīng)用到人類生產(chǎn)生活的各個場景中，可謂“無孔不入”，一旦AI出現(xiàn)安全問題，其影響將難以預(yù)估。

AI的三要素分別是數(shù)據(jù)、算力和算法。關(guān)于AI的安全隱患早已存在，大模型時代的隱私安全問題涉及三個維度：首先，訓(xùn)練過程會涉及大量用戶個人信息和數(shù)據(jù)；其次，使用過程會涉及很多用戶私密信息，這些信息沒有受到應(yīng)有的保護(hù)；第三，生成能力讓“隱私泄露”的方式變得多樣化，也讓隱私保護(hù)更加困難。

在提供大模型訓(xùn)練數(shù)據(jù)的過程中，雖可通過脫敏處理使數(shù)據(jù)更加抽象和類型化，但因為大模型可以進(jìn)行跨領(lǐng)域的交叉推理，所以依然能夠還原原始數(shù)據(jù)里的信息。

大模型階段使用過程需要通過互動進(jìn)行，系統(tǒng)會將交流數(shù)據(jù)和訓(xùn)練數(shù)據(jù)捆綁在一起，記錄互動過程中的對話用于下一步訓(xùn)練。除了在訓(xùn)練過程、使用過程中可能發(fā)生數(shù)據(jù)隱私泄露，生成式大模型依靠語料庫，還會按照“意志”對數(shù)據(jù)進(jìn)行修改，而為搜索引擎建立的數(shù)據(jù)保護(hù)策略對大模型也無法奏效。

2023年7月8日，2023世界人工智能大會會場

為了應(yīng)對安全隱患問題，需要對人工智能進(jìn)行對齊（alignment）。“對齊”是指系統(tǒng)的目標(biāo)和人類價值觀一致，使其符合設(shè)計者的利益和預(yù)期，不會產(chǎn)生意外的有害后果。

然而在實際操作中，做好“對齊”會遇到兩大類挑戰(zhàn)：

一是對齊的基礎(chǔ)——“人類價值觀”是多元且動態(tài)變化的，對齊需要標(biāo)桿，而全世界有很多不同的價值觀。人類的價值和判定系統(tǒng)本身就充滿偏見和矛盾，有非常多相互矛盾之處和沒有明確指出的潛在條件。這導(dǎo)致“對齊”成為一項令人眼花繚亂的跨學(xué)科研究，不僅考驗我們的技術(shù)，也在審視我們的文化。

二是大模型“有用性”與“無害性”兩個目標(biāo)存在沖突。“對齊”會發(fā)生另一個悖論。訓(xùn)練大模型價格高昂，例如一個幾十億規(guī)模的大模型，訓(xùn)練所需的電費(fèi)在100萬元左右。而要想訓(xùn)練出一個“不會犯錯”的大模型，那么“什么都不回答”，選擇“躺平”反而是最有可能實現(xiàn)安全性的——這就導(dǎo)致人們在大模型的可用性和安全性之間面臨艱難選擇。

目前，我們對大模型時代的安全問題依然“心里沒底”，在“黑暗叢林”中到處都能感受到安全威脅，但我們找不到安全威脅的源頭，往往只能通過打補(bǔ)丁的方法“就事論事”，找到對付眼前問題的答案，卻沒有系統(tǒng)的解決方案。

在人工智能不斷改變?nèi)祟惿鐣慕裉欤艘獙＞约旱膬?yōu)勢和專業(yè)領(lǐng)域，不斷提高自己的專業(yè)水平，思考如何把AI 應(yīng)用到自己的專業(yè)中，提高自己的產(chǎn)出效率。

AI正在重構(gòu)社會分工。主要體現(xiàn)在以下方面：

人工智能的應(yīng)用使得那些例行性的任務(wù)變得更加次要，一些工作將會由AI來完成。人們將專注于更高層次的規(guī)劃和分析工作。未來的職場將會更加重視發(fā)現(xiàn)和解決問題的能力、創(chuàng)造力，以及批判性思維，還有主動學(xué)習(xí)和獲得新技能的能力。客戶互動、文書寫作、代碼編寫、資料搜索與收集、數(shù)據(jù)分析研究等工作內(nèi)容可以由AI取代，節(jié)省大量人力成本。

AI帶來的價值增長，約75%集中在四個領(lǐng)域：客戶運(yùn)營、營銷和銷售、軟件工程、產(chǎn)品研發(fā)。

在客戶運(yùn)營方面，AI可改善客戶體驗并提升客服生產(chǎn)力。例如提供客戶自助服務(wù)、在初次交流時就提供解決方案、減少響應(yīng)時間、促進(jìn)銷量增加等。

在營銷和銷售方面，AI能夠提高個性化、內(nèi)容創(chuàng)建和銷售效率。包括高效的內(nèi)容創(chuàng)建、充分利用不同類型的數(shù)據(jù)、優(yōu)化搜索引擎、實現(xiàn)產(chǎn)品和搜索個性化。

在軟件工程方面，AI可以作為編碼助理加快開發(fā)人員的工作，將直接影響軟件工程支出的20%-45%。這一價值主要在于可減少部分工作時間，如生成初始代碼、代碼修正和重構(gòu)、根本原因分析以及生成新的系統(tǒng)設(shè)計等。每一次軟件革新都會孕育新一代超級平臺：從早期的windows操作系統(tǒng)，到智能手機(jī)的各種App Store；ChatGPT的誕生將產(chǎn)生一種新的社會工業(yè)性服務(wù)平臺，有望成為人人可使用的社會基礎(chǔ)設(shè)施。

在產(chǎn)品研發(fā)方面，AI可減少研發(fā)和設(shè)計時間，改進(jìn)產(chǎn)品模擬。包括提高產(chǎn)品研發(fā)的生產(chǎn)力、加速產(chǎn)品上市時間、優(yōu)化產(chǎn)品設(shè)計、改善產(chǎn)品質(zhì)量。下一步，生物制藥工程可能會大量使用AI促進(jìn)實驗，預(yù)計降低成本可達(dá)10%-15%。

AI與實體經(jīng)濟(jì)緊密相關(guān)，智能化發(fā)展中的應(yīng)用和創(chuàng)新主要體現(xiàn)在三方面：

一是數(shù)字孿生。由于成本、風(fēng)險等原因，我們無法對物理世界的規(guī)律在物理世界完成全部的相應(yīng)實驗。因此需要在虛擬世界建立數(shù)學(xué)模型，通過數(shù)學(xué)模型進(jìn)行實驗，觀察對應(yīng)結(jié)果和實際理想是否一致。在數(shù)字孿生方面有很多大模型技術(shù)在應(yīng)用，例如數(shù)據(jù)匯集、實時數(shù)據(jù)驅(qū)動、仿真模擬、數(shù)字工藝配置、打通數(shù)據(jù)脈絡(luò)、優(yōu)化制造流程等。

二是智慧工廠。高質(zhì)量發(fā)展的重要部分是新生產(chǎn)工藝、新生產(chǎn)方式。在智慧工廠，AI可以完成智能運(yùn)營、智能生產(chǎn)、物流管理、工藝優(yōu)化、庫存管理、質(zhì)量管理等工作。

三是工業(yè)互聯(lián)網(wǎng)。我國是5G大國，據(jù)統(tǒng)計，目前已建成超過330萬數(shù)字5G基站，為工業(yè)互聯(lián)網(wǎng)提供了很好的設(shè)施基礎(chǔ)。通過AI可以進(jìn)行海量數(shù)據(jù)處理、云邊端協(xié)同、分布式計算、網(wǎng)絡(luò)協(xié)同、知識復(fù)用、實現(xiàn)全面互聯(lián)等。

AI可對社會經(jīng)濟(jì)帶來正面影響。預(yù)估算，AI每年可為全球經(jīng)濟(jì)帶來2.6萬億-4.4萬億美元的增長，生產(chǎn)力可以提高0.1%-0.6%，相當(dāng)于每年貢獻(xiàn)一個英國的GDP。

AI也會對個人工作產(chǎn)生重要影響。例如，AI可以使60%-70%的工作實現(xiàn)自動化，對高學(xué)歷、高收入的知識工作者影響更大。在人工智能不斷改變?nèi)祟惿鐣慕裉欤艘獙＞约旱膬?yōu)勢和專業(yè)領(lǐng)域，不斷提高自己的專業(yè)水平，思考如何把AI應(yīng)用到自己的專業(yè)中，提高自己的產(chǎn)出效率。同時，不斷接收新信息、擁抱新變化，拓展自己的事業(yè)，接觸更多的人和行業(yè)。

在未來一段時間內(nèi)，AI主要研究方向可聚焦以下方面：一是解決軟件和硬件的融合問題；二是跨行業(yè)的多模態(tài)融合；三是提升使用便捷度。大模型受歡迎的原因就在于可以使用自然語言。在人機(jī)界面使用自然語言是極大的突破，當(dāng)界面越容易使用，使用者就越多，市場面也就更廣。

（作者系中國科學(xué)院院士、華科智谷人工智能研究院院長）