生成式人工智能應(yīng)用拓展加速提前謀劃應(yīng)對(duì)四大潛在問題

張立藝　涂菲菲　張振翼　單志廣

近期隨著ChatGPT、Midjourney等一批應(yīng)用的推出，人工智能技術(shù)的通用性得到了大幅提升，其主要功能也從內(nèi)容判定向內(nèi)容生成拓展，潛在應(yīng)用領(lǐng)域得到大幅拓展。目前生成式人工智能普遍被認(rèn)為是可能引發(fā)顛覆式變革的重大技術(shù)，并正在加速向經(jīng)濟(jì)社會(huì)各個(gè)領(lǐng)域廣泛滲透，這一技術(shù)在釋放巨大引領(lǐng)潛力的同時(shí)，還很可能由于“破壞式創(chuàng)新”效應(yīng)產(chǎn)生巨大社會(huì)成本，目前看主要潛藏“四大沖擊”，亟待提前進(jìn)行謀劃建議。

一、失業(yè)沖擊：就業(yè)結(jié)構(gòu)調(diào)整會(huì)引發(fā)較高就業(yè)摩擦成本

生成式人工智能有望大幅提升大量程式化工作的工作效率，必然在眾多領(lǐng)域形成擠出效應(yīng)。OpenAI公司和賓夕法尼亞大學(xué)的相關(guān)研究顯示，從美國(guó)的勞動(dòng)力市場(chǎng)看，約80%的工作崗位，其至少10%的工作任務(wù)會(huì)受到生成式人工智能的影響；同時(shí)，有約19%的崗位，其工作任務(wù)受影響的比例超過50%，這些職業(yè)主要包括報(bào)稅員、網(wǎng)頁設(shè)計(jì)師和記者等。此外，高盛對(duì)美國(guó)和歐洲情況的分析顯示，大約有三分之二的工作會(huì)受到生成式人工智能的影響，受影響的職業(yè)中有25%到50%的工作可以被替代。其中，辦公室和行政工作受到的影響比例最大，約有46%的工作內(nèi)容可以被替代，其次是法律工作，為44%。盡管目前我國(guó)就業(yè)結(jié)構(gòu)與美歐尚存在較大差距，但預(yù)計(jì)受到影響的就業(yè)人口也將達(dá)到數(shù)千萬。雖然生成式人工智能也將帶來大量新的就業(yè)崗位，但是一旦這一技術(shù)普及，大的就業(yè)結(jié)構(gòu)調(diào)整就很可能快速出現(xiàn)，這中間將產(chǎn)生巨大就業(yè)摩擦成本。

二、公平?jīng)_擊：智能鴻溝形成將增加社會(huì)不平等

一般的鴻溝理論將鴻溝劃分為接入溝、使用溝和效果溝三個(gè)層次，智能技術(shù)的全面普及可能形成相應(yīng)的智能鴻溝，且其情況很可能會(huì)比數(shù)字鴻溝更為嚴(yán)重。從接入角度看，由于應(yīng)用生成式人工智能必然首先需要接入數(shù)字世界，因此在這一層次上，智能領(lǐng)域的鴻溝只會(huì)比數(shù)字領(lǐng)域更加嚴(yán)重。從使用角度看，生成式人工智能的使用也必然是疊加在現(xiàn)有數(shù)字產(chǎn)品的基礎(chǔ)之上，預(yù)計(jì)使用難度不會(huì)小于現(xiàn)有數(shù)字產(chǎn)品，因此，智能領(lǐng)域在這方面鴻溝的跨度預(yù)計(jì)至少與數(shù)字領(lǐng)域接近。從效果角度看，由于生成式人工智能的技術(shù)潛力比傳統(tǒng)數(shù)字技術(shù)都更強(qiáng)，產(chǎn)生的效率增幅很可能更高，且迭代速度更快，因此是否掌握這一技術(shù)，乃至掌握這一技術(shù)的先后都有可能帶來巨大的鴻溝差距。綜上來看，生成式人工智能的發(fā)展?jié)摿υ酱螅l(fā)展速度越快，可能形成的智能鴻溝就越大，就越有可能造成較大的社會(huì)不平等。

三、導(dǎo)向沖擊：意識(shí)形態(tài)安全恐面臨前所未有的挑戰(zhàn)

生成式人工智能的核心功能是批量的生產(chǎn)內(nèi)容，而其學(xué)習(xí)的對(duì)象則是大范圍的數(shù)字化語料，這就產(chǎn)生了兩個(gè)方面的巨大挑戰(zhàn)。一方面，生成式人工智能需要盡可能大的語料庫進(jìn)行學(xué)習(xí)，而當(dāng)前全球話語語料領(lǐng)域已經(jīng)成為一個(gè)巨大的意識(shí)形態(tài)交鋒場(chǎng)所。大量相互沖突難以調(diào)和的意識(shí)形態(tài)并存，加之生成式人工智能的內(nèi)容生成過程具有不可解釋、不透明性等黑箱操作特點(diǎn)，其輸出內(nèi)容所帶有的意識(shí)形態(tài)偏好具有極強(qiáng)的隱蔽性，導(dǎo)致生成的內(nèi)容在意識(shí)形態(tài)上存在較大的不確定性。另一方面，生成式人工智能自身又可以批量化生產(chǎn)內(nèi)容，如果這一技術(shù)得到廣泛普及，那么其自身帶有的意識(shí)形態(tài)特點(diǎn)可能得到快速傳播，被批量應(yīng)用，成為意識(shí)形態(tài)傳播最重要的新平臺(tái)。這種平臺(tái)型的巨大作用和其意識(shí)形態(tài)的不確定性會(huì)帶來新的巨大挑戰(zhàn)。

四、社交沖擊：虛擬化交互易導(dǎo)致社會(huì)性問題

現(xiàn)有的生成式人工智能具有很強(qiáng)的擬人功能，可以虛擬性地與人開展對(duì)話等社交活動(dòng)，但一旦泛化這一功能應(yīng)用，可能形成巨大影響。一方面，虛擬性社交正在快速發(fā)展。據(jù)《財(cái)富》雜志報(bào)道，一位名叫Caryn的女網(wǎng)紅通過生成式人工智能，將自己打造成虛擬女友產(chǎn)品Caryn.ai，在測(cè)試期間，Caryn.ai陪用戶每聊一分鐘收取1美元，僅用了一周的時(shí)間便賺了71610美元（約50萬元）。微軟小冰也曾推出類似虛擬女友的服務(wù)，這種基于個(gè)人需求打造的虛擬社交對(duì)相當(dāng)一部分人群來說很可能比實(shí)際真人間的社交更有吸引力。另一方面，人際交往是人與人的關(guān)系和社會(huì)融合的條件，生成式人工智能的普及可能讓人類沉迷于定制化的虛擬社交，出現(xiàn)逃避真實(shí)社交的傾向，進(jìn)一步強(qiáng)化人的孤獨(dú)感，嚴(yán)重的可能影響到以人際交往為基礎(chǔ)的人類文明的各種組織形式，如婚姻、家庭、民主政治等等。

五、政策建議

第一，預(yù)備“政策包”，積極應(yīng)對(duì)生成式人工智能可能帶來的就業(yè)結(jié)構(gòu)調(diào)整。一是做好新技術(shù)的推廣宣傳。以數(shù)字人、自生成視頻等群眾喜聞樂見的新媒體表達(dá)方式，加大力度宣傳推廣生成式人工智能新技術(shù)，鼓勵(lì)人們接受新思想，掌握新技能，推動(dòng)群眾快速適應(yīng)新環(huán)境，積極應(yīng)對(duì)人工智能對(duì)勞動(dòng)需求的影響和變化。二是提供再就業(yè)教育與培訓(xùn)機(jī)會(huì)。根據(jù)就業(yè)結(jié)構(gòu)形勢(shì)及時(shí)調(diào)整稅收政策，加大財(cái)政支持，多渠道、多平臺(tái)提供技能培訓(xùn)以適應(yīng)新的就業(yè)市場(chǎng)，減少失業(yè)并幫助失業(yè)人員重新就業(yè)。三是持續(xù)建立健全社會(huì)保障體系。加快完善失業(yè)保險(xiǎn)制度，強(qiáng)化兜底幫扶，保障勞動(dòng)者基本生活。

第二，端好“公平秤”，統(tǒng)籌施策彌合智能鴻溝，共享數(shù)智紅利。一是鼓勵(lì)生成式人工智能模型開發(fā)機(jī)構(gòu)通過代碼開源、開放接口等方式加快技術(shù)擴(kuò)散速度，盡快降低技術(shù)使用難度。二是加快推動(dòng)新型基礎(chǔ)設(shè)施建設(shè)步伐，進(jìn)一步提高5G、智算中心等基礎(chǔ)設(shè)施服務(wù)水平，降低生成式人工智能接入成本。三是提高網(wǎng)絡(luò)普惠使用能力，推動(dòng)各級(jí)中小學(xué)校、高等院校以及圖書館、博物館、美術(shù)館等公共服務(wù)場(chǎng)所加大力度提供接入接口，著力解決數(shù)字資源不公問題。

第三，系好“安全帶”，多管齊下保障意識(shí)形態(tài)安全可控。一是盡快完善生成式人工智能意識(shí)形態(tài)領(lǐng)域的制度建設(shè)，從源頭上防止“技術(shù)脫軌”。健全研發(fā)、審核、應(yīng)用與安全等多維標(biāo)準(zhǔn)規(guī)范體系，建立可解釋、可信賴的人工智能生成內(nèi)容技術(shù)框架、標(biāo)準(zhǔn)體系，完善生成式人工智能技術(shù)創(chuàng)新生態(tài)。二是進(jìn)一步強(qiáng)化行業(yè)自治體系建設(shè)。對(duì)于從事人工智能前沿科技活動(dòng)的單位和行業(yè)，加快推動(dòng)設(shè)立科技倫理（審查）委員會(huì)，以確保其在發(fā)生大規(guī)模涌現(xiàn)時(shí)，符合法律道德和倫理規(guī)則。加強(qiáng)人工智能治理國(guó)際合作，探索人工智能系統(tǒng)協(xié)助監(jiān)督其他人工智能系統(tǒng)的新途徑。三是建議持續(xù)開展生成式人工智能意識(shí)形態(tài)風(fēng)險(xiǎn)測(cè)評(píng)與壓力測(cè)試，盡快建立生成式人工智能意識(shí)形態(tài)風(fēng)險(xiǎn)監(jiān)測(cè)體系。四是強(qiáng)化人工智能的風(fēng)險(xiǎn)意識(shí)教育，加強(qiáng)對(duì)研發(fā)企業(yè)、人員的人工智能合規(guī)培訓(xùn)，通過制度安排、服務(wù)規(guī)范、媒體引導(dǎo)和產(chǎn)品內(nèi)嵌提示等方式提高用戶防范意識(shí)，減少潛在損失。

第四，設(shè)置“警示語”，以提示的方式防止生成式人工智能過度擬人化。一是建議從立法層面制定生成式人工智能擬人化的相關(guān)制度體系，預(yù)防生成式人工智能在應(yīng)用過程中引發(fā)的錯(cuò)覺，進(jìn)而操縱人的心理。在對(duì)話、文本、圖像、視頻等生成式人工智能素材領(lǐng)域，各平臺(tái)均需義務(wù)性標(biāo)明輸出內(nèi)容為生成式人工智能制作的行為。二是建議在全球率先制作生成式人工智能擬人化提示語與提示圖標(biāo)，并推動(dòng)提示圖標(biāo)成為全球共用標(biāo)識(shí)，以警醒提醒的方式對(duì)生成式人工智能對(duì)話服務(wù)加以限制，防止使用者陷入生成式人工智能擬人化習(xí)性誤區(qū)，對(duì)其產(chǎn)生誤解、沉迷甚至執(zhí)著。

（作者單位：國(guó)家信息中心）