人工智能何以不聽人話

馬陸亭

歲末年初，ChatGPT橫空出世，這是繼2016年AlphaGo戰(zhàn)勝人類頂級棋手后人工智能技術(shù)再次帶給世界的驚喜。與AlphaGo的觀摩效應(yīng)不同，ChatGPT能夠給使用者以沉浸式體驗(yàn)，這無疑增強(qiáng)了人們的參與感和娛樂感。科技正在改變世界，新一輪科技革命正在以人工智能為牽引性技術(shù)展開。

從概念內(nèi)涵看，人工智能是指被人設(shè)計(jì)出來的智能機(jī)器或新的智能體（Intelligent Agents），它能夠感知環(huán)境，思考并采取行動使成功機(jī)會最大化。人工智能技術(shù)會給人帶來許多便利，也將給未來帶來巨大的發(fā)展空間。

從前期實(shí)踐看，它主要沿著兩大學(xué)科路徑集聚發(fā)展要素：一是計(jì)算機(jī)學(xué)科——包括芯片、算法、大數(shù)據(jù)、數(shù)據(jù)標(biāo)識，典型例子即AlphaGo，在有明確邊界的場景機(jī)器已完勝；二是自動控制學(xué)科——涵蓋信號、識別、傳感、反饋系統(tǒng)，典型例子是智能汽車，但因其駕駛環(huán)境的復(fù)雜性目前仍處于實(shí)驗(yàn)階段。當(dāng)然，最終相關(guān)學(xué)科會走向融合，包括數(shù)學(xué)、哲學(xué)、腦科學(xué)、神經(jīng)學(xué)科等，使算法、數(shù)據(jù)、邏輯、控制、倫理緊密地結(jié)合在一起，形成關(guān)鍵算力，促進(jìn)智能體在邊界突破、多場景應(yīng)用中的思考能力不斷增強(qiáng)。

從發(fā)展階段看，在一個(gè)場景下的人工智能為弱人工智能。因此，邊界明確的智能應(yīng)用屬于弱人工智能，而突破邊界的應(yīng)用則需要得到強(qiáng)人工智能的支撐。世界才剛剛開啟人工智能的進(jìn)程，目前尚處于弱人工智能階段。

人工智能就是被用以超越人類的，所謂智能就是使機(jī)器具備像人類思維一樣的生成式學(xué)習(xí)能力。AlphaGo的邊界在棋盤內(nèi)，它依據(jù)海量棋譜和算法生成對抗網(wǎng)絡(luò)實(shí)現(xiàn)自動對弈，運(yùn)算速度大大超越人類。ChatGPT的數(shù)據(jù)邊界雖在不斷擴(kuò)展，但其數(shù)據(jù)搜尋、邏輯推理和歸納整理能力極強(qiáng)、速度極快。

當(dāng)然，人工智能從本質(zhì)上講仍是機(jī)器，底層是遵循二進(jìn)位制的與非門，算法由人設(shè)計(jì)，所以理論上講能夠可控。但是，確也存在著失控因素，分主客觀兩個(gè)方面：主觀因素可以通過制度規(guī)范和算法完善改進(jìn)，如科技倫理失范與智能片面信息推送等問題的解決；而那些由客觀原因造成的失控，則不易彌補(bǔ)，多與數(shù)據(jù)邊界突破有關(guān)。

其一，數(shù)據(jù)良莠不齊失控。火爆出圈的ChatGPT很直接地把這個(gè)問題帶出——它對有大數(shù)據(jù)支撐的通用問題回答得很有條理，而對于數(shù)據(jù)支撐不足的個(gè)性問題就一本正經(jīng)地編瞎話了。大數(shù)據(jù)的質(zhì)量是人工智能應(yīng)用的基礎(chǔ)，數(shù)據(jù)不足或不好會產(chǎn)生數(shù)據(jù)識別問題。ChatGPT不能辨真?zhèn)危率谷藱C(jī)對話過程產(chǎn)生海量貌似真實(shí)的虛假信息，由此導(dǎo)致的失控將形成對知識體系的挑戰(zhàn)。

其二，軟硬件損傷失控。任何機(jī)器都有壞的時(shí)候，人工智能作為工程產(chǎn)品有一個(gè)可靠性問題。例如：智能汽車面對著極其復(fù)雜的外部環(huán)境，數(shù)據(jù)邊界隨時(shí)會被打破，所以在實(shí)驗(yàn)室、特定地段或者軌道交通中易于實(shí)現(xiàn)，而在現(xiàn)實(shí)路況中很難得到實(shí)際應(yīng)用，即使整個(gè)系統(tǒng)萬無一失但只要出現(xiàn)機(jī)器故障也足以導(dǎo)致車毀人亡。

其三，系統(tǒng)關(guān)聯(lián)作用失控。單一算法當(dāng)然能夠可控，但復(fù)雜系統(tǒng)會產(chǎn)生設(shè)計(jì)者尚未認(rèn)識到的潛在聯(lián)系，即多個(gè)算法的交互作用。如果有一天，當(dāng)某些算法突然自發(fā)地產(chǎn)生了聯(lián)系，從而觸發(fā)了一些指令，那么機(jī)器人甚至某個(gè)系統(tǒng)不聽人話的事情就會真正發(fā)生。人當(dāng)然能夠解決這些問題，但災(zāi)難已經(jīng)降臨，情況嚴(yán)重的話甚至不給人類解決問題的機(jī)會。這是真正的強(qiáng)人工智能所必須面對的問題，需要加強(qiáng)“防火墻”建設(shè)。

新一代人工智能正在引領(lǐng)社會和教育變革，談問題不是要因噎廢食，而是為了實(shí)現(xiàn)健康發(fā)展，要從技術(shù)、倫理、規(guī)則、制度、法律層面推進(jìn)和完善。

[責(zé)任編輯：于 洋]