當機器有了主體性，人該如何自處？

Yi：YiMagazine

P：彭凱平

人工智能技術以前所未有的速度進入了你能想到的人類生活的各個方面。除了像此前歷次工業(yè)革命那樣提高一些環(huán)節(jié)的生產(chǎn)效率，人工智能試圖取代的東西還有更多—人的情感、陪伴以及深度思考。過去，這些屬性被認為只有人這種高級生物才有，2022年11月最后一天ChatGPT發(fā)布后，這個結論被動搖了。

問題是，當人類開始深度依賴AI，甚至把情感、陪伴、深度思考等需求都寄托于人工智能，我們的個人和社會會變得更好還是更糟？美國佛羅里達州那位14歲小男孩在向他的人工智能透露出自殺想法、得到了人工智能的挽回，但最后仍然在家中自殺身亡的事，可以都歸咎于人工智能嗎？

以下是清華大學心理學系教授彭凱平對這些問題的回應。

技術總在發(fā)展，適應勝于憂慮

Yi：現(xiàn)在很多18到25歲的年輕人非常喜歡AI社交產(chǎn)品的陪伴，該怎么看待這一現(xiàn)象？你會感到擔憂嗎？

P：心理學家發(fā)現(xiàn)一個現(xiàn)象，Z世代（注：指1995年至2009年之間出生的人）都有一些社交依賴，他們不是利用傳統(tǒng)的社會與人際關系、生活方式調整情緒，而是更多利用社交平臺、技術產(chǎn)品去調整，這是一個全球現(xiàn)象，中國也不例外。人類社會里每次出現(xiàn)技術革命、生活方式的改變，都會帶來心理變化，我們應該去適應，而不是一味擔憂焦慮。在適應環(huán)境的同時不斷成長，才是人的本質。中國的潘光旦先生把它叫作“位育”。“位”的意思是萬物歸位，人有自己的位，同時人得成長。所以我不擔憂，現(xiàn)象出現(xiàn)了，心理學應該去關注，社會應該去努力，一起解決問題。

Yi：你覺得塑造人們心理的3個核心因素是什么？技術會不會是其中一項因素？

P：技術肯定是，因為它提供了即時反饋。孩子和父母再親近，父母有時很忙，不一定能即時回應，但網(wǎng)上總有非常快的回應。第二，技術很大程度上讓人有了自主控制感，用戶可以選擇屏蔽，也可以選擇追求。現(xiàn)實生活中沒有這種自主感，父母就是孩子情感最好的陪護，也可能是情感最大的影響源。但在互聯(lián)網(wǎng)技術時代，用戶可以去尋找，甚至去培養(yǎng)（社交）。小孩就有一種虛幻的自我控制感，但很多大人忽視了這種感受。第三，技術確實可以讓人跨越時空，好奇遠方的人并與之建立聯(lián)系。現(xiàn)實生活中，只有自己身邊的人（可以交往）。這是3個非常重要的心理原因，正好跟技術的優(yōu)勢完美匹配。

Yi：虛擬社交和現(xiàn)實社交之間是一種零和關系嗎？還是說兩者之間可以形成正向、良性的互動？

P：在情感需求的滿足方面，虛擬和現(xiàn)實可以互相促成，互補可能很重要。現(xiàn)實得不到的關懷與支持，在虛擬世界可以得到。現(xiàn)實世界里沒有心理學家去解決心理問題，可以去網(wǎng)上找一個虛擬心理學家。

Yi：對用戶而言，現(xiàn)在用于情感陪伴的AI產(chǎn)品，其積極價值和潛在問題分別是什么？

P：積極價值就是即時滿足、多樣化、獲得不同的信息觀點。某種意義上，AI確實幫助很多人得到了情感豐富的咨詢和陪伴，AI比較耐心，提供的內容比較豐富，反應迅速，這些是AI情感陪伴不可替代的優(yōu)勢。

問題也有3個。第一，它不真實。在人類幾千萬年的進化史中，人與人之間的肢體接觸非常真切，虛擬儀態(tài)無法感受到氣場，無法感到生命的活力和氣息。第二，人類溝通有一種心心相印的感受，但很多人低估了這些溝通，心理學早就發(fā)現(xiàn)55387原則（注：美國心理學家和傳播學家阿爾伯特·梅拉賓提出了一項重要理論，稱決定溝通效果的55%是非言語線索，38%是言語線索，7%是詞匯），55%的人類溝通不是靠語言，而是靠非語言溝通。而（AI）情感陪護一定是言語溝通，甚至有的時候用戶會感覺AI話嘮。第三個不同是現(xiàn)實生活中的溝通多樣、全面，而網(wǎng)絡溝通建立在算法基礎上，算法可能誤以為用戶有某種行為特性，進而提供有針對性的陪伴，但這并不是真實生活的陪伴，不隨機的算法是一種保護，也是一種陷阱。人要成熟，要變化，要多樣性，而虛擬陪伴做不到這一點。

Yi：從互聯(lián)網(wǎng)到人工智能，技術帶來的心理狀態(tài)和生活方式變化是互聯(lián)網(wǎng)時代的延續(xù)嗎，還是說出現(xiàn)了一些新問題？

P：出現(xiàn)了新問題，任何形式的技術革命都有延續(xù)的部分，但是還有一些突變。互聯(lián)網(wǎng)有社交平臺的特性，AI最大的特性，我認為第一是它有算法，這是以前的社交平臺可能沒有的地方。第二，它借助了過去很多知識文本，信息爆炸讓人無所適從，以前人類可以控制，現(xiàn)在完全不能控制。第三，是會有一些誤導，因為它根據(jù)算法和經(jīng)驗提出了一些想法，以前的社交平臺沒有遇到過，有人把它叫作涌現(xiàn)，而涌現(xiàn)不可琢磨。有人幫我做了一個虛擬彭凱平，但我不敢讓“他”上線。我本人在社交平臺上的發(fā)言有控制、有管理，但虛擬彭凱平會說什么我不知道，“他”有自我產(chǎn)生文本、語言、圖像甚至記憶的可能，這也許根本就不是我，很危險。

人容易把超越物理定律的東西當成生物，AI就是這種東西

Yi：你認為AI跟之前的互聯(lián)網(wǎng)一樣仍然是個工具，還是說AI也已經(jīng)有了一些主體性了？

P：有些人認為它是工具。它確實是一個工具，可以用得很好。但是它的語言表達某種程度上有自身邏輯規(guī)律，心理學家對此比較警惕。它的邏輯規(guī)律容易讓普通人認為它本身就是一個Agent，作為主體，有自由意志、自我意識，甚至有自我的經(jīng)歷與經(jīng)驗，這些都不是人類的真實經(jīng)驗，是它自己創(chuàng)造的，這個風險非常大，作為心理學家和社會科學家，我更容易看到它后面的風險。

很多搞技術的人認為技術只是一種工具，實在不行就把電源拔掉。我個人覺得可以做到，但有很多人和AI溝通時，很容易把它當作另外一個生物體，這是人類的心理特性，人類容易把能夠回答問題、會語言表達的（東西），當作一個生物體，雖然它并不是。

有些人把貓、狗作為自己傾訴的對象。三四歲的小孩會抱一個毯子，把毯子生物化，視作安全的符號。電影《荒島余生》中湯姆·漢克斯把排球當作伴侶，為了救排球把性命都搭進去。連自然都可以生物化—我見青山多嫵媚，料青山見我應如是。人類天生有一種把喜歡的東西升華的傾向，不會把它單純當作工具，同理心強的人特別容易有這種感覺，比如小朋友、老人、婦女。說AI是工具的人，基本上是中年男性工程師。我認為事實比他們想的要復雜。

Yi：這樣的心理機制導致很多人認為AI是一個主體，但其實可能不是這樣？

P：理性上肯定不是，科學上肯定不是，技術上也不是，但人可能有這種心理。

Yi：1950年代的圖靈測試曾定義說，只要30%的受試者識別不出來對方是機器，對面就是通用人工智能。現(xiàn)在的討論是基于大家并沒有認識到人的心理認知機制有把人工智能當作生物體的風險，所以才討論人工智能是否有主體性？

P：對，圖靈本身利用了人類的心理特性，提出來所謂的圖靈測試，其實心理機制是人類的本能。

Yi：心理學家沒有把這個常識告訴大家，為什么？

P：對，心理學家沒做，可能是不感興趣，有些心理學家在做別的研究。也有可能很多心理學家真的不懂，意識到這些問題的心理學家比較少。我曾因個人興趣對中國的情況做考察，當年做了“生物化傾向性”的研究，討論人視外界事物為生物的傾向性到了什么地步，運動的物體在什么情況下會被人類認為有主觀性。我的結論是，只要不符合牛頓力學定律，就可以被看作是生物體。比如兩個球靜止，突然其中一個運動起來，人類就感覺它是生物體，因為沒有能量轉換。但如果是另一個球一滾過來，兩球相撞后它再動，那它就不是生物體，只是球。

我用休謨的物理學觀點（注：最早研究物理和心理現(xiàn)象的都是哲學家）和我的心理學解讀回答這個問題，文章發(fā)在非常重要的心理學頂刊上（注：論文名為《物理和社會歸因的文化差異》發(fā)表在《人格與社會心理學雜志》），但沒人感興趣，沒人報道。與我合作研究的學生EricKnowles如今在紐約大學任教，非常有名。

我們共同開展了大量物體因果關系分析，證實物體運動軌跡若違背牛頓力學定律，人類就傾向于將其視為生物體。這也意味著，當機器超越牛頓力學定律，可以言語交流時，某種程度上就被賦予了主觀性。

深度思考、延遲滿足、專注力的喪失，是更大挑戰(zhàn)

Yi：移動互聯(lián)網(wǎng)的即時反饋對人的心理機制是很大挑戰(zhàn)，如果孩子們從小經(jīng)常被即時滿足，長大后面對現(xiàn)實中不能被即時滿足的時刻，應對能力可能會下降？

P：對，提供即時滿足的社交平臺和人工智能存在不利影響。首先，深度思考能力會下降，人類能很快獲得信息，沒有冥思苦想，而是依賴計算機給出確定的回答。第二，延遲滿足能力下降，習慣了及時行樂，再回到通過追求、學習、修煉去得到結果可能就有點難。再一個，高度專注能力也會下降，得到的信息太多，可以玩的東西層出不窮，專注一件事的能力會有變化。已經(jīng)有心理學家開始關注這些問題了。

Yi：有沒有一些心理學方面的數(shù)據(jù)和事實？

P：大數(shù)據(jù)和人工智能比較新，心理學家有一些研究，但是有爭議。比如大家一直認為，打游戲對孩子們的學習有損害，但也有一些研究證明這對孩子的學習有幫助，起碼對考試有幫助。所以結論很難得出來。但作為心理學家，我認為即時滿足帶來的延遲滿足能力下降、專注力不足和深度思考能力下降的趨勢比較明顯，這些都有數(shù)據(jù)和報道，數(shù)據(jù)不統(tǒng)一，但確實存在。

Yi：深度思考能力、延遲滿足能力和高度專注能力被認為跟人的創(chuàng)造力和學習能力相關。如果這三種能力持續(xù)下降，可能人類再要取得像AI這樣的重大技術進展的難度就會提升。應該怎么處理這個問題？普通人應該如何在新的技術浪潮下自處？

P：心理學家沒有提出好的方法，但也不是說沒想過方法。一種方法是精英主義，培養(yǎng)拔尖人才可能在某種程度上是應對大規(guī)模的思維能力、情感能力下降的策略。這個思想不太符合我的普惠意識、公民意識、平權意識，現(xiàn)代文明的基礎是教育的普及，天才應當由基因決定，每個人都有機會成為天才，要看誰能脫穎而出。

第二個方法是人類專攻人工智能取代不了的能力。刷題、做數(shù)學、搞設計、內容創(chuàng)造，機器做得很好，那人類就去做機器做不了的事，比如說美感，機器就做不到。攝影師可以捕捉到美好的光影，機器不一定能做到。人類的意義感，“感時花濺淚，恨別鳥驚心”，機器取代不了。人類有高度直覺能力，我稱為“黃金直覺”，感覺不對，但邏輯、信息上哪里不對，我說不上來。人類有一些非凡能力，我總結出來大概有6個，包括幸福感、感染力，這些機器都做不到。

還有一些極端思路，就像馬斯克這樣的科學狂人認為所有芯片都應該納米化，被植入人的身體里，讓人類成為外掛的超人。這種想法太可怕了，但也許他們認為可以培養(yǎng)出這樣的超人。科學界、思想界也在討論，但還屬于超前的科學幻想。我也不知道這是好是壞，新的時代變化出現(xiàn)總是讓學者特別激動，因為偉大的社會事業(yè)就在眼前，會得出什么結果，學者還是有很大的責任。

Yi：這種情況下，做AI產(chǎn)品的技術公司應該更進一步做些什么事？他們是否意識到自己也有責任？你給他們什么建議？

P：AI公司有一個很好的覺悟：不作惡。Google還有Facebook的高管提出，技術不作惡、不傷害人類，不去取代人類工作，不剝奪人類的幸福，不干擾人類的繁殖，這些都是他們覺得能夠做到的事。

作為積極心理學家，我感覺不作惡的要求太低了，技術要讓人更加健康、幸福、智慧，這是我提出的技術向善三大原則。不能因為AI出現(xiàn)，人類就變傻。技術要幫助普及人類文明、對孩子因材施教，多去照顧他人、關心他人、成全他人，讓社會的美好體驗越來越多，這些都是積極心理學不斷提倡的。

Yi：人工智能技術不斷發(fā)展，大家心里有一些焦慮和不確定感，積極心理學作為工具箱還夠用嗎？

P：積極心理學是一個不斷發(fā)展的學科，它以前也沒有解決人類的所有問題，未來也不可能解決所有問題，它在與時俱進，不斷探索。人類社會發(fā)展比科學發(fā)展快很多，所以說理論是灰色的，生命之樹常青。很多時候社會環(huán)境、人的變化超過了學科變化，我們在不斷努 力。

Yi：積極心理學是要更大程度地避免痛苦，這隱含著對痛苦的恐懼，但痛苦對人的心理與成長很重要，如果一直很積極、不痛苦，會成為更健康的人還是更麻木的人？

P：這是一個特別好的問題，積極心理學往往被人誤解，以為只談積極。其實積極心理學提倡3個特別重要的步驟：第一，一個人能夠積極的前提是能夠經(jīng)歷痛苦、理解痛苦、改變痛苦；第二，創(chuàng)造積極；第三，創(chuàng)造意義。真正積極的只是中間部分，前面的痛苦感受和后面的意義創(chuàng)造特別重要，中間是愉悅情緒的調節(jié)方法。積極心理學特別強調痛苦，痛苦至少有3個價值。人在痛苦時才會深度思考，在抑郁、悲傷的時候，才會想生活為什么這樣？第二，人類痛苦時，往往更覺人性高貴。到了最卑微、最艱難的狀態(tài)再凱旋，英雄敘事都是這樣，一帆風順的不是英雄。我們中國人說，若沒有經(jīng)受筋骨之累、辛苦之勞，很難成就大事業(yè)。沒有痛苦的人都不知道自己偉大，沒經(jīng)歷過黑暗的人，都不知道光明是什么。第三，人會在痛苦經(jīng)驗中產(chǎn)生意義感。

從個體角度講，吃苦帶來的快樂叫內啡肽，多巴胺引發(fā)的開心很爽，但內啡肽是苦盡甘來的甘，比沒有苦的甜還甘，內啡肽的刺激作用讓人產(chǎn)生強烈反差。作為積極心理學家，我特別反對假性積極，天天標榜自己樂呵呵，沒有必要，還是要承認生活的艱難，了解自己的痛苦體驗，不被痛苦擊垮。

Yi：你的說法讓人想到“文章憎命達”，生活太順的人可能表達內容就不會太深刻？

P：對，彭老師生活很不順，大家都覺得我樂呵呵，但我也受到過誤解和攻擊，也有委屈，甚至有很多至暗時刻。我在美國留學時一貧如洗，找工作都很難。美國人喜歡亞裔女孩，不會喜歡我們這些亞裔男孩。回國后我遭遇過誤解，有些人老以為我西化，甚至崇洋媚外，出現(xiàn)針對我的網(wǎng)絡暴力。但大多數(shù)人還是好的，生活的大部分時間還是很開心。