陳楸帆的全球飛行：從聯合國氣候大會到ChatGPT，兩大行星級議題交織

乘飛機抵達迪拜后，來參加2023年第28屆聯合國氣候變化大會的陳楸帆想，怎么把自己這一程的碳排放給抵消掉。

這場有史以來規模最大的氣候變化大會充滿了爭議，7萬多人的參與讓大會自身的碳排放就已經不可估量。在一座沙漠中的化石燃料之城，來自167個國家和地區的領導人及官員探討如何逐步淘汰化石燃料，然而直到原定的閉幕日12月12日也未能達成全球協議，會議在激烈談判中不得不延期一天。面對全球變暖之下近年頻發的極端天氣事件，聯合國秘書長古特雷斯表示，“氣候變化是我們這一代人的生存威脅。”

作為科幻作家，陳楸帆覺得這一次的參會過程就像走在科幻片里，“很多既諷刺又現實的場景，讓你不停有一些反思和想法。”他準備把這些觀察寫進他的科幻小說。

近兩年，陳楸帆過著全世界跑的生活，2023年的行程加起來已經可繞地球四圈。11月中旬，他受邀參加巴黎和平論壇，在一場圍繞AI未來的講座中，他說到新時期的“算法奴役”，人們被強化偏見的算法、放大自我的社交媒體，以及將最狹隘的觀點不斷反彈的信息孤島所包圍。在他看來，人類意識中的缺陷和弱點塑造著社會結構、左右著政策制定，“當這些局限性不僅是內在的，且被科技故意操縱和放大時，其后果可能是災難性的。”

這份活動邀請，源于2022年陳楸帆的兩本書《荒潮》《AI未來進行式》的法語和德語譯本的出版及歐洲市場的反響。前者是講述中國電子垃圾危機和氣候不平等的小說。后者是他和李開復合著的書，兩人是在谷歌工作時的同事。

2019年，李開復找到陳楸帆，想合力完成一本展現20年后被AI技術深刻改變的人類社會圖景的作品。他們閱讀了海量論文，與業內專家交流，參與AI工作坊，走訪相關創業公司。成書《AI未來進行式》采用科幻小說加科技評論的形式，以合乎邏輯的方式推演人工智能將在20年后達到什么水平。

2023年，兩人再見面時，都認為當時的預測太保守了。“書里寫的很多故事都不需要20年，有可能5到10年就會變成現實。”陳楸帆說。當人們談到AI，常說應該讓AI與人類的價值觀對齊，“但問題是人類社會內部的價值觀都不對齊。”

“整個世界的現實圖景已經高度復雜化、抽象化，它遠離了我們日常經驗的限度。”陳楸帆覺得，這正是科幻小說在技術加速年代的魅力所在。在學者楊慶祥看來，好的科幻小說善于通過技術想象展開“思想實驗”，“不停地與固化的秩序和意識形態進行思想的交鋒，不憚于創造一種全新的生存方式和建構模式——無論是在想象層面還是在實踐層面。”

接受《南方人物周刊》記者采訪時，陳楸帆剛剛落地韓國首爾，將參加另一場關于人工智能與氣候變化的峰會。幾年前，陳楸帆就開始用AI寫小說了，也親身經歷著AI技術迭代的過程，“因為未來不會等你。”他說。

人：人物周刊陳：陳楸帆

“超級對齊”，還是“有效加速”？

人：現在你和AI是什么樣的創作關系？

陳：它不是一蹴而就的，很多人可能會誤解為它是一鍵下單的過程，但其實整個過程里人類需要付出的勞動，一點也不比自己獨立創作少。因為在這過程中你需要不斷迭代、試錯，可能很多時候它不能給出特別滿意的答案，會覺得挺有挫敗感的。ChatGPT出來前，我們沒有直接跟AI對話交互的界面。

現在我基本上都使用現成的ChatGPT和其他定制化AI工具作為日常工作的輔助，比如寫郵件、起草發言稿、翻譯、整理日程表，這些都很容易完成。如果跟創意寫作相關，可能會用它做頭腦風暴，它會給出很多方向，但大部分都比較平庸或者套路化。就現在來說，所謂的AI也是個黑盒子。它會有很多不實數據和虛假事實，你得有判斷力地使用，有選擇、有策略地提升效率，甚至打破被局限在思維慣性里的套路或刻板印象。

我覺得這也是對AI的認知以及與AI協作不斷深入的過程，需要有這樣一個開放、積極、建設性的心態去對待它。在人機不斷交互的過程中，人類也在不斷學習，成為更好的創作者。如果人類用非常懶惰、被動的方式去使用AI，它就會給出讓你變得更懶惰、更被動的答案。

人：過去一年，你參加的關于人工智能的論壇中，各個國家、地區的討論側重點有哪些不同？國際上目前存在對AI具有約束力的監管協議嗎？

陳：就我的感覺而言，歐洲主要偏重于風險監管，關注AI對傳統人本價值、人文領域的沖擊。這些討論會有地域性差別，也和討論者所在的行業、地位或階層有關。比如美國硅谷的聲音和美國南部普通老百姓的肯定不一樣，所以沒法一概而論。

但整個大環境是，資本一方肯定希望以更快的速度發展AI技術。所謂的“有效加速主義”，是硅谷很多大佬崇尚的一套哲學，技術盡可能快地加速，這樣能解決很多問題，即使技術發展在過程中出現了新問題，也可以因為加速而得到解決，從而迫使人類文明進化到更高的維度。

另外也有更謹慎保守的聲音，也即“對齊主義”，要求在人類制定出監管框架和手段前不應盲目追求速度，因為這和研發核武器一樣，很可能會把人類文明帶入非常危險的境地。

所以11月1日，在英國舉辦的首屆全球人工智能（AI）安全峰會上有二十幾個國家聯署了一份新的AI監管的整體性框架協議《布萊切利宣言》，這可能是第一個國際性的AI監管框架。這個宣言主要有兩個議程，首先是識別風險，其次是建立起對這些風險的全球共識。然后，根據識別出來的風險，各國制定政策來確保安全，因為各國國情、法律框架都不一樣，需要因地制宜地落實到政策層面。此外還會通過國際化合作來制定評估指標。峰會每年都要召開，目的是構建一個國際包容的AI前沿安全的研究網絡。

至少能看到包括中國、美國、英國，還有很多其他的大國和歐盟，都愿意放下地緣政治、意識形態等等分歧，圍繞人工智能安全與監管的大問題來開展對話和合作。這意味著一個全球性的、行星級別的議題的出現，就和氣候變化一樣，是現在兩大需要全球協作的議題。

新的“中心化”，線上生活更難了嗎？

人：今年全球關于AI的討論中，有一個本質問題是，人這個物種的獨特性，是否在AI來臨時變得岌岌可危了？《AI未來進行式》的《幸福島》寫智能時代的機器與算法遠比人類更了解自身，這可能是人們對AI感到恐懼的一個原因，即主體性被剝奪。當一切都可以被量化后，人的自我意識還有什么主體性？

陳：這個問題其實非常復雜，可以從不同的維度來看。到底什么是最本質的幸福？比如小說里是說如果有一種生物學指標可以將它量化，那它就能被機器學習、讀取，甚至施加影響，這是一種非常還原論的想法。

但我覺得，到最后人類還是不可能被如此簡單機械地還原成一堆數據。因為現在人工智能學到的也是非常有限的數據集，比如語言文字上的數據，還包括圖像上的。但有更多更微妙復雜的、無法被量化的數據，比如情緒的變化、意識現在是無法被監測到的。因為意識本身需要通過表征外化成語言文字、標簽、聲音等等，需要一個外部化的過程。所以，當你的意識還沒有被表征出來時，其實就無法被識別、探測和量化。

我覺得就是魯迅先生老早說過的“絕望”與“希望”的辯證法，它們一直都在互相轉化，互相依存。我不覺得人類歷史上有絕對黑暗的絕望時刻，也不會有純然光明、充滿希望的瞬間，而是在不停地交織作戰、螺旋式上升的過程。所以，最后還是取決于人類本身。不要小看每個個體，雖然力量很渺小，但是每個個體最后能夠通過這樣的講述故事的方式，凝聚起共識。這也是尤瓦爾·赫拉利說的，人類作為一個物種，其獨特的能力其實是講故事，而不是使用工具或者語言——但我在這里存疑，其他動物肯定也有講故事的能力，只不過這故事或許還不能被我們人類所理解、所認知——他認為這是我們能夠超越個體去凝聚共識，完成更復雜、更大規模的工程的可能性。這工程可能是巨大的，比如造一座長城，或者建立起一套制度。所以我覺得人類還是有希望的，就在于我們能夠通過講故事的方式去傳遞這種希望。

人：近幾年講到算法時，一方面是實用主義的進步語境，另一方面則是科技剝削如“算法外賣員”“短視頻算法推送”。《幸福島》講的也是一個如何讓AI更好地服務人類生活的故事，即讓AI不再只專注于優化單一目標函數，而轉向更豐富、更有彈性乃至更有人文屬性的函數模型，這對我們當下已被技術滲透的生活有哪些現實啟發？

陳：書里很多內容都在探討媒介對人的影響，無論是deep-fake（深度偽造）還是沉浸式虛擬環境，包括虛擬偶像數字人。其實我們已經在進入一個虛擬時代了，經過疫情，很多行業加速了這個過程，現在大家都習慣在家上班或上課。但這個過程中也會有新的問題出現，包括信息的真偽辨別，在未來這種AIGC（生成式人工智能）能力可能是一個非常低成本的工具，很多人只要想就能夠制造出以假亂真的信息，可能給社會帶來干擾，甚至造成不良影響和風險。那我們怎么來防范？怎么來管控這些信息？

除此之外，當下一代年輕人越來越習慣于虛擬社交，因為他們會覺得這種關系、這種交互過程是可控、舒適的，而且是高度定制化的。就像很多人會和AI談戀愛，因為AI可能比真實的人類更知道怎么去說話、怎么去討好對方，而真實的人很多時候做不到這樣的事，所以他會恐懼和排斥真實的社交和關系。這已經在發生，不管是在中國還是其他國家，而這肯定會引起非常大的社會結構變化，包括人口出生率、結婚率的下降等等。這是一個必然的過程，但我們怎樣去調整現有的觀念和社會結構去適應這個過程？

當然，我鼓勵人必須有真實的社交，物理世界的交流和交往非常重要。因為目前虛擬數據的解析度還非常低，比如可能是720的解析度，但真人漸變可能是4K或者8K的解析度，它的信息密度是完全不一樣的。

而且，下一代已經生活在未來了，以后代際之間的距離會越來越大，有可能隔了一代人，就是兩個世界。也就是所謂的后人類，上一代人看下一代人就覺得他們是另一個物種。我覺得這個事情可能會加速發生，甚至有可能下一代也不認為自己是人類。我們現在還沒有足夠多的討論和理論工具讓我們做出一些及時的反應，而科幻就是幫你去做準備的類型。

人：你曾說短視頻短的原因，“就是把人的感官分辨率無限地切分到接近極限”，以刺激人的生物性本能作為終極目的，技術的發展讓對人的剝削進入到一個嶄新的階段。這個年代，一個普通人面對多重算法的夾擊，是否線上生存難度也太大了？

陳：難度是很大，但可能放在沒有互聯網的時代也是一樣，只不過現在信息密度更大。比如說在報紙、電臺、電視臺的時代，其實也是一樣的，而且是更中心化的媒體權力結構，所有的媒體都掌握在位高權重者手中，那他可以控制你讀到什么、讀不到什么。到了互聯網時代，大家會覺得這是一個信息民主化的過程，大家可以平等、公開、透明地獲取信息，打破了所謂的階層和權力結構，好像是一個去中心化的過程。但經過一段時間的發展，你會發現它又重新中心化了。

因為資本主義的邏輯鏈條就是要圈地，它要做大做強，最大程度地壟斷并且榨取剩余價值，所以又重新中心化成一個個的平臺，一個個信息孤島，由此產生各自的立場和偏見。所以這其實就是一個不斷地中心化、去中心化、再中心化的過程。只要人類存在一天，這個過程就不會停止，AI是這個過程中的一環而已。

現在的AI也是一個非常中心化的東西，你很難設想一個沒有錢、沒有數據的個體創業者能在這個時代靠自己搞出一個大語言模型，因為沒有錢買GPU、搞數據、訓練機器。在之前那個草根互聯網時代，已經出現了所謂新中心化的局面，而在即將到來的AI時代、大模型時代，會更加中心化，但這之后可能又會迎來一個新的去中心化的時代。那個是什么？我也不知道，但這個過程是不會消停的，這就是人類。

全球化的離散年代，人還需要故鄉嗎？

人：這兩年你在全世界跑，大多時間都在國外，跳換在不同時區間的生活是怎樣的？

陳：我感覺我這兩年也是處于一個加速度的過程。不管是去的地方、見的人，還是思考的問題都超出了之前10年甚至20年的密度。對自身精力、時間管理等等方面也提出了更高要求。我也因為這兩年去了太多地方，開始思考所謂的“在地性離散”、家鄉這些問題。

以前沒有如此具身地感受過，當自己不停換地方、換語境，我就會更深切地感受到自己身上的“中國性”。不管你去到哪個地方，哪怕你換了不同的身份，但你作為中國人的標簽是沒有辦法改變的，它從語言，到身體的感官、到記憶，是你存在的一部分，這是你無法否定也無法剝離的。

人：你覺得人還需要一個“故鄉”嗎，一個擁有全球視野的人，還需要與自己出生的地域和傳統保持一定的親密聯系嗎？

陳：還是需要的，雖然不一定需要物理上回到故鄉的這種在地性。在法國我認識了一些潮汕后裔大學生，他們中有的是混血，也有柬埔寨的潮汕后裔，他們不會說潮汕話。但他們告訴我，如今在法國興起了一個運動，這些年輕的潮汕后裔開始組織協會或自發組織，開展文化尋根活動。有位年輕導演叫杜來順，拍了一部動畫片講述潮汕的故事。盡管他們離開很遠很久了，但他們仍希望尋找自身文化的根源。

我覺得尋根的沖動是人類的本質之一，它不會因為你走得遠而消失，它會以不同的形式重生。就好像我寫在VR建一個潮汕祠堂，你的先輩們都是以這種虛擬的數字人的形式被供奉，你還可以跟他們去互動，其實也是一種對故鄉的科幻式表達。

我覺得人最后還是需要回答一些最本質的問題，那就是我是誰？我從哪里來，我要到哪里去？就這幾個問題，人是逃不掉的。