正在消失的主體性

徐梅

跟大多數(shù)人一樣，我也是從2017年開始關(guān)注人工智能，“阿爾法狗”連克李世石、柯潔，使得“AI”、“奇點”迅速成為熱詞兒，誰都能聊上幾句。“人工智能會不會搶走我們的工作？”“AI如果具備了超人的智能，會不會毀滅人類？”

但很快，我們就厭倦了這樣的討論。

一方面，專業(yè)人士很不耐煩地提醒人們，AI只是一項技術(shù)，技術(shù)取得突破并不容易，那個機器勝過人類、甚至對人構(gòu)成威脅的“奇點”可能百年以后才會到來。技術(shù)大牛吳恩達說，整天討論這些“好比是討論火星上人口是否會過剩一樣”。

另一方面，對于普通人來說，AI技術(shù)并沒有那么容易理解，AI威脅論說來說去也就那么幾句，這一類題材的新鮮勁兒一過，連科幻作家都不愛寫了。

從2017年開始，每年我都會寫一篇關(guān)于人工智能的報道，最初是想通過對圍棋產(chǎn)業(yè)這個被AI選中顛覆的第一落點持續(xù)觀察，看看人工智能如何改變一個職業(yè)、一個行業(yè)，以及行業(yè)中的人，同時延展到對幾個AI創(chuàng)業(yè)公司的持續(xù)觀察。

必須承認，創(chuàng)業(yè)者的勇氣、智慧，以及AI產(chǎn)業(yè)的急速發(fā)展是極其吸引人的，我自己從開始的警醒好奇，迅速被技術(shù)樂觀主義“洗腦”，重新看這些稿子時，發(fā)覺當時更多看到技術(shù)“喜大普奔”，較少看到人。

技術(shù)大過了人，這本身就是問題了。即便“奇點”遠遠未至，但AI發(fā)展所帶來的倫理與法律挑戰(zhàn)已經(jīng)無法回避，更何況交叉學科不斷帶來技術(shù)的躍遷，“奇點”越發(fā)不可預測。

“十一”假期前后，我因為采訪，集中看了三本書——哲學教授何懷宏的《人類還有未來嗎？》、日本學者的論文合集《AI聯(lián)結(jié)的社會》、美國計算機專家斯圖爾特·羅素的新書《AI新生》。

斯圖爾特1995年出版的《人工智能》多年來不斷再版，被128個國家的1400多所大學作為教材使用。他在《AI新生》中反思，從2014年開始，“我便公開承認，我的研究領(lǐng)域?qū)ξ易约核鶎俚奈锓N構(gòu)成了潛在危險。”

他強烈反對業(yè)界關(guān)于人類智慧有限、AI“奇點”不會到來這種“技術(shù)否定主義”，稱這就像一位公共汽車駕駛員載著全人類說，“是的，我正盡我所能往懸崖邊開，但是相信我，在開到懸崖邊之前，我們的汽油會用完！”

“與人類的聰明才智打賭是魯莽的，尤其是在我們的未來岌岌可危的時候。”跟何懷宏一樣，斯圖爾特對AI有可能造出的“遠比人類強大的實體”充滿警惕，呼吁整個社會，尤其人工智能研究領(lǐng)域，將“可證明有益的人工智能系統(tǒng)”作為超級智能機器的研究目標，“只有目標確保完整且正確，或者可以很容易地重置機器的情況下，這種模式才有效。”

這一目標的技術(shù)實現(xiàn)路徑是復雜的。坦白說，這本書的后幾章，我讀得半懂不懂，并且最終放棄了成稿，因為無法在這個關(guān)鍵問題上與作者深入討論。

學習的收獲很大，對于未來繼續(xù)觀察、報道AI對社會生活和個人尊嚴的影響會極有裨益。

這三本書里還有一個共通之處，技術(shù)已經(jīng)對我們的社會產(chǎn)生巨大影響和控制，我們的主體性已經(jīng)在消失——

比如，內(nèi)容推薦算法在社交媒體中通過“投其所好”，對我們既有偏好的強化和改變;人機協(xié)同的工作環(huán)境中，算法對人的控制和倒逼（快遞小哥、與機器人協(xié)同工作的倉庫分揀員等）;還有AI招聘系統(tǒng)通過抓取分析應聘者的社交媒體賬戶信息完成畫像分類，對個人過度監(jiān)控，將復雜豐富的人格簡單類型化等等……

人工智能所塑造的社會和系統(tǒng)同我們每個人都深度相關(guān)，對于我們這些不具備專業(yè)知識的普通人來說，討論AI，除了末日危機，還有上述那些現(xiàn)實關(guān)切。

而你我，都不應該因為懶惰或者懈怠，甘于沉默。