拒絕“監視資本主義時代”

投資者向人工智能相關創業公司豪擲數十億美元，生成式人工智能狂熱開始看起來像一個投機泡沫，類似于1630年代的荷蘭郁金香狂熱和18世紀初的南海公司泡沫。而且，就像那些事件一樣，人工智能繁榮似乎不可避免地要走向蕭條。它沒有創造新的資產，倒是可能留下堆積如山的債務。

今天的人工智能炒作由這樣一種信念推動，即像OpenAI新發布的GPT-4這樣的大型語言模型，將能夠產生與人類的產出幾乎沒有區別的內容。投資者押注先進生成式人工智能系統將毫不費力地以任何想象得到的風格創建文本、音樂、圖像和視頻，用戶只消給予簡單的提示。

然而，隨著對生成式人工智能的熱情日益高漲，人們越來越擔心它對勞動力市場的潛在影響。高盛最近關于人工智能“潛在巨大”的經濟影響的報告估計，多達3億個工作崗位面臨被自動化的風險，其中包括許多熟練和白領崗位。

“狹義”和“通用目的”人工智能系統，都可以比人類更有效地執行任務。這對尋求對人類行為施加更大控制的政府和公司來說，是一個絕佳的機會。

正如肖莎娜·祖博夫在她2019年出版的《監視資本主義時代》一書中指出的那樣，數字技術的發展可能導致“一種新的經濟秩序的出現，把人類經驗當成提取、預測和銷售商業實踐的隱藏商業活動的免費原材料”。她觀察到，政府和私營部門監控之間日益共生的關系，部分是由于國家安全機構“受到9·11襲擊的刺激”，打算培育和調整新興技術，獲得對人們行為和個人生活的“全面了解”。

由億萬富翁投資者彼得·蒂爾參與創立的數據分析公司Palantir，就是一個很好的例子。據報道，著名的共和黨捐助者彼得·蒂爾說服特朗普政府授予Palantir利潤豐厚的合同，開發為軍事用途量身定制的人工智能系統。作為交換，Palantir向美國政府和世界各地的其他間諜機構提供情報服務。

在喬納森·斯威夫特的《格列佛游記》的第三部分“拉普達之旅”中，格列佛船長遇到了一個漂浮的島嶼，島上居住著科學家和哲學家，他們設計了巧妙的方法來探測陰謀。其中一種方法包括仔細檢查“所有嫌疑人的飲食”，并仔細檢查“他們的排泄物”，包括“顏色、氣味、味道、稠度、粗糙度或成熟度”。雖然現代國家監控機構注重調查電子郵件而不是身體功能，但它有一個類似的目標：通過深入人們的思想，揭露針對“公共秩序”或“國家安全”的陰謀和密謀。

美國依靠競爭來維護消費者利益，而歐盟的監管方法以基本人權為中心。預計將于今年晚些時候最終確定的歐盟《人工智能法案》，明確禁止使用用戶生成的數據進行“社會評分”。

西方“以人為本”的人工智能監管方法，強調保護個人免受傷害。但在地緣政治緊張局勢加劇的時期，國家安全往往優先于公民自由。例如，當前版本的《人工智能法案》賦予歐盟委員會禁止預測性警務等做法的權力，但對國家安全、國防和軍事用途有各種豁免。

在爭奪技術霸權的激烈競爭中，政府開發和部署侵入性技術的能力，不僅對公司和政治制度構成威脅，也對整個國家構成威脅。這種惡意動態與樂觀的預測形成鮮明對比，后者認為人工智能將帶來 “在全部行業和社會活動中的廣泛的經濟和社會效益”。

不幸的是，西方國家內部權力制衡機制的漸遭侵蝕，以及憲法對政府行動的限制，使得它們自身脆弱不堪。而正如喬治·奧威爾有先見之明地觀察到的那樣，永久戰爭的狀態，甚至是戰爭的幻覺，為技術反烏托邦的出現創造了理想的環境。

羅伯特·斯基德爾斯基是英國上議院議員、華威大學政治經濟學榮譽教授。本文已獲Project Syndicate授權。