科幻作品中,“意識上傳”常被當作背景設定:未來人類大腦的意識、記憶等能被上傳至數字設備,人類最終實現“數字永生”。但如果“意識上傳”技術被資本壟斷,形成一門決定人類生存質量的生意,世界會變成什么樣?
《黑鏡》第七季開篇,主人公身患重病,腦中被植入備份意識以維持生存,但生活質量受制于信號范圍和服務器速度。意識上傳服務也分為三六九等,為了賺錢,她的丈夫在地下網站上傷害自己的肉體換取網友的打賞,供養與機器共生的“賽博格”妻子。在“上載世界”,“尊貴人類”靠科技增強現實感官,“普通人類”的感官功能被“奪舍”、死前還在念廣告,就像把靈魂出賣給魔鬼的浮士德。
劇中的許多連帶設定在真實世界都能找到參照物:“口播廣告”就像視頻軟件、社交媒體里無處不在的“信息流”廣告,“笨笨網”讓人想起直播平臺上靠喝酒、“斗狠”盈利的“狠P K主播”,“一鍵控制情緒”則有腦機接口技術調節抑郁癥患者情緒的影子……
《黑鏡》中主人公毫不遲疑地接受了新技術,連同“貴的就是好的”“升級就能解決一切問題”的資本邏輯一并吞下,希望科技的靈丹妙藥“藥到病除”。但當他們發現已經難以承擔技術給生活帶來的副作用時,只能被推搡著走向深淵。
科幻作品一直是人類對當下社會的投射。如果說《異形》《世界之戰》等20世紀科幻電影反映了對“冷戰”、移民、意識形態入侵的恐懼,那么如今《黑鏡》《人生切割術》中的“數字永生”“情感異化”等議題,更多反射出人類對過分依賴科技、隱私與思想控制、寡頭科技公司監管困難等的恐懼。
“技術沒有好壞之分,也不是中立的”,歷史學家梅爾文·克蘭茲伯格總結。最近的“智駕”事故讓人們反思,我們應當如何處理和智能系統的關系。汽車公司在產品手冊中寫,“切勿依靠智能領航功能來應對突發的緊急情況”。德國全德汽車俱樂部研究表明,72%的自動駕駛事故發生在系統提示后2秒內,實際上駕駛員平均需要2.3秒才能完成有效接管。在高速公路場景,這個數值會延長至2.6秒。在技術飛速迭代的當下,我們也需要留足0.6秒,審慎地思考科技留下的印記。
事實上,我們攥著改變技術的命運的鑰匙。每項技術誕生,其目的并不都是為了公共利益最大化。誠實、公平、民主,這些難以被編碼的價值觀,需要技術制定規則來護航。比如,為了防止《黑鏡》的擔憂成真,未來A I醫療中患者的支付能力不應直接與治療方案和服務的算力水平掛鉤,醫療中獲取的患者生物學數據也應得到更全面的保護。對普通人來說,或許每一次關閉個性化推薦、每一條遷移到去中心化平臺的動態,都是對“技術應為人類服務”理念的投票。