生成式人工智能,與其說是像社交媒體平臺那樣的又一個應用程序,還不如說是一項基礎性技術,更類似于互聯網本身的出現。它將通過改變選舉和治理機制而直接影響民主,并通過改變信息生態系統的基礎、公眾信任和輿論,對民主進行間接的改變。
在直接影響方面,生成式人工智能可以通過更準確、細致地理解潛在政策結果,來徹底改變政策的制定。例如,氣候變化人工智能等組織已利用這項技術來研究“如何將越來越頻繁和嚴重的極端天氣事件影響納入道路、電網和供水總管的設計”,而執法機構也利用生成式人工智能來監控和預測警務活動。最近,律師和法官也開始利用像ChatGPT這樣的生成式人工智能,來協助完成立案乃至宣布法庭裁決這樣的事務。
與此同時,生成式人工智能如何影響選舉結果正越來越令人感到擔憂。2024年,至少有45個國家將舉行選舉,其中就包括美國。
盡管狹義人工智能已經有助于簡化選舉管理,但生成式人工智能可能會帶來新的偏見和不確定性。例如,美國高度分散的選舉體系包括1萬個司法轄區,每個州均須保留隨選民遷移、死亡或喪失資格而不斷更新的選民記錄。目前,用于維護選民名冊的算法難以匹配亞洲人的名字,并可能對少數族裔普遍存在偏見。類似的偏見,也同樣存在于使用人工智能進行簽名識別這一郵寄選票的常見操作。
但人工智能的影響力可以輕易超越單純的選舉管理;它還可以用于選舉規則和架構的協助制定,影響選舉的競爭性、政治極化程度、選民投票率等。
從黨派角度看,高達90%的美國國會選區被認為是結果可預測的“安全”選區。現在有數十個應用程序協助立法者劃定區域界限,可能讓現任政客輕易進行壓制性更強的黨派不公正劃分,從而進一步保護政黨及其候選人避開真正的選舉競爭。
除重新劃分選區外,生成式人工智能還可以推進其他結構性改革措施。例如,歐洲國家采用封閉和優先投票相結合的方式。而相比之下,美國則實行選區內單一候選人贏家通吃。試圖推動合理結果及降低政治極化的改革者,就優先選擇投票、公開初選制和比例代表制等改革的優勢展開辯論。生成式人工智能可以協助人們弄清這些復雜的動態,從而讓我們更好地預估選舉改革的長期影響。
盡管上述變化可能對民主機制造成直接影響,但間接影響或許更令人擔憂。人工智能很有可能嚴重破壞勞動力市場,并引發隨之而來的政治混亂。人工智能還可以重塑政府、候選人以及選民所共同依賴的信息生態系統,并降低制作高度個性化內容的難度。今年4月,共和黨發布了由人工智能生成的針對拜登的首條攻擊性廣告。不難想象,未來會出現某種充斥著廉價制作廣告的政治環境。它們利用來源可信的聲音或圖像,并利用個人在線史來找到和利用個人的心理弱點,同時,借助精心制作來操縱特定受眾。
生成式人工智能可以用多種語言制造有說服力的虛假信息,這也便利了此前受困于語言及文化熟練程度不足的外國對手。盡管人工智能可以生成內容,但仍然需要像臉書這樣的發布渠道才能接觸到受眾。人工智能實驗室和社交媒體平臺必須攜手合作,開發有效機制來防止虛假信息的傳播。
民眾能否相信領導人和機構代表自己的利益,是民主制度的核心內容。但信任非常脆弱,必須得到捍衛。盡管生成式人工智能可以在醫學、制造業和教育等領域帶來巨大好處,但也必須認真思考其對民主的影響。否則,它將會破壞而非強化人民執政的目標。
凱利·伯恩,美國斯坦福大學網絡政策中心前主任,現任大衛和露西爾·帕卡德基金會民主、權利和治理計劃主任。本文已獲Project Syndicate授權。