摘要:
對老年人歧視的社會與制度偏見嵌套入“算法黑箱”中,不僅技術性固化了傳統老年人歧視社會建構的場景觀念,而且加劇了對老年人群體社會排斥的隱性歧視,與“積極應對人口老齡化”國家戰略要求相背離。建立在互聯網、大數據、人工智能、量子信息與區塊鏈等數字化信息技術快速迭代發展基礎上的算法,不僅將老年人技術性歧視為原子型與比特型兩類群體,進而對比特型群體的老年人以微粒化與標簽化的方式進行直接或間接隱性歧視,而且利用其時間復雜度與空間復雜度的特點,將現行法律法規中存在的“年齡歧視”等立法不足或缺陷問題給與“合法化”承認并無限放大,實質損害老年人群體的應然權益。通過對老年人疊加算法后遭遇的三種主要歧視類型進行原因解讀,明晰社會變遷與科技發展疊加背景下老年人同時遭遇“前喻文化”代際鴻溝與技術迭代數字鴻溝的雙重沖擊,而進入比特世界場景的老年人仍然面臨嵌套偏見與復雜規則的算法塑造的老年人畫像的直接排斥或不公平對待間接歧視的自動化決策歧視情形。我國現行立法關于老年人的單一年齡維度界定標準與有關老年人退休、退職的規定,既無視老年人的個體差異性,也脫離了社會發展的實際情況,不符合社會保障法的功能設計與本質要求。因此,應從法治的角度進行頂層設計,對破解老年人算法歧視與積極應對人口老齡化國家戰略之間存在的現實矛盾與發展悖論問題予以合理化規制,即用分層理論完善老年人法律制度以糾正法律本質主義年齡歧視下的制度性缺陷,解構數字孿生法律制度嵌套規制老年人歧視的“算法黑箱”,賦予老年人算法自決權以積極推動“積極應對人口老齡化”國家戰略,從而平衡科技發展與老年人群體權益保護之間的利益關系,確保科技向善和算法造福老年人。
關鍵詞:老年人;積極老齡化;數字鴻溝;算法歧視;法律失靈
中圖分類號:D923.8 "文獻標志碼:A "文章編號:1008-5831(2024)03-0253-12
一、問題的提出
老年歧視(Ageism),是指對老年人在觀念認知、情感態度、行為對待與制度安排等方面的具有復雜結構特點的本質上的負面否定與系統性偏見[1]。它實際上是將特定年齡組同質化為具有或缺乏某些相同的特征、行為模式、外表與信仰等,而不是承認該年齡組內的任何多樣性(Diversity)的歧視性評價[2]。這種根據老年人的年齡進行刻板印象定型化(Stereotype)評價的做法,錯誤地假設了一個根本不存在的同質性(Homogeny),并不適用于所有老年人[3]。算法(Algorithms)并非計算機時代的產物,但計算機卻成了算法蓬勃發展的基石,所以信息化語境下的算法是計算機算法(Computational Algorithms)的同義語,是指運用算術運算的編程語言和數學對象(數字、數組、列表、圖形、樹等)進行任何定義明確的計算性指令[4]。算法并非完全中立的,它憑借其天然的復雜性、隱蔽性與網絡效應廣泛性等特點,將社會帶有某種偏見的觀點或瑕疵數據有意無意地嵌入算法代碼中。因此,老年人算法歧視,是指嵌套著傳統老年人社會歧視偏見與制度缺陷的算法決策系統(Algorithmic Decision-making Systems,ADmS)在深刻影響對老年人群體的市場規制與社會治理過程中形成的對老年人群體給予算法排斥或算法差別性不公平對待的新的歧視類型。
人口老齡化是人類社會發展與文明進步的重要體現,也是21世紀全世界共同面對的重大課題[5]。對我國而言,洶涌的人口老齡化與高齡化浪潮在21世紀將持續對我國社會生活的幾乎所有領域帶來不亞于過去的武力擴張、歐洲移民沖擊波和城市演進等人類歷史上任何一次偉大的社會革命所造成的影響[6]。消極老齡化制度立法不僅會增加社會保障費用、加重財政負擔,也會對勞動力市場的短缺帶來影響。能否科學處理好伴隨21世紀始終的人口老齡化與高齡化這一時代挑戰,將最終影響到社會主義現代化強國與中華民族偉大復興中國夢奮斗進程的順利實現。2018年修訂的《中華人民共和國老年人權益保障法》第4條明確將“積極應對人口老齡化”作為國家的一項長期戰略任務,中共中央、國務院2019年印發的《國家積極應對人口老齡化中長期規劃》從頂層設計的角度正式將“積極應對人口老齡化”確定為國家戰略,黨的二十大報告再次明確并強調了要“實施積極應對人口老齡化國家戰略”。
從我國現行法律制度與已有理論研究看,我國現行法律制度不僅存在對老年人在“健康”“參與”和“保障”權益保障方面的“積極性”立法內容不足【目前,無論是《國家積極應對人口老齡化中長期規劃》還是《中華人民共和國國民經濟和社會發展第十四個五年規劃和2035年遠景目標綱要》都僅限于將“積極應對人口老齡化”作為國家戰略與法律制度建設與發展的目標,即到2022年,我國積極應對人口老齡化的制度框架初步建立;到2035年,積極應對人口老齡化的制度安排更加科學有效;到21世紀中葉,與社會主義現代化強國相適應的應對人口老齡化制度安排成熟完備。】,而且有關老年人權利界定與保護方面存在以年齡為唯一界分標準的合理性與制度性“缺陷”。從已有理論研究看,鮮有因應算法時代出現的老年人算法歧視可能產生的網絡效應化的制度性危機而專門進行法治化角度研究的成果。一個完全善意的算法(Well-intentioned Algorithm)很可能會無意中產生有偏見的結論從而歧視受保護的群體[7]183,老年人算法歧視的負面影響將遠超過去任何一種老年人歧視行為,控制算法的主體通過充滿老年人歧視偏見的算法過濾、算法錯誤與數據瑕疵的“算法黑箱”(Algorithm Black-box)[8],將對老年人治理的算法規則外化為一種制度化而不易察覺的“準公權力”[9]客觀存在,進而將傳統的顯性歧視與隱性歧視迭代為新型的算法歧視,讓老年人陷入算法規則馴化下無法自救的平權危機境地[10]。因此,從法治角度對老年人面臨的新型算法歧視問題進行研究,不僅是因應數字經濟時代推進“積極應對人口老齡化”國家戰略發展的內在要求,也有利于我國積極應對21世紀人口老齡化的時代挑戰,提升社會活力與社會福祉水平,保證共同富裕與包容性增長目標的高質量實現。
二、老年人算法歧視的三重解讀
隨著我國互聯網、大數據、人工智能、量子信息和區塊鏈等數字化信息技術的快速發展,數字化服務在改變著人們日常生產與生活方式,讓社會更加高效、便捷的同時,也讓那些因無法及時跟進數字社會發展變化的邊緣化老年人滯留在了“數字鴻溝”(Digital Divide)的彼岸,讓部分老年人因此成為與算法脫節的算法場景外被排斥與歧視的數字化難民群體[11]。即使那些跟進融入算法場景的老年人,也被嵌套社會偏見與制度歧視且具有高度隱蔽性與控制性的“算法黑箱”馴化,導致個人隱私權被侵害并受到各種場景下的ADmS的歧視性對待。毫無疑問,對老年人的算法歧視已經成為信息化時代國家實施“積極應對人口老齡化”戰略的重大阻礙。
(一)技術迭代歧視下老年人的原子型與比特型群體分化
所謂技術迭代,是指通過技術創新的方式實現新興技術對傳統技術的更迭。如果將人類歷史上的每一次工業革命視為一輪大的技術迭代,那么今天以算法為核心的工業4.0時代則是新一輪的以計算機和算法作為主導的技術迭代時代[12]。迭代算法充分利用計算機計算速度快、適合重復計算的特點,可以在不斷飆升的算力環境下動態迭代運行遠超人腦反應速度的ADmS。然而,與我國技術迭代的日新月異形成鮮明對比的是包括老年人在內的網民數量現狀十分不樂觀。中國互聯網絡信息中心(CNNIC)2022年2月發布的第49次《中國互聯網絡發展狀況統計報告》(The 49th Statistical Report on China’s Internet Development)對網民年齡結構的統計分析數據顯示:我國60歲及以上老年網民規模達1.19億[13],占全體網民數量(10.51億)的11.3%。而第七次全國人口普查結果顯示,我國60歲及以上人口為2.64億人,占總人口的18.7%[14]。這就意味著,我國仍約有超過半數(54.9%)即1.45億的60歲及以上老年人極少或沒有接觸互聯網。從上述統計數據可以看出,比特(Bits)世界非線性技術迭代的快速發展正在將以線性發展為主要特征的原子(Atoms)世界[15]的老年人客觀上歧視性地分化為原子型與比特型兩類群體。
人類社會整體對科學技術的認知與駕馭能力始終落后于科學技術自身的迭代進化速度。在自由與民主推動技術迭代并將人類社會推向算法時代的同時,算法也將人們逐漸劃分為三種不平等類型:完全不具備價值的類型、部分有價值的類型和不可或缺的類型[16]。也就是說,由于老年人個體之間存在的身心狀況、經濟狀況、社會狀況以及生活與居住環境等個體與社會不均衡差異現實,導致互聯網與算法正在將老人群體粗化區分為兩類:觸網并受算法規制與馴化的老年人與未觸網的老年人,或稱為比特世界的老年人與原子世界的老年人。未觸網的原子世界的老年人,自然屬于典型的站在“數字鴻溝”[17]彼岸,與技術脫節的算法場景外客觀上被技術排斥與歧視的數字化難民群體,這類老年人群體因沒有用過或不會使用智能終端而導致在日常生產生活或享受社會公共服務時難以融入算法時代的社會場景與行為范式中。而且,隨著“新摩爾定律”[18]支配下技術迭代速度的加快,必將有越來越多的老年數字原住民、數字移民群體因無法跟隨算法迭代進化速度而加入到數字難民隊伍并共存于動態“數字鴻溝”彼岸的原子世界。
(二)算法控制歧視下老年人微粒化與標簽化身份存在
進入了被算法控制的比特世界場景的老年人,被算法用計算機語言解讀為微粒化與標簽化的數字符號身份存在。所謂微粒化,是對算法將人與物甚至人的身體、感覺、思想與狀態等,以無差別的計算機語言的形式表達為元數據(Metadata),進而通過清洗、脫密或脫敏等加工環節后進行確定性信息的輸入與輸出并表現為分散的比特微粒即數字化存在形式的狀態描述[19]184。所謂標簽化,是指運用人工神經網絡(Artificial Neural Networks)機理與模型將融入ADmS控制的比特世界的老年人的職業、經濟狀況、社會狀況、位置、日常健康狀況、行為表現、個人信譽、個人偏好與可信賴度等相關信息分解成更小的組件和搜索模式,按照超出人類個體認知與運算能力的機器人自我算法模式對采集后形成的大數據進行觀察、監視、評價、評估與決定等邏輯層模型與機理的計算[7]187,最終給每一位老年人在比特世界塑造出一個與原子世界對應的“畫像”并予以標簽化的分析與加工過程。通過微粒化與標簽化的計算機語言表達與算法重塑,使算法根據不同場景對老年人“畫像”來予以智能化精準匹配與對待,最終形成了對老年人算法場景下的直接歧視與間接歧視兩種歧視類型。
雖然國家相繼出臺了《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》和《互聯網信息服務算法推薦管理規定》等法律法規對算法歧視進行規范與治理,但對于硬件設備、技術占有與黑箱前后臺信息嚴重不對稱的老年人來說,平臺、APP或網頁端在程序界面與規則設計中存在的難以理解與防不勝防的技術陷阱以及互聯網相關領域“壟斷性”地位的影響力,客觀上強迫老年人在“非自愿”場景下完成了“點擊即同意”放棄隱私信息的“自愿”選擇動作【中國互聯網協會發布的《中國網民權益保護調查報告(2021)》顯示,有超過6成網民的個人隱私即網上活動信息如年齡、職業、通話記錄、IP地址、網站瀏覽痕跡、網絡交易記錄以及地理位置等被泄露。】。無論是互聯網電商平臺、網頁端還是各類APP,仍然存在典型的利用超級算法對基于過度采集占有的老年人群體隱私信息的大數據進行分析識別,為所有觸網的老年人建立起比特世界“千人千面”虛擬畫像庫【雖然《中華人民共和國個人信息保護法》《互聯網信息服務算法推薦管理規定》和《生成式人工智能服務管理暫行辦法》均在不同程度上要求算法開發與使用主體加強對互聯網用戶模型和標簽的管理,但由于算法的技術復雜性,決定了目前立法并不能從根本上禁止和杜絕該類行為。】。由于算法本身的偏見或算法所依賴的數據可能存在瑕疵,決定了算法對老年人進行數字化畫像塑造的結果有意或無意地攜帶天然的數字化歧視基因。同時,“算法黑箱”利用超級算力在幾乎感覺不到的微秒級時間內基于比特世界每位老年人的特定數字畫像與價值標簽將老年人動態識別為符合某種條件與不符合某種條件兩種類型,實行針對性的差異化推薦營銷或定價策略,導致老年人在不同場景被ADmS排斥或不公正對待的歧視性結果成為常態。這種算法對老年人微粒化進而標簽化后利用ADmS進行直接歧視與間接歧視的行為不僅剝奪了老年人積極參與社會活動的某些權利,損害了老年人公平交易的權益,也破壞了市場公平交易的競爭秩序,與“積極應對人口老齡化”國家戰略相背離。
(三)法律本質主義年齡歧視下的制度性“缺陷”
1969年,羅伯特·巴特勒(Robert Butler)首次使用了“年齡歧視”【年齡歧視包括所有年齡組和所有可感知年齡的歧視問題,但鑒于針對老年人的年齡歧視與偏見問題更為明顯,文中的年齡歧視專指老年人年齡歧視。】一詞,他將年齡歧視描述為“一個年齡組對其他年齡組的偏見”[20]49,老齡化研究的核心概念之一是年齡本身的意義,年齡分化(Age Differentiation)、年齡分級(Age Grading)與年齡分層(Age Stratification)影響著一個人在不同年齡期間的不同行為和態度[21]。但《中華人民共和國老年人權益保障法》第2條卻仍將老年人的法定年齡界定為60周歲及以上的公民,并以此為標準圍繞老年人建構相應的社會保障制度體系。這種以年齡為認定標準的立法條款除將達到60歲及以上的人們打上老年人群體的社會與制度性歧視烙印外,也直接影響到了“超齡”個體最為重要的一項權益,即勞動法意義上勞動者的主體資格認定問題。這就意味著,人們只要達到60歲【《國務院關于工人退休、退職的暫行辦法》《國務院關于安置老弱病殘干部的暫行辦法》以及公開的延遲退休方案內容顯示,雖然現行暫行辦法規定一般情況下男性60周歲、女性50周歲、女干部55周歲退休,但未來男女退休年齡將拉平為60周歲。】即不再屬于勞動法意義上的勞動者,其勞動權益不再受以《中華人民共和國勞動法》為核心的相關法律法規的保護。現行以年齡為權利界定標準的立法越來越暴露出與個體權利和社會實際相脫節的一面,衍生出客觀年齡歧視老年人的負面法律效果與社會效果,不僅在法律的適用過程中不能起到切實保護老年人群體合法權益的作用,不符合退休制度在內的社會保障制度的創設初衷,也實質背離了“積極應對人口老齡化”國家戰略。
算法對老年人的歧視之所以引起社會各界的廣泛關注和討論,算法本身存在的時間復雜度與空間復雜度【時間復雜度是指不同函數下的算法運行速度,空間復雜度是指算法運行所需要的存儲空間,二者共同決定了算法的運行效率。】疊加嵌套于算法中的各種組件、組合與層級嵌套形成的“算法黑箱”是重要原因之一。除此之外,如果現行法律法規存在內在瑕疵與缺陷,導致老年人面對算法歧視等形式上并不明顯違法但實質上卻不符合公平與正義的客觀現實問題時,無法通過現行法律法規進行合法性權益主張的“法律失靈”現象也是不容否認的“制度缺陷”。如果不能及時糾正因“制度缺陷”帶來的“法律失靈”現象,平臺、APP與網頁端就可以堂而皇之地利用互聯網的規模效應與網絡效應等將現行法律法規中存在的“年齡歧視”等立法不足或缺陷問題給予合法化“承認”并無限放大,必然實質有損于老年人的應然權利與權益,背離“積極應對人口老齡化”國家戰略,不符合老年人行為能力的內在實質與《聯合國老年人原則》提及的以“獨立”和“參與”為核心的五大基本原則。
三、老年人算法歧視的危機本質
根據前述老年人算法歧視的三重解讀,對老年人算法歧視危機背后的本質原因進行理性分析,不僅有助于針對性地完善老年人社會保障法律制度體系,而且有助于完善符合數字經濟時代一般規律的數字化治理體系。
(一)“前喻文化”與數字鴻溝視角下的老年人差異化
針對老年人群體算法歧視的出現不僅具有必然性,也具有現實客觀性。享有“人類學之母”盛譽的美國學者瑪格麗特·米徳(Margaret Mead)根據代際文化與知識學習方向的不同將文化劃分為后喻文化(Postfigurative)、并喻文化(Cofigurative)和前喻文化(Prefigurative)三種[22]1。工業革命以后,隨著傳統社會共同體結構的分解與新的社會共同體結構的逐漸形成[23],年輕人開始從向長輩學習轉到了向同輩學習的并喻文化時期,隨著工業社會進程的不斷加快,作為過渡的并喻文化模式快速切換到了長輩向年輕人學習的前喻文化時期。而且,由于老年人之間在個體身心狀況、居住環境、家庭狀況、健康與生活質量以及醫療狀況等方面存在巨大的數字發展起步線差異,這種社會發展與現實差異導致的知識鴻溝使部分老年人群體因接受能力不足而慢慢地被年輕人甩在身后并逐漸成為被孤立起來的代際群體,閉環系統的社會必須讓位于開放系統的社會[22]61。
工業革命的不斷深入發展使得以核心家庭(Nuclear Family)、大家庭(Extended Family)與當地的核心社群(Local Intimate Community)為傳統社會表征的三大核心框架逐漸解體,國家(政府)與市場取代了核心家庭與大家庭大部分的經濟與政治作用,國家與市場塑造出“想象的社群(共同體)”(Imagined Communities)替代傳統的地方社群以滿足成員間的情感需求,社會結構與社會秩序在被工業文明帶來危機的同時也展現出其不斷變革的活力與進步[24]。對于老年人而言,伴隨著傳統社會結構的瓦解[25],其不僅喪失了原有后喻文化時期的知識與文化傳授權威地位,而且在從并喻文化模式切換到前喻文化模式之后,知識與文化的學習與交流環境也發生了很大的變化。由于青年人大都加入了工業化與城鎮化的發展進程,老年人的居住與生活環境決定了他們已經失去了像傳統社會那種朝夕相處的可以向青年人及時學習的社會條件。而且,以大數據、云計算、人工智能和區塊鏈為代表的工業4.0時期信息技術的快速發展與迭代,也讓越來越多的老年人既跟不上這一發展速度,也越來越難以理解和掌握信息技術的基礎性內容。因此,面對信息技術發展迭代下的平臺、APP或網頁端操作,越來越多的老年人不僅在操作方面存在現實技能障礙,而且他們在嵌套了先天偏見與復雜層級的高度隱蔽的“算法黑箱”面前,除了“自愿”接受,沒有任何討價還價的余地。當然,由于老年人之間存在個體身心狀況、經濟與社會狀況等方面的巨大現實差異,導致面對這樣一種工業4.0時代算法場景,老年人的差異化群體現狀必然出現并持續存在。因此,國家既要從權利本體的角度對算法場景內比特世界的老年人給予應有的市場角度公平對待,又要對算法場景外原子世界的老年人同步建構與完善公平、合理的社會保障制度,最終賦權所有老年人應有的社會參與權與社會福利待遇以應對社會發展的負效應[26]。
(二)“算法黑箱”下的老年人畫像與場景歧視
對老年人比特世界的畫像塑造與管理的算法是建立在從真實社會中抽取的各類數據基礎上,疊加編程者偏見形成的嵌套各種組合與復雜層級結構的程序性指令。老年人畫像的形成是指程序終端控制主體通過算法對老年人的工作與生活表現、個人或家庭經濟狀況、所在位置、日常健康狀況、行為表現、個人信譽、個人偏好與可信賴度等進行數據采集(利用移動終端的相機、麥克風、設備信息和終端軟件Cookie或第三方SDK進行敏感數據收集)、數據整理(標注、清洗、脫密、脫敏等)、數據聚合(數據傳輸、存儲與匯聚)與數據分析(對實際占有的數據進行目的性研究分析)后,對老年人的角色(Persona)與屬性(Profile)進行識別,形成老年人個人數字化身份性質的數據畫像(Profiling)[27]26-37。因此,進入算法場景的老年人首先可能遭遇的歧視,就是受制于嵌套偏見與復雜規則的算法塑造的老年人畫像本身可能存在的比特世界身份定位歧視。另外,從微粒化的角度分析,算法通過模型全生命周期運行完成了對人與物的差異化革命、智能革命與控制革命三個階段[19]XI-XV。平臺、APP或網頁端利用ADmS根據不同場景對老年人數據畫像作出排斥或不公平對待的各種數字化決定,形成了“算法黑箱”下老年人場景歧視的直接歧視和間接歧視兩類歧視類型。
算法利用老年人數據畫像進行主體排斥的直接歧視與不平等對待的間接歧視的差異化自動化決策計算,本質上是算法控制主體利用信息平臺矩陣對老年人進行各種精準化信息投放與喂養后,通過過濾氣泡與回聲室效應在老年人的線上世界形成信息繭房的數據畫像塑造,進而利用算法天然的“算法黑箱”模型與機理制造出普通人難以察覺、難以發現也難以證實的自動化、智能化、批量化、系統化“偏見代理”“特征選擇”與“大數據殺熟”[28]等算法歧視類型。以百萬粉絲網紅“俄羅斯娜娜”和“保爾·柯察鐵”為代表的黑產團伙,以及利用AI換臉與算法信息流投喂,將中老年人作為收割對象的大量的爆款雞湯、反智謠言、精神荼毒、誤導消費和“殺豬盤”等各類層出不窮的互聯網陷阱與騙局幾乎將所有進入算法場景的老年人打上被算法歧視的數字化標簽與烙印的情形仍然如火如荼、方興未艾。同時,在沒有數字化法治強力介入的情況下,由老年人微粒單體構成的高度解析化的比特世界共同體將會形成一種“完全的競爭社會”秩序,老年人個體差異越大,競爭就越激烈;而競爭越激烈,差異就越大[19]42-43。因此,在我國現有法律法規尚不能完全監管、規制與治理的制度場景下,算法可以根據老年人線上數字化身份畫像進行直接歧視,即拒絕老年人參與相關領域如平臺靈活用工的排斥性決策,也可以根據老年人線上數字化身份畫像進行間接歧視,如偏見性甚至壟斷性競價排名、差異化對待與忽略社會責任的不公平市場交易決策等。
(三)年齡歧視“法律失靈”的法理透視
年齡歧視是一種與種族或性別歧視具有同樣性質的歧視類型,這種因循傳統社會話語建構的老年人群體可能具有的某些共同屬性或特征去否定所有人的做法是錯誤的[20]47。雖然從科學的角度看,年齡的變老與身體的虛弱之間大概率呈正比例關系,但變老是一個積極、健康、快樂的過程,且個體的健康受多種因素影響而具有明顯的差異性[29],用“年齡”這一單一指標對所有達到某個年齡標準的群體進行同質化定義,并因此固化其社會角色進而給予制度性限制、歧視或排斥顯然是不合理、不科學的。年齡歧視也因此成為聯合國與世界衛生組織“積極老齡化”戰略框架[30]努力消除的老年人歧視核心目標。我國現行法律法規與司法實踐在對待公民個體的平等社會參與權方面均未突破以年齡為界分標準的內在固有歧視理念,對尚具有與“非老人”相同的完全行為能力的“老年人”進行區別化對待。不僅對“老年人”應然的平等社會參與權給予了“法定排斥”,與“積極應對人口老齡化的”國家戰略相沖突,也為算法歧視老年人提供了公然的合法化制度場景,造成了“法律失靈”的法律效果與社會效果。
以老年人社會參與權中最核心的勞動權為例,從老年人群體迭代的歷時性宏觀層面看,現行《國務院關于工人退休、退職的暫行辦法》有關公民退休、退職的年齡規定形成于20世紀70年代。而國家衛健委發布的《2019年我國衛生健康事業發展統計公報》顯示:現代居民人均預期壽命達77.3歲,比1981年居民人均預期壽命增加了近10歲,而且這一數字還在不斷增長中。然而,頒布于1978年的《國務院關于工人退休、退職的暫行辦法》所規定的工人退休年齡標準并未跟隨老年人群體迭代發展過程中人均預期壽命的增長而同步改變,不符合勞動者個體與現實社會發展的實際情況。將部分身體、智力與精神狀況與其他非老年人無實質性差別且具有強烈就業意愿的老年人“一刀切”地制度性否定其“勞動法上的勞動者”權利與資格,不僅實質上剝奪了這部分老年人的勞動就業權,否定了老年人個體就業自主權,與勞動法立法的基本原則相矛盾,而且客觀上也是對老齡勞動者的一種間接歧視,不符合勞動法全面、平等保護勞動者合法權益的基本原則。從承擔風險分散功能的社會保障法[31]的角度看,以年齡為界分點將達到法定年齡的老年人默認為已經“喪失勞動者資格”,進而將之歸入社會保障法律制度體系中,享受國家和社會提供的社會保障待遇,既不符合國家宏觀經濟與財政預算積極與健康運行的要求,也完全不符合社會保障法的功能設計與本質要求。因此,以“年齡”作為區分是否為老年人的標準,進而將之“強制性”地從勞動法領域推入社會保障法領域,必然導致兩大法律制度體系之間產生明顯的價值沖突,背離“積極應對人口老齡化”國家戰略的要求,導致現行與之有關的老年人法律制度呈現“失靈”狀態。
四、老年人算法歧視的法治應對路徑選擇
以數字化轉型驅動社會生產與生活方式和國家治理方式的變革,是中國未來數字經濟發展方向的必然面對與選擇。如果道德、法律、倫理與公共事務等問題被帶有偏見可能的簡單的ADmS技術所控制,我們該如何應對?對此,科技互聯網專家葉夫根尼·莫羅佐夫(Evgeny Morozov)認為:只要有足夠多的應用程序(Apps),人類所有的錯誤(Bugs)都是不足為懼(Shallow)的。技術可以讓我們更好,也能夠讓我們更好[32]。因此,面對老年人算法歧視新問題的產生與加劇,必須從科學規制老年人歧視的“算法黑箱”、老年人群體分層主體權利回歸與“積極應對人口老齡化”制度有效銜接角度,在立法與監管層面完善老年人數字化治理法律制度體系,不斷提升國家治理體系與治理能力現代化水平。
(一)用分層理論完善老年人法律制度以糾正“法律失靈”
對算法歧視的老年人進行研究的分層理論,雖源于社會學中的社會分層理論,但社會分層本質上是指各群體對社會資源的占有分布,以不同的包括生產資料資源、財產或收入資源、市場資源、職業或就業資源、政治權力資源、公民權利資源和人力資源等資源占有分布為標準可以將社會群體分為不同的階層[33],而算法歧視下的老年人分層是以老年人自身行為能力和駕馭信息技術能力為標準進行的差異化分層。
應對老年人年齡歧視的最有效手段是從制度上消除老年人年齡歧視,并禁止個人對老年人的年齡歧視[34]3-4。以老年人自身行為能力為標準對老年人進行分層,本質上是對聯合國與世界衛生組織消除“年齡歧視”戰略框架方案的踐行,是落實我國“積極應對人口老齡化”戰略的核心與理論基石。因此,未來立法應淡化或消除“年齡歧視”、糾正“法律失靈”,在參照《老年人能力評估規范》國家標準中的自理能力、運動能力、精神狀態、感知覺與社會參與一級指標并輔以二級指標認定標準與框架基礎上重構老年人行為能力劃分體系,根據當事人或用人單位的申請將老年人區分為完全無行為能力人、限制行為能力人與完全行為能力人三類,建構以老年人實質行為能力為核心標準、年齡為輔助標準的劃分體系,從立法角度加大對完全無行為能力老年人的社會保障力度,賦予限制行為能力老年人自主選擇權,給予完全行為能力老年人非“年齡歧視”的無差別平等社會參與權。國家互聯網信息辦公室發布的《生成式人工智能服務管理暫行辦法》第4條,以及其發布的《移動互聯網未成年人模式建設指南(征求意見稿)》對移動智能終端、應用程序與應用程序分發平臺根據不同年齡階段的未成年人進行“分齡”的未成年人模式設計要求,都為以年齡為維度的老年人算法歧視與算法誘導的分層規制制度設計提供了基礎性法理支撐。
以老年人駕馭信息技術能力為標準,是以老年人駕馭信息溝通技術(Information and Communication Technologies,ICTs)的能力為維度對老年人數字不平等現狀進行的一種客觀描述。老年人駕馭ICTs的能力受制于主觀與客觀兩個方面,主觀上主要是個人的智力程度、知識占有與個人對算法社會的接納程度,客觀上主要是自身的身心狀況、經濟狀況、家庭與社會居住環境及硬件條件占有等。ICTs維度標準結合老年人的主客觀條件可以將老年人分為算法場景外的老年人群體與算法場景內的老年人群體,同時,由于比特世界并未消弭原子世界的社會差異,所以算法場景內的老年人群體疊加原子世界社會分層標準再現比特世界后幾乎復制了原子世界個體間的差異,并被ADmS重塑為更為復雜的分層數字化存在。因此,未來立法應以ICTs維度標準為參照,對算法場景外的老年人因循和保留傳統社會參與的基礎條件與設施外,合理安排老年人在原子世界與比特世界之間必要的過渡如教育培訓等,以提升算法素養,努力建構友好型人機協同與相互感知(Affective)[35]新范式;同時,強化對算法場景內老年人的反數字歧視監管與治理,以保障老年人的數字平等參與權和數字安全交易權。
(二)建立數字孿生法律制度嵌套規制老年人歧視“算法黑箱”
數字孿生法律制度是因應算法時代對老年人歧視的數字化規制內在要求,按照“以算治算”的理念,用算法與區塊鏈技術將以公平與正義為核心的法律價值理念嵌套其中,實現對老年人算法歧視進行追溯、評估、審計與規制的數字化法律制度。“算法黑箱”的不透明、模糊與瑕疵決定了數字孿生法律制度以提高算法的透明度、確定性與完美度為追求目標,但建構數字孿生法律制度規制老年人歧視“算法黑箱”是為了對控制算法的主體或關聯主體實現問責等目的的技術性手段,規制的范式必須嚴格區分公權力與公權力以及公權力與私權利之間的界限,防止監管權力被濫用后給用戶隱私、企業商業秘密或政府機密信息等帶來不確定性風險,同時,數字化監控須協調好市場與行政效率之間的關系。
對老年人算法歧視的法律規制應堅持分層、分級、分場景的治理理念,強化數字化協同治理體系的建構。當前,我國政府為反對老年人算法歧視和推動互聯網適老化進程,已經采取相關措施以加強對老年人的算法保護。2020年以來,國務院及相關部委先后發布了《關于切實解決老年人運用智能技術困難的實施方案》《關于進一步抓好互聯網應用適老化及無障礙改造專項行動實施工作的通知》《關于切實解決老年人運用智能技術困難便利老年人使用智能化產品和服務的通知》《互聯網網站適老化通用設計規范》和《移動互聯網應用(APP)適老化通用設計規范》等一系列規范性文件,為老年網民更加深入地融入算法場景生活、共享算法時代紅利創造便利條件[36]。
但目前對老年人算法歧視的法律規制工作大都聚焦于對算法場景外老年人的互聯網適老化算法素養的強化方面,應進一步加強算法場景內反對老年人算法歧視的法律規制力度。2022年3月1日起施行的《互聯網信息服務算法推薦管理規定》第19條有關智能化適老服務的規定,以及《生成式人工智能服務管理暫行辦法》提出的分類分級監管等原則即是對包括未成年人與老年人群體在內的算法場景內群體踐行算法模型運行全過程數字孿生法律制度分層、分級、分場景算法規制理念的數字化協同治理體系的重要依循。從算法大模型設計與訓練的可解釋性角度看,由于機器學習與深度學習中算法的高度復雜性,決定了對算法歧視老年人問題的法律規制須從強化算法主體的自我治理與完善算法問責法律制度兩方面入手,前者需要參照聯合國教科文組織通過的全球首個AI倫理協議《人工智能倫理建議書》(Recommendation on the Ethics of Artificial Intelligence)提出的“透明性與可解釋性”原則,加強人工智能與算法的可解釋性(Explainable Artificial Intelligence,XAI),后者可參照歐盟《數字服務法案》(Digital Services Act,DSA)、《數字市場法案》(Digital Markets Act,DMA)、《人工智能法案》(Artificial Intelligence Act,AIA)與《通用數據保護條例》(General Data Protection Regulation,GDPR)等,區分AI與算法的風險等級,在現行立法基礎上,從AI與算法全周期即事前、事中與事后的全過程全鏈條監管的角度進行實時、動態監管,建構起既符合技術發展與算法動態變化場景要求,又能保證時效性、靈活性和安全保障性的數字孿生法律監管與協同治理制度體系。
(三)賦予老年人算法自決權以推動“積極應對人口老齡化”國家戰略
不同國家的年齡歧視立法目的并非完全相同。歐盟與英國強調反對年齡歧視的目的是為了將老年工人納入勞動力隊伍以提高社會的生產效率優勢。也有國家認為,可以通過避免偏見和排斥老年工人而在專業知識和經驗方面受益。這種工具性方法與以反歧視為目的的立法均強調保護個人尊嚴與尊重老年人的自決權[37]。為轉變年老必衰的陳舊觀念,讓有勞動能力與意愿的老年人平等參與社會各項工作,讓需要照顧的體弱或特殊情況老年人得到應有的幫助,聯合國大會在1991年以第46/91號決議通過的《聯合國老年人原則》中將“獨立、參與、照顧、自我充實與尊嚴”確定為老年人五大基本原則。該五大原則本質上與上述分層理論標準下積極老齡化的理念一致,如果說“照顧”“自我充實”與“尊嚴”三大原則是在傳統養老保障制度價值基礎上的抽象與完善,那么“獨立”與“參與”則是對“積極應對人口老齡化”戰略的突出強調與目標追求,“獨立”是“參與”的前提,“參與”是“獨立”的具體體現,二者相輔相成、互為補充。
“沒有我們的參與,一切對我們都沒有意義”(Nothing About Us Without Us)這句口號原為殘疾人權利運動(Disability Rights Movement,DRM)提出,因為社會各方面對殘疾人的壓迫與歧視,DRM通過提出這一口號表達對政府控制殘疾人權利與發聲治理模式的反抗。DRM代表人物Ed Roberts認為,當別人為你說話時,你就輸了[38]。從本質上看,DRM的權利主張體現了一種群體自決權,這一群體自決權同樣也適用于老年人這一特殊群體,在算法場景下則表現為一種算法自決權。所謂算法自決權不僅指老年人有權選擇在算法場景內自主決定其“獨立”與“參與”社會的行為內容,而且包括拒絕進入算法場景、在算法場景外即傳統社會場景“獨立”與“參與”社會的權利。因此,建立和完善規制老年人算法歧視問題的法律制度體系須賦予老年人參與規則制定自決權、ADmS場景選擇自決權及算法時代社會參與的自決權三項核心自決權。
算法時代老年人自決權的賦予與回歸并非否定政府對老年人算法歧視規制的“守門人”角色。由于算法天然的復雜性、隱蔽性與專業性等特點,導致被賦予算法自決權的老年人不可能完全了解和掌握算法可能存在的風險,因此,應參照歐盟GDPR、AIA、DSA和DMA等法律制度中有關AI與算法倫理和法律治理框架,將不同應用場景下的算法風險進行等級劃分[39],對不可接受的風險嚴格禁止,對高風險嚴格監管,將老年人的算法自決權限定在有限風險或最小風險類場景內,以充分保證在老年人基本人權與社會安全均不受AI與算法明顯威脅的前提下,推動算法時代“積極應對人口老齡化”這一國家戰略得到健康有效執行。
結語
大數據、云計算、移動互聯網、人工智能、區塊鏈、虛擬/增強/混合現實等一系列新技術的涌現與迭代發展,讓以算法為支撐的信息技術應用深度融入了人們的各種工作與生活場景。算法在推動科技發展和給社會帶來便捷與高效的同時,也將老年人推入了算法外與算法內雙重場景并行歧視的新的危機境地。與傳統老年人歧視不同的是,老年人算法歧視不僅將傳統社會歧視與法律制度內在的對老年人的歧視理念與規則嵌套于復雜且隱蔽的算法中,而且由于其疊加了大數據的碎片化存儲、深度學習算法的“隱層”黑箱以及互聯網的雙邊效應與擴大效應[40],使得老年人算法歧視的影響與負面危害遠遠超過了傳統老年人歧視的影響。
對老年人算法歧視的法治應對并非獨立于其他算法規制的法律制度而存在,而是算法時代法律制度體系的重要組成部分,算法時代對AI與算法的科技倫理治理與法律規制的框架邏輯基本一致。因此,對老年人算法歧視的法律規制應在努力提升老年人算法素養基礎上[41],賦予老年人算法自決權,對算法場景外原子世界的老年人,重點應該放在因循原有社會保障制度以及人機協同場景的適老化銜接方面,對算法場景內比特世界的老年人算法歧視的規制重點則須放到提升算法的透明性與可解釋性、算法監管、算法影響評估[42]與算法治理等方面。算法天然的復雜性、專業的隱蔽性與互聯網效應影響的廣泛性決定了單靠國家監管機構無法完成有效監管,須得主導監管機構(Lead Supervisory Authority)[27]31與決策者、行業人士、學術專家、從業人員、社會公共機構,以及公眾等多元主體一同參與到AI與算法的技術治理中,科學處理好創新發展與公平競爭、便捷效率與監管控制,以及算法主體自主靈活與個人隱私和社會公共安全之間的關系,建立起社會各界廣泛參與和跨學科研究的新的協同共治新范式。在規范與老年人有關的算法開發與控制主體對算法的可解釋性原則、方法與方案以及加強對技術發展的可能風險與防范進行預警性思考(Precautionary Thinking)的前提下,完善對AI與算法的監督與問責法律制度,以確保科技向善和算法造福老年人。
參考文獻:
[1] 姜兆萍,周宗奎.老年歧視的特點、機制與干預[J].心理科學進展,2012(10):1642-1650.
[2] SARGEANT M.Age discrimination and diversity:Multiple discrimination from an age perspective[M].New York:Cambridge University Press,2011:1.
[3] WIENER R,WILLBORN S.Disability and aging discrimination:Perspectives in law and psychology[M].New York:Springer,2011:37-38.
[4] PORTUESE A.Algorithmic antitrust[M].Switzerland:Springer,2022:4-5.
[5] 盧守亭,賈金玲.人口老齡化與養老服務體系建設[M].北京:社會科學文獻出版社,2018:1.
[6] ALAN P,BRONTE L.Our aging society,paradox and promise[M].New York:W.W.Norton and Company,Inc.1986:3.
[7] BARFIELD W.The Cambridge handbook of the law of algorithms[M].New York:Cambridge University Press,2021.
[8] EBERS M,NAVAS S.Algorithms and law[M].London:Cambridge University Press,2020:48.
[9] 崔靖梓.算法歧視挑戰下平等權保護的危機與應對[J].法律科學(西北政法大學學報),2019(3):29-42.
[10] 孫瑜晨.老年人數字成癮的體系化治理[J].中國特色社會主義研究,2023(1):69-80.
[11] 劉文靈.“數字難民”的非數字化困境[J].傳媒觀察,2021(3):20-25.
[12] 王舒曦,孫葉青.技術迭代背景下領導干部創新思維的生成邏輯、運作機理及實踐要求[J].中共中央黨校(國家行政學院)學報,2021(2):127-136.
[13] 中國互聯網絡信息中心.第49次中國互聯網絡發展狀況統計報告[R].2022.
[14] 尹琨.老年閱讀:不只是加大字號那么簡單[N].中國新聞出版廣電報,2022-01-10(002).
[15] NEGROPONTE N.Being digital[M].London: Hodder amp; Stoughton,1995:11-17.
[16] HARARI Y N.Homo Deus:A brief history of tomorrow[M].Toronto:Signal,2016:300-305.
[17] 魯迎春,唐亞林.數字治理時代養老服務供給的互動服務模式:特質、問題及其優化之策[J].南京社會科學,2020(7):51-59.
[18] 龔翔.“摩爾定律”與“新摩爾定律”[J].航空計算技術,2001(1):25.
[19] 庫克里克.微粒社會[M].黃昆,夏柯,譯.北京:中信出版集團,2017.
[20] SARGEANT M.Discrimination and the law[M].New York:Routledge,2018.
[21] MOODY H R,SASSER J R.Aging: Concepts and controversies[M].California:SAGE,2018:36.
[22] MEAD M.Culture and commitment:A study of the generation gap[M].New York:Natural History Press/Doubleday amp; Company,Inc.,1970.
[23] 拉德布魯赫.社會主義文化論[M].米健,譯.北京:法律出版社,2006:63-64.
[24] HARARI Y N.A brief history ofhumankind[M].Toronto:McClelland amp; Stewart Limited,2014:294-303.
[25] 李志強,劉光華.現代法治語境下的孝道制度建構[J].中州學刊,2014(3):103-108.
[26] 鄭尚元.社會保障法[M].北京:高等教育出版社,2019:27.
[27] 京東法律研究院.歐盟數據憲章:一般數據保護條例GDPR評述及實務指引[M].北京:法律出版社,2018.
[28] 鄭智航,徐昭曦.大數據時代算法歧視的法律規制與司法審查:以美國法律實踐為例[J].比較法研究,2019(4):111-122.
[29] PRENDERGAST D,GARATTINI C.Aging and the digital life course[M].New York,Oxford:Berghahn Books,2015:4-7.
[30] World Health Organization.Active ageing:A policy framework[R].2002.
[31] 李珍.社會保障理論[M].北京:中國勞動社會保障出版社,2013:5.
[32] EVGENY M.To save everything,click here: Smart machines,dumb humans,and the myth of technological perfectionism[M].New York:Perseus Books,Public Affairs,2013:X.
[33] 李強.社會分層十講[M].北京:社會科學文獻出版社,2011:12-22.
[34] SARGEANT M.Age discrimination in employment[M].Hampshire:Gower,2006:3-4.
[35] 矢野和男.人生新算法[M].范欣欣,譯.南昌:江西人民出版社,2018:270.
[36] 中國互聯網絡信息中心.第 48 次中國互聯網絡發展狀況統計報告[R].2021.
[37] FREDMAN S.Discrimination law[M].New York:Oxford University Press,2011:105.
[38] CHARLTON J.Nothing about us without us:Disability oppression and empowerment[M]. California: University of California Press,2000:3-4.
[39] KOP M.EU Artificial Intelligence Act:The European approach to AI[J].Stanford-Vienna Transatlantic Technology Law Forum,Transatlantic Antitrust and IPR Developments,Stanford University,2021(2):1-11.
[40] 趙萬里,謝榕.數字不平等與社會分層:信息溝通技術的社會不平等效應探析[J].科學與社會,2020(1):32-45.
[41] 劉曉娟,謝瑞婷.歐洲老年人數字素養項目的實踐經驗與啟示[J].圖書情報知識,2023(2):117-130.
[42] EUROPEAN PARLIAMENTARY RESEARCH SERVICE.A governance framework for algorithmic accountability and transparency[R].2019.
Legal regulation of algorithmic discrimination in the elderly
LI Zhiqiang
(Law School, Lanzhou University, Lanzhou 730000, P. R. China)
Abstract:
The social and institutional bias of discrimination against the elderly is embedded in the algorithm black-box, which not only technically solidifies the traditional concept of social construction of discrimination against the elderly, but also intensifies the implicit discrimination against the elderly group, forming a deviation from the national strategy of active aging. The algorithm, based on the rapid iterative development of digital information technologies such as the internet, big data, artificial intelligence, quantum information, and blockchain, not only discriminates against the elderly technically into atomic and bit-based groups, directly or indirectly discriminates against the elderly in bit-based groups in a granular and labeled manner, but also utilizes its characteristics of time complexity and spatial complexity, legitimately recognizes and unlimitedly amplifies legislative deficiencies such as age discrimination in current laws and regulations, which substantially damages the legitimate rights and interests of the elderly population. By interpreting the reasons for the three main types of discrimination experienced by the elderly after the addition of algorithms, it is clear that under the background of social changes and technological development, the elderly are simultaneously facing the dual impact of the prefigurative culture intergenerational gap and the technological iteration digital gap. Elderly people entering the bit world scene still face automated decision-making discrimination situations such as direct exclusion or unfair treatment of indirect discrimination created by algorithms with nested biases and complex rules. The current legislation in China regarding the definition of a single age dimension for elderly people and the provisions on retirement of elderly people not only ignore the individual differences of elderly people, but also deviate from the actual situation of social development, which do not meet the functional design and essential requirements of the social security law. Therefore, a top-level design should be carried out from the perspective of the rule of law to regulate the practical contradictions and development paradoxes between algorithmic discrimination and active aging national strategy, which involves using hierarchical theory to improve the legal system for the elderly to correct institutional deficiencies under age discrimination based on legal essentialism, deconstructing digital twin legal system to regulate elder discrimination nested algorithm black box, and empowering the elderly with the right to self-determination through algorithms to actively promote the national strategy of active aging, to balance the interest relationship between the development of science and technology and the protection of the rights and interests of the elderly, and to ensure that technology is good and algorithms benefit elderly people.
Key words:
elderly; active aging; digital divide; algorithmic discrimination; legal failure
(責任編輯 胡志平)