999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看 ?

數字經濟背景下人工智能發展對女性就業影響的研究

2024-06-03 14:46:06牛建國夏飛龍蔣鑫
當代經濟管理 2024年6期
關鍵詞:人工智能

牛建國 夏飛龍 蔣鑫

[摘?要]人工智能正在從根本上改變生產和生活方式,但其潛在影響在很大程度上仍然是抽象和不確定的。一方面,人工智能非帕累托式技術進步對包括女性在內的就業市場產生顯著、多維度沖擊,人工智能系統對性別偏見的“再生產”將提高女性就業門檻;另一方面,人工智能技術發展可抑制“貪婪”工作的負外部性,增加靈活性供給,降低女性選擇成本,人工智能發展引致的“情感經濟”傾向于強化女性在情感、社交技能方面的稟賦優勢,提升其在就業市場中的地位。在與人工智能的“競賽”中,應加速產業轉型升級、加快崗位和勞動任務調整、促進高質量女性就業,塑造適應新技術發展、面向人工智能未來的女性教育和培訓體系,優化生育政策激勵、完善社會化服務,探索高質量人工智能治理、積極參與全球人工智能治理合作。

[關鍵詞]人工智能;勞動力市場;女性就業

[中圖分類號]??F249.2;F49[文獻標識碼]??A[文章編號]??1673-0461(2024)06-0087-10

2016年3月,DeepMind公司研發的AlphaGo擊敗世界頂級圍棋選手李世石。在這場人類與算法的歷史性較量中,人類首次負于被算法武裝的機器,這一事件在動搖了人類智慧優越感的同時,也將人類與機器的“競賽”推向了一個新的階段。2022年底,OpenAI公司推出的ChatGPT3又一次擴展了人類對“高階”人工智能應用前景的想象邊界,世界已經被人工智能的無限可能性所吸引,人們對人工智能變革潛力的興趣和認可度不斷提高。與此同時,我國人工智能市場規模也正經歷著快速增長,2017年至2021年期間的年均復合增長率(CAGR)達到30.5%[1]。

我國在全球人工智能領域處于第一方陣,并已形成了人工智能技術發展的良好基礎。國務院在2017年發布的《新一代人工智能發展規劃》(國發〔2017〕35號)中明確指出,人工智能業已成為國際競爭的新焦點,其作為經濟發展的新引擎、新一輪產業變革的核心推動力量,在重構經濟活動、生產方式、生活方式和思維模式等方面發揮重要作用。此規劃同時指出,作為影響面廣泛的顛覆性技術,人工智能發展存在不確定性,可能對包括就業在內的諸多方面產生重大影響。2023年11月2日,《布萊奇利宣言》的發布則集中體現了全球對于人工智能發展潛力與風險的普遍關切。

實際上,人工智能技術令人矚目的發展與快速迭代已經引發了人們關于技術進步對勞動力市場影響的重新關注。人工智能和智能自動化技術的進步也日益引發人們對失業和不平等程度加劇的擔憂,其中,人工智能技術的發展與應用對女性就業的影響是該領域研究的重要議題之一。從人工智能技術應用落地來看,當前各行業傾向于引入最能服務于其核心功能的人工智能產品,例如,制造業和分銷運輸業主要引入物理機器人和自動駕駛系統。而自然語言處理能力則被那些日常工作中需要處理大量文檔、資料、運營數據的職業活動所采用,這包括商業、法律、金融服務、醫療保健、計算機和信息等行業。隨著人工智能技術創新迭代和應用普及,人工智能對就業市場的影響持續擴大和深入。本文將主要從經濟學視角,圍繞人工智能創新的技術屬性、算法的性別歧視、人工智能技術對女性就業選擇的影響,以及人工智能技術未來發展趨勢下的女性就業地位等方面進行探討,以期豐富和深化相關領域的研究。

一、文獻綜述

從經濟學視角看,技術創新發展對就業市場的影響通常體現為兩類效應,即就業替代效應和就業創造效應[2]。進一步而言,對就業市場的影響又可以分為總量和結構兩個主要維度。針對總量的研究通常在宏觀框架下結合經濟增長、社會福利、收入平等問題進行探討;而針對結構的研究討論又可以從產業、勞動者技能、工作任務屬性、區域、性別等視角進行細分。

(一)人工智能技術與就業總量

對技術創新發展持樂觀態度的研究普遍強調就業創造效應。人工智能技術創新雖然替代部分“傳統”就業崗位,但同時也催生了新的就業崗位,總體上表現為對就業的拉動和對就業崗位的增量補充[3-5],這一點從長期來看似乎更為顯著[6]。創造效應的機制在于人工智能技術可以提高勞動生產率、促進資本積累,以及創造新的勞動任務形式,并在刺激經濟增長的同時擴大了就業需求,而其中新任務創造對就業需求的拉動作用更為突出[7]。部分學者雖然對就業總量的長期狀況并不悲觀,但在收入增長及收入差距方面則表現得較為謹慎。AUTOR和SALOMONS[8]認為,雖然技術進步正在增加就業,但對于勞動力份額,情況并非如此。與此同時,人工智能發展表現出通用目的技術(General?Purpose?Technologies)特征,其所引致的就業“擠出”效應也不容忽視[9]。

強調人工智能技術發展對就業替代作用的研究更多地關注傳統行業(如制造業)所面臨的就業挑戰。多數研究認為,雖然存在行業間的異質性,但總體上智能工業機器人應用推廣所產生的就業替代效應是顯著的[10-11]。強調就業替代效應的觀點認為,人工智能技術不同于其他新興技術,不會僅僅局限于單一領域,它會“入侵”各行各業,將直接對數百個行業以及數百萬個崗位帶來沖擊[12],替代對象不僅包括體力勞動者,還會對具有認知屬性的崗位帶來挑戰。人工智能技術發展的目標似乎非常明確,就是接管人類的工作任務,這直接會導致就業機會的減少。

(二)人工智能技術與就業結構、任務屬性

技術進步推動產業結構調整,產業結構的調整進而導致勞動力要素在不同產業間動態配置。人工智能技術的深入滲透與融合催生新興行業,促進傳統行業勞動力的就業轉移,然后又加速產業結構的調整進程[13]?;谌螽a業劃分視角,目前第一產業的就業總量受人工智能技術影響尚不明顯[10],這與人工智能在第一產業推廣應用的現狀有關,但該影響可能會逐漸加強[14]。相較于第一產業,人工智能技術對第二產業和第三產業的影響卻是顯著的。制造業中首先是勞動密集型和資本密集型行業,由于自動化和智能化技術的不斷采用(如智能機器人等),對其勞動力需求結構產生了重要影響[15-16]。當前,人工智能技術的就業創造效應在第三產業表現較為突出。

人工智能技術對不同類型的勞動力及勞動任務屬性存在異質性影響。孫雪等[17]基于中國省級面板數據的實證研究顯示,人工智能應用可促進教育型和創業型勞動力就業,而對技術型勞動力的就業則存在抑制作用。王林輝等[18]則指出,年齡越大、受教育年限越短的勞動者被替代風險越高。研究還發現,人工智能技術職業替代風險受工作任務屬性的影響,思維類屬性的工作更易被替代,因而拓展職業技能寬度則是降低可替代風險的途徑之一。

(三)人工智能技術與女性就業

總體而言,過往的三次科技革命均顯著提升了女性的勞動參與度,在提升女性就業率的同時也不同程度地提高了女性的工資收入[19],就業的性別參與差距趨于縮小。而作為第四次技術革命代表的人工智能技術對就業市場的性別影響似乎更為復雜,國際勞工組織(ILO)最近的一份研究[20]指出,雖然整體上人工智能對就業的創造效應更大,但在替代效應中自動化對女性就業占比的影響是成倍的。目前,在人工智能對女性就業影響的相關研究中,勞動技能屬性和算法歧視是討論較為集中的領域。

李建奇[21]將理工科技能和社交技能界定為非常規技能,體力技能為常規技能,前者與數字化互補,后者則與數字化互斥。研究認為,相較男性,數字化對女性就業有著更為顯著的促進作用,原因在于女性更能勝任非常規技能。而隆云滔等[22]則認為,在我國由于女性大多從事重復性工作,這類工作正是人工智能機器人取代的對象,所以女性受到的沖擊應相對更大,這一觀點在某種程度上得到了朱軼[23]實證分析結果的支持。朱軼的實證研究結果顯示,隨著數字化技術普及和人工智能技術應用,與女性相比,男性在就業上受益更大,就業率的性別差異擴大。同時,由于人工智能技術的底層邏輯是基于大數據(大模型)的算法,人工智能系統及其“黑匣子”算法可能會對性別平等構成重大挑戰[24]。人工智能系統中的性別偏見導致女性資源、信息和機會的分配不公平[25]。

綜上,關于人工智能技術發展如何影響女性就業的研究仍然處于探討階段,這與人工智能技術仍處于加速迭代的發展階段有著密切關系。人工智能首先表現出一種具有通用目的技術屬性的技術創新和進步,目前從技術進步視角出發的研究主要是圍繞兩個因素展開分析:一是技術創新如何直接塑造就業以及影響勞動力在增值中所占份額;二是該影響在就業和勞動力份額方面的間接效應。不過,人工智能技術與以往技術革命中涌現出的通用目的技術存在著重要區別,這一點削弱了基于歷史數據的研究結論的現實解釋力以及對未來發展趨勢的預見程度。

二、就業市場的沖擊:人工智能技術創新的非帕累托進步

“人工智能”這個概念由約翰·麥卡錫在1956年的達特茅斯會議上首先提出。數字經濟背景下,人工智能技術創新發展突飛猛進,人工智能應用、泛化和遷移加速。人類歷史上的第一次工業革命在其發軔100多年后才擴展到西歐、美國以外的國家和地區,但人工智能技術卻幾乎于同一階段在全球范圍內開始落地。工業革命中,機器是技術創新的物化形式,因其本身就是“能工巧匠”而直接替代了勞動者[26]。針對機器換人,大衛·李嘉圖[27]后期觀點認為這種替代對勞動者是有害的,這一觀點似乎給予“盧德派”以理論上的支持。而當下快速發展的人工智能技術顯現出比過往技術革命中所形成的通用目的技術更為突出的顛覆性。

(一)技術創新與進步并非遵循帕累托最優原則

技術進步可以被視為對生產可能性邊界的跨越。單純市場選擇下的技術進步,其發展速度與方向通常并非最優。人類發展中相當漫長的一段歷史是在所謂的“馬爾薩斯階段”度過的,其主要特征是絕大多數人口生活水平停留在維持生計狀態。工業革命改變了世界,那些高收入國家開啟了快速增長階段,人類幸運地擺脫了馬爾薩斯約束。然而,從歷史發展看,由技術創新和應用推動的工業革命并非帕累托式的技術進步。那些最終被證明對整個社會有益的創新,往往并不能使每個人受益,在過渡期內還可能帶來明顯的斷層。KORINEK和STIGLITZ[28]指出,在合理的經濟學假設下,市場選擇的技術進步速度和方向通常是次優的。創新的分配效應可以被視為準租金生產——除了為創新者帶來直接收益外,創新還會導致要素需求的變化,例如:降低對非熟練勞動力的需求,同時提高對熟練勞動力的需求,受影響的勞動者會經歷收益或損失。該過程中的贏家,例如:新技術應用下的技術工人在沒有為創新作出貢獻的情況下卻獲得了新技術所帶來的收益,即獲得了準租金,而失敗者(被淘汰者)則經歷沒有任何過錯的損失。

(二)人工智能技術進步的就業替代效應具有更為復雜的特征

市場競爭推動技術創新的直接目標是提高生產率,而創新在分配方面的影響通常是不會被考慮在內的。于是,市場自然偏向于產生大量的旨在節省要素投入的創新,勞動力要素是其中之一。??怂乖谘芯扛饕刂g相互關系時刻畫了三種要素偏向的(非依附性)技術進步,其中導致勞動力相對份額減少的技術變革被稱為資本偏向型;在此基礎上,如果它導致非熟練勞動力的比例下降,則稱為技能偏向型;如果它導致工資的絕對減少,則被稱為勞動節約型[29]。如果機器可以從事傳統上由人類勞動完成的所有任務,并且如果它們可以以更低的成本做到這一點,那么傳統意義上的勞動最終將變得多余。雖然20世紀早期、中期甚至后期的技術進步主要集中在體力勞動者身上,即早期的技術進步降低了從事簡單勞動的勞動力,但是,21世紀以來的技術發展,特別是機器學習的快速迭代,被“貶值”的勞動力范圍正在進一步擴大。那種認為人工智能的影響主要針對的是重復性、常規性工作任務的觀點需要進一步探討。OECD的一份研究報告[30]指出,近年來,人工智能在諸如感知速度、演繹推理等認知性任務(非常規性任務)中取得快速進展。這導致人工智能大量應用于高技能崗位,如高級商務管理、法律等。但需要強調的是,早期技術進步推動的經濟轉型,從農村到工業化與城市化,其總體發展方向是趨向平等的社會,或者說是某種程度上促進差異的收斂。這主要是由于早期技術推動的轉型提升了非熟練勞動力的相對生產率,且工業化、城市化發展快速普及了教育。

(三)人工智能技術推動的經濟和社會轉型對女性就業帶來挑戰

相關研究對未來幾十年可能被人工智能及自動化取代的工作進行了預測,雖然各種預測結果之間的差距較大——如OECD的預測結果是被取代的工作崗位占總體工作崗位的14%,而麥肯錫全球研究所的預測則是50%。即使是較低的預測數字也會產生重大影響,特別是當這些影響很有可能集中到某些行業和某些群體時,其中女性群體面臨的挑戰更為突出。2019年麥肯錫發布的一份關于女性未來工作的報告指出,由于受人工智能支持的自動化技術的影響,全球將有4?000萬到1.6億位女性需要在2030年前進行“轉崗”,否則將會面臨或者接受更低薪酬,或者離開勞動力市場的選擇。部分相關研究進一步指出,人工智能的影響具有高度的性別偏向性,例如:自動化人工智能對就業人數的影響的方面,女性受沖擊的比例是平均值的兩倍以上——無論是在低收入還是高收入國家,數據顯示的結果基本一致[20]。這勢必進一步惡化長期存在的性別就業鴻溝問題,而就業市場的“性別鴻溝”有損于社會整體福利。2016年歐盟發布的《性別就業鴻溝》報告中估算了歐盟成員國因存在性別就業鴻溝所導致的經濟損失,2013年因女性就業率低于男性造成的總資源成本和公共財政成本超過3?700億歐元,相當于當年歐盟成員國GDP的2.8%。

人工智能技術創新所推動的技術進步在很大程度上呈現出非帕累托效應,而對于女性而言,人工智能技術發展與應用所帶來的就業影響不僅體現在人工智能對就業市場的整體沖擊方面,還體現在一種更為隱性的挑戰上。

三、缺失的女性視角:人工智能系統的性別偏見“再生產”

算法、算力和大數據是當前人工智能發展的三大支撐。大數據是現實社會的特殊映像集合,人工智能算法隱含制定者與參與者的觀念,這導致關于女性和男性及其在社會中的任務、角色的定型觀念實際上已經反映在了工程實驗室設計的機器中。不僅如此,人工智能模型還可以強化和放大現實社會中的性別偏見。

(一)人工智能系統存在性別偏見

人工智能自被正式提出后,其發展也從知識驅動模式迭代到數據驅動模式,并正進入“知識+數據”雙核驅動模式的發展階段。人工智能系統使用算法來解釋結構化或非結構化數據。這些算法類似于“配方”,包括制定問題的目標,組織、處理以及分析數據集的邏輯步驟順序。隨著人工智能技術的普及,關于人工智能的公平性和透明度方面的研究呈爆發式增長,人工智能系統的公平性和偏見問題已經轉變為一個具有廣泛影響的主流研究課題。人工智能系統偏誤主要源于數據、算法和其本身的不透明性。在數據驅動模式下,人工智能應用的質量主要取決于訓練數據的質量、算法、設計(語音、形狀等特征的體現)以及系統在特定語境中的實現。算法和人工智能系統這兩個貌似代表技術理性的術語實際上掩蓋了文化、社會和政治價值觀以及隨之而來的潛在歧視和偏見。因此簡單地認為人工智能技術是客觀的或中立的,其觀點本身就是有偏的。ONEIL[31]更為尖銳地指出:算法只不過是用編程語言制定的觀點。

基于社會學視角,性別強調的是一種歷史上繼承的、社會建構的、規范化的行為、特征與外在表現,這些共同將人定義為女性或男性,或作為(一種)需要抵制的框架。技術設計經常捕捉和復制對性別與種族的控制和限制性概念,然后反復強化。試圖從人工智能系統中“剝離”性別和種族的嘗試往往會誤解性別和種族是什么,將它們視為可隔離的屬性,而不是更廣泛的權利系統。伯克利哈斯公平、性別和領導力中心追蹤人工智能系統中可能存在的偏誤,他們在1988年至2021年的不同行業中發現133個系統存在偏差,而幾乎每兩個偏差中就有一個表現出性別偏見。人工智能系統中的性別偏見將導致在資源、信息和機會分配方面對女性的不公平,包括由人工智能技術驅動的基于性別歧視的篩選系統、基于種族歧視的商業人臉識別系統,以及基于社會經濟地位和種族偏見的臨床健康手段等。一個典型的事例是,亞馬遜為選擇優秀軟件工程師而推出了一個帶有人工智能性質的招聘算法,后因該人工智能系統被發現有意降低女性求職者的招聘優先級而備受指責并最終放棄。

(二)人工智能系統對性別偏見的“再生產”

相關研究進一步發現,人工智能系統可以放大甚至產生新的基于性別的偏見。人工智能系統模型反映且放大了人類社會的已有偏見,并生成了關于外部世界的錯誤信息。有偏見的數據集放大了性別、種族不平等,并將過去和現在的偏見投射到未來[32]。例如:多模態語言-視覺模型在圖像分類和從文本描述中創建圖像等任務上創造了新的紀錄,但它們也在其輸出中反映了社會固有觀念和偏見。更值得關注的是,雖然大型語言模型正在不斷創造技術基準的新紀錄,但新數據顯示大型模型也更能反映出訓練數據的偏見。對比2018年最先進的1.17億參數的模型,2021年開發的一個2?800億參數的模型所引發的毒性(Elicited?Toxicity)增加了29%。隨著時間的推移,這些系統的能力明顯增強,但伴隨而來的是其潛在的偏見程度也在增加[33]。此外,人工智能系統可能會產生新的基于性別的偏見和歧視,即使它們是根據性別中立的特征進行訓練的。當算法用表面上中立的特征代替受保護類別時,就會發生“代理歧視”。例如:科學、技術、工程和數學(Science,?Technology,?Engineering?and?Mathematics,縮寫為“STEM”)領域的工作機會更有可能展示給男性,而不是女性,即使這些廣告明確指出不分性別。這實際上會導致女性的“崗位隔離”或“職業隔離”。

(三)現有法規仍無法有效回應人工智能型性別歧視

人工智能系統及其“黑匣子”算法,通常以工業規模生產形式內置于機構決策的后端,對那些影響其生活和機會的人來說是看不見和不知道的,這將對性別平等構成重大挑戰。這種潛在的性別不平等極易構建成為一個難以破除的惡性循環,使現有有害的刻板印象以及偏見永久化。性別歧視問題是研究勞動力市場的一個重要視角,也是各國法律逐步重視與規制的重要領域。就當前而言,包括數據保護、反歧視、反壟斷、消費者法規在內的現有法律框架針對人工智能系統(特別是人工智能驅動的性別差異方面)仍存在著較大的適用性問題?,F有反就業歧視法主要包括的“不打探”“不考慮”“不卸責”等規則均無法很好地應對算法歧視[34]。在沒有執行機制的情況下,自我強加的標準和抽象道德系統的擴散不足以解決人工智能驅動的性別歧視所帶來的復雜監管問題。

總之,在人工智能技術發展中,女性視角的缺失為性別偏見與歧視提供了空間,這將導致女性就業門檻的提高。不過,在克勞迪婭·戈爾?。–LAUDIA?GOLDIN)看來,對于高等教育普及率較高的國家,相較就業市場的性別歧視,其他變量影響似乎更為顯著。

四、家庭還是職場:人工智能技術發展趨勢下的女性就業選擇

受教育程度的性別差異曾長期被認為是就業性別差異的重要原因。隨著教育普及程度持續提高以及現代教育中的性別平等政策,接受高等教育的女性比例不斷提升。以我國為例,根據國家統計局公布的數據測算,2021年我國大專及以上人口中,男性占比52%,女性占比48%。如果以連續接受教育情況下完成大專教育通常在20歲及以上為前提,2021年我國女性人口中具有大專及以上教育程度的占比為22.25%,男性則為23.6%,在性別上兩項數據基本持平。2020年我國高等教育階段成人本??圃谛#┥校哉急?8.0%,在普通本??浦羞@一比例為51.0%,而在研究生中該比例為50.9%,均略高于男性。同樣,在高收入國家中,接受高等教育的男女比例已經沒有明顯差異。在這樣的背景下,GOLDIN?CLAUDIA[35]提出“貪婪的工作”是影響女性職業選擇的重要影響因素。

(一)分析女性職業選擇的新視角

戈爾丁在研究中沿用加里·貝克爾的分析范式,但提出了新的研究視角。貝克爾對經濟分析的貢獻之一是在勞動經濟領域,特別是家庭范疇內采用了原本只應用于廠商和消費者的微觀經濟學分析框架。在貝克爾的理論中,家庭如同企業一樣是一個生產單位,不同成員的生產要素投入會帶來包括子女、技能、健康、聲譽等家庭產出。約束因素主要來源于貨幣和時間,家庭決策是在貨幣和時間兩個約束因素下的權衡,當貨幣和時間既定時,為了實現最大化家庭效用(產出),家庭成員需要對有限資源進行最優化配置。當前關于數字經濟、人工智能與女性就業問題的研究雖然也充分考慮到了所謂的“生育懲罰”問題,但在擴展女性就業方面更多的是從數字經濟、人工智能是否提供靈活就業機會的角度進行討論,而所謂靈活就業機會的增加也在很大程度上混淆了工作與家庭的邊界。

戈爾丁把研究對象聚焦在美國百年間受過高等教育的女性,依據出生年代分為五組,也可以稱為五個階段,進而對比分析五組女性們在家庭和事業兩者間的選擇。戈爾丁為每個階段的女性自身以及對婚育、事業的態度與選擇進行了量化比較。如果從這些描述性特征和量化指標看,我國目前大體屬于戈爾丁所劃分的五個發展階段中的第四個階段,因此其研究具有參考價值。戈爾丁指出,從歷史來看,技術進步對勞動任務屬性的改變、醫療和藥物研發為女性推遲婚姻和生育提供了更大的選擇空間,促進了女性走向獨立和進一步擺脫來自事業和家庭的阻力。此外,隨著女性接受高等教育的比例不斷提升(甚至高于男性),她們在兼顧事業和家庭方面的能力也隨之不斷加強,但是她們的收入和事業成就仍然與男性存在較大差距。戈爾丁認為,出現這種現象的主要原因并非源于女性在工作中受到顯著的不平等待遇,也非源于女性在職位選擇時出現明顯偏差所致,而是直接源于女性權衡家庭利益后的自主選擇。也即,女性選擇縮減了自己的職業生涯。在這里,我們不能排除貝克爾強調的“家庭中的利他主義”[36]因素對女性選擇的影響,但戈爾丁提出了一個新的概念“貪婪的工作”(Greedy?Work)及研究視角。

(二)“貪婪的工作”導致女性回歸傳統性別角色

戈爾丁所提出的“貪婪的工作”是個多維度的概念,涉及到工作時長、工作強度以及工作任務的完成期限等,它的重要特征是如果員工可以承諾隨叫隨到、隨時待命,雖然他(們)投入的時間可能多出一倍,但其工資收入通常遠高于一倍,即可以理解為隨勞動投入時間程度不同薪酬發生非線性變化,這里的勞動時間投入顯然具有一定的排他性。相反,那些無法承諾投入額外時間的員工,如有子女需要照料或需要承擔其他家庭責任,就很難在工作上隨叫隨到,其工作所得相較于前者則會不成比例地縮減。前后兩種情況下的工資收入差異不是基于固定薪酬標準計算出來的。這實際上是在貝克爾家庭決策的分析框架內增加了一個變量,戈爾丁認為這應該是主要的影響變量。將此變量置于貝克爾的研究框架中,女性(特別是已婚女性)在進行家庭和事業的決策時,面對的是一個非線性求解問題,這增加了決策的難度,相較線性決策,它更傾向于讓女性選擇留在家庭中。這一變量也勢必會影響到女性在婚育方面的選擇。戈爾丁認為“貪婪的工作”促使男性和女性回歸到傳統的性別角色。

(三)人工智能技術增加工作靈活性供給、降低供給成本

現代女性更為普遍地希望能夠兼顧事業和家庭,希望既能夠在就業市場中打拼,得到應該有的回報,同時又可以擁有一個穩定合宜的家庭。基于戈爾丁研究,一項重要的解決方案自然就指向如何降低工作的“貪婪度”。換一個角度即可以理解為,如果工作性質具有(或者說雇主能夠提供)更多的“靈活性”,就可以有效地抵消“貪婪的工作”所產生的外部效應。工作能否提供足夠的靈活性,使得女性在需要時可以照顧家庭,將直接影響女性在職場和家庭之間的選擇。其結果不僅關系到更好地兼顧生活和工作,還關系到就業市場中的性別平等。那么人工智能技術的發展和應用是否有助于實現這種工作上的“靈活性”呢?戈爾丁分析了美國的藥劑師職業,她發現該崗位上的男性和女性員工在各方面的差距非常細微,原因在于藥劑師崗位上的數字化普及率和業務覆蓋率較高,人工智能普及和利用的基礎較好,具體配方標準、注意事項等均可在智能系統中明確得到回應,因此并不需要該崗位的人員做到“隨叫隨到”。從技術特點和發展趨勢而言,人工智能不僅能夠促進原有職業崗位更具有靈活性(這里的“靈活性”是與戈爾丁的“貪婪的工作”相對應的概念),而且還會催生出靈活性的新職業、新崗位?;谥袊⒂^層面調查數據的研究也支持人工智能技術在重塑職業任務過程中促進了工作任務向靈活性方向發展的結論[37]。

此外,人工智能發展將進一步降低“靈活性”的供給成本。雇主為提供“靈活性”所要承擔的成本以及員工愿意接受的對價也是權衡中涉及的重要因素。由于行業和企業類型、規模的差異,這種權衡的具體情景會比較復雜。但總體而言,一方面,人工智能技術創新及其快速迭代本身有利于降低工作崗位對特定人員的依賴性,降低“隨叫隨到”的需求;另一方面,人工智能本身的應用成本也呈現快速下降的趨勢,斯坦福大學人文智能中心(HAI)2022年人工智能指數報告中指出,自2018年,用于人工智能訓練的成本已經降低了63.6%,訓練時間更是縮短了94.4%。而智能機器人手臂的價格也出現大幅降低,以中等價位的機器手臂為例,平均單價已由2017年的4.2萬美金降到2021年的2.26萬美金,下降幅度為46.2%。人工智能技術發展和普及對于應用成本的持續降低是完全可以預期的,企業從“信息化”到“數字化”再到“數智化”的轉型也是大勢所趨。因此,“貪婪的工作”對現代女性在事業和家庭之間進行選擇時的負外部性,將有希望得到持續糾正。與此同時,當我們把目光投向人工智能技術的未來,其發展趨勢或將突出女性在情感與人際關系方面的稟賦優勢,進而影響就業市場中的性別結構。

五、亞當·斯密的晚餐:人工智能或將催生就業的女性時代

在經濟學領域中,任何對“經濟人”假設的質疑都不會繞過亞當·斯密和《國富論》,即便是基于性別視角。凱特琳·馬歇爾(KATRINE?MARAL)[38]從性別(女性)平等出發,批判斯密提出的“經濟人”假設充斥著所謂理性的自利動機和“男性特質”。進入數字經濟時代,人工智能技術的發展方向與趨勢使我們有理由相信人類本身在感性認知與人際交流方面的自然稟賦將成為“人類智能”與人工智能之間的最后一條護城河,而這一點對就業市場中的女性地位或將產生重要影響。

(一)“斯密晚餐”的雙重隱喻

亞當·斯密[39]在《國富論》中為進一步說明“經濟人”假設,以日常生活的晚餐為例,“我們期望的晚餐并非來自屠夫、醬酒師和面包師的恩惠,而是來自他們對自身利益的關切”。由于斯密終身未婚并始終由其母親照顧起居,凱特琳·馬歇爾借這個晚餐的例子質疑斯密該如何用“經濟人”的自利動機解釋母親給予的親情陪伴與關愛,當然還有母親每日親手為其準備的晚餐。如果置于一個更大的社會框架中討論,凱特琳·馬歇爾的質疑有其合理性,但具體到亞當·斯密,就必須將他的《道德情操論》一并考慮進來。《國富論》和《道德情操論》的改版修訂工作是在交替中進行的,《道德情操論》第六版出版幾個月之后,亞當·斯密于愛丁堡辭世。在亞當·斯密這里,兩部著作的重要性不分仲伯?!皩λ姑芏裕洕钔瑫r是一個有關情操的問題……情操是經濟奮斗的目標?!保?0]亞當·斯密一面在《國富論》中開篇談分工,另一面在《道德情操論》中開篇“論同情”。他認為[41]:“無論人們會認為某人怎樣自私,這個人的天賦中總是明顯地存在著這樣一些本性,這些本性使他關心別人的命運,把別人的幸福看成是自己的事情”“這種本性就是憐憫或同情”。他進一步強調,“不管同情的原因是什么,或者它是怎樣產生的,再也沒有比滿懷激情地看到別人的同感更使我們高興”。實際上,亞當·斯密手中的硬幣一面鑄有“理智”(完全理性),另一面印有“情感”。前者作為一種理論假設給到了“經濟人”,后者留給了真實存在的“自然人”。于是亞當·斯密的晚餐則至少也具有了另一層隱喻。就提供晚餐而言,合理的推測是,即便技術(如人工智能廚師)可以替代“母親”為其準備晚餐,斯密仍然會堅定地選擇母親,除非出于對母親身體的體恤而做出自我選擇的“犧牲”。母親的廚藝在這里似乎并不是那么重要,重要的是母親的晚餐承載和融入了體貼與親情,與母親共進晚餐的過程充滿了人類不可或缺的情感互動。從這個角度來講,情感交流的需求與供給以及由此衍生出的社會交往技能或許是人類與人工智能技術替代可能性之間的最后一道籬笆。

(二)人工智能技術發展推動“情感經濟”的到來

關于人工智能技術能走多遠,在多大程度上追趕甚至超越人類智能這類問題,布萊恩約弗森和麥卡菲[42]是這樣表述的:對于數字化的所有事情,最明智的做法就是“永遠也不要說絕不會”。自從進入信息技術和互聯網快速發展階段,諸如“共享經濟”“平臺經濟”“意愿經濟”等概念不斷被提出,它們不僅反映了信息和互聯網的技術性特征,同時也表現為不同生意模式和經濟形態的出現。如“共享經濟”強調的是通過“共享”使用權,提高資源、資產、商品和服務等的利用效率,同時降低使用成本;“平臺經濟”則是強調一種具有雙邊市場效應的市場經濟組織形式;而“意愿經濟”某種程度上是“注意力經濟”的升級版,強調以需求為導向、圍繞消費者意向進行經營,以需求為導向,變賣家廣告為買家廣告。當下,對于人工智能將深刻地改變人們的生產和生活方式這一命題已經不再有太多爭議,而隨著人工智能向人類智能逼近,“情感經濟”的出場或將不遠。

“情感經濟”是指人們的就業和收入更多依靠情感任務的經濟活動形態。按照拉斯特和黃明蕙[43]的觀點,情感經濟的產生是人工智能技術發展推進的結果,在某種程度上可以說是被動產生的。如果把早期的自動化界定為人工智能的“機械”階段,這可以算作人工智能的初級形式,表現為最低限度的機器學習和適應。這種機械人工智能可以更多地承擔人們的機械性工作任務,于是將人們從“體力經濟”階段推進到更加重視和依賴思考性任務的“思維經濟”階段。但隨著具有思維能力的人工智能技術獲得長足進步,這種包括了分析智能和直覺智能的思維型人工智能又開始進一步承擔越來越多的思考任務,需要做這種思考的人數將傾向于減少,人們的思考能力或將被削弱,進而轉向更加注重情感和感受。對應到經濟活動形態的演化,則有了“情感經濟”的出現。在這個階段,人們的工作性質將發生變化,譬如客服崗位,人工客服已經呈現日益減少的趨勢,這是人工智能替代效應的體現,但同時,原人工客服面臨著提升技能的需要,他們將被要求更專注于涉及判斷力、直覺、情感、同理心和人際關系技巧的工作任務。

(三)情感經濟或將改變女性在就業市場中的地位

情感經濟形態中人們所依賴的情感任務是指工作任務中所涉及的“軟”的方面,例如:與人溝通、建立和維持關系、影響他人等。情感經濟的突出特點是人與人工智能機器之間的分工,即人類負責情感型的工作,機器負責思維型的工作。這種分工在某種程度上改變了《國富論》中提出的勞動分工的發展路徑,具有一定的顛覆性質,但并沒有遠離《道德情操論》的核心。情感經濟形態所強調的最重要的技能,可以概括為一種“共情能力”。與被智能技術加持的機器競賽,人類需要爭分奪秒地去做自己相對擅長的事情,也就是涉及情感和人際關系的工作。就平均水平而言,女性相對于男性在“共情能力”方面具有較明顯的優勢,這很大一部分來自“自然稟賦”。情感經濟雖然是在討論人工智能技術所可能引起的顛覆性變革與人類發展未來的語境下提出的,但就其本身而言,有其客觀存在的現實基礎。以美國高技能男性和女性就業市場為例,CORTES等[44]研究發現,1980年以來,盡管受過高等教育的女性供給大于男性,但這些女性的就業概率是提高的,對女性技能需求的相對增加是由于社交技能在這些職業中的重要性日益增加的緣故。DEMING[45]研究也發現,勞動力市場越來越重視社交技能?;诿绹鴦趧恿κ袌鰯祿y算,1980—2012年,高度社交互動技能需要型工作占比增長了近12%,而單純的STEM職業在同一時期卻出現了3.3%幅度的萎縮,勞動力市場對于“STEM+社交技能”復合型能力的勞動力就業需求及其相應工資的增長尤為強勁。因此,情感經濟可能帶來的一個結果是,女性在未來經濟活動中的地位將變得更加重要。在情感經濟階段,人工智能將擔當思考的主力軍,“人類智能”將成為情感的主力軍,而女性將扮演更為重要的角色。

六、結語

本文嘗試就人工智能技術發展對女性就業的若干影響進行了討論。就技術創新本身而言,其發展具有明顯的效率追逐偏好,所謂帕累托最優并非自由市場環境下技術創新本身的追求,對包括女性在內的就業市場整體的不均衡性沖擊將不可避免。相對于男性而言,面臨人工智能技術發展,女性在就業市場中還面臨著人工智能算法所“再生產”的隱性歧視,女性視角的缺失,將抬高女性就業門檻。此外,人工智能技術發展又傾向于逐步削弱工作的“貪婪”程度,增加工作的“靈活性”供給,這將有利于女性更好地平衡家庭生活與職業生涯。從技術發展趨勢看,人工智能將有可能深度替代除了人類情感交流之外的工作任務,女性或將因為在情感、社交技能方面的稟賦優勢而提升其在就業市場中的地位。

過往提示我們,新技術總是促使社會和政府面臨選擇,而現實中技術進步的方向和速度本身同樣體現了政策取向。進入人工智能發展階段,政策制定和實施本身也在對未來工作進行某種程度的塑造?;诒疚牡挠懻摵头治?,有以下主要政策建議:

第一,加速產業轉型升級與現代化產業體系建設、促進高質量女性就業。目前,人工智能技術的應用已經對部分產業中帶有重復性、常規性的勞動任務產生了明顯的替代效應,這在一定程度上也是對發展中國家傳統比較優勢的挑戰。我國雖然已經進入中等收入國家行列,但由于產業門類廣、不同行業的發展水平與發展階段千差萬別,各區域間發展水平不均衡,導致勞動力市場結構復雜,其中女性勞動者相對男性勞動者而言,更多集中于那些更易被人工智能技術所替代的行業和崗位。因此,應順應技術發展趨勢,通過加速傳統產業轉型升級和現代產業體系建設推動勞動力市場結構調整,促進女性勞動者行業間轉移流動,實現更為順利的“轉崗”。

第二,塑造適應新技術發展、面向人工智能未來的女性教育培訓體系。這里主要包括兩個維度:一是有效提升女性在STEM和ICT(Information?Communication?Technology)教育中的占比,即削弱和破除性別方面的“學科隔離”;二是構建和強化“人工智能+”復合型女性人才培養機制。目前看來,人工智能總體上對高技能勞動者更為友好,其中尤其是對STEM和ICT領域的勞動需求旺盛且薪酬具有優勢,但由于包括女性自身選擇偏好在內的各種因素影響,女性選擇STEM和ICT相關教育的占比遠低于男性,這個問題帶有全球性。為此,對現有教育培訓體系要面向數字技術特別是人工智能技術未來發展方面進行調整,同時強化基于STEM教育的復合型女性人才培養。

第三,優化生育政策激勵、提升社會化服務供給質量。由于人工智能的沖擊具有不確定性和顛覆性,因此,就全局而言,應加快完善社會保障體系,構建可以兜底人工智能沖擊的社會安全網。這方面國際上已經出現了一些初期嘗試,如“全民基本收入(Universal?Basic?Income)”。對于女性而言,在婚育、家庭和事業之間的權衡結果直接影響女性在就業市場中的表現。應在積極優化生育政策激勵的同時,盡快完善社會化服務體系,不斷提升高質量社會化服務供給能力,助力更多的女性更為從容地進行家庭和事業之間的權衡,在更好地實現自身價值的同時,為社會作出更多的貢獻。

第四,深化人工智能影響研究、積極探索高質量人工智能治理??傮w來講,全球對人工智能影響的研究仍處于初期,相應的監管研究和治理活動更是剛剛起步。雖然針對人工智能技術所表現出的性別歧視問題已經引起較為廣泛的注意,但這個領域的相關立法遠未完善,原法律框架在適用性方面存在諸多缺陷。同時,人工智能治理已經成為全球性普遍關注的問題,在英國布萊奇利園舉行的全球人工智能安全峰會就是這方面的集中體現。在人工智能全球化發展的背景下,積極參與人工智能治理的全球合作、相互借鑒是探索和實現高質量治理的重要途徑。

[參考文獻]

[1]趙志君,莊馨予.中國人工智能高質量發展:現狀、問題與方略[J].改革,2023(9):11-20.

[2]AGHION?P,HOWITT?P.?Growth?and?unemployment?[J].?Review?of?economic?studies,?1994,?61(3):477-494.

[3]ACEMOGLU?D,RESTREPO?P.?The?race?between?man?and?machine:?implications?of?technology?for?growth,?factor?shares,?and?employment?[J].?American?economic?review,?2018,108(6):1488-1542.

[4]蔡昉.經濟學如何迎接新技術革命?[J].勞動經濟研究,2019(2):3-20.

[5]AGHION?P,?CELINE?ANTONIN,?SIMON?BUNEL,?et?al.?What?are?the?labor?and?product?market?effects?of?automation??New?evidence?from?France[Z].?CEPR?working?paper,?No.14443,?2020.

[6]TRAJTENBERG?M.?AI?as?the?next?GPT:?a?politicaleconomy?perspective[Z].?NBER?working?paper,?No.24245,?2020.

[7]ACEMOGLU?D,RESTREPO?P.?Artificial?intelligence,?automation?and?work?[Z].?NBER?working?paper,?No.24196,2018.

[8]AUTOR?DAVID,??SALOMONS?ANNA.?Is?automation?labor?sharedisplacing??Productivity?growth,?employment,?and?the?labor?share?[Z].?Brookings?papers?on?economic?activity,?2018.

[9]曹前滿.高質量就業的支撐條件與現實困惑:技術依賴與勞動排斥[J].經濟學家,2021(4):41-51.

[10]FREY?C?B,?OSBORNE?M?A.?The?future?of?employment:?how?susceptible?are?jobs?to?computerisation??[J].?Technological?forecasting?and?social?change,?2017(114):?254-280.

[11]余玲錚,魏下海,孫中偉,等.工業機器人、工作任務與非常規能力溢價——來自制造業“企業—工人”匹配調查的證據[J].管理世界,?2021,37(1):47-59.

[12]李開復,陳楸帆.AI未來進行式[M].杭州:浙江人民出版社,2022:348-349.

[13]SUSSKIND?R,SUSSKIND?D.?The?future?of?the?professions[J].?Proceedings?of?the?American?philosophical?society,?2018,162(2):125-138.

[14]王軍,常紅.人工智能對勞動力市場影響研究進展[J].?經濟學動態,2021(8):146-160.

[15]GRAETZ?G,MICHAELS?G.?Robots?at?work[J].?Review?of?economics?and?statistics,?2018,100(5):753-768.

[16]李磊,王小霞,包群.機器人的就業效應:機制與中國經驗[J].管理世界,2021(9):104-119.

[17]孫雪,宋宇,趙培雅.人工智能對異質勞動力就業的影響[J].經濟問題探索,2022(2):171-190.

[18]王林輝,胡晟明,董直慶.人工智能技術、任務屬性與職業可替代風險:來自微觀層面的經驗證據[J].管理世界,2022(7):60-79.

[19]GALOR?ODED.?From?stagnation?to?growth:?unified?growth?theory[Z].?CEPR?discussion?paper,?No.4581,2004.

[20]GMYREK?P,?BERG?J?M,?BESCOND?D.?Generative?AI?and?jobs:?a?global?analysis?of?potential?effects?on?job?quantity?and?quality[Z].?ILO?working?paper,No.?96?(Geneva,?ILO),?2023.

[21]李建奇.數字化變革、非常規技能溢價與女性就業[J].財經研究,2022(7):48-62.

[22]隆云滔,劉海波,蔡躍洲.人工智能技術對勞動力就業的影響——基于文獻綜述的視角[J].中國軟科學,2020(12):56-64.

[23]朱軼.技術進步是否加劇了性別就業差距?[J].現代財經,2020(10):96-113.

[24]ELIZABETH?COOMBS,?HALEFOM?ABRAHA.?Governance?of?AI?and?gender:?building?on?international?human?rights?law?and?relevant?regional?frameworks[C]//Handbook?on?the?politics?and?governance?of?big?data?and?artificial?intelligence.?Edward?Elgar?publishing,2023:?211-243.

[25]SMITH?G,?RUSTAGI?I.?When?good?algorithms?go?sexist:?why?and?how?to?advance?AI?gender?equity?[EB/OL].?(2021-05-31)[2023-12-01].?https://doi.org/10.48558/A179-B138.

[26]馬克思,恩格斯.馬克思恩格斯選集?(第2卷)?[M].?北京:人民出版社,2012:774-775.

[27]大衛·李嘉圖.政治經濟學及賦稅原理[M].北京:華夏出版社,2013:276.

[28]KORINEK?A,?STIGLITZ?J?E.?Artificial?intelligence?and?its?implications?for?income?distribution?and?unemployment[Z].?NBER?working?paper,?No.24174,?2017.

[29]KORINEK?ANTON,?MARTIN?SCHINDLER,?JOSEPH?E.?et?al.?Technological?progress,?artificial?intelligence,?and?inclusive?growth?[Z].?IMF?working?paper,?2021.

[30]OECD.?Artificial?intelligence?and?employment:?new?evidence?from?occupation?most?exposed?to?AI?[EB/OL].?[2023-10-25].?http://www.oecd.org/futureofwork/.

[31]ONEIL?C.?Weapons?of?math?destruction:?how?big?data?increases?inequality?and?threatens?democracy[M].?New?York:Crown?Publishing,?2016:53.

[32]COLLETT?C,?DILLON?S.?AI?and?gender:?four?proposals?for?future?research[R].?Cambridge:?the?Leverhulme?Center?for?the?Future?of?Intelligence,2019.

[33]DANIEL?ZHANG,?NESTOR?MASLEJ,?ERIK?BRYNJOLFSSON,?et?al.?The?AI?index?2022?annual?report[R].?Palo?Alto:?Stanford?University,?2022.

[34]閻天.女性就業中的算法歧視:緣起、挑戰與應對[J].婦女研究論叢,2021(5):64-72.

[35]GOLDIN?CLAUDIA.?Career?and?family:?womens?centurylong?journey?toward?equity[M].?Princeton,?New?Jersey:?Princeton?University?Press,?2021:105.

[36]加里·斯坦利·貝克爾.家庭論[M].北京:商務印書館,2011:325.

[37]王林輝,錢圓圓,周慧琳,等.人工智能技術沖擊和中國職業變遷方向[J].管理世界,2023(11):74-93.

[38]凱特琳·馬歇爾.誰煮了亞當·斯密的晚餐:女性與經濟學的故事[M].合肥:中國科學技術大學出版社,2019:43.

[39]亞當·斯密.國富論[M].北京:華夏出版社,2005:14.

[40]艾瑪·羅斯柴爾德.經濟情操論:亞當·斯密、孔多塞與啟蒙運動[M].北京:社會科學文獻出版社,2013:3.

[41]亞當·斯密.道德情操論[M].北京:商務印書館,1997:5-13.

[42]埃里克·布萊恩約弗森,安德魯·麥卡菲.第二次機器革命[M].北京:中信出版社,2016:343.

[43]羅蘭·T.拉斯特,?黃明蕙.情感經濟[M].?北京:中譯出版社,2022:4.

[44]CORTES?G?M,?NIR?JAIMOVICH,?HENRY?E?SIU.?The?“end?of?men”?and?rise?of?women?in?the?highskilled?labor?market?[Z].?NBER?working?paper,?No.24274,2018.

[45]DEMING?DAVID?J.?The?growing?importance?of?social?skills?in?the?labor?market[J].?Quarterly?journal?of?economics,?2017,?132(4):1593-1640.

Research?on?the?Impact?of?Artificial?Intelligence?Development?on?Womens

Employment?in?the?Context?of?Digital?Economy

Niu??Jianguo1,??Xia??Feilong2,??Jiang??Xin3

(1.?School?of?Economics,?Shandong?Womens?University,?Jinan?250300,?China;

2.?School?of?Economics?and?Management,?Yunnan?Normal?University,?Kunming?650500,?China;

3.?Party?School?of?the?Yunnan?Committee?of?the?CPC(Yunnan?Academy??of??Governance),?Kunming?650111,?China)

Abstract:??AI?is?fundamentally?changing?production?mode?and?lifestyles,?but?its?potential?impact?remains?largely?abstract?and?uncertain.?On?the?one?hand,?the?nonPareto?technological?progress?of?AI?has?a?significant?and?multidimensional?impact?on?the?job?market,?including?the?jobs?of?women,?and?the?“reproduction”?of?gender?bias?by?AI?will?raise?the?threshold?for?womens?employment.?On?the?other?hand,?AI?can?reduce?the?externality?of?“greedy?work”,?increase?the?supply?of?“flexibility”,?and?reduce?the?cost?of?womens?choice,?while?the?“emotional?economy”?caused?by?the?development?of?artificial?intelligence?tends?to?strengthen?womens?endowment?advantages?in?emotional?and?social?skills,?and?improve?their?position?in?the?job?market.?In?the?“competition”?with?AI,?it?is?necessary?to?accelerate?industrial?transformation?and?upgrading,?accelerate?the?adjustment?of?positions?and?labor?tasks,?promote?highquality?womens?employment,?shape?a?womens?education?and?training?system?that?adapts?to?the?development?of?new?technologies?and?faces?the?future?of?artificial?intelligence,?optimizes?fertility?policy?incentives,?improves?socialized?services,?explores?highquality?artificial?intelligence?governance?and?actively?participates?in?global?AI?governance.

Key?words:artificial?intelligence;?labor?market;?womens?employment

(責任編輯:蔡曉芹)

猜你喜歡
人工智能
我校新增“人工智能”本科專業
用“小AI”解決人工智能的“大”煩惱
汽車零部件(2020年3期)2020-03-27 05:30:20
當人工智能遇見再制造
2019:人工智能
商界(2019年12期)2019-01-03 06:59:05
AI人工智能解疑答問
人工智能與就業
IT經理世界(2018年20期)2018-10-24 02:38:24
基于人工智能的電力系統自動化控制
人工智能,來了
數讀人工智能
小康(2017年16期)2017-06-07 09:00:59
人工智能來了
學與玩(2017年12期)2017-02-16 06:51:12
主站蜘蛛池模板: 2020国产精品视频| 性色生活片在线观看| 色综合国产| 在线网站18禁| 成人在线不卡视频| 园内精品自拍视频在线播放| 国产在线98福利播放视频免费| 日本人妻一区二区三区不卡影院| 欧洲精品视频在线观看| 国产成人一区二区| 最新精品久久精品| 日本一本在线视频| 国产免费久久精品99re不卡| 国国产a国产片免费麻豆| 国产在线一二三区| 国产99精品视频| 毛片在线播放网址| 日韩国产无码一区| 国产9191精品免费观看| 免费无码一区二区| 91精品亚洲| 青青操国产| 2020国产精品视频| 国产h视频在线观看视频| 国产男女免费视频| 亚洲AV无码不卡无码 | 国产女主播一区| 国产毛片网站| 婷婷99视频精品全部在线观看| 国产成人综合久久| 亚洲成人免费在线| 91九色国产porny| 无码一区18禁| 日韩欧美中文字幕在线精品| 91综合色区亚洲熟妇p| 国产精品美乳| 国产迷奸在线看| 波多野结衣久久精品| 亚洲人成亚洲精品| 亚洲一区二区日韩欧美gif| 青青草原国产一区二区| 精品人妻系列无码专区久久| 99爱在线| 一本大道视频精品人妻 | 2022精品国偷自产免费观看| 亚洲精品视频免费| 欧美日韩va| 国产成人8x视频一区二区| 日韩小视频网站hq| 激情网址在线观看| 国产色爱av资源综合区| 亚洲精品成人7777在线观看| 亚洲午夜18| 99无码中文字幕视频| 国产www网站| 91午夜福利在线观看| 免费看美女毛片| 毛片免费观看视频| 国产精品熟女亚洲AV麻豆| 亚洲男人的天堂在线| av在线无码浏览| 亚洲高清中文字幕在线看不卡| 国产粉嫩粉嫩的18在线播放91| 一级毛片在线播放| 欧洲免费精品视频在线| 粗大猛烈进出高潮视频无码| 国产一级无码不卡视频| 狠狠操夜夜爽| 中文字幕在线播放不卡| 欧美在线国产| 18禁黄无遮挡免费动漫网站| 欧美国产在线看| 久久国产拍爱| 精品久久久久成人码免费动漫| 26uuu国产精品视频| 亚洲A∨无码精品午夜在线观看| 六月婷婷精品视频在线观看| 免费一级α片在线观看| 国内嫩模私拍精品视频| 老司机久久99久久精品播放| 精品一区二区三区自慰喷水| 久久婷婷六月|