女性視角下，人工智能融入市域治理應用中的未來問題研究

摘要：人工智能已滲透并逐漸影響著市域治理的格局，正在實現市域公共管理的技術躍進，同時帶來挑戰與機遇。通過厘清人工智能技術融入市域治理的風險、應對及未來方向，形成女性視角下，人工智能融入市域治理應用中的未來問題框架并加以研究，以此呼吁在人工智能與市域治理的應用與結合的過程中向女性等群體適度傾斜政策、技術及資源，助推市域治理公平化、智能化、精細化和現代化。

關鍵詞：女性;人工智能;市域治理;公共管理

引言

隨著人工智能不斷發展，其不但深入進駐公共治理領域，也快速應用于公共治理實踐。黨和國家高度重視其治理價值，將發展人工智能作為重要戰略舉措，寫入十九大報告。市域治理作為國家治理體系的重要領域，及國家發展的核心空間，其作用地位日漸上升。人工智能已滲透并推動人類生產生活各個領域的發展，必然已逐漸影響著市域治理的格局，帶來挑戰與機遇。在當前中國發展方式與社會治理方式轉變的重要節點上，需要深刻理解作為新一代科技革命重要技術的人工智能對新時代中國城市治理，和對城市治理下，越來越多身兼社會及家庭重任的現代中國女性工作、生活和未來發展的影響，形成女性視角下的未來問題框架并加以探索研究，才能嘗試提供在數字時代壓縮負面影響、降低技術歧視，增強城市風險應對能力的“時代良方”，真正助推市域治理公平化、智能化、精細化和現代化。

一、人工智能技術融入市域治理的應用風險

（一）市民權利風險

這一風險主要包括安全風險和侵權風險。從市域公共安全視角來看，一方面如杭州、南京等城市的“智慧警務”等智慧政務的打造，快速提高了市域治理能力，另一方面，人工智能技術的不確定性及智能醫療技術、智能駕駛技術產品的應用，會帶來使用不當危險、人機協同風險、惡意操縱風險、黑客入侵風險、隱私泄露風險等與市民權利密切相關的風險，如美國巴爾的摩市政系統的黑客攻擊勒索事故。而由于目前相關政策的空白，侵權后的責任歸屬及賠償也成為一大問題。在屬地管理原則下，省、市、縣各級屬地政府、職能單位及相關企業的風險控制責任難以明確識別和區分，造成目前人工智能技術引發的市民侵權事件責任分攤不清的風險。

（二）治理體系風險

這一風險主要包括治理秩序風險和法治體系風險。傳統的人際互動模式和社會結構已經被新興數字信息技術逐漸打破，海量數據分析和超強算法給市域政治和社會管理帶來撕裂性的秩序風險，表現為分配機制的可替代性和治理權力的去中心化。資本、權力和人力的傳統性分配受到人工智能技術的爆發性破壞和替代，對就業市場的沖擊愈發顯著，人類的就業機會和工資收入是否會受到擠壓，進而造成大規模的收入縮減和結構性失業成為日漸普遍的擔憂。比如從2016年開始的全面性失業潮，甚至影響到第三產業，如中國“四大行”裁員數以萬計，連印度的IT行業從業者都受到沖擊;再如美國相關研究發現，每千名工人增加使用一臺機器人，工資收入平均下降0.25%-0.5%。公眾參與權利被信息技術快速放大，公共問題的討論和政治問題的協商已進入移動智能化全媒體時代，普通網民的微小舉動都可能干擾整個城市系統的穩定。同時，人工智能技術又會加劇寡頭統治的危險，賦權與約束的非對稱性為市域治理秩序引入更多復雜性和不確定性。而這些風險都缺乏法律體系的有效規制，加大法律事實認定的難度和對法律主體地位、對行政公平等法治領域、對自然人權利義務關系進行規范的法治體系的挑戰。

（三）道德倫理風險

人工智能技術現階段的應用，還處于弱倫理化的狀態，無法自主維護公共價值和道德倫理。而在人工智能進一步發展之后，尤其在智能妻子、智能父母、智能子女等應用技術不斷完善的情況下，其存在價值與機器判斷的合理性必將引發道德倫理的沖突，帶來的超越人類傳統思維與實踐界限的網戀、情愛形式、婚姻模式、養育教育和家庭結構，不但會使真人女性的家庭地位產生質的變化，更可能引發歷史性的婚戀革命，威脅和動搖全體自然人的存在價值與既有公共道德倫理綱常，而其本身的發展和迭代也會不斷引起新一輪的道德倫理風險。另一方面，人工智能尤其是廣泛性的自動化應用已經對傳統行業，特別是制造業等就業領域產生了顛覆性的沖擊，引起市民對于穩定就業的衍生性倫理風險。這就對市域政府制定公共政策及調節相關市場提出了新要求，必須在智能與人力、經濟產出和社會福利之間做出最佳選擇。

（四）算法歧視風險

算法歧視風險，可視為人工智能公正性問題的統稱，根源于個人偏見無意識地表達，或者結構性權力性的不平等，主要包含兩種類型，一是市場支配權不平等下的歧視，二是身份特征不平等下的歧視。前者最突出的例子就是依據大數據算法而出現的“殺熟”現象，后者表現為人工智能技術及應用對特定集體身份的區別對待，體現出性別歧視、種族歧視、殘障歧視、年齡歧視、地域歧視等問題。算法歧視風險也體現了互聯網行業從業人員的視角缺失問題。第四次全國經濟普查軟件行業數據顯示，女性從業人員147萬，僅占全部從業人員的34.6%，整體從業人員平均年齡僅為28.3歲;而我國互聯網綜合實力排名前十的企業披露，不僅男性員工總體數量是女性員工的1.3-3.4倍，女性占比與崗位層級之間更是呈明顯的反比關系，這就決定了行業產品相當局限在年輕健康男性的問題建構視野上，彼此無法突破設計結構上的狹隘，造成了無意識、不自覺的不平等現象，造成了普遍性和滯后性的社會問題，如科幻電影中幾乎清一色的女性AI形象、老年人遭遇的“數字化鴻溝”等。

二、人工智能在市域治理中的風險應對

（一）健全政府政策規劃及監測機制

為有效保障人工智能技術的合法應用，需要建立適應性的治理政策和體系來引導和保障，兼容城市治理與人工智能技術的發展。市域相關政策制定可與國家戰略政策相結合，借鑒學習人工智能應用國家戰略政策發展較早，既有經驗和政策文本較豐富的美英等國家的經驗，制定專門戰略政策，明確人工智能技術研發重點，引導財政投入，建設人才隊伍，構建協同體系，規定“制定標準和基準”“理解并解決倫理問題”“開發公共數據集成環境”等未來技術時代的戰略方向。另一個重點是建立人工智能應用的市域政府監測機制。借鑒如英國的共享監管機制，由政府部門、學術機構代表、科技行業代表、消費者團體共同組建，實現人工智能應用的多利益主體監管功能。推動反歧視法律體系的數字化轉型，重視人工智能的監管立法，如美國紐約市的《政府部門自動決策系統法案》，將市域公共決策對人工智能技術應用的監管上升到了法律范疇。

（二）提高市民風險感知能力與技術協同能力

主觀能動性也是影響風險應對效果的重要因素，從人工智能融入市域治理的角度來看，市民對人工智能技術與城市治理主體的信任、對相關風險關心的程度、利益取向性選擇、風險信息獲取的渠道和信息量等主、客觀因素，都很大地影響著個體通過信息傳遞后感知、判斷并形成的風險感知，最后影響市民對人工智能技術及應用的風險應對。這就要求城市政府加強公眾倫理風險教育、擴大市民的技術決策參與、同時強化政府信息公開，拓寬多元主體參與，不斷協商與調整，才能降低人工智能技術風險，提高全民技術協同性，建立合理的權責體系，最終形成共建共治共享的市域治理新格局。

（三）重塑基于數字平權的非歧視權力結構

結構性的不合理是造成算法歧視的根源。由國家層面鼓勵，城市治理主體引導，在數字領域延伸由企業、高校等多元主體參與的社會平權行動，才是遏制人工智能歧視的根本手段。一是要推動開發團隊人員構成的多元化。突破人工智能團隊的人員同質化局限，規范開發行為，抑制無意識的偏見，吸收不同性別、種族、經濟水平、社會背景、殘障和學科領域的成員加入，才能自發避免對弱勢、少數群體的歧視。二是要重點關注相關的職業與教育領域。從人工智能歧視的風險源頭入手，政策關注、資源傾斜，優先鼓勵女性、殘障人士、少數民族、偏遠貧困地區等群體進入人工智能密切相關的計算機科學與技術、軟件工程等專業和行業，從人才培育開始，保障新興科技領域人員構成的平等化。三是利用人工智能治理歧視危機。既然存在數字化擴散人類歧視行為的風險，那同樣可以利用人工智能等數字化工具來開展平權行動。從倫理體系入手，將人類社會成熟、公認、相對公平的倫理原則轉換為人工智能編程基礎，遵循人類兒童成長的過程，讓人工智能逐漸學習成長為“有道德的算法”，輔助市域治理主體和相關企業，挖掘和分析女性、老年人等弱勢、少數群體面臨的實際問題，精準引導市域治理政策、手段和公共服務資源向有需要的人群流動，實現精準數字化“反歧視”。

三、人工智能技術融入市域治理的未來方向

（一）城市最小功能單元治理未來化

社區和鄉村可說是市域治理的最小功能單元。“智慧社區（鄉村）”“未來社區（鄉村）”的構建，是綜合性、全面性和實踐性地運用人工智能技術，數字化重構基層治理流程、規則、功能和生態，從根本上改變社區居民（鄉村農民）的社會關系和實際生活的嶄新嘗試，是數字經濟的落地單元，是數字社會的重要載體，也是與人民群眾最密切相關、未來之中又最為現實的人工智能與市域治理融合領域。2019年3月20日，浙江省政府印發《浙江省未來社區建設試點工作方案》（浙政發〔2019〕8號），截至目前，全省已有70個社區（村）及全域類試點進入浙江省“未來社區”創建名單，2021年5月已上線運行未來社區智慧服務平臺2.0，同時篩選確定在杭州上城楊柳郡社區、湖州長興齊北社區、紹興柯橋大渡社區等6個創建社區爭取率先實現“智慧醫療”“社區文化”等系列多跨應用場景，多元共建，社會合力，保證先行先試，項目高質量落地運行，加快形成可學、可看、可體驗的實踐成果。還可借鑒國際上未來社區的建設經驗，如新加坡組屋計劃、加拿大Quayside社區、日本5.0模式、歐美BLOCK街區等建設模式，完成我國社區數字引擎直到城市數字引擎的更新迭代，擴張滲透，演進深化，使人工智能與市域治理的切身融合從“盆景”變成“風景”。

（二）城市整體公共治理智能化

人工智能技術對整個城市治理，包括公共信息收集與處理、公共政策制定、公共問題決策、公共治理手段創新等一整個城市治理過程的智能化發展的推動已是顯著的趨勢。通過網絡與傳統行業緊密結合，人工智能技術為城市治理提供了開放性技術集成的基礎，促進市域公共治理流程再造和效率改進，提升公共服務供給的智能化水平。比如福建漳州市的“96123行政服務平臺”、上海浦東新區的“小博士”行政審批職能導航，岳陽市智慧城管系統等都是通過智能終端，實現審批、環衛、查違等城市治理流程的網絡一站式自助服務，都是市域治理主體在推行“智慧政務”“智慧民生”“智慧產業”的基礎上，全面實現“智慧城市”的成功案例。

（三）城市人工智能公共倫理設計及應用責任分攤機制化

人工智能應用的風險已成為市民普遍爭議的公共新議題。一方面，市域政府在運用人工智能的治理實踐中，必須平衡多樣化的價值訴求，對人工智能產品進行倫理設計，將行政倫理、社會公共道德精神等公共倫理嵌入其中，控制其智能水平尤其是自主程度，引導人工智能技術整體上向符合道德的方向發展。另一方面，可參考上海（浦東新區）人工智能創新應用先導區建設經驗，創新政府管理，構建包容審慎的新型審批監管制度和城市公共治理人工智能應用責任體系，消除融合發展面臨的安全、數據、資質等壁壘，研究確定人工智能技術及應用引發侵權風險的責任主體認定機制，把人工智能技術應用的設計者、生產者、銷售者等相關主體全部納入監管，實現新型技術應用侵權責任明晰化和責任分攤機制化，營造公平、競爭、開放、有序的市場環境。

（四）城市公共治理新型智庫技術化與集成化

人工智能技術的應用，是建設城市公共治理新型智庫的大勢所趨，同時改變了市域政府智庫的構成元素，呈現出跨學科合作、多維度協同、重視人才整合的新特點，正逐漸成為城市甚至國家智庫研究的熱點和重點。專家智庫服務的有限理性、滯后性，知識權威壟斷性以及男性專家占絕大多數的性別價值觀不公正性，讓城市治理主體將目光轉向以人工智能系統和計算機為核心的融合型智庫，引導女性尖端技術方向的職業發展，在巨型數據庫的基礎上，集成性別平等的專家服務與多種高新技術，不斷吸納技術性要素，最終構建工作效能高，工作負擔輕，人工智能部分替代專家，甚至替代大部分專家的公平化、技術化、集成化城市未來大智庫。依據2020 年 3 月 8 日，清華大學 - 中國工程院知識智能聯合研究中心、清華大學人工智能研究院與北京智源人工智能研究院隆重發布的人工智能全球女性榜單，全球范圍內人工智能領域最頂尖的 2000位學者中有179位是女性，中國12名女性學者入選，位列第二，但具體到比率層面，中國只有6.9%，遠低于9%的國際基準線。

四、結語

城市治理智能模式已經被“數據+算法+算力”重新定義，人工智能的嶄新工具正在實現市域公共管理的技術躍進，全面提升分析、預測、診斷、決策、轉型等層面的城市治理能力。在廓清和研究人工智能市域治理未來問題的基礎上，還應向女性等行業少數群體適度傾斜政策、技術及資源，才能在數字時代切實維護社會公平正義的底線，在新興技術的應用和融合中真正推動城市治理創新轉型。

參考文獻

[1]張明斗，劉奕.人工智能在城市治理中的應用邏輯與風險應對[J].湖南行政學院學報，2021（01）：5-13.10.16480/j.cnki.cn43-1326/c.2021.01.001.

[2]譚九生，楊建武.人工智能嵌入政府治理的倫理風險及其防控[J].探索，2021（02）：126-138.10.16501/j.cnki.50-1019/d.2021.02.011.

[3]代佳欣.公共治理中的人工智能應用：一個文獻綜述[J].吉首大學學報（社會科學版），2021，42（02）：97-108.10.13438/j.cnki.jdxb.2021.02.010.

[4]張炫煒.人工智能融入經濟社會發展時的潛在風險研判及應對研究[J].現代商業，2021（13）：99-101.10.14097/j.cnki.5392/2021.13.030.

作者簡介：陳婷婷（1987—），女，南昌大學公共管理學院在讀碩士，臺州市科技館，浙江省臺州市科學技術協會數字化改革專班成員，信息系統項目管理師（高級），軟件設計師，主要從事青少年科普教育及公共管理、行政管理的相關數字化研究。