人工智能應用的風險評估與應對策略

摘 要：大數(shù)據(jù)生態(tài)中多元應用社會生活的人工智能技術，在勾勒健康恒存的愿景框架、推進開源聚力的知識傳遞、驅(qū)動協(xié)作共享的產(chǎn)業(yè)變革以及實現(xiàn)精準遞歸的社會治理的同時，也逐漸暴露出算法決策內(nèi)嵌安全隱患、責任分散置險族群永續(xù)、精英趨向引發(fā)異化強權以及智能迭代侵害人格權益等諸多風險。亟待確立人工智能應用有益族群永續(xù)的立法目標，遵循技術進步、經(jīng)濟增長和公眾權益交互規(guī)律，平衡國家安全、社會穩(wěn)定、企業(yè)發(fā)展與個人成長的矛盾沖突；構筑張弛有度的政府監(jiān)管機制、頒行透明可信的數(shù)據(jù)核饋規(guī)范、完善有區(qū)別的責任制度、實施適應全新需求的層級稅制并加強人工智能領域的宣傳教育，加快提升中國的軟實力和巧實力，積極建設創(chuàng)新型科技強國。

關鍵詞：人工智能；多元應用；情報交流；風險表征；政策法律

中圖分類號：TP18；G203 文獻標識碼：A DOI：10.11968/tsyqb.1003-6938.2017122

Abstract In the worldwide surge of digitization， artificial intelligence is applied in all aspects of social life. On the one hand， they have contributed to improve the vision of good health， push forward the process of open source knowledge transmission， promote the collaborative sharing industrial transformation， and realize the precise and recursive management of society. On the other hand， there are a number of serious risks involved， such as hidden dangers in algorithm decision， the survival crisis of mankind caused by the diffusion of responsibility， alienated power raised by elite tendency and personal rights violated by iterative intelligence. The article proposes to establish the legislative purpose of obeying the interactive law among technical development， economic growth and social stability， equating the collision of national security， social stability， business development and personal growth， and helping ethnic sustainability through intelligent technology research and development. It's especially urgent to make regulations of the balanced government supervision， the transparent and credible data auditing and feedback system， the distinguishing accountability mechanism， the tax mechanism satisfying new needs. Above countermeasures would help to rapidly enhance China's soft power and smart power， and build an innovative technological power.

Key words artificial intelligence； multiple applications； information exchange； risk characterization； policy and law

信息紀元中迅速提升的大數(shù)據(jù)處理技術、開源互補的廣域算法、持續(xù)作用的香農(nóng)定理和摩爾定律以及人類族群探索未知的執(zhí)意和趨利避害的本性合力引領歷經(jīng)兩輪大幅起落的人工智能技術作為數(shù)字生態(tài)關鍵要素再獲新生，不僅構筑共生、競爭、合作、依存的協(xié)同進化生態(tài)圈，亦在情報研判、決策支持與勞動替代中暴露出諸多風險。亟需采取一系列行之有效的應對策略，積極推動我國人工智能戰(zhàn)略的革命性發(fā)展。

1 人工智能多元應用的情狀畫像

萬物感知的爆發(fā)式增長推動人工智能技術迅速擺脫“計算機展示的一系列同質(zhì)智能行為”[1]的負面標簽。智聯(lián)圖景中能效冪次遞增的海量數(shù)據(jù)集成訓練樣本嵌入神經(jīng)網(wǎng)絡，大幅拓展人類思維界域并增強群體行動量能，助力整個社會迎來跨越式發(fā)展的起飛點。多元異質(zhì)的嶄新智能應用全方位顛覆國家安全情報構成與交流過程，積極推進科學、個性、精準的嵌入式業(yè)態(tài)革命，逐步構筑良性循環(huán)的智能可再生能源系統(tǒng)，產(chǎn)生巨大經(jīng)濟效益與社會影響力。相關應用的情狀畫像內(nèi)蘊勾勒健康恒存的愿景框架、推進開源聚力的知識傳遞、驅(qū)動協(xié)作共享的產(chǎn)業(yè)革命以及實現(xiàn)精準遞歸的社會治理等點睛之處。

1.1 勾勒健康恒存的愿景框架

寒武紀大爆發(fā)的實力出現(xiàn)營建的全新生物對抗環(huán)境倒逼防衛(wèi)競爭下多樣生物協(xié)同進化。信息互通場景中遍布全球的物理傳感載體實時監(jiān)控巨量節(jié)點、互鏈數(shù)據(jù)資源池自動整理并優(yōu)化組合海量信息、多層微化算法積極洞察復雜社會機能。諸多原力聚合躍遷長期停滯的智能機器識別能力與覆蓋空間，驅(qū)動人類族群加速勾勒增強自我健康的宏大愿景。endprint

人工智能多元應用積極抽取并持續(xù)更新生命體征情報圖譜，充分發(fā)揮循證醫(yī)學在理想狀態(tài)下高效挖掘與傳遞疾病規(guī)律的核心優(yōu)勢，逐漸開辟超越資深專家水平的全維度個性化診療局面。疾病檢測領域，沃森智醫(yī)系統(tǒng)通過集中檢測海量圖片數(shù)據(jù)歸納糖尿病性視網(wǎng)膜病變和黃斑水腫等致盲因素的初發(fā)跡象[2]；疾病治療領域，初步智能化的達芬奇手術系統(tǒng)已經(jīng)輔助完成300多萬例微創(chuàng)手術[3]。事實上，從“23與我”公司有重點的基因芯片篩查服務到核林公司嘗試通過神經(jīng)假體引領的腦細胞通信協(xié)助認知缺陷群體，幾何乘數(shù)拓展的人工智能應用正在迅速拉升整個社會的泛在健康指數(shù)，拉開璀璨的永生序幕，“把生命稍縱即逝的光華寫進我們的遺傳密碼，從此成為永恒”[4]。從體內(nèi)芯片情報介質(zhì)、入腦起搏器、植入式溫度計等起步的旨在結合生物潛能和機器優(yōu)勢塑造具有無窮適應力的半機械人的探索活動正在開拓可遺傳棲變下的恒存通路。

1.2 推進開源聚力的知識傳遞

隨著制造、發(fā)售和維護實時信息捕析設施的成本驟降、計算能力大幅提升和云端存儲巨量擴容，持續(xù)匯總的密集數(shù)據(jù)為打破縱橫割裂的信息孤島奠定了堅實基礎。大數(shù)據(jù)環(huán)境能夠規(guī)避非注意盲視①的不良影響、運用人工神經(jīng)網(wǎng)絡架構演算識別和精準整合隱嵌用戶終端的海量知識原點而形成睿智洞見的多樣智能應用，積極打造人機融合的個性化知識傳承網(wǎng)絡，開拓重建巴別塔的綠色路徑②。如明略數(shù)據(jù)在全國落地了大量智能化的公安情報知識圖譜，準確高效地研判警務情報，切實維護公共安全。又如，如火如荼的人工智能圖書館建設實現(xiàn)了個性化推薦推送，積極強化館藏稀缺資源的延伸性，全面整合碎片信息并推進讀者互動，逐漸形成強大的知識流轉(zhuǎn)格局。

1.3 驅(qū)動協(xié)作共享的產(chǎn)業(yè)變革

從蒸汽機、計算機到人工智能的技術躍遷遞次趨零商品和服務的邊際成本，“催生出新的業(yè)態(tài)和商業(yè)模式，引發(fā)產(chǎn)業(yè)結構的深刻變革”[5]，日漸構筑數(shù)據(jù)驅(qū)動個性定制、人機協(xié)同生產(chǎn)服務和跨界共享產(chǎn)品價值的智能經(jīng)濟形態(tài)，加快深化供給側(cè)結構性改革。眾多企業(yè)基于用戶活躍度、權威度與興趣方向等動態(tài)畫像進行集優(yōu)銷售、信用預測與分類補償?shù)鹊取Ｈ缛斯ぶ悄芗夹g廣泛應用于發(fā)行、印刷、數(shù)字加工與閱讀等領域，通過機器協(xié)助寫作校對和智能增強交互體驗等重塑新聞出版行業(yè)；又如，綜合運用精準對象檢測與追蹤技術、生物特征自主感知技術以及意圖識別和交易技術等積極開發(fā)具有高識別力、高觸達力、高洞察力和高服務力的新零售實踐樣本，如Take Go、淘咖啡等無人值守智能門店。此外，自動駕駛技術嘗試嵌入共享交通工具等現(xiàn)象進一步激勵了“使用而不購買”的新興數(shù)字消費方式，節(jié)約巨量資源，促進環(huán)境改善。

1.4 實現(xiàn)精準遞歸的社會治理

《新一代人工智能發(fā)展規(guī)劃》（國發(fā)〔2017〕35號）中指出，“人工智能技術可準確感知、預測、預警基礎設施和社會安全運作的重大態(tài)勢。”整合大數(shù)據(jù)、云計算、深度學習與虛擬現(xiàn)實的集智平臺充分發(fā)揮社會治理最優(yōu)解的隧道效應，以結合環(huán)境復合因子的智析節(jié)點為“瓦斯報警鳥”①，審慎聚化、分類、壓縮和處理萬物互聯(lián)中眾多傳感器生成數(shù)據(jù)，精準權衡按需數(shù)據(jù)搜索、標記和使用的方差偏離和計算負荷，批量保真并遞歸提升數(shù)質(zhì)精度，近看助力提升國家安全防衛(wèi)、完善災難響應方式、解決人口老齡化與教育平權化等難題，遠期助力人類族群擺脫資源環(huán)境束縛。如融合圖像識別、語音識別、自然語言處理等創(chuàng)新技術的自動情報生成系統(tǒng)有助于突破傳統(tǒng)情報收集和流轉(zhuǎn)的真實性、透明性與全面性障礙，儼然是顛覆性的公共安全保障力量。

2 人工智能多元應用的風險表征

隨著經(jīng)濟奇點下爆發(fā)式擴張的人工智能應用持續(xù)展現(xiàn)出精準、高效、節(jié)能等優(yōu)勢，各級公權機構、海量社會組織、眾多企事業(yè)單位、乃至廣大居民開始依賴復合影響變量的權重計算進行評估和決策，引發(fā)了侵害生命健康權、受教育權、就業(yè)權、平等權、婚姻權以及參與政治生活和社會生活的權利等災難性負面效應。

2.1 算法決策內(nèi)嵌安全隱患

基于深度學習引擎在特定場景進行智能推理的全新范式改變了人類族群自由抉擇的傳統(tǒng)模式，看似科學客觀的算法決策內(nèi)嵌著形形色色的故障因子。事實上，非定常性黑盒輸入導致智能應用的處理與輸出模塊處于不可知的自主狀態(tài)，過度依賴機器決策存在巨大的安全隱患。

（1）公權機構、企事業(yè)單位、其他社會組織乃至眾多居民在近因效應作用下盲目認為依據(jù)短時尺度的數(shù)據(jù)體驗就能做出準確的趨勢判斷，往往積極刪除缺乏新穎性和時效性的信息資源，導致運用人工智能技術分析環(huán)境變遷、國家安全、公共事務、市場趨勢以及特定個體狀況等情報信息時采獲的近期數(shù)據(jù)過于龐雜，與之對應的遠期數(shù)據(jù)寥寥無幾。缺乏完整的持續(xù)數(shù)據(jù)集聚致使宏大規(guī)模的過濾數(shù)據(jù)質(zhì)量低下，相應的算法決策（尤其是少見且難以預測的極端事件中情境理解與準確抉擇）的真實性與可靠性大打折扣。

（2）參與人工智能運作中學習樣本揀選與標注的從業(yè)人員本身就可能存在種族歧視、性別偏見、宗教傾向或多元價值觀，甚至通過不經(jīng)意輸入錯誤或惡意微調(diào)細微因素等欺騙人工神經(jīng)網(wǎng)絡。由于人工智能技術的一次突破意味著無窮復制的替代物，滲透在算法框架中的固有偏見與歧視必會隨著規(guī)模化發(fā)展擴散到諸多應用領域。

（3）目前投入應用的弱人工智能尚處于技術發(fā)展初級階段，幾乎不可能進行逆向操作的算法運作不斷暴露出容易導致安全隱患的技術缺陷。如具有鎖定潛在不良行為強大能力的惡意購物智能篩查決策程序存在因錯誤跟蹤辨識用戶行為而限制或拒絕交易，進而影響營銷關系的情況；又如，眾多黑客不僅可以通過自主學習識別算法框架的偶發(fā)錯誤，甚至可以利用已有的受信代碼預測智能系統(tǒng)未來更新可能出現(xiàn)的零日漏洞②，進行最大程度的安全滲透。

2.2 責任分散置險族群永續(xù)

圖靈測試迄今的眾多人工智能技術水平量度方案相繼揭示智能應用難以突破莫拉維克悖論③而達至獲得心靈并獲取思想的超人工智能，閱面（ReadFace）、藍眼（Blue Eyes）等嵌入互動智能硬件的情感認知引擎本質(zhì)上是以簡單方式認知世界的單色符號表征，但諸多合并人類智慧和機器智能的人機協(xié)作模式已經(jīng)能夠獨立感知基本情感顆粒和識別陌生物體，甚至通過蜂巢思維將習得成果匯聚中央知識庫并實現(xiàn)全域共享。技術迭代下持續(xù)趨向自動化的人機協(xié)作中主動偽造數(shù)據(jù)與被動黑客劫持等現(xiàn)象愈加隱蔽，零亂不堪且疏漏重重的相應責任機制進一步刺激參與者不擇手段地汲取跨物種、跨代際的物化生命價值與量化環(huán)境對價，嚴重威脅人類族群健康永續(xù)。如在高效的人工智能技術應用與多方位的規(guī)范巢白激勵控制權讓渡的新形勢下，外科醫(yī)生使用機械臂手術和駕駛員使用輔助駕駛系統(tǒng)等大幅削弱參與人員對于關鍵環(huán)境要素的識別和反應能力，甚至產(chǎn)生智能系統(tǒng)可以自動彌補全部遺失錯漏的錯覺，進而引發(fā)嚴重的傷亡事故。endprint

2.3 精英趨向引發(fā)異化強權

大數(shù)據(jù)聯(lián)姻深度學習背景下人工智能應用中高度聚合的數(shù)據(jù)資源與高新技術正在派生掌握絕對資源優(yōu)勢的精英特權階層，必然加劇人際異化、經(jīng)濟危機和社會動蕩，攔阻整個社會邁向應然王國的步伐。隨著智能機器和算法框架愈加集中于少數(shù)精英群體，巨額收益亦飛速向其靠攏。持續(xù)異變的分配模式甚至逐步解體現(xiàn)有社會結構，導致技術精英日漸占據(jù)社會強勢地位。然而，絕大多數(shù)技術專家與杰出的應用人物類似大航海時代開疆拓土的哥倫布和達伽馬，相對缺乏宏觀的政經(jīng)洞見與審慎態(tài)度，不僅助力技術發(fā)展、知識傳遞、經(jīng)濟增長與環(huán)境改善，亦可能瘋狂地推進整個世界的黑盒化。

同時，人工智能多元應用實現(xiàn)創(chuàng)意人才向上流動，日漸優(yōu)化精英階層的生存環(huán)境。如昂貴的高精尖智能運載工具不僅節(jié)約時間并延長出行里程，更突破了傳統(tǒng)交通運輸根深蒂固的4D風險①，意味著更高的安全系數(shù)，在一定程度上賦予精英階層在任何其他生命面前的優(yōu)先通道，嚴重侵害弱勢群體的基本生存權和發(fā)展權；又如，通過基因編輯技術微調(diào)關鍵致病因子的昂貴智能醫(yī)療鋪開應用意味著精英階層健康生命的大幅延長，使得收入成為壽命的最佳預測指標，反向加劇貧富鴻溝，甚至可能影響整個族群有序繁衍。

人工智能廣域滲透導致稀缺資源苛刻分配、社會上升階梯大面積斷裂，逐漸剝奪低收入、低水平且前景有限的弱勢群體的生存空間。如掌握覆蓋整個市場智能監(jiān)控系統(tǒng)的權威精英擁有上帝視角，通過設置準入門檻和預警系統(tǒng)抑制競爭，或者采取“擊斃式收購”方式消滅潛在對手，變相剝奪其他群體的發(fā)展機會，形成后現(xiàn)代的馬太效應生態(tài)圈；又如，現(xiàn)代社會中勞動者享有不因種族、性別、宗教、外形、性取向和政治見解等遭受不同待遇的平等就業(yè)權。有意義的工作是個人自我認同感的重要組成部分，是人生意義的構成要素。伏爾泰曾言“工作攆跑了三大魔鬼：無聊、墮落和貧窮”，失業(yè)率較高的國家和地區(qū)中濫藥、自殺和精神患病概率均較高。人工智能多元應用的高速發(fā)展導致整個社會就業(yè)結構變遷，秘書、快遞員、操盤手、保險定損員、圖書管理員、一線制造工人等具有常規(guī)性和重復性特征的工種逐漸被機器替代（如多家高校圖書館已經(jīng)用智能管理員取代傳統(tǒng)人工），數(shù)以億計喪失經(jīng)濟價值的失業(yè)群體難以自力打通重入職場的渠道。不同于圈地運動之后大工業(yè)生產(chǎn)需要海量雇傭工人（彼時普遍用工荒導致整個社會加大職業(yè)技能培訓力度和輻射面），目前人力資源相對冗余、具有創(chuàng)新性或需要復雜溝通的崗位人員幾近飽和，強勢精英階層缺乏主動投資全民職業(yè)能力培養(yǎng)的動力，大幅壓縮了弱勢群體的生存空間與上升通道。

2.4 智能迭代侵害人格權益

人機物三元融合發(fā)展進程中，數(shù)據(jù)成為驅(qū)動經(jīng)濟增長的關鍵要素，數(shù)字化資訊積累成本與周期耗費是能否最大限度釋放智能紅利的關鍵。如立足基因分析搭建生命周期監(jiān)控與疾病預防機制的智能診療系統(tǒng)中內(nèi)蘊海量受體遺傳信息的數(shù)據(jù)資源池助力持有者在漫長而封閉的研發(fā)周期中逐漸打造行業(yè)技術門檻，具有巨大的使用價值和交換價值。“23與我”公司能夠與輝瑞、基因泰克等業(yè)界巨頭以及眾多科研院所達成基因組測序合作協(xié)議的核心籌碼就是其在長期虧損檢測中通過附隨使用協(xié)議攢下的80萬消費者的基因數(shù)據(jù)。

“大數(shù)據(jù)往往混合了來自多個數(shù)據(jù)源的多維度信息。”[6]人工智能廣域應用帶來的巨額數(shù)據(jù)紅利進一步刺激眾多公司持續(xù)挖掘數(shù)據(jù)隱私，諸如臉書悄然掃描用戶隱私信息和谷歌“深思”非匿名獲取和識別海量急性腎損傷患者數(shù)據(jù)等惡性事件層出不窮。尤其是在數(shù)字追蹤線上慣例影響之下，優(yōu)步、易到和滴滴等企業(yè)的城市規(guī)劃數(shù)據(jù)中心長期監(jiān)控用戶行蹤數(shù)據(jù)，大量網(wǎng)貸平臺公然追蹤并評級用戶日常行為，無人車、無人機、無人商店等均以7/24模式瘋狂收集用戶身份和行為習慣，植入體內(nèi)的芯片情報介質(zhì)更是不間斷地開展監(jiān)控和存儲。缺乏高精尖技術知識的普通民眾難以深刻意識數(shù)據(jù)隱私無序暴露和肆意使用可能造成的惡劣后果，往往為了節(jié)約時間和經(jīng)濟成本、獲得更多便利或更高質(zhì)量而忽視隱私侵害。

此外，“搜索一旦得以進化，就有可能成為最終連接人性和機器的‘鉸鏈”。[7]去中心化巨網(wǎng)籠罩下人工智能技術應用于全網(wǎng)海量數(shù)據(jù)資源搜索領域?qū)е掠洃浲獠炕Ｖ撬严到y(tǒng)對于散落網(wǎng)際空間的個人數(shù)據(jù)永不遺忘的記憶傳承減弱了人們對于自身隱私的控制權。基于海量零散數(shù)據(jù)處理的智能識別軟件持續(xù)迭代，進一步助力深層的關鍵性隱私挖掘，迫使整個族群被長期禁錮于透明的數(shù)字化圓形監(jiān)獄。如形形色色的面部識別算法不僅用于情報收集研判（如從“天眼”系統(tǒng)中分辨恐怖分子）、判斷和引導對象政治選擇（如2016年美國大選和英國脫歐投票期間通過面部識別分類發(fā)送資訊而試圖影響投票者），甚至以高達91%的準確率識別性取向[8]，催生外表決定論的粗暴法則，嚴重侵害當事人的知情權、自主權和人格尊嚴，在特定的時間或環(huán)境下（如烏干達、尼日利亞等全民歧同且酷法反同的國家應用同性戀識別軟件）可能產(chǎn)生災難性后果。

事實上，人格尊嚴是個人價值的源泉，是自由和獨立的基石。企業(yè)通過智能系統(tǒng)持續(xù)監(jiān)視員工（如彭博監(jiān)控所有員工整個職業(yè)生涯的全部辦公室活動）并收集一切移除人類直覺和情感的客觀數(shù)據(jù)，精準評估其未來潛力、貨幣價值和人格特征，繼而引發(fā)偏見、歧視和其他不可預期的侵害對方尊嚴的惡性事件，導致員工喪失勞動熱情和主人翁精神，甚至引發(fā)嚴重的心理疾病。此外，包括類人性伴侶和老幼陪伴機器人等在內(nèi)的替代人類接觸的人工智能應用導致弱勢群體被物化忽略，侵害其基本的人格權益。

3 人工智能應用風險的應對策略

萬物互聯(lián)時代的科技烏托邦愿景大力推動現(xiàn)實與虛擬交融，極客思維映射人工智能全方位滲透社會生活各個領域，在“促進國家擁有經(jīng)濟、金融、意識形態(tài)、政治和其他資源……促進國家繁榮”[9]的同時，充滿變化性、危險性與不確定性。從實質(zhì)侵害配偶權益的性愛機器人到有違倫理的葬禮誦經(jīng)機器僧人[10]；從上線不足一日就變身不良少女的微軟小冰到編寫具有自我保護意識的計算機程序，“現(xiàn)在我們已經(jīng)進入通向未知世界的兔子洞了”[11]。面對人工智能多元應用的已知風險與未知威脅，亟待圍繞《網(wǎng)絡安全法》《新一代人工智能發(fā)展規(guī)劃》的指導思想、戰(zhàn)略目標、重點任務和保障措施，構筑具有中國特色的公權主導、多方參與、域內(nèi)外合作規(guī)制的智能應用政策法律調(diào)整框架。運用復合技術標準檢測、認證和評估人工智能安全指數(shù)，確立妥善處理國家安全、公共安全、企業(yè)利益和個人權益的協(xié)同聯(lián)動和相關責任劃分的政策法律體系，推動各級監(jiān)管部門的能力建設、參與企業(yè)的自我審查與個人權益的全面保障，形成健康有序的智能生態(tài)培育環(huán)境，大幅提升整個社會的文明水準，加快發(fā)展中國的軟實力和巧實力，積極建立創(chuàng)新型科技強國。endprint

3.1 確立和諧永續(xù)的立法目標

數(shù)據(jù)資源與處理技術爆炸式增長中創(chuàng)新紅利、市場紅利和人口紅利交疊起效，為我國人工智能多元應用在全球范圍內(nèi)彎道超車創(chuàng)造了有利條件。亟待確立人工智能研發(fā)和應用有益族群和諧永續(xù)的立法目標，遵循技術進步、經(jīng)濟增長和公眾權益交互規(guī)律，平衡國家安全、社會穩(wěn)定、企業(yè)發(fā)展與個人成長的矛盾沖突，秉持安全性、可用性和可溯源性原則制定指引人工智能規(guī)劃和部署的法律規(guī)范，明確智能應用的法律主體及相關權責，實行設計問責和應用監(jiān)督并重的行政監(jiān)管機制與法定認證和預警標準，制定人工智能研發(fā)行為守則并布局人工智能人才發(fā)展戰(zhàn)略。如海量數(shù)據(jù)和人工智能多維融通在一定程度上導致技術引領的信息壟斷和數(shù)字鴻溝。“隨著各平臺不斷專業(yè)化自己的服務，未來社會的不平等問題將更嚴重”。[12]亟待進一步完善公平準入和有序競爭規(guī)則，避免濫用壟斷地位，持續(xù)增進公眾福祉。

3.2 構筑張弛有度的政府監(jiān)管機制

激進的技術變革往往促使體現(xiàn)集體理性的政府公器適用全新的監(jiān)管模式。迅速迭代的人工智能既是社會發(fā)展的核心動能，亦是人類文明的根本風險。亟待迅速構筑張弛有度的政府監(jiān)管機制，積極權衡技術進步、經(jīng)濟增長與公眾權益的交互關系。以最優(yōu)方式劃分部門權限，堅持公眾參與原則，確保監(jiān)管連貫、合理、公平，兼顧人工智能固有的軍民兩用性，既保密和保護突破性軍事創(chuàng)新，又擴展研發(fā)和應用民用顛覆性技術；既制定防止人工智能造假的技術標準，又補白數(shù)據(jù)侵權的保障性規(guī)范。堅持將大數(shù)據(jù)作為國家基本戰(zhàn)略資源與將人工智能多元應用的關鍵部分作為公共基礎設施管理的基本方針。運用合理而透明的可靠系數(shù)標準從網(wǎng)絡層、數(shù)據(jù)層到算法層等全面量化人工智能系統(tǒng)的安全程度，逐步建立關鍵基礎設施保護體系、推進彈性保障的非歧視用工制度、靈活現(xiàn)代的福利體系以及審慎高效的數(shù)據(jù)開放規(guī)則，防御并降低偶發(fā)事件帶來的災難性風險，逐步提升我國的全球位次。

3.3 頒布透明可信的數(shù)據(jù)核饋規(guī)范

人工智能產(chǎn)業(yè)順遂成長的關鍵在于獲得數(shù)據(jù)權人、其他使用者乃至普通民眾的數(shù)字信任。隨著中國科技行業(yè)逐漸走出加拉帕戈斯群島式封閉狀態(tài)，大量內(nèi)嵌豐富功能的智能應用的國際競爭力愈加強大。亟待頒布透明可信的自動化數(shù)據(jù)審核和反饋規(guī)范，積極完善冗余自檢機制、構筑輕量密鑰算法標準、健全高性能模塊分離流程和安全防御指標。不僅立法督促科技企業(yè)全面公開智能技術部署和漸進測試過程，助力其依據(jù)用戶體驗和機器錯誤積極調(diào)整設置；還要求智能企業(yè)預先鎖定并嵌入高度模塊化的安全設計，遵循最小阻力路徑識別和控制黑客注入易受攻擊的疏漏集群，避免利用情感或意圖錯覺操控弱勢用戶[13]。

3.4 完善有區(qū)別的責任制度

完全人工智能（Full AI）和應用型人工智能（Applied AI）圖景下能夠觀察環(huán)境并做出行動以達到目標的智能主體絕大多數(shù)行為不受人類直接指令約束，而是基于所獲信息的分析判斷。創(chuàng)造者難以預料和事先控制其在不同情境中的應激反應與決策選擇。單純以產(chǎn)品具有缺陷追究生產(chǎn)者的產(chǎn)品缺陷責任或以未盡到合理注意義務追究使用者的過錯責任等，既不符合追求公平和正義的法治精神，亦不利于科學劃分參與各方的權利義務，還會因缺乏可操作性而影響法律公信力并打破智能應用有序發(fā)展的穩(wěn)定格局。亟待出臺系統(tǒng)化的調(diào)整人工智能多元應用的特別規(guī)范，賦予智能主體法律人格。完善智能應用的設計、制造與使用中有區(qū)別的歸責體系，對于商用智能系統(tǒng)適用嚴格責任制度，給予公益相關的智能主體（如救援機器人、智能國安情報員和智能圖書管理員等）特殊寬待。細化智能運作的標準流程和數(shù)據(jù)隱私保障制度、智能系統(tǒng)登記制度、危險責任制度、強制保險制度和賠償基金制度等。

3.5 實施適應全新需求的層級稅制

人工智能的廣域應用在很多領域替代了傳統(tǒng)人力勞動，間接導致國家大量稅收流失。有必要依據(jù)新紀元發(fā)展特征，考慮實現(xiàn)社會公允與均衡進步的宗旨，積極改革現(xiàn)有稅收制度，實施有條件的層級稅制。如對于有利環(huán)境改善、疾病治療和知識普及的人工智能技術應用免稅，對于其他工業(yè)和服務業(yè)智能系統(tǒng)（如無人商店的自助結賬系統(tǒng)）的算法設計、機械制造和使用企業(yè)征稅；又如，增收資產(chǎn)稅和奢侈品消費稅以避免財富和資源過度集中于技術精英群體，避免智能企業(yè)的應稅業(yè)務轉(zhuǎn)移到其他國家和地區(qū)。進而使用上述部分稅收收入搭建弱勢群體進階知識儲備的綠色通路，實現(xiàn)社會公平。

3.6 加強人工智能領域的宣傳教育

人工智能推動社會發(fā)展的核心價值使得相關宣傳教育至關重要。全面提升整個社會獲取、理解和整合數(shù)字信息的素養(yǎng)和參與研發(fā)應用的能力是維持人工智能可持續(xù)發(fā)展的重要舉措。有必要立足國家人工智能發(fā)展戰(zhàn)略，通過相關宣傳教育，積極培養(yǎng)大批守法的“人工智能+”的復合型人才，尤其重視提升女性、少數(shù)民族同胞和欠發(fā)達地區(qū)居民的相關法律法規(guī)認知水平，防止智能紀元的性別歧視、種族歧視和收入偏見等等。此外，積極加強高等院校培養(yǎng)智能人才中的黨性教育、愛國主義教育和集體主義教育，重點強化私營科技企業(yè)的黨組織和工會系統(tǒng)，亦有利于降低科技企業(yè)集結逐利與技術專家群體泛自由主義過度泛濫引發(fā)的諸多危險。

4 結語

進化的互聯(lián)網(wǎng)與迭代的信息科技推動人工智能多元應用廣域開啟整個族群改造世界的第二次契機。智能應用已經(jīng)從最初的軍事、科技和工業(yè)應用滲透到普通民眾的日常生活之中。在充分發(fā)揮加快知識傳遞、驅(qū)動產(chǎn)業(yè)變革、完善社會治理以及推動族群永續(xù)等積極效用的同時，亦暴露出大量阻礙社會和諧發(fā)展的嚴重風險。亟待建立智能系統(tǒng)設計者、制造者、使用者以及其他利益相關者合作共贏的權責體系，充分發(fā)揮各級各地公權部門合法規(guī)制與激勵發(fā)展的雙重作用，積極深化智能應用領域的國際管控合作，確保運作流程公開透明與安全可靠，統(tǒng)一協(xié)調(diào)公權力、私權力、多樣生態(tài)和社會秩序等。

參考文獻：

[1] Elish M C，Tim H.An AI Pattern Language： Accounting for Human Factors & Human Frames[R].Data & Society Research Institute，2017：8.endprint

[2] Michelle K.American Diabetes Association and IBM Watson Health Join Forces to Reimagine How Diabetes are Prevented and Managed [R].American Diabetes Association Report，2016：31.

[3] Da Vinci Surgery：Minimally Invasive Surgery[EB/OL].[2017-12-08].http：//www.davincisurgery.com/.

[4] 王立銘.上帝的手術刀：基因編輯簡史[M].杭州：浙江人民出版社，2017：1.

[5] 周志敏，紀愛華.人工智能：改變未來的顛覆性技術[M].北京：中國工信出版集團，北京：人民郵電出版社，2017：27.

[6] 李開復，王詠剛.人工智能[M].北京：文化發(fā)展出版社，2017：3.

[7] （美）斯特凡·韋茨.任頌華，譯.搜索：開啟智能時代的新引擎[M].北京：中信出版社，2017：101.

[8] Yilun W，Michal K.Deep neural networks can detect sexual orientation from faces[J].Personality and Social Psychology.Preprint [EB/OL].[2017-12-08].https：//psyarxiv.com/hv28a/.同性戀識別算法使用深度神經(jīng)網(wǎng)絡提取特征，在給定同一測試者五張面部圖像的前提下，分類器區(qū)別男性同性戀的準確率高達91%、女性83%，遠優(yōu)于人類判斷表現(xiàn)（男性61%、女性54%）。

[9] （美）喬舒亞·庫帕·雷默.羅康琳，譯.第七感：權力、財富與這個世界的生存法則[M].北京：中信出版社，2017.

[10] Robot Priests Funeral Role[N].Hindustan Times，2017-08-23（4）.

[11] （英）卡魯姆·蔡斯.張堯亮，譯.人工智能革命：超級智能時代的人類命運[M].北京：機械工業(yè)出版社，2017：173.

[12] （印）阿魯·薩丹拉徹.周恂，譯.分享經(jīng)濟的爆發(fā)[M].北京：文匯出版社，2017：8.

[13] （英）瑪格麗特·博登.孫詩惠，譯.AI：人工智能的本質(zhì)與未來[M].北京：中國人民大學出版社，2017：1955.

作者簡介：蔣潔（1979-），女，南京信息工程大學中意網(wǎng)絡侵權研究所、南京信息工程大學法政學院副教授，中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟政策法規(guī)組副組長，意大利信息法學博士后，騰訊學術顧問。endprint