技術倫理學視域下的網絡安全規范路徑

張旺 劉戟鋒

摘要：人工智能技術的迅猛發展給網絡安全領域帶來了發展機遇和嚴峻挑戰，在豐富網絡社會治理路徑的同時，也帶來了合理利用技術的倫理規范難題。習近平總書記在黨的十九大報告中提出了建立網絡綜合治理體系的目標要求，推動這一要求貫徹落實，最為緊要的便是有效破解網絡綜合治理體系的建構難題，從人工智能的技術倫理視角推進網絡安全倫理規范路徑，進而建立規范自律、合理有序的智能化生態化網絡綜合治理體系。

關鍵詞：技術倫理；網絡安全；人工智能；綜合治理；倫理規范

中圖分類號：C93 文獻標志碼：A 章編號：1004-3160（2018）02-0130-07

網絡安全作為典型的非傳統安全，面臨的威脅挑戰日益增多，不穩定不確定的風險系數不斷增高，傳統的監管方法手段已經不適用于網絡空間的治理，新興技術的推廣運用呈現飛速上升趨勢。特別是人工智能技術在網絡安全領域的應用價值逐步凸顯，其應用前景受到各界廣泛關注，并已經在網絡安全監測預防、網絡治理等方面取得了明顯成效。據美國知名風投調研機構CB Insights統計，2016年“網絡安全”與“人工智能”兩詞共同出現在文章中頻率快速上升，表明越來越多的討論將兩者聯系在一起進行關注。[1]習近平總書記在黨的十九大報告中明確指出：“加強互聯網內容建設，建立網絡綜合治理體系，營造清朗的網絡空間。”[2]同時也提出了推動互聯網、大數據、人工智能和實體經濟深度融合的目標要求。這些重要論述既為網絡治理特別是網絡安全指明了發展方向，也為人工智能在網絡安全領域的應用拓展了思路舉措。以網絡安全為核心要素的網絡綜合治理體系建構路徑，涵蓋戰略規劃、技術治理、法律規制和教育引導等多個渠道，其中倫理規范是框設網絡安全運行的重要路徑。特別是基于技術倫理學的網絡安全認知理念，既為網絡綜合治理注入了嶄新生機，也為人工智能技術在網絡安全領域的規范路徑提供了有力的倫理支撐。

一、人工智能技術在網絡安全領域應用的倫理困境

在現實社會的諸多領域，技術應用本身便可能帶來安全與不安全兩種后果傾向，這取決于技術本身的風險屬性。風險文化學學者斯科特·拉什認為，技術發展造成了全球自然風險，“自然風險包括對自然和人類社會所構成的生態威脅和科學技術迅猛發展帶來的副作用和負面效應所釀成的風險。”[3]人工智能技術在網絡安全領域的廣泛應用，以及技術手段的不斷升級，使得新興技術的復雜不確定性特征逐步凸顯出來，不可避免帶來了安全隱患和倫理困境等諸多難題，這其中倫理問題是首當其沖需要重點考量的因素。

（一）人工智能顛覆了傳統技術視域下的認知觀

傳統技術的應用前景和實踐后果，可以更多地通過技術預見的方法手段加以評估，而人工智能作為新興技術體現的超前性和巨大功效，應用于網絡安全這一非傳統安全，產生了極大的沖擊影響，極大地顛覆了人們的傳統認知觀，在某種程度上已經超越了人們的認知界限，使得技術發展的不可控性愈發明顯。這種擔憂和顧慮亟需從技術倫理的視角進行詮釋規范，并將這種倫理理念嵌入人工智能在網絡安全領域的實踐活動。關于人工智能的憂慮中，最為值得關切的是人工智能的應用倫理及其價值植入的技術限度。就像有的學者指出的那樣，“從倫理的視角反思實際的技術，不試圖判斷現代技術是善，還是惡，我們是應當擁抱它，還是應該摒棄它。技術哲學的倫理轉向趨向于認為，我們生活在技術文化之中，技術的引入和使用是社會運行的常態，我們需要以負責任的方式對待技術。”[4]

圍繞人工智能正當合理性的論戰也持續了很久，引發了多方爭議，呈現出兩種迥異的認知判斷。技術悲觀者則認為，人工智能可能導致網絡空間秩序失衡，甚至是人類社會的悲劇。如霍金認為：“人工智能技術發展到極致程度時，我們將面臨著人類歷史上的最好或者最壞的事情。”“人工智能的短期影響取決于由誰來控制它，而長期影響則取決于它是否能夠被控制。”馬斯克“AI終將滅絕人類”的悲觀論調，人工智能卻是人類文明存在的根本危險，它會對整個社會造成損害。2015年1月，比爾·蓋茨在Reddit的“Ask Me Anying”論壇上表示，人類應該敬畏人工智能的崛起。他認為，人工智能將最終構成一個現實性的威脅，雖然在此之前，它會使我們的生活更輕松。技術樂觀者則認為，人工智能會讓網絡空間變得更加美好。如扎克伯格認為，AI將使我們的未來生活變得更好，而有關AI末日的預言是“相當不負責任的”。雷·庫茲韋爾也表示：“要成為一位發明家或企業家，你必須得是個樂天派。對未來所存在的風險，我并非是渾然不覺，我只是對人類安然渡過奇點而無需摧毀文明為代價持樂觀態度而已。”隨著技術向強人工智能階段的不斷發展，人工智能對網絡空間的作用發揮愈發明顯，一些不確定性后果與各種信用、道德缺失行為越來越多，將會全面徹底地顛覆了傳統技術觀，塑造了全新的技術認知觀和倫理價值理念。

（二）人工智能倫理與網絡倫理的復雜交織

作為人類基本文化現象的技術已經滲透到人類生存的各個方面，構成了人的“生活世界”，并拓展為一個“技術的社會”[5]。技術發展本身的不確定性接著又被經濟、政治、文化、倫理和宗教等社會因素放大，演變成更為嚴重和劇烈的社會風險。還有學者把這自然風險這一客觀風險與主觀風險疊加的技術風險定義為現代技術風險。隨著人工智能技術的普及發展，人工智能倫理已經成為各界研究的重要問題。人工智能在網絡安全領域的快速發展，特別是在安全預警、數據分析等方面，已經開始達到并超過人類的認知水平和技能高度。網絡空間的隱蔽性和無序化，更應該受到倫理規范的重點約束。倫理道德建設是網絡綜合治理的重要環節，是網絡安全領域法律制度保障的有力補充，形成的影響力更為廣泛，也給人工智能倫理與網絡倫理的動態交織、互補規范，帶來了更為嚴峻的挑戰和難題。

人工智能技術與網絡安全領域都具有鮮明的信息化特征和時代屬性。“技術倫理是對技術活動運行過程中所涉及問題的倫理把握，是對技術活動的對象、過程、后果對人類本身及其生存環境與條件所產生的影響的倫理價值觀的反思。技術倫理的核心是技術如何為人類的進步和發展服務。”[6]當前，以深度學習為代表的人工智能技術在網絡安全的廣泛應用，既推動國家戰略層面的網絡安全防范措施，也為新興產業提供可靠的網絡安全風險防范指導，促進有關部門、關鍵信息基礎設施的運營者以及有關研究機構、網絡安全服務機構等之間的網絡安全信息共享，加快推動人工智能與產業企業的融合發展。但由此也帶來倫理上的規范難題，如人工智能技術逐步替代了部分網絡安全技術人員可能造成的人性倫理缺失、在算法中嵌入偏見歧視的風險，以及對網絡隱私權和知識產權的破壞影響，甚至有可能挑戰以往劃設的網絡安全倫理禁區。

（三）創新發展與安全可控的辯證矛盾

網絡技術倫理悖謬是在網絡技術實踐過程中產生的與人們的主觀動機和應用技術的目的相反的現象。創新需要冒險精神，但同時也可能帶來失敗甚至產生不可估量的后果。如何權衡創新發展與安全可控之間的度量，需要通過技術倫理的視角加以審視評估。技術的發展不僅給人類帶來了巨大的福祉，也使我們遇到了多樣的風險與挑戰。只有對技術的發展結果做出合乎倫理價值的評價，才能制定出有益于社會發展和人類進步的文明進化規則，引領技術發展向著正確的方向邁進，體現對人類自身利益的終極關懷。

由于網絡安全領域的數據基礎流量非常大，很多環節只有人工智能才能進行科學處理，人工智能必將淘汰、替代這一領域的很多崗位，也將創造很多新的崗位，這些新興崗位的技術含量可能更高，也會進一步推動社會進步和科技發展。人工智能技術給網絡安全領域帶來了巨大的變革，也同樣帶來了不可避免的困惑。如對網民個人信息等數據隱私造成的無意識侵犯，以及由于算法和模型制定者潛在的認知偏差造成的無意識歧視，這些都給網絡安全帶來了潛在危機和巨大隱患。如何防止人工智能技術的濫用和異化，解決技術發展與安全可控之間存在的矛盾問題，確保技術運用始終圍繞可靠動機展開，避免在實際操作過程中帶來的與倫理規范的不一致和沖突。

（四）人工智能的網絡安全倫理規范仍有缺失

技術是確保網絡安全穩妥可靠的關鍵所在，只有自主掌握核心技術，才能在網絡攻防對抗中占領先機，以技術防治漏洞，用技術杜絕風險。而倫理規范則是確保技術運用不偏離使用者本意的重要途徑，也是發揮技術功效的倍增器。當前，以人工智能為代表的新興技術已經在網絡安全領域發揮著越來越重要的作用，對維護網絡安全起到了極大的推動促進作用。如運用機器自我學習和自我意識的基本原理，結合網絡空間安全治理的現實需求，能夠拓展深化網絡安全治理研究視野，從技術驅動的角度對網絡安全社會共治作出豐富完善，縮短網絡安全治理周期，擴展網絡安全治理參與群體規模。但要看到在技術應用方面仍然還有很多需要突破的環節和提升的空間，技術的使用掌控與倫理規范還遠遠未達到理想地步。近年來爆發的網絡安全惡性事件，凸顯了存在的技術應用隱患問題和倫理規范缺失，技術成熟度和倫理約束度還有很多需要加以提升完善的地方，如加快探索新興技術在網絡安全倫理規范下的作用機理和驅動機制，加深對倫理規范治理方法的研究運用，進一步加強網絡安全防范能力和風險規避能力，從技術倫理視角建立完善網絡空間治理和服務標準體系等。

二、人工智能在網絡安全倫理規范上的國際經驗

人工智能技術是網絡安全領域最活躍、最具可變性的因素。以深度學習為代表的人工智能技術在網絡安全領域的應用，已經在美國等國家取得了一定的研究成果。全球第一個基于深度學習提供商業化網絡空間安全解決方案的公司（Deep Instinct）已于2015年11月在舊金山成立，該公司宣稱其安全解決方案能夠抵御未知攻擊，能夠即時地檢測漏洞威脅和網絡攻擊。2017年10月15日，英國政府網站發布《英國人工智能發展報告》中特別提到了網絡安全公司Darktrace，該公司已經把人工智能技術應用到網絡安全領域。當今世界，網絡安全規范正加速向智能化方向發展，呈現出戰略設計、技術治理、法律規制、倫理規范、教育等全方位的發展態勢，對國家安全和經濟社會穩定產生了極為重要的影響。越來越多的國家重視人工智能倫理研究，形成了各具特色的網絡安全領域倫理規范路徑。

（一）制定倫理規范原則標準

倫理規范并不僅僅是簡單的概念框設和理念約束，而更多地趨向于從定量視角進行相關原則的安全審查與倫理審查，這樣既提高了規范標準的適用性，也提高了實踐運用的可操作程度。在這方面，國外取得了比較成熟的經驗可供參考借鑒。早在2015年，英國劍橋大學新建了一個研究中心，致力于人工智能未來并旨在影響其道德倫理發展。2016年7月，全球領先的AI研究者在紐約的研討會上討論了人工智能技術對社會和經濟的影響。2016年9月，斯坦福大學主持的“人工智能研究一百年（One Hundred Year Study on Artificial Intelligence）”項目組的研究人員發布了第一份研究報告，描述了AI技術到2030年將對北美城市生活產生怎樣的影響，并提供了相關的原則標準。2016年底，IEEE啟動了人工智能倫理工程，發布了《合倫理設計：利用人工智能和自主系統（AI/AS）最大化人類福祉的愿景》，從可操作標準的層面為倫理嵌入提供指引。2017年初，美國麻省理工學院媒體實驗室（MIT Media Lab）與哈佛大學伯克曼·克萊因互聯網與社會研究中心（Berkman Klein Center for Internet & Society）合作推出一個預計耗資2700萬美元的AI倫理研究計劃。微軟發布《人工智能政策建議》，鼓勵制定最佳實踐倫理準則。英特爾在發布的《人工智能公共政策機會》中對外傳達了英特爾對人工智能技術的社會影響回應，包括重新思考隱私，合倫理的設計以及配套的可責性原則。

（二）成立倫理監督委員會

人工智能在網絡安全領域的廣泛運用，引發了各界的普遍憂慮。面對構建人工智能技術日新月異的發展進度和網絡空間治理的嚴峻挑戰，國外相關機構不光注重從技術層面進行治理，同樣注重從倫理道德層面進行規范。一些部門和研究機構相繼開設倫理委員會，研究人工智能在網絡安全領域應用的倫理學問題，探索人工智能技術在網絡安全領域的倫理規范路徑，并圍繞技術和科研政策問題制定相關倫理指導守則。IBM，Watson團隊很早就成立了倫理審查委員會，IBM在2017年達沃斯世界經濟論壇上公布了其發展人工智能的三個基本原則，不以取代人類為目的，增加透明性，以及提高技能培訓和供給。谷歌、Facebook等五大科技公司（蘋果公司后來加入）聯合組成的人工智能合作伙伴關系也對外宣示了科技公司對人工智能社會影響的重視，希望技術能夠造福于社會經濟生活和人類自身。其中，谷歌DeepMind團隊最近宣布成立人工智能倫理部門，表明其在加強人工智能技術研發和應用的同時，也將倫理等人工智能公共政策提上議程，負責任地研究和部署人工智能技術。2017年10月24日，代表硅谷等科技行業發展利益和需求的美國IT（信息技術產業理事會）發布首份《人工智能政策原則》，從人工智能發展和創新的角度回應輿論關于失業、責任等的擔憂，呼吁公私合作，共同促進人工智能益處的最大化，同時最小化其潛在風險。

（三）注重人工智能應用的倫理約束

人工智能在數據感知、搜集、分析、處理等方面的巨大優勢，使得這一技術成為輔助決策、提高判斷準確性的重要工具。在網絡安全領域，人工智能作用功能在很大程度上體現為其對人類已有預見預知能力的改變，而且這種改變是基于海量數據分析基礎之上的，可信度和可靠性極高。以美國大選為例，競選期間，劍橋分析公司曾向特朗普團隊出售其服務。該公司建立了一個龐大的美國人信息庫，善于利用選民的個人資料通過人工智能技術手段分析選民性格，進而推斷選民的政治傾向，然后有針對性地對不同人群投放不同的廣告信息，以影響他們的選票取向。2016年美國總統選舉前幾天，CNBC報道說，一個印度創業公司開發的人工智能預測特朗普將贏得選舉，盡管當時的大多數民意調查表示希拉里領先。人工智能在網絡安全領域的應用，在某種程度上將會改變人們的固有認知系統和分析習慣，從而做出對操控者有利的判斷和選擇。如果缺乏必要的倫理規范和道德約束，這種非常理的技術應用可能會造成社會秩序的混亂，并影響相關群體的利益。因此，國外特別注重對人工智能技術的倫理規范，設定倫理禁區，并阻止人工智能向軍事領域的過度滲透發展。

三、人工智能在網絡安全領域倫理規范的路徑

近年來，人工智能技術已經成為國內網絡社會治理的重要手段，愈加發揮不可替代的作用。如何將網絡安全這一特殊領域與人工智能技術更好地結合起來，將倫理規范理念融入管理運維全流程中，是解決社會發展中的網絡安全隱患和互聯網黑色產業鏈等突出問題的重要方法。在推進基于人工智能的網絡安全倫理規范目標下，還有很多亟需解決的現實問題。

（一）審視倫理規范的價值作用

人文社會科學研究本來就應該超越自然科學的發展，就像我們不能等克隆人產生之后再來研究克隆人的倫理與社會問題一樣，我們必須在人工智能產生安全問題之前就做好充分的理論準備。技術運用配以倫理規范，能夠有效避免可能產生的技術異化，防止一味追求技術效率和利益產出，而忽視方法手段的合理性，甚至做出不顧倫理約束的舉動。同時，網絡安全需要人和人工智能合力共建，倫理規范的對象既包括以人工智能為代表的新興技術，也包括網絡治理閉環回路中的人；既需要將倫理規范意識嵌入人工智能系統，也需要重新審視人的倫理道德建設是否契合網絡社會治理。只有準確把握政府機構、企業、社會組織和廣大網民等在網絡綜合治理體系中的角色定位，不斷強化多元社會主體的安全意識和責任擔當，才能構建起網絡安全發展的新秩序，主動把握發展新機遇。其中，政府要轉變治理理念，理順運行機制，強化屬地擔當；企業要積極承擔網絡治理義務，推動網絡開放協作共享，切實服務國家發展戰略；社會組織要充分發揮建言咨詢作用，強化自身監督職能；廣大網民要增強網絡治理意識，學習提升網絡安全基本防護常識。網絡綜合治理體系中的多元社會主體不斷強化倫理道德約束，在強化行業監督和個體自律的前提下推動共建共治共享，才能確保網絡綜合治理體系科學運行，這也是我們當前需要深入思考的社會問題和迫切解決的現實問題。

（二）探索推進倫理規范的國際合作長效機制

基于重大網絡安全問題進行倫理分析，并對人工智能技術加以倫理規范，在國外已經取得了初步成效和寶貴經驗，給我們帶來了很多參考借鑒的地方。而探索一條適合自身的倫理規范路徑，加強基于網絡安全倫理規范基礎的國際合作便顯得尤為重要。盡管各國對網絡空間需要協同治理這一問題已經基本達成共識，但由于治理主體的政治體制、價值觀念、文化法律、利用驅動等存在明顯區別，各國對彼此間交流合作協同機制還存在認知偏差和行為分歧。在各國間求同存異呼聲日益高漲的國際環境下，探索推進倫理規范的國際合作機制，能夠將體現中國傳統倫理的“網絡空間命運共同體”這一中國主張更好地向國外傳播，并逐步成為國際社會所接納的網絡空間全球治理的主導理念。

2017年麥肯錫發布的《2017人工智能影響中國報告》中，便提到了“在中國公民和全球社會之間建立道德上和法律上的共識”的內容。2017年12月1日，IEEE新版人工智能與倫理白皮書發布預告會在中國科學院召開，IEEE標準協會、IEEE中國辦公室與中國科學院科技戰略咨詢研究院便圍繞人工智能與倫理全球倡議進行了科學解讀，探討了加強國際合作推進全球人工智能安全平穩發展的倫理路徑。國際倫理規范合作機制的成熟完善，還能將國外的寶貴經驗為我所用，避免走不必要的彎路，同時為雙方合作推進網絡安全領域倫理規范提供了深化交流平臺。這一機制將極大地超越倫理規范固有的地域界限和認知偏差，便于共同探討人工智能技術倫理的共性與地域性特征，進而形成基于自愿、共識基礎上的全球倫理標準和網絡安全領域最佳實踐的倫理準則。

（三）加快推進倫理規范的組織機構建設

2017年7月20日，國務院發布了《新一代人工智能發展規劃》，對人工智能技術在準確感知、預測、預警基礎設施和社會安全運行的重大態勢方面進行規劃展望。2017年11月15日，科技部在京召開新一代人工智能發展規劃暨重大科技項目啟動會，宣布成立由15個部門構成的新一代人工智能發展規劃推進辦公室以及戰略咨詢委員會。隨著國家層面全面啟動人工智能發展規劃，結合人工智能的技術優勢與倫理規范的理念優勢，豐富完善網絡安全治理的組織機構建設，能夠為提升網絡治理水平和維護網絡空間安全提供高效的戰略規劃和技術支撐。

推動人工智能在網絡安全領域創新發展，既需要專業技術人才，同樣也需要倫理規范研究方面的專家人才。要加快推進人工智能和網絡安全方面的研究機構建設，培育發展人工智能與網絡安全的交叉學科，設立人工智能倫理課程，推廣網絡安全意識教育，進而形成特色鮮明的倫理規范人才隊伍。要積極借鑒國外成熟經驗，探索建立國家層面的人工智能和網絡安全領域的倫理監督委員會，對網絡安全領域倫理規范情況進行檢查督導。同時，政府、企業、社會組織、學術界等相關研究機構應成立倫理研究所，圍繞人工智能的網絡安全產品進行倫理設計，通過引導使人工智能技術向符合道德的方向發展，不斷推動倫理規范的效果提升和成果轉化。

參考文獻：

[1]CB Insights.Cybersecuritys Next Step： Artificial Intelligence Is Helping Predict， Prevent， And Defeat Attacks[EB/OL].（2015-09-20）[2017-10-05]https：//www.cbinsights.com，2016-11-02.

[2]習近平.在中國共產黨第十九次全國代表大會上的報告[M].北京：人民出版社，2017.42.

[3][英]斯科特·拉什.王武龍，譯.風險社會與風險文化[J].馬克思主義與現實，2002（4）：52-63.

[4]顧世春.柏瑞預知性技術倫理研究[J].自然辯證法研究，2017（1）：19.

[5]朱葆偉.關于技術倫理學的幾個問題[J].東北大學學報：社會科學版，2008（10）：283-288.

[6]楊偉宏.風險社會視域下的技術倫理[J].學術交流，2009（10）：43.

責任編輯：肖 琴