來自世界人工智能大會上的聲音

答剌靈

人工智能作為一項影響面極廣的顛覆性技術，其發展的不確定性帶來的風險與挑戰，對法律、安全、就業、道德倫理、政府治理、經濟發展、社會穩定乃至全球治理將產生深遠影響。如何趨利避害，共享成果，已成為人們共同關心的問題。

2018年9月，世界人工智能大會在上海召開。上海司法界、學界、研發部門等相關領導、學術帶頭人250余名嘉賓參加了“人工智能與法治”高端研討會，掀起了一場場精彩絕倫的頭腦風暴，并發出了“人工智能與未來法治構建上海倡議”。

倡議包含“人工智能與未來法治構建的理念框架”“促進規范保障人工智能發展的法治路徑”以及“加強人工智能法律領域的教育研究與實踐”三大部分。這其中，不少司法實務部門的代表更為關注的是研討會上的硬貨：諸如探索在國家層面建立人工智能規范發展與風險防控研究體系，規劃布局、統籌指導研究的方向、重點，提升針對性、系統性、權威性；建立與人工智能創新發展相適應的立法規范、法律體系、政策體系和倫理規范，形成人工智能安全評估、風險防控法律機制，提升技術規則、應用規則的管控能力；制定技術設計階段的法律規范，通過規則設定促進人工智能算法的公正、透明、安全，避免算法歧視，杜絕有悖倫理價值及公序良俗的技術應用；構建數據權益體系，形成數據分享的安全機制、利益機制、追責機制，保證數據合法、安全流通使用；加強人工智能知識產權研究，健全人工智能領域技術創新、知識產權保護與標準化互動支撐機制；開展對人工智能應用場景的法律研究，建立人工智能復雜場景下風險防范與應對機制；開展預防和懲治涉人工智能違法犯罪的相關研究，避免人工智能被應用于違法犯罪活動等。

上海市人民檢察院檢察長張本才在致辭中表示，上海檢察機關將以智能化作為工作創新發展的戰略驅動，努力提升服務大局能級和司法便民水平。人工智能的不斷提速升級，為加快法治建設、促進國家治理體系和治理能力現代化提供了新技術和新動能，只有超前研究、因勢利導，才能促進“現代科技力量和司法人員創造力有機結合、科技理性和司法理性深度融合”，共同護航司法公正、促進司法文明。

把握趨勢、搶占先機、提前布局

2018年以來，美國、歐盟、法國、英國、韓國、日本等國家和地區都在密集發布人工智能戰略和新的研發布局等。關于美國，最重要的一個趨勢就是，特朗普對人工智能發展的態度發生重大轉變。韓國、法國、日本等國家則進一步細化了人工智能的研發布局和行動計劃，制定了非常符合本國需求的專項政策。可以說，從國家層面持續推動人工智能發展，特別是以人工智能發展搶抓未來競爭先機已成大勢所趨。

科技部中國科學技術信息研究所黨委書記趙志耘認為——

我國發布人工智能規劃可以說非常及時，國家在戰略部署上已做好準備，后期還需要全社會共同努力，加快推動規劃的全面實施。在全球范圍內，人工智能領域的中美競爭將會是一種常態。在這個過程中，在保持創新自信的同時，也要保持清醒，正視我們存在的問題和差距。我們需高度重視人工智能基礎研究和關鍵核心技術研發，加快構建更加開放友好的應用生態。

未來的人工智能有可能成為影響國家競爭力的變革性技術，甚至重塑全球競爭格局。這種顛覆性既可能產生正面影響，也有可能帶來突發的、意想不到的負面影響。當前人工智能技術取得的巨大發展，越來越多地面臨“高風險的應用”，這些處在開放、動態環境下的人工智能技術一旦出現輕微的錯誤，產生的結果可能是致命的、毀滅性的。其中，在法治領域也會有許多應用，比如智慧司法等方面的應用。但與此同時，這些應用領域均已經或將會產生一些不確定性的因素或風險，因此，我們要特別關注人工智能發展帶來的不確定性，加強人工智能對社會、法律、倫理等方面影響的研究。

弱人工智能司法領域的上海探索

2018年7月10日，上海市委書記李強在市委中心組學習會上強調，上海打造國家的人工智能發展高地，司法應在其中。

早在2014年10月，黨的十八屆四中全會做出推進以審判為中心的訴訟制度改革的重大部署。為使這項改革落地，中央政法委運用高科技助力改革，做出了研發“推進以審判為中心的訴訟制度改革軟件”的決策部署。2017年2月6日，孟建柱同志、韓正同志到上海高院調研時，部署了司法體制改革的任務，其中一項是：由上海高院牽頭，承擔研發“推進以審判為中心的訴訟制度改革軟件”的任務（簡稱“206工程”）。在上海市檢察、公安、司法機關以及市發改委、經信委、財政局等相關部門的支持配合下，由上海高院與科大訊飛公司合作開發。系統定位為智能輔助辦案，起到的是“智能助理”的作用，等于為法官、檢察官、偵查員配備了一個AI助理，命名為“上海刑事案件智能輔助辦案系統”。

該系統主要依托互聯網、大數據、云計算等現代科技，充分運用圖文識別、自然語言理解、智能語音識別、司法實體識別、實體關系識別、司法要素自動提取等人工智能技術，通過制定統一的證據標準指引、證據規則指引，并嵌入公檢法司機關刑事辦案系統，實現對辦案人員統一證據標準、證據規則的指引和對證據的校驗、把關、提示、監督，確保偵查、審查起訴的案件事實證據經得起法律檢驗，確保刑事辦案過程全程可視、全程留痕、全程監督，減少司法任意性，防范冤假錯案產生。

該系統的核心業務功能包括：證據標準指引功能和證據規則指引功能。證據是訴訟的靈魂。根據刑事訴訟關于辦案流程的不同要求，設計者堅持完整性與階段性相統一的原則制定出證據標準，為辦案人員提供統一適用、簡單易行、數據化、清單式的辦案指引。目前，證據標準、規則指引不僅嵌入智能輔助辦案系統中，而且已經做成手機APP，可隨時隨地為辦案人員提供指引，方便高效快捷。該系統共涉及29項知識產權，其中，上海高院與科大訊飛公司共同研發產生的知識產權6項（專利5項、著作權1項）。

2017年9月，上海高院在研發刑事案件智能輔助辦案系統的基礎上，構建人力與科技深度融合的標準化、規范化、智能化的民商事、行政審判模式，發揮人工智能在輔助法官辦案中認定事實、適用法律、采信證據、公正裁判中的作用，規范法官的自由裁量權行使，促進法律使用統一，減少司法任意性，提升辦案質效和司法公信力。民商事、行政案件智能輔助辦案系統設計了27項功能，已于2017年11月27日上線試運行。截至2018年9月，已完成第一期8個案由和第二期12個案由的辦案要件指引制定工作。

上海市法學會黨組書記崔亞東介紹了“上海刑事案件智能輔助辦案系統”實踐情況并提出了自己的思考。他認為，人工智能時代的到來，司法一方面要抓住機遇，跟上時代的步伐，主動作為，推進司法本身現代化的實現；另一方面要為人工智能國家戰略的實施提供法制保障。目前人工智能仍處于初級階段，在司法實踐中尤其是辦理案件中，只能是智能輔助辦案，絕不能替代法官、檢察官、偵查人員辦案。

與會的中國刑法學研究會副會長劉憲權指出，根據發展形態，我們可以將機器人技術的發展歷程分為三個階段——普通機器人時代、弱人工智能時代和強人工智能時代。普通機器人與智能機器人的區別在于是否具有深度學習能力，目前我們尚處在弱人工智能時代。

綜上，筆者認為上海司法實務部門正是準確把握了人工智能發展的實際情況，做出了符合目前技術發展現狀的人工智能與司法對接定位。

技術專家構建人工智能對接社會治理新版圖

騰訊專家王棟認為，人工智能的發展與應用正在深刻改變著法學的社會基礎和法治條件，改變著法學研究的對象和法律運行技術。大數據已成為推動經濟轉型發展的新動力，重塑國家競爭優勢的新機遇，提升政府治理能力的新途徑。可運用大數據破解社會治理難題，構建人工智能社會的全景圖，以開創社會治理的“云時代”。

據王棟介紹，“騰訊云”是騰訊傾力打造的云計算機品牌，正以卓越的科技能力助力各行各業數字化轉型，為全球客戶提供領先的云計算、大數據、人工智能服務，以及定制化行業解決方案。在“互聯網+”背景下，各級政府正在探索如何將政務信息化過程中積累的海量數據發揮出更大價值，為民眾提供更便捷智能服務，優化提升行政效率和質量。

在司法領域，騰訊云的互聯網技術與大數據公司“國雙”在司法行業的積累深度融合，為司法科技領域提供了互聯網創新技術。騰訊云提供的智慧法院解決方案，包括遠程審判、智能語音、原被告人臉核身等多項審判智能化服務，其中的智能語音識別系統目前已經在包括北京知識產權法院在內的全國40多家法院試點應用，為深化司法改革提供先進的技術支撐。

除了智慧法院，為了完善立體化社會治安防控體系，實施“雪亮工程”能把治安防范措施進一步延伸到群眾身邊。“雪亮”不僅僅是連接公安的攝像頭，還要連接政府、環保、企業、社會單位，所以是一個視頻的整合，是一個群眾性綜合治理工程。騰訊云對于“雪亮工程”的解決方案是“四網一大腦”，將治安防控體系的建設，以大數據的深度挖掘和分析為方向，利用大聯網、大融合、大匯聚的架構設計，來獲得海量的視頻數據。所謂的“四網”是指互聯網、政務外網、視頻專網和公安信息網。其中，視頻分析技術可管控重點目標，包括了全域感知、綜合分析、目標管控、綜合查詢和大數據分析。其包括了重點人員和車輛感知和分析，布控預案、預警及規則，包括了人員、車輛、情報、目標軌跡搜索，還有平安指數、出租屋指數和吸毒指數。由此開發的智慧城市大腦大大減少了警力的支出，提高了犯罪預測的準確性。

如何應對人工智能帶來的新挑戰

微軟全球副總裁洪小文認為，我們可以利用人工智能實現許多了不起的成就。結合機器和人類的優勢，我們有望解決人類社會面臨的貧困、疾病和無知等重大挑戰，但是，我們同樣希望以一種合乎道德的方式，來實現人工智能的潛力……

伴隨著大數據應用和軟硬件設備的不斷發展完善，人工智能的發展空間廣闊。據統計，現階段超過五分之一的常規律師業務已可由人工智能替代完成，人工智能正加速進入人類社會生活。圖靈曾提出人工智能遲早會威脅到人類生存，必須在問題積重難返前，對人工智能的發展做出妥善的法律規制安排。具有類似人類思考與深度學習的能力是人工智能與其他科技最大的差異。在人工智能的現實發展中，已經出現機器人能否享有著作權以及機器人致害的責任問題等。這些都涉及人工智能的法律地位、法律責任、權利義務范圍等應如何界定。在法律制度無法有效應對實際情況發展時，法律理論首先要明確的就是人工智能是否具有法律人格。中國法學會民法學研究會常務理事彭誠信提出：法律人格，是指法律認可的享有權利、承擔義務的資格，包括自然人主體、擬制主體兩類。對于自然人，法律全面無條件承認其法律人格；而擬制主體的人格則需經由法律的明確規定（如胎兒）或者經過特定的認可規則方可取得（如公司的設立等）。現行法律體系下，人工智能是否具有法律人格理論上尚無統一結論，這也造成實踐中的適用困境與疑惑……

此外，就犯罪預防而言，據國家互聯網應急中心報告，聯網智能設備被惡意控制，并用于發起大流量分布式拒絕服務攻擊的現象更加嚴重；具有國家背景的黑客組織發動的APT攻擊事件直接威脅了國家安全和穩定。統計數據顯示，我國2017年上半年泄露及被盜數據達19億條（超過2016全年的14億條），我國2017全年信息泄露超過50億條。勒索病毒尤其猖獗。國家互聯網應急中心報告，欺詐勒索軟件在互聯網上肆虐。2017年5月12日，全球近百個國家遭受勒索病毒“WannaCry”影響，超過10萬臺計算機中毒致使大量用戶文件資料被鎖，受害用戶只有支付高額贖金才能恢復。中國部分高校校園網用戶中招，醫療、能源、公安等行業皆受到嚴重影響。

北京優炫軟件股份有限公司聯合創始人趙春學認為，一方面AI數據安全投資潛力巨大。從國內外AI數據安全投入規模現狀對比來看，國內AI數據安全投入在AI中的占比約為1%左右，而發達國家AI數據安全投入占比已經達到10%左右，潛力空間巨大。另一方面，AI數據安全需求市場巨大。應對威脅，中國應不斷地加大對于AI數據保護的安全投入，AI數據安全市場將是安全行業價值最高、規模最大的細分市場之一，足以支撐未來千億級市場空間。中央重視網絡安全工作是第一推動力。網絡運營者應當按照網絡安全等級保護制度的要求，履行安全保護義務，保障網絡免受干擾、破壞。