民法對于人工智能發展階段的回應
——以智能投顧的民事法律地位為視角

文/何宗澤（安徽開放大學文法學院）

一、引言

當今世界，人工智能是一場新的科技革命，對人類社會帶來的影響可能比蒸汽機的發明更為深刻。伴隨著移動互聯網技術、大數據、腦科學新技術新理論不斷取得突破，人工智能的發展非常迅速，已經成為國際競爭的新焦點和經濟發展的新引擎。它帶來了就業結構的深刻調整，沖擊法律和社會倫理，廣泛涉獵個人隱私，甚至挑戰國際關系準則等，這一切都必須要有法律的回應[1]。物理學家霍金生前認為人工智能的發明可能是人類歷史上的最大的災難，如果管理不善，會思考的機器人可能會給人類文明畫上句號。華裔著名經濟學家楊小凱曾經提出一個觀點，我們現在往往注重技術的模仿，對技術的制度建設重視不夠，這可能是我國技術發展的一個缺陷。如果將來只是重視技術模仿，不注重技術的制度建設，我們的后發優勢很可能轉化為后發弱勢，不可能使技術真正得到制度的有力保障，反而會使其處于無序發展的狀態。科技和法律本就是一個聯動問題，如今它們之間的關系變得更為密切，不能將兩者割裂分別進行研究，探索科技和法律共治的目的在于推進制度優勢和技術優勢的深度融合，將技術優勢轉化為制度優勢，讓制度優勢為科技發展保駕護航。[2]因此，我們必須高度地關注和思考人工智能所帶來的新的法律問題。

當前，人工智能在金融領域的應用場景主要為智能投顧，智能投顧（Robo-Advisor），也稱機器人投顧，根據投資百科（Investopedia）的定義，智能投顧是指提供自動化，并主要以算法驅動的財務規劃服務的數字化平臺。典型的智能投顧通過在線調查問卷來獲取投資者關于投資目標、投資期限、收入、資產和風險等方面的信息，了解投資者的風險偏好以及投資偏好，結合算法模型為用戶制定個性化資產配置方案，包括動態調倉、實時監控等。2010 年智能投顧公司Betterment 在紐約成立，1 年后Wealthfront 公司在硅谷成立，智能投顧正式誕生。2020 年3 月招商銀行“摩羯智投”、中國工商銀行“AI 投”、平安銀行“一賬通”成為首批獲準成立的公募基金投資顧問業務試點，管理型投顧首次放開，可以實現代客理財。這意味著我國的智能投顧開始擺脫牌照限制、資管法規約束，逐步走向獨立的民事法律主體地位，也就是說智能投顧逐步取代人工投顧，逐漸成為投資者直接面對的“當事人”。其民事法律地位如何界定，是否需要獨立承擔民事責任，成了擺在民法面前不得不回應的問題。

智能投顧能否成為獨立的民事主體，獨立承擔由于錯誤決策導致的民事責任，學界與業界對此眾說紛紜、莫衷一是，中外概莫能外，主要有否定說、肯定說和折中說三種觀點。肯定說認為人工智能可以作為人類的代理人、可以享有法律人格等；否定說主張人工智能是人類的輔助工具，只能作為民事法律客體；折中說認為，智能機器人盡管具有類人的某些特質,甚至在某些方面還超越人類, 但其畢竟還是由人類所制造的，可以服務于人類，而不能完全等同于人類，因此可以賦予其限制性法律人格，代表學說為“工具性人格說”“電子人格說”“有限人格說”。

本文主要持肯定說，同時認為應該根據人工智能的發展階段進行分析。弱人工智能階段的智能投顧不具有民事主體資格，這一點已經基本取得共識；隨著人工智能走向成熟階段，加上深度學習及類人腦技術的研發，以及大數據的開發與利用，此階段的智能投顧已具有一定的自主決策、獨立表達意思的能力，因而應該賦予其一定程度的民事主體資格，也就是規定具體哪些情形可以取得民事主體資格；強人工智能階段的智能投顧已具有完全自主決策、獨立表達意思的能力，應該賦予其獨立的民事主體資格；而到了超人工智能階段，人工智能就是自己的立法者，這已不是我們目前所能關注的了。以下分述之。

二、智能投顧的民事法律地位的階段性

由于人工智能科技發展階段的不同，智能投顧獨立進行民事活動的能力也存在差異。人工智能發展的核心是技術層，它對應用層的產品智能化程度起到決定性作用，技術層的成熟程度決定了人工智能的發展階段，在這一發展過程中，算法和計算力對AI 的發展起到主要推動作用。由于是“計算機程序代碼引導的數學公式智能化”，可直接進行運算并得出結果，智能程度逐步由弱轉強甚至發展到超人工智能，弱人工智能階段只有簡單的程序代碼運行式，強人工智能階段則可實現高深的程序代碼和高等的數學公式并將聯接許多低等化人工智能沒有的技術。技術層主要依托基礎層的運算平臺和數據資源進行海量識別訓練和機器學習建模，以及開發面向不同領域的應用技術，包含感知智能和認知智能兩個階段。其中，感知智能階段通過傳感器、搜索引擎和人機交互等實現人與信息的連接，獲得建模所需的數據，如語音識別、圖像識別、自然語音處理和生物識別等；認知智能階段對獲取的數據進行建模運算，利用深度學習等類人腦的思考功能得出結果，如機器學習、預測類API 和人工智能平臺等。在此基礎上，人工智能才能夠掌握“看”與“聽”的基礎性信息輸入與處理能力，才能向用戶層面演變出更多的應用型產品。

弱人工智能階段，智能投顧僅僅是輔助人工投顧進行簡單的用戶畫像、準備銷售材料等，隨著發展到成熟階段及強人工智能階段，智能投顧逐漸演化為可提供資產配置、優化投資組合。以下針對智能投顧不同發展階段分別闡述其民事法律地位。

1.弱人工智能階段的智能投顧不具備民事主體資格

如前所述，弱人工智能階段只有簡單的程序代碼運行式，沒有深度自我學習能力，難以進行諸如自然人價值判斷和情感判斷的活動，以工業應用場景為例，如組裝汽車、搬運重型零件或者減輕工人負擔的工業自動機、無人機等，具有生理組織（physical agency），但缺乏心理組織（mental agency）[3]，不具有獨立的決策意識與能力，所以不具有民事主體資格，其獨立的民事法律地位也就無從談起。

2.人工智能成熟階段的智能投顧具有一定限度的民事主體資格

隨著人工智能的發展，大數據的深層次挖掘、算法模型的精準化設計、深度學習能力的加強，人工智能已經走向成熟階段，這一階段的智能投顧雖然沒有強人工智能階段的完全自主決策能力，但已經具有了一定的自主學習與自主決策能力，可以適應一定程度的投顧工作，不需要人類指引，所以這一階段的智能投顧具有一定限度的民事主體資格[4]，類似于限制民事行為能力人，能夠進行與其能力相適應的投資顧問活動，如用戶畫像、提供投資組合方案、預測投資前景、隨著市場行情變化動態調倉等，但投資決策等重大投顧活動必須配合有人工投顧，見圖1。

圖1 智能投顧有限民事主體資格情形

這一階段的智能投顧機構，學界普遍稱之為混合投顧機構，如中國的同花順、平安一賬通、京東智投、招商銀行摩羯智投等，美國的Personal Capital。這類平臺將智能投顧與人工投顧相結合，為所有用戶免費提供財務狀況分析、投資風險評估、投資組合建立與優化等服務，具有強大的工具屬性，能很好地隨時跟蹤用戶理財以及費用支出等方面的行為，可以幫助用戶更好地實現理財目標，同時也向有需要的客戶提供收費的私人投資顧問服務。

有限民事主體資格是指民事活動參加者在某些情形下不具有民事主體資格，有些情形下具有部分主體資格。針對智能投顧，如果僅處于人工投顧的輔助地位就不具有民事主體資格，如果部分決策由人工投顧決定，部分由智能投顧自主決定就是具有有限民事主體資格。

有限民事主體資格的情形舉例如下：

一是投資組合再平衡，如動態調倉等后續決策情形下具有主體資格。走向成熟階段的智能投顧，部分決策由人工投顧完成，如投資組合方案由人工決定，但是部分決策由智能投顧完成，如動態調倉行為，當市場行情發生變化，智能投顧根據大數據分析，深度學習后，自主決定改變投資策略，實行動態調倉。如2020 年突如其來的新冠肺炎疫情，導致大量企業處于停業狀態，而生產醫用口罩、酒精以及消毒液等防護物資的企業的市場短期社會與民生效益明顯，智能投顧可以及時調整原來的投資海鮮食品行業的方案，轉而投資防疫物資生產企業或者其上游企業，并且根據市場調研精準計算投資時長。此時的智能投顧便具有民事主體資格，如導致投資失敗，必須獨立承擔民事責任。

二是故障引發的侵權責任。智能投顧在運行過程中，由于算法缺陷導致的故障使得投資者損失，如投資方案、動態調倉指令失靈，最終導致投資者損失，必須由智能投顧獨立或者與投顧機構承擔連帶責任。

三是算法設計中人為的基金導流等行為。與傳統機器學習不同，深度學習并不遵循數據輸入、特征提取、特征選擇、邏輯推理、預測的過程，而是由計算機直接從事物原始特征出發，自動學習和生成高級的認知結果。在人工智能輸入的數據和其輸出的答案之間，存在著我們無法洞悉的“隱層”，它被稱為“黑箱”。這里的“黑箱”并不只意味著不能觀察，還意味著即使計算機試圖向我們解釋，我們也無法理解。

算法黑箱的存在不可避免，但是如果借用算法黑箱的名義，人為設計基金導流等類似傾向性行為[5]，如為了某一基金的利益，算法研發設計者在編程中人為設置投資者資金投向該特定的基金，這一行為必須由智能投顧設計研發者作為獨立民事主體承擔民事責任，如果運營商知悉這一欺騙行為而繼續使用智能投顧，應與設計研發者承擔連帶責任。

3.強人工智能階段的智能投顧具有完整的民事主體資格

強人工智能階段由于具備深度學習與類人類思維，具有完全的獨立自主能力與自主意識。這一階段的智能投顧具有完整的民事主體資格，又稱全智能投顧、純機器投顧（人工有限參與）。投資者直接與智能投顧進行投資服務合同事務處理，資金進入智能平臺賬戶，智能投顧作為合同的受委托方自主決策投資事務，如產品組合、風險預警、自動調倉等。此時的人工僅僅是該智能投顧平臺的輔助咨詢答疑者，不具有實質性的投資處理資格，智能投顧取代了傳統的人工模式，因而具有完整的民事主體資格。

三、智能投顧承擔民事責任的財產基礎

智能投顧作為有限以及獨立的民事主體，其承擔民事責任必須有財產基礎，那么其責任財產來源于什么？為保障科技創新發展，長遠深層次解決人工智能研發人員、人工智能運營商以及相關廠商的民事法律責任，國外的做法有：①強制保險計劃和賠償基金，如英國以及澳大利亞等國，智能機器人的開發者或雇主可以支付一定比例的資金，以換取對侵權賠償責任的部分免除；②強制保險與儲備金制度，如美國，強制保險制度要求人工智能廠家購買特定額度的保險，儲備金來源于人工智能產品的銷售價格中的一定額度的責任費用，用于支付與人工智能相關的和解和賠償費用。在強制保險制度下，每一臺具備人工智能功能的機器都將進行投保，以便為涉及責任支付的情形創造一個潛在的資金池；在儲備金制度下，整個人工智能行業將擁有一個獨立的資金池用于解決與人工智能相關的責任支付問題。所有的糾紛賠償都將來自這個資金池，而不是直接來自所有者或者制造商。

保險和儲備金作為智能投顧責任財產基礎，無疑解決了投資者、金融消費者對于智能投顧的后顧之憂，同時很好地保護了人工智能研發者、運營商以及其他有關民事主體的權益，他們無須擔心未知的訴訟帶來的預算成本問題，極大鼓舞了人工智能科技研發人員的研究熱情。

通過以上分析，本文認為在我國具體操作規范是，所有智能投顧平臺運營者均須辦理與其規模相適應的責任保險（保險名稱以及具體制度應該通過立法予以確定），由中國證券投資基金業協會或者智能投顧協會監督辦理，金融行業主管部門予以規范強制；與此同時，證券投資監管部門提取一定比例智能投顧行業行政處罰罰沒收入，征收一定比例智能投顧的交易收入作為賠償基金，作為智能投顧的責任財產，以賠付智能投顧履行義務過程中所造成的投資者的部分或者全部損失。部分賠償是指依據責任財產的管理公約的約定，在某些情形下不能得到全部賠償，如投資者、金融消費者自身過錯違約，投資者、金融消費者違法犯罪等。

在保險賠付和基金賠償之后，如果發現智能投顧研發者存在故意非法行為，如算法黑盒的基金導流或者重大過失（一般普通智能投顧產品均不可能出現的瑕疵）導致投資者損失，將直接追究智能投顧研發人員或者雇主責任，向其追償[6]。

四、《民法典》回應人工智能發展的立法建議

人工智能由當前的弱人工智能階段走向成熟階段和強人工智能階段已經是一股不可阻擋的潮流，針對人工智能的發展對于法律的挑戰，相關立法只有順勢而為、未雨綢繆，方可為現實生產、生活定分止爭。在鼓勵科技創新與保障各類民事主體權益方面進行博弈優化，賦予人工智能具體應用場景如智能駕駛、智能醫療、智能投顧以及智能作業等部分直至全部民事主體資格，合理制定歸責原則標準，這樣的法律制度便是對人工智能發展的科學的法治回應。具體到我國《民法典》的民事主體章節和侵權責任章節，可以增加如下內容。

（1）《民法典》第一編增加一章作為《第五章人工智能》，后續章節條款的序號相應變化。本章具體增加條款的內容擬文如下：

第109 條 人工智能自主決策部分具有民事主體資格，享有民事權利，承擔民事義務。

第110 條 智能駕駛、智能醫療、智能投顧以及智能作業等人工智能具體應用場景民事主體依據其所屬行業通常標準認定其民事主體資格。[7]

（2）《民法典》第七編第三章中增加有關人工智能的侵權責任歸責原則，增加的內容可擬文如下：

智能駕駛、智能醫療、智能投顧以及智能作業等人工智能應用場景民事主體在履行義務過程中造成使用者人身或者財產損失的，根據其發展階段分別情形承擔責任：

依據行業公認標準， 屬于自主決策水平較弱者，如果能證明對于損害沒有過錯，不承擔責任；

依據行業公認標準， 屬于自主決策水平正常者，除非證明是使用者不當使用，否則承擔相應損害賠償責任。

參考文獻及注解

[1] 王利明.民法典要應對人工智能的挑戰[N].經濟參考報,2018-05-09.

[2] 張泥楠. 科技發展對法律的影響——以人工智能為研究重點[J].天水行政學院學報, 2021, 22(3):122-126.

[3] 瑞恩·卡洛, 邁克爾·弗魯姆金,伊恩·克爾. 人工智能與法律的對話[M].陳吉棟,董惠敏,杭穎穎，譯.上海:上海人民出版社, 2018.

[4] 注解：類似學界“有限人格說”“工具性人格說”，只不過這些學說是針對人工智能所有階段（弱人工智能階段、人工智能成熟階段、強人工智能階段），沒有區分具體階段。

[5] 注解：這一點可以借鑒美國的實踐經驗判定，美國金融業監管局要求在測試是否存在利益沖突時，應當將算法參數作為測試內容，特別是組合投資的情形下，如果投資結果存在傾向性，則運營商應當做出解釋說明，同時將該投資結果同未被選取的相似產品做優劣比較。

[6] 注解：當算法失靈損害當事人利益時，算法運營商未必是唯一應當承擔責任的主體，在智能服務的法律關系中有多個潛在的責任方，智能機器人可能由算法運營商所有，但核心算法程序未必由其開發，所以，第三方機構或技術開發公司也應該對自己在設計匹配顧客特征和市場結構算法時的可能過失負責。

[7] 注解：如智能醫療領域，我國食品藥品監督管理局(CFDA)2018 年8 月1 日施行的新版《醫療器械分類目錄》規定,若診斷軟件通過其算法,提供診斷建議,僅具有輔助診斷功能,不直接給出診斷結論,按照第二類醫療器械管理;如果對病變部位進行自動識別,并提供明確的診斷提示,按照第三類醫療器械管理。國家衛計委2017年2 月發布的《人工智能輔助診斷技術管理規范(2017年版)》和《人工智能輔助治療技術管理規范(2017 年版)》,對人工智能輔助診斷與治療提出了操作性極強的要求。