算法經濟與算法監管

近年來，隨著云計算、大數據、人工智能、區塊鏈等創新技術的發展與應用，數據作為生產要素的價值日益體現，算法在經濟活動中的重要性日趨凸顯。本文著重探討了算法在經濟領域的影響，并定義了一種以智能算法為核心的新型經濟模式：算法經濟。不過，算法隱含風險，因此要以監管科技應對新型科技，加強算法監管，這既是順應之策，又是必然之舉。

wangyj@pbcsf.tsinghua.edu.cn

欄目編輯

王曄君

算法是指一系列解決問題的清晰計算機指令。在當今信息時代，算法已滲透到社會各個領域。克里斯托弗·斯坦納在其名著《算法帝國》里對算法推崇備至，認為構建算法模仿，超越并最終取代人類，是21世紀最重要的能力，未來屬于算法和其創造者。

算法經濟

商品經濟的根本是買與賣、供與需的匹配。由于信息不對稱，市場主體需要搜尋合適的對手方進行交易，這將耗費大量成本。某種意義上，搜尋技術決定了交易空間。在沒有互聯網之前，人們依靠廣播、電視等媒體廣告搜尋交易對手。到了互聯網時代，人與人之間的物理隔絕與時空限制得到大幅解放，出現了電子商務這一全新的經濟模式。“網絡購物，只有想不到，沒有買不到”。網購已深入人們生活的方方面面，供與需的匹配得到極大改善。

應該說在互聯網經濟的初期，以連接產生網絡效應為主，數據價值尚未顯現，算法還只是輔助，電商活動高度依賴平臺公司的組織與管理。近年來，隨著云計算、大數據、人工智能、區塊鏈等創新技術的發展與應用，數據作為生產要素的價值日益體現，算法在經濟活動中的重要性日趨凸顯。

一是算法拓展了互聯網經濟的深度與廣度。比如，基于平臺上的交易數據、用戶自身提供的數據以及其他另類數據，開展大數據分析，對用戶進行“千人千面”畫像，深入分析每個消費者個體的行為模式和特點，形成獨特的客戶洞察，開展精準營銷、服務和風控;基于算法的智能調度，使得云計算很好地解決了實時海量交易和數據處理的性能要求;智能客服提升客戶服務的響應速度，降低成本，提高效率。

二是出現了以算法為核心的新型經濟模式，也可稱之為算法經濟。算法經濟是指人們將生產經驗、邏輯和規則總結提煉后“固化”在代碼上，使生產經營、交易融資等活動無須人工干預，自動執行的智能化經濟模式。

算法經濟的典型代表是算法金融。互聯網平臺企業依靠用戶生態，以數據為核心，以算法為驅動，以計算資源為保障，在互聯網平臺上開展和提供支付、貸款、財富管理、保險等各類金融服務。依靠強大的數據分析能力，開展智能營銷、智能風控、智能投顧、智能理賠，為客戶提供量身定制的金融服務和產品，并將專家分析決策經驗與人工智能技術融合，通過風控模型的自學習、自進化分析過程，實現基于海量數據機器學習的實時復雜風控，幫助合作金融機構更好地量化風險，更好地應對了解你的客戶（Know your customer，簡稱KYC）、反欺詐、反洗錢、信用風險等關鍵業務風險。

算法經濟的典型代表還有共享經濟，如類似優步（Uber）、滴滴打車的共享平臺。在這些平臺上，生產者與消費者直接進行動態、多變、復雜的網狀連接和點對點交易，而有效支撐這些網狀連接和點對點交易的則是平臺企業所設計、維護和運營的強大算法。并且隨著環境和市場的變化，算法不斷調整和優化。雖然共享平臺的算法機制背后仍沒有脫離傳統企業的組織形態，平臺規則和算法由企業設計、維護和運營，但算法已在很大程度上取代了企業的組織、管理與協調功能，日益成為關鍵核心。某種意義上，共享平臺的算法機制或可看作企業所提供的SaaS服務（Software as a Service，應用即服務）。

如果說共享平臺的算法機制還“殘余”著企業的影響，去中介化、去組織化的加密經濟則干凈利落“抹除”了企業的“痕跡”，完全依靠算法開展經濟活動。這是一種“無組織形態的組織力量”。加密經濟以密碼學技術為基礎，通過分布式共識機制，“完整、準確、難以篡改”地記錄價值轉移（交易）的全過程，構建了多中心化的應用或商業邏輯，并且通過智能合約，保證業務邏輯的自動強制執行，整個流程無需管理人員介入，自動完成數字化經濟活動。加密經濟不僅有技術邏輯層上的支撐，又有經濟邏輯層上的保障，再加上區塊鏈、第五代移動通信技術（5G）、物聯網、大數據、人工智能（Artificial Intelligence，簡稱AI）等技術的賦能，有望成為具有巨大潛力的新興經濟模式。截至目前，基于“區塊鏈+5G+物聯網”的加密經濟模式已在倉單物流、農業溯源、資產數字化、數字金融等領域落地應用。

與算法經濟相伴隨的是算法貨幣。作為交易的一般等價物，貨幣理應是大家一致同意的社會共識，否則無法廣泛流通。在許多時候，共識通過制度予以確立，比如法定貨幣。比特幣雖然難以成為真正的貨幣，但它創造了一種完全基于算法的貨幣型態：經共識驗證的難以篡改的可追溯的“未花費過的交易輸出”（UTXO），一定程度上啟發了法定貨幣的數字化或曰代幣化（Tokenize）。在價值上，法定數字貨幣是信用貨幣，在實現上則很可能是算法貨幣。

算法隱含風險

算法經濟大幅改善市場經濟的匹配效率和交易成本。人們一方面歡迎和享受智能算法帶來的便利，另一方面卻擔心被智能算法替代，導致個人價值喪失。不僅如此，隨著算法經濟的快速發展，算法的滲透力和影響力越趨強大，其背后隱含的風險以及作惡的可能引起了關注。

首先是算法濫用。算法規則的背后是商業利益。為了追求利益最大化，算法有可能違背社會公平、道德和人性，比如大數據殺熟，同樣的商品或服務，老客戶的價格反而比新客戶要貴。只推薦給人們能潛在帶來商業利益的東西，而不是最適合、最恰當的東西。可能濫用人性弱點，過度激發、勸服、誘導客戶，使人習慣于被喂養，不自覺地對算法投放的產品沉迷上癮。只有算法邏輯，沒有考慮人性，將人“異化”為簡單的數據、商品和工具。算法的具體原理和參數只有運營企業的少部分人才能知道，有可能產生利益侵占問題，曾經某共享打車的動態調價算法就被質疑過企業是否在利用算法來謀取私利。甚至，企業可能利用算法作惡，比如為了擴大流量，推送聳人聽聞的虛假信息;推薦虛假產品。

其次是算法偏見。算法的數據可能不一定全面，片面的數據得到的結果必然導致某種偏見。算法的設計者是人，算法設計師乃至企業管理者、價值觀的偏見可能被嵌入算法。算法的“技術光環”容易讓人盲從所謂的“科學”，但實質上有些算法卻存在很大程度的不可解釋性，比如類似“黑箱子”的機器學習算法;機器學習算法側重于相關性分析，而不是因果分析，可能產生錯誤的勾連與判斷;基于歷史數據的機器學習算法隱含著“過去決定未來”邏輯，以歷史宿命論定義和標簽每個人，某種程度上也是一種偏見。

“算法鴻溝”也值得重視。算法通常是隱秘的，或是專利，或是商業秘密。即便公開，因技術門檻，也不是每個人都能看懂。這就形成新的“數字鴻溝”。不懂算法的人群在利益受損時有可能并不知情，即便知情，也可能無力舉證和對抗。

在特定領域，算法還可能引致特定風險。比如在金融領域，智能算法給出的資產配置建議有可能是推薦了與金融機構自身利益高度攸關的產品，涉嫌利益侵占;智能算法形成“信息繭房”，強化投資者偏見，容易掩蓋金融風險復雜性，引誘過度消費和負債，甚至誤導投資者;智能算法若存在歧視，則損害投資者公平性;智能算法趨同導致“羊群效應”，加大金融順周期風險等。

算法監管建議

各國監管部門高度關注算法隱含的風險。歐盟《一般數據保護條例》（General Data Protection Regulation，簡稱GDPR）第22條對自動化決策加以限制，如果某種包括數據分析在內的自動化決策會對數據主體產生法律效力或對其造成類似的重大影響，數據主體有權不受上述決策的限制。針對智能算法在投資顧問中的應用，美國證券交易委員會（SEC）、美國金融業監管局（FINRA）、澳大利亞證券和投資委員會（ASIC）出臺了具體的智能投顧監管指引。2018年我國資管新規《關于規范金融機構資產管理業務的指導意見》提出要避免智能算法的順周期性風險，要求金融機構應當根據不同產品投資策略研發對應的人工智能算法或者程序化交易，避免算法同質化加劇投資行為的順周期性，并針對由此可能引發的市場波動風險制訂應對預案。因算法同質化、編程設計錯誤、對數據利用深度不夠等人工智能算法模型缺陷或者系統異常，導致“羊群效應”、影響金融市場穩定運行的，金融機構應當及時采取人工干預措施，強制調整或者終止人工智能業務。2020年9月，國際證監會組織（International Organization of Securities Commissions，簡稱IOSCO）市場中介機構委員會發布中介機構如何應用人工智能和機器學習的咨詢報告，提出具體指導方針，以協助IOSCO成員建立適當的監管框架，監督市場中間商和資產管理人應用人工智能和機器學習。即將出臺的歐盟《數字服務法案》（Digital Services Act，簡稱DSA）擬授權“數字服務協調員”（Digital Services Coordinators）監管大科技公司的合規情況，其中包括用于定向或精準廣告的算法是否合法，并要求平臺企業公布其算法如何自動向在線客戶推送內容或商品的細節。2020年12月中共中央印發《法治社會建設實施綱要（2020-2025年）》，提出要制定完善算法推薦、深度偽造等新技術應用的規范管理辦法，要加強對大數據、云計算和人工智能等新技術研發應用的規范引導。

總的來說，智能算法已在科技大公司（Bigtech）大量采用，考慮到其生態規模巨大、潛在風險和社會影響不容忽視。而我國算法監管制度正逐步完善和健全，但具體內容有待細化完善。

從機理看，算法監管的具體內容至少包括六方面：一是信息披露，即作為算法的設計者和控制方，科技大公司及其他利益相關者應該披露算法設計、執行、使用過程中可能存在的偏見和漏洞、數據來源以及可能對個人和社會造成的潛在危害。二是解釋，即作為采用算法自動化決策的機構，科技大公司及其他利益相關者有義務解釋算法運行原理以及算法具體決策結果。三是留痕與可審計，即算法系統的設計、測試、運行表現及變動留有記錄，全程監測，并可審計。四是質詢和申訴，即確保受到算法決策負面影響的個人或組織享有對算法進行質疑并申訴的權力。五是內部治理。科技大公司應建立清晰、有效的內部治理框架、內部控制機制和責任體系，防止算法濫用，防范算法風險，并提高算法對抗性，避免算法攻擊。六是加強行業自律。通過行業自律機制，加強算法道德和算法倫理建設。

結語

不可否認，算法催生了新的經濟模式，帶來社會整體效率提升，有其獨特優勢。但近年來，算法濫用、算法作惡、算法道德、算法倫理等問題卻引起廣泛關注。卓別林電影《摩登時代》對機器操控產業工人的諷刺，以及馬克思著作《1844年經濟學哲學手稿》對機器工業化時代人類“異化”的警示提醒我們，就像機器流水線凌駕于工人之上，算法亦有可能凌駕于蕓蕓眾生之上，其中風險值得我們關注與警惕。為此，加強算法監管，以監管科技應對新型科技，既是順應之策，又是必然之舉。

（姚前為中國證監會科技監管局局長。本文僅代表作者個人學術觀點，不代表所在機構意見。本文編輯/謝松燕）