人工智能應(yīng)用與金融消費者保護

劉志偉 龐占朝

近年來，人工智能在金融業(yè)務(wù)領(lǐng)域的應(yīng)用已經(jīng)逐漸走向成熟，如面向客戶和交易的智能客服、智能營銷、智能支付、智能信貸、智能投顧、智能理賠、智能風(fēng)控，但在金融監(jiān)管，尤其是以金融消費者保護為核心之行為監(jiān)管領(lǐng)域的應(yīng)用卻不盡如人意。更重要的是，人工智能在金融業(yè)務(wù)領(lǐng)域廣泛應(yīng)用所帶來的服務(wù)模式變革、業(yè)務(wù)流程再造、金融產(chǎn)品創(chuàng)新，還給金融消費者保護領(lǐng)域現(xiàn)有的監(jiān)管規(guī)范、執(zhí)法安排和工作舉措帶來了新的沖擊和挑戰(zhàn)。應(yīng)結(jié)合當(dāng)前人工智能技術(shù)發(fā)展和金融消費者保護工作的實際，積極研究人工智能在金融消費者保護領(lǐng)域應(yīng)用的主要場景、關(guān)鍵問題和優(yōu)化措施，以確保人工智能在金融消費者保護領(lǐng)域的合理有效應(yīng)用。

人工智能在金融消費者保護領(lǐng)域應(yīng)用的具體場景

人工智能在金融消費者保護領(lǐng)域的應(yīng)用，主要是指以人工智能算法框架、智能硬件、系統(tǒng)軟件為基礎(chǔ)技術(shù)支撐，開發(fā)應(yīng)用于金融消費者保護領(lǐng)域的系列通用技術(shù)，如深度學(xué)習(xí)、人機交互、知識圖譜、自然語言處理等，并完成多種通用技術(shù)與金融消費者保護應(yīng)用具體場景的融合，如金融消費者保護領(lǐng)域監(jiān)管規(guī)則數(shù)字化、風(fēng)險事件監(jiān)測回應(yīng)和監(jiān)管金融機構(gòu)合規(guī)情況等。

消費者保護規(guī)范的數(shù)字化轉(zhuǎn)換。金融消費者保護的數(shù)字化、智能化、自動化實現(xiàn)，最先需要做的是利用自然語言處理技術(shù)和文本挖掘技術(shù)，系統(tǒng)全面分析金融消費者保護領(lǐng)域的監(jiān)管規(guī)范，并將其轉(zhuǎn)譯為機器可以讀取、理解的監(jiān)管性代碼和程序。第一，金融消費者保護領(lǐng)域監(jiān)管規(guī)范的數(shù)字化翻譯和轉(zhuǎn)換，不僅可有效驗證同一金融監(jiān)管部門不同監(jiān)管規(guī)則是否有效銜接的問題，亦可查證不同金融監(jiān)管部門所制定監(jiān)管規(guī)則是否存在沖突，以保證金融消費者保護監(jiān)管規(guī)范協(xié)調(diào)一致。第二，金融消費者保護領(lǐng)域監(jiān)管規(guī)范的數(shù)字化翻譯和轉(zhuǎn)換，可促成金融監(jiān)管機構(gòu)與金融機構(gòu)對相關(guān)監(jiān)管規(guī)范目的、內(nèi)容理解的一致性，促進監(jiān)管機構(gòu)與金融機構(gòu)彼此互動的質(zhì)量提升，實現(xiàn)金融消費者合法保護的公私協(xié)同以及監(jiān)管與合規(guī)的有效對接和良性互動。第三，在金融消費者保護領(lǐng)域監(jiān)管規(guī)范的數(shù)字化翻譯和轉(zhuǎn)換的基礎(chǔ)上，機器學(xué)習(xí)、深度學(xué)習(xí)和知識圖譜技術(shù)可提升監(jiān)管規(guī)則自動檢查的力度和效率，保證監(jiān)管規(guī)范對金融產(chǎn)品或服務(wù)創(chuàng)新的及時回應(yīng)與適應(yīng)性，促進監(jiān)管規(guī)范優(yōu)化更新。

風(fēng)險事件的監(jiān)測回應(yīng)。人工智能在金融消費者保護領(lǐng)域的應(yīng)用，可提升與金融消費者保護有關(guān)之信用風(fēng)險、操作風(fēng)險等風(fēng)險事件監(jiān)測回應(yīng)的效率。第一，金融監(jiān)管機構(gòu)利用神經(jīng)網(wǎng)絡(luò)、知識圖譜技術(shù)深度挖掘金融機構(gòu)在金融產(chǎn)品營銷、宣傳、銷售以及售后管理中存在的各種風(fēng)險事件，這可完成金融消費者保護從被動接受投訴到主動發(fā)現(xiàn)處理的轉(zhuǎn)換。第二，基于語音識別、深度學(xué)習(xí)、自然語音處理技術(shù)的虛擬助手具備人機交互和數(shù)據(jù)分析功能，不僅可通過對金融消費者保護風(fēng)險事件的反復(fù)性發(fā)現(xiàn)處理，不斷優(yōu)化自身的知識庫和積累新知識，還可通過語義分析、情感分析準(zhǔn)確理解金融消費者的合理需求，以提供更精準(zhǔn)有效的問題解決方案。第三，對于前兩點提到的風(fēng)險事件識別和風(fēng)險事件處置均離不開集金融消費者保護風(fēng)險識別、防御、檢測、響應(yīng)和恢復(fù)于一體的綜合化數(shù)字化風(fēng)險管理平臺建設(shè)，而這又建立在包括文本挖掘、深度學(xué)習(xí)、人機交互、知識圖譜、自然語言處理等多種通用技術(shù)融合的基礎(chǔ)之上。

監(jiān)管金融機構(gòu)合規(guī)情況。將人工智能應(yīng)用于監(jiān)管金融機構(gòu)在消費者保護領(lǐng)域的合規(guī)情況，主要體現(xiàn)在報告生成、創(chuàng)新金融產(chǎn)品管理等層面。一方面是人工智能在報告生成領(lǐng)域的應(yīng)用。無論監(jiān)管報告，還是合規(guī)報告，人工智能技術(shù)的應(yīng)用都可助力報告的自動生成和實時監(jiān)控。其中，監(jiān)管報告主要通過數(shù)據(jù)傳輸、驗證、存儲、分析四個步驟完成，人工智能技術(shù)則主要在驗證和分析領(lǐng)域發(fā)揮關(guān)鍵作用；合規(guī)報告主要通過監(jiān)管規(guī)范獲取、分析解讀和報告生成三個步驟完成，這需要以監(jiān)管規(guī)則的數(shù)字化轉(zhuǎn)換為基礎(chǔ)。當(dāng)然，這也離不開機器人流程自動化技術(shù)、應(yīng)用程序編程接口技術(shù)的支撐。另一方面是人工智能在創(chuàng)新金融產(chǎn)品管理領(lǐng)域的應(yīng)用。創(chuàng)新性金融產(chǎn)品從開發(fā)設(shè)計到營銷宣傳，再到售后跟蹤觀察都直接事關(guān)金融消費者合法權(quán)益的保護，文本挖掘、深度學(xué)習(xí)技術(shù)可用于驗證金融產(chǎn)品自身風(fēng)險與收益是否匹配，語音識別、計算機視覺、生物特征識別技術(shù)可用于金融產(chǎn)品銷售中監(jiān)督誤導(dǎo)銷售、虛假宣傳等，而金融產(chǎn)品的售后跟蹤則離不開人機交互、深度學(xué)習(xí)、自然語音處理技術(shù)。

人工智能在金融消費者保護領(lǐng)域應(yīng)用的關(guān)鍵問題

無論是從金融機構(gòu)合規(guī)視角，還是從金融監(jiān)管機構(gòu)監(jiān)管視角，將人工智能應(yīng)用于金融消費者保護領(lǐng)域非常重要且有必要，并且應(yīng)用實踐也取得了一定的進展，但具體應(yīng)用場景依然有限、不同領(lǐng)域也存在結(jié)構(gòu)性失衡，如在證券領(lǐng)域的應(yīng)用相對較多，在銀行、保險領(lǐng)域的落地應(yīng)用相對較少。

消費者保護規(guī)范的數(shù)字化轉(zhuǎn)譯難度大。以書面形式呈現(xiàn)出來的金融消費者保護規(guī)范本身就存在語義寬泛、理解因人而異等天然難以克服的問題，將其轉(zhuǎn)換為機器可以識別和理解的代碼、程序?qū)⒏永щy。一是代碼、程序的編寫者負(fù)責(zé)將人類自然語言的音位、形態(tài)、詞匯、句法、語義、語用、篇章轉(zhuǎn)換為機器可讀語言，但法律語言與日常語言有著截然不同的意義追求，代碼、程序編寫者通常并非法學(xué)專業(yè)人士，其對相關(guān)監(jiān)管規(guī)范的理解即使有法律從業(yè)人員的輔助也不一定能完全準(zhǔn)確。二是盡管法律語言嚴(yán)謹(jǐn)、準(zhǔn)確、明確，其追求的是確定性，通過語言確定其法律意義，但監(jiān)管規(guī)范中外延不固定的模糊性語言、不確定性概念比比皆是，這并非僅源于語言本身面對社會萬象的蒼白，一定程度上也是對明確性語言不足的彌補。三是相對于審慎監(jiān)管領(lǐng)域，以金融消費者保護為核心之行為監(jiān)管更多的是定性規(guī)范，而非定量規(guī)范，如巴塞爾協(xié)議中的資本充足率、流動性比率、杠桿率等可量化指標(biāo)，這也就進一步增加了行為監(jiān)管規(guī)范數(shù)字化轉(zhuǎn)換的難度。

人工智能算法本身的可解釋性困難變大。隨著ChatGPT的出現(xiàn)，人工智能算法模型已呈現(xiàn)出從決策式向生成式轉(zhuǎn)變的趨勢，但生成式算法使用多層深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)，模型的復(fù)雜程度增加，帶來的便是難以對預(yù)測結(jié)果做出合理解釋。生成式人工智能算法模型的出現(xiàn)是人工智能技術(shù)發(fā)展的進步，但其訓(xùn)練的“黑箱”特性會嚴(yán)重妨害人工智能技術(shù)在金融領(lǐng)域，尤其是金融消費者保護領(lǐng)域的應(yīng)用。事實上，人工智能算法模型的可解釋性是其在金融領(lǐng)域，尤其是金融消費者保護領(lǐng)域應(yīng)用的前提要求，唯有如此才能有效識別管理金融風(fēng)險、充分保障金融消費者的合法權(quán)益。更重要的是，金融消費者權(quán)益的有效保護本來就是對金融消費者保護規(guī)范的遵循，以保證監(jiān)管規(guī)范適用結(jié)果的可靠性與穩(wěn)定性。當(dāng)然，這并不是對人工智能算法模型執(zhí)行金融消費者保護規(guī)范自由裁量權(quán)的簡單剝奪，前提是要保證人工智能算法模型本身的可解釋性與透明度。比如，樸素貝葉斯、線性回歸、決策樹或者其他基于規(guī)則的模型，理論上已經(jīng)滿足可解釋性要求，但對于生成型預(yù)訓(xùn)練變換模型3（Generative Pre-trained Transformer 3）之類的超大型算法，其可解釋性仍然相當(dāng)難實現(xiàn)，這也就限制了其在金融消費者保護領(lǐng)域的可應(yīng)用推廣性。

人工智能應(yīng)用于消費者保護會帶來新風(fēng)險。將人工智能應(yīng)用于金融消費者保護領(lǐng)域，有助于強化金融消費者保護執(zhí)法的力度、提升消費者保護的水平，但這不僅潛藏著新的信息技術(shù)風(fēng)險，還有可能放大現(xiàn)有的金融風(fēng)險。第一，人工智能技術(shù)在金融消費者保護領(lǐng)域的應(yīng)用極可能會滋生新的技術(shù)風(fēng)險、網(wǎng)絡(luò)風(fēng)險、數(shù)據(jù)安全風(fēng)險、法律與監(jiān)管風(fēng)險，并且其與智能金融所應(yīng)用人工智能技術(shù)的“同源性”，還會帶來人工智能技術(shù)風(fēng)險的“順周期”擴大效應(yīng)。第二，金融消費者保護領(lǐng)域人工智能技術(shù)的應(yīng)用通常會帶來人工智能算法模型的外包，而人工智能算法模型、數(shù)據(jù)建模和數(shù)據(jù)分析方法的復(fù)雜性會加劇金融監(jiān)管機構(gòu)對信息技術(shù)提供方的過度依賴，并且人工智能算法模型的“自主決策”甚至還可在一定程度上部分甚至完全取代金融監(jiān)管機構(gòu)對某些關(guān)鍵決策的判斷，這不僅會影響金融消費者權(quán)益的科學(xué)有效保護，還可能引發(fā)“監(jiān)管替代”效應(yīng)。

人工智能在金融消費者保護領(lǐng)域應(yīng)用的優(yōu)化措施

為解決人工智能在金融消費者保護領(lǐng)域應(yīng)用中存在的消費者保護規(guī)范數(shù)字化轉(zhuǎn)換難度大、人工智能算法本身的可解釋性困難變大和人工智能應(yīng)用于消費者保護所產(chǎn)生新風(fēng)險的規(guī)制等問題，需要采用如下優(yōu)化舉措。

促進機器可讀型消費者保護監(jiān)管規(guī)范的發(fā)布。當(dāng)前既有的金融消費者保護規(guī)范不僅未能反映人工智能技術(shù)發(fā)展的新變化，也欠缺相應(yīng)的技術(shù)規(guī)范，更無法實現(xiàn)機器可讀。因此，人工智能在金融消費者保護領(lǐng)域的應(yīng)用最先需要的是金融監(jiān)管機構(gòu)采用自然語言處理、文本挖掘、知識圖譜技術(shù)來校驗、更新金融消費者保護領(lǐng)域的監(jiān)管規(guī)范并完成直接性的機器可讀。值得注意的是，與當(dāng)前各個金融機構(gòu)為實現(xiàn)監(jiān)管合規(guī)而采取的監(jiān)管規(guī)范轉(zhuǎn)譯相比，由金融監(jiān)管機構(gòu)直接發(fā)布機器可讀的監(jiān)管規(guī)范，不僅可提升監(jiān)管規(guī)范被理解的準(zhǔn)確性、一致性，還可保證不同金融機構(gòu)、不同金融消費者得到平等對待。當(dāng)然，機器直接可讀金融消費者保護監(jiān)管規(guī)范的發(fā)布，不僅需要法律知識專家系統(tǒng)的支持、人工智能技術(shù)專家對運用自然語言表達之法律文本的轉(zhuǎn)譯，還需要法學(xué)專家和人工智能專家的充分溝通，并最終確立規(guī)范化的轉(zhuǎn)譯標(biāo)準(zhǔn)、流程和校驗、更新方案。

增強對人工智能算法本身可解釋性的規(guī)制。人工智能算法模型在金融消費者保護領(lǐng)域應(yīng)用的不可解釋主要來源于對問題和任務(wù)本身了解得還不夠充分，因此應(yīng)積極探索發(fā)現(xiàn)知識、理解和解決問題的方法。第一，人工智能算法模型的可解釋方法。在建模前，充分了解金融消費者保護所依據(jù)監(jiān)管規(guī)范的核心內(nèi)容和設(shè)置邏輯；在建模中，應(yīng)盡量建立本身具有可解釋性的人工智能算法模型，如基于規(guī)則的模型；在建模后，可解釋性方法——隱層分析方法、模擬模型、敏感性分析方法，主要是針對具有“黑箱”性質(zhì)的深度學(xué)習(xí)模型而言的，如在金融領(lǐng)域可采用敏感性分析與局部特征探索方法來解決金融領(lǐng)域普遍存在的先驗知識不足的問題。第二，建立人工智能算法模型可解釋性替代機制。盡管增強人工智能算法模型可解釋性是實現(xiàn)透明度、避免偏見、可問責(zé)以及其他倫理價值的保證，但并非所有人工智能算法模型均可解釋或需要解釋，如生成式人工智能算法模型的可解釋性較弱，此時建立替代性的機制便顯得十分重要，如第三方反饋、申訴機制與人工審查干預(yù)、日常監(jiān)測等，此舉可對人工智能算法模型的決策起到一定程度的監(jiān)督作用。

管控住人工智能應(yīng)用于消費者保護所產(chǎn)生的新風(fēng)險。一是對于將人工智能應(yīng)用于金融消費者保護所產(chǎn)生的新風(fēng)險的規(guī)制需要確立包括網(wǎng)絡(luò)風(fēng)險、數(shù)據(jù)安全風(fēng)險、應(yīng)用程序風(fēng)險等在內(nèi)之信息科技風(fēng)險的監(jiān)管指標(biāo)和信息科技風(fēng)險的防范、化解和處置安排；二是要建立好金融監(jiān)管機構(gòu)與信息科技服務(wù)提供商的第三方合作風(fēng)險管控與風(fēng)險分配機制；三是金融監(jiān)管機構(gòu)要確保其對監(jiān)管或合規(guī)數(shù)據(jù)、人工智能算法模型的自主控制，并且實現(xiàn)金融監(jiān)管的人機交互合作，即將人工智能算法模型的輸出結(jié)果作為監(jiān)管決策形成的輔助而非主導(dǎo)，或者是作為人工監(jiān)管決策的人工智能驗證手段。

（作者單位：西南政法大學(xué)金融創(chuàng)新與法制研究中心，中國農(nóng)業(yè)銀行重慶分行）

人工智能在金融消費者保護領(lǐng)域的應(yīng)用，主要是指以人工智能算法框架、智能硬件、系統(tǒng)軟件為基礎(chǔ)技術(shù)支撐，開發(fā)應(yīng)用于金融消費者保護領(lǐng)域的系列通用技術(shù)，如深度學(xué)習(xí)、人機交互、知識圖譜、自然語言處理等，并完成多種通用技術(shù)與金融消費者保護應(yīng)用具體場景的融合，如金融消費者保護領(lǐng)域監(jiān)管規(guī)則數(shù)字化、風(fēng)險事件監(jiān)測回應(yīng)和監(jiān)管金融機構(gòu)合規(guī)情況等。