AI倒逼通信業“重構建”

李強

2021年4月，來自于亞信科技、中國移動、中國電信、清華大學以及其他中外運營商和高校的資深專家們，以一篇《通信人工智能的下一個十年》，就移動通信與人工智能的協同發展，對沿革進行了梳理，對未來進行了展望。中國移動抓住時代機遇，全面推進數智化轉型，打造基于大數據、AI等技術的一站式解決方案。其中，中國移動創新研究院落地杭州上城區，是移動公司踐行數智化轉型過程中堅實有力的一步。中國聯通陜西省政府、天津市政府分別簽訂戰略合作協議，致力于將5G技術與應用于數字政府、智慧城市、智慧醫療、智慧教育等多個領域。

風險不可避免

然而，智能技術的不確定性與高滲透率決定了其構建與應用必將帶來一定的風險。對于任何一家通信企業或科技企業而言，這些風險不易避免。通信行業將全面認識以AI為主的智能技術的潛在風險，深入分析技術與風險的內在聯系。

戰略風險

內外部危機。對內，數智化轉型勢必使內部資源向智能技術研發等新業務傾斜，導致傳統業務可能面臨結構及人員的調整問題。對外，AI創新企業間的競爭會導致企業盲目發展非優勢產業，形成惡性競爭;技術相關部門間的競爭可能引發重復建設問題，甚至導致業務分割。

數據與技術壟斷。AI算法的訓練過程依賴于數據產生的正反饋循環，擁有著大量數據的企業能夠訓練出更優秀的數據模型，從而帶來更好的體驗與更多的拓展功能;另一方面，更多的客戶被上述條件所吸引，從而帶來更多數據與模型。因此，智能技術行業也不可避免地傾向于壟斷。類似移動集團這樣的通信公司，雖然擁有著大量用戶數據和行為數據，但在外部數據積累、算法、算力等方面還依賴于第三方供應商，尤其對芯片、操作系統、底層算法通用架構等。存在個別供應商有能力壟斷這些技術的輸出權與定價權，隨時實施網絡監控或禁止合作，制約通信行業在人工智能領域的發展。

?技術風險

基礎薄弱。智能技術創新所需要的相關技術不成熟、相應數據能力不完備、相關技術人員能力不足、現有設備計算能力不足或存在固有漏洞等，不足以匹配智能應用對外部資源的要求，會導致企業數智化轉型起步遲緩且易暴露于外部攻擊造成信息泄露等。

“偽”人工智能。人工代替AI工作、AI成果造假從而獲取企業資金投入、把預設程序稱為AI等“偽”人工智能行為，可能導致AI的“虛假繁華”;內部人員為應對企業轉型任務，可能會劍走偏鋒，通過成果造假、數據造假、成果竊取等手段應對上層的轉型需求。

運營風險

不準確性與不可解釋性。智能技術學習的準確性是由數據質量、特征維度、算法、訓練時間、參數設計等因素決定的。當使用智能技術手段輸出的結果不準確或偏離預期時，對內會與管理層的決策相悖，導致內部對智能技術的輸出不信任;對外會造成預測錯誤，影響客戶選擇，造成經濟損失。而由于算法黑箱的特性，包括技術人員在內的人常常無法對相關算法、模型及其給出的結果進行合理的解釋，甚至引發監督審查困境。

通信公司在大力推動智能技術發展的同時，也不能忽略對其風險自身的研究，并適時開展內部審計工作，因此需要建立相應的研究與監控組織。

算法偏見與歧視。智能技術的優勢在于算法的中立，進而滿足推薦、分析、預測等場景應用的客觀化。但是，在沒有惡意的算法設計中，卻可能存在開發人員的“偏見”或采用了帶有“偏見”的數據，從而在輸出端表現為性別歧視、仇外思想、確認偏誤等，而這種機器偏見被隱藏在了科技的客觀性之下。

監管風險

知識產權與數據資產保護爭議。智能機器人能夠收集并儲存大量的他人已享有著作權的信息，這可能構成非法復制他人的作品，從而構成對他人著作權的侵害。若利用他人享有著作權的知識和信息進行學習并最終創作出有相似內容的作品，存在構成剽竊的可能。《民法總則》第127條對數據的保護規則作出了規定，數據在性質上屬于新型財產權，但數據保護問題并不限于財產權的歸屬和分配問題，還涉及此類財產權的安全，特別是涉及國家安全。

隱私泄露。數據在技術中的大規模應用也極大地增加了隱私入侵的機會，對個人隱私實現了直接監控，同時，其迷惑性的侵害隱私的行為能夠以類人的方式收集客戶信息。在國外，《健康保險可移植性和責任法案》（HIPAA）要求公司在披露個人健康信息之前必須獲得授權，歐盟的《通用隱私數據保護條例》（GDPR）等國際框架幫助消費者更好地控制個人數據的收集和使用。但我國仍未完善隱私保護的法律體系，未對隱私保護的技術路徑、市場機制和倫理原則引起足夠的重視。由智能技術導致的監管風險，將會大大降低智能技術的可信度，提高合規成本。

聲譽風險

企業不良形象。由AI應用導致的錯誤決策、違規行為、數據泄露等企業丑聞，即便企業花費大量的時間和精力用于事后的危機管理，也難于彌補對自身聲譽造成的實質性損害。公眾將對企業形成內部管理混亂、管理層能力不足、企業缺乏社會責任等不良印象。

內部信任危機。隨著智能技術系統的日趨復雜，企業或將難以對其進行密切監控，而復雜的算法也不能對決策作出合理的解釋，企業無法完完全全將決策的權力交予機器，這就容易導致企業內部的信任危機。業務部門或許無法完全基于技術部門給出的智能運算結果開展業務，技術部門或許也無法完全信任業務部門提交的數據和指標。

應對智能技術風險

通信企業將著力于制定出更加科學的監管制度和體系，深入挖掘數智化轉型的相關風險，通過以風險為導向的內部控制方式對其實現預測、監督與管控，不斷完善規章制度體系建設，合理確定各種風險的應對策略。構建以智能技術發展決策為風險預防堡壘、以技術風險研究為導向、以內部審計為監測手段、以多部門及相關企業聯合治理的“可信賴”智能技術風險防控機制。

構建完善的發展決策體系

建立完整謹慎的智能技術發展決策體系，以推動企業轉型。發展決策體系是將企業的決策組織、決策流程、決策規范進行有機整合，防止權力的交叉或真空，以確保企業經營管理有序進行。具體包括：

設計并建立健全的決策組織。企業決策是一個從簡單到復雜的圖譜，所涉及的各領域問題也寬泛復雜，為了增加決策的有效性，必須明確規定權利主體。對于通信企業而言，推動智能技術創新的決策組織人員不宜過多，以輕量級、決策快為特點構建集權式、扁平化團隊。團隊成員應分別來自各核心的業務、技術、職能部門，熟悉公司業務且了解戰略發展，并建議由一位技術發展決策專員統一領導。其次，決策者的行為由利益驅動、由責任約束、由權力保障，因此需要根據組織團隊的特點，對決策進行全面梳理、模塊分類，建立與權力結構相適應的利益結構，實現團隊成員的職責劃分，做到權責統一。

制定清晰的決策流程。基于反映自身通過技術創新活動所要達到的經濟預期的目的，技術部門需要依據市場需求，在技術研發上制定需要達到的階段性目標，并且明確技術創新主體的主觀意志與服務對象，尤其當服務對象為大眾市場時。同時，根據團隊責任的劃分，共同議定項目評估流程，確定決策權重。并且依托權利保證、組織保證、信息系統保證等，作好方案評估、方案論證和決策宣傳，提供及時、準確、適用的信息支撐。

建立完善的決策規范。管理層需從操作、約束、權限等角度建立相應的規范。在數據方面，考慮數據集成、管控與共享等流程，并適當執行數據治理流程，完善數據管理;在模型方面，考慮輸入數據結構、模型操作與權限約束;在客戶方面，考慮多渠道收集信息、全方面刻畫客戶畫像、注重個性化服務。始終滿足（1）監管要求;（2）制度層面能夠防范AI風險;（3）實際執行能夠滿足規范要求。

建立技術風險研究組織

在大力推動智能技術發展的同時，也不能忽略對其風險自身的研究，并適時開展內部審計工作，因此需要建立相應的研究與監控組織，具體包括：

技術研究與風險研究并行。盲目地推動顛覆性技術發展會弱化對風險研究的重視，技術的大幅進步更容易隱藏業務安全隱患。因此，建議企業設立相應的智能技術風險研究崗位，深度探究智能技術發展為企業內部、技術本身、對外合作等方面帶來的影響與風險應對措施。該組織的人員需具備一定的技術能力、了解技術風險點和業務流程，并熟悉風險管理理念，從技術的角度將風險扼殺于萌芽階段。

構建專業審計團隊。針對智能技術的審計工作將檢查相關部門是否按計劃執行技術實施工作、能否達到有效的創新效益、是否存在信息泄露或違規操作等。相關審計人員將具備一定的軟硬件基礎知識和智能技術常識，審計團隊中應適當加入信息安全專家、IT系統專家、算法專家等成員。由于智能技術更新周期短、涉及范圍廣，企業應引入培訓機制定期對審計團隊進行相關技術的培訓。

風險研究與內部審計柔性結合。風險研究組織將與內部審計團隊緊密聯系，適當時可組建風險防控的柔性組織，形成信息互通、能力互補、技術共享，工作內容包括預警模型設計、風險信息管理、持續監測并定期擬定相關風險分析報告。例如，內部審計團隊能夠搭建特定的審計框架與數據需求，IT技術團隊負責承接技術需求并幫助內審團隊獲取、整合和分析數據，從而共同發現審計問題與風險。

通信企業需要擁抱機遇，積極應對智能技術風險，提前部署體制，謹防風險管理與企業戰略產生割裂。

建立針對智能技術的審計方式

風險管控部門需要持續監測智能技術相關系統的建設與應用，確保系統性能的可靠性、完整性與前瞻性。具體包括：

持續風控/審計模型的構建與應用。通信企業在過去的審計與風控工作中，積累了大量審計/風控規則，能應用于搭建具備可持續挖掘審計問題/風險的規則模型;同時，企業積累了大量的業務數據、客戶信息、行為數據，有能力設計并提取有效的風險特征，用于搭建機器學習模型進行訓練，使用邏輯回歸、GBDT、神經網絡等技術在訓練數據上搭建風控模型，通過AUC等指標判斷模型的準確率，不斷完善模型框架并最終進行信息化落地。

提高算法的透明度。鼓勵技術人員將算法的可解釋性作為在模型投入生產之前獲得合規批準的必要步驟。在技術部門的協助下，制定算法透明度度量標準，根據任務重要程度適當調整算法的透明度。

建立針對智能技術的審計方式。定期針對技術領域開展1?2個專項審計，例如：客戶敏感信息審計、系統日志審計、重要系統賬號口令審計等。同時，依托企業內部的審計經驗及相關技術資源積累，利用互聯網Web應用訪問日志、網絡流量日志、設備監控日志、安全威脅態勢等信息，開展AI建設與應用審計工作，及時發現潛在安全威脅及已經面臨的風險。

敏捷且動態地治理

風險管控相關部門通過運用敏捷且動態的智能技術風險治理方式，聯合其他組織部門，形成多方聯動機制。具體包括：

持續跟進多領域的智能技術風險問題。設專人及時追蹤社會、監管、企業聲譽、倫理等領域新出現的智能技術相關問題，并及時反饋至管理層，從而及時對企業內部系統完整性、數據采購及管理、模型訓練及使用進行企業內部自查，并及時做出調整。

建立多部門聯動機制。在企業數字化轉型之初，管理層需強化部門協調聯動，通過建立部門間信息溝通、規劃統籌、協調服務、跟蹤問效等多項制度，完善牽頭部門負責、相關部門配合、集團公司監督的部門協調聯動機制，幫助智能技術服務在企業內外部高效落地。對涉及部門灌輸和培養風險優化的意識，從產品設計之初就將信任的概念嵌入到服務和產品中，使得利益相關方能夠在技術服務中建立信任，追求長期的價值。

數字化浪潮帶來了新的機遇，也帶來了新的風險和困難。對于通信企業而言，需要擁抱機遇，積極應對智能技術風險，提前部署體制，規范落實機制，謹防風險管理與企業戰略產生割裂，避免風險預警與管控缺乏時效性，大力推動企業數字化轉型進程，在時代的風雪中抱薪前行。

*?作者系中國移動通信集團浙江有限公司內審部專項審計部經理