陳曦
【摘要】以大數據和人工智能為代表的智能化逐漸進入各行各業,一方面,這極大地提高了社會生產力;另一方面,智能化時代的技術創新為各行各業帶來了革命性改變。但當前智能化時代的數據和算法并不能將現實世界“劇本化”,高度智能化的市場具有“戲劇性”,甚至這些智能技術還會帶來風險。因此,管理者需提升自身數據素養和智能素養,轉變管理方式;企業需建立健全行業技術標準,建立技術安全防控體系和中斷機制;政府需加快法律法規設立進程,制定政策對沖風險。只有管理者、企業和政府多方配合,才能建立完善的治理體系,才能更好地利用技術防控風險。
【關鍵詞】智能化? 技術創新? 風險挑戰? 規范管理
【中圖分類號】TP18? ? ? ? ? ? ? ? ? ? ? ? ? ? ?【文獻標識碼】A
【DOI】10.16619/j.cnki.rmltxsqy.2019.21.001
引言
隨著大數據、云計算、物聯網和人工智能等技術的發展,人類社會從信息化時代進入到智能化時代。科技創新和科技革命是社會發展的強大推動力,有學者認為,信息、數據、可再生能源等核心科技催生了新一輪的科技革命浪潮,促使人類進入工業智能化時代,成為第三次工業革命的顯著標志,并且與前兩次工業革命不同的是,前兩者是資本對體力勞動的替代,而后者從機器替代體力勞動到人工智能替代腦力勞動,這是一次質的飛躍(賈根良,2016)。智能化廣泛應用到各行各業,使得經濟結構發生了深刻變化,同時人類社會逐步由體能經濟過渡到智能經濟,即是指以智能為基礎并依靠智能產生經濟效益的經濟。區別于體能經濟主要依靠體力創造的勞動密集型模式,智能經濟借助算法、數據和人工智能等設備把體力和智力充分融合,生產出高知識附加值的產品和服務(穆良平和姬振天,2017)。“智能化時代”是與“智能經濟”“第三次工業革命”“人工智能大數據時代”“智能社會”等概念交叉或重疊的術語,都從人工智能發展的視角出發,強調人才智能和設備智能的統一、工業社會和信息社會的融合(陳振明,2015)。
技術創新和發展是智能化時代的基石,而大數據和人工智能作為該時代最重要的兩項技術,為各行各業智能化的全面變革提供了強有力的技術保障。數據的大規模可用和人工智能算法的快速進步,正在不斷改變著人們的生活方式。例如,在醫學領域,機器學習技術正致力于解決復雜的診斷難題,使用大量患者數據訓練計算機自主學習,從而為疾病診斷作出預測(Challen et al., 2019);在商業領域,大數據、算法和自動化決策交織在一起,通過收集大量消費者行為數據,企業可以構建自身的營銷模型,從大數據分析中挖掘企業獲取競爭優勢的獨特資源(Erevelles, Fukawa, & Swayne, 2016)。如同技術進步一樣,智能化也是一把雙刃劍,雖然智能化的便利性無處不在,但同時也應當關注與其一同產生的風險和挑戰,如算法的日益普及帶來了一系列的基本問題,涉及數據治理、信息隱私、自動化決策的法律和倫理框架,算法和自動化決策帶來的偏見、不公和透明性問題(Olhede & Wolfe, 2018),人工智能算法可能帶來的不確定問題等(張成崗,2018)。本文從智能化時代技術創新與發展出發,以數據技術和人工智能技術為例,論述智能化給各行各業帶來的革命性改變,同時指出了可能產生的市場風險和挑戰,在此基礎上提出了智能化時代新的規范和管理策略。
智能化時代的技術創新與發展
技術創新作為智能化時代的基石,一直是學界和業界關注的焦點。有學者認為,大數據和人工智能是智能化時代最主要的技術支撐,對社會生產方式、生活方式,甚至娛樂方式都產生了深遠而巨大的影響(孫偉平,2017)。近年來,我們從各種傳感器設備或應用程序中收集數據的能力有了顯著提高,而算法為進一步理解數據提供了支持,算法的理論和實踐催生了現代的數據科學學科,它是統計學、計算機科學和數學的混合體(Olhede & Wolfe, 2018)。將從數據科學與大數據技術、算法與人工智能兩個方面來分析智能時代的技術創新和進步。
數據科學與大數據技術。數據科學的研究范疇是信息技術和數據技術的集合,社交網絡數據挖掘、云計算、數據可視化技術等相關技術和工具構成了數據科學研究的重要內容。Baumer認為數據科學是一個跨學科的領域,它利用數學、統計學、計算機科學的知識從日益復雜的大規模數據中通過多種設定模型抽取到有用信息(Baumer, 2015),也有學者提出數據科學包括信號處理、數學、概率模型、機器學習、計算機編程、統計、數據工程、模式識別和學習、數據可視化和不確定性建模等技術元素(de Moraes & Martinez, 2015)。數據科學的快速發展和廣泛應用,不斷賦予我們新的想象力和探索能力。谷歌開發的AlphaGO利用海量數據進行訓練,成為圍棋冠軍就是一個很好的例子,AlphaGo采用的算法固然重要,但如果沒有大量數據作為訓練和學習的材料,再好的算法也是無米之炊,數據如同水、電、網一樣已經成為智能化時代不可或缺的基礎物資。
大數據技術有一項核心功能就是預測,大數據預測在新聞傳播、影視娛樂、金融投資、農情監測等方面得到了快速的推廣與應用。美國學者通過“搜集1990年到2013年間166個國家的報紙文章,形成大數據后進行,來分析預測是否會發生戰爭”(Chadefaux, 2014);在大數據文本分析和挖掘方面,有學者在用戶生成內容挖掘的基礎上提出了一個產品缺陷發現的綜合文本分析框架,并在汽車和電子消費領域展示了此框架的有用性(Abrahams, Fan, Wang, Zhang, & Jiao,? 2015);另外,在網絡信息空間的內容分析方面,2011年美國和英國的三位學者合作通過近1000萬條推文作為樣本展開網民情感研究,預測股市漲跌(Bollen, Mao, & Zeng, 2011);亞馬遜構建了一個智能化的圖書銷售系統,不斷收錄海量用戶的搜索數據,該系統可以精準地為讀者推薦可能感興趣的圖書;沃爾瑪通過分析銷售數據,了解顧客購物習慣,得出適合搭配一起銷售的商品,同時可以從用戶的購買行為中對顧客進行市場細分,為其提供個性化的服務,這種分析方法和營銷手段已經被各類電子商務平臺廣泛采用。
經濟學視角下,大數據及數據科學的快速發展和廣泛應用,擴展了人的理性,降低了交易成本,減少了機會主義行為,極大地促進了市場經濟的進步和發展(程承坪和鄧國清,2018);管理學視角下,數據挖掘及大數據預測為商業智能化提供了技術支持和輔助決策,在一定程度上也使得組織更加扁平化和去中心化(Jarrahi,? 2018);統計學視角下,數據科學和數據技術影響著統計方法發生了改變,包括以下七個方面:新信息源的涌現、高維可視化、多個測試問題、異質性分析、自動模型選擇、稀疏模型的估計方法、用統計模型合并網絡信息(Galeano & Pena, 2019)。
算法與人工智能。和數據一樣,算法也是人工智能的核心,在智能化時代算法的功能不僅僅是在于對數據進行處理并按照處理的結果進行決策,而是進一步利用數據進行機器學習,經過自我訓練和深度學習的算法得到了迭代和發展。例如,有學者將人工智能算法應用到圖像識別領域,運用機器學習的方式對蟻群算法進行訓練,結果表明優化后的蟻群算法對圖像分割的效果更佳(Xin & Wang, 2019)。在商業領域中,算法交易在市場中的影響也越來越大,有學者通過構建“社會嵌入式多主體仿真模型”,進行仿真研究,結果表明算法交易確實在市場交易中節約了交易成本,同時也控制了交易風險,降低了市場波動和帶來更好的流動性(王宇超等,2014)。有學者以淘寶網為例,研究了電子商務中服務推薦的協同過濾算法,研究表明基于用戶頻率相似度的推薦方法非常適合在線服裝推薦,共現矩陣約簡方法是提高推薦性能的有效方法(Hu, Li, Wei, & Zhou, 2019)。事實上,作為人工智能最重要的兩項技術,算法和大數據的融合,進一步促進了人工智能的發展。
如今,人工智能在物流行業、云會計、互聯網金融、媒體行業、醫療行業、軍工企業等均有廣泛應用。譬如,淘寶的核心引擎就是人工智能的運用,它將多種復雜的算法融合在一起,每天進行海量數據自動處理,人工智能同樣廣泛運用于菜鳥驛站的物流系統中;谷歌翻譯運用機器智能的方法代替人的翻譯。有學者還進一步研究了人工智能在公共管理中的應用,研究表明,人工智能的使用擴展了公共數據的處理和分析能力,擴大了公眾影響力(Wirtz & Muller, 2019);在醫療領域,有學者對人工智能驅動的醫療初創企業進行了及時而關鍵的分析,將人工智能解決方案引入市場,從而提出了一種為人工智能醫療初創企業設計商業模式的方法(Garbuio & Lin,? 2019)。
上文主要從技術創新和發展的角度討論了數據科學、大數據、算法和人工智能給各行各業帶來的福祉和便利,這些技術的發展極大地促進了人類和社會的進步,但這意味著智能時代一切都可以被量化和預測嗎?商業社會中的不確定性和風險都可以被模型和算法預測、降低,甚至規避嗎?再也不會出現“戲劇性”了嗎?事實上,智能化時代這些革命性的創新在一定程度上確實降低了信息不對稱,節約了交易費用,甚至能夠預測和規避風險。然而,數據、算法、機器學習和人工智能等技術在邏輯基礎和實際應用中均存在著巨大的不確定性,且當前的智能化還無法將錯綜復雜的現實世界完全“劇本化”。或者說,現實世界并不一定會按照數據和算法計算出的既定程序運行,市場和技術共同參與了“戲劇性”的制作。因此,充分利用技術解放生產力的同時,也不能忽視智能化時代的風險和挑戰,如數據隱私的泄露、算法偏見、社會不公等。
智能化時代的風險和挑戰
根據國際數據公司(IDC)最新的支出指南,2019年全球人工智能(AI)系統支出預計將達到358億美元,比2018年增長44.0%。全球大數據和商業分析(BDA)解決方案的收入預計今年將達到1891億美元,比2018年增長12.0%。智能化時代創造的社會效益得到了廣泛認可,同時這場技術變革帶來的社會風險也引起了學術界和IT界的關注和討論,數據風險、算法風險、可能引起的失業等問題亟待解決,下面從技術、社會和管理三個角度對智能化時代所面臨的風險和挑戰進行討論,從而進一步為降低風險和應對挑戰尋找可能的解決方案。
技術視角。數據技術和算法技術在推動智能化快速發展的同時,也帶來了新的問題和挑戰。第一,數據風險。隨著智能化的不斷深入,數據已經成為一項必不可少的基礎設施,但海量產生的數據一定能夠客觀描述這個世界的真相嗎?
在數據生產環節:一是數據收集可能會產生以偏概全的風險。雖然大數據技術、數據采集技術在不斷發展,但由于平臺壟斷、商業利益等因素的影響,收集到全樣本的數據仍然很困難。同樣,在行業數據中,一方面,很多行業缺乏完整的數據積累;另一方面,出于商業保護也不愿公開(彭蘭,2018)。而傳統小樣本調研的代表性和數據質量歷來受到學術界和業界的質疑。數據采集是數據生命周期的第一環節,而樣本的以偏概全必然對數據分析結果產生影響。二是數據噪音帶來的污染。數據收集的過程中除了樣本偏差帶來的問題,多種渠道收集來的數據質量也參差不齊,這些數據存在著嚴重的噪音問題,雖然數據在處理前會進行數據清洗,各種數據清洗算法也層出不窮(W. B. Li, Li, Li, & Cui, 2019),但這些工作并不能完全消除噪音的污染。
在數據分析環節:一是數據挖掘技術的進步難以匹配日益增長的數據量。當前各種智能設備生成的數據量都在不斷增加,數據挖掘、可視化、統計分析和機器學習等技術的重要性不言而喻,但由于數據的復雜性和底層算法的可擴展性,數據分析面對海量的數據仍舊是一個挑戰(Labrinidis & Jagadish, 2012)。二是數據分析的結果有可能被操作。數據分析一項重要的功能就是幫助人們客觀描述事物,但由于多方利益分配問題,數據分析的結果存在被干預的風險,Facebook在美國大選中操作輿論風向就是一個典型的例子(彭蘭,2018)。
在數據保護環節:一是用戶隱私泄露風險。美國學者收集了5.8萬名志愿者在Facebook上的點贊、人口基本信息等資料,通過數學模型對這些數據進行處理。研究結果顯示該模型正確區分了88%的同性戀和異性戀男性,95%的非洲裔美國人和高加索美國人,85%的民主黨和共和黨人(Kosinski, Stillwell, & Graepel, 2013)。智能化時代用戶在各種智能終端上留下大量個人信息,這些信息一旦被泄露和濫用將產生不可估量的后果。二是被遺忘權的缺失。由于數據挖掘技術和存儲技術的快速發展,用戶個人數據被搜索和挖掘的成本變得越來越低。大量用戶數據分散在互聯網的各個角落,但目前我國還沒有相關法律支持用戶行使數據被遺忘權,用戶面臨著數據被濫用和隱私泄露的風險。
第二,算法風險。算法是人工智能技術的核心,層出不窮的算法促進了人工智能的快速發展,包括算法自動化決策在內的技術被廣泛應用到各個領域,整體上提高了社會運行的效率,但同時帶來的社會風險也引發全行業的關注。
一是不確定性風險。算法的普遍應用在一定程度上降低了市場風險和不可預測性,自動化決策技術往往是根據模型和算法對事物的發展趨勢作出預測,進而尋找最優的解決方案,但高度依賴算法的智能化技術就一定能夠精準計算和預測這個動態的復雜世界嗎?事實上,模型和算法能夠解決的不確定問題是極其有限的。首先,客觀現實抽象成計算模型必然會損失原始的全息數據(殷杰和邊旭興,2014),整個過程包括數據采集、輸入、建模和輸出都存在著巨大的不確定性,這使得抽象出來的模型必然具有邊界效應。其次,這是因為人工智能算法的邏輯基礎具有不確定性,人工智能算法先輸入從現實世界中收集的數據,經過處理和學習,總結出一個最優模型或結論,然后再利用該模型或結論對更多的現象進行演繹或預測。算法底層的邏輯是利用了相關關系而不是因果關系,而相關性較之于因果性而言具有一定程度的不確定性。由此觀之,一方面,算法無處不在的智能化時代降低了市場風險和不可預測性,為人類社會帶來便利和福祉;另一方面,卻因為其本身所具有的不確定性,而把人類社會帶入了更大的不確定風險中,一種全新的不確定性世界觀正在形成。
二是信息繭房的危險。個性化信息服務的出現催生了許多新媒體產品,如今日頭條、抖音等APP,這些新媒體的崛起為大眾提供了豐富多彩的娛樂享受,但同時也帶來了“精神麻醉”的負面作用(Fang, Wang, & Hao, 2019),在自動化決策算法提供的個性化信息中,用戶只選擇使自己愉悅的訊息,這種“選擇性心理”被稱為“信息繭房”。一旦“信息繭房”效應出現,表面上這些產品在算法自動化決策的助推下滿足和迎合用戶需求,得到了用戶的青睞,獲得了商業上的成功,但實際上也使用戶陷入了“井蛙”困境中,難以“兼聽則明”。
三是偏見和歧視的風險。算法自動化決策技術的普及引發了人們的深切擔憂:這種自動化的選擇可能會產生歧視性的結果(Lambrecht & Tucker, 2019)。例如,算法可以記錄用戶的瀏覽和消費記錄,進而通過模型計算用戶的消費能力,在此基礎上為消費者推送不同類型的產品,甚至對不同用戶進行不同的定價,最大程度上收割消費者剩余。這種策略在保險業也常常出現,保險公司通過算法估算不同用戶可能發生的風險而為其收取不同的保費。這種算法偏見和歧視在一定程度上損害了個人公平,還容易造成整個社會的“馬太效應”,進而損害群體公平。由于算法偏見造成的危害經常在事后才能被發現(Crawford & Schultz, 2014),因此,識別關于算法帶來的偏見和歧視風險就顯得十分重要。
社會視角。智能化時代,社會視角下的風險和挑戰概括為就業、社會公平和規制問題。第一,就業結構重構的挑戰。雖然人工智能和自動化可以提高工人的生產率,但同時也可以取代他人的工作。麥肯錫2017年發布的研究報告顯示,60%的職業存在被技術替代的可能性,人工智能和自動化技術的快速發展將對勞動力市場的供需平衡產生干擾。在經濟不平等日益加劇的時期,自動化水平不斷提高,引發了人們對大規模技術失業的擔憂,各方力量呼吁政府采取政策努力,解決技術變革帶來的負面影響(Frank et al., 2019)。由于技術對勞動力的影響存在不確定性,因此,很難構建具有彈性的勞動力市場。例如,設計可行的工人再培訓計劃需要對當地勞動力有詳細的了解,熟練掌握當前技術,并了解不同地區勞動力市場之間的復雜依賴關系(Walter, 2017)。智能化時代的快速發展必然會對傳統的就業結構產生影響和沖擊,如何協調和處理技術變革和就業結構之間的關系逐漸成為新時代的挑戰。
第二,社會不公平的風險。隨著人工智能和算法的快速發展,整個經濟呈現出以資本替代勞動的趨勢。智能化時代最大受益者是智力和資本的提供者,如創新者、投資者和股東等,這使得勞動力提供者和資本提供者之間的貧富差距不斷擴大。智能化時代加速了平臺經濟發展,平臺效應下少數的大型平臺占據了市場主導地位。這些少數的大型平臺在市場上逐漸驅逐大部分的小型玩家,最終形成強者愈強、弱者愈弱的“馬太效應”(唐鈞,2019)。為了防止價值和權力的過度集中導致的社會不公平問題,必須找到平衡數字平臺利益和風險的方法,確保開放和合作創新的機會(G. Li, Hou, & Wu, 2017)。
第三,規制風險。人工智能技術的實現主要是通過代碼和算法來完成的,程序員代碼編寫、模型構建和測試均是不透明的,同時由于商業利益的保護,鮮有企業愿意公開源碼和數據,這就形成了人工智能的“研發黑箱”。同時由于人工智能本身的技術門檻較高,通常只有專業領域的人員才能理解人工智能編程和算法,即使政府要求企業披露計算機源碼以增強算法研發程序的透明性,非專業的監管人員也很難對其形成準確的認知,這給監管工作帶來大量的成本。目前我國尚未對人工智能算法研發和應用可能帶來的風險進行立法,如何監管人工智能研發過程、平衡商業利益和規制風險,是智能化時代需要應對的挑戰和亟待解決的難題。
(本文系國家自然科學基金項目“基于agent與眾包數據獲取服務的企業決策支持關鍵方法研究”和教育部人文社科基金項目“基于數據情境感知的互聯網醫療服務采納及應用模式研究”的階段性研究成果,項目編號分別為:71771118、18YJCZH146)
參考文獻
Abrahams, A. S., Fan, W. G., Wang, G. A., Zhang, Z. J., & Jiao, J., 2015, "An Integrated Text Analytic Framework for Product Defect Discovery", Production and Operations Management, 24(6).
Baumer, B., 2015, "A Data Science Course for Undergraduates: Thinking With Data", American Statistician, 69(4).
Bollen, J., Mao, H. N., & Zeng, X. J., 2011, "Twitter mood predicts the stock market", Journal of Computational Science, 2(1).
Chadefaux, T. 2014, "Early warning signals for war in the news", Journal of Peace Research, 51(1).
Challen, R., Denny, J., Pitt, M., Gompels, L., Edwards, T., & Tsaneva-Atanasova, K., 2019, "Artificial intelligence, bias and clinical safety", Bmj Quality & Safety, 28(3).
Crawford, K., & Schultz, J., 2014, "Big data and due process: Toward a framework to redress predictive privacy harms", Boston College Law Review, 55(1).
de Moraes, R. M., & Martinez, L. , 2015, "Computational Intelligence Applications for Data Science", Knowledge-Based Systems, 87.
Erevelles, S., Fukawa, N., & Swayne, L., 2016, "Big Data consumer analytics and the transformation of marketing", Journal of Business Research, 69(2).
Fang, J., Wang, Z. Y., & Hao, B., 2019, "Analysis of 'Anesthesia' Mechanism in Mobile Short Video Applications Take 'Tik Tok' APP as an example", Proceedings of the First International Symposium on Management and Social Sciences.
Morgan R. Frank, David Autor, James E. Bessen, Erik Brynjolfsson, Manuel Cebrian, David J. Deming, Maryann Feldman, Matthew Groh, José Lobo, Esteban Moro, Dashun Wang, Hyejin Youn, and Iyad Rahwan, 2019, "Toward understanding the impact of artificial intelligence on labor", Proceedings of the National Academy of Sciences of the United States of America, 116(14).
Galeano, P., & Pena, D., 2019, "Data science, big data and statistics", Test, 28(2).
Garbuio, M., & Lin, N., 2019, "Artificial Intelligence as a Growth Engine for Health Care Startups: Emerging Business Models", California Management Review, 61(2).
Hu, Z. H., Li, X., Wei, C., & Zhou, H. L., 2019, "Examining collaborative filtering algorithms for clothing recommendation in e-commerce", Textile Research Journal, 89(14).
Jarrahi, M. H., 2018, "Artificial intelligence and the future of work: Human-Al symbiosis in organizational decision making", Business Horizons, 61(4).
Kosinski, M., Stillwell, D., & Graepel, T., 2013, "Private traits and attributes are predictable from digital records of human behavior", Proceedings of the National Academy of Sciences, 110(15).
Labrinidis, A., & Jagadish, H. V. , 2012, "Challenges and opportunities with big data", Proceedings of the VLDB Endowment, 5(12).
Lambrecht, A., & Tucker, C., 2019, "Algorithmic Bias? An Empirical Study of Apparent Gender-Based Discrimination in the Display of STEM Career Ads",? Management Science.
Li, G., Hou, Y., & Wu, A., 2017, "Fourth Industrial Revolution: Technological Drivers, Impacts and Coping Methods", Chinese Geographical Science, 27(4).
Li, W. B., Li, L., Li, Z. H., & Cui, M. T., 2019, "Statistical relational learning based automatic data cleaning", Frontiers of Computer Science, 13(1).
Olhede, S. C., & Wolfe, P. J., 2018, "The growing ubiquity of algorithms in society: implications, impacts and innovations", Philosophical Transactions of the Royal Society a-Mathematical Physical and Engineering Sciences, 376(2128).
Ramio Matas, C., 2018, "Artificial Intelligence, Robotics and Public Administration Models", Revista Del Clad Reforma Y Democracia, (72).
Walter, S., 2017, "Globalization and the demand-side of politics: How globalization shapes labor market risk perceptions and policy preferences", Political Science Research and Methods, 5(1).
Wirtz, B. W., & Muller, W. M., 2019, "An integrated artificial intelligence framework for public management", Public Management Review, 21(7).
Xin, Z., & Wang, D. H., 2019,? "Application of Artificial Intelligence Algorithms in Image Processing", Journal of Visual Communication and Image Representation, 61.
陳振明,2015,《政府治理變革的技術基礎——大數據與智能化時代的政府改革述評》,《行政論壇》,第6期。
程承坪、鄧國清,2018,《大數據與社會主義市場經濟體制——兼與馬云先生和張旭昆教授商榷》,《探索與爭鳴》,第4期。
高山行、劉嘉慧,2018,《人工智能對企業管理理論的沖擊及應對》,《科學學研究》, 第11期。
賈根良,2016,《第三次工業革命與工業智能化》,《中國社會科學》,第6期。
李鴻磊、黃速建,2017,《智能化時代的商業模式特征及創新路徑》,《經濟與管理研究》,第6期。
穆良平、姬振天, 2017,《中國搶占智能經濟發展先機的戰略要素及重點領域》,《理論探討》,第4期。
彭蘭,2018,《假象、算法囚徒與權利讓渡:數據與算法時代的新風險》,《西北師大學報(社會科學版)》,第5期。
孫偉平,2017,《關于人工智能的價值反思》,《哲學研究》,第10期。
唐鈞,2019,《人工智能的社會風險應對研究》,《教學與研究》,第4期。
王宇超、李心丹、劉海飛,2014,《算法交易的市場影響研究》,《管理科學學報》,第1期。
殷杰、邊旭興,2014,《不確定性與計算機模型思維變革》,《自然辯證法研究》,第4期。
張成崗,2018,《人工智能時代:技術發展、風險挑戰與秩序重構》,《南京社會科學》,第5期。
責 編/肖晗題