新技術帶來的治理風險

文/ACCA（特許公認會計師公會）

機器人與人工智能領域的發展一日千里。而認知系統對財會專業人士而言又意味著什么？在未來，社交、移動和云技術的融合將會對財務產生更為根本的影響。CFO 必須準備好迎接這些挑戰。

科幻故事與科幻電影對未來的描述往往是反烏托邦式的：機器人和其他類型的人工智能（AI）從最初人類的助手變成了一種威脅。正是有了類似電影《2001：太空漫游》中的HAL 9000、《我，機器人》中的VIKI、《黑客帝國》中的“特工”，以及《終結者》中的“天網”，我們才看到人工智能可能會背叛自己的人類創造者，控制人類社會，甚至對人類存亡構成威脅。

這種事情真的可能發生嗎？2014 年，宇宙學家和物理學家斯蒂芬·霍金（Stephen Hawking）教授曾在《獨立報》（The Independent）撰文：“成功創造出人工智能或許是人類歷史上最重要的事件。不幸的是，除非我們知道如何避免風險，否則這或許也將是最后一件?！比绻粋€人工智能通過了“洛夫萊斯（Lovelace）測試”，我們或許還能盡量一搏，阻止最糟糕的情況發生。霍金說：“人類受到極其緩慢的生物進化的限制，無法與人工智能抗衡，最終將被其取而代之?！?/p>

我們能做點什么避免這種情況發生呢？“我越來越傾向于認為一些監管是很有必要的，可以在國家或國際層面上做點什么，為的就是確保我們不會做出任何傻事。”特斯拉汽車公司和Space X公司首席執行官、工程師埃隆·馬斯克（Elon Musk）在麻省理工大學航空航天百年學術研討會上這樣說道。他說：“我們必須謹小慎微。在人工智能問題上，我們是在召喚惡魔?！?/p>

馬斯克擔心的問題之一就是國防承包商和由他們創造的自動化戰爭機器人。這類機器人的設計目的是殺死或者傷害人類。通過對比可以發現，人工智能的一些新近發展還是比較溫和的。比如被技術行業稱為“認知計算系統”的沃森機器人。IBM 設計它的目的是將其作為“人類能力極限的自然延伸”，更多的是一個輔助者，而不是威脅。

進化抑或革命？

2011年，沃森機器人在美國智力競賽節目“危險邊緣”（Jeopardy!）中戰勝了兩位知名的人類選手。它似乎能夠聽懂問題，還能搶在人類對手之前給出正確答案，就好像魔法一樣。這引發了公眾的聯想。然而，表象有可能具有欺騙性。引用作家、未來學家亞瑟·克拉克（Arthur C Clarke）的話說：“任何足夠先進的技術都容易與魔法混淆。”沃森不是魔法，它是計算機系統飛速進化的一種體現。

人類的進化經過了數百萬年。而計算機系統這種非生物智能卻無需如此費時，就能發展出無論從廣度還是精妙度上都足以比肩人類的智能。幾十年前擺滿整整一個房間的電腦所具備的處理能力如今一部智能手機就可以搞定。隨著處理器越來越小、越來越強大，軟件開發者向產品中加入了更多規則驅動工具。這些“專家級”系統的速度越來越快，也越來越智能。

而這些還是早在2011年的時候，沃森機器人就證明一個計算機系統可以利用“自然語言處理”軟件來聽懂人類的話，幾秒鐘內就能搜索海量復雜信息，生成和評估假設，進行調整并從經驗中學習。隨后，沃森也不斷升級并有更多認知計算機系統和所謂的人工智能加入其中。你的手機里或許就有一個。

話雖如此，這些系統真的“智能”嗎？它們確實能做一些人類需要開動腦筋才能完成的事情；也確實能夠讓我們誤將它們當做同類。然而，認知科學家道格拉斯·霍夫施塔特（Douglas Hofstadter）教授說：“沃森只不過是一種與數據庫連接的正文檢索算法，類似于谷歌搜索。它在搜索正文時并不清楚其中的意思。如此說來，它不算智能?！闭J知系統有其自身局限性。

和孩子一樣，沃森和其它認知系統都需要教育。他們可以結合結構和非結構數據，再利用情景確定最恰當的回答。但如果是像“對我來說最好的藥片/平板電腦（tablet）是哪個”這種問題，最佳回答取決于你是在藥房還是在電腦店。認知系統需要接受訓練才能正確回答這類問題；它們需要學習根據以往經驗調整今后的回答。

相比持槍行兇的機器人和能夠自我復制、擁有意識和渴望凌駕于上的軟件實體，這聽起來似乎威脅要小得多。但即便今天的認知系統（尚）不具備對人類的實質性威脅，對一些行業的知識型工作者來說已經是足夠壞的消息了。其中就有會計行業。當前的爭論主要集中在機器人流程自動化（RPA）究竟是夸大其詞、大有裨益，還是令人驚恐。

不只是游戲

目前，沃森仍然在參加各種游戲。比如，EdgeUpSports正在開發一款虛擬橄欖球應用，采用沃森機器人分析大量現有的球賽數據。“利用沃森的技術，我們能夠改變虛擬橄欖球的比賽方式，搭建一個平臺，幫助球隊老板進行分析，提高聯賽勝率。”公司CEO、主教練Illya Tabakh 這樣解釋說。

2014年，IBM 的一個決定使這一切變成可能。他們在云端向普通商業用戶開放沃森服務以及借此營利。只是，沃森并不僅僅可以用來玩游戲，它從來就不是為此而生的。千百個“沃森生態系統合作伙伴”正利用沃森的智能設計自己的應用。近期推出的軟件工具讓非IBM 商業發展更加便利，或許會鼓勵更多開發者效仿，全面激勵新產品的誕生。

IBM透露會將目標對準一些重點垂直產業，例如零售、保險和醫療保健。2015 年4 月，IBM 公布了官方在這方面進行的首個項目：IBM“沃森醫療”（Watson Health）和“沃森醫療云端服務”（WatsonHealth Cloud）。IBM 在隨后陸續宣布的舉措還包括：為波士頓兒童醫院開發診療系統用于改善對罕見遺傳病的診斷；將沃森機器人項目推廣至印度，當地的馬尼帕爾醫院將采用這種機器人協助診斷腫瘤。

IBM和圍繞“沃森生態系統”聚集起來的合作伙伴并不是唯一為人工智能的無限可能感到振奮的一群。就在IBM 探索認知系統可能性的同時，還有很多科技企業在做著同樣的事情。

著眼于未來

IBM近期收購Merge Healthcare Incorporated，有望為沃森機器人安上眼睛?！拔稚邆鋸姶蟮恼J知和分析能力。再加上收購Merge 等公司的戰略舉措，IBM 得以同致力于改變醫療保健行業面貌的機構開展合作。”IBM研發部門高級副總裁John Kelly 博士這樣說道，“為沃森機器人安上‘眼睛’，讓它看見醫學影像，無異于為這個行業開辟了全新的可能性?！?/p>

毫無疑問，IBM和圍繞“沃森生態系統”聚集起來的合作伙伴并不是唯一為人工智能的無限可能感到振奮的一群。就在IBM探索認知系統可能性的同時，還有很多科技企業在做著同樣的事情。從認知計算到人工智能，谷歌已然成為這場比賽的領先者。

還有很多家喻戶曉的企業也熱衷于開發人工智能的商業潛力。他們希望這類系統足夠聰明到幫助人類，同時又不至于足夠聰明到傷害人類。

去年10月，Facebook 宣布推出新一代虛擬助手“M”。Facebook為其加載認知計算引擎，訓練它，并將其添加至Facebook Messenger app。這個虛擬助手可以替你搜索信息。在你的允許下，“M”很樂意為你效勞，協助你完成真實世界中的一些任務。例如預訂出行或餐廳、在線購物并安排送貨等等，目前來看還是很有幫助的。

蘋果公司也在人工智能領域投入巨資。2015 年，蘋果收購英國公司VocallQ 及旗下的認知計算品牌。他們的產品可以學習你的講話方式，憑借對此前對話的“記憶”改進未來的每一次對話。聽起來很熟悉是不是？蘋果除了收購人工智能技術，改進機器對人類語言的處理，還收購了專注于圖像識別的Perceptio 公司。認知系統和人工智能的可能性似乎是無窮無盡的。

認知系統能否成就人工智能，人類如何應對才能避免禍及自身，我們仍需拭目以待。IBM 董事長兼CEO吉尼·羅曼提（Ginni Rometty）表示樂觀?！拔磥?，人類每做出一個決定都需要沃森這樣的認知系統提供信息。我們的生活會越來越好?！彼f道。然而在1943 年，沃森機器人名字的由來、IBM 創始者托馬斯 J 沃森（Thomas J Watson）卻說過另一句著名的話：“我覺得全世界能賣出5臺電腦就不錯了。”