技術創新中的文明與蠻荒

馬克斯·韋塞爾 妮科爾·赫爾默

臉書建立了全球最大的內容創作和發行網絡，媒體價值鏈不再由少數幾家大型組織把持。不管是誰，只要有鍵盤、能上網，都可以輕松接入這個全球最大的發行系統。

臉書推動了行業生態系統的改變，卻沒有關注編輯倫理問題。它向劍橋分析等公司出售其用戶群的訪問權，同時對自己平臺上發布的內容一概不聞不問。內容創作者可以利用終端用戶的數據，精準定制針對他們的推送信息，而不管這些信息是真是假，有沒有誤導性。

科技行業正逐漸演變為一個自行定義倫理的灰色世界，而臉書只是其中一例。2001年，克萊頓·克里斯滕森等人提出了“相互依存與模塊化理論”。該理論認為，當新技術出現時，往往會緊密集成在其設計中，因為整個系統的各個組件之間都存在相互依存關系。為克服這種脆弱性，組織必須嚴格控制系統的整體設計，以確保其性能。比如，蘋果公司為了給用戶帶來最佳體驗，嚴格控制軟件、硬件，甚至網絡。手機只有一種尺寸、一個瀏覽器，只能接入一家運營商。為了優化電池壽命、電容觸屏和通話質量，許多功能都被砍去。

但隨著時間的推移，人們會充分了解復雜系統中不同部分之間的聯系。他們會確定每個要素的作用并制定標準。任何一個新技術產業最終都會走向模塊化。一家公司不再需要對整個系統負責，而是專注于它們認為具有戰略優勢的要素。但模塊化是一把雙刃劍：開發責任的分散，意味著對倫理結果承擔的責任也被分解了。

以3D打印機為例，這種模塊化制造使我們得以擺脫在供應鏈、受監管行業和知識產權領域多年來受到的控制。你的孩子想要一個新款人偶——你是付錢買下來，還是干脆打印一個非法復制品？如果你的孩子到了駕駛年齡，他把一個自家打印的有缺陷的部件裝在你的車里怎么辦？還有更糟的情況，比如槍支。如果任何人都可以從互聯網下載模型，然后在家中打印武器，那么我們在控槍方面的許多努力都將變得毫無意義。

作者建議企業高管采取以下三種做法，解決那些隱藏的倫理問題。

1. 假設自己成為行業領軍者。作為顛覆者，追求成功的同時還應該具有某種改變范式的責任感。先假設自己已經成為市場主導者，然后問一問什么東西最有可能破裂，可以采取哪些措施來防止破裂，一旦破裂發生，應如何應對。

2. 記錄能夠防止當前系統崩潰的保障措施。首先，借鑒精益流程改進的方法，畫出你們公司進入市場之前整個服務的價值鏈。接下來，設想一下你即將主導的那個未來。也許你已經通過刪除某個步驟或縮小其范圍而提高了效率。了解這一步驟的發展演變過程，并思考其中有哪些內在的保障措施。

3. 確定誰負責提供這些能力。在某些情況下，這一點是非常清楚的：如果乘客不信任司機，共享出行服務就無法生存，因此來福車和優步必須確保司機已經接受過背景調查。而在另一些情況下就不那么明顯了：3D打印機僅僅是一個促進模型設計師和消費者之間交流的平臺嗎？領導者要做好心理準備，如果自己啟動的變革失敗，他們要為此負責。

每位高管都應該設想注定要降臨的未來，既要考慮如何取悅消費者，也要思考哪些系統性保護措施是必不可少的。

馬克斯·韋塞爾 妮科爾·赫爾默

劍橋分析（Cambridge Analytica）這個名字現在可謂家喻戶曉，已成為侵犯隱私的同義詞。它與臉書（Facebook）之間頗具爭議的糾葛，為我們敲響了在線信息共享的警鐘。當然，如今劍橋分析公司已不復存在，而馬克·扎克伯格（Mark Zuckerberg）逃過此劫。但臉書面臨的余波似乎永無止境：先是公司股價下跌，繼而扎克伯格前往國會作證，美國聯邦貿易委員會（Federal Trade Commission）開出創紀錄的50億美元罰單，一位聯邦法官批準了針對臉書的集體訴訟，扎克伯格再次接受國會的嚴厲質詢。

臉書的丑聞對高管和消費者來說都具有警示作用，但這個教訓比所謂的假新聞要嚴重得多。圍繞新技術倉促重建價值鏈的行為，在各行各業都引發并加劇了倫理問題。在一片混戰中，公司爭相推出新能力來打動用戶，而其中的關鍵不僅在于哪些公司能夠幸存，還在于我們究竟是有能力維持一個文明社會，還是最終變成一個用高科技武裝起來的蠻荒西部。

臉書通過建立全球最大的內容創作和發行網絡，開創了內容發布的新時代，積聚了數十億用戶。它邀請內容制作者和廣告商在它的平臺上補貼這些用戶，而這個平臺已經成了許多人無法割舍的生活必需品。媒體價值鏈不再由少數幾家大型組織把持；臉書正在打開市場，不管是誰，只要有鍵盤、能上網，都可以輕松接入這個全球最大的發行系統。實際上，臉書拆解了媒體價值鏈，與此同時又圍繞公司的應用編程接口（application programming interface， API）把它重建起來。

但是，臉書推動了行業生態系統的改變，卻沒有關注編輯倫理問題。它向劍橋分析等公司出售其用戶群的訪問權，同時對自己平臺上發布的內容一概不聞不問。內容創作者可以利用終端用戶的數據，精準定制針對他們的推送信息，而不管這些信息是真是假，有沒有誤導性。在數十億用戶需求的推動下，臉書只顧全力確保其網站上的內容能吸引大量點擊。

在這個內容發布的新世界里，作者、編輯和發行者都是各謀其利的獨立實體，爆發丑聞似乎在意料之中。畢竟，責任感也隨著價值鏈的其他部分一起分崩離析。但是，如果誰也不肯站出來維護整個系統的倫理準則，那么我們所有人最終都會自食其果。

科技行業正逐漸演變為一個自行定義倫理的灰色世界，而臉書只是其中一例。我們在本文的觀點是，隨著科技系統快速重構，倫理困境會更加常見，如果我們能透徹地理解一些理論，就可以預測問題可能出現的時間和領域。各行各業的高管們都發現，對于醫療、貸款和出版等束縛重重的行業，實行市場準入民主化非常有吸引力。但是，如果你是一位高管，碰巧在抵押貸款業務中取消了消費者保護，那么無論你的出發點有多好，都免不了搬起石頭砸自己的腳。

最關鍵的就是要預測一下在這個新世界中，你所在的行業會在哪些地方栽跟頭，以確保企業在蓬勃發展的同時，避免聲譽染上污點。

空前高速的模塊化進程

我們要明白，問題并不是“快速行動、打破陳規”的思維方式導致了幾個軟件缺陷那么簡單。問題在于一些領導者為了市場和消費者的最佳利益，在互聯網高度普及的助力下，無意中回避了支撐我們這個社會的倫理保護問題。為了理解迫在眉睫的倫理危機，明白當前情況為何如此不同，我們需要了解價值鏈是如何形成的，為何連負責任的科技公司也可能會忽視其倫理義務。

2001年，克萊頓·克里斯滕森（Clayton Christensen）、邁克爾·雷納（Michael Raynor）和馬修·韋爾蘭當（Matthew Verlinden）在《哈佛商業評論》（Harvard Business Review）上發表了一篇備受贊譽的文章——《滑向未來的利潤源》（Skate to Where the Money Will Be）。文章闡釋了他們所稱的“相互依存與模塊化理論”。該理論認為，當新技術出現時，往往會緊密集成在其設計中，因為整個系統的各個組件之間都存在相互依存關系。為克服這種脆弱性，組織必須嚴格控制系統的整體設計，以確保其性能。

以早期的iPhone為例。為了給用戶帶來最佳體驗，蘋果公司（Apple）嚴格控制軟件、硬件，甚至網絡。手機只有一種尺寸、一個瀏覽器，只能接入一家運營商。為了優化電池壽命、電容觸屏和通話質量，許多功能都被砍去。用克里斯滕森的話來說，設計的相互依存性至關重要，因為手機本身必須盡量解決與其核心功能語音通信相關的基本性能問題。蘋果正是通過毫不含糊的控制，才使產品擁有了毋庸置疑的競爭力。

克里斯滕森和另兩位作者認為，隨著時間的推移，人們會充分了解復雜系統中不同部分之間的聯系。他們會確定每個要素的作用并制定標準。用克里斯滕森的話來說，這個行業已變得模塊化，許多公司都可以優化并銷售特定的小型組件，而不會對整個系統的性能產生任何實質性影響。今天的iPhone用戶可自由選擇屏幕大小和手機厚度，蘋果應用商店里塞滿了數百萬開發者開發的工具和游戲，手機可以接入任何一家運營商的網絡。現在，一個完整的智能手機產業已然形成，消費者幾乎可以盡情挑選同自己手機相關的一切產品，為它安裝各種軟件，以滿足自己的個性化需求。

任何一個新技術產業最終都會走向模塊化：這不僅有利于消費者，還能把蛋糕做大。由于一家公司不再需要對整個系統負責，因此每家公司都可以專注于它認為具有戰略優勢的要素。克里斯滕森、雷納和韋爾蘭當建議公司預測其市場會如何走向模塊化，然后在最難掌控的領域展開競爭。在智能手機的競技場上，芯片組制造商和手機應用公司壟斷了差異化程度最大的業務，進而瓜分了系統中的全部利潤。在《哈佛商業評論》那篇文章的標題中，幾位作者套用了韋恩·格雷茨基（Wayne Gretzky）的一項著名冰球絕技，指導戰略家們奔向“錢將要出現的地方”，而不是它現在所處的位置。

然而，模塊化也是一把雙刃劍：開發責任的分散，意味著對倫理結果承擔的責任也被分解了。

今天的現實是，各個行業的模塊化進程都在加快。互聯網使得通信、架構和信息交換的每一項功能都實現了標準化。因此，新企業可以在越來越窄的價值鏈環節上精益求精地做到極致，從而獲得利潤。

以來福車（Lyft）為例。該公司在2019年3月上市時，其備案文件暴露出某種風險：在支付、融資、網絡基礎設施、背景調查和其他重要技術組件方面，它都要依賴關鍵的第三方。公司的業務極為成功，但它的許多核心流程都要通過其他供應商的組合服務來交付。我們預計，在幾乎所有擬上市公司的備案文件中，都會發現類似風險。

專注于為復雜系統開發簡單組件的公司崛起，為潛在顛覆者提供了一份虛擬的“單點菜單”，使它們能夠根據客戶需求定制復雜的新產品，結果形成了一種良性循環，在各個行業引發了一場價值鏈重組的旋風。

在我們這個日益模塊化的世界里，公司可以按照用戶需求快速定制產品；創新和機遇大量涌現，但潛在的風險也比比皆是——面臨風險的不僅是公司的利潤和聲譽，還有整個社會。創新的速度也許可以直追閃電，但我們對用戶的保護跑得不夠快。

用戶不想要的監管

依靠用戶需求的拉動作用來塑造一個行業是很危險的，因為用戶的短期愿望有時并不能代表長期社會需求。比如說，個人選擇吸煙，而二手煙對他人造成傷害；不買個人醫療保險從短期來看會省錢，但對公共健康會造成長期影響；開私家車上班很方便，但是公共交通會帶來更大的社會效益。在許多情況下，一位用戶做出選擇，后果卻是由整個社會來承擔。

現在，我們把這個困境代入一個獨特的現代環境。假設你是一位家長，考慮到現在的年輕人越來越需要了解工程學概念，懂點設計知識，于是就想教孩子學習科技。你買了一臺便宜的3D打印機，用它來講解有關技術、軟件和制造流程的課程。你帶回家的這件工具令人贊嘆，但也有潛在的危險。

先介紹一下背景知識。3D打印也叫“增材制造”，是利用3D計算機模型和一臺標準化打印機，通過噴射材料來逐層構建實體物品的過程。同我們此前一直依賴的制造設備相比，這種打印機能夠以極低的成本小批量生產。大多數3D打印機尚不能以達到商業規模所需的速度制造物品，但從一開始，它的架構設計中就被植入了靈活性。上一代的注塑成型制造需要專門的配置，而3D打印機幾乎可以讓你將任何設計變成現實。

如今，能3D打印的物品種類齊全，小到塑料小飾品等普通物件，大到改變生活的產品，比如平價住宅。2014年，第一架配備3D打印零件的飛機起飛首航。全球第一顆3D打印心臟也于2019年4月宣告成功。簡單地說，有了3D打印技術，任何東西的制造都能實現民主化。

表面看來，這真是妙不可言。想象一下，需要做器官移植的患者再也不用排隊等待；當你需要一顆釘子時，也不必再匆匆跑到五金店。難怪成千上萬的家庭已投資購買了3D打印機。在家中打印重要商品的時代近在咫尺。

然而不幸的是，一旦模塊化制造設備進入千家萬戶，就會像臉書公布其應用編程接口一樣，引發類似的價值鏈顛覆。客戶不用再求助于那些負責生產和分銷產品的大公司。任何一位業余設計師，都可以用低價的計算機設計軟件為產品建模，然后利用3D打印機制造商的分銷網絡，將自己的設計賣給數百萬翹首以待的消費者。現在只需一次簡單的下載，終端用戶就可以將這些設計實時發送到3D打印機。

這種模塊化制造使我們得以擺脫在供應鏈、受監管行業和知識產權領域多年來受到的控制。這樣的例子非常多：你的孩子想要一個新款人偶——你是付錢買下來，還是干脆打印一個非法復制品？更嚴重的是，如果你的孩子到了駕駛年齡，他把一個自家打印的有缺陷的部件裝在你的車里怎么辦？還有更糟的情況，比如槍支。不同國家和美國各州對槍支的監管政策雖然各不相同，但相關規定的確存在，而且其中許多是在銷售點執行的：可以將哪些類型的武器和彈藥賣給誰？如果任何人都可以從互聯網下載模型，然后在家中打印武器，那么我們在控槍方面的許多努力都將變得毫無意義。

當然，大多數消費者將臺式3D打印機買回家，只是希望利用新系統的靈活性，而不會去預測它的每一種潛在用途和不良后果。用戶將科技引入自己的生活是為了滿足心中的一種渴望：臉書用來娛樂和社交，來福車用來從A地到達B地，3D打印機用來教育孩子或快速搞定一些簡單任務。至于思考在模塊化創新基礎上引入新系統會造成哪些影響，這不是（也不應該是）消費者需要承擔的責任。

作為高管，如果我們指望用戶來引導我們履行倫理責任，那么我們注定充其量只能被動應對，而最壞的情況是我們行動太遲，根本來不及規劃正確路線。

幸運的是，如果你相信互聯網將繼續在所有行業推動快速模塊化，那么顯然有一些方法可以指導你走進這個難以抗拒的未來。

健康的責任制

大約在相關新聞簡報首次發布前后，安妮·沃西基（Anne Wojcicki）的23andMe公司開始提供直接面向消費者的DNA檢測服務：只要把唾液吐在一只小瓶子里，23andMe就可以分析60多萬個遺傳標記，然后把有關健康風險和祖先的信息發送給你。《時代周刊》（Time）將其評為“開創性零售基因組學”2008年度最佳發明。這一發明的實現，完全得益于基因組學相關知識產權的模塊化，以及令大規模存儲、搜索和處理成為可能的云計算領域的發展。當然，這種模塊化同樣催生了一些倫理灰色地帶。

除了幫助人們方便地獲取自己的健康指標之外，沃西基還有志于加速并簡化醫學研究。如果能征得參與者同意訪問他們的數據庫，這個數據庫規模足夠大、足夠多樣化，我們就可以大幅削減將新療法推向市場所需的成本和時間。被這種非同尋常的可能性深深吸引很容易，但思考一些棘手問題要難得多，比如檢測的有效性，意外發現的親子關系，以及家庭醫生在理解檢測結果方面所起的作用。更難的是，請想象一下，這些信息的獲取將如何顛覆現有的社會體系：你有義務向自己的醫療保險公司報告某種疾病的遺傳標記嗎？醫療保險公司是否可以購買這些信息？執法部門有權獲得哪些信息？如果你并未參加檢測，但是根據你某位親戚的信息，就可以輕松推斷出你的信息，這又怎么辦？誰負責考慮以上問題以及其他問題？

在模塊化時代，所有權和責任制都是一團亂麻。

對于只是好奇自己祖先是誰的人來說，要求他們去考慮所有可能的社會影響未免不切實際。消費者基因檢測這項業務，既不受醫療保險和醫療補助服務中心（Centers for Medicare and Medicaid Services）的臨床研究法規約束（消費者DNA檢測不是臨床試驗），也不屬于美國食品藥品監督管理局（Food and Drug Administration， FDA）有關藥品、生物制品及醫療器械法規的監管對象（現在FDA將消費者基因檢測并入醫療器械一類）。

沃西基連續四年在斯坦福大學商學院（Graduate School of Business， Stanford）談到這個話題。她的觀點是，雖然存在種種挑戰，但信任對于維持醫療體系的運轉而言仍然至關重要。因此，如果個人無法考慮到其深遠影響，監管部門又跟不上變化的廣度和速度，那么沃西基就必須擔負起營造這種信任的責任。她從當前醫療行業中借用了一個實證有效的理念，聘請一家獨立的倫理審查委員會來擔任23andMe所有活動的倫理顧問。

實際上，23andMe的數據既可以用于改變地球的研究，同時也會造成意想不到的破壞性影響。在預約基因檢測時不經家庭醫生同意，或者繞開臨床研究機構直接收集相關數據，這些并不是道德領域的問題，而是我們這個社會如何在控制成本的同時實現效益最大化的問題。關于23andMe數據的相關應用問題可能要爭論數年，才能最終在公眾當中達成共識。

我們已經看到，在模塊化的幫助下，企業在發掘并滿足用戶需求之后，可以迅速將其推廣到所有人群，而且這種速度簡化了我們長期以來對待公眾監督的方式。沃西基像傳統研究機構一直做的那樣，通過聘請第三方顧問來審查其數據使用情況，由此創造了一股抗衡性力量來代表社會觀點。

直接面向消費者的基因檢測，重新定義了我們獲取醫療信息和參與研究的方式。在這個領域，模塊化創新同樣有可能因考慮欠周而讓我們大失所望。只是在杯子里吐口唾沫，能帶來哪些正面和負面的影響？FDA，當然還有個人消費者，都不可能對此做周全的預測。從這項業務中獲得巨大價值的公司必須承擔一部分倫理責任，就像23andMe已經著手在做的那樣。

行動意愿

克里斯滕森等人的“相互依存和模塊化理論”有力地解釋了價值鏈的演變方式和消費者需求的影響。價值鏈四分五裂之后，創新者可以利用新的技術選項，根據客戶需求重新把它組裝起來。接受這些變化的高管還應該努力去解決那些通常不太明顯的倫理問題。我們建議采取三種做法。

1.假設自己成為行業領軍者。大多數創新者都喜歡在邊緣地帶競爭。采納模塊化方式的顛覆者從下層崛起后，很容易將矛頭對準傳統業務，憑借自己的能力去滿足市場上的復雜需求。但作為顛覆者，追求成功的同時還應該具有某種改變范式的責任感，尤其是當這些業界新貴后來居上，成為主導平臺時。所以，與其只緊盯初次進攻的結果，不如從后往前推導一下。先假設你已經成為市場主導者，然后問一問什么東西最有可能破裂，可以采取哪些措施來防止破裂，一旦破裂發生，應如何應對。

2.記錄能夠防止當前系統崩潰的保障措施。首先，借鑒精益流程改進的方法，畫出你們公司進入市場之前整個服務的價值鏈。接下來，設想一下你即將主導的那個未來。也許你已經通過刪除某個步驟或縮小其范圍而提高了效率。了解這一步驟的發展演變過程，并思考其中有哪些內在的保障措施：它們是監管方面的嗎？與標準有關嗎？是社會建構（social construct）嗎？與此同時，思考訪問限制中的保護機制：有訪問權限的人受過哪些教育或培訓？想象一下一群天真少年如何濫用或誤解你的服務，也許會有幫助。一定要考慮到惡意行為人可能會如何使用你的服務。保障措施既保護了市場，也保護了消費者。了解這些措施，并規劃未來如何對待它們。

3.確定誰負責提供這些能力。在某些情況下，這一點是非常清楚的：如果乘客不信任司機，共享出行服務就無法生存，因此來福車和優步（Uber）必須確保司機已經接受過背景調查，盡管它們并不是直接去做調查。而在另一些情況下就不那么明顯了：3D打印機僅僅是一個促進模型設計師和消費者之間交流的平臺嗎？領導者要做好心理準備，如果自己啟動的變革失敗，他們要為此負責。

為了將這些建議付諸實施，我們必須取得成功，了解差距，并對即將創造的未來承擔責任。當然，實施的具體細節將因行業和公司而異。但我們堅信以上三項行動是關鍵所在，能幫助我們判斷模塊化的哪些領域可能出現倫理不確定性，了解如何負責任地應對這一變化。

Liberator是一款3D打印的塑料手槍，在一位聯邦法官禁止在網上發布3D槍支藍圖之前，它的模型已經被人下載了10萬多次。幸運的是，3D打印機并不是家家戶戶都有；打印出來的部件必須經過精密的組裝，而且就算組裝正確，這樣造出來的槍也不怎么靠譜（誤傷槍支主人和命中目標的概率一樣大）。假以時日，這些復雜的問題都會得到解決。但這也意味著，監管機構同樣有時間針對這種顯而易見的威脅制訂計劃。

對其他競爭領域，我們應該予以更多關注。我們所知的貸款、媒體、就業服務和醫療保健等行業已歷經數十年的發展。它們的保護機制有時是經過千辛萬苦才建立起來的，有時則是前運營者或目標受眾的性質中自帶的。顛覆者和大公司都在以前所未有的速度改造這些價值鏈，以便能抓住機會充分利用信息的高速傳遞、人工智能的應用，以及低利潤工作的市場和網絡的建立。如果認為現有保護措施能自動移植到新的模塊化系統中，那未免過于樂觀和輕率了。

嚴格守法固然重要，但還不足以防止我們落入倫理陷阱。在美國有線電視新聞網（CNN）商業頻道的一則報道中，劍橋分析公司前首席運營官（COO）朱利安·惠特蘭（Julian Wheatland）對公司丑聞進行了反思：“一路走來，劍橋分析犯了很多錯誤，最后把自己搞得聲名狼藉。但它最大的錯誤就是認為只要遵守政府法規就足夠了，因此忽視了數據倫理和公眾感受等更廣范圍的問題。”

啟示：唯一合理的解決方案，就是深思熟慮，接受新的倫理范式。每位高管都應該設想注定要來臨的未來，既要考慮如何取悅消費者，也要思考哪些系統性保護措施是必不可少的。