科技向善，善從何來？

陳茜

騰訊在21歲之際，宣布對外“迭代”使命愿景：用戶為本，科技向善。這是2018年“930架構”調整后，騰訊在價值觀體系的一次升級，這也引發(fā)了來自各界學者的討論。

為什么在科技如此深刻影響人們生活的今天，要著重提出“向善”？數字經濟在給中國帶來彎道超車機會的同時，也帶來一些問題。諸如“攜程們”屢禁不止的大數據殺熟、滴滴順風車“不作為”帶來的安全風險、考拉征信涉嫌非法緩存公民個人信息、百合佳緣斬不斷的婚戀黑產……科技在推動數字經濟發(fā)展的同時，也露出它“惡”的那一面。今天商業(yè)洪流裹挾著來勢兇猛的科技浪潮，如何有邊界地創(chuàng)新，成為人們所關注的問題。這時，正向而善意的價值觀力量正是我們需要呼吁的。這是面對未知世界的一種不得不做的選擇。

科技到底出了什么問題必須要巨頭呼吁“向善”？具體到商業(yè)行為中又將如何向善？《商學院》記者分別采訪了中國社會科學院科學技術和社會研究中心主任段偉文教授以及斯道資本執(zhí)行董事張矩，后者曾在Google從事多年技術工作，也是中國云計算發(fā)展的早期參與者。

科技向善：為創(chuàng)新搭建“倫理軟著陸機制”

關于為什么要在這時提出“科技向善”，段偉文指出，數字化時代技術迭代加快，很多應用場景和結果無法預知，這種不確定性與工業(yè)時代相對緩慢而確定的變革相比，讓“技術是否向善”這一問題變得更加重要。

客觀來看，一項創(chuàng)新技術的應用，如果在一開始就從倫理角度去審度，減少危害和風險，這是比較理想的狀態(tài)。但是，科技發(fā)展速度加快，一項創(chuàng)新技術究竟會帶來什么問題和弊端，一開始是不太明確。在這種不確定性面前，公眾會有一種倫理恐慌，比如人工智能、人臉識別等領域。問題的關鍵不是創(chuàng)新做先手，還是倫理是先手，更重要的是建立一個不斷反饋、修正、迭代、更新的機制。

現(xiàn)代大量技術具有媒介性，既是社交網絡同時又是社交媒介。這比以往的技術會更直接地涉及到人的精神生活，比如尊嚴、隱私、安全等。所以，對“向善”問題的重視，也與數字技術、網絡技術的傳播性有很大關系。企業(yè)面對這種不確定性也會有一定壓力。由于技術迭代速度快，如果缺乏前期的倫理介入，在運行過程中出現(xiàn)問題，導致社會輿論的壓力，甚至監(jiān)管層的介入，會導致產品服務難以運行。這對于企業(yè)來說是更大的損失，也是焦慮所在。他總結，現(xiàn)在強調“向善”的倫理維度，實際上是給新技術、產品和服務提供一個“倫理軟著陸機制”，避免引發(fā)隱性的、剛性的價值沖突。

“向善”需要內部平衡和外部監(jiān)督

段偉文認為，企業(yè)以科技向善為使命，意味著“善”成為評估技術、產品、服務的重要價值和維度。這意味著在進行創(chuàng)新時，需要做利益權衡，要綜合技術和倫理的復合性。有一些產品在設計時也會通過AB測試等方法，來尋求商業(yè)價值的最大化，追求流量、點擊轉化率等，甚至為了這一目的而不惜犧牲用戶的相關權利。

這時，政府、公眾，以及媒體應該有更強的權利意識，以及倫理道德上的價值敏感性。每一個人在使用新技術、新產品、新服務時，也要學會反思，權利是否被侵犯或者自己的行為侵犯了別人的權利。這需要公眾的覺悟，也需要媒體和社會的監(jiān)督和探討。

“跟做人一樣，向善是一種修為。”段偉文說到。人在面臨抉擇時，也需要做價值權衡，在各種利益漩渦中糾結，甚至是“天人之戰(zhàn)”式的沖突。所以，在他看來，相對于人的向善，對于面向公眾的企業(yè)來說，提出追求“向善”是相對簡單的。雖然具體實踐會面臨困難，需要一步一步去實踐，一旦有這樣的使命感，會驅動企業(yè)向這一方面努力。所以，從長遠來看，選擇這樣一個價值觀反而是最容易的一條路。

警惕以“善”為前提的隱性之惡

在斯道資本執(zhí)行董事張矩看來，從工業(yè)社會發(fā)展到信息社會，傳統(tǒng)物質生產資料變?yōu)閿祿瑢τ谡莆丈蟽|用戶行為數據的互聯(lián)網巨頭，它們擁有巨量資產，同時也要肩負更大責任。同時，當企業(yè)上市成為公眾企業(yè)后，接受更嚴格的監(jiān)管也是一種必然。無論是在信息披露上，還是在業(yè)務發(fā)展過程中，都應該對公眾利益負責。

不過，張矩認為，與以前不同的是，當數據變?yōu)橘Y產，法律法規(guī)的框架也需要更新。因為，新技術帶來的風險模糊，甚至未知，法律無法清晰明確給予定論。比如，美國Facebook侵犯隱私案件必須要不停舉辦聽證會來審議。

互聯(lián)網本身是一個中性詞

張矩強調，科技，包括互聯(lián)網本身是一個中性詞，本質上是通過信息傳播加速提升效率。目前信息過載的情況下，必然會對社會結構產生影響。在出現(xiàn)問題時，法律法規(guī)的滯后，導致我們需要以應激性質的道德審判充當前鋒，采取一些臨時性方案加以遏制，缺乏系統(tǒng)性對策。這一問題在全世界都存在。

他認為，與Google當年提出“不作惡”一樣，騰訊提出“科技向善”也是表達立場。這其中重要的意義，首先承認了科技是中性的，并非是普遍意義上的褒義，科技需要用規(guī)則和價值判斷來規(guī)范。但是，如果僅僅從道德角度敦促一個企業(yè)做“向善”選擇，就會陷入一種模糊狀態(tài)。張矩指出，數字化時代與工業(yè)文明時代，技術的雙刃劍影響其實是類似的。

中國的飛速發(fā)展，讓人們剛剛享受到技術革命的紅利，擁有了現(xiàn)代化生活。大家對技術帶來的負面影響缺乏深刻體會，或者已經忘記。在工業(yè)技術成熟期和普及期之前，維護勞動者權益、保護環(huán)境、約束商業(yè)行為的法律法規(guī)不完善，諸如對工人的剝削、倫敦霧霾等社會問題都曾經發(fā)生過，不過我們現(xiàn)在已經忘記。

與工業(yè)時代不同的是，這次信息技術革命發(fā)展速度更快。生產資料從物質變?yōu)閿祿螅隈R太效應影響下，會形成巨大的數據壟斷企業(yè)，而技術普及也改變不了生產資料的擁有狀態(tài)。

“向善”責任無法推給用戶自覺

在張矩看來，數字化時代商業(yè)的一大特點是用戶大規(guī)模參與，共同構成產品本身。而企業(yè)寄希望于用戶行為“向善”來確保安全發(fā)展，基本是無法實現(xiàn)的。同時，從經濟學角度講，把責任推給終端用戶，而不是約束企業(yè)經營行為，這帶來的社會成本會非常高。試想，如果每個人在吃穿住用行時，都需要審核一下這些產品和服務是不是資質齊全、合規(guī)，成本會非常高。只有企業(yè)去維護可信的環(huán)境，這樣成本才會最低。而當企業(yè)承擔起這一責任，才能贏得更多用戶信賴，從而實現(xiàn)更大發(fā)展。這也是經濟利益驅動的結果，僅僅從道德上約束很難。

當企業(yè)只是從道德上約束員工行為，一旦出現(xiàn)信息不對稱和利差，很容易滋生腐敗。越從道德上約束企業(yè)，尋租空間和利差就會越多。所以，還需要建立透明機制和競爭環(huán)境，以及完善法律法規(guī)，這樣才能減少“做惡”的可能。

比起看得見的惡，隱性之惡更值得警惕

張矩強調，“科技向善”并非僅僅是利用科技來直接解決社會問題，比如利用互聯(lián)網平臺籌資做公益，利用人臉識別技術尋找失蹤兒童，或者利用數字化技術保護文化遺產，更關鍵在于要從現(xiàn)有的產業(yè)體系和商業(yè)模式中，反思產品和服務帶來的廣泛社會影響。

游戲造成的沉迷問題，短視頻內容減弱人的專注力，電商、外賣平臺帶來的包裝污染問題等。雖然，游戲、短視頻平臺都對用戶提醒可以設置“青少年模式”，但是，這種希望用戶主動設置的選項引導效果有限，只是為了規(guī)避風險和責任。

對于平臺來說，收集了用戶這么多數據，是有能力精準判斷用戶是不是青少年。同時，游戲背后是大量心理學專家設計出引人入勝的沉浸感，普通用戶很難抗拒。作為負責任的企業(yè)，應該設計讓出現(xiàn)沉迷的用戶走出來的強制機制，而不是讓用戶自主去做選擇。同時，外賣企業(yè)應該減少塑料垃圾，甚至投資可回收材料，這是應該承擔的責任。

在強調“科技向善”中，最被常提起的維度就是數據安全。張矩認為，比保護數據和隱私更重要的問題是，技術對人行為習慣的塑造，這將會帶來怎樣的影響是不可預估的。在他看來，技術更深遠的影響，是對人和社會行為的影響，如果人不能與之適應或者嘗試控制，就會變成很大潛在的問題。“主觀作惡都是小惡，更大的惡，往往是在‘善的前提下，不知不覺而造成的不可挽回的后果。”張矩說。不過，人們對技術會有一種天然樂觀，會相信等出現(xiàn)問題后，各種制度會慢慢迭代、適應，最終風險被化解。

張矩認為，因為現(xiàn)在技術發(fā)展太快，制度、法律、倫理、心智等都跟不上，只有這段時間很痛苦，等一系列配套措施逐漸完善，這種焦慮和恐懼就會淡弱。就如工業(yè)革命導致生產大發(fā)展后，羅斯福推行福利政策來解決勞資矛盾一樣。

以用戶需求為中心不能走偏

不可否認，以用戶需求為導向，需求本身存在導向性問題。張矩認為，根據馬斯洛理論，用戶的需求是分層次的，精英們希望商業(yè)環(huán)境可以提高人的層次，而不是引誘人們下降一個層次，但是從商業(yè)化角度看，這件事不可避免。越低的需求層次就越容易控制和滿足。

以美容整形為例，如果以道德為標準來限制企業(yè)經營，就會產生黑市。張矩直言，一些問題不是技術能解決，需要人們升級自我管理和修養(yǎng)，把一些需求漏洞給堵上，不然永遠都會被人利用。即使不是正常利用，也可能是偷偷摸摸利用。在精英社會體系，高低層次的需求會呈現(xiàn)一個平衡態(tài)。但是以美國為例，隨著特朗普的上臺會產生一個逆轉。他所呼吁的訴求，層次越來越低，并且通過互聯(lián)網的傳播效應，引發(fā)巨大影響和追隨。這也是很多美國人非常痛苦和悲觀的原因。

在張矩看來，呼吁人或者呼吁公司向善是營造美好社會的途徑之一，但是絕對不會是解決問題的辦法。“從企業(yè)與個人成長角度看，企業(yè)要承擔社會責任，個體要講究誠信、正直、尊重他人，這需要回歸到教育和社會治理體系的完善。當人們開始不僅僅在乎個人利益，而是主動關照其他利益相關者利益時，才能實現(xiàn)從內到外的向善。”