“科技向善”需要一套“好技術”

Theodoros Evgeniou and Ludo Van der Heyden

技術一直是一把雙刃劍。雖然它是推動人類文明進步的主要力量，但也被濫用并造成傷害。從蒸汽動力到福特主義（Fordism，以市場為導向，以分工和專業化為基礎，以較低產品價格作為競爭手段的剛性生產模式），歷史表明，技術本身并無好壞之分。是好還是壞，取決于使用方式。

電信、特別是互聯網，以及到2030年預計為全球經濟貢獻超110億歐元的人工智能，本質上都沒什么不同。

一方面，互聯網將所有人聯系起來，讓大家能在疫情期間保持緊密聯系。人工智能和機器學習可以幫助解決一些世界上最緊迫的問題，例如診斷疾病、保護網絡安全、應對氣候變化等。然而，如果不加以控制，算法也可能使偏見永久存在，制造網絡回音室、激進主義，并危及安全和隱私。

2022年，全球數字監管格局徹底改變。歐盟議會批準了《數字服務法》，以加強網絡安全和消費者保護，并在籌備出臺《人工智能法》來管理AI。美國聯邦貿易委員會（Federal?Trade?Commission）發布了其關于人工智能的指導意見，中國也推出了一波監管規定。目前，經合組織跟蹤到了60個國家的700多項人工智能政策舉措。

與此同時，多年來，私營和非營利部門一直支持“科技向善”（Tech?for?Good）運動，該運動致力于“讓數字和技術為人類服務”。它以最簡短、最全面的形式承諾，技術可以幫助世界實現聯合國的可持續發展目標。

但從歷史的角度來看，我們必須問：“科技向善”是否能在不造成傷害的情況下取得成功？?答案在于更加關注“好技術（good?tech）”本身。

好的意愿并不能保證積極的結果。因此，只關注技術能做什么是過于狹隘的，需要把重點轉移到在技術發明使用過程中如何跨領域地綜合考慮環境、實施和監控等。

換句話說，需要關注過程。

為了充分利用人工智能等技術的優勢，并保護我們的世界免受這些技術固有風險的影響，必須在相關技術活動中納入強有力的流程設計，以防止濫用、偏見或有害使用。根據在人工智能、機器學習等方面的研究，可以將這種基于“過程導向的技術創新和監管方法”的技術產出稱為“好技術”。

“好技術”的目標是將現代技術被濫用和造成傷害的可能性降到最低，使經濟社會盡可能多獲得凈利益。“好技術”需要一個嚴格的、包容的設計、執行和監督過程，包括三個組成部分：向善的原則、公平的程序和強有力的監督。

設定技術目標后，還需要定義價值觀。在一個組織或團隊中，共同的價值觀創造了一道防止濫用和防范風險的“理念之墻”。

近年來，谷歌、微軟、IBM、寶馬和Telefonica等公司紛紛支持道德或負責任的技術原則。截至2020年4月，瑞士非營利組織AlgorithmWatch在其人工智能全球道德準則清單中設置了173條準則。

最有力、最有效的原則，如聯合國的《人權原則》或經合組織的《人工智能原則》，都是“基于價值觀的”，是通過一個包容性的過程逐步提煉出來的，該過程尋求所有利益攸關方的意見，并最大限度地減少偏見。幸運的是，我們不需要總是從頭開始。例如，經合組織的人工智能框架等原則和經合組織人工智能專家網絡所做的工作可以成為開發“好技術”原則的基礎素材。

目標和原則很好，但如果在需要的時候沒有實施或忽視它們，一切就形同虛設。實施是一項關鍵挑戰。

雖然設計負責任的技術有多種框架，但需要確保它們也完全符合經過時間考驗的公平程序。這是一項至關重要的工作。

對公平程序的承諾有助于發展“好技術”。公平競爭，也被組織科學家們稱為公平程序，由五個價值觀定義，所有這些價值觀都適用于“好技術”的過程管理：

·清晰和透明，包括目的和“規則”;

·始終如一地平等對待人和事，沒有偏見;

·有利于傾聽而非傾訴的溝通，不會因為人們說的話而制裁他們;

·面對新證據時，觀點能夠相應改變;

·追求真理，做正確的事情，而不是選擇最受歡迎或最方便的事。

公平程序指出了在創造“好技術”時候，如何決策、監測以及根據需要進行調整。它需要可執行和可測量。例如，我們知道精準醫療中的性別偏見會影響患者護理，尤其是如果人工智能使用的數據集中男性多于女性。在這種情況下，公平程序要求數據分析不分性別，并建立系統檢查，以防止“代表偏見”。

“好技術”還需要具有相同價值觀和使命感的員工，由于任務的復雜性，非常需要高效的協作領導。

許多組織已經設立了技術倫理委員會和董事會來審查和調查人工智能風險。公平程序要求公正、負責、透明，并像法官或州長那樣，要求無偏見的領導。良好的技術倫理委員會應該包括具有足夠多樣性的外部跨部門專家，以便消除更多偏見。

技術倫理委員會必須通過公平程序組建，否則將面臨風險。例如，谷歌的人工智能倫理委員會成立不到一周就消失了，它被對其組成和作用的懷疑所吞噬，人們普遍認為該委員會缺乏明確的授權，它可能只是個形式主義的產物。

此外，規章制度也必須經過公平程序的檢查。一個值得稱贊的例子是，歐盟一直會發表白皮書公開信息，促進利益相關者開展討論。

開發“好技術”遇到的大多數錯誤往往重復出現，雖然不一定以同一種方式出現，但基本邏輯幾乎沒變。設置合格的技術倫理委員會、聘用“明智的領導”，可以有效杜絕這些錯誤。

不可否認，技術總是會帶來風險，這將一直存在、無法改變。但向善的技術原則、公平的程序和強有力的監督，可以在開發新的技術時讓世界更安全。在未來幾年，基于一套“好技術”開發方案，我們或許能避免幾場技術災難。

來源：哈佛商學院;編譯：王夢菲