論人工智能發展風險的認知與規避

□王 璐，韓璞庚

（1.南京師范大學中北學院，江蘇 鎮江212300；2.南京信息工程大學 馬克思主義學院，江蘇 南京210044；3.江蘇省社會科學院，江蘇 南京210004）

近年來，隨著信息技術的飛速發展，人工智能引爆的人類數字化生存正將人類帶入一個難以置信的科幻世界。過去冰冷的機器，在人工智能作用下逐漸有了人類的智慧和溫情。谷歌研發的阿爾法狗（AlphaGo）機器人，接連擊敗韓國的李世石、中國的柯杰等眾多圍棋高手，登上人類智力的巔峰；添加了神經網絡的谷歌翻譯軟件，翻譯水平已基本與人工翻譯無異；索菲亞美女機器人，已經具備像人那樣“風情萬種”的感知，甚至可以和“男友”談情說愛。人工智能不同尋常的技術發展，以及一件件令人咋舌的發明創新，不斷模糊著機器與人的界限，沖擊著人作為“萬物之靈長”的主體地位。以致有人疾呼，未來人工智能將超過人類智能，機器人將統治、奴役人類，人類將會被當作動物送進動物園。面對這些矛盾和焦慮，筆者試圖從人工智能的發展起源出發，分析其可能面臨的風險困境，進而提出規避風險的對策建議。

一、在爭論中興起的人工智能

人工智能是伴隨著計算機科學、大數據等技術突破而發展起來的，其萌芽可以追溯到世界上第一臺計算機埃內阿克（ENIAC）的誕生，其真正發展始于1950年圖靈在論文《計算機與智能》中提出的著名的“圖靈測試”，證明了機器具備像人類一樣智能的可行性。1956 年，在美國達特茅斯學院的一次研討會上，人工智能的概念首次被正式提出，并作為重要的研究課題。在整個20世紀，人工智能的研究雖在不斷深入，但受技術認知的局限，總體發展“波瀾不驚”。然而在人工智能發展過程中，圍繞“人工智能能否超過人類”的爭論，卻一直沒有停息。

符號主義人工智能（Symbolic AI）認為，人類的認知是由不同符號、句法按照各種邏輯結構組合而成，只要計算機的存儲功能足夠大、運算速度足夠快，計算機可以模擬人類智能。其代表人物西蒙（Simon）認為，智能機器與人是一樣的，任何種類的智能活動都可以變成一套指令。他在20世紀60年代就曾預言，二十年之內，機器將能做到人所能做到的一切。這一觀點遭到密勒（George Miller）、魯道夫·阿恩海姆（Rodolf Arnheim）、羅斯·奎連（Ross Quillian）、約翰·賽爾（John Searle）等人的反對，他們認為計算機只能夠進行符號處理，并不能把握語句與詞語的意義，其與人類具有本質的區別；即使機器通過了圖靈測試，但僅僅是證明機器在行為上與人的相似性，并不具有人類思維的特性。

聯結主義人工智能（Connectionism AI）又稱為神經網絡人工智能（Neutral Network AI）認為智能的過程來自人類大腦的組織結構和運行模式，而不是源自計算機。其代表人物明斯基（Minsky）認為，思維是由許多不同類似神經元的智能主體組成的層級結構，這是簡單的符號語言所無法模擬的。在符號主義人工智能和聯結主義人工智能研究范式之外，還有一種被稱為行為主義人工智能（Actionism AI）的研究方法，該方法認為，機器“智能”水平的高低不依賴于算法和預先設定的程序，關鍵在于如何主動適應外部環境并及時做出反應。

筆者認為，不管是符號主義研究方法，還是聯結主義、行為主義路線，必須從辯證唯物主義出發思考人工智能與人的本質的關系。人是自然界的一部分，人通過實踐把自然轉化為“人的無機的身體”，使之成為人的存在的一部分。人工智能作為一種技術存在、社會存在，是人類認識自然、改造自然實踐經驗的總結物化，是計算機科學、哲學、社會學等多學科、多領域的有機組合。從某種程度上講，人工智能是制造能像人一樣做事情的機器的科學。智能機器所表現出來的獨立思考、理解和反思等功能，是人類主體預先設定的特定程序的再現，即便一些具備自主學習能力智能行為體，其“智力”水平更多還是取決于人類為其提供的算力的快慢、算法模型的優劣，以及數據樣本的多寡。這也決定著，機器始終是主人的機器，人永遠是那個在前臺表演的木偶的幕后牽線人。

二、人工智能發展面臨的風險困境

近年來，隨著算力增強、數據增多、算法優化，人工智能發展的基礎更加扎實，一些新的應用層出不窮，人工智能正逐步走出實驗室，邁向“脫虛向實”的新階段。然而機遇總伴隨著挑戰，有學者認為，所有技術進步都有代價，技術引起的問題比解決的問題多，有害和有利的后果不可分離，所有技術都隱含著不可預見的后果。如今，這種后果有的業已顯現，有的則成為未來發展的隱患。中國科學院院士譚鐵牛指出：“人工智能的社會影響是多元的，既有拉動經濟、服務民生、造福社會的正面效應，又可能出現安全失控、法律失準、道德失范、倫理失常、隱私失密等社會問題，以及利用人工智能熱點進行投機炒作從而存在泡沫風險。”[1]（p39）我們必須從哲學角度認真研析其問題成因，及時引導其走出風險困境。

（一）人的主體作用在弱化消解

人是社會的主體。人類因其“有思想、會創造”的特質，確保了社會主體的唯一性。傳統計算機雖代行了人類的部分工作，但僅限于連接搜索、讀取數據等經典意義上的常規性操作，在整個決策鏈條中，人發揮著不可替代、一錘定音的作用。隨著信息文明向高級階段突進，特別是萬物智聯時代的開啟，人與物的壁壘被打破，社會上蕓蕓眾生的人與五花八門的物連接成了一個有機整體。萬物網雖極大方便了人類生活，然而人作為社會網絡體系中一個節點的存在，使原本處于決策鏈頂層的人的作用相對消解。網絡社區中人際交往在不斷退化，計算機網絡將人從世界中抽離出來，還原為可以輕易控制的數據流類型。在對事物的分析、決策中，人的作用將不再如過去那么重要或者不可替代，機器可以代表人類“預測一切、決定一切、安排一切”，人的主體作用在下降，社會的參與度在降低，勢必產生客體主體化、主體客體化的邏輯混淆。在辯證唯物主義實踐觀中，人類通過實踐活動改造自然界，并使自身達到自然性與社會性的和諧統一。根植大地、躬身實踐，是人類有別于動物而不斷創造出燦爛文明的重要標志。隨著智能體的過度代勞，表面上帶來了安逸和便利，但無形之中卻限制甚至剝奪了人類實踐的機會。有科學家預言，隨著腦機接口等智能技術的發展，未來機器將會替代大腦以外所有的肉體器官，包括眼睛、耳朵、性器官、飲食器官等，人類千百萬年進化而成的自然肉體將會被“廢棄不用”。如果預言成真，人再也不是最初的自我，甚至異化為生活的附庸。

（二）智能服務與隱私保護的二元悖論

如何實現更好的服務，又確保個人隱私不受侵害，一直是信息技術發展不可回避的話題。時至今日，人工智能原有的風險隱憂不僅沒有完全解決，一些新的矛盾問題也在不斷涌現。近年來，人工智能的突飛猛進很大程度上源于數據挖掘和深度學習技術的重大突破。海量數據是人工智能迭代升級不可或缺的“食糧”，智能體“智能”水平的高低、提供服務的優劣，最根本的差別在于數據占有量的多寡、真偽度的高低。為了“訓練”更“聰明”的智能體，一些單位采取合法與非法、公開與隱蔽、人們知情與不知情等多種渠道，肆意搜集整理人們的家庭信息、健康信息、購買喜好、日常活動軌跡等數據。這些數據在智能技術的強大驅動下，則可以提取生成個人支付能力、社交關系等高價值信息，進而生成或還原出一個人的“生活肖像圖”。在萬物智聯的世界，人與“透明人”無異。人們所享受的人工智能的各種便利，某種程度上是個人隱私權的部分讓渡或交換。人臉識別等數據如果沒有妥善保管和合理使用，就會容易侵犯用戶隱私。大數據時代，個人在互聯網上的任何行為都會變成數據被沉淀下來，而這些數據的匯集可能最終導致個人隱私的泄露。人工智能作為人類認知世界、改造世界的一種技術存在，其發展演變始終不能背離輔助人、服務人的本源。妥善處理好智能服務與隱私保護的關系，已經成為當前人工智能發展必須面對的重大現實問題。

（三）人工智能不可忽視的倫理風險

隨著人工智能“擬人化”程度的不斷提高，一些人工智能體越來越深度融入人們的生活中，無人駕駛汽車、家庭管家、陪護機器人、智能導購等應用，極大解放了人的腦力和體力，成為人們工作生活不可或缺的一部分。人類社會生活也從以人類為中心的行為活動，演變為一定領域并不斷擴大的人機合作活動。然而，從倫理角度來看，當機器代替人從事某些工作時，其工作過程中造成的過錯或者過失應該由誰買單？是否應賦予人工智能系統一定的道德承載和社會責任？比如在嚴重擁堵的城市，很多人工駕駛的汽車違章行駛，自動駕駛汽車不違章就沒法前行，是不是也可以把其系統設計成可以違章駕駛？再如，在即將發生車禍危險的時候，智能系統應該做怎樣的選擇也是棘手的倫理問題。從人工智能系統的運行機理看，人工智能算法看似與倫理價值無關，但算法“以數學方式或者計算機代碼表達意見”的本質，決定著設計者的立場觀點會有意無意地嵌入其中。某種程度上講，一些人工智能系統很容易被訓練數據的質量和算法中預設的前提所左右。算法偏見和數據偏差帶來的最終結果將是決策的偏差，甚至是對決策者的誤導。比如，營銷產品時，商家可以通過數據過濾技術將產品的負面信息過濾掉，根據客戶的特點、喜好等定向推送對自己有利的信息；又如，一些選舉操縱事例，選民往往無法通過自主選擇來閱讀或看到自己希望讀或看的東西，只能被動接受算法強推的結果，導致無法看清事物的真實面目。算法的“黑箱”特征，也使人工智能系統在決策判斷上缺乏透明性、可控性。臉書研究團隊曾在一次試驗中安排兩個智能機器人進行“交流”，在“交流”的過程中竟然產生了超出科學家預期的對話。無獨有偶，微軟開發的智能聊天機器人Tay在與網民上線互動時，竟然不時冒出性別和種族歧視語言。這些智能系統如果完全代行人類決策，就有可能帶來不可預知的倫理風險，甚至危害整個社會利益。

（四）致命智能武器系統的人類生存擔憂

戰爭，作為人類社會生存競爭的一種高級暴力活動，在國家、社會、種族關系調節中發揮著重要作用。過去，無論戰爭正義與否，鋒利的大刀長矛、扣動槍支的扳機、可以將人類推向毀滅的核武器的按鈕等，都始終掌握在人類的手中，人是操控武器的主人。隨著人工智能的蓬勃興起，無人飛行器、智能蜂群、無人潛航器等嶄露頭角，并被推向戰場上敵對雙方激烈對抗絞殺的“最前線”。這些披上智能外衣的各色武器裝備，不再是過去戰場上純粹的“被指揮者”，它們擁有一定的自主行動權甚至自主“開火權”。這種人與武器裝備的角色異位，使戰爭面臨著失控的風險。在復雜戰場上，這群毫無感情、不知疲倦的鋼鐵機器在受到通信干擾、網絡攻擊等各種不可知的情況下，極有可能對它的操控者“倒戈一擊”，甚至對無辜的平民“亂開槍”，成為戰場上的“麻煩”的制造者、人類的“終結者”。2015年7月，美國一臺“發瘋”的機器人曾“失手”將一名裝配工人殺死。在中東戰場上，武裝到牙齒的美軍，不時爆出一些高新技術武器裝備“調轉槍口”對準己方人員，造成嚴重的誤炸誤傷，至于傷害無辜平民的案例更是屢見不鮮。智能武器裝備的廣泛應用，也使發動戰爭的決策成本相對降低。借助深度學習、模擬仿真等智能技術，人們可以在開戰前對戰爭全過程進行一次“彩排”“預演”或者“全景呈現”，戰場將不再是過去那個“充滿不確定性的領域”，戰爭也將不再是“國之大事、死生之地”，甚至失去人類的控制。冰冷的機器代替人成為戰場上的主角，也將對正義戰爭理論產生影響，甚至嚴重沖擊著二戰后人類建立起來的世界軍控體系。

三、人工智能發展的風險應對

馬克思在《哲學的貧困》中寫道：“手推磨產生的是封建主的社會，蒸汽磨產生的是工業資本家的社會。”[2](p222)技術雖然根植于特定的社會環境，但卻作用和反作用于人類社會的演進發展。人工智能的快速興起，既讓人們享受了其所帶來的極大便利，也讓人們對其可能產生的風險隱患始終難以釋懷。美國奇點大學創始人、谷歌技術總監雷·庫茲韋爾曾將人類對待技術的態度分為敬畏、恐懼和謹慎三個階段。作為技術活動主體的人，面對人工智能可能帶來的些許便利，必須始終心懷敬畏、恐懼，采取更加謹慎的態度，樹立正確的發展觀，確立合理的需求觀，構建人與人工智能相容共生的和諧社會。

（一）堅持以人為本的發展原則

每個人都擁有自己的內在價值，這種價值絕不能因技術的發展而被削弱、損害或壓制，否則技術就失去了其發展的必然價值。人工智能既然是由人類所創造，就必須從屬于人的主體地位，始終為人類服務。人工智能系統的開發應該尊重、保護并服務于人的身心完整和社會文化認同感。美國學者阿西莫夫在《我是機器人》一書中曾認為，機器人的宗旨是不能危害人類，而當人類可能受到侵害時機器人也不能袖手旁觀而不顧。要始終堅守以人為中心的倫理道德，在系統建構、算法賦予中，要把“為人類造福”“為人民服務”作為原則底線，確保不能侵犯人的主體地位。2018年，在全國人工智能哲學與跨學科思維論壇上，蘇令銀建議將儒家倫理規范“忠”“恕”“仁”嵌入機器之中。在我國古代也一直有以道馭術的文化傳統，例如莊子對“機械”與“機心”的探討，墨家側重工匠自身品德修養的要求等，確保機器通過學習人類來提升道德，拒絕做不道德的事。要注重完善機器的人性設計。人類不應該制造他們所能制造的每一種技術產品，而只應該制造那些或者對他們的同胞或是對他們自己必不可少的技術產品。在不斷滿足人類無止境的需求上，一方面要將機器的功能盡可能打造得更完美；另一方面要合理約束需求的邊界，一味地貪婪，在下一刻就可能走向滅亡。20 世紀40 年代以來，人類為了在戰場上追求對敵方更大的殺傷而發明了原子彈，然而卻差點把人類和地球推向毀滅的邊緣。規避人工智能風險，實際上是同人類的欲望和貪婪進行一場曠日持久的斗爭。完善人性、合理確定需求，才是防范人工智能風險的治本之道。

（二）強化公平正義的建設導向

公平正義是人類社會文明發展的度量器，也是助推人類社會不斷向前發展的重要推動力。人類對公平正義的追求，不僅是個意識形態命題，更重要的它還是個社會實踐課題，一切公平正義都要靠行為來推動落實。任何對這一本質產生威脅的行為都是非正義的，也是偽公平的。人工智能的發展運用，承載的是現實客觀世界，必須把確保社會公平正義作為出發點、落腳點。要提高人工智能系統的可解釋性，系統的研發和使用過程必須透明，能力和目的必須經過公開討論，系統所做的決策必須能夠解釋給所有受到人工智能系統直接或間接影響的人群，得到他們的理解和支持。任何個人和團體都不應該受到不公正的偏見、歧視或者侮辱。要提高人工智能系統的安全性，充分考慮系統可能出現的意外情況，設計并測試后備保障機制；特別是當人工智能系統偶爾出現不準確判斷時，系統要能夠準確評估出誤判的可能性大小，當出現意外后果時能被隨時中止。要提高人工智能系統的可信賴性，在系統全生命周期中實現包容性和多樣性，建立有全部利益相關方參與的長期反饋機制。特別是對關系人工智能決策的關鍵數據和運行流程，以及數據采集、遴選、甄別、分析等活動要做到公開透明。要針對不同國家、不同地區和不同人群在思想、信仰、文化等方面的差異，更加突出用戶的多元性和人機交互的包容性，確保不同的人在不同的環境條件下，都能平等享受到人工智能等質的服務。

（三）設定技術發展的倫理法則

機器倫理始于安德森的《走向機器倫理》一文，文中作者對機器倫理的概念作了解讀和闡釋。波斯特洛姆（Bostrom）、尤德科夫斯基（Yudkowsky）、索勒斯（Soares）等人認為，即使賦予智能體無害的目標，它也有可能無意識地與人類展開競爭，甚至危及人類自身。有專家學者甚至疾呼，在我們完全沒有準備好的情況下有可能禍從天降。近年來，世界各國特別是西方發達國家越來越關注人工智能帶來的倫理、法律和社會問題。2016年8月，聯合國教科文組織會同有關部門發布了《機器人倫理報告初步草案》，歐盟相關機構隨后相繼出臺發布了《歐盟機器人民事法律規則》《可信賴人工智能道德準則》等文件，明確提出要在人工智能和機器人領域構建更為完善的道德標準和倫理準則。美國在人工智能開發上，大力倡導“多利益相關方共同合作交流”機制，2017 年1 月，來自全球各地的人工智能專家，在美國加利福尼亞州阿西洛馬聯合提出“阿西洛馬人工智能原則”，強調“應以安全、透明、負責、可解釋、為人類做貢獻和多數人受益等方式開發AI”[3](p106)。針對人工智能可能帶來的倫理風險，我們既要從技術上搞好預先認知，也要從管理角度進行科學規范。要為人工智能劃定倫理禁區。我國在《人工智能標準化白皮書2018》中，首次從政府層面提出中國關于人工智能倫理的人類利益原則和責任原則，但從現實看，我國人工智能產業還處在商業驅動的初級階段，一些產品設計還建立在個人倫理自覺基礎上。要加強人工智能倫理禁區立法，通過行業自律、制定指南等形式來約束管控人工智能可能帶來的倫理挑戰。當初克隆技術出現后，人們從法律上明令禁止對人的克隆，為克隆人劃定了不可逾越的屏障。要強化人工智能系統的治理監管，使其具備優良的“倫理品質”。當智能系統對用戶產生重大影響時，人類有權不受完全基于自動處理的決策的約束。每一個出場產品，都要為人類監督設定預定的“后門”。這個“后門”，可以通過人在回路中（Human- In- The- Loop，HITL）、人在回路上（Human-On-The-Loop，HOTL）或者人工控制（Human-In-Command，HIC）等來實現，確保人工智能產品牢牢控制在人類手中。

（四）打造人機相容的和諧文化

馬克思說：“在手工操作制度下，手工勞動通常是任何一件產品中花費最大的因素；而在自動體系下，手工業者的技藝就日益為看管機器的簡單動作所替代。”[2](p248)人工智能作為人類認識自然、改造自然經驗的總結物化，秉承了過去三次工業革命的衣缽，使人類與機器的關系更加密不可分，把人類生產力提高到了一個新的高度。國外學者曾預言，未來十年，人工智能將代替超過40%的就業崗位。人工智能技術的應用極大延展并拓寬了人類改造自然的能力，而人類又通過不斷的實踐使人工智能技術得到了螺旋迭代提升。人與機器并不是“非此即彼”的“零和博弈”，而是一對和諧共生體。中國古代賢哲早就提出了“天人合一”的觀念，強調人與自身、人與萬物、人與社會之間的和諧共生關系。從社會發展的歷史進程看，發展中的和諧才是真正的和諧，和諧的構建源于豐富的物質技術支撐。在科技產業革命日新月異不斷發展的今天，科學技術已經成為關系國家民族復興偉業，關聯人民生活福祉的重要因素，成為世界各國競相角逐的關鍵領域。人工智能作為當下人類社會發展的最高技術結晶，是和諧社會建構的重要力量，與人完全可以由共處走向共生、共融。從人的全面發展看，技術的進步除了滿足人的生存需要外，它使人的思維得到拓展、個性得到解放，把人類推向了更高的自由。要以人的主體性為導向加強人工智能技術創新，搞好人類世界觀、價值觀的植入與融入，切實打造人與機器價值相同、理念相通的和諧共生世界。

四、結語

當前，我國正處于建設新時代中國特色社會主義重要階段，向科學進軍、向科技要生產力，已成為我國社會經濟轉型的重要引擎。習近平總書記指出:“中國要強盛、要復興，就一定要大力發展科學技術，努力成為世界主要科學中心和創新高地。”[4]（p246）人工智能作為新興產業技術的重要代表，在推動我國實現高質量發展，開拓新時代中國特色社會主義現代化進程中發揮著重要作用。一方面，我們要按照科技強國要求，在日新月異的人工智能革命中搶先布局、贏得主動，在標準、制度等方面發出中國聲音、拿出中國方案，不斷提升技術創新在國家經濟發展中的比重；另一方面，面對人工智能的滾滾浪潮，我們要從哲學的角度，撥開人工智能“萬能論”“威脅論”等迷霧，堅決立起批判發展的旗幟。既要看到人工智能給人類帶來的諸多便利，也要看到技術存在的些許弊端；既不能當技術的奴隸，為了技術而技術，也不能重蹈“閉關鎖國”的覆轍，使自己落后于時代的發展。要始終從吸收利用、批判反思兩個維度，科學分析評價新興技術的作用限度，綜合權衡科技理性與價值理性的關系，切實發揮好科學技術對我國現代化建設的推動作用。