人工智能危機，企業的“危”在哪里

數字化浪潮席卷而來，人工智能（AI）正以前所未有的速度滲透到人類社會的各個領域。對于AI廣泛的應用，雖然眾說紛紜，但相關觀點主要基于兩個方面的現實。

一方面，AI在多個生產場景下表現出與人類相似甚至更突出的能力，在多個行業掀起波瀾。麥肯錫咨詢公司在2023年的報告中指出：“AI取代人類工作的時間被大幅提前了10年，在2030年到2060年間全球50%的職業將逐步被AI取代。 ”同時，AI的應用已經實現從個體優化向規模優化的質變，擺脫了個體逐一自動化的高消耗，實現企業群體化協同的自動培訓與生成。據此，我國提出“深入推進數字經濟創新發展，深化AI等研發應用”的發展要求（參見《2024年國務院政府工作報告》），以實現從技術上引領全球數字化浪潮，補齊我國在高端數字技術領域的短板。由此可見，AI在企業內的深入滲透已是必然。

另一方面， AI技術作為信息產業中的一項高新技術，雖然在實際應用中已經取得了顯著的成效，但迄今為止，其技術原理尚未有明確的理論解釋。這極大地增加了AI在隱私保護、數據安全、偏見極端化、系統安全及自主性等方面的風險。同時，自動化和智能化技術的廣泛應用可能會導致一些工作崗位消失，從而對社會產生影響。此外，AI技術的快速發展也可能導致社會和經濟發展的不平衡。

即使AI危機已迫在眉睫，但目前仍然沒有能充分抵消其危害和負面影響的有效方案。人們一邊擁抱由技術進步構造的新世界，一邊譴責技術革新的無情。這場AI替代危機，從組織到個體無一幸免，人們卻只關注到單一情境而忽略了多情境的整體構型。

本文從企業視角出發，從多個角度觀察AI時代企業的常態化工作實踐模式，并從企業管理指向企業倫理，深入剖析這一模式下企業所面臨的廣泛危機的表象及本質。

人-AI組合成為工作實踐的常態

根據人和AI在工作中占據的比重，可簡單將所有的工作實踐劃分為人類完全工作實踐、人-AI組合工作實踐、AI完全工作實踐（見圖1）。

這三種類型的演變反映了AI技術由弱到強的進化，這一趨勢似乎預示著未來的終極工作形態就是人類的“失業”。這一天是否會到來，需要多久到來，還是個未知數，但是鑒于當前AI技術的飛快發展，本文假定，在未來很長一段時間內，“人-AI組合”這一智能型工作實踐將成為常態化工作實踐模式。

AI技術引發的變革下，工作模式由純勞動力工作向人-AI組合工作實踐的轉變是必然趨勢，并非選擇讓該模式成為了現實，而是現實選擇了該模式（見圖2）。

一方面，歷史經驗告訴我們，重大的技術變革往往會引發市場陣痛并使其重生。第一次工業革命，蒸汽機和紡織機淘汰了馬夫和大部分依賴手工技藝的工匠和手藝人，但是也催生了大量的工作崗位及機械相關職業。第二次工業革命，電氣技術的發展結束了蒸汽時代的輝煌，進而催生了電氣相關的崗位。現代信息技術的應用將手工操作系統化、自動化，改變了傳統的生產和管理模式，雖然這導致了部分員工失業，但技術的終極導向并不是取代人類，而是服務于人類創造更美好的生活。

另一方面，國家戰略進一步推動了人-AI組合工作實踐模式的發展。黨的十六屆三中全會中便指出“科技發展應當以人為本”，國家的中長期科學和技術發展規劃也始終將科學技術的發展立于社會需求之上。2018年國務院印發的《關于全面加強基礎科學研究的若干意見》指出，加強基礎科學研究是為了長遠的科技進步和人類社會的福祉。以賦能員工為目的的新型人機工作環境是科技成果轉化為實際生產力，進而反哺經濟社會的重要舉措。企業個體作為社會的一員，理應樹立有責任有擔當的形象。與高校、科研機構等合作實現AI賦能員工，是企業響應國家戰略推動社會經濟發展的重要途徑。

人-AI組合工作實踐在不同的環境和情況下能夠產生不同的工作模式，如工作實體從純粹的人類員工轉變為人類員工與AI的協同工作，決策實體從人類領導轉變為AI領導等。AI技術發展及企業數字化轉型對組織決策和運營、人力資源管理實踐、員工工作方式等方面均產生了革命性的影響，工作場所中以人為主體的工作實踐也將發生根本性轉變。

人-AI組合的工作實踐模式較多，包括但不限于人機合作（Cooperation）、人機協作（Collaboration）、人機交互（I n t e r a c t i o n）和人機集成/配置（Configuration）。不同類型側重點略有不同，本質是人和以AI為代表的智能體在不同維度、層面上的組合。本文根據企業的人員組成，將人-AI組合的智能型工作實踐劃分為員工和管理者兩種類型（見圖3）。這兩種類型具備工作場所技術迭代對以下維度的訴求：高數字化程度（深度和廣度）和高人力資本需求（技能和效率）。兩種類型均顯示出人類與智能體的互補能動性與增強智能性。組合型管理者類型中AI與人類為同屬管理層級協作關系，由AI和人類管理者共同進行監督、評估、反饋、決策等工作；組合型員工類型中AI與人類為智能協作關系，在涉及任務、情感、認知等因素的交互過程中共同實現目標。

AI日漸融入人類工作實踐的連環危機

AI的外延隨著時間推移和技術發展不斷擴展，現有的技術不僅能夠執行機械性任務，還能進行復雜思考，有能力完成重復性、強規則性甚至認知性的工作，具有強大的分析、學習和決策能力。這些能力與人類員工部分工作能力重疊，因此，AI替代人類的直接負面影響在個體層面十分顯著，在企業則往往隱匿于AI融入企業的過程當中。在人與AI相互融合的過程中，企業在構建相關生態時面臨著環境搭建、人才配備及企業運營等方面的連環危機（見圖4）。

首先，在環境搭建上，企業會面臨將復雜技術嵌入已經成熟的工作環境中帶來的舊成本沉沒消散和新成本投入消耗的問題。此外，隨著數字化的不斷深入，如何更有效地將人員與環境匹配，是企業要面對的真正問題。

一方面，數字化組織提高了對復合型人才和數字化專用人力資本的需求，全球企業面臨著數字人才供求逆差；另一方面，企業內部也面臨著一般人力資本向專用性人力資本的轉型需求。部分企業推出了面向外部人員的教培項目，如“谷歌職業證書項目”（Google Career Certificates）、“亞馬遜技術培訓項目”（Amazon Technical Training Program）及騰訊針對高校學生的公益性項目“云梯計劃”。但這些項目無法有效平衡人才缺口的量，而且大多數培訓為付費項目，更加提升了企業轉型的成本。企業內部的數字人才培養依賴于人力資源管理部門，缺乏成熟理論指導，形同于一筆待驗證的試錯成本。為了迎接工業4.0的挑戰，組織需要激活每一個員工，使其成為“超級個體”。如何跨越人才缺乏的主要障礙，并尋找有效且可復制的路徑，是學界和實業人士的長久命題。

其次，企業的數字化轉型推動組織架構向虛擬化、網絡化、扁平化轉變。技術驅動結構轉變帶來的好處顯而易見。一方面，組織內部聯結加強、響應速度加快，對組織績效、客戶體驗提升等具有積極影響。另一方面，組織外部聯結也更便捷，由此推動新商業模式產生，改變了業務生態與價值創造方式。例如，盒馬和各種品牌的快周期產品研發，打造了一種基于合作、創新和數據驅動的現代商業策略。

工作實踐數字化打破了空間限制，員工游走于物理和虛擬空間之間，個體身份逐漸模糊，個體之間的非正式關系也受到不同程度的影響。例如，遠程辦公改變了員工對組織的認知依戀，也改變了組織成員之間的社會關系，進而與組織期望相違背。

組織扁平化不可避免地增加了管理難度和溝通成本，與數字化工作實踐背景下的信息冗余一起對決策產生影響。以小米為例，小米早期采用扁平的三層組織架構以快速響應市場變化并保持和客戶的聯系，在2018年7月的IPO后，小米進行了史上最大的組織變革，被外部解讀為去扁平化。

最后，企業的人-AI組合工作實踐運營以人和技術為主導，忽視了文化氛圍和價值觀的重要作用。企業內部創新主體的價值取向與行為規范受組織文化氛圍和企業價值觀影響。人與技術的不斷融合，往往是企業和組織被動接受由外向內的技術發展變革壓力的過程。企業在不斷適應新發展的過程中極易忽略文化氛圍和價值觀等軟配置的建設。同時，如何選擇適合組織結構和文化的推廣方式仍是難題，未來應該探究在數字化背景下如何通過內外賦能與文化加持使組織向可持續發展演進。

人-AI組合型工作實踐的倫理危機

更智能的工作方式意味著在數字化方面更加深入，這不僅展現了科技的進步，還增強了人與AI之間的互動。它在完成工作的基礎上包含了更多的人際關系、態度、情感以及思考方式，甚至還涉及道德和倫理問題。人-AI組合型工作實踐的工作者由人和虛構的AI組成。AI技術基于大數據模型向人類提供建議、幫人類作出決策，人類則通過向AI不斷輸入海量信息來實現反向賦能。

德勤《2023年度全球人力資本趨勢報告》指出：“人與技術之間原有的獨立邊界正逐漸消失，組織需要探索如何利用技術既發揮人類的獨特優勢，又優化其工作能力，即通過技術賦能人才。”在完全的人-AI組合工作實踐中，決策過程在很大程度上由AI主導，決策主體從人類實體向數字實體轉變（即決策實體逆轉）。屆時我們會首先在數字世界里制作出各種東西，然后再根據需要將其變成現實中的實體物品。也就是說，現實生活越來越像是數字世界的復制品，而人類則在上層建筑的架構及底層。同時，人類對組織和社會的影響逐步模糊。人與AI融合的終極形態標志著智能技術從傳統的被動工具轉向能動的決策實體，同時也將企業的焦點拉向核心倫理。

AI倫理是技術發展中不可回避的重大問題。AI并不懂得什么是對什么是錯，它是人類根據自己的理解、價值觀和決策過程來設計編寫的。所以當AI技術的廣泛應用帶來許多倫理上的困惑時，也僅僅是按照人類過去的經驗處理。大部分企業已經走上AI日常化的道路，所以需要構建完整的法律框架來規避由AI技術應用引發的倫理問題。例如，用于收集、存儲、分析和報告個人或團體在工作中的行動或表現的電子監控系統已在企業中大范圍應用，這是無視員工個人意愿的監視行為，這一行為是否侵犯了員工的隱私權仍不得而知。接下來，本文從人-AI組合工作實踐的身份出發，闡釋這兩種情境下的倫理危機（見圖5）。

身份一：人-AI組合型員工

人-AI組合型員工超越了傳統的人機合作或協同工作模式，更加強調AI與人類使用者各自優勢的互補，而非簡單的替代。人-AI組合的過程類似于智能增強，即AI技術與人類能力整合，形成更為復雜和動態的工作模式，促使人類與智能體形成共同的理念、實現共同的目標。

AI在實踐中的應用，已經展現出與人類工作融合的多樣化效能。阿里小蜜與京東客服這類AI客服系統能高效處理基礎咨詢，復雜問題則交由人工處理。Briggo Coffee通過部署自助式咖啡機器人優化前臺服務，將人力集中于更需定制化的后臺工作，實現成本與服務的雙重優化。政務領域，南昌和烏魯木齊采用基于云技術的機器人提供標準化服務，將專業任務交給人工處理。醫療行業，上海的微創醫療集團和傲鯊智能公司分別研發出了多臂腔鏡手術機器人與智能外骨骼機器人，使手術過程更精準、高效。從這些案例中，我們可以一窺AI在各個領域與人類合作的巨大潛力。然而，AI無論是作為工具還是同事，都存在著引發倫理危機的可能（見圖6）。

隨著人-AI組合模式的普及，工作環境和團隊結構也不斷變化。員工與AI系統的互動相較于人類同事互動頻率更高，這種新的工作模式可能使員工對工作期望和行為規范感到困惑。

首先，人和AI工作職能會有重疊。在AI技術進入工作場景之前，一些重復性、標準化的工作是由人類完成的，但現在這些任務逐漸被AI替代。雖然AI主要是以“輔助工具”或“自動化機器人”的形式幫助人類完成工作，但當AI扮演“數字員工”的角色時，它們會更像是具有人類特點和自主決策能力的伙伴，這讓員工難以明確自身與AI之間的工作職能邊界，究竟工作的哪些部分應該由自己完成，哪些應該交給AI。

其次，AI在完成任務時的高效率和準確性可能會讓員工對自己的工作貢獻和價值產生懷疑。面對同一件任務，當AI的完成度能媲美人類，或者第三方難以區分AI和人類員工對一項工作成果的貢獻度時，員工會質疑自己的能力和重要性。此外，當AI具有更高的自主性和決策能力時，還可能引發一些新的倫理問題，如AI決策的透明度和可解釋性問題、AI決策對人類員工的偏見和歧視問題等。

最后，當人類和AI對同一工作任務負責時，責任和成果歸屬會變得模糊。尤其是當AI扮演“數字員工”這一角色，與員工共享類似的工作職責和互動模式，可能會導致責任歸屬不明和期望收益不清晰等問題。

上述情況加深了人-AI組合工作實踐中員工角色的模糊性。面對角色模糊問題，員工會感到迷茫和不安，就像在茫茫大海中失去了方向。他們更傾向于采取保守策略以避免進一步的不確定性和風險，表現為回避的工作行為，如減少工作量、避免接受新的任務或挑戰及減少與同事和AI的互動等，因為這些行為可以降低不確定性和心理不適。同時，在角色模糊性增加的情況下，員工探索新機會和擴展職責范圍的意愿會降低，因為這可能會帶來更多不確定性和潛在沖突，他們不確定這些行為是否適合或被期待。

人類員工對貢獻有效的工作行為，如提出新想法、探索新的工作方法或擴大工作范圍等持消極態度，這不但會阻礙個人的職業生涯發展，還會限制組織的發展。員工要與AI有效合作，不僅需要對AI的功能、限制和適用場景有深刻的理解，還需要在遵循倫理規范和組織價值觀的前提下探討和建立與AI協作的原則和規范。

身份二：人-AI組合型管理者

在人-AI組合型的管理過程中，AI與人的職位、權力、職責的劃分有重疊也有制約。采取AI與人雙重管理的方式是為了合理分配任務、資源，優化決策，提高決策效率和決策準確率。具體而言，AI依托大數據與算法分析形成最合理的決策，人類領導根據組織實際情況并結合個人專業知識和經驗決定是否采納AI決策，并將決策結果輸入AI系統，進一步對AI進行迭代、訓練，不斷升級優化決策系統的算法。

人-AI組合管理的過程涉及AI對員工的單向監管。例如一些企業通過AI監控系統跟蹤員工的計算機使用情況，包括他們在工作時間內訪問的網站、打開的應用程序以及使用的社交媒體平臺，并自動檢測電子郵件和聊天記錄的關鍵詞、短語。同時，人類管理層會結合監管數據或其他評估數據對員工進行績效評估以及任命決策等。例如IBM將旗下的AI平臺“沃頓”（Watson）嵌入到人力資源管理活動中，沃頓可以基于員工的履約類型、教育經歷等信息出具對應的薪酬規劃建議，還可對企業的人力資源數據進行統計分析來輔助招聘和人員優化等。

對于大多數企業管理者而言，應用AI管理員工已經成為重要需求。德勤于2017年發布的調研報告《與機器人老板共舞，你準備好了嗎》顯示，近40%的受訪管理者認為，目前自己超過1/3的工作可以由人工智能替代。尤其是在財務管理、風控監督等工作中，AI的應用可能會更加普遍。同時，75%的受訪者認為自己的工作在5年內需要AI的協助，這一需求在企業規模大于2000人時會更為迫切。盡管人類管理者存在用AI協助管理這一需求，但AI在組織中的普及并不會一路暢通，部分算法輔助決策的研究表明人們對算法建議的接受度存在差異，不少的人類決策者更相信自己的判斷，特別是在算法出現錯誤之后。

一些研究表明，AI在數據處理、模式和趨勢分析上表現出色，還可無疲勞工作、多任務并行處理工作，在工作效率上優于人類。但也有觀點認為AI在人事決策方面并沒有人類公平，因為AI決策過程沒有或無法考慮候選人的創造力、熱情這類極難量化的維度以及獨特的社會背景等定性信息。所以AI、人類管理者及員工自身對同一工作行為可能會有不同的認知。在部分情況下，AI的無偏見反饋能為管理者提供參考，但AI的反饋都是基于給定信息的量化運算，而現實中的人事決策包含了人類情感、道德判斷、人際互動等復雜因素，且這種情境更偏好有“人情味”的決策。所以，大數據與算法的客觀性與人類經驗判斷的主觀性可能在人事決策反饋時給出矛盾的結論。

對于員工而言，當AI對某一行為的反饋與自己的認知不一致時，員工對AI的信任度會降低。如企業工作電腦后臺的行為監測系統會無差別地攻擊或限制員工的網頁瀏覽行為，并不考慮該行為是否與工作相關，這會讓員工對AI系統的公正性和有效性產生懷疑并感到不滿甚至反感。領導和AI給出互斥的反饋對員工而言則代表著企業規范強度較低，未能實現雙重評價機制的統一，會降低其對組織內公平的預期。當反饋互斥且AI反饋為負面時，雖然AI并不具備實際的執行任務的能力，但員工對技術的不滿會更加強烈。

對于人類管理者而言，信息是權力的基礎，當算法與大數據參與決策，人類領導的信息匱乏感會迅速增加。一方面，信息的相對匱乏會使領導對自身能力產生懷疑，他們會因為自己有限的數據處理能力、結構理解能力等感知自己的決策效能較低，因此有可能過分依賴AI的大數據分析，逐漸放棄自己的判斷。此外，互斥反饋會進一步加劇人類領導者的權力失衡感。另一方面，算法已經在組織中成為一種新的權威，面對AI算法強大的數據處理速度和能力，人類領導有可能會將機器視為自己的競爭對手，互斥的反饋會強化人類與AI的對立和沖突，讓人類領導感知到權力威脅。

在人-AI組合工作實踐情境中，大多數企業都忽視了AI技術的廣泛應用對管理者產生的負面影響，也忽視了基數最大的中層管理人員在應對這些倫理情境時面臨的挑戰，在企業基層承擔管理職責的管理型員工也將承受更復雜的考驗。

結語

隨著AI技術的廣泛應用，人們看到了這一技術的無限潛能，也察覺到未來道路中將布滿荊棘。AI技術的快速發展，讓勞動力市場的技術型勞動力群體向服務型和認知型轉移。然而，并非所有人都會接受市場的“判決”，被替代者有可能會通過非市場機制和極端行為來抵制企業采用創新技術的決定。如何在保障勞動力就業與技術進步之間找到平衡，在很大程度上反映了社會內部的力量平衡，以及技術進步的收益是如何分配的。這種平衡是社會力量在工作和技術之間交互作用的結果，未來的人類一定會與AI以某種形態共存。

脫韁的野馬是危險的，但對AI的擔憂也能夠激起社會大眾對倫理和安全性的討論。我們可以明確地感受到，社會倫理框架和法律條款未能根據技術的變化調整。企業作為社會的重要組成部分，應該履行相應的責任，主動在組織內部建立相關規范。通過人性和倫理規范算法方案，通過調和員工和技術間的利益平衡，將技術視為賦能員工的工具而非斂財的手段，從而度過危機。

技術本身并不會導致危機，如何應用技術才是關鍵，它決定了企業面臨的是危險還是機遇。