消除人工智能中的“智能”風險

陳凱艷 鐘濱

人工智能（Artificial Intelligence），英文簡稱AI，是一種模擬和模仿人類智能的技術(shù)，旨在使計算機具備理解、學習、推理和決策等智能能力。它通過分析大量的數(shù)據(jù)，使用機器學習和深度學習算法，以及其他相關(guān)技術(shù)，來實現(xiàn)人類智能的某些方面。人工智能技術(shù)在各個領(lǐng)域有廣泛應用，包括醫(yī)療保健、金融服務、交通運輸、制造、娛樂等。它為人類帶來了許多便利和創(chuàng)新，但也引發(fā)了一些倫理和社會問題，需要相關(guān)人士探索解決方案。企業(yè)人力資源管理是指一種系統(tǒng)化的方法，通過合理規(guī)劃、組織、領(lǐng)導和控制企業(yè)內(nèi)人力資源的活動，確保組織能夠招募、發(fā)展和留住合適的員工，以支持實現(xiàn)企業(yè)目標。近年來，人工智能技術(shù)在企業(yè)人力資源管理中發(fā)揮著重要的作用，如表1所示，企業(yè)利用人工智能技術(shù)可以提高效率、減少人為錯誤，并為人力資源決策提供數(shù)據(jù)支持。

人工智能技術(shù)的潛在風險

人工智能技術(shù)所具有的“智能”的優(yōu)勢，給企業(yè)人力資源管理帶來了許多機遇和便利，然而，辯證地看，優(yōu)勢也可能成為劣勢，甚至會給企業(yè)帶來一些風險。

●數(shù)據(jù)隱私安全性問題

企業(yè)引入人工智能技術(shù)后，會加深對人工智能技術(shù)的依賴。如果技術(shù)出現(xiàn)故障或不穩(wěn)定，可能導致管理系統(tǒng)癱瘓或做出錯誤的決策，給企業(yè)帶來損失。人工智能技術(shù)在人力資源管理中需要處理大量員工數(shù)據(jù)，包括個人信息、績效評估數(shù)據(jù)等。這就帶來了數(shù)據(jù)隱私和安全風險，如果不加以妥善保護，可能導致數(shù)據(jù)泄露和濫用等問題。例如，某些惡意程序可以利用AI算法，通過機器學習造成系統(tǒng)意外操作。

●不公平和歧視風險

人工智能技術(shù)的應用可能存在不公平和歧視的風險，例如在招聘中，算法可能會基于歷史數(shù)據(jù)產(chǎn)生偏見，從而影響候選人的選拔結(jié)果，企業(yè)需要審慎考慮算法設計和數(shù)據(jù)采集。再比如，某些機器學習模型可能會將某些群體排除在外，從而做出不平等的決策。

●人機協(xié)同與溝通問題

人機協(xié)同需要機器具備足夠的知識和技能來執(zhí)行任務，然而，機器的知識和技能仍然有限。因此，當面對復雜或新穎的任務時，機器可能無法提供足夠的幫助，從而限制了人機協(xié)同的效果。由于機器無法像人類一樣理解和適應任務的復雜性和變化性，任務分配和協(xié)調(diào)可能變得困難，導致效率降低和沖突出現(xiàn)。

●對員工心理的影響

人工智能會取代一些低技能、低附加值的工作，使得一部分人失去工作。例如，在工廠里，機器學習技術(shù)可能會自動化取代重復性的工作，導致一些工人失業(yè)。另外，一些需要高度專業(yè)知識和技能的工作，如醫(yī)生、律師和會計師等，也可能會被自動化和機器人所取代，使得這些行業(yè)的從業(yè)人員面臨失業(yè)的風險。這會引發(fā)部分從業(yè)者心態(tài)上的變化。

消除“智能”風險

●消除數(shù)據(jù)隱私安全性風險

當我們討論數(shù)據(jù)隱私時，首先需要明確的是：隱私的定義是多元和復雜的，它在不同的文化、法律體系和個人價值觀中有著不同的含義和界定。在一些文化中，隱私被視為一種基本人權(quán)，而在其他文化中，它可能被視為次要考慮。這是一項復雜的任務，需要采取綜合性的措施。大體上可采取以下4種措施：（1）采取數(shù)據(jù)加密、匿名化、訪問權(quán)限控制等措施來保護數(shù)據(jù)的隱私。（2）在開發(fā)人工智能應用程序時，必須要考慮安全需要，選用合適的密碼學算法（例如區(qū)塊鏈技術(shù)）并建立完整的防御機制。對人工智能系統(tǒng)進行安全性評估和測試，包括漏洞分析、攻擊測試等，以確保系統(tǒng)在面對潛在威脅時具有強大的安全性能。（3）建立相關(guān)的法律和監(jiān)管框架，明確規(guī)定人工智能技術(shù)使用的范圍、限制和責任。（4）提高企業(yè)和員工的安全意識和技能，包括員工培訓、用戶教育等。（5）強化企業(yè)的責任感，企業(yè)和開發(fā)者應該承擔對他們所創(chuàng)建的人工智能系統(tǒng)的責任，并遵守相關(guān)的道德和法律規(guī)定。

●消除不公平和歧視風險

1.提升透明度和可解釋性：確保人工智能系統(tǒng)的決策過程是透明和可解釋的。這有助于員工理解系統(tǒng)如何做出決策，并可以檢查系統(tǒng)是否存在不公平和歧視的傾向。

2.保證數(shù)據(jù)質(zhì)量和多樣性：確保訓練人工智能系統(tǒng)的數(shù)據(jù)集具有高質(zhì)量和多樣性。如果數(shù)據(jù)集存在偏見或不平衡，可能會導致系統(tǒng)在做出決策時對某些群體不公平。

3.強化監(jiān)測和審查機制：建立監(jiān)測和審查機制來發(fā)現(xiàn)和糾正人工智能系統(tǒng)的潛在不公平和歧視問題。

4.鼓勵多元化團隊參與：在開發(fā)和應用人工智能技術(shù)的過程中，重視擁有多元化的團隊和參與，以避免偏見和歧視的產(chǎn)生。

5.持續(xù)改進反饋機制：針對員工和用戶的反饋，持續(xù)改進人工智能系統(tǒng)，糾正和消除不公平和歧視的問題。

●解決人機協(xié)同與溝通問題

1.明確各自的角色和優(yōu)勢：人類具有創(chuàng)造力、情感和社交能力，擅長靈活思維、復雜決策和創(chuàng)新等任務；而機器則擅長處理大量數(shù)據(jù)，執(zhí)行精確任務和高速計算等。

2.建立緊密的溝通與協(xié)調(diào)機制：溝通包括人與機器之間的雙向交流，以及機器之間的信息共享與傳遞。為此，企業(yè)可以通過設計友好易用的用戶界面、采用自然語言處理技術(shù)實現(xiàn)交互式對話等方式，促進人與機器的有效溝通，實現(xiàn)更高效的協(xié)同工作。

3.保障合作關(guān)系的安全和可靠：在數(shù)據(jù)共享與傳遞過程中，需要采取相應的安全措施，保護敏感信息和隱私。同時，還要建立合理的監(jiān)控和檢測機制，及時發(fā)現(xiàn)和修復潛在的安全漏洞和問題。

4.為員工提供必要的培訓：這有助于提高人機協(xié)同的效果和效率。

●消除員工焦慮心理

AI如此出色，這讓不少員工產(chǎn)生了深深的焦慮——不知何時自己會被淘汰。當然，我們可以采取積極的措施來應對這些挑戰(zhàn)，提高自己在職場和生活中的適應能力。

1.保持學習：通過參加在線課程、講座和實際項目，不斷提升自己的專業(yè)技能。這樣，員工就能更好地適應不斷變化的工作環(huán)境，結(jié)合AI找到新的職業(yè)發(fā)展機會。因此，員工要把終身學習納入工作計劃并貫徹落實。

2.培養(yǎng)多樣化的技能：學會跨領(lǐng)域的技能將有助于員工在不同的行業(yè)和領(lǐng)域中找到新的發(fā)展機會。這樣，員工就能在不斷變化的市場中保持競爭力。年輕人的優(yōu)勢就是“年輕”，有大量的時間去接觸更多的新鮮事物，在AI的協(xié)助下員工可以探索更多領(lǐng)域，探索無限的技能。

3.保持積極的心態(tài)：我們應該將變革視為機遇，而不是威脅。嘗試找到新的興趣點和發(fā)展方向，并從中尋找新的挑戰(zhàn)和成就。其實AI的出現(xiàn)帶給企業(yè)更多的是機遇，這需要全人類共同開發(fā)，讓我們的工作和生活更加“智能”。

作者單位 江西理工大學