智能制造人機協同制造系統安全問題及其應對措施

盧光明

摘 要：智能制造系統是一種高度復雜的人機協同系統，協同問題和安全問題是該系統面臨的主要問題，而有效的人機協同是保證智能系統安全和效率的重要保證。論文從人類智能和機器智能之間的差異角度，分析這種差異可能導致的智能制造系統的安全，說明了智能制造系統可能面臨的安全問題，并提出了可能的應對措施。

關鍵詞：智能制造系統安全；人機協同；人類智能；機器智能

中圖分類號：120.5099 文獻標識碼：A

Security problems and Its countermeasures for human-machine-cooperative intelligent manufacturing system

Abstract： Security and coordination are key problems for human-machine-cooperative intelligent manufacturing system. From the difference between the Human Intelligent and Machine Intelligent， this thesis reveal the potential security problems and its countermeasures for human-machine-cooperative intelligent manufacturing system.

Key words： security problems for intelligent manufacturing system； human-machine-cooperative； human intelligent； machine intelligent

1 引言

信息技術的飛速發展及其在社會經濟領域的廣泛滲透不僅會極大地促進整個社會運行效率的提升，加速整個社會的創新發展進程，同時也會改變社會的風險分布格局，增加整個社會經濟的整體運行風險。本文主要從信息技術在制造領域的應用，探討信息技術應用在提升傳統制造企業效率的同時，也極大地增加了未來人機制造系統的風險的情況下，分析未來人機制造系統的風險特征，以及如何應對智能制造時代，人機制造系統的各種可能風險。人類文明的所有成果都是需要付出相應的代價，而智能化時代，我們必須付出的代價可能就是各種風險的增加，以及在風險控制方面付出必要的代價。

2 智能制造的風險特征

2.1人機智能協同問題

智能制造從根本上來說就是要借助不斷發展的現代先進技術改變傳統制造環節的各個流程，以更經濟的方式實現更高的客戶價值，甚至創造出新的制造形態和模式，提升制造企業的整體競爭力。從操作層面來說，就是讓傳統制造環節中基于人與機器之間機械性能方面的協同，向以更高層面的人與機器智能之間智能方面的協同發展，減少人類智能的缺陷對制造環節的影響，而充分借助機器智能方面的優勢來彌補人類智能的可能不足。因此，從根本上來說，智能制造就是要探索機器智能與人類智能之間的平衡和協同發展模式，創造出人類智能和機器智能之間相互促進、相互補充的新的人類制造文明形態。

2.2 智能交互安全問題

習慣于傳統制造環節中人與人、人與機械之間相互作用所產生的風險，未來智能技術的發展和向制造環節的滲透，將改變這種傳統的操作界面，以及操作界面的管理模式，從而產生出極大的制造安全風險，甚至會蘊藏著新的可能的社會風險。突破傳統的人與人、人與機械之間的互動，未來智能制造時代，制造業更多地會是人與智能機器之間、智能機器與智能機器之間、智能系統與智能系統之間的交流，在車間層面人和人之間的交流會較少，生產流程的跟蹤、改進和優化需要智能生產系統本身的演進來完成，諸多的質量檢查工作，生產任務排程、供應鏈管理、客戶關系管理，甚至為數不多的相關工作人員的績效考核等工作都可能會借助智能技術來自動完成。

2.3 人機界面安全問題

在這樣的智能系統中，智能制造系統的未來風險主要存在于人機界面層次，任何一個環節中人類智能與機器智能的脫節或不嚴謹的對接都會可能導致整個智能系統風險的產生和蔓延，并導致系統的崩潰。而這種人機界面方面的系統風險，不僅主要存在于人類智能與機器智能是兩者不同性質的智能，兩者的共同特征比較少。更困難的是這兩種智能彼此缺乏溝通的經驗和渠道，對于絕大多數人而言，人類智能還不能夠很好地理解機器智能；而對于當前的大多數機器智能系統來說，還沒有充分演化到可以輕松地理解人類智能的程度，還在自身的邏輯體系中進化，盡管其被稱為“人工智能”，但是還是很難理解人類的行為，甚至很難與除專業人士以外的人類進行溝通。

3 機器智能與人類智能

3.1 人類智能

美國哈佛大學心理學教授霍華德·加德納研究認為，人的基本智能可分為八種類型，即語言智能、邏輯數理智能、音樂智能、空間智能、運動智能、人際關系智能、自省智能和自然觀察者智能[1]。但是，他認為人類的這些智能并不能夠證明是先天就存在的，而是需要父母在日常生活中全面、細心地觀察孩子方方面面的表現，從而挖掘出他的優勢智力并適時地加以引導而出現的，也就是說人類智能與后天培養有緊密的關系。

從起源上來說，人類智能來自于遺傳、來自于傳統和習慣、來自于人類數億年的進化，來自于人類的生存環境，以及人與周圍環境的不斷互動。超越個體的人，人類群體的復雜給人類智能產生了幾乎無限試錯的可能，以及無限的創新空間。而驅動人類智能發展的除了邏輯之外，更多還有各種感性的因素推動人類智能的發展。單純從某項功能來說，個體人的智能可能有限，但是個體人是全面發展的智能，即使人在存儲和運算能力方面不及計算機，但是確實當前的機器智能很難全面達到一個5歲小孩的智能水平。

3.2 機器智能

從目前來看，不管機器智能的表現形式如何，其基本都是基于特點的邏輯算法來實現的。其表現形式和應用領域還非常有限。不管未來機器智能會不會形成自身演進的機制，其歸根結底還是來自于人類智能的創造，是人類理性的產物，只能按照人類原先的程序設計執行相應的活動，并達到預期的效果。這就導致機器智能缺少自身活動的自覺性，和自身的目標感和意義感，也缺少了推動人類發展的情感和意志在活動中的作用。

因此機器智能和人類智能的一個顯著差異就是，缺少了人類的意志和意向。意向是人類智能的一個重要方面。人的活動是有目的的、自覺的活動，一刻也離不開自己意向性的主導。注意、需要、意圖、情緒、意志、理想等都是人的意向活動形式。而思維是人類智能的核心，其特點主要是思想和思維。“人是一種思維的動物”，沒有思維就沒有人類的智能。有了思維，人類才能形成各種較復雜的意向，從而主導著人的活動，表現出人類所特有的自覺能動性。有了思維，人類才能發明各種技術，突破自己認識器官和行動器官的限制，大大提高改造世界的能力。

3.3 人類智能與機器智能對比

在未來一段時間，人類智能能夠處理的環境要比人工智能面對的環境要復雜得多，人類智能是一個自治、自洽的和完備的系統。尤其在處理一些復雜的系統性問題方面，人類智能能夠以超高的容錯率在巨大的信息流中發掘出有價值的信息，能夠準確做出判斷。人的智能可以產生意識、感情和創新，這類幾乎無法用邏輯解釋的問題。這是人類智能的最顯著的特點，也是目前區別于機器智能的主要方面，同時也是導致智能制造系統風險的重要原因。如果要解決未來智能制造中所面臨的諸多安全問題，就必須要從此環節入手，從根本上解決未來智能制造系統中可能面臨的諸多安全挑戰。

4 人類智能的局限及新的表現形式

4.1 人類智能的局限

人類智能在相對于機器智能存在諸多優勢的同時，這些優勢從另外一個方面考察，則也是人類智能的局限。如人類在情感與意志方面的長處，從安全的角度考察則會發現人類智能會存在“捕獲錯誤”“認知偏差”“心理波動”“環境暗示”等方面的智能路徑依賴方面的問題。這些問題都有可能是導致未來智能制造系統發生安全問題的重要原因。

4.1.1“捕獲錯誤”局限

在英國劍橋大學計算機實驗室信息安全工程教授、英國皇家學會會員、皇家工程學會學院院士Ross Anderson所著的《信息安全工程》（第二版）中，認為人類操縱設備時所犯的錯誤主要歸納為三類，分別為技巧層面的疏忽與過失、規則層面的錯誤和認知層面的錯誤。而“捕獲錯誤”就發生在技巧層面的疏忽和過失。它是指人在執行操作通常會形成一種技巧，但這也帶來一種副作用，如果不小心，就會導致潛意識地執行熟悉的操作，而不去執行本該需要執行的操作[2]。黑客就利用人類的這些已經深入潛意識中的習慣，設計一些陷阱讓人中其中的圈套，獲得其所期望的攻擊機遇。

4.1.2“認知偏差”局限

認知偏差是指人們根據一定表現的現象或虛假的信息而作出判斷，從而出現判斷失誤或判斷本身與判斷對象的真實情況不相符合的現象。暈輪效應就是一種典型的認知偏差，當一個人陷入特定的心理模式的時候，就會人為某種行為，或者是某種態度就是好的，是對的，而對其他的情況則不聞不問，閉耳塞聽。這其實是人心理方面的路徑依賴所產生的一種心理情境，是人的偏執和倔強所產生的一種心理現象。這種問題如果不能夠得到客觀、理性的解決，則會對周圍環境帶來很大的破壞和沖擊。

4.1.3“心理波動”和“環境暗示”局限

“心理波動”和“環境暗示”則是人類作為一種情感動物所體現出來的最顯著的特征，情緒和心理在給人以明確的意向和意志的同時，也給人帶來了先天的脆弱。人很難控制自己的心理波動和環境對人的情緒所施加的影響，而人類的這種脆弱性很容易被不法分子所利用。尤其是環境暗示方面，別有用心的人會設置特定的情境，讓當事者在沒有搞清楚具體情況的背景下就做出錯誤的決定，導致重大的信息泄露或者操作失誤。傳統的制造環節中，個體的力量還是有限的，但是在智能設備的輔助之下，個人的能力將獲得空前提升，操作失誤或者是別有用心的破壞都會對制造環節造成不可挽回的損失，

4.2 人類智能局限新的表現形式

當然人類作為萬物之靈，具有比其他物種更多的優勢。但是從安全的角度來看，在智能制造過程中，或許更大的安全問題來源于文化的沖突，是制度型的沖突。對于很多制造企業而言，如果不能夠擺脫傳統的企業問題和管理制度，則智能技術在制造環節的實施將會給企業帶來難以預料的風險。這種風險還很難發現，被當下的文化所合法化包容，成為智能制造技術發展過程中的盲點。尤其是當人處于信息超載的情境之下，都會導致人失去自身的理性，而不假思索地遵循最強的制度和規則，或者是在特定的情境下通用的規則，內心遵從不求有功，但求無過的保守思路來處理可能出現的各種風險。

5 數據、程序和機器智能的局限

5.1 數據是當前機器智能的基礎

盡管目前算法驅動的機器智能技術有了新的突破，但是在未來很長一段時間之內，數據依然是驅動機器智能發展的基礎。而算法和程序依然主要是依據人類智能的邏輯理性發展出來的，所以算法和程序所產生結果的準確性，現在還主要取決于輸入數據的準確性，以及獲取數據的全面性。

當然這里談數據的局限性，并不是要否定數據的價值。而是讓人們在充分認識到當前數據利用方面的和不足之后，才能更加有效地對其進行采集、加工、應用，充分挖掘和發揮其價值，有效規避數據利用中可能存在的各種安全問題，真正發揮數據的價值。當然這里只是從制造各環節安全的角度分析數據對未來智能制造安全性能方面的影響。

5.2 數據噪音問題

首先是未來各行業都將不得不忍受各種數據噪聲的影響，而制造業尤甚。因為制造業各環節不僅利用的數據多，而且生產的數據也不多，而且來源各不相同，格式也會不同。由于各子系統自身的目標可能會存在不一致，導致系統總體會出現相互矛盾的分析和判斷。在這海量的數據中，并非所有的數據都是有用的，大多數時候，有用的數據甚至只是其中的很小一部分。隨著數據量的不斷增加，無意義的冗余、垃圾數據也會越來越多，而且其增長的速度比數據信息更快。

5.3 數據真實性判定問題

對數據真實性的分析和判斷。未來隨著個性化定制的發展，制造業各環節的信息會越來越對外開放，尤其是CRM系統和SCM系統的數據需要對大量的用戶和供應商開放。而網絡數據中存在著大量的虛假個人注冊信息、假賬號、假粉絲、假交易、灌水貼及其他虛假、甚至是惡意的信息和數據等都是未來制造環節中需要面臨的安全問題。這種失真是由網絡本身的特性決定的，比如說，絕大多數社交網站很難也不會對會員注冊信息的真實性進行全面核查，電商平臺也無法控制一人注冊多賬號，或賬號與實際消費個體的非對應關系。同時各種通過原始方法采集的個人信息數據也無法保障其真實、準確。就拿電信運營商來說，即便推行了實名制，數據質量與期望仍然存在相當大的差距。

5.4 數據的誤導與人類的誤讀

第三是警惕數據的可能誤導，以及人類的可能誤讀。這是與所獲數據的代表性、真實性、完整性、解釋性等的局限性緊密相關。對統計現象只看結果不重解釋，很可能導致錯誤甚至危險的結論。在二戰時期英國與德國的空戰中，工程師發現，每次戰斗機回來機翼上都帶有很多槍眼，因此認為機翼是最容易受到攻擊的地方，需要進行特別防護。可是增加防護之后，飛機的損失率不但沒有降低，反而提高了。這就是人類對數據誤讀而導致的結果。邁爾·舍恩伯格在《大數據時代》一書中認為大數據應該是全樣本，不再依賴隨機取樣，這樣的說法是一種理想的狀態，而且即使獲得了全樣本的數據，程序的處理能力也未必能夠對其及時進行正確分析[3]。現在制造領域中的社群營銷，本身就會有很多所謂的“意見領袖”在主導著群體的消費偏好，所謂數據的“中性”問題，可能不得不面臨人類社會現實中具體結構的左右。因此，數據的誤導和人對數據的誤讀會在所謂“數據驅動”的時代顯得更加突出。

5.5 數據的維度與時效問題

數據的維度和時效性也是從數據本身的角度可能引發相應的安全問題，而這些又與人認知的局限性有關。畢竟，數據獲取的選擇權還是集中在人的認知范圍之內，如果有些數據源不在決策者當前的認知范圍之內，則可能會導致不可預知的風險。這種數據維度缺失的風險可能會導致智能制造系統的失效，或者是達不到預期的效果。同時還有數據時效性問題，數據采集的時間間隔，對多久的歷史數據進行分析才能夠更加有效這些問題，也是在數據驅動的制造中必需要解決的問題。從特定的意義講，數據應用是建立在全社會、全網設備共同的數據標準基礎之上，應融合企業自身、上下游產業鏈企業、政府相關統計數據、科學研究最新進展等跨領域、跨行業、跨平臺數據的集合，是社會化的數據應用和整合。

5.6 模型和程序設計者的局限

決定當前的機器智能智能化程度的除了數據之外，還有模型和程序方面的因素。模型和程序從目前來看，主要是由人類智能設計的，這就使得機器智能很大程度上由設計者的認知、智力，以及設計者所處的組織、社會環境所局限。當然在目前的環境下，技術，尤其是信息系統的計算能力、網絡的傳輸能力，以及相關社會技術系統所決定的安全性也會直接或間接限制數據、模型和程序的設計和運行。但是，如果決策者如果忽略了這些局限性，過高地估計了機器智能的智能化程度，就會造成可能的決策失誤，甚至會釀成災難，最后對機器智能造成負面的評價。

6 人類智能和機器智能挑戰的可能場景

人類智能和機器智能這兩者之間本身各有其優勢，也各有其特點，并且本身存在較大的互補性，如果能夠實現彼此的優勢互補，則會極大地提高人類社會的福祉。但是，由于機器智能是剛剛出現的智能，兩種智能之間還沒有“學會”優勢互補的發展，就必然會帶來相應的沖突、風險，并最終可能導致潛在的各種安全問題。

6.1 挑戰傳統思維原則的風險

對數據的解釋性可能帶來的沖突風險。機器智能是基于特定的邏輯程序，通過對輸入數據的分析以發布各種數據之間的相關性。這種相關性正如舍恩伯格所言，“不是因果關系，而是相關關系”，只需要了解是什么或未來會發生什么，而不是需要知道為什么，或者是這些事情之間的因果關系[3]。

對于習慣于因果性思維的人來說，相關關系僅代表著過去和個案，對事物沒有解釋性，有時甚至是錯誤的，而且不能夠上升為特定的規律。人類理性經過了數億年的進化之后，認為只有掌握了事物之間的因果關系、原因機制和科學原理，才能舉一反三，總結發生的規律，才能夠推動整個制造系統的改善和進化。尤其是制造關鍵環節的改進方面，人類理性怕還是很難理解機器智能基于數據所謀劃出來的最優算法。如在智能制造智能排程方面，人類智能怕很難發現機器智能排程的局限，也很難發現其中潛在的排程風險。

這種基于數據和算法的解釋，缺乏人類智能的因果性判斷，會造成人類智能在機器智能面前不知所措，即無法理解，又好像無法拒絕，也缺乏更好的替代方案。在社會智能化大轉折的時期，人類這種即好奇，又不知所措的感覺會維持較長的一段時間。而在這種困惑的轉型過程中，人類智能與機器智能之間的互動，會經歷風險叢生的不停的試探過程，甚至是試錯過程，人類智能也會經歷不停的反思、調整、改造、進化和完善。而這個過程會充滿風險，充滿安全方面的挑戰。因為這是在對人類智能基礎層次方面的挑戰，是對傳統文明根基方面的挑戰。

6.2“他者”智慧擴張的風險

就智能制造而言，盡管都在講個性化定制給消費者所帶來的“福利”，但事實是無所不在的媒體，以及無所不在的信息“感知”和“跟蹤”對消費者個人信息的掌握，以及可能是對個體行為和消費層面的“控制”。而在這種“感知”和“跟蹤”的背后，操縱者正是具有技術智能的“數據領袖”，或者是“智能領袖”，以及“輿論引導者”。所以，在機器智能的背后，隱藏著的是某個，或者是某一特定群體的價值取向、行為方式。因此在表面的“自由”背后，隱藏著的是某些特定的個體或群體智能對大多數人類智能的“洞察”、“操縱”和“控制”。如果這些具有極強操控能力的人，利用自身的操縱地位做一些有相對風險的操作，那么就會對社會產生極大的風險。

對于大多數人而言，這種具有直接或間接影響的智慧并不是來自于自身的思考，也不是來自于傳統社會中人與周圍環境的正常互動所產生，而是來自于特定人群有目的的操控，所以這種借助機器智能達到對別人影響的機器智能，事實上來自于“他者”，而且還可能是來自不同目標的“他者”，這就會給大多數的制造企業、給消費者帶來影響和困擾。而隨著機器智能由生產環節，向生活場景的滲透，以及借助機器智能將生產環節與消費環節的打通，這種借助機器智能的“他者”智慧會迅速擴張，通過網絡社群，各種自媒體終端，各種帶有營銷性質的文章，甚至借助特定的對特定個體日常生產的技術干預來達到預期的目的。當然，這種“他者”智能的廣泛入侵會對個體產生不適，從多層次上造成對個體的安全影響。

6.3 兩種“智能”彼此挑戰的風險

從目前技術發展趨勢來看，機器智能是從人工智能產生出來的，但是機器智能確實又在一定程度上脫離人類智能的控制，或者是獨立于人類智能發展趨勢的風險。未來社會中兩種智能之間不僅會產生彼此不熟悉而產生的摩擦，以及直接的碰撞，而且可能還會發生引領地位的爭奪。這種爭奪在人的意識層面發生，在未來人類的任何決策中發生，在未來人的任何一種選擇的時候發生。對于智能制造企業而言，在制造各個環節都可能發生，因為在制造各個環節都會存在到底要依靠機器智慧，還是依靠人類智能的選擇問題，以及當機器智能與人類智能發生沖突時，到底相信哪種智能方面的問題。現在，由人工智能發生所引發的關于未來“人工智能”是否會挑戰人類生存就是這方面的集中體現，而事實上在微觀層面，這樣的挑戰無時無刻地挑戰人類群體和個體的選擇。就拿最簡單的出行導航來說，人在出行時到底是應該相信自己的經驗，還是各種“導航設施”的指引，而且在這方面還是互有勝負，在目前的導航技術面前不分伯仲。而在未來無人駕駛，以及智能生產線之中，這樣的選擇就必需要微妙、甚至在更短的時間維度內做出決策，否則就有可能存在著重大安全事故的風險。

對于智能制造的未來發展來說，人類智能和機器智能在制造生產預測方面存在著可能的沖突與風險。在對未來的分析和預測方面，舍恩伯格也曾坦言，與大數據同行是有一定風險的，大數據有可能會把我們鎖定在以往的錯誤當中，使我們墮入讓過去決定未來的陷阱。因為從根本上講，數據只是對過去和當前現實的歸納和總結，其雖然可以用于對趨勢和方向的分析，但總體上來說決定未來發展趨勢的是事物深層次的內在因素及相互作用，而表現出來的數據現象還不善于對這種趨勢做出分析。如企業涉及戰略層面的決策等還是需要諸多潛在的、非數據化的因素需要進行綜合的分析，里面還有許多涉及企業文化、領導者氣質和風格等多方面的因素要考慮。而在企業層面人類智能與機器智能之間的界限，還需要企業大量的實踐來摸索，而這種摸索過程中本身就可能會存在大量的生產和運作風險。

6.4 整體智能與局部智能之間彌合的風險

從目前機器智能的能力來看，這種智能主要依靠深度學習獲得，是由人類智能設計的模型、算法和程序來決定，但是機器智能的結果人又非常難以理解，給人與機器的互動帶來各種風險和麻煩。對于智能制造系統來說，人理解方面的偏差、操作方面的失誤、對機器表達方面的不精確都會造成重大的安全事故，而機器智能設計方面的問題、病毒的入侵、不恰當的系統更新、隨機的系統調試，以及對人類不精準指令的容錯能力的局限等都有可能造成機器智能系統的紊亂，對智能制造系統造成不可彌補的損失。

總體來說，由于受當前技術發展的限制，機器智能一般擅長于處理事務的局部特征，其智能主要集中的特定的、規則相對穩定的環境下對相關事務的處理，這方面的局部智能方面機器智能已經超越了人類智能，但是在整體情境的判斷方面，機器智能與人類智能還不能相比。人類智能經過數千年的進化，在對客觀和主觀形勢整體把握方面現在還遠遠超過機器智能。機器智能不管多么強大，其只是在有限的特征空間里去認識事物，根據算法得出的判斷模式做出判斷；而人對周圍環境的認識是從語義空間中經過抽象的歸納和演繹做出判斷，甚至依賴想象、類比、轉換、同理心等更高級的思維形式。所以，人類思維具有較強的整體把握能力。機器智能在局部判斷方面的優勢，以及人類思維在整體把控方面的特點如何有效對接，是未來智能制造系統中面臨的挑戰，銜接不好就會釀成巨大的系統風險。

6.5 信息資產投入產出方面的風險

信息資產投入與產出的平衡是目前困擾大量制造企業的新問題。智能制造相關技術及發展前景被媒體做了很多正面的報道，但是必須要指出，智能制造相關技術及企業的相關數據資產應該是一種價值密度較低的資產，這些資產只有經過多年的積累，摸索出這些資產的準確的應用場景之后才能夠發揮出其新的價值。在這些資產在被真正激活前需要進行大量的前期投資，而且還必須要有前期的有效規劃，以保證這些前期投資的正確性和有效性，以及企業領導足夠的戰略耐性。數據資產的網絡效應，或者是邊際效用遞增規律存在，可能會在產業層面導致產業集中度的上升，產業競爭程度的降低，甚至一定程度市場壟斷。這也是產業層面制造產業可能面臨的風險。

7 應對智能制造可能風險的對策

既然智能制造未來發展中面臨的主要挑戰是人類智能與機器智能之間彼此的不適應可能產生的沖突，以及由此而引發的各種風險。從目前來看，智能技術的發展導致的傳統制造文明的危機，是對傳統制造風險的重新定義。從人類社會文明的發展趨勢看，這種風險更多的是由于人類還沒有充分適應性的機器文明所引發的，因此應該主要從人類對新的機器文明適應的角度來更多地考慮當前和未來可能存在的智能制造方面的安全問題。

7.1 強調人類思維和行為的嚴謹性

智能制造系統設置時應在突出機器智能人性化發展的同時，更加要強調人類思維和行為的嚴謹性，適應未來“數據驅動制造”和“軟件定義制造”帶來的整個人機制造系統的邏輯化、緊密化和程序化的發展趨勢。在可以預期的將來，人類智能需要適應這種機器智能發展所帶來的影響，減少人類傳統的不精確、情緒性和認知偏差可能對制造各環節可能帶來的安全風險，學會與機器智能的協作和交流，促進制造過程的實現有序的人機協同。這就需要人類智能不斷適應機器智能的發展，理解其運作機制，克服人類理性自身存在的不適應之處。

7.2 從人機協同的角度重新定義新的崗位及其職責

要從人機協同的角度來重新定義各種新的崗位，以及相關崗位的職責要求和人員的從業能力和資質。從微觀角度來考察，目前建立在人與人、人與機器之間的傳統制造企業組織和管理方式，已經不能夠適應未來智能制造的發展要求。各行業，乃至各企業需要從各自發展的角度重新定義自身的崗位分配，并重新核定各崗位所需要的人員素質和能力。為消費者提供個性化定制的企業一定同時也是個性化的企業，面臨個性化的安全問題和個性化的解決方案。目前很多企業內部建立自身的培訓體系，主要針對內部員工進行培訓，就是要從企業獨特競爭力培養的角度來為建立自身的組織分工體系結構，以及員工獨特的能力培養服務。

7.3 重新塑造新的工業文明和商業文明

機器智能的發展需要塑造新的工業文明和商業文明。從更深的層面來看待當前和未來人類智能與機器智能之間的關系，尤其是其在制造環節中的體現，還需要從文化的角度來看待這種變革，從商業文明和技術文明的角度來看待企業面臨的這種新的安全挑戰。當前，商業和技術都很重要，是推動現代和未來企業發展的動力，但事實上是商業和技術背后的價值觀更重要，這種新的價值理念才是推動各種問題解決的最終動力。事實上，傳統的價值理念與新的發展趨勢之間的矛盾，才是導致當前和未來人類智能和迅速崛起的機器智能之間矛盾的根源，也是導致未來制造企業安全問題的關鍵。

7.4 智能制造系統要考慮兩種智能之間的互補

在智能制造系統設計時要充分考慮到人類智能與機器智能之間的差異性和互補性，讓人類智能和機器智能各自發揮其優勢而彌補彼此的不足，讓智能制造系統能夠安全和高效地運行，這是對智能制造系統的基本要求。而當前我國企業在實施智能化改造時，更多地考慮制造系統的效率，而忽略了對安全性、易操作性的考量。按照功能安全的視角，智能制造系統應該是從整個系統安全屬性的認知開始，在智能制造的全生命周期各階段體現出對安全屬性的認知、繼承、實現、評估和反饋。在系統軟件的不斷演進的特點，實現智能制造系統人類理性和機器理性的協同，提升智能制造系統的安全性[4]。

7.5 人類智能依然是智能制造系統的核心

不僅是在制造領域，隨著以人工智能等為代表的機器智能的興起，人類智能與機器智能之間的碰撞會發生在經濟社會生活的各個方面，機器智能會作為人類智能的助手和有益補充，與人類的生活工作如影相隨，為人類帶來諸多的便捷。但是如果兩者之間不能夠實現有效的協同，則不僅不會帶來方便，而且還會引發諸如隱私泄露、操作失誤，甚至造成不必要的傷害等安全事故。所以需要人類從行為層面、制度和規則層面，以及價值層面接受這種新的智能，并學會與其和諧相處的能力，才能彼此協同，克服各種可能的安全困擾，創造出新的人類智能與機器智能相互促進的新的人類文明時代。

參考文獻

[1] 霍華德·加德納（Howard Gardner），著；沈致襄，譯.重構多元智能[M].北京：中國人民大學出版社，2008年3月.83頁.

[2] Ross Anderson，著；齊寧，韓智文，劉國萍，譯.信息安全工程（第二版）[M].北京：清華大學出版社，2012.17.

[3] 維克托·邁爾·舍恩伯格，肯尼思·庫克耶，著；盛楊燕，周濤，譯.大數據時代——生活、工作和思維的大變革[M].杭州：浙江人民出版社，2012年12月.25頁、37頁.

[4] 宋明秋.軟件安全開發——屬性驅動模式[M].北京：電子工業出版社，2016.5.16.