“波音事件”對智能硬件安全發展的啟示

盧光明 陳茵

摘? ?要：利用智能技術對傳統硬件產品進行更新改造，不僅是傳統產業轉型升級的必由之路，而且也是人類進入智能時代的一個重要切入點。但是，如何為智能硬件的發展營造一個相對健康的產業環境，規范相關產業的發展，一直是政府相關主管部門和產業關注的焦點?！安ㄒ羰录钡陌l生，在一定程度上為智能硬件的發展提供了借鑒。文章從企業經營、第三方監管、智能系統設計等角度，闡釋了智能硬件開發的基本方針和原則，為我國智能硬件的健康發展，提出了建設性建議。

關鍵詞：智能硬件;波音事件;硬件安全;政策建議

中圖分類號：X914? ? ? ? ? 文獻標識碼：C

Abstract： Hardware intelligence is the major direction for the traditional products transformation and upgrading. That is the industry authorities responsibilities to create a constructive environment for the intelligent hardware development. Based on the analysis of “Boeing incident”， from the different angles， such as business operations， regulation， government supervision， etc. This thesis gives the suggestions to promote the hardware intelligence security development.

Key words： intelligent hardware; Boeing incident; hardware security; policy suggestion

1 引言

2018年10月29日，印度尼西亞獅航一架由波音737MAX執飛的飛機，在從雅加達起飛大約13分鐘之后失聯并墜毀，機上189人不幸全部罹難。2019年3月10日，一架埃塞俄比亞航空公司的波音737MAX型客機起飛后6分鐘墜毀，機上的149名乘客和8名機組人員不幸全部遇難。這兩起重大事故發生的時間間隔不足半年，從智能硬件的角度進行分析，失事的飛機可以看成是典型的智能硬件產品，也就是在傳統的飛機操控系統上加載了智能操控系統，使飛機具有部分或全部的智能。從事件來看，主要是波音飛機所加載的智能駕駛出現了問題，具體是智能駕駛系統中的傳感器出現了問題，導致智能駕駛操控系統出現判斷失誤。同時，在駕駛系統的優先級設置方面，智能系統的優先級高于人工操控系統的優先級，以致在智能駕駛系統出現問題時，人工操作被拒絕，從而導致飛機失事。

1.1“波音事件”本質上是智能時代的轉型之痛

縱觀整個事件的前因后果，無不體現了在智能時代來臨時，企業和消費者的緊張和焦慮，在面對一個突如其來的巨大變革時的茫然無措。在飛機的智能化方面，波音和空客這兩家航空企業的路徑不同，但是他們的目標基本一致——智能化方面的大膽嘗試。因為雙方都明白，不僅飛機制造過程的智能化是未來發展的一個方向，而且飛機本身的操控也需要進行智能化改造，以滿足航空公司對飛機性能方面的智能化需求。

分析事故的原因，這其中既有飛機生產制造企業方面的問題，也有政府行業監管機構的問題，還有智能系統本身存在的問題，是多種因素共同作用的結果。

1.2“波音事件”體現出智能硬件的安全問題

“波音事件”給智能產品所依賴的智能控制系統的設計、開發和運營提出了警示。如何開發出智能且安全的智能操控系統，已成為未來智能產品開發的重要著眼點。相關行業監管部門，以及智能設備主要的供應商，如何對相關產品進行檢測，如何劃定彼此的權力和責任，保證用戶的生命和財產安全，對于未來智能化產品的開發至關重要。但是，智能化產品的監管不力，卻成為不法企業竊取客戶信息資料，甚至威脅用戶安全的“奪命”產品，急需引起相關政府部門、從事產品智能化企業的內部產品監管部門以及風險監控部門的重視。

盡管目前的智能硬件產品還不能夠與波音737MAX大型飛機相比，但是面臨的問題及其可能引起的后果仍具有一定的可比性。尤其是在智能硬件產品功能不斷升級的背景下，通過對波音事件的剖析，有利于發現我國智能硬件發展面臨的問題，并提出必要的解決方案。

2 安全問題成為智能硬件普及的關鍵

2.1硬件智能化已經成為一種發展趨勢

目前，智能硬件正成為繼智能手機之后崛起的一個新的技術發展方向，并有可能成為挑戰智能手機的一種新型產業形態，成為智能社會的重要技術載體。智能硬件通過軟硬件相結合的方式，對傳統的硬件設備進行改造，使傳統、非智能的硬件具有部分智能功能。傳統硬件產品經過智能化改造之后，一般便具備了相應的連接能力，能夠通過互聯網實現對硬件服務的加載，形成“云+端”的架構，使得硬件設備成為物聯網終端，從而根據需要為用戶提供相關的增值服務。例如，通過終端系統的計算能力，使其具有相應的智能，或者是通過接入更大的運行監控平臺，實現更多樣的附加價值。

2.2 硬件智能化主要是商業模式的轉變

從表面上看，智能硬件是一個科技概念，通過硬件和軟件結合，實現對傳統設備的智能化改造。從深層次來說，智能硬件是一個商業概念，借助無所不在的互聯網，以及物聯網技術、大數據技術、云計算技術，甚至人工智能技術，賦予傳統硬件新的價值，從而創造出基于傳統硬件的新型商業模式。但是，正是由于智能硬件的定位，使其從誕生之日起就因其安全問題而備受爭議。

在智能硬件的生態系統中，將所有價值鏈聯系起來的是智能硬件在使用過程中所產生的各種數據，因此數據應用是智能硬件產品應用的本質特征。在智能硬件階段，硬件產品的價值本身發生了改變，商業模式也發生了相應的改變，這些改變所圍繞的核心是數據以及對數據的更具有價值的創新應用。在數據的獲取和使用過程中，將會涉及很多個人隱私泄露、智能系統缺陷等安全問題。

2.3 安全問題一直是智能硬件產品普及的障礙

對于一般的智能硬件產品來說，用戶信息的采集和泄露問題是困擾智能硬件產品的主要問題。采集用戶的地理信息、使用習慣、消費行為，本來是智能硬件的應有之義，但是部分智能硬件生產企業，為獲得多元的市場競爭力或更佳豐厚的利潤，會因不當使用用戶信息，導致用戶信息泄露，使用戶利益受損。目前的智能手機、智能手表、智能電視和其他類型的智能家用電器等傳統硬件設備，借助于物聯網技術為其賦予了新的價值，但也因此存在著一定的安全隱患。如果智能硬件廠家在智能硬件產品中預裝了不良程序，會給用戶造成不可估量的損失。

隨著計算能力的提升、通訊技術的發展以及感知技術的不斷成熟，很多傳統的硬件產品都將會實現互聯互通，在充分感知的基礎上實現軟件化和智能化，未來很多領域將實現軟件定義以及部分或全部的智能化升級改造。但是，如果安全問題得不到有效的解決，將不利于智能硬件的應用與普及，不利于創造基于硬件智能化的商業模式發展，不利于企業通過產品智能化的升級改造，不利于實現與用戶的及時交互，不利于真正利用智能技術價值的社會化。

3 智能系統的知情權成為消費者權益的重要部分

3.1 消費者數據的有效保護有待提升

當前，消費者權益保護的重點主要集中于保護消費者不受經營者的欺詐，減輕或消除欺詐行為對消費者帶來的傷害?！吨腥A人民共和國消費者權益保護法（2013修正）》第七條中規定“消費者在購買、使用商品和接受服務時享有人身、財產安全不受損害的權利。消費者有權要求經營者提供的商品和服務，符合保障人身、財產安全的要求”。但是，對于相關的信息安全和數據安全，并沒有明確地做出相應的規定。

在智能硬件時代，消費者在購買和使用智能硬件產品時，首先應考慮到對產品智能系統的了解。要了解到智能硬件系統對自身信息的采集情況，對所采集信息的恰當使用以及對使用情況的安全監控。畢竟，對于智能硬件系統來說，智能硬件產品與傳統硬件產品的使用有很大的不同，使用過程中產品生產企業與用戶會進行大量的交互。因此，傳統的產品功能退居次要位置，而在使用過程中產生的大量數據信息才是最具有價值的內容。

3.2 企業有義務對消費者進行培訓

對于智能硬件系統來說，盡管硬件是非常熟悉的，但是由于搭載了相關的智能系統，用戶在享受硬件智能化所帶來好處的同時，還應承擔相應的學習成本，以保證智能系統的正確使用。因此，用戶對智能硬件系統中新增加的功能，不僅要有充分的知情權，而且產品生產企業還應對用戶盡到培訓的義務，以保證用戶可以在正常和緊急狀態下都能夠正確地操作智能系統。尤其是當智能系統失靈時，用戶要有足夠的能力進行手動操作該系統，以保證硬件在各種情況下都能夠正常運行。

針對這樣的情況，智能硬件生產企業在與消費者發生交易行為時，必須保證消費者對硬件產品可能帶來的損害有足夠的了解，并保證使用者在智能硬件系統的特殊情況下能夠做出正確的應對，以避免因智能硬件系統的故障，導致發生更嚴重的安全事件。這就需要智能硬件產品在研發時，不僅要設置相應的安全防范措施，從技術方面避免因產品故障而導致更大范圍的安全問題出現，而且還需要對消費者進行必要的培訓，保證消費者能夠應對在極端情況下出現的產品風險，對消費者進行安全教育。

3.3 消費者的知情權成為重點保護權益

消費者的知情權是消費者權益保護的一項重要內容。《中華人民共和國消費者權益保護法（2013修正）》第八條中規定“消費者享有知悉其購買、使用的商品或者接受的服務的真實情況的權利。消費者有權根據商品或者服務的不同情況，要求經營者提供商品的價格、產地、生產者、用途、性能、規格、等級、主要成份、生產日期、有效期限、檢驗合格證明、使用方法說明書、售后服務，或者服務的內容、規格、費用等有關情況”。對于操作較為復雜、風險較大的智能硬件產品來說，規定中的知情權還應包括對智能硬件產品的智能系統故障以及智能硬件產品操作失誤等情況可能帶來的安全隱患。

不管未來如何發展，消費者和用戶的知情權將是最重要的消費者權利，而且在智能時代，知情權又有了新的內涵和特點。在空難事故中，如果波音公司提供了詳細的智能產品功能說明，如果對相關的駕駛人員進行充分的培訓，如果駕駛人員經驗豐富，這些環節中的任何一個環節沒有出現問題，都能夠避免悲劇的發生。而這些環節都可以通過波音公司較詳盡的售后服務保障方案予以提供。因此，類似的安全事件對于智能硬件企業來說，都可以通過風險防范措施予以控制。對于航空企業的消費者來說，有權對波音公司等企業提出更加詳細的服務要求。

4 智能系統要經過嚴格的認證和檢測

4.1認證和檢測是主管部門規范市場的重要手段

《中華人民共和國消費者權益保護法（2013修正）》第三十三條中規定“有關行政部門在各自的職責范圍內，應當定期或者不定期對經營者提供的商品和服務進行抽查檢驗，并及時向社會公布抽查檢驗結果”。因此，相關政府行業主管部門可以通過對產品的抽查檢驗，維護市場的正常競爭秩序，保護消費者的權益。對于智能硬件產品這一新生事物，政府行業主管部門在積極扶持智能產業發展的同時，還需要規范行業發展秩序，營造行業健康發展環境，避免各種不良產品可能對市場形成的破壞。

當前正處于智能化的起步階段，很多工作還在探索過程中，相關的標準尚不健全。因此，一些責任意識淡薄的企業，會將不是特別成熟、具有較大安全隱患的智能產品推向市場。為了規避以上問題的產生，在需要企業自律的同時，相關政府主管行業部門也要進行嚴格的監管，在不扼殺市場創新、不貽誤市場機遇的同時，保證產品的安全性、應用的創新性，為市場健康發展保駕護航。

4.2 保證智能系統與人類干預的有效銜接

在智能硬件發展的初期，很難保證智能系統做到完善無暇，能夠應對各種可能出現的問題。因此，必須保證智能操作系統與人類干預系統之間的銜接，保證在智能操作系統失靈的情況下，人類能夠有效地干預智能操作系統，使其緊急停止運行，或者在人類的有效干預下回歸正常的操作。

“智能系統應該處于從屬和輔助的地位”，應該成為智能時代人類發展的共識，也應該是智能時代技術的最基本的定位。未來的技術無論再“智能”，都不可能也不應該超越人類，甚至凌駕在人類智慧之上，而應該永遠定位于服務人類、造福人類的基礎之上。從智能硬件發展的商業邏輯出發，智能也只有服務于人、服務于人類多樣化的需求，才能夠擁有市場，獲得新的市場競爭力。

4.3 保證智能產品透明和數據經營透明

隨著智能硬件的普及，產品生產企業可以通過產品的傳感器和網絡，監控到用戶使用產品的情況，從而有針對性地為用戶提供相應的服務。

但是，用戶在使用產品實現透明的同時，也要求產品生產和服務企業也保持透明狀態，這是由市場競爭的邏輯和用戶的消費心理所決定的。因為消費者在將其隱私信息交給不同的企業之后，潛意識中也想知道企業對這些隱私信息的使用情況，從而要求企業進行透明化的經營和管理。

對企業透明化的要求，不僅體現在產品的透明、用戶數據監管的透明，還要求企業經營以及用戶信息使用的相關合規性管理方面的透明。透明是智能的前提，如果沒有用戶信息的透明，很難推進智能硬件的發展。但是，如果缺乏企業數據運營方面的透明，智能硬件很難取得市場的廣泛認可，尤其是第三方監管機構的透明化監管，更是促進市場規范經營的重要保證。

5 營造智能硬件產品安全發展的環境

5.1發展相關智能硬件產品保險

產品責任是生產制造企業對產品缺陷所應承擔的責任，其主要是指產品在使用過程中因缺陷造成用戶、消費者或公眾的人身傷亡或財產損失時，依法應當由產品供給方（包括制造者、銷售者、修理者等）承擔的民事損害賠償責任。在這次“波音事件”中，波音公司將承擔相應的產品責任，對受害的航空公司以及眾多的受害人提供相應的賠償。

在智能駕駛汽車領域，不僅產品出現問題的風險比較大，而且后果也比較嚴重，因此智能汽車集成商必須為產品購買相關的保險，否則用戶根本不敢購買，或者是購買后也不敢放心使用。事實上，對于生產大型無人機的深圳大疆公司來說，在銷售大型無人機時，由于可能存在撞到人或者某些易碎物品的風險，要求購買者必須購買相應的保險，以保證發生事故時，由保險公司進行相應的賠付，避免對公司造成影響。

5.2 政府給予相應的保險補貼

政府行業主管部門支持智能硬件的發展，可以采取扶持產品保險的形式，為相關產品提供保險方面的補貼，而不是直接對智能產品本身進行補貼。通過保險的方式，公司能夠轉移智能硬件產品可能帶來的風險。而從消費者的角度來看，如果發生了相關安全問題，也可以由保險公司進行賠付，使其所受的損失得到有效的保障，從而形成促進智能硬件發展的健康市場環境，化解智能硬件市場初期發展所帶來的市場風險。

支持智能硬件生產企業發展，不僅政府行業主管部門發揮著重要作用，同時相關行業中介組織、保險公司等市場和行業主體也可以借助自身的特點，在智能硬件生產的相關技術風險防范中發揮重要作用，營造良好的市場環境。如果產品購買了保險，被保險人生產、銷售、分配、使用或修理該產品時發生事故，造成用戶、消費者或其他任何人的人身傷害或財產損失，被保險人承擔的損害賠償責任依法應由保險人在保險單規定的賠償限額內予以賠償，從而降低企業產品創新所帶來的風險和負擔，以鼓勵市場創新。

6 結束語

任何技術的應用都有正反兩個方面的后果，因此在發展智能硬件等智能產品時，不僅要看到產品給人類帶來福利的一面，而且還要關注到這種技術有可能造成的負面影響。因此，在規劃技術發展和應用路徑時，既要考慮將技術的正面效應最大化，同時還要保證該技術發展和應用的負面影響最小化，并對可能帶來的且又不可避免的負面影響，提前制定出相應的應對措施，未雨綢繆，防患于未然。這才是在當前技術發展空前繁榮的時代、技術應用效果不確定急劇上升的背景下應有的科學態度。

我國目前正處于智能硬件發展的初期，傳統硬件設施需要大規模地進行智能化改造，這無疑會存在“摸著石頭過河”的情況。我國當前政府行業監管部門和相關行業中介組織營造一個既保證寬松的、鼓勵創新的氛圍，又保證安全健康的市場氛圍勢在必行。

參考文獻

[1] 光明網. 波音兩起事故“明顯相似”[EB/OL]. https：//baijiahao.baidu.com/s？id=1628506968833623156&wfr=spider&for=pc，2019.

[2] 鼎盛軍事. 埃航空難新發現：按照波音要求關閉俯沖系統，照樣失控墜毀[EB/OL].https：//mbd.baidu.com/newspage/data/landingsuper？context=%7B%22nid%22%3A%22news_9684523504533162369%22%7D&n_type=1&p_from=4，2019.

[3] 新浪財經新聞. 波音董事長發內部信：將確保團隊以優先事項為中心[EB/OL]. http：//finance.sina.com.cn/roll/2019-03-12/doc-ihrfqzkc3339038.shtml？source=cj&dv=1，2019.