芻議智能語音技術的應用與風險防范

關鍵詞 智能語音識別技術 應用 風險防范

作者簡介：王懿，東北大學文法學院，研究方向：公共管理與公共政策。

中圖分類號：D920.4 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?文獻標識碼：A ? ? ? ? ? ? ? ? ? ? ? ?DOI：10.19387/j.cnki.1009-0592.2020.05.225

智能語音作為最早落地成型的人工智能技術，也是市場上應用最為廣泛的人工智能技術，它在使人們生活得到便利的同時，在法律與道德層面都帶來一定風險。是否能正確認識智能語音技術、是否明確風險、如何應對風險成為現階段需要探討的問題。

一、 智能語音技術的原理與應用

智能語音技術是在弱人工智能時代，依托人工智能算法實現人機交互的關鍵技術。取代了傳統語音交換技術，使一個簡單的機器具備了“能聽會說”的特征，賦予智能終端更高的能力。

（一） 智能語音技術的原理

語音識別，就是將使用者的語音內容準確轉化為文字的技術。面臨著“同音多字”、口音差異、地域方言等問題，需要智能語音通過不斷的試驗，準確判斷。接近于過去的語音文字轉換技術，經過反復訓練，得到搜索出的候選結果作為語音識別階段的結果。

語音理解，通過各種機器學習建模方法，將特定文本內容準確理解，包含對詞匯、句子、篇章的理解，從而使機器可作出正確的反應。智能語音技術中的“詞義理解”與日常交流對特定詞語意思的理解過程一樣是根據上下文理解，根據學習訓練中詞語之間的關聯程度來確定詞語，實現“詞義消歧”。

語音合成，就是將文本回答轉換為語音流暢輸出。對語音合成最基本的要求就是語法正確、表達精準、語音流暢，其次是語音合成內容盡可能人性化，符合用戶需求。

這些功能是支撐智能語音技術運行的基礎，也是實現智能語音技術應用的關鍵，了解其基本原理，明確智能語音技術實現的各個環節，才能準確的與現代生活需求對接，防范未來智能語音技術各種風險的出現。

（二）智能語音技術的應用

智能語音助手是國內外電商巨頭在人工智能領域的主要布局方向。通過將智能語音技術與移動客戶端連接，語音實現操控智能設備、獲取網絡信息、預定服務及購買產品等服務功能。國際上比較成功的智能語音識別系統各有優勢，尤其是蘋果的Siri和谷歌的Google Assistant，大范圍通過與其產業下游移動通信產品結合，實現了全球性的推廣（見圖2）。

智能語音醫療因公共衛生領域所需的大量人力資源，成為當下熱門研究領域。目前，智能語音醫療建設主要集中在語音錄入文本方面，在普遍提倡“無紙化辦公”的情況下，大量節約記錄電子病歷的時間，使醫生更專注于與患者的溝通交流，避免了手寫病歷難以辨認，人工錄入電子病歷信息不全面的問題。此外，智能語音技術供應商與公共衛生部門合作正在積極進行智能語音醫療機器人的研發，可與患者交流，提供信息采集、自我診斷、醫療咨詢、導診、緊急呼救等服務。

圖 2：2017年全球語音助手市場份額

智能語音家居產品將現代家居與智能語音技術合二為一，服務于智能家居的控制系統，用于遠程化、非觸摸式的操縱控制。方便對現代電子設備不夠了解的老人兒童使用，避免觸電、錯誤操作的問題。其可與用戶進行溝通交流的特點，一定程度上起到看護陪伴的作用，并對可能出現的危險進行預警，在遇到危險時也可通過語音進行緊急呼救。

智能語音客服是指將智能語音技術應用于電信呼叫服務領域，代替人工客服進行基礎性服務，適用于電信公司、機場等呼叫中心，但不適用急救、消防中心等緊急求救呼叫服務。同時，智能語音客服相對于傳統人工客服擁有二十四小時不間斷、服務效率高、服務水平穩定等特點，可以有效規避降低因人工客服所造成的問題。

二、智能語音技術的風險

目前，智能語音技術已滲透到人們日常生活的各個領域，隨之而來的就是其可能造成的風險，尤其是一些無具體法律可依，卻對人民群眾的生命財產安全造成情況。

（一） 破壞連接設備的風險

智能語音技術可以將用戶語音轉換為操作控制的電信號，然而這一系列這種“聲音與電”的轉換是不能被用戶看見的，過程中一旦出現失誤也不能阻止甚至來不及阻止。智能語音技術有意或無意的錯誤操作，輕則僅是本次操作失敗需要重新輸入指令或人工操作;重則則是因不恰當操作引起的家用電器損壞，引發火災，造成人員傷亡的情況。

在法律上，訴訟的主體應該是人，而不能是智能語音技術或相關的產品等物質化的東西。判定的罪名、索取的賠償都不能由智能語音技術承擔提供。但用戶的語音命令正確，未存在操作不當的現象;供應商在設計時也未設置讓其錯誤操作的程序。就事實上來看確實雙方都沒有為智能語音技術操作失誤而承擔責任的法律依據。但已經確定由智能語音技術造成的損失及傷害又應由誰來承擔呢？用戶又應該向誰索求賠償你？由此看來，人工智能方面法律缺失造成可能的風險不斷。

（二）信息泄露的風險

智能語音技術在竊聽通話內容上面臨信息泄露風險，其可能造成的危害可以以智能手機信息泄露為例子參考，最典型的例子就是蘋果手機竊聽事件。通過手機內置程序，監聽用戶通話內容，造成個人信息甚至與國家利益相關的機密信息被泄露，對個人及國家都造成了巨大危害。

與智能語音技術相連接的設配普遍配有攝像頭或其他影像識別設備，以使進行語音識別時，可通過對用戶的微表情識別，更加準確的判斷語句內容。但攝像頭與智能語音技術的連接給予不法分子操作，監控他人生活甚至將其擴散的可能。造成用戶使用智能語音技術的負擔。

（三）違規表達的風險

當前智能語音技術所給予的反饋具有人性化，極度貼近生活，并存在日常交流的“玩笑”。但是針對心理情緒狀態不佳的用戶，給予消極的、“玩笑的”甚至無情感回復，就可能引起用戶異常的情感波動，造成不可控的風險，這在法律上是沒有問題的，但在道德上恐怕是不被接受的。

錯誤引導提示可能帶來的風險：一是用戶有意或無意表達的不恰當言論是否應該由智能語音設備進行提醒或者制止。面臨客戶體驗和語言道德兩難的情況，智能語音技術是否能作出最恰當的抉擇，能否保持最基本的道德評判標準。二是因年齡層、國家、民族文化差異造成語言習慣，是否能進行準確判斷，并給出合理提示，尤其是在國家、民族不同的情況下，是否可作出特定的語音提醒設置，以免冒犯用戶。

三、應對智能語音技術風險的建議

應對其所帶來各種形式的風險，即不能僅從用戶的角度一味的批判，也不能僅從設計者和銷售方的角度一味的推諉，而道德倫理或是立法方式也不能完全應對這些可能出現的風險，作出合理防范。需要將雙方利益統一在一個合理的范圍內，提出可行的解決建議。

（一）多管齊下，有限風險

“多管齊下”是指通過多種可變通、協商、調節的方式解決智能語音技術可能面臨的法律風險問題。比如針對智能語音技術在智能家居領域可能造成家用電器損壞或人身安全隱患的風險，可以通過購買保險或購買售后服務的方式解決。智能語音技術提供商、智能家居廠商、用戶三方達成購買協議，用戶額外支付一定費用獲得保障，一旦出現某些風險可以獲得保修、賠償等服務;或者與保險公司合作，達成協議提供理賠保障。

“有限風險”在這里是對智能語音技術應用可能造成的風險進行責任承擔的有限劃分。首先，用戶應該對風險有一定的可接受性。任何一種新興事物在初次應用時，都會受到各種質疑，但隨著其便利性的凸顯逐漸流行，同時也接受了其可能帶來的風險。其次，制造方和銷售方應盡風險說明的義務，進行一定范圍內財產損失的有限風險承擔，給予客戶合理補償。

（二）法律輔助，數據阻隔

“法律輔助”則是出于智能語音技術應用現狀的考慮，其商用未造成影響嚴重的事故，未對人民生命財產安全造成巨大損害，針對其進行立法為時尚早，行業內協同制定了相應的行業規范，限制某些有違法律的人工智能形態規范生產。就其目前可能出現法律風險而言，可以根據之前在飛機自動駕駛、手機竊聽等相似案例作為依據進行處理。智能語音技術供應商也應有統一的行業規范，禁止通過后臺私自傳輸信息的行為，維護用戶個人隱私安全，限制自我學習中可能侵犯用戶利益的行為發生。

“數據阻隔”是指對智能語音設備記錄的數據進行單項阻隔，即在設計時就阻止將數據傳輸至云端或其他設備。將智能語音技術與網絡的關聯，局限在信息索取這條單項路徑上，僅允許通過網絡學習搜索，以反饋用戶;通過技術手段，完全禁止反向的數據傳輸。尤其是一些配備攝像頭的設備，允許用戶自行設置是否開啟，并嚴禁數據記錄上傳。

（三）技術為主，自我調節

“技術為主”指的是在智能語音技術設計時，通過內置“敏感詞”限制的功能使其在深度學習中避免接觸到不恰當言論內容，保證進行的是內容積極健康的對話。同時“敏感詞”也應設置一定可接受范圍，并允許根據國家和民族的進行不同調整。對某些過激，或者有損國家榮譽利益的言論進行提醒警示，達到一定的道德引導目的。其次是注重對使用者情感上的，交流中要給予樂觀向上的情感導向。根據用戶表達的語音語氣進行內容判斷的同時注重情感性的分析，并據此調整回復內容。

“自我調節”是指用戶在使用智能語音技術相關產品時注意自我言論及情緒心理。當心理情緒處于一個消極狀態時盡量避免與智能語音交流消極話題，可以選擇情緒開導。此外，針對個人言論是否合理問題要有一個自我判斷，理性對待智能語音技術所設定的敏感話語提示，不要遷怒或者惡意投訴，也是積極配合國家凈網工作的開展。

四、結語

智能語音技術以其靈活、便捷、高效的特點已成為商業合作的重要對象，與相關設備結合普遍應用于現實生活。面對可能出現的風險，應理性看待，接受“風險與便利”并存的事實。供應商也應積極應對，在內加強技術優化，在外制定行業規范，逐漸解決問題。共同營造良好的使用環境，保障用戶安全及利益，為日后人工智能的普遍商用提供有效借鑒。

參考文獻：

[1]甘玉玨，蘇軍根，林健，洪博宇，魯維.智能語音產品現狀及展望[J].廣東通信技術，2017，37（12）：66-68.

[2]李瑋，朱巖.AI語音交互技術及測評研究[J].信息通信技術與政策，2019（12）：83-87.

[3]王飛，胡川，羅浩，汪鵬.醫療場景智能語音識別技術的應用研究[J].中國數字醫學，2019，14（12）：19-21.

[4]張秀瑞，李樹新，葛文珍，張昭.基于自動化的智能家居系統探究[J].電子測試，2020（3）：58-59+7.

[5]李琛.論人工智能的法學分析方法——以著作權為例[J].知識產權，2019（7）：14-22.