ChatGPT 在智能電視應用中的安全性分析

李 珣，任艷麗，張 震

（1.國家工業信息安全發展研究中心，北京 100040；2. 北京洛斯達科技發展有限公司，北京 100089；3. 北京電子科技學院，北京 102627）

0 引言

智能電視已經逐漸成為開放式應用的智能化平臺，可實現雙向人機交互功能，滿足用戶的多樣化、個性化需求。人工智能（Artificial Intelligence，AI）技術使電視機能夠勝任一些通常需要人類智能才能完成的復雜工作，如語音控制和內容檢索等。但受到之前人工智能技術水平的限制，其對指令的精準處理不夠準確，與電視內容聯動較弱，實際體驗并不能令用戶滿意。隨著2023 年人工智能算法理論研究的深入和計算算力的快速發展，聊天生成預訓練轉換器（Chat Generative Pre-trained Transformer，ChatGPT）開始進入產業化應用，豐富了“人機對話、智能控制、自動運行”的實際場景。其訓練模型在動作識別、實物測距、背景渲染等交互控制方面得到大幅度提升，已經開始改寫以智能電視為代表的家電行業格局。

使用ChatGPT 技術的智能電視機的使用范圍大大超越了傳統電視機，已成為基于智能硬件的計算終端，顯著特點包括AI 能力提升、支持多種軟硬件平臺、應用適配性高、提供軟件開發工具包（Software Development Kit，SDK），便于第三方快速開發應用軟件。在實際體驗方面，除了輔助用戶挑選播放內容，其還能根據內置的App 應用進行新聞瀏覽、互聯網購物、控制智能家居等。然而，其帶來的技術風險和隱私倫理問題同樣值得警惕。智能電視如今面臨的AI 安全問題，如同網絡信息安全一樣，需要納入技術應用和產業應用的范圍內。

1 ChatGPT 應用給智能電視帶來的安全風險

1.1 ChatGPT 技術本身的安全風險

ChatGPT 技術使用的人臉識別、語音識別、自然語言處理、文本生成、語言翻譯、內容過濾及信息關聯等AI 技術已經深刻影響智能電視的發展方向，給用戶操作帶來了便捷。然而，當前主流的深度神經網絡等人工智能技術具有“黑盒屬性”，導致基于該技術的AI 算法具有不可解釋性[1]，算法的健壯性、準確率、生成合成信息的方法不對外公開，導致智能電視用戶無法了解其技術的安全性。例如，該技術是否對使用的第三方組件、固件及時進行安全更新和漏洞修補，是否針對訓練數據、測試數據、算法代碼及算法模型等安全需求進行差異性設置，是否采取數據訪問控制策略防止非授權訪問，是否使用密碼技術對訓練數據、測試數據、算法代碼及算法模型等進行保護，是否對訓練數據、測試數據的存儲、傳輸進行加密保護等。可見，算法模型本身的安全性、可靠性問題會給電視用戶帶來直接風險。

此外，黑盒模型如果沒有經過智能電視用戶大量的應用測試，其存在的一些難以被發現的邏輯錯誤會給安全應用帶來不確定因素，可能會在智能電視產業應用落地過程中出現各種安全隱患。

1.2 ChatGPT 技術帶來的應用安全風險

ChatGPT 技術的成熟度取決于訓練的規模，而訓練數據恰好為某些惡意軟件帶來可乘之機，結構性的算法漏洞、算法后門給黑客帶來了漏洞利用的可能。通過ChatGPT 技術推薦下載的App 應用如果沒有經過應用市場的嚴格審核，會帶來風險極高的安全漏洞。例如，影響智能電視的高嚴重程度漏洞包括堆棧緩沖區溢出漏洞、目錄遍歷漏洞以及命令注入漏洞等，這些漏洞普遍存在于互聯網端，但隨著AI 技術的發展，已經逐漸向智能電視端蔓延。這些惡意應用可能被用于惡意目的，如制造破壞性的網絡攻擊或用于進行欺詐活動。此外，與大多數物聯網設備一樣，高端智能電視機包含的高性能圖形處理器（Graphics Processing Unit，GPU），甚至已被不法分子利用，成為新的“挖礦”載體[2]。如果ChatGPT 被用于惡意詐騙等不當用途，將會給行業生態的健康發展帶來不利影響。

生成式AI 技術能夠通過自我學習，不斷改進自身的性能。然而，這種自我學習也可能導致對應用的失控，從而對智能電視的應用安全造成二次威脅。

1.3 ChatGPT 技術帶來的數據安全風險

人工智能的發展與大數據密切相關。要構造能力更強的人工智能，需要更多、更關鍵以及更高價值的真實數據。然而，高價值數據往往與個人隱私信息甚至商業機密信息綁定。ChatGPT 技術在落地智能電視的過程中，可能在數據應用或者流通環節造成信息泄露。例如，很多智能電視已經可以通過內置攝像頭的人臉識別功能實現App賬戶的登錄或者視頻聊天功能。人臉識別系統的精準度依靠海量人臉數據進行特征提取訓練完成，盡管相關算法和技術已經比較成熟，但黑產分子可利用漏洞進行多種模式的繞過與攻擊，如對抗樣本攻擊，在人臉照片上添加少量干擾或將對抗補丁打印制作后模擬真人，就能欺騙人臉識別系統；或者加裝干擾因素，改變顏色、修改形狀，誤導感知和識別算法[3]。這些都是算法層的安全漏洞，存在巨大的安全隱患。

隨著ChatGPT 在智能電視的應用，付費軟件購買環節的風險更高。ChatGPT 技術能夠通過偽造下載地址，欺騙用戶提供隱私信息如銀行和支付密碼等信息，導致個人財產信息泄露[4]。

1.4 ChatGPT 技術帶來的知識產權風險

ChatGPT 通過抓取智能電視用戶使用習慣和互聯網上的內容信息獲得其訓練數據，可能并不合法。很多智能電視App 上的隱私政策條款明確說明數據不能被第三方收集，否則會涉及違反合同。但在實際訓練過程中，ChatGPT 抓取的數據不可避免地會涉及對他人享有著作權的作品進行復制使用，存在著作權侵權的風險。

此外，基礎模型降低了內容創作的成本，使創造與原作品高度相似的深度偽造品變得更加容易。用戶可以通過語音指令或者文字輸入來描述自己的需求，ChatGPT 根據這些指令自動剪輯并生成相應的視頻片段，雖然用戶覺得智能，但是所生成的新內容可能是基于已有語音和視頻再加工，通過智能電視應用軟件為視頻添加文字、音樂、濾鏡等特性，利用自動化的視頻剪輯和特效生成。這些對原始內容的加工和發布，顯然會引起知識產權糾紛[5]。

2 應用ChatGPT 技術的智能電視需采用的安全防范措施

2.1 選擇合適的ChatGPT 技術大模型

用對于智能電視來說，選擇ChatGPT 模型需要結合電視內容推薦、語音控制及智能搜索等用戶個性化需求進行綜合考慮，通過選擇合適的訓練模型，分析和評估智能電視與用戶的對話場景、對話目的、數據量分析、交互質量及資源消耗等多個方面，保證對話質量和效果符合智能電視應用預期。例如，選擇ChatGPT 模型時，結合智能電視內置的智能語音助手、專用智能App 等應用場景，根據對話中不同類型用戶喜好的節目內容的大小和質量，對模型的訓練過程和參數進行充分、詳細設置和調整，同時需要考慮網絡資源、中央處理器（Central Processing Unit，CPU）及電源消耗的問題[6]，針對目前智能電視應用的互聯網帶寬和硬件進行優化，避免由于資源不足導致的交互應用運行卡頓，影響用戶體驗。

2.2 建立針對ChatGPT 技術的“防火墻”

當前，市面上多種智能電視的操作系統都基于安卓系統開發或定制，可以利用智能電視原廠自帶的應用市場或者第三方軟件商店下載App，拓展視頻、娛樂、教育等互動應用。然而，目前ChatGPT 在智能電視等終端并無規范化應用約束，利用其技術推薦的應用，更容易受到網絡攻擊和惡意軟件的威脅。不法App 有可能通過病毒和惡意軟件竊取用戶的信息或者進行有害的控制操作。對此，智能電視廠商應在智能電視出廠時采取安全防護措施，如安裝殺毒軟件、防火墻等，并通過權限控制增強其應用安全性。

2.3 做好針對ChatGPT 技術的數據保護

ChatGPT 技術的基礎在于人機交互，因此智能電視會即時或定期將用戶的日常交互數據上傳到云端，這意味著智能電視廠商或第三方可以通過收集用戶關注的內容焦點和興趣愛好，分析家庭和個人收視率，利用用戶畫像優化內容推薦、廣告推送及應用軟件下載等信息[3]。因此，智能電視廠商應保障獲取用戶數據的正當性、必要性以及合法性的具體邊界，用戶則需要清楚電視設備所收集和上傳的數據，最大限度地保護好個人隱私，維護好自己的隱私權和數據安全。

2.4 針對ChatGPT 技術做好知識產權保護

ChatGPT 技術可能被用于制作欺詐或侵權內容，如盜版的影視作品或經篡改的音頻或視頻，或者通過模型生成的內容有可能會被用來冒用個人或組織，損害其聲譽或侵犯其公共形象權。因此，智能電視廠商需要做好電視內容審核并配合廣電行業的版權管理，在內容展示前采用技術手段確保其已獲得合法授權或使用不受著作權限制的數據源。

3 結語

近年來，隨著大數據的積累、理論算法的革新、計算能力的不斷提高以及互聯網技術的不斷完善，人工智能的研究與應用進入一個嶄新的發展階段，以ChatGPT 為代表的人工智能技術在智慧家電市場發展潛力巨大。展望未來，采用ChatGPT 技術的智能電視能夠在保障信息安全、數據安全和知識產權安全的前提下，為用戶篩選更符合需求的信息、視頻及界面，結合虛擬現實（Virtual Reality，VR）等新技術，把畫面色彩、音響調節到用戶更身臨其境的設置，可以將智能電視升級為核心控制設備，與家庭其他智能設備互聯，甚至協助聯系產品維修服務，解決電視機故障。