ChatGPT 在智能電視應(yīng)用中的安全性分析

李 珣，任艷麗，張 震

（1.國家工業(yè)信息安全發(fā)展研究中心，北京 100040；2. 北京洛斯達科技發(fā)展有限公司，北京 100089；3. 北京電子科技學院，北京 102627）

0 引言

智能電視已經(jīng)逐漸成為開放式應(yīng)用的智能化平臺，可實現(xiàn)雙向人機交互功能，滿足用戶的多樣化、個性化需求。人工智能（Artificial Intelligence，AI）技術(shù)使電視機能夠勝任一些通常需要人類智能才能完成的復雜工作，如語音控制和內(nèi)容檢索等。但受到之前人工智能技術(shù)水平的限制，其對指令的精準處理不夠準確，與電視內(nèi)容聯(lián)動較弱，實際體驗并不能令用戶滿意。隨著2023 年人工智能算法理論研究的深入和計算算力的快速發(fā)展，聊天生成預(yù)訓練轉(zhuǎn)換器（Chat Generative Pre-trained Transformer，ChatGPT）開始進入產(chǎn)業(yè)化應(yīng)用，豐富了“人機對話、智能控制、自動運行”的實際場景。其訓練模型在動作識別、實物測距、背景渲染等交互控制方面得到大幅度提升，已經(jīng)開始改寫以智能電視為代表的家電行業(yè)格局。

使用ChatGPT 技術(shù)的智能電視機的使用范圍大大超越了傳統(tǒng)電視機，已成為基于智能硬件的計算終端，顯著特點包括AI 能力提升、支持多種軟硬件平臺、應(yīng)用適配性高、提供軟件開發(fā)工具包（Software Development Kit，SDK），便于第三方快速開發(fā)應(yīng)用軟件。在實際體驗方面，除了輔助用戶挑選播放內(nèi)容，其還能根據(jù)內(nèi)置的App 應(yīng)用進行新聞瀏覽、互聯(lián)網(wǎng)購物、控制智能家居等。然而，其帶來的技術(shù)風險和隱私倫理問題同樣值得警惕。智能電視如今面臨的AI 安全問題，如同網(wǎng)絡(luò)信息安全一樣，需要納入技術(shù)應(yīng)用和產(chǎn)業(yè)應(yīng)用的范圍內(nèi)。

1 ChatGPT 應(yīng)用給智能電視帶來的安全風險

1.1 ChatGPT 技術(shù)本身的安全風險

ChatGPT 技術(shù)使用的人臉識別、語音識別、自然語言處理、文本生成、語言翻譯、內(nèi)容過濾及信息關(guān)聯(lián)等AI 技術(shù)已經(jīng)深刻影響智能電視的發(fā)展方向，給用戶操作帶來了便捷。然而，當前主流的深度神經(jīng)網(wǎng)絡(luò)等人工智能技術(shù)具有“黑盒屬性”，導致基于該技術(shù)的AI 算法具有不可解釋性[1]，算法的健壯性、準確率、生成合成信息的方法不對外公開，導致智能電視用戶無法了解其技術(shù)的安全性。例如，該技術(shù)是否對使用的第三方組件、固件及時進行安全更新和漏洞修補，是否針對訓練數(shù)據(jù)、測試數(shù)據(jù)、算法代碼及算法模型等安全需求進行差異性設(shè)置，是否采取數(shù)據(jù)訪問控制策略防止非授權(quán)訪問，是否使用密碼技術(shù)對訓練數(shù)據(jù)、測試數(shù)據(jù)、算法代碼及算法模型等進行保護，是否對訓練數(shù)據(jù)、測試數(shù)據(jù)的存儲、傳輸進行加密保護等。可見，算法模型本身的安全性、可靠性問題會給電視用戶帶來直接風險。

此外，黑盒模型如果沒有經(jīng)過智能電視用戶大量的應(yīng)用測試，其存在的一些難以被發(fā)現(xiàn)的邏輯錯誤會給安全應(yīng)用帶來不確定因素，可能會在智能電視產(chǎn)業(yè)應(yīng)用落地過程中出現(xiàn)各種安全隱患。

1.2 ChatGPT 技術(shù)帶來的應(yīng)用安全風險

ChatGPT 技術(shù)的成熟度取決于訓練的規(guī)模，而訓練數(shù)據(jù)恰好為某些惡意軟件帶來可乘之機，結(jié)構(gòu)性的算法漏洞、算法后門給黑客帶來了漏洞利用的可能。通過ChatGPT 技術(shù)推薦下載的App 應(yīng)用如果沒有經(jīng)過應(yīng)用市場的嚴格審核，會帶來風險極高的安全漏洞。例如，影響智能電視的高嚴重程度漏洞包括堆棧緩沖區(qū)溢出漏洞、目錄遍歷漏洞以及命令注入漏洞等，這些漏洞普遍存在于互聯(lián)網(wǎng)端，但隨著AI 技術(shù)的發(fā)展，已經(jīng)逐漸向智能電視端蔓延。這些惡意應(yīng)用可能被用于惡意目的，如制造破壞性的網(wǎng)絡(luò)攻擊或用于進行欺詐活動。此外，與大多數(shù)物聯(lián)網(wǎng)設(shè)備一樣，高端智能電視機包含的高性能圖形處理器（Graphics Processing Unit，GPU），甚至已被不法分子利用，成為新的“挖礦”載體[2]。如果ChatGPT 被用于惡意詐騙等不當用途，將會給行業(yè)生態(tài)的健康發(fā)展帶來不利影響。

生成式AI 技術(shù)能夠通過自我學習，不斷改進自身的性能。然而，這種自我學習也可能導致對應(yīng)用的失控，從而對智能電視的應(yīng)用安全造成二次威脅。

1.3 ChatGPT 技術(shù)帶來的數(shù)據(jù)安全風險

人工智能的發(fā)展與大數(shù)據(jù)密切相關(guān)。要構(gòu)造能力更強的人工智能，需要更多、更關(guān)鍵以及更高價值的真實數(shù)據(jù)。然而，高價值數(shù)據(jù)往往與個人隱私信息甚至商業(yè)機密信息綁定。ChatGPT 技術(shù)在落地智能電視的過程中，可能在數(shù)據(jù)應(yīng)用或者流通環(huán)節(jié)造成信息泄露。例如，很多智能電視已經(jīng)可以通過內(nèi)置攝像頭的人臉識別功能實現(xiàn)App賬戶的登錄或者視頻聊天功能。人臉識別系統(tǒng)的精準度依靠海量人臉數(shù)據(jù)進行特征提取訓練完成，盡管相關(guān)算法和技術(shù)已經(jīng)比較成熟，但黑產(chǎn)分子可利用漏洞進行多種模式的繞過與攻擊，如對抗樣本攻擊，在人臉照片上添加少量干擾或?qū)寡a丁打印制作后模擬真人，就能欺騙人臉識別系統(tǒng)；或者加裝干擾因素，改變顏色、修改形狀，誤導感知和識別算法[3]。這些都是算法層的安全漏洞，存在巨大的安全隱患。

隨著ChatGPT 在智能電視的應(yīng)用，付費軟件購買環(huán)節(jié)的風險更高。ChatGPT 技術(shù)能夠通過偽造下載地址，欺騙用戶提供隱私信息如銀行和支付密碼等信息，導致個人財產(chǎn)信息泄露[4]。

1.4 ChatGPT 技術(shù)帶來的知識產(chǎn)權(quán)風險

ChatGPT 通過抓取智能電視用戶使用習慣和互聯(lián)網(wǎng)上的內(nèi)容信息獲得其訓練數(shù)據(jù)，可能并不合法。很多智能電視App 上的隱私政策條款明確說明數(shù)據(jù)不能被第三方收集，否則會涉及違反合同。但在實際訓練過程中，ChatGPT 抓取的數(shù)據(jù)不可避免地會涉及對他人享有著作權(quán)的作品進行復制使用，存在著作權(quán)侵權(quán)的風險。

此外，基礎(chǔ)模型降低了內(nèi)容創(chuàng)作的成本，使創(chuàng)造與原作品高度相似的深度偽造品變得更加容易。用戶可以通過語音指令或者文字輸入來描述自己的需求，ChatGPT 根據(jù)這些指令自動剪輯并生成相應(yīng)的視頻片段，雖然用戶覺得智能，但是所生成的新內(nèi)容可能是基于已有語音和視頻再加工，通過智能電視應(yīng)用軟件為視頻添加文字、音樂、濾鏡等特性，利用自動化的視頻剪輯和特效生成。這些對原始內(nèi)容的加工和發(fā)布，顯然會引起知識產(chǎn)權(quán)糾紛[5]。

2 應(yīng)用ChatGPT 技術(shù)的智能電視需采用的安全防范措施

2.1 選擇合適的ChatGPT 技術(shù)大模型

用對于智能電視來說，選擇ChatGPT 模型需要結(jié)合電視內(nèi)容推薦、語音控制及智能搜索等用戶個性化需求進行綜合考慮，通過選擇合適的訓練模型，分析和評估智能電視與用戶的對話場景、對話目的、數(shù)據(jù)量分析、交互質(zhì)量及資源消耗等多個方面，保證對話質(zhì)量和效果符合智能電視應(yīng)用預(yù)期。例如，選擇ChatGPT 模型時，結(jié)合智能電視內(nèi)置的智能語音助手、專用智能App 等應(yīng)用場景，根據(jù)對話中不同類型用戶喜好的節(jié)目內(nèi)容的大小和質(zhì)量，對模型的訓練過程和參數(shù)進行充分、詳細設(shè)置和調(diào)整，同時需要考慮網(wǎng)絡(luò)資源、中央處理器（Central Processing Unit，CPU）及電源消耗的問題[6]，針對目前智能電視應(yīng)用的互聯(lián)網(wǎng)帶寬和硬件進行優(yōu)化，避免由于資源不足導致的交互應(yīng)用運行卡頓，影響用戶體驗。

2.2 建立針對ChatGPT 技術(shù)的“防火墻”

當前，市面上多種智能電視的操作系統(tǒng)都基于安卓系統(tǒng)開發(fā)或定制，可以利用智能電視原廠自帶的應(yīng)用市場或者第三方軟件商店下載App，拓展視頻、娛樂、教育等互動應(yīng)用。然而，目前ChatGPT 在智能電視等終端并無規(guī)范化應(yīng)用約束，利用其技術(shù)推薦的應(yīng)用，更容易受到網(wǎng)絡(luò)攻擊和惡意軟件的威脅。不法App 有可能通過病毒和惡意軟件竊取用戶的信息或者進行有害的控制操作。對此，智能電視廠商應(yīng)在智能電視出廠時采取安全防護措施，如安裝殺毒軟件、防火墻等，并通過權(quán)限控制增強其應(yīng)用安全性。

2.3 做好針對ChatGPT 技術(shù)的數(shù)據(jù)保護

ChatGPT 技術(shù)的基礎(chǔ)在于人機交互，因此智能電視會即時或定期將用戶的日常交互數(shù)據(jù)上傳到云端，這意味著智能電視廠商或第三方可以通過收集用戶關(guān)注的內(nèi)容焦點和興趣愛好，分析家庭和個人收視率，利用用戶畫像優(yōu)化內(nèi)容推薦、廣告推送及應(yīng)用軟件下載等信息[3]。因此，智能電視廠商應(yīng)保障獲取用戶數(shù)據(jù)的正當性、必要性以及合法性的具體邊界，用戶則需要清楚電視設(shè)備所收集和上傳的數(shù)據(jù)，最大限度地保護好個人隱私，維護好自己的隱私權(quán)和數(shù)據(jù)安全。

2.4 針對ChatGPT 技術(shù)做好知識產(chǎn)權(quán)保護

ChatGPT 技術(shù)可能被用于制作欺詐或侵權(quán)內(nèi)容，如盜版的影視作品或經(jīng)篡改的音頻或視頻，或者通過模型生成的內(nèi)容有可能會被用來冒用個人或組織，損害其聲譽或侵犯其公共形象權(quán)。因此，智能電視廠商需要做好電視內(nèi)容審核并配合廣電行業(yè)的版權(quán)管理，在內(nèi)容展示前采用技術(shù)手段確保其已獲得合法授權(quán)或使用不受著作權(quán)限制的數(shù)據(jù)源。

3 結(jié)語

近年來，隨著大數(shù)據(jù)的積累、理論算法的革新、計算能力的不斷提高以及互聯(lián)網(wǎng)技術(shù)的不斷完善，人工智能的研究與應(yīng)用進入一個嶄新的發(fā)展階段，以ChatGPT 為代表的人工智能技術(shù)在智慧家電市場發(fā)展?jié)摿薮蟆Ｕ雇磥恚捎肅hatGPT 技術(shù)的智能電視能夠在保障信息安全、數(shù)據(jù)安全和知識產(chǎn)權(quán)安全的前提下，為用戶篩選更符合需求的信息、視頻及界面，結(jié)合虛擬現(xiàn)實（Virtual Reality，VR）等新技術(shù)，把畫面色彩、音響調(diào)節(jié)到用戶更身臨其境的設(shè)置，可以將智能電視升級為核心控制設(shè)備，與家庭其他智能設(shè)備互聯(lián)，甚至協(xié)助聯(lián)系產(chǎn)品維修服務(wù)，解決電視機故障。