保護機器學習系統(tǒng)的5個原因

崔滔

機器學習是一種提升便利性的力量，雖然機器學習是先進技術帶來的禮物，但總是屈服于臭名昭著的惡意軟件和攻擊。每個企業(yè)的發(fā)展都離不開客戶和投資者的信任，但只有在客戶的數(shù)據(jù)不被泄露和隱私得到維護的情況下，這種信任才能得以維持，以下是機器學習系統(tǒng)需要保護的5個原因。

數(shù)據(jù)盜竊

我們預計電子商務很快將突破萬億美元大關，這顯然也將導致數(shù)字欺詐激增。據(jù)Juniper Research的報告稱，預計到2023年，“無卡交易詐騙（CNP）”的規(guī)模將達到1 300億美元。另一個令人擔憂的消息是，近50 %的電子商務公司已經(jīng)成為它的受害者。

知識產(chǎn)權(quán)盜竊

專利就像是你創(chuàng)造力和技藝的“合法壟斷”。在企業(yè)環(huán)境中，知識產(chǎn)權(quán)戰(zhàn)爭可能會比Eminem和IggyAzalea之間的斗爭更嚴重。以下這些都是在不同行業(yè)存在的知識產(chǎn)權(quán)被侵犯的形式。

技術人員：雇員竊取計算解決方案或外包他們的工作，以賺取雙倍薪水；

醫(yī)療保健：醫(yī)護人員和藥劑師開出超出授權(quán)能力的處方；

教育：申請?zhí)摷僦鷮W貸款的人；

財務：偽造虛假交易的發(fā)票。

不合規(guī)

網(wǎng)絡安全法的實施無異于公司的責任，而公司的責任則伴隨著大量的制衡。

完整的隱私政策：根據(jù)2004年《加利福尼亞州在線隱私保護法》，在加利福尼亞州（現(xiàn)在幾乎覆蓋整個美國）經(jīng)營在線業(yè)務和網(wǎng)站或收集客戶信息（跟蹤或研究目的）的公司必須在網(wǎng)站上盡可能詳細說明其隱私政策。該法解釋了所收集信息的范圍，以及第三方共享的目的。

個人數(shù)據(jù)與個人信息或個人可識別信息有很大區(qū)別（可以互換使用他們，但每種都有特定的法律分類），甚至聯(lián)邦貿(mào)易委員會（FTC）也需要提出隱私法并予以支持。

美國以外的數(shù)據(jù)隱私法與美國法律并不一致，比如歐盟的GDPR賦予其公民收集、刪除公司獲取的信息的權(quán)利；而中國的數(shù)據(jù)保護法允許政府干預并保存軟件包的源代碼副本。

服務質(zhì)量下降

服務質(zhì)量（QoS）揭示了計算服務的完整性能，攻擊者可以利用該服務輕松地在系統(tǒng)中傳輸大量優(yōu)化的授權(quán)，由此，攻擊者可以降低服務質(zhì)量或強制向人工操作人員升級。

支持QoS的網(wǎng)絡容易受到另一種形式的攻擊———QoS攻擊。例如差別化服務網(wǎng)絡，以不同的成本提供不同類別的服務，這種收費差異可能會刺激一些用戶竊取帶寬或任何其他與網(wǎng)絡相關的資源。

中毒分析

數(shù)據(jù)中毒是金融業(yè)最大的潛在威脅，因為它可以導致任何基于人工智能的安全系統(tǒng)漏洞。它具有很強的操縱性，在持續(xù)損害數(shù)據(jù)和破壞客戶信任的同時，也容易被忽視。取證專家還發(fā)現(xiàn)，追蹤如此復雜但易受攻擊的狀態(tài)向量極為困難，這表明基于云的基礎設施還需要熟練的安全模塊。

除了享受服務之外，還需要警惕潛在威脅。要始終保護和過濾潛在威脅的安全性，這有點像現(xiàn)代的數(shù)據(jù)角斗士。希望你現(xiàn)在可以更加意識到保護機器學習系統(tǒng)的緊迫性。