淺析人工智能安全問題及其解決進(jìn)路的探究

張程奕

摘 要： 適應(yīng)陌生的環(huán)境總是喜歡以記錄的方式，雖然已經(jīng)忘記大學(xué)開學(xué)時是如何適應(yīng)交大環(huán)境的，但這種記錄行為總是被鐫刻在腦海中…或許這是某些人群應(yīng)對新環(huán)境所表現(xiàn)出來的獨特適應(yīng)表現(xiàn)吧，或者叫適應(yīng)性行為。今天一天的工作是以早起開始的，還是不太習(xí)慣早起的生活，早上總讓人感到有些困倦和不自在…想必是交大大四的生活帶給自己的被動性吧…倘若自己的心中懷揣著夢想，自己一定是很早很早到企業(yè)去完成自己任務(wù)的。查理就是那樣的人吧，總歸還是要一直不斷地努力下去的，不努力的話，會被市場中均值回歸的規(guī)律回歸到基本狀態(tài)的。

【中圖分類號】 TP18 【文獻(xiàn)標(biāo)識碼】 A 【文章編號】 2236-1879（2018）11-0152-01

引言：

人工智能的問題開始逐漸地引發(fā)了自己產(chǎn)生了一些對薪酬的理解有了一些稍微獨特的認(rèn)識，薪酬的規(guī)則設(shè)定仿佛也被規(guī)律化了，用規(guī)律來精準(zhǔn)地調(diào)控個人的薪水。也開始對真實的工作有個更加深入的認(rèn)識，但這種認(rèn)識是之前從未有過的，一種仿佛置身事外以旁觀者視角觀察整個體系的運轉(zhuǎn)，能非常直觀地看到一些問題，隱約地感覺閉環(huán)和一些工作流程的欠缺，但尚未想到較好的解決方案，或許時間能讓自己逐漸升級成“發(fā)現(xiàn)問題”到“解決問題”——很多東西真的是沒發(fā)展到特定階段，能看出很多端倪，比如教育的問題，但總是覺得徹底改革教育的勢頭還未到來，往往最表象的道理，最貼近簡單生活實際的調(diào)整越需要更深層次的邏輯，必須要對復(fù)雜系統(tǒng)有更加深入的了解才有可能深入認(rèn)識。

一.人工智能安全問題簡述

人工智能給我提了一個全局性的方案，是以注塑工藝為核心，原材料，模具，干燥機/控溫機/機械手/注塑機的工藝的匯總才能更好地產(chǎn)出汽車/醫(yī)療/CE等產(chǎn)品。工業(yè)互聯(lián)網(wǎng)的發(fā)展情況，在目前看來，這些都需要進(jìn)一步的深入學(xué)習(xí)吧。第一天攝入的信息量還是蠻大的，當(dāng)然也不指望自己能夠迅速通盤地接受這一切，還是需要深入慢慢地理解這一切的緣由。

校園生活的邏輯和職場生活的邏輯是完全不同的了，研究生和博士生已經(jīng)工作很大程度上是個非常相似的事情，都是為了自己的一個預(yù)期或者夢想，不斷實現(xiàn)自己的夢想吧。和我同窗的伙伴——查理，工作了三年逐漸明白了這些事情的道理，開始心有夢想地不斷努力著，朝著夢想奮斗著…大家都是創(chuàng)一代，在城市化之前，自己的父母沒有把握住浪潮，而城市化之后，之前追求KPI的游戲規(guī)則也以發(fā)生了改變變成了市場規(guī)律這個更加強大的武器…我們必須適應(yīng)這個過程。感覺自己仿佛是突然才明白這個道理的，亦或者是看了《一人之下》后才逐漸才家庭教育和童年教育中對城市化的無感，從小沒有生活在大城市怕是限制了自己的想象力和可能性。

二.人工智能安全問題的發(fā)展

人工智能的制備方法繁雜，有些方法可以得到高質(zhì)量的人工智能，但卻非常不適合大規(guī)模化生產(chǎn)。而且得到的人工智能中會存在各種各樣的缺陷，這種缺陷是由制備方法導(dǎo)致的，是不可避免的。缺陷的存在會很大程度上影響產(chǎn)品的化學(xué)性質(zhì)、物理性質(zhì)。而人工智能中最主要的缺陷包括空位缺陷、表面吸附雜質(zhì)原子及拓?fù)淙毕莸取Ｈ斯ぶ悄艿母牧技捌涓倪M(jìn)方向

為了改善人工智能在未來的電子、光子和存儲應(yīng)用中的性能，他們探索出了新方法，并將研究成果發(fā)表在最近一期的《科學(xué)報告》雜志上。此外，賓夕法尼亞州立大學(xué)研究人員帶領(lǐng)的研究小組還進(jìn)行了另外一項相關(guān)研究，他們使用摻雜工藝，將外來的原子摻雜到薄膜的晶格中，從而改變或者提升材料的特性。他們將這項研究成果發(fā)表在這周的《高級功能材料》雜志上。不僅如此，賓夕法尼亞州立大學(xué)研究人員還大大改善了人工智能的摻雜濃度，摻雜解決了兩個問題：對于晶體管和傳感器等應(yīng)用來說，它使得材料更加導(dǎo)電；同時，它通過改善所謂的“硫空位”缺陷，提高了材料的質(zhì)量。團(tuán)隊預(yù)測，更高的錸摻雜將完全消除“硫空位”帶來的影響。

三.人工智能安全問題的解決方式

（1）安全性和魯棒性；

安全性和魯棒性 （security and robustness）：在不同環(huán)境下可靠的性能，目前的模型既不安全也不魯棒的一個有趣的原因是它們對「對抗樣本」的敏感性。最常見的對抗樣本類型是圖像像素?zé)o法檢測到的擾動導(dǎo)致模型進(jìn)行錯誤的判斷。即使對熊貓形象的微小改變也能欺騙學(xué)習(xí)模型，讓模型認(rèn)為有 99.3% 的可能是長臂猿。但對抗樣本不限于這種圖像處理詭計。一些研究人員提出了更廣泛的定義：「對抗樣本是攻擊者故意引入機器學(xué)習(xí)模型，旨在導(dǎo)致模型出錯。」按照這個定義，對抗樣本不僅可以用來攻擊視覺系統(tǒng)，而且可以用來攻擊任何類型的模型。

（2）可理解性和可解釋性：

這篇論文來自于 NIPS 2017 大會上由 Google Brain 團(tuán)隊舉辦的 NIPS 2017 對抗攻擊防御比賽。比賽包括非目標(biāo)攻擊 （non-targeted attack）、有針對性的攻擊 （targeted attack） 和防御 （defense）。每個類別都使用黑盒圖像分類器和類似 ImageNet 的圖像數(shù)據(jù)集作為基礎(chǔ)，這里的「黑盒」表示攻擊者無法知道目標(biāo)模型的權(quán)重。「非目標(biāo)攻擊」的方法需要對給定的圖片進(jìn)行處理，使得某個機器學(xué)習(xí)分類器識別其為任意類別，而「有針對性的攻擊」的方法需要讓某個機器學(xué)習(xí)分類器能成功將圖像識別為屬于特定的錯誤類別。

（3）獎勵學(xué)習(xí)：

對于非目標(biāo) （non-targeted） 和有針對性 （targeted） 的攻擊類型，清華團(tuán)隊采用已經(jīng)建立的基于迭代的技術(shù)來生成對抗性攻擊（「iterative fast gradient sign method」，I-FGSM）并增加了動量項，從而減少這種算法經(jīng)常遇到的過擬合問題。為了增加這些對抗性攻擊在不同模型之間可以遷移的程度，他們針對使用分類器的集成來實現(xiàn)他們的方法。為了防御，清華團(tuán)隊提出了「高階表征引導(dǎo)去噪器」（HGD）方法。為了消除對抗擾動，該方法改進(jìn)了現(xiàn)有的與去噪有關(guān)的防御機制。HGD 基于這樣的見解：在防御對抗樣本的過程中，專注于像素級的準(zhǔn)確性實際上可能增加而不是減少失真。HGD 使用高級特征指導(dǎo)去噪器防御對抗性攻擊。

結(jié)語：

在近代一直到現(xiàn)代的人工智能工程的研究和探索，無論是人工智能還是新型合金都具有重大突破，由此可見新材料于我們的日常生活息息相關(guān)，與我們的科技發(fā)展緊密相連，對未來的電池行業(yè)發(fā)展、半導(dǎo)體技術(shù)革新帶來深遠(yuǎn)影響。但是新材料仍然具有很大的探索價值，對于每位科學(xué)家來說都有很長的路去探索。

參考文獻(xiàn)

[1] 杜嚴(yán)勇.人工智能安全問題及其解決進(jìn)路[J].哲學(xué)動態(tài)，2016（09）：99-104.

[2] 石霖，曹峰.人工智能發(fā)展帶來的安全問題與策略研究[J].電信網(wǎng)技術(shù)，2018（04）：15-17.