一條AI假視頻有多大破壞力

云賀

不久前，一個比利時政黨在臉書賬號上發布了這樣一段視頻：美國總統特朗普正在發表講話，指責比利時在氣候變化問題上的不作為。視頻一經發布，批評美國肆意干涉他國內政的言論即刻四起。

實際上，特朗普從來沒有發表過這番言論。這段引發爭端的視頻是由人工智能技術合成而來的深度偽造（Deepfake）作品，是一條名副其實的“假視頻”。

今年1月，針對這項剛剛在全球范圍內嶄露頭角的“黑科技”，美國卡內基國際和平研究院硅谷辦公室主任夏洛特·斯坦頓（Charlotte Stanton）發布了名為《國家如何應對“深度偽造”？》的文章，深入探討深度偽造技術可能給未來國家政治生態和輿論走向帶來的潛在風險，并為各國相關部門提出了應對之策。

難以鑒別

一條深度偽造的假視頻是怎樣制作出來的？

簡單來說，計算機會通過一系列深度學習和算法技術，把一個人的言行舉止“覆蓋”在另一個人身上，最后生成一段合成而來、以假亂真的視頻。而且，按照機器學習的規律，計算機接觸和學習的音視頻文件越多，最后生成的視頻效果就越逼真。

其實，類似的合成視頻技術其實很早就有，只不過需要具備一定特效專業基礎的人員才能完成。卡內基的文章提出，人工智能、深度學習等新興技術的出現，不僅讓深度偽造的應用門檻大大降低，也讓防偽、鑒偽工作變得極為困難。

夏洛特·斯坦頓表示，就算一個人并不了解人工智能或深度學習算法背后的復雜原理，也不妨礙他/她登錄進入一些界面友好、操作簡便的應用程序，輕松地偽造一條視頻。

更麻煩的是，“深度偽造”作品還很難被識破。這些視頻一般不存在明顯的技術瑕疵，只能通過一些極細小的線索鑒別真偽，諸如目標人物的呼吸方式、眨眼頻率等。例如，一個人在說話時的眨眼頻率比靜止時要稍快一些，而這是深度偽造作品往往會忽略的細節。

“騙術紅利”

截至目前，深度偽造還沒有在全球范圍內造成極其嚴重的后果，該技術普遍還停留在較為初級、偏向娛樂的應用階段。但按照技術的發展行進軌跡來看，對于未來深度偽造可能具備的破壞力，必須予以高度警惕。

夏洛特·斯坦頓認為，深度偽造的破壞力主要表現在兩方面。一方面，假視頻本身會造成輿論的混亂，干擾社會良序和經濟穩定。

比如，偽造關鍵政治人物的言論視頻可能會制造政治混亂和改變輿論風向，并在選舉、民意、外交等領域產生不可預估的惡劣影響。而在商業領域，偽造上市公司領軍人物的發言則會嚴重干擾股市走向，引發經濟動蕩。

另一方面，假視頻的泛濫還會拖累真視頻的可信度，直至讓民眾陷入“質疑一切”的怪圈，從而大大削弱政府、組織、企業和的公信力。

美國兩位法學界的教授羅伯特·切斯尼（Robert Chesney）和丹尼爾·席特倫（Danielle Citron）曾在2018年7月發表的一篇學術論文中將上述現象稱為“騙術的紅利”，即公眾對深度偽造技術和產品了解得越多，對于事實真相的懷疑程度就越高，直到“真的也變成了假的”。

雖然“深度偽造”破壞力巨大，但夏洛特·斯坦頓在文中也提示道，它并非全無可取之處。

2019 年1 月24 日，華盛頓一名女性在觀看一段被人工智能技術深度偽造的視頻，該視頻改變了特朗普和奧巴馬所說的內容。

美國漸凍人協會（ALS Association）就曾聯合加拿大一家名為琴鳥（Lyrebird）的初創公司開發出一套聲音模擬系統。這套系統可以在早期收錄和學習漸凍癥患者本身的聲音，以備在患者不能自主發聲的時候，由系統自動生成電子音頻，提高患者與外界交流的舒適度。

如何應對？

為了應對包括深度偽造在內的各類信息偽造技術的潛在風險，各國政府已紛紛著手準備。其中，歐盟的力度最大、進度最快。

2018年9月，歐盟主要的網絡平臺、社交媒體巨頭、廣告主和廣告經營者代表等在布魯塞爾發布了《反虛假信息行為準則》（Code of Practice on Disinformation），用以規范解決近年來歐盟地區網絡虛假信息泛濫的問題。

該文件不僅呼吁歐盟組建一個獨立的“網絡事實審查部門”，還特別強調，普通民眾也要深度參與到“打假”過程中來。譬如，民眾應在某種程度上能夠甄別信息來源、了解虛假視頻的制作過程，并能對“真假”有初步判斷。

美國一些聯邦議員也開始發聲，呼吁政府警惕深度偽造技術可能給國家安全帶來的危害。民主黨眾議員亞當·希夫（Adam Schiff）和斯蒂芬妮·墨菲（Stephanie Murphy）等，就曾致信中央情報局局長丹·科茨（Dan Coats）稱：“對于那些試圖散布虛假信息的敵對勢力而言，深度偽造技術恐怕會成為他們的一種強有力工具。”

卡內基的文章總結認為，想要應對“深度偽造”這一“黑科技”，政府應做好以下幾點：

首先，要準確定義對“深度偽造”技術不恰當應用的具體范疇。畢竟，這項技術本身是中立的，何況在醫療等領域還有極大的開發利用價值，不應該被“一棍子打死”。

其次，政府應該牽頭，聯合與視頻傳播相關各方，包括網絡平臺、監管機構、新聞媒體、行業組織等，建立起一個緊密合作的信息共享機制，以便能在短時間之內發現并控制不良信息的傳播。

例如，2015年通過的美國網絡安全信息共享法案就提出了上述機制的雛形。該法案的核心是在多個網絡平臺之間實現一定程度的信息共享，一旦發現帶有惡意的深度偽造信息即可警示其他平臺特別是各大新聞通訊社，以防不良信息進入主流傳播渠道。

最后，夏洛特·斯坦頓提出，政府要從現在開始，助力相關鑒偽防偽技術的研究開發工作。可以說，這是“深度偽造”技術與“鑒偽防偽”技術之間的一場賽跑。目前，美國國防部高級研究計劃局（DARPA）已專門設立了“媒體鑒證”項目，開發能識別深度偽造視頻的技術工具。