似界

王凱

我們遇見的第一天，醫生告訴我說：現在的人工智能，最重要的不是智能，而是人工。

當時我尚未涉足這一行，對他說的話似懂非懂。于是，他把我帶到公司的最高一層，這里是識圖AI的訓練場，被分割成一個個隔音小房間，里面坐著來自附近城中村的女工們。她們或年老或年少，有些人握著鼠標的手尚且笨拙。一幅幅圖片在屏幕上閃過，她們點擊這些圖片，對著麥克風大聲讀出這些圖片里物件的名字。這些聲音被收集起來，匯總到數據中心，變成一片小小的碎片，并會在下一個流程中化作支撐AI聲音識別的一塊磚瓦。

“你有興趣嗎？當然，不是做聲音識別，是做別的?！?/p>

我點點頭。

接下來的數年里，我也坐進了類似的小房間，我的工作不是識圖，而是識別文字。我閱讀各種各樣的文字，從小說到紀實文學，從藥品說明書到微博，從商業成功學到宗教，然后我總結自己閱讀時的情感，把這些情感歸攏成數據“喂”給公司的另一個AI系統。醫生讓我和其他人收集每一個無法識別的句子、每一串能夠愚弄人工智能的文本，再把它們“喂”給另一個人工智能。

這個名叫“似界”的AI吞下這一切，不僅是文本，還有圖片和聲音。其中包括了被識別成鳥的橋梁藍圖、被認定為數學公式的詩、被判斷成細菌的人臉和被認定為消防警報的歌。

我問過醫生，“似界”這個名字的意思。

他說：“大千世界，似是而非?！?/p>

在文字識別組工作數年后，醫生把我調進了“似界”的項目組。

不同的項目組，同樣的工作內容。

“似界”會根據我們“喂”給它的那些“錯誤”，生成大量的文本、圖片和聲音。我的工作就是去識別這些東西，將那些對人類有意義的事物和在人類眼里不可理解的事物分開來。

我問過醫生這是在做什么。但他說，就算解釋了，我也不會懂。

在我看來，“似界”仿佛是在搞藝術。

我對人工智能一竅不通。我只懂藝術，而且我上一份工作就是搞藝術——寫賣不出去的小說和沒人看的詩，最后窮出了心理疾病，跑到互聯網上去找免費的心理治療，然后我遇到了醫生。

“你需要的不是一次治療。”他說，“你需要一份工作，而我恰好可以提供一份工作。”

這就是為什么我叫他醫生，盡管他這輩子幾乎都沒穿過白大褂。其實醫生比我更像是個藝術家，他搞出來的“似界”雖然只是個人工智能算法，但它“吐”出的很多東西都挺有藝術感的。我為醫生收集這些內容，直到有一天，一群穿著黑色T恤衫的人出現在公司里。他們表情嚴肅認真，而醫生也難得地露出了嚴肅的表情。

“我們要看演示。”個子最高、肩膀最寬的那個人說。

醫生帶他們去樓頂。那里擺放著幾十臺無人機。他叫上了所有“似界”項目組的人，包括我。我們好奇而不解地坐在樓頂的塑料椅子上，那些椅子平時是用來做拓展游戲的。

一個穿黑T恤衫的人拿出遙控器，無人機成群結隊地起飛。掠過樓頂，再飛回來，最終全部懸停在醫生的頭頂，紅色的激光點落在他的臉上和胸口，他笑著用手遮擋。那天很熱，我還記得陽光落在我的臉上。那些聰明的小飛機突然從我的頭頂飛過，甚至繞著我的臉轉。然后，它們繞到我背后，發現我，氣勢洶洶地向我飛過來。但是等它們繞到我身前時，仿佛被某種事物所迷惑，又飛走了。

“行了?！眰€子最高的那個男人擺擺手，“簽保密協議吧。你們所有人。”

我們那天就在現場、在天臺上、在凹凸不平帶著小圓點的塑料凳子上，簽下了我們這輩子第一份保密協議。我當時又困惑又緊張，甚至劃破了紙。

那時候我從來沒想到，這份工作會把我帶上無人戰場。無人戰場名副其實，那里在開戰后就已經空無一人。當地居民根據他們的信仰和信念，收拾行裝逃往不同的方向。如今，那片土地上只有無人機、自走機器人和自行戰車。它們開出廠房，駛下運輸機，穿過臨時機場那塵土飛揚的跑道，進入無人戰場，開始沖撞彼此、轟炸彼此。

我只在分析室里見過N區。那個長條形房間燈光昏暗，墻壁上并排掛著兩幅投影屏，左邊是人工智能分析終端生成的N區圖像，右邊是無人機拍攝視頻里的N區風景。

它們迥然不同。

擁有“似界”的人，不只是我們，還有敵人。雙方都在用盡一切辦法愚弄對方自主作戰機器人的眼睛。因此，在人工智能的分析圖像里，整個N區顯現出難以置信的光怪陸離，就像是具象化的卡爾維諾小說，或者動態的達利油畫。

我至今保留著一段N區的人工智能全景視頻。在那段視頻里，天空湛藍、陽光明亮，棉花般的云朵中間倒掛著一座索橋，正呼嘯著向鏡頭的方向沖過來。

這甚至不是整段視頻里最怪異的部分。

在被集束炸彈破壞得坑坑洼洼的地面上，奔跑著各種莫可名狀的事物。我能從中間分辨出一只藍色的袋鼠、兩條直徑比人還粗的繩索、一只琺瑯鼻煙壺和六架不同顏色的天文望遠鏡。在視頻里，它們看起來模糊不清、破碎跳動，彼此沖撞廝打，仿佛一群不真實的野獸。

如果比對直接拍攝的視頻，就可以看出，這些互相廝打的異物都是刷有“愚弄迷彩”的自走機器人，天空中呼嘯而來的是一架大型無人機。

對方也使用了“似界”的技術。把愚弄自動戰爭機器的迷彩刷在每一臺機器上，讓戰場指揮AI產生嚴重的錯覺，迫使我們不得不倒退回用人手操控戰爭機器的時代，而且他們甚至還有余裕的精力來掌控這些錯覺的細節。當時，我們認為那是對方對我們的示威。

第二天晚上，噩耗從海上傳來，我們才知道，那是對方相信自己已經勝利的宣言。

我們最終還是奪回了N區。

但沒有人能把醫生帶回來給我們。

他們叫我過去的時候，已經是醫生的飛機墜入深海的第九天。這一次我簽下了差不多一指厚的保密協議，才得以見到那個幸存下來的飛行員。

她看起來疲憊、驚恐、雙眼紅腫，而且充滿不安。他們給她安排的房間寬敞而舒適，但這并不能改變她正在被監控的事實。我看了他們對她每一次問詢的記錄，但我決定還是面對面地和她談一談。

當我走進去的時候，她甚至都沒有抬頭，只是大聲地喊：“出去！我都說過了！我不想再說一遍！”

我在她對面坐下。

“我叫他醫生?！蔽艺f，“他叫我鏡子?！?/p>

這句話讓她抬起頭來，困惑地看著我。我對她說了醫生的名字，我看到她臉上的表情由不滿變成悲哀和內疚。

“我真的什么都沒有注意到。”她說，“雷達和目視都一切正常?！?/p>

“我相信雷達一切正常。”我說，“在現代戰爭里，要騙過雷達的辦法有很多。”

她又轉為警惕，“那你的意思是，我沒有看到那個迎面撞上我飛機的東西？”

“我覺得你看到了?！蔽艺f，“只不過那個東西太怪異，怪異到你都不相信它會在那里，怪異到你覺得它應該是個幻覺。而你是個飛行員，你的訓練要求你理智冷靜，要求你忽略那個看到不可思議的東西的瞬間。”

她看著我，嘴唇微張，欲言又止。

我拿出手機，給她看那段視頻，給她看廝打在一起的望遠鏡和袋鼠，以及空中飛掠并開火的懸索橋。

她的眼睛睜大了。

“很多年前，有一群科學家……”我說。

這個故事是醫生講給我聽的。我向他抱怨說我對他的工作一無所知。他就笑著摸我的頭，說，要給我講一個一無所知的人也能懂的、關于人工智能和他的工作的故事。

我記住了他說的每一個字，并在很多年后，講給那個飛行員。

很多年前，有一群科學家。他們想要創造出和人一樣聰明，能夠作出判斷和選擇的機器，但他們選擇了不同的方法去做。有些科學家，他們用做鐘表的方法去做，只要“齒輪”轉到了合適的位置，就能給出時間，而鐘表不需要理解時間本身。另一些科學家，他們選擇用更困難的方法，去仿造人類的神經系統，仿造你和我的大腦，來做這種機器。他們希望機器能夠真正地去“理解”和“認知”。

這就是我們今天最常見的人工智能——至少是人工智能的一種。

起初，他們很成功。

但是后來，這些科學家發現，他們做出來的人工智能是有缺陷的。雖然這些機器可以識別99%的圖片、聲音、文字，但是總有那么1%的東西，它們會認錯。把狗認成摩托、把花看成跳舞的女人，或者把歌聲判斷成警報。

科學家們收集了這些會讓人工智能出錯的事物。開始研究，有些人認為，這種錯誤最終是可以消除的，因此他們一直致力于糾正這些錯誤。但另一些科學家認為，這種錯誤根植于人工智能的基本結構——而這個基本結構同時也是人類神經系統的基本結構。他們認為這種錯誤無法消除，但可以總結出其中的規律。

我做的事情就是后一種。

“似界”的算法讓它能夠發現和生成這些帶來錯誤認知的事物。它已經超越了色彩、圖像和意義，給認知本身披上了偽裝。在自主武器系統遍布全球、無人戰爭多點開花的今天，每一張錯誤認知圖片，每一塊“愚弄迷彩”，都有可能從無人機轟炸下拯救一條生命；每一條錯誤認知文本都有可能繞過無孔不入的網絡監視、傳遞至關重要的密碼；每一組錯誤認知聲音都有可能擾亂對方的信息系統。

我不知道是戰爭找到了我，還是我去找到了戰爭。

“似界”創造的每一個錯誤認知，其錯誤都根植于人工智能算法的基本結構，而這個結構脫胎于人類的神經系統。如果能撥開這些錯覺的迷霧，或許我們就能看見世界背后的真實。如果能掌握這種錯誤認知的力量，我們或許就能獲得更強大的武器。

而且我必須要快。

我們有敵人，而且敵人和我們一樣聰明。

“我看見一顆月亮向我飛來，我甚至能看清楚它上面的環形山。那是在白天，天空那么明亮，而那個月亮離我那么近，仿佛伸手就能摸到，它又那么小，直徑比我的飛機的翼展還窄，像一塊完美的圓形石頭。我想我一定是太累了，出現了幻覺，然后那顆月亮就撞在了飛機上。我以為是我的錯。”她說。

我拿出一張經過特殊設計的雜色濾光片，它可以擾亂固有的視覺模式，重置被欺騙的神經信號。我把它疊在圖片上，給她看。

“這是……這不可能……”

我嘆口氣。

在那張照片上，一架涂滿了愚弄迷彩的無人機正掠過天空。

“我要叫你鏡子。”醫生曾經這樣說，“因為你比我更遠離真實，又比我更接近真實。”

我是個色盲，很微弱的那種。我分不清藍色和綠色，這讓我可以免疫大概30%的針對人類設計的錯誤認知迷彩。和我一起工作的人里，有些是紅綠色盲，但更多的是非常稀有的全色盲。他們幾乎可以免疫絕大多數的錯誤認知迷彩。根據我們的視覺模式，一批批單色和轉色濾光片被制造出來，保護那些被困擾的戰士和被愚弄的人工智能。讓他們能夠穿過硝煙，穿過戰場，去尋找真相。

但世界正在一天接一天地失去真實。在前線，我甚至看到過刷滿愚弄迷彩、偽裝成山脈的一整棟大樓。人們這么做并不是為了贏得戰爭，而是那些充滿恐懼的居民想要讓自己從世界上消失。

最近，我聽說已經有針對色盲者的錯誤認知迷彩被開發出來。人們將欺騙人工智能的方法轉而用到欺騙人眼上，開發出了能夠超越濾光設備的通用認知擾亂圖形。很多科學家一起接手了醫生留下來的研究工作，他們和我一樣憂心忡忡。

醫生說的話依舊回蕩在我們耳邊。

必須要快，他說。

我們有敵人，而且敵人和我們一樣聰明。