健一

物體識別的背叛,2019?Trevor Paglen,紐約大都會影城,奧特曼·西格爾,舊金山
從“‘蘋果到‘異常”是特雷弗·帕格倫(Trevor Paglen)與專門研究機器學習、人工智能及其社會影響的研究員兼教授凱特·克勞福德(Kate Crawford)所做的工作的物理體現。展出的30,000張照片全部來自圖庫網站ImageNet。ImageNet擁有超過1400萬張圖像和21,000多個類別的數據庫,是訓練AI機器學習面部識別人和物的主要圖片來源之一。Paglen將大量的圖片視覺信息導入到“訓練集”的分組中,向我們展示了研究成果的核心——名詞并不總是中立或純真的,圖像有時候也是奸詐的。
展覽從一個蘋果開始,它取材自勒內·馬格利特(RenéMagritte)1964年的畫作Ceci n'est pas une pomme (This is not an apple)。通過“訓練集”,根據算法可以識別出眾多蘋果和類蘋果,但類別會快速變形和碰撞,再識別出新類別。從“蘋果”很快就可以識別出“蘋果樹”“水果”,再到 “酒精”“債務人”“吸毒者”“無家可歸”“種族主義者”,到最后的“異常”類別,包括人,其中許多人是變相的、“蒙面”的,其身份和分類還不確定。比如其中“投資者”可以代表一群穿西裝的男人;“瘋狂”表示人類具有一系列恐怖電影里才有的變態行為。
展覽還展示了人類可以在AI中保持的品質——創造力和理解細微差別的能力。諸如“垃圾郵件”之類的詞具有多種含義,但對AI僅有一種含義。此外,他們還推出了一個工具,用戶可以在其中上傳自己的照片,并查看AI如何對它們進行分類,通常會產生令人不快的結果。正如Paglen在一篇論文中寫道:“收集圖像、對圖像進行分類和標記的全部工作,本身就是一種政治形式,充滿了關于由誰來決定圖像含義的問題。”
