可能被AI顛覆的下一個產業

路通

不久前，美國科羅拉多州博覽會藝術比賽上，一張奪得冠軍大獎的繪畫作品，引起了不小的爭議。因為，這幅名為《太空歌劇院》的作品，是藝術家使用AI技術生成的。雖然獎金只有區區幾百美元，但對于真正“作畫”的參賽者來說，沒有生命的AI，創作的作品超過了作為人類的自己，確實“傷害不大，侮辱極強”。

這幅由AI技術“創作”的作品，名字就叫“太空歌劇院”。它在2022年8月底美國科羅拉多州博覽會藝術比賽上，獲得了“數字藝術/數字修飾照片”一等獎。

其實，隨著DALL-E，Imagen，Stable Diffusion等開源AI模型的出現，任何人，只要會打字，簡單地輸入幾個單詞，就能生成各種風格的繪圖畫面———不是簡單的線條，而是真正“作品”級別的畫面。

AI給了你創作的“眼睛”，但總有人要用它來尋找一些更刺激的東西，最近，一個名為pornpen.ai的工具在Reddit上走紅。顧名思義，它真的是一個“澀圖”界的“神筆馬良”———用戶都不需要輸入單詞，只需要選擇幾個標簽，就可以出現一張“大尺度圖片”。

從Deepfake到pornpen，AI生成的成人內容已經逐漸“走上臺面”，有一些網頁甚至開始獲得上億瀏覽，嘗試與傳統的成人視頻網站和論壇一爭高下。未來，AI生成內容會淘汰這些目前還沒有任何限制的“限制級內容”嗎？

說起pornpen的誕生，Stable Diffusion（Stability AI最近發布的文字轉圖片生成模型）模型功不可沒。Stable Diffusion完全免費開源，它的代碼都在GitHub上公開，在遵循原項目采用的CreativeML Open RAIL-M許可證的前提下，任何人都可以拷貝使用，生成任何他們想要的圖像，甚至調整系統開發獨立的應用或服務。

不可避免，很多用戶用它制作Deepfake、暴力、虛假新聞圖片等“非主流”內容，從hentai，到電腦生成的名人裸照，再到不存在的人的裸照。

此外，Stable Diffusion的訓練數據，來自大規模AI開放網絡項目LAION旗下的一個注重“美感”的數據子集LAIONAesthetics。這是一個開源的250 TB數據集，其中包含從互聯網上抓取的近59億張圖像。

這些圖像中有相對較少的NSFW（Not Safe For Work）圖像，但可能正是這個數據集的高視覺質量，使Stable Diffusion特別適合制作成人圖片，尤其是名人明星的Deepfake圖片。

于是，Stable Diffusion發布不久，pornpen.ai———首批高仿真AI澀圖網站之一上線了。以Stable Diffusion模型作為主要支持系統，pornpen.ai的操作界面十分簡潔，以菜單欄的形式呈現，用戶通過選擇一組標簽，就可以自主定制生成照片。

pornpen.ai的定制標簽涵蓋6個維度，分別是風格基調、標簽、種族、風格、場景、角度。用戶擁有極高的自主權，可以隨心組合標簽，全方位、多角度地捕捉模型，還可以改變生成照片的風格。值得一提的是，pornpen.ai的創作者明確地刪除了pornpen.ai指定自定義文本的功能，以避免產生“有害圖像”，正因此，大多時候pornpen.ai生成的圖片看起來是令人信服的。但有時，當提示比較模糊，涉及到刻板印象或系統不熟悉的主題時，它生成的是外形奇怪的NSFW圖片，通常有多余的四肢，器官在不尋常的地方，以及扭曲的肌肉，看起來令人不安。

pornpen.ai有時還會在沒有人的情況下自動生成圖像，這可能是系統無法理解提示符造成的。當然，pornpen.ai的算法還會被進一步微調，新的標簽將被添加，它將變得更加智能。

隨著網友操作日益嫻熟，用pornpen.ai生成的圖片在各國論壇上不斷蔓延。比如，在Reddit上，人們開啟了r/pornpen的板塊，目前共約1.7萬人參與討論，交流分享自己總結的一系列適合創作圖片的標簽。

和不少同類網站相比，已經有不少專注于AI生成成人內容的網站，做得相當成功。根據Sensity的數據顯示，2018年排名前四的Deepfaked網站的瀏覽量超過1.34億次。

還有網站自2022年年初以來已經積累了超過3 800萬的點擊量。甚至有人將其AI能力變成API接口，開放給合作伙伴，由于搞得太大，以至于加密貨幣交易所下達命令斷掉了它的支付入口。AI生成類成人內容的火爆也不難理解，調查顯示，目前在歐美成人網站，用戶對AI生成的成人內容主要是持有好奇態度。

正如一位Reddit用戶所言：“體驗AI產生的NSFW內容是一種新奇體驗，知道它是由機器人生成的，看它的時候，會帶有一種原始的好奇心。”

新技術開啟了“內容的新供給”，但其實它也隱藏了很多問題，而其中不少踩中了道德，乃至法律紅線，例如：隱私侵犯。早期pornpen.ai用明星Deepfake合成類數據做訓練，以至于最開始時候，pornpen網頁還有明星的標簽，后來很快就被去掉了。同時，模型的訓練數據集還可能包括那些不同意自己的圖像被用于此類培訓的人。

在現有的盈利性網站上，如OnlyFans和ManyVids，創作者必須驗證年齡和身份，這樣公司才知道他們是自愿的成年人。但人工智能生成的模特無法做到這一點，因為他們不是真實的。例如，2020年，研究人員發現了一個Telegram機器人，它生成了超過10萬名女性的深度偽造圖像，其中包括未成年人，這對于社會倫理道德無疑是個巨大的挑戰。

不可否認，pornpen.ai引發了一系列道德問題，比如按鈕的選擇和默認選項都復制了一種非常特別的男性凝視。在pornpen.ai網頁上，只有默認輸出女性照片一個選擇，并沒有同樣的男性照片。其中一個原因可能是，用于訓練的數據集中女性的圖片更多，這無疑形成了可怕的“偏見”。

有人認為，AI成人內容的火爆，可能會導致真人成人內容產業創造者“失業”。不過，目前從業者認為“這些內容很有趣”，真的要取代真人演員，可能還需要很長時間。對于成人內容表演者來說，更擔心的是如果AI類成人內容過于火爆，可能會引來更嚴厲的網絡監管，殃及自己的事業。

目前，AI產出的成人內容仍處于法律的灰色地帶，這類內容的生產和傳播都沒得到有效的法律制約。Deepfake產生的成人內容幾乎總是出于惡意，通常在未經當事人同意的情況下被沖洗出來的，用來威脅和騷擾人們。這種使用算法生成的圖像對當事人的名譽權、甚至人權都會帶來巨大的傷害。但是，目前還沒有合適的法律來限制這類AI產出的內容。在美國，只有弗吉尼亞和加州，有針對Deepfake的內容的限制，但這些規定往往執行不力。

此外，根據《通信規范法（Communications Decency Act）》的第230條，科技平臺對幾乎所有用戶生成的內容都享有豁免權。

這意味著社交媒體通常不需要對平臺上傳播的AI內容（無論真假）承擔法律責任，因此，常常對平臺上相關的投訴不予理睬，無形中助長了AI成人內容的傳播。

成人內容是推動互聯網發展的一個重要動力，流媒體、論壇甚至電子支付體系，都曾受惠于此?，F在，反過來，技術尤其是AI技術的發展，也對這個古老的產業產生了“反哺”。

以pornpen.ai的內容來說，AI文字生成圖片技術被應用于色情產業幾乎是一個必然的過程。

一方面，該產業一直都是最新科學技術應用的“急先鋒”；另一方面，AI在圖像內容生成技術的發展正好迎來了突破臨界點。

但是這樣的“進步”，仍然需要足夠的限制，可能是法律的，如針對AI模型刑事立法，健全法律體系等；也可能是來自行業自發的，如成立協會，制定業界規范等。

畢竟，自由和限制是相輔相成的，無限制的自由，只會帶來混亂，甚至毀滅。