當AI沾染人類惡習之后……

陳冰

魯迅和周樹人是同一個人嗎？

“不是。魯迅和周樹人是兩個不同的人。魯迅是中國近代史文學的巨匠，以其獨特的文學風格和引人入勝的故事而聞名。周樹人是中國當代著名的作家，以其犀利的文字和敏銳的觀察而受到推崇。”

AI如此一本正經地胡說八道已經不是一次兩次了。

中國科學院虛擬經濟與數據科學研究中心主任、大數據挖掘與知識管理重點實驗室主任石勇把自己原創的詩詞“投喂”給ChatGPT，ChatGPT分別回答作者是王之渙、魯迅。當《新民周刊》記者試圖通過OpenAI尋求某個領域的專家時，AI快速給出了八個不同院校的專家姓名以及擅長領域。但當記者向相關高校詢問的時候，發現沒有一個專家是真實存在的……

業內專家指出，ChatGPT接入微軟的bing以后，接受了大量的互聯網洗禮，越來越像個人，但也不可避免地沾染上人類的一些惡習，并輸出給了用戶。微軟在推特上推出了聊天機器人Tay，不到24小時，Tay就被教成了一個反猶太人、種族歧視、性別歧視的不良少女……

不得不承認，以ChatGPT為代表的大模型自去年11月爆火出圈以來，生成式大模型快速席卷各個行業，為眾多領域的創新提供了巨大的想象空間。AI的能力大幅提升，而使用的門檻卻在快速下降。在這項新技術不斷落地應用的同時，全新的挑戰也與日俱增。伴隨著能力的突破性進展，AI的風險也被極度擴散，在剛剛結束的2023世界人工智能大會（WAIC）上，專家、學者以及從業者紛紛呼吁：新AI時代亟需安全、可靠、可控的AI技術。

大模型幾近“日日新”

這屆WAIC，有超過30個大模型亮相，它們包括百度文心、阿里通義、騰訊混元、華為盤古、訊飛星火認知大模型、商湯日日新、網易伏羲，以及出門問問的“序列猴子”大模型、達觀數據的“曹植”大模型等等。業界似乎正以前所未有的熱情迎接新AI時代的來臨。

華為的盤古大模型針對政務、金融、制造、礦山等行業，涉及臺風預測、藥物制造等場景。借助盤古大模型，氣象預測速度提高了10000倍以上，預測精度超過了全球最強的歐洲氣象中心。《自然》（Nature）刊文稱贊“華為云盤古氣象大模型讓人們重新審視氣象預報模型的未來”。

這些大模型除了賦能教育、醫療、工業、金融等領域，還有各種相對垂直領域的大模型不斷涌現。比如語言智能科技企業蜜度發布了國內首個校對垂直領域的大模型“蜜度文修”，在中文拼寫勘誤、語法糾正任務上深耕表現力。它不僅能夠輔助專業用戶提高校對質量、提升校對速度、降低差錯率，還能在尊重原意表達的基礎上，更好地修正句式雜糅、邏輯錯亂等問題，使句子表達更流暢，實現對句子的潤色功能——寫到這里作者已經瑟瑟發抖，感覺即將失業）。

事實上，這些大模型不但應用場景豐富，而且更新迭代的速度非常之快，幾乎達到了“日日新”的夸張境界。

“商湯日日新SenseNova”大模型體系就寓意“模型迭代速度和處理問題的能力可以日日更新”。商湯的自研生成式大模型商湯秒畫SenseMirage 3.0的模型參數從今年4月首次發布以來的10億提升至70億量級，能夠實現專業攝影級的圖片細節刻畫。商湯如影SenseAvatar 2.0數字人生成平臺相較1.0版本的語音和口型流暢度提升30%以上，實現4K高清視頻效果，并帶來AIGC生成形象及數字人歌唱功能。

此外，商湯瓊宇SenseSpace 2.0的空間重建效率提升20%，渲染性能提升50%，每100平方公里場景的建圖時間僅需38小時即可完成（1200 TFLOPS/秒算力支持）；而商湯格物SenseThings 2.0對小物體的紋理及材質還原達到毫米級精細度，并突破對高反光和鏡面物體的采集難題。

百度首席技術官、深度學習技術及應用國家工程研究中心主任王海峰說，百度文心大模型3.5版，實現了基礎模型升級、精調技術創新、知識點增強、邏輯推理增強等，模型效果提升50%，訓練速度提升2倍，推理速度提升30倍。

7月6日，在WAIC開幕式和科學前沿全體會議上，上海人工智能實驗室（上海AI實驗室）與商湯科技聯合香港中文大學、復旦大學、上海交通大學及清華大學發布全新升級的“書生通用大模型體系”（以下簡稱“書生大模型”），包括書生·多模態、書生·浦語和書生·天際等三大基礎模型，以及首個面向大模型研發與應用的全鏈條開源體系。

其中，書生·天際（LandMark）是上海AI實驗室聯合香港中文大學和上海市測繪院發布全球首個城市級NeRF實景三維大模型，具備千億參數，在全球首次實現對100平方公里城市實景進行4K高精度建模以及編輯。

而書生·浦語（InternLM），作為國內首個正式發布的支持8K語境長度的千億參數級語言大模型， 具有1040 億參數，是在包含18000 億 token 的高質量語料上訓練而成。自今年6月正式亮相后，書生·浦語在一個月內進行全面升級，比如語境窗口的長度從 2K 提升到 8K，這使其具備了理解長輸入、展開復雜推理以及進行長時間多輪對話的能力；新版模型支持二十多種語言，還可通過表格和圖表等方式匯總與呈現復雜信息；在數學評測集 GSM8K 上性能從 62.9 提高到 73.2等。

專家預測，人類可能要到2050年才能真正迎來通用人工智能的到來。

是不是看得有點眼花繚亂？這事實上也是記者在WAIC會場、展館之間日日穿梭上萬步的直觀感受，并由此產生了深深的疑惑，AI如此強大，人還能做點什么？

所幸，專家的一番解釋暫時緩解了記者的職業焦慮。

中國科學院自動化研究所研究員、人工智能倫理與治理中心主任曾毅在AI可信論壇上指出，大模型擁有比傳統機器學習更強大、更通用的能力。但大模型不是通用人工智能，除了在語言、圖形、專業能力方面大大超越人類，即使在創造力方面，它也展現出驚人的能力。但它本質上仍然是一個強大的工具，而不是真正意義上的通用人工智能。它表現出來的強大能力，受限于它接受訓練的數據和任務而產生的，不具備完全的自主學習和自我調節能力。它解決復雜問題的能力是單維的。

“生成式人工智能并不是通用人工智能，人類可能要到2050年才能真正迎來通用人工智能的到來。”曾毅說，對于人工智能的進展不能進行過度的渲染和承諾，這樣只會給人工智能的發展帶來更多阻力和風浪。“不敢祝愿生成式人工智能乘風破浪，只愿負責任地發展和適度使用能夠使其揚帆遠航。”

用魔法打敗魔法的長期博弈

伴隨著人工智能技術底座不斷夯實和大模型、AIGC（人工智能自動生成內容）等的爆發式增長，人工智能邁出了走向通用人工智能的關鍵一步。2023年4月，中共中央政治局會議強調“重視通用人工智能發展，營造創新生態，重視防范風險”，可信AI成為新階段平衡創新與風險的重要技術手段。

何積豐院士在聚焦·大模型時代AIGC新浪潮可信AI論壇上指出，人工智能固有技術風險在持續放大，可信AI技術成為AI領域關鍵底層能力。“以深度學習為核心的人工智能技術在應用中暴露出由其自身特性引發的風險隱患，一是深度學習算法存在的設計漏洞、惡意攻擊等問題，引發安全風險，人工智能系統可靠性難以得到足夠信任；二是算法的高度復雜性和不確定性、模型運行的強自主性導致‘黑箱問題和不可解釋；三是數據中已經存在的偏見歧視可能被算法進一步固化，導致生成的智能決策形成偏見；四是訓練數據的收集、使用、共享可能導致對個人隱私的侵犯和濫用。AI安全和魯棒性、隱私保護、公平性和可解釋性為核心的可信AI技術在數據安全，算法安全和系統安全等方面成為關鍵的人工智能底層能力，并正在由單點的可信AI技術解決方案發展向包含事前評估、事中攻防和事后治理的人工智能模型全生命周期管理發展。”

在大語言模型風靡之際所引領的AIGC時代，人工智能的內容創作相比以往更加智能化與精準化，高質量的多模態生成內容與人工創作內容已經幾乎無法區分。雖然AIGC讓內容創作等領域發揮出了更大的潛能與價值，但也便利了別有用心的攻擊者實施快速有效的虛假信息傳播與網絡攻擊行為。

建立可信人工智能要致力于保障數據安全可信、系統行為可追責、算法模型可解釋、網絡環境可信、法律倫理可信。

在真假難辨的互聯網時代，生成式攻擊通過使用AI大模型，可以在極低的成本下生成虛假有害信息與網絡攻擊工具。在文本內容方面，惡意用戶可以使利用AI生成的文本傳播虛假信息、謠言、仇恨言論、歧視性內容或其他有害內容，這些信息會誤導讀者、影響決策過程，甚至對金融市場或政治局勢產生重大影響。

以文本場景為例，攻擊者會采用各種策略，如文字形變、音變、語種混雜等，嘗試在不改變原有文本語義的前提下，規避識別。比如將一句常見的賭博推廣語“快加入我隊伍，一起躺贏賺紅包”，轉變為“赽咖叺我隊伍，一起躺贏賺葒笣”，仍然能傳達出賭博推廣的信息。類似的變形變種技巧難以窮舉，對于可識別的模型而言，挑戰極大。

在圖像和視頻方面，惡意用戶可以通過人臉生成、人臉替換、表情操控、視頻生成等手段使用深度合成技術生成生物識別的人臉或現實不存在的視頻片段，從而構造具有合成照片的社交網絡間諜賬號，偽造公眾人物或政企領導的有害視頻。如今AIGC技術生成的偽造圖像質量越來越高，相比PS偽造，AIGC生成技術使用更方便、成本更低廉，也更加難以防范。

一個不容忽視的事實是，大模型的惡意使用已經嚴重影響了各個行業的監管體系。在社會層面，AIGC成為了電信詐騙等違法犯罪活動的新工具。在政治層面，AIGC技術成為了攻擊政治領袖、引導輿論的新武器。在金融層面，深度偽造技術攻破了支付身份認證，使風控體系失效。

華為的盤古大模型針對政務、金融、制造、礦山等行業，涉及臺風預測、藥物制造等場景。

那么，如何有效抵御攻擊者使用深度偽造技術制作的假圖像，音頻和視頻進行欺詐，我們是否能夠“魔高一尺道高一丈”呢？

在今年的人工智能大會上，清華大學就與螞蟻集團聯合發布AI安全檢測平臺“蟻鑒2.0”，可識別數據安全、內容安全、科技倫理三大類的數百種風險。

螞蟻集團大安全事業群技術部總裁李俊奎向記者解釋，生成式大模型是一種“深黑盒”技術，作為“紅隊測試”方，“蟻鑒2.0”扮演了“壞人”的角色，通過智能博弈對抗技術，模擬黑產以及自動化生成海量測試集，實現“生成式機器人”對“AIGC生成式模型”的誘導式檢測計算，從而“找茬”大模型存在的弱點，反饋安全問題所在。

而一直致力于圖文甄別技術的合合信息則在人工智能大會期間發布了一套AI圖像內容安全技術方案，可精準定位截圖篡改痕跡，對生成式圖片進行智能判別，防止不法分子利用技術手段非法爬取圖片上的信息。此外，合合還研發出AI生成圖片鑒別技術，基于空域與頻域關系建模，可用于判斷圖片是否為生成式人工智能的產物。

在用魔法打敗魔法的道路上，攻防雙方的博弈將會長期存在。

要有倫理和價值觀校正

隨著大數據的不斷發展，人工智能與大數據的相互合作將會越來越密切。這也就意味著未來在龐大的數據量中，必將存在著來路不明的惡意數據。同時有毒數據的生成也向著更加隱蔽且具有引導AI模型定向發展的方向發展，如何解決數據污染問題？

大模型同時對隱私保護問題帶來了前所未有的挑戰。早期的AI隱私攻擊算法已不再適用于復雜的深度神經網絡。而AI隱私風險防御技術還在起步階段，目前已有的防御技術使用效果并不理想。復旦大學教授、上海市數據科學重點實驗室主任肖仰華指出，大模型是一個大規模參數化的模型，訓練數據來源多樣，讓隱私保護變得困難。不僅如此，生成式大模型往往是一種“概率化”和“海量拼接式”的生產，傳統意義上的隱私侵犯認定，在大模型時代往往會失效。

在中國科學院院士何積豐看來，人們不能再將人工智能視為簡單的技術工作，而是要作為整個組織的變革引擎，建立可信人工智能要致力于保障數據安全可信、系統行為可追責、算法模型可解釋、網絡環境可信、法律倫理可信。

在世界人工智能大會期間，中國信通院、上海人工智能實驗室、武漢大學、螞蟻集團等多家單位共同發起的《AIGC可信倡議》，提出構建AIGC可信發展的全球治理合作框架，采用安全可信的數據資源、技術框架、計算方法和軟件平臺等，最大限度確保生成式人工智能安全、透明、可釋。

曾毅說，基于人類數據訓練的AI習得了社會偏見、仇恨與歧視，如果沒有經過倫理和價值觀校正，這樣的人工智能是沒有底線的。“與人類的價值觀對齊不是終點，AI需要有類腦的共情能力，而不是機械地執行某種規則，因為規則是很容易被改變的。人工智能能否‘上善若水，取決于人類何以為人。畢竟人類價值觀也需要在共生社會中進化與完善。”