人工智能大家談

鄧之湄

山姆·阿爾特曼：讓AI成為更安全的幫手

山姆·阿爾特曼

我們需要國際合作，以可驗證的方式在全球范圍內建立越來越強大的、可以信任和開發的AGI系統，盡管這并不容易。

最近一段時間，我走過五大洲的近20個國家，接觸了很多人工智能領域的學生和開發者，見證了全球各地的人們正利用AI改善生活，也和各界人士深入探討了如何確保強大的AI能安全地運作。

我們發現，當前AI還存在不少亟待解決的難題。

治理需國際合作

隨著 AI能力迅速提高，我們需要將AI技術負責任地應用到各領域，必須預判并管理好風險。如果我們不做好規劃，一個本來計劃用于改善公共衛生的AI系統，可能會因為資源提供不平衡而破壞了整個系統。

我希望投入時間和精力集中攻關重要領域，其中一個重要領域就是AGI（通用人工智能）治理。如果我們能將AGI系統最核心的技術實現網絡共享，AGI系統就可以為全球經濟創造巨大財富，解決人類面臨的挑戰，如全球氣候變化、人類健康安全等，在多個方面提升社會福祉。

我們需要建立包容的國際準則和標準，并在所有國家就AGI的使用建立平等、統一的防護措施。

我們需要國際合作，以可驗證的方式在全球范圍內建立越來越強大的、可以信任和開發的AGI系統，盡管這并不容易。

《道德經》告訴我們：“千里之行，始于足下。”對安全進行長期的關注和投入，最有建設性的第一步就是國際科技界開展合作，確保AGI安全的技術發展，增加技術透明度和建立知識共享機制，為應對一旦出現的緊急問題，各國研究人員應該共享研究成果。當然，我們在呼吁國際合作的同時，也需要尊重和保護知識產權。

以AI監督AI

當前，我們關注的是如何使AI系統成為一個有益和安全的好幫手。隨著AGI時代的臨近，其帶來的潛在影響、問題將呈指數級增長，因此我們需要主動應對AGI帶來的挑戰，將可能遇到的風險降至最低。

從GPT-4完成預訓練到部署運用，我們用了8個月時間來研究如何預判風險，并給出對策。很慶幸我們做對了，大模型訓練后的對齊（指AI系統的目標和人類的價值觀與利益保持一致）是提高性能和改善體驗的關鍵，GPT-4的對齊程度超過當前所有代碼。不過，對于更高級的系統，對齊仍然是一個尚未解決的難題，需要采用新的技術方法，以及加強治理監督。畢竟，未來的AGI可能是一個十萬行二進制代碼的系統。

現階段，人類的監督很難判斷如此規模的大模型是否在做一些于人類不利的事。因此，我們正在嘗試使用AI系統協助人類監督其他AI系統。例如，我們可以訓練一個模型來幫助監督者找出其他模型代碼中的缺陷。

還有一個方向是可解釋性。我們希望更好地理解模型內部發生的事情。最終，我們的目標是訓練AI系統具備更好的自我優化能力。我們希望全世界的研究人員參與其中，在應對AI領域的技術挑戰方面開展合作，利用AI解決全球重大問題，改善人類生存條件和質量。

（山姆·阿爾特曼系OpenAI聯合創始人。本文根據山姆·阿爾特曼在2023 智源人工智能大會上的演講整理）

吳海：堅定圍繞國家戰略投資布局

吳海

人工智能仍然處于發展的初級階段，從投資視角講，需要有更多耐心，以價值投資的理念來看待人工智能產業長期健康發展。

加快發展新一代人工智能，是贏得全球科技競爭主動權的重要戰略抓手。2018年10月，中共中央政治局就人工智能發展現狀和趨勢舉行集體學習，指出加快發展新一代人工智能是事關我國能否抓住新一輪科技革命和產業變革機遇的戰略問題。作為網信領域國家級政府產業投資基金，中國互聯網投資基金（簡稱“中網投”）始終堅持國家戰略導向，把服務網絡強國建設作為投資首要任務。

耐心助力產業發展

當前，人工智能仍然處于發展的初級階段，從投資視角講，需要有更多耐心，以價值投資的理念來看待人工智能產業長期健康發展。

據公開數據，2022年國內人工智能領域共超過800起融資事件（不含擬收購、被收購、定增、掛牌上市），盡管受疫情影響較2021年有所回落，但仍然保持高位活躍。從投資領域看，AI集成創新（即應用層）在國內最受關注，投資數量占比達到45%，包括智能機器人、自動駕駛、智慧醫療、智能制造等。

隨著以大模型（如ChatGPT）為代表的現象級突破，預計在技術層及應用層可能引發新一輪投資熱潮，與制造業、服務業等的融合創新也將進一步提升智能化支撐水平。

重創新、保安全

按照國務院印發的《新一代人工智能發展規劃》，到2030年，我國人工智能核心產業規模將超過1萬億元，帶動相關產業規模超過10萬億元。中網投在人工智能領域投資布局出發點是補齊短板、做強長板，支持核心技術創新突破、完善上下游協同生態，總體按照技術創新、基礎設施、產業融合、保障安全四個維度進行投資布局：

一是支持核心技術創新。一方面深入布局視覺、語音、自然語言處理等較為成熟的算法框架；另一方面繼續關注理論突破和技術創新。如：多模態、大模型、無監督學習、近存計算、類腦計算等。

二是關注算力數據基礎設施。深入布局面向新型計算架構的AI芯片，兼顧專用計算及通用計算，關注面向可編程、可重構的新型架構，包括可能產生顛覆性創新、體系化革新的光電芯片、量子計算等。此外，投資布局一些服務于AI的高質量數據平臺、行業大數據平臺。

三是助力產業融合應用。根據當前AI技術集成應用成熟度和商業化落地情況，主要看好和投資有限受控場景下的無人駕駛系統、服務機器人以及有成熟商業模式的數據智能服務方向。

四是保障AI應用安全。服務國家對AI、數據等安全監管要求，守護科技向善，投向AI安全、數據安全，提升AI模型可靠性、穩定性，保護個人隱私及行業數據安全。未來，我們希望在人工智能領域支持培育出更多產業領航能力的大中型企業和“專精特新”、單項冠軍企業。

（吳海系中國互聯網投資基金管理有限公司黨委書記、董事長。本文根據公開資料整理）

黃鐵軍：大模型需共建閉環

黃鐵軍

從長遠來看，大模型只是標簽而不是產品和某一家公司的工具，整個大模型開源開放生態是必然的。

智源研究院是國內最早進行大模型研究的科研機構之一。近期，研究院發布了 “悟道3.0”版本，涵蓋語言、視覺、多模態（多模態模型指可以處理文本、圖像、聲音、視頻等多種不同類型數據的機器學習模型）等基礎大模型，現已全面開源。

其中，“悟道·視界”視覺大模型系列，解決了當前計算機視覺領域的一系列瓶頸問題，實現了6項國際領先技術突破，被業界譽為點亮了通用視覺的曙光。天秤（FlagEval）大模型則旨在建立科學、公正、開放的評測基準、方法和工具集，協助研究人員全方位評估模型性能，探索利用AI方法大幅提升評測的效率和客觀性。

大模型存活合理數：三個

可以說，智源研究院率先預見了“大模型時代”的到來。包括“大模型”這個名詞，就是2021年智源研究院發布“悟道1.0”時正式提出來的。

什么是大模型？我們認為至少有三個特點：第一，規模要大，神經網絡參數要達到百億規模以上。第二，要有涌現性，要產生預料之外的新能力，這是人工智能發展六七十年來，最具里程碑意義的新特性。第三，通用性，即不限于專門問題或者專門的領域，要能夠解決各類問題。當然，受限于目前的技術發展階段，模型也不是所有問題都能解決，但要有很強的推廣性。

目前，國內大模型發展的主要制約點是訓練量太小、行業太熱，重復建設，資源分散。未來能夠存活的大模型生態合理數量為三個左右，今天的大模型都將是技術迭代的一個中間產品。

大模型產業難以形成壟斷，需要搭建共建產業閉環。從長遠來看，大模型只是標簽而不是產品和某一家公司的工具，整個大模型開源開放生態是必然的。

悟道3.0 系列大模型之悟道·天鷹

600維評測

現在，全世界發布了很多模型，這些模型到底哪些方面好、哪些方面不足。我們在科技部大模型旗艦項目的支持下推出了大語言模型的評測體系“天秤”，旨在建立科學、公正、開放的評測基準方法工具集，協助研究人員全方位評估基礎模型，訓練項目的性能。

目前，天秤大語言模型評測體系，在能力、任務、指標三個維度上建立了全方位的評測體系，包括語言大模型可能具備的30多種能力，加上5種任務，再乘以4大類的指標，總共差不多600維的評測體系，能比較全面衡量一個大模型的能力。

（黃鐵軍系智源研究院院長）

湯道生：大模型要解決真問題

湯道生

企業所需要的大模型能力，是在實際場景中真正解決了某個問題，而不是在100個場景中解決了70%-80%的問題。

過去半年，業界都在為大語言模型的發展感到興奮，不少人已經試遍各個通用大模型的聊天機器人，不少企業管理者也在思考，如何將大模型技術應用到自己企業的產業場景中。

但事實上，當前通用大語言模型在應對產業場景落地時還存在一定局限性。比如，通用大模型的訓練數據主要來自公開數據集或網絡數據，對于特定行業的專業領域知識了解有限。比如，通用大語言模型的訓練需要大量計算資源和漫長的訓練周期，這對企業來說可能昂貴且耗時，且必須考量安全與合規。

因此，打造企業專屬的行業大模型至關重要，好用、易用的同時還能降低企業的成本和時間投入。

通用大模型一般都是基于廣泛的公開文獻與網絡信息來進行訓練，網上的信息可能有錯誤、有謠言、有偏見，許多專業知識與行業數據積累不足，導致模型的專業性與精準度不夠，數據“噪音”過大。

但在很多產業場景中，用戶對企業提供的專業服務要求高、容錯性低。企業一旦提供了錯誤信息，可能引起巨大的法律責任或公關危機。因此，企業使用的大模型必須可控、可追溯、可修正，而且必須充分測試才能上線。

企業所需要的大模型能力，是在實際場景中真正解決了某個問題，而不是在100個場景中解決了70%-80%的問題。

另外，大模型的訓練數據越多，模型越大，訓練與推理的成本也越高。但實際上，大部分的企業場景需求，不需要萬能的通用AI來滿足。因此，如何在合理的成本下，選擇合適的模型，才是企業需要思考與決策的。

企業需要有針對性的行業大模型，再加上企業自己的數據做訓練或精調，才能打造出實用性更高、安全性更高的智能產品。模型最終要在真實場景落地，要達到理想的服務效果，往往需要企業將自身的數據也用起來。在模型研發過程中，既要關注敏感數據的保護與安全合規，也需要管理好大量的數據與標簽，不斷測試與迭代模型。

因此，騰訊云推出了行業大模型精調解決方案，幫助模型開發者與算法工程師，一站式解決數據的處理問題，高效率、高品質、低成本地創建和使用大模型；以模型的私有化部署、權限管控和數據加密等方式，讓企業用戶在打造模型與使用模型時都更放心。

我們正在進入一個被AI重塑的時代，海量的創新應用即將爆發。大模型只是起點，產業落地會是AI更大的應用圖景。

（湯道生系騰訊集團高級執行副總裁）

騰訊云MaaS 全景圖