構建“安全可信、可控易用”的企業級大模型

世界互聯網大會數字文明尼山對話討論的主題聚焦“構建安全可信的人工智能”“人工智能賦能百行千業”，最近360自研的認知大模型智腦也在相關方向有所探索，借這次機會，我想分享一些實踐中得到的經驗和思考。

這次ChatGPT大模型的誕生代表著通用人工智能、強人工智能的到來，是真正的智能涌現。大模型能夠真正地理解人類所有的語言，能夠很自然地做出各種交流和推理，這意味著人工智能第一次完整理解了我們人類世界的知識，并且已經從感知進化到了認知，不僅能夠理解文字、語言，還能做出分析、規劃。未來，傳統算法將被代替，大模型在自動駕駛、機器人控制、蛋白質分析等很多重要領域都會大顯身手。

目前，產學研各界已經形成了共識，ChatGPT大模型將會帶來一場新的工業革命。數字時代最重要的是大數據，但大數據就像“石油”，難以直接使用。ChatGPT的出現就像發電廠，把大數據從“石油”加工成了“電”，賦能百行千業。如今數字化已上升為國家戰略，其中產業數字化是重要的發展機遇，我認為產業數字化的終極目標就是智能化，而ChatGPT大模型將會成為產業數字化重要的賦能者。

在這場工業革命中，大模型真正的機會在企業市場，它可作為生產力工具提升企業生產率。ChatGPT雖然是靠聊天功能破圈，但這只是它的一種“親民偽裝”，實際上大模型絕對不是一個娛樂工具，而是工業革命級的生產力工具。即使是個人消費者，最終還是會利用大模型滿足剛需，將其應用在辦公場景里，成為提高辦公效率的工具，比如公文寫作等。因此我認為，企業級市場才是大模型未來發展真正出彩的地方。

但是，當我們帶著通用大模型真正走進政府部門、城市、行業、企業時就會發現，公有大模型無法直接使用。因為公有大模型存在以下四點不足：

第一，公有大模型雖然是通才，但它缺乏行業深度。我們之前認為ChatGPT什么都會，但如果你是一個行業專家，你會發現ChatGPT在安全、金融這些垂直領域，知識深度是不夠的。很多公司自己訓練大模型都發現了這個特點，想讓它能力很均衡，就會犧牲深度。所以未來垂直大模型是重要的發展方向，通用模型和各領域專有知識數據結合，讓大模型從“萬事通”變成“政府通”“行業通”“企業通”，這才是真正的價值。最新資料表明，ChatGPT4也是由8個垂直模型組成的，從側面印證了這個觀點。

第二，公有大模型容易造成企業內部數據泄露。一方面，公有大模型不是本地部署，它與外部進行信息交流時必然存在數據泄露風險；另一方面，公有大模型也無法實現組織內部權限分級管理。因此，政府、企業使用公有大模型必然存在安全風險。

第三，公有大模型無法保障內容真正可信。這主要包含兩個問題：一個是企業在日常生產經營過程中，知識庫是實時產生并且不斷變化的。它不像公有大模型的通用知識，是一成不變的“百科全書”。因此，企業使用公有大模型無法滿足時效性的需求。另一個是大模型自身的“幻覺”問題，也就是我們常說的“一本正經地胡說八道”。公有大模型經常出現張冠李戴的問題，需要通過企業內部搜索、內部知識庫進行矯正。這些都需要專有大模型才能實現。

第四，公有大模型無法實現成本可控。舉個例子，很多企業其實只需要大模型寫代碼的能力，這時候公有大模型寫詩、寫論文的能力就是多余的。也就是說，很多企業只需要百億級垂直大模型就滿足需求，如果使用千億級大模型就是成本浪費。這個成本不只是大模型的采購成本，還包括訓練成本、部署成本、微調成本。在控制成本方面，垂直大模型將會有很大優勢。因此，在一個用公開數據訓練的“通識”大模型基礎上，訓練專有大模型，就能做到事半功倍，為企業降本增效。

大模型想要成為企業級的智能化賦能工具，必須要行業化、專有化，從“萬事通”變成“城市通”“行業通”“企業通”。而企業落地大模型則需要分步來實現。目前的當務之急叫做“小切口大縱深”，先把大模型最擅長、最成熟的能力用好。剛開始可以從辦公場景入手。因為大模型不是萬能的，最擅長最成熟的能力肯定是自然語言處理。而且辦公場景能做到松耦合，與現有的業務系統無縫融合。具體來說，一些細分場景包括信息分析、知識管理、內容創作和智能客服等，讓員工上手嘗試，慢慢發掘大模型的能力，對大模型逐漸熟悉，之后再將大模型與業務進行深度融合，這樣大模型的發展才能可控易用。

企業級場景要打造“ 安全可信、可控易用”的專有大模型，需要堅持五個原則，包括：安全原則，企業級應用必須是安全的大模型；可信原則，大模型要解決準確性、實時性的短板問題；可控原則，堅持把大模型定位在輔助工具上，確保人始終在業務決策的回路上；易用原則，這里面“數字人”“數字員工”有很大的想象空間；最后是普惠原則，要讓每個人都能用起來。

人工智能的發展要“以人為本”，大模型不能引發大規模裁員，而是要幫助企業員工提升能力和效率，成為易用的工具，讓每個普通員工都能真正用起來。因此，未來面向企業，“數字員工”會成為非常重要的一個概念。相比和機器進行復雜的交互，與“人”對話更符合我們日常習慣，“數字員工”將大大降低大模型使用門檻。未來也不只企業老板能擁有“數字員工”做助理，每個企業員工都能有若干數字助手，比如法務助理、財務助理、市場助理，來協助創作、策劃、分析、總結等日常工作。

人工智能大模型這場工業革命已經到來，未來大模型在各個城市、各個行業、各個企業將得到充分應用，市場的機會也才剛剛開始。360也將發揮過往在人工智能領域積累的經驗和優勢，幫助各地構建“安全可信、可控易用”的大模型，為產業數字化轉型到智能化升級，貢獻自己的一份力量。

（本刊記者劉溫馨根據周鴻祎在世界互聯網大會數字文明尼山對話上的發言摘編。）