中昊芯英以中國首枚高性能TPU架構AI芯片“剎那?”為基石,打造了1024塊芯片片間高效互聯、可支撐超千億參數大模型的大規模AI計算集群“泰則?”,不僅填補了國內TPU架構AI芯片的空白,更為我國高性能AI芯片領域的“卡脖子”難題提供了國產自主可控的軟硬件解決方案
人工智能時代,大模型規模快速迭代,算力需求迎來爆發式增長。AI芯片作為核心算力硬件,市場前景廣闊,更是科技競爭力的關鍵。正所謂,誰掌握了人工智能芯片,誰就掌握了算力供給的來源,誰就在人工智能時代掌握制高點。然而,隨著大模型計算需求和復雜度的指數級增長,傳統GPU在用于大模型訓練時,成本高、算力利用率低、能耗大的問題日益凸顯。目前,全球科技巨頭如蘋果、微軟、亞馬遜、特斯拉、OpenAI等,以及新興的明星初創企業如Groq和Etched,都在探索研發AI專用芯片以替代英偉達GPU,AI芯片格局正朝著TPU等AI專用芯片的方向演進。在全球科技產業將目光緊緊鎖定人工智能領域之際,TPU憑借其更顯著的功耗和成本優勢、更優異的片間互聯優勢、更成熟的技術生態優勢等,正在成長為AI時代的“弄潮兒”。
面對全球芯片之爭愈演愈烈,中昊芯英(杭州)科技有限公司(下稱“中昊芯英”)作為國內唯一掌握TPU架構AI芯片核心技術并實現芯片量產的公司,打造了中國首枚高性能TPU架構AI芯片“剎那?”,并基于此構建支持1024塊芯片高速片間互聯、可支撐超千億參數大模型運算需求的大規模AI計算集群“泰則?”,不僅填補了國內TPU架構AI芯片的空白,更為我國高性能AI芯片領域的“卡脖子”難題提供了國產自主可控的軟硬件解決方案。
三位一體化方案加速AI產業化
通過“自研AI芯片+超算集群+AIGC預訓練大模型”的三位一體化方案,中昊芯英為全球客戶提供具備生產變革能力的AI創新技術方案,加速AI工程落地與產業化進程。
中昊芯英以“剎那?”和“泰則?”為核心,旨在為AIGC時代的超大規模AI大模型計算提供高性能AI芯片與計算集群。“剎那?”是中昊芯英歷時近5年打造的、性能達國際一流水平的全自研TPU架構高性能AI芯片,擁有完全自主可控的IP核、全自研指令集與計算平臺。在處理大規模AI模型計算任務時,相較于國外知名GPU產品,“剎那?”的計算性能超越其近1.5倍,在完成相同AI大模型計算任務量時的能耗降低30%,單位算力成本僅為其50%。“剎那?”采用專為AI訓練而生的TPU架構,其系統性能超越GPU架構數倍,是比GPU更適合于數據中心進行大量部署的深度學習計算單元。
“泰則?”大規模AI計算集群系統是基于中昊芯英自研的高性能TPU芯片“剎那?”構建的AI計算集群系統,實現了1024片芯片的高效片間互聯,可支撐超千億參數大模型的計算與推理。其強悍的系統性能和卓越的擴展性專為處理如AlphaZero、AlphaGo、GPT等前沿人工智能模型的大規模計算任務量身打造。“泰則?”大規模AI計算集群系統能夠強有力地支撐包括AIGC大模型計算、高級無人駕駛模型訓練、蛋白質結構精密預測在內的各類高強度AI運算場景。
“泰則?”不僅具備雄厚的底層算力儲備,而且通過精細化的算力調度機制,能夠實時響應多用戶需求,動態調整分配的工作負載算力和存儲資源,確保各種復雜應用場景下的高效協同與靈活部署。在系統層級,管理、計算與存儲網絡三者實現了有機結合:管理網絡與初始化數據共享同一網絡環境,軟件層面則精細劃分管理權限,使得服務器節點間能夠無縫協同,高效完成計算任務以及相關數據的交換,實現了對整個算力系統的智能化管理和高效利用。
值得一提的是,2024年11月,中昊芯英基于國產TPU算力服務器“泰則?”在高校中的應用,助力太極股份成功入選中國互聯網協會評選的2024年度互聯網助力經濟社會數字化轉型特色案例名單。該案例通過部署基于全國產自研AI芯片打造的TPU算力服務器,成功打破了高校對進口高端算力設備的依賴,實現了算力資源的自主可控。同時,該案例的成功模式還具有較高的可復制性與可推廣性。
近年來,中昊芯英已與浙江大學計算機創新技術研究院、上海交通大學、杭州電子科技大學、上海人工智能研究院等國內知名高校、科研機構展開深度合作,共同推動AI芯片技術的突破與應用。這些應用的成功落地,不僅顯著提升了高校的科研效率與教學質量,更為國產芯片技術在高校科研與教育領域的推廣與應用奠定了堅實基礎。
此外,中昊芯英基于“剎那?”構建的“泰則?”大規模AI計算集群系統解決方案,以創新的TPU架構支撐超千億參數大模型的計算需求,入選由新華網聯合中國電子信息產業發展研究院編制的相關報告,成為2024年度“數字樣板工程”實踐案例之一。
拓展應用場景,加速賦能千行百業
目前,中昊芯英產品主要應用于云廠商、運營商以及行業垂類模型應用商、高校、科研機構等終端算力用戶,輻射金融、制造業、醫療、教育等行業。
在賦能領域大模型構建方面,中昊芯英與國泰君安開展合作,為金融大模型垂直場景落地提供算力及算法底座,助力國泰君安“國芯證道”方案成功實現了基于國產芯片的金融大模型工程的完整啟動。“國芯證道”方案創新性地提出了Early Exit、Token Skipping、權重共享、低秩分解、注意力優化等多項技術,現已在NL2SQL、資訊分析等金融領域應用驗證。
在賦能智算中心建設方面,中昊芯英已與深圳聯通、星羅智算等各地政府、運營商、企業共同打造智算中心。其中,公司與深圳聯通合作打造了廣東地區首個全采用國產TPU芯片的高性能AI智算中心,形成訓推一體化樞紐,成為中國聯通在深圳的核心智算高地的重要組成部分。
下一步,中昊芯英將攜手高校、科研機構及產業鏈上下游企業共同優化技術方案、不斷提升產品效能,推動國產AI芯片技術及TPU算力服務器在更廣泛的領域內得到應用與落地,拓展人工智能技術場景化落地,加速賦能千行百業。
未來,中昊芯英將繼續深耕AI芯片領域,不斷在算力上實現對現有技術的超越,為AI領域的深度學習和復雜模型計算提供強大的算力硬件支持,并以更加高效智能的人工智能軟硬件一體化解決方案推動AI產業升級,為我國新質生產力的發展注入更多動力。
[本文由中昊芯英(杭州)科技有限公司供稿]