深度了解天翼雲一站式智算服務平臺“慧聚”-新華網
新華網 > > 正文
2023 11/24 16:43:13
來源:新華網

深度了解天翼雲一站式智算服務平臺“慧聚”

字體:

11月10日,以“數字科技煥新啟航”為主題的2023數字科技生態大會在廣州市舉辦。會上,天翼雲重磅發布一站式智算服務平臺“慧聚”。天翼雲科技有限公司董事長、總經理胡志強對天翼雲智算服務體係進行了全面解讀。

2023年是大模型高速發展的一年,大模型不斷擴大的參數規模和快速迭代的技術路線跨越式地提升了模型的能力,但是同時也為大模型的訓練和應用帶來了很多挑戰。比如算力利用率的瓶頸日益凸顯、算力成本壓力進一步增大、模型的構建難度不斷提升、模型的行業落地更加復雜。

為順應大模型時代對于雲服務商的新要求,天翼雲全面升級,構建了全棧大模型智算服務,包括打造智算數據中心AIDC、升級雲智超一體化基礎設施平臺“雲驍”、推出一站式智算服務平臺“慧聚”、構建國雲大模型生態,形成雲智一體的智算服務體係。

智算數據中心作為智算服務的載體,成為整個體係的基石。針對AI高強度運算帶來的散熱問題,天翼雲推出了液冷DC艙,融合定制化液冷智算伺服器,實現低至1.12的PUE。與此同時,天翼雲也將“雲驍”升級成為雲智超一體化基礎設施服務平臺,構建了高性能RoCE網絡、並行文件存儲等服務;重點提升訓練加速、網絡加速等核心能力,同時升級了運維體係,實現對基礎設施的全面故障預測和感知。在國産化方面,“雲驍”平臺率先在公有雲載入天翼雲RoCE網絡+國産GPU方案並實現商用。

在平臺層,天翼雲在本次大會發布大模型的一站式智算服務平臺“慧聚”。“慧聚”是天翼雲一站式智算服務平臺,在“雲驍”基礎設施平臺的加持下,大幅降低大模型訓練、微調、部署、推理的門檻,提供一站式、全鏈路、低門檻、高安全的大模型訓推服務,為各種行業、各種場景提供從模型的生産到應用閉環的大模型解決方案。包含四大平臺:數據平臺,模型開發平臺,模型服務平臺和應用服務平臺。通過平臺提供數據準備、模型開發、任務管理、模型優化等七大主要産品功能模組。內置工具集,整合核心技術,賦能合作夥伴解決訓練階段如何提升模型訓練時間,如何保證穩定訓練兩大核心痛點問題。

數字山河,雲行無疆。在數字時代,以算力為核心的數字資訊基礎設施已成為國家戰略性布局的關鍵組成部分。為持續釋放新型生産要素潛能,加速打通資訊“大動脈”,創新打造經濟高品質增長新引擎,作為雲計算領域的國家隊,天翼雲依托國雲智算底座,發揮國雲安全優勢,將與産業各方合作夥伴緊密協作,共建繁榮的大模型創新生態,攜手打造先進的智算生産力,全面賦能經濟社會的數字化和智能化。

【糾錯】 【責任編輯:李想】