深度了解天翼雲一站式智算服務&&“慧聚”-新華網
新華網 > > 正文
2023 11/24 16:43:13
來源:新華網

深度了解天翼雲一站式智算服務&&“慧聚”

字體:

11月10日,以“數字科技煥新啟航”為主題的2023數字科技生態大會在廣州市舉辦。會上,天翼雲重磅發布一站式智算服務&&“慧聚”。天翼雲科技有限公司董事長、總經理胡志強對天翼雲智算服務體系進行了全面解讀。

2023年是大模型高速發展的一年,大模型不斷擴大的參數規模和快速迭代的技術路線跨越式地提升了模型的能力,但是同時也為大模型的訓練和應用帶來了很多挑戰。比如算力利用率的瓶頸日益凸顯、算力成本壓力進一步增大、模型的構建難度不斷提升、模型的行業落地更加複雜。

為順應大模型時代對於雲服務商的新要求,天翼雲全面升級,構建了全棧大模型智算服務,包括打造智算數據中心AIDC、升級雲智超一體化基礎設施&&“雲驍”、推出一站式智算服務&&“慧聚”、構建國雲大模型生態,形成雲智一體的智算服務體系。

智算數據中心作為智算服務的載體,成為整個體系的基石。針對AI高強度運算帶來的散熱問題,天翼雲推出了液冷DC艙,融合定制化液冷智算服務器,實現低至1.12的PUE。與此同時,天翼雲也將“雲驍”升級成為雲智超一體化基礎設施服務&&,構建了高性能RoCE網絡、並行文件存儲等服務;重點提升訓練加速、網絡加速等核心能力,同時升級了運維體系,實現對基礎設施的全面故障預測和感知。在國産化方面,“雲驍”&&率先在公有雲加載天翼雲RoCE網絡+國産GPU方案並實現商用。

在&&層,天翼雲在本次大會發布大模型的一站式智算服務&&“慧聚”。“慧聚”是天翼雲一站式智算服務&&,在“雲驍”基礎設施&&的加持下,大幅降低大模型訓練、微調、部署、推理的門檻,提供一站式、全鏈路、低門檻、高安全的大模型訓推服務,為各種行業、各種場景提供從模型的生産到應用閉環的大模型解決方案。包含四大&&:數據&&,模型開發&&,模型服務&&和應用服務&&。通過&&提供數據準備、模型開發、任務管理、模型優化等七大主要産品功能模塊。內置工具集,集成核心技術,賦能合作夥伴解決訓練階段如何提升模型訓練時間,如何保證穩定訓練兩大核心痛點問題。

數字山河,雲行無疆。在數字時代,以算力為核心的數字信息基礎設施已成為國家戰略性布局的關鍵組成部分。為持續釋放新型生産要素潛能,加速打通信息“大動脈”,創新打造經濟高質量增長新引擎,作為雲計算領域的國家隊,天翼雲依託國雲智算底座,發揮國雲安全優勢,將與産業各方合作夥伴緊密協作,共建繁榮的大模型創新生態,攜手打造先進的智算生産力,全面賦能經濟社會的數字化和智能化。

【糾錯】 【責任編輯:李想】