“言”之有“力”,大模型背後的算力“推手”-新華網
新華網 > > 正文
2024 01/04 15:52:34
來源:新華網

“言”之有“力”,大模型背後的算力“推手”

字體:

對話式人工智慧技術無疑是近年來最引人矚目的領域之一。這項技術的發展已經改變了人們與電腦交互的方式,為各行各業帶來了前所未有的便利與效率。更是在出行、教育、醫療等領域展現出了驚人的潛力,其不斷升級和創新的發展,成為科技界與社會各界熱議的焦點之一。

歡迎來到新華網特別策劃,全息産業探訪節目--《雲上之翼》,今天我們一起走進思必馳,探訪大模型背後的算力“推手”。

算力讓AI“一路狂飆”

思必馳是國內專業的對話式人工智慧平臺公司。以人機對話交互為核心,為智能汽車、智能家居、智慧政務等領域的客戶提供軟硬一體化方案,推進智能化轉型升級。

近年來,隨著ChatGPT“一路狂飆”,思必馳推出了自研的對話式語言大模型DFM-2,並通過了《生成式人工智慧服務管理暫行辦法》備案,成為江蘇省本土人工智慧首個通過大模型備案的企業。據了解,該模型具有通用語言計算大模型的所有AGI特性,同時針對通用模型事實不準、私域知識無法包含、專用領域理解性能不足等問題,進行了一係列技術改造。DFM-2屬于垂域大模型,可以實現通用人工智慧的柔性定制,並開展大規模、高品質、個性化的人工智慧係統定制。

作為大模型的基礎“底座”,算力在其中發揮著關鍵的作用。動輒百億甚至千億數據規模的大模型訓練,加之在不同階段的大模型訓練對計算能力的不同要求,都需要更高標準的算力條件支撐。中國電信天翼雲基于自研技術優勢,為其提供了堅實的算力基礎,成為思必馳大模型背後的算力“推手”。

算力打通AI“任督二脈”

AI大模型的興起加速了對更大規模和更強大計算資源的需求。天翼雲通過自研的智算平臺,向廣大客戶提供智能算力、雲計算、數據等服務,為大模型訓練平臺提供高性能底座支撐能力。

在服務合作夥伴的過程中,思必馳推出了集大語言模型應用的生産、調試、發布、體驗、應用于一體的大模型應用平臺,可實現跨領域多意圖、文檔問答、多人設交互等大模型能力的快速應用,産品有了這些能力,會變得更加智能好用。這意味著需要更龐大的算力支援。

思必馳研發總監樊帥表示,不論是在算力基礎設施、算力調度、還是訓練能力打造方面,可以説天翼雲與思必馳DFM-2大模型攜手,為高效訓練和産品賦能打通了“任督二脈”。

算力賦能千行百業

“不僅在智能家居,我們在汽車行業、消費電子、金融服務、政務軌交等等領域都有深入的布局。”思必馳研發總監陸峰表示。

比如在汽車智能交互方面,思必馳已經實現了全車全時免喚醒、多音區交互、一句話多意圖,以及為用戶提供出行規劃和汽車大師智能解答等等復雜的功能,而且對日常的口誤也有很好的理解。借助天翼雲智算平臺的高端智算算力支撐,思必馳能夠更快速地把這些大模型能力整合到客戶的産品和應用中。

因為有天翼雲提供的雲計算資源和技術支援,可以確保數據處理和分析能力不斷改善提升。最重要的是,啟動大項目往往需要大量的高端智算算力,這對于很多企業來説需要承擔較高的成本。天翼雲的智算平臺恰到好處地解決了這一痛點,它提供的高性能計算資源和良好的存儲解決方案,可以更好地處理海量數據和復雜的演算法,從而可以為客戶提供更精準的大模型服務和更高效的運維支援,讓研發人員把精力更好地用于優化演算法和方案上,而不必擔心硬體好不好用。

智能算力助力降本增效

“在算力基礎設施上,天翼雲整合彈性計算、分布式存儲、雲網絡三大基礎核心技術,以全量IaaS+PaaS産品服務,為思必馳DFM-2大模型提供了高性能底座支撐能力。”思必馳研發總監陸峰表示。

在算力調度方面,天翼雲通過自研的調度係統,協助思必馳DFM-2大模型調度GPU、NPU、CPU等異構算力資源,做大模訓練上雲1個月,可以完成數十億規模大模型所有階段訓練和效果評估。在訓練能力打造方面,天翼雲支援多種模型訓練方式,不僅可以提升大模型訓練平臺的數據量,還大幅縮短了訓練周期和交付進度。

蘇州電信園區局局長施亞東表示,“其實不僅是思必馳,天翼雲基于集數據算力、數據網絡、數據傳輸的一體化資源優勢,以及匯聚通用算力、智能算力、超級算力和邊緣算力的一站式解決方案兩大算力服務優勢,目前已經服務了170多萬家工業客戶以及530萬家中小企業。”

天翼雲作為提供智算、超算、通算多樣化算力服務的一體化算力平臺,助力千行百業用上了普惠算力。天翼雲致力于讓客戶使用算力就像“水電”一樣無感,而客戶想要的産品又能分毫不差地呈現出來。

算力已經成為數字經濟的核心生産力,而在算力基礎之上,各式各樣的數字應用正在百花齊放。相信在不遠的將來,在天翼雲的智算賦能下,還會有更多更好的應用走入日常生活中。

【糾錯】 【責任編輯:李想】