數(shù)據(jù)家,idc官網(wǎng),算力,裸金屬,高電機(jī)房,邊緣算力,云網(wǎng)合一,北京機(jī)房,北京云計(jì)算,北京邊緣計(jì)算,北京裸金屬服務(wù)器,北京數(shù)據(jù)服務(wù)器,北京GPU服務(wù)器,高算力服務(wù)器,數(shù)據(jù)機(jī)房相關(guān)技術(shù)新聞最新報(bào)道
數(shù)字經(jīng)濟(jì)時(shí)代,大模型快速發(fā)展,對(duì)智算提出了更高、更迫切的需求,這為行業(yè)發(fā)展提供了巨大的產(chǎn)業(yè)機(jī)遇,同時(shí)也意味著一系列的優(yōu)化變革。目前,相關(guān)技術(shù)與產(chǎn)品、解決方案正不斷迭代,多家代表性企業(yè)通過(guò)創(chuàng)新來(lái)加快智算建設(shè),釋放新質(zhì)生產(chǎn)力。
以寧暢為例,其3月29日發(fā)布了品牌戰(zhàn)略“全局智算”,并基于戰(zhàn)略推出“AI算力棧”解決方案,從底層硬件到頂層管理平臺(tái),覆蓋算-存-網(wǎng)-建-管-用-液全局AI算力需求,為行業(yè)級(jí)/企業(yè)級(jí)智算中心的構(gòu)建提供了強(qiáng)有力支持。當(dāng)天,寧暢還推出國(guó)內(nèi)首個(gè)AI算力棧——寧暢NEX AI Lab(Nettrix AI Open Lab)并開(kāi)放預(yù)約試用,通過(guò)免費(fèi)提供軟、硬件服務(wù),帶來(lái)大模型、數(shù)據(jù)科學(xué)、推薦系統(tǒng)等解決方案工作流的先進(jìn)體驗(yàn)。
圖:寧暢發(fā)布“全局智算”戰(zhàn)略
大模型需要怎樣的智算?
大模型可分為訓(xùn)練、垂直場(chǎng)景適配、應(yīng)用部署運(yùn)行三個(gè)階段,不同時(shí)期的需求均有所差異。寧暢總裁秦曉寧表示,大模型的階段不同,所“涌現(xiàn)”的問(wèn)題復(fù)雜性和關(guān)鍵難點(diǎn)也不盡相同,因此對(duì)AI支撐能力體系的要求各具側(cè)重。
圖:寧暢總裁秦曉寧
就智算而言,不同階段,數(shù)據(jù)存儲(chǔ)量、計(jì)算量,實(shí)時(shí)交互支撐能力需求等同樣存在差異。想要滿足高效的算力供給,便需要更為龐大的信息計(jì)算力、數(shù)據(jù)存儲(chǔ)力、網(wǎng)絡(luò)運(yùn)載力,芯片需要升級(jí)且在大模型推理與應(yīng)用階段方向應(yīng)有不同的偏重;存儲(chǔ)要推動(dòng)全閃存等先進(jìn)存儲(chǔ)發(fā)展以應(yīng)對(duì)越發(fā)龐大的數(shù)據(jù)存儲(chǔ)量;網(wǎng)絡(luò)帶寬逐步向400G、800G乃至1.6T發(fā)展且要增強(qiáng)算網(wǎng)融合以實(shí)現(xiàn)更好的協(xié)同能力。
此外,巨大的能耗不容忽視。據(jù)測(cè)算,預(yù)計(jì)到2025年,我國(guó)數(shù)據(jù)中心能耗總量將突破4000億千瓦時(shí)。想要降低能耗,應(yīng)從多個(gè)層面優(yōu)化,如提高分布式光伏的部署,推動(dòng)儲(chǔ)能發(fā)展等,其中最引人矚目的是如何改進(jìn)散熱效率。作為數(shù)據(jù)中心里僅次于IT設(shè)備的第二大能耗源,散熱效率的提升一直是數(shù)據(jù)中心降低PUE,節(jié)能減碳的重點(diǎn)。目前來(lái)看,液冷被公認(rèn)是智算中心的散熱標(biāo)配,其帶走的熱量是同體積空氣的近3000倍,技術(shù)也已經(jīng)成熟,能夠滿足智算中心高密度需求,實(shí)現(xiàn)降本增效與綠色化發(fā)展。
算力使用效率的同樣重要,以達(dá)到資源的高效利用、供需合理平衡,這就對(duì)軟件能力及服務(wù)能力等提出了更高的要求。作為推動(dòng)產(chǎn)業(yè)發(fā)展的關(guān)鍵引擎,智算已經(jīng)不再局限于算力性能這一單一競(jìng)爭(zhēng)要素。算法協(xié)同優(yōu)化、數(shù)據(jù)處理能力、模型可解釋性以及與特定行業(yè)應(yīng)用的融合度,都成為智算能否成功推動(dòng)技術(shù)創(chuàng)新和實(shí)際落地的核心因素,這就需要在優(yōu)化硬件配置的基礎(chǔ)上,創(chuàng)新適配性強(qiáng)、能夠提升算效、優(yōu)化模型適配的軟件,將大模型的算力需求與智算的供給進(jìn)一步契合,以推動(dòng)大模型的訓(xùn)練、推理。同時(shí),大模型的三個(gè)階段對(duì)智算有著差異化要求,想要提升算效,需要智能計(jì)算相關(guān)企業(yè)具備高品質(zhì)的服務(wù)能力,能夠滿足咨詢、設(shè)計(jì)、建設(shè)、硬件供給等多項(xiàng)需求。
基于此來(lái)看,大模型時(shí)代所需要的智算,應(yīng)具備計(jì)算力海量泛在、靈活供給,存儲(chǔ)高效易拓展,網(wǎng)絡(luò)高速互聯(lián)互通,設(shè)施綠色低碳,資源高效調(diào)度,服務(wù)智能隨需等特征,能夠應(yīng)像水電一樣便捷,以有效降低企業(yè)使用成本,促進(jìn)大模型的訓(xùn)練、垂直場(chǎng)景適配與應(yīng)用部署。
“全局智算”給出發(fā)展優(yōu)化新思路
當(dāng)前,我國(guó)大模型正快速發(fā)展,據(jù)統(tǒng)計(jì),10億參數(shù)規(guī)模以上的大模型數(shù)量已超過(guò)100個(gè),面對(duì)越發(fā)龐大且要求更為復(fù)雜的算力需求,智算建設(shè)的量與質(zhì)必須加速優(yōu)化,向普惠易用、綠色安全的方向發(fā)展。此次寧暢“全局智算”的提出,便是對(duì)加快智算市場(chǎng)需要的快速響應(yīng),通過(guò)全棧智能計(jì)算能力,以及涵蓋硬件、軟件、算法、液冷和服務(wù)質(zhì)量等多個(gè)維度的系統(tǒng)性AI計(jì)算方案,為更多行業(yè)發(fā)展帶來(lái)堅(jiān)實(shí)的支持和動(dòng)力。
秦曉寧指出:“寧暢的‘全局智算’具備六大‘全’特性,涵蓋軟硬件全體系及全液冷產(chǎn)品,提供從咨詢到運(yùn)維的全流程服務(wù),滿足全行業(yè)用戶大模型開(kāi)發(fā)、適配、部署的全場(chǎng)景需求,并按用戶發(fā)展階段,定制專業(yè)且性價(jià)比高的AI計(jì)算方案。”
“全局智算”戰(zhàn)略下,“AI算力棧”則是寧暢AI全棧能力的集中體現(xiàn)。寧暢CTO趙雷表示,“AI算力棧”集成了寧暢在AI計(jì)算領(lǐng)域的軟硬件能力,以底層硬件到頂層應(yīng)用平臺(tái)的系統(tǒng)化方案,滿足大模型落地所需的計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)、建設(shè)、管理、應(yīng)用及液冷等全方位需求,以其全面、靈活、深度的支撐能力,為行業(yè)級(jí)/企業(yè)級(jí)智算中心的構(gòu)建提供了強(qiáng)有力的支持。
具體來(lái)看,“AI算力棧”具體包括厚“基”薄發(fā)的“硬實(shí)力”、至“簡(jiǎn)”智豐的“軟動(dòng)力”及多“態(tài)”百應(yīng)的“服助力”。
圖:寧暢CTO趙雷
其中,“硬實(shí)力”主要是指靈活的算力服務(wù)器、高效存儲(chǔ)、高速網(wǎng)絡(luò)及全棧液冷。寧暢擁有企業(yè)級(jí)、行業(yè)級(jí)智算中心建設(shè)的能力,在第四代/第五代英特爾® 至強(qiáng)® 可擴(kuò)展處理器基礎(chǔ)上,能夠提供包括通用服務(wù)器、人工智能服務(wù)器、高密度服務(wù)器、整機(jī)柜液冷服務(wù)器、浸沒(méi)液冷服務(wù)器等在內(nèi)的多類(lèi)型服務(wù)器,其中,寧暢B8000液冷整機(jī)柜服務(wù)器作為AI算力棧最具亮點(diǎn)的交付形態(tài),采用電、液、網(wǎng)三路全盲插設(shè)計(jì),部署周期相較傳統(tǒng)方式提升30倍。網(wǎng)絡(luò)方面根據(jù)智算需求優(yōu)化傳輸方式,存儲(chǔ)上NexData并行文件系統(tǒng)支持全閃、混閃等,有效提升了數(shù)據(jù)存儲(chǔ)力與網(wǎng)絡(luò)運(yùn)載力。基于此,寧暢有效提高了智算供給,實(shí)現(xiàn)節(jié)能減碳。
“軟動(dòng)力”主要是指高效的大規(guī)模集群設(shè)計(jì)、調(diào)試、交付能力;優(yōu)秀的軟硬件AI業(yè)務(wù)調(diào)優(yōu)支持。寧暢基于系統(tǒng)工程及算法模型,以AI算子全棧優(yōu)化能力,為AI業(yè)務(wù)提供并行加速、性能分析、模型開(kāi)發(fā)優(yōu)化等服務(wù)支持,所支撐的AI中臺(tái)NVAIE AI平臺(tái)還簡(jiǎn)化了開(kāi)發(fā)流程,加速了從模型訓(xùn)練到部署的全過(guò)程,使得AI創(chuàng)新更加迅速與便捷。目前,寧暢已構(gòu)建出從算力資源定制,到模型適配優(yōu)化,再到高效部署落地的大模型算力服務(wù)閉環(huán),幫助企業(yè)極速推進(jìn)AI應(yīng)用開(kāi)發(fā)及管理,降低了企業(yè)使用成本,實(shí)現(xiàn)了算力的高效利用。
“服助力”主要是指AI場(chǎng)景服務(wù),以滿足重點(diǎn)行業(yè)全階段AI創(chuàng)新。據(jù)趙雷介紹,寧暢能夠支持互聯(lián)網(wǎng)、金融、科研、自動(dòng)駕駛等重要行業(yè)高“智”發(fā)展。在“AI算力棧”能力支撐下,寧暢×吉利星睿智算中心已經(jīng)建成,推動(dòng)了大模型的研發(fā)應(yīng)用。此次在桐鄉(xiāng)市落地的NEX AI Lab(Nettrix AI Open Lab),免費(fèi)提供軟、硬件服務(wù)也是寧暢提供全方面AI場(chǎng)景服務(wù)的體現(xiàn)。據(jù)介紹,NEX AI Lab集成加速計(jì)算節(jié)點(diǎn)、全閃存存儲(chǔ)節(jié)點(diǎn),可為GPT、LLaMA、Stable Diffusion等AI模型,提供多元場(chǎng)景應(yīng)用優(yōu)化支持。
圖:國(guó)內(nèi)首個(gè)AI算力棧落地桐鄉(xiāng)市
綜合來(lái)看,伴隨大模型快速發(fā)展,智算需求爆發(fā),今年政府工作報(bào)告首提“全國(guó)一體化算力體系”,算力網(wǎng)絡(luò)建設(shè)和發(fā)展進(jìn)入關(guān)鍵時(shí)期。這一階段,寧暢確定“全局智算”戰(zhàn)略,推出“AI算力棧”,能夠適用于智算中心發(fā)展,推動(dòng)智算的高效供給,將為整個(gè)算力網(wǎng)的構(gòu)建打下基礎(chǔ),也在智算行業(yè)可謂拔得頭籌。而憑借先進(jìn)的戰(zhàn)略理念和領(lǐng)先的能力底蘊(yùn),寧暢可滿足不同領(lǐng)域、不同開(kāi)發(fā)階段的企業(yè)需求,這將推動(dòng)算力有效供給與綠色發(fā)展,加速大模型的訓(xùn)練、應(yīng)用,促進(jìn)智能化、數(shù)字化發(fā)展。