數(shù)據(jù)家,idc官網(wǎng),算力,裸金屬,高電機(jī)房,邊緣算力,云網(wǎng)合一,北京機(jī)房,北京云計(jì)算,北京邊緣計(jì)算,北京裸金屬服務(wù)器,北京數(shù)據(jù)服務(wù)器,北京GPU服務(wù)器,高算力服務(wù)器,數(shù)據(jù)機(jī)房相關(guān)技術(shù)新聞最新報(bào)道
數(shù)字經(jīng)濟(jì)時(shí)代，大模型快速發(fā)展，對智算提出了更高、更迫切的需求，這為行業(yè)發(fā)展提供了巨大的產(chǎn)業(yè)機(jī)遇，同時(shí)也意味著一系列的優(yōu)化變革。目前，相關(guān)技術(shù)與產(chǎn)品、解決方案正不斷迭代，多家代表性企業(yè)通過創(chuàng)新來加快智算建設(shè)，釋放新質(zhì)生產(chǎn)力。
以寧暢為例，其3月29日發(fā)布了品牌戰(zhàn)略“全局智算”，并基于戰(zhàn)略推出“AI算力棧”解決方案，從底層硬件到頂層管理平臺，覆蓋算-存-網(wǎng)-建-管-用-液全局AI算力需求，為行業(yè)級/企業(yè)級智算中心的構(gòu)建提供了強(qiáng)有力支持。當(dāng)天，寧暢還推出國內(nèi)首個(gè)AI算力棧——寧暢NEX AI Lab（Nettrix AI Open Lab）并開放預(yù)約試用，通過免費(fèi)提供軟、硬件服務(wù)，帶來大模型、數(shù)據(jù)科學(xué)、推薦系統(tǒng)等解決方案工作流的先進(jìn)體驗(yàn)。
圖：寧暢發(fā)布“全局智算”戰(zhàn)略
大模型需要怎樣的智算？
大模型可分為訓(xùn)練、垂直場景適配、應(yīng)用部署運(yùn)行三個(gè)階段，不同時(shí)期的需求均有所差異。寧暢總裁秦曉寧表示，大模型的階段不同，所“涌現(xiàn)”的問題復(fù)雜性和關(guān)鍵難點(diǎn)也不盡相同，因此對AI支撐能力體系的要求各具側(cè)重。
圖：寧暢總裁秦曉寧
就智算而言，不同階段，數(shù)據(jù)存儲量、計(jì)算量，實(shí)時(shí)交互支撐能力需求等同樣存在差異。想要滿足高效的算力供給，便需要更為龐大的信息計(jì)算力、數(shù)據(jù)存儲力、網(wǎng)絡(luò)運(yùn)載力，芯片需要升級且在大模型推理與應(yīng)用階段方向應(yīng)有不同的偏重；存儲要推動全閃存等先進(jìn)存儲發(fā)展以應(yīng)對越發(fā)龐大的數(shù)據(jù)存儲量；網(wǎng)絡(luò)帶寬逐步向400G、800G乃至1.6T發(fā)展且要增強(qiáng)算網(wǎng)融合以實(shí)現(xiàn)更好的協(xié)同能力。
此外，巨大的能耗不容忽視。據(jù)測算，預(yù)計(jì)到2025年，我國數(shù)據(jù)中心能耗總量將突破4000億千瓦時(shí)。想要降低能耗，應(yīng)從多個(gè)層面優(yōu)化，如提高分布式光伏的部署，推動儲能發(fā)展等，其中最引人矚目的是如何改進(jìn)散熱效率。作為數(shù)據(jù)中心里僅次于IT設(shè)備的第二大能耗源，散熱效率的提升一直是數(shù)據(jù)中心降低PUE，節(jié)能減碳的重點(diǎn)。目前來看，液冷被公認(rèn)是智算中心的散熱標(biāo)配，其帶走的熱量是同體積空氣的近3000倍，技術(shù)也已經(jīng)成熟，能夠滿足智算中心高密度需求，實(shí)現(xiàn)降本增效與綠色化發(fā)展。
算力使用效率的同樣重要，以達(dá)到資源的高效利用、供需合理平衡，這就對軟件能力及服務(wù)能力等提出了更高的要求。作為推動產(chǎn)業(yè)發(fā)展的關(guān)鍵引擎，智算已經(jīng)不再局限于算力性能這一單一競爭要素。算法協(xié)同優(yōu)化、數(shù)據(jù)處理能力、模型可解釋性以及與特定行業(yè)應(yīng)用的融合度，都成為智算能否成功推動技術(shù)創(chuàng)新和實(shí)際落地的核心因素，這就需要在優(yōu)化硬件配置的基礎(chǔ)上，創(chuàng)新適配性強(qiáng)、能夠提升算效、優(yōu)化模型適配的軟件，將大模型的算力需求與智算的供給進(jìn)一步契合，以推動大模型的訓(xùn)練、推理。同時(shí)，大模型的三個(gè)階段對智算有著差異化要求，想要提升算效，需要智能計(jì)算相關(guān)企業(yè)具備高品質(zhì)的服務(wù)能力，能夠滿足咨詢、設(shè)計(jì)、建設(shè)、硬件供給等多項(xiàng)需求。
基于此來看，大模型時(shí)代所需要的智算，應(yīng)具備計(jì)算力海量泛在、靈活供給，存儲高效易拓展，網(wǎng)絡(luò)高速互聯(lián)互通，設(shè)施綠色低碳，資源高效調(diào)度，服務(wù)智能隨需等特征，能夠應(yīng)像水電一樣便捷，以有效降低企業(yè)使用成本，促進(jìn)大模型的訓(xùn)練、垂直場景適配與應(yīng)用部署。
“全局智算”給出發(fā)展優(yōu)化新思路
當(dāng)前，我國大模型正快速發(fā)展，據(jù)統(tǒng)計(jì)，10億參數(shù)規(guī)模以上的大模型數(shù)量已超過100個(gè)，面對越發(fā)龐大且要求更為復(fù)雜的算力需求，智算建設(shè)的量與質(zhì)必須加速優(yōu)化，向普惠易用、綠色安全的方向發(fā)展。此次寧暢“全局智算”的提出，便是對加快智算市場需要的快速響應(yīng)，通過全棧智能計(jì)算能力，以及涵蓋硬件、軟件、算法、液冷和服務(wù)質(zhì)量等多個(gè)維度的系統(tǒng)性AI計(jì)算方案，為更多行業(yè)發(fā)展帶來堅(jiān)實(shí)的支持和動力。
秦曉寧指出：“寧暢的‘全局智算’具備六大‘全’特性，涵蓋軟硬件全體系及全液冷產(chǎn)品，提供從咨詢到運(yùn)維的全流程服務(wù)，滿足全行業(yè)用戶大模型開發(fā)、適配、部署的全場景需求，并按用戶發(fā)展階段，定制專業(yè)且性價(jià)比高的AI計(jì)算方案。”
“全局智算”戰(zhàn)略下，“AI算力棧”則是寧暢AI全棧能力的集中體現(xiàn)。寧暢CTO趙雷表示，“AI算力棧”集成了寧暢在AI計(jì)算領(lǐng)域的軟硬件能力，以底層硬件到頂層應(yīng)用平臺的系統(tǒng)化方案，滿足大模型落地所需的計(jì)算、存儲、網(wǎng)絡(luò)、建設(shè)、管理、應(yīng)用及液冷等全方位需求，以其全面、靈活、深度的支撐能力，為行業(yè)級/企業(yè)級智算中心的構(gòu)建提供了強(qiáng)有力的支持。
具體來看，“AI算力棧”具體包括厚“基”薄發(fā)的“硬實(shí)力”、至“簡”智豐的“軟動力”及多“態(tài)”百應(yīng)的“服助力”。
圖：寧暢CTO趙雷
其中，“硬實(shí)力”主要是指靈活的算力服務(wù)器、高效存儲、高速網(wǎng)絡(luò)及全棧液冷。寧暢擁有企業(yè)級、行業(yè)級智算中心建設(shè)的能力，在第四代/第五代英特爾® 至強(qiáng)® 可擴(kuò)展處理器基礎(chǔ)上，能夠提供包括通用服務(wù)器、人工智能服務(wù)器、高密度服務(wù)器、整機(jī)柜液冷服務(wù)器、浸沒液冷服務(wù)器等在內(nèi)的多類型服務(wù)器，其中，寧暢B8000液冷整機(jī)柜服務(wù)器作為AI算力棧最具亮點(diǎn)的交付形態(tài)，采用電、液、網(wǎng)三路全盲插設(shè)計(jì)，部署周期相較傳統(tǒng)方式提升30倍。網(wǎng)絡(luò)方面根據(jù)智算需求優(yōu)化傳輸方式，存儲上NexData并行文件系統(tǒng)支持全閃、混閃等，有效提升了數(shù)據(jù)存儲力與網(wǎng)絡(luò)運(yùn)載力。基于此，寧暢有效提高了智算供給，實(shí)現(xiàn)節(jié)能減碳。
“軟動力”主要是指高效的大規(guī)模集群設(shè)計(jì)、調(diào)試、交付能力；優(yōu)秀的軟硬件AI業(yè)務(wù)調(diào)優(yōu)支持。寧暢基于系統(tǒng)工程及算法模型，以AI算子全棧優(yōu)化能力，為AI業(yè)務(wù)提供并行加速、性能分析、模型開發(fā)優(yōu)化等服務(wù)支持，所支撐的AI中臺NVAIE AI平臺還簡化了開發(fā)流程，加速了從模型訓(xùn)練到部署的全過程，使得AI創(chuàng)新更加迅速與便捷。目前，寧暢已構(gòu)建出從算力資源定制，到模型適配優(yōu)化，再到高效部署落地的大模型算力服務(wù)閉環(huán)，幫助企業(yè)極速推進(jìn)AI應(yīng)用開發(fā)及管理，降低了企業(yè)使用成本，實(shí)現(xiàn)了算力的高效利用。
“服助力”主要是指AI場景服務(wù)，以滿足重點(diǎn)行業(yè)全階段AI創(chuàng)新。據(jù)趙雷介紹，寧暢能夠支持互聯(lián)網(wǎng)、金融、科研、自動駕駛等重要行業(yè)高“智”發(fā)展。在“AI算力棧”能力支撐下，寧暢×吉利星睿智算中心已經(jīng)建成，推動了大模型的研發(fā)應(yīng)用。此次在桐鄉(xiāng)市落地的NEX AI Lab（Nettrix AI Open Lab），免費(fèi)提供軟、硬件服務(wù)也是寧暢提供全方面AI場景服務(wù)的體現(xiàn)。據(jù)介紹，NEX AI Lab集成加速計(jì)算節(jié)點(diǎn)、全閃存存儲節(jié)點(diǎn)，可為GPT、LLaMA、Stable Diffusion等AI模型，提供多元場景應(yīng)用優(yōu)化支持。
圖：國內(nèi)首個(gè)AI算力棧落地桐鄉(xiāng)市
綜合來看，伴隨大模型快速發(fā)展，智算需求爆發(fā)，今年政府工作報(bào)告首提“全國一體化算力體系”，算力網(wǎng)絡(luò)建設(shè)和發(fā)展進(jìn)入關(guān)鍵時(shí)期。這一階段，寧暢確定“全局智算”戰(zhàn)略，推出“AI算力棧”，能夠適用于智算中心發(fā)展，推動智算的高效供給，將為整個(gè)算力網(wǎng)的構(gòu)建打下基礎(chǔ)，也在智算行業(yè)可謂拔得頭籌。而憑借先進(jìn)的戰(zhàn)略理念和領(lǐng)先的能力底蘊(yùn)，寧暢可滿足不同領(lǐng)域、不同開發(fā)階段的企業(yè)需求，這將推動算力有效供給與綠色發(fā)展，加速大模型的訓(xùn)練、應(yīng)用，促進(jìn)智能化、數(shù)字化發(fā)展。
