數(shù)據(jù)家,idc官網(wǎng),算力,裸金屬,高電機(jī)房,邊緣算力,云網(wǎng)合一,北京機(jī)房,北京云計(jì)算,北京邊緣計(jì)算,北京裸金屬服務(wù)器,北京數(shù)據(jù)服務(wù)器,北京GPU服務(wù)器,高算力服務(wù)器,數(shù)據(jù)機(jī)房相關(guān)技術(shù)新聞最新報(bào)道
在科技飛速發(fā)展的今天，大模型技術(shù)正以前所未有的速度改變著世界。隨著大模型技術(shù)的不斷突破，眾多企業(yè)紛紛調(diào)整戰(zhàn)略，以適應(yīng)這一新興領(lǐng)域的快速發(fā)展。
對(duì)于算力運(yùn)營(yíng)商而言，這場(chǎng)變革同樣帶來(lái)了前所未有的機(jī)遇與挑戰(zhàn)。西云算力，作為這場(chǎng)變革的積極參與者，也在這場(chǎng)變革中積極探索，尋求新的發(fā)展機(jī)遇。近日，51CTO 有幸采訪了西云算力 CTO 梁峰，就大模型時(shí)代下西云算力的布局建設(shè)及戰(zhàn)略發(fā)展進(jìn)行了深入的探討。
在科技飛速發(fā)展的今天，大模型技術(shù)正以前所未有的速度改變著世界。隨著大模型技術(shù)的不斷突破，眾多企業(yè)紛紛
梁峰表示，隨著大模型技術(shù)的廣泛應(yīng)用，算力需求呈現(xiàn)出爆炸式增長(zhǎng)的趨勢(shì)。西云算力緊跟時(shí)代步伐，不斷優(yōu)化算力布局，提升服務(wù)質(zhì)量，以滿足市場(chǎng)日益增長(zhǎng)的需求。同時(shí)，西云算力還積極探索新的技術(shù)應(yīng)用和商業(yè)模式，以適應(yīng)大模型時(shí)代的發(fā)展需求。
西云算力的三位一體戰(zhàn)略
據(jù)了解，西云算力的愿景是打造最有效率的綠色安全 AI 算力平臺(tái)。為實(shí)現(xiàn)這一愿景，西云算力從多個(gè)方面努力，在數(shù)據(jù)中心的建設(shè)上，西云算力致力于為客戶提供高功率、低能耗的設(shè)施，通過(guò)設(shè)計(jì)智能模式和空間規(guī)劃，以及精細(xì)測(cè)試風(fēng)洞風(fēng)流模型，不斷優(yōu)化散熱效果。
其中涉及了大量的技術(shù)挑戰(zhàn)和創(chuàng)新實(shí)踐。在集群設(shè)計(jì)方面，西云算力精心選擇網(wǎng)絡(luò)架構(gòu)，包括 RDMA 網(wǎng)絡(luò)類(lèi)型、網(wǎng)絡(luò)交換機(jī)以及互聯(lián)網(wǎng)模式等。特別是在處理大規(guī)模、三層網(wǎng)絡(luò)架構(gòu)時(shí)，確保路由協(xié)議能夠適應(yīng) AI 訓(xùn)練的大流量模式，技術(shù)要求極高。同時(shí)，在云平臺(tái)搭建過(guò)程中，西云算力注重容器化服務(wù)的優(yōu)化，以滿足 AI 訓(xùn)練和推理的調(diào)度需求，確保模型數(shù)據(jù)調(diào)度、存儲(chǔ)與計(jì)算消耗之間達(dá)到最佳平衡，從而最大化 MFU。在推理層面，西云算力選擇最適合的框架、加速庫(kù)、顯卡或芯片，力求實(shí)現(xiàn)效率最大化。此外，安全性始終是西云算力關(guān)注的焦點(diǎn)，從服務(wù)器到網(wǎng)絡(luò)，再到模型和用戶數(shù)據(jù)的安全，都需要經(jīng)過(guò)嚴(yán)格的技術(shù)研發(fā)與保障。
idc網(wǎng),算力,裸金屬,高電機(jī)房,邊緣算力,云網(wǎng)合一,北京機(jī)房,北京云計(jì)算,北京邊緣計(jì)算,北京裸金屬服務(wù)器,北京數(shù)據(jù)服務(wù)器,北京GPU服務(wù)器,高算力服務(wù)器,數(shù)據(jù)機(jī)房
如今，西云算力憑借其在算力、能源和生態(tài)方面的深厚積累，構(gòu)建了三位一體的整體戰(zhàn)略。在算力方面，西云算力已建成的智算算力規(guī)模位居國(guó)內(nèi)前列，能夠提供高效的大模型訓(xùn)練支持，實(shí)現(xiàn)了分鐘級(jí)斷點(diǎn)續(xù)訓(xùn)，并行效率得到顯著提升。在能源方面，西云算力注重節(jié)能減排和可持續(xù)發(fā)展，結(jié)合寧夏獨(dú)特的氣候特征，西云算力采用了獨(dú)創(chuàng)的自然風(fēng)冷技術(shù)，使得節(jié)能效果相比傳統(tǒng)技術(shù)高達(dá) 70%。在生態(tài)方面，西云算力積極與產(chǎn)業(yè)鏈上下游企業(yè)合作，共同打造開(kāi)放、共享的計(jì)算生態(tài)，為行業(yè)發(fā)展注入新的活力。通過(guò)這一系列的戰(zhàn)略舉措，西云算力正朝著其愿景穩(wěn)步前進(jìn)，為中國(guó)的 AI 算力發(fā)展貢獻(xiàn)自己的力量。
算力建設(shè)的深度發(fā)展
西云算力由亞信聯(lián)合創(chuàng)始人、寬帶資本董事長(zhǎng)田溯寧先生創(chuàng)辦，于 2016 年成立。通過(guò)近十年的經(jīng)營(yíng)，西云算力在云計(jì)算、大數(shù)據(jù)、人工智能等領(lǐng)域不斷探索和實(shí)踐，積累了豐富的云計(jì)算基礎(chǔ)設(shè)施運(yùn)營(yíng)經(jīng)驗(yàn)和技術(shù)儲(chǔ)備，始終堅(jiān)守技術(shù)創(chuàng)新與服務(wù)優(yōu)化的初心，致力于為客戶提供更加高效、可靠的 AI 算力支持。
在硬件服務(wù)器集群的建設(shè)方面，西云算力不斷投入研發(fā)力量，優(yōu)化集群架構(gòu)，提高數(shù)據(jù)處理能力和穩(wěn)定性，通過(guò)采用了無(wú)損 RDMA 網(wǎng)絡(luò)，大幅提升了數(shù)據(jù)傳輸效率。并且與團(tuán)隊(duì)及合作伙伴的共同努力，成功建設(shè)了大規(guī)模商業(yè)集群，這些集群在大規(guī)模、大模型訓(xùn)練中發(fā)揮著關(guān)鍵作用。
其次，為了進(jìn)一步提升 MFU（模型算力利用率），西云算力從多個(gè)維度進(jìn)行深度優(yōu)化，包括框架、算法、算子、通信和監(jiān)控容災(zāi)等方面的優(yōu)化工作，促進(jìn)了應(yīng)用的快速迭代，提升了模型訓(xùn)練效率，還有效降低了能源消耗，實(shí)現(xiàn)了更好的訓(xùn)練效果。
第三，西云算力還提供容器、MAAS 層、平臺(tái)層及 Agent 層等多層次服務(wù)能力，企業(yè)客戶可以根據(jù)自己的需求選擇合適的服務(wù)。例如，研發(fā)能力強(qiáng)的客戶可以選擇使用容器層，而注重應(yīng)用交付的客戶則可以獲得 MaaS 乃至 Agent 層的支持。這種靈活的服務(wù)模式有助于提高企業(yè)的應(yīng)用開(kāi)發(fā)效率，促進(jìn)業(yè)務(wù)的快速發(fā)展。
能耗優(yōu)化的多維探索
西云算力深知，能耗是計(jì)算中心運(yùn)營(yíng)成本的重要組成部分，因此始終致力于降低能耗、提升能效。
今年 1 月，西云算力投入使用了寧夏首個(gè)30 千瓦全自然風(fēng)冷的高功率機(jī)柜數(shù)據(jù)中心，解決了高功率設(shè)備在數(shù)據(jù)中心的散熱問(wèn)題。同時(shí)，還結(jié)合寧夏的氣候特征，通過(guò)獨(dú)創(chuàng)的自然風(fēng)冷技術(shù)，節(jié)能效果相比傳統(tǒng)技術(shù)高達(dá) 70%。
其次，西云算力通過(guò)優(yōu)化硬件設(shè)計(jì)、改進(jìn)散熱系統(tǒng)等手段，實(shí)現(xiàn)了機(jī)架級(jí)能效的顯著提升。這不僅降低了數(shù)據(jù)中心的運(yùn)營(yíng)成本，也為西云算力贏得了良好的環(huán)保聲譽(yù)。
此外，西云算力攜手無(wú)錫天云數(shù)據(jù)中心科技有限公司，針對(duì)大模型訓(xùn)練需求，建設(shè)高功率機(jī)柜設(shè)計(jì)的基礎(chǔ)設(shè)施機(jī)房，通過(guò)技術(shù)創(chuàng)新，實(shí)現(xiàn)了設(shè)備間連接線材的縮短和集中，進(jìn)一步節(jié)省了成本并提升了傳輸效率。
生態(tài)建設(shè)的廣闊前景
在生態(tài)建設(shè)方面，西云算力秉持開(kāi)放、合作的理念，積極與產(chǎn)業(yè)鏈上下游企業(yè)攜手，共同構(gòu)建一個(gè)健康、繁榮的計(jì)算生態(tài)。
在供應(yīng)鏈合作層面，西云算力與超云數(shù)字、新華三浪潮、等企業(yè)建立了緊密的合作關(guān)系；其次，西云算力還與算力優(yōu)化平臺(tái)進(jìn)行合作，例如共績(jī)科技和白?？萍?，通過(guò)合作伙伴的技術(shù)優(yōu)勢(shì)和客戶資源，實(shí)現(xiàn)更廣闊的合作；第三，西云算力還與中國(guó)專(zhuān)業(yè)開(kāi)發(fā)者社區(qū)CSDN合作，以普惠算力賦能AI開(kāi)發(fā)者。
值得一提的是，西云算力還與智沃優(yōu)等服務(wù)人工智能領(lǐng)域初創(chuàng)企業(yè)的孵化器合作。通過(guò)與孵化器的合作，西云算力能夠?yàn)槌鮿?chuàng)企業(yè)提供全方位的支持，共同賦能他們?cè)谛履Ｊ教剿骱桶l(fā)展方面的努力。
英偉達(dá)GTC 大會(huì)啟示：引領(lǐng)行業(yè)新趨勢(shì)
作為全球 AI 技術(shù)領(lǐng)域的重要盛會(huì)，英偉達(dá)GTC 大會(huì)吸引了來(lái)自不同行業(yè)和類(lèi)型的企業(yè)關(guān)注。西云算力也從中深刻感受到了大模型時(shí)代的浪潮和算力需求的迅猛增長(zhǎng)，同時(shí)明確了未來(lái)的發(fā)展方向。
梁峰對(duì) 2024英偉達(dá)GTC 大會(huì)所傳遞的信息有著獨(dú)到的見(jiàn)解。他指出，算力已成為新時(shí)代的能源，英偉達(dá)從單芯片內(nèi)的堆疊轉(zhuǎn)向芯片外的堆疊，推出 GB200 NVL72 旗艦級(jí)GPU機(jī)架系統(tǒng)，機(jī)架內(nèi)通信采用銅纜替代光纖，凸顯了能耗優(yōu)化的重要性。此外，單顆芯片或單塊顯卡的比重在大會(huì)中顯著減少，而英偉達(dá)更加聚焦于生態(tài)和應(yīng)用場(chǎng)景的發(fā)展，特別是機(jī)器人與現(xiàn)實(shí)世界的交互場(chǎng)景。
對(duì)于西云算力而言，英偉達(dá)GTC 大會(huì)也給其帶來(lái)了多方面的啟示。梁峰認(rèn)為，在 AI 發(fā)展的現(xiàn)階段，大模型是驅(qū)動(dòng)生態(tài)進(jìn)步的基石，依然遵循 Scaling Law 原則，即更大的參數(shù)、更強(qiáng)的算力和更豐富的數(shù)據(jù)是模型質(zhì)量的關(guān)鍵。因此，西云算力需要不斷提升集群能力，從千卡走向萬(wàn)卡甚至更大規(guī)模。
其次，西云算力將堅(jiān)定地為大模型公司提供最佳集群服務(wù)，同時(shí)關(guān)注 AI 應(yīng)用生態(tài)的發(fā)展，與英偉達(dá)保持類(lèi)似的戰(zhàn)略方向。西云算力計(jì)劃在 RAG 和 Agent 方面加大研究投入，提升應(yīng)用開(kāi)發(fā)的質(zhì)量和效率，為客戶提供更優(yōu)質(zhì)的工具鏈支持。
此外，西云算力也將密切關(guān)注小型 MoE（混合專(zhuān)家模型）的發(fā)展動(dòng)態(tài)，為應(yīng)用場(chǎng)景的推理提供更具性?xún)r(jià)比的算力解決方案。通過(guò)不斷優(yōu)化能源、算力和網(wǎng)絡(luò)等方面，西云算力將建設(shè)高效、綠色、安全的算力平臺(tái)，滿足不斷增長(zhǎng)的AI算力需求。
結(jié)語(yǔ)
隨著大模型時(shí)代的深入發(fā)展，算力運(yùn)營(yíng)商正迎來(lái)前所未有的新機(jī)遇。通過(guò)不斷優(yōu)化算力布局、提升服務(wù)質(zhì)量、探索新的技術(shù)應(yīng)用和商業(yè)模式，西云算力正朝著打造最有效率的綠色安全 AI 算力平臺(tái)的愿景穩(wěn)步前進(jìn)。
展望未來(lái)，西云算力將繼續(xù)致力于為大模型公司提供最佳集群賦能，并在技術(shù)研究和應(yīng)用創(chuàng)新上不斷突破。同時(shí)，西云算力將與業(yè)界伙伴緊密合作，共同推動(dòng) AI 技術(shù)的發(fā)展和應(yīng)用場(chǎng)景的拓展，為行業(yè)的繁榮和進(jìn)步貢獻(xiàn)力量。
