數(shù)據(jù)家,idc官網(wǎng),算力,裸金屬,高電機(jī)房,邊緣算力,云網(wǎng)合一,北京機(jī)房,北京云計(jì)算,北京邊緣計(jì)算,北京裸金屬服務(wù)器,北京數(shù)據(jù)服務(wù)器,北京GPU服務(wù)器,高算力服務(wù)器,數(shù)據(jù)機(jī)房相關(guān)技術(shù)新聞最新報(bào)道
當(dāng)前，人工智能已經(jīng)成為企業(yè)數(shù)字化轉(zhuǎn)型的核心驅(qū)動(dòng)力。隨著5G、物聯(lián)網(wǎng)等新興技術(shù)的飛速發(fā)展，在邊緣部署AI已經(jīng)成為主流技術(shù)趨勢(shì)。Arm物聯(lián)網(wǎng)事業(yè)部業(yè)務(wù)拓展副總裁馬健在近期接受記者采訪時(shí)表示，物聯(lián)網(wǎng)的興起極大推動(dòng)了邊緣計(jì)算設(shè)備的普及。隨著 Transformer 與大模型技術(shù)的發(fā)展，AI 模型的普適性、多模態(tài)支持，以及模型微調(diào)效率都有了質(zhì)的突破，加之低功耗的 AI 加速器和專用芯片被集成到終端設(shè)備中，邊緣智能正變得越來越自主和強(qiáng)大。
為了滿足邊緣AI帶來的算力需求，Arm推出了新一代 Ethos-U AI加速器及全新物聯(lián)網(wǎng)參考設(shè)計(jì)平臺(tái)，加速推進(jìn)邊緣 AI 發(fā)展進(jìn)程。
在邊緣端部署人工智能應(yīng)用，將給我們的生活和工作帶來無限可能。
本次交流會(huì)上，馬健從智能家居應(yīng)用場(chǎng)景出發(fā)介紹了邊緣AI帶來的新機(jī)遇。她表示，在智能家居應(yīng)用中，人們目前大多通過智能手機(jī)中的不同應(yīng)用來手動(dòng)控制各種電器開關(guān)與設(shè)置。未來，AI 模型就像一個(gè)家庭“大腦”，可以綜合家里各類傳感器、攝像頭，以及外部天氣、家人喜好、自然語言命令等多種輸入，更安全、更節(jié)能地營(yíng)造個(gè)性化的家居環(huán)境。
此外，AI 和大模型將使零售業(yè)變得更加智能化、個(gè)性化和自動(dòng)化。通過個(gè)性化購(gòu)物體驗(yàn)、智能庫(kù)存管理、動(dòng)態(tài)定價(jià)策略、線上線下無縫整合，以及自動(dòng)化運(yùn)營(yíng)等，帶來更高的效率和更卓越的客戶體驗(yàn)。AI 和大模型還有望推動(dòng)工業(yè) 4.0 向工業(yè) 5.0 的轉(zhuǎn)變，實(shí)現(xiàn)智能化生產(chǎn)線、精準(zhǔn)的質(zhì)量控制、個(gè)性化定制生產(chǎn)、供應(yīng)鏈優(yōu)化、自主維護(hù)與遠(yuǎn)程監(jiān)控、人機(jī)協(xié)作、節(jié)能減排，以及新材料和工藝的開發(fā)等，為制造業(yè)帶來一場(chǎng)深刻的變革。
馬健強(qiáng)調(diào)，雖然邊緣AI帶來了很多機(jī)遇，但同樣也面臨著很多挑戰(zhàn)。
第一，在設(shè)計(jì)邊緣 AI 芯片和系統(tǒng)時(shí)，需要在計(jì)算能力和能效之間找到合適的平衡。
第二，高性能的處理能力往往伴隨著更高的功耗，而邊緣設(shè)備往往對(duì)功耗和成本都有著嚴(yán)格限制。
第三，越來越多的數(shù)據(jù)在邊緣被處理，數(shù)據(jù)安全和隱私保護(hù)變得尤為重要。因此，邊緣AI要求芯片設(shè)計(jì)時(shí)必須包含加密和安全功能。
第四，由于邊緣AI用例五花八門，為了更好地統(tǒng)一多樣化的應(yīng)用要求，達(dá)到規(guī)?；б妫浖x和適于軟件移植的標(biāo)準(zhǔn)更是必不可少。
idc網(wǎng),算力,裸金屬,高電機(jī)房,邊緣算力,云網(wǎng)合一,北京機(jī)房,北京云計(jì)算,北京邊緣計(jì)算,北京裸金屬服務(wù)器,北京數(shù)據(jù)服務(wù)器,北京GPU服務(wù)器,高算力服務(wù)器,數(shù)據(jù)機(jī)房為了幫助用戶解決部署邊緣AI的各種挑戰(zhàn)，Arm在 IP、參考設(shè)計(jì)和軟件標(biāo)準(zhǔn)上持續(xù)投入，不但持續(xù)推出了高性能低功耗的各類產(chǎn)品，而且還從軟件、工具和生態(tài)等各個(gè)維度入手，用最簡(jiǎn)單的方式幫助用戶應(yīng)對(duì)挑戰(zhàn)，推動(dòng)邊緣AI的發(fā)展。
為了解決性能、功耗和安全等邊緣AI面臨的各項(xiàng)挑戰(zhàn)，Arm重磅發(fā)布了新一代Ethos-U AI加速器。
據(jù)馬健介紹，與上一代產(chǎn)品相比，Ethos-U85 性能提升四倍，能效提高 20%，同時(shí)，其 MAC 單元可從 128 個(gè)擴(kuò)展到 2048 個(gè)（在 1GHz 時(shí)，算力實(shí)現(xiàn) 4 TOPs），能夠?yàn)橹T如工廠自動(dòng)化和商用或智能家居攝像頭等需要更高性能的應(yīng)用提供有力的支持。Ethos-U85提供了相同的一致工具鏈，因此合作伙伴能夠利用現(xiàn)有的投資，達(dá)到無縫的開發(fā)者體驗(yàn)。更重要的是，全新 Ethos-U85 NPU 支持了 TensorFlow Lite 和 PyTorch 等 AI 框架。
馬健表示，Ethos-U85不僅僅提供卷積神經(jīng)網(wǎng)絡(luò) (CNN) 所需的權(quán)重矩陣乘的運(yùn)算，還支持矩陣相乘，這是 Transformer 架構(gòu)網(wǎng)絡(luò)的一個(gè)基本組成部分?；?Transformer 的模型具有優(yōu)異的泛化功能，它將更快地驅(qū)動(dòng)新 AI 應(yīng)用的發(fā)展。Transformer 在視覺和生成式 AI 用例中，比如視頻理解、圖文結(jié)合，圖像增強(qiáng)與生成、圖像分類和目標(biāo)檢測(cè)等方面都極有價(jià)值。
“Transformer 架構(gòu)網(wǎng)絡(luò)的注意力機(jī)制容易利用并行計(jì)算來實(shí)現(xiàn)，提高硬件使用效率，使得這些模型能夠部署在計(jì)算資源有限的邊緣設(shè)備上。” 馬健表示，開發(fā)者可以通過選用針對(duì) Transformer 架構(gòu)網(wǎng)絡(luò)優(yōu)化的設(shè)計(jì)，發(fā)掘邊緣 AI 的新機(jī)遇，使這些應(yīng)用享有更快的推理、更優(yōu)化的模型性能和可擴(kuò)展性。
除此之外，在高性能邊緣計(jì)算系統(tǒng)中，應(yīng)用處理器、標(biāo)準(zhǔn)操作系統(tǒng)、高級(jí)開發(fā)語言的部署變得越來越多。由于這種模式更有利于云原生開發(fā)和云邊端負(fù)載調(diào)度，尤其是在處理數(shù)據(jù)量日益增長(zhǎng)的 AI 應(yīng)用系統(tǒng)中，這個(gè)趨勢(shì)尤為顯著。Ethos-U85 專為與 Arm 領(lǐng)先的 Armv9 Cortex-A CPU 相結(jié)合而設(shè)計(jì)，將為基于應(yīng)用處理器的智能物聯(lián)網(wǎng)平臺(tái)上運(yùn)行的 AI 任務(wù)實(shí)現(xiàn)加速，能夠在工業(yè)機(jī)器視覺、邊緣網(wǎng)關(guān)、可穿戴設(shè)備和消費(fèi)類機(jī)器人等應(yīng)用中帶來高效能的邊緣推理能力。
據(jù)了解，Arm Ethos NPU 系列產(chǎn)品已有逾 20 家授權(quán)許可合作伙伴，其中，Alif Semiconductor 和英飛凌成為全新 Arm Ethos-U85 NPU 的早期采用者。
除了發(fā)布全新的Ethos-U85 AI加速器之外，Arm還同步推出了Corstone-320全新物聯(lián)網(wǎng)參考設(shè)計(jì)平臺(tái)，以此來加速語音、音頻和視覺系統(tǒng)的部署。
據(jù)了解，Arm Corstone-320 物聯(lián)網(wǎng)參考設(shè)計(jì)平臺(tái)集成了 Arm 最高性能的 Cortex-M CPU——Cortex-M85、Mali-C55 ISP和全新的 Ethos-U85 NPU，為語音、音頻和視覺等廣泛的邊緣 AI 應(yīng)用提供了所需的性能，例如實(shí)時(shí)圖像分類和目標(biāo)識(shí)別，或在智能音箱上啟用具有自然語言翻譯功能的語音助手。
馬健表示，Arm Corstone-320 物聯(lián)網(wǎng)參考設(shè)計(jì)平臺(tái)涵蓋了軟件、工具和支持，其中包括 Arm 虛擬硬件。該平臺(tái)的軟硬件結(jié)合特性將使開發(fā)者能夠在物理芯片就緒前便啟動(dòng)軟件開發(fā)工作，從而加速推進(jìn)產(chǎn)品進(jìn)程，為日益復(fù)雜的邊緣 AI 設(shè)備縮短上市時(shí)間。
“Corstone-320 不僅提供芯片計(jì)算子系統(tǒng) IP 組合，還附帶了軟件、AI 模型庫(kù)和開發(fā)工具，以實(shí)現(xiàn)軟件的復(fù)用，同時(shí)，該平臺(tái)利用了 Arm 強(qiáng)大的生態(tài)系統(tǒng)，附帶了仿真 Corstone-320 完整系統(tǒng)的 Arm 虛擬硬件，以及單獨(dú)的 CPU 和 NPU 的固定虛擬平臺(tái) (FVP) 模型，以簡(jiǎn)化開發(fā)并加速產(chǎn)品設(shè)計(jì)，支持軟硬件并行協(xié)同開發(fā)?！?馬健表示，這種提供邊緣 AI 和智能物聯(lián)網(wǎng)計(jì)算子系統(tǒng)全套軟硬件和工具鏈的方法，使得我們的合作伙伴能夠在一系列性能點(diǎn)上快速開發(fā)，并聚焦于打造差異化價(jià)值。
據(jù)馬健介紹，目前全球約有 90% 的 AI 都運(yùn)行在基于 Arm 架構(gòu)的 CPU 上，這些持續(xù)投入使 Arm 成為全球最普遍的 AI 計(jì)算平臺(tái)之一，吸引了越來越多的開發(fā)者加入，而 Arm 也將與生態(tài)伙伴們砥礪奮進(jìn)，釋放前所未有的 AI 潛力。
“智能必須無處不在，云邊端缺一不可。Arm 推出的 Ethos-U85 以及 Corstone-320， 旨在加速 AI 系統(tǒng)的快速落地，促進(jìn)未來多模態(tài)智能應(yīng)用的全方位部署?！?采訪最后，馬健如是說。
