數(shù)據(jù)家,idc官網,算力,裸金屬,高電機房,邊緣算力,云網合一,北京機房,北京云計算,北京邊緣計算,北京裸金屬服務器,北京數(shù)據(jù)服務器,北京GPU服務器,高算力服務器,數(shù)據(jù)機房相關技術新聞最新報道
當前，人工智能已經成為企業(yè)數(shù)字化轉型的核心驅動力。隨著5G、物聯(lián)網等新興技術的飛速發(fā)展，在邊緣部署AI已經成為主流技術趨勢。Arm物聯(lián)網事業(yè)部業(yè)務拓展副總裁馬健在近期接受記者采訪時表示，物聯(lián)網的興起極大推動了邊緣計算設備的普及。隨著 Transformer 與大模型技術的發(fā)展，AI 模型的普適性、多模態(tài)支持，以及模型微調效率都有了質的突破，加之低功耗的 AI 加速器和專用芯片被集成到終端設備中，邊緣智能正變得越來越自主和強大。
為了滿足邊緣AI帶來的算力需求，Arm推出了新一代 Ethos-U AI加速器及全新物聯(lián)網參考設計平臺，加速推進邊緣 AI 發(fā)展進程。
在邊緣端部署人工智能應用，將給我們的生活和工作帶來無限可能。
本次交流會上，馬健從智能家居應用場景出發(fā)介紹了邊緣AI帶來的新機遇。她表示，在智能家居應用中，人們目前大多通過智能手機中的不同應用來手動控制各種電器開關與設置。未來，AI 模型就像一個家庭“大腦”，可以綜合家里各類傳感器、攝像頭，以及外部天氣、家人喜好、自然語言命令等多種輸入，更安全、更節(jié)能地營造個性化的家居環(huán)境。
此外，AI 和大模型將使零售業(yè)變得更加智能化、個性化和自動化。通過個性化購物體驗、智能庫存管理、動態(tài)定價策略、線上線下無縫整合，以及自動化運營等，帶來更高的效率和更卓越的客戶體驗。AI 和大模型還有望推動工業(yè) 4.0 向工業(yè) 5.0 的轉變，實現(xiàn)智能化生產線、精準的質量控制、個性化定制生產、供應鏈優(yōu)化、自主維護與遠程監(jiān)控、人機協(xié)作、節(jié)能減排，以及新材料和工藝的開發(fā)等，為制造業(yè)帶來一場深刻的變革。
馬健強調，雖然邊緣AI帶來了很多機遇，但同樣也面臨著很多挑戰(zhàn)。
第一，在設計邊緣 AI 芯片和系統(tǒng)時，需要在計算能力和能效之間找到合適的平衡。
第二，高性能的處理能力往往伴隨著更高的功耗，而邊緣設備往往對功耗和成本都有著嚴格限制。
第三，越來越多的數(shù)據(jù)在邊緣被處理，數(shù)據(jù)安全和隱私保護變得尤為重要。因此，邊緣AI要求芯片設計時必須包含加密和安全功能。
第四，由于邊緣AI用例五花八門，為了更好地統(tǒng)一多樣化的應用要求，達到規(guī)?；б?，軟件定義和適于軟件移植的標準更是必不可少。
idc網,算力,裸金屬,高電機房,邊緣算力,云網合一,北京機房,北京云計算,北京邊緣計算,北京裸金屬服務器,北京數(shù)據(jù)服務器,北京GPU服務器,高算力服務器,數(shù)據(jù)機房為了幫助用戶解決部署邊緣AI的各種挑戰(zhàn)，Arm在 IP、參考設計和軟件標準上持續(xù)投入，不但持續(xù)推出了高性能低功耗的各類產品，而且還從軟件、工具和生態(tài)等各個維度入手，用最簡單的方式幫助用戶應對挑戰(zhàn)，推動邊緣AI的發(fā)展。
為了解決性能、功耗和安全等邊緣AI面臨的各項挑戰(zhàn)，Arm重磅發(fā)布了新一代Ethos-U AI加速器。
據(jù)馬健介紹，與上一代產品相比，Ethos-U85 性能提升四倍，能效提高 20%，同時，其 MAC 單元可從 128 個擴展到 2048 個（在 1GHz 時，算力實現(xiàn) 4 TOPs），能夠為諸如工廠自動化和商用或智能家居攝像頭等需要更高性能的應用提供有力的支持。Ethos-U85提供了相同的一致工具鏈，因此合作伙伴能夠利用現(xiàn)有的投資，達到無縫的開發(fā)者體驗。更重要的是，全新 Ethos-U85 NPU 支持了 TensorFlow Lite 和 PyTorch 等 AI 框架。
馬健表示，Ethos-U85不僅僅提供卷積神經網絡 (CNN) 所需的權重矩陣乘的運算，還支持矩陣相乘，這是 Transformer 架構網絡的一個基本組成部分。基于 Transformer 的模型具有優(yōu)異的泛化功能，它將更快地驅動新 AI 應用的發(fā)展。Transformer 在視覺和生成式 AI 用例中，比如視頻理解、圖文結合，圖像增強與生成、圖像分類和目標檢測等方面都極有價值。
“Transformer 架構網絡的注意力機制容易利用并行計算來實現(xiàn)，提高硬件使用效率，使得這些模型能夠部署在計算資源有限的邊緣設備上。” 馬健表示，開發(fā)者可以通過選用針對 Transformer 架構網絡優(yōu)化的設計，發(fā)掘邊緣 AI 的新機遇，使這些應用享有更快的推理、更優(yōu)化的模型性能和可擴展性。
除此之外，在高性能邊緣計算系統(tǒng)中，應用處理器、標準操作系統(tǒng)、高級開發(fā)語言的部署變得越來越多。由于這種模式更有利于云原生開發(fā)和云邊端負載調度，尤其是在處理數(shù)據(jù)量日益增長的 AI 應用系統(tǒng)中，這個趨勢尤為顯著。Ethos-U85 專為與 Arm 領先的 Armv9 Cortex-A CPU 相結合而設計，將為基于應用處理器的智能物聯(lián)網平臺上運行的 AI 任務實現(xiàn)加速，能夠在工業(yè)機器視覺、邊緣網關、可穿戴設備和消費類機器人等應用中帶來高效能的邊緣推理能力。
據(jù)了解，Arm Ethos NPU 系列產品已有逾 20 家授權許可合作伙伴，其中，Alif Semiconductor 和英飛凌成為全新 Arm Ethos-U85 NPU 的早期采用者。
除了發(fā)布全新的Ethos-U85 AI加速器之外，Arm還同步推出了Corstone-320全新物聯(lián)網參考設計平臺，以此來加速語音、音頻和視覺系統(tǒng)的部署。
據(jù)了解，Arm Corstone-320 物聯(lián)網參考設計平臺集成了 Arm 最高性能的 Cortex-M CPU——Cortex-M85、Mali-C55 ISP和全新的 Ethos-U85 NPU，為語音、音頻和視覺等廣泛的邊緣 AI 應用提供了所需的性能，例如實時圖像分類和目標識別，或在智能音箱上啟用具有自然語言翻譯功能的語音助手。
馬健表示，Arm Corstone-320 物聯(lián)網參考設計平臺涵蓋了軟件、工具和支持，其中包括 Arm 虛擬硬件。該平臺的軟硬件結合特性將使開發(fā)者能夠在物理芯片就緒前便啟動軟件開發(fā)工作，從而加速推進產品進程，為日益復雜的邊緣 AI 設備縮短上市時間。
“Corstone-320 不僅提供芯片計算子系統(tǒng) IP 組合，還附帶了軟件、AI 模型庫和開發(fā)工具，以實現(xiàn)軟件的復用，同時，該平臺利用了 Arm 強大的生態(tài)系統(tǒng)，附帶了仿真 Corstone-320 完整系統(tǒng)的 Arm 虛擬硬件，以及單獨的 CPU 和 NPU 的固定虛擬平臺 (FVP) 模型，以簡化開發(fā)并加速產品設計，支持軟硬件并行協(xié)同開發(fā)?！?馬健表示，這種提供邊緣 AI 和智能物聯(lián)網計算子系統(tǒng)全套軟硬件和工具鏈的方法，使得我們的合作伙伴能夠在一系列性能點上快速開發(fā)，并聚焦于打造差異化價值。
據(jù)馬健介紹，目前全球約有 90% 的 AI 都運行在基于 Arm 架構的 CPU 上，這些持續(xù)投入使 Arm 成為全球最普遍的 AI 計算平臺之一，吸引了越來越多的開發(fā)者加入，而 Arm 也將與生態(tài)伙伴們砥礪奮進，釋放前所未有的 AI 潛力。
“智能必須無處不在，云邊端缺一不可。Arm 推出的 Ethos-U85 以及 Corstone-320， 旨在加速 AI 系統(tǒng)的快速落地，促進未來多模態(tài)智能應用的全方位部署?！?采訪最后，馬健如是說。
