當物聯網從 “互聯” 邁向 “智聯”,邊緣計算也正經歷從 “輔助算力補充” 到 “核心決策中樞” 的關鍵轉型。
當前,全球超過70%的物聯網設備仍受限于低能效、弱AI算力的硬件瓶頸——要么因能效不足無法支撐續航表現,要么因難以運行復雜模型無法落地端側推理,尤其在工業預測性維護、智能穿戴多模態交互、邊緣大語言模型(LLM)部署等場景中,“算力與功耗平衡”、“安全與靈活性兼顧” 已成為邊緣AI規模普及和行業突破的核心痛點。
多年來,Arm持續賦能邊緣AI技術創新和生態打造。年初發布首個集成Armv9架構的邊緣AI計算平臺,日前又宣布將其集成至Arm Flexible Access方案中,進一步降低智能邊緣設備的研發門檻。在助力智能、高效、安全的AI應用規模落地,激發邊緣計算市場繁榮和推動技術突破的同時,Arm通過推動物聯網終端從“數據采集”向“智能決策”跨越,為全球邊緣AI計算發展按下“加速鍵”。
Armv9:領先架構釋放邊緣AI價值
當前,AI正在加速經歷從云端向邊緣的轉移。這源于邊緣AI所具有的一系列優勢,包括更快的響應、更好的安全隱私保護、更低的成本,而隨著未來70%的推理將在邊緣側進行,邊緣AI被視為發揮AI能力的最大價值所在。
![]()
傳統的物聯網時代,廣泛多樣的IoT設備以強調連接為特征,而在AI時代,邊緣側的IoT終端面臨更高的能力要求,比如實時在線的感知能力,多模態的人機交互能力,本地化的數據處理能力,更高參數的大模型支撐能力,以及安全可靠的穩定性等等。
因此,邊緣側終端的能力因為AI時代的到來需要重新被塑造,而這則需要更加具備能效和性能,以及更加靈活性的計算平臺予以支撐,從而承接邊緣AI快速發展變化的市場需求。
作為半導體產業鏈的基石類計算平臺公司,在AI領域深耕多年的Arm已為邊緣側人工智能時代的到來做好充分準備。
數年前,Arm便推出了面向AI時代發展的Armv9架構,并持續進行優化,目前已經迭代到Armv9.3版本,使其在AI加速、安全性以及能效表現方面實現顯著跨越。
今年2月,Arm發布了首次集成Armv9架構的全新一代邊緣AI計算平臺,搭載了超高能效的 Arm Cortex-A320 CPU和Arm Ethos-U85 NPU。
![]()
近日,在深圳舉辦的“Arm Unlocked”活動上,Arm物聯網事業部硬件產品管理高級總監Lionel Belnet介紹Armv9邊緣AI計算平臺。
結合Armv9架構所具備的機器學習 (ML) 性能,如Neon、SVE2等向量處理技術,與Ethos-U85的高能效優勢,最新一代Arm邊緣AI計算平臺顯著提升了端側Transformer網絡的執行效率,與上一代平臺相比,實現了8倍的ML計算性能提升,使邊緣AI設備能夠輕松運行超過10億參數的大模型,助力大模型與生成式AI在物聯網領域的落地。
同時,新平臺實現了“CPU+NPU”的深度融合,比如Cortex-A320可以為Ethos-U85提供更高的內存容量與帶寬,讓大模型在U85上輕松執行。如果開發者有不希望在U85上運行的AI操作,可以回退到Cortex-A320,使得AI計算和大模型能夠根據實際的場景和工作負載需求實現靈活執行。
此外,新一代平臺集成了先進的Armv9安全技術,如指針驗證 (PAC)、分支目標識別 (BTI) 和內存標記擴展 (MTE)等,為工業、農業等領域邊緣側關鍵用例提供可靠的數據安全保護能力。
在軟件和開發工具方面,Arm還將Kleidi AI擴展至物聯網領域,適配Llama.cpp、ExecuTorch、MediaPipe等主流AI框架,實現70%性能提升并降低IoT應用開發的門檻。
整體而言,憑借面向AI時代打造的最新架構Armv9的加持,新一代邊緣AI計算平臺,在性能、能效、安全性、靈活性等方面實現了顯著提升,充分滿足邊緣AI發展需求的同時,也為加速邊緣AI側的技術創新和市場繁榮進一步奠定了基礎。
Arm Flexible Access:模式創新助力生態繁榮
在邊緣AI底層技術準備就緒之后,隨之而來的便是如何推動實現進一步的規模普及和落地,從而助力更多企業把握快速變化的市場需求,而這離不開開放繁榮的產業生態支撐。
得益于Arm卓越的高性能和高能效技術優勢,Arm本就在物聯網領域有著深厚的生態基礎,近年來,其也不斷通過技術和模式的創新,持續推動邊緣AI產業生態建設。
![]()
日前,Arm宣布將新一代邊緣AI計算平臺納入其Arm Flexible Access方案,正是其在邊緣AI生態建設方面的最新實踐。
Arm Flexible Access方案是主要面向低功耗物聯網、可穿戴等領域的Arm技術授權訂閱模式方案。其突出特征在于靈活性和低成本,非常適合邊緣AI領域技術創新迭代密集、場景需求多樣、企業玩家眾多和成本敏感等特征。
首先,該方案對客戶沒有任何限制,無論是初創企業,中小企業還是大公司,都可以訂閱。
第二,該方案提供豐富多樣的Arm IP、工具和培訓。合作伙伴可根據不同需求靈活選擇方案的級別,并利用方案中所包含的全部產品組合進行實驗和設計。
第三,該方案以預付費、零成本或低成本的方式提供給客戶。客戶可以自由選擇使用其中的IP授權,并在開發中根據實際需要隨時切換,無需再單獨購買,授權許可費僅在設計進入制造階段時,根據最終SoC設計中所采用的IP進行費用計算。
可以說,“Flexible”的命名恰如其分,Arm Flexible Access方案為邊緣AI的技術創新提供了一片廣闊的“試驗天地”。正因如此,該模式一經推出便受到生態參與者的青睞。據了解,過去五年間,通過Arm Flexible Access方案實現的成功流片約達400 次,活躍成員超過300家,包括70多家來自中國的合作伙伴。這些設計中,超過半數面向嵌入式與物聯網應用,為邊緣AI的產業發展注入強大動力。
創新與生態,是 Arm 邁向AI時代的核心底色。在談及邊緣 AI 生態構建時,Arm 物聯網事業部硬件產品管理高級總監Lionel Belnet對包括集微網在內的媒體表示:“衡量邊緣 AI 生態系統成功的核心標準,在于其創新活力。” 無論是技術層面的創新,還是技術授權模式的創新,Arm 均在創新生態系統的構建進程中踐行著承諾,且無疑已取得了顯著的成就。
結語:
AI 的終點不在邊緣,而是始于邊緣,它正推動著下一波智能計算的浪潮。
隨著大模型的小型化趨勢,邊緣AI推理將成為釋放AI價值的關鍵,面向未來,70%的AI推理都將在端側進行,而推動AI推理在邊緣側的加速落地,離不開軟硬件、生態的體系化支撐。
從這一點而言,作為底層技術基石和產業生態建設者,Arm正通過卓有成效的探索和實踐,推動邊緣AI領域的加速創新。從面向邊緣AI的先進架構,到配套工具;從更加強大的新一代邊緣AI計算平臺的推出,到更加開放靈活的商業模式的塑造,Arm正通過持續產業賦能,為邊緣AI生態注入活力,引領邊緣AI的快速發展。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.