︿
Top

邊緣AI架構正在不斷演進 多核心、三角架構與軟體值得關注

瀏覽次數:610| 歡迎推文: facebook twitter wechat twitter twitter

科技產業資訊室 (iKnow) - Gloria 發表於 2021年2月18日

圖、邊緣AI架構正在不斷演進 多核心、三角架構與軟體值得關注
 
由於物聯網(IoT)的快速發展,以及IoT設備智慧化所需運算力和處理能力的提升,「邊緣」edge的應用範圍很廣泛,可以指從「閘道邊緣(edge of a gateway)」到「終端(endpoint)」的任何設備。

以下,邊緣AI架構的現狀與改變!

首先,具有多核心的處理將改變微控制器和DSP市場的創新。長期以來,廠商已經在相同周邊裝置上重複使用相同的架構,來改進MCU與DSP。雖然在處理器市場,多核心已經成為必備的技術,但是在低成本的MCU和DSP中,其仍然是一種新的嘗試。使用較小的Cortex-M0或Cortex-M4架構而不是Cortex-M7來處理輸出入介面是有意義的。

因為AI改變了產業遊戲規則,並使多核心的MCU或 DSP變得有意義。擁有專用於機器學習的加速器可以立即將性能和功能提升幾個等級。此外,在感測器數據上執行AI,需要大量的訊號處理以進行去噪和特徵萃取(feature extraction)。使用專屬多核心DSP更具有相乘效果。

其次,透過三角架構成為重點。在邊緣機器學習方面,許多公司與機構進行了很多試驗和錯誤的實驗,進而逐步找出最有效的方式。儘管像神經形態結構和光子處理的實驗仍在繼續,但是有一種結構似乎在業內獲得了大多數參與者的認可。那就是將MCU,DSP和加速器混合在一起架構。

因為MCU負責過程編程,標準運算,網路和安全管理。DSP則加速感測器調節,降噪,具有時頻領域轉換的特徵萃取,以及傳統的機器學習。加速器則加速了深層神經網路的運行,例如:矩陣乘法,卷積(convolution),池化(Pooling)和激活函數。

現今,意法半導體,恩智浦,瑞薩,SynapticsEta Compute等所有領先廠商都在推出採用此類架構之AI為中心的裝置。儘管有些伺服器具有客製化的DSP和加速器,但不乏來自ArmCadenceSynopsysCEVAImaginationIP供應商的IP核心。

最後,在循環中使用軟體進行設計。在三管齊下之雲端、系統與晶片下,軟體開發所帶來的靈活性和友好性變得很重要。例如:Cerebras和Grahcore通過其晶圓級加速器和IPU在伺服器端實現了這一目標。

軟體解決方案包括:應用程式,網路,安全性,IoT協議,遠程更新,用戶介面,感測器管理,訊號處理和決策邏輯等。對於解決方案架構師來說,軟體才能夠實現差異化,而非硬體。

根據Research Dive報告,2019年全球邊緣AI軟體市場價值為4.359億美元,預計到2027年將超過30.932億美元,年複合成長率為28.8%。

總之,邊緣AI架構仍在不斷轉變,2021年AI對於低功耗,低成本處理器,微控制器和DSP上的影響將最為明顯,而且軟體將扮演關鍵性角色。(745字)


參考資料:
The Edge: What Does It Mean For Artificial Intelligence? Forbes,2021/1/8
Researchers take a 3-pronged approach to Edge AI. Stacey On IoT, 2020/12/14 


相關文章:
1. 
邊緣AI應用仍集中於消費性市場,未來發展在邊緣與雲端之結合
2. 2025年邊緣AI晶片組將超越雲端AI晶片組市場規模
3. 邊緣AI晶片正進入架構創新且應用增加之新趨勢
4. SEMI:AI人工智慧和未來新興運算架構
5. AI處理器於2020年成長58%,未來幾年年複合成長率亦高達42%

 
歡迎來粉絲團按讚!
--------------------------------------------------------------------------------------------------------------------------------------------
【聲明】
1.科技產業資訊室刊載此文不代表同意其說法或描述,僅為提供更多訊息,也不構成任何投資建議。
2.著作權所有,非經本網站書面授權同意不得將本文以任何形式修改、複製、儲存、傳播或轉載,本中心保留一切法律追訴權利。