圖、採用FPGA的微軟Azure雲端之深度學習平台
微軟宣布推出一個全新的深度學習平台Project Brainwave,使得該公司能夠進一步拓展其基於雲端的人工智慧服務。Project Brainwave允許微軟的Azure雲端用戶以超高的性能水準執行複雜的深度學習模型。這也是目前軟體與網路事業為主的企業跨足硬體設計的趨勢。因為透過軟體強化人工智慧演算法的執行效率,將在人工智慧時代初期幾年能夠獲得更大發展彈性空間。
微軟的即時人工智慧之深度學習雲端平台Project Brainwave,是以英特爾提供的Stratix 10現場可編程閘陣列(Field Programmable Gate Array;FPGA)為基礎。簡單來說,Stratix 10就是微軟的軟體深度神經網路(Deep Neural Network;DNN)處理單位(即是DPU)。未來英特爾將可從微軟全球數據中心擴建佈署Project Brainwave而獲得顯著效益。基本上,英特爾並沒有像英偉達(NVIDIA)擁有獨立的繪圖處理器,以讓其在人工智慧系統中獲得優勢,但是其以FPGA出發,使得其在未來的超大型深度神經網路中,將扮演更為重要的角色。
Project Brainwave 的系統可分為三個層面:首先是,高性能低延遲的分布式系統架構。其實,微軟在數據中心內早已經採用FPGA多年,現在採用Stratix 10之後,即可透過深度神經網路的運算提供硬體微服務(Hardware Microservices),亦即將深度神經網路加載到遠端且大量FPGA之上,透過呼叫伺服器的方式來執行。這種系統的架構優勢在於延遲性低且可以提高資料吞吐量。因為一旦外部接收到需求時,再也不需要透過微處理器進行處理,可以直接以FPGA進行快速回應,達到即時需求。
其次,Project Brainwave是採用整合到FPGA硬體上的軟體DNN處理單元(DPU)。這與現今許多公司採取硬體方式來實作DPU是有很大的差異。雖然硬體DPU能實現較高的運算效能,但是卻讓深度神經網路的靈活性受到限制。可是軟體DPU就沒有這個問題。
Project Brainwave的第三個層面是,可支援眾多主流深度學習框架的軟體堆疊。目前除了可以支援微軟自行研發的Cognitive Toolkit之外,其還可以支援谷歌的Tensorflow,當然未來還將支持更多深度學習框架。
其實,微軟並不是唯一一家在雲端數據中心內採用FPGA發展的公司,未來亞馬遜、谷歌與臉書都將在使用客製化晶片處理人工智慧任務。可見得,在人工智慧發展不斷推陳出新的今日,客製化或可編程的晶片模式來建立深度學習架構絕對是未來五至十年之內的主流。(702字)
圖、Brainwave堆疊
參考資料:
Microsoft unveils real-time Project Brainwave AI platform. IT Pro Portal,2017/8/24
Microsoft’s Project Brainwave accelerates deep learning in Azure. InfoWorld, 2017/8/24
本站相關文章:
1.微軟努力將人工智慧推向主流市場
2.微軟認為人工智慧是終極突破之技術
3.微軟正式改變戰略,人工智慧成為主角
4. 微軟利用深度學習建立智慧冰箱
5.微軟與谷歌在人工智慧專利領先 蘋果最為落後
--------------------------------------------------------------------------------------------------------------------------------------------