︿
Top

AI新創公司Habana Labs挑戰英偉達訓練晶片的解決方案

瀏覽次數:1947| 歡迎推文: facebook twitter wechat twitter twitter

科技產業資訊室 - Gloria 發表於 2019年6月25日

圖、AI新創公司Habana Labs挑戰英偉達訓練晶片的解決方案

AI新創公司Habana Labs推出首款用於雲端訓練的人工智慧處理器,稱為Gaudi HL-2000。其聲稱該AI處理器的訓練系統的處理能力比起擁有相同數量的GPU系統還要高出4倍。

其實,Gaudi是Habana進軍AI市場的第二次嘗試成果。Habana在2018年第四季,向特定客戶發送其第一款AI晶片Goya推理卡。這款產品與英偉達的V100 GPU相比,在ResNet-50上進行推理運算時,以HL-1000驅動的Goya能提供超過四倍的吞吐量,兩倍的能源效率,以及降低一半的延遲。

對Gaudi HL-2000而言,在ResNet-50模型中,每秒則可以處理1650張圖片,功耗幾乎是英偉達Tesla V100的一半。因為根據測試,英偉達Tesla V100每秒約僅能處理600張圖片,功耗為300W。

Habana並沒有提供太多關於晶片內部太多細節的資訊,只是聲稱它是基於第二代Tensor處理核心(Tensor Processing Core, TPC)。此外,Gaudi處理器支持用於訓練的典型浮點格式,例如:FP32和bfloat16,以及一些整數格式。封裝內記憶體則是採用32GB HBM2的形式。

Gaudi最大的潛在優勢可能是它能夠大規模傳送性能,這對於建構更大、更複雜的神經網路一直是一個挑戰。對於大多數訓練設定來說,一旦超出8或16個加速器,也就是說,一旦你離開伺服器,性能就會趨於平緩。但是Gaudi卻不是如此。同樣的ResNet-50訓練可以擴展至數百台HL-2000處理器,性能接近線性成長模式。與V100相比,Habana技術在650處理器級別中,在吞吐量方面實現了3.8倍以上的優勢。

從產業趨勢來看,訓練AI模型每年需要以指數級成長的模式獲得更高運算能力,如此才能夠滿足數據中心和雲端運算的迫切需求,進而大幅提高生產力和可延展性。現在憑藉著Gaudi的創新架構,Habana可提供產業界最高的性能,同時整合基於標準的乙太網連接實現無限擴展的可能。

總之,從評估系統到生產部署,這都是一條漫長的道路。如果Habana所宣稱的技術能夠按照其承諾提供給產業界,AI市場的競爭模樣將變得不太一樣。畢竟,英偉達在AI硬體市場,已經證明自己是一個能夠採取快速反應市場的公司。如果Habana想要在AI晶片市場獲得更大的注目,就必須在激烈競爭的市場當中,證明自己的難耐。否則,曇花一現的新創公司實在太多了,唯有真正展現範例,才是Habana能夠成為AI晶片大廠的第一步。(721字)


參考資料:
AI Chip Startup Releases Training Accelerator to Challenge GPUs. The Next Platform,2019/6/17
Habana Debuts Record-Breaking AI Training Chip. EETimes,2019/6/17


本站相關資料:
1. 半導體廠投資2019年預計將下降14%
2. 蘋果首次進入全球營收前15大半導體廠商名單
3. 鴻海進軍半導體產業….從設計到製造一條龍
4. AI晶片成為2019年半導體業界目光的焦點
5. 全球前15大AI晶片,Nvidia排第一、Mediatek排第15

 
歡迎來粉絲團按讚!
--------------------------------------------------------------------------------------------------------------------------------------------
【聲明】
1. 科技產業資訊室刊載此文不代表同意其說法或描述,僅為提供更多訊息,也不構成任何投資建議。
2. 著作權所有,非經本網站書面授權同意不得將本文以任何形式修改、複製、儲存、傳播或轉載,本中心保留一切法律追訴權利。