︿
Top

別小看Gaudi 3,其採取低成本和慢慢蠶食戰略,伺機奪下AI晶片市場

瀏覽次數:7929| 歡迎推文: facebook twitter wechat Linked

科技產業資訊室 - 茋郁 發表於 2024年4月15日
facebook twitter wechat twitter

圖、別小看Gaudi 3,其採取低成本和慢慢蠶食戰略,伺機奪下AI晶片市場

為了加強與輝達在AI訓練和推理應用晶片市場的競爭,英特爾推出了人工智慧加速器晶片Gaudi 3。該公司聲稱它比Nvidia的H100 GPU更快、更有效率,並且與Nvidia最近推出的Blackwell級GPU相比「極具競爭力」。

英特爾聲稱,Gaudi 3在訓練大語言模型方面比H100快1.7倍。在推理方面,Gaudi 3的推理應用速度比H100快1.5倍,也比H200快1.3倍。英特爾還表示,Gaudi 3在運行LLM時的能效比H100高出2.3倍。最重要的是,Gaudi 3的成本預算僅僅是輝達H100的一小部分。

由於這些因素,使得Naver(韓國網路公司)、博世、IBM、Ola等成為英特爾Gaudi 3的客戶和合作夥伴。而2024年第二季度,英特爾將向戴爾、惠普以及超微型電腦(Super Micro Computer)、和聯想等OEM廠商首批供貨。正式上市時程卻是在第三季。

基本上,Gaudi 3 AI加速器可描述為具有「異質電腦架構」。它擁有64顆Tensor處理器核心(第五代)、8個矩陣數學引擎、128 GB HBM容量(3.7 TB/s)、96 MB SRAM(12.8 TB/s)、24個200 GbE RoCE乙太網路連接埠和PCIe 5。

雖然Gaudi 3比起H100更好,但是卻不足以對抗輝達Blackwell平台。英特爾構思的策略是,隨著企業面臨AI成本不斷上升的問題,任何能夠保持效能但價格更實惠的產品都將是非常具吸引力的解決方案。從平台特性和功能來說,輝達Blackwell平台絕對沒有一家公司能夠與之抗衡,但是價格標籤是Blackwell的一個嚴重阻礙,更何況輝達宣稱,B100晶片初期將供不應求。

這就給英特爾一個戰略的切入點,畢竟,想要省錢但卻在可接受替代方案上,Gaudi 3產品的確是最佳選擇。

如果當初英特爾直接研發出超越B100的AI晶片,可能會面臨在硬體技術領先,但整體生態追不上,且成本過高的窘境。反而沒有其他公司願意嘗試Gaudi 3。如今在成本優勢下,Gaudi 3在性能上超越H100,就足以讓其他公司願意嘗試採用,畢竟,英特爾並未擁有CUDA的軟體。

換句話說,想要其他企業採用Gaudi 3,英特爾必須在軟體上齊頭並進。有了低成本的硬體,企業才有嘗試UXL開源軟體平台的勇氣。

英特爾知道輝達成功的關鍵之一是CUDA,甚至說是軟硬體結合的生態體系,所以初期策略絕對不要硬碰硬,而且慢慢蠶食輝達的市場佔有率。先讓一小部分企業願意嘗試Gaudi 3和其開源軟體平台,再透過口耳相傳以及企業反饋,來搶奪市場大餅。

如今仍難以知道英特爾這些戰略會不會奏效,還是要等產品上市才能揭曉。但從戰略角度上,的確是具有威脅力的嘗試啊!(1113字;圖1)


參考資料:
Intel's Gaudi 3 launches to challenge Nvidia in the AI chip space with an open ecosystem. Venture Beat, 2024/04/09.
WITH GAUDI 3, INTEL CAN SELL AI ACCELERATORS TO THE PYTORCH MASSES. The Next Platform, 2024/04/09.
Intel Says New Gaudi 3 AI Chips Top Nvidia H100s in Speed and Cost. Barron's, 2024/04/10.


相關文章:
1. 中國擴大科技戰打擊面,英特爾和超微將於2027年失去中國電信訂單
2. 台積電獲得美國66億美元補助 持續擴大亞利桑那晶圓廠投資
3. AMD以全新第2代Versal系列元件擴展領先自行調適SoC產品組合, 為AI驅動型嵌入式系統提供端對端加速
4. 隨著AI帶給三星第一季營業利潤成長10倍,加碼德州工廠投資增加一倍,期望成為半導體領導者
5. AI崛起,打破英特爾和三星佔據半導體前兩名的長期現象,輝達躍升至第二,三星誓言重回第一
6. 蘋果將關注於玻璃基板的開發,期望引領半導體產業前進

 
歡迎來粉絲團按讚!
--------------------------------------------------------------------------------------------------------------------------------------------
【聲明】
1.科技產業資訊室刊載此文不代表同意其說法或描述,僅為提供更多訊息,也不構成任何投資建議。
2.著作權所有,非經本網站書面授權同意不得將本文以任何形式修改、複製、儲存、傳播或轉載,本中心保留一切法律追訴權利。