︿
Top

輝達以全面布局AI處理器之姿,推出H200以及專為中國設計的AI解決方案

瀏覽次數:6753| 歡迎推文: facebook twitter wechat Linked

科技產業資訊室 - 茋郁 發表於 2023年11月15日
facebook twitter wechat twitter

圖、輝達以全面布局AI處理器之姿,推出H200以及專為中國設計的AI解決方案
 
全球最有價值的晶片製造商輝達(Nvidia)公司正在更新其H100人工智慧處理器,為產品增添更多功能,從而鞏固了其在AI運算市場的主導地位。如今輝達於11月13日表示,其預計2024年第二季推出H200的新型號,其將使用高頻寬記憶體(HBM3e),能夠更好地應對開發和執行AI所需的大型數據集。

簡單來說,除了記憶體之外,H200與H100基本相同。 但對其記憶體的改變帶來了有意義的升級。H200首次使用HBM3e,這使得GPU的記憶體頻寬從H100 的每秒3.35 TB提高到4.8 TB,總記憶體容量從前代產品的80GB提高到141GB。

透過新產品,輝達正試圖跟上用於創建AI模型和服務的資料集規模。所以加入增強的記憶體功能將使H200應對帶有數據的軟體時,速度更快,這是訓練AI執行辨識影像和語音等任務的過最主要過程。

亞馬遜公司的AWS、Alphabet公司的谷歌雲端、微軟和甲骨文公司的雲端基礎設施都承諾從2024年開始使用這款新晶片。

Wolfe研究公司表示,輝達通常不會更新其數據中心處理器,這一次的更新,進一步證明輝達正在加快產品節奏,以應對AI市場的成長和性能要求,也可擴大輝達和競爭者之間的差距。例如:超微將於2023年第四季將MI300晶片推向市場,而英特爾則聲稱其Gaudi 2型號比H100更快。

從價格角度來看,鑑於新版本性能的提高,該公司可能會要求更高的價格。根據報告指出,H100的零售價格估計為每顆25,000至40,000美元。那麼可想而知的是,H200將比這一價格還高。

2024年對於GPU買家來說將是一個更有利的時期。因為輝達原本計劃在2024 年將H100的產量增加三倍以上。目標是明年將產量從2023年的約50萬顆增加200萬顆。如今H200的出現,以及超微的加入戰局,將可讓仍具有爆炸性成長的生成式AI,無論GPU在質和量上都雙重增加。

輝達除了滿足除了中國以外市場的需求外,也針對不斷變化的美國限制法規,又再一次開發專為中國客製化的新AI晶片系列。根據現在獲得之資訊,面向中國的新晶片有三種配置,分別為 H20、L20和L2。

根據 Bernstein Research 的分析,H20將是三者中最強大的,即是如此也將無需向美國申請出口授權。更不用談L20和L2等兩款效能較低的晶片了。

對於輝達來說,由於其晶片相關的軟體是AI開發領域最先進、最強大的軟體之一,這是吸引中國雲端業者的致命關鍵之一。即使有華為積極搶奪輝達在中國的AI晶片市場,但輝達只要持續推出產品,其仍有機會持續維持一定地位。

總之,輝達正以全面布局之姿,想持續主導AI晶片。短期幾年看起來,輝達仍占據很大優勢,其他廠商要競爭仍有一段不小差距呢!(956字;圖1)


參考資料:
Nvidia Develops New AI Chips, Again, to Keep Selling to China. Wall Street Journal, 2023/11/11.
Nvidia is launching a new must-have AI chip — as customers still scramble for its last one. The Verge, 2023/11/13.
Nvidia Upgrades Processor as Rivals Challenge AI Dominance. Bloomberg, 2023/11/13.


相關文章:
1. 技術升級與產值擴大 將加重半導體人才短缺問題
2. 筑波科技與泰瑞達合作成功舉辦2023年壓軸化合物半導體應用交流會
3. 日本預計斥資2兆日圓戰略發展半導體和生成式AI技術
4. 百度首度採用華為的AI晶片,這標誌著中國正往脫離美國晶片控制的路前進
5. 越南利用美中對抗來突破產業現狀,積極尋求在地建造第一座晶圓廠
6. 國內半導體業者持續深耕具發展潛力的車用電子市場

 
歡迎來粉絲團按讚!
--------------------------------------------------------------------------------------------------------------------------------------------
【聲明】
1.科技產業資訊室刊載此文不代表同意其說法或描述,僅為提供更多訊息,也不構成任何投資建議。
2.著作權所有,非經本網站書面授權同意不得將本文以任何形式修改、複製、儲存、傳播或轉載,本中心保留一切法律追訴權利。