︿
Top

輝達推出新Grace CPU Superchip,性能是傳統伺服器2倍

瀏覽次數:291| 歡迎推文: facebook twitter wechat Linked

科技產業資訊室(iKnow) - 黃松勳 發表於 2022年3月24日
facebook twitter wechat twitter
圖、輝達推出新Grace CPU Superchip,性能是傳統伺服器2倍
 

3月22日,輝達(Nvidia)在AI開發者年度GTC大會上發表其下一代Hopper GPU架構和Hopper H100 GPU,以及將GPU與高性能CPU相結合的新型數據中心晶片,稱之為Grace CPU Superchip。
 
H100 GPU
Hopper H100晶片中的新Transformer Engine有望將模型訓練速度提高6倍,而且新架構還具有連接多個節點的新NVLink Switch系統,由這些晶片驅動的大型伺服器叢集將能夠擴展支援大規模網絡與節省開銷。
 
NVIDIA Hopper架構,旨在透過強大的運算能力和快速存取之記憶體來加速下一代AI工作的負載,並處理不斷增長的網路和數據集。
 
新的 Transformer Engine 使用客戶的Tensor Cores,可以根據需求混合8位精度和16位半精度,同時保持精度。除了Transformer Engine之外,GPU 還將配備一個新的機密運算組件。
 
H100 GPU將採用台積電(TSMC)的4nm技術製造,具備800億個電晶體,與2020年推出並使用台積電7nm技術的Ampere A100數據中心GPU相比,數量增加了1.5到6倍。
 
Grace CPU Superchip
Grace CPU Superchip 是輝達首次涉足數據中心專用的CPU。基於Arm Neoverse的晶片將具有高達144個核心和每秒1 TB/s的記憶存取頻寬,並透過NVLink使兩個Grace CPU結合互連。類似於Apple最近發布的M1 Ultra晶片架構,如何連接兩個M1晶片。
 
新CPU將採用快速LPDDR5X記憶體,並於2023 年上半年上市,有望提供高於傳統伺服器2倍的性能。Nvidia估計該晶片將在SPECrate®2017_int_base性能基準測試中達到740分,未來將與AMD和英特爾(Intel)數據中心的高階處理器直接競爭。
 
Grace CPU Superchip新晶片在許多方面,是輝達從去年宣布的Grace Hopper Superchip和 Grace CPU自然演變而來。Grace Hopper Superchip將CPU和GPU組合成系統單晶片(SoC)。該系統也將於2023年上半年推出,將針對大型模型的GPU配置600GB記憶體,並承諾記憶體存取頻寬將比傳統伺服器中的GPU 高30倍。輝達表示,這些晶片用於大規模人工智慧(AI)和高性能運算(HPC)。
 
Grace CPU Superchip是基於Arm v9架構,可配置為獨立的CPU系統或搭配具多達8個Hopper GPU的伺服器。輝達目前正與領先的HPC、超級計算、超大規模和雲端客戶合作,因此這些系統預計會在明年發布。(695字、圖1)
 
 
參考資料:
GTC 2022 主題演講。Nvdia,2022/3/22
Nvidia launches a new GPU architecture and the Grace CPU Superchip. Tech Crunch,2022/3/22
 
 
相關文章:
1. 輝達CEO:加入英特爾成為代工夥伴、支持使用小晶片
2. 小晶片架構超級電腦的時代已經到來
3. 英特爾宣佈800 億歐元投資歐洲十年策略
4. 蘋果CPU/GPU新處理器M1 Ultra 台積電代工
5. Graphcore與台積電合作推出首個3D WoW封裝晶片-Bow IPU問世
6. 台積電等成立UCIe標準聯盟,利用小晶片建構客製化SoC
7. 英特爾「五年振興計畫」2奈米2024年量產
 
 

 
歡迎來粉絲團按讚!
--------------------------------------------------------------------------------------------------------------------------------------------
【聲明】
1.科技產業資訊室刊載此文不代表同意其說法或描述,僅為提供更多訊息,也不構成任何投資建議。
2.著作權所有,非經本網站書面授權同意不得將本文以任何形式修改、複製、儲存、傳播或轉載,本中心保留一切法律追訴權利。