︿
Top

AI新創公司 Cerebras 推出新款 5奈米WSE-3 的晶圓級AI晶片

瀏覽次數:2624| 歡迎推文: facebook twitter wechat Linked

科技產業資訊室(iKnow) - 瑞課 發表於 2024年3月21日
facebook twitter wechat twitter

圖、AI新創公司 Cerebras 推出新款 5奈米WSE-3 的晶圓級AI晶片
 
國AI新創公司Cerebras於3月13日宣布了其Wafer Scale Engine 3 (WSE-3)的推出,其在性能上是前代WSE-2的兩倍,同時功耗和價格保持不變。WSE-3採用5奈米技術製程,內含4兆顆電晶體,專門為訓練大規模AI模型而設計。同時,Cerebras也推出了基於WSE-3的Cerebras CS-3 AI超級計算機,它透過900,000個最優化的AI運算核心,實現了高達125 PFLOPS的AI運算效能。
 
表1、Cerebras WSE-3、WSE-2與Nvidia H100晶片規格的比較
項目 Cerebras WSE-3 Cerebras WSE-2 Nvidia H100
晶片大小 46,225 mm² 46,225 mm² 826 mm²
核心數 900,000 850,000 16,896 FP32 + 528 Tensor
記憶體 44 GB SRAM 40 GB SRAM 0.05 GB SRAM + 80 GB HBM
記憶體頻寬 21 PB/s 20 PB/s 0.003 PB/s
傳輸頻寬 214 PB/s 220 PB/s 0.0576 PB/s
製程 5nm 7nm 4nm
 
WSE-3的關鍵規格包括採用台積電5奈米製程技術,並搬1.5TB、12TB或1.2PB的外部記憶體配置,使其能夠訓練達2,400億個參數的AI模型。

Cerebras WSE-3的架構設計專門針對AI運算最佳化,帶來三大核心優勢:
  1. 更多的AI運算核心:WSE-3配置高達900,000個AI運算核心,每個核心都能獨立編程,專為張量的稀疏線性代數運算最佳化,提供更好的神經網路訓練與深度學習推理基礎。因此,讓WSE-3在效能和靈活性方面達到了突出的效果。
  2. 更大記憶體容量與頻寬:WSE-3搭載44GB的SRAM,均勻分佈於晶片表面,為每個核心提供快速存取高速記憶體的能力,並享有高達21PB/s的極高頻寬,大大超越了市場上的其他解決方案。
  3. 更大的傳輸頻寬:WSE-3的先進晶片間連接技術克服了傳統通過線纜連接眾多小設備時的通信延遲和效率問題,提供了高達214Pb/s的運算核心間傳輸頻寬,是圖形處理器間傳統頻寬的3715倍,這一個特性使WSE-3在處理大規模AI運算任務時更加高效。

然而,為了實現 WSE-3的效能,Cerebras 也同步建構高效的運作系統--Cerebras CS-3超級電腦系統。Cerebras CS-3超級計算系統是運算核心為WSE-3晶片,並且擁有巨大的記憶體系統。巨大的記憶體系統使得Cerebras CS-3能夠在單一邏輯記憶體空間中存儲高達2,400億參數的模型,無需進行分割或重構。這一特點簡化了AI模型的訓練工作流程,相較於GPT-4和Gemini,這一架構能夠更快速地完成規模是AI模型訓練。

在Cerebras 的新聞稿中指出,利用四個Cerebras CS-3的超級電腦系統配置,便可在一天之內完成70億參數的模型微調。若以全規模超級電腦配置,即2048個Cerebras CS-3系統時,從零開始訓練出Llama 70億參數模型只需要不到一天的時間。

此外,Cerebras支援PyTorch 2.0原生的軟體框架,且深度整合最新AI模型和技術,整合的技術包含了多模態模型、視覺轉換器到專家混合及擴散等多種創新技術。豐富的軟體支援性讓Cerebras成為AI研究、AI應用開發的最佳候選平台。(932字
; 圖1))


參考資料:

The Cloud AI Supercomputer Built for Generative AI, Cerebras, 2024/03/16.
The future of AI is Wafer-Scale, Cerebras, 2024/03/16.
Cerebras Systems Unveils World's Fastest AI Chip with Whopping 4 Trillion Transistors, Cerebras, 2024/03/14.



相關文章:
1. 輝達不滿足在GenAI領導的現狀,推出新架構和軟體服務,往全方位AI公司前進
2. 晶圓代工領先族群的頂尖對決 台積電仍舊勝出
3. 韓國新創公司設計出AI晶片,結合韓國半導體供應鏈搶進AI商機
4低 IQ 技術無需犧牲系統性能即可延長電池續航力的 3 種方式
5. 前瞻技術脈動:先進材料及技術(202406)
6. 前瞻技術脈動:先進材料與技術(202405)

 
歡迎來粉絲團按讚!
--------------------------------------------------------------------------------------------------------------------------------------------
【聲明】
1.科技產業資訊室刊載此文不代表同意其說法或描述,僅為提供更多訊息,也不構成任何投資建議。
2.著作權所有,非經本網站書面授權同意不得將本文以任何形式修改、複製、儲存、傳播或轉載,本中心保留一切法律追訴權利。