︿
Top
本站首頁
本室簡介
服務內容
電子報
訂單查詢
網站地圖
目前的時間...
站內搜尋
產業政策
產業新聞
市場報導
策略評析
專利情報
關鍵圖表
首頁
市場報導
IC 半導體
半導體創新正驅動生成式AI成長養分,生成式AI正強化半導體創新力量,兩者互相正向影響
關鍵字:
生成式AI
(
Generative AI
);
人工智慧
(
AI
);
半導體
(
Semiconductor
);
半導體創新
(
Semiconductor Innovation
);
高寬頻記憶體
(
HBM
);
高速互連
(
High-speed interconnect
);
PAM4
(
Four-level pulse amplitude modulation
);
異質運算架構
(
Heterogeneous Computing Architecture
);
瀏覽次數:
1555
| 歡迎推文:
科技產業資訊室 - 茋郁 發表於 2024年9月11日
圖、
半導體創新正驅動生成式AI成長養分,生成式AI正強化半導體創新力量,兩者互相正向影響
大型科技公司已經花費了數十億美元,並計劃持續對AI進行投資。IDC預測,到2027年,企業在生成式AI上的支出將達到1,511億美元。AI的發展迎來了電腦架構的新黃金時代,推動了對硬體創新的不懈需求,以提高運算能力。
為了訓練AI模型,採用異質運算架構允許CPU和GPU協作移動和處理數據,以因應資料密集過程,因而激發了廠商開發出更多運算能力、增加記憶體容量和提高記憶體頻寬的研發工作。
數兆顆電晶體處理器和數千個運算核心,以極快的速度在記憶體中讀取和寫入大量數據,使這些核心能夠全速運行,因而推出了新型記憶體HBM(高頻寬記憶體)。
高頻寬記憶體(HBM)是一種動態隨機存取記憶體(DRAM),該標準於 2013年首次製定,其中晶片垂直堆疊以節省空間並降低功耗。它們是能夠處理生成式AI的先進記憶體晶片。它是針對AI所使用的GPU的關鍵零組件,有助於處理複雜應用程式產生的大量數據。
全球第二大記憶體晶片製造商SK海力士9月初表示,將於9月底開始量產12層HBM3E晶片,預計從2025年下半年開始出貨HBM4。
除了海力士尋求台積電合作之外,三星電子也決定和台積電合作開發無緩衝 HBM4記憶體。
高速互連(High-speed interconnect)在AI處理中同樣重要,因為大量的訓練工作負載被分配在許多處理器之間並平行運作。當今的異質架構連接了數千個處理單一問題的運算裝置。這些裝置之間需要快速通訊,以最大限度地縮短訓練AI模型的時間。
隨著資料速率的提高和通訊協定的發展以滿足高速通訊的需求,訊號完整性和可靠性面臨挑戰。為了滿足生成式AI的互連頻寬需求,PCI Express等主要互連標準都採用PAM4。PAM4(Four-level pulse amplitude modulation)是一種編碼方案,允許每個時脈週期傳輸四位元資訊,從而允許互連頻寬在這些互連所施加的物理限制內增加。
另外一個創新是確保生成式AI的安全的創新。強大的加密機制,例如AES(Advanced Encryption Standard)和安全金鑰管理實踐,是建構資料機密性的基礎。必須保護資料集免受旨在「毒害」訓練過程並損壞生成式AI模型的資料的影響。同樣,必須保護演算法、方法和模型免遭不必要的存取或盜竊。
總之,要維持生成式AI的快速崛起,就需要半導體技術的進步。如今半導體產業佔據了舞台的中心,將成為未來AI走到多遠的關鍵呢!(999字;圖1)
參考資料:
Semiconductor Innovations Fueling The Growth Of AI 2.0. Forbes, 2024/09/03
.
SK Hynix to start mass producing HBM3E 12-layer chips this month.
Reuters, 2024/09/04
.
TSMC and Samsung co-developing a bufferless HBM4 memory chip, its first partnership in AI.
Tweak Town, 2024/09/06
.
相關文章:
1.
從台積電投資布局看美、歐、日、台半導體推動情況
2.
TSIA調高我國半導體產值預測所隱含的意義
3.
RISC-V晶片正往伺服器和超級運算方向前進,中國和歐盟正投入更多心力於其中
4.
SK海力士預計下一代開發出比現今標準性能更快30%的HBM
5.
美國管制、關稅策略盡出 中國則加大扶植半導體
6.
半導體軟體化趨勢正在改變半導體產業格局
歡迎來粉絲團按讚!
--------------------------------------------------------------------------------------------------------------------------------------------
延伸閱讀
‧未來 AI 發展八大新趨勢
(
2017/10/06
)
‧三星電子3奈米GAA製程2021年量產
(
2019/05/16
)
‧台積電2020年第二季 每股賺台幣4.66元創新高!
(
2020/07/16
)
‧台積電5奈米廠動土、2020年量產
(
2018/01/31
)
‧從2021年起將全面採用GaN和SiC半導體、台積電代工扮要角
(
2021/01/07
)
‧Face ID將讓深度攝影系統成為2018年手機主流
(
2017/09/14
)
【聲明】
1.科技產業資訊室刊載此文不代表同意其說法或描述,僅為提供更多訊息,也不構成任何投資建議。
2.著作權所有,非經本網站書面授權同意不得將本文以任何形式修改、複製、儲存、傳播或轉載,本中心保留一切法律追訴權利。