︿
Top

IBM開發出一款類比AI晶片雛型,在性能上匹敵GPU,在功耗上更勝GPU

瀏覽次數:17647| 歡迎推文: facebook twitter wechat Linked

科技產業資訊室 - 茋郁 發表於 2023年8月21日
facebook twitter wechat twitter

圖、IBM開發出一款類比AI晶片雛型,在性能上匹敵GPU,在功耗上更勝GPU
 
IBM一直處於量子運算和許多其他研究領域的前沿,最近其展示了它認為的新AI處理解決方案。IBM的願景並不是以GPU為中心,相反的,其認為混合訊號類比晶片中,可以大幅提高能源效率,同時提供與市場當前主流產品GPU相同競爭力的性能。

如今IBM開發了一款類比AI晶片雛型。經過測試,該晶片與GPU等數位晶片一樣擅長電腦視覺AI任務。就這一點來說,它的能源效率比GPU要高得多。在過程中,它將多個數位處理單元和數位通訊結構與類比記憶體內運算結合。

換句話說,這是一種將部分混合訊號和類比晶片結合在一起的晶片。此外,該晶片結合了相變記憶體(PCM)和數位電路,其聲稱在人工智慧推理方面將與GPU性能相匹配,但效率高上得多。
AI推理現有的主要瓶頸之一涉及在記憶體和處理晶片之間分流數據,這會減慢處理速度並消耗電力。至於IBM的類比AI晶片採用了不同的方式,使用PCM單元將推理權重儲存為類比值並執行運算。

簡單來說,IBM的類比AI晶片本質上是在同一位置運算和儲存記憶體,因此可以糾正數據傳輸中引起的畸變,同時也使系統變得更加節能。它幾乎像人腦的運作方式一樣,神經網路就是在技術處理上和儲存發生在同一個位置的方式。

不過,目前這款類比AI晶片還只是紐約IBM的Albany奈米技術中心之研究雛型機,且處於實驗階段。因此,仍還需要一段時間才能看到這類產品商業化。所以現階段,GPU在AI推理的使用上仍是獨一無二的存在,可是其高功耗的型態必須慢慢的解決。

現今GPU在AI推理上的功耗是非AI處理器的10倍。一旦全球愈來愈多廠商佈建更多的AI伺服器,那麼以現今的發電系統,將面臨負荷過重的情況。畢竟,電動車愈來愈普及的情況下,也需要全球各國重新思考如何佈建更有效率地發電系統。

如果IBM這種記憶體內運算之類比AI晶片在AI推理領域起飛,那麼微軟、谷歌等公司將減少從輝達公司購買的GPU數量,同時限制AI處理中對GPU的猛增需求,這對於市場遊戲規則的改變,又將帶來很大衝擊。不過,IBM並沒有跟市場明說,這款晶片何時能夠進行量產,所以短中期來說,AI市場仍舊需要依賴GPU。從這可以看出,當許多廠商跟隨輝達追求GPU市場大餅的同時,IBM以反向操作模式,給產業界一個新的研發方向。(865個字;圖1)


參考資料:
IBM Touts Analog-Digital Hybrid Chip for AI Inferencing. Tom’s Hardware, 2023/08/16.
IBM is developing an analogue AI chip that might just save our GPUs for gaming. PC Gamer, 2023/08/16.


相關文章:
1. 英飛凌、意法半導體和Wolfspeed正在爭奪全球最大SiC晶圓廠王座之位
2. 中國半導體需承受景氣亂流 國際競爭強度上升風險
3. 國內經濟尚為外冷內溫格局 半導體景氣仍動見觀瞻
4. AI和HPC崛起,先進封裝中的CoWoS將扮演關鍵性角色
5. 印度企圖心非常強,目標是成為半導體製造中心,但仍有很多挑戰需克服
6. 為將藉助中芯國際7奈米製程於2023年底之前,生產出5G行動晶片,這給美國帶來了警訊

 
歡迎來粉絲團按讚!
--------------------------------------------------------------------------------------------------------------------------------------------
【聲明】
1.科技產業資訊室刊載此文不代表同意其說法或描述,僅為提供更多訊息,也不構成任何投資建議。
2.著作權所有,非經本網站書面授權同意不得將本文以任何形式修改、複製、儲存、傳播或轉載,本中心保留一切法律追訴權利。