︿
Top

產業正在尋找另一種突破生成式AI要太多運算的解決方案

瀏覽次數:24981| 歡迎推文: facebook twitter wechat Linked

科技產業資訊室 - 茋郁 發表於 2023年10月2日
facebook twitter wechat twitter

圖、產業正在尋找另一種突破生成式AI要太多運算的解決方案
 
2018年,OpenAI發布的一項分析顯示,自2012年以來,最大規模的AI訓練運行中使用的運算能力呈指數級成長,每3.4個月翻一倍。根據換算,自2012年以來,這一指標已經成長了30萬倍以上(如果以摩爾定律,半導體性能每兩年翻一倍之下,只能產生7倍的成長)。

可是這種發展趨勢不可能無限制發展下去。許多專家不認為建立更大的大型語言模型會推動生成式AI領域向前發展。即使在現階段,訓練這些模型的運算成本仍然非常昂貴,不僅要花錢,而且還會對氣候造成更大的碳足跡。IEEE認為,AI研究界還需要一到兩年的時間才能找到新可行的解決方案。

新創公司也正在尋求取代輝達GPU的方式。例如:Graphcore、Kneron和iDEAL Semiconductor等美國AI晶片新創公司將自己視為輝達等產業巨頭的替代品。 Graphcore正在提出一種名為智慧處理單元(IPU)的新型處理器,該公司表示,該處理器是從頭開始設計的,旨在滿足AI運算需求。Kneron的晶片專為邊緣AI應用而設計,例如電動車或智慧建築。

至於iDEAL Semiconductor,則於2023年5月推出了一種名為「SuperQ」的新型矽基架構,聲稱該架構可以在二極體、MOSFET和積體電路等半導體裝置中產生更高的效率和更高的電壓性能。

此外,許多公司也在投資可以在本地運行小型AI模型的產品,稱為邊緣AI。根據研究,邊緣AI可協助放射科醫師識別病理、透過物聯網設備控制辦公大樓、並用於控制自動駕駛汽車。2021年邊緣AI市場估值為120億美元,預計2029年將達到1,074.7億美元。

Gartner表示,GPU晶片的擴展遲早將無法跟上AI模型大小的成長。因此,繼續讓模型變得越來越大並不是一個可行的選擇。iDEAL Semiconductor表示,現今全球需要開發更有效率的大型語言模型和AI解決方案,但即使如此,額外GPU的生產仍是這個等式中不可避免的一部分。

畢竟,在尚未找出新解決方案之前,台積電和輝達就扮演的供應足夠GPU的關鍵角色,台積電承認預計要到2024年才能獲得紓解。

總之,一般相信生成式AI對於運算的需求只會不斷擴大,除了GPU之外,未來兩年內只要能夠找到一種新的解決方案,生成式AI才能持續發展下去,也才能進一步帶來更多產業的成長動力。(799 個字;圖1)


參考資料:
Chip industry strains to meet AI-fueled demands — will smaller LLMs help? Computerworld, 2023/09/28.


相關文章;
1. 
華為麒麟9000S晶片是否為中國反攻的灘頭堡?
2. 歐盟晶片法案生效,半導體產業會走向大家有飯吃,還是大家都只吃一點飯呢?
3. 英特爾獨特的封裝技術引領其採用玻璃基板,應對AI時代的工作負載
4. GaN 是否具有可靠性?
5. 支持RISC-V和蘋果供應商的Imagination,想複製Arm成功上市的模式
6. AMD推出工業及商業應用導向的Kria K24 SOM及入門套件加速邊緣創新

 
歡迎來粉絲團按讚!
--------------------------------------------------------------------------------------------------------------------------------------------
【聲明】
1.科技產業資訊室刊載此文不代表同意其說法或描述,僅為提供更多訊息,也不構成任何投資建議。
2.著作權所有,非經本網站書面授權同意不得將本文以任何形式修改、複製、儲存、傳播或轉載,本中心保留一切法律追訴權利。