產業正在尋找另一種突破生成式AI要太多運算的解決方案

關鍵字：()；()；()；()；()；()；()；

瀏覽次數：24127｜歡迎推文：

科技產業資訊室 - 茋郁發表於 2023年10月2日

圖、產業正在尋找另一種突破生成式AI要太多運算的解決方案

2018年，OpenAI發布的一項分析顯示，自2012年以來，最大規模的AI訓練運行中使用的運算能力呈指數級成長，每3.4個月翻一倍。根據換算，自2012年以來，這一指標已經成長了30萬倍以上（如果以摩爾定律，半導體性能每兩年翻一倍之下，只能產生7倍的成長）。

可是這種發展趨勢不可能無限制發展下去。許多專家不認為建立更大的大型語言模型會推動生成式AI領域向前發展。即使在現階段，訓練這些模型的運算成本仍然非常昂貴，不僅要花錢，而且還會對氣候造成更大的碳足跡。IEEE認為，AI研究界還需要一到兩年的時間才能找到新可行的解決方案。

新創公司也正在尋求取代輝達GPU的方式。例如：Graphcore、Kneron和iDEAL Semiconductor等美國AI晶片新創公司將自己視為輝達等產業巨頭的替代品。 Graphcore正在提出一種名為智慧處理單元（IPU）的新型處理器，該公司表示，該處理器是從頭開始設計的，旨在滿足AI運算需求。Kneron的晶片專為邊緣AI應用而設計，例如電動車或智慧建築。

至於iDEAL Semiconductor，則於2023年5月推出了一種名為「SuperQ」的新型矽基架構，聲稱該架構可以在二極體、MOSFET和積體電路等半導體裝置中產生更高的效率和更高的電壓性能。

此外，許多公司也在投資可以在本地運行小型AI模型的產品，稱為邊緣AI。根據研究，邊緣AI可協助放射科醫師識別病理、透過物聯網設備控制辦公大樓、並用於控制自動駕駛汽車。2021年邊緣AI市場估值為120億美元，預計2029年將達到1,074.7億美元。

Gartner表示，GPU晶片的擴展遲早將無法跟上AI模型大小的成長。因此，繼續讓模型變得越來越大並不是一個可行的選擇。iDEAL Semiconductor表示，現今全球需要開發更有效率的大型語言模型和AI解決方案，但即使如此，額外GPU的生產仍是這個等式中不可避免的一部分。

畢竟，在尚未找出新解決方案之前，台積電和輝達就扮演的供應足夠GPU的關鍵角色，台積電承認預計要到2024年才能獲得紓解。

總之，一般相信生成式AI對於運算的需求只會不斷擴大，除了GPU之外，未來兩年內只要能夠找到一種新的解決方案，生成式AI才能持續發展下去，也才能進一步帶來更多產業的成長動力。（799 個字；圖1）

參考資料：
Chip industry strains to meet AI-fueled demands — will smaller LLMs help? Computerworld, 2023/09/28.

相關文章；
1. 華為麒麟9000S晶片是否為中國反攻的灘頭堡?
2. 歐盟晶片法案生效，半導體產業會走向大家有飯吃，還是大家都只吃一點飯呢？
3. 英特爾獨特的封裝技術引領其採用玻璃基板，應對AI時代的工作負載
4. GaN 是否具有可靠性？
5. 支持RISC-V和蘋果供應商的Imagination，想複製Arm成功上市的模式
6. AMD推出工業及商業應用導向的Kria K24 SOM及入門套件加速邊緣創新

歡迎來粉絲團按讚！

--------------------------------------------------------------------------------------------------------------------------------------------