在智慧型手機上運行生成式AI的趨勢將在2024年實踐

關鍵字：()；()；()；()；；；；

瀏覽次數：22334｜歡迎推文：

科技產業資訊室 - 茋郁發表於 2023年8月29日

圖、在智慧型手機上運行生成式AI的趨勢將在2024年實踐

借助生成式AI，智慧型手機可以成為人們真正的數位助理。用戶可以使用它自動閱讀或撰寫電子郵件、起草文檔和創建演講文稿。AI驅動的座艙將使駕駛員和乘客能夠更自然地互動和控制娛樂、導航和車輛功能，從而創造更加個性化和直觀的體驗。

不過，AI的討論主要集中在雲端上。ChatGPT使用大量的處理、儲存和記憶體。到目前為止，大部分重點都集中在訓練和完善新模型上，這些模型通常在雲端進行。

但從2024年開始，三星和OnePlus的全新手機可以運行由Meta對ChatGPT的解決方案提供支持的生成式AI應用程式，這是屬於On-Device AI。Meta已與智慧型手機晶片商高通和聯發科技建立了單獨的合作夥伴關係，以使其升級成為現實。

聯發科技於2023年8月23日透露，將發布一款利用Meta生成式AI系統Llama 2大語言模型（LLM），為其下一代旗艦晶片組天璣9300帶來裝置上的生成式AI功能。其實，高通公司也在2023年 7月宣布與Meta建立類似的合作夥伴關係。

目前，像ChatGPT這樣需要大量數據的生成式AI工具的運行成本極高，因為它們需要依賴於遠程雲端伺服器。一旦將生成式AI在手機上本地運行，這將有助於降低開發人員的經濟成本，進而可以為用戶帶來大量新的應用程式和服務。

Meta正試圖通過免費贈送代碼來鼓勵開發人員使用其AI大語言模型。一些專家警告說，這種自由放任的做法可能會導致不良行為者利用該技術達到邪惡目的。

對於普通公眾來說，最終結果可以提供量身客製化的個人助理，根據您的興趣、網路活動、健身數據、位置甚至您說話的方式提供建議和提示。這些所謂的AI代理將有各種不同的性格供你與之互動。而且，由於這些新服務將在您的手機上運行，因此理論上您的數據將比在雲端上的數據更加隱密和安全。最後，更廣泛的好處將是減少能源消耗。

眾所周知，維持聊天機器人運行的數據中心需要大量的水來冷卻。事實上，研究人員最近發現，訓練ChatGPT至少消耗了70萬公升水，而與機器人的平均對話相當於打翻了500毫升的瓶子。

從整體發展趨勢來看，Meta並不是唯一一家致力於將生成式AI引入智慧型手機的公司。谷歌最近宣布，它成功地在行動裝置上運行了其最新大型語言模型PaLM 2的輕量級版本，這也為將來On-Device AI帶來了契機。（847個字；圖1）

參考資料：
New smartphones to get generative AI capabilities next year. Yahoo Finance, 2023/08/24.
On-device AI critical to expanding generative AI. The Korea Times, 2023/08/22.

相關文章：
1. 跟著蘋果就對了，三星對準AR穿戴裝置商機，預計2024年6月上市，谷歌有另外打算
2. 數位相機並未被智慧手機逼到絕境，創新和軟體解救了其出貨量
3. 人們使用智慧電視不只有看電視，電視機生態下獲利模式必須改變
4. 更輕且更薄的折疊式手機將是下一個激發消費者購買的關鍵
5. 研究發現智慧手錶是解鎖帕金森氏症早期診斷的關鍵
6. 蘋果預計2025年至2026年推出配備折疊式OLED面板的MacBook

歡迎來粉絲團按讚！

--------------------------------------------------------------------------------------------------------------------------------------------