︿
Top

Sam Altman被解雇之謎,可能與OpenAI的Q-Star模型有關,通用人工智慧的突破帶來未來不可預測性

瀏覽次數:5502| 歡迎推文: facebook twitter wechat Linked

科技產業資訊室 - 茋郁 發表於 2023年11月27日
facebook twitter wechat twitter

圖、Sam Altman被解雇之謎,可能與OpenAI的Q-Star模型有關,通用人工智慧的突破帶來未來不可預測性
 
隨著OpenAI的混亂塵埃落定,人們很想知道Sam Altman為何被解僱。如今有消息指出,這可能與一個神秘的AI模式有關。

由OpenAI首席科學家Ilya Sutskever領導的團隊似乎在2023年某個時間點取得了突破,讓其建構一個名為Q*(發音為「Q-star」)的新模型。這一模型可以解決基本的數學問題。也就是Q-star模型引發了內部風暴,人們擔憂這項新突破可能威脅人類未來。

解決基本數學問題的能力聽起來可能不那麼令人印象深刻,但AI專家表示這是一個非常巨大飛躍。如果AI能夠對抽象概念進行邏輯推理,那麼其就可想人類一樣具有解決目前難題的能力,這與現在的生成式AI是完全不同的概念。

簡單來說,人們學習數學就是訓練邏輯推理能力。傳統上,AI語言模型在這方面很難達到邏輯推理的境界,只能擁有有效的直覺。

有專家表示,Q*的名字暗示它是兩種著名的AI技術的組合,即是Q-learning和A*搜尋。這表明新模型可以將支援ChatGPT的深度學習技術與人類程式設計的規則。這種方法可以幫助解決聊天機器人的幻覺問題。這具有非常重要的象徵意義。

Q*將導致通用人工智慧(AGI)的進步,且絕對離我們所認為的智慧更近了一步,並且有可能導致模型能夠產生新的想法,這是ChatGPT做不到的。

現今的AI模型存在巨大限制,其不僅僅無法從訓練數據中反省訊息,也無法推理和開發新想法。以人為本的AI研究所所長Andrew Rogoyski表示,解決看不見的問題是創建AGI的關鍵一步。

就數學而言,我們知道現有的AI已被證明能夠進行大學水準的數學運算,但無法處理更高階的數學問題。然而,如果AI不僅僅會反省或重塑現有知識,而能夠進步到解決新的、看不見的問題,那麼這將是一件大事。

可是並非所有人都對Q-Star的突破如此興奮。有些AI專家表示,如果Q-Star今天只是一位小學生,可是其擁有的能力可以讓其未來接管全世界。

總之,不管如何,隨著Sam Altman回歸OpenAI的執行長,人類已經打開了潘朵拉盒子。在利益的驅使下,其發展的速度不單單依賴OpenAI的研發能量,還有其背後投資者的野心,就像人類當年在研發原子彈軍備競賽一樣,追求更棒的AGI能力。

我們現在只能祈求OpenAI及其投資人能夠在底層邏輯上控制好Q-Star的AGI,以及未來政府可能的干涉了。(832 字;圖1)


參考資料:
Everyone's talking about OpenAI's Q*. Here's what you need to know about the mysterious project. Business Insider, 2023/11/24.
Exclusive-OpenAI researchers warned board of AI breakthrough ahead of CEO ouster, sources say. Reuters, 2023/11/22.


相關文章:
1. 
Open AI的混亂現象暗示著未來AI將形成兩股勢力的拔河
2. 馬斯克的AI系統Grok最大優勢在於其可在X社群測試,透過特斯拉發揚光大
3. Humane的Ai Pin的出現,預告著AI裝置時代將進入蓬勃發展期
4. Google在全球擴展AI搜尋,以迎戰Bing Chat
5. 全球首次AI峰會的Bletchley宣言出爐,離全球協議還有很長的路要走
6. IBM的新生成式AI工具將成為銀行和金融轉換COBOL的解藥

 
歡迎來粉絲團按讚!
--------------------------------------------------------------------------------------------------------------------------------------------
【聲明】
1.科技產業資訊室刊載此文不代表同意其說法或描述,僅為提供更多訊息,也不構成任何投資建議。
2.著作權所有,非經本網站書面授權同意不得將本文以任何形式修改、複製、儲存、傳播或轉載,本中心保留一切法律追訴權利。