︿
Top

ChatGPT公益私利之定位:科技教父的世紀官司 --Musk強勢回歸告Altman與OpenAI (系列二 變調的AGI -- 從開放到封閉 v. 從公益到營利)

瀏覽次數:2270| 歡迎推文: facebook twitter wechat Linked

科技產業資訊室(iKnow) - 陳家駿 發表於 2024年3月13日
facebook twitter wechat twitter

圖、ChatGPT公益私利之定位:科技教父的世紀官司 --Musk強勢回歸告Altman與OpenAI 系列二   變調的AGI -- 從開放到封閉  v.  從公益到營利

2024年閏二月的最後一天,電動車教父Elon Musk,向北加州舊金山地院,控告ChatGPT之父Samuel Altman(另外還有OpenAI共同創辦人Gregory Brockman、OpenAI及其8家關係企業)違法,對於這個教父級別的世紀法律大戰,本刊「系列一 AI開發科技巨頭間的恩怨情仇已介紹其原委,本篇接著探討該案之核心爭議。

AGI迭代發展沿革與OpenAI從開放到封閉之轉折
因為之前Google已率先創建一個名為轉換器 (Transformer) 的演算法,解決深度學習在理解長文本序列時所面臨的許多問題,該演算法是「大型語言模型」(Large Language Model) 的一個範例,能將文字從一種語言翻譯成另一種語言,其工作原理是在來源語言中形成單詞間的建立聯結,並將這些聯結映射到目標語言。
 
OpenAI的人員當然也跟進研究此項發明,透過使用Google Transformer架構的前半部分,很快得出一個令人驚嘆的結果:深度神經網路可以在大型文本語料庫上進行預訓練,並用於生成新文本。2018年1月OpenAI發布這個名為「生成式預訓練轉換器」(GPT: Generative Pre-Trained Transformer) 的原始碼和訓練模型,並附有一份描述該模型及功能的詳細論文。

2019年OpenAI推出第二代模型GPT-2,也附有一篇詳細的論文描述該模型,指出與以往需要針對特定任務進行訓練的模型不同,「當大型語言模型在足夠大且多樣化的數據集上進行訓練時,它能在許多領域和數據集上表現良好」。這些模型被證明與先前的AI系統有很大不同,其無需訓練系統執行特定任務,而是只需簡單地用自然語言來「要求」(即詢問)系統執行一項新任務。儘管GPT-2可針對不當使用進行微調(fine-tuned),而且供人檢測GPT生成文本具有挑戰性,但OpenAI仍願意公布GPT-2的開放版本,希望對未來強大模型的開發者有所幫助 [1]

2020年OpenAI宣布其模型的第三個版本:GPT-3,使用1750億個參數,是之前任何非稀疏語言模型(non-sparse language model)的10倍。同樣的,OpenAI也發表一篇詳細的論文,描述GPT-3內部結構和訓練數據。2022年Google的研究人員借鑒這些結果,展示一個名為「思維鏈提示」(chain-of-thought prompting)的小改變,可以使「大型語言模型執行複雜的推理」,顯示OpenAI的GPT-3,可以像人類一樣,以按部就班方式對全新問題進行推理。接著,GPT-3.5亦即ChatGPT於2022年11月30日發布。

2023年3月中,OpenAI再發布迄今為止,最強大新一代GPT-4的語言模型,具有優於一般人之推理能力。根據OpenAI自己的客觀衡量標準,GPT-4在各種任務上已具備超越人類的智慧,研究界很重視這一發展 [2]。將GPT-4與基於GPT-3系統的性能進行比較,發現「GPT-3的輸出不如GPT-4」。Musk指出,連微軟自家的研究人員也承認GPT-4「達到某種通用智慧的形式」,並且「考慮到GPT-4功能的廣泛和深度,它可以被合理地視為AGI系統的早期版本(雖仍然不完整)」。換言之,GPT-4已達到AGI的門檻。

由以上可知,OpenAI最初的研究是公開進行的,提供對設計、模型和程式碼的免費和公共造訪權限。OpenAI研究人員開發出的演算法,可以在沒有任何明確訓練的情況下,執行許多自然語言任務,這些發表的論文證明,對未來大模型的開發者極有助益,這使得整個社群如雨後春筍般湧現,以增強和擴展由OpenAI發布的模型,並逐漸蔓延擴展到開源、基層開發組織及商業實體,使社群能完整借鑒,自行創建類似的模型。但特別的是,這次OpenAI對於GPT-4不願再發表任何相關之論文。

OpenAI授權予微軟之範疇
Altman在2019年成為OpenAI的執行長,隨著已邁入營利行列,2020年9月下旬OpenAI與微軟簽署一份協議,專屬授權 (exclusively licensing) 給微軟使用其生成式預訓練轉換器(GPT-3)語言模型。然而重要的是,Musk認為,微軟取得的授權,僅適用於OpenAI若干關於「AGI之前」(pre-AGI) 的技術,而非「AGI」技術,因此微軟並未獲得任何AGI的權利。

Musk指控,為了與《創始協議》宗旨一致,OpenAI的網站中將AGI描述為,「在最具經濟價值的工作中,表現優於人類的一個高度自治系統」,「被排除在與微軟的IP授權和其他商業條款之外,這些微軟的授權僅適用於pre-AGI技術」。至於OpenAI何時能達到實現AGI之里程碑 (when attained AGI),則將取決於OpenAI董事會,而不是微軟。

Open Source變調成Close Source
Musk指控,在GPT-4達到AGI的門檻後,延續《創始協議》宗旨,OpenAI開發目的本應是為了造福全人類,而不是為了任何以營利為目的之公司或個人賺取利益,但透過對微軟之專屬授權,Altman此時已徹底地背離《創始協議》使命,違反其對公眾提供技術和知識的初衷與向來做法,使GPT-4變成是一個完全封閉的模型,對GPT-4的內部設計完全保密,沒有任何程式碼被公開,也沒有發表任何科學論文描述其內部設計,有的僅是發布吹噓宣傳性能的新聞稿,GPT-4的內部細節除了OpenAI和微軟沒有其他人知道,而這種保密主要是出於商業而非安全考量。

尤其是,OpenAI的整個技術發展現在都處於保密狀態,公眾只能透過傳言和零星的通信片段,來了解接下來會發布什麼內容。雖然,GPT-4原來宗旨是想造福公眾,但GPT-4現在實際上已成為微軟的專有演算法,被其整合到商用的Office軟體套件中。因此,GPT-4已變成「開放AI」的反面詞,而且是出於商業上的原因而封閉:如果OpenAI按協議要求將技術免費提供公眾,微軟是不可能透過出售GPT-4而大蒙其利。

OpenAI爆發經營高層政變
ChatGPT當紅以來,一般人看到的是,Open AI和微軟大蒙其利價值翻倍,使得Altman風生水起成為全球AI新科技的領頭羊,而讓人詫異的是,正當他飛黃騰達不可一世的高光時刻,2023年11月17日,OpenAI董事會竟然決議將Altman解聘,然後在部落格中宣布此一政變消息,並謂該去職是董事會經「深思熟慮」之審查程序後得出的結論,這讓所有的人跌破眼鏡!其理由是,Altman在與董事會的溝通中未能一貫地坦誠(not consistently candid),妨礙董事會履行職責的能力,因而董事會不再相信他有繼續領導OpenAI的能力,故被解雇。

據路透社報導稱,OpenAI目前正開發一種名為Q*模型(Q star) 的秘密演算法,雖然尚不清楚具體內容,但將更貼近對AGI的訴求。OpenAI員工已警告Q*的潛在威力,似乎Q*可能成為OpenAI開發更引人注目的AGI範例。因此Musk認為,Altman被解雇的部分原因,係由於OpenAI在實現AGI方面已取得突破,導致OpenAI董事會成員和高階主管之間,對安全問題以及OpenAI下一代Q*構成之潛在威脅,存有很大的分歧,再者,AGI必須係為廣大公眾的利益而提供,亦已超出OpenAI與微軟的授權範圍,這些分歧點才是政變主因。

當微軟執行長Satya Nadella得知Altman被解雇時很生氣,作為OpenAI的營利部門持股49%的股東,他認為解雇前應諮詢微軟的意見。Nadella遂邀請Altman和Brockman,來領導一個新的微軟AI研究實驗室,不受OpenAI人道主義使命的限制,但另一方面,微軟也使出渾身解數重新安排Altman回任。接下來幾天,發生一連串戲劇般的事件,Altman和Brockman與微軟合作,利用微軟對OpenAI的巨大影響力,使大多數OpenAI的董事會成員辭職,三天後Altman在2023年11月21日恢復擔任OpenAI的執行長。

Altman罷黜事件中微軟之角色
在罷黜過程中,微軟相信透過其在OpenAI營利部門掌握的所有權,如果該公司停業,它完全可隔離OpenAI的研究。Altman被解雇後不久的一次訪談中,Nadella表示:「我們對自己的能力極有信心,我們擁有所有的智財權和一切必要的能力。如果OpenAI明天消失,我們的客戶不需為此擔心,因為我們擁有繼續創新的所有權利。不僅可提供產品,還可以與合夥同伴繼續合作一直在做的事情。我們擁有人才、運算資源、數據,我們擁有一切。」

但Musk指控,其實微軟對OpenAI及其董事會擁有相當大的強制影響力,在Altman被解雇期間,執行長Nadella對微軟與OpenAI的關係發示:「我們介入其中。我們在他們的下面、上面、周圍。我們進行核心優化,建構工具、基礎設施。這就是為何很多行業分析師都說,這真的是微軟和OpenAI間的聯合項目。」不僅如此,在解雇期間,微軟僅支付其對OpenAI承諾之100億美元投資中的一小部分,但這卻使得微軟對這家「獨立」非營利性之董事會,顯見其擁有重大的影響力。另外,如果微軟如禁止OpenAI使用其所依賴的微軟雲端運算系統,公司將無法運作。基於來自微軟對董事會的施壓,Altman旋即恢復OpenAI的執行長、Brockman重新擔任總裁。

Altman被罷黜前舊的董事會
在OpenAI原來的董事會中,包含多位具有深厚AI政策經驗的學者和公共政策專家,其中大多數成員在公司中沒有利害關係。這種選擇是經過深思熟慮的,因為具有豐富的公共服務經歷,且不牽涉財務利益的董事成員,可確保董事會將非營利機構的主要受益者 -- 人類 -- 置於經濟利益之前。而制定這種保障措施,是為了進一步推動OpenAI的非營利使命,和基於《創始協議》在董事會中設立:安全創造有益於人類福祉的AGI,而不是為了營利性公司的金錢利益。

在Altman被解雇後的幾天裡,OpenAI的董事會面臨來自律師和包括微軟在內主要股東的施壓,要求重新任命Altman。在恢復Altman的職位的運作中,OpenAI的律師曾告訴其中的董事,如果OpenAI因Altman被解僱而失敗,董事可能會面臨違反對投資者受託責任 (fiduciary duties) 的指控,但實際上OpenAI的董事會,從未對投資者負有受託責任 [3],因此律師的說法只是一種恐嚇,而維持Altman的解雇,實際上將有助於推動公司促進人類安全而非追求利益的使命,然而,所有這一切都無法阻擋微軟推動Altman之復職。

Altman搬師回朝後新的董事會
Altman重返職位後,經過大地震的洗禮,當然要鞏固政權避免再中劍落馬,因此大幅換血親自挑選新的董事會,並獲得微軟首肯;但該新的董事會的成員組成,是擁有以利潤為中心的企業或政治領域上的經驗,而不是在AI倫理和治理方面見長。

在設計上新成員缺乏類似的技術專業、或具備AI治理方面的實質背景,因此Musk指控,不如前任董事會。隨著Altman的復職和重組,OpenAI的公司結構,原本被設計為非營利部門、營利部門、董事會和執行長之間所建立的一個制衡體系,以確保其非營利性質之使命得以落實,已在一夕之間崩塌。OpenAI曾經精心打造的非營利結構,被一位純粹以利益為導向的執行長,和一個在AGI和AI公共政策方面技術專業能力較低的董事會所取代。

Musk還指控,新的成員因缺乏實質的AI專業知識,當然没有能力獨立決定OpenAI何時達到AGI,也無法判斷OpenAI開發的演算法,是否超出微軟取得的授權範圍。甚者,董事會竟然還專門為微軟保留一個觀察員席位,以便就近監管這隻表面上是非營利性質的賺錢金雞母。公司原本的設計是,為全人類廣泛福祉開發AGI之非營利使命,從而使其不致落入權力過度集中的大型營利公司手中,然而很明顯的,經過這次改組,現OpenAI已放棄此種使命。

OpenAI董事會就AGI技術居關鍵地位
由於OpenAI前任董事會之大多數成員,已被迫在2023年11月22日辭職,其繼任者是由Altman和微軟親自挑選的。但OpenAI董事會在AI技術專長、中立性和對OpenAI非營利性使命的承諾,對公司至關重要,尤其是對於與微軟的授權協議,OpenAI是否已達到AGI將由董事會決定。這意味著,董事會被賦予的任務是,決定OpenAI最強大和先進的技術,是否被排除在微軟的專屬授權範圍之外。

Musk認為,考慮到不對公眾開放讓微軟擁有巨大的經濟利益,這次OpenAI新成立、存在利益衝突且順從的董事會,在充滿國王人馬的情況下,投票表決部隊將有充分的理由,延遲認定OpenAI已實現AGI的結論(因一旦認定實現AGI,就非屬於可授權予微軟之標的)。導致OpenAI實現AGI的時刻,將永遠是「明天」之後遙不可及的未來式,以致微軟將不斷被授權使用OpenAI的最新技術,而使公眾被排除在外,而這當然與《創始協議》精神相悖。

Musk指控被告違反《創始協議》
Musk指控,2023年的事件已公然違反《創始協議》,被告基本上已將該協議推翻。諷刺的是直到今天,OpenAI的網站仍然宣稱,其章程是確保AGI「造福全人類」。然而實際上完全與開源背道而馳,OpenAI早已變成全球最大科技公司微軟的「閉源之事實上的附隨組織」(closed-source de facto subsidiary)。

在新的董事會領導下,它不是只在開發AGI,實際上更是在完善AGI以實現微軟之貨幣化,其已將GPT-4變成閉源 (closed-source) 的技術,主要僅是專為了服務微軟的專有商業利益 [4],不圖GPT-4用於人類福祉,反而將其專有技術當作為世界上最大的公司實現利益最大化,被告自已違反《創始協議》。

對於當初所謂的「謹慎審查過程」到底揭示了什麼,才導致Altman被解雇,公眾仍然一無所知。然而,對Musk和大眾來說有一點是明確的:OpenAI為了追求利益,已放棄「不可撤銷的」非營利性使命,許多意見領袖和知識分子評論,OpenAI已成為「封閉式的營利性AI」[5]。因此Musk認為,提起本案是為了迫使OpenAI遵守《創始協議》,回歸其為造福人類而開發AGI的使命,而不能為被告個人和世界上最大的科技公司牟私人利益。

Altman強勢回歸後的OpenAI
一家非營利性消費者權益倡議組織Public Citizen的總裁,2024年稍早寫了一封公開信給加州總司法檢察長,就OpenAI的營利子公司,是否對非營利組織的OpenAI施加不當管控,或者原來非營利目的組織,是否在Altman和微軟的領導下轉向營利,表達了擔憂。該函建議,如果非營利性組織放棄其原始的使命,則應將其解散,並將所得款項捐給另一慈善事業。

《WIRED》雜誌於2024年1月進行一項調查發現,OpenAI最近關閉公眾對先前可自由查閱「關鍵文件」的造訪權。根據OpenAI最初對透明度的承諾,OpenAI自成立以來就表明對國稅局 (IRS) 文件,任何公眾都可以查看其治理文件、財務報表和利益衝突規則的副本。但董事會改組後,當《WIRED》要求提供這些文件時,OpenAI卻表示已更改政策。因此,儘管OpenAI長期以來一直強調其透明度的承諾,但公眾已無法獲得有關2023年11月事件的資訊。

獲得查閱OpenAI文件的權限,可讓大眾了解該公司是否為迎合微軟和其他股東,改變原先規劃的治理結構。目前至少看出,已做出為迎合微軟在董事會的席次改變 [6]。此外,查閱OpenAI是否遵循利益衝突政策非常重要,可以揭示董事會是否有能力控制Altman利用OpenAI來謀求經濟利益,而迄今為止,這些利益衝突似乎一直未受到檢驗。OpenAI雖然曾經自許是以安全、負責理念,開發基於與大眾開放交流之AGI的先驅,但曾幾何時現在卻關閉大門,並將營利性子公司的最大投資者帶入董事會,然而原先董事會只對人類負有唯一受託責任,如任令其繼續秘密朝利益中心的邁進,將可能對人類產生災難性的影響。

Musk與Altman和Brockman共同創立並資助OpenAI,靠著《創始協議》以確保AGI將造福全人類,而不是使其成為營利性公司。但隨著2023年事件的發展,Musk對OpenAI的貢獻已被扭曲為,讓Altman和世界上最大的營利公司謀利,這是對《創始協議》的嚴重背叛,並扭曲原來OpenAI的神聖使命 [7]。(6046字;圖1)

作者資訊:
陳家駿律師  台灣資訊智慧財產權協會理事長  

註解:

[1]  這次發布同時還附有一份,由OpenAI科學家以及獨立的社會和技術科學家合著的詳細論文,解釋相對於維持模型的封閉保密,公開發布模型所帶來的一些好處。
[2] 在一篇名為「人工通用智能的火花:GPT-4的早期實驗」的研究分析中,微軟的研究人員指出,「GPT-4可以解決橫跨數學、編碼、視覺、醫學、法律、心理學等多個領域創新且困難的任務,而無需任何特殊的提示。而且,在所有這些任務中,GPT-4 的表現都非常驚人地接近人類水平,並且遠遠超過先前的模型,例如以GPT-3.5基礎之ChatGPT。」
[3] 事實上,營利部門的所有投資者先前都被告知,公司對其公共利益使命的責任,優先於對投資者獲利的責任,而且OpenAI的網站也清楚表明,公司只對「人類」負有受託責任。
[4] 事實上,當2023年11月上演的戲劇性事件時,微軟的首席執行官吹噓說,即使OpenAI明天消失也沒關係….,我們擁有所有的智財權和所有的能力。…. 我們擁有人才,擁有運算,擁有數據,擁有一切…. 我們在它們之下,在它們之上,在它們周圍。
[5] 2023年11月29日,MIT的經濟學家在《洛杉磯時報》上發表評論,其對OpenAI以利益為導向的新方針表示擔憂。他們說,「破壞和不受控制的成長,已經變成科技行業的信仰,而Altman一直是其最忠誠的大祭司之一」。
[6] 據報導,現在Altman正與中東投資者洽談,擬籌集高達7兆美元的資金,開發AI晶片製造工廠建構之全球網絡。如果微軟提供的100億美元,足以讓它在董事會中佔有一席之地,那麼不難想像,這些新的潛在投資將帶來多大的影響。特別是當一個潛在投資者是阿拉伯聯合大公國的國家安全顧問,而由於阿拉伯與中國的關係,美國官員將感到擔憂。此外,Altman還討論了將該大公國,打造成測試AI技術的「監理沙盒」(regulatory sandbox)的可能性。
[7] 試想,向一個聲稱以保護亞馬遜雨林為使命的非營利組織捐款,但隨後該組織卻成立一家營利性的伐木公司,反過來利用該捐款來清理亞馬遜雨林,OpenAI就是這樣的操作。


參考資料:
Elon Musk v. Altman, OpenAI, et al, CGC-24-612746
OpenAI says Musk only ever contributed $45M, wanted to merge with Tesla or take control. Tech Crunch, 2024/03/06.
Musk's OpenAI lawsuit is 'good advertisement for the benefit of Elon Musk' but may have little legal merit. CNBC, 2024/03/05.
Elon Musk's legal case against OpenAI is hilariously bad. The Verge, 2024/03/02.
Musk v. Altman: Tech Giants Clash in AI Legal Showdown. Trellis.Law Blog, 2024/03/04.
Breach of Fiduciary Duty. Romano Law
Stephen Hawking warns artificial intelligence could end mankind. BBC, 2014/12/02.
U.S. Supreme Court Rules On Fiduciary Responsibilities. PENCHECKS, 2022/03/07.
馬斯克起訴OpenAI:只為了錢而非人類大業。中美法律評論(BENDI NEWS),2024/03/05


相關文章:
1. Chat GPT公益私利之定位:科技教父的世紀官司 --Musk強勢回歸告Altman與OpenAI (系列一 AI開發科技巨頭間的恩怨情仇)
2. AI與畫家智財訴訟案例系列3:美國畫家告Midjourney生成式AI工具著作侵權案 --原告首戰程序判決吞敗
3. Cooler Master控告銀欣科技、保銳科技及深圳昂湃侵害CPU水冷散熱器相關專利
4. AI與畫家智財訴訟案例系列2:畫家控訴DeviantArt生成式AI著作侵權首輪程序判決被告占上風
5. AI與畫家智財訴訟案例系列1:美國畫家控告Stability生成式AI工具著作侵權之程序判決出爐
6. 蘋果手錶禁售的案例,讓Oura更關注三星智慧戒指是否侵權

 
歡迎來粉絲團按讚!
--------------------------------------------------------------------------------------------------------------------------------------------
【聲明】
1.科技產業資訊室刊載此文不代表同意其說法或描述,僅為提供更多訊息,也不構成任何投資建議。
2.著作權所有,非經本網站書面授權同意不得將本文以任何形式修改、複製、儲存、傳播或轉載,本中心保留一切法律追訴權利。