︿
Top

OpenAI、Google、微軟、Meta、亞馬遜等七家公司引領負責任的人工智慧產業倡議

瀏覽次數:4182| 歡迎推文: facebook twitter wechat Linked

科技產業資訊室 - 林昱均 發佈於 2023年9月8日
facebook twitter wechat twitter

圖、OpenAI、Google、微軟、Meta、亞馬遜等七家公司引領負責任的人工智慧產業倡議
 
2023年7月,美國總統拜登與七家人工智慧公司,包括OpenAI、Google、微軟、Meta、亞馬遜、Anthropic、Inflection的高層在白宮召開會議,共議人工智慧風險防範,會後拜登宣布七家公司自願簽署一份承諾,以安全、保障和信任為三大基本原則監督人工智慧的使用方式,並且是在美國白宮即將發布人工智慧的行政命令和兩黨立法之際作出承諾,以幫助美國在負責任的創新方面發揮帶頭作用。以下為七家公司做出的承諾:
 
在向大眾推出產品之前確保其安全
公司承諾在發佈人工智慧系統之前對其進行內部和外部安全測試,而這項測試將部分由獨立專家進行,旨在防範最重要的人工智慧風險來源,例如生物安全和網路安全及其更廣泛的社會影響。此外,公司致力於在整個產業以及與政府、民間和學術界分享有關管理人工智慧風險的資訊,包括最佳安全實踐、有關試圖規避保障措施的資訊以及技術合作。
 
建構將安全放在首位的系統
公司承諾投資網路安全和內部威脅防護措施,以保護專有和未發布的模型權重,而這些模型權重是人工智慧系統最重要的部分,因為公司一致認為僅在有意且考慮到安全風險時才發布模型權重是至關重要。此外,公司致力於促進第三方發現和報告其人工智慧系統中的漏洞,因為即使人工智慧系統發布後,部分問題可能仍然存在,而強大的報告機制可以快速發現問題並修復問題。
 
贏得大眾的信任
1.致力於開發強大的技術機制,以確保用戶知道內容何時由人工智慧生成,例如浮水印系統,而這一行動使人工智慧的創造力得以蓬勃發展,同時減少欺詐和欺騙的危險。
2.承諾公開報告其人工智慧系統的功能、局限性以及適當和不適當使用的領域, 該報告將涵蓋安全風險和社會風險,例如對公平和偏見的影響。
3.承諾優先研究人工智慧系統可能帶來的社會風險,包括避免有害的偏見和歧視以及保護隱私,而人工智慧的歷史記錄顯示該危險的普遍性,公司承諾推出人工智慧來減輕該危險。  
4.致力於開發和部署先進的人工智慧系統,以幫助解決社會面臨的最大挑戰,從癌症預防到緩解氣候變化等,如果管理得當人工智慧可以為所有人的繁榮、平等和安全做出巨大貢獻。
 
致力建立人工智慧管理的國際框架
當美國在國內推進這一議程時,也將與盟友和合作夥伴合作,建立一個強大的國際框架來管理人工智慧的開發和使用,包括澳洲、巴西、加拿大、法國、德國、印度、新加坡、韓國、英國等國。此外,美國力求支持日本在G7「廣島進程」(Hiroshima Process)(作為制定人工智慧治理共同原則的重要論壇)、英國在主辦人工智慧安全峰會、印度作為人工智慧全球夥伴關係(Global Partnership on AI)主席的領導力,美國也在聯合國各個論壇上與會員國討論人工智慧。(1105個字;圖1)


參考資料:
FACT SHEET: Biden-⁠Harris Administration Secures Voluntary Commitments from Leading Artificial Intelligence Companies to Manage the Risks Posed by AI. The White House, 2023/07/21.
OpenAI, Meta and other tech firms sign onto White House AI commitments. FEDSCOOP, 2023/07/21.


相關文章:
1. 
獲得谷歌和輝達投資的以色列AI新創公司AI21 Labs,成為新的獨角獸
2. 2023年柏林IFA消費性電子展的最新趨勢是家電AI化、永續化
3. 長期觀點:輝達最新財報讓生成式AI變得更火熱了,可是長期仍有泡沫危機
4. AI興起並非輝達獨享,遍地開花讓半導體產業帶來樂觀情緒
5. 沃爾瑪引入生成式AI,這一趨勢將成為未來企業勝負的關鍵
6. Gartner認為生成式AI正處於「過高期望的膨脹期」

 
歡迎來粉絲團按讚!
--------------------------------------------------------------------------------------------------------------------------------------------