︿
Top

OpenAI與Common Sense Media合作 打造AI安全使用生態

瀏覽次數:5187| 歡迎推文: facebook twitter wechat Linked

科技產業資訊室 (iKnow) - 黃松勳 發表於 2024年1月31日
facebook twitter wechat twitter

圖、OpenAI與Common Sense Media合作 打造AI安全使用生態

OpenAI近日宣告與專注於科技和媒體對兒童影響之非營利組織Common Sense Media合作,致力於AI指南和家長、教師與青少年的教育資訊合作。

Common Sense Media專門對適合兒童使用的媒體和科技進行評論和評價,它為眾多家長判定孩子是否應該使用某種產品或服務提供了指導。透過與OpenAI合作,其評估和評價系統將被應用在OpenAI的GPTs(由OpenAI GenAI模型驅動的聊天機器人)創作出適合家庭使用的版本。

OpenAI的執行長奧特曼(Sam Altman)表示:「AI為家庭及青少年帶來了巨大助益,他們與Common Sense的夥伴關係進一步強化了我們的安全工作。確保家庭和青少年可以放心地使用我們的工具。」

這次合作的啟動出現在OpenAI宣布參與Common Sense在去年九月新推出的評分、審查框架之後。該框架的目的是為使用AI的應用評估其安全性、透明度、道德使用,以及可能對社會帶來的影響。

Common Sense的共同創辦人兼執行長 James Steyer表示:「該框架希望製作出一個AI應用程式的「營養標籤」,來協助了解這些應用在何種背景下被使用,而且可以凸顯出其可能的機會和有害的地方。

現今父母對於這些GenAI工具的認識普遍較低,比如OpenAI的熱門AI聊天機器人ChatGPT。根據Common Sense Media去年底委託進行的一項影響力研究調查, 12-18歲的學生58%使用過ChatGPT,而其父母只有30%使用過。

因此,這次OpenAI和Common Sense Media的通力合作,希望確保AI對所有青少年及家庭都能產生積極的影響,並教導家長和學生如何安全、負責任地使用AI工具。

同時,OpenAI也面臨來自監管機構的壓力,要證明其GenAI應用,包括ChatGPT,對社會帶來的影響是正面的而非負面的。去年夏天,美國聯邦貿易委員會(FTC)就OpenAI是否透過收集數據和發布假資訊對消費者造成損害,展開了調查。

OpenAI的工具和所有的GenAI工具一樣,有時自信地創造出事物並陷入基本的錯誤事實(一本正經地胡說八道),且也帶有偏差,這正反映了訓練它們數據本身的問題。

即便如此,孩子和青少年們卻越來越依賴這些工具,不只有用於解決學業方面的問題,也包含個人問題。根據民主及科技中心的一項調查,29%的孩子表示他們已經使用ChatGPT來應對焦慮或心理健康問題,22%用來解決與朋友之間的問題,16%則是解決家庭衝突。

OpenAI和Common Sense的合作是一個備受期待且必要的舉措,透過評估框架來理解AI產品的家庭友善程度,讓AI在透明度、道德及影響的規範下,對社會產生正面影響。同時,也有助於增進大眾對AI商品的理解與安全使用,透過此類型的努力,也將有機會見到負責任的AI技術能更公平與公正的落實在科技應用上,為各年齡層與階層民眾創造正面有益的成果。(962字;圖1)


參考資料:
OpenAI partners with Common Sense Media to collaborate on AI guidelines. Tech Crunch, 2024/01/30.
Common Sense Media and OpenAI Partner to Help Teens and Families Safely Harness the Potential of Artificial Intelligence. Common Sense, 2024/01/29.
OpenAI and Common Sense Media Partner on AI Guidelines and Education. Geospatial World, 2024/01/30.


相關文章:
1. Google與Hugging Face合作宣布推動開放式AI與機器學習發展
2. 蘋果的圍牆花園戰略體系出現裂痕,一旦被擊潰,這一系統將讓蘋果付出代價
3. 印度想取代中國在電子組裝中心地位,仍有很多路要走
4. 即使生成式AI成為趨勢,但其對2024年IT支出影響不大,未來才會快速成長
5. AI時代來臨,機遇與挑戰並存,政策制定者須積極應對
6. 科技公司裁員潮於2024年尚未停止,投資AI和效率成為優先選項

 
歡迎來粉絲團按讚!
--------------------------------------------------------------------------------------------------------------------------------------------
【聲明】
1.科技產業資訊室刊載此文不代表同意其說法或描述,僅為提供更多訊息,也不構成任何投資建議。
2.著作權所有,非經本網站書面授權同意不得將本文以任何形式修改、複製、儲存、傳播或轉載,本中心保留一切法律追訴權利。