︿
Top

OpenAI與Common Sense Media合作 打造AI安全使用生態

關鍵字：OpenAI；Common Sense Media；家庭友善；AI教育；AI指南；ChatGPT；GenAI；AI評分框架；
瀏覽次數：14810｜ 歡迎推文： facebook twitter wechat Linked

科技產業資訊室 (iKnow) - 黃松勳 發表於 2024年1月31日
facebook twitter wechat twitter

圖、OpenAI與Common Sense Media合作 打造AI安全使用生態

OpenAI近日宣告與專注於科技和媒體對兒童影響之非營利組織Common Sense Media合作，致力於AI指南和家長、教師與青少年的教育資訊合作。

Common Sense Media專門對適合兒童使用的媒體和科技進行評論和評價，它為眾多家長判定孩子是否應該使用某種產品或服務提供了指導。透過與OpenAI合作，其評估和評價系統將被應用在OpenAI的GPTs(由OpenAI GenAI模型驅動的聊天機器人)創作出適合家庭使用的版本。

OpenAI的執行長奧特曼(Sam Altman)表示：「AI為家庭及青少年帶來了巨大助益，他們與Common Sense的夥伴關係進一步強化了我們的安全工作。確保家庭和青少年可以放心地使用我們的工具。」

這次合作的啟動出現在OpenAI宣布參與Common Sense在去年九月新推出的評分、審查框架之後。該框架的目的是為使用AI的應用評估其安全性、透明度、道德使用，以及可能對社會帶來的影響。

Common Sense的共同創辦人兼執行長 James Steyer表示：「該框架希望製作出一個AI應用程式的「營養標籤」，來協助了解這些應用在何種背景下被使用，而且可以凸顯出其可能的機會和有害的地方。

現今父母對於這些GenAI工具的認識普遍較低，比如OpenAI的熱門AI聊天機器人ChatGPT。根據Common Sense Media去年底委託進行的一項影響力研究調查， 12-18歲的學生58%使用過ChatGPT，而其父母只有30%使用過。

因此，這次OpenAI和Common Sense Media的通力合作，希望確保AI對所有青少年及家庭都能產生積極的影響，並教導家長和學生如何安全、負責任地使用AI工具。

同時，OpenAI也面臨來自監管機構的壓力，要證明其GenAI應用，包括ChatGPT，對社會帶來的影響是正面的而非負面的。去年夏天，美國聯邦貿易委員會(FTC)就OpenAI是否透過收集數據和發布假資訊對消費者造成損害，展開了調查。

OpenAI的工具和所有的GenAI工具一樣，有時自信地創造出事物並陷入基本的錯誤事實(一本正經地胡說八道)，且也帶有偏差，這正反映了訓練它們數據本身的問題。

即便如此，孩子和青少年們卻越來越依賴這些工具，不只有用於解決學業方面的問題，也包含個人問題。根據民主及科技中心的一項調查，29%的孩子表示他們已經使用ChatGPT來應對焦慮或心理健康問題，22%用來解決與朋友之間的問題，16%則是解決家庭衝突。

OpenAI和Common Sense的合作是一個備受期待且必要的舉措，透過評估框架來理解AI產品的家庭友善程度，讓AI在透明度、道德及影響的規範下，對社會產生正面影響。同時，也有助於增進大眾對AI商品的理解與安全使用，透過此類型的努力，也將有機會見到負責任的AI技術能更公平與公正的落實在科技應用上，為各年齡層與階層民眾創造正面有益的成果。(962字；圖1)


參考資料：
OpenAI partners with Common Sense Media to collaborate on AI guidelines. Tech Crunch, 2024/01/30.
Common Sense Media and OpenAI Partner to Help Teens and Families Safely Harness the Potential of Artificial Intelligence. Common Sense, 2024/01/29.
OpenAI and Common Sense Media Partner on AI Guidelines and Education. Geospatial World, 2024/01/30.


相關文章：
1. Google與Hugging Face合作宣布推動開放式AI與機器學習發展
2. 蘋果的圍牆花園戰略體系出現裂痕，一旦被擊潰，這一系統將讓蘋果付出代價
3. 印度想取代中國在電子組裝中心地位，仍有很多路要走
4. 即使生成式AI成為趨勢，但其對2024年IT支出影響不大，未來才會快速成長
5. AI時代來臨，機遇與挑戰並存，政策制定者須積極應對
6. 科技公司裁員潮於2024年尚未停止，投資AI和效率成為優先選項

 
歡迎來粉絲團按讚！
--------------------------------------------------------------------------------------------------------------------------------------------
【聲明】
1.科技產業資訊室刊載此文不代表同意其說法或描述，僅為提供更多訊息，也不構成任何投資建議。
2.著作權所有，非經本網站書面授權同意不得將本文以任何形式修改、複製、儲存、傳播或轉載，本中心保留一切法律追訴權利。