︿
Top

美國總統簽署行政命令推動人工智慧安全與道德規範

關鍵字：人工智慧安全；基礎模型；道德規範；生成式AI；隱私保護；
瀏覽次數：4223｜ 歡迎推文： facebook twitter wechat Linked

科技產業資訊室 (iKnow) - 黃松勳 發佈於 2023年11月2日
facebook twitter wechat twitter

圖、美國總統簽署行政命令推動人工智慧安全與道德規範
 
隨著新興的生成式人工智慧技術如ChatGPT的快速發展，人工智慧的安全與道德問題引發全球討論。拜登政府日前簽署行政命令，尋求建立人工智慧新的安全與道德標準。
 
該命令要求開發基礎人工智慧模型的企業，在部署到公眾前必須通知聯邦政府並分享所有安全測試結果。命令尤其關注可能對國安、經濟安全或公共衛生造成風險的基礎模型。具體而言，該命令要求開發具有「最強大人工智慧系統」的公司必須向政府分享安全性測試數據。
 
命令中提到將建立新標準，包括對模型進行廣泛的安全測試。同時，也將推動發展工具以確保人工智慧系統的安全與可信賴性。此外，命令還提到需要保護公民隱私，並避免人工智慧加劇就業、醫療和司法領域的歧視與偏見。
 
總統行政命令的多項行動和措施：
  1. 人工智慧安全測試的新標準：美國國家標準研究院（NIST）將制定新的測試標準，強大的人工智慧模型開發人員必須在公開發布之前與政府分享他們的安全測試結果和其他重要數據。
  2. 新的人工智慧安全標準：國家安全委員會和白宮辦公廳主任奉命製定一份國家安全備忘錄，指導人工智慧和安全的進一步行動。
  3. 保護隱私：建立保障措施，以保護其資料用於大規模模型訓練的個人。
  4. 人工智慧產生的內容：美國商務部計畫制定內容認證和浮水印指令，確保能清楚辨識人工智慧產生的內容。
  5. 防止危險生物材料：制定強而有力的標準，以防止人工智慧工程合成有害生物物質。
  6. 人工智慧和工作的未來：制定原則和最佳實踐，以盡量減少人工智慧主導的自動化對勞動力的負面影響。
 
由於人工智慧保障措施在美國國會仍處於早期階段討論，且世界各國已競相制定自己的指導方針，該命令突顯了拜登政府回應社會的期望，也呼籲國會通過相關立法。該命令的規範對於人工智慧投入的科技領先企業會有什麼樣的影響，仍有待觀察。(717個字；圖1)
 
 
參考資料：
FACT SHEET: President Biden Issues Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence. The White House, 2023/10/30.
President Biden issues executive order to set standards for AI safety and security. TechCrunch, 2023/10/30.
Biden’s executive order sets new standards for AI development. Dig Watch, 2023/10/31.
President Biden Will Sign an Executive Order on AI Safeguards. Time, 2023/10/30.


相關文章：
1. 美國與新加坡強化戰略技術夥伴關係，專注六大領域科技合作
2. 韓國發布《量子科學技術與量子產業振興法》，搶占發展量子經濟的先機
3. 韓國推動媒體產業人工智慧和數位化計畫，目標成為全球媒體強國
4. 美國斥資70億美元建立區域清潔氫中心，推動清潔製造與提供新經濟效益
5. 美國設立區域科技中心促進產業創新
6. 韓國推出「韓國人工智慧躍進計劃」，啟動超大型人工智慧項目

 
歡迎來粉絲團按讚！
--------------------------------------------------------------------------------------------------------------------------------------------