歐盟委員會提出新人工智慧規範
科技產業資訊室 (iKnow) - Lisa & May 發佈於 2021年4月23日
圖、歐盟委員會提出新人工智慧規範
歐盟委員會（European Commission）於2021年4月21日提出了人工智慧(AI)法規，旨在將歐洲變打造值得信賴的人工智慧（AI）的全球中心。歐盟有史以來第一個人工智慧的法律框架與歐盟成員國的協調計畫相結合，將保證人們和企業的安全和基本權利，同時加強歐盟對人工智慧的吸收、投資和創新。新法規將調整安全規範，以增加使用者對新一代多功能產品的信任。
新的人工智慧法規將確保歐洲人民可以信任人工智慧產品。相稱和靈活的規則旨在解決人工智慧系統帶來的具體風險，並在全球範圍內設定最高標準。該協調計畫（The Coordinated Plan）概述了歐盟成員國必要的政策改變和投資，以加強歐洲在發展以人為本、永續、安全、包容和值得信賴的人工智慧方面的領先地位。
新的法規基於人工智慧發展趨勢，依據風險高低分類，將適用於所有歐盟成員國：
一、不可接受的風險（Unacceptable risk）：被認為對人們的安全、生計和權利有明顯威脅的人工智慧系統將被禁止。這包括操縱人類行為以規避使用者自由意志的人工智慧系統或應用（例如，使用語音輔助的玩具，鼓勵未成年人的危險行為）和允許政府進行「社會評分（social scoring）」的系統。
二、高風險（High-risk）：被認定為高風險的人工智慧系統涉及到以下用途
- 重要基礎設施（如交通），可能使人民的生命和健康受到威脅；
- 教育或職業培訓，可能決定某人的受教育機會（如考試評分）；
- 產品的安全零件（如AI在機器人輔助手術中的應用）；
- 就業、員工管理和自雇管道（如徵才使用的履歷分類軟體）；
- 基本的私人和公共服務（如信用評分剝奪了公民取得貸款的機會）；
- 可能干涉人們基本權利的執法（如評斷證據可靠性的系統）；
- 移民、庇護和邊境控制管理（如核實旅行文件真實性的系統）；
- 利用AI於司法和民主程序。
高風險的人工智慧系統上市前，將受到嚴格的管控約束：
- 充分的風險評估和緩解系統；
- 為系統提供高品質的資料集，以儘量減少風險和歧視性的結果；
- 對活動進行記錄，以確保可追溯結果；
- 提供關於系統及其目的的所有必要資訊，以便監管單位評估其合規性；
- 向使用者提供充分且清晰的資訊；
- 適當的人力監督措施，以最大限度地減少風險；
- 高度的穩健性、安全性和準確性。
特別是：
- 所有遠端生物辨識（remote biometric identification）系統都被視為高風險的人工智慧系統。
- 原則上禁止在公共場所為執法目的使用，狹義的例外情況有嚴格的定義和規定（例如，在尋找失蹤兒童、防止具體和緊迫的恐怖主義威脅或偵查、定位、識別或起訴嚴重刑事犯罪的肇事者或嫌疑人的需要）。
- 使用上必須取得司法或其他獨立機構的授權，並在時間、地理範圍和搜索的資料庫方面有適當的限制。
三、有限的風險（Limited risk）：即具有透明公開義務的人工智慧系統。在使用人工智慧系統（如聊天機器人）時，使用者應該能意識到正在與機器互動，進而做出明智的決定。
四、最小的風險（Minimal risk）：法規允許自由使用人工智慧的電子遊戲或垃圾郵件篩檢程式等應用，絕大多數的人工智慧系統都屬於這個類別，對此不作干預，因為這些系統對公民的權利或安全只構成最小或沒有風險。
在監管方面，歐盟委員會建議各國市場監督主管部門配合新的法規，並將設立歐洲人工智慧委員會（European Artificial Intelligence Board）促進其實施，推動人工智慧標準的發展。此外，還提議為非高風險的人工智慧系統制定自發性的行為準則，建立監管沙盒（regulatory sandbox）以促進創新。
《歐盟AI協調計畫〈Coordinated Plan on AI〉》
《歐盟AI協調計畫》首次發佈於2018年，確定發展人工智慧的行動和工具，使國家策略和歐盟公私合作關係和研究與創新網路形成了充滿活力的局面。協調計畫的全面更新提出了具體的合作行動，並確保與歐洲人工智慧策略（European Strategy on AI）和歐洲綠色新約（European Green Deal）步調一致，同時考慮到COVID-19帶來的新挑戰。協調計畫提出了一個加快人工智慧投資的願景，推動疫後復甦，刺激各國人工智慧發展策略，消除碎片化，應對全球挑戰。
協調計畫將透過數位歐洲（Digital Europe）和展望歐洲（Horizon Europe）計畫，以及歐盟復甦基金20%數位支出目標和歐盟凝聚政策（Cohesion Policy）分配的資金來進行：
- 通過交流政策見解、資料共用和對關鍵計算能力的投資，為人工智慧的發展創造有利環境；
- 透過公私協力夥伴關係（PPP），建立研究、開發和創新能力，並向中小企業和公共管理部門提供測試和實驗設施以及數位創新中心，促進人工智慧的商業化。
- 支援數位領域的培訓計劃、博士生網路和博士後獎學金來培養人才和技能，在全球範圍內促進歐洲人工智慧願景，確保人工智慧為人們服務，成為社會的一股力量；
- 在高影響力的部門和技術中建立策略領導地位，包括人工智慧對永續環境的貢獻、擴大跨境資訊交流來推動智慧醫療系統，以及人工智慧在公共部門、交通、農業，以及機器人技術的應用。
- 《機械條例〈Machinery Regulation〉》：涵蓋了廣泛的消費者和專業產品，從機器人到割草機、3D印表機、建築機械、工業生產線。確保新一代的機械保使用者和消費者的安全，並鼓勵創新。雖然人工智慧法規將解決人工智慧系統的安全風險，但新的機械條例將確保人工智慧系統與整個機械的安全整合。企業將只需要執行一個單一的合格評估。
此外，新的機械條例將使現行規定更加明確，透過允許文件的數位格式和調整中小企業的合格評估費用，簡化企業的行政負擔和成本，同時確保與歐盟產品立法框架的一致性。
歐洲議會（European Parliament）和歐盟成員國將需要在普通立法程式中通過歐盟委員會對於人工智慧系統和機械的建議。一旦通過，這些條例將直接適用於整個歐盟。同時，歐盟委員會將繼續與成員國合作，推動實施協調計畫。
背景：
多年來，歐盟委員會一直在促進和加強整個歐盟在人工智慧方面的合作，以提高競爭力並確保基於歐盟價值觀的信任。
在2018年發佈歐洲人工智慧策略（European Strategy on AI）後，經過廣泛的協商討論，人工智慧高階專家小組（High-Level Expert Group on Artificial Intelligence）在2019年制定了可信賴人工智慧準則（Guidelines for Trustworthy AI），並在2020年制定了可信賴人工智慧評估清單（Assessment List for Trustworthy AI）。同時，2018年12月發佈了第一個的人工智慧協調計畫，作為與成員國的聯合承諾。
委員會在2020年發佈的人工智慧白皮書（White Paper on AI）為歐洲的人工智慧提出了一個清晰的願景：一個卓越和信任的生態系統，為AI法規提案奠定基礎。關於人工智慧白皮書的公眾諮詢引起了世界各地的廣泛參與。白皮書中的關於人工智慧、物聯網和機器人的安全和責任影響的報告，提到產品安全立法仍不夠完整。
歐擬推AI法規 業界反彈聲浪
對於歐盟提出全新法案管制人工智慧（AI）的應用方法，如果立法過關將成為全球第一套管制AI的法規，但企業擔心新法增加AI使用成本，限制或打壓歐盟科技創新。
歐盟最新法案將AI應用方法依風險高低分類，其中高風險AI應用涵蓋重大基礎建設、大學入學篩選系統及銀行貸款審查系統等。根據新法，這類高風險AI應用將受到歐盟嚴格監管，違法企業最高面臨全球年營收6％的罰款。
除了加強監管之外，新法更將禁止特定AI應用，例如公共運輸系統、公共場所、商店使用臉部辨識偵測、警察追查犯人的遠端生物辨識系統，或是能夠讀取潛意識的AI技術。新法規規定，在使用前，必須先向主管機關提出法規遵從報告，詳述臉部辨識系統如何取得資料。
對於AI新法被批評過於攏統不明，實際該如何實施仍有待觀察。法律界人士認為，法規例外情況實在太多，反而失去AI規範保護及禁止的意義。(2642字；圖1)
參考資料：
Europe fit for the Digital Age: Commission proposes new rules and actions for excellence and trust in Artificial Intelligence. European Commission, 2021/4/21.
Europe fit for the Digital Age: Commission proposes new rules and actions for excellence and trust in Artificial Intelligence. Europa, 2021/4/12.
相關文章：
1. 歐盟擬立法 智能機器人、自動駕駛車和人工智慧應用規範
2. 歐盟：AI道德指南，具備三條件及七要件
3. 歐盟將推出數位法案，大型科技公司恐面臨罰款或強制解散
4. 歐盟2030『數位十年』大戰略，將讓各區域科技主權競爭更趨白熱化
5. 歐盟提出2030年數位羅盤也是數位轉型計畫
6. COVID-19疫情紓困及激勵經濟，歐盟祭出10大振興方向
--------------------------------------------------------------------------------------------------------------------------------------------