歐盟AI法案首波禁令生效，嚴管AI濫用風險，最高可罰全球營收7%

關鍵字：；；；；；；；；

瀏覽次數：2311｜歡迎推文：

科技產業資訊室(iKnow) - 黃松勳發佈於 2025年2月6日

圖、歐盟AI法案首波禁令生效，嚴管AI濫用風險，最高可罰全球營收7%

歐盟AI法案於2025年2月4日首波禁令已正式生效，其中以「不可接受風險」之人工智慧應用為首要管制目標。此次法案明確禁止包括可能導致不公平待遇的社會評分系統，以及利用潛意識技術進行有害操縱等應用。歐盟執委會隨即在2月4日發布相關合規指南，為開發者提供明確的法規遵循方向。

值得注意的是，違反這些禁止性規定的企業將面臨嚴厲處罰，最高可達全球年度營業額的7%或3500萬歐元（取其高者）。這項具有里程碑意義的法案展現了歐盟在人工智慧發展上的強硬立場，同時也為全球AI監管樹立了重要典範。

在具體的禁止項目中，法案特別關注可能危害個人權益的AI應用。例如，禁止使用潛意識技術進行有害操縱，包括在影片中置入肉眼無法察覺但能影響行為的文字或圖像；禁止利用年齡、殘疾或社會經濟狀況等弱勢族群特徵進行不當剝削；更禁止建立可能導致歧視的社會信用評分系統。

在執法和安全領域，法案對AI的應用也設下嚴格界限。禁止單純基於個人特徵進行犯罪風險評估，除非當事人已有確切的犯罪關聯；禁止通過網路或監視錄影無差別蒐集人臉圖像建立資料庫；在公共場所的即時生物特徵識別系統也受到嚴格限制，僅在特定情況下允許執法單位使用。

在職場和教育環境中，法案特別針對情緒辨識技術作出規範。除了醫療或安全相關用途外，禁止使用AI系統推斷個人情緒狀態。這項規定不僅涵蓋表情識別，還包括透過生物特徵數據推斷情緒的各種技術，展現了對職場隱私的高度重視。

法案對生物特徵分類技術的使用也提出明確限制。禁止利用個人生物特徵數據推斷其種族、政治傾向或工會會員身分等敏感資訊。這項規定凸顯了歐盟對個人隱私和敏感資料保護的決心，為AI技術的發展劃定明確界線。

為了確保法案的有效執行，歐盟要求各成員國在2025年8月2日前指定負責監管的專責機構。這些機構將負責監督法案的執行情況，確保AI系統的開發和使用符合規定。雖然合規指南本身不具法律約束力，但它為各方理解和遵循法案提供了重要參考。

在實際應用層面，法案對「有害操縱」和「合法說服」做出區分。例如，AI系統若清楚說明其目標和運作方式，以理性和情感訴求呈現資訊，則被視為合法說服。這種區分為企業提供了明確的行為準則，有助於在合規前提下發展AI應用。

在執法方面，法案特別關注私人企業的角色。即使是私人企業，若代表執法機構行事或為法規遵循目的（如反洗錢）評估犯罪風險，也需遵守相關規定。這顯示法案的適用範圍不限於政府部門，而是涵蓋所有AI應用場景。

針對特定例外情況，法案也提供了明確規範。例如，在工作場所基於安全考量，允許使用AI設備監測處理危險物品時的員工焦慮程度。

在資料收集方面，法案對「無差別」和「定向」收集做出區分。例如，針對特定個人或群體的臉部圖像收集不在禁止範圍內，但無差別大規模收集則明確禁止。

整體而言，歐盟AI法案的首波禁令標誌著全球AI監管進入新階段。透過明確的禁止性規定和詳細的實施指南，歐盟在保護個人權益和促進AI健康發展之間取得平衡。不僅為歐盟地區設立標準，更可能成為全球AI治理的重要參考，也可能影響未來科技發展方向。(1234字；圖1)

參考資料：
Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act. European Commission. 2025/02/04.
European Commission publishes guidelines on Prohibited AI Practices. DLA PIPER. 2025/02/04.
EU puts out guidance on uses of AI that are banned under its AI Act. TechCrunch. 2025/02/04.

歡迎來粉絲團按讚！

--------------------------------------------------------------------------------------------------------------------------------------------