利用人工智慧來檢測歧視
科技產業資訊室 (iKnow) - 黃松勳 發表於 2019年8月5日
圖、利用人工智慧來檢測歧視
防止種族、性別或對個人的不公平待遇一直是文明社會長期關注的問題。然而，檢測由決策引起的這種歧視，無論對於人類決策者還是自動化人工智慧系統都帶來了挑戰性。尤其人工智慧系統的廣泛運用在警務、消費金融、高等教育和商業領域上的決策自動化，也進一步提升了挑戰的難度。
例如：如果一家公司在歷史上從未僱傭過一名女性從事某一類工作，那麼接受過該歷史數據訓練的人工智慧系統就不會推薦女性從事新工作。機器學習演算法本身沒有任何問題，其只是根據某些理想的特徵確定好的求職者。但由於它是根據歷史的、有偏見的數據進行培訓，因此有可能提出不公平的建議。
因此賓州大學和哥倫比亞大學的研究人員創建了一種用於檢測不公平歧視的新型人工智慧工具，透過分析美國成人收入數據，發現了基於性別的工資歧視的證據，在每年工資超過5萬美元的女性的機率僅為男性的三分之一。這表示雇主應該糾正工資中的性別偏見。此方法除了可防止性別歧視外，也可用於防止種族歧視。
隨著數據驅動的人工智慧系統越來越多地被企業應用於消費者定位廣告、警察機關如何監控個人或團體的犯罪活動、銀行如何決定誰獲得貸款、雇主決定僱用誰、以及大學如何決定誰被錄取或獲得獎學金資助，皆需要確保這些系統不會成為歧視工具、平等障礙和對社會公義的威脅和不公平的來源。此項研究獲得美國國家衛生研究院和國家科學基金會的支持。(561字)
參考資料：
Using artificial intelligence to detect discrimination. Science Daily，2019/7/10
Fairness in Algorithmic Decision Making: An Excursion Through the Lens of Causality. Proceedings of the 2019 World Wide Web Conference，2019/5/13
本站相關資料：
1. 亞馬遜透過機器學習讓Alexa變得更智慧化的秘密
2. 標準必要專利授權費糾紛：華為 v. Interdigital
3. Forbes：2019年人工智慧與機器學習的三項預測
4. 歐洲專利局：人工智慧與機器學習專利審查指南已生效
5. 歧視意涵商標 能否註冊引發論戰
--------------------------------------------------------------------------------------------------------------------------------------------
【聲明】
1.科技產業資訊室刊載此文不代表同意其說法或描述，僅為提供更多訊息，也不構成任何投資建議。
2.著作權所有，非經本網站書面授權同意不得將本文以任何形式修改、複製、儲存、傳播或轉載，本中心保留一切法律追訴權利。
|