︿
Top

AI偵測錯誤可能帶來醫療掃描風險

瀏覽次數:596| 歡迎推文: facebook twitter wechat twitter twitter

科技產業資訊室 - 周媛韻 發表於 2019年4月3日

圖、AI偵測錯誤可能帶來醫療掃描風險
 
雖然AI可以透過快速的醫療掃描分析來改善醫療保健,但越來越多證據證明看似無害的AI可能會發生錯誤偵測的現象。哈佛醫學院的研究人員透過簡單的畫素改變來愚弄3個用於醫學圖像掃描的AI。結果發現AI錯誤判斷了人類肉眼難以辨識的圖像,該研究發表在Science期刊上。
 
在其中一個例子中,研究團隊稍微修改了一張痣的照片,該照片最初是被歸類為良性的且具有99%的信賴度。但AI經過判斷修改後的照片,將該圖像分類為惡性的,並具有100%的信賴度。另外兩個AI的其中一個是用於檢測視網膜掃描糖尿病對眼睛的損傷,另一個則是從胸腔X光掃描中判讀肺部是否塌陷。
 
研究人員也發現將圖像旋轉也有可能混淆AI,即使是在日常練習中也可能會發生。雖然發生這個情況的可能性很低,但如果醫學AI變得普遍,是有可能導致錯誤的分類。這種錯誤會激勵在醫療健保系統中那些為了騙取保險公司理賠的事情發生,如果AI判斷為惡性的話,便有可能取得手術費用。這種工具將會造成現實世界使用時導致的問題。
 
研究人員表示必須設計出能更好抵禦攻擊的人工智慧作為偵測治療用途,避免降低判斷的準確性。(445字;圖1)


參考資料:
AI can mistakenly see cancer in medical scans after tiny image tweaks. New Scientist,2019/3/21
Adversarial attacks on medical machine learning. Science,2019/3/22


本站相關資料
1. AI機器學習應用於護理體系
2. 導入語音助理 減少醫護負擔
3. 區塊鏈能否成為醫療產業進步的關鍵?
4. 科技部建置台灣首座本土化「AI醫療影像」資料庫
5. 2019年醫療保健產業趨勢:數位健康、人工智慧與顧客體驗

 
歡迎來粉絲團按讚!
--------------------------------------------------------------------------------------------------------------------------------------------
【聲明】
1. 科技產業資訊室刊載此文不代表同意其說法或描述,僅為提供更多訊息,也不構成任何投資建議。
2. 著作權所有,非經本網站書面授權同意不得將本文以任何形式修改、複製、儲存、傳播或轉載,本中心保留一切法律追訴權利。