AI換臉騙過軟體 專家:恐增加詐欺犯罪

台灣醒報 (2021-03-08 13:16)
分享| 分享至新浪微博 分享至facebook 分享至PLURK 分享至twitter

AI換臉騙過軟體 專家:恐增加詐欺犯罪

▲AI換臉騙過軟體 專家:恐增加詐欺犯罪

【台灣醒報記者陳是祈綜合報導】AI換臉的技術可以騙過臉部辨識系統!根據研究報告,AI換臉(用其他人臉取代影像中原有的人臉)以假亂真,已經可以騙過亞馬遜、微軟等科技公司的臉部辨識系統,成功率高達將近8成。專家憂心,若臉部辨識系統的技術趕不上AI的革新速度,恐怕網路上會出現越來越多假身份詐騙,甚至牽涉到選舉造假、色情犯罪等。

AI換臉數量大增

VentureBeat報導,AI換臉(此技術簡稱為Deepfake)是在真人影片中,以其他的人臉來替換影片中原有的臉。根據科技公司Deeptrace的研究數據,從2019年10月到2020年6月,網路上Deepfake出現的數量增加了330%,高峰時達5萬多起,尤其有不少名人的臉被套用在色情影片中,被有心人士用來騙取點閱率或者詐財。

韓國成均館大學的研究報告指出,AI換臉的技術已經可以欺騙現有的臉部辨識技術,如微軟和亞馬遜開發的系統,根據實驗,微軟系統成功率高達78%,亞馬遜則成功高達68%。研究團隊還嘗試要申請使用Google的臉部辨識技術來實驗,但被該公司拒絕提供技術。

恐造成詐欺犯罪

研究人員表示,AI換臉技術發展太快,現有的臉部辨識系統漸漸跟不上,且每種臉部辨識系統應對AI換臉攻擊的模組都不同,因此很難百分百防範。研究團隊警告,若不正視該問題,未來會發生更多資安危機和詐欺犯罪,人們更容易假冒他人身份,騙過各種身份偵測機制。

為了防範AI換臉技術,臉書與亞馬遜、微軟率先展開防範Deepfake的技術競賽,該競賽於去年6月結束,希望能藉由各界高手的幫助來打擊換臉犯罪。微軟的客戶安全部經理Tom Burt表示,面部驗證若敵不過AI換臉技術,很有可能未來的新聞報導、社群影片等都不再有可信度。