科技日報記者 張夢然
伴隨人工智能(AI)技術(shù)在手機設(shè)備中的迅速發(fā)展,利用仿冒人臉等手段實施詐騙犯罪的風險與日俱增。針對這一問題,各國手機企業(yè)正加快安全領(lǐng)域的技術(shù)創(chuàng)新。而中國榮耀手機日前宣布,將于2025年4月在全球范圍內(nèi)商業(yè)化應用“AI換臉”檢測技術(shù),這也將是目前首個“AI反詐”技術(shù)的商業(yè)化應用。
“AI換臉”技術(shù)已被一些不法分子用于網(wǎng)絡詐騙、誹謗等違法犯罪行為,帶來了很大的社會隱患。根據(jù)Entrust網(wǎng)絡安全研究所的數(shù)據(jù),2024年每五分鐘就發(fā)生一次深度偽造攻擊,數(shù)字文件偽造同比2023年增加了244%。2023年11月至2024年11月,全球92%的企業(yè)經(jīng)歷了身份欺詐,但與之伴隨的,卻是應對深度偽造風險協(xié)議的缺失。畢馬威公司調(diào)研報告稱,從2023年第一季度到2024年第一季度,數(shù)字經(jīng)濟中的深度偽造現(xiàn)象同比增長顯著,其中網(wǎng)游為1520%、市場營銷為900%、金融科技為533%、加密貨幣業(yè)為217%和咨詢業(yè)為138%。德勤公司報告則顯示,在財務損失方面,生成式AI可能使欺詐損失從2023年的123億美元,增加到2027年的400億美元,復合年增長率為32%。
在2024年舉行的柏林消費電子展上,中國榮耀宣布研發(fā)出了全球首個基于設(shè)備端的“AI換臉”反詐檢測技術(shù)。該技術(shù)基于深度學習模型,通過分析圖像中的面部特征和行為模式,能夠?qū)崟r識別出AI生成的偽造內(nèi)容。據(jù)悉,在即將舉行的2025年世界移動通信大會(MWC 2025)上,榮耀將把這一技術(shù)作為“阿爾法戰(zhàn)略”一部分,公布相關(guān)戰(zhàn)略與詳細內(nèi)容。
聯(lián)合國工業(yè)發(fā)展組織印尼、東帝汶及東盟事務代表馬可·神谷稱,在移動設(shè)備上使用AI深度偽造檢測是一種強有力的武器,可以對抗深度偽造。它能夠檢測出人眼可能忽略的深度偽造內(nèi)容中的缺陷,例如眼神接觸、光線、圖像清晰度和視頻播放,從而阻止人們繼續(xù)參與可能危及其安全的活動。這使得個人、中小企業(yè)和各行業(yè)能夠在享受數(shù)字通信便利的同時,不必擔心隱私泄露和欺詐風險。