央視網(wǎng)消息：近日，南京市玄武區(qū)人民法院審理了一起“AI換臉”詐騙案。被告人符某利用非法獲取的195萬多條公民個人信息和AI換臉軟件，登錄了被害人的支付賬戶，盜刷銀行卡進(jìn)行消費(fèi)。

男子通過"AI換臉" 侵入他人金融賬戶

經(jīng)查，符某為牟取非法利益，通過網(wǎng)購的方式，非法獲取了195萬多條公民個人信息，隨后利用這些公民個人信息，通過AI換臉軟件，以“人臉識別”的方式，登錄了23名被害人的金融平臺支付賬戶。其中，非法更改了5人的支付密碼和綁定手機(jī)號，冒用了1人的支付賬戶綁定的銀行卡，購買了兩部手機(jī)，共計(jì)人民幣15996元。

江蘇省南京市玄武區(qū)人民檢察院檢察官助理 張海月：通過技術(shù)融合，AI生成一個動態(tài)視頻，左搖頭、右搖頭、張嘴，這樣一些金融視頻可能會常對用戶登錄時做的一些指令，突破金融支付平臺的防線。

期間，符某曾試圖利用AI換臉，突破多個金融支付平臺的"人臉識別"認(rèn)證系統(tǒng)，但是只在某金融支付平臺得逞。

江蘇省南京市玄武區(qū)人民檢察院檢察官 徐佳：他就不斷地去嘗試，也嘗試了很多平臺，但是別的平臺可能因?yàn)轱L(fēng)控系統(tǒng)比較嚴(yán)格，這個平臺可能存在一些漏洞，最終得逞。

【江蘇南京】男子因多項(xiàng)罪名數(shù)罪并罰 獲刑4年6個月

檢察機(jī)關(guān)認(rèn)為，符某的行為，不僅構(gòu)成刑事犯罪，也嚴(yán)重?fù)p害了社會公共利益，遂提起刑事附帶民事公益訴訟。2024年10月，法院以侵犯公民個人信息罪、信用卡詐騙罪數(shù)罪并罰，判處符某有期徒刑4年6個月，并要求其承擔(dān)15996元公益損害賠償金、刪除存儲的所有公民個人信息，并在國家級新聞媒體上公開賠禮道歉。符某表示認(rèn)罪認(rèn)罰。另外，針對本案暴露的某金融支付平臺存在的技術(shù)風(fēng)險(xiǎn)問題，檢察機(jī)關(guān)及時發(fā)出法律風(fēng)險(xiǎn)提示函。目前，該金融支付平臺已完成整改。

徐佳：這個案子為什么會案發(fā)，就是因?yàn)橹煌ㄟ^刷臉，簡單的一個刷臉就進(jìn)入了它的平臺，可以修改密碼，如果說這里面多一層身份認(rèn)證，他就沒有辦法實(shí)現(xiàn)更改。目前沒有再發(fā)現(xiàn)繼續(xù)通過AI換臉進(jìn)行犯罪的情況。

"AI換臉"可以繞過人臉識別防線？

隨著AI換臉、偽造身份等技術(shù)的不斷升級，人臉識別認(rèn)證身份的方式，是否還足夠安全呢？

對外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任 許可：我們做網(wǎng)絡(luò)安全的內(nèi)行人都會說一句話，沒有任何一個網(wǎng)絡(luò)是永遠(yuǎn)安全的，每次更新和迭代都可能會帶來新的漏洞，所以這個漏洞，我們覺得是很難避免的。

通過AI治理AI 提升人臉識別的可靠性

雖然說漏洞不可避免，但是大家也不用恐慌，由技術(shù)帶來的風(fēng)險(xiǎn)可以由技術(shù)本身的發(fā)展去解決，通過AI治理AI的方式，就能解決現(xiàn)在面臨的人臉識別攻擊的問題。

AI安全領(lǐng)域從業(yè)者 朱萌：實(shí)際上，業(yè)內(nèi)最頂尖的技術(shù)的檢測率或者說檢出率是超過95%的，他已經(jīng)能夠在實(shí)戰(zhàn)中應(yīng)對這樣的AI風(fēng)險(xiǎn)了。比如說，我們在看一個方向的時候，你兩只眼都會看向左方或者看向右前方，但是AI生成，它可能兩只眼是往兩個角度去看的。

專家介紹，當(dāng)前，一些應(yīng)用人臉識別技術(shù)的單位已經(jīng)采用了類似的防偽鑒別程序，提升人臉識別系統(tǒng)的可靠性。

中國電子技術(shù)標(biāo)準(zhǔn)化研究院網(wǎng)絡(luò)安全研究中心測評實(shí)驗(yàn)室副主任 何延哲：比如說，某款這種最新出臺的智能手機(jī)，它在你視頻通話的時候，它就會有一個功能，比如說是否識別對面的人臉是偽造的，其實(shí)已經(jīng)把這樣的一些技術(shù)應(yīng)用上了。

使用人臉識別的單位應(yīng)有更嚴(yán)的安全措施

專家認(rèn)為，除了不斷提升技術(shù)手段和增強(qiáng)防偽鑒別能力外，個人信息保護(hù)依然是非常重要的環(huán)節(jié)。一方面，普通百姓應(yīng)提高自我防范意識，避免隨意泄露個人信息；另一方面，使用人臉識別的單位也應(yīng)采取更為嚴(yán)格的安全措施。