中新網(wǎng)北京11月8日電(張鈺惠)近日，有媒體曝光了一起詐騙案件，被詐騙者遭遇AI換臉詐騙，10分鐘被“好友”騙走430萬元。近年來，AI換臉、換聲視頻在網(wǎng)絡(luò)上流行起來，AI合成的技術(shù)門檻逐漸降低。隨著人工智能技術(shù)的廣泛應(yīng)用，一些不法分子開始利用其實(shí)施新型網(wǎng)絡(luò)詐騙。

　　AI詐騙能有多逼真？如何識(shí)別和預(yù)防AI詐騙？

　　網(wǎng)絡(luò)上的AI合成教學(xué)

　　從號(hào)碼到聲音，

　　AI詐騙能有多逼真？

　　在家里午睡時(shí)，王欣(化名)突然接到了母親同事的微信語音電話，對(duì)方問她現(xiàn)在在哪里、在做什么。在王欣還不知道發(fā)生了什么的時(shí)候，她從電話里聽到了母親的聲音，聲音聽起來很著急。雖然王欣之前和母親說好了下午會(huì)去看牙醫(yī)，母親也知道她在做什么，但她還是接到了這樣一通詢問行程的電話。

　　母親告訴她，自己接到了一通號(hào)碼和王欣手機(jī)號(hào)一模一樣的來電。接通電話后，“王欣”的聲音從電話那邊傳來，母親聽到她的女兒在哭喊。電話那邊的人對(duì)母親說，王欣被他們綁架了，讓母親馬上給他們轉(zhuǎn)賬30萬元，不然就“撕票”。母親嚇壞了，立馬打算給對(duì)方轉(zhuǎn)錢，被旁邊的同事攔下，就這樣，午睡中的王欣被叫醒。

　　據(jù)王欣所說，“這個(gè)人還挺高明的，一開始我想，難道看不出來不是我的電話嗎？我后來看了一下，那個(gè)電話號(hào)碼就是我的手機(jī)號(hào)，連我自己都辨別不出來”。一模一樣的電話號(hào)碼瞞過了母親，神似王欣的聲音讓母親更加確信，“我媽媽說，那就是我的聲音?！蹦赣H還提到，對(duì)方一開始先詢問她身邊有沒有人，并要求她走到?jīng)]有人的地方。幸好通過微信語音電話及時(shí)確認(rèn)了王欣在家，母親才放下心來。

　　“一年之前為了留學(xué)辦簽證，我需要提供30萬的存款證明，我第一反應(yīng)就是這個(gè)?！蓖跣阑貞浧穑湍赣H有過關(guān)于30萬元的對(duì)話。此外，王欣偶爾會(huì)在朋友圈和其它社交媒體上發(fā)自己的照片、視頻和聲音，身邊還有朋友喜歡在社交媒體上發(fā)類似的內(nèi)容，曾在社交媒體上被冒充向身邊的人索要錢財(cái)。

　　此后，母親再一次收到了類似的電話。“現(xiàn)在，我媽媽都不太敢接我打的電話了，如果是微信電話的話還可能會(huì)接一下。”王欣說。

　　如何識(shí)別和預(yù)防AI詐騙？

　　涉及資金往來應(yīng)多途徑核對(duì)

　　中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心執(zhí)行主任劉曉春認(rèn)為，涉及資金往來等風(fēng)險(xiǎn)場(chǎng)景應(yīng)多途徑核對(duì)。上海申倫律師事務(wù)所夏海龍律師表示，在AI詐騙中，獲取受害人面容及聲音素材的途徑比較多，一般是從受害人在社交媒體上分享的照片、短視頻中獲取，的確很難直接識(shí)別視頻或聲音的真假，最好的辦法就是在接到可疑電話后直接跟本人核實(shí)。

　　還有專家表示，在使用互聯(lián)網(wǎng)服務(wù)或者在社會(huì)生活中，要求輸入人臉等生物特征數(shù)據(jù)的時(shí)候，要看對(duì)方收集生物特征數(shù)據(jù)是不是符合《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》的要求，是不是合法、正當(dāng)和必要。

　　近年來，國(guó)家出臺(tái)一系列規(guī)定防范AI詐騙。2022年11月，網(wǎng)信辦、工信部和公安部發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確，深度合成服務(wù)提供者應(yīng)當(dāng)落實(shí)信息安全主體責(zé)任，建立健全用戶注冊(cè)、算法機(jī)制機(jī)理審核、科技倫理審查、信息發(fā)布審核、數(shù)據(jù)安全、個(gè)人信息保護(hù)、反電信網(wǎng)絡(luò)詐騙、應(yīng)急處置等管理制度，具有安全可控的技術(shù)保障措施。

　　今年8月開始施行的《生成式人工智能服務(wù)管理暫行辦法》規(guī)定，提供者對(duì)使用者的輸入信息和使用記錄應(yīng)當(dāng)依法履行保護(hù)義務(wù)，不得收集非必要個(gè)人信息，不得非法留存能夠識(shí)別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。

　　針對(duì)提供深度合成服務(wù)的平臺(tái)，夏海龍指出，如果侵權(quán)、違法行為由用戶個(gè)人實(shí)施，則提供相關(guān)服務(wù)的平臺(tái)一般不需要承擔(dān)責(zé)任，但應(yīng)履行相關(guān)法律義務(wù)，深度合成服務(wù)提供者和技術(shù)支持者提供具有生成或者編輯人臉、人聲等生物識(shí)別信息功能的模型、模板等工具的，應(yīng)當(dāng)依法自行或者委托專業(yè)機(jī)構(gòu)開展安全評(píng)估。提供合成人聲、仿聲等語音生成或者顯著改變個(gè)人身份特征的編輯服務(wù)可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。(完)