耳聽(tīng)可能為虛 眼見(jiàn)未必是實(shí)

　　變臉又換聲“外孫”來(lái)騙錢(qián)

　　一位老人接到電話，對(duì)方自稱是其戰(zhàn)友，說(shuō)自己因生病想借錢(qián)。老人熟悉這位戰(zhàn)友的聲音，先后匯款2000元、8000元到對(duì)方銀行賬戶。沒(méi)想到，錢(qián)剛到對(duì)方賬戶，“戰(zhàn)友”就消失了，老人這才發(fā)現(xiàn)自己被騙了……近日，一則“聲音合成”騙局登上了熱搜。

　　隨著AI(人工智能)合成技術(shù)日益發(fā)展，一些不法分子也開(kāi)始利用其合成音視頻實(shí)施詐騙。“AI換臉換聲”難度大嗎？能有多逼真？

　　詐騙

　　“外孫”打電話來(lái)要錢(qián)

　　“你姥姥接到了一個(gè)電話，是你表哥的聲音，說(shuō)是闖了禍，問(wèn)你姥姥、姥爺要錢(qián)。”不久前，正在國(guó)外留學(xué)的小張從媽媽口中得知，姥姥接到了一通電話，有人用“表哥”的聲音說(shuō)，自己把同學(xué)打進(jìn)醫(yī)院了，要賠十幾萬(wàn)元。“表哥”以此向姥姥、姥爺要錢(qián)，還讓他們千萬(wàn)不要告訴自己的媽媽——也就是小張的大姨。

　　“我姥姥、姥爺大吃一驚，但還是信了。不過(guò)，覺(jué)得不能不告訴其他人，于是告訴了我媽。”小張解釋道，兩位老人日常是獨(dú)自生活，只有小張的母親每周去看望幾次。由于兩位老人習(xí)慣于什么電話都接，此前就遇到過(guò)詐騙電話，這讓一家人始終提心吊膽。

　　小張覺(jué)得電話那頭是騙子，“聲音肯定是合成的”。初步推斷后，小張給正在外地上學(xué)的表哥打了多個(gè)電話，終于取得了聯(lián)系，果然表哥對(duì)于姥姥接到的電話也全然不知。

　　“雞飛狗跳折騰了一圈，安撫了惴惴不安的我媽，叮囑了不聽(tīng)勸的姥姥、姥爺。一到涉及晚輩的事，這兩位老人就跟喝了迷魂湯似的。”小張無(wú)奈地說(shuō)，除了“AI合成語(yǔ)音詐騙”，欺騙性更強(qiáng)的“AI合成視頻詐騙”更讓人擔(dān)憂。對(duì)于這些騙局，小張感到十分憤怒，但又不知該如何杜絕。

　　亂象

　　假博主只為真“圈錢(qián)”

　　保護(hù)好了手機(jī)號(hào)，就能避免被人利用AI技術(shù)“圈錢(qián)”嗎？在互聯(lián)網(wǎng)上，還有很多博主利用假視頻來(lái)吸引流量、虛假宣傳。

　　“有福氣的奶奶您來(lái)了……”一個(gè)幼童雙手合十，講著一大段“正能量”語(yǔ)錄，這樣不符合常理的視頻，卻獲得頗高人氣。打開(kāi)評(píng)論區(qū)，有不少頭像為中老年人的賬號(hào)留言稱贊“小孫子說(shuō)得好”。

　　“這類視頻播放高，漲粉快。”相關(guān)視頻博主介紹，除了兒童形象，智者老人、外國(guó)人等形象說(shuō)語(yǔ)錄的視頻也受歡迎。“粉絲以中老年人為主。”

　　“很多人問(wèn)我，為什么不回國(guó)發(fā)展，要在中國(guó)待著……”視頻中，一位名叫“Wendy”的“外國(guó)女孩”用流利的中文侃侃而談。和她用著“同一張臉”的賬號(hào)有好幾個(gè)，有的叫“阿琳娜”，有的叫“娜塔莎”。事實(shí)上，這些賬號(hào)的“臉”都來(lái)自一位烏克蘭網(wǎng)紅博主Olga Loiek，不久前她發(fā)布視頻稱，她的面孔被他人盜用，并利用AI技術(shù)生成了視頻。

　　在短視頻平臺(tái)上，這類假冒外國(guó)人的賬號(hào)還有不少。他們或發(fā)表雞湯語(yǔ)錄，或討論爭(zhēng)議性話題，以此為噱頭來(lái)吸粉。3月27日，抖音發(fā)布《關(guān)于不當(dāng)利用AI生成虛擬人物的治理公告》，針對(duì)站內(nèi)仍有不當(dāng)使用AI技術(shù)生成虛擬人物發(fā)布內(nèi)容的賬號(hào)進(jìn)行處置，但目前平臺(tái)上依然存在相關(guān)賬號(hào)和視頻。

　　點(diǎn)進(jìn)這些賬號(hào)的主頁(yè)，其中很多寫(xiě)著“收徒”“合作”，并附有聯(lián)系方式。記者加上一個(gè)微信后，對(duì)方發(fā)來(lái)了數(shù)字人生成教程的信息，其中包括AI最新玩法等內(nèi)容，報(bào)價(jià)1288元。這位商家還向記者強(qiáng)調(diào)，AI和短視頻結(jié)合的“威力”很大。“現(xiàn)在流量就是鈔票，你會(huì)搞流量還怕不能盈利嗎？”

　　體驗(yàn)

　　一句話即可克隆一萬(wàn)句

　　利用AI技術(shù)來(lái)?yè)Q臉換聲、合成視頻的難度大嗎？實(shí)際上，使用門(mén)檻和技術(shù)門(mén)檻都不高。

　　記者以“AI克隆聲音”“AI視頻生成”等為關(guān)鍵詞在電商平臺(tái)搜索，出現(xiàn)不少提供相關(guān)服務(wù)的商家。有些提供專業(yè)的聲音定制模型，價(jià)格需要幾百元到數(shù)千元不等。有些則直接出售相關(guān)教程，部分價(jià)格低至9.8元。商家表示，這類教程適合于對(duì)AI這類工具該興趣的人，并且要愿意學(xué)習(xí)和摸索。

　　即便是沒(méi)有任何技術(shù)背景也沒(méi)關(guān)系，目前市面上已經(jīng)有多款軟件可以快速實(shí)現(xiàn)AI換臉、AI克隆聲音、數(shù)字人生成等功能。在一款生成視頻數(shù)字人的軟件中，提供了電商、金融理財(cái)、醫(yī)療保健、教育培訓(xùn)等領(lǐng)域的數(shù)字人視頻素材，輸入文字即可合成配音。此外，還可以利用照片定制專屬的數(shù)字人形象，生成視頻。

　　這類幾分鐘即可生成的AI換臉視頻、數(shù)字人視頻制作較為粗糙，看起來(lái)“一眼假”，但卻在很多短視頻平臺(tái)上被網(wǎng)友信以為真。一位制作相關(guān)視頻的博主直言：“很多年輕人都迷糊，中老年人更分辨不出來(lái)了。”

　　AI克隆聲音實(shí)現(xiàn)起來(lái)更為簡(jiǎn)單。記者下載了一款可以AI克隆聲音的軟件。打開(kāi)后根據(jù)提示，只需要提供某人一句話的聲音素材，即可生成“專屬克隆聲音”，隨后輸入任何文字，發(fā)出的都是這個(gè)人的聲音。記者體驗(yàn)發(fā)現(xiàn)，多款軟件都可以輕松克隆。盡管有部分軟件提示“若使用他人聲音，請(qǐng)確認(rèn)已獲取他人授權(quán)”，但平臺(tái)并無(wú)法限制聲音來(lái)源。

　　測(cè)試

　　10位老人均未能正確分辨

　　記者在采訪中了解到，有不少老人沒(méi)聽(tīng)過(guò)AI合成的聲音，想象不出其與真人說(shuō)話的相似程度。為此，記者利用三款軟件，分別生成了一段語(yǔ)音，又錄制了一段真人語(yǔ)音，隨機(jī)向10位老人進(jìn)行了測(cè)試。

　　“第一段挺柔和的，像是真人說(shuō)話”“最后一段接近人的嗓音”……老人們聽(tīng)完四段語(yǔ)音，從中選擇“真人聲音”，并且給出了判斷的理由。結(jié)果顯示，參與測(cè)試的老人都沒(méi)能成功辨別出“真人”。

　　即便是熟悉的人的聲音，老人也很容易被迷惑。記者特意用蔡大爺孫女的聲音，同樣制作了一組語(yǔ)音來(lái)測(cè)試。第一段合成語(yǔ)音播放后，蔡大爺立刻說(shuō)：“這是我孫女說(shuō)的！”四段語(yǔ)音播放完畢，蔡大爺對(duì)每一段都感到熟悉和親切，“我聽(tīng)著都是她真人說(shuō)的，不像有電腦合成的。”

　　AI合成的聲音、照片、視頻，有辦法辨別嗎？記者了解到，語(yǔ)音可以流暢度、自然度來(lái)分辨出來(lái)，照片、視頻則可以通過(guò)瞳孔、耳朵等細(xì)節(jié)來(lái)判定。不過(guò)，據(jù)多位AI技術(shù)從業(yè)人員介紹，隨著技術(shù)發(fā)展，AI圖像“手部不自然”“光線錯(cuò)亂”等問(wèn)題，正在逐漸得到改善，“現(xiàn)在越來(lái)越真了。”

　　在實(shí)際生活中，老年人也很難按照這樣的標(biāo)準(zhǔn)來(lái)判斷。王阿姨表示，由于自己聽(tīng)力不好，電話里的聲音聽(tīng)不太清，很容易被蒙騙。同樣的，王阿姨在和子女視頻時(shí)，也只是看個(gè)大概，“哪兒仔細(xì)看過(guò)耳朵眼睛啊！”

　　北京反詐中心官方公眾號(hào)也曾發(fā)布提醒，在涉及轉(zhuǎn)賬交易等行為時(shí)，要格外留意，可以通過(guò)電話、視頻等方式確認(rèn)對(duì)方是不是本人；在無(wú)法確認(rèn)對(duì)方身份時(shí)，可以將到賬時(shí)間設(shè)定為“2小時(shí)到賬”或者“24小時(shí)到賬”，以預(yù)留處理時(shí)間。同時(shí)，要謹(jǐn)防各種信息泄露。

　　本報(bào)記者 相旭陽(yáng)

　　(北京晚報(bào))