5月20日，“平安包頭”發(fā)布微信公眾號(hào)文章，稱5月8日，包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI技術(shù)進(jìn)行電信詐騙的案件，警銀聯(lián)動(dòng)成功緊急止付涉嫌電信詐騙資金330多萬元。
事情起始于4月20日11時(shí)40分左右，福州市某科技公司法人代表郭先生的好友突然通過微信視頻聯(lián)系到他，兩人經(jīng)過短暫聊天后，好友告訴郭先生，自己的朋友在外地投標(biāo)，需要430萬元保證金，且需要公對(duì)公賬戶過賬，所以想要借用郭先生公司的賬戶走一下賬。
(資料圖)
好友向郭先生要了銀行卡號(hào)，聲稱已經(jīng)把錢打到郭先生的賬戶上，還將銀行轉(zhuǎn)賬底單的截圖通過微信發(fā)給了郭先生。基于視頻聊天信任的前提下，郭先生沒有核實(shí)錢是否到賬，于11時(shí)49分先后分兩筆把430萬元給對(duì)方打了過去。錢款轉(zhuǎn)賬后，郭先生給好友微信發(fā)了一條消息，稱事情已經(jīng)辦妥。但讓他沒想到的是，好友回過來的消息竟然是一個(gè)問號(hào)。
郭先生撥打好友電話，對(duì)方說沒有這回事，他這才意識(shí)到竟然遇上了“高端”騙局，對(duì)方通過智能AI換臉技術(shù)，佯裝成好友對(duì)他實(shí)施了詐騙。
如果是微信好友賬號(hào)直接進(jìn)行AI換臉換聲音，的確容易讓人提前產(chǎn)生“好友信任度”。
第一財(cái)經(jīng)記者據(jù)此聯(lián)系微信方面與包頭市公安局，截至發(fā)稿，微信方面暫未提供技術(shù)方面的具體回應(yīng)，包頭市公安局宣傳科方面表示會(huì)與辦案民警進(jìn)行信息再確認(rèn)，截至發(fā)稿，暫未進(jìn)行信息更新。不過據(jù)第一財(cái)經(jīng)記者多方了解，此次聯(lián)系郭先生、發(fā)起視頻聊天的微信號(hào)碼，系郭先生此次新添加好友的微信賬號(hào)。
那么，微信視頻通話能夠輕易被“換臉”嗎？
多位網(wǎng)絡(luò)安全專家對(duì)微信視頻中實(shí)時(shí)換臉換聲的可行性展開了專業(yè)探討。一位網(wǎng)絡(luò)安全方面人士對(duì)記者表示，如果要進(jìn)行不易被識(shí)別的、專業(yè)級(jí)別的AI換臉換聲，需要在實(shí)驗(yàn)室環(huán)境條件進(jìn)行，后者為其提供較強(qiáng)的計(jì)算機(jī)性能支撐，如果單憑手機(jī)性能，僅能提供P圖級(jí)別的換臉，極易被識(shí)別。
對(duì)于該事件，奇安信安全專家裴智勇對(duì)第一財(cái)經(jīng)記者表示，首先，所謂微信賬號(hào)“新號(hào)”“舊號(hào)”本身更多是一種主觀感覺，騙子冒充朋友小號(hào)，聊上個(gè)把月再實(shí)施詐騙，受害者也會(huì)主觀上認(rèn)為這是一個(gè)老號(hào)。其次，該詐騙案仍有許多細(xì)節(jié)尚未披露，僅僅通過一次短暫而逼真的AI視頻聊天，就能騙走幾百萬，不太現(xiàn)實(shí)，中間一定還有很多復(fù)雜的過程。不應(yīng)將原本復(fù)雜的詐騙過程簡(jiǎn)單化、標(biāo)簽化。
另外，裴智勇還對(duì)記者表示，以現(xiàn)有的技術(shù)發(fā)展來看，雖然完成相關(guān)詐騙過程不是完全沒有可能，但成本太高，所以在現(xiàn)實(shí)中被使用的概率也很低。
具體實(shí)施技術(shù)難度方面，裴智勇舉例稱，如在視頻聊天過程中，要讓受害者看到AI合成的視頻而不是攝像頭直接捕獲的視頻，就必須利用安全漏洞劫持?jǐn)z像頭傳輸假視頻，技術(shù)難度極高。若真是這么高級(jí)的漏洞，一般不會(huì)被用在普通人身上，因?yàn)橐坏┰p騙失敗，漏洞暴露，漏洞也就作廢了。騙子一般不會(huì)冒這個(gè)險(xiǎn)。
再比如，盡管在視頻中進(jìn)行人臉替換，已經(jīng)是非常成熟的技術(shù)。但想要在實(shí)時(shí)對(duì)話交流過程中，進(jìn)行實(shí)時(shí)的人臉替換、表情捕捉、語音變聲，還能以假亂真，這個(gè)技術(shù)水平已經(jīng)超過絕大多數(shù)的高科技公司了。現(xiàn)實(shí)情況更有可能是騙子首先利用花言巧語騙受害者忽略細(xì)節(jié)，之后再發(fā)送合成視頻實(shí)施詐騙。
綜合來說，裴智勇認(rèn)為，攻擊者要同時(shí)具備盜取好友的微信賬號(hào)、利用漏洞劫持?jǐn)z像頭篡改視頻數(shù)據(jù)、實(shí)時(shí)變臉與實(shí)時(shí)變聲且天衣服縫的技術(shù)能力，至少是難度極大、成本極高。很多高科技公司在實(shí)驗(yàn)室里也未必能完美完成這些挑戰(zhàn)。所以，相關(guān)事件的文字描述，在細(xì)節(jié)上很可能和真實(shí)情況有一定的差異。
此外，裴智勇認(rèn)為對(duì)于騙子來說，還有一項(xiàng)巨大的挑戰(zhàn)，就是騙子必須對(duì)受害者和其朋友的外貌、聲音、行為習(xí)慣，思維方式，相互關(guān)系、業(yè)務(wù)往來等都做到非常熟悉，否則就極易穿幫。所以，騙子一定是經(jīng)過了長(zhǎng)期的潛伏和精心的策劃，也不能排除熟人作案的可能。
有關(guān)真相還需警方的進(jìn)一步披露，但該事件仍為民眾敲響警鐘。奇安信安全專家田平對(duì)第一財(cái)經(jīng)記者表示，AI詐騙是傳統(tǒng)的詐騙手法利用了新技術(shù)的一種混合詐騙方式，從詐騙劇本來說還是傳統(tǒng)的冒充熟人、冒充領(lǐng)導(dǎo)等手段，但是其中的面部仿真、聲紋仿真使得被害人放松警惕，更容易被騙。
從預(yù)防角度來說，田平提醒民眾需要確保如下三點(diǎn)：第一，不要點(diǎn)擊任何不熟悉人員發(fā)來的任何未知網(wǎng)址，下載不明來路的APP，規(guī)避掉中木馬的風(fēng)險(xiǎn)來保證個(gè)人信息機(jī)密以及手機(jī)等設(shè)備的安全受控；第二，個(gè)人信息會(huì)通過多重渠道造成泄露，所以在涉及資金轉(zhuǎn)賬等高風(fēng)險(xiǎn)行為時(shí)，需要主動(dòng)多方式去確認(rèn)對(duì)方身份，例如通過電話回?fù)埽瑴贤ㄖ性儐柦谝娒鏁r(shí)間地點(diǎn)等內(nèi)容；第三，社會(huì)各界也應(yīng)當(dāng)積極遵從2022年底實(shí)施的《反詐法》各條例，對(duì)聊天工具、轉(zhuǎn)賬雙方的身份加以強(qiáng)管理和確認(rèn)，對(duì)于高風(fēng)險(xiǎn)行為采取審慎允許的態(tài)度防止詐騙行為的發(fā)生。
關(guān)鍵詞：
責(zé)任編輯：Rex_24
