5月24日，中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)發(fā)布公告稱(chēng)，伴隨著深度合成技術(shù)的開(kāi)放開(kāi)源，深度合成產(chǎn)品和服務(wù)逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻進(jìn)行詐騙、誹謗的違法行為屢見(jiàn)不鮮。廣大公眾需提高警惕，加強(qiáng)防范。事實(shí)上，近段時(shí)間AI行業(yè)發(fā)展亂象引發(fā)關(guān)注，如何保障人工智能的健康、可持續(xù)發(fā)展正被業(yè)界廣泛探討。

(資料圖片僅供參考)

《證券日?qǐng)?bào)》記者連日來(lái)通過(guò)走訪調(diào)查發(fā)現(xiàn)，“AI換臉”技術(shù)復(fù)雜度逐步降低且質(zhì)量迅速提升，廣大公眾不容易辨別真假。同時(shí)，該類(lèi)形式詐騙已蔓延至金融行業(yè)中，已有部分券商提示投資者謹(jǐn)防此類(lèi)高仿真詐騙手段。

受訪專(zhuān)家普遍認(rèn)為，“AI換臉”技術(shù)的濫用給金融機(jī)構(gòu)敲響了警鐘，其復(fù)雜性、隱蔽性、突發(fā)性對(duì)機(jī)構(gòu)的科技識(shí)別及運(yùn)用提出了更高的要求。

“AI換臉”技術(shù)

成本不斷下降

如今，打開(kāi)搜索平臺(tái)和社交媒體，各類(lèi)“AI換臉”銷(xiāo)售及教程比比皆是。《證券日?qǐng)?bào)》記者以購(gòu)買(mǎi)者身份咨詢一位銷(xiāo)售“AI換臉”服務(wù)的公司，該公司客服稱(chēng)，視頻換臉的價(jià)格根據(jù)分辨率和視頻長(zhǎng)度來(lái)確定，按每30秒一條來(lái)計(jì)算價(jià)格。根據(jù)對(duì)方提供的清單，預(yù)充3000元可以獲得6條視頻、預(yù)充5000元可獲得20條視頻、預(yù)充3萬(wàn)元可獲得3000條視頻，充值越多單價(jià)越低。

在對(duì)方展示的教學(xué)視頻中，使用者僅需要上傳一張臉部照片，即可通過(guò)簡(jiǎn)單的步完成“一鍵換臉”。客服稱(chēng)，換臉后的視頻可以綁定視頻號(hào)等正規(guī)直播間。記者觀察其提供的成片效果，已是真假難辨。

北京大成律師事務(wù)所高級(jí)合伙人、香港城市大學(xué)法律學(xué)院訪問(wèn)學(xué)者肖颯認(rèn)為：“‘AI換臉’成本降低，會(huì)帶來(lái)技術(shù)的濫用，各方應(yīng)致力于規(guī)范技術(shù)發(fā)展。”

“‘AI換臉’技術(shù)相關(guān)成本涉及技術(shù)復(fù)雜度、所獲取人臉質(zhì)量和數(shù)量、算法和模型選擇等。盡管‘AI換臉’技術(shù)成本有所差異，但總體而言呈下降趨勢(shì)。其中，隨著算法和模型等技術(shù)的進(jìn)步，‘AI換臉’技術(shù)復(fù)雜度會(huì)進(jìn)一步降低，且換臉質(zhì)量隨之提升。”中關(guān)村科金金融事業(yè)部技術(shù)專(zhuān)家張巍向《證券日?qǐng)?bào)》記者解釋道。

索信達(dá)控股AI創(chuàng)新中心主任邵俊告訴《證券日?qǐng)?bào)》記者：“目前‘AI換臉’技術(shù)已較為成熟，且成本不斷下降，容易被不法分子所使用。值得關(guān)注的是，被打包銷(xiāo)售的個(gè)人信息是‘AI換臉’詐騙中所需投喂的‘原料’，這種侵犯?jìng)€(gè)人隱私及售賣(mài)信息的行為需嚴(yán)厲打擊。”

防范不法分子利用新技術(shù)

實(shí)施金融詐騙

記者在調(diào)查中了解到，當(dāng)前“AI換臉”詐騙正向金融行業(yè)蔓延，已有券商發(fā)布了提示性公告。

例如，太平洋證券發(fā)布公告稱(chēng)，有不法分子利用“AI換臉”和聲紋等新技術(shù)冒充金融機(jī)構(gòu)從業(yè)人員實(shí)施詐騙。此類(lèi)事件中，不法分子利用以假亂真的技術(shù)冒充與投資者有業(yè)務(wù)往來(lái)的金融機(jī)構(gòu)從業(yè)人員或其他可信人員身份，通過(guò)直播加群引導(dǎo)，瀏覽假冒金融機(jī)構(gòu)網(wǎng)站和下載仿冒的官方App等各類(lèi)方式，獲取投資者的信任、騙取投資者的錢(qián)財(cái)。

太平洋證券表示，投資者務(wù)必提高警惕，識(shí)別“AI換臉”等高仿真詐騙手段，切勿未經(jīng)多方證實(shí)隨意相信微信朋友視頻救急、金融人員提供的穩(wěn)賺新股申購(gòu)或高收益理財(cái)產(chǎn)品機(jī)會(huì)等；更不要盲目支付會(huì)員費(fèi)或授權(quán)他人代理操作賬戶管理及交易事項(xiàng)。

那么，應(yīng)對(duì)“AI換臉”等新型詐騙手段，投資者該如何防范風(fēng)險(xiǎn)？易觀分析金融行業(yè)高級(jí)咨詢顧問(wèn)蘇筱芮對(duì)記者表示：“目前一些金融從業(yè)人員與金融客戶借助企業(yè)微信、個(gè)人微信等社交渠道，通過(guò)一對(duì)一的方式建立聯(lián)系、進(jìn)行業(yè)務(wù)維護(hù)，容易被不法分子利用‘AI換臉’詐騙。建議個(gè)人與機(jī)構(gòu)員工通過(guò)微信等軟件聯(lián)系時(shí)獲取的信息，尤其是涉及投資、轉(zhuǎn)賬等資金類(lèi)敏感信息，需要再通過(guò)機(jī)構(gòu)官方App、官方熱線等渠道進(jìn)行交叉核實(shí)。”

“個(gè)人信息泄露是精準(zhǔn)詐騙的根源。個(gè)人應(yīng)保管好自身信息，不要隨意向陌生人透露或授權(quán)；在使用社交平臺(tái)時(shí)，要注意設(shè)置隱私權(quán)限；謹(jǐn)慎訪問(wèn)未知網(wǎng)址，謹(jǐn)慎安裝不明來(lái)源App，謹(jǐn)慎打開(kāi)可疑文件，保持手機(jī)系統(tǒng)和軟件更新。”浙江大學(xué)國(guó)際聯(lián)合商學(xué)院數(shù)字經(jīng)濟(jì)與金融創(chuàng)新研究中心聯(lián)席主任、研究員盤(pán)和林告訴記者。

記者在調(diào)查過(guò)程中也發(fā)現(xiàn)，目前在證券開(kāi)戶、業(yè)務(wù)辦理、銀行貸款等方面，金融機(jī)構(gòu)科技識(shí)別及運(yùn)用較為全面，有助于進(jìn)一步消除風(fēng)險(xiǎn)。

一位金融機(jī)構(gòu)相關(guān)負(fù)責(zé)人表示：“當(dāng)前金融系統(tǒng)人臉識(shí)別對(duì)于防范‘AI換臉’做得較為全面，但凡是人臉識(shí)別的場(chǎng)景，往往都需要視頻者全方位展示，如面部、眨眼、張嘴等，這些是判斷是否為‘AI換臉’較為有效的路徑。”

另有金融機(jī)構(gòu)相關(guān)負(fù)責(zé)人對(duì)《證券日?qǐng)?bào)》記者表示：“‘AI換臉’技術(shù)并非是新生事物，此前機(jī)構(gòu)在貸前審核時(shí)，也曾遇到過(guò)客戶用‘換臉’技術(shù)騙貸。對(duì)于機(jī)構(gòu)而言，在貸前生物識(shí)別中，人臉識(shí)別僅是一部分，審核流程中還有多重識(shí)別、交叉驗(yàn)證及多模態(tài)生物防偽等，均可驗(yàn)證其是否為AI臉或是被‘換臉’。”

業(yè)內(nèi)人士普遍認(rèn)為，“AI換臉”本身在機(jī)構(gòu)放貸及其他業(yè)務(wù)方面不太容易蒙混過(guò)關(guān)，更多的是敲響警鐘，提醒機(jī)構(gòu)進(jìn)一步提高科技識(shí)別及運(yùn)用能力，防范相關(guān)風(fēng)險(xiǎn)。

關(guān)鍵詞