隨著AI人工智能技術(shù)的迅猛發(fā)展，網(wǎng)絡(luò)上涌現(xiàn)出各種逼真的篡改視頻，這項(xiàng)高科技手段如今也被不法分子盯上，用于實(shí)施網(wǎng)絡(luò)詐騙。據(jù)《紐約時報》近日報道，AI生成的埃隆·馬斯克形象已經(jīng)出現(xiàn)在數(shù)千條虛假廣告中，導(dǎo)致數(shù)十億美元的詐騙案件，且已有人因此上當(dāng)受騙，損失慘重。

詐騙者會利用唇形同步技術(shù)（Lip-synching），調(diào)整人物的口型，隨后使用語音克隆工具添加一個AI復(fù)制的語音。

最后，部分視頻還會添加模仿BBC等專業(yè)新聞機(jī)構(gòu)的虛假圖標(biāo)，這對于普通互聯(lián)網(wǎng)用戶來說也許更有說服力。

去年底，82歲的退休老人蒂夫·博尚普在網(wǎng)絡(luò)上看到了一段關(guān)于馬斯克的“真實(shí)采訪”。在這段視頻中，馬斯克支持一項(xiàng)承諾快速回報的激進(jìn)投資機(jī)會，口型與聲音都高度同步，看起來極為真實(shí)。信以為真的老人隨后聯(lián)系到該廣告背后的公司，并按照指導(dǎo)開設(shè)了賬戶。在接下來的幾周里，老人在一系列交易中花光了自己的退休資金，最終投資了超過69萬美元（約495萬人民幣）。然而，這筆錢最終全部被騙子卷走，老人損失慘重。

這并非個例，類似的詐騙案件屢見不鮮。詐騙犯通常會先尋找一個真實(shí)的視頻，然后使用人工智能工具將目標(biāo)人物的聲音替換成復(fù)制品，并利用口型同步技術(shù)編輯目標(biāo)人物的口型，使視頻看起來更加真實(shí)可信。在這種高科技手段的掩護(hù)下，不法分子得以實(shí)施大規(guī)模的詐騙活動。

監(jiān)測深度偽造視頻的機(jī)構(gòu)Sensity近日進(jìn)行了一項(xiàng)調(diào)查，通過分析2000多段深度偽造視頻，發(fā)現(xiàn)馬斯克已經(jīng)成為這類視頻中最常見的“發(fā)言人”。自去年年底以來，馬斯克出現(xiàn)在近1/4的深度偽造詐騙視頻中，其中針對加密貨幣的視頻他的出現(xiàn)率更是高達(dá)90%。這一發(fā)現(xiàn)無疑揭示了馬斯克形象在AI詐騙中的廣泛利用。

除了馬斯克之外，還有其他名人也被騙子利用，包括沃倫·巴菲特、杰夫·貝索斯等。這些名人的形象在深度偽造視頻中被用于推廣各種虛假的投資機(jī)會和詐騙項(xiàng)目，導(dǎo)致大量受害者上當(dāng)受騙。