從換臉騙錢到套殼賣課 AI詐騙如何避坑

紙引未來(lái)網(wǎng)訊當(dāng)人們把2023年看作是AI元年時(shí)，2024年的目光自然地聚集在了AI應(yīng)用的落地上。然而在商業(yè)化之前，AI已經(jīng)變成了某些灰色產(chǎn)業(yè)的斂財(cái)工具。

莫名其妙的電話、熱情的美女、謠言、詐騙……在你無(wú)意識(shí)的時(shí)候，AI騙局就已經(jīng)來(lái)到你身邊。PConline收集整理了四大AI新騙局，來(lái)看看你最“眼熟”哪一個(gè)？

騙局一：語(yǔ)音求救

常見(jiàn)范圍：微信、電話目標(biāo)人群：覆蓋所有，其中家長(zhǎng)居多

面對(duì)陌生的號(hào)碼你可能會(huì)直接掛掉，但是如果是家人打來(lái)的“求救電話”呢？

據(jù)報(bào)道，去年11月，王欣的母親突然接到一通“王欣”打來(lái)的電話，讓母親轉(zhuǎn)賬30萬(wàn)元，著急的王欣母親立馬就打算給對(duì)方轉(zhuǎn)錢，被同事攔了下來(lái)。

同事建議先給王欣打電話，確認(rèn)情況，結(jié)果真實(shí)的王欣正在睡午覺(jué)，啥事也沒(méi)，而那通“求救電話”就是騙子利用王欣的AI克隆聲音制作的。

近幾年，AI語(yǔ)音合成技術(shù)有了顯著的發(fā)展，一些C端的應(yīng)用也逐漸成熟。像Voice AI、剪映等應(yīng)用中都提供生成AI克隆音色的功能。

只要念兩個(gè)例句，人人都能輕松生成自己的AI音色。不僅如此，現(xiàn)在的技術(shù)已經(jīng)可以在保證聲音的高保真度的同時(shí)，模擬你的音色，甚至細(xì)致到你說(shuō)話時(shí)的口音、重音、換氣的節(jié)奏等等，完全可以滿足實(shí)時(shí)的互動(dòng)需求。

先前在網(wǎng)絡(luò)上爆火的“AI孫燕姿”就曾引得一眾討論，Up主用孫燕姿的AI克隆音色翻唱《發(fā)如雪》《Melody》等眾多知名歌曲。

該視頻合集獲得了2000多萬(wàn)的播放量，網(wǎng)友們都在驚嘆，AI甚至?xí)淖冊(cè)械牟糠中?，依照孫燕姿的曲風(fēng)特點(diǎn)進(jìn)行調(diào)整，幾乎能做到以假亂真的水平。

同時(shí)網(wǎng)友們也都開(kāi)始擔(dān)心，技術(shù)一旦被濫用，防詐騙的成本就更高了。

這樣的擔(dān)心不無(wú)道理。據(jù)網(wǎng)友分享，自己曾接到過(guò)一通莫名其妙的電話。一接通，對(duì)方就問(wèn)“你家在哪”。

一頭霧水的網(wǎng)友回答“不知道”，徑直掛斷了電話。然而就在幾天后，網(wǎng)友的家人就接到了“網(wǎng)友”的求救電話——騙子僅憑一句話就能生成網(wǎng)友的AI克隆聲音，實(shí)施詐騙。

如果你認(rèn)為，耳聽(tīng)為虛，眼見(jiàn)為實(shí)。視頻信息才能確認(rèn)身份，那么接下來(lái)這個(gè)騙局，將會(huì)顛覆你的想法，讓你驚呼“防不勝防！”

騙局二：換臉詐騙

常見(jiàn)范圍：微信、線上會(huì)議、FaceTime目標(biāo)人群：覆蓋所有，熟人關(guān)系居多、針對(duì)女性居多

如今，眼見(jiàn)為實(shí)的“鐵律”也會(huì)面臨意外的情況，福州市的郭先生就曾因?yàn)檫@條“鐵律”狠狠吃了虧。

在去年4月份，郭先生的朋友突然打來(lái)微信視頻電話，說(shuō)自己在外地投標(biāo)，需要430萬(wàn)的保證金，想借郭先生公司的賬戶走一下帳。

這位“朋友”隨即將錢打到了郭先生的賬戶上，并且截圖讓郭先生確認(rèn)。雖然還未等來(lái)銀行的通知信息，但郭先生還是先把錢轉(zhuǎn)了過(guò)去。結(jié)果，跟他視頻的，是用AI換了臉的騙子，佯裝成郭先生的朋友來(lái)騙錢。

其實(shí)，“眼見(jiàn)為虛”的換臉技術(shù)我們?cè)缇鸵?jiàn)過(guò)。這種技術(shù)名叫Deepfake深度偽造，是一種將圖片/視頻合并疊加到源圖片/視頻上，生成虛假的個(gè)人表情、動(dòng)作的AI技術(shù)。

在2023年上映的《流浪地球2》中，就是利用這個(gè)技術(shù)，將62歲的劉德華還原到我們印象中年輕的華仔模樣。

據(jù)《流浪地球2》的視覺(jué)特效徐建的分享，在電影中，Deepfake的技術(shù)方案是用要替換的目標(biāo)演員的海量素材訓(xùn)練AI替換拍攝素材的一種方式，相對(duì)省時(shí)省力省錢。

在好萊塢電影制作中，這樣的操作很常見(jiàn)。漫威的年輕版鋼鐵俠和年輕版黑豹都是基于Deepfake和演員年輕時(shí)的2D素材訓(xùn)練AI得出的。

但先進(jìn)的技術(shù)往往是一把雙刃劍。落到居心叵測(cè)的人手里，就變成了傷人的利刃。

騙局三：美女帶貨

常見(jiàn)范圍：視頻號(hào)、抖音、小紅書(shū)等多家社交媒體平臺(tái)目標(biāo)人群：覆蓋所有，其中男性居多

外國(guó)人的面孔、些許生硬的中文，再配上濃厚的濾鏡，就組成了龐大的異國(guó)美女隊(duì)伍。

這就是AI的新套路。視頻全部都是由AI合成的假人，再配上機(jī)器語(yǔ)音，打著“促進(jìn)國(guó)際友誼”的旗號(hào)，出售商品。

在這背后操刀的是自媒體團(tuán)隊(duì)。他們的商業(yè)思路十分清晰：先通過(guò)視頻來(lái)積累粉絲——到達(dá)一定粉絲量后，開(kāi)櫥窗帶貨——實(shí)現(xiàn)變現(xiàn)。

由于制作成本低，在起號(hào)階段，一人往往能運(yùn)營(yíng)數(shù)十個(gè)賬號(hào)，視頻的腳本也是通用的。無(wú)所謂單個(gè)賬號(hào)是否有爆款，“廣撒網(wǎng)，多斂魚(yú)”，商品銷量才是最終目的。

騙局四：AI知識(shí)付費(fèi)

常見(jiàn)范圍：微博、抖音、小紅書(shū)等多家社交媒體平臺(tái)目標(biāo)人群：積極學(xué)習(xí)的年輕群體

“現(xiàn)在不學(xué)AI，第一波失業(yè)的就是你！”“AI工作年薪200萬(wàn)，入門(mén)方法免費(fèi)教你！”“AI是普通人逆襲的最后機(jī)會(huì)！”你一定沒(méi)少看到這樣的標(biāo)語(yǔ)。

從2022年底，OpenAI發(fā)布ChatGPT開(kāi)始，學(xué)習(xí)AI就成了新風(fēng)潮。

隨著科技巨頭們不斷推陳出新，各行各業(yè)的內(nèi)容創(chuàng)作者們也鉚足了勁，在自己的賬號(hào)、社群中發(fā)布越來(lái)越多的AI課程——“零基礎(chǔ)學(xué)AI”“AI繪畫(huà)教程”，甚至還有“教你如何做AI課程”的課程。

但大水漫灌的結(jié)果，必然是泥沙俱下。

不少年輕粉絲奔著學(xué)習(xí)新知識(shí)去，卻領(lǐng)了“吃一塹，不長(zhǎng)智”的教訓(xùn)。許多內(nèi)容創(chuàng)作者利用信息差，將國(guó)外免費(fèi)開(kāi)放的官方AI教學(xué)翻譯過(guò)來(lái)，就成了自己的課件，美美賣課。

像許多“零基礎(chǔ)AI”課程中常見(jiàn)的“prompt使用技巧”，其實(shí)是來(lái)自O(shè)penAI官網(wǎng)發(fā)布的教學(xué)內(nèi)容。這些標(biāo)價(jià)199、299元的課程還贈(zèng)送了“免費(fèi)AI體驗(yàn)”。但實(shí)際上，是本就免費(fèi)開(kāi)放的大模型，再加上一個(gè)套殼包裝罷了。

一些粗制濫造的AI課程絲毫不影響這個(gè)市場(chǎng)的火熱程度。不少焦慮的年輕人仍在直播間瘋狂下單。

這些授課人就是通過(guò)傳播焦慮的方式來(lái)促進(jìn)課件的下單量。一不小心你就會(huì)成為“韭菜園里最靚的一棵”。

寫(xiě)在最后

上面四種AI騙局，你被哪個(gè)絆住了腳？

其實(shí)，現(xiàn)在互聯(lián)網(wǎng)上的AI騙局遠(yuǎn)不止這些。網(wǎng)絡(luò)安全公司Fortinet發(fā)布的《2024全球安全威脅預(yù)測(cè)》中提到，AI已經(jīng)成為“頭號(hào)關(guān)注”。

我們自身要擦亮眼睛、審慎思考，這是我們面對(duì)騙局的有效出路。

紙引未來(lái)網(wǎng)是一個(gè)造紙印刷包裝的大數(shù)據(jù)服務(wù)平臺(tái)，為您提供包裝紙價(jià)格指數(shù)、文化用紙價(jià)格指數(shù)、生活用紙價(jià)格指數(shù)、特種紙價(jià)格指數(shù)、廢紙價(jià)格指數(shù)、紙漿價(jià)格指數(shù)，采購(gòu)訂單，廣告推廣，免費(fèi)找貨等服務(wù)。官網(wǎng)網(wǎng)址：http://www.48sq.com