曾幾何時(shí)，“深度偽造”技術(shù)還只是公眾眼中的新奇數(shù)字“玩具”，靠其夸張的“漏洞“在短視頻平臺(tái)娛樂大眾。然而到了2025年，它已經(jīng)完成從“數(shù)字玩具”到“網(wǎng)絡(luò)武器”的轉(zhuǎn)變，成為全球網(wǎng)絡(luò)犯罪分子的高效作案工具?！禖heck Point AI安全報(bào)告2025》指出，深度偽造技術(shù)如今已經(jīng)進(jìn)入高度成熟階段，從離線生成的合成視頻，到可實(shí)時(shí)互動(dòng)的全自動(dòng)擬人化系統(tǒng)，已具備在多平臺(tái)同步發(fā)起精準(zhǔn)詐騙的能力。

技術(shù)演進(jìn)帶來新型威脅

報(bào)告顯示，全球范圍內(nèi)深度偽造已不再局限于提前渲染的視頻或音頻，而是發(fā)展出能夠?qū)崟r(shí)換臉、實(shí)時(shí)語音克隆，甚至全自動(dòng)與目標(biāo)進(jìn)行多輪對(duì)話的AI代理系統(tǒng)。這些技術(shù)曾經(jīng)需要頂尖黑客組織才能掌握，如今卻通過暗網(wǎng)論壇和Telegram渠道以低廉價(jià)格出售。

自2024年以來，一些案例已經(jīng)為全球用戶敲響警鐘：英國與加拿大在兩起深度偽造視頻詐騙案中累計(jì)損失超3500萬美元；意大利犯罪分子利用實(shí)時(shí)語音克隆冒充國防部長(zhǎng)實(shí)施勒索；更有售價(jià)約2萬美元的AI電話系統(tǒng)，可在多通道、跨語言的通話中同時(shí)模仿任意聲音，且無需人工干預(yù)。

監(jiān)管部門及時(shí)干預(yù)

深度偽造的風(fēng)險(xiǎn)并非僅在海外肆虐。2025年初，媒體報(bào)道香港一家公司遭遇深度偽造詐騙：犯罪分子通過AI技術(shù)生成公司高管的逼真視頻，在一次遠(yuǎn)程會(huì)議中成功騙取財(cái)務(wù)人員信任，最終導(dǎo)致上千萬港元的資金損失。此案中，視頻不僅高度還原了高管的外貌與語音，還模擬了會(huì)議中的互動(dòng)細(xì)節(jié)，讓受害者在群體壓力和情境真實(shí)性的雙重影響下放松警惕。

事實(shí)上，我國監(jiān)管部門早已注意到這一風(fēng)險(xiǎn)。2022年12月，《深度合成服務(wù)管理規(guī)定》正式施行，明確要求深度合成服務(wù)提供者采取顯著標(biāo)識(shí)等措施，防止技術(shù)被用于制作、發(fā)布違法信息。這不僅體現(xiàn)了國家對(duì)深度偽造的監(jiān)管決心，也為企業(yè)在技術(shù)應(yīng)用中合規(guī)防護(hù)提供了制度保障。

從品牌信任到經(jīng)濟(jì)安全的全面沖擊

深度偽造的危害遠(yuǎn)不止于單一詐騙事件。Check Point報(bào)告指出，結(jié)合生成式AI的深度偽造正推動(dòng)釣魚攻擊、商業(yè)郵件詐騙（BEC）和高管冒充進(jìn)入成熟落地階段。AI生成的郵件在語法、格式、措辭上與真實(shí)企業(yè)通信幾乎無異，且可以根據(jù)受害者背景實(shí)現(xiàn)高度個(gè)性化。在2024年，全球67.4%的釣魚事件已涉及AI技術(shù)，金融行業(yè)是受攻擊最頻繁的領(lǐng)域之一。

更令人擔(dān)憂的是，深度偽造與大規(guī)模數(shù)據(jù)分析的結(jié)合，讓網(wǎng)絡(luò)犯罪分子能夠快速收集、解析社交媒體、公共記錄以及泄露數(shù)據(jù)庫中的信息，進(jìn)而預(yù)測(cè)受害者行為、優(yōu)化攻擊時(shí)機(jī)。例如，攻擊者可以分析某公司CEO的發(fā)言習(xí)慣，在最可能取得信任的時(shí)間點(diǎn)發(fā)送帶有其“語氣”的郵件，大幅提升欺騙成功率。

AI對(duì)抗AI勢(shì)在必行

Check Point在報(bào)告中揭示：依賴直覺或肉眼甄別真?zhèn)蔚臅r(shí)代已經(jīng)過去。在實(shí)時(shí)換臉、語音克隆和視頻合成技術(shù)的加持下，真假邊界正在快速消失。無論是求職面試騙局、假冒高管的遠(yuǎn)程會(huì)議，還是多語言、多平臺(tái)同步的實(shí)時(shí)詐騙，都是現(xiàn)實(shí)中正在發(fā)生的威脅。

針對(duì)這一趨勢(shì)，Check Point公司中國區(qū)技術(shù)總監(jiān)王躍霖指出：“AI已逐漸發(fā)展為一種成熟的生產(chǎn)工具，既可被攻擊者利用，也可被防御者應(yīng)用。隨著攻擊與防御的速度和規(guī)模迅速提升，僅靠傳統(tǒng)依賴人力的防御策略已難以為繼，必須以‘AI對(duì)抗 AI’的理念構(gòu)建更智能、更主動(dòng)的防御體系，方可應(yīng)對(duì)當(dāng)下新興威脅帶來的挑戰(zhàn)。對(duì)于深度偽造對(duì)企業(yè)用戶帶來的威脅，防御重點(diǎn)必須放在員工身上，最核心的要素是‘流程管理’與‘安全培訓(xùn)’。內(nèi)部溝通流程必須具備足夠的韌性，確保員工在處理敏感業(yè)務(wù)時(shí)始終遵循正確規(guī)范。同時(shí)應(yīng)對(duì)員工加強(qiáng)安全意識(shí)培訓(xùn)，凡是涉及財(cái)務(wù)交易或業(yè)務(wù)指令的溝通，都必須進(jìn)行驗(yàn)證，甚至多步驟認(rèn)證”。

《Check Point AI安全報(bào)告2025》顯示，隨著技術(shù)的快速進(jìn)化，深度偽造的欺騙能力、規(guī)?；芰蛯?shí)時(shí)適應(yīng)能力正推動(dòng)網(wǎng)絡(luò)威脅格局發(fā)生根本性變化。唯有將監(jiān)管要求、企業(yè)防護(hù)實(shí)踐與全球領(lǐng)先的技術(shù)方案相結(jié)合，才能在這場(chǎng)新興的AI安全博弈中掌握主動(dòng)權(quán)。

來源：IT之家