36氪
鄧炳強(qiáng)
2026-02-10 18:59:39
想象一下，你最喜愛的經(jīng)典電影片段，卻突然出現(xiàn)了你從未見過的明星面孔，而口型卻與原聲完美契合；又或者，一款A(yù)PP能讓你瞬間“穿越”到電影場(chǎng)景，成為主角，與偶像同框飆戲。這一切，都離不開一項(xiàng)令人驚嘆的AI技術(shù)——AI明星換臉，也被稱為“深度偽造”（Deepfake）技術(shù)在視覺層面的極致應(yīng)用。
這項(xiàng)技術(shù)的核心在于利用深度學(xué)習(xí)算法，特別是生成對(duì)抗網(wǎng)絡(luò)（GANs），來學(xué)習(xí)并??重構(gòu)人臉的特征。
AI明星換臉的制作過程，就好比一位技藝精湛的“數(shù)字雕塑家”。需要大量的??目標(biāo)明星的高清視頻和圖片作為“素材庫(kù)”，這些素材包含了明星在不同光照、角度、表情下的面部信息。還需要一段需要被“替換”的視頻，比如一個(gè)普通人的??表演或者另一個(gè)明星的表演。
AI算法會(huì)像海綿一樣，從中學(xué)習(xí)目標(biāo)明星的面部結(jié)構(gòu)、紋理、表情肌的??運(yùn)動(dòng)規(guī)律，以及光影變化如何影響其面部呈現(xiàn)。
GANs是其中扮演關(guān)鍵角色的技術(shù)。它包含兩個(gè)相互競(jìng)爭(zhēng)的網(wǎng)絡(luò)：生成器（Generator）和判別器（Discriminator）。生成器負(fù)責(zé)根據(jù)輸入的源視頻（被替換者）和目標(biāo)明星的面部特征，生成一張“假”的??、包含目標(biāo)明星面孔的圖像。而判別器則負(fù)責(zé)分辨這張生成的圖像是真實(shí)的（來自目標(biāo)明星的素材庫(kù)）還是偽造的。
在不斷的“對(duì)抗”和“學(xué)習(xí)”中，生成??器越來越擅長(zhǎng)欺騙判別器，最終能夠生成以假亂真的換臉視頻。簡(jiǎn)單來說，就是生成器不斷“畫”明星的臉，判別器不??斷“挑錯(cuò)”，直到生成器畫得連判別器都分辨不出來真假。
AI明星換臉的魅力在于其強(qiáng)大的視覺沖??擊力和無限的可能性。在娛樂產(chǎn)業(yè)，它為影視制作帶來了革命性的變化。老電影的修復(fù)和重制，可以“復(fù)活”已故的明星，讓他們?cè)谛碌淖髌分小艾F(xiàn)身”，彌補(bǔ)遺憾；特效制作的成本大大降低，演員無需進(jìn)行高難度的危險(xiǎn)動(dòng)作，可以直接使用替身或數(shù)字模型，再通過換臉技術(shù)將演員的面孔疊加上去；甚至可以為用戶提供個(gè)性化的娛樂體驗(yàn)，例如將自己“植入”到喜歡的電影場(chǎng)景中，與偶像互動(dòng)。
社交媒體和短視頻平臺(tái)的興起，更是將AI換臉技術(shù)推向了大眾。各種換臉APP層出不窮，用戶可以通過簡(jiǎn)單的操作，將自己的臉換成明星、卡通人物，甚至是朋友的臉，帶來了新穎有趣的社交互動(dòng)方式。一些品牌也開始嘗試?yán)肁I換臉技術(shù)制作更具吸引力的廣告，讓虛擬代言人與真實(shí)明星“同臺(tái)競(jìng)技”。
這項(xiàng)技術(shù)也伴隨著巨大的爭(zhēng)議和潛在風(fēng)險(xiǎn)。最令人擔(dān)憂的是其被濫用于制作虛假信息和色情內(nèi)容。不法分子可能利用這項(xiàng)技術(shù)，將公眾人物或普通人的面孔置于不當(dāng)?shù)膱?chǎng)景中，損害其聲譽(yù)，甚至進(jìn)行敲詐勒索。這種“深度偽造”的內(nèi)容，因?yàn)槠浔普嫘裕瑯O易誤導(dǎo)公眾，加劇信息繭房效應(yīng)，對(duì)社會(huì)信任體系構(gòu)成挑戰(zhàn)。
對(duì)于版權(quán)和肖像權(quán)的問題，也帶來了新的法律難題。當(dāng)一個(gè)明星的面孔被隨意用于商業(yè)廣告或不正當(dāng)內(nèi)容時(shí)，其肖像權(quán)和知識(shí)產(chǎn)權(quán)如何保??護(hù)，成為一個(gè)亟待解決的問題。
盡管AI明星換臉技術(shù)已經(jīng)相當(dāng)成熟，但仍然存在一些技術(shù)上的挑戰(zhàn)。例如，在處理復(fù)雜的表??情、光照變化劇烈或者視頻分辨率較低的情況下，換臉效果可能會(huì)出現(xiàn)破綻，如面部邊緣模糊、表情不??自然、眼神呆滯等。尤其是在高速運(yùn)動(dòng)或大幅度頭部轉(zhuǎn)動(dòng)時(shí)，AI可能難以實(shí)時(shí)捕捉并精準(zhǔn)替換所有關(guān)鍵面部特征，導(dǎo)致畫面出現(xiàn)“穿幫”。
從辨別??角度來看，早期的深度偽造視頻往往存在一些明顯的痕跡，比如眨眼頻率異常、面部顏色不統(tǒng)一、口型與聲音不同步等。隨著技術(shù)的不斷進(jìn)步，AI生成的視頻越來越逼真，痕跡也越來越難以察覺。這使得普通用戶在信息爆??炸的時(shí)代，分辨真?zhèn)蔚碾y度大大??增加。
媒體素養(yǎng)和批判性思維，在這個(gè)“眼見不一定為實(shí)”的時(shí)代，變得尤為重要。
如果說AI明星換臉是在視覺上制造“幻術(shù)”，那么AI合成聲（AIVoiceCloning）則是在聽覺領(lǐng)域掀起了一場(chǎng)“聲音革命”。它能夠模仿甚至“復(fù)制”任何人的??聲音，無論是指已故的藝術(shù)家、活躍的公眾人物，還是我們身邊的親朋好友。這項(xiàng)技術(shù)的核心在于通過深度學(xué)習(xí)模型，分析并學(xué)習(xí)特定聲音的聲學(xué)特征，包??括音色、語(yǔ)調(diào)、節(jié)奏、韻律，甚至細(xì)微的語(yǔ)氣和情感表??達(dá)，最終生成一段具有高度相似性、幾乎無法與原聲區(qū)分的全新語(yǔ)音。
AI合成聲的??制作過程，同樣依賴于大量的音頻數(shù)據(jù)。制作團(tuán)隊(duì)需要收集目標(biāo)人物的高質(zhì)量語(yǔ)音樣本，這些樣本的長(zhǎng)度越長(zhǎng)、內(nèi)容越豐富，合成的聲音就越逼真。AI模型會(huì)從中提取聲音的“數(shù)字指紋”，也就是聲學(xué)參數(shù)，例如基頻（Pitch）、共振峰（Formants）、語(yǔ)速（SpeechRate）、停頓（Pause）等。
主要的AI模型包括循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）、長(zhǎng)短期記憶網(wǎng)絡(luò)（LSTM）以及近年來備受矚目的Transformer模型。這些模型能夠捕捉聲音在時(shí)間序列上的變??化規(guī)律，理解不同音素之間的轉(zhuǎn)換關(guān)系，以及上下文信息對(duì)發(fā)音的影響。通過“聽”和“學(xué)”，AI逐漸掌握了目標(biāo)聲音的說話模式。
生成過程通常分為兩個(gè)階段。第一階段是文本到語(yǔ)音（Text-to-Speech,TTS）的轉(zhuǎn)換，AI根據(jù)輸入的文本，生成一段基礎(chǔ)的語(yǔ)音波形。第二階段是聲碼器（Vocoder）的應(yīng)用，它負(fù)責(zé)將基礎(chǔ)波形轉(zhuǎn)化為更具情感和自然度的聲音，使得合成的聲音聽起來更加“有人味”，而不是機(jī)械的電子音。
目前，一些先進(jìn)的AI合成聲技術(shù)，甚至能夠在極短的時(shí)間內(nèi)，通過幾秒鐘的音頻樣本??，就生成??一段逼真的模仿聲，這得益于“少樣本??學(xué)習(xí)”（Few-shotLearning）和“零樣本學(xué)習(xí)”（Zero-shotLearning）等??技術(shù)的突破。
AI合成聲的應(yīng)用場(chǎng)景同樣廣泛且充滿想象力。在內(nèi)容創(chuàng)作領(lǐng)域，它可以為視頻、播客、有聲書提供低成本、高效率的配音解決方案。這意味著，我們可以用“任何明星的聲音”來播報(bào)新聞、朗讀故事，甚至制作個(gè)性化的語(yǔ)音助手。對(duì)于那些無法親自配音的創(chuàng)作者來說，AI合成聲無疑是一大利器。
在輔助技術(shù)方面，AI合成聲可以為語(yǔ)言障礙者提供更自然、更富情感的交流方式。例如，為漸凍癥患者提供個(gè)性化的聲音，讓他們能夠通過AI合成的語(yǔ)音與世界對(duì)話。在教育領(lǐng)域，AI合成聲可以用于生成不同口音和語(yǔ)調(diào)的語(yǔ)言學(xué)習(xí)材料，提升學(xué)習(xí)效果。
AI合成聲也帶來了與AI換臉相似的風(fēng)險(xiǎn)，甚至在某些方面更為隱蔽和危險(xiǎn)。最直接的威脅是“電話詐騙”的升級(jí)。不法分子可以利用AI合成技術(shù)，模仿親人、朋友的聲音，進(jìn)行詐騙。一句熟悉的聲音，加上一個(gè)看似緊急的請(qǐng)求，足以讓受害者放松警惕，造成財(cái)產(chǎn)損失。
AI合成聲也可能被用于制造虛假新聞、傳播不實(shí)言論，通過“名人代言”或“官方聲明”的形式，極大地誤導(dǎo)公眾。它還可以被用于誹謗、人身攻擊，通過偽造對(duì)話內(nèi)容，抹黑個(gè)人或組織。由于聲音的??侵入性和情感的直接觸??達(dá)性，AI合成聲可能比??視覺偽造更容易觸動(dòng)人心，其潛在的社會(huì)危害不容小覷。
雖然AI合成聲技術(shù)日趨成熟，但仍然存在一些技術(shù)上的難點(diǎn)。要完全捕捉并模仿原聲中細(xì)微的情感波動(dòng)、語(yǔ)氣變化以及口齒不清等“不??完美”的瑕疵，仍然是AI面臨的挑戰(zhàn)。過于完美、缺乏情感起伏的聲音，反而可能暴露出其AI合成的本質(zhì)。在模擬不同語(yǔ)言、不??同口音時(shí)，AI的表現(xiàn)能力還有待提升。
從辨??別角度來看，AI合成聲的辨別難度同樣很高。早期合成的聲音可能聽起來比較機(jī)械，有明顯的“電子感”。但現(xiàn)在，一些AI合成??聲已經(jīng)可以模仿出自然的??呼吸聲、吞咽聲，甚至是通過“咬字不清”來模擬人類的真實(shí)發(fā)音習(xí)慣。識(shí)別??其真?zhèn)危枰犝呔邆涓叨鹊木X性，并留意一些細(xì)節(jié)：
語(yǔ)調(diào)的異常：某些詞語(yǔ)或句子的語(yǔ)調(diào)與上下文不符，或者出現(xiàn)突然的起伏。情感的缺失或夸張：聲音聽起來過于平淡，缺乏應(yīng)有的??情感，或者情感表達(dá)顯得不自然、夸張。呼吸和停頓的不協(xié)調(diào)：呼吸的節(jié)奏不自然，或者在不該停頓的地方停頓。背景噪音的處理：如果是模仿在特定環(huán)境中說話，背景噪音的處理是否自然，或者與說話內(nèi)容不匹配。
口型與聲音的差異（結(jié)合視頻）：如果有視頻，需要關(guān)注口型是否與聲音完全吻合，是否存在細(xì)微的錯(cuò)位。
盡管如此，隨著AI技術(shù)的快速發(fā)展，辨??別AI合成??聲的難度只會(huì)越來越大。未來的趨勢(shì)是，AI不僅能生成逼真的聲音，還能結(jié)合AI換臉技術(shù)，創(chuàng)造出完整的、以假亂真的虛擬人物，帶給我們前所未有的視聽體驗(yàn)，同時(shí)也對(duì)我們的信息辨別能力提出了更高的??要求。我們正處在一個(gè)真假難辨的時(shí)代，保持?審慎和理性，將是我們?cè)谛畔⒑榱髦斜３智逍训年P(guān)鍵。
中央網(wǎng)信辦違法和不良信息舉報(bào)中心|證券時(shí)報(bào)網(wǎng)舉報(bào)中心