近日,，一系列由AI生成的配音視頻在網(wǎng)絡(luò)上引發(fā)關(guān)注，其逼真程度令人驚訝,，不僅畫面栩栩如生,，聲音特征也與真人幾乎無異，短時(shí)間內(nèi)便收獲了過億次的播放量,。然而,，這些視頻中的內(nèi)容與畫面中的公眾人物毫無關(guān)聯(lián)，現(xiàn)已被平臺(tái)下架,。

　　AI技術(shù)的發(fā)展降低了深度偽造和低價(jià)量產(chǎn)的門檻,，AI生成影像、換聲及換臉視頻大量出現(xiàn),。這些視頻雖吸引眼球,，但背后隱藏的風(fēng)險(xiǎn)卻不容忽視。

　　當(dāng)前,，虛假信息的制造和傳播已成為全球性問題,，以假亂真的AI合成技術(shù)讓普通人在信息甄別上陷入困境�,！�2024年人工智能安全報(bào)告》顯示,，基于AI的深度偽造欺詐在2023年激增30倍，對(duì)網(wǎng)絡(luò)安全和社會(huì)安全構(gòu)成嚴(yán)重威脅,。虛假信息的泛濫,，不僅擾亂了網(wǎng)絡(luò)空間的正常秩序，更可能將負(fù)面情緒從虛擬世界傳導(dǎo)至現(xiàn)實(shí),，加劇社會(huì)焦慮,。

　　應(yīng)對(duì)深度偽造等亂象，需要多方協(xié)作,、共同治理,。目前，我國已出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法律法規(guī),，從源頭加強(qiáng)內(nèi)容管理,。同時(shí)，《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見稿）》的發(fā)布,，也標(biāo)志著國家層面正加大對(duì)AI技術(shù)的監(jiān)管力度,。只有讓AI在合法合規(guī)的框架內(nèi)健康發(fā)展，才能讓人們真正享受到技術(shù)變革帶來的紅利,，推動(dòng)人工智能產(chǎn)業(yè)良性發(fā)展,。

　　作為信息傳播的重要一環(huán),，平臺(tái)運(yùn)營商和服務(wù)提供者也應(yīng)承擔(dān)起相應(yīng)的責(zé)任，對(duì)AI生成內(nèi)容劃定紅線,，嚴(yán)禁違法違規(guī),、侵權(quán)欺詐內(nèi)容的傳播，并添加顯著提示標(biāo)識(shí),，防范虛假信息擴(kuò)散,。此外，利用數(shù)字水印,、時(shí)間戳,、哈希函數(shù)等技術(shù)手段，既能提高信息真實(shí)性的可驗(yàn)證性,，也是防范虛假信息傳播的有效手段,。作為內(nèi)容消費(fèi)者，受眾也應(yīng)保持警惕,，提高辨別AI生成內(nèi)容的能力,，避免偏聽偏信。 （作者：李秋旸 來源：經(jīng)濟(jì)日?qǐng)?bào)）