3月1日晚間，劉德華電影公司@映藝娛樂發(fā)布聲明：

近期，部分網(wǎng)絡(luò)主體假借劉德華先生粉絲會(huì)之名義開設(shè)小紅書賬號(hào):HZJLB20080618，并通過網(wǎng)絡(luò)平臺(tái)組建群聊，邀請歌迷成為會(huì)員，甚至仿冒“華仔天地”官方網(wǎng)站，通過其盜版網(wǎng)站“華仔俱樂部”(www.awc618.co)散布關(guān)于劉德華先生2024年演唱會(huì)相關(guān)不實(shí)信息，同時(shí)向消費(fèi)者收取演唱會(huì)門票的訂金，造成了惡劣影響。為避免誤導(dǎo)廣大消費(fèi)者，及維護(hù)劉德華先生的合法權(quán)益，本公司特此嚴(yán)正聲明如下：

20分鐘后，該賬號(hào)再次發(fā)布《關(guān)于AI合成聲音侵權(quán)事件的嚴(yán)正聲明》：

近日，我司發(fā)現(xiàn)微信用戶“華仔共享團(tuán)”(微信號(hào):KOH173)及其關(guān)聯(lián)視頻號(hào)“華仔集結(jié)號(hào)”通過信息技術(shù)手段偽造劉德華先生的聲音，并在未經(jīng)授權(quán)許可的情況下，于微信平臺(tái)連續(xù)發(fā)布其剪輯拼湊視頻，導(dǎo)致公眾發(fā)生誤認(rèn)，從而達(dá)到利用劉先生的知名度吸引流量、售賣商品、從中營利的目的。該行為已嚴(yán)重侵害劉德華先生的肖像權(quán)、姓名權(quán)及聲音權(quán)益，并涉嫌構(gòu)成詐騙。

近年來，“AI換臉”詐騙層出不窮。去年11月，國家金融監(jiān)督管理總局北京監(jiān)管局發(fā)布謹(jǐn)防“AI換臉”等新型欺詐手段的風(fēng)險(xiǎn)提示。

AI如何做到在視頻通話時(shí)換臉呢？記者在一家為公安機(jī)關(guān)提供技術(shù)支持的科技公司看到的演示，相似度可以達(dá)到80%。

記者在現(xiàn)場看到，一個(gè)高配置的電腦，合成一段10秒的換臉視頻只需要一兩分鐘。而技術(shù)的發(fā)展，上述案件中視頻聊天的實(shí)時(shí)變臉也不是難事了。

廣東深圳某科技公司產(chǎn)品部經(jīng)理劉遠(yuǎn)洋表示：“照片上傳后，大概有30秒的時(shí)間對照片進(jìn)行特征識(shí)別，然后建模，建模后就可以進(jìn)行實(shí)時(shí)轉(zhuǎn)換。不管是你的頭像，還是你在朋友圈的一張小照片，都可以直接上傳。”

AI生成的技術(shù)還在不斷更新迭代，比如性別的互換、聲音的變換，都可以同步進(jìn)行。由于算法是開源的，也就是說一個(gè)普通的工程師就可以制作出一個(gè)變臉軟件，這就在控制源頭上帶來了極大的困難。

不斷迭代的AI技術(shù)，已經(jīng)把換臉視頻做到“真假難辨”，我們應(yīng)該如何防范此類新型詐騙呢？

監(jiān)管部門也提醒市民：

網(wǎng)絡(luò)渠道“眼見”不一定為實(shí)。“擬聲”“換臉”等合成技術(shù)的一大特點(diǎn)即“以假亂真”，不法分子可利用此類技術(shù)輕易偽裝成他人，并通過快速篩選目標(biāo)人群、定制化詐騙腳本，精準(zhǔn)實(shí)施詐騙。因此，在涉及資金往來時(shí)，一個(gè)“聲音很熟的電話”、一段“貌似熟人的視頻”都可能是不法分子的詐騙套路；

轉(zhuǎn)賬匯款務(wù)必核驗(yàn)對方身份。面對自稱“熟人”“領(lǐng)導(dǎo)”等通過社交軟件、電話等以各種理由誘導(dǎo)匯款，務(wù)必核驗(yàn)對方身份。如可在溝通過程中提問僅雙方知曉的問題，也可利用其他通訊方式或見面核實(shí)，或向?qū)Ψ降呐笥选⒓胰蓑?yàn)明身份和情況。在無法確認(rèn)對方身份時(shí)，應(yīng)盡量避免轉(zhuǎn)賬操作；

保護(hù)好照片、聲音等個(gè)人信息。消費(fèi)者應(yīng)提高個(gè)人信息保護(hù)意識(shí)，不隨意下載陌生軟件、注冊陌生平臺(tái)或添加陌生好友，對個(gè)人社交賬戶的安全狀況保持警惕。盡量避免在互聯(lián)網(wǎng)過多暴露個(gè)人照片、聲音、視頻等信息，不貪圖方便把身份證、銀行卡照片等直接存放在手機(jī)內(nèi)。如不慎被騙或遇可疑情形，應(yīng)注意保存證據(jù)并立即向當(dāng)?shù)毓矙C(jī)關(guān)報(bào)案。

綜合自央視財(cái)經(jīng)、中央廣電總臺(tái)中國之聲、@映藝娛樂