近日，AI換臉技術(shù)因幾例詐騙案的告破引發(fā)大眾關(guān)注。一位包頭老板被AI換臉詐騙430萬元后，安徽警方又公布了另一起AI換臉導(dǎo)致的詐騙案，涉案金額同樣高達(dá)百萬元。

伴隨著AI大模型的發(fā)展，深度合成技術(shù)應(yīng)用范圍越來越廣，門檻也越來越低，催生了美顏換臉、影視制作、虛擬主播等應(yīng)用服務(wù)。

技術(shù)突破還使得換臉后的人物表情、動作細(xì)節(jié)更為逼真，存在被不法分子惡意利用，制作違法和不良信息，詆毀貶損他人名譽(yù)，仿冒他人身份實施詐騙等現(xiàn)象。

(資料圖片)

付費(fèi)軟件可支持直播換臉

商家宣稱“混合多個人臉”可降低侵權(quán)風(fēng)險

紅星新聞記者注意到，自今年起，市面上涌現(xiàn)出許多以“AI換臉”為宣傳標(biāo)簽的軟件和網(wǎng)站。由于涉及人臉信息泄露等網(wǎng)絡(luò)安全問題，該類技術(shù)的運(yùn)用一直是網(wǎng)絡(luò)安全監(jiān)管的重點(diǎn)對象，許多換臉軟件因而通過短視頻平臺、社交賬號等私密渠道進(jìn)行資源共享。

5月底，紅星新聞記者實測發(fā)現(xiàn)，以“AI換臉”為關(guān)鍵詞在電商平臺搜索，顯示“沒有找到相關(guān)寶貝”，但通過類似關(guān)鍵詞搜索，依舊可以搜索到相關(guān)的換臉技術(shù)服務(wù)。一名商家向紅星新聞記者介紹，目前店鋪只支持換大部分國外明星的臉，不含國內(nèi)明星的臉部模型。

另一位商家則介紹，可以提供國內(nèi)明星換臉服務(wù)，軟件價格2000元一套，可送一個模型，“模型可以定制，另外加500元一個?！睋?jù)該商家銷售人員說，他們的模型要比網(wǎng)上免費(fèi)分享的“swapface、表情照相機(jī)”效果更好，且操作上簡單易學(xué)，幾分鐘便可以學(xué)會。

此外，該名商家提供了多組套餐供選擇：包括單圖換臉、實時換臉、全自動換臉等，價格多集中在2000元至3000元每套。對于紅星新聞記者提出的侵權(quán)顧慮，該商家表示可以進(jìn)行多個人臉混合的方式，即將使用者本人的臉和明星的臉進(jìn)行混合，從而降低侵權(quán)風(fēng)險。

在某銷售網(wǎng)站上，一名軟件開發(fā)者向紅星新聞記者展示了如何將知名女星的眼睛和嘴巴拼接融合到一起，生成全新虛擬數(shù)字人的過程。據(jù)介紹，該款軟件提供了從初級（LV1）到超級（LV4）再到全套（LV5）的不同版本。以初級套餐來說，付費(fèi)499元可提供軟件界面、視頻指導(dǎo)、入門級模型、基礎(chǔ)指導(dǎo)等，付費(fèi)2888元，則可得到全套（LV5）等級的視頻換臉模型。價格不同，套餐中包含的人臉模型數(shù)目也不同。

上述軟件開發(fā)者介紹，軟件不僅可以實現(xiàn)視頻換臉，還支持直播換臉?！叭绻阌锌粗械哪?，可以找到某個人的正面、側(cè)面等各種角度視頻拿來訓(xùn)練。”該軟件開發(fā)者同樣表示，“如果你想要明星臉，又怕侵權(quán)，不想那么像，就可以找?guī)讉€人的臉放在一起訓(xùn)練，就可以看上去又像又不像，達(dá)到明星臉的效果?！?/p>

賣家展示的局部五官更換

多款A(yù)I換臉APP快速火爆又下架

有開發(fā)者稱目前人臉已通過原作者授權(quán)

由于涉及到個人最重要的生物特征信息——人臉，存在濫用之嫌的AI換臉技術(shù)從誕生起就面臨著許多爭議。近年來多款A(yù)I換臉APP在快速爆火后又悄然下架。

2019年起，AI換臉技術(shù)就風(fēng)靡全球，2019年換臉技術(shù)DeepFake一出現(xiàn)便引發(fā)巨大的倫理和法律爭議。同年，國內(nèi)一款名為“ZAO”的換臉社交軟件爆火，用戶只需要在平臺上提交一張自己的正臉照片，便可以替換特定視頻段落中的人物，生成包含自己的影視片段。爆火幾天以后，該軟件就被質(zhì)疑“霸王條款”過度獲取用戶授權(quán)，使用戶拱手相讓自己的肖像權(quán)，同時明星被侵權(quán)的責(zé)任也可能由用戶承擔(dān)。幾天后該軟件被工業(yè)和信息化部網(wǎng)絡(luò)安全管理局約談后下架。此后出現(xiàn)的如“螞蟻呀嘿”換臉軟件等也重復(fù)了類似的命運(yùn)。

近日，紅星新聞記者在應(yīng)用軟件平臺以“換臉”為關(guān)鍵詞進(jìn)行搜索，發(fā)現(xiàn)平臺中已新出現(xiàn)多款具有AI換臉功能的軟件。以“秀臉FacePlay”為例，其《隱私政策》條款提到：“我們既不會存儲也不會與任何第三方共享/處理您的個人面部信息?！边M(jìn)入應(yīng)用后，該軟件再次提示不會保存?zhèn)€人的任何照片，分析完即刪除。紅星新聞記者以明星的名字進(jìn)行搜索，幾乎沒有出現(xiàn)明星相關(guān)的視頻影像。其用于換臉的視頻影像樣本幾乎都是素人用戶。紅星新聞記者咨詢了該軟件的客服，其表示使用該軟件制作的視頻可以進(jìn)行娛樂分享，不支持商用?！澳壳拔覀冘浖?nèi)上架的視頻模板均由原作者授權(quán)或者用戶自行授權(quán)投稿，您可以放心使用?！?/p>

在短視頻平臺也有許多相關(guān)換臉特效，包括影視片段、明星發(fā)布會視頻、網(wǎng)紅視頻等，紅星新聞記者點(diǎn)開后沒有簽署用戶協(xié)議的提示。在某短視頻平臺的AI隨拍中，提供了許多明星的視頻供用戶進(jìn)行換臉。紅星新聞記者選擇了一段視頻并提交照片后，程序提示“15元每周可提供無廣告快速制作，看廣告則可以免費(fèi)制作”?？催^廣告以后，生成的視頻左下角出現(xiàn)一行字進(jìn)行了顯著標(biāo)識，稱“該視頻由AI技術(shù)合成”，右下角提示“該內(nèi)容僅供娛樂”。就是否會造成人臉數(shù)據(jù)泄露、人臉詐騙等問題，紅星新聞記者詢問了該平臺客服，對方表示已在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識，建議用戶偶爾娛樂，本身被起訴的幾率不高，維權(quán)方“維權(quán)成本比較高”。

在直播領(lǐng)域，許多網(wǎng)友也發(fā)現(xiàn)多位帶貨直播博主都長了一張“明星臉”，神似明星楊冪、迪麗熱巴、angelababy、佟麗婭等。而在直播過程中，沒有出現(xiàn)顯著的標(biāo)識表明主播的臉可能使用了AI合成技術(shù)。另外，有些直播也沒有對明星名字的明顯標(biāo)識。甚至有網(wǎng)友吐槽，他在直播間提醒商家可能涉嫌侵權(quán)后被商家踢出拉黑。

在直播領(lǐng)域，許多網(wǎng)友也發(fā)現(xiàn)多位帶貨直播的博主都長了一張“明星臉”，神似明星楊冪、迪麗熱巴、angelababy、佟麗婭等

針對這一法律問題，多位律師受訪時認(rèn)為，如果對該明星的形象有抹黑，則涉及侵犯名譽(yù)權(quán)。如果是利用AI換臉技術(shù)制作明星的色情視頻，則可能涉嫌刑事犯罪。由于讓公眾誤以為是明星帶貨，還可能涉及欺詐或虛假宣傳。另外，被侵權(quán)的明星可以要求商家賠償換臉“明星”帶貨所得的利潤。

專家：靠AI識破AI仍不現(xiàn)實

有效的標(biāo)識監(jiān)管體系能提前厘清邊界

當(dāng)人們已經(jīng)很難用肉眼識別出AI合成痕跡，進(jìn)而可能被AI詐騙時，有網(wǎng)友想到一個辦法：是否可以用AI技術(shù)打敗AI技術(shù)。

據(jù)了解，國內(nèi)已有許多科學(xué)家在深耕此領(lǐng)域。中科院計算所一團(tuán)隊近年來搭建了國內(nèi)首個AI識謠平臺——睿鑒識謠，通過“睿鑒AI”小程序，利用大數(shù)據(jù)和AI平臺向公眾開放了“新聞可信度分析”“圖像視頻偽造檢測”等服務(wù)，檢測圖片視頻內(nèi)容真?zhèn)?。紅星新聞記者上傳了幾張首次進(jìn)行AI換臉的圖片，被成功證偽。后上傳了一段由AI合成的新聞視頻，該程序則稱AI合成視頻為真?？梢姡壳巴ㄟ^技術(shù)識別內(nèi)容真?zhèn)芜€存在一定的局限。

目前，AI換臉技術(shù)用于違法犯罪的行為主要集中于換臉淫穢視頻盈利、實時換臉詐騙以及換臉直播領(lǐng)域，主要涉及聲音合成、AI換臉、轉(zhuǎn)發(fā)微信語音、AI程序篩選受害人等。浙江大學(xué)網(wǎng)絡(luò)空間安全學(xué)院院長任奎2022年4月接受新華社采訪時表示，隨著合成技術(shù)應(yīng)用門檻的進(jìn)一步降低，合成內(nèi)容已模糊真實與偽造的邊界。許多專家擔(dān)心，科技界針對深度合成技術(shù)的識別能力，跑不過“偽造”技術(shù)的升級。

清華大學(xué)教授、博士生導(dǎo)師沈陽也介紹，現(xiàn)在國外有一些AI安全技術(shù)雛形，可以自動檢測某個圖片或視頻是否為AI合成，但當(dāng)前技術(shù)還不是太成熟。“技術(shù)難點(diǎn)在于，AI生成的數(shù)據(jù)量太大，檢測的算力跟不上，且很多AI內(nèi)容都經(jīng)歷了多次合成，當(dāng)前技術(shù)難以找到合成特征。”

創(chuàng)新工場AI子公司CTO張發(fā)恩指出，用AI識破AI是個偽命題。有一種人工智能模型訓(xùn)練方式叫生成辨別對抗訓(xùn)練，在這種訓(xùn)練方式下，有兩個AI模型，一個是“造假”模型，一個是辨別模型。同時訓(xùn)練這兩個模型，當(dāng)“造假”模型產(chǎn)出的內(nèi)容越來越逼真，辨別模型就無法辨別真假?；谶@種邏輯，我們無法依靠AI來揭穿AI。

北京嘉維律師事務(wù)所律師、IT法律專家趙占領(lǐng)表示，根據(jù)2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》要求，深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)加強(qiáng)訓(xùn)練數(shù)據(jù)管理，采取必要措施保障訓(xùn)練數(shù)據(jù)安全；訓(xùn)練數(shù)據(jù)包含個人信息的，應(yīng)當(dāng)遵守個人信息保護(hù)的有關(guān)規(guī)定；提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識，避免公眾混淆或者誤認(rèn)。4月11日，國家網(wǎng)信辦起草了《生成式人工智能服務(wù)管理辦法》，提到AI內(nèi)容必須遵循法律法規(guī)等。“從目前來說，如果能夠有效落實標(biāo)識的要求，形成有效的監(jiān)管體系，可以在很大程度上提前厘清‘AI換臉’所帶來的模糊邊界。”