央視網消息：最近，視頻網站上通過人工智能換臉，《亮劍》裏的主角用英語飈起了台詞，通過小程序用戶也可以將自己變成電影裏的人物。新技術帶來歡樂的同時，也帶來了一種名爲“AI換臉詐騙”的新騙術。前不久，國家金融監督管理總局北京監管局發布謹防“AI換臉”等新型詐騙手段的風險提示，今晚披露，我們就來關注這種騙術如何防。

我們先來看一起“AI換臉詐騙”的案例，青島的一名大學生和他在網上認識的“女朋友”視頻聊天，對方稱需要資金周轉，男孩打錢過去之後，發現竟然被詐騙了。

深圳安絡科技市場部經理 梁雅婷：我們通過取證發現其實跟他聊天的並不是他的女朋友，對方是通過虛擬的攝像頭，然後通過AI換臉的功能跟他進行了聊天。 

視頻通話時換臉 相似度可達80%

那么AI如何做到在視頻通話時換臉呢？記者在一家爲公安機關提供技術支持的科技公司看到的演示，相似度可以達到80%。

深圳安絡科技產品部經理 劉遠洋：剛才我們拍了一張照片，然後現在照片我們已經上傳到電腦上面，然後現在我們只需要軟件的左邊打开去選擇頭像，左邊已經看到圖片，然後右邊是我事先拍好的一段視頻。而我們下面其實我們的工程師已經把這些所有的參數都已經設定好了，我們只需要點擊一下开始執行，然後輸入我們要保存的文件名，這個窗口彈出來過後，換臉視頻就已經开始生成了。 

技術迭代發展 實時變臉難度不大

我們在現場看到，一個高配置的電腦，合成一段10秒的換臉視頻只需要一兩分鐘。而技術的發展，上述案件中視頻聊天的實時變臉也不是難事了。

深圳安絡科技產品部經理 劉遠洋：我們剛才比如說拍攝的這張照片。然後照片上傳上去過後，一般就會有30秒鐘左右的時間，對我們的這張照片進行一個特徵識別，然後進行建模。我們只需要等待，建模好過後就可以進行一個實時的轉換。不管是你的頭像，還是你在朋友圈的一張小照片，只要是照片都可以直接上傳，然後進行特徵的識別建模。

算法开源技術門檻低 控制源頭難

AI生成的技術還在不斷地更新迭代，比如性別的互換，聲音的變換，都可以同步進行。由於算法是开源的，也就是說一個普通的工程師就可以制作出一個變臉軟件，這就導致我們在控制源頭上帶來了極大的困難。

AI換臉用於詐騙 反詐也有新手段

不斷迭代的AI技術已經把換臉視頻做到“真假難辨”，那么我們應該如何防範此類新型詐騙呢？

讓對方在臉部做動作 可發現合成破綻

首先，目前視頻換臉的技術上也不是無懈可擊的，視頻溝通時的一些動作，就可以發現破綻。

深圳安絡科技副總裁 肖堅煒：在這個操作中，如果我用另外第三個圖像去幹擾它，也就相當於他在拍這個視頻的時候，我讓他用手捂臉動一動，它就會幹擾到它這個圖像的一個合成。我們可以從演示看到效果，我把手放上去之後，會明顯地看到他的眼睛在抖動，他的鼻子在抖動，我的手已經消失了，嘴巴也消失了。

除了讓對方在臉部做出一些動作來判斷，專家介紹，AI合成軟件的升級可能是飛速的，如果動作捕捉已經被避开，那么我們就需要通過一些更專業的軟件來分辨了。

深圳安絡科技副總裁 肖堅煒：我們可以通過軟件來識別，比如替換的眼睛、鼻子、嘴巴和輪廓，像素大小是不一樣的，顏色的色域是有差別的，有點像我們的衣服一樣，我先要打一個補丁，它是沒辦法做到完美的，那么這些我們肉眼看不出來，但是軟件算法是可以檢測出來的。 

網站和社交軟件可在視頻傳播時技術甄別

目前，這類鑑別軟件對設備和周邊的要求也比較高，使用起來並不普及。不過，讓視頻傳播的網站或者社交軟件使用專業的鑑別軟件來鑑定，再打上“AI制作”的標籤，在現階段不失爲一個方法。  

對自己的生物特徵數據加強安全防護

預防“AI換臉詐騙”，大家還要加強對人臉、聲紋、步態、指紋等生物特徵數據的安全防護。

中國科技大學公共事務學院、網絡空間安全學院教授 左曉棟：在使用互聯網服務或者在社會生活中要求輸入我們的人臉等生物特徵數據的時候，我們要看一看對方收集我們的生物特徵數據是不是符合數據安全法，個人信息保護法的要求是不是合法正當和必要。

出台政策打擊犯罪 國家撐起“守護傘”

此外，國家也在通過多重手段防範“AI換臉詐騙”，近兩年，相關部門先後出台了互聯網信息服務深度合成管理規定、生成式人工智能服務管理暫行辦法等有關政策文件，先後开展了“互聯網深度合成算法備案”“大語言模型算法備案”等有關的工作，嚴厲打擊利用AI換臉、變聲等手段實施的違法犯罪行爲。

中國科技大學公共事務學院、網絡空間安全學院教授 左曉棟：目前看來，初步遏制了濫用人工智能技術，特別是從事違法犯罪的勢頭，整體治理效果开始顯現，而且也有力地促進了人工智能技術的規範發展。

---

標題：AI換臉用於詐騙 真假難辨怎么辦？

地址：https://www.utechfun.com/post/286929.html