最近，人們越來越關注因AI換臉技術導致的詐騙案件。隨著AI大模型的發(fā)展，“換臉”技術的應用范圍越來越廣，技術突破還使得換臉后的人物表情、動作細節(jié)更為逼真，一旦被不法分子利用，可能會帶來嚴重危害。據記者調查，網絡上的AI換臉軟件的獲取非常容易，但利用AI換臉軟件存在法律邊界，如何做好事前監(jiān)管？

在當前AI大模型及算法的突破下，AI換臉正在實現(xiàn)更大范圍的應用，引發(fā)更多擔憂。許多高價的付費AI換臉軟件在網絡上盛行，這些付費軟件與免費軟件有著截然不同的效果。

搜索“AI換臉軟件”后聯(lián)系的一個開發(fā)者提供了使用其軟件實現(xiàn)換臉的示范視頻，肉眼來看，換臉之后的“數(shù)字人”口型、表情、微小的動作幾乎毫無破綻。

在他銷售網站上，該軟件開發(fā)者還展示了如何將兩位知名女星的眼睛和嘴巴拼接到一起，生成全新“數(shù)字人”的視頻。該付費軟件提供從初級（LV1）到超級（LV4）再到全套（LV5）等級的不同版本，全套（LV5）版本更為逼真，還支持直播換臉。

這意味著可能會有更多難以控制的風險。類似于deepfake這樣的AI換臉技術是開源的，最近的AI大模型火起來，它的算法又有了更新，就可以集成多種功能打造出一個完全嶄新的“數(shù)字人”或者叫“AI人”，監(jiān)管的成本和難度高了好幾個數(shù)量級。