郭德綱飆英文說相聲、趙本山用流利的英文演小品、外國歌星泰勒·斯威夫特操著一口地道的中文接受采訪……多個(gè)國內(nèi)外明星被AI(人工智能)換聲的視頻近日在網(wǎng)絡(luò)上爆火，再次引發(fā)公眾對(duì)AI技術(shù)的熱議。
無論是AI換聲還是換臉，新技術(shù)的使用邊界亟待明確，其背后的侵權(quán)、詐騙等隱憂更不容忽視。
飆外語以假亂真
“I have to take care of this matter！(這事兒我得管)”在一條播放量達(dá)百萬次的短視頻中，身著刺繡大褂的相聲演員郭德綱正像模像樣地用英文說著《濟(jì)公傳》。記者發(fā)現(xiàn)，視頻里的聲音不僅和郭德綱本人的音色沒有什么出入，嘴型和英文發(fā)音也一一對(duì)應(yīng)，著實(shí)難辨真假。這段精彩的單口相聲秀引得網(wǎng)友發(fā)出驚嘆：“要不是看到視頻平臺(tái)上‘該視頻使用AI技術(shù)合成’的小字提示，我差點(diǎn)就當(dāng)真了！”
除了本土名人說英文，外國歌星泰勒·斯威夫特、演員艾瑪·沃森等在訪談節(jié)目中用中文對(duì)答如流的視頻，也引來網(wǎng)友圍觀。截至發(fā)稿前，多個(gè)AI換聲視頻在B站、微博、抖音的瀏覽量已達(dá)到數(shù)百萬。
奇安信集團(tuán)行業(yè)安全研究中心主任裴智勇解釋，無論聲音還是圖像，都可以通過特定的數(shù)學(xué)變換分解成若干個(gè)特征向量，對(duì)每個(gè)向量賦予特定的一組參數(shù)，就可以形成特定的聲音或圖像。所謂AI換聲，就是通過機(jī)器學(xué)習(xí)的方法，用某個(gè)人以往的聲音作為樣本進(jìn)行學(xué)習(xí)，從而給聲音的每個(gè)特征向量賦予特定的參數(shù)，之后再用這組參數(shù)讀出新的內(nèi)容，就可以做到語音、語氣甚至情感的模仿了。
不過，要想達(dá)到逼真的效果，據(jù)業(yè)內(nèi)人士介紹，除了換聲以外，還需要地道的翻譯、局部篡改人臉信息對(duì)口型等多個(gè)步驟后才能實(shí)現(xiàn)。
換聲網(wǎng)站走紅背后存爭議
隨著巨大流量涌入AI換聲視頻，其背后的公司也浮出水面——2022年7月在海外上線的AI換聲網(wǎng)站HeyGen。從如今各大社交平臺(tái)上爆火的換聲短視頻自帶的水印來看，其中有不少由該網(wǎng)站生成。在該平臺(tái)上，制作一條換聲視頻十分簡單，用戶只需要上傳視頻，選擇語言后，它就能自動(dòng)翻譯并調(diào)整音色，生成嘴型匹配的外語視頻。
目前，該網(wǎng)站已推出免費(fèi)版和付費(fèi)版兩種版本，其中，付費(fèi)版最低收費(fèi)為每月24美元，免費(fèi)版僅限于生成1分鐘時(shí)長視頻。一位該網(wǎng)站用戶表示，高峰期時(shí)排隊(duì)人數(shù)達(dá)上萬人。有數(shù)據(jù)顯示，今年8至9月，各大文生圖類AI網(wǎng)站的訪問量均開始呈現(xiàn)下降趨勢，但HeyGen的訪問量卻上升了92%，流量躍居各大獨(dú)立AI網(wǎng)站之首。
然而，與此前的爆款A(yù)I應(yīng)用妙鴨相機(jī)一樣，HeyGen也面臨著爭議與熱度齊飛。有律師提出，由于HeyGen用戶可以將任何人的視頻上傳并換聲，這可能涉嫌著作權(quán)、肖像權(quán)、聲音權(quán)三個(gè)方面的侵權(quán)。比如，相聲、小品等都屬于《中華人民共和國著作權(quán)法》保護(hù)的作品，如未經(jīng)著作權(quán)人授權(quán)就擅自更改并傳播，則存在侵權(quán)問題。
加強(qiáng)治理謹(jǐn)防技術(shù)濫用
面對(duì)爐火純青的AI生成技術(shù)，更有網(wǎng)友提出，一旦相關(guān)技術(shù)被用于網(wǎng)絡(luò)詐騙，后果將難以想象。裴智勇分析，單純依靠AI技術(shù)是無法完成詐騙的，還必須將其與各種深度的網(wǎng)絡(luò)詐騙套路結(jié)合起來才能成功實(shí)施詐騙。在裴智勇看來，絕大多數(shù)的傳統(tǒng)防騙技巧對(duì)于AI詐騙同樣有效，“比如有人用視頻電話向您借錢，您回?fù)芤粋€(gè)電話確認(rèn)一下就好了。”
值得一提的是，目前國內(nèi)外均有安全機(jī)構(gòu)嘗試研發(fā)技術(shù)手段來識(shí)別AI換臉或AI換聲。以清華大學(xué)人工智能研究院孵化企業(yè)瑞萊智慧推出的能夠防范生成式人工智能惡意濫用的DeepReal2.0技術(shù)為例，其相關(guān)技術(shù)能夠用于打擊網(wǎng)絡(luò)詐騙和聲譽(yù)侵害行為、檢測網(wǎng)絡(luò)內(nèi)容合規(guī)性、檢測音視頻物證真實(shí)性等，可對(duì)生成式人工智能技術(shù)濫用行為進(jìn)行管控和治理。
記者也注意到，國家網(wǎng)信辦等三部門去年聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確，深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識(shí)。但目前網(wǎng)絡(luò)上流傳的AI換臉圖片和AI換聲視頻中，有些并未添加相應(yīng)標(biāo)識(shí)。
本站僅提供信息存儲(chǔ)空間服務(wù)，不擁有所有權(quán)，不承擔(dān)相關(guān)法律責(zé)任。如發(fā)現(xiàn)本站有涉嫌抄襲侵權(quán)/違法違規(guī)的內(nèi)容，請(qǐng)發(fā)送郵件至zmyunz@126.com 舉報(bào)，一經(jīng)查實(shí)，本站將立刻刪除
