▲網(wǎng)傳AI仿冒全紅嬋帶貨畫面。圖/央視新聞
“大家好，我是你們的嬋寶，今天有事請大家?guī)兔?。嬋妹就想著幫助媽媽，讓家里的生活過得更好一點(diǎn)，同時(shí)把老家的土雞蛋分享給粉絲們嘗嘗……”
據(jù)央視新聞報(bào)道，在互聯(lián)網(wǎng)上，奧運(yùn)冠軍的“聲音”突然開始推銷農(nóng)產(chǎn)品，知名演員的“聲音”24小時(shí)不間斷在直播間與粉絲互動(dòng)……隨著AI技術(shù)的普及，“克隆”特定人物聲音已實(shí)現(xiàn)“一鍵式”操作。當(dāng)聲音能被輕易竊取和濫用，隨之而來的侵權(quán)亂象頻繁上演。
在媒體的梳理里，全紅嬋、孫穎莎、王楚欽這些知名的運(yùn)動(dòng)員全都“中招”。他們“推銷土雞蛋”被AI工具一鍵生成，搭配上他們的畫面鏡頭，利用粉絲對運(yùn)動(dòng)員的喜愛，迅速就可以“起號帶貨”。
這是很惡劣的伎倆，不僅侵犯運(yùn)動(dòng)員的人格權(quán)，也在誆騙利用消費(fèi)者的情感，讓很多人誤以為真的在幫運(yùn)動(dòng)員的“家里生活過得好一點(diǎn)”。如果任由AI克隆聲音在網(wǎng)上橫行，不僅會傷害粉絲群體對運(yùn)動(dòng)員的信任，沖擊正常的帶貨生態(tài)，長此以往也會損害人們對真實(shí)與善意的基本信賴。
同時(shí)，也要看到，隨著技術(shù)進(jìn)步，侵權(quán)和維權(quán)的成本逐漸不成比例，這在客觀上造成了此類亂象屢禁不止。
據(jù)網(wǎng)絡(luò)安全專家介紹，基于開源的語音大模型，只需一段清晰的語音樣本，任何人的聲音都可能在極短時(shí)間內(nèi)被克隆，并能被操縱說出攻擊者設(shè)定的任意內(nèi)容?？梢?，AI克隆聲音幾乎是零成本、零門檻，早已能輕松實(shí)現(xiàn)。
然而，想要維權(quán)卻并不容易。此前很多靳東、劉曉慶、古天樂、張文宏等知名人物都曾遭遇類似困境，也都紛紛發(fā)布聲明表示維權(quán)，但實(shí)際走到法律層面的并不多。這些賬號往往變換迅速，內(nèi)容刪除、隱藏頻繁，給取證造成巨大困難，也因此有法律人士指出，“部分受害方遇到該情況往往會迫于無奈，放棄以訴訟方式維權(quán)?！?/p>
但這種侵權(quán)行為不應(yīng)該是個(gè)無解難題?？梢韵胂?，隨著AI技術(shù)的普及，類似產(chǎn)品可能會越來越多、傳播越來越隱蔽，如果只靠被侵權(quán)者“一個(gè)個(gè)去追責(zé)”，恐怕也是捉襟見肘。反過來說，只有在技術(shù)和制度層面提前“補(bǔ)漏”，才更有可能實(shí)現(xiàn)有效封堵。
首先，應(yīng)該盡到審核把關(guān)之責(zé)的就是互聯(lián)網(wǎng)平臺?；ヂ?lián)網(wǎng)平臺理應(yīng)在直播上線、廣告投放、商品銷售等關(guān)鍵環(huán)節(jié)完善風(fēng)險(xiǎn)識別機(jī)制，對涉及名人頭像、聲音的帶貨行為進(jìn)行重點(diǎn)審核。一旦發(fā)現(xiàn)疑似AI克隆造假，應(yīng)當(dāng)主動(dòng)攔截、第一時(shí)間下架，阻斷其傳播。
今年9月1日將施行的《人工智能生成合成內(nèi)容標(biāo)識辦法》，其中也對“生成合成內(nèi)容添加顯式標(biāo)識”“提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取技術(shù)措施，規(guī)范生成合成內(nèi)容傳播活動(dòng)”等提出了明確要求。
對此，互聯(lián)網(wǎng)平臺也應(yīng)當(dāng)對標(biāo)要求，進(jìn)一步完善技術(shù)識別能力，規(guī)范AI內(nèi)容的標(biāo)記，并對有意繞開標(biāo)記規(guī)范的賬號進(jìn)行嚴(yán)肅處理，從而規(guī)范平臺整體的AI應(yīng)用生態(tài)。
另外，相關(guān)部門也可以考慮和平臺建立消費(fèi)者舉報(bào)、被侵權(quán)者維權(quán)的綠色通道，對平臺的證據(jù)保全等提出細(xì)化要求。在維權(quán)訴求發(fā)出之后，相關(guān)各方可以迅速聯(lián)動(dòng)，完成素材封存、賬號鎖定、傳播追蹤等關(guān)鍵動(dòng)作，將傳播、取證到司法裁判各環(huán)節(jié)都打通、提速，提升維權(quán)效率，讓侵權(quán)者付出沉重代價(jià)。
長遠(yuǎn)來看，治理AI克隆不僅是保護(hù)個(gè)體權(quán)益、維護(hù)市場秩序，更是為人工智能產(chǎn)業(yè)的健康發(fā)展掃清障礙。只有在發(fā)展與監(jiān)管之間找到平衡，將技術(shù)創(chuàng)新置于明確的法律邊界和倫理規(guī)范之中，才能真正讓AI成為推動(dòng)社會進(jìn)步的正向力量，從而構(gòu)建一個(gè)更透明、更可信賴的數(shù)字世界。
編輯 / 徐秋穎
校對 / 楊許麗
