大四學(xué)生耿孝存最近經(jīng)常在網(wǎng)絡(luò)音樂播放器中收聽幾首翻唱歌曲，他一直以為這些歌曲由某知名女歌手翻唱，后來才得知其實全部是AI合成的?！奥曇舯普娴轿覐膩頉]懷疑過。”耿孝存說。

AI聲音在最近一兩年時間內(nèi)變得格外“流行”。清華大學(xué)新聞與傳播學(xué)院教授沈陽說，人工智能技術(shù)的普及，讓AI模擬聲音的門檻大幅降低。通過一些開源軟件和平臺，沒有專業(yè)知識的普通用戶也能操作。

大量App能夠進行AI合成聲音，最快只需十幾秒。記者在應(yīng)用商店搜索發(fā)現(xiàn)，相關(guān)App有數(shù)十款，下載量最高超千萬次。

記者聯(lián)系了一款A(yù)pp的客服人員，對方表示，花198元就能解鎖付費會員，對著鏡頭說幾遍“12345”，AI就會根據(jù)聲音生成各類內(nèi)容的出鏡口播視頻。記者操作后發(fā)現(xiàn)，通過這款軟件生成的名人聲音，基本可以以假亂真，且錄入名人聲音不需要提供任何授權(quán)證明。

業(yè)內(nèi)人士告訴記者，AI模擬人聲在互聯(lián)網(wǎng)“流行”，有追逐流量和變現(xiàn)的目的。通過“克隆”名人聲音制作的惡搞、獵奇類視頻，在相關(guān)平臺播放和點贊量均不低，有的甚至還被推上熱搜。發(fā)布者也相應(yīng)獲得流量曝光、粉絲增長、廣告收入等播放收益。

此外，“偷”人聲音也有不法利益驅(qū)動。國家金融監(jiān)管總局2024年7月發(fā)布的《關(guān)于防范新型電信網(wǎng)絡(luò)詐騙的風(fēng)險提示》中提到，不法分子可能對明星、專家、執(zhí)法人員等音視頻進行人工合成，假借其身份傳播虛假消息，從而實現(xiàn)詐騙目的。

多措并舉強化治理

用AI生成他人聲音，是否違法違規(guī)？多位受訪專家表示，個人聲音中包含的聲紋信息具備可識別性，能以電子方式記錄，能關(guān)聯(lián)到唯一自然人，是生物識別信息，屬于個人信息保護法規(guī)定的敏感個人信息之一。

2024年4月，北京互聯(lián)網(wǎng)法院宣判全國首例“AI聲音侵權(quán)案”，明確認定在具備可識別性的前提下，自然人聲音權(quán)益的保護范圍可及于AI生成聲音。該法院法官認為，未經(jīng)權(quán)利人許可，擅自使用或許可他人使用錄音制品中的聲音構(gòu)成侵權(quán)。

近年來，有關(guān)主管部門出臺《人工智能生成合成內(nèi)容標識辦法（征求意見稿）》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等規(guī)定，一定程度上給AI技術(shù)使用劃定了紅線。

沈陽等專家認為，關(guān)于人工智能應(yīng)用產(chǎn)生的造謠侵權(quán)、刑事犯罪、道德倫理等問題，建議有關(guān)部門細化完善相關(guān)規(guī)則，通過典型案例、司法解釋等方式給予更為明確的規(guī)范指引，厘清法律法規(guī)邊界。

中國科學(xué)院科技戰(zhàn)略咨詢研究院院長潘教峰認為，需進一步強化人工智能倫理規(guī)制，超前部署人工智能風(fēng)險研究，提前預(yù)判人工智能技術(shù)應(yīng)用可能帶來的社會影響。