你是否曾想過(guò)，也許有一天，你要跟人工智能（AI）去爭(zhēng)搶自己的聲音？前不久，北京互聯(lián)網(wǎng)法院宣判了全國(guó)首例AI生成聲音人格權(quán)侵權(quán)案。此案中，配音師殷女士的聲音被AI處理生成了一款文本轉(zhuǎn)語(yǔ)音產(chǎn)品，該產(chǎn)品的下載量高達(dá)32.6億次，這給以“聲音”為業(yè)的她帶來(lái)了很大的影響。

幾乎同一時(shí)間，高齡老人鄭奶奶接到“孫子”的求救電話(huà)，說(shuō)他因涉嫌強(qiáng)奸被公安機(jī)關(guān)抓獲了，需要交1萬(wàn)元保釋金才能放出去。被嚇壞的鄭奶奶趕緊取錢(qián)交給“孫子”委托的朋友。鄭奶奶不知道的是，求救電話(huà)的另一頭并非她的孫子，熟悉的孫子聲音其實(shí)是犯罪團(tuán)伙利用AI技術(shù)合成的。

境外詐騙團(tuán)伙利用AI技術(shù)合成了山東人林小宇哥哥的臉和聲音，短短7秒的視頻通話(huà)，林小宇被騙走了30萬(wàn)元。隨著AI技術(shù)的發(fā)展，利用AI生成聲音、圖像的現(xiàn)象日益常見(jiàn)，一些非法現(xiàn)象也隨之出現(xiàn)，有人未經(jīng)他人授權(quán)使用AI技術(shù)盜換他們聲音進(jìn)行商業(yè)牟利，也有人利用AI生成的聲音實(shí)施詐騙等犯罪行為。

作為新質(zhì)生產(chǎn)力的代表，AI推廣應(yīng)用是大勢(shì)所趨，也面臨著前所未有的機(jī)遇與挑戰(zhàn)。AI技術(shù)發(fā)展需要法律的保護(hù)、監(jiān)督與規(guī)范，也需要制定技術(shù)研發(fā)的相關(guān)底線(xiàn)和紅線(xiàn)。對(duì)AI與個(gè)人信息、權(quán)利保護(hù)的關(guān)系，現(xiàn)行立法已有較充分規(guī)定，但在法律的有效落實(shí)方面尚需努力。司法機(jī)關(guān)對(duì)于利用AI從事違法犯罪活動(dòng)的打擊愈加重視，檢察機(jī)關(guān)更是通過(guò)公益訴訟等方式加強(qiáng)對(duì)利用AI違法犯罪活動(dòng)的預(yù)防和懲治，取得了一定效果。