国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

網(wǎng)絡(luò)視頻平臺(tái)的版權(quán)技術(shù)治理及制度完善

2021-12-04 12:21
關(guān)鍵詞:網(wǎng)絡(luò)平臺(tái)內(nèi)容用戶

邵 燕

(安徽財(cái)經(jīng)大學(xué) 法學(xué)院,安徽 蚌埠 233030)

隨著網(wǎng)絡(luò)技術(shù)的迅猛發(fā)展和快速普及,網(wǎng)絡(luò)版權(quán)產(chǎn)業(yè)的市場規(guī)模已連續(xù)十年保持高速增長態(tài)勢,成為驅(qū)動(dòng)我國數(shù)字經(jīng)濟(jì)發(fā)展的重要引擎,其中網(wǎng)絡(luò)視頻產(chǎn)業(yè)功不可沒。據(jù)央視網(wǎng)《2020中國網(wǎng)絡(luò)視聽發(fā)展研究報(bào)告》,2019年我國網(wǎng)絡(luò)視聽產(chǎn)業(yè)的市場規(guī)模高達(dá)4541.3億元,其中短視頻的市場規(guī)模占比最高,達(dá)1302.4億,同比增長178.8%。截至2020年6月,我國網(wǎng)絡(luò)視聽用戶規(guī)模達(dá)9.01億,較2020年3月增長4380萬,網(wǎng)民使用率為95.8%。技術(shù)革新造就了新的產(chǎn)業(yè)模式,同時(shí)也不可避免地加劇了知識(shí)產(chǎn)權(quán)侵權(quán)的惡化。盡管從2005年以來國家每年都開展集中打擊網(wǎng)絡(luò)侵權(quán)盜版專項(xiàng)治理的“劍網(wǎng)行動(dòng)”,懲治力度也不斷加強(qiáng),但侵權(quán)行為還是屢禁不止,日益嚴(yán)峻。特別是視頻平臺(tái)盜版、隨意剪切、編輯視頻等現(xiàn)象十分嚴(yán)重,儼然成為版權(quán)侵權(quán)的重災(zāi)區(qū)(1)“劍網(wǎng)2019”專項(xiàng)行動(dòng)聚焦院線電影等重點(diǎn)領(lǐng)域,開展版權(quán)專項(xiàng)整治,查辦盜錄盜版院線電影重點(diǎn)案件30余起,抓獲犯罪嫌疑人200余人,打掉盜版影視網(wǎng)站(App)418個(gè),涉案金額2.3億元。參見《國家版權(quán)局等四部委在京召開“劍網(wǎng)2019”專項(xiàng)行動(dòng)通氣會(huì)》,http://www.ncac.gov.cn/chinacopyright/contents/11379/410138.html,訪問時(shí)間2020年4月10日。。顯然,傳統(tǒng)的事后打擊方式已經(jīng)無法跟上侵權(quán)的速度。為了更好地打擊網(wǎng)絡(luò)版權(quán)侵權(quán),版權(quán)人不得不寄希望于網(wǎng)絡(luò)平臺(tái)(ISP)能夠利用自身的技術(shù)優(yōu)勢去遏制由技術(shù)發(fā)展帶來的問題。由此,要求網(wǎng)絡(luò)視頻平臺(tái)引入版權(quán)內(nèi)容過濾技術(shù),主動(dòng)承擔(dān)版權(quán)審查義務(wù)的呼聲越來越高(2)相關(guān)論文參見崔國斌.論網(wǎng)絡(luò)平臺(tái)版權(quán)內(nèi)容過濾義務(wù)[J].中國法學(xué),2017(2);虞婷婷.網(wǎng)絡(luò)服務(wù)商過錯(cuò)判定理念的修正——以知識(shí)產(chǎn)權(quán)審查義務(wù)的確立為中心[J].政治與法律,2019(10);萬勇.人工智能時(shí)代的版權(quán)法通知-移除制度[J].中外法學(xué),2019(5);沈世娟,季盼盼.短視頻App平臺(tái)間接侵權(quán)責(zé)任認(rèn)定探究[J].南京理工大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2020(4).,但與此同時(shí),因?yàn)榧夹g(shù)治理所導(dǎo)致的侵犯用戶隱私和言論自由、維權(quán)難等問題也引發(fā)公眾極大的擔(dān)憂。若要將使用版權(quán)內(nèi)容過濾技術(shù)上升為網(wǎng)絡(luò)平臺(tái)的一項(xiàng)法定義務(wù),就不得不關(guān)注并解決其中的法律問題。

一、我國網(wǎng)絡(luò)視頻平臺(tái)版權(quán)技術(shù)治理的現(xiàn)狀

我國在《民法典》實(shí)施以前針對網(wǎng)絡(luò)版權(quán)侵權(quán)的治理依據(jù)主要是《侵權(quán)責(zé)任法》《信息網(wǎng)絡(luò)傳播權(quán)條例》等法律法規(guī)。根據(jù)《信息網(wǎng)絡(luò)傳播權(quán)條例》第15條、第23條,以及《侵權(quán)責(zé)任法》第36條的規(guī)定,對于只提供信息存儲(chǔ)服務(wù)和信息定位服務(wù)的平臺(tái),如果發(fā)現(xiàn)有用戶上傳的侵權(quán)內(nèi)容或鏈接,在收到版權(quán)人發(fā)出的符合法定要求的書面通知后,只要立即刪除侵權(quán)內(nèi)容或斷開有侵權(quán)內(nèi)容的鏈接,就可以不對損害后果承擔(dān)侵權(quán)責(zé)任,即“通知+刪除”規(guī)則。也就是說,通常情況下相關(guān)網(wǎng)絡(luò)平臺(tái)無須承擔(dān)版權(quán)信息的主動(dòng)審查義務(wù)。此規(guī)定是對網(wǎng)絡(luò)平臺(tái)的保護(hù),可以大大減少網(wǎng)絡(luò)平臺(tái)承擔(dān)法律責(zé)任的概率,因而又被稱為“避風(fēng)港規(guī)則”。

“避風(fēng)港規(guī)則”最早來自于美國1998年制定的《數(shù)字千年版權(quán)法案》(以下簡稱DMCA)。DMCA第512(m)款明確規(guī)定:網(wǎng)絡(luò)服務(wù)商沒有監(jiān)視網(wǎng)絡(luò)、查找侵權(quán)活動(dòng)的義務(wù)。當(dāng)年美國國會(huì)制定該規(guī)則是從當(dāng)時(shí)的技術(shù)情況出發(fā),以最低防范成本為原則[1],目的是為了平衡版權(quán)人和網(wǎng)絡(luò)平臺(tái)的利益需求,同時(shí)促進(jìn)作品的分享和傳播。立法者認(rèn)為版權(quán)人具有判定侵權(quán)性使用的知識(shí),而網(wǎng)絡(luò)平臺(tái)有能力對這些侵權(quán)行為進(jìn)行處理,因此版權(quán)人應(yīng)當(dāng)負(fù)責(zé)查找侵權(quán)行為并通知網(wǎng)絡(luò)平臺(tái),網(wǎng)絡(luò)平臺(tái)只要及時(shí)刪除即可免責(zé)。這一規(guī)則由于能夠方便維權(quán),快速解決糾紛,已成為包括中國在內(nèi)的世界上很多國家和地區(qū)普遍認(rèn)可并借鑒的網(wǎng)絡(luò)平臺(tái)責(zé)任承擔(dān)規(guī)則。

然而,隨著網(wǎng)絡(luò)作品呈爆炸式增長,這種治理模式給版權(quán)人造成了巨大的負(fù)擔(dān),逐漸無法滿足抑制網(wǎng)絡(luò)版權(quán)侵權(quán)的需要;相反,信息技術(shù)的迅猛發(fā)展使得網(wǎng)絡(luò)平臺(tái)能夠以更低的成本、更快的速度查找和阻止侵權(quán)內(nèi)容,導(dǎo)致最低防范成本的負(fù)擔(dān)人發(fā)生了變化。因此,版權(quán)人要求網(wǎng)絡(luò)平臺(tái)充當(dāng)“版權(quán)守護(hù)者”[2]。由網(wǎng)絡(luò)平臺(tái)主動(dòng)提供技術(shù)檢測手段來抑制版權(quán)侵權(quán),將事后追責(zé)變?yōu)樘崆邦A(yù)防,盡可能把侵權(quán)行為扼制在萌芽之中,于是基于智能內(nèi)容分析的版權(quán)內(nèi)容過濾技術(shù)應(yīng)運(yùn)而生??梢哉f這個(gè)技術(shù)是版權(quán)人和網(wǎng)絡(luò)平臺(tái)在新的技術(shù)環(huán)境下再次試圖利益平衡的結(jié)果。比如美國YouTube網(wǎng)站自主研發(fā)的版權(quán)內(nèi)容過濾技術(shù)——“內(nèi)容身份系統(tǒng)(Content ID)”就起源于2007年YouTube和百代、時(shí)代華納和迪士尼之間的協(xié)議。

版權(quán)內(nèi)容過濾技術(shù)是人工智能的一種具體應(yīng)用,它利用多種技術(shù)對文字、圖片、音頻、視頻等進(jìn)行深度分析,自動(dòng)識(shí)別出需要過濾的內(nèi)容并與版權(quán)內(nèi)容進(jìn)行對比,從而做出相應(yīng)的處理結(jié)果。通常的操作方法是:網(wǎng)絡(luò)平臺(tái)應(yīng)版權(quán)人的請求或者在獲得版權(quán)人的授權(quán)后,先將正版作品錄入數(shù)據(jù)庫,當(dāng)有用戶在網(wǎng)絡(luò)平臺(tái)傳播作品時(shí),網(wǎng)絡(luò)平臺(tái)就通過過濾技術(shù)掃描該作品,如果與數(shù)據(jù)庫里的正版作品相匹配,系統(tǒng)將屏蔽或刪除該作品,以阻止該作品的傳播。整個(gè)掃描對比和阻止過程均由系統(tǒng)自動(dòng)完成。

版權(quán)內(nèi)容過濾技術(shù)的最大優(yōu)勢就是效率高。它能在成千上萬的資料中迅速篩選比較出與版權(quán)作品內(nèi)容相同或近似的資料,“相當(dāng)于36 000個(gè)人目不轉(zhuǎn)睛地盯著36 000臺(tái)監(jiān)測儀,每天24小時(shí)晝夜不停地監(jiān)測和對比視頻”(3)參見YouTube Help,YouTube Content ID,https://www.youtube.com/watch?v=9g2U12SsRns,訪問時(shí)間2018年8月20日。;相對于現(xiàn)有的通過人工進(jìn)行的“通知+刪除”程序,其工作效率得到極大的提升。它甚至可以在用戶上傳網(wǎng)絡(luò)的過程中就主動(dòng)掃描,如果匹配成功將阻止作品上傳,第一時(shí)間防止侵權(quán)發(fā)生,最大程度減少版權(quán)人的損失。此外,該技術(shù)將查找網(wǎng)絡(luò)盜版的責(zé)任從版權(quán)人轉(zhuǎn)移到了網(wǎng)絡(luò)平臺(tái),大大減輕了版權(quán)人的負(fù)擔(dān)。

目前該技術(shù)已經(jīng)逐漸在國內(nèi)外被采用,主要用于網(wǎng)絡(luò)視頻平臺(tái)。除了YouTube的Content ID,還有Facebook的Rights Manager系統(tǒng)、騰訊的“視頻基因比對技術(shù)”。“今日頭條”平臺(tái)也在2017年自主研發(fā)了CID系統(tǒng)保護(hù)短視頻的版權(quán)(4)參見新華網(wǎng)《今日頭條“技術(shù)+人工”探索版權(quán)保護(hù)之路》,http://www.xinhuanet.com/itown/2017-11/27/c_136782075.htm,訪問時(shí)間2020年5月5日。。根據(jù)YouTube的情況來看,它的內(nèi)容身份系統(tǒng)運(yùn)行得相當(dāng)成功。截至2015年7月,共有8000多家合作伙伴采用了該系統(tǒng),包括眾多主流的廣播公司、電影制片公司和唱片公司,系統(tǒng)數(shù)據(jù)庫中有5000多萬個(gè)有效參考文件,對超過4億個(gè)視頻發(fā)出了版權(quán)聲明。截至2016年7月,YouTube已通過該系統(tǒng)向那些選擇通過版權(quán)聲明來獲利的版權(quán)所有者累計(jì)支付了20億美元,有效地控制了網(wǎng)絡(luò)版權(quán)侵權(quán)行為(5)參見Statistics,Youtube,http://www.youtube.com/yt/press/statistics.html,訪問時(shí)間2018年8月5日。。“今日頭條”的CID系統(tǒng)也吸引了包括電視臺(tái)、影視公司等在內(nèi)的超過40個(gè)版權(quán)方的加入,每月可以識(shí)別疑似侵權(quán)視頻5萬余條,給版權(quán)方帶來版權(quán)收益達(dá)146萬元。

版權(quán)內(nèi)容過濾技術(shù)被認(rèn)為是一套先進(jìn)的版權(quán)政策和內(nèi)容管理工具。有人認(rèn)為該技術(shù)是網(wǎng)絡(luò)版權(quán)治理的救星[3],使得版權(quán)侵權(quán)的預(yù)防方式發(fā)生革命性變化,并建議修改立法,將使用版權(quán)內(nèi)容過濾技術(shù)作為網(wǎng)絡(luò)平臺(tái)的法定義務(wù)[4]。2019年3月通過的歐盟《數(shù)字單一市場版權(quán)指令》第13條就要求網(wǎng)絡(luò)服務(wù)提供商應(yīng)當(dāng)采取內(nèi)容識(shí)別技術(shù)等有效措施,主動(dòng)發(fā)現(xiàn)、識(shí)別并阻止侵權(quán)內(nèi)容。我國的相關(guān)部門對該技術(shù)也表現(xiàn)出一定的支持,比如國家版權(quán)局2015年發(fā)布的《關(guān)于規(guī)范網(wǎng)盤服務(wù)版權(quán)秩序的通知》(6)國家版權(quán)局《關(guān)于規(guī)范網(wǎng)盤服務(wù)版權(quán)秩序的通知》第2條規(guī)定:網(wǎng)盤服務(wù)商應(yīng)當(dāng)建立必要管理機(jī)制,運(yùn)用有效技術(shù)措施,主動(dòng)屏蔽、移除侵權(quán)作品,防止用戶違法上傳、存儲(chǔ)并分享他人作品。、2019年中國網(wǎng)絡(luò)視聽節(jié)目服務(wù)協(xié)會(huì)發(fā)布的《網(wǎng)絡(luò)短視頻平臺(tái)管理規(guī)范》(7)《網(wǎng)絡(luò)短視頻平臺(tái)管理規(guī)范》第一部分第4條規(guī)定:網(wǎng)絡(luò)短視頻平臺(tái)實(shí)行節(jié)目內(nèi)容先審后播制度。平臺(tái)上播出的所有短視頻均應(yīng)經(jīng)內(nèi)容審核后方可播出,包括節(jié)目的標(biāo)題、簡介、彈幕、評論等內(nèi)容。和《網(wǎng)絡(luò)短視頻內(nèi)容審核標(biāo)準(zhǔn)細(xì)則》都明確規(guī)定網(wǎng)絡(luò)平臺(tái)有主動(dòng)屏蔽、移除侵權(quán)作品,主動(dòng)審查的義務(wù)。要求網(wǎng)絡(luò)平臺(tái)利用技術(shù)手段主動(dòng)治理網(wǎng)絡(luò)版權(quán)侵權(quán)似乎已是大勢所趨。

二、版權(quán)內(nèi)容過濾技術(shù)引發(fā)的利益失衡

盡管實(shí)踐中不少視頻網(wǎng)站都引入了版權(quán)內(nèi)容過濾技術(shù)來抑制侵權(quán),相關(guān)部門也發(fā)布了要求網(wǎng)絡(luò)平臺(tái)主動(dòng)審查的規(guī)定,但是,必須清醒地意識(shí)到,無論是我國的《侵權(quán)責(zé)任法》《信息網(wǎng)絡(luò)傳播權(quán)條例》,還是美國的《數(shù)字千年法案》,到目前為止都沒有改變原有的“避風(fēng)港規(guī)則”,就連《民法典》(8)《民法典》第1195條第1、2款規(guī)定:網(wǎng)絡(luò)用戶利用網(wǎng)絡(luò)服務(wù)實(shí)施侵權(quán)行為的,權(quán)利人有權(quán)通知網(wǎng)絡(luò)服務(wù)提供者采取刪除、屏蔽、斷開鏈接等必要措施。通知應(yīng)當(dāng)包括構(gòu)成侵權(quán)的初步證據(jù)及權(quán)利人的真實(shí)身份信息。網(wǎng)絡(luò)服務(wù)提供者接到通知后,應(yīng)當(dāng)及時(shí)將該通知轉(zhuǎn)送相關(guān)網(wǎng)絡(luò)用戶,并根據(jù)構(gòu)成侵權(quán)的初步證據(jù)和服務(wù)類型采取必要措施;未及時(shí)采取必要措施的,對損害的擴(kuò)大部分與該網(wǎng)絡(luò)用戶承擔(dān)連帶責(zé)任。也沿用了這一規(guī)則。這表明查找侵權(quán)作品并通知平臺(tái)刪除仍然是版權(quán)人的義務(wù),網(wǎng)絡(luò)平臺(tái)對用戶上傳的內(nèi)容不承擔(dān)一般的事先審查義務(wù)。我國司法實(shí)踐中的裁判依據(jù)也依然是“避風(fēng)港規(guī)則”(9)比如斗音訴伙拍案,參見北京互聯(lián)網(wǎng)法院民事判決書(2018)京0491民初1號(hào);新梨視訴優(yōu)酷案,參見上海知識(shí)產(chǎn)權(quán)法院民事判決書(2018)滬73民終361號(hào)。。因此,如果真的要將采用版權(quán)內(nèi)容過濾技術(shù)上升為網(wǎng)絡(luò)平臺(tái)的強(qiáng)制性義務(wù),則必須要修改現(xiàn)行法律。而在此之前尚有很多問題需要解決,其中版權(quán)內(nèi)容過濾技術(shù)本身的不成熟導(dǎo)致它在運(yùn)行過程中造成的利益失衡就是最大的障礙,引發(fā)了公眾大量的質(zhì)疑。

(一)侵犯用戶隱私權(quán)

傳統(tǒng)的“避風(fēng)港規(guī)則”和版權(quán)內(nèi)容過濾技術(shù)的主要區(qū)別在于,前者是版權(quán)人自己查找,后者是網(wǎng)絡(luò)平臺(tái)主動(dòng)查找;前者是法律制度的管理,后者是一個(gè)網(wǎng)絡(luò)平臺(tái)的自我監(jiān)管。因?yàn)槿狈φ畢⑴c,當(dāng)網(wǎng)絡(luò)平臺(tái)充當(dāng)了私人“代理審查”的角色時(shí),引發(fā)了社會(huì)對人權(quán)的極大擔(dān)憂。比如該技術(shù)通過在線監(jiān)測搜集關(guān)于用戶活動(dòng)的數(shù)據(jù)并且把這些數(shù)據(jù)保留一段時(shí)間時(shí),它就成為高度侵犯個(gè)人隱私的行為。批評者認(rèn)為,這個(gè)方法是迫使私人公司代表版權(quán)人一方監(jiān)管網(wǎng)絡(luò),這是一種監(jiān)視風(fēng)險(xiǎn),并且對公民的在線活動(dòng)進(jìn)行不加區(qū)分的監(jiān)控是不合比例的,可能侵犯了基本的歐盟隱私權(quán)(10)參見A conversation about digital copyright reform.https://techcrunch.com/2017/04/15/a-conversation-about-digital-copyright-reform/?ncid=rss&utm-source=feedburner&utm-medium=feed&utm-campaign=Feed%3A+Techcrunch+%28TechCrunch%29,訪問時(shí)間2018年8月15日。。因此盡管歐盟《數(shù)字單一市場版權(quán)指令》已獲通過,但對于第13條的爭論仍在繼續(xù),它也是此次歐盟版權(quán)法改革計(jì)劃中最具爭議的部分。許多歐盟國家政府認(rèn)為該條不符合現(xiàn)行法律和歐洲公民的基本權(quán)利。我國也有學(xué)者認(rèn)為歐盟的做法是“將用戶利益置于巨大風(fēng)險(xiǎn)之中”[5]。

(二)投訴維權(quán)機(jī)制不完善

版權(quán)內(nèi)容過濾技術(shù)為版權(quán)人維權(quán)和網(wǎng)絡(luò)平臺(tái)監(jiān)管提供了便利,卻忽略了網(wǎng)絡(luò)用戶的權(quán)益。比如在YouTube平臺(tái)上,每天都有數(shù)以千計(jì)的視頻因?yàn)楸恢干嫦影鏅?quán)侵權(quán)而被刪除,雖然DMCA規(guī)定了被刪除人可以向網(wǎng)絡(luò)平臺(tái)提出反通知,要求恢復(fù)被刪除的作品,但現(xiàn)實(shí)中采取維權(quán)措施的用戶卻微乎其微。一項(xiàng)研究表明,調(diào)查超過50萬的移除通知中,只有166個(gè)用戶向網(wǎng)絡(luò)平臺(tái)提出了反通知[6]。其他研究也表明自DMCA通過以來就有這個(gè)趨勢(11)參見加州伯克利大學(xué)的研究報(bào)告Urban J M,Schofield B L,Karaganis J. Notice and Takedown in Everyday Practice.http://assets.documentcloud.org/documents/2779722/SSRN-id2755628.pdf.。究其原因,一方面是因?yàn)榫W(wǎng)絡(luò)平臺(tái)沒有給網(wǎng)絡(luò)用戶足夠的告知。很多用戶不知道自己相應(yīng)的權(quán)利,不知道合理使用制度是什么,不會(huì)使用反通知制度。包括像YouTube這樣的大網(wǎng)站上提供的關(guān)于合理使用的信息也是最低限度的,即使網(wǎng)絡(luò)用戶查看到了,他們基本上仍然不能夠充分了解自己的權(quán)益。即便網(wǎng)絡(luò)用戶知道合理使用制度,大部分人也不愿意使用反通知,畢竟大多數(shù)視頻或文件的上傳者是普通用戶,他們沒有時(shí)間、沒有資源,更沒有經(jīng)濟(jì)動(dòng)力去提出爭議訴訟,而發(fā)出刪除通知的基本上是大娛樂公司,出于兩者力量的懸殊,很多被訴侵權(quán)人害怕與之抗?fàn)帯T谌鄙賹侠硎褂弥贫鹊慕逃秃ε卤辉V侵權(quán)的雙重作用下,反通知制度幾乎不會(huì)被使用。另一方面,對網(wǎng)絡(luò)盜版的監(jiān)管缺乏透明度也是妨礙錯(cuò)誤刪除責(zé)任承擔(dān)的一個(gè)重要原因。要想平衡各方利益,讓平臺(tái)“執(zhí)法”更加公平,就必須讓信息更加透明。也就是說網(wǎng)絡(luò)平臺(tái)需要搜集并保存其收到多少通知和反通知的數(shù)據(jù),并且需要有一個(gè)地方集中公開這些數(shù)據(jù)。在美國版權(quán)局發(fā)起的圓桌會(huì)議討論中,學(xué)者和用戶都呼吁要提高透明度(12)參見美國版權(quán)局發(fā)布的研討記錄,U.S. Copyright Office, Transcript of Section 512 Public Roundtable 147.https://www.copyright.gov/policy/section512/public-roundtable/transcript-05-02-2016.pdf.。美國學(xué)界也把“透明度”作為對DMCA法案有效性實(shí)證研究中的中心問題,并提出修改DMCA第512條,確保有一個(gè)要求刪除和反通知的數(shù)據(jù)采集的條款[7]。

(三)有悖版權(quán)合理使用制度

版權(quán)內(nèi)容過濾技術(shù)是一個(gè)自動(dòng)化技術(shù),通過設(shè)定好的算法比對上傳作品和版權(quán)作品的復(fù)制率,從而機(jī)械地確定是否屏蔽或刪除。由于缺乏人工審查,系統(tǒng)無法識(shí)別哪些作品已經(jīng)被授權(quán)使用,哪些是合理使用,甚至哪些作品已經(jīng)在公有領(lǐng)域了,結(jié)果很可能導(dǎo)致攔截范圍過廣,在屏蔽和刪除侵權(quán)材料的同時(shí)也阻止了非侵權(quán)作品的傳播,造成大量不精確的刪除和對非侵權(quán)內(nèi)容的自動(dòng)刪除。這已成為版權(quán)內(nèi)容過濾技術(shù)最大的詬病。

特別是如今越來越多的由“用戶創(chuàng)造內(nèi)容”(user-generated content)的混編作品(remix),它們大多數(shù)是非商業(yè)性的,不是為了盈利,而是網(wǎng)絡(luò)用戶基于現(xiàn)有的版權(quán)作品去進(jìn)行評論、批評或滑稽模仿,比如維基百科、百度百科和部分短視頻等。這類作品在網(wǎng)絡(luò)環(huán)境下非常普遍,已成為常態(tài)化行為,但現(xiàn)實(shí)中真正涉及司法訴訟的卻并不多見。部分原因是法律定性不明晰,但更主要的是因?yàn)榘鏅?quán)人通常采取寬容的態(tài)度,把它視為一種合理使用[8]。而版權(quán)內(nèi)容過濾技術(shù)卻不加選擇,一律將其視為侵權(quán)并阻止其被上傳或者直接刪除,使這些作品無法被傳播。以YouTube的內(nèi)容身份系統(tǒng)為例,它因?yàn)閷?shù)以千計(jì)的合法視頻錯(cuò)誤地匹配為侵權(quán)作品而受到很大的負(fù)面關(guān)注。比如它阻止了米歇爾·奧巴馬(Michelle Obama)在民主黨全國代表大會(huì)的演講和一段直播(13)參見Cushing T.YouTube Kills Livestream of Convention When Audience Starts Singing“Happy Birthday”.https://www.techdirt.com/articles/20131014/15323524876/youtube-killslivestream-convention-when-audience-starts-singing-happy-birthday.shtml,訪問時(shí)間2018年9月1日。;它甚至阻止賈斯汀·比伯(Justin Bieber)上傳他自己的一段視頻,導(dǎo)致比伯本人憤怒地在推特(Twitter)上發(fā)出:“YouTube怎么阻止了我自己的歌?!”(14)參見Chiang O.Justin Bieber Swears Off YouTube for Facebook, Unwittingly Steps in Copyright Minefield.http://www.forbes.com/sites/oliverchiang/2010/11/30/justin-bieber-swears-offyoutube-for-facebook-unwittingly-steps-in-copyright-minefield,訪問時(shí)間2018年9月1日。這種現(xiàn)象并非少數(shù),有學(xué)者稱之為“濫用算法執(zhí)法”[9]。盡管有相應(yīng)的投訴機(jī)制,但解決糾紛通常費(fèi)時(shí)費(fèi)力,即便有的作品最后被重新放回網(wǎng)上,也常常為時(shí)已晚,損害已經(jīng)發(fā)生:作品已經(jīng)失去了關(guān)注和經(jīng)濟(jì)價(jià)值,特別是時(shí)效性作品。

合理使用作為一種著作權(quán)限制制度,對于保障公眾的表達(dá)自由和教育權(quán)利,平衡各方利益有著不可替代的作用,是公平正義觀在著作權(quán)法中的具體表現(xiàn)。版權(quán)內(nèi)容過濾技術(shù)破壞了版權(quán)法上的合理使用制度,使得合理使用制度形同虛設(shè)。有人形容YouTube的做法就像在需要手術(shù)刀的地方使用錘子[10]。用一刀切的方式扼殺新作品的創(chuàng)作,影響人們行使言論自由的權(quán)利,阻礙了創(chuàng)新,有違版權(quán)法鼓勵(lì)創(chuàng)新的核心原則。學(xué)者彼得·達(dá)沃豪斯將這種通過信息私有化控制而獲得“統(tǒng)治權(quán)”的現(xiàn)象稱為“信息封建主義”[11]。

三、利益平衡原則下的制度完善

任何法律制度的建立和運(yùn)行都必須以利益平衡原則為基石和目標(biāo)。知識(shí)產(chǎn)權(quán)法的利益平衡應(yīng)當(dāng)是知識(shí)產(chǎn)權(quán)創(chuàng)造者、傳播者、使用者三者之間的平衡,以及個(gè)人利益與公共利益的平衡,這也是知識(shí)產(chǎn)權(quán)法始終追求的一種最佳狀態(tài)。而版權(quán)內(nèi)容過濾技術(shù)的使用卻導(dǎo)致版權(quán)人的利益被過度保護(hù),網(wǎng)絡(luò)用戶的合法權(quán)益被忽略,公共利益的空間被嚴(yán)重壓縮。技術(shù)引發(fā)的法律問題不容小覷,如果未來要大規(guī)模采用該技術(shù),就必須先建立和完善相關(guān)的配套制度,從多方面改善由該技術(shù)造成的利益失衡。

(一)建構(gòu)合理算法,加強(qiáng)隱私保護(hù)

針對計(jì)算機(jī)系統(tǒng)大量搜集和分析用戶活動(dòng)的數(shù)據(jù),可能侵害用戶隱私權(quán)的問題,主要從兩方面進(jìn)行改進(jìn)。第一,建構(gòu)合理的算法設(shè)計(jì),提高版權(quán)內(nèi)容過濾技術(shù)的準(zhǔn)確性,減少錯(cuò)誤篩查的概率。這是保障用戶基本權(quán)益的根本之計(jì)。當(dāng)然,隨著技術(shù)的進(jìn)步,版權(quán)內(nèi)容過濾技術(shù)會(huì)越來越精確,但是究竟重復(fù)多少算是侵權(quán),可以被系統(tǒng)直接刪除,還需要人為制定標(biāo)準(zhǔn)。這就需要針對不同類型的文件的特點(diǎn)進(jìn)行評估和計(jì)算,最終由立法機(jī)關(guān)發(fā)布一個(gè)指導(dǎo)性的過濾標(biāo)準(zhǔn)。第二,對監(jiān)測和搜集到的用戶數(shù)據(jù)進(jìn)行監(jiān)管,以法律的形式要求這些數(shù)據(jù)僅限于用來保護(hù)版權(quán)作品,阻止非法傳播,禁止將用戶的身份和隱私信息用于其他目的。目前我國已經(jīng)通過《網(wǎng)絡(luò)安全法》加強(qiáng)了對網(wǎng)絡(luò)信息安全的治理,《民法典》也專門規(guī)定了“隱私權(quán)和個(gè)人信息保護(hù)”條款,還有《數(shù)據(jù)安全法(草案)》和《個(gè)人信息保護(hù)法(草案)》的出臺(tái)等,這一系列法律的制定和實(shí)施將為我國網(wǎng)絡(luò)用戶的信息安全提供必要的法律保障,最大限度減少人們對內(nèi)容過濾技術(shù)侵害隱私的擔(dān)憂。

(二)加強(qiáng)平臺(tái)告知義務(wù),增強(qiáng)信息透明度

針對用戶缺乏版權(quán)知識(shí)和維權(quán)信息的問題,建議把提供此類信息作為網(wǎng)絡(luò)平臺(tái)的法定義務(wù),在法律中明確規(guī)定所有網(wǎng)絡(luò)平臺(tái)在發(fā)送刪除通知時(shí)應(yīng)當(dāng)給用戶提供相應(yīng)的信息和資源。最好由國家版權(quán)局制定標(biāo)準(zhǔn)化模板,內(nèi)容包括版權(quán)侵權(quán)知識(shí)、合理使用規(guī)則、應(yīng)對通知程序的措施和防止未來收到通知的方法等,讓用戶充分了解自己的權(quán)利和義務(wù)。網(wǎng)絡(luò)平臺(tái)應(yīng)當(dāng)在其網(wǎng)站上設(shè)置一個(gè)頁面,以普通人能夠理解的方式描述合理使用制度等法律規(guī)定,在所有用戶上傳視頻以及收到刪除通知時(shí),網(wǎng)站必須首先跳轉(zhuǎn)到該頁面。主動(dòng)提供這些信息也許無法阻止那些惡意侵權(quán)者,但它會(huì)幫助無知的侵權(quán)者和普通上傳用戶更好地了解相關(guān)制度。畢竟人們受教育越多,就越傾向于與錯(cuò)誤通知做斗爭,積極維護(hù)自己的合法權(quán)益。如此一來,版權(quán)人在向平臺(tái)發(fā)出刪除主張時(shí)也會(huì)更加謹(jǐn)慎。

為了防止版權(quán)人或網(wǎng)絡(luò)平臺(tái)濫用權(quán)利,成為侵權(quán)的最終裁判者,應(yīng)當(dāng)提高信息透明度,對通知和反通知的信息進(jìn)行發(fā)布和監(jiān)管。比如美國谷歌公司將所有刪除通知發(fā)送到第三方網(wǎng)站(ChillingEffects.org),包括阻止請求、運(yùn)行廣告賺錢的請求、索賠人的信息、視頻被屏蔽或用來賺錢的原因,以及報(bào)告人認(rèn)為需要解釋的任何其他信息等(15)參見DMCA Policy For Customers of Our Customers. https://developers.google.com/storage/docs/dmca,訪問時(shí)間2018年9月3日。。谷歌還發(fā)布了一份透明度報(bào)告,并采取措施恢復(fù)公共評論網(wǎng)站。這是一種提高透明度,加強(qiáng)與所有相關(guān)方和公眾溝通的有效途徑,而且通過查看信息還能夠檢驗(yàn)出該過濾算法的設(shè)計(jì)是否合理。再比如哈佛大學(xué)伯克曼克萊因互聯(lián)網(wǎng)與社會(huì)中心(Berkman Klein Center for Internet & Society)研發(fā)了一個(gè)Lumen數(shù)據(jù)庫項(xiàng)目(16)Lumen數(shù)據(jù)庫網(wǎng)址:https://www.lumendatabase.org.。它是一個(gè)獨(dú)立的第三方機(jī)構(gòu),專門研究要求刪除網(wǎng)絡(luò)內(nèi)容的通知。他們收集和分析版權(quán)人的刪除請求,接受來自網(wǎng)絡(luò)平臺(tái)的數(shù)據(jù),其數(shù)據(jù)庫載有數(shù)以百萬計(jì)的侵權(quán)投訴,可供公眾公開查看??梢钥闯?國外網(wǎng)絡(luò)平臺(tái)和相關(guān)機(jī)構(gòu)已經(jīng)在采取積極措施加以應(yīng)對。我國可以借鑒其中有益的做法,建立信息數(shù)據(jù)庫,公開相關(guān)信息并加以監(jiān)管,通過增強(qiáng)信息透明度保障普通網(wǎng)絡(luò)用戶的知情權(quán),盡可能減少技術(shù)治理造成的利益失衡。

(三)保留必要的人工審查

隨著技術(shù)的不斷完善,版權(quán)內(nèi)容過濾技術(shù)對侵權(quán)內(nèi)容的過濾勢必更加精準(zhǔn)。但在目前的技術(shù)條件下,為了避免該技術(shù)不分青紅皂白地將疑似侵權(quán)的材料統(tǒng)統(tǒng)刪除,應(yīng)當(dāng)保留必要的人工審查,而不能全部依靠該技術(shù)。

一方面,網(wǎng)絡(luò)平臺(tái)應(yīng)當(dāng)允許版權(quán)人在授權(quán)將正版作品錄入數(shù)據(jù)庫時(shí)預(yù)先批準(zhǔn)某些免責(zé)用途,比如評論、教育、批評及自定義用途的條目。網(wǎng)站也可以在用戶上傳作品時(shí)提供上述選項(xiàng),當(dāng)用戶上傳作品時(shí),他們需要選擇自己的作品屬于哪種用途。版權(quán)人還可以主動(dòng)提供允許誰使用作品的信息,比如游戲出版商的聲明,或與版權(quán)人簽訂的許可證或合同的相關(guān)文件副本。

另一方面,網(wǎng)絡(luò)平臺(tái)可以將作品被利用的情況分為兩大類:嚴(yán)重的利用和不嚴(yán)重的利用,供版權(quán)內(nèi)容過濾技術(shù)區(qū)別對待。這里的“利用”僅指數(shù)量上和形式上的,是針對系統(tǒng)可以檢測出來復(fù)制比的作品,比如將90%以上的單一參考文件與上傳作品內(nèi)容的重復(fù)定性為嚴(yán)重的利用。對于嚴(yán)重的利用,系統(tǒng)可以自動(dòng)將其直接阻攔、屏蔽或刪除;而對于不嚴(yán)重的利用,系統(tǒng)可以不再自動(dòng)阻攔,而是啟動(dòng)目前已經(jīng)存在的人工審查程序。人工審查是在阻止視頻上傳之前進(jìn)行人工干預(yù),進(jìn)行匹配度的審查,并初步驗(yàn)證上傳者的特定用途是否正確。如果特定用途是正確的,或者上傳者提供了有關(guān)授權(quán)許可的信息,那么侵權(quán)的主張者必須聯(lián)系提供授權(quán)的一方;如果特定用途不正確,并且版權(quán)人善意相信這種利用就是侵權(quán)的,那么系統(tǒng)必須通知上傳者,以啟動(dòng)阻止視頻上傳的程序。

人工審查雖然有可能增加版權(quán)人的交易和審查成本,但并非不可行,關(guān)鍵是人工審查的準(zhǔn)確率比自動(dòng)審查高得多,能夠兼顧效率和公平。就連已經(jīng)大規(guī)模使用內(nèi)容過濾技術(shù)的YouTube也承認(rèn),它的內(nèi)容身份系統(tǒng)可以允許上傳人在刪除主張生效之前要求人工審查[12]。

版權(quán)內(nèi)容過濾技術(shù)本身就是法律之外的私人定制,通過預(yù)先批準(zhǔn)某些用途,或者公開宣布某些用途是允許的,并且對于不嚴(yán)重的作品利用行為進(jìn)行人工審查,有助于限制版權(quán)人濫用權(quán)利,并且可以促進(jìn)版權(quán)人和用戶之間的協(xié)商和合作,有利于促進(jìn)創(chuàng)新。

(四)發(fā)出刪除通知前進(jìn)行版權(quán)合理使用審查

合理使用一直被認(rèn)為是版權(quán)侵權(quán)的抗辯理由,而美國“Lenz v. Universal Music Corp案”(以下簡稱Lenz案)卻開創(chuàng)了先例,法官不僅認(rèn)為合理使用是使用者的權(quán)利,而且建立了版權(quán)人在發(fā)送刪除通知之前必須考慮合理使用的原則。

2007年,美國人Stephanie Lenz錄制了一段29秒視頻,內(nèi)容是她的小孩跟著歌曲“Let’s Go Crazy”在跳舞。她把視頻上傳到了YouTube網(wǎng)站,結(jié)果歌曲的版權(quán)人環(huán)球音樂公司認(rèn)為該視頻侵犯了這首歌的版權(quán),要求YouTube刪除該視頻。Lenz卻認(rèn)為環(huán)球音樂在發(fā)出刪除通知前沒有考慮合理使用,因此并沒有對她的視頻“未被授權(quán)”形成善意,違反了DMCA第512(f)條關(guān)于虛假陳述的規(guī)定。此案歷時(shí)8年,法院最終在2015年9月做出判決,支持了原告的請求。

這個(gè)判決可以在一定程度上防止版權(quán)人濫用“通知+刪除”規(guī)則。特別是在技術(shù)措施越來越發(fā)達(dá)的今天,針對像版權(quán)內(nèi)容過濾技術(shù)這類的快速檢測和刪除技術(shù),更需要相應(yīng)的制度進(jìn)行制約,以避免架空合理使用規(guī)則,減少非侵權(quán)作品被無辜刪除的概率,平衡版權(quán)人和使用者之間的合法利益。我國可以在法律中借鑒該案的規(guī)則,要求版權(quán)人在發(fā)出刪除通知之前必須考慮合理使用,即版權(quán)人在發(fā)出刪除通知之前必須發(fā)布一個(gè)聲明,證明受投訴材料的使用沒有經(jīng)過版權(quán)人、版權(quán)人的代理人或者法律的授權(quán)(包括符合合理使用條款)。發(fā)出這個(gè)聲明表明版權(quán)人已經(jīng)善意考慮了合理使用,否則就可能構(gòu)成權(quán)利濫用。

由于合理使用是一個(gè)主觀標(biāo)準(zhǔn),即使有明確的規(guī)定,在實(shí)際使用時(shí)仍然具有很大的不確定性。對此,Lenz案法官認(rèn)為,不能僅憑權(quán)利人一面之辭就認(rèn)為其善意考慮了合理使用,這顯然過于寬松,容易讓版權(quán)人鉆空子,因此標(biāo)準(zhǔn)需要嚴(yán)苛一些。但是因?yàn)楹侠硎褂玫呐袛嘞喈?dāng)復(fù)雜,法律并不能苛求權(quán)利人對侵權(quán)內(nèi)容進(jìn)行深入的調(diào)查,并做出精確的判斷。本文贊同lenz案法官的看法。判斷是否是合理使用要考慮多方因素,非專業(yè)人士很難在短時(shí)間內(nèi)做出準(zhǔn)確的判斷。因此標(biāo)準(zhǔn)既不能過于寬松,也不能過于嚴(yán)格。建議在發(fā)出刪除通知這個(gè)問題上采用“重大過失標(biāo)準(zhǔn)”作為主觀判斷的標(biāo)準(zhǔn),而不能必須是“故意”。如果僅僅是故意,那么滿足這個(gè)要求的情況就太少了,誰都會(huì)借口自己不是故意的,而是真的考慮了合理使用規(guī)則。如果版權(quán)人在人工審查的過程中對很明顯的合理使用視而不見,就可以視其為有重大過失而受到處罰。

可能有人覺得在發(fā)送通知前考慮合理使用太消耗時(shí)間,不利于打擊盜版。其實(shí)“重大過失標(biāo)準(zhǔn)”并不要求權(quán)利人用專業(yè)的標(biāo)準(zhǔn)去深挖細(xì)查,僅僅要求在發(fā)出刪除通知前“善意”地考慮了合理使用。正如有學(xué)者所說,通過采用相對客觀的標(biāo)準(zhǔn),結(jié)合對合理使用的明確立場,將更好地實(shí)現(xiàn)美國國會(huì)制定DMCA避風(fēng)港規(guī)則的最初意圖,即平衡對潛在侵權(quán)行為快速反應(yīng)的需要與終端用戶的合法行為在無追索權(quán)的情況下不被刪除材料的利益(17)參見美國加州西部學(xué)校調(diào)研報(bào)告Neill A H,Lee E. Fixing Section 512-Legislative Reforms for the DMCA Safe Harbor Provisions,https://ssrn.com/abstract=2879696.。

我國的《信息網(wǎng)絡(luò)傳播權(quán)保護(hù)條例》(以下簡稱《條例》)第24條規(guī)定:因權(quán)利人的通知導(dǎo)致網(wǎng)絡(luò)服務(wù)提供者錯(cuò)誤刪除作品、表演、錄音錄像制品,或者錯(cuò)誤斷開與作品、表演、錄音錄像制品的鏈接,給服務(wù)對象造成損失的,權(quán)利人應(yīng)當(dāng)承擔(dān)賠償責(zé)任?!睹穹ǖ洹返南嚓P(guān)規(guī)定也表達(dá)了同樣的旨意(18)《民法典》第1195條第3款規(guī)定:權(quán)利人因錯(cuò)誤通知造成網(wǎng)絡(luò)用戶或者網(wǎng)絡(luò)服務(wù)提供者損害的,應(yīng)當(dāng)承擔(dān)侵權(quán)責(zé)任。法律另有規(guī)定的,依照其規(guī)定。。兩者都未說明錯(cuò)誤刪除的行為在主觀上是故意還是過失。這個(gè)標(biāo)準(zhǔn)其實(shí)比上述的“重大過失標(biāo)準(zhǔn)”更為嚴(yán)苛。既然如此,那么要求權(quán)利人在發(fā)出刪除通知前考慮合理使用并沒有與我國的現(xiàn)行法律相沖突,也沒有給版權(quán)人造成額外的負(fù)擔(dān)。相反,法律應(yīng)當(dāng)考慮權(quán)利人在發(fā)出通知前的主觀態(tài)度,畢竟數(shù)字化時(shí)代已經(jīng)給版權(quán)人帶來了巨大的侵權(quán)壓力,有時(shí)候不及時(shí)刪除侵權(quán)內(nèi)容將會(huì)導(dǎo)致版權(quán)人的重大損失。法律不是偏袒某一方,而是應(yīng)當(dāng)根據(jù)實(shí)際情況盡量做出平衡各方利益的規(guī)定。

(五)對錯(cuò)誤通知進(jìn)行賠償

有學(xué)者提出可通過設(shè)立誤刪的投訴機(jī)制來糾正過濾技術(shù)對公眾表達(dá)造成的不當(dāng)限制[13]。本文認(rèn)為,不僅要有投訴機(jī)制,為了限制版權(quán)人濫用“通知+刪除”規(guī)則,還應(yīng)當(dāng)要求版權(quán)人對錯(cuò)誤通知造成的損失進(jìn)行賠償。其實(shí)《條例》第24條和《民法典》第1195條第3款都認(rèn)可該行為應(yīng)當(dāng)承擔(dān)侵權(quán)責(zé)任,但是并沒有對一些細(xì)節(jié)問題加以說明,比如什么是造成損失,如何承擔(dān)賠償責(zé)任,在系統(tǒng)自動(dòng)刪除的情況下錯(cuò)誤如何界定等,實(shí)踐中難以操作。

Lenz案法官認(rèn)為,在故意侵權(quán)中,侵犯原告的權(quán)利本身就被認(rèn)為造成了法律上的損害,Lenz不必證明其遭受實(shí)際的金錢損失,只需證明故意侵權(quán)就可以獲得象征性的損害賠償(nominal damages)。事實(shí)上,很多數(shù)字作品被移除后的損失是難以證明的,《條例》和《民法典》規(guī)定權(quán)利人只有在造成損失時(shí)才承擔(dān)賠償責(zé)任,如果把損失解釋為實(shí)際的金錢損失,對用戶獲得賠償顯然不利,應(yīng)當(dāng)做擴(kuò)大解釋。

而對于網(wǎng)絡(luò)平臺(tái)來說,“避風(fēng)港規(guī)則”依然有效,只要網(wǎng)絡(luò)平臺(tái)在人工審查的過程中本著中立的原則,及時(shí)傳遞版權(quán)人和用戶兩方的要求,按照法律行使自己的義務(wù),就可以根據(jù)“技術(shù)中立”原則,無須為自己的決定向任何一方承擔(dān)責(zé)任。

四、結(jié)語

隨著5G時(shí)代的正式到來,網(wǎng)絡(luò)視頻行業(yè)將迎來更大的消費(fèi)潛力和增長空間,如果不采取有力的治理模式,侵權(quán)問題將會(huì)極大地阻礙網(wǎng)絡(luò)版權(quán)產(chǎn)業(yè)的健康發(fā)展。相對于傳統(tǒng)的人工審查,利用人工智能技術(shù)打擊網(wǎng)絡(luò)盜版的優(yōu)勢顯而易見,因而更能適應(yīng)數(shù)字網(wǎng)絡(luò)作品傳播的發(fā)展趨勢,是當(dāng)前和未來版權(quán)保護(hù)技術(shù)措施的發(fā)展方向和大勢所趨。但是技術(shù)的進(jìn)步也帶來了權(quán)利的擴(kuò)張,擠壓了公共利益的空間。因此在使用新技術(shù)打擊侵權(quán)的同時(shí)必須建立和完善相關(guān)配套制度,注重保護(hù)公眾隱私,維護(hù)公眾獲取信息,合理使用的合法權(quán)益,讓更多的人能夠享受到技術(shù)帶來的福利,同時(shí)為網(wǎng)絡(luò)版權(quán)產(chǎn)業(yè)的發(fā)展提供更多的創(chuàng)新成果,實(shí)現(xiàn)版權(quán)人、使用者和平臺(tái)三方合作共贏的健康發(fā)展模式。只有在實(shí)現(xiàn)利益平衡的基礎(chǔ)上,技術(shù)治理才能夠更好地為文化創(chuàng)新和產(chǎn)業(yè)發(fā)展保駕護(hù)航。

猜你喜歡
網(wǎng)絡(luò)平臺(tái)內(nèi)容用戶
內(nèi)容回顧溫故知新
基于用戶和電路的攻擊識(shí)別方法
網(wǎng)絡(luò)平臺(tái)支持下初中語文翻轉(zhuǎn)課堂教學(xué)研究
網(wǎng)絡(luò)平臺(tái)犯罪及其治理對策
網(wǎng)絡(luò)平臺(tái)補(bǔ)短板 辦學(xué)質(zhì)量穩(wěn)提升
信用卡資深用戶
網(wǎng)絡(luò)平臺(tái)打開代表履職新視窗
主要內(nèi)容
兩新黨建新媒體用戶與全網(wǎng)新媒體用戶之間有何差別
化德县| 莱西市| 临高县| 乐至县| 福清市| 大方县| 梅州市| 额敏县| 溧阳市| 曲阜市| 天峻县| 松溪县| 英山县| 扶风县| 邛崃市| 安多县| 沾益县| 祁东县| 龙海市| 赤城县| 丹凤县| 远安县| 太仆寺旗| 四会市| 平和县| 子洲县| 镇赉县| 昌都县| 扶余县| 仁寿县| 含山县| 美姑县| 肇源县| 修武县| 田阳县| 杭锦旗| 分宜县| 丰城市| 扬中市| 萝北县| 大城县|