国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

網(wǎng)絡(luò)平臺(tái)權(quán)力的異化風(fēng)險(xiǎn)與規(guī)制方案

2023-12-08 23:58:29王玉薇王田

王玉薇 王田

[摘要]網(wǎng)絡(luò)平臺(tái)因資源和地位上的非對(duì)等性,產(chǎn)生了管理用戶的“準(zhǔn)立法權(quán)”、“準(zhǔn)執(zhí)法權(quán)”和“準(zhǔn)司法權(quán)”等權(quán)力,但權(quán)力的異化逐漸偏離了服務(wù)于公共利益的價(jià)值預(yù)設(shè),造成對(duì)自由、公正、中立等法律價(jià)值的沖擊,給網(wǎng)絡(luò)平臺(tái)權(quán)力異化風(fēng)險(xiǎn)規(guī)制帶來(lái)新的挑戰(zhàn)。為此需要構(gòu)建網(wǎng)絡(luò)平臺(tái)“準(zhǔn)立法權(quán)”補(bǔ)足的溝通商談機(jī)制,完善網(wǎng)絡(luò)平臺(tái)“準(zhǔn)執(zhí)法權(quán)”運(yùn)行的程序性規(guī)范,建立裁判中立的“眾議式”糾紛解決機(jī)制,從而更好規(guī)制網(wǎng)絡(luò)平臺(tái)權(quán)力的異化風(fēng)險(xiǎn)。

[關(guān)鍵詞]網(wǎng)絡(luò)平臺(tái)權(quán)力;網(wǎng)絡(luò)平臺(tái)權(quán)力異化;準(zhǔn)立法權(quán);準(zhǔn)執(zhí)法權(quán);準(zhǔn)司法權(quán)

[中圖分類號(hào)]D920.0[文獻(xiàn)標(biāo)志碼]A[文章編號(hào)]2095-0292(2023)05-0059-06

[收稿日期]2023-06-20

[基金項(xiàng)目]黑龍江省哲學(xué)社會(huì)科學(xué)研究規(guī)劃項(xiàng)目“大數(shù)據(jù)時(shí)代算法致害可責(zé)機(jī)制的法治化研究”(20FXB 125 );中央高校基本科研業(yè)務(wù)費(fèi)專項(xiàng)資金項(xiàng)目“中國(guó)式基層治理中‘?dāng)?shù)字公民權(quán)利的法治保障研究 ”(2572022DE08)

[作者簡(jiǎn)介]王玉薇,東北林業(yè)大學(xué)文法學(xué)院副教授,法學(xué)博士后,研究方向:人工智能法治建設(shè);王田,東北林業(yè)大學(xué)文法學(xué)院碩士研究生,研究方向:法學(xué)理論。

當(dāng)下,網(wǎng)絡(luò)平臺(tái)在數(shù)字社會(huì)空間進(jìn)行自我管理,主要凸顯為三個(gè)方面的重要權(quán)力:一是“準(zhǔn)立法權(quán)”,網(wǎng)絡(luò)平臺(tái)通過(guò)平臺(tái)規(guī)則的制定,調(diào)整和規(guī)范平臺(tái)內(nèi)不同主體之間的權(quán)利義務(wù)關(guān)系。二是“準(zhǔn)執(zhí)法權(quán)”,網(wǎng)絡(luò)平臺(tái)代替政府監(jiān)管部門對(duì)平臺(tái)上的信息內(nèi)容和用戶行為進(jìn)行監(jiān)督和管理。三是“準(zhǔn)司法權(quán)”,網(wǎng)絡(luò)平臺(tái)采取協(xié)商、調(diào)解、裁決等多種方式,解決平臺(tái)內(nèi)用戶的糾紛。然而,這些網(wǎng)絡(luò)平臺(tái)權(quán)力在有效維護(hù)網(wǎng)絡(luò)公共秩序的同時(shí),也產(chǎn)生了一定的異化風(fēng)險(xiǎn),如何對(duì)這些異化風(fēng)險(xiǎn)進(jìn)行有效控制,就成為網(wǎng)絡(luò)平臺(tái)治理所必須解決的時(shí)代課題。

一、網(wǎng)絡(luò)平臺(tái)權(quán)力的產(chǎn)生與異化

(一)網(wǎng)絡(luò)平臺(tái)權(quán)力產(chǎn)生的深層邏輯

首先,網(wǎng)絡(luò)平臺(tái)權(quán)力的產(chǎn)生源自于主體間的非對(duì)等性。傳統(tǒng)權(quán)力一般多由國(guó)家機(jī)關(guān)掌握,然而隨著網(wǎng)絡(luò)社會(huì)的不斷演進(jìn),權(quán)力的內(nèi)在邏輯和研究范式也在不斷的演進(jìn),網(wǎng)絡(luò)平臺(tái)作為私主體也掌握了一定的社會(huì)權(quán)力。正如馬克斯·韋伯所言:“權(quán)力意味著在一種社會(huì)關(guān)系里哪怕遇到反對(duì)也能貫徹自己意志的任何機(jī)會(huì),不管這種機(jī)會(huì)是建立在什么基礎(chǔ)之上”[1](P81)??梢?jiàn),權(quán)力的本質(zhì)屬性在于主體之間的“非對(duì)等性”,將此結(jié)論運(yùn)用到互聯(lián)網(wǎng)中,可以得出網(wǎng)絡(luò)平臺(tái)權(quán)力主觀上不受他人意志的影響,僅憑單方意志就能制定規(guī)則;客觀上因與用戶之間力量和資源的不對(duì)等,對(duì)用戶產(chǎn)生了一定的影響力和控制力,并將這種權(quán)力滲透進(jìn)制定規(guī)則、監(jiān)督管理以及糾紛裁判等領(lǐng)域。

其次,網(wǎng)絡(luò)平臺(tái)權(quán)力來(lái)自于技術(shù)先占中的自我賦權(quán)。網(wǎng)絡(luò)平臺(tái)技術(shù)賦權(quán)的三個(gè)核心要素為代碼架構(gòu)、大數(shù)據(jù)和算法。起初隨著平臺(tái)模式的興起,商業(yè)主體憑借代碼架構(gòu)等技術(shù)構(gòu)建起網(wǎng)絡(luò)平臺(tái),為多邊用戶提供商業(yè)流量、稀缺資源、內(nèi)容分發(fā)等服務(wù)。之后平臺(tái)憑借代碼架構(gòu)優(yōu)勢(shì)聚合了大量的用戶,并通過(guò)不斷對(duì)用戶數(shù)據(jù)的收集,形成龐大的數(shù)據(jù)庫(kù)。近幾年在算法等人工智能技術(shù)的加持下,平臺(tái)對(duì)用戶數(shù)據(jù)進(jìn)行深度挖掘和預(yù)測(cè),以維護(hù)網(wǎng)絡(luò)秩序之名,對(duì)用戶進(jìn)行管理和規(guī)制,實(shí)現(xiàn)了技術(shù)優(yōu)勢(shì)向技術(shù)權(quán)力的轉(zhuǎn)化。

再次,網(wǎng)絡(luò)平臺(tái)權(quán)力來(lái)源于法律法規(guī)授權(quán)和用戶權(quán)利讓渡。一方面,由于國(guó)家立法和執(zhí)法的不足,面對(duì)數(shù)量龐大的網(wǎng)絡(luò)問(wèn)題,國(guó)家立法和監(jiān)管部門很難作出迅速的回應(yīng),因此政府只能采取“以網(wǎng)管網(wǎng)”的實(shí)用主義思路。很大程度上,平臺(tái)諸如信息管理、違規(guī)行為處罰等權(quán)力,在其性質(zhì)上可以歸屬為來(lái)自公法規(guī)范的監(jiān)管審查義務(wù),并且隨著在平臺(tái)義務(wù)不斷變得廣泛的同時(shí)平臺(tái)權(quán)力也在不斷的擴(kuò)大。另一方面,平臺(tái)權(quán)力的產(chǎn)生還來(lái)自于用戶權(quán)利的讓渡。用戶想要享受平臺(tái)提供的服務(wù),就必須要點(diǎn)擊同意平臺(tái)的用戶協(xié)議,如同社會(huì)契約論揭示的那樣權(quán)力來(lái)源于權(quán)利讓渡,用戶通過(guò)平臺(tái)服務(wù)協(xié)議將一部分權(quán)利讓渡給平臺(tái),平臺(tái)成為了權(quán)利的集合體,并形成具有準(zhǔn)公共領(lǐng)域管理事務(wù)的影響力和支配力,實(shí)現(xiàn)用戶權(quán)利到平臺(tái)權(quán)力的轉(zhuǎn)換。因此,通過(guò)法律授權(quán)和用戶權(quán)利讓渡等正當(dāng)形式,網(wǎng)絡(luò)平臺(tái)構(gòu)建起一種相對(duì)自治的權(quán)力空間和程序機(jī)制。

(二)網(wǎng)絡(luò)平臺(tái)權(quán)力的異化

國(guó)家權(quán)力是指國(guó)家在特定領(lǐng)域內(nèi)所擁有的決策、管理和控制能力,主要包括立法權(quán)、執(zhí)法權(quán)和司法權(quán)。而網(wǎng)絡(luò)平臺(tái)權(quán)力也可描述為具有公權(quán)特征的“準(zhǔn)立法權(quán)”“準(zhǔn)行政權(quán)”和“準(zhǔn)司法權(quán)”[2]。

第一,網(wǎng)絡(luò)平臺(tái)的“準(zhǔn)立法權(quán)”。傳統(tǒng)立法權(quán)是指國(guó)家的立法機(jī)關(guān)按照法定程序制定、修改或者廢除某項(xiàng)法律規(guī)則的權(quán)力,在適用范圍和法律效力上具有普遍性和強(qiáng)制性。而“平臺(tái)空間的準(zhǔn)立法權(quán)主要指的是平臺(tái)企業(yè)所擁有的平臺(tái)規(guī)則的制定權(quán)”[3]。具體來(lái)說(shuō),平臺(tái)所有者或管理者根據(jù)自身需要和管理目標(biāo),制定了一系列平臺(tái)規(guī)則,用以規(guī)范和調(diào)整平臺(tái)內(nèi)不同主體之間的權(quán)利義務(wù)關(guān)系。雖然網(wǎng)絡(luò)平臺(tái)是私權(quán)力主體,但其行使“準(zhǔn)立法權(quán)”主要體現(xiàn)在平臺(tái)規(guī)則的公共性上。一方面,平臺(tái)規(guī)則是平臺(tái)的“信條”,其與法律規(guī)則一樣,能在一定空間范圍內(nèi)調(diào)整社會(huì)關(guān)系、穩(wěn)定行為預(yù)期。平臺(tái)規(guī)則數(shù)量龐大、內(nèi)容豐富、結(jié)構(gòu)嚴(yán)密,其中不乏大量限制用戶權(quán)利的義務(wù)性條款,對(duì)平臺(tái)內(nèi)用戶與商家利益的影響更加具體和直接;另一方面,平臺(tái)規(guī)則一經(jīng)制定對(duì)平臺(tái)內(nèi)的海量用戶和商家具有普遍的約束力,甚至還能夠穿越地域限制適用于境外用戶??傊W(wǎng)絡(luò)平臺(tái)行使“準(zhǔn)立法權(quán)”制定平臺(tái)規(guī)則,不僅為平臺(tái)內(nèi)多元主體的權(quán)利義務(wù)關(guān)系提供了規(guī)范和依據(jù),還維護(hù)了平臺(tái)內(nèi)的安全、秩序、誠(chéng)信等公共價(jià)值,發(fā)揮了類似法律的作用。

第二,網(wǎng)絡(luò)平臺(tái)的“準(zhǔn)執(zhí)法權(quán)”?!皽?zhǔn)執(zhí)法權(quán)”是指“作為平臺(tái)的創(chuàng)建者和管理者,承擔(dān)傳統(tǒng)市場(chǎng)監(jiān)管者責(zé)任,對(duì)活躍于平臺(tái)上的各個(gè)主體進(jìn)行管理和規(guī)制”。[4]其本質(zhì)上是平臺(tái)對(duì)政府監(jiān)管部門執(zhí)法職能的替代,政府通過(guò)賦予平臺(tái)審查監(jiān)管義務(wù)以及強(qiáng)化平臺(tái)主體責(zé)任等方式,明確平臺(tái)治理的范圍,由平臺(tái)行使特定權(quán)力強(qiáng)化內(nèi)部管理,實(shí)現(xiàn)公權(quán)力“不在場(chǎng)的在場(chǎng)”。網(wǎng)絡(luò)平臺(tái)行使“準(zhǔn)執(zhí)法權(quán)”主要體現(xiàn)在事前審查與監(jiān)控、事中信息處理和事后違法處罰三個(gè)方面。事前平臺(tái)要對(duì)主體資格和上傳內(nèi)容等進(jìn)行審查,并實(shí)時(shí)監(jiān)控平臺(tái)內(nèi)的數(shù)據(jù),對(duì)可能出現(xiàn)的違法違規(guī)行為進(jìn)行報(bào)告,并積極協(xié)助執(zhí)法部門調(diào)查和處理;事中平臺(tái)應(yīng)履行通知-刪除義務(wù),對(duì)包含色情、賭博、詐騙、侵權(quán)等違法信息以及侵犯知識(shí)產(chǎn)權(quán)、虛假?gòu)V告和宣傳等內(nèi)容的舉報(bào)及時(shí)進(jìn)行刪除和屏蔽;事后平臺(tái)要對(duì)違反法律和平臺(tái)規(guī)定的用戶和商家進(jìn)行處罰,主要手段包括財(cái)產(chǎn)性處罰、聲譽(yù)性處罰、關(guān)涉行為能力的處罰、開(kāi)除資格的處罰等四種類型。例如,淘寶網(wǎng)平臺(tái)規(guī)則中市場(chǎng)管理與違規(guī)處理規(guī)范規(guī)定,針對(duì)淘寶會(huì)員的違規(guī)行為,根據(jù)結(jié)果的情節(jié)嚴(yán)重程度,淘寶網(wǎng)可采取如下措施:扣分、下架商品、限制發(fā)布商品、屏蔽店鋪、監(jiān)管賬戶、查封賬戶等。

第三,網(wǎng)絡(luò)平臺(tái)的“準(zhǔn)司法權(quán)”。“準(zhǔn)司法權(quán)”是指平臺(tái)“采取協(xié)商、調(diào)解、裁決等多種方式,將平臺(tái)規(guī)則適用于用戶糾紛,以解決用戶爭(zhēng)議的過(guò)程”[5]。司法的本質(zhì)在于定分止?fàn)?,雖然網(wǎng)絡(luò)平臺(tái)并非嚴(yán)格意義上的公權(quán)力部門,但其行使“準(zhǔn)司法權(quán)”彌補(bǔ)了國(guó)家糾紛處理的不足,維護(hù)了平臺(tái)內(nèi)部的正義,這與司法的目標(biāo)在價(jià)值上具有共通性。平臺(tái)“準(zhǔn)司法權(quán)”起初是伴隨電子商務(wù)的興起而產(chǎn)生的,平臺(tái)為了提高競(jìng)爭(zhēng)力、規(guī)避訴訟風(fēng)險(xiǎn)以及降低運(yùn)營(yíng)成本的需要,依托平臺(tái)的技術(shù)優(yōu)勢(shì)逐步建立了以平臺(tái)裁決制為主“線上爭(zhēng)議解決”機(jī)制(簡(jiǎn)稱ODR)。該機(jī)制主要是利用軟件程序輔助糾紛解決,并且還可以通過(guò)數(shù)據(jù)收集、反復(fù)利用及深度分析預(yù)防糾紛,以電商平臺(tái)為例包括由計(jì)算機(jī)系統(tǒng)調(diào)節(jié)、裁判的ODR和調(diào)解員參與的ODR兩類。之后,隨著“眾包”概念的引入,部分平臺(tái)建立起了大眾評(píng)審制,由大眾評(píng)審員以投票方式對(duì)糾紛當(dāng)事人的訴求作出評(píng)判,改變了平臺(tái)裁決制“一言堂”的糾紛處理方式。目前,我國(guó)平臺(tái)糾紛解決機(jī)制主要包括平臺(tái)裁決制和大眾評(píng)審制兩種,但無(wú)論是何種平臺(tái)糾紛解決模式都體現(xiàn)著平臺(tái)的意志,都是平臺(tái)認(rèn)可并應(yīng)用的,外觀上也都體現(xiàn)著平臺(tái)對(duì)當(dāng)事人糾紛的介入。但需要注意的是,平臺(tái)的“準(zhǔn)司法權(quán)”通常僅適用于平臺(tái)內(nèi)部的糾紛,而不涉及到法律認(rèn)定和法律責(zé)任。如果用戶認(rèn)為平臺(tái)的糾紛解決結(jié)果不公正或不滿意,可以選擇訴諸法律途徑,向獨(dú)立的司法機(jī)關(guān)進(jìn)行申訴和維權(quán)。

二、網(wǎng)絡(luò)平臺(tái)權(quán)力異化的風(fēng)險(xiǎn)

雖然網(wǎng)絡(luò)平臺(tái)作為治理主體承擔(dān)起了維護(hù)網(wǎng)絡(luò)秩序的公共職能,但網(wǎng)絡(luò)平臺(tái)本質(zhì)上仍是具有經(jīng)濟(jì)理性的私人主體,遵循追求經(jīng)濟(jì)利益最大化的邏輯,當(dāng)平臺(tái)作為網(wǎng)絡(luò)空間管理者的角色時(shí),其秉持客觀、中立、公正的立場(chǎng)難免會(huì)受到影響,導(dǎo)致權(quán)力出現(xiàn)異化。從外部監(jiān)管來(lái)看,網(wǎng)絡(luò)平臺(tái)作為私權(quán)力主體,主要受到私法的規(guī)范和調(diào)整,缺乏權(quán)力行使的透明性和程序性等外部約束,網(wǎng)絡(luò)平臺(tái)權(quán)力異化的風(fēng)險(xiǎn)日益強(qiáng)烈。

(一)網(wǎng)絡(luò)平臺(tái)“準(zhǔn)立法權(quán)”異化對(duì)自由的沖擊

網(wǎng)絡(luò)平臺(tái)為了維護(hù)內(nèi)部秩序以及獲得利益,行使“準(zhǔn)立法權(quán)”制定平臺(tái)規(guī)則本無(wú)可厚非,但是規(guī)則的生產(chǎn)“必然會(huì)帶有生產(chǎn)者的價(jià)值偏好, 主張和設(shè)定有利于自己的游戲規(guī)則, ‘勝者為王、‘贏者通吃的‘自然狀態(tài)就成為必然的歸宿”[6]。網(wǎng)絡(luò)平臺(tái)通過(guò)單方意志制定有利于自身的平臺(tái)規(guī)則來(lái)俘獲更多的權(quán)力,不僅限縮了用戶的自由,還破壞了市場(chǎng)的自由競(jìng)爭(zhēng)秩序。

首先,網(wǎng)絡(luò)平臺(tái)“準(zhǔn)立法權(quán)”異化侵犯用戶自由權(quán)利。用戶想要進(jìn)入平臺(tái),首先要點(diǎn)擊同意平臺(tái)用戶協(xié)議,相當(dāng)于同平臺(tái)簽訂了契約,平臺(tái)規(guī)則是平臺(tái)單方意志的體現(xiàn),而達(dá)成契約的基礎(chǔ)是雙方合意,但平臺(tái)“同意-進(jìn)入”或者“不同意-退出”的準(zhǔn)入機(jī)制,顯然失去了合意這一前提,用戶也因此失去了選擇的自由,而另外一個(gè)干預(yù)用戶選擇自由的典型即以百度為代表的搜索引擎競(jìng)價(jià)排名。同時(shí),用戶點(diǎn)擊同意即推定知悉協(xié)議全部?jī)?nèi)容,包括隱藏在冗長(zhǎng)用戶協(xié)議中的隱私條款,當(dāng)用戶一旦進(jìn)入平臺(tái)后個(gè)人信息就開(kāi)始不斷地被記錄,用戶在不知不覺(jué)中便將自己的隱私暴露在網(wǎng)絡(luò)平臺(tái)上,失去隱私自由的同時(shí)也很容易產(chǎn)生如信息詐騙等嚴(yán)重威脅人們安全的問(wèn)題。更嚴(yán)重的是,平臺(tái)基于平臺(tái)規(guī)則和算法技術(shù)對(duì)用戶數(shù)據(jù)進(jìn)行不合理使用,有目的性地向用戶進(jìn)行個(gè)性化推薦或展示,控制和影響人們的認(rèn)知和判斷,不可避免地對(duì)用戶信息自由構(gòu)成威脅,甚至通過(guò)“信息操縱”讓數(shù)以億計(jì)的人“數(shù)字成癮”,控制用戶的身心自由。[7]

其次,網(wǎng)絡(luò)平臺(tái)“準(zhǔn)立法權(quán)”異化破壞市場(chǎng)自由競(jìng)爭(zhēng)秩序。自由競(jìng)爭(zhēng)是市場(chǎng)健康發(fā)展的前提,但是很多平臺(tái)會(huì)利用代碼化的平臺(tái)規(guī)則設(shè)置構(gòu)建“圍墻花園”,在后臺(tái)自動(dòng)干擾競(jìng)爭(zhēng)對(duì)手的服務(wù),限制平臺(tái)內(nèi)企業(yè)或其他第三方訪問(wèn)其網(wǎng)站公開(kāi)數(shù)據(jù)?;蛘吣承┢脚_(tái)通過(guò)制定具有傾向性、避責(zé)性的處罰規(guī)則,擾亂市場(chǎng)自由競(jìng)爭(zhēng)秩序,例如美團(tuán)外賣平臺(tái)被爆出的對(duì)那些同時(shí)也入駐了其它外賣平臺(tái)的商家采取的包括關(guān)店、提高傭金、降低排名、縮小配送范圍等高壓規(guī)則,以迫使商家將美團(tuán)作為獨(dú)家外賣平臺(tái)。此外,平臺(tái)在開(kāi)展同業(yè)競(jìng)爭(zhēng)中,可能會(huì)利用主導(dǎo)地位在規(guī)則上進(jìn)行自我優(yōu)待從而限制或排除平臺(tái)內(nèi)的競(jìng)爭(zhēng)者,甚至還有一些具有優(yōu)勢(shì)地位的電商平臺(tái)為謀求壟斷市場(chǎng)地位,對(duì)入駐平臺(tái)的商家實(shí)行“二選一”政策,實(shí)質(zhì)上限制了商家的自由交易??傊W(wǎng)絡(luò)平臺(tái)通過(guò)平臺(tái)規(guī)則設(shè)置數(shù)據(jù)壁壘、進(jìn)行自我優(yōu)待、捆綁銷售、向商家與個(gè)人用戶施加不合理的條件等,破壞市場(chǎng)自由競(jìng)爭(zhēng)秩序,導(dǎo)致新的平臺(tái)或中小型平臺(tái)難以與之進(jìn)行競(jìng)爭(zhēng),造成“一家獨(dú)大”的局面,不利于行業(yè)長(zhǎng)遠(yuǎn)發(fā)展。

(二)網(wǎng)絡(luò)平臺(tái)“準(zhǔn)執(zhí)法權(quán)”異化對(duì)公正的減損

公正即公平正義,是執(zhí)法的價(jià)值取向及重要追求,包括實(shí)體正義和程序正義兩個(gè)方面。網(wǎng)絡(luò)平臺(tái)通過(guò)法律賦予的責(zé)任和義務(wù)對(duì)用戶進(jìn)行支配和管理,這種看似是責(zé)任,背后實(shí)際上卻是權(quán)力的魅影。一方面,網(wǎng)絡(luò)平臺(tái)不合理的實(shí)施刪除用戶內(nèi)容、制止相關(guān)交易和限制用戶權(quán)利等行為,損害用戶的實(shí)體權(quán)利。另一方面,網(wǎng)絡(luò)平臺(tái)作為私主體行使“準(zhǔn)執(zhí)法權(quán)”不嚴(yán)格遵守特定的程序規(guī)范,違背程序正義,因此規(guī)則執(zhí)行就成了暗箱操作下對(duì)用戶權(quán)利的減損,破壞社會(huì)公平正義。

首先,網(wǎng)絡(luò)平臺(tái)“準(zhǔn)執(zhí)法權(quán)”異化損害用戶實(shí)體權(quán)利。一方面,網(wǎng)絡(luò)平臺(tái)因消極執(zhí)法侵犯用戶權(quán)利。消極執(zhí)法主要是指對(duì)平臺(tái)內(nèi)違法違規(guī)行為采取默許甚至是放任的態(tài)度。有些網(wǎng)絡(luò)平臺(tái)為了謀求私利而選擇忽視甚至是放任平臺(tái)內(nèi)部的違法違規(guī)行為。比如在流量經(jīng)濟(jì)的作用下,為了獲得高點(diǎn)擊率和關(guān)注度,一些網(wǎng)絡(luò)直播平臺(tái)為了聚攏人氣,增強(qiáng)用戶數(shù)量和黏性,對(duì)平臺(tái)內(nèi)部的侵犯肖像權(quán)、隱私權(quán)的行為采取消極監(jiān)管的策略。另一方面,網(wǎng)絡(luò)平臺(tái)因過(guò)度執(zhí)法侵犯用戶權(quán)利。當(dāng)前我國(guó)網(wǎng)絡(luò)立法主要通過(guò)不斷強(qiáng)化平臺(tái)責(zé)任來(lái)實(shí)現(xiàn)平臺(tái)內(nèi)部監(jiān)管,但問(wèn)題是平臺(tái)會(huì)為了避免因監(jiān)管不力而招致的懲罰,進(jìn)而嚴(yán)格監(jiān)管,導(dǎo)致監(jiān)管手段的必要性、合理性不足,侵犯用戶權(quán)利。比如,平臺(tái)運(yùn)用敏感詞自動(dòng)屏蔽涉嫌違法違規(guī)的言論,并采取刪除以及封號(hào)等措施,但屏蔽標(biāo)準(zhǔn)與算法的不透明,往往會(huì)出現(xiàn)屏蔽了不應(yīng)被屏蔽的內(nèi)容,導(dǎo)致對(duì)個(gè)人權(quán)利侵犯。

其次,網(wǎng)絡(luò)平臺(tái)“準(zhǔn)執(zhí)法權(quán)”異化違背程序正義。公開(kāi)透明的執(zhí)法標(biāo)準(zhǔn)和范圍是監(jiān)管權(quán)行使的前提。網(wǎng)絡(luò)平臺(tái)對(duì)用戶進(jìn)行內(nèi)容刪除、警告、屏蔽、封號(hào)、查驗(yàn)等措施時(shí),如果不公開(kāi)透明解讀執(zhí)行標(biāo)準(zhǔn)、范圍及具體裁量的依據(jù),會(huì)將監(jiān)管置于巨大的黑箱之中,導(dǎo)致用戶對(duì)監(jiān)管行為缺乏合理預(yù)期,引起公眾的強(qiáng)烈的不安全感。并且,平臺(tái)在對(duì)違法信息進(jìn)行處理時(shí),缺少必要的程序規(guī)范,未能對(duì)用戶進(jìn)行充分的告知以及對(duì)相關(guān)救濟(jì)措施作出詳細(xì)說(shuō)明,如在“沈陽(yáng)訴杭州網(wǎng)易雷火科技公司案”中,上訴人提出平臺(tái)在沒(méi)有事前告知其行為屬于禁止性行為的情況下,即采取了永久封禁賬號(hào)的處罰,屬于未經(jīng)合理程序就限制了用戶的游戲權(quán)利,這樣既不利于平臺(tái)內(nèi)開(kāi)展活動(dòng),也阻礙平臺(tái)形成良好的秩序。此外,網(wǎng)絡(luò)平臺(tái)行使“準(zhǔn)執(zhí)法權(quán)”后救濟(jì)渠道封閉導(dǎo)致責(zé)任逃避。目前在司法實(shí)踐中,法院更傾向于認(rèn)為平臺(tái)作為管理者,為了維護(hù)網(wǎng)絡(luò)市場(chǎng)秩序,有權(quán)采取封號(hào)等處罰措施,并認(rèn)為這種單方管理是合理的,因此以違約責(zé)任過(guò)重、格式條款無(wú)效以及濫用市場(chǎng)支配地位為由主張平臺(tái)制裁不合理,均難以獲得法律支持。

(三)網(wǎng)絡(luò)平臺(tái)“準(zhǔn)司法權(quán)” 的異化對(duì)裁判中立的偏離

裁判者的中立性即裁判者在發(fā)生爭(zhēng)議的各方參與者之間應(yīng)當(dāng)保持一種超然并且不偏向任何一方的態(tài)度,不能存在歧視或者主觀偏好。然而網(wǎng)絡(luò)平臺(tái)的多重身份以及算法偏見(jiàn)不斷沖擊裁判中立的價(jià)值,妨礙正義的實(shí)現(xiàn)。

首先,平臺(tái)多重身份無(wú)法保證裁判中立。由于網(wǎng)絡(luò)平臺(tái)對(duì)服務(wù)、資源的絕對(duì)掌控,一旦平臺(tái)上發(fā)生糾紛,用戶更傾向于找平臺(tái)來(lái)處理,平臺(tái)憑借各自的事實(shí)陳述、聊天記錄等證據(jù),并依據(jù)有關(guān)法律規(guī)定和平臺(tái)規(guī)則作出事實(shí)判斷,最后根據(jù)行為的嚴(yán)重程度作出不同的處罰,而在這一過(guò)程中網(wǎng)絡(luò)平臺(tái)既是規(guī)則的制定者,又是規(guī)則的執(zhí)行者,還是糾紛的處理者,其多重身份會(huì)導(dǎo)致權(quán)力的異化,失去司法本應(yīng)具有的基本功能。具體來(lái)說(shuō),雖然有些平臺(tái)運(yùn)用計(jì)算機(jī)系統(tǒng)裁判的ODR對(duì)糾紛處理進(jìn)行分流,但實(shí)際糾紛產(chǎn)生時(shí),用戶還是希望由具有一定主觀能動(dòng)性的客服人員而非智能機(jī)器人來(lái)處理糾紛,而為了保證糾紛處理的效率,必然要賦予客服人員對(duì)糾紛事實(shí)認(rèn)定上的權(quán)力,一旦權(quán)力行使未受到監(jiān)督,其對(duì)糾紛事實(shí)的獨(dú)斷裁決極易滋生腐敗,以致出現(xiàn)了銷售方為了謀求不正當(dāng)利益賄賂平臺(tái)客服人員的情形,影響了裁判的中立性。就像淘寶平臺(tái)在2012年和2015年分別關(guān)停了多家涉嫌賄賂“淘寶小二”的店鋪,并對(duì)索要當(dāng)事人好處在糾紛處理中偏袒行賄一方的“淘寶小二”進(jìn)行嚴(yán)肅的處理,然而“各電商平臺(tái)內(nèi)部的腐敗違法案例,都是它們關(guān)起門來(lái)自己解決,既當(dāng)運(yùn)動(dòng)員,又當(dāng)裁判員,削弱了懲罰腐敗的力度”[8]。

其次,算法偏見(jiàn)妨礙裁判中立。實(shí)際上網(wǎng)絡(luò)平臺(tái)“線上爭(zhēng)議解決”機(jī)制是根據(jù)雙方主體在平臺(tái)上所留下的數(shù)據(jù)進(jìn)行計(jì)算然后推算出如何解決糾紛,其核心技術(shù)是算法的應(yīng)用,然而“算法運(yùn)行中數(shù)據(jù)錯(cuò)誤和算法價(jià)值偏好可能出現(xiàn)的概率,將大大增加糾紛解決的不確定性和難以預(yù)測(cè)性”[9]。即使在調(diào)解員參與的ODR中,算法也具有獨(dú)立的影響力。有關(guān)研究指出,“算法決策系統(tǒng)使用‘超級(jí)推理,能夠以微妙而有效的方式塑造用戶的感受和行為, 破壞個(gè)人的獨(dú)立判斷力”[10]。平臺(tái)利用輔助糾紛解決的軟件程序計(jì)算出不損害自身利益的解決措施,一旦算法有了自己的偏好,會(huì)使得本應(yīng)該同等對(duì)待的用戶有了側(cè)重方,平臺(tái)作為中立第三者的地位難以保證,何談裁判的公正性。

三、網(wǎng)絡(luò)平臺(tái)權(quán)力異化風(fēng)險(xiǎn)的規(guī)制方案

(一)構(gòu)建網(wǎng)絡(luò)平臺(tái)“準(zhǔn)立法權(quán)”補(bǔ)足的溝通商談機(jī)制

如前所述,網(wǎng)絡(luò)平臺(tái)規(guī)則兼具私利與公益的面向,如果僅憑單方意志決定,勢(shì)必會(huì)引發(fā)社會(huì)矛盾,影響網(wǎng)絡(luò)社會(huì)治理秩序。隨著社會(huì)共治理念的深入,通過(guò)合作、參與、協(xié)商創(chuàng)造公共價(jià)值成為網(wǎng)絡(luò)空間治理的應(yīng)然取向。因此,在平臺(tái)規(guī)則設(shè)定環(huán)節(jié),通過(guò)引入不同主體的溝通商談機(jī)制可以對(duì)多方利益進(jìn)行平衡,增強(qiáng)規(guī)則制定的合理性與可接受性,實(shí)現(xiàn)網(wǎng)絡(luò)空間良好秩序的多元主體共治以及良好秩序的共享。

首先,提升網(wǎng)絡(luò)用戶的參與度。我國(guó)的《電子商務(wù)法》第34條規(guī)定“電子商務(wù)平臺(tái)經(jīng)營(yíng)者修改平臺(tái)服務(wù)協(xié)議和交易規(guī)則,應(yīng)當(dāng)在其首頁(yè)顯著位置公開(kāi)征求意見(jiàn),采取合理措施確保有關(guān)各方能夠及時(shí)充分表達(dá)意見(jiàn)”。此外,一些電商平臺(tái)還設(shè)置了規(guī)則眾議院、規(guī)則評(píng)審團(tuán)等專門制定平臺(tái)規(guī)則的組織,但鑒于該規(guī)定主要是針對(duì)電子商務(wù)平臺(tái)且制度設(shè)計(jì)過(guò)于籠統(tǒng),在實(shí)踐中并沒(méi)有發(fā)揮太大的作用。因此,需要進(jìn)一步完善用戶參與平臺(tái)規(guī)則制定的制度。建議可從以下三個(gè)方面入手:其一,平臺(tái)在規(guī)則設(shè)定環(huán)節(jié)可以針對(duì)涉及公眾基本權(quán)利等關(guān)鍵性規(guī)則上差異化地吸納用戶參與,對(duì)用戶參與數(shù)量方面作出底線規(guī)定;其二,對(duì)于用戶提出的建議,平臺(tái)應(yīng)予以充分考量,并由相關(guān)監(jiān)管部門進(jìn)行備案,以此維護(hù)平臺(tái)與用戶之間的信任基礎(chǔ)。其三,可以通過(guò)設(shè)立激勵(lì)機(jī)制的方式調(diào)動(dòng)公眾參與的積極性,如積分獎(jiǎng)勵(lì)、VIP獎(jiǎng)勵(lì)、消除以前處罰、提高用戶權(quán)限等方式,發(fā)掘、鼓勵(lì)具有專業(yè)能力的用戶,深度參與規(guī)則的制定,提高規(guī)則制定的合理性與可接受性。

其次,強(qiáng)化行業(yè)協(xié)會(huì)的網(wǎng)絡(luò)參與機(jī)制?!霸诂F(xiàn)代社會(huì),國(guó)家之外的團(tuán)體對(duì)其成員甚至成員以外的制約與強(qiáng)制可能比國(guó)家的強(qiáng)制更具壓迫性”[11]。行業(yè)協(xié)會(huì)在監(jiān)督平臺(tái)規(guī)則制定中的角色是協(xié)助、引導(dǎo)和提供專業(yè)支持,旨在確保規(guī)則的科學(xué)性、公正性和可操作性。行業(yè)協(xié)議具體可從以下兩個(gè)方面參與規(guī)則制定:一是行業(yè)協(xié)會(huì)可以通過(guò)構(gòu)建公眾參與程序的行業(yè)標(biāo)準(zhǔn),幫助用戶參與平臺(tái)規(guī)則的設(shè)定;二是行業(yè)協(xié)會(huì)可以設(shè)置負(fù)責(zé)指導(dǎo)平臺(tái)規(guī)則設(shè)定的專門機(jī)構(gòu),向平臺(tái)提供專業(yè)意見(jiàn)和建議,就平臺(tái)規(guī)則的制定與修改等方面進(jìn)行交流,通過(guò)行業(yè)專業(yè)知識(shí)和經(jīng)驗(yàn)的分享,協(xié)會(huì)能夠幫助平臺(tái)制定更加合理、科學(xué)和適應(yīng)行業(yè)特點(diǎn)的規(guī)則。

最后,加強(qiáng)專家對(duì)網(wǎng)絡(luò)規(guī)則制定的參與、協(xié)商和溝通。隨著大數(shù)據(jù)、算法等人工智能技術(shù)的發(fā)展,在某些領(lǐng)域的規(guī)則制定中使用了大量較為專業(yè)化的術(shù)語(yǔ),很難被公眾理解。因此,平臺(tái)應(yīng)當(dāng)在專業(yè)性強(qiáng)的關(guān)鍵性內(nèi)容上,建立專家咨詢制度。組織專家進(jìn)行不同維度、層次且配套的一般性解釋,并針對(duì)用戶關(guān)于規(guī)則條款適用等方面的疑問(wèn)進(jìn)行解答。并且在規(guī)則制定、修改時(shí),要組織專家進(jìn)行可行性論證。另外,在調(diào)動(dòng)專家參與的積極性上,平臺(tái)可以通過(guò)課題委托的方式讓其承擔(dān)部分規(guī)則的制定、論證和修改,也可考慮平臺(tái)與專家之間的合作交流、聲譽(yù)塑造、知名度提升等激勵(lì)措施。

(二)完善“準(zhǔn)執(zhí)法權(quán)”運(yùn)行的程序性規(guī)范

針對(duì)網(wǎng)絡(luò)平臺(tái)“準(zhǔn)執(zhí)法權(quán)”的異化現(xiàn)象,除了加強(qiáng)政府監(jiān)管外,權(quán)力的運(yùn)行要想達(dá)到合理公正必不可少的因素就是保證程序正義。

首先,執(zhí)法信息的網(wǎng)絡(luò)公開(kāi)程序。網(wǎng)絡(luò)平臺(tái)的監(jiān)管黑箱會(huì)將用戶置于不可知的境地并帶來(lái)潛在的權(quán)益損害,因此,相關(guān)權(quán)力主體應(yīng)當(dāng)制定清晰明確的執(zhí)法規(guī)則并定期將執(zhí)法信息向社會(huì)公開(kāi)以增強(qiáng)透明度。這些規(guī)則包括禁止的行為、處罰措施、執(zhí)行方式及裁決結(jié)果等內(nèi)容,確保用戶知曉平臺(tái)的執(zhí)法標(biāo)準(zhǔn)和相關(guān)政策。同時(shí),相關(guān)信息還可用于監(jiān)督和問(wèn)責(zé),如因平臺(tái)自身原因?qū)е孪嚓P(guān)規(guī)則信息無(wú)法查詢,則可允許相關(guān)主體向平臺(tái)或相關(guān)監(jiān)管部門要求依法公開(kāi)并在可能的情況下賠償因此受到的損失。信息公開(kāi)透明不僅可以將權(quán)力運(yùn)行暴露于公眾視野,接受社會(huì)監(jiān)督,而且平臺(tái)“準(zhǔn)執(zhí)法權(quán)”的行使能夠強(qiáng)化公眾對(duì)于相關(guān)法律法規(guī)和空間秩序的遵守與認(rèn)同,產(chǎn)生正向的激勵(lì)作用。

其次,網(wǎng)絡(luò)用戶參與權(quán)利的程序性保障。根據(jù)法律規(guī)定,行政機(jī)關(guān)在處置違法行為時(shí)不僅要在實(shí)體層面對(duì)案件事實(shí)和適用法律進(jìn)行認(rèn)定,還需要依據(jù)法定程序?qū)Ξ?dāng)事人權(quán)利給予必要的保障。雖然平臺(tái)權(quán)力不同于公權(quán)力,但鑒于其公共屬性,權(quán)力的行使應(yīng)當(dāng)受到程序性約束。具言之,一是規(guī)范取證程序。在對(duì)用戶投訴或舉報(bào)進(jìn)行處理前,平臺(tái)應(yīng)進(jìn)行充分的事實(shí)核實(shí),以確保對(duì)被投訴方的處理是基于真實(shí)和準(zhǔn)確的信息,這可能包括收集證據(jù)、調(diào)查事實(shí)情況和充分聽(tīng)取相關(guān)利益人的合理訴求與意見(jiàn)等步驟。二是完善告知義務(wù)。要將處理結(jié)果及時(shí)告知用戶以及投訴者,并對(duì)其說(shuō)明作出決定的理由。三是暢通申訴渠道。必須給用戶提供一個(gè)在合理期限內(nèi)“易于識(shí)別”,“且能直接、持續(xù)利用”的用戶申訴程序,并提供一個(gè)獨(dú)立審核渠道,確保用戶合理訴求得到回應(yīng)。此外,該程序還應(yīng)與司法救濟(jì)相銜接,糾正可能存在的錯(cuò)誤或不當(dāng)處理等情況,建立一套完整的用戶權(quán)力救濟(jì)機(jī)制。

最后,確保比例原則的嵌入。僅僅依靠程序正義標(biāo)準(zhǔn),還不足以規(guī)范平臺(tái)準(zhǔn)執(zhí)法權(quán),權(quán)力的行使還應(yīng)符合實(shí)質(zhì)正義。實(shí)體正義標(biāo)準(zhǔn)要求平臺(tái)在行使私權(quán)力時(shí)遵循比例原則,即具有明顯優(yōu)勢(shì)地位的平臺(tái),不能對(duì)處于弱勢(shì)地位的用戶濫用其私權(quán)力,其作出的限制行為要合比例。建議平臺(tái)設(shè)定的具體處罰措施應(yīng)當(dāng)具有必要性、設(shè)置的處罰標(biāo)準(zhǔn)應(yīng)當(dāng)與其違規(guī)行為成比例。比如,互聯(lián)網(wǎng)平臺(tái)應(yīng)當(dāng)根據(jù)違法違規(guī)行為的危害程度設(shè)立對(duì)應(yīng)的處罰,從警告、公示乃至永久性封禁賬號(hào)應(yīng)當(dāng)適用于危害程度由輕到重的違法違規(guī)行為,而不能全部“一封了之”。

(三)建立裁判中立的“眾議式”糾紛解決機(jī)制

如前所述,網(wǎng)絡(luò)平臺(tái)的多重身份會(huì)導(dǎo)致“準(zhǔn)司法權(quán)”的異化,影響裁判的中立性。在司法審判過(guò)程中,為了規(guī)制不中立的問(wèn)題,程序法中規(guī)定了回避規(guī)則,然而,網(wǎng)絡(luò)平臺(tái)的爭(zhēng)議解決部門并沒(méi)有在平臺(tái)建立內(nèi)部隔離,所以很難保障負(fù)責(zé)處理糾紛的工作人員與其所處理的糾紛不存在利益關(guān)聯(lián)。為此,網(wǎng)絡(luò)平臺(tái)可以引入“眾議式”糾紛機(jī)制,該機(jī)制是一種基于集體參與和民主決策的解決糾紛方式,比如淘寶平臺(tái)推出的大眾評(píng)審機(jī)制,即吸收了“陪審團(tuán)”模式形成了與以往客服處理不盡相同的糾紛解決機(jī)制,由達(dá)到條件的買家和賣家組成大眾評(píng)審團(tuán),對(duì)平臺(tái)內(nèi)部糾紛進(jìn)行集體判定,并由淘寶平臺(tái)來(lái)執(zhí)行大眾評(píng)審的結(jié)果。“眾議式”糾紛解決機(jī)制能夠充分發(fā)揮公眾智慧、增加參與者滿意度、提高決策的合法性和可執(zhí)行性,且大眾評(píng)審作為中立第三者能有效規(guī)避平臺(tái)多重身份影響裁判中立的尷尬境地。但值得注意的是,“因國(guó)家司法制度無(wú)法滿足需求而出現(xiàn)的大眾評(píng)審制,以糾紛解決的民間規(guī)范身份,在國(guó)家司法的遮蔽下滿足了公眾對(duì)效率價(jià)值的需求”[12](P76)。可見(jiàn),該機(jī)制設(shè)計(jì)之初對(duì)糾紛解決效率的要求就大于對(duì)裁判公平正義的要求,且對(duì)于復(fù)雜的糾紛或爭(zhēng)議,該機(jī)制在參與者代表性和權(quán)力不均衡等問(wèn)題上也存在一些挑戰(zhàn)。因此建議將此種“眾議式”糾紛解決機(jī)制予以法律化、規(guī)范化,通過(guò)在實(shí)踐中不斷改進(jìn)和完善,使之與國(guó)家司法制度形成良好的互補(bǔ)關(guān)系,更好地服務(wù)于平臺(tái)經(jīng)濟(jì)的發(fā)展。具體操作如下:一是建立“眾議式”糾紛解決機(jī)制分級(jí)制度。對(duì)于普通平臺(tái)來(lái)說(shuō),由于技術(shù)、資源和能力等方面的限制,可以鼓勵(lì)、引導(dǎo)其建立“眾議式”糾紛解決機(jī)制。但對(duì)于影響力較大的超級(jí)平臺(tái)來(lái)說(shuō),需要明確其建立大眾評(píng)審或類似制度的相應(yīng)義務(wù),以防止“準(zhǔn)司法權(quán)”的濫用。二是對(duì)“眾議式”糾紛解決機(jī)制在法律上作出原則性規(guī)定。具體包括評(píng)審的原則、評(píng)審的程序、評(píng)審人員的遴選等方面,網(wǎng)絡(luò)平臺(tái)在原則性規(guī)定的基礎(chǔ)上可以根據(jù)具體情況進(jìn)行細(xì)化和補(bǔ)充。另外,在采用“眾議式”糾紛解決機(jī)制的過(guò)程中要充分保障當(dāng)事人的申辯權(quán)利以及進(jìn)一步的申訴權(quán)利。

[參考文獻(xiàn)]

[1]馬克斯·韋伯.經(jīng)濟(jì)與社會(huì)(下卷)[M].林榮遠(yuǎn),譯.北京:商務(wù)印書館,1997.

[2]馬長(zhǎng)山.智能互聯(lián)網(wǎng)時(shí)代的法律變革[J].法學(xué)研究,2018(4).

[3]陳鵬.平臺(tái)權(quán)力的擴(kuò)張與規(guī)制[J].理論月刊,2022(8).

[4]杜林曉.平臺(tái)企業(yè)的公共屬性及其法律規(guī)制[C].上海財(cái)經(jīng)大學(xué),2021.

[5]趙祥瑞.平臺(tái)權(quán)力視角下網(wǎng)絡(luò)平臺(tái)規(guī)則的制定、執(zhí)行與適用[J].西部學(xué)刊,2022(17).

[6]馬長(zhǎng)山.智慧社會(huì)建設(shè)中的“眾創(chuàng)”式制度變革——基于“網(wǎng)約車”合法化進(jìn)程的法理學(xué)分析[J].中國(guó)社會(huì)科學(xué),2019(4).

[7]解正山.約束數(shù)字守門人:超大型數(shù)字平臺(tái)加重義務(wù)研究[J].比較法研究,2023(4).

[8]淘寶反腐,不是馬云一個(gè)人的事[J].IT時(shí)代周刊,2012(10).

[9]王玉薇.數(shù)字糾紛解決存在的難題及司法回應(yīng)[J].中國(guó)審判,2021(24).

[10]張凌寒.算法權(quán)力的興起、異化及法律規(guī)制[J].法商研究,2019(4).

[11]黎軍.論司法對(duì)行業(yè)自治的介入[J].中國(guó)法學(xué),2006(4).

[12]尚海濤.網(wǎng)絡(luò)平臺(tái)私權(quán)力的法律規(guī)制[M].北京:社會(huì)科學(xué)文獻(xiàn)出版社,2021.

Alienation risk and regulation scheme of network platform power

WANG Yu-wei, WANGTian

(Grammar school, Northeast Forestry University, Harbin 150040, China)

Abstract:Due to the non-equivalence of resources and status, network platforms have generated “quasi-legislative power”,“quasi-enforcement power”and “quasi-judicial power” to manage users, but the alienation of power has gradually deviated from the value presupposition of serving the public interest, resulting in an impact on legal values such as freedom, justice and neutrality, and bringing new challenges to the regulation of power alienation risk of network platforms. To this end, it is necessary to build a communication and negotiation mechanism that is supplemented by “quasi-legislative power” of the network platform, improve the procedural norms for the operation of “quasi-enforcement power” of the network platform, and establish a “crowd discussion” dispute resolution mechanism with neutral judgment, so as to better regulate the risk of alienation of power of the network platform.

Key words:network platform power; network platform power alienation; quasi-legislative power;quasi-enforcement power; quasi-judicial power

[責(zé)任編輯孫蘭瑛]

靖远县| 马关县| 昂仁县| 乌拉特前旗| 宝兴县| 海兴县| 齐齐哈尔市| 赤壁市| 边坝县| 仪陇县| 苍山县| 垦利县| 沈阳市| 甘洛县| 江源县| 新和县| 万盛区| 鄂托克旗| 东方市| 斗六市| 图们市| 新和县| 泗洪县| 霍城县| 禹州市| 永福县| 灵台县| 普兰县| 拉孜县| 彭州市| 湘阴县| 登封市| 汝城县| 安远县| 安吉县| 平陆县| 新竹市| 铅山县| 罗甸县| 乌兰浩特市| 宁蒗|