——基于垃圾分類智能化實踐的思考"/>

国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

人工智能應(yīng)用的社會風(fēng)險及其治理
——基于垃圾分類智能化實踐的思考

2022-12-31 02:34王泗通
江蘇社會科學(xué) 2022年5期

王泗通

內(nèi)容提要 隨著人工智能技術(shù)被廣泛應(yīng)用于社會治理領(lǐng)域,人工智能亦成為政府乃至社會主體破解垃圾分類困境的重要手段。但是人工智能技術(shù)在垃圾分類領(lǐng)域顯現(xiàn)高價值的同時,也會引發(fā)居民過度依賴智能化、基層自治空間不斷壓縮以及社會結(jié)構(gòu)可能解組的風(fēng)險。歸根結(jié)底,上述風(fēng)險主要緣于居民過度追求技術(shù)“傻化”導(dǎo)致自主性缺失、政府強(qiáng)化使用權(quán)限控制衍生“虛擬科層”以及人工智能“技術(shù)主動性”引發(fā)信任危機(jī)等。由此提出政府應(yīng)著力于打造“技術(shù)-個體-組織-社會”的社會結(jié)構(gòu),構(gòu)建增強(qiáng)居民社會風(fēng)險感知意識、形成多主體協(xié)作化解社會風(fēng)險機(jī)制、推進(jìn)防范社會風(fēng)險政策實施的垃圾分類智能化社會風(fēng)險治理策略體系。

近年來特別是黨的十九屆四中全會以來,國家高度重視創(chuàng)新社會治理,提升社會治理智能化水平?!吨腥A人民共和國國民經(jīng)濟(jì)和社會發(fā)展第十四個五年規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》明確指出,“堅持科技賦能,推進(jìn)社會治理現(xiàn)代化”[1]《中華人民共和國國民經(jīng)濟(jì)和社會發(fā)展第十四個五年規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》,《人民日報》2021年3月13日。。習(xí)近平總書記指出,“要加強(qiáng)人工智能發(fā)展的潛在風(fēng)險研判和防范,維護(hù)人民利益和國家安全,確保人工智能安全、可靠、可控”[2]習(xí)近平:《加強(qiáng)領(lǐng)導(dǎo)做好規(guī)劃明確任務(wù)夯實基礎(chǔ)推動我國新一代人工智能健康發(fā)展》,《人民日報》2018年11月1日。。垃圾分類是當(dāng)前社會治理的重要實踐,智能化已成為破解垃圾分類困境的重要手段。智能軟件、智能設(shè)備、大數(shù)據(jù)等新興智能技術(shù)被廣泛地應(yīng)用于垃圾分類領(lǐng)域。然而,由于人工智能是一種尚處于探索階段的革命性、顛覆性技術(shù),它在推動人類社會快速發(fā)展的同時,又深刻地改變了人類生產(chǎn)生活方式與社會形態(tài)結(jié)構(gòu),進(jìn)而衍生出一系列的社會風(fēng)險[1]蘇竣、魏鈺明、黃萃:《社會實驗:人工智能社會影響研究的新路徑》,《中國軟科學(xué)》2020年第9期。。有學(xué)者指出,人工智能形成的“智能技術(shù)范式”容易侵蝕人的自主權(quán),人或?qū)S為技術(shù)的“附庸”[2]孫偉平:《人工智能與人的“新異化”》,《中國社會科學(xué)》2020年第12期。。也有學(xué)者認(rèn)為,雖然人工智能有助于重塑政府科層組織之間及政府與社會的關(guān)系,但也容易對組織的地位和邊界帶來重大挑戰(zhàn)[3]趙金旭、孟天廣:《技術(shù)賦能:區(qū)塊鏈如何重塑治理結(jié)構(gòu)與模式》,《當(dāng)代世界與社會主義》2019年第3期。。還有學(xué)者提出人工智能技術(shù)失控容易造成社會沖突問題[4]任劍濤:《人工智能與“人的政治”重生》,《探索》2020年第5期。。在人工智能時代背景下,探討人工智能應(yīng)用的社會風(fēng)險成為亟須深入研究的現(xiàn)實問題。為此,本文試圖以垃圾分類智能化實踐為切入點,在厘清垃圾分類智能化社會風(fēng)險的可能表現(xiàn)及其生成邏輯的基礎(chǔ)上,著重探索垃圾分類智能化社會風(fēng)險的治理策略,以此探討人工智能如何更好地應(yīng)用于社會治理,進(jìn)而達(dá)成提升社會治理智能化水平的根本目標(biāo)。

一、垃圾分類智能化社會風(fēng)險的可能表現(xiàn)

垃圾分類制度的強(qiáng)制推行在很大程度上使得垃圾源頭分類、收集運(yùn)輸及末端處置等環(huán)節(jié)都需要投入大量的勞動力。由此垃圾分類智能化應(yīng)時而生,形式多樣的人工智能技術(shù)被應(yīng)用于替代垃圾分類各個環(huán)節(jié)的勞動力,以降低垃圾分類的人力成本,提升垃圾分類的效率[5]周馮琦、張文博:《垃圾分類領(lǐng)域人工智能應(yīng)用的特征及其優(yōu)化路徑研究》,《新疆師范大學(xué)學(xué)報(哲學(xué)社會科學(xué)版)》2020年第4期。。一方面,以推動居民深度參與垃圾分類為目的,應(yīng)用輔助居民垃圾分類的智能化軟件和硬件,可以減少引導(dǎo)和監(jiān)督垃圾分類的人員,還可以降低垃圾收集運(yùn)輸過程中的人力成本。另一方面,以助力政府精細(xì)管理和實現(xiàn)社區(qū)精準(zhǔn)治理為目的的應(yīng)用“互聯(lián)網(wǎng)+”大數(shù)據(jù)平臺,可以實現(xiàn)分類用戶、分類設(shè)備、社區(qū)治理、政府管理之間的無縫連接,推進(jìn)垃圾分類智能化管理。正常而言,個體主要通過組織嵌入于社會,即形成“個體-組織-社會”的基本結(jié)構(gòu),而智能技術(shù)的嵌入,就形成“技術(shù)-個體-組織-社會”的新結(jié)構(gòu)[6]邱澤奇:《技術(shù)與組織:多學(xué)科研究格局與社會學(xué)關(guān)注》,《社會學(xué)研究》2017年第4期。。由于人工智能是顛覆既有認(rèn)知的新技術(shù),無論是個體還是組織以及社會層面對人工智能技術(shù)的認(rèn)知都需經(jīng)歷漫長的過程。隨著試點城市垃圾分類智能化應(yīng)用廣度和深度的拓展,智能化引發(fā)的社會風(fēng)險也隨之顯現(xiàn)。具體而言,垃圾分類智能社會風(fēng)險主要表現(xiàn)在以下3個方面。

1.引發(fā)居民過度依賴智能化的風(fēng)險

垃圾分類在社區(qū)成功推行的關(guān)鍵在于能夠引導(dǎo)居民養(yǎng)成良好的垃圾分類意識和垃圾分類行為[7]王泗通:《垃圾分類何以能在單位社區(qū)持續(xù)推行——以“單位人”為研究視角》,《求索》2020年第4期。。因此,既有的破解居民垃圾分類參與困境的策略,多是鼓勵社區(qū)采用多樣化措施增強(qiáng)居民對社區(qū)的認(rèn)同感和歸屬感,進(jìn)而營造“全民參與”的垃圾分類氛圍,引導(dǎo)居民自覺、自愿參與垃圾分類[8]徐林、凌卯亮、盧昱杰:《城市居民垃圾分類的影響因素研究》,《公共管理學(xué)報》2017年第1期。。已有輔助居民垃圾分類的智能化軟件和硬件的主要作用,也是幫助居民熟悉垃圾分類規(guī)則,引導(dǎo)居民自覺參與垃圾分類。如垃圾分類智能APP,主要具有垃圾分類宣傳教育功能,通過計算機(jī)視覺技術(shù),引導(dǎo)居民準(zhǔn)確分類;垃圾分類智能垃圾箱能夠自動識別垃圾類型,將居民投入的垃圾進(jìn)行智能分類和壓縮;垃圾分類智能機(jī)器人則扮演社區(qū)垃圾分類督導(dǎo)員的角色,不僅能夠引導(dǎo)居民有序參與垃圾分類,而且還能對居民的垃圾分類行為進(jìn)行實時監(jiān)督。

隨著智能化軟件和智能化設(shè)備的應(yīng)用,很多垃圾分類智能化試點城市居民理所當(dāng)然地將人工智能技術(shù)當(dāng)作方便人類日常生活的新技術(shù),對其產(chǎn)生了過于依賴的思想傾向。一方面,很多居民認(rèn)為既然垃圾分類智能化是破解垃圾分類困境的重要手段,政府就應(yīng)該投入更多的資金用于垃圾分類智能化軟件和硬件的研發(fā)和應(yīng)用,實現(xiàn)社區(qū)垃圾分類各個環(huán)節(jié)的智能化,有效解決社區(qū)垃圾分類難的困境。另一方面,不少居民認(rèn)為人工智能是未來社會發(fā)展的必然趨勢,人工智能技術(shù)在各個領(lǐng)域都為人類提供強(qiáng)大的助力,因而以人工智能替代居民在垃圾分類中的角色和作用,不僅能夠提升垃圾分類效率,而且還能讓居民有更多的時間和精力從事社會日常生產(chǎn)工作。這種看似“合情合理”的思維邏輯,直接導(dǎo)致居民深化垃圾分類事不關(guān)己的心態(tài),進(jìn)而加劇了社區(qū)居民垃圾分類參與困境的嚴(yán)重性[1]董飛、扶漪紅、吳笑天:《城市生活垃圾分類治理:現(xiàn)實困境與實踐進(jìn)路》,《城市發(fā)展研究》2021年第2期。。

2.壓縮基層政府自治空間的風(fēng)險

以人工智能技術(shù)為支撐的大數(shù)據(jù)管理已成為政府精細(xì)管理的重要方式,政府通過“互聯(lián)網(wǎng)+”大數(shù)據(jù)平臺,能夠使得數(shù)據(jù)分析逐漸擺脫人的直覺判斷,有助于提升政府智能決策水平[2]黃飛宇、王杰:《智能化組織“績效—學(xué)習(xí)—變革”系統(tǒng)演進(jìn)過程研究》,《中國礦業(yè)大學(xué)學(xué)報(社會科學(xué)版)》2021年第3期。。同樣,垃圾分類智能化的重要特征之一就是要實現(xiàn)垃圾分類的大數(shù)據(jù)管理,如上海智能“芯”、杭州“兩網(wǎng)融合”、寧波智慧平臺等,都是垃圾分類大數(shù)據(jù)管理的重要實踐。大數(shù)據(jù)管理主要依靠“互聯(lián)網(wǎng)+”對垃圾分類各個環(huán)節(jié)進(jìn)行前端數(shù)據(jù)采集、終端數(shù)據(jù)傳遞、后端數(shù)據(jù)分析,進(jìn)而實現(xiàn)垃圾分類的“可視化”管理;而且還借助大數(shù)據(jù)平臺實現(xiàn)數(shù)據(jù)分析結(jié)果的實時下達(dá)和實時決策,并由此建立自上而下的垃圾分類智能化考核問責(zé)機(jī)制。就實踐而言,垃圾分類大數(shù)據(jù)管理在一定程度上提升了政府垃圾分類管理效率,尤其是強(qiáng)化了市級政府對基層政府垃圾分類推行情況的監(jiān)督管理。如市級政府既能夠依靠大數(shù)據(jù)平臺較為便捷地了解基層政府垃圾分類推進(jìn)計劃以及推進(jìn)效果,又能夠根據(jù)基層政府垃圾分類計劃的推進(jìn)進(jìn)度及效果針對性地對基層政府下達(dá)“精準(zhǔn)”的垃圾分類政策,還能夠?qū)ζ湟严逻_(dá)的“精準(zhǔn)”垃圾分類政策的實施效果進(jìn)行實時監(jiān)督。

但現(xiàn)實中,無論是垃圾分類相關(guān)工作的推進(jìn),還是垃圾分類已有問題的解決,都需要基層政府按照一定的社會規(guī)律和社會秩序穩(wěn)步推進(jìn)和解決,這在很大程度上對基層政府垃圾分類相關(guān)工作推進(jìn)和已有問題解決帶來了嚴(yán)峻考驗[3]林志剛、彭波:《大數(shù)據(jù)管理的現(xiàn)實匹配、多重挑戰(zhàn)及趨勢判斷》,《改革》2013年第8期。。再加上環(huán)境治理政績已成為考核地方政府官員重要指標(biāo),很多地方政府官員為了盡快獲得環(huán)境治理政績,都會不斷強(qiáng)化對下級政府環(huán)境治理政績的考核問責(zé)。因而,不少實施垃圾分類大數(shù)據(jù)管理的試點城市,都會借助垃圾分類大數(shù)據(jù)平臺,將垃圾分類考核問責(zé)日?;?,即每天安排相應(yīng)的工作人員抽查各個基層政府的垃圾分類推進(jìn)情況,并在當(dāng)天通過大數(shù)據(jù)平臺反饋相應(yīng)問題,要求基層政府對相應(yīng)問題進(jìn)行限期整改。這直接導(dǎo)致基層政府疲于應(yīng)付上級政府的垃圾分類問題“派單”。這一點在垃圾分類大數(shù)據(jù)管理平臺的權(quán)限設(shè)置中也能得到相應(yīng)的驗證,即很多垃圾分類試點城市在設(shè)計大數(shù)據(jù)平臺管理權(quán)限時,都設(shè)置市級政府能夠直接對接主要社區(qū),進(jìn)一步壓縮了基層政府的自治空間。

3.導(dǎo)致社會結(jié)構(gòu)解組的風(fēng)險

吉登斯結(jié)構(gòu)化理論認(rèn)為人的行為既被社會結(jié)構(gòu)賦予能動性,又被社會結(jié)構(gòu)所束縛,而組織為人嵌入社會提供重要載體并實現(xiàn)了人與組織、人與社會的多重互動[4]邱澤奇:《技術(shù)與組織:學(xué)科脈絡(luò)與文獻(xiàn)》,中國人民大學(xué)出版社2018年版,第213—214頁。。換言之,個體的理性行為形成了多元化組織,組織有序行動是社會結(jié)構(gòu)的基本特征,社會的結(jié)構(gòu)性特征又是個體理性行為以及組織有序行動的最終結(jié)果。因此,社會結(jié)構(gòu)是個體和組織的中介,對個體行動和組織行動具有引導(dǎo)性和制約性,同時個體行動和組織行動又能夠調(diào)節(jié)和重塑社會結(jié)構(gòu)[5]安東尼·吉登斯:《社會的構(gòu)成——結(jié)構(gòu)化理論綱要》,李康、李猛譯,中國人民大學(xué)出版社2016年版,第15—17頁。。隨著人工智能技術(shù)的快速發(fā)展,人工智能已滲透到社會各個領(lǐng)域,并持續(xù)引發(fā)社會變遷和社會結(jié)構(gòu)轉(zhuǎn)型[1]王鋒:《智慧社會環(huán)境下的政府組織轉(zhuǎn)型》,《中國行政管理》2019年第7期。。尤其是人工智能技術(shù)的應(yīng)用使得社會中很多由人承擔(dān)的工作被人工智能所取代,人工智能演變成虛擬的“社會主體”,甚至在部分領(lǐng)域人工智能的作用要遠(yuǎn)超于人的作用[2]孫宏文、李長勝:《人工智能時代社會結(jié)構(gòu)的演變與空間建構(gòu)》,《哈爾濱工業(yè)大學(xué)學(xué)報(社會科學(xué)版)》2020年第5期。,這可能導(dǎo)致原“人-組織-社會”結(jié)構(gòu)被解組,出現(xiàn)“智能技術(shù)-人-組織-社會”的新結(jié)構(gòu)。

垃圾分類智能化過程亦是如此,政府更多考慮如何依托人工智能技術(shù)實現(xiàn)對垃圾分類有序管理以及勞動力的替代,居民更多考慮如何將垃圾分類交由人工智能技術(shù)。因而在本質(zhì)上,人工智能技術(shù)在垃圾分類中的“主體地位”不斷提升。大多數(shù)垃圾分類試點城市政府及居民認(rèn)為智能化是垃圾分類發(fā)展必然趨勢,從而導(dǎo)致原本維系組織和社會的行為準(zhǔn)則,并不能維系當(dāng)前垃圾分類智能技術(shù)應(yīng)用后的社會行為,即大多數(shù)垃圾分類試點城市在推進(jìn)垃圾分類智能化應(yīng)用的同時,并沒有過多地考慮垃圾分類智能化可能對既有社會結(jié)構(gòu)造成一定風(fēng)險,而是單向地不斷推進(jìn)垃圾分類智能化應(yīng)用的廣度和深度。但如果從社會風(fēng)險角度重新審視垃圾分類智能化,就會發(fā)現(xiàn)如果不能有效規(guī)劃垃圾分類智能技術(shù)的推廣和應(yīng)用,很有可能會影響社會運(yùn)行的基本秩序,最終導(dǎo)致整個人類社會結(jié)構(gòu)出現(xiàn)解組的風(fēng)險[3]謝新水:《人工智能發(fā)展:規(guī)劃賦能、技術(shù)自主性疊加與監(jiān)管復(fù)雜性審視》,《浙江學(xué)刊》2020年第2期。。

二、垃圾分類智能化社會風(fēng)險的形成機(jī)理

從社會風(fēng)險感知理論可以發(fā)現(xiàn),人對社會風(fēng)險的感知是一種較為復(fù)雜的心理反應(yīng)過程,該過程受到各種社會因素及人自身因素的綜合式影響。很多時候,人在判斷新興事物的社會影響時,有可能會出現(xiàn)個人的感知偏好[4]孫壯珍:《風(fēng)險感知視角下鄰避沖突中公眾行為演化及化解策略——以浙江余杭垃圾焚燒項目為例》,《吉首大學(xué)學(xué)報(社會科學(xué)版)》2020年第4期。。垃圾分類智能化的根本目的,是借助人工智能技術(shù)幫助政府實現(xiàn)垃圾分類的有序推進(jìn),輔助居民培養(yǎng)良好的垃圾分類行為。因而無論是政府還是居民,在本質(zhì)上更多關(guān)注垃圾分類智能化的積極作用,而忽視了垃圾分類智能化可能存在的社會風(fēng)險。一方面,居民主要關(guān)注人工智能能否代替人的勞動來實現(xiàn)垃圾智能化分類,對人工智能產(chǎn)生過度依賴心理,使得居民自主性逐漸缺失;另一方面,政府更多考慮利用大數(shù)據(jù)管理建立“可視化”的垃圾分類管理機(jī)制,從而衍生出“虛擬科層”,造成基層政府因大數(shù)據(jù)管理權(quán)限較低,自治空間不斷被壓縮。垃圾分類智能化改變了居民行為邏輯和政府科層管理機(jī)制,進(jìn)而使得垃圾分類“個體-組織-社會”的社會結(jié)構(gòu)被重構(gòu)。更多人的作用被人工智能替代,可能引發(fā)人與智能的社會沖突。

1.技術(shù)“傻化”:人工智能導(dǎo)致居民自主性缺失

先進(jìn)技術(shù)如何推廣使用一直是個難題。對于許多先進(jìn)技術(shù)而言,不同人群對其的適應(yīng)需要一個過程,這就要求越是先進(jìn)的技術(shù)在具體推廣應(yīng)用中越是需要“傻化”的操作[5]陳阿江:《技術(shù)傻化的社會學(xué)闡述》,《南京師大學(xué)報(社會科學(xué)版)》2003年第4期。。技術(shù)“傻化”也就逐漸成為先進(jìn)技術(shù)的發(fā)展方向,甚至演變到人工智能的出現(xiàn),“去人工化”更是成為人工智能技術(shù)的“傻化”方向。人們愈發(fā)追求更為簡便化的人工智能技術(shù),語音識別、視圖識別等都是更為簡便的智能化技術(shù)操作方式[6]王春超、丁琪芯:《智能機(jī)器人與勞動力市場研究新進(jìn)展》,《經(jīng)濟(jì)社會體制比較》2019年第2期。。垃圾分類智能化亦是朝著更為簡便的技術(shù)應(yīng)用方向發(fā)展,即從智能技術(shù)應(yīng)用于輔助居民垃圾分類的初衷來看,智能軟件和智能設(shè)備在本質(zhì)上都是為了簡化居民垃圾分類的難度,甚至還能對居民投放的垃圾進(jìn)行一定的二次分揀。這些“傻化”的智能技術(shù),在便于居民使用的同時,還能解決很多人工難以解決的難題,如垃圾分類智能機(jī)器人不僅能夠始終如一地引導(dǎo)居民參與垃圾分類,還能時刻監(jiān)督居民的垃圾分類行為,并及時根據(jù)居民垃圾分類好壞適時進(jìn)行信息反饋。

然而,隨著垃圾分類人工智能技術(shù)逐步完善,居民卻逐漸產(chǎn)生將垃圾分類中的主體角色讓渡于人工智能技術(shù)的思想傾向。一方面,很多居民在邏輯上認(rèn)為人工智能技術(shù)的發(fā)展本身就是為了減少人的勞動投入,進(jìn)而提升人的勞動效率,如果人工智能技術(shù)能夠替代人實現(xiàn)“自主”垃圾分類本就是技術(shù)進(jìn)步,而這種技術(shù)的進(jìn)步恰恰是人類追求社會進(jìn)步的重要基石。另一方面,垃圾分類的“去人工化”逐漸成為居民默認(rèn)的共識,這在一定程度上使居民回歸了以較為冷漠的態(tài)度看待社區(qū)公共事務(wù)的組織管理,導(dǎo)致越來越多的居民主動參與垃圾分類的意識不斷降低,進(jìn)而致使居民在垃圾分類智能化過程中的“自主性”逐漸缺失。故而,隨著垃圾分類智能化的逐步推進(jìn),以人為主體還是以人工智能為主體推進(jìn)垃圾分類就成為當(dāng)前最大的難題。從既有垃圾分類智能化發(fā)展趨勢來看,居民的垃圾分類自主權(quán)不斷被人工智能技術(shù)侵蝕,垃圾分類智能化逐漸淪為人工智能技術(shù)的附庸,進(jìn)而導(dǎo)致很多垃圾分類試點城市政府只能不斷通過人工智能技術(shù)創(chuàng)新和擴(kuò)大人工智能應(yīng)用場景,達(dá)成依靠人工智能技術(shù)實現(xiàn)社區(qū)垃圾有序分類的根本目標(biāo)。

2.權(quán)限控制:大數(shù)據(jù)管理衍生“虛擬科層”

科學(xué)技術(shù)在征服和改造自然中取得了卓越的成效,這激發(fā)人們將科學(xué)技術(shù)應(yīng)用到社會治理,以期提高社會的運(yùn)行效率,進(jìn)而形成以技術(shù)為核心的技術(shù)社會治理體系[1]劉永謀、李佩:《科學(xué)技術(shù)與社會治理:技術(shù)治理運(yùn)動的興衰與反思》,《科學(xué)與社會》2017年第2期。。人工智能作為新興的科學(xué)技術(shù),其在政務(wù)領(lǐng)域的應(yīng)用和拓展,使得政府治理呈現(xiàn)出明顯的技術(shù)化特征;特別是大數(shù)據(jù)平臺應(yīng)用于政府治理后,政府逐步推進(jìn)科層管理組織改革,成立專門進(jìn)行大數(shù)據(jù)管理的機(jī)構(gòu),如大數(shù)據(jù)資源管理局、大數(shù)據(jù)管理中心等[2]易龍飛、陶建鐘:《政府治理的技術(shù)依賴傾向及其風(fēng)險管控》,《江海學(xué)刊》2020年第3期。。但是由于當(dāng)前大數(shù)據(jù)治理仍處于探索階段,這些專門的大數(shù)據(jù)管理機(jī)構(gòu)在推動大數(shù)據(jù)平臺應(yīng)用于政府治理時,并沒有可供參考的經(jīng)驗,多是“摸著石頭過河”。政府使用大數(shù)據(jù)管理的目的也是想要借助智能技術(shù)提升管理效率,但在具體設(shè)計大數(shù)據(jù)平臺時,卻依然按照科層制設(shè)置大數(shù)據(jù)管理權(quán)限,進(jìn)而達(dá)成政府不同層級之間的“上下控制”關(guān)系[3]劉永謀:《技術(shù)治理的邏輯》,《中國人民大學(xué)學(xué)報》2016年第6期。。因而從現(xiàn)階段大數(shù)據(jù)管理本質(zhì)來看,大數(shù)據(jù)管理依然沒有消除科層制的權(quán)力不平等弊端。

垃圾分類智能化中的大數(shù)據(jù)管理亦是如此,很多垃圾分類試點城市在探索垃圾分類大數(shù)據(jù)管理時,不但沒有達(dá)成垃圾分類管理主體趨向平等化、合理化的基本目標(biāo),反而衍生出“虛擬科層”,使得上級政府不斷強(qiáng)化對下級政府的“管控”,尤其是對下級政府垃圾分類的日常問責(zé)考核。加上已有政府科層制形成的壓力型體制,不僅逐漸弱化了下級政府在垃圾分類中的角色作用,使之成為輔助建議的角色,直接導(dǎo)致下級政府權(quán)力逐漸被架空,下級政府只能不斷回應(yīng)上級政府的政策要求,導(dǎo)致作為推動垃圾分類最后一環(huán)的基層政府,疲于應(yīng)付上級政府的考核問責(zé);甚至有些垃圾分類試點城市的基層政府出現(xiàn)做得差干脆不做的“撂挑子”行為。然而,受科層制的影響,越是上級政府越難以及時了解社區(qū)居民具體細(xì)致的社會需求。上級政府利用大數(shù)據(jù)管理平臺不斷強(qiáng)化對下級政府的“監(jiān)控”,勢必造成下級政府難以有效傳遞社區(qū)居民的真正訴求,最終可能會出現(xiàn)對社區(qū)“控制失靈”的問題[4]陳福平:《智慧社區(qū)建設(shè)的“社區(qū)性”——基于技術(shù)與治理的雙重視角》,《社會科學(xué)》2022年第3期。。

3.角色替代:社會結(jié)構(gòu)重構(gòu)引發(fā)信任危機(jī)

無論是以輔助居民為目的的智能技術(shù),還是以精準(zhǔn)垃圾分類管理為目的的大數(shù)據(jù)平臺,在本質(zhì)上都是承擔(dān)了原本理應(yīng)由人擔(dān)負(fù)的職責(zé),這就使得已有社會結(jié)構(gòu)中人的角色作用逐漸被人工智能所取代。社會角色理論指出,雖然每個人在社會中扮演著不同角色,但是因為每個角色都有特定的權(quán)利和義務(wù),進(jìn)而通過組織化形成特定的社會角色行為規(guī)范體系[1]鄭杭生:《社會學(xué)概論新修》第五版,中國人民大學(xué)出版社2019年版,第160—161頁。。即角色的本質(zhì)在于人的社會性,是人的一切社會關(guān)系的總和,這也就意味著每個人在社會關(guān)系結(jié)構(gòu)中所扮演的角色都具有一定的社會地位,這種社會地位又決定每個人在享受一定權(quán)利的同時,還需履行相應(yīng)的義務(wù)[2]任志峰:《角色理論及其對集體行為者的可行性分析》,《華中科技大學(xué)學(xué)報(社會科學(xué)版)》2016年第4期。。正因為每個人都按照各自所扮演的特定角色的行為規(guī)范來約束自己的行為,才確保了社會的有序運(yùn)行[3]喬納森·H.特納:《社會學(xué)理論的結(jié)構(gòu)》第七版,邱澤奇、張茂元譯,華夏出版社2006年版,第328頁。。而垃圾分類智能化對人和組織作用的替代,直接導(dǎo)致既有社會結(jié)構(gòu)的重構(gòu),原本由人類群體所演變出的社會秩序受到人工智能的挑戰(zhàn)。伴隨著人工智能對人的角色的替代,人工智能甚至扮演著“社會組織者”的角色,原有基于人們互動和需要形成的社會規(guī)范和組織模式受到了挑戰(zhàn)。

隨著人工智能替代人在垃圾分類中角色深度的延伸,在垃圾分類相關(guān)主體未能對人工智能形成深刻、全面、正確的認(rèn)知之前,很有可能會引發(fā)社會信任危機(jī)。從表面來看,可能表現(xiàn)為人對人工智能的信任危機(jī),即人工智能在垃圾分類中表現(xiàn)出要超越人的作用,這稍有不慎就可能引發(fā)垃圾分類的全部智能化,致使人的主觀能動性在垃圾分類中被邊緣化。從深層來看,人工智能介入人與人、人與組織之間的關(guān)系后,無異于重新塑造了人與人、人與組織之間的社會關(guān)系,有可能導(dǎo)致人由原來的組織化轉(zhuǎn)變?yōu)橹悄芑?,個人的權(quán)利和義務(wù)、組織的權(quán)利和義務(wù)都有可能被智能化所“控制”,就有可能無法厘清究竟是人塑造了人工智能還是人工智能塑造了人,最終導(dǎo)致重構(gòu)的新社會結(jié)構(gòu)面臨社會解組的困境。如垃圾分類智能化所構(gòu)建的智慧管理平臺,旨在依托人工智能實現(xiàn)對垃圾分類的智慧化管理,使居民與社區(qū)、居民與政府以及社區(qū)與政府的組織模式轉(zhuǎn)換為依托大數(shù)據(jù)平臺的立體互動模式。這一互動模式稍有不慎就會使得人與人、人與組織之間的社會關(guān)系更多停留在平臺上的互動上,在一定程度上違背了居民及社區(qū)等社會主體有序參與垃圾分類管理與監(jiān)督的基本原則。

三、垃圾分類智能化社會風(fēng)險的治理策略

從技術(shù)研發(fā)應(yīng)用層面上看,人工智能的“研發(fā)不透明”特征,使得在研發(fā)過程中存在“黑箱效應(yīng)”[4]譚九生、范曉韻:《算法“黑箱”的成因、風(fēng)險及其治理》,《湖南科技大學(xué)學(xué)報(社會科學(xué)版)》2020年第6期。。再加上人工智能還具有“技術(shù)主觀性”,在實際應(yīng)用中很容易脫離監(jiān)管,出現(xiàn)“技術(shù)失控”問題[5]唐鈞:《人工智能的社會風(fēng)險應(yīng)對研究》,《教學(xué)與研究》2019年第4期。。技術(shù)一旦失控,就會對人的生存和生活帶來巨大的威脅,尤其是人工智能在改變?nèi)说纳a(chǎn)方式、生活方式以及思維方式的同時,也在不斷改變?nèi)伺c社會和組織與社會的關(guān)系,即隨著人工智能技術(shù)的快速發(fā)展,人與物的關(guān)系問題就會轉(zhuǎn)變?yōu)槿伺c“人造物”的關(guān)系問題[6]張成崗:《人工智能時代:技術(shù)發(fā)展、風(fēng)險挑戰(zhàn)與秩序重構(gòu)》,《南京社會科學(xué)》2018年第5期。。如何將人工智能技術(shù)嵌入整個社會結(jié)構(gòu),重構(gòu)“技術(shù)-個體-組織-社會”的新結(jié)構(gòu),并能主動適應(yīng)垃圾分類智能化的新趨勢,成為化解垃圾分類智能化社會風(fēng)險的根本所在。因而,垃圾分類智能化社會風(fēng)險的治理策略,不僅需要改變居民的風(fēng)險感知,提升居民應(yīng)對垃圾分類智能化社會風(fēng)險的能力,而且還要創(chuàng)新社會治理機(jī)制,形成多元主體協(xié)同合作來化解垃圾分類智能化社會風(fēng)險。此外,更要利用政策的強(qiáng)制性特征,規(guī)范垃圾分類智能化的推進(jìn)及應(yīng)用過程,實現(xiàn)借助政策構(gòu)建防范垃圾分類智能化社會風(fēng)險的長效機(jī)制。

1.能力提升:增強(qiáng)居民垃圾分類智能化社會風(fēng)險的感知意識

居民之所以很少關(guān)注垃圾分類智能化社會風(fēng)險,根本原因在于垃圾分類領(lǐng)域人工智能技術(shù)尚處于探索階段,大多數(shù)居民對垃圾分類人工智能技術(shù)只有碎片化的認(rèn)識。如與居民垃圾分類聯(lián)系較為緊密的智能APP、智能垃圾桶、智能機(jī)器人等智能技術(shù),在居民的認(rèn)知中仍處于可控范圍。然而,很多地方政府在推進(jìn)垃圾分類智能化過程中,很多智能技術(shù)信息并沒有做到完全公開透明化,一些用于管理和監(jiān)督居民垃圾分類的智能技術(shù)信息的分享多限于政府管理者,致使居民被置身于“信息繭房”。而“信息繭房”會導(dǎo)致居民難以詳盡地了解人工智能技術(shù),因而也就無法準(zhǔn)確判斷人工智能技術(shù)是否存在社會風(fēng)險,進(jìn)而容易造成政府與居民之間的區(qū)隔。如居民無法直接接觸大數(shù)據(jù)平臺,其所設(shè)置的智能監(jiān)控、智能決策等技術(shù),在居民沒有感知的情況下,很大程度上已經(jīng)對居民構(gòu)成隱形的“宰制”[1]唐慶鵬:《在工程與人文之間:人工智能技術(shù)的融合本質(zhì)及發(fā)展原則》,《人文雜志》2021年第2期。。隨著垃圾分類人工智能技術(shù)的深度開發(fā)和推廣,具有“技術(shù)主觀性”的人工智能技術(shù),在一定程度上可能重塑居民的意識和行為。2017年,牛津大學(xué)通過對300多位人工智能科學(xué)家的調(diào)查發(fā)現(xiàn),預(yù)計在45年內(nèi),人工智能在各個領(lǐng)域有50%的機(jī)會超越人類;在120年內(nèi),能夠?qū)崿F(xiàn)替代所有人類的工作[2]《數(shù)百位專家預(yù)言:人工智能45年內(nèi)將全面勝過人類》,2017年6月5日,http://www.sohu.com/a/146233641_624616。。

當(dāng)然,闡述垃圾分類智能化的社會風(fēng)險,并不是為了否認(rèn)人工智能技術(shù)在垃圾分類領(lǐng)域的積極作用,而是引導(dǎo)居民正確認(rèn)識垃圾分類人工智能技術(shù)可能存在的風(fēng)險,進(jìn)而更為謹(jǐn)慎地使用人工智能技術(shù)。就當(dāng)前而言,有關(guān)人工智能技術(shù)應(yīng)用的討論中,無論是政府還是居民,都不能過高、過快地估計人工智能技術(shù)的積極作用,而是需要理性地認(rèn)知人工智能技術(shù)的應(yīng)用。人類對人工智能技術(shù)的控制能力最終取決于對智能技術(shù)的認(rèn)知深度,以及對人類及智能技術(shù)未來關(guān)系的思考。在政府大力推進(jìn)垃圾分類智能化的背景下,需要政府和居民高度重視對垃圾分類智能化社會風(fēng)險的預(yù)判與防范,構(gòu)筑垃圾分類智能化的社會風(fēng)險防范文化,使得參與垃圾分類的居民既能對垃圾分類智能化社會風(fēng)險高度警覺、敏感,又能在主觀、心理上接受垃圾分類智能化的應(yīng)用以避免產(chǎn)生不必要的恐慌,最后還能在更高層次上對垃圾分類智能化的社會風(fēng)險治理有著清晰明確的思路。

2.機(jī)制創(chuàng)新:形成多主體協(xié)作化解垃圾分類智能化社會風(fēng)險機(jī)制

隨著我國全面推進(jìn)國家治理體系和治理能力現(xiàn)代化,社會治理主體更加多元化,政府不再只是治理的唯一主體,同時也是被治理的對象;社會主體不再只是被治理的對象,也是治理的重要參與者[3]李濱、施曲海:《新時代現(xiàn)階段的社會治理研究——權(quán)力決策、民主決策和科學(xué)決策的關(guān)系》,《重慶工商大學(xué)學(xué)報(社會科學(xué)版)》2021年第3期。。垃圾分類智能化社會風(fēng)險產(chǎn)生的重要原因之一,便是人工智能技術(shù)在實際應(yīng)用過程中存在明顯的權(quán)限控制,使得擁有更多人工智能技術(shù)使用權(quán)限的主體能夠?qū)κ褂脵?quán)限較少的主體進(jìn)行“虛擬控制”。如垃圾分類大數(shù)據(jù)管理平臺,雖然垃圾分類相關(guān)的各層級政府、社區(qū)、居民等主體都擁有大數(shù)據(jù)平臺的使用權(quán),但是從不同主體的使用權(quán)限來看,卻存在明顯的不平等。政府相比于社區(qū)和居民而言,擁有更多的管理權(quán),上級政府相比于下級政府而言,擁有更多的控制權(quán)。而且越是上級政府越是可以借助大數(shù)據(jù)平臺實時管理和監(jiān)督下級政府垃圾分類的推進(jìn)情況以及取得的成效,而下級政府在大數(shù)據(jù)平臺中更多的是接收上級政府的決策,接受上級政府的問責(zé)。顯然,當(dāng)前大數(shù)據(jù)管理實踐表明,人工智能技術(shù)的廣泛應(yīng)用,不僅放大了上級政府和部門負(fù)責(zé)人的權(quán)力,而且在一定程度上虛化了居民等社會主體的權(quán)力。

針對大數(shù)據(jù)管理平臺導(dǎo)致政府對社會主體治理權(quán)利的“擠出”難題,相關(guān)部門應(yīng)通過機(jī)制創(chuàng)新,重新界定政府在大數(shù)據(jù)管理平臺中的權(quán)利,強(qiáng)化對社會主體權(quán)利的保護(hù),并提升社會主體對大數(shù)據(jù)平臺的應(yīng)用能力和監(jiān)督能力,進(jìn)而實現(xiàn)政府與社會主體圍繞共同的治理目標(biāo),協(xié)同推進(jìn)大數(shù)據(jù)平臺的應(yīng)用[1]范如國:《復(fù)雜網(wǎng)絡(luò)結(jié)構(gòu)范型下的社會治理協(xié)同創(chuàng)新》,《中國社會科學(xué)》2014年第4期。。因此,政府在推進(jìn)垃圾分類智能化應(yīng)用過程中,需要賦予社區(qū)、居民等社會主體監(jiān)督其合理使用人工智能技術(shù)的權(quán)利,進(jìn)而形成吸納政府、社區(qū)、居民等多元主體協(xié)同合作化解垃圾分類智能化社會風(fēng)險的機(jī)制[2]陳奕青、張富利:《大數(shù)據(jù)環(huán)境下的國家治理與風(fēng)險應(yīng)對》,《廣西社會科學(xué)》2021年第3期。。多元主體協(xié)同合作化解風(fēng)險機(jī)制的建立,可以促使政府恪守職責(zé),規(guī)避因人工智能技術(shù)使用權(quán)限過大對社區(qū)、居民等社會主體的“隱形支配”;同時,還能使不同主體之間的關(guān)系趨向扁平化,地位趨向平等化,特別是社區(qū)、居民等主體能夠更加透明地實時了解政府垃圾分類的推進(jìn)情況,推動社區(qū)及居民逐漸由被動參與垃圾分類轉(zhuǎn)變?yōu)橹鲃訁⑴c。

3.制度優(yōu)化:推進(jìn)防范垃圾分類智能化社會風(fēng)險的政策實施

人工智能作為新技術(shù)出現(xiàn)后,在推動社會發(fā)展的同時,還促進(jìn)了原社會結(jié)構(gòu)的變革。尤其是人工智能打破了傳統(tǒng)社會的分工體系,使得社會內(nèi)部邊界變得愈發(fā)模糊,原本作為社會主體的人類面臨著極有可能被人工智能所替代的風(fēng)險。當(dāng)人工智能普遍進(jìn)入人類社會時,維系原社會結(jié)構(gòu)的規(guī)范體系就會面臨嚴(yán)峻的挑戰(zhàn)。從人類社會的運(yùn)行邏輯來看,人類社會的有序運(yùn)行需要遵循兩種規(guī)范:一是道德規(guī)范,即社會確立什么是對什么是錯的道德標(biāo)準(zhǔn),主要通過對人思想意識的引導(dǎo),對人的行為進(jìn)行相應(yīng)的引導(dǎo);二是制度規(guī)范,即社會對負(fù)面行為進(jìn)行制約與懲罰,主要采用嚴(yán)格的制度規(guī)范人的行為,進(jìn)而達(dá)到對人行為方式的塑造[3]何哲:《人工智能技術(shù)的社會風(fēng)險與治理》,《電子政務(wù)》2020年第9期。。相較于道德規(guī)范,制度規(guī)范的強(qiáng)制性特點,使其能夠?qū)θ说男袨樾纬奢^強(qiáng)的約束力。政府在推行或?qū)嵤┖芏喙彩聞?wù)時,為了確保公共事務(wù)的有效落實,都會制定相應(yīng)的制度規(guī)范,使公共事務(wù)中的相關(guān)主體能夠依規(guī)而行。因此,垃圾分類智能化的應(yīng)用也需要從制度層面建立防范社會風(fēng)險的制度體系。

政策又是制度的最主要表現(xiàn)形式,因此可以通過建立防范垃圾分類智能化社會風(fēng)險的政策體系,規(guī)范垃圾分類智能化的應(yīng)用。具體可從以下3個方面入手:首先,界定垃圾分類智能化的研發(fā)邊界,即智能化的根本目標(biāo)在于輔助居民形成有效的垃圾分類行為,而不是簡單地將垃圾分類“托付”于人工智能技術(shù),進(jìn)而從源頭上確保垃圾分類人工智能技術(shù)的研發(fā)邊界不會對人的地位和組織邊界帶來擠壓。其次,確立垃圾分類智能化應(yīng)用的尺度,明確人工智能技術(shù)在垃圾分類中所扮演的角色,確保應(yīng)用人工智能技術(shù)后,人的主體性、自主性等特性仍可體現(xiàn),特別是要打破人類過于依賴人工智能技術(shù)的思想傾向和行為傾向。最后,提升政府面對垃圾分類智能化應(yīng)用中的不規(guī)范、亂作為、不自律等問題時的應(yīng)對能力,強(qiáng)化社會主體對政府智能化應(yīng)用的實時監(jiān)督,確保相關(guān)主體的合法權(quán)益得到有效保障,進(jìn)而實現(xiàn)依靠完善政策體系建立防范智能化社會風(fēng)險的長效機(jī)制。

四、結(jié)論與討論

從垃圾分類智能化的發(fā)展趨勢來看,垃圾分類領(lǐng)域人工智能應(yīng)用逐漸從單一環(huán)節(jié)的智能軟硬件向垃圾分類全部環(huán)節(jié)延伸,呈現(xiàn)出全過程整合、平臺化管理的趨勢。垃圾分類人工智能技術(shù)的逐步深化,進(jìn)一步豐富了垃圾分類的推進(jìn)手段,從而為最終破解垃圾分類困境提供了可能。但是人工智能技術(shù)在垃圾分類領(lǐng)域顯現(xiàn)高價值的同時,卻也帶來了許多潛在的社會風(fēng)險,如可能引發(fā)居民過度依賴智能化的風(fēng)險,加劇居民認(rèn)為垃圾分類事不關(guān)己的發(fā)展態(tài)勢;同時,垃圾分類智能化中的大數(shù)據(jù)平臺使得政府管理“可視化”后,基層政府面臨著自治空間逐步被壓縮的風(fēng)險。人及組織對人工智能的依賴加深,特別是人工智能表現(xiàn)出遠(yuǎn)超人的智慧,可能導(dǎo)致“個體-組織-社會”的社會結(jié)構(gòu)存在解組風(fēng)險。歸根結(jié)底,這一風(fēng)險主要還是由人對人工智能新技術(shù)存在認(rèn)識不足及人工智能技術(shù)應(yīng)用存在不合理、不規(guī)范等原因?qū)е隆J紫?,居民過于追求人工智能技術(shù)“傻化”,特別是居民簡單地認(rèn)為由人工智能全部替代人的作用是社會發(fā)展的必然趨勢,導(dǎo)致居民在垃圾分類中的主動性缺失;其次,垃圾分類大數(shù)據(jù)管理本為打破科層體制壁壘、提升垃圾分類管理效率,但在實踐中卻尚未完全跳出科層體制的弊端,反而通過使用權(quán)限的控制衍生“虛擬科層”,致使科層體制末端的基層政府自治空間不斷減少,基層政府甚至疲于應(yīng)對大數(shù)據(jù)管理平臺下達(dá)的決策或任務(wù);最后,人工智能的“技術(shù)主動性”使得垃圾分類中人的作用被人工智能所替代,引發(fā)社會結(jié)構(gòu)重構(gòu)中人與人、人與組織及人與智能之間的信任危機(jī),最終可能導(dǎo)致既有社會結(jié)構(gòu)的解組。

然而,垃圾分類智能化似乎已是一種不可阻擋的趨勢,人工智能更是成為政府、社會各主體破解垃圾分類困境的重要手段。垃圾分類智能化的社會風(fēng)險要求政府進(jìn)一步引導(dǎo)和規(guī)范垃圾分類人工智能技術(shù)的應(yīng)用。具體而言,針對“技術(shù)-個體-組織-社會”的新結(jié)構(gòu),建立由技術(shù)到個體到組織再到社會的垃圾分類智能化社會風(fēng)險防范體系,才是破解垃圾分類智能化社會風(fēng)險的關(guān)鍵所在。個人層面上提高居民對垃圾分類智能化的社會風(fēng)險感知,告知居民智能化并不是解決垃圾分類問題的唯一手段,只是扮演輔助居民垃圾分類的角色,進(jìn)而提升居民對垃圾分類智能化社會風(fēng)險的應(yīng)對能力;組織層面上需要構(gòu)建多主體協(xié)作化解垃圾分類智能化社會風(fēng)險機(jī)制,有效規(guī)避上級政府或部門領(lǐng)導(dǎo)權(quán)力過大問題,并積極吸納社會主體參與垃圾分類智能化應(yīng)用的監(jiān)督,進(jìn)而依靠政府與社會主體共同努力,化解垃圾分類智能化的社會風(fēng)險;社會層面上需要構(gòu)建融入人工智能的新的制度體系,以強(qiáng)有力的政策規(guī)范垃圾分類人工智能技術(shù)的應(yīng)用,從而最終形成防范垃圾分類智能化社會風(fēng)險的長效機(jī)制。誠然,上述3個層面的垃圾分類智能化社會風(fēng)險的防范體系能夠在一定程度上優(yōu)化垃圾分類智能化的社會風(fēng)險,但是該防范體系的成效還需在實踐中予以檢驗和適時調(diào)整。

相比于其他新技術(shù),人工智能技術(shù)在表現(xiàn)出較高價值的同時,也引發(fā)了關(guān)于人工智能技術(shù)的社會風(fēng)險的爭論。已有研究主要聚焦于人工智能技術(shù)的信息安全、倫理沖突以及角色替代等風(fēng)險,特別是在哲學(xué)領(lǐng)域?qū)θ斯ぶ悄艿膫惱硇?、道德性展開了深度的討論,認(rèn)為人工智能技術(shù)將會極大地挑戰(zhàn)既有的倫理體系,甚至可能會顛覆人類對技術(shù)的認(rèn)知。然而就當(dāng)前實踐而言,人工智能技術(shù)在各個領(lǐng)域的應(yīng)用,快速地推動各個領(lǐng)域的迅猛發(fā)展,尤其是人工智能技術(shù)對經(jīng)濟(jì)社會的發(fā)展表現(xiàn)出巨大的推動作用,激發(fā)人類將人工智能技術(shù)應(yīng)用到社會治理,以提高社會的運(yùn)行效率[1]邱澤奇:《數(shù)字社會與計算社會學(xué)的演進(jìn)》,《江蘇社會科學(xué)》2022年第1期。。所以無論是發(fā)達(dá)國家,還是發(fā)展中國家,將人工智能技術(shù)應(yīng)用于政府治理已經(jīng)成為政治活動最突出的特征,人工智能技術(shù)的發(fā)展對當(dāng)代政治已經(jīng)產(chǎn)生深刻的影響。當(dāng)前,公共事務(wù)治理智能化已經(jīng)成為全球共識,在人工智能技術(shù)應(yīng)用不可逆以及社會風(fēng)險確實存在的背景下,需要更加警惕公共事務(wù)治理智能化存在的社會風(fēng)險,尤其是要警惕人工智能的“技術(shù)主觀性”問題。人類社會在主動適應(yīng)人工智能技術(shù)過程中,不僅要確立人工智能技術(shù)應(yīng)用的底線,將以人為本作為人工智能技術(shù)應(yīng)用的基本價值導(dǎo)向,而且還要能夠形成“感知—思考—行動”的人工智能應(yīng)用架構(gòu),并在融入人類社會經(jīng)驗、社會習(xí)俗的基礎(chǔ)上,確保人工智能技術(shù)應(yīng)用風(fēng)險的可控,甚至研發(fā)應(yīng)用前就能建構(gòu)相應(yīng)的風(fēng)險防范機(jī)制。

苍南县| 普兰店市| 新化县| 微山县| 金山区| 玛多县| 长葛市| 读书| 肥东县| 嘉义县| 临海市| 北海市| 阿图什市| 于都县| 江永县| 册亨县| 那曲县| 巴彦淖尔市| 南岸区| 布拖县| 开阳县| 广汉市| 民权县| 安溪县| 内丘县| 元阳县| 遂平县| 铁力市| 仪陇县| 上饶市| 丹东市| 凤山县| 盖州市| 罗平县| 龙口市| 柯坪县| 东港市| 广昌县| 郓城县| 潢川县| 抚松县|