国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

算法權(quán)力及其政治建構(gòu)

2021-04-14 22:26:36張愛軍
閱江學(xué)刊 2021年1期
關(guān)鍵詞:公民話語權(quán)力

張愛軍

一、引 言

智能算法已廣泛滲透于政治、經(jīng)濟(jì)、文化等各領(lǐng)域,成為影響這些領(lǐng)域運(yùn)行和發(fā)展的重要技術(shù)要素。作為一種新的權(quán)力形態(tài),算法權(quán)力在經(jīng)濟(jì)領(lǐng)域表現(xiàn)為技術(shù)資本的利益最大化追求,在文化領(lǐng)域表現(xiàn)為技術(shù)特質(zhì)下的精準(zhǔn)高效、分化固化的文化傳播,在政治領(lǐng)域則表現(xiàn)為政治決策的算法化、政治治理的精準(zhǔn)性和政治傳播的針對性。因而,算法權(quán)力的運(yùn)用領(lǐng)域和主體的不同將導(dǎo)致其產(chǎn)生差異化的技術(shù)效益與效能。就政治社會(huì)生活中算法權(quán)力的現(xiàn)有研究看,在社會(huì)治理與政治決策研究中,算法治理研究存在宏觀和微觀之分。宏觀研究以智能治理為整體,將算法作為智能治理的局部環(huán)節(jié),闡釋算法嵌入社會(huì)治理帶來的治理轉(zhuǎn)向及其潛在的治理隱患。微觀研究則集中于探討算法技術(shù)用于政治決策和政治參與,體現(xiàn)為三點(diǎn):一是從算法的技術(shù)實(shí)質(zhì)分析算法在政治決策中的技術(shù)優(yōu)勢和技術(shù)弊端;二是討論算法治理異化對公共利益的損害,并在此基礎(chǔ)上提出法律、道德、技術(shù)、政治與人文等方面的規(guī)制措施;三是分析算法在政治決策中的優(yōu)勢價(jià)值、風(fēng)險(xiǎn)隱患及其生成邏輯。以上研究多側(cè)重于分析在政治、資本的運(yùn)用下算法技術(shù)的可能性風(fēng)險(xiǎn)及其風(fēng)險(xiǎn)規(guī)制。而對算法權(quán)力的政治建構(gòu)作用和意義未有深入研究,從主流政治主體指向來分析算法權(quán)力對于社會(huì)治理的建構(gòu)意義還未具體展開。因而,從社會(huì)治理視角對算法權(quán)力進(jìn)行權(quán)力主體的政治定位分析,能具象化算法權(quán)力的政治指向,發(fā)現(xiàn)因風(fēng)險(xiǎn)隱患而被忽視的政治效益。

二、算法技術(shù)獲得權(quán)力的必然性及其實(shí)踐意義

算法技術(shù)因深入社會(huì)生活并對人們的利益產(chǎn)生直接影響而具有權(quán)力屬性。關(guān)于“權(quán)力”的定義,社會(huì)學(xué)和哲學(xué)認(rèn)為,凡是特定主體擁有的足以支配他人或影響他人資源的均可稱為權(quán)力。(1)尤爾根·哈貝馬斯:《作為“意識(shí)形態(tài)”的技術(shù)和科學(xué)》,李黎、郭官譯,上海:學(xué)林出版社,1999年,第76頁。算法本質(zhì)上屬于人工智能范疇,是人工智能技術(shù)實(shí)質(zhì)性運(yùn)作的基礎(chǔ)。就技術(shù)實(shí)質(zhì)而言,算法本身并不具有權(quán)力屬性,但是,當(dāng)智能算法嵌入社會(huì)并對人們的生活和利益分配產(chǎn)生影響的時(shí)候,算法技術(shù)也就成為一種“無處不在”的新型現(xiàn)代性權(quán)力形態(tài)。從權(quán)力主體差異看,資本與政治都是算法權(quán)力的形塑者,不同的權(quán)力主體導(dǎo)致算法權(quán)力產(chǎn)生差異化的社會(huì)效益。資本嵌入算法以資本逐利為基本目標(biāo),也是最終目標(biāo)。資本力量利用算法分析用戶的信息偏好,以推送個(gè)性化的商業(yè)信息誘導(dǎo)用戶進(jìn)行信息消費(fèi)。政治力量利用算法傳播政治價(jià)值觀念,塑造政治意識(shí)形態(tài)。政治力量的算法納入分為主流政治納入與非主流政治納入,政治群體立場差異影響算法權(quán)力的政治意義。資本與政治對算法技術(shù)的角逐是資本與權(quán)力的較量,兩者主體立場的差別使算法權(quán)力具有不同的社會(huì)取向,其結(jié)果是社會(huì)利益分化。主流政治與非主流政治的算法納入是主流意識(shí)形態(tài)與非主流意識(shí)形態(tài)的力量博弈,其結(jié)果導(dǎo)致權(quán)力與權(quán)利的主體間性關(guān)系產(chǎn)生變化。

從主流政治主體看,算法權(quán)力是智能治理時(shí)代主流政治權(quán)力的技術(shù)延伸,承載了治理者的權(quán)力意志和政治意識(shí),成為社會(huì)治理的重要方式。馬克思主義認(rèn)為社會(huì)存在技術(shù)之維,并將其視為社會(huì)行動(dòng)者創(chuàng)造并占有經(jīng)濟(jì)、政治和文化技術(shù)以實(shí)現(xiàn)社會(huì)秩序建構(gòu)或改造的一種有效的武器。(2)周凡、李惠斌:《后馬克思主義》,北京:中央編譯出版社,2007年,第269頁。分析算法技術(shù)獲得權(quán)力的必然性及其實(shí)踐意義是探討算法治理的政治建構(gòu)功能及其影響的基礎(chǔ),算法權(quán)力的政治必然性有其方法論意義、價(jià)值基礎(chǔ)和強(qiáng)大的實(shí)踐動(dòng)力。

第一,政治內(nèi)嵌為算法權(quán)力及其治理基礎(chǔ)提供方法論意義。新技術(shù)的發(fā)明與使用本質(zhì)上是要反映人的意志,要為人類的社會(huì)生活與政治理想服務(wù)。(3)郭小平、秦藝軒:《解構(gòu)智能傳播的數(shù)據(jù)神話:算法偏見的成因與風(fēng)險(xiǎn)治理路徑》,《現(xiàn)代傳播(中國傳媒大學(xué)學(xué)報(bào))》,2019年第9期,第20頁。從技術(shù)發(fā)展的背景來看,任何技術(shù)的發(fā)展并不單一地依靠經(jīng)濟(jì)社會(huì)的發(fā)展,政治因素成為技術(shù)發(fā)展的重要力量。技術(shù)的政治內(nèi)嵌是利益集團(tuán)操控輿論、維護(hù)權(quán)力統(tǒng)治的一種必然手段。算法具有社會(huì)性和技術(shù)性,其設(shè)計(jì)與使用的過程也必然會(huì)嵌入某種政治屬性與權(quán)力關(guān)系。(4)郭小平、秦藝軒:《解構(gòu)智能傳播的數(shù)據(jù)神話:算法偏見的成因與風(fēng)險(xiǎn)治理路徑》,《現(xiàn)代傳播(中國傳媒大學(xué)學(xué)報(bào))》,2019年第9期,第20頁。算法權(quán)力的政治意義在于對政治關(guān)系的相互作用方式產(chǎn)生影響,使權(quán)力與權(quán)利的主體間性關(guān)系呈現(xiàn)出以算法的個(gè)性化信息分發(fā)為基礎(chǔ)的社會(huì)互動(dòng)模式。政治權(quán)力運(yùn)用算法技術(shù)傳播價(jià)值觀念,營造擬態(tài)政治信息環(huán)境,在算法的環(huán)境規(guī)訓(xùn)中培養(yǎng)公民對權(quán)力意志的價(jià)值認(rèn)同。算法傳播的圈層效應(yīng)固化公民認(rèn)知并導(dǎo)致社會(huì)認(rèn)知整合困境,致使主流政治必須將算法納入治理范疇以維護(hù)主流價(jià)值在社會(huì)認(rèn)知中的主導(dǎo)地位。算法技術(shù)運(yùn)用的合理性及其對社會(huì)行為的規(guī)訓(xùn),既有制度化的強(qiáng)制又有公民自覺的行為服從,有助于維護(hù)公共領(lǐng)域的秩序。在算法影響下,公民算法行為的本質(zhì)是公共權(quán)力與公民權(quán)利的置換,公民讓渡自己的權(quán)利以獲得社會(huì)生活的便利性。亦即算法權(quán)力具有信息暗示與認(rèn)同、認(rèn)知固化與分化、行為強(qiáng)制與順應(yīng)、權(quán)益交換與互動(dòng)等效益。馬克斯·韋伯認(rèn)為,“權(quán)力意味著在一種社會(huì)關(guān)系里哪怕是遇到反對也能貫徹自己意志的任何機(jī)會(huì),不管這種機(jī)會(huì)是建立在什么基礎(chǔ)之上?!?5)馬克斯·韋伯:《經(jīng)濟(jì)與社會(huì)》上卷,林榮遠(yuǎn)譯,北京:商務(wù)印書館,2006年,第81頁。算法權(quán)力在技術(shù)基礎(chǔ)上對社會(huì)公眾產(chǎn)生的數(shù)據(jù)進(jìn)行控制壟斷與轉(zhuǎn)化,形成橫向引導(dǎo)社會(huì)發(fā)展的“準(zhǔn)公共權(quán)力”。算法的政治意義使其必將被納入政治權(quán)力的運(yùn)行范疇,成為政治權(quán)力貫徹政治意志與維護(hù)社會(huì)秩序的智能手段。

算法是政治權(quán)力再生產(chǎn)的技術(shù)空間,是維護(hù)權(quán)力基礎(chǔ)和社會(huì)秩序的基礎(chǔ)性工具。蘭登·溫納認(rèn)為新技術(shù)的發(fā)展為“給定的政治體系”提供確立或鞏固權(quán)力的基礎(chǔ),政治對技術(shù)的天然需求以及技術(shù)對政治發(fā)展的某種需求回應(yīng),使技術(shù)成為權(quán)力生產(chǎn)的場域。伊德以“技術(shù)擴(kuò)散”概念來描述技術(shù)從經(jīng)濟(jì)領(lǐng)域擴(kuò)散至政治領(lǐng)域的溢出效益,認(rèn)為技術(shù)的政治屬性使其成為權(quán)力的爭奪對象。算法對公民的數(shù)據(jù)、行為方式和公共資源的調(diào)動(dòng)能力使其成為生成、分配和再生產(chǎn)社會(huì)資源的重要技術(shù)手段。智能算法的技術(shù)勢差導(dǎo)致縱向上存在技術(shù)精英與普通公民的群體區(qū)隔,算法的程序設(shè)計(jì)在橫向上產(chǎn)生了權(quán)力空間。深度嵌入社會(huì)的算法是與資本和政治交織在一起的權(quán)力網(wǎng)絡(luò),誰在具有縱向技術(shù)區(qū)隔和橫向權(quán)力空間的算法社會(huì)掌握并建構(gòu)自己的權(quán)力關(guān)系網(wǎng)絡(luò),就意味著誰掌握了社會(huì)資源。政治權(quán)力以算法為核心構(gòu)建智能時(shí)代的社會(huì)治理秩序,這為實(shí)現(xiàn)有效的社會(huì)控制奠定了技術(shù)基礎(chǔ)。算法技術(shù)能對社會(huì)信息進(jìn)行深度收集、有效甄選和高效利用,這些技術(shù)優(yōu)勢是前智能時(shí)代的人力治理無法企及的,可以說,算法技術(shù)提高了社會(huì)控制的高效性。因而,遍及社會(huì)的算法技術(shù)很容易被政治納入權(quán)力的再生產(chǎn)過程,成為維護(hù)權(quán)力基礎(chǔ)和社會(huì)秩序的技術(shù)工具。

第二,獲得肯定性權(quán)力是算法權(quán)力及其治理的價(jià)值基礎(chǔ)??隙ㄐ詸?quán)力是指基于算法規(guī)則在可數(shù)字化可程序化與不可數(shù)字化不可程序化的人與事物之間加以區(qū)分,從而建立起可數(shù)據(jù)化的人與物相對于不可數(shù)據(jù)化的人與物的權(quán)力。算法的肯定性權(quán)力是算法治理中政治主體再生產(chǎn)權(quán)力規(guī)則的表現(xiàn)形式,即符合算法規(guī)則的人所擁有的權(quán)力邊際效益較高,在社會(huì)政治生活中言行舉止受到規(guī)制的概率??;相反,不符合算法規(guī)則的人,其權(quán)利行使受到規(guī)制的可能性更大,因而,社會(huì)公眾對算法規(guī)則的遵守是政治主體獲得算法肯定性權(quán)力的基礎(chǔ)??隙ㄐ詸?quán)力的技術(shù)指向在于借助智能算法提高社會(huì)治理的高效性,這種高效性表現(xiàn)為在社會(huì)行動(dòng)者行為軌跡的基礎(chǔ)上,通過對行為者進(jìn)行數(shù)據(jù)化分析與智能識(shí)別準(zhǔn)確感知、預(yù)測、預(yù)警基礎(chǔ)設(shè)施和社會(huì)安全運(yùn)行的重大態(tài)勢,及時(shí)把握群體認(rèn)知及其心理變化,實(shí)現(xiàn)社會(huì)精準(zhǔn)治理,從而更有效地管理社會(huì)公共事務(wù),服務(wù)社會(huì)公眾。肯定性權(quán)力是算法治理數(shù)據(jù)結(jié)構(gòu)化的結(jié)果。社會(huì)治理數(shù)據(jù)結(jié)構(gòu)化意味著在智能算法下社會(huì)成員的行為與存在狀態(tài)被數(shù)據(jù)化記錄、運(yùn)算、比對和分析,這些數(shù)據(jù)將成為社會(huì)安全平穩(wěn)運(yùn)作的基礎(chǔ)。算法治理的數(shù)據(jù)結(jié)構(gòu)化特征決定了公共領(lǐng)域中公眾行為的數(shù)據(jù)邊界,它要求參與公共生活的公眾都必須按照可計(jì)算、可數(shù)據(jù)化的治理方式再生產(chǎn)自身以規(guī)范個(gè)人的公共行為,將偏離算法規(guī)則的行為視為治理的重點(diǎn),并對數(shù)據(jù)顯示異常的行為所產(chǎn)生的結(jié)果進(jìn)行最優(yōu)化計(jì)算,為有效治理提供決策基礎(chǔ)。

第三,治理算法化是算法治理強(qiáng)大的實(shí)踐動(dòng)力。技術(shù)嵌入社會(huì)治理促使國家(政府)社會(huì)治理形態(tài)轉(zhuǎn)型。在??碌闹卫砑夹g(shù)中,懲罰體制與規(guī)訓(xùn)體制是社會(huì)治理的重要政治技術(shù)。懲罰體制治理的目標(biāo)在于消滅所有威脅主權(quán)權(quán)力的力量以捍衛(wèi)主權(quán)的無上權(quán)威,規(guī)訓(xùn)體制旨在通過建立一種普適性的社會(huì)規(guī)范機(jī)制以培養(yǎng)符合治理體制的理性行為主體。前人工智能時(shí)代的治理方式主要是通過國家話語規(guī)訓(xùn)和體制規(guī)訓(xùn),從內(nèi)外雙重維度塑造國家治理預(yù)設(shè)目標(biāo)的行為主體,社會(huì)治理囿于公共領(lǐng)域,治理主體是以人為本質(zhì)的官僚系統(tǒng)。智能算法治理形成了治理體系算法化的局促樣態(tài),致使治理方式數(shù)據(jù)化、治理主體機(jī)器化與治理規(guī)范重技術(shù)化。以數(shù)據(jù)分析處理為基礎(chǔ)的算法不僅成為國家治理工具,還推動(dòng)國家權(quán)力往更廣泛、更隱蔽的空間滲透,形塑智能時(shí)代“算法政治”新形式。

算法治理代表治理主體的主觀意識(shí)與價(jià)值倡導(dǎo),不但體現(xiàn)了宏觀的政治管理結(jié)構(gòu),而且也表現(xiàn)為對個(gè)人和群體行為的直接介入與引導(dǎo),具有“準(zhǔn)主體”的公共權(quán)力性質(zhì)?!叭斯ぶ悄芩惴ú粌H是一項(xiàng)新技術(shù),更是新的權(quán)力形態(tài)”,(6)汝緒華:《算法政治:風(fēng)險(xiǎn)、發(fā)生邏輯與治理》,《廈門大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)》,2018年第6期,第27頁。算法長期在公共權(quán)力中運(yùn)作,逐漸成為權(quán)力合法性建構(gòu)的技術(shù)進(jìn)路,社會(huì)行為規(guī)范的數(shù)據(jù)秩序取代傳統(tǒng)行為規(guī)范的話語秩序,因其對公共生活的深度介入而具有“微公共權(quán)力”性質(zhì),重新確定了國家、社會(huì)與公民之間的關(guān)系。算法權(quán)力是程序規(guī)訓(xùn)權(quán)力,數(shù)據(jù)獲取及行政吸納由治理權(quán)力意志決定,公民的社會(huì)認(rèn)知與行為在微觀中受到算法權(quán)力的引導(dǎo)、建構(gòu)與規(guī)訓(xùn),權(quán)力主體通過算法從政治參與、話語構(gòu)型和制度構(gòu)建等方面實(shí)現(xiàn)權(quán)力治理社會(huì)的功能性建構(gòu)。

三、算法權(quán)力的政治參與功能建構(gòu)

現(xiàn)代民主理論認(rèn)為,政治參與是國家與社會(huì)之間的平衡杠桿,良好的政治參與有利于促進(jìn)國家與社會(huì)的良性互動(dòng)。政治參與的前提在于政治議題的確立,這決定了議題涵蓋的主體和范圍。算法權(quán)力的政治參與功能建構(gòu)的意義體現(xiàn)在它以技術(shù)進(jìn)步的方式在一定程度上擴(kuò)展社會(huì)政治參與議題的有效性,亦即政治權(quán)力通過算法運(yùn)用有效確立對政治議題的認(rèn)同,降低政治議題因考慮不全而導(dǎo)致的社會(huì)不良反應(yīng),提高議題決策的科學(xué)性與回應(yīng)性。

第一,從公民政治參與角度看,算法權(quán)力在政治參與層面的構(gòu)建體現(xiàn)在參與形式的廣泛性、政治互動(dòng)的持續(xù)性和參與限度的深刻性三方面?!艾F(xiàn)代政治的發(fā)展以公民對政治的普遍參與為顯著特征?!?7)包心鑒:《論中國公民的政治參與》,《政治學(xué)研究》,1989年第2期,第9頁。算法技術(shù)突破了參與空間限制,實(shí)現(xiàn)了公民政治參與的自動(dòng)化、即時(shí)化和動(dòng)態(tài)化,促進(jìn)了智能時(shí)代的政治發(fā)展。前人工智能時(shí)代的政治參與以在場參與為主,制度化的參與方式不僅限制了參與人數(shù)和參與時(shí)間,還要求參與者具備較高的政治素養(yǎng)。智能算法下的政治參與以網(wǎng)絡(luò)線上參與為主,算法技術(shù)對公民日常生活的深度介入可以動(dòng)態(tài)化地采集公民的數(shù)據(jù)信息,政治權(quán)力主體通過算法對公民的數(shù)據(jù)信息進(jìn)行分析,能夠?qū)崿F(xiàn)對社會(huì)公共議題的廣泛涉獵,并在此基礎(chǔ)上,對社會(huì)問題進(jìn)行跟進(jìn)式的思考與規(guī)劃。

算法權(quán)力擴(kuò)展政治參與的持續(xù)性體現(xiàn)為智能算法推動(dòng)政府與公民、公民與公民之間的持續(xù)互動(dòng)。一方面,公民的網(wǎng)絡(luò)瀏覽、點(diǎn)贊、評論與轉(zhuǎn)發(fā)都會(huì)成為數(shù)據(jù),在公民的政治無意識(shí)情況下,被智能算法系統(tǒng)記錄并自動(dòng)將公民數(shù)據(jù)傳遞給決策部門,決策者的算法程序設(shè)定也會(huì)對公民數(shù)據(jù)進(jìn)行自動(dòng)歸類處理,通過數(shù)據(jù)畫像,個(gè)性化地向公民推送政治信息,實(shí)現(xiàn)決策部門與公民之間的自動(dòng)化互動(dòng)。另一方面,智能算法的個(gè)性化信息推送會(huì)根據(jù)公民的統(tǒng)計(jì)學(xué)特征、信息偏好與價(jià)值訴求等數(shù)據(jù)特征將相似個(gè)體聚集在相關(guān)議題的參與群體中,并根據(jù)算法權(quán)重優(yōu)先推送公民關(guān)注的熱點(diǎn)話題,從而實(shí)現(xiàn)公民之間有意義的深度參與,強(qiáng)化議題的協(xié)商溝通與交流互動(dòng)。

算法權(quán)力擴(kuò)展政治參與的深刻性體現(xiàn)為算法技術(shù)下的政治參與突破了參與限度與價(jià)值之間的內(nèi)在張力,導(dǎo)致參與規(guī)模與政策回應(yīng)性之間的沖突。算法技術(shù)對政治參與的深度突破在于算法能對不同民意訴求的數(shù)據(jù)進(jìn)行分類分析,并根據(jù)智能化的情景設(shè)定與數(shù)據(jù)邏輯推演對相關(guān)政治議題進(jìn)行價(jià)值排序,給予政策部門具有針對性的政策方案。算法的個(gè)性化數(shù)據(jù)邏輯提升了公民的政治參與地位,公民也能通過算法推送有效了解與己有關(guān)的政策信息。算法的分類處理解決了議題參與的公民分類,提高議題商議性和政策針對性。

第二,從政府治理角度看,算法權(quán)力提高了社會(huì)議題決策的科學(xué)性。算法技術(shù)通過數(shù)據(jù)分析以及由此產(chǎn)生的社會(huì)議題主體來提高政治決策的科學(xué)性。尤瓦爾·赫拉利認(rèn)為自動(dòng)化技術(shù)的快速發(fā)展將以“非人類能力”的技術(shù)優(yōu)勢在更智能亦即更有效率的實(shí)現(xiàn)目標(biāo)層面上直接解決現(xiàn)實(shí)問題。政治權(quán)力主體利用算法技術(shù)接收社會(huì)議題的決策數(shù)據(jù)并將其輸入算法的決策程序中,然后將輸入值帶入方程和公式中運(yùn)行,再將得到的答案作為新的輸入,層層迭代演繹,創(chuàng)建出細(xì)節(jié)復(fù)雜的計(jì)算機(jī)指令字符,(8)[美]斯坦納:《算法帝國》,李筱瑩譯,北京:人民郵電出版社,2014年,第14-15頁。在大數(shù)據(jù)掌控與分析的基礎(chǔ)上能對決策數(shù)據(jù)進(jìn)行“推理”并精準(zhǔn)“預(yù)測”社會(huì)決策的立意方向。與人力決策情況相比,政治權(quán)力主體在社會(huì)政治議題的確立、討論、制定、執(zhí)行等過程中依靠算法數(shù)據(jù)和智能運(yùn)算能快速地得出具有科學(xué)性、客觀性的分析結(jié)果,能快速準(zhǔn)確地掌握議題信息,降低政治決策的人力成本和時(shí)間成本,提高了決策效率。從以往政治議題的構(gòu)建實(shí)踐來看,基于科層流動(dòng)機(jī)制確立的議題具有模糊性??茖又谱h題的確立具有單向性的信息流動(dòng)特征,是決策部門在研判社會(huì)整體發(fā)展態(tài)勢的基礎(chǔ)上開展的模糊性抑或?qū)挿盒缘墓矝Q策。模糊性的議題不具有利益針對性,往往不能很好地滿足社會(huì)公民的訴求,甚至可能有違公民意愿,引發(fā)秩序混亂。算法議題的確立是通過對公民在網(wǎng)絡(luò)空間留下的信息數(shù)據(jù)進(jìn)行全息化動(dòng)態(tài)分析,使公民意愿得以充分展現(xiàn)的同時(shí),也能促使決策部門整體感知各類社會(huì)群體的民生意向,系統(tǒng)把握民生領(lǐng)域的政治態(tài)勢,精準(zhǔn)判別公民群眾對于美好生活的切實(shí)需求,并通過智能算法推薦對公民進(jìn)行靶向推送,釋放政治參與議題的政策信號(hào),對碎片化的意見反饋進(jìn)行聚類分析,為議題構(gòu)建與實(shí)施提供智能化建議,提高議題的政策民意度。(9)趙友華:《人工智能時(shí)代優(yōu)化民生政治參與的算法邏輯》,《寧夏社會(huì)科學(xué)》,2019年第5期,第50頁。

第三,從政治文化角度看,算法權(quán)力有益于培育參與型政治文化。在特定的社會(huì)環(huán)境下,政治文化體現(xiàn)為公民對政治生活相對持續(xù)的政治價(jià)值取向與政治心理傾向,能影響和指導(dǎo)人們的政治行為,影響政治體系的確立與穩(wěn)定,影響國家的政治發(fā)展。算法權(quán)力預(yù)設(shè)了政治權(quán)力主體的意識(shí)形態(tài)立場,參與型政治文化的培育建立在算法政治議題的有效性和政治意識(shí)形態(tài)基礎(chǔ)上。阿爾蒙德認(rèn)為,在參與型政治文化環(huán)境中,社會(huì)成員對政治系統(tǒng)的輸入與輸出有明確的認(rèn)知和價(jià)值取向,社會(huì)成員參與政治活動(dòng)是參與型政治文化的關(guān)鍵。權(quán)力主體依靠算法議題的有效性在政治訴求輸入中提高了公民的參與感,通過公民政治主體意識(shí)的提升來培養(yǎng)公民對社會(huì)政治生活的情感?;谒惴▋r(jià)值立場的預(yù)設(shè)機(jī)理,權(quán)力主體通過算法的信息傳播,在政治意識(shí)形態(tài)輸出中引導(dǎo)公民的政治意識(shí)和參與行為,形成公民和意識(shí)形態(tài)立場的政治參與環(huán)境,維持權(quán)力運(yùn)行和秩序穩(wěn)定。

四、算法權(quán)力對政治話語的構(gòu)型

算法權(quán)力的政治話語構(gòu)型是指政治權(quán)力主體通過對算法技術(shù)的掌控,在算法信息傳播和算法權(quán)力收編的過程中建構(gòu)主流話語權(quán)力及其話語傳播特征的功能。從技術(shù)使用來看,算法技術(shù)的使用者主要是國家和技術(shù)企業(yè),公民是算法技術(shù)應(yīng)用的主要承擔(dān)者。這意味著算法權(quán)力分散在國家與社會(huì)技術(shù)企業(yè)手中,公民作為算法權(quán)力的承擔(dān)者能影響權(quán)力結(jié)構(gòu)及其使用?;谒惴ǖ募夹g(shù)特征,國家規(guī)制統(tǒng)攝算法治理中各行為者技術(shù)使用的話語構(gòu)型,國家(政府)從社會(huì)治理目標(biāo)出發(fā),將非主流算法權(quán)力納入治理話語體系,根據(jù)公民的數(shù)據(jù)習(xí)性建構(gòu)主流話語并傳播主流意識(shí)形態(tài)和主流價(jià)值觀。具體來說,算法權(quán)力實(shí)現(xiàn)政治話語構(gòu)型功能有三種方式。

第一,通過算法分析建構(gòu)主流話語輸出體系。智能算法信息傳播的內(nèi)容推薦、協(xié)同過濾推薦、熱點(diǎn)推薦和組合式推薦是政治權(quán)力通過算法技術(shù)建構(gòu)主流政治話語輸出體系的社會(huì)認(rèn)知基礎(chǔ)?;谒惴ㄐ畔⒌膬?nèi)容推薦機(jī)制來建構(gòu)主流政治話語輸出的原理是政治權(quán)力主體利用算法技術(shù)動(dòng)態(tài)化和差異化地高效分析公民的行為數(shù)據(jù)特征,并據(jù)此提取出公民的信息偏好,準(zhǔn)確描畫出公民的話語表達(dá)與接收習(xí)慣,進(jìn)而持續(xù)性地為公民提供符合其信息接觸習(xí)慣的主流政治信息。基于算法的協(xié)同過濾機(jī)制建構(gòu)主流政治話語輸出的意義在于算法對公民的社交圈層進(jìn)行精確的群體定位,通過算法將社會(huì)認(rèn)知相似和情感相近的公民以信息連接的方式,劃定主流政治信息接收的主體范圍,由點(diǎn)帶面地推進(jìn)主流政治的群體傳播。基于算法的熱點(diǎn)推薦機(jī)制來建構(gòu)主流政治話語輸出,旨在通過算法的信息熱點(diǎn)分析了解公民的社會(huì)關(guān)注視角,對社會(huì)政治熱點(diǎn)事件進(jìn)行主流政治話語引導(dǎo)。權(quán)力主體通過熱點(diǎn)信息的算法分析,將公民的社會(huì)視角偏向作為主流政治話語輸出的認(rèn)知基礎(chǔ),建構(gòu)符合公民社會(huì)視角的主流話語表達(dá)體系,從認(rèn)知心理層面嵌入主流話語價(jià)值,提高主流話語輸出與社會(huì)吸納的契合度?;谒惴ǖ慕M合式推薦機(jī)制的主流政治話語輸出建構(gòu)則是權(quán)力主體綜合內(nèi)容推薦、協(xié)同過濾推薦和熱點(diǎn)信息推薦等方式優(yōu)化主流政治傳播方式和提升主流政治傳播效果的路徑選擇。因此,對公民進(jìn)行算法分析有助于形成特定的主流政治話語輸出體系,形成一套符合公民數(shù)據(jù)思維偏向的行為方式,在權(quán)力的社會(huì)滲透下生成主流政治傳播的算法路徑,成為建構(gòu)主流政治意義的重要力量。

第二,非主流算法話語的權(quán)力收編鞏固主流政治話語。話語權(quán)力爭奪是社會(huì)治理的重要問題,算法話語權(quán)力是智能傳播時(shí)代政治和資本爭奪的對象,不同話語主體借助算法技術(shù)形成話語交鋒,呈現(xiàn)出差異性話語實(shí)踐,沖擊了現(xiàn)有權(quán)力結(jié)構(gòu)。??碌脑捳Z權(quán)力理論認(rèn)為監(jiān)視技術(shù)產(chǎn)生權(quán)力效益,以算法數(shù)據(jù)、超強(qiáng)算力為運(yùn)行方式的現(xiàn)代個(gè)人信息經(jīng)過數(shù)據(jù)聚合、代碼設(shè)計(jì)、算法挖掘等一系列后臺(tái)“催化”,對信息主體進(jìn)行規(guī)訓(xùn)與控制,構(gòu)成獨(dú)具智能時(shí)代標(biāo)簽的監(jiān)控范式與權(quán)力滲透路徑,(10)許天穎、顧理平:《人工智能時(shí)代算法權(quán)力的滲透與個(gè)人信息的監(jiān)控》,《現(xiàn)代傳播(中國傳媒大學(xué)學(xué)報(bào))》,2020年第11期,第78頁。構(gòu)建了算法話語權(quán)力場,規(guī)定和確立了主體的身份、立場和地位。算法權(quán)力具有公共指向,它對社會(huì)生活的影響具有不同于傳統(tǒng)權(quán)力的“軟規(guī)訓(xùn)”屬性,主要通過算法的話語傳播形塑公民的價(jià)值觀念,分化社會(huì)政治態(tài)度,影響社會(huì)意識(shí)形態(tài)的權(quán)力結(jié)構(gòu)。馬克·波斯特認(rèn)為,“數(shù)據(jù)庫首先是話語,因?yàn)樗鼘?dǎo)致了一種主體建構(gòu),它是一種書寫形式,它把書寫的基本原則延伸或延異,使該原則改變了它必然的終結(jié)認(rèn)識(shí)并疏遠(yuǎn)、區(qū)分和宕延了這種認(rèn)識(shí)。數(shù)據(jù)庫的純書寫形式直接強(qiáng)化了使用人的權(quán)力”。(11)馬克·波斯特:《第二媒介時(shí)代》,范靜曄譯,南京:南京大學(xué)出版社,2000年,第120頁。算法話語權(quán)力的主流與非主流爭奪是圍繞意識(shí)形態(tài)傳播效果展開的。非主流政治的算法話語傳播基于資本、民族主義、民粹主義、女權(quán)主義、自由主義等不同利益訴求,也具有泛娛樂化、去政治化、偽中立性等表現(xiàn)形式,其商業(yè)邏輯、偏好原則、技術(shù)理性與隱性運(yùn)行等特征將在信息傳播場域中動(dòng)搖主流政治話語傳播的認(rèn)知基礎(chǔ),弱化主流話語的引導(dǎo)力。“技術(shù)力量的運(yùn)用必須在特定的政治、經(jīng)濟(jì)、文化語境下展開,從始至終接受主流意識(shí)形態(tài)的主導(dǎo)和管制?!?12)張志安、周嘉琳:《基于算法正當(dāng)性的話語建構(gòu)與傳播權(quán)力重構(gòu)研究》,《現(xiàn)代傳播(中國傳媒大學(xué)學(xué)報(bào))》,2019年第1期,第36頁。主流政治對非主流政治算法話語的權(quán)力收編主要通過主流話語訓(xùn)誡,要求非主流與非建制的算法使用者要保持與主流政治立場一致的傳播行為,以主流價(jià)值觀念作為算法權(quán)力使用的理念與行為規(guī)制,以法律和道德相結(jié)合的方式來規(guī)范非主流群體的算法傳播行為,使算法話語的主導(dǎo)權(quán)力掌握在主流政治群體手中,在算法價(jià)值傳播層面強(qiáng)化主流政治話語引導(dǎo)力。

第三,通過算法推薦實(shí)現(xiàn)主流話語有效傳播。算法的信息推薦建立在用戶數(shù)據(jù)基礎(chǔ)上,反映用戶需求,具有“受眾本位”特征,這與傳統(tǒng)的“傳者本位”不同,算法主要從受眾需求出發(fā)搭建價(jià)值觀及其話語體系。湯普森認(rèn)為,“現(xiàn)代社會(huì)中的意識(shí)形態(tài)分析必須把大眾傳播的性質(zhì)與影響放在核心位置,雖然大眾傳播不是意識(shí)形態(tài)運(yùn)作的唯一場所?!?13)約翰·B·湯普森:《意識(shí)形態(tài)與現(xiàn)代文化》,高铦譯,南京:譯林出版社,2005年,第286頁。智能算法是主流政治意識(shí)形態(tài)及其話語傳播的重要影響因素,算法推薦的主流話語建構(gòu)必須受主流政治的引導(dǎo)。習(xí)近平總書記指出,“探索將人工智能運(yùn)用在新聞采集、生產(chǎn)、分發(fā)、接收、反饋中,用主流價(jià)值導(dǎo)向駕馭‘算法’,全面提高輿論引導(dǎo)力?!?14)習(xí)近平:《加快推動(dòng)媒體融合發(fā)展 建構(gòu)的全媒體傳播格局》,《求是》,2019年第6期,第7頁。權(quán)力主體能利用算法的數(shù)據(jù)分析對用戶的主流政治傾向進(jìn)行研判評估,通過算法推薦的個(gè)性化推送嵌入主流政治話語與價(jià)值的信息,提高主流政治話語傳播的針對性和有效性,實(shí)現(xiàn)對用戶的認(rèn)知、態(tài)度、行為和信仰的引導(dǎo),進(jìn)而形塑社會(huì)政治生活。

五、算法權(quán)力對制度權(quán)威的建構(gòu)

算法權(quán)力對制度權(quán)威的建構(gòu)是指權(quán)力主體通過算法技術(shù)運(yùn)用在算法數(shù)據(jù)秩序基礎(chǔ)上建構(gòu)社會(huì)規(guī)范要素,規(guī)范社會(huì)公民行為,形塑與強(qiáng)化制度權(quán)威,實(shí)現(xiàn)公民遵守和服從社會(huì)秩序的治理目的。關(guān)于“制度”的理解,道格拉斯·C·諾斯認(rèn)為,“制度是社會(huì)生活中的游戲規(guī)則,正式來說,制度是人為設(shè)計(jì)的,用于人際互動(dòng)的約束條件?!?15)Douglass C. North D C,Institution,Institutional Change and Economic Performance,Cambridge:Cambridge University Press,1990,p.3.韋伯從支配與服從的角度來界定“權(quán)威”,即權(quán)威是對某種命令的服從。制度權(quán)威是指“制度的規(guī)則,規(guī)范性要素,通過與制度主體的互動(dòng),內(nèi)化到主體的心理結(jié)構(gòu)內(nèi)部,并影響外在行為方式,從而實(shí)現(xiàn)人們對制度的服從,實(shí)現(xiàn)所承載的秩序和價(jià)值的一種狀態(tài)?!?16)程同順、邢西敬:《合法性、認(rèn)同和權(quán)力強(qiáng)制:制度權(quán)威建構(gòu)的邏輯》,《上海行政學(xué)院學(xué)報(bào)》,2016年第5期,第13頁。制度權(quán)威的建構(gòu)從制度合法性、制度認(rèn)同與權(quán)力強(qiáng)制三者之間進(jìn)行邏輯展開,其中,合法性是基礎(chǔ),認(rèn)同是關(guān)鍵,權(quán)力強(qiáng)制是保障。

算法權(quán)力的制度權(quán)威建構(gòu)是智能算法成為社會(huì)行動(dòng)領(lǐng)域的行動(dòng)元,擁有拉康所說的“大他者”的絕對權(quán)威,迅速成為社會(huì)公眾行為的“無意識(shí)”認(rèn)知規(guī)導(dǎo)。拉康的“大他者”具有“非人類行動(dòng)能力”特質(zhì),并認(rèn)為“無意識(shí)是大他者的話語,無意識(shí)是作為符號(hào)秩序的一個(gè)功能建構(gòu)起來的”,(17)Lacan J,The Ethics of Psychoanalysis,London: Routledge,1992,p.12; Lacan J,Ecrits: A Selection,London: Tavistock Publications,1977,p.49.算法權(quán)力的“大他者”權(quán)威與現(xiàn)實(shí)秩序的涵化不僅通過符號(hào)話語、符號(hào)知識(shí)和符號(hào)規(guī)范實(shí)現(xiàn)對社會(huì)公眾個(gè)體行動(dòng)的有效控制,還通過“無意識(shí)”的技術(shù)馴化引導(dǎo)社會(huì)公民的社會(huì)認(rèn)知。亦即算法權(quán)力具有制度化與非制度化的跨越性特征,以制度化與非制度化相結(jié)合的方式實(shí)現(xiàn)制度權(quán)威建構(gòu)。在制度化權(quán)力領(lǐng)域,算法權(quán)力因?yàn)楸徽螜?quán)力收編,成為政治權(quán)力同心圓的一部分,延伸了公權(quán)力的意志與意識(shí),具備公權(quán)力的社會(huì)合法性基礎(chǔ)。在非制度化的權(quán)力領(lǐng)域,算法權(quán)力借助超強(qiáng)算力和智能程序設(shè)計(jì)成為了控制網(wǎng)絡(luò)言論和社會(huì)行為的非制度化權(quán)威。算法權(quán)力的非制度化權(quán)威建構(gòu)以現(xiàn)實(shí)政治權(quán)力的制度化為基礎(chǔ),成為現(xiàn)實(shí)政治權(quán)力維護(hù)和鞏固現(xiàn)行制度的技術(shù)方式。算法權(quán)力建構(gòu)制度權(quán)威的邏輯基礎(chǔ)與算法權(quán)力是現(xiàn)實(shí)政治權(quán)力的技術(shù)延伸緊密相關(guān),即現(xiàn)實(shí)政治權(quán)力的合法性基礎(chǔ)、社會(huì)認(rèn)同與強(qiáng)制保障形成了從基礎(chǔ)到關(guān)鍵再到保障的算法權(quán)力建構(gòu)制度權(quán)威的完整邏輯。

第一,算法技術(shù)的意識(shí)形態(tài)合法性是算法權(quán)力建構(gòu)制度權(quán)威的合法性基礎(chǔ)。馬爾庫塞強(qiáng)調(diào)“社會(huì)控制的現(xiàn)行形式在新的意義上就是技術(shù)形式”。(18)赫伯特·馬爾庫塞:《單向度的人》,劉繼譯,上海:上海譯文出版社,1989年,第1頁。被納入制度化體系的算法技術(shù)在其程序運(yùn)行中內(nèi)嵌了公權(quán)力的政治意識(shí)形態(tài)與價(jià)值預(yù)設(shè),體現(xiàn)公權(quán)力的意愿與意志。具有意識(shí)形態(tài)化特性的算法技術(shù)一旦投入社會(huì)獨(dú)立運(yùn)作就會(huì)在復(fù)雜的算法推薦過程中不斷影響公民的政治認(rèn)知與價(jià)值取向,公民對算法運(yùn)用的廣泛接受使其具有社會(huì)合理性。具有治理效益的算法被權(quán)力納入社會(huì)控制體系,不僅保護(hù)了統(tǒng)治的合法性,算法本身也變成了一個(gè)具有獨(dú)立性的統(tǒng)治體系,其實(shí)質(zhì)就是充當(dāng)意識(shí)形態(tài),維護(hù)秩序合法性,即現(xiàn)實(shí)權(quán)力的意識(shí)形態(tài)權(quán)威的合法性自然也就構(gòu)成了算法權(quán)力制度權(quán)威建構(gòu)的合法性基礎(chǔ)。公民基于對主流意識(shí)形態(tài)的認(rèn)同對算法權(quán)力產(chǎn)生認(rèn)同,自覺接受和服從算法支配,成為算法秩序的維護(hù)者。阿爾都塞指出,意識(shí)形態(tài)發(fā)揮其社會(huì)職能“具有很強(qiáng)的隱蔽性、潛移默化性和無意識(shí)性?!?19)孟登迎:《意識(shí)形態(tài)與主體建構(gòu):阿爾都塞意識(shí)形態(tài)理論》,北京:中國社會(huì)科學(xué)出版社,2002年,第118頁。政治權(quán)力對算法權(quán)力的制度化收編可以利用算法的智能化推薦實(shí)現(xiàn)主流政治信息資源的個(gè)性化配置,通過算法技術(shù)營造主流政治信息傳播環(huán)境,建構(gòu)合乎社會(huì)規(guī)范要求的行為主體。

第二,內(nèi)在的意識(shí)形態(tài)認(rèn)同與外在的技術(shù)規(guī)制認(rèn)同是算法權(quán)力制度權(quán)威建構(gòu)的關(guān)鍵。制度認(rèn)同涉及人們對規(guī)則與規(guī)范的理性價(jià)值選擇與行為遵守,算法權(quán)力建構(gòu)的制度認(rèn)同在認(rèn)知層面上隱含了社會(huì)對權(quán)力意識(shí)形態(tài)的認(rèn)同,在行動(dòng)層面上體現(xiàn)出對算法程序規(guī)則的遵守和服從。曼紐爾·卡斯特指出,認(rèn)同是人們意義與經(jīng)驗(yàn)的來源,社會(huì)學(xué)理論強(qiáng)調(diào)制度建構(gòu)社會(huì)“意義”、引導(dǎo)社會(huì)行為的功能。算法治理承載權(quán)力主體的意識(shí)形態(tài)價(jià)值主張,算法秩序是權(quán)力意志建構(gòu)的意義體系,嵌入算法秩序內(nèi)部的價(jià)值規(guī)范要素是一種軟性規(guī)制因素。公民對算法內(nèi)嵌的主流政治價(jià)值意義認(rèn)同形成內(nèi)生型認(rèn)同。內(nèi)生型的意識(shí)形態(tài)認(rèn)同使公民將算法的秩序規(guī)范內(nèi)化于自我認(rèn)知中,公民在認(rèn)同算法規(guī)則的前提下自覺、自愿且持續(xù)不斷地遵守規(guī)則。算法治理同時(shí)也具有技術(shù)理性特征。智能算法時(shí)代,社會(huì)治理已成為技術(shù)理性的內(nèi)在控制,對技術(shù)的服從就是對統(tǒng)治的服從。對算法治理權(quán)力的服從是算法技術(shù)對人的馴化的結(jié)果。在日常生活中,公眾的公共行為若與算法的數(shù)據(jù)設(shè)定和操作不一致,生活就會(huì)受到限制,為了生活便利人們就會(huì)順從算法規(guī)則。

第三,算法權(quán)力的強(qiáng)制性是算法權(quán)力制度權(quán)威建構(gòu)的保障。強(qiáng)制性是權(quán)力的基本特征,算法權(quán)力的強(qiáng)制性不同于傳統(tǒng)政治權(quán)力的強(qiáng)制性。傳統(tǒng)政治權(quán)力的強(qiáng)制性是通過制度化的官僚行政體系形成的,其強(qiáng)制性是通過制度的物質(zhì)規(guī)制與價(jià)值的精神規(guī)訓(xùn)相結(jié)合而呈現(xiàn)出來的。算法權(quán)力的強(qiáng)制性一方面是權(quán)力制度化的強(qiáng)制性延續(xù),另一方面是算法程序操作的自主性表現(xiàn),并且算法程序的自主性強(qiáng)制在社會(huì)治理制度化中得以強(qiáng)化。算法秩序形成基礎(chǔ)是對公民的數(shù)據(jù)吸納分析與權(quán)力意志設(shè)計(jì),算法秩序一旦形成,無需人時(shí)刻操作就會(huì)自動(dòng)化運(yùn)行,具有“非人格化”特征。算法治理將社會(huì)公民劃分為正常人與非正常人兩類,對符合算法數(shù)據(jù)秩序的正常群體進(jìn)行常態(tài)化管理,對不符合算法數(shù)據(jù)秩序的非正常群體進(jìn)行非常態(tài)化的重點(diǎn)關(guān)注,對違背算法秩序的非正常群體進(jìn)行規(guī)制懲罰。規(guī)制懲罰是政治權(quán)力主體利用算法秩序強(qiáng)制非正常群體遵守秩序,其邏輯是,如果不遵守算法秩序,就要受到算法規(guī)制,個(gè)人的社會(huì)生活就會(huì)受到影響,以此確保秩序得到遵守。

六、結(jié) 語

算法技術(shù)對社會(huì)生活的深度嵌入與廣泛影響決定了它必將被主流政治納入治理和運(yùn)用的政治范疇,成為政治主體延伸權(quán)力意志,促進(jìn)政治發(fā)展和維護(hù)社會(huì)秩序的技術(shù)進(jìn)路。算法權(quán)力的政治建構(gòu)涉及現(xiàn)代政治運(yùn)行的特征、焦點(diǎn)和基礎(chǔ),從政治參與、政治話語和制度權(quán)威等方面實(shí)現(xiàn)智能時(shí)代政治治理的升級(jí)發(fā)展。政治參與層面的算法權(quán)力建構(gòu)有助于實(shí)現(xiàn)社會(huì)公共議題的有效確立,在提高政治決策高效性、科學(xué)性和回應(yīng)性的同時(shí),提升了公眾的政治存在感、價(jià)值感和責(zé)任感。算法權(quán)力對政治話語的構(gòu)型通過建立有效的主流政治話語輸出體系,對非主流算法話語的權(quán)力收編以及針對性的主流政治話語傳播,能在紛繁復(fù)雜的網(wǎng)絡(luò)世界有效保障主流政治話語的主導(dǎo)地位,提高主流政治話語的傳播力、引導(dǎo)力和影響力。算法權(quán)力對制度權(quán)威的建構(gòu)需要現(xiàn)實(shí)權(quán)力的制度化與算法技術(shù)的非制度化的合力,能有效促進(jìn)現(xiàn)實(shí)政治與網(wǎng)絡(luò)政治、現(xiàn)實(shí)社會(huì)秩序與網(wǎng)絡(luò)社會(huì)秩序、自發(fā)秩序與建構(gòu)秩序的二元統(tǒng)合,實(shí)現(xiàn)制度權(quán)威的全覆蓋??傊?,算法技術(shù)抑或算法權(quán)力與現(xiàn)實(shí)政治權(quán)力已經(jīng)相互嵌入且相互影響,二者的交互關(guān)系決定了算法權(quán)力的政治效益與社會(huì)效益,對算法權(quán)力的研究與審視不能只關(guān)注算法技術(shù)異化對政治系統(tǒng)和政治價(jià)值體系可能存在的風(fēng)險(xiǎn)隱患,而忽視其作為一種政治工具應(yīng)有或存在的意義。這樣的審視不免存在拔高“技術(shù)決定論”而輕視“技術(shù)工具論”的思維依賴。

猜你喜歡
公民話語權(quán)力
論公民美育
現(xiàn)代美術(shù)批評及其話語表達(dá)
不如叫《權(quán)力的兒戲》
電影(2019年6期)2019-09-02 01:42:38
隱私保護(hù)也是公民一種“獲得感”
十二公民
電影(2015年4期)2015-11-29 07:32:17
權(quán)力的網(wǎng)絡(luò)
博客天下(2015年12期)2015-09-23 01:47:57
與權(quán)力走得太近,終走向不歸路
清風(fēng)(2014年10期)2014-09-08 13:11:04
喚醒沉睡的權(quán)力
浙江人大(2014年8期)2014-03-20 16:21:10
話語新聞
浙江人大(2014年6期)2014-03-20 16:20:34
話語新聞
浙江人大(2014年5期)2014-03-20 16:20:20
河津市| 临海市| 宁阳县| 曲麻莱县| 苍溪县| 怀仁县| 唐河县| 得荣县| 读书| 汾阳市| 梁山县| 周至县| 保亭| 襄汾县| 灯塔市| 芜湖县| 方正县| 鸡泽县| 山西省| 鄂温| 奇台县| 纳雍县| 郓城县| 泗水县| 博客| 上思县| 达拉特旗| 五原县| 潞西市| 鸡西市| 榕江县| 保德县| 垫江县| 延安市| 桓仁| 台南市| 营口市| 山西省| 邢台县| 芒康县| 琼结县|