国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

缺席的對(duì)話:大語(yǔ)言模型的認(rèn)知想象與差異彌合

2024-03-09 01:54:36喻國(guó)明蘇芳金麗萍
現(xiàn)代出版 2024年1期
關(guān)鍵詞:人機(jī)交互

喻國(guó)明 蘇芳 金麗萍

內(nèi)容摘要:當(dāng)前,大型語(yǔ)言模型如ChatGPT等軟件已經(jīng)深入人們的日常生活,引發(fā)了社會(huì)公眾對(duì)新技術(shù)的不同認(rèn)知和理解。通過文獻(xiàn)地圖、情感分析和語(yǔ)義網(wǎng)絡(luò)分析等方法,剖析不同利益群體之間存在的認(rèn)知差異,包括代表知識(shí)精英的學(xué)界觀點(diǎn)和普羅大眾的看法,試圖緩解人們對(duì)技術(shù)主體性的擔(dān)憂并糾正人們對(duì)技術(shù)社會(huì)問題的誤解。在技術(shù)與社會(huì)相互影響的背景下,分析普通大眾對(duì)新技術(shù)產(chǎn)生的復(fù)雜性和沖突的想象,強(qiáng)調(diào)促使不同群體之間進(jìn)行對(duì)話的必要性,以推動(dòng)技術(shù)朝著社會(huì)期望和良善的方向發(fā)展。

關(guān)鍵詞:強(qiáng)人工智能(AGI);人機(jī)交互;技術(shù)認(rèn)知;社會(huì)想象

DOI:10.3969/j.issn.2095-0330.2024.01.003

一、問題的提出:參差不齊的AGI的社會(huì)理解現(xiàn)狀

隨著以ChatGPT為代表的大語(yǔ)言模型技術(shù)介入日常生活,人們對(duì)技術(shù)的應(yīng)用和理解也呈現(xiàn)出多種面向。在受眾的情感傾向方面,積極使用與消極對(duì)抗不斷博弈,在不同群體中,熟練掌握技術(shù)原理的知識(shí)精英與普羅大眾之間存在著認(rèn)知差異。而這種對(duì)AGI技術(shù)參差不齊的社會(huì)理解方式,也可能導(dǎo)向不同的知識(shí)生產(chǎn)與信息組織方式,進(jìn)一步對(duì)人的認(rèn)知和行為決策產(chǎn)生影響。不過,正是這種不統(tǒng)一的差異和重復(fù)的辯論對(duì)話實(shí)現(xiàn)了技術(shù)的曲線發(fā)展,使得技術(shù)朝著社會(huì)效益和民生福祉的方向與人的認(rèn)知、情感和價(jià)值互構(gòu)互建。因此,在邁入強(qiáng)人工智能時(shí)代前,理解這種技術(shù)的認(rèn)知差異也顯得尤為關(guān)鍵。

長(zhǎng)期以來,人們?cè)跉g呼新技術(shù)出現(xiàn)的同時(shí),也陷入了機(jī)器即將取代人的“主體性隱憂”。 面對(duì)新技術(shù),人們陷入迷惘的無知之中,一面狂熱且不加反思地利用技術(shù),淪為網(wǎng)絡(luò)上游牧式的主體和流動(dòng)的共同體,不假思索地墜入技術(shù)的新烏托邦,缺乏對(duì)技術(shù)的基本想象和反思;一面過度批判反思技術(shù)的社會(huì)變革,在技術(shù)狂飆下選擇無視技術(shù),懷著尼采般憂郁的懷鄉(xiāng)病從后視鏡回望過去的“田園牧歌”。

進(jìn)一步來說,技術(shù)打破了既有利益群體的結(jié)構(gòu)和人與技術(shù)的社會(huì)位置關(guān)系。當(dāng)機(jī)器的知識(shí)水平和社會(huì)地位比人類所預(yù)期的還要高時(shí),我們應(yīng)該如何梳理技術(shù)與工作、生活的關(guān)系?當(dāng)AlphaGo打敗圍棋冠軍時(shí),人類是否面臨“普羅米修斯的羞恥”?這種文化心理問題應(yīng)當(dāng)如何解決?為回答這些問題,本文主要在 “人—技術(shù)—世界”發(fā)展的連續(xù)統(tǒng)中,回答技術(shù)的差異性理解的問題。具體來說,就是在以ChatGPT為代表的大模型流行使用的背景下剖析不同的利益群體,如代表知識(shí)精英的學(xué)界觀點(diǎn)與普羅大眾之間的認(rèn)知差異。同時(shí),在這種差異的基礎(chǔ)上思考如何彌合這種“認(rèn)知溝”,緩解人們對(duì)技術(shù)的主體性隱憂并糾正人們對(duì)技術(shù)社會(huì)問題的誤讀,區(qū)分技術(shù)的現(xiàn)狀與未來面向,從而正確理解大模型與AGI時(shí)代的可能與可為,呼吁用戶正確使用技術(shù)。

二、未來社會(huì)的觀照尺度:數(shù)字文明背景下AGI的位置及其社會(huì)連接

數(shù)字文明與原始文明、農(nóng)耕文明、工業(yè)文明一樣,象征著全新的文明時(shí)代。我們正處于工業(yè)文明與數(shù)字文明交接的變革時(shí)代,這種變革不單是一種簡(jiǎn)單的技術(shù)應(yīng)用和融入,更是對(duì)以往價(jià)值生產(chǎn)、社會(huì)結(jié)構(gòu)和社會(huì)心理的沖擊與挑戰(zhàn)。因此,在探討技術(shù)認(rèn)知的差異前,首先需要分析大模型技術(shù)在數(shù)字文明坐標(biāo)系中的位置,及其可能產(chǎn)生的社會(huì)影響,以此從動(dòng)態(tài)發(fā)展的視角來審視當(dāng)下的認(rèn)知狀態(tài)。

(一)以元宇宙為坐標(biāo):AGI時(shí)代的終極形態(tài)是極致元宇宙

元宇宙作為數(shù)字文明的1.0版本,是人類文明發(fā)展的一種新的“容介態(tài)”,也為我們描述、設(shè)計(jì)數(shù)字文明樣貌、內(nèi)涵和規(guī)則提供了具體版圖。它的核心概念是三維化、三元化、三權(quán)化。三維化意味著元宇宙必須超越PC和電腦,通過接入VR、AR、腦機(jī)接口、全息投影和數(shù)字永生等技術(shù)實(shí)現(xiàn)升級(jí)三維空間。有了三維化時(shí)空,自然生命、虛擬生命還有機(jī)器生命成為三元一體,形成多感官交互與數(shù)據(jù)互聯(lián)。同樣,三權(quán)還意味著個(gè)體同時(shí)擁有從Web1.0可讀、Web2.0可寫到Web3.0可擁有的三種權(quán)利。質(zhì)言之,元宇宙意味著虛實(shí)相融的社會(huì)生活形態(tài),是高度沉浸且永續(xù)發(fā)展的三維時(shí)空互聯(lián)網(wǎng),也是人機(jī)融生三元化的多感官通感的體驗(yàn)互聯(lián)網(wǎng),同時(shí)還是能夠?qū)崿F(xiàn)經(jīng)濟(jì)增值的三權(quán)化價(jià)值互聯(lián)網(wǎng)。

而AIGC(AI Generated Content)能為元宇宙創(chuàng)作大量的數(shù)字原生內(nèi)容,極大地推動(dòng)元宇宙的發(fā)展,讓人類突破內(nèi)容生產(chǎn)力枷鎖,從當(dāng)前元宇宙的-7.0版本真正進(jìn)入元宇宙。當(dāng)AIGC發(fā)展到一定階段,便能通過人工智能技術(shù)自動(dòng)生成元宇宙,即AIGM(AI Generated Metaverse)。不過,從AIGC走向AIGM需要完成人工智能深度學(xué)習(xí)、智能托管生成指令、生成元宇宙和自動(dòng)調(diào)優(yōu)等步驟。

因此,AGI時(shí)代仍然是一個(gè)虛擬與現(xiàn)實(shí)交織的賽博圖景,我們正在步入AGI時(shí)代,但仍未完全到達(dá)。如果說“AI+機(jī)器人”是替代人類一切能被替代的體力勞動(dòng),那么AIGC的結(jié)果就是替代一切能被替代的腦力勞動(dòng)。就其本質(zhì)而言,AI將重構(gòu)現(xiàn)有稀缺的社會(huì)要素,也將改變價(jià)值生產(chǎn)、社會(huì)結(jié)構(gòu)和內(nèi)化的社會(huì)心理,并最終實(shí)現(xiàn)由人工智能生成的元宇宙。AGI在不斷拓展人類的認(rèn)知和能力邊界的同時(shí),也將數(shù)字文明帶向新的境界。

(二)走向人機(jī)共融:多模態(tài)場(chǎng)景的構(gòu)建和具身認(rèn)知體驗(yàn)

生成式AI的發(fā)展將引領(lǐng)傳播范式與媒介生態(tài)的變革,開創(chuàng)大量豐富的具身化媒介實(shí)踐,構(gòu)建多模態(tài)場(chǎng)景和全新的社會(huì)操作系統(tǒng)。因此,AGI時(shí)代是人與機(jī)器共生的時(shí)代,未來人工智能將成為支撐虛擬世界的基礎(chǔ)環(huán)境要素,并全面介入個(gè)人的生活,人機(jī)交互將成為基本行為模式,人機(jī)融生將成為基本生存狀態(tài)。

就AI而言,其發(fā)展趨勢(shì)會(huì)越來越具身化和場(chǎng)景化?!熬呱怼币馕吨J(rèn)知不能脫離身體而單獨(dú)存在。其相對(duì)的概念是“離身”(disembodiment),指的是認(rèn)知與身體解耦,目前以ChatGPT為代表的大模型僅僅實(shí)現(xiàn)了離身智能。未來,具身AI通過與環(huán)境產(chǎn)生交互,能像人一樣與環(huán)境交互感知,自主規(guī)劃、決策、行動(dòng)、執(zhí)行。它不再是被動(dòng)地等待數(shù)據(jù)投喂,而是能夠主動(dòng)感知世界,用擬人化的思維路徑去學(xué)習(xí),從而自主決策與行動(dòng)。AI實(shí)現(xiàn)具身化后,才能真正理解某個(gè)場(chǎng)景。以智能家居為例,以往人們通過控制機(jī)器人進(jìn)行打掃,機(jī)器在其中是被動(dòng)接受指令的客體;與之相對(duì),具身AI能夠通過學(xué)習(xí),明白“在臟了的情況下需要打掃”,通過具身感知,其能夠理解不同場(chǎng)景進(jìn)而自主決策產(chǎn)生自主行為。因此,AI可以通過感知環(huán)境實(shí)體,自主具身學(xué)習(xí)和理解場(chǎng)景。

而當(dāng)具身AI發(fā)展到一定形態(tài),就有可能實(shí)現(xiàn)從語(yǔ)言的訓(xùn)練到群體智能的自主演化和涌現(xiàn)。同樣,AI在自主演化的過程中,進(jìn)化的不只是技術(shù),同時(shí)還助推了人機(jī)關(guān)系的演化。生成式AI會(huì)在與人類的不斷交互中,對(duì)人類的行為、人性、智力、知識(shí)和情感的全部“他心”進(jìn)行模仿,無限逼近“類人類”“后人類”的形態(tài)。而人類在交互過程中將會(huì)培養(yǎng)出新的習(xí)慣,包括身體行動(dòng)慣習(xí)和認(rèn)知思維慣習(xí),兩者在彼此交互、靠近的過程中達(dá)到“人機(jī)共融”的終極形態(tài)。

未來,人類向機(jī)器演化,機(jī)器向生物演化,人機(jī)融生將在碳基生命和硅基生命的融合下,全方位地拓寬人的生理帶寬、認(rèn)知帶寬和價(jià)值帶寬,在生理帶寬的擴(kuò)展方面實(shí)現(xiàn)基因革新與納米調(diào)和,在認(rèn)知帶寬的拓展方面實(shí)現(xiàn)意識(shí)的共鳴,最后在價(jià)值帶寬的拓展方面形成混元空間和多元化的認(rèn)知理解。

三、學(xué)界觀點(diǎn):積極展望與批判反思并存,技術(shù)本體分析與認(rèn)識(shí)論探討共在

值得注意的是,我們真正從技術(shù)的現(xiàn)狀與未來面向進(jìn)行區(qū)分與探討時(shí),會(huì)發(fā)現(xiàn)當(dāng)下生成式AI僅涉足人類日常生活的一小部分,就出現(xiàn)了不同的認(rèn)知偏向。學(xué)術(shù)界既有對(duì)生成式AI發(fā)展的建設(shè)性展望,也存在對(duì)隱藏風(fēng)險(xiǎn)、倫理問題的批評(píng)和反思。普羅大眾對(duì)于技術(shù)的多元討論,既有生成式AI未來將具有主體性、創(chuàng)造性,也有對(duì)生成式AI的技術(shù)誤讀與恐慌。因此,要想正確理解大模型與AGI時(shí)代的可能與可為,需要以技術(shù)為鏡,反觀人類的認(rèn)知本身。在此以學(xué)術(shù)生產(chǎn)主題和網(wǎng)絡(luò)大眾的觀點(diǎn)為參照,對(duì)比不同群體對(duì)生成式AI的關(guān)注偏向與認(rèn)知差異。

(一)專業(yè)素養(yǎng):知識(shí)精英關(guān)于AGI時(shí)代的認(rèn)知圖譜

文獻(xiàn)期刊作為研究趨勢(shì)的晴雨表,能夠?yàn)槲覀兲接懼R(shí)精英群體對(duì)于AIGC的認(rèn)知提供具體圖景。研究以Web of Science(WOS)中的SSCI期刊和知網(wǎng)( C N K I ) 中的C S S C I 期刊為數(shù)據(jù)庫(kù),檢索近五年(2018—2023)國(guó)內(nèi)外與生成式AI相關(guān)的研究,檢索條件為主題或關(guān)鍵詞包含“AIGC(生成式人工智能)”“AGI(通用人工智能)”“ChatGPT”“Knowledge Building(知識(shí)建構(gòu))”“Collective Intelligence(群體智能)”“Emergence(涌現(xiàn))”等,檢索后人工篩選與傳播學(xué)方向緊密相關(guān)的內(nèi)容,最終得到216篇外國(guó)文獻(xiàn),183篇本土文獻(xiàn)。接著利用VOSviewer文獻(xiàn)計(jì)量軟件將國(guó)內(nèi)外研究主題、關(guān)鍵詞導(dǎo)入,得到國(guó)內(nèi)外研究共現(xiàn)圖譜,該圖譜不僅能展現(xiàn)出學(xué)術(shù)界的知識(shí)動(dòng)向,也能夠反映出知識(shí)精英群體對(duì)ChatGPT等大模型技術(shù)的認(rèn)知偏向。

在國(guó)內(nèi)研究中,我們將知網(wǎng)183篇本土文獻(xiàn)導(dǎo)入VOSviewer軟件中,網(wǎng)絡(luò)節(jié)點(diǎn)設(shè)置為文獻(xiàn)主題和關(guān)鍵詞,選擇適當(dāng)閾值運(yùn)行,得到密度、共現(xiàn)圖譜。

密度視圖(density view)又稱“熱力圖”,可以分析關(guān)鍵節(jié)點(diǎn)在研究領(lǐng)域的占比權(quán)重,直觀反映出該領(lǐng)域研究的核心主題。其中標(biāo)簽節(jié)點(diǎn)出現(xiàn)頻次越高,顏色越偏暖色,反之則偏向冷色,顏色由深至淺依次為紅色、黃色、綠色,同心顏色區(qū)塊之間存在緊密聯(lián)系,非同心顏色區(qū)塊間若有區(qū)塊相連,則也存在一定聯(lián)系。如圖1所示,國(guó)內(nèi)研究圍繞“人工智能”“生成式人工智能”“智能傳播”“元宇宙”等關(guān)鍵節(jié)點(diǎn)形成了“信息治理”“智能媒體”“人機(jī)關(guān)系”“傳媒生態(tài)”等核心研究領(lǐng)域。

為進(jìn)一步分析與細(xì)化該領(lǐng)域的研究熱點(diǎn),研究得到由主題和關(guān)鍵詞生成的聚類圖譜(見圖2),該圖譜包含48個(gè)節(jié)點(diǎn)、 80條邊 、7個(gè)聚類。其中,節(jié)點(diǎn)大小意味著該關(guān)鍵詞在整體結(jié)構(gòu)中的權(quán)重,連線距離代表關(guān)鍵詞之間的親疏關(guān)系,不同顏色分布代表不同聚類。研究者根據(jù)不同關(guān)鍵詞的聚類歸納出國(guó)內(nèi)研究主題,如表1所示。

從聚類分析的主題來看,在學(xué)科變革方面,學(xué)者們從現(xiàn)狀分析、面臨困境到未來變革、迎接挑戰(zhàn)的路徑全面分析了AGI時(shí)代傳播學(xué)變革的邏輯,尤其是AGI發(fā)展所帶來的信息爆炸。AGI帶來了認(rèn)知競(jìng)爭(zhēng)的同時(shí)也革新了人與信息連接的形式,而傳播范式的轉(zhuǎn)變也改變著學(xué)科的知識(shí)生產(chǎn)方式,AIGC時(shí)代信息的重新篩選和組織也呼喚全新的內(nèi)容治理邏輯。質(zhì)言之,學(xué)者們從理論層面建設(shè)性地更新學(xué)科范式以面對(duì)AGI時(shí)代的挑戰(zhàn)。

在應(yīng)用場(chǎng)景方面,AGI的介入促進(jìn)新聞行業(yè)的變革,新聞生產(chǎn)、傳播方式的改變需要新聞從業(yè)人員適應(yīng)新的技術(shù)與平臺(tái),以保持新聞的價(jià)值與影響力。學(xué)者們提議應(yīng)該將技術(shù)素養(yǎng)納入教育體系進(jìn)行考量。

在倫理反思方面,技術(shù)的發(fā)展正深度介入人類社會(huì)的演化進(jìn)程,為人類開拓出諸多新的體驗(yàn)路徑,同時(shí)深刻影響與沖擊現(xiàn)有社會(huì)秩序與人倫常理,國(guó)內(nèi)學(xué)者多從思辨角度探討技術(shù)倫理和存在風(fēng)險(xiǎn)。國(guó)外研究熱點(diǎn)如圖3 所示, 顏色由深至淺依次為紅色、黃色、綠色,圍繞“ChatGPT”“Artificial Intelligence”“Generative AI”等關(guān)鍵節(jié)點(diǎn)形成了“機(jī)器學(xué)習(xí)”“大語(yǔ)言模型”“風(fēng)險(xiǎn)評(píng)估”“產(chǎn)業(yè)管理”等核心研究領(lǐng)域。

為進(jìn)一步細(xì)化該領(lǐng)域的研究熱點(diǎn)方向,得到由主題和關(guān)鍵詞生成的聚類圖譜(見圖4、表2)。該圖譜包含69個(gè)節(jié)點(diǎn)、236條邊和6個(gè)聚類,研究者根據(jù)不同關(guān)鍵詞的聚類歸納出國(guó)外研究主題。

國(guó)外研究與國(guó)內(nèi)研究方向大致相似,但側(cè)重點(diǎn)存在差異,國(guó)外學(xué)者對(duì)技術(shù)本體的討論更為深入。在技術(shù)分析層面,國(guó)外研究更關(guān)注技術(shù)發(fā)展,包括模型算力、算法、語(yǔ)言學(xué)習(xí)、多模態(tài)學(xué)習(xí)演進(jìn)邏輯等,致力于模型的不斷優(yōu)化與調(diào)適。在應(yīng)用場(chǎng)景層面,國(guó)外研究更關(guān)注市場(chǎng)的落地與行業(yè)應(yīng)用,并不斷探索與拓展大模型技術(shù)的應(yīng)用范圍與性能,以滿足不同領(lǐng)域、場(chǎng)景的需求。當(dāng)然國(guó)外學(xué)者也體察到了“倫理風(fēng)險(xiǎn)”問題,并超越理論探討層面,嘗試從機(jī)器訓(xùn)練等技術(shù)優(yōu)化的路徑解決存在的倫理風(fēng)險(xiǎn)問題。

(二)當(dāng)前對(duì)大模型研究的兩種取向:積極展望與批判反思

學(xué)術(shù)界的知識(shí)圖譜也是學(xué)者們的認(rèn)知圖譜??傮w而言,國(guó)內(nèi)外研究關(guān)注主題呈多元化趨勢(shì),價(jià)值取向呈分化趨勢(shì)。在關(guān)注主題方面,國(guó)內(nèi)研究形成了“信息治理”“智能媒體”“人機(jī)關(guān)系”“傳媒生態(tài)”等核心領(lǐng)域,側(cè)重討論AGI時(shí)代傳媒生態(tài)的改變,包括媒體如何迎接挑戰(zhàn)、人機(jī)關(guān)系的未來演變,以及整個(gè)社會(huì)信息治理的轉(zhuǎn)向。而國(guó)外研究聚焦于“機(jī)器學(xué)習(xí)”“大語(yǔ)言模型”“風(fēng)險(xiǎn)評(píng)估”“產(chǎn)業(yè)管理”等領(lǐng)域,更側(cè)重對(duì)技術(shù)邏輯的探究,包括對(duì)機(jī)器學(xué)習(xí)與大語(yǔ)言模型的特性分析,以及技術(shù)給市場(chǎng)、產(chǎn)業(yè)帶來的具體挑戰(zhàn)與風(fēng)險(xiǎn)等。相較而言,國(guó)內(nèi)研究側(cè)重從媒介邏輯分析生成式AI給社會(huì)帶來的長(zhǎng)期影響,而國(guó)外研究更關(guān)注技術(shù)邏輯給產(chǎn)業(yè)、應(yīng)用帶來的短期影響。

就價(jià)值取向而言,學(xué)界觀點(diǎn)整體呈現(xiàn)出“建設(shè)性展望”與“批判性反思”兩種面向。一面是對(duì)于AGI時(shí)代的積極展望,不少學(xué)者認(rèn)為未來已來,“AIGC將促進(jìn)所有行業(yè)重做一遍”,而人機(jī)關(guān)系將走向人機(jī)共融、人機(jī)共生的新局面,各個(gè)行業(yè)與用戶個(gè)體應(yīng)積極調(diào)整認(rèn)知與行為以應(yīng)對(duì)全新的發(fā)展。另一面,不少學(xué)者提出“未來未必美好”,人機(jī)共生的表象之下是人機(jī)鴻溝與人機(jī)沖突。技術(shù)壟斷、霸權(quán)風(fēng)險(xiǎn)、倫理失范、隱私泄露隱患、治理風(fēng)險(xiǎn)等都是AIGC發(fā)展的另一面,部分學(xué)者甚至提出需要“暫停AI”以厘清技術(shù)黑箱可能帶來的負(fù)面影響。然而整體而言,建設(shè)性展望依然占據(jù)主流,無論是對(duì)生成式AI發(fā)展現(xiàn)狀與未來的建設(shè)性研究,還是對(duì)存在隱藏風(fēng)險(xiǎn)、倫理問題的批評(píng)反思,都反映出知識(shí)精英群體對(duì)于AGI時(shí)代的認(rèn)知越來越多元與深入,逼近技術(shù)發(fā)展的復(fù)雜現(xiàn)實(shí)本身。

四、民間想象:社會(huì)公眾關(guān)于AGI的認(rèn)知偏向

隨著AIGC在各個(gè)領(lǐng)域的融合應(yīng)用,ChatGPT的發(fā)布意味著AGI開始介入社會(huì)公眾的日常生活。這不僅引起了不同領(lǐng)域的知識(shí)精英深刻思考,也使社會(huì)公眾在體驗(yàn)與使用中廣泛參與討論。依羅杰斯的創(chuàng)新與擴(kuò)散理論而言,創(chuàng)新擴(kuò)散不僅是技術(shù)接受的過程,還是一個(gè)社會(huì)建構(gòu)的進(jìn)程。普羅大眾對(duì)ChatGPT展開了公共討論和意義賦予的活動(dòng),使其不再是一個(gè)靜態(tài)的技術(shù)現(xiàn)象,而是形成了一個(gè)動(dòng)態(tài)的擴(kuò)散和傳播過程。因此,關(guān)注社會(huì)公眾對(duì)于ChatGPT等大模型的認(rèn)知,不僅能促進(jìn)技術(shù)以用戶體驗(yàn)為導(dǎo)向進(jìn)行升級(jí),也有助于研究者從公眾認(rèn)知視角更清晰地看到AIGC與社會(huì)互構(gòu)互建的過程。此外,社會(huì)公眾基于技術(shù)的看法也成為民間想象的一部分,構(gòu)成人們對(duì)技術(shù)的主觀情感和價(jià)值期待,以及對(duì)新社會(huì)秩序的共同愿景。

社交媒體作為社會(huì)公眾獲取信息和表達(dá)意見的主要渠道之一,通過對(duì)平臺(tái)在線評(píng)論的抓取分析,能夠捕捉公眾對(duì)某一話題的認(rèn)知與態(tài)度。因此,本文以國(guó)內(nèi)微博為例,用Python爬取內(nèi)容社區(qū)“ChatGPT”“生成式AI”等熱點(diǎn)話題下的用戶評(píng)論,去重與清理后得到4 285條文本,接著通過情感分析、詞頻分析、語(yǔ)義網(wǎng)絡(luò)分析來分析社會(huì)公眾在應(yīng)用創(chuàng)新技術(shù)時(shí)會(huì)出現(xiàn)何種認(rèn)知差異。

(一)情感分析結(jié)果

情感分析作為文本處理領(lǐng)域的一種文本挖掘技術(shù),主要是對(duì)帶有情感色彩的文本進(jìn)行分析。研究使用Python Snownlp工具,Snownlp作為Python開源軟件包可以執(zhí)行基于中文的NLP任務(wù),對(duì)于社交媒體上的短文本具有適用性。它可以根據(jù)其對(duì)中文文本的處理功能來對(duì)文本進(jìn)行情感分析,但只能給出評(píng)論的整體情感分類,且由于Snownlp自帶的語(yǔ)料庫(kù)包含的是不同類評(píng)論的語(yǔ)料,具有局限性與滯后性,情感預(yù)測(cè)準(zhǔn)確率受限,故研究者先對(duì)已獲得語(yǔ)料集中的基礎(chǔ)詞進(jìn)行情感極性分類,將積極情緒、消極情緒、中立情緒樣本詞匯進(jìn)行預(yù)存,進(jìn)而優(yōu)化既有分詞語(yǔ)料庫(kù)。在分詞后對(duì)4298條評(píng)論進(jìn)行情感識(shí)別,并標(biāo)注為積極 、中性、消極。設(shè)置其在“1.0”“0”范圍內(nèi)的浮點(diǎn)值,浮點(diǎn)值越接近1.0情感越積極,反之越消極。經(jīng)過統(tǒng)計(jì)得到以下數(shù)據(jù)(見表3)。

由表3可知,社會(huì)公眾對(duì)ChatGPT等大模型的情感認(rèn)知存在兩極偏向,其中積極評(píng)論占比47.8%,消極評(píng)論占比51.9%,積極情感與消極情感的評(píng)論數(shù)量基本持平。

(二)詞頻分析結(jié)果

詞頻可以清晰直觀地反映社會(huì)公眾對(duì)ChatGPT等大模型的具體關(guān)注與使用感受等。研究結(jié)合齊普夫第二定律與研究者經(jīng)驗(yàn),在選詞個(gè)數(shù)和詞頻高度上予以平衡,系統(tǒng)分詞后人工篩選,剔除代詞、副詞等無實(shí)義詞,刪除“ChatGPT”“AI”等搜索詞以減少其占比過大帶來的影響,選取頻數(shù)前150個(gè)高頻詞生成詞云圖,如圖5和圖6所示。

在積極情感的評(píng)論文本中,詞頻最高的10個(gè)詞依次為“效率”(569)、“助手”(389)、“聰明”(338)、“藝術(shù)”(285)、“教育”(280)、“學(xué)習(xí)”(263)、“應(yīng)用”(200)、“數(shù)據(jù)”(185)、“智能”(179)“進(jìn)步”(173)。

在消極情感的評(píng)論文本中,詞頻最高的10個(gè)詞依次為“威脅”(151)、“進(jìn)化”(134)、“替代”(104)、“生成”(57)、“風(fēng)險(xiǎn)”(51)、“病毒”(45)、“出錯(cuò)”(44)、“焦慮”(39)、“挑戰(zhàn)”(38)、“故障”(36)。

值得關(guān)注的是,積極情感中出現(xiàn)頻次最高的詞為“效率”(569),而消極情感中排名第一的“威脅”頻次僅為151,在評(píng)論文本數(shù)量基本持平的情況下,積極情感中的高頻詞頻數(shù)普遍更高,這說明社會(huì)公眾對(duì)于ChatGPT等大模型的積極評(píng)論更為聚焦,而消極評(píng)論更為發(fā)散,即相比于消極評(píng)論的發(fā)散,社會(huì)公眾對(duì)ChatGPT等大模型的認(rèn)知在積極情感中更容易形成彼此間的共識(shí)。

(三)語(yǔ)義網(wǎng)絡(luò)分析結(jié)果

為了進(jìn)一步探究高頻詞的層級(jí)關(guān)系、親疏程度,進(jìn)而發(fā)現(xiàn)主題,我們借用計(jì)算機(jī)軟件Gooseeker與Gephi進(jìn)行語(yǔ)義網(wǎng)絡(luò)可視化與分析。語(yǔ)義網(wǎng)絡(luò)分析(semantic network analysis)可以進(jìn)行共現(xiàn)、聚類等分析,通過詞與詞之間的共現(xiàn)與聚類,可以探析文本生產(chǎn)者的認(rèn)知與認(rèn)知生產(chǎn)的邏輯;通過處理多主體的文本,可以探求群體的共同認(rèn)知結(jié)構(gòu)。因此,我們?cè)谏烧w語(yǔ)義網(wǎng)絡(luò)之后通過Blondel模塊化算法進(jìn)行聚類,浮現(xiàn)出不同的主題。

通過語(yǔ)義網(wǎng)絡(luò)聚類分析發(fā)現(xiàn),ChatGPT的積極情感傾向的評(píng)論呈現(xiàn)出四大聚類(見圖7、表4)。研究者通過歸納得到三類主題,一是對(duì)于技術(shù)產(chǎn)生的好奇與探索,二是進(jìn)一步的技術(shù)交流活動(dòng),三是對(duì)技術(shù)賦予生活新場(chǎng)景的工具價(jià)值討論。

首先是對(duì)技術(shù)的好奇與積極探索, 由于ChatGPT讓普通人有機(jī)會(huì)運(yùn)用人工智能,因此很多用戶對(duì)ChatGPT還處于好奇階段,將其當(dāng)成一個(gè)玩具,例如讓它講一個(gè)故事、填一首詞或講一個(gè)笑話等,會(huì)覺得ChatGPT“很好玩”,這說明仍有很大一部分受眾對(duì)于ChatGPT等大模型的認(rèn)知僅停留在其作為一個(gè)玩具能夠提供娛樂、消遣的層面,還沒有上升到將ChatGPT作為一種工具使用,例如使用它來完成特定任務(wù)或解決有價(jià)值的問題。但與以往用戶對(duì)元宇宙的態(tài)度不同,ChatGPT讓人們對(duì)智能技術(shù)的態(tài)度從旁局觀望轉(zhuǎn)變?yōu)槿刖质褂谩?/p>

其次是知識(shí)社群交流。這一部分用戶彼此交流安裝、使用技巧和提問策略等,例如彼此分享提問技巧以得到更優(yōu)的答案、提高準(zhǔn)確率等。用戶在使用過程中基于個(gè)體具體場(chǎng)景總結(jié)使用體驗(yàn)與心得,并在社群內(nèi)部的互動(dòng)分享中沉淀共有經(jīng)驗(yàn),從而形成某種小圈層內(nèi)關(guān)于ChatGPT的民間性知識(shí)。相較于專業(yè)知識(shí),這類產(chǎn)生于民間的理論基于具體使用場(chǎng)景,強(qiáng)調(diào)實(shí)用價(jià)值,也反映了社群內(nèi)部共同體對(duì)技術(shù)的認(rèn)知在使用經(jīng)驗(yàn)的積累過程中不斷完善。

最后是對(duì)工具價(jià)值的探討。當(dāng)然,也有部分群體超越現(xiàn)象層面對(duì)ChatGPT的工具價(jià)值層面進(jìn)行討論,出現(xiàn)以“進(jìn)化”“遙遙領(lǐng)先”“超越”“真實(shí)”和“信任”為代表的積極情感。這部分群體認(rèn)為AGI的發(fā)展能夠輔助人類,將人類從煩瑣的體力勞動(dòng)或枯燥無意義的腦力勞動(dòng)中解放出來,從而進(jìn)行新的價(jià)值與意義的創(chuàng)造。值得關(guān)注的是,存在少數(shù)群體認(rèn)為AI將來在涌現(xiàn)其他新的能力后,會(huì)變成比人類更高級(jí)的生物,這類對(duì)技術(shù)過度狂熱的想象,可能陷入“唯技術(shù)論”的陷阱。

消極情感浮現(xiàn)出五大聚類,通過主題歸納后,微博上關(guān)于大模型的消極情感和認(rèn)知主要分為三個(gè)方面,一是對(duì)技術(shù)產(chǎn)生的誤讀和誤認(rèn),二是對(duì)技術(shù)的誤用,三是對(duì)自身存在感知到的來自技術(shù)的威脅(見圖8、表5)。

在技術(shù)賦魅產(chǎn)生的誤讀方面,部分群體感嘆“ChatGPT真的太牛了,它什么都知道,而我都不知道”“AI發(fā)展得超乎我的想象,我恐怕不能駕馭它幫我干活”。部分群體在對(duì)技術(shù)“賦魅”的過程中透露出焦慮情緒,出現(xiàn)認(rèn)知局限導(dǎo)致的技術(shù)的神秘化與魅惑化,衍生出認(rèn)為自己無法掌控的焦慮情緒,進(jìn)而可能出現(xiàn)放棄、拒絕使用等行為。

在應(yīng)用場(chǎng)景失靈的誤用方面,更多人在討論使用ChatGPT時(shí)產(chǎn)生的負(fù)面體驗(yàn),如“以為ChatGPT無所不能,結(jié)果它的答案根本不是我想要的,還喜歡說謊”“ChatGPT真的喜歡一本正經(jīng)地胡說八道”。實(shí)際上,大模型“胡說八道”可能源自提問的模糊與不當(dāng),“說謊”是數(shù)據(jù)訓(xùn)練的誤差,且信息核查技術(shù)并未成熟,未來還需要在微調(diào)中不斷優(yōu)化。但通過部分評(píng)論可見,群體對(duì)于ChatGPT在欺騙、出錯(cuò)方面的負(fù)面使用體驗(yàn),實(shí)際上是由于對(duì)AIGC技術(shù)認(rèn)知存在偏差而造成的誤讀,進(jìn)而由于應(yīng)用場(chǎng)景失靈而產(chǎn)生誤用。

此外是在技術(shù)應(yīng)用背景下產(chǎn)生感知生存威脅的誤解。部分群體認(rèn)為AIGC的發(fā)展會(huì)對(duì)普通人的生活構(gòu)成威脅,尤其是從事可替代性高職業(yè)的人員在未來可能會(huì)集體失業(yè)。例如,有程序員認(rèn)為“AI相比于我,能夠更快更準(zhǔn)地敲出代碼,并且工資還可能比我低”,技術(shù)所帶來的生存威脅也讓更多群體開始自驅(qū)思考未來職業(yè)生涯的改變。但感知到AGI帶來的生存威脅,本質(zhì)上是部分社會(huì)群體對(duì)人機(jī)關(guān)系的片面認(rèn)知,從而產(chǎn)生對(duì)自我主體性的懷疑。

五、當(dāng)技術(shù)走向社會(huì):技術(shù)擴(kuò)散中受眾認(rèn)知溝的差異與彌合

(一)建設(shè)與批判共存:知識(shí)精英的認(rèn)知圖譜不斷逼近復(fù)雜技術(shù)本身

通過對(duì)學(xué)術(shù)界的知識(shí)圖譜的梳理,研究發(fā)現(xiàn)國(guó)內(nèi)外知識(shí)精英群體的研究主題多元并與本土技術(shù)發(fā)展緊密相連,國(guó)內(nèi)研究側(cè)重從媒介邏輯分析生成式AI給社會(huì)帶來的長(zhǎng)期影響,而國(guó)外研究更關(guān)注技術(shù)邏輯對(duì)產(chǎn)業(yè)、應(yīng)用帶來的短期影響。就價(jià)值取向而言,整體呈現(xiàn)出“建設(shè)性展望”與“批判性反思”兩種偏向。然而,無論是對(duì)生成式AI發(fā)展的建設(shè)性展望,還是對(duì)其存在的風(fēng)險(xiǎn)和倫理問題的批評(píng)反思,都反映出知識(shí)精英群體對(duì)于AGI時(shí)代的認(rèn)知越來越多元與深入,逼近技術(shù)發(fā)展的復(fù)雜現(xiàn)實(shí)本身。

總體來說,當(dāng)前關(guān)于 “人工智能”的討論往往先從一些技術(shù)哲學(xué)、現(xiàn)象學(xué)、社會(huì)建構(gòu)主義進(jìn)行分析,之后再通過一些技術(shù)的成就和應(yīng)用來評(píng)估其現(xiàn)實(shí)性,然后再就其存在表明立場(chǎng)。

(二)技術(shù)賦能還是負(fù)能:社會(huì)公眾不同認(rèn)知偏向帶來的數(shù)字鴻溝

通過對(duì)社交媒體評(píng)論進(jìn)行情感、詞頻和語(yǔ)義網(wǎng)絡(luò)分析,研究發(fā)現(xiàn)就關(guān)注要點(diǎn)而言,大眾對(duì)于技術(shù)的認(rèn)知受社會(huì)現(xiàn)實(shí)情境與使用經(jīng)驗(yàn)影響,處于不同領(lǐng)域的群體存在不同的關(guān)注偏向。值得注意的是,社會(huì)公眾最為關(guān)注的話題是AIGC對(duì)日常生活領(lǐng)域的侵入,如問答功能、智能家居、虛擬助手、機(jī)器伴侶都是關(guān)注度高且極具爭(zhēng)議的話題。換言之,相較于技術(shù)演進(jìn)邏輯本身,大眾更為真切地關(guān)注與自身利益相關(guān)的技術(shù)場(chǎng)景落地與實(shí)際應(yīng)用。

在技術(shù)的使用與體驗(yàn)中,社會(huì)大眾也呈現(xiàn)出情感分化問題。積極情感分析中出現(xiàn)以“進(jìn)化”“遙遙領(lǐng)先”“超越”“真實(shí)”和“信任”為代表的積極情感,這部分群體對(duì)ChatGPT充滿好奇與期待,并積極使用摸索,將個(gè)體的實(shí)踐經(jīng)驗(yàn)發(fā)表在虛擬社群中,使其轉(zhuǎn)化為共享的社會(huì)性知識(shí)。同時(shí),認(rèn)同大模型的工具價(jià)值,認(rèn)為人機(jī)協(xié)同能將人類從煩瑣的體力勞動(dòng)或枯燥無意義的腦力勞動(dòng)中解放出來,從而進(jìn)行新的價(jià)值與意義的創(chuàng)造。

消極情感分析中出現(xiàn)以“焦慮”“恐怖”“擔(dān)心”“危機(jī)感”“可怕”和“欺騙”為代表的情感傾向,包括對(duì)技術(shù)賦魅而產(chǎn)生的焦慮、對(duì)人機(jī)關(guān)系缺乏正確引導(dǎo)而感知的生存威脅,以及負(fù)面使用體驗(yàn)等。由于技術(shù)的快速擴(kuò)張,人們也對(duì)人類中心主義的地位產(chǎn)生懷疑和自我貶低。這在當(dāng)前也表現(xiàn)為對(duì)技術(shù)的誤解和誤讀,或是對(duì)技術(shù)使用缺乏正確的提示和使用技能、技巧,導(dǎo)致技術(shù)的場(chǎng)景落地失靈,新時(shí)代的認(rèn)知溝逐漸變成一種“能力溝”。

由此可見,學(xué)術(shù)界的知識(shí)精英群體對(duì)AGI的認(rèn)知多元且深入,社會(huì)公眾對(duì)于AGI的看法存在情感的分化,ChatGPT等大模型在創(chuàng)新與擴(kuò)散中,本身即存在由技術(shù)基礎(chǔ)壁壘帶來的使用上的差異。而部分用戶由于場(chǎng)景失靈而產(chǎn)生的誤用,又會(huì)反作用于主觀的認(rèn)知與理解,進(jìn)一步造成大模型的素養(yǎng)鴻溝。正如赫拉利(Yuval Noah Harari)所言:“生活在技術(shù)賦權(quán)的時(shí)代,無法逃離亦無法隱蔽,是危險(xiǎn)性與救渡性并存的時(shí)刻。”就技術(shù)創(chuàng)新與擴(kuò)散的理論而言,技術(shù)系統(tǒng)自身的演進(jìn)本質(zhì)就是不斷創(chuàng)新與擴(kuò)散的過程,技術(shù)本身會(huì)在進(jìn)化過程中更新?lián)Q代、優(yōu)勝劣汰。在技術(shù)消亡、創(chuàng)生與重組持續(xù)交織并存的背景下,技術(shù)的受眾也會(huì)不斷發(fā)生改變,技術(shù)發(fā)展所帶有的“離心力”,會(huì)不斷將一部分無法跟上創(chuàng)新腳步的人及其所處的舊技術(shù)環(huán)境“甩出”新技術(shù)系統(tǒng)。

(三)駁雜而又沖突的想象:對(duì)話的必要性和關(guān)系的重定義

總體而言,當(dāng)前對(duì)大模型的認(rèn)知與情感充滿了駁雜而又生動(dòng)、矛盾沖突的想象,難以通過只言片語(yǔ)對(duì)其進(jìn)行概括。我們的工作僅僅從媒介技術(shù)動(dòng)態(tài)發(fā)展中的一個(gè)橫向的切片進(jìn)行分析,真正的現(xiàn)實(shí)遠(yuǎn)比我們所想象的要更為復(fù)雜。不過,這一切片的價(jià)值在于對(duì)公眾當(dāng)前的認(rèn)知作出分析,提出不同群體之間對(duì)話的意義。

從學(xué)界的觀點(diǎn)來看,新興技術(shù)可能帶來新興的信息秩序,重構(gòu)知識(shí)生產(chǎn)的效率邏輯,人機(jī)共生時(shí)代可能催生了一種復(fù)雜多元的可供性生成機(jī)制,其中用戶的提示可能作為一種微觀的機(jī)制影響著人類與機(jī)器的感知互動(dòng)。

而在普通人的觀點(diǎn)中,除了技術(shù)與生活和日常實(shí)踐結(jié)合,還包含對(duì)未來的想象。社會(huì)想象也是基于實(shí)踐產(chǎn)生而又體現(xiàn)著文化心理的過程,能夠更好地理解我們生活的世界。這一點(diǎn)也與戈夫曼(Goffman)、加芬克爾(Garfinkel)的觀點(diǎn)不謀而合。查爾斯·泰勒也認(rèn)為理論也許是知識(shí)精英等少數(shù)專業(yè)群體所擁有的,而社會(huì)想象則是大多數(shù)人所共有的。 這種想象的產(chǎn)生也是在“不確定性的邊緣”時(shí),社會(huì)公眾的一種態(tài)度和深層的輿論。正如埃呂爾所言,“機(jī)器的騷亂在人類身上造成的焦慮情緒在一個(gè)統(tǒng)一社會(huì)的安慰聲中得到了撫慰”。因此,有研究者提出,“社會(huì)技術(shù)想象”這一分析性概念可以促進(jìn)異質(zhì)觀點(diǎn)之間的對(duì)話,分析技術(shù)的社會(huì)建構(gòu)過程。這種想象促進(jìn)了技術(shù)不同對(duì)立面之間的對(duì)話,同樣也為知識(shí)精英提供了用戶對(duì)技術(shù)發(fā)展的期待。

在不同群體之間的對(duì)比分析的基礎(chǔ)上,另一個(gè)疑惑是技術(shù)的發(fā)展和創(chuàng)造性使用究竟是一種“敘事的勝利”、媒介的剪裁還是受眾有意識(shí)的選擇?技術(shù)的社會(huì)想象也是一個(gè)包含權(quán)力博弈的場(chǎng)域。已有研究發(fā)現(xiàn),媒介對(duì)新技術(shù)的敘事存在引述、挪用和展演等構(gòu)建敘事合法性的手段,不同的文本框架也體現(xiàn)了不同群體之間對(duì)話、協(xié)商和共識(shí)的達(dá)成。

因此,要回答這一問題除卻分析媒介的中介化機(jī)制之外,恐怕還需要回到技術(shù)本身,以及人與技術(shù)關(guān)系的重定義上來。事實(shí)上,人對(duì)于新技術(shù)的使用并非持有單一而穩(wěn)固的信念,而是在不同場(chǎng)景之間游移徘徊,在不同的說服策略下?lián)u擺不定,人們可能在努力制造機(jī)器的同時(shí)又陷入機(jī)器取代人的恐慌之中。這其中包含著人們的理性因素與非理性因素的“撕扯”,從理性的工具論視角來看,人們強(qiáng)調(diào)機(jī)器是輔助人類的工具,但是人們卻在實(shí)踐中基于非理性的視角將媒介等同于人,與聊天機(jī)器人形成的準(zhǔn)社會(huì)關(guān)系進(jìn)行著社會(huì)連接和社會(huì)交往。這兩種觀點(diǎn)在辯論中幫助機(jī)器更好地輔助人和理解人。當(dāng)人們滿足于技術(shù)的工具性功能時(shí),人們便會(huì)期待技術(shù)滿足種種非理性的期許和想象。因此,關(guān)于技術(shù)的積極使用和消極預(yù)期的想象可能本身就是在一個(gè)連續(xù)尺度上的搖擺,普通人在利用技術(shù)時(shí)始終在面臨工具理性與價(jià)值理性的抉擇和“現(xiàn)實(shí)主義—理想主義”二元論的疏離。與后真相時(shí)代的辯論類似,真相是一種共享的視角,而后真相則是某些立場(chǎng)和視角下的產(chǎn)物。普通大眾對(duì)ChatGPT等技術(shù)的使用意愿可能在不同的場(chǎng)景和不同立場(chǎng)身份下具有不同的使用意識(shí),這種意識(shí)無法被割裂開來看待。

因此,身處技術(shù)變革時(shí)代,AGI時(shí)代不僅是技術(shù)應(yīng)用的融入,更是對(duì)價(jià)值生產(chǎn)、社會(huì)結(jié)構(gòu)和社會(huì)心理的沖擊與挑戰(zhàn)。面對(duì)這些問題,我們提出在技術(shù)的擴(kuò)散過程中,不同利益群體和持有不同觀點(diǎn)的群體之間的對(duì)話具有必要性,因?yàn)檫@些對(duì)話承載著技術(shù)的社會(huì)想象,是技術(shù)向著良善方向發(fā)展的動(dòng)因,也促進(jìn)了社會(huì)大眾對(duì)媒體所框定的技術(shù)神話“祛魅”。

(作者喻國(guó)明系北京師范大學(xué)新聞傳播學(xué)院教授、博士生導(dǎo)師,北京師范大學(xué)傳播創(chuàng)新與未來媒體實(shí)驗(yàn)平臺(tái)主任,中國(guó)新聞史學(xué)會(huì)傳媒經(jīng)濟(jì)與管理學(xué)會(huì)專業(yè)委員會(huì)理事長(zhǎng);蘇芳系北京師范大學(xué)新聞傳播學(xué)院2022 級(jí)博士研究生; 金麗萍系北京師范大學(xué)新聞傳播學(xué)院2023 級(jí)碩士研究生)

猜你喜歡
人機(jī)交互
某型柴油機(jī)虛擬維修系統(tǒng)研究
基于虛擬現(xiàn)實(shí)技術(shù)的九江城市交通事故模擬系統(tǒng)設(shè)計(jì)
人機(jī)交互課程創(chuàng)新實(shí)驗(yàn)
人形交互式服務(wù)機(jī)器人研究現(xiàn)狀及發(fā)展趨勢(shì)
基于任務(wù)規(guī)劃的家庭仿真服務(wù)機(jī)器人的研究
多點(diǎn)噪聲遠(yuǎn)程自動(dòng)采集系統(tǒng)設(shè)計(jì)
基于智能手機(jī)的盲人語(yǔ)言應(yīng)用軟件的設(shè)計(jì)與開發(fā)
基于Intel Realsense技術(shù)的感知展示系統(tǒng)的設(shè)計(jì)與開發(fā)
一種靜態(tài)手勢(shì)數(shù)字識(shí)別的實(shí)現(xiàn)及應(yīng)用
圖像處理耦合模板定位的答題卡識(shí)別研究與應(yīng)用
浙江省| 三亚市| 汪清县| 武冈市| 扬州市| 河北省| 镇巴县| 尉氏县| 临桂县| 苗栗市| 大石桥市| 喀什市| 九台市| 衡水市| 陈巴尔虎旗| 墨脱县| 孟连| 日土县| 普兰县| 泸定县| 蒙山县| 桑植县| 三明市| 灵寿县| 开远市| 胶州市| 东宁县| 正宁县| 广东省| 甘南县| 金塔县| 南平市| 阆中市| 南阳市| 修文县| 海城市| 株洲县| 平武县| 六盘水市| 白朗县| 吉木乃县|