(貴州水土保持監(jiān)測(cè)站, 貴州 貴陽(yáng) 550002)
大數(shù)據(jù)技術(shù)在喀斯特地區(qū)水土保持的應(yīng)用芻議
岳坤前顧再柯
(貴州水土保持監(jiān)測(cè)站, 貴州 貴陽(yáng) 550002)
本文主要分析大數(shù)據(jù)的特點(diǎn)、技術(shù)及其在喀斯特石漠化區(qū)水土保持應(yīng)用方面的探討,充分發(fā)揮大數(shù)據(jù)在喀斯特石漠化地區(qū)水土保持監(jiān)測(cè)、監(jiān)督管理、效益評(píng)價(jià)、資源整合與共享中的作用,以期為水土保持的發(fā)展提供更多的參考。
喀斯特石漠化;大數(shù)據(jù);技術(shù);水土保持;發(fā)展
喀斯特地區(qū)由于其特殊的地質(zhì)地貌,具有地表—地下雙層水土流失方式,數(shù)據(jù)收集零散、缺乏整體性,總體性分析薄弱。2013年水利部印發(fā)了《全國(guó)水土保持信息化規(guī)劃(2013—2020)》,明確了水土保持信息化的指導(dǎo)思想、建設(shè)原則和近期遠(yuǎn)期目標(biāo)[1]。水土保持信息化的發(fā)展需要以大數(shù)據(jù)為基礎(chǔ),因此,加強(qiáng)大數(shù)據(jù)在喀斯特地區(qū)水土保持中的應(yīng)用,成為當(dāng)務(wù)之急。
大數(shù)據(jù)是指利用常用軟件工具捕獲、管理和處理數(shù)據(jù)所耗時(shí)間超過(guò)可容忍時(shí)間的數(shù)據(jù)集。也就是說(shuō)大數(shù)據(jù)是一個(gè)體量特別大,數(shù)據(jù)類(lèi)別特別大的數(shù)據(jù)集,并且這樣的數(shù)據(jù)集無(wú)法用傳統(tǒng)數(shù)據(jù)庫(kù)工具對(duì)其內(nèi)容進(jìn)行抓取、管理和處理。目前大數(shù)據(jù)技術(shù)已是社會(huì)發(fā)展的主流,但在喀斯特石漠化地區(qū)水土保持中的應(yīng)用較少。喀斯特石漠化地區(qū),山高坡陡,地形條件較為復(fù)雜,水土保持經(jīng)過(guò)長(zhǎng)時(shí)間的研究已取得一定的成果,但由于對(duì)數(shù)據(jù)的處理、監(jiān)督、管理等方面存在諸多的問(wèn)題,一直未得到解決。因此,需要將大數(shù)據(jù)技術(shù)應(yīng)用到水土保持研究中,對(duì)數(shù)據(jù)進(jìn)行深入的對(duì)比分析、提出有效的防治和監(jiān)督管理措施,解決水土保持中存在的問(wèn)題。
隨著大數(shù)據(jù)的不斷發(fā)展,應(yīng)用的范圍更加廣泛,其特點(diǎn)由規(guī)模性、多樣性、高速性等向價(jià)值性、 準(zhǔn)確性、 可變性、 真實(shí)性轉(zhuǎn)變[2],在不斷發(fā)展的過(guò)程中由覆蓋的廣度向技術(shù)的深度逐漸轉(zhuǎn)變。
a. 數(shù)據(jù)量大。大型數(shù)據(jù)集,指的是數(shù)據(jù)集的規(guī)模從TB級(jí)別躍升到了PB級(jí)別[3]。隨著科學(xué)技術(shù)的不斷發(fā)展,為了滿足不同使用者的需要,互聯(lián)網(wǎng)產(chǎn)生了大量的數(shù)據(jù),而這些數(shù)據(jù)的繁雜、重疊等原因?qū)е滦纬蓴?shù)據(jù)集。
b. 數(shù)據(jù)類(lèi)型多樣化。數(shù)據(jù)類(lèi)型多樣化是大數(shù)據(jù)的另一特征,由于要滿足不同類(lèi)型用戶(hù)的需要,數(shù)據(jù)形式已經(jīng)不再局限于單一的文本信息,現(xiàn)階段已產(chǎn)生了很多半結(jié)構(gòu)化的數(shù)據(jù),這對(duì)大數(shù)據(jù)技術(shù)有了更高的要求,增加了數(shù)據(jù)存儲(chǔ)和處理的難度。
c. 數(shù)據(jù)處理速度快。數(shù)據(jù)處理速度快指大量實(shí)時(shí)數(shù)據(jù)流的快速收集、 創(chuàng)建、 分析、 處理、 傳送的過(guò)程。通過(guò)高速的處理器和性能良好的服務(wù)器, 企業(yè)能快速地將數(shù)據(jù)反饋給用戶(hù)[3]。面對(duì)龐雜的信息,傳統(tǒng)數(shù)據(jù)的處理方式較復(fù)雜,顯得更為機(jī)械化,已跟不上時(shí)代發(fā)展的需要,因此對(duì)大數(shù)據(jù)技術(shù)有了更高的要求,處理數(shù)據(jù)的速度必須跟上數(shù)據(jù)增長(zhǎng)的速度,才能更好地服務(wù)于大眾。
d. 數(shù)據(jù)的價(jià)值性。由于數(shù)據(jù)具有結(jié)構(gòu)性和非結(jié)構(gòu)性,非結(jié)構(gòu)信息存儲(chǔ)了大量關(guān)聯(lián)的數(shù)據(jù),造成數(shù)據(jù)冗雜、結(jié)構(gòu)性差,降低了數(shù)據(jù)的可利用性,因此,從龐大的數(shù)據(jù)中對(duì)有效信息進(jìn)行提取,并進(jìn)行分析、總結(jié)、發(fā)現(xiàn)其中的規(guī)律,預(yù)測(cè)未來(lái)的發(fā)展趨勢(shì),成為有價(jià)值的信息,為人們提供更多的便利。
大數(shù)據(jù)技術(shù)是預(yù)測(cè)分析、數(shù)據(jù)挖掘、統(tǒng)計(jì)分析、人工智能、自然語(yǔ)言處理、并行計(jì)算、數(shù)據(jù)存儲(chǔ)等技術(shù)的綜合運(yùn)用,組成了當(dāng)今最熱門(mén)的數(shù)據(jù)工程化應(yīng)用技術(shù)新實(shí)踐[4]。
大數(shù)據(jù)采集一般分為大數(shù)據(jù)智能感知層和基礎(chǔ)支撐層。智能感知層主要包括:數(shù)據(jù)傳感體系、網(wǎng)絡(luò)通信體系、傳感適配體系、智能識(shí)別體系及軟硬件資源接入系統(tǒng),實(shí)現(xiàn)對(duì)結(jié)構(gòu)化、半結(jié)構(gòu)化、非結(jié)構(gòu)化的海量數(shù)據(jù)的智能化識(shí)別、定位、跟蹤、接入、傳輸、信號(hào)轉(zhuǎn)換、監(jiān)控、初步處理和管理等。必須著重攻克針對(duì)大數(shù)據(jù)源的智能識(shí)別、感知、適配、傳輸、接入等技術(shù)。基礎(chǔ)支撐層提供大數(shù)據(jù)服務(wù)平臺(tái)所需的虛擬服務(wù)器,結(jié)構(gòu)化、半結(jié)構(gòu)化及非結(jié)構(gòu)化數(shù)據(jù)的數(shù)據(jù)庫(kù)及物聯(lián)網(wǎng)絡(luò)資源等基礎(chǔ)支撐環(huán)境。重點(diǎn)攻克分布式虛擬存儲(chǔ)技術(shù),大數(shù)據(jù)獲取、存儲(chǔ)、組織、分析和決策操作的可視化接口技術(shù),大數(shù)據(jù)的網(wǎng)絡(luò)傳輸與壓縮技術(shù),大數(shù)據(jù)隱私保護(hù)技術(shù)等。
數(shù)據(jù)挖掘技術(shù)主要是通過(guò)從海量網(wǎng)絡(luò)數(shù)據(jù)中發(fā)掘潛在的高價(jià)值數(shù)據(jù),需要通過(guò)神經(jīng)網(wǎng)絡(luò)方法、數(shù)據(jù)庫(kù)方法、統(tǒng)計(jì)學(xué)、 人工智能、回歸分析等多種方式來(lái)實(shí)現(xiàn)。 互聯(lián)網(wǎng)上的數(shù)據(jù)十分駁雜, 數(shù)據(jù)質(zhì)量直接影響了數(shù)據(jù)分析的結(jié)果, 數(shù)據(jù)挖掘技術(shù)可以有效控制錯(cuò)誤數(shù)據(jù)的比例, 同時(shí)可以盡量排除無(wú)關(guān)數(shù)據(jù)。
大數(shù)據(jù)分析技術(shù)主要是運(yùn)用已有數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)技術(shù)以及數(shù)據(jù)網(wǎng)絡(luò)挖掘、特異群組挖掘、圖挖掘等新型數(shù)據(jù)挖掘技術(shù),突破基于對(duì)象的數(shù)據(jù)連接、相似性連接等大數(shù)據(jù)融合技術(shù),突破用戶(hù)興趣分析、網(wǎng)絡(luò)行為分析、情感語(yǔ)義分析等面向領(lǐng)域的大數(shù)據(jù)挖掘技術(shù),將大量數(shù)據(jù)中所隱藏的潛在信息呈現(xiàn)出來(lái),分析其發(fā)展趨勢(shì)。
數(shù)據(jù)顯示技術(shù)可以將分析處理后的有用數(shù)據(jù)傳輸給用戶(hù)。用戶(hù)可以直接理解傳統(tǒng)結(jié)構(gòu)化數(shù)據(jù),對(duì)于非結(jié)構(gòu)化數(shù)據(jù),通過(guò)計(jì)算機(jī)圖形學(xué)與圖像處理技術(shù),實(shí)現(xiàn)用戶(hù)對(duì)數(shù)據(jù)的可視化。
一段時(shí)期的數(shù)據(jù)僅代表了一個(gè)階段的發(fā)展過(guò)程,具有一定的時(shí)效性,因此,大數(shù)據(jù)技術(shù)的實(shí)時(shí)處理能力直接關(guān)系到數(shù)據(jù)的質(zhì)量?jī)r(jià)值,通過(guò)建立大數(shù)據(jù)的數(shù)據(jù)庫(kù),將多個(gè)不同結(jié)構(gòu)的數(shù)據(jù)存儲(chǔ)在虛擬平臺(tái)上,實(shí)時(shí)更新,實(shí)現(xiàn)不同結(jié)構(gòu)數(shù)據(jù)的檢索整合,給用戶(hù)提供更多的參考。
大數(shù)據(jù)技術(shù)在海量數(shù)據(jù)基礎(chǔ)上進(jìn)行深入的分析,提高工作效率,為社會(huì)經(jīng)濟(jì)的發(fā)展提供建議,提升人民的生活水平?,F(xiàn)階段大數(shù)據(jù)已逐步運(yùn)用到各行各業(yè)中,比如公安系統(tǒng)、電子信息行業(yè)、政府決策等。
喀斯特石漠化地區(qū)由于特殊的地質(zhì)構(gòu)造,地形復(fù)雜,地勢(shì)陡峭,對(duì)監(jiān)測(cè)技術(shù)要求高?,F(xiàn)階段喀斯特石漠化區(qū)水土保持已取得一定的研究基礎(chǔ),但監(jiān)測(cè)數(shù)據(jù)更新不及時(shí),且數(shù)據(jù)較為分散,沒(méi)有統(tǒng)一的數(shù)據(jù)分析體系,存在整合性差、區(qū)域局限性,對(duì)于該地區(qū)的深入研究造成一定的困難。為實(shí)時(shí)了解喀斯特石漠化地區(qū)的水土流失進(jìn)展情況,將大數(shù)據(jù)的技術(shù)充分運(yùn)用到喀斯特石漠化地區(qū)的監(jiān)測(cè)中,以現(xiàn)有的監(jiān)測(cè)技術(shù)為基礎(chǔ),對(duì)每個(gè)監(jiān)測(cè)點(diǎn)的數(shù)據(jù)進(jìn)行及時(shí)更新,運(yùn)用現(xiàn)有技術(shù)充分整合數(shù)字資源,摒棄冗雜數(shù)據(jù),及時(shí)掌握水土流失變化過(guò)程,調(diào)整生態(tài)環(huán)境的保護(hù)措施,避免生態(tài)環(huán)境進(jìn)一步惡化,為喀斯特石漠化地區(qū)水土保持治理實(shí)現(xiàn)突破性進(jìn)展。
水土保持監(jiān)督需要以水土保持監(jiān)測(cè)為基礎(chǔ),水土保持監(jiān)測(cè)涉及的主要內(nèi)容包括區(qū)域水土保持基礎(chǔ)信息采集、區(qū)域水土流失宏觀動(dòng)態(tài)監(jiān)測(cè)、典型樣區(qū)水土流失微觀動(dòng)態(tài)監(jiān)測(cè)等[5]。在宏觀方面,通過(guò)RS、GIS對(duì)水土保持的植被覆蓋、土地裸露、動(dòng)土變化等進(jìn)行數(shù)據(jù)收集;在微觀方面,通過(guò)GPS、坡度儀、皮尺等進(jìn)行基礎(chǔ)數(shù)據(jù)的采集,提供較為精準(zhǔn)的數(shù)據(jù),對(duì)開(kāi)發(fā)建設(shè)項(xiàng)目的進(jìn)度、監(jiān)督執(zhí)法情況、安全生產(chǎn)防護(hù)措施、棄渣處理、水土流失防治措施等進(jìn)行全面追蹤,及時(shí)上報(bào)數(shù)據(jù)系統(tǒng)。未來(lái)依賴(lài)于大數(shù)據(jù)基礎(chǔ)之上的水利信息化建設(shè),國(guó)家對(duì)水土保持生產(chǎn)建設(shè)項(xiàng)目實(shí)行全過(guò)程、全方位管理,從水土保持方案上報(bào)、審查、審批,到水土保持監(jiān)理、水土保持監(jiān)測(cè),再到最后的驗(yàn)收評(píng)估和水土保持驗(yàn)收,全過(guò)程實(shí)現(xiàn)信息化管理。未來(lái)對(duì)生產(chǎn)建設(shè)項(xiàng)目開(kāi)工前衛(wèi)星定位、定邊界,開(kāi)工后衛(wèi)星對(duì)照監(jiān)控,發(fā)現(xiàn)未編制方案、邊界變化等情況自動(dòng)報(bào)警,指導(dǎo)地方水土保持部門(mén)現(xiàn)場(chǎng)核實(shí)和監(jiān)督[1],實(shí)現(xiàn)生產(chǎn)建設(shè)項(xiàng)目的全程跟蹤。精準(zhǔn)的數(shù)據(jù)定位,連續(xù)的數(shù)據(jù)追蹤,對(duì)比分析不同區(qū)域生產(chǎn)項(xiàng)目的優(yōu)勢(shì)與劣勢(shì),總結(jié)經(jīng)驗(yàn),對(duì)水土保持項(xiàng)目進(jìn)行有效的管理。
目前,很多項(xiàng)目開(kāi)展了前期的基礎(chǔ)性工作,但后期水土保持所產(chǎn)生的效益評(píng)價(jià)數(shù)據(jù)較缺乏,以及科研數(shù)據(jù)的真實(shí)性存在一定的漏洞。因此,通過(guò)建立水土保持大數(shù)據(jù),以客觀、真實(shí)的數(shù)據(jù),對(duì)比數(shù)據(jù)不同階段的變化,保障水土保持效益數(shù)據(jù)具有科學(xué)、合理性,分析水土保持所產(chǎn)生的社會(huì)效益、經(jīng)濟(jì)效益、生態(tài)效益,對(duì)同類(lèi)項(xiàng)目的水土保持效益進(jìn)行橫向?qū)Ρ?,不同?lèi)型的項(xiàng)目相互借鑒優(yōu)勢(shì)的地方,不同年度的水土保持效益進(jìn)行縱向?qū)Ρ?,分析不同?lèi)型水土保持效益,評(píng)價(jià)其水土保持項(xiàng)目的可持續(xù)性。
喀斯特石漠化地區(qū)的研究已取得一定的數(shù)據(jù)基礎(chǔ),但系統(tǒng)的通用性、各地區(qū)的協(xié)調(diào)性差。數(shù)據(jù)具有地區(qū)局限性,數(shù)據(jù)零散,共享性差,沒(méi)有統(tǒng)一的數(shù)據(jù)結(jié)構(gòu)體系,且多為有償服務(wù),更有數(shù)據(jù)無(wú)法查找、下載的情況,普遍存在只能滿足基本業(yè)務(wù)處理的需求,不能滿足整體數(shù)據(jù)的綜合性分析,為深入的研究帶來(lái)一定的困難。
為更好地服務(wù)于科研的發(fā)展,實(shí)現(xiàn)數(shù)據(jù)搜索的便捷化,以大數(shù)據(jù)為核心的水利信息化建設(shè)工作正在逐步開(kāi)展起來(lái)。通過(guò)對(duì)喀斯特石漠化地區(qū)水土保持各方面數(shù)據(jù)的收集,形成一套較為完整的水土保持業(yè)務(wù)運(yùn)行系統(tǒng),篩選可利用數(shù)據(jù),整合水土保持?jǐn)?shù)據(jù)資源,形成不同類(lèi)型的水土保持專(zhuān)題信息庫(kù),實(shí)現(xiàn)數(shù)據(jù)資源共享,為科研的深入研究提供更多的數(shù)據(jù)支持。
建立對(duì)自然環(huán)境各項(xiàng)指標(biāo)的監(jiān)測(cè)系統(tǒng),對(duì)各項(xiàng)指標(biāo)進(jìn)行實(shí)時(shí)更新,建立以大數(shù)據(jù)為基礎(chǔ)的各項(xiàng)指標(biāo)預(yù)警線,實(shí)現(xiàn)自然災(zāi)害的定量化監(jiān)測(cè),提前預(yù)知自然災(zāi)害,做好防護(hù)措施,特別是重點(diǎn)區(qū)域的堤防、岸壩和險(xiǎn)工險(xiǎn)段做好防災(zāi)準(zhǔn)備,將自然災(zāi)害造成的損失降到最小,切實(shí)解決人們的生產(chǎn)生活需要。
大數(shù)據(jù)近年來(lái)才被人們所廣泛提及,在喀斯特地區(qū)水土保持中的應(yīng)用還處于初級(jí)階段。喀斯特石漠化地區(qū)由于其特殊的地質(zhì)構(gòu)造,對(duì)數(shù)據(jù)的收集還存在一定的差異性、困難性,各方面的管理還不規(guī)范。今后還需要加強(qiáng)以下兩方面工作:?加強(qiáng)大數(shù)據(jù)技術(shù)在喀斯特水土保持應(yīng)用中的標(biāo)準(zhǔn)化,量化各項(xiàng)指標(biāo),實(shí)現(xiàn)數(shù)據(jù)的有序性,采用“誰(shuí)采集,誰(shuí)負(fù)責(zé)”的方式,保障數(shù)據(jù)的真實(shí)性、完整性、精確性、時(shí)效性、可使用性,提升數(shù)據(jù)的可利用性;?建立以大數(shù)據(jù)為基礎(chǔ)的喀斯特水土流失的實(shí)時(shí)監(jiān)控,將喀斯特各地區(qū)的水土保持?jǐn)?shù)據(jù)進(jìn)行整合,實(shí)時(shí)掌握水土流失動(dòng)態(tài),實(shí)現(xiàn)水土流失的可持續(xù)性監(jiān)督,及時(shí)發(fā)現(xiàn)問(wèn)題,做好防護(hù)措施。
隨著喀斯特地區(qū)水土保持工作的不斷深入,需結(jié)合現(xiàn)代化的科學(xué)技術(shù),運(yùn)用最前沿的大數(shù)據(jù)技術(shù),對(duì)水土保持基礎(chǔ)資料的采集、存儲(chǔ)、挖掘與分析,揭示和掌握水土流失規(guī)律,改善生態(tài)環(huán)境,促進(jìn)區(qū)域經(jīng)濟(jì)發(fā)展。
[1] 姜德文.加快水保信息系統(tǒng)建設(shè) 適應(yīng)現(xiàn)代管理新要求[J].中國(guó)水土保持,2015(1):1-2,7.
[2] 肖江蘇.大數(shù)據(jù)的概念、特征及其應(yīng)用探究[J].電腦編程技巧與維護(hù),2016(3):57-58,61.
[3] 蔣曉科,符龍生,李健.大數(shù)據(jù)關(guān)鍵技術(shù)及應(yīng)用研究[J].電腦知識(shí)與技術(shù),2015(8):5-6.
[4] 張鋒軍.大數(shù)據(jù)技術(shù)研究綜述[J].通信技術(shù),2014(11):1240-1248.
[5] 李?yuàn)檴?3S技術(shù)在水利信息化建設(shè)中的應(yīng)用和發(fā)展[J].福建農(nóng)業(yè),2014(8):175.
DiscucsiononapplicationofbigdatatechnologyinsoilandwaterconservationatKarstarea
YUE Kunqian, GU Zaike
(GuizhouSoilandWaterConservationMonitoringStation,Guiyang550002,China)
In the paper, the characteristics of big data, the technology and the application thereof in soil and water conservation of Karst rocky desertification area are analyzed mainly. Making full use of big data at Karst area in terms of soil and water conservation, supervision benefit evaluation, resources intergration and share, so as to provide more references for the development of soil and water conservation.
Karst rocky desertification; big data; technology; soil and water conservation; development
10.16616/j.cnki.10-1326/TV.2017.12.003
TV213
A
2096-0131(2017)12-0008-04