艾 萍 ,于家瑞 ,馬夢夢
(1. 河海大學水文水資源學院,江蘇 南京 210098;2. 河海大學計算機與信息學院,江蘇 南京 211100)
隨著信息技術(shù)的發(fā)展,水文監(jiān)測手段由初期人工觀測,到當前綜合應用接觸式與非接觸式自動化測量,并將演變?yōu)橐孕l(wèi)星、無人機、雷達、物聯(lián)網(wǎng)、移動寬帶互聯(lián)網(wǎng)、云計算及大數(shù)據(jù)分析技術(shù)為核心的空天地一體化智慧水文監(jiān)測體系。水文測報由人工、單一站點測報向集成自動采集、傳輸和實時處理的水文自動測報系統(tǒng)演變,水文數(shù)據(jù)管理也由每個單位自建基礎(chǔ)設(shè)施向通過購買云等公共服務的方式轉(zhuǎn)變[1–3]。
智慧水文監(jiān)測體系從結(jié)構(gòu)上按傳感器的空間位置可劃分為天基、空基和陸基監(jiān)測。陸基監(jiān)測主要包括近地表的測雨雷達、固定測站、移動巡測車、移動終端等水文監(jiān)測設(shè)備,以及由物聯(lián)網(wǎng)、云技術(shù)、大數(shù)據(jù)技術(shù)構(gòu)成的數(shù)據(jù)采集,傳輸,存儲和處理的虛擬環(huán)境,同時還包括地下水位(水質(zhì))傳感、土壤墑情傳感、地質(zhì)雷達(測地雷達)測量、同位素示蹤等地下水監(jiān)測網(wǎng)絡(luò)。各類水文傳感(感應)器(包括固定和移動)一般基于物聯(lián)網(wǎng)形成水文信息感知網(wǎng),并通過互聯(lián)網(wǎng)或水文專用網(wǎng)絡(luò)與分中心及數(shù)據(jù)中心連接。
陸基監(jiān)測除沿用現(xiàn)有水文數(shù)據(jù)采集分中心、數(shù)據(jù)中心的信息匯聚體系外,更重要的區(qū)別是在數(shù)據(jù)中心增加數(shù)據(jù)整合集成功能,依托云存貯與計算技術(shù),實現(xiàn)天基、空基和陸基監(jiān)測數(shù)據(jù)的接收,存貯與整合,為水文大數(shù)據(jù)分析和常規(guī)水文應用提供信息基礎(chǔ)[4–5]。陸基水文監(jiān)測網(wǎng)的基本結(jié)構(gòu)示意如圖 1所示。
圖 1 陸基水文監(jiān)測網(wǎng)結(jié)構(gòu)示意圖
物聯(lián)網(wǎng)的概念最初在 1999 年提出,是指通過射頻識別(RFID)、紅外感應器、全球定位系統(tǒng)、激光掃描器、氣體感應器等信息傳感設(shè)備,按約定協(xié)議,把任何物品與互聯(lián)網(wǎng)連接起來,進行信息交換,以實現(xiàn)智能化識別、定位、跟蹤、監(jiān)控和管理的一種網(wǎng)絡(luò)[6]。
物聯(lián)網(wǎng)(也稱為傳感網(wǎng))力圖把各類狀態(tài)感應器嵌入和裝備到各種設(shè)施的監(jiān)控部件中,形成傳感器組成的網(wǎng)絡(luò),并將傳感器網(wǎng)絡(luò)與互聯(lián)網(wǎng)連接起來,實現(xiàn)人類社會與物理系統(tǒng)的在線整合,達到網(wǎng)絡(luò)內(nèi)的人員、機器、設(shè)備和基礎(chǔ)設(shè)施的實時監(jiān)控,以全面提高資源利用率和生產(chǎn)力水平,改善人與自然間的關(guān)系[7–8]。物聯(lián)網(wǎng)的基本特點主要表現(xiàn)為全面感知、實時傳送、智能控制[8]。
典型的物聯(lián)網(wǎng)應用系統(tǒng)由信息采集系統(tǒng)、實體描述語言(PML)信息服務器、物品命名服務器和應用管理系統(tǒng) 4 個部分組成[9–10]。而物聯(lián)網(wǎng)的技術(shù)體系構(gòu)成主要包括感知與標識、網(wǎng)絡(luò)與通信、計算與服務及管理與支撐等 4 個技術(shù)部分。
感知和標識技術(shù)是物聯(lián)網(wǎng)的基礎(chǔ),負責采集物理世界中發(fā)生的物理事件和數(shù)據(jù),實現(xiàn)外部世界信息的感知和識別;網(wǎng)絡(luò)是物聯(lián)網(wǎng)信息傳遞和服務支撐的基礎(chǔ)設(shè)施,通過泛在的互聯(lián)功能,實現(xiàn)感知信息高可靠性、高安全性傳遞;海量感知信息的計算與處理是物聯(lián)網(wǎng)的核心支撐,服務和應用則是物聯(lián)網(wǎng)的最終價值體現(xiàn);管理與支撐技術(shù)是保證物聯(lián)網(wǎng)實現(xiàn)“可運行、可管理、可控制”的關(guān)鍵。
基于物聯(lián)網(wǎng)技術(shù)的水文監(jiān)測系統(tǒng)的硬件架構(gòu)主要包括水文要素感知終端節(jié)點(水位計、水溫計、溶解氧計等)、網(wǎng)關(guān)路由節(jié)點(中心和邊緣網(wǎng)關(guān))、遠程中心監(jiān)控節(jié)點等 3 個主要部分,每種節(jié)點完成不同的功能。系統(tǒng)結(jié)構(gòu)如圖 2 所示。
水文感知終端節(jié)點包含數(shù)據(jù)采集(傳感器:主要指水位、水溫、PH 值、溶解氧傳感器等)、數(shù)據(jù)處理和控制(微處理器、存儲器)、通信(無線收發(fā)器)和供電等模塊,主要設(shè)計要求是低功耗、高可靠性和具有自組網(wǎng)功能。由于終端節(jié)點體積小,電源容量非常有限,在設(shè)計中必須充分考慮節(jié)點的節(jié)能優(yōu)化技術(shù),提高單位節(jié)點的工作時間,節(jié)省節(jié)點的能耗及采用合理的網(wǎng)絡(luò)協(xié)議。
網(wǎng)關(guān)路由節(jié)點實現(xiàn)整個水文監(jiān)測物聯(lián)網(wǎng)區(qū)域子網(wǎng)段的自協(xié)調(diào)組網(wǎng)及信息處理的功能。在基于物聯(lián)網(wǎng)的水文監(jiān)測網(wǎng)絡(luò)中,網(wǎng)關(guān)路由節(jié)點負責初始化和動態(tài)配置子網(wǎng):給子網(wǎng)中每個終端節(jié)點分配地址;定時給子網(wǎng)段節(jié)點發(fā)送查詢命令;自動加入新的網(wǎng)絡(luò)節(jié)點,同時更新路由表。
圖 2 基于物聯(lián)網(wǎng)的水文監(jiān)測系統(tǒng)拓撲示意圖
遠程中心監(jiān)控節(jié)點包括遠程監(jiān)視和監(jiān)控 2 個部分,遠程監(jiān)視分為對環(huán)境的監(jiān)視和對計算機系統(tǒng)及網(wǎng)絡(luò)設(shè)備的監(jiān)視,不管怎么說遠程監(jiān)視就是指通過網(wǎng)絡(luò)獲得信息為主;遠程監(jiān)控是指通過網(wǎng)絡(luò)對遠程計算機進行操作的方法,它不僅包括對遠程計算機進行重新啟動、關(guān)機等操作,還包括對遠程計算機進行日常設(shè)置等工作。
移動計算(Mobile Computing)的狹義定義是使用便攜終端在移動中進行信息處理。這里所說的便攜終端通常指體積小、重量輕、集成度高的便攜計算機,手持電話,數(shù)字攝像機,數(shù)碼相機,便攜游戲機等[11]。
隨著移動通信條件的改善和能力的增強,用戶通過移動計算機和智能手機等無線終端設(shè)備訪問網(wǎng)絡(luò)上的信息資源已經(jīng)成為信息應用的常規(guī)模式。相對分布式計算而言,移動計算是一種更加靈活、更為復雜的分布式計算環(huán)境。移動計算環(huán)境也為水文監(jiān)測提供了高效實用的技術(shù)手段,為固定水文數(shù)據(jù)采集模式向固定與移動采集相結(jié)合的模式轉(zhuǎn)化創(chuàng)造了條件,特別是在水文應急監(jiān)測方面,技術(shù)優(yōu)勢十分明顯。
在傳統(tǒng)的分布式計算環(huán)境中,所有的終端都是通過固定的網(wǎng)絡(luò)連接,只要開機就能登錄網(wǎng)絡(luò),具有持續(xù)的連接性。分布式計算環(huán)境中,主機的位置基本上固定不變,主機的地址信息是已知的,各個終端的網(wǎng)絡(luò)通訊具有對稱性。而移動計算不同于傳統(tǒng)的分布式計算,移動計算節(jié)點包括固定和移動節(jié)點,用戶可以攜帶移動設(shè)備自由移動,并在移動過程中通過移動通信網(wǎng)絡(luò)與固定節(jié)點或者其它移動節(jié)點連接和交換信息。這種計算模式創(chuàng)造了一種全新的應用,可以滿足移動用戶在任何地點訪問和交換信息的需求[12–13]?;窘Y(jié)構(gòu)如圖 3 所示。
圖 3 移動計算系統(tǒng)結(jié)構(gòu)示意圖
移動計算技術(shù)已經(jīng)在許多業(yè)務領(lǐng)域得到成功應用,如交通、物流等,這些成功應用的經(jīng)驗為移動計算技術(shù)應用于水文監(jiān)測提供了很好的技術(shù)參考。事實上,移動計算環(huán)境已經(jīng)在提供水文分析成果和實時監(jiān)測數(shù)據(jù)服務方面得到應用,也有將 GPRS 移動網(wǎng)絡(luò)(2G/3G/4G)用于傳輸水文遙測數(shù)據(jù)的案例,但將其用于構(gòu)造水文監(jiān)測系統(tǒng)時,還需要與物聯(lián)網(wǎng)的應用相結(jié)合,重點用于解決水文應急監(jiān)測等非常規(guī)監(jiān)測條件下和常規(guī)移動數(shù)據(jù)采集中的數(shù)據(jù)傳輸問題。更為重要的是,將各類便攜式水文數(shù)據(jù)采集設(shè)備增加移動上網(wǎng)功能,或充分利用智能手機等移動設(shè)備的各項內(nèi)置感應及信息獲取與記錄(如拍照、錄音錄像、重力感應、光強感應和 GPS 就位)等功能,開發(fā)專門用于水文信息采集的應用,以及增建一些方便使用移動設(shè)備獲取水文數(shù)據(jù)的標志標識(如專供拍照獲取水位的水尺、水混濁度比色板、浮標測速標注區(qū))等。
美國 IBM 公司于 2007 年底宣布云計算計劃,將云計算的概念推送到公眾面前。通俗地說,對用戶而言,云計算(或簡稱“云”)是一種可隨時隨地使用又非常便宜,且具有無限存貯與計算能力的服務設(shè)施[14]。
云計算借鑒了傳統(tǒng)分布式計算的思想,并具有彈性服務、資源池化、按需服務、服務可計費及泛在接入等特點[15–16]。
云計算可以按需提供彈性資源,是一系列服務的集合,其體系架構(gòu)可分為核心服務、服務管理、用戶訪問接口 3 層,如圖 4 所示。核心服務層將硬件基礎(chǔ)設(shè)施、軟件運行環(huán)境、應用程序抽象成服務,這些服務具有可靠性強、可用性高、規(guī)模可伸縮等特點,滿足多樣化的應用需求;服務管理層為核心服務層提供支持,進一步確保核心服務的可靠性、可用性與安全性;用戶訪問接口層實現(xiàn)終端到云的訪問[17–18]。
圖 4 云計算體系結(jié)構(gòu)示意圖
繼物聯(lián)網(wǎng)、云計算技術(shù)之后,大數(shù)據(jù)技術(shù)也接踵而至并成為國際政治、經(jīng)濟、科技與社會的熱點[19–22]。大數(shù)據(jù)本身是一個很抽象的概念。一般認為,大數(shù)據(jù)具有下列 4 個方面的特點:1)數(shù)據(jù)量巨大;2)數(shù)據(jù)類型繁多;3)價值密度低,商業(yè)價值高;4)處理速度快,實時性要求高[23]。大數(shù)據(jù)應用具有以下 3 個特征:1)全體而非抽樣;2)效率而非精確;3)相關(guān)而非因果[24]。
大數(shù)據(jù)分析技術(shù)已經(jīng)在許多領(lǐng)域成功應用并取得很大的效益,獲取了許多應用傳統(tǒng)手段難以獲取的信息,解決了應用傳統(tǒng)手段難以解決的問題[25]。事實上,大數(shù)據(jù)技術(shù)的應用,特別是在科學與工程和經(jīng)濟與管理等領(lǐng)域的應用,還遠遠沒有成熟,特別是由于領(lǐng)域行業(yè)間信息共享程度不高,大多數(shù)領(lǐng)域還難以形成達到大數(shù)據(jù)分析所需要的數(shù)據(jù)集合[26–27]。
大數(shù)據(jù)分析技術(shù)由以下 2 個部分組成:1)數(shù)據(jù)準備部分。通過應用各類高效率的數(shù)據(jù)訪問、抽取、存貯、清洗、數(shù)據(jù)化等工具和設(shè)施,完成面向問題的數(shù)據(jù)集合,為數(shù)據(jù)分析提供數(shù)據(jù)。2)數(shù)據(jù)分析部分。根據(jù)問題的不同,涉及多類數(shù)據(jù)分析和挖掘算法與工具,如自然語言處理、統(tǒng)計分析、數(shù)據(jù)挖掘、模型預測及結(jié)果呈現(xiàn)等。
大數(shù)據(jù)與傳統(tǒng)數(shù)據(jù)的分析技術(shù)的主要差異是基本理念的不同,而不是技術(shù)手段,但也需要對分析技術(shù)進行必要的擴展,如需要增加處理結(jié)構(gòu)化與非結(jié)構(gòu)化數(shù)據(jù)融合分析等。由于大數(shù)據(jù)分析需要分析的數(shù)據(jù)量巨大,要素類型很多且形式及關(guān)系十分復雜,均導致其對存貯與計算的效率要求非常高。因此,也可將“是否能用常規(guī)的計算環(huán)境與算法完成數(shù)據(jù)分析”作為判斷是不是大數(shù)據(jù)分析的標尺。
智慧水文監(jiān)測體系的建立必將產(chǎn)生巨量且復雜的水文數(shù)據(jù)集合,這就是典型的水文大數(shù)據(jù)集合,可簡稱為“水文大數(shù)據(jù)”。而將用于水文大數(shù)據(jù)分析的各類技術(shù)設(shè)施工具算法等合稱為“水文大數(shù)據(jù)技術(shù)”,也就是大數(shù)據(jù)技術(shù)在水文領(lǐng)域的應用[28]。
近年來,大數(shù)據(jù)技術(shù)在全球得到高速發(fā)展,從理論、方法到技術(shù)形成了相對完整的體系,主要包括大數(shù)據(jù)分析解決問題的途徑,大數(shù)據(jù)分析的架構(gòu)和處理方法(特別是非結(jié)構(gòu)化數(shù)據(jù)處理方法),數(shù)據(jù)安全性,利用傳統(tǒng)數(shù)據(jù)庫和云計算進行大數(shù)據(jù)分析,授權(quán)審計和細粒度更新,各類大數(shù)據(jù)處理模式、多維數(shù)據(jù)組織、分布式文件系統(tǒng)、大數(shù)據(jù)分析及挖掘算法和大數(shù)據(jù)分析系統(tǒng)體系結(jié)構(gòu)等[29]。依據(jù)這個體系,國際主要的計算機軟硬件廠商紛紛推出了軟件或軟硬件系統(tǒng)結(jié)合的大數(shù)據(jù)處理方案、架構(gòu)或產(chǎn)品,形成了以 Hadoop 及 MapReduce 編程模型為代表,流處理和批處理相結(jié)合的大數(shù)據(jù)處理技術(shù)及產(chǎn)品體系,并在各個領(lǐng)域得到廣泛應用。
目前,真正將大數(shù)據(jù)技術(shù)應用于水文領(lǐng)域的探索還剛剛開始[30]。其主要原因是傳統(tǒng)的水文數(shù)據(jù)采集與應用理念和模式與大數(shù)據(jù)技術(shù)的應用不相適應。隨著水文信息服務理念的改變和服務領(lǐng)域的擴展,將推動智慧水文監(jiān)測體系的建立與應用[31],水文大數(shù)據(jù)也將很快形成,需要應用大數(shù)據(jù)分析技術(shù)來解決的水文問題將被提出。
現(xiàn)代信息技術(shù)的高速發(fā)展,為構(gòu)造空天地一體化的智慧水文監(jiān)測體系提供了有效的技術(shù)支撐。未來的智慧水文監(jiān)測體系,將充分應用衛(wèi)星定位、空天遙感、物聯(lián)網(wǎng)及智能感知、移動寬帶網(wǎng)、云計算和大數(shù)據(jù)等技術(shù),結(jié)合地面水文固定監(jiān)測站網(wǎng),形成空天地一體、動靜結(jié)合、點線面融合的立體化,高靈敏,高智能和快捷準確的水文信息感知系統(tǒng),擴展水文信息服務的領(lǐng)域,全面改造提升服務能力,為智慧水利提供必要的數(shù)據(jù)基礎(chǔ)支撐。
總之,水文信息服務能力的提升將推進智慧水文監(jiān)測體系的建立,從而導致水文大數(shù)據(jù)分析技術(shù)的廣泛應用,并在解決傳統(tǒng)水文數(shù)據(jù)分析應用方法難以解決的問題方面,發(fā)揮出不可替代的重要作用,反過來水文大數(shù)據(jù)分析應用也將促進智慧水文監(jiān)測體系的不斷完善與進步,形成數(shù)據(jù)采集與分析應用相互促進的可持續(xù)發(fā)展局面,從而開拓出水文科學與技術(shù)發(fā)展及應用的新領(lǐng)域。
[1] SHEPHERD J M, PIERCE H, NEGRI A J. Rainfall modification by major urban areas: Observations from spaceborne rain radar on the TRMM satellite[J]. Journal of Applied Meteorology, 2002, 41 (7): 689-701.
[2] PETERS G, FISCHER B, ANDERSSON T. Rain observations with a vertically looking Micro Rain Radar (MRR)[J]. Boreal Environment Research, 2002, 7 (4): 353-362.
[3] KAWANISHI T, KUROIWA H, KOJIMA M, et al. TRMM precipitation radar[J]. Advances in Space Research, 2000, 25 (5):969-972.
[4] AI P, XIONG C, LIAO H, et al. A method for water resources object identification and encoding based on EPC[C]//Distributed Computing and Applications for Business Engineering and Science (DCABES), Las Vegas :2015 14th International Symposium on. IEEE, 2015: 264-267.
[5] AI P, YUE Z, YUAN D, et al. A scene analysis model for water resources big data[C]//Distributed Computing and Applications for Business Engineering and Science (DCABES),Las Vegas : 2015 14th International Symposium on. IEEE,2015: 280-283.
[6] GUBBI J, BUYYA R, MARUSIC S, et al. Internet of Things(IoT): A vision, architectural elements, and future directions[J]. Future Generation Computer Systems, 2013, 29 (7):1645-1660.
[7] JIA X, FENG Q, FAN T, et al. RFID technology and its applications in Internet of Things (IoT)[C]//Consumer Electronics, Communications and Networks (CECNet), 2012 2nd International Conference on. IEEE, 2012: 1282-1285.
[8] LEE I, LEE K. The Internet of Things (IoT): Applications,investments, and challenges for enterprises[J]. Business Horizons, 2015, 58 (4): 431-440.
[9] YUN M, YUXIN B. Research on the architecture and key technology of Internet of Things (IoT) applied on smart grid[C]//Advances in Energy Engineering (ICAEE), 2010 International Conference on. IEEE, 2010: 69-72.
[10] FAN Y J, YIN Y H, DA X L, et al. IoT-based smart rehabilitation system[J]. IEEE Transactions on Industrial Informatics, 2014, 10 (2): 1568-1577.
[11] CHEN G, KOTZ D. A survey of context-aware mobile computing research[R]. Technical Report TR2000-381,Dept. of Computer Science, Dartmouth College, 2000.
[12] SATYANARAYANAN M, BAHL P, CACERES R, et al.The case for vm-based cloudlets in mobile computing[J].IEEE Pervasive Computing, 2009, 8 (4):14-23.
[13] FORMAN G H, ZAHORJAN J. The challenges of mobile computing[J]. Computer, 1994, 27 (4): 38-47.
[14] ARMBRUST M, FOX A, GRIFFITH R, et al. A view of cloud computing[J]. Communications of the ACM,2010, 53 (4): 50-58.
[15] QIAN L, LUO Z, DU Y, et al. Cloud computing: An overview[J]. Cloud Computing, 2009: 626-631.
[16] BUYYA R, YEO C S, VENUGOPAL S, et al. Cloud computing and emerging IT platforms: Vision, hype, and reality for delivering computing as the 5th utility[J]. Future Generation Computer Systems, 2009, 25(6): 599-616.
[17] ZHANG Q, CHENG L, BOUTABA R. Cloud computing:state-of-the-art and research challenges[J]. Journal of Internet Services and Applications, 2010, 1 (1): 7-18.
[18] HAYES B. Cloud computing[J]. Communications of the ACM, 2008, 51 (7): 9-11.
[19] GRAHAM-ROWE D, GOLDSTON D, DOCTOROW C,et al. Big data: Science in the petabyte era[J]. Nature,2008, 455 (7209): 8-9.
[20] The White House. Big Data Across the Federal Government[EB/0L].( 2012-10-02) [2017-09-25]. http:www.whitehouse.gov/sites/default/ files/microsites/ostp/big_data_fact_ final_1.pdf.
[21] STEPHENS Z D, LEE S Y, FAGHRI F, et al. Big data:Astronomical or genomical?[J]. PLoS Biology, 2015, 13 (7):e1002195.
[22] GRAY J. Jim Gray on eScience: A transformed scientific method[J]. The Fourth Paradigm: Data-Intensive Scientific Discovery, 2011.
[23] MANYIKA J, CHUI M, BROWN B, et al. Big data: The next frontier for innovation, competition, and productivity[M]. USA: McKinsey Global Institute, 2011.
[24] JOHN W S. Big data: A revolution that will transform how we live, work, and think[J]. John Murray, 2013, 17 (17):181-183.
[25] 李冬杰,王愛娜,肖鳳林,等. 大數(shù)據(jù)和云技術(shù)在省級山洪監(jiān)測預警中的應用[J]. 水利信息化,2016 (4):10-14.
[26] MCAFEE A, BRYNJOLFSSON E, DAVENPORT T H. Big data: The management revolution[J]. Harvard Business Review, 2012, 90 (10): 60-68.
[27] BOYD D, CRAWFORD K. Critical questions for big data:Provocations for a cultural, technological, and scholarly phenomenon[J]. Information, Communication & Society,2012, 15 (5): 662-679.
[28] AI P, ZHAO X Y. A framework for processing water resources big data and application[J]. Applied Mechanics and Materials, 2014, 519-520: 3-8.
[29] 丁強,蔣新新,王美玲. 水利自動化系統(tǒng)智慧運維平臺的研究和設(shè)計[J]. 水利信息化,2016 (2): 57-60.
[30] 蔡陽. 以大數(shù)據(jù)促進水治理現(xiàn)代化[J]. 水利信息化,2017 (4): 6-10.
[31] 張小娟,唐錨,劉梅,等. 北京市智慧水務建設(shè)構(gòu)想[J].水利信息化,2014 (1): 64-68.