● 文|上海航天第804所 劉宇宏 姚崇斌 葉曦
用好遙感大數(shù)據(jù),助力上海大發(fā)展
● 文|上海航天第804所 劉宇宏 姚崇斌 葉曦
隨著高分一號(hào)衛(wèi)星的發(fā)射,掀起了新一輪的衛(wèi)星遙感數(shù)據(jù)應(yīng)用熱潮。如何有效地管理和利用好衛(wèi)星遙感數(shù)據(jù)是目前迫切需要解決的問題。本文綜合了多方面的研究成果,提出了依托“上海遙感數(shù)據(jù)處理與應(yīng)用服務(wù)中心”,構(gòu)建基于集群架構(gòu)城市遙感大數(shù)據(jù)綜合管理框架和基于多源信息融合的遙感數(shù)據(jù)服務(wù)示范系統(tǒng),期冀能夠?qū)πl(wèi)星遙感的應(yīng)用起到推波助瀾的作用。
隨著上海城市建設(shè)的快速發(fā)展,以衛(wèi)星遙感、衛(wèi)星導(dǎo)航和衛(wèi)星通信為代表的衛(wèi)星應(yīng)用正悄然融入城市建設(shè)和大眾生活的各個(gè)方面,衛(wèi)星遙感數(shù)據(jù)在城市監(jiān)測(cè)、管理和輔助決策等方面的作用越來(lái)越重要。但是目前上海市空間高分辨率遙感數(shù)據(jù)主要來(lái)源于航空遙感系統(tǒng)和國(guó)外高分辨率遙感衛(wèi)星,數(shù)據(jù)類型單一,難以實(shí)現(xiàn)規(guī)?;⒍炕a(chǎn)和應(yīng)用;數(shù)據(jù)與應(yīng)用標(biāo)準(zhǔn)化、規(guī)范性滯后,數(shù)據(jù)比較分散、共享程度低,導(dǎo)致重復(fù)建設(shè)、資源浪費(fèi);缺乏商業(yè)化信息數(shù)據(jù)分發(fā)服務(wù)手段與渠道,行業(yè)應(yīng)用不深入,服務(wù)面較窄。因此,為了有效地運(yùn)用好衛(wèi)星遙感數(shù)據(jù),使其在上海市城市建設(shè)和人民生活中發(fā)揮應(yīng)有的作用,需要建立上海衛(wèi)星遙感數(shù)據(jù)中心,并針對(duì)衛(wèi)星遙感數(shù)據(jù)的非結(jié)構(gòu)化異構(gòu)大數(shù)據(jù)等特點(diǎn),對(duì)遙感大數(shù)據(jù)進(jìn)行集中處理與綜合管理,并在此基礎(chǔ)上,面向不同的應(yīng)用需求,開發(fā)和提供相應(yīng)的智能化遙感信息服務(wù)。
我國(guó)已經(jīng)發(fā)展了風(fēng)云氣象衛(wèi)星系列、資源衛(wèi)星系列、海洋衛(wèi)星系列以及環(huán)境與災(zāi)害監(jiān)測(cè)衛(wèi)星星座,并正在實(shí)施高分辨率對(duì)地觀測(cè)國(guó)家重大專項(xiàng)(簡(jiǎn)稱“高分專項(xiàng)”)。該專項(xiàng)是國(guó)務(wù)院發(fā)布的《國(guó)家中長(zhǎng)期科學(xué)和技術(shù)發(fā)展規(guī)劃綱要(2006—2020年)》中確定的16個(gè)重大專項(xiàng)之一,通過(guò)建設(shè)基于衛(wèi)星、平流層飛艇和飛機(jī)的高分辨率先進(jìn)觀測(cè)系統(tǒng),并與其他觀測(cè)手段結(jié)合,形成我國(guó)全天候、全天時(shí)、全球覆蓋的對(duì)地觀測(cè)能力。
2013年4月26日,高分一號(hào)(GF-1)對(duì)地觀測(cè)衛(wèi)星發(fā)射成功,該衛(wèi)星具有高分辨率、多光譜、大幅寬等特點(diǎn),在分辨率和幅寬的綜合指標(biāo)上達(dá)到了目前國(guó)內(nèi)外民用光學(xué)遙感衛(wèi)星的領(lǐng)先水平。星載的六臺(tái)相機(jī)既可以分開單獨(dú)對(duì)覆蓋區(qū)域監(jiān)測(cè)成像,也能根據(jù)需要統(tǒng)一提供對(duì)地監(jiān)測(cè)服務(wù),從而可以滿足不同用戶的需求。在未來(lái)的4~5年內(nèi),計(jì)劃將繼續(xù)研制和發(fā)射7~9顆對(duì)地觀測(cè)衛(wèi)星。到2020年,建成我國(guó)自主的陸地、大氣、海洋先進(jìn)對(duì)地觀測(cè)系統(tǒng),具備亞米級(jí)空間分辨率、納米級(jí)光譜分辨率、小時(shí)級(jí)中分辨率觀測(cè)等多種新型載荷能力。同時(shí)整合并完善地面資源,建立數(shù)據(jù)與應(yīng)用專項(xiàng)中心,為現(xiàn)代農(nóng)業(yè)、防災(zāi)減災(zāi)、資源環(huán)境、公共安全等重大領(lǐng)域提供服務(wù)和決策支持,確保掌握信息資源自主權(quán),促進(jìn)形成空間信息產(chǎn)業(yè)鏈。
衛(wèi)星遙感產(chǎn)業(yè)的核心內(nèi)容是數(shù)據(jù),數(shù)據(jù)的生命周期主要包括衛(wèi)星遙感數(shù)據(jù)的生成、采集、處理、存儲(chǔ)、管理和分發(fā)(圖1)。目前,空間遙感呈現(xiàn)出高空間分辨率、高光譜、高重訪度等發(fā)展趨勢(shì),形成了遙感數(shù)據(jù)的數(shù)據(jù)種類多、數(shù)據(jù)量大、數(shù)據(jù)結(jié)構(gòu)復(fù)雜等特點(diǎn),遙感數(shù)據(jù)的應(yīng)用也由傳統(tǒng)數(shù)據(jù)銷售模式向智能化信息服務(wù)模式發(fā)展。數(shù)據(jù)和應(yīng)用的這些特征賦予了遙感數(shù)據(jù)更廣闊的應(yīng)用前景和更強(qiáng)的生命力,但是也給遙感數(shù)據(jù)生命周期的各個(gè)環(huán)節(jié)帶來(lái)了全新的挑戰(zhàn)。
>>>圖1 衛(wèi)星遙感數(shù)據(jù)全生命周期處理流程圖
高分衛(wèi)星載荷具備覆蓋可見光、紅外、多光譜、高光譜、微波等觀測(cè)手段,具有高空間分辨率、高光譜分辨率、高時(shí)間分辨率觀測(cè)等特點(diǎn)。地面測(cè)控系統(tǒng)是實(shí)現(xiàn)衛(wèi)星業(yè)務(wù)測(cè)控和觀測(cè)任務(wù)規(guī)劃系統(tǒng)的重要組成部分,任何一顆衛(wèi)星都需要測(cè)控系統(tǒng)保證衛(wèi)星系統(tǒng)的正常運(yùn)行。觀測(cè)任務(wù)規(guī)劃系統(tǒng)可以依據(jù)用戶需求,進(jìn)行成像計(jì)劃任務(wù)的制定與執(zhí)行。在正常遙感數(shù)據(jù)獲取的基礎(chǔ)上,提供局部特殊區(qū)域和用戶的需求,比如災(zāi)害監(jiān)測(cè)、指定時(shí)段和地區(qū)的數(shù)據(jù)獲取等。目前上海市還沒有建立相應(yīng)的衛(wèi)星地面測(cè)控站,因此,建議組織相關(guān)單位進(jìn)行充分的調(diào)研,以重建或組合的模式建立上海市長(zhǎng)期衛(wèi)星測(cè)控的中心或地面站。
地面接收系統(tǒng)按照遙感衛(wèi)星的觀測(cè)任務(wù)規(guī)劃,根據(jù)軌道預(yù)報(bào)在衛(wèi)星過(guò)境時(shí)跟蹤衛(wèi)星,接收記錄遙感數(shù)據(jù)。目前在上海地區(qū)已經(jīng)建立多個(gè)衛(wèi)星地面接收站,為了保證遙感數(shù)據(jù)的有效運(yùn)營(yíng),建議建立以地面測(cè)控站為中心的地面接收網(wǎng)絡(luò),形成有效的地面接收網(wǎng)絡(luò)系統(tǒng)。
遙感數(shù)據(jù)處理與應(yīng)用服務(wù)中心在已有中國(guó)資源衛(wèi)星應(yīng)用中心處理數(shù)據(jù)或者原始數(shù)據(jù)的基礎(chǔ)上,建立遙感數(shù)據(jù)處理軟硬件架構(gòu),采用分布式存儲(chǔ)與處理的體系結(jié)構(gòu),打造集資源調(diào)度、數(shù)據(jù)管理、專業(yè)處理和綜合應(yīng)用于一體的通用服務(wù)平臺(tái);采用數(shù)據(jù)、功能組件和服務(wù)平臺(tái)相結(jié)合的模式,根據(jù)應(yīng)用需求,通過(guò)服務(wù)平臺(tái)對(duì)功能組件進(jìn)行透明的分布式部署、組合和使用,實(shí)現(xiàn)對(duì)衛(wèi)星遙感數(shù)據(jù)的標(biāo)定、預(yù)處理、分級(jí)產(chǎn)品處理和面向應(yīng)用的多源數(shù)據(jù)融合、分析與挖掘,生成共性的數(shù)據(jù)與產(chǎn)品,生成符合用戶需求的專題數(shù)據(jù)與產(chǎn)品和應(yīng)用解決方案;提供規(guī)范化、標(biāo)準(zhǔn)化的數(shù)據(jù)應(yīng)用接口形式,實(shí)現(xiàn)面向不同用戶遙感數(shù)據(jù)產(chǎn)品的分發(fā)服務(wù)。
衛(wèi)星遙感數(shù)據(jù)具有非結(jié)構(gòu)化異構(gòu)大數(shù)據(jù)的特點(diǎn),使得數(shù)據(jù)接入、集中存儲(chǔ)和處理變得困難,空間索引維護(hù)代價(jià)也變得更高,計(jì)算量也大幅增加。但同時(shí),遙感數(shù)據(jù)具有任務(wù)可分解、數(shù)據(jù)可分解、功能可分解和運(yùn)算粒度可分解等特點(diǎn),從而使其非常適合于分塊存儲(chǔ)和并行處理。因此,采用分布式集群環(huán)境來(lái)解決衛(wèi)星遙感數(shù)據(jù)的海量存儲(chǔ)和超大計(jì)算是有效的和可行的(圖2)。
>>>圖2 基于集群架構(gòu)的衛(wèi)星遙感大數(shù)據(jù)綜合管理框圖
(1)基于混合式多集群的大數(shù)據(jù)存儲(chǔ)與管理策略
非結(jié)構(gòu)化衛(wèi)星遙感原始數(shù)據(jù)的存儲(chǔ)設(shè)備需要具有大容量、高帶寬、線性可擴(kuò)展、易管理、高性價(jià)比和自動(dòng)支持分級(jí)存儲(chǔ)等特性。從目前的地區(qū)高分應(yīng)用情況看,對(duì)存儲(chǔ)容量的需求會(huì)高達(dá)PB(petabytes)級(jí),因此,采用分布式存儲(chǔ)和基于高速網(wǎng)的SAN(Storage AreaNetwork)共享存儲(chǔ)相結(jié)合的多集群分層文件和數(shù)據(jù)存儲(chǔ)系統(tǒng)。
存儲(chǔ)虛擬化是目前提高存儲(chǔ)效率、提升存儲(chǔ)環(huán)境的整體性能和可用性水平的最重要、最有效的技術(shù)手段,它將資源的邏輯映像與物理存儲(chǔ)分開,將來(lái)自內(nèi)部和外部存儲(chǔ)系統(tǒng)中的結(jié)構(gòu)化和非結(jié)構(gòu)數(shù)據(jù)全部整合到一個(gè)單一的存儲(chǔ)平臺(tái)上。因此,需要進(jìn)一步研究混合式多集群環(huán)境下的存儲(chǔ)虛擬化實(shí)現(xiàn)技術(shù)。
(2)基于任務(wù)映射和歸約的大數(shù)據(jù)計(jì)算與分析方法
高性能計(jì)算集群負(fù)責(zé)實(shí)現(xiàn)原始數(shù)據(jù)的加工處理,由統(tǒng)一的作業(yè)調(diào)度系統(tǒng)進(jìn)行資源管理和任務(wù)分配。在數(shù)據(jù)加工處理過(guò)程中,首先需要將一個(gè)復(fù)雜的遙感產(chǎn)品的生產(chǎn)過(guò)程,按照其邏輯結(jié)構(gòu)和先后順序,拆解為相對(duì)獨(dú)立的關(guān)鍵步驟,然后建立相互獨(dú)立的生產(chǎn)單元,以獨(dú)立處理的子任務(wù)形式,交由不同計(jì)算結(jié)點(diǎn)來(lái)完成。
(3)城市空間大數(shù)據(jù)的全方位綜合防御體系
面對(duì)海量數(shù)據(jù),數(shù)據(jù)的保護(hù)和災(zāi)難恢復(fù)也越來(lái)越重要,而原有的數(shù)據(jù)保護(hù)方法已經(jīng)無(wú)法滿足當(dāng)前的需求。構(gòu)建融技術(shù)、管理和運(yùn)維支撐于一體的動(dòng)態(tài)可控的信息安全全方位綜合防御體系,分別從基礎(chǔ)設(shè)施保護(hù)、信息傳輸、數(shù)據(jù)安全和內(nèi)容安全上提高對(duì)信息安全的管理、防范、控制、應(yīng)急處理和對(duì)抗等能力。
在衛(wèi)星遙感數(shù)據(jù)應(yīng)用中,一方面需要將國(guó)內(nèi)外衛(wèi)星遙感數(shù)據(jù)與地面觀測(cè)數(shù)據(jù)進(jìn)行結(jié)合應(yīng)用,另一方面需要結(jié)合導(dǎo)航、通信與遙感開發(fā)融合的衛(wèi)星應(yīng)用系統(tǒng),從而更好地發(fā)揮衛(wèi)星遙感數(shù)據(jù)的作用。此外,衛(wèi)星遙感的應(yīng)用應(yīng)該擺脫對(duì)政府業(yè)務(wù)的高度依賴,加大發(fā)展商業(yè)用戶市場(chǎng)。因此,建議以建立城市環(huán)境和地物精細(xì)監(jiān)測(cè)、預(yù)警及救援系統(tǒng)為突破口,推動(dòng)上海衛(wèi)星遙感數(shù)據(jù)在服務(wù)民生方面的應(yīng)用。同時(shí),融合衛(wèi)星遙感等多源數(shù)據(jù),建立上海城市空間立體地理信息承載平臺(tái),作為上海城市衛(wèi)星應(yīng)用的基礎(chǔ)支持。
(1)面向智慧環(huán)保的城市監(jiān)測(cè)與災(zāi)害預(yù)警服務(wù)系統(tǒng)
運(yùn)用衛(wèi)星遙感、航空遙感和地面監(jiān)測(cè)數(shù)據(jù),重點(diǎn)對(duì)上海城市霧霾、熱島、水污染等方面進(jìn)行監(jiān)測(cè)、分析和評(píng)估,生成預(yù)警信息并及時(shí)發(fā)布,為防災(zāi)、減災(zāi)提供應(yīng)急服務(wù)(圖3)。將衛(wèi)星通信作為常規(guī)災(zāi)情報(bào)送網(wǎng)絡(luò)的備份,保證災(zāi)情的及時(shí)傳達(dá)。
>>>圖3 面向智慧環(huán)保的城市監(jiān)測(cè)與災(zāi)害預(yù)警服務(wù)系統(tǒng)基本組成框圖
(2)面向公共安全的城市監(jiān)測(cè)與應(yīng)急救援服務(wù)系統(tǒng)
利用導(dǎo)航衛(wèi)星地面增強(qiáng)網(wǎng)、城市遙感圖像和其他傳感器提供的監(jiān)測(cè)數(shù)據(jù),對(duì)上海城市重點(diǎn)區(qū)域的地面沉降、建筑物形變、違章建筑等進(jìn)行實(shí)時(shí)監(jiān)測(cè)、分析和評(píng)估,對(duì)存在的安全隱患進(jìn)行預(yù)警信息和應(yīng)急決策支持。在應(yīng)對(duì)突發(fā)救援事件時(shí),通過(guò)應(yīng)急救援綜合信息服務(wù)平臺(tái)實(shí)現(xiàn)對(duì)救援車輛的實(shí)時(shí)監(jiān)控,并根據(jù)現(xiàn)場(chǎng)情況,借助于多種通信手段建立起應(yīng)急指揮中心與救援現(xiàn)場(chǎng)之間的雙向通信聯(lián)系(圖4)。
>>>圖4 面向公共安全的城市監(jiān)測(cè)與應(yīng)急救援服務(wù)系統(tǒng)基本組成框圖
(3)城市空間立體地理信息承載平臺(tái)
借助衛(wèi)星遙感數(shù)據(jù)和多源數(shù)據(jù)融合技術(shù),以統(tǒng)一的時(shí)空關(guān)系為框架,以信息可視化技術(shù)為手段,構(gòu)建具有多源、多層次、多時(shí)空特色的上海市城市空間四維立體數(shù)字地理信息承載平臺(tái),實(shí)現(xiàn)城市地理(含地面和地下)及重要建筑物內(nèi)部空間信息的采集、存儲(chǔ)、管理、共享服務(wù)、信息理解和應(yīng)用支撐等功能,在此基礎(chǔ)上可進(jìn)一步形成數(shù)字城市地圖。
需求牽引應(yīng)用,應(yīng)用改變生活。隨著我國(guó)天基對(duì)地觀測(cè)系統(tǒng)及與之配套的地面基礎(chǔ)設(shè)施的建設(shè)和完善,衛(wèi)星遙感多空間分辨率和多時(shí)間分辨率的城市地物和環(huán)境感知能力,將在上?!爸腔鄢鞘小焙退膫€(gè)“引領(lǐng)工程”的建設(shè)和發(fā)展中起到越來(lái)越重要的作用,城市遙感大數(shù)據(jù)的綜合處理與應(yīng)用將為居住在上海的人們創(chuàng)造更加美好的城市生活。
[1]王珊,王會(huì)舉,覃雄派,等﹒架構(gòu)大數(shù)據(jù):挑戰(zhàn)、現(xiàn)狀與展望[J]﹒計(jì)算機(jī)學(xué)報(bào),2011,34(10)﹒
[2]史園莉﹒遙感數(shù)據(jù)集群處理系統(tǒng)架構(gòu)設(shè)計(jì)與實(shí)現(xiàn)[D]﹒北京:中國(guó)測(cè)繪科學(xué)研究院,2010﹒
[3]曹風(fēng)兵﹒基于Hadoop的云計(jì)算模型研究與應(yīng)用[D]﹒重慶:重慶大學(xué),2011﹒
[4]黃濱,徐勇,呂巖﹒基于Hadoop云存儲(chǔ)系統(tǒng)在設(shè)計(jì)院的應(yīng)用研究[J]﹒信息安全與技術(shù),2012(9)﹒