◎ 李輝 隋永舉 南海航海保障中心
“航標大數(shù)據(jù)”機制的建立及應用探索
◎ 李輝 隋永舉 南海航海保障中心
隨著航標信息化的不斷推進,航標應用數(shù)據(jù)正以前所未有的速度增長,長期的航標業(yè)務數(shù)據(jù)的積累預示著航保大數(shù)據(jù)時代即將到來。通過對航標大數(shù)據(jù)內(nèi)涵和外延的深入理解,本文研究并提出了“航標大數(shù)據(jù)”的概念,對航標大數(shù)據(jù)的組成進行分析,結合航標信息化建設現(xiàn)狀,提出航標大數(shù)據(jù)架構搭建方案,分析了航標管理的典型的大數(shù)據(jù)應用場景,航標大數(shù)據(jù)的應用必將推動航標業(yè)務管理和對外服務水平提升。
航標 大數(shù)據(jù) 機制、應用、服務
隨著數(shù)字信息化時代的迅猛發(fā)展,信息量也呈爆炸性增長態(tài)勢。全球的數(shù)字信息資源正進入到一個前所未有的快速增長期。航海保障作為把水運業(yè)的重要環(huán)節(jié),其作用也越來越突出。經(jīng)過多年的發(fā)展,我國沿海港口航道基本形成較為完善的航標導助航體系,目前已從傳統(tǒng)視覺航標系統(tǒng),發(fā)展到近、遠程無線電導航系統(tǒng),全天候、多途徑的一體化助航系統(tǒng)已經(jīng)初步形成。航標在履行傳統(tǒng)助航服務的同時,承擔著水文、氣象、海洋等多種負載觀測功能,眾多航標數(shù)據(jù)的匯聚已形成航標大數(shù)據(jù)應用趨勢。如何發(fā)掘航標大數(shù)據(jù)這塊瑰寶、如何形成大數(shù)據(jù)應用機制,將是航標管理機構在全球大數(shù)據(jù)時代所面臨的機遇與挑戰(zhàn)。
通過對航標數(shù)據(jù)進行各種比對分析,具體航標大數(shù)據(jù)的數(shù)據(jù)元可由如下方面組成:
①航標靜態(tài)基礎數(shù)據(jù):是航標提供對外航海保障服務的基礎數(shù)據(jù),主要包括航標公有數(shù)據(jù)、航標專有數(shù)據(jù)、航標設施數(shù)據(jù)、航標管理數(shù)據(jù)。
②航標動態(tài)管理數(shù)據(jù):航標從設置到撤除全生命周期的動態(tài)管理數(shù)據(jù),主要包括生產(chǎn)動態(tài)數(shù)據(jù)、管理動態(tài)數(shù)據(jù)、維護保養(yǎng)動態(tài)數(shù)據(jù)、設備使用動態(tài)數(shù)。
③航標實時監(jiān)測數(shù)據(jù):航標監(jiān)測設備所檢測到航標運行狀態(tài)數(shù)據(jù),主要包括燈器運行狀態(tài)數(shù)據(jù)、設備運行狀態(tài)數(shù)據(jù)、設備上線使用數(shù)據(jù)、檢測故障數(shù)據(jù)。
④航標負載監(jiān)測數(shù)據(jù):以航標為載體,負載在航標上監(jiān)測設備檢測到的環(huán)境關聯(lián)數(shù)據(jù),主要包括水文監(jiān)測數(shù)據(jù)、氣象監(jiān)測數(shù)據(jù)、海洋監(jiān)測數(shù)據(jù)、航運監(jiān)測數(shù)據(jù)。
大數(shù)據(jù)是一個綜合性的概念,包含了技術和應用大數(shù)據(jù)兩個層面。技術大數(shù)據(jù)使得數(shù)據(jù)的存儲和計算效率大為提高,應用大數(shù)據(jù)的最大意義就是獲得更多的收益??梢姡夹g是基礎,應用才是目的。為將分散的、未過濾的、從未匯聚且未發(fā)生反應的大數(shù)據(jù)應用好,必須在技術上首先建立一個較好的大數(shù)據(jù)架構。
大數(shù)據(jù)平臺的建設充分考慮現(xiàn)有信息化資源、設備和數(shù)據(jù),才能具備較好的基礎和持續(xù)的生命力。通過了解我們發(fā)現(xiàn)現(xiàn)有的航標數(shù)據(jù)庫都為傳統(tǒng)的關系型數(shù)據(jù)庫架構,數(shù)據(jù)倉庫的數(shù)據(jù)處理流程與業(yè)務保持緊密關聯(lián)、整個數(shù)據(jù)加工流程為最終應用服務。為保證航標到時平臺與現(xiàn)有航保信息化資源相匹配,結合航保目前的數(shù)據(jù)存儲的水平及現(xiàn)狀,我們認為可選用Hadoop平臺作為航標大數(shù)據(jù)基礎平臺,Hadoop平臺提供了海量數(shù)據(jù)的分布式存儲與處理的架構,基于服務器本地的計算與存儲資源,Hadoop集群可以擴展到上千臺服務器。同時,Hadoop在設計時充分考慮了硬件設備的不可靠因素,在軟件層面提供數(shù)據(jù)和計算的高可靠保證。Hadoop平臺這些優(yōu)勢正適合在目前的航保信息化資源上搭建航標大數(shù)據(jù)平臺(詳見圖2)。
航標大數(shù)據(jù)平臺各構件具體功能如下:
①數(shù)據(jù)采集(ETL):負責源數(shù)據(jù)的采集、清洗、轉(zhuǎn)換和加載,把原始數(shù)據(jù)加載到Hadoop平臺,把加工后的數(shù)據(jù)加載分布式數(shù)據(jù)庫和主數(shù)據(jù)倉庫。
②Hadoop平臺:負責存儲海量的運維管理數(shù)據(jù),提供并行的計算和非結構化數(shù)據(jù)和處理能力,實現(xiàn)底成本的存儲和低時延、高并發(fā)的查詢能力。
③分布式數(shù)據(jù)庫:存儲加工、關聯(lián)、匯總后的業(yè)務數(shù)據(jù)、并提供分布式計算、支撐數(shù)據(jù)深度分析和數(shù)據(jù)挖掘能力,向主數(shù)據(jù)倉庫輸出KPI和高度匯總數(shù)據(jù)。
④主數(shù)據(jù)倉庫:存儲指標數(shù)據(jù)、KPI數(shù)據(jù)和高度匯總數(shù)據(jù)。
⑤數(shù)據(jù)采集存儲:將核心模型通過改造融入到現(xiàn)有主數(shù)據(jù)倉庫的核心模型中,將主數(shù)據(jù)倉庫中的歷史數(shù)據(jù)和清單數(shù)據(jù)遷移到低成本分布式數(shù)據(jù)庫。
⑥數(shù)據(jù)服務:大數(shù)據(jù)平臺的架構將數(shù)據(jù)分層管理,在各層提供數(shù)據(jù)開放接口,或建立ESB總線,根據(jù)應用需要,將數(shù)據(jù)服務注冊到ESB總線上供調(diào)用。
圖2 航標“大數(shù)據(jù)”平臺
航標大數(shù)據(jù)平臺就是要將零散的、分布于各類航標系統(tǒng)的數(shù)據(jù)通過大數(shù)據(jù)工具提取并清洗后進行分布式儲存,在大數(shù)據(jù)平臺上通過數(shù)據(jù)間的相互協(xié)同應用,發(fā)揮數(shù)據(jù)的最大效益,解決傳統(tǒng)方式不能解決的業(yè)務問題,粗略的統(tǒng)計,航標大數(shù)據(jù)可進行如下方面的應用。
3.1建立航標維護保養(yǎng)大數(shù)據(jù)分析機制
航標的維護保養(yǎng)是航標管理最為重要的環(huán)節(jié),通過航標大數(shù)據(jù)的應用,我們可以對航標設備使用數(shù)據(jù)、維護保養(yǎng)數(shù)據(jù)、狀態(tài)檢測數(shù)據(jù)、外部協(xié)同數(shù)據(jù)相關要素進行抽取、篩選、組合,將傳統(tǒng)管理經(jīng)驗轉(zhuǎn)換成科學的大數(shù)據(jù)算法。通過大數(shù)據(jù)計算形成對每座航標維護保養(yǎng)有實際指導意義的數(shù)據(jù)分析指標,實現(xiàn)對航標維護保養(yǎng)智能管理,改變現(xiàn)有片區(qū)化、集群化進行航標維護管理,讓航標維護保養(yǎng)可步入精確化、特定型的維護管理方式,維護保養(yǎng)周期大幅度拉長,維護保養(yǎng)成本將大幅度降低。
3.2建立航標設備質(zhì)量評估大數(shù)據(jù)分析機制
目前,各航標管理部門對航標產(chǎn)品品質(zhì)的把控一般是使用人員根據(jù)日常維護管理經(jīng)驗對航標設備的品質(zhì)進行評定,存在不客觀性。航標設備質(zhì)量最主要的表象就是航標效能的穩(wěn)定性,產(chǎn)品品質(zhì)越好,故障率越低,航標效能越穩(wěn)定。通過大數(shù)據(jù)的應用,我們可以提取航標數(shù)據(jù)中的航標故障信息,通過對不同品牌航標設備的故障類型、故障發(fā)生頻次、監(jiān)測數(shù)據(jù)穩(wěn)定性等系列與航標設備質(zhì)量有關的數(shù)據(jù)進行統(tǒng)計、比對分析,采用特定大數(shù)據(jù)算法,形成航標產(chǎn)品比對機制,對各類航標產(chǎn)品的質(zhì)量進行科學評定,為航標設備采購提供詳實的決策依據(jù)。
3.3建立航標效能大數(shù)據(jù)評估機制
各類航標效能評估主要方法是在專家咨詢的基礎上,將影響航行安全條件的各因素層次化,通過專家評分后,運用模糊綜合評判方法得到最終的評判結果。模糊綜合評判方法應用導致最后的風險評估結論往往籠統(tǒng)的,針對性不強。通過大數(shù)據(jù)的應用,可以最大程度地調(diào)取與航標效能因素有關的各類數(shù)據(jù),采用建立特定的數(shù)據(jù)模型,對航標系統(tǒng)的配布狀況、運行效率以及服務水平通過數(shù)據(jù)的統(tǒng)計、對比進行定量分析,有針對性地找出航標系統(tǒng)存在的風險因素以及性能指標的缺陷,通過數(shù)據(jù)分析結果給出最為合理的改進措施,提高航標的技術水平和可靠性。
3.4建立航標應急反應大數(shù)據(jù)決策機制
航標應急反應業(yè)務是針對突發(fā)性航標故障進行的航標應急搶修工作,需要航標管理者根據(jù)突發(fā)故障的類型人為組織資源,船艇、設備、人員狀態(tài)的不確定性會無形中影響應急反應的執(zhí)行效率。通過大數(shù)據(jù)的應用,可依據(jù)應急反應預案建立應急反應大數(shù)據(jù)模型,在應急反應發(fā)生時由系統(tǒng)根據(jù)應急反應類型去提取與應急反應相關的數(shù)據(jù),有針對性地匹配最佳的應急反應方案,選取與該應急事件所在環(huán)境最匹配的資源,各項子任務精確推送到執(zhí)行者的終端,所有執(zhí)行者按照指令迅速開展工作,應急反應全程實現(xiàn)科學決策、精確調(diào)度、自動推動、精準執(zhí)行。
“航標大數(shù)據(jù)”是在全球各行各業(yè)開展大數(shù)據(jù)應用的背景下依據(jù)航標管理及服務的需求提出的行業(yè)數(shù)據(jù)應用概念。筆者希望通過此文促進航標管理層重視大數(shù)據(jù)的應用,通過航標大數(shù)據(jù)機制的建立,帶動航標管理及服務技術的進步。