段美前，李 勝，鄧真平，劉曉云，謝 軍

(1.重慶大唐國際彭水水電開發(fā)有限公司，重慶 409600；2.重慶市科源能源技術發(fā)展有限公司，重慶 401147)

傳感器、物聯(lián)網(wǎng)、大數(shù)據(jù)等技術的發(fā)展為集成電力生產(chǎn)系統(tǒng)各環(huán)節(jié)多源數(shù)據(jù)的采集、傳輸、存儲提供了技術支撐，并在電力系統(tǒng)設備運維檢修、故障分析及預警等方面發(fā)揮了重要作用[1-3]。在發(fā)電領域，數(shù)據(jù)依據(jù)其類型總體可劃分為3類[4-6]：第一類是機組、輔機等設備在運行過程中通過計算機監(jiān)控系統(tǒng)、機組狀態(tài)監(jiān)測系統(tǒng)等采集的時序數(shù)據(jù)，數(shù)據(jù)時效性較高；第二類是涵蓋管理、經(jīng)營、銷售、財務等主題域的結構化數(shù)據(jù)，通常采用結構化數(shù)據(jù)庫進行存儲和管理；第三類是非結構化數(shù)據(jù)，例如可攜帶文檔格式(portable document format，PDF)文件、電子表格，以及各類音視頻文件、圖片等。

在應用系統(tǒng)的數(shù)據(jù)庫選型上，一般根據(jù)數(shù)據(jù)存儲類型及對數(shù)據(jù)庫的讀寫性能、拓展性、穩(wěn)定性等方面的需求，采用Oracle、MySQL、SQL Server等主流數(shù)據(jù)庫。該類數(shù)據(jù)庫對結構化數(shù)據(jù)存儲具有比較好的操作性，但在面對海量數(shù)據(jù)時，也存在擴展性、高并發(fā)讀寫性能不足等問題。Hadoop、HBase、Hive等[7-8]大數(shù)據(jù)存儲技術的發(fā)展和應用，為解決傳統(tǒng)業(yè)務架構存在的數(shù)據(jù)存儲能力不足、數(shù)據(jù)處理能力低下等問題提供了解決途徑，也為全面提高企業(yè)數(shù)據(jù)整合、治理能力，發(fā)揮企業(yè)數(shù)據(jù)資產(chǎn)價值奠定了基礎[9-11]。然而，在具體實踐層面，采用何種數(shù)據(jù)采集和存儲架構才能滿足生產(chǎn)和管理的需要，還需要根據(jù)業(yè)務建設需求和未來數(shù)據(jù)規(guī)劃進行合理選型?；诖?，本文結合彭水水電公司大數(shù)據(jù)平臺的建設，對數(shù)據(jù)采集和存儲系統(tǒng)的設計進行探討。

1 水電大數(shù)據(jù)采集與存儲需求

1.1 數(shù)據(jù)采集的完備性需求

隨著電力企業(yè)信息化建設的不斷推進，各類服務于安全生產(chǎn)、經(jīng)營管理、優(yōu)化調(diào)度等業(yè)務的應用系統(tǒng)推陳出新[12-13]。此類信息系統(tǒng)不僅要求業(yè)務流程貼合管理需要，對支撐其運行的數(shù)據(jù)來源也提出了更高的要求，要求數(shù)據(jù)統(tǒng)一來源，全面涵蓋設備、水情、大壩、地災等相關數(shù)據(jù)主題。目前，水電生產(chǎn)領域中，生產(chǎn)管理系統(tǒng)、水調(diào)自動化系統(tǒng)、大壩監(jiān)測系統(tǒng)、安全管控系統(tǒng)、地災監(jiān)測系統(tǒng)、設備狀態(tài)監(jiān)測與預警系統(tǒng)、計算機監(jiān)控系統(tǒng)、機組狀態(tài)監(jiān)測系統(tǒng)等存在海量的結構化數(shù)據(jù)和實時數(shù)據(jù)，為應急指揮中心系統(tǒng)、智慧經(jīng)營分析系統(tǒng)、全息展示平臺等智慧電廠業(yè)務系統(tǒng)的建設提供了基礎的數(shù)據(jù)來源。

因此，為實現(xiàn)設備運行監(jiān)測數(shù)據(jù)和生產(chǎn)管理數(shù)據(jù)的完備性采集，需建立一套完備的數(shù)據(jù)采集系統(tǒng)，匯集生產(chǎn)管理、機組在線監(jiān)測、大壩監(jiān)測、水情水調(diào)、地災預警等各類型數(shù)據(jù)。以數(shù)據(jù)應用為導向，建設統(tǒng)一的數(shù)據(jù)管理規(guī)范，為數(shù)據(jù)共享和挖掘應用奠定基礎。

1.2 數(shù)據(jù)存取的高效性需求

隨著彭水水電公司智慧電廠試點建設的不斷推進，高效運營管理與高質量發(fā)展的要求不斷提高，電廠對數(shù)據(jù)用于分析和決策支持的時效性要求也越來越高。數(shù)據(jù)存儲層作為大數(shù)據(jù)平臺的核心層級，目的是有效管理全量數(shù)據(jù)，實現(xiàn)統(tǒng)一存儲、高效訪問。特別是分布式大數(shù)據(jù)存儲技術所具備的數(shù)據(jù)管理、彈性擴展、存儲優(yōu)化能力，為實現(xiàn)數(shù)據(jù)的高效存取提供了有力的支撐，能夠滿足智慧電廠建設中的智慧經(jīng)營、智慧安全、智慧運行、智慧檢修等業(yè)務對海量數(shù)據(jù)的快速響應需求，實現(xiàn)了服務電廠生產(chǎn)管理的海量、多源、高維度數(shù)據(jù)的采集、存儲，并為后續(xù)數(shù)據(jù)服務提供底座支撐能力。

1.3 數(shù)據(jù)存儲的可擴展需求

水電企業(yè)對數(shù)據(jù)的匯聚需求涵蓋時序數(shù)據(jù)、結構化數(shù)據(jù)等不同類型數(shù)據(jù)。傳統(tǒng)的數(shù)據(jù)存儲架構面對海量數(shù)據(jù)的存儲和擴展需求，存在支持數(shù)據(jù)類型單一、擴展性差、數(shù)據(jù)處理效率低下等問題，無法滿足全類型數(shù)據(jù)高速增長的存儲要求，也難以滿足未來海量數(shù)據(jù)的彈性擴展需求[14-15]。因此，針對數(shù)據(jù)存儲資源的可擴展需求，平臺需要提供與之對應的資源擴展與釋放功能，并能根據(jù)負載情況對計算和存儲資源自動分配和管理，實現(xiàn)彈性存儲，在存儲動態(tài)擴展的同時保持數(shù)據(jù)的分布均衡，在計算資源動態(tài)擴展的同時保證計算的負載均衡。因此在數(shù)據(jù)存儲層面，需要充分考慮采用分布式文件存儲系統(tǒng)、分布式數(shù)據(jù)庫等存儲技術，來實現(xiàn)數(shù)據(jù)的彈性存儲，以應對海量數(shù)據(jù)的增量存儲需求。

1.4 數(shù)據(jù)存取的安全性需求

場站到數(shù)據(jù)平臺之間的數(shù)據(jù)傳輸，主要基于IEC 104、TCP等協(xié)議，數(shù)據(jù)在平臺端通過消息隊列、ETL方式入庫存儲。為防止數(shù)據(jù)在采集、傳輸、存儲、共享過程被非法訪問，采集和存儲系統(tǒng)應嚴格遵從電力安全防護規(guī)定，具備針對信息內(nèi)外網(wǎng)的接入控制、網(wǎng)絡地址安全、網(wǎng)絡審計、網(wǎng)絡防攻擊、漏洞檢測、網(wǎng)絡隔離等能力。同時，系統(tǒng)需要根據(jù)不同的數(shù)據(jù)類型及業(yè)務部署情況，采用有效的防護手段確保數(shù)據(jù)傳輸安全。在獲取數(shù)據(jù)服務時，系統(tǒng)需根據(jù)數(shù)據(jù)敏感程度的不同，采取明示用途、數(shù)據(jù)加密、訪問控制、業(yè)務隔離、接入認證、數(shù)據(jù)脫敏等多種防護措施，這些措施覆蓋數(shù)據(jù)收集、傳輸、存儲、處理等在內(nèi)的全生命周期的各個環(huán)節(jié)。

2 水電大數(shù)據(jù)采集與存儲系統(tǒng)設計

2.1 采集與存儲系統(tǒng)總體架構

實時數(shù)據(jù)主要用于實時監(jiān)屏、實時計算和高級模型訓練，生產(chǎn)管理類數(shù)據(jù)主要用于生產(chǎn)管理類的前端應用和輔助實時數(shù)據(jù)做高級應用。其余的非結構化數(shù)據(jù)主要包括文檔、圖片、音視頻等，主要供全文檢索使用。因此，在功能設計上需考慮不同類型數(shù)據(jù)接入和存儲的需求。水電數(shù)據(jù)采集和存儲系統(tǒng)總體架構如圖1所示。

圖1 水電大數(shù)據(jù)采集與存儲系統(tǒng)總體架構

在數(shù)據(jù)采集層，水情水調(diào)系統(tǒng)、大壩監(jiān)測系統(tǒng)等結構化系統(tǒng)數(shù)據(jù)，計算機監(jiān)控系統(tǒng)、機組狀態(tài)監(jiān)測系統(tǒng)等時序系統(tǒng)數(shù)據(jù)，以及文檔等非結構化數(shù)據(jù)經(jīng)數(shù)據(jù)集成采集工具進入數(shù)據(jù)存儲層。數(shù)據(jù)建模模塊提供基本通信結構(basic communication structure，BCS)編碼、設備KKS編碼等維護功能，以設備樹形式直觀展示全電廠的設備信息，包括設備的工作票、操作票、缺陷、實時測點值等數(shù)據(jù)。數(shù)據(jù)質量模塊具備數(shù)據(jù)質量校驗及依照特定策略對校驗結果進行處理的功能，以保證數(shù)據(jù)的一致性、完整性、冗余性、合理性及合規(guī)性。元數(shù)據(jù)管理模塊在統(tǒng)一數(shù)據(jù)視圖上進行全領域的指標一致性分析，可對關鍵業(yè)務的監(jiān)控規(guī)則進行設置和管理，是數(shù)據(jù)質量管理的基礎。在采集和存儲系統(tǒng)中，元數(shù)據(jù)被劃分為結構化數(shù)據(jù)元數(shù)據(jù)、非結構化數(shù)據(jù)元數(shù)據(jù)、實時數(shù)據(jù)元數(shù)據(jù)3類。

2.2 采集與存儲系統(tǒng)數(shù)據(jù)架構視圖

數(shù)據(jù)存儲層包括分布式文件系統(tǒng)HDFS、列式數(shù)據(jù)庫HBase、數(shù)據(jù)倉庫GreenPlum等，共同支撐大數(shù)據(jù)平臺海量歷史數(shù)據(jù)存儲。通過各類數(shù)據(jù)庫提供的服務，可實現(xiàn)大數(shù)據(jù)平臺及應用的數(shù)據(jù)采集、計算與存儲。其中，水調(diào)自動化系統(tǒng)、大壩監(jiān)測系統(tǒng)、生產(chǎn)管理信息系統(tǒng)、地災監(jiān)測與風險預警系統(tǒng)、設備遠程監(jiān)測與故障預警系統(tǒng)、安全管控中心系統(tǒng)的數(shù)據(jù)在源端分別存于Oracle、MySQL、SQL Server等關系型數(shù)據(jù)庫中，數(shù)據(jù)平臺的ETL工具將數(shù)據(jù)采集后存放到GreenPlum數(shù)據(jù)倉庫。技術文檔、管理文檔等非結構化數(shù)據(jù)經(jīng)文件采集工具抽取后在MongoDB和HDFS中進行存儲。機組狀態(tài)監(jiān)測系統(tǒng)和計算機監(jiān)控系統(tǒng)的數(shù)據(jù)通過TCP或IEC104協(xié)議傳送到前置機，然后經(jīng)過中心端防火墻進入大數(shù)據(jù)平臺Kafka數(shù)據(jù)采集隊列。水電大數(shù)據(jù)數(shù)據(jù)采集與存儲系統(tǒng)的數(shù)據(jù)架構視圖如圖2所示。

圖2 水電大數(shù)據(jù)采集與存儲系統(tǒng)數(shù)據(jù)架構視圖

為兼顧不同業(yè)務場景中海量時序數(shù)據(jù)的存儲和查詢效率，時序數(shù)據(jù)按照時間維度劃分為熱數(shù)據(jù)庫、近線數(shù)據(jù)庫、歷史數(shù)據(jù)庫，以滿足不同類型業(yè)務應用對數(shù)據(jù)的訪問需求。其中，熱數(shù)據(jù)庫采用Redis，僅保存時序數(shù)據(jù)最新數(shù)據(jù)，直接存儲時序測點ID、測點值及測點時間。近線數(shù)據(jù)庫采用InfluxDB數(shù)據(jù)庫，存儲最近3個月的時序數(shù)據(jù)。在構建采集任務時，在InfluxDB數(shù)據(jù)庫中創(chuàng)建相應的庫表，庫表與場站維度之間的關系為一對一關系。歷史數(shù)據(jù)庫采用HBase數(shù)據(jù)倉庫保存時序數(shù)據(jù)的全量數(shù)據(jù)，并按照場站維度分表存儲。

2.3 采集與存儲系統(tǒng)技術架構

水電大數(shù)據(jù)采集和存儲系統(tǒng)在技術架構上針對實時數(shù)據(jù)、結構化數(shù)據(jù)、非結構化數(shù)據(jù)采集的差異性，使用不同的采集技術。針對計算機監(jiān)控、機組狀態(tài)監(jiān)測等系統(tǒng)的實時數(shù)據(jù)，消息隊列采用Kafka進行支持，時序數(shù)據(jù)采集控制引擎采用Spark Stream進行支持，實現(xiàn)時序數(shù)據(jù)的采集傳輸，并按照存儲時間需求接入到平臺對應的時序庫中。由于設備種類和屬性繁多，為了滿足上層應用需求，實時數(shù)據(jù)庫存儲設備測點信息時要符合BCS標準，建立時序測點和BCS編碼之間的映射關系。對于日志文本等數(shù)據(jù)文件，文檔采集引擎采用FTP、Quartz支持。對于傳統(tǒng)結構化數(shù)據(jù)，通過結構化采集引擎Quartz、Spark實現(xiàn)平臺對該類型數(shù)據(jù)的采集。水電大數(shù)據(jù)采集與存儲系統(tǒng)技術架構如圖3所示。

圖3 水電大數(shù)據(jù)采集與存儲系統(tǒng)技術架構

大數(shù)據(jù)平臺針對不同類型的數(shù)據(jù)提供多樣化的存儲方式，平臺部署了高效的數(shù)據(jù)緩存組件Redis，該組件是一個支持多種數(shù)據(jù)類型的Key-Value，即鍵值對型的數(shù)據(jù)存儲系統(tǒng)，具有開源、高性能、多種開發(fā)語言支持的優(yōu)勢，提供基于計算機內(nèi)存的數(shù)據(jù)高速緩存功能。時序數(shù)據(jù)的存儲采用InfluxDB和HBase進行支持。針對非結構化數(shù)據(jù)，平臺底層基于Hadoop技術構建，將數(shù)據(jù)以文件的形式存儲于HDFS分布式文件系統(tǒng)之上。小文件對象存儲引擎采用MongoDB進行支持。結構化數(shù)據(jù)倉庫采用Greenplum，利用大規(guī)模并行處理(massively parallel processing，MPP)技術進行海量數(shù)據(jù)管理，支持同步高并發(fā)查詢。安全平臺保障在以數(shù)據(jù)為核心進行共享、存取、交換等過程中數(shù)據(jù)的安全性。

3 系統(tǒng)應用成效

依托彭水水電公司大數(shù)據(jù)平臺試點建設，數(shù)據(jù)采集與存儲系統(tǒng)累計創(chuàng)建結構化數(shù)據(jù)采集任務和時序數(shù)據(jù)采集任務50余個，完成了對安全生產(chǎn)管理、大壩監(jiān)測、計算機監(jiān)控、機組狀態(tài)監(jiān)測等核心業(yè)務系統(tǒng)數(shù)據(jù)的接入、存儲，累計接入數(shù)據(jù)總量達到1.5 TB。在數(shù)據(jù)采集和治理的基礎上，平臺通過統(tǒng)一的數(shù)據(jù)共享服務接口和數(shù)據(jù)權限管理，為全息展示平臺、應急指揮系統(tǒng)、智慧經(jīng)營分析系統(tǒng)、生產(chǎn)輔助決策系統(tǒng)等業(yè)務系統(tǒng)提供數(shù)據(jù)共享服務，累計為業(yè)務應用創(chuàng)建數(shù)據(jù)服務指標(表)200余個，累計響應結構化數(shù)據(jù)請求和時序數(shù)據(jù)請求服務1 200萬余次，較好地發(fā)揮了數(shù)據(jù)“采、存、管、用”一體化應用價值。

4 結語

大數(shù)據(jù)平臺作為智慧電廠建設的核心組成部分，在匯聚海量、多源、異構數(shù)據(jù)方面發(fā)揮了重要作用。本文圍繞大數(shù)據(jù)平臺數(shù)據(jù)采集和存儲的需求，對采集和存儲系統(tǒng)的總體架構、數(shù)據(jù)架構、技術架構進行了分析，也在實際建設中取得了一定的建設成效。未來還需要在業(yè)務應用和工程實踐中，進一步對數(shù)據(jù)接入系統(tǒng)進行優(yōu)化，以提高數(shù)據(jù)接入的可靠性，以及數(shù)據(jù)存取的高效性。