方 瑤,王 卓,胡 越,賈 軍
(黑龍江省地震局,黑龍江 哈爾濱 150090)
黑龍江省地震行業(yè)網主要依托黑龍江數字地震觀測網絡項目建設完成。2007 年正式開始運行,后通過黑龍江省地震局地震背景場探測項目、黑龍江省地震深井綜合觀測網工程項目等大型項目進行升級和擴充。隨著地震行業(yè)業(yè)務需求的不斷增加和網絡技術不斷發(fā)展更新,原通信網絡難以滿足新形勢下對通信網絡的低時延、高可靠的傳輸要求。如原來ADSL VPN技術目前已逐步被通信運營商淘汰,一旦出現故障,故障排除時間長達十幾小時甚至數天。原有的通信系統(tǒng)已不能很好的保障黑龍江省地震行業(yè)業(yè)務系統(tǒng)穩(wěn)定運行,更不能滿足業(yè)務系統(tǒng)發(fā)展所產生的新需求。2021 年黑龍江省地震局對本省行業(yè)網通信系統(tǒng)進行了全面的組網優(yōu)化改造。通過此次組網優(yōu)化改造,根據黑龍江省地震信息網絡的實際需要優(yōu)化了網絡架構,提升了網絡傳輸帶寬,減少了網絡運維難度,提高了通信系統(tǒng)的安全性和可靠性,使通信系統(tǒng)具有更好的可拓展性,為今后的黑龍江省地震信息網絡發(fā)展提供了有力的保障。
黑龍江省地震行業(yè)網通信網絡系統(tǒng)由省級區(qū)域中心匯聚點、各地震臺站信息節(jié)點、各地震行業(yè)接入點、網絡通信信道組成(圖1)。在原有網絡架構中數據傳輸分為兩種模式,一類是地震行業(yè)接入點業(yè)務數據通過不同種類的信道傳輸至省級匯聚點;另一類是地震行業(yè)接入點業(yè)務數據首先傳輸至臺站信息節(jié)點,在信息節(jié)點進行匯聚后傳輸至省級匯聚點。各類數據在省級匯聚點根據預設規(guī)則進行存儲或轉發(fā),分別通過骨干網信道和第二備用信道傳送至中國地震局臺網中心和廣東省數據備份中心。
圖1 黑龍江省地震行業(yè)網通信網絡系統(tǒng)拓撲圖Fig.1 Communication network system topology of Heilongjiang Earthquake network
黑龍江省地震行業(yè)網通信系統(tǒng)的數據傳輸信道類型主要包含MSTP 專線、SDH 專線、互聯網VPN 線路?;ヂ摼WVPN 主要使用ADSL VPN 線路、L2TP VPN 線路和GRE Over IPsec線路三種。根據各接入點的業(yè)務類型和重要程度分別接入省級區(qū)域中心的三臺路由器中。
對信道承載運營商進行整合,將原有的兩家運營商統(tǒng)一為一家,以便于臺站人員和省地震臺人員對網絡故障進行報修。將原有的MSTP 專線、SDH 專線、互聯網VPN 線路,大部分改為PTN 數據專線;僅保留基于4G 流量卡進行傳輸的L2TP 互聯網VPN,不再使用基于GRE Over IPsec 的互聯網VPN 線路。通過黑龍江省地震行業(yè)網通信系統(tǒng)組網優(yōu)化,減少使用信息節(jié)點匯聚模式的接入點數量。大部分接入點采用直連省局區(qū)域中心的傳輸模式。根據各接入點業(yè)務類型,對于承載測震、地球物理臺網、GNSS 業(yè)務的臺站接入點均采用直連省局區(qū)域中心的傳輸模式。僅保留具有臺站視頻會議等其他業(yè)務需求的縣級應急局接入點,采用信息節(jié)點匯聚的傳輸模式。
根據接入點承擔業(yè)務類型進行劃分(圖2),對于地震監(jiān)測中心站、有人值守的地震臺等承擔綜合業(yè)務的臺站接入點,通過點對點數據專線接入區(qū)域中心的匯聚路由器01;市級應急局、市級地震臺網、部分無人值守測震臺站等通過點對點數據專線接入區(qū)域中心匯聚路由器02;對于地球物理觀測臺站、深井地震臺、部分無人值守測震臺站、GNSS 觀測站、火山子臺等接入點,采用點對多點數據專線模式,通過2 條光纖線路采用鏈路聚合模式分別接入省級區(qū)域中心的核心路由器01 和02。
圖2 優(yōu)化后通信網絡拓撲圖Fig.2 Optimized communication network topology
原網絡架構中部分臺站是通過二級節(jié)點匯聚后接入省局區(qū)域中心。一般情況下,設立二級匯聚節(jié)點,需保證二級節(jié)點至上級節(jié)點使用雙運營商線路,并采用主備線路和設備以避免造成單點故障。但在黑龍江省地震行業(yè)網建設過程中因經費投資限制和物理環(huán)境原因,在二級節(jié)點建設過程中未實現雙運營商線路和備用設備配置。部分二級匯聚節(jié)點為無人值守臺站,在歷年來的運維過程中,經常發(fā)生二級節(jié)點因網絡、供電或設備故障等原因造成下聯接入點也同時中斷的情況。
因行業(yè)網信道費用有限,無法實現信息節(jié)點的雙運營商線路建設,所以組網優(yōu)化架構設計方案中,大幅減少接入了二級匯聚節(jié)點的數量。僅在網絡和機房物理環(huán)境條件較好的市級應急局內設計了二級匯聚節(jié)點。大部分接入點采用使用數據專線直傳省局匯聚中心的模式,避免因中間節(jié)點對數據傳輸造成影響。優(yōu)化后對于無人值守臺站和網絡維護力量較弱的接入點采用二層網絡結構,將網關直接設在省級區(qū)域中心,以減少本地網絡運維難度。對于地震監(jiān)測中心站、有人值守地震臺站和網絡維護力量較強的各類接入點采用三層網絡結構,設有臺站端接入路由器。這種網絡結構既方便臺站端進行網絡管理和故障排查,也為今后臺站端網絡拓展預留足夠的空間。
原網絡架構中,接入端線路類型有MSTP專線、SDH 專線、互聯網VPN 線路。
VPN(Virtual Private Network,虛擬專用網絡),是指利用公共通信基礎設施(通常為因特網) 構建的虛擬專用或私有網絡[1]?;ヂ摼WVPN是利用互聯網為基礎通過各種隧道、加密技術建立的虛擬專用網,VPN 線路的傳輸質量必然會受到承載它的互聯網影響。互聯網VPN 線路帶寬往往受用戶進行的其他網絡操作和互聯網帶寬影響,線路運行質量難以保障。
SDH(Synchronous Digital Hierarchy,同步數字體系) 技術具有安全性高、穩(wěn)定性強,具有強大的維護和管理能力[2],具備自愈環(huán)的網絡結構,具有較高的可靠性[3]。
MSTP(Multi-Service Transport Platform,多業(yè)務傳送平臺) 技術是指基于SDH 平臺,同時實現TDM、ATM、以太網等業(yè)務的接入、處理和傳送,提供統(tǒng)一網管的多業(yè)務傳送平臺[4]。相當于SDH 的升級版,通過SDH 擴展來實現對很多數據業(yè)務的支持。
PTN 技術即分組傳送網技術,支持多種以分組交換業(yè)務為基礎的點對點雙向連接通道,具有端到端的組網能力,能夠保護和恢復傳輸級別的業(yè)務,可以對點對點連接形成完整的操作、管理以及維護[2]。PTN 屬于新一代分組業(yè)務匯聚和接入技術,繼承了MSTP 的理念,融合了以太網和MPLS(多協議標簽交換)的優(yōu)點[5]。
此次組網優(yōu)化將大部分線路升級為PTN 數據專線,相比于原有的互聯網VPN 線路,網絡安全性和穩(wěn)定性得到大幅提升。相比MSTP 專線和SDH 專線,因MSTP 基于SDH 技術,SDH屬于時分復用技術,而PTN 采用分組傳送網技術,因此PTN 技術更加適合IP 業(yè)務傳輸。
此次網絡優(yōu)化改造也對目前各接入點帶寬進行了提升。組網優(yōu)化前,臺站接入點至區(qū)域中心信道帶寬為512K 和2M 兩類,其中512K線路占比近一半左右。在優(yōu)化方案設計初始,首先根據行業(yè)網內傳輸的數據業(yè)務類型選取各類型的代表臺站進行流量分析。
根據Cacti 流量監(jiān)控結果顯示,具有視頻會議的臺站點對帶寬需求最大,基本要2M 左右。通過組網優(yōu)化對黑龍江省地震行業(yè)網信道帶寬進行整體提升。升級后,除僅具有地球物理觀測業(yè)務的臺站接入點外,所有接入點都升級為4M 帶寬。因地球物理觀測業(yè)務傳輸數據量較小,傳輸實時性要求較低,僅承擔地球物理觀測業(yè)務的接入點帶寬設計為2M,約占總線路的15%。
優(yōu)化改造前,黑龍江省地震行業(yè)網中ADSL VPN 線路使用電話線和光纖接入[6]。ADSL 技術受自身的不對等性和最大上行速率不超過1Mbps等傳輸限制[7],已逐步被淘汰。組網優(yōu)化后,所有接入線路均通過光纜直連運營商上端基站,在用戶側通過小型PTN 轉換設備使用以太網接口為用戶提供網絡接入服務(圖3)。
圖3 臺站接入端連接拓撲圖Fig.3 Station access end connection topology
原網絡架構中部分臺站使用E1 接口,部分臺站使用以太網接口。E1 技術是一種基于歐洲標準的物理連接技術,分為BNC 和RJ45 的兩種物理接入方式[8]。原網絡架構中E1 兩種接口都有使用。BNC 接頭為擰接方式固定,優(yōu)點是運行穩(wěn)定性較好,缺點是無法拋開現有網絡環(huán)境單獨進行線路檢測。為使用RJ45 接頭,在網絡建設之初,使用了單獨的協議轉換器,在實際運行中常常因協議轉換故障造成網絡中斷,使用效果并不盡如人意。隨著網絡技術的發(fā)展,E1 接口目前已較少使用。通過此次組網優(yōu)化,省內行業(yè)網中不再使用E1 接口。區(qū)域中心端的接口采用“以太接口+光纖接口”模式,根據接入業(yè)務的需求和重要程度,約60%的接入端口采用以太網接口,約40%的接入端口采用光纖接口。
因E1 接口問題,區(qū)域中心一臺接入路由器遲遲無法進行更換,已成為網絡運行中的重大隱患。組網優(yōu)化后解決的網絡接口問題,也對相應的接入路由器進行更換,使區(qū)域中心端以太網接口數量由48 個增加至72 個,增加近1/3,光纖接口數量也得到了增加。
組網優(yōu)化前,承載重要業(yè)務臺站使用SDH專線接入。SDH 傳輸技術雖有支持網絡自愈的優(yōu)點,但卻不支持以太網協議,無法直接連接以太網接口,需要通過用戶方使用接口卡或利用接口轉換器進行對接口方式進行轉換。隨著通信傳輸技術的進步,SDH 傳輸技術逐漸落后,取而代之的是MSTP、PTN、OTN 等新一代的傳輸技術。MSTP、PTN、OTN 均支持以太網接口和光纖接口,用戶方根據需要進行選擇,更能滿足用戶方接口多樣性的需求。
原黑龍江省地震行業(yè)網中SDH 線路全部連接到省級區(qū)域中心一臺已運行超過15 年的接入路由器上。因端口問題,無法對接入路由器和臺站端路由器進行更換。在近年來運維過程中,因設備老化或協議轉換器故障曾造成多次網絡中斷。因SDH 線路不支持以太網協議,運維人員在進行故障排查時,無法直接對通信線路進行測試,需要通過筆記本連入臺站端路由設備后進行故障排查,不利于快速找到故障原因,對網絡運維人員造成極大困擾。通過組網優(yōu)化,傳輸線路升級為PTN 和MSTP 專線,解決了臺站端以太網口接入問題。
3.2.1 取消大部分互聯網VPN 信道
互聯網VPN 線路的安全性遠低于數據專線。ADSL VPN、GRE Over IPsec VPN、L2TP VPN 都屬于互聯網VPN 范圍。通過此次組網優(yōu)化,對于長期固定地址的接入點都采用PTN數據專線,僅保留如流動臺網等短時流動性較大的臨時接入點以互聯網VPN 方式進行數據傳輸。提高了整體接入的安全性。
3.2.2 匯聚端口中進行VLAN 劃分
針對采用對點多點傳輸模式的數據專線,在匯聚接口中為各臺站接入點劃分單獨的VLAN,每個接入的臺站點區(qū)域中心承載鏈路雖為一條,但通過VLAN 劃分為多條邏輯鏈路,每個臺站接入點形成自己單獨的邏輯上的廣播域,防止廣播風暴的產生,避免各臺站點造成相互影響。
區(qū)域中心端VLAN 配置如下:
3.2.3 安全策略的靈活添加
原網絡架構中使用ADSL VPN 方式接入的線路,也通過匯聚方式接入區(qū)域中心接入路由器的一個單獨端口。在匯聚端口中未針對各接入點劃分單獨VLAN,且下聯臺站端為不具備網絡功能的二層交換機,因此在原網絡架構中無法針對使用此類接入方式的臺站點單獨設置安全策略,無法滿足目前的網絡安全管理需要。此次組網優(yōu)化中,針對采用點對點傳輸模式的數據專線,均使用獨立以太網端口接入。針對采用點對多點傳輸模式的數據專線,在為各臺站接入點劃分單獨的VLAN,形成獨立的邏輯鏈路。通過這種組網結構,保證每個接入的臺站點均可以單獨添加安全策略,便于今后的安全管理。
3.3.1 運營商接入端采用雙線路雙路由模式接入
區(qū)域中心至運營商上聯基站采用雙線路雙路由模式上聯至兩個不同的運營商基站,經由市級傳輸網上聯至骨干傳輸網(圖4)。通過雙線路雙路由方式,可有效減少區(qū)域中心端因線路中斷出現單點故障的可能性。
圖4 區(qū)域中心端連接拓撲圖Fig.4 Regional central end connection topology
3.3.2 根據業(yè)務特點選擇傳輸模式
黑龍江省地震行業(yè)網中接入端業(yè)務類型主要包含測震業(yè)務、地球物理觀測、GNSS、政務辦公、視頻會議等幾類。不同業(yè)務類型都有各自的傳輸特點,如測震業(yè)務對傳輸的穩(wěn)定性和延時性要求很高、接入點位置較為偏僻;地球物理觀測業(yè)務數據傳輸量較小;GNSS 業(yè)務對傳輸的安全性要求較高;政務辦公業(yè)務和視頻會議業(yè)務只在監(jiān)測中心站和有人值守臺有應用;視頻會議業(yè)務占用傳輸帶寬較大等等。
在為各接入點選擇傳輸方式時,將接入點類型根據臺站實際性質劃分為監(jiān)測中心站、有人值守臺、GNSS 臺站、無人值守測震臺、地球物理觀測臺等。對于承擔業(yè)務相對重要的監(jiān)測中心站、有人值守臺、重要測震臺,采用點對點數據專線模式,根據所在地位置按照分散化原則分別接入2 臺路由,以避免設備產生單點故障后造成某一地理區(qū)域內大范圍網絡中斷。對于GNSS 臺站、一般測震臺、地球物理觀測臺,采用點對多點數據專線模式。所有的點對多點數據專線按照業(yè)務種類分別匯聚至4 個邏輯接口上。此種劃分方式既方便根據業(yè)務需要進行管理,也避免單一端口故障造成點對多點線路全部中斷的情況發(fā)生。在進行匯聚端口接入臺站選擇時,根據實際可用光纖接口情況和接入臺站數量綜合分析,使用3 個端口主要承擔測震業(yè)務,1 個端口承擔GNSS 和地球物理觀測業(yè)務。端口下具體測震臺的選擇也是按照分散化原則,避免鄰近臺站處于同一端口下。根據GNSS 和地球物理觀測業(yè)務特點,將這兩類業(yè)務納入1 個端口,盡量降低線路或端口故障對整體網絡運行造成的影響。
3.3.3 更換超期服役設備
因SDH 線路的E1 接口問題,區(qū)域中心一臺接入路由設備一直無法更換,已在網運行近15 年,是網絡運行安全的嚴重隱患。通過此次組網優(yōu)化,解決了線路與設備間接口問題,更換了新設備,降低了故障風險,提高了網絡運行的可靠性。
3.3.4 鏈路聚合技術的應用
鏈路聚合(Link Aggregation) 亦稱主干技術(Trunking) 或捆綁技術(Bonding),是把多條物理鏈路聚合在一起形成一條邏輯鏈路的技術[9]。當2 條聚合線路一條發(fā)生中斷時,另一條會立即啟用分擔它的流量,在上層看來整個鏈路沒有中斷。鏈路聚合的反應時間極短,當發(fā)生物理鏈路中斷時,鏈路聚合反應時間一般在在1ms 左右;當需要增加新的聚合鏈路時,鏈路聚合反應時間一般也在1s 以內。鏈路聚合分為靜態(tài)聚合和動態(tài)聚合兩種模式。靜態(tài)聚合模式具有不易受網絡環(huán)境影響的優(yōu)點,比較穩(wěn)定;動態(tài)聚合能夠根據對端和本端的信息調整端口選中狀態(tài),具有比較靈活的優(yōu)點。根據區(qū)域中心實際需求,采用了動態(tài)聚合的方式。針對4個邏輯接口,分別對核心路由器01 和02 上的4 個光纖接口,按照兩兩一組的方式進行匯聚。
接入路由器端配置如下:
如圖5 所示,接入路由器中4 個聚合組內成員端口均處于Selected 狀態(tài)。
圖5 核心路由器上鏈路聚合信息Fig.5 Link Aggregation Information of Core Router
近年來網絡技術發(fā)展迅速,組網設計更是要為將來的發(fā)展預留好足夠的空間。在原有網絡結構中因SDH 線路使用的E1 技術限制,專線帶寬最大為2Mbps[8];ADSL 線路上行最大速率為1Mbps[10]。這些都對臺站接入點帶寬的提升形成了瓶頸。通過此次組網優(yōu)化,區(qū)域中心端組網設備全部使用千兆接口,臺站接入端也都使用百兆以太網接口,能夠很好的滿足未來帶寬需求。根據PTN 傳輸技術原理,運營商可利用QoS 技術,根據用戶需要實現接入線路的平滑擴容,能對現有網絡的影響降到最低,具有更好的拓展性。
通過黑龍江省地震行業(yè)網通信系統(tǒng)組網優(yōu)化,提升了通信系統(tǒng)的安全性、可靠性和拓展性,為今后黑龍江省地震信息網絡發(fā)展提供了有力的保障。通過優(yōu)化研究,對整體網絡架構、通信傳輸模式、傳輸帶寬、傳輸設備和接口等方面進行了分析和研究,提出了具有針對性的優(yōu)化方案,希望為此類組網優(yōu)化項目提供一些借鑒和參考。