施海鋒,潘 奇
(南京電子技術(shù)研究所, 南京210039)
大型軍用電子裝備內(nèi)的通信網(wǎng)絡(luò)是一個復(fù)雜多樣的異構(gòu)系統(tǒng),包含了以太網(wǎng)TCP/IP協(xié)議、RapidIO協(xié)議、光纖通道協(xié)議等,這些網(wǎng)絡(luò)形式各具特點,是一種共存發(fā)展的關(guān)系。不同的總線協(xié)議在傳輸帶寬、拓撲結(jié)構(gòu)、單元格式和大小、流控機制等都不相同,并定義了各自的尋址方式和尋址能力。不同總線之間的交聯(lián)需要各種網(wǎng)關(guān),不僅增加系統(tǒng)的復(fù)雜性,還降低了系統(tǒng)的可靠性和實時性。為取得好的效費比,大型電子系統(tǒng)中趨向于使用單一類型的統(tǒng)一網(wǎng)絡(luò)技術(shù)來完成網(wǎng)絡(luò)間的融合,在異構(gòu)的網(wǎng)絡(luò)環(huán)境中提供統(tǒng)一的業(yè)務(wù),并且保留系統(tǒng)異構(gòu)的特征[1]。
某軍用電子裝備中的通信網(wǎng)絡(luò)涉及了信號處理機、數(shù)據(jù)處理機、顯示計算機、預(yù)處理機與控制器等若干子系統(tǒng),各子系統(tǒng)因硬件平臺不同而采用了不同的通信總線協(xié)議,比如信號處理機采用了RapidIO接口;顯示計算機使用以太網(wǎng)接口;控制器使用了光纖通道;預(yù)處理機則使用了基于RocketIO的用戶自定義協(xié)議等。如前所述,為保障各子系統(tǒng)之間的高效互聯(lián),選擇合適的統(tǒng)一網(wǎng)絡(luò)構(gòu)建融合網(wǎng)絡(luò)是非常必要的。
統(tǒng)一網(wǎng)絡(luò)應(yīng)適用局域網(wǎng)的網(wǎng)絡(luò)標(biāo)準(zhǔn),一般性要求包括:高帶寬、低延遲、可伸縮性、可靠性、實時性與確定性。對于軍用系統(tǒng)來說,還必須技術(shù)成熟并可滿足軍用苛刻環(huán)境要求。
光纖通道(Fiber Channel,F(xiàn)C)是美國國家標(biāo)準(zhǔn)委員會(ANSI)標(biāo)準(zhǔn),同時具備基于通道的確定性高速傳輸和基于網(wǎng)絡(luò)的路由傳輸功能,上層協(xié)議豐富,尤其適合子系統(tǒng)間的高速信息傳輸,已成為分布式、多協(xié)議高速局域網(wǎng)絡(luò)的最佳選擇之一。FC提供了一組可在航空電子環(huán)境中應(yīng)用的協(xié)議子集,即FC-AE(Fiber Channel-Avionic Environment),它能為復(fù)雜軍用綜合電子信息系統(tǒng)提供高可靠性、高容錯性和確定的行為,以支持實時的控制和響應(yīng)以及大數(shù)據(jù)量的傳輸[2]。其作為一項新技術(shù)首先應(yīng)用在美國F35飛機中,管理系統(tǒng)、綜合射頻和綜合核心處理機等3個關(guān)鍵互連領(lǐng)域中實現(xiàn)了整個航電系統(tǒng)的單一網(wǎng)絡(luò)。光纖通道具有相對千兆乃至萬兆以太網(wǎng)更高的傳輸速率,對于軍用電子裝備的中等規(guī)模通信網(wǎng)絡(luò)而言,光纖通道更全面地適應(yīng)了統(tǒng)一網(wǎng)絡(luò)的廣泛性要求。因此,在該軍用電子裝備中基于光纖通道(運行FC-AE子集)開展多協(xié)議網(wǎng)絡(luò)的融合設(shè)計,其抽象模型如圖1所示。
圖1 多協(xié)議網(wǎng)絡(luò)融合抽象模型
開放式系統(tǒng)互聯(lián)模型(OSI)是國際標(biāo)準(zhǔn)化組織(IOS)提出的一個概念性框架,是不同制造商的設(shè)備和應(yīng)用軟件在網(wǎng)絡(luò)中進行通信的標(biāo)準(zhǔn)。它的最大優(yōu)點是將服務(wù)、接口和協(xié)議這3個概念明確地區(qū)分開,通過層次化的的結(jié)構(gòu)模型使不同系統(tǒng)、不同網(wǎng)絡(luò)之間實現(xiàn)可靠的通信。OSI共分為7層:應(yīng)用層、表示層、會話層、傳輸層、網(wǎng)絡(luò)層、數(shù)據(jù)鏈路層和物理層。目前使用的大多數(shù)網(wǎng)絡(luò)通信協(xié)議都是基于OSI模型,但會根據(jù)自身協(xié)議特點做一定的適應(yīng)性改進。
TCP/IP協(xié)議數(shù)據(jù)的傳輸基于4層結(jié)構(gòu):應(yīng)用層、傳輸層、網(wǎng)際層和網(wǎng)絡(luò)接口層。每層協(xié)議都相對獨立,把數(shù)據(jù)分為報頭和數(shù)據(jù)包,報頭包含與本層相關(guān)的控制信息,數(shù)據(jù)包是從上一層傳下來的數(shù)據(jù),每一層把上一層的數(shù)據(jù)作為數(shù)據(jù)包,再加上本層的控制信息,交給下一層處理。TCP/IP協(xié)議是Internet協(xié)議族,包含上百個各種功能的協(xié)議。目前通用的協(xié)議解析方法是由處理器軟件完成,針對特殊應(yīng)用場合的簡化協(xié)議可以由硬件完成。
FC功能層次如圖2所示。
圖2 FC協(xié)議分層
FC-0:此層描述物理接口,它包括傳送介質(zhì)、發(fā)射機和接收機及其接口,規(guī)定了收發(fā)器和各種物理媒介的光電參數(shù)。
FC-1:編碼和同步層,采用8/10 bit編碼。部分具有特殊特性的沒有使用的編碼點被用來組成特殊字符,以形成信令和幀描述的有序集。
FC-2:此層是信號傳輸協(xié)議層,它規(guī)定了數(shù)據(jù)塊端到端的傳輸機制。FC-2提供不同類型的服務(wù)功能,要傳輸?shù)臄?shù)據(jù)應(yīng)由FC-4層根據(jù)需要選擇并規(guī)定,對FC-2層是透明的。
FC-3:此層為一些高級特性提供了所需要的通用服務(wù)。
FC-4:此層是FC協(xié)議的最高層,它規(guī)定了上層協(xié)議到FC協(xié)議的映射,不包括上層協(xié)議。
當(dāng)前映射的協(xié)議有:小型計算機系統(tǒng)接口(SCSI)、高性能并行接口(HIPPI)、INTERNET協(xié)議(IP)、IEEE802.2、單字節(jié)命令碼集映射(SBCCS)等。
RapidIO互連定義包含兩類技術(shù):面向高性能微處理器及系統(tǒng)互連的ParallelRapidIO接口;面向串行背板、DSP和相關(guān)串行控制平面應(yīng)用的SerialRapidIO接口。串行RapidIO更符合互連技術(shù)的發(fā)展趨勢,應(yīng)用更為廣泛,本文所涉及的RapidIO專指串行RapidIO(sRIO)。
RapidIO采用3層分級體系結(jié)構(gòu),即邏輯層、傳輸層和物理層構(gòu)成,如圖3所示[3]。邏輯層規(guī)范位于最高層,定義了協(xié)議參數(shù)和包的格式,為端點器件發(fā)起和完成事物提供必要的信息。傳輸層規(guī)范位于中間層,定義RapidIO地址空間和在端點器件間傳輸所需的路由信息。物理層規(guī)范在整個分層結(jié)構(gòu)的底層,包括器件接口的細節(jié),如包傳輸機制、流量控制、電氣特性和低級錯誤管理等。
圖3 RapidIO協(xié)議分層
FC協(xié)議與RapidIO協(xié)議標(biāo)準(zhǔn)體系的層次化結(jié)構(gòu)簡單,均可以實現(xiàn)基于硬件的高性能可靠數(shù)據(jù)傳輸。XILINX等公司推出了RapidIO IP和FC IP,可基于大規(guī)模的可編程門陣列(FPGA)完成FC與RapidIO的協(xié)議解析,具備高效、穩(wěn)定的優(yōu)點。
為實現(xiàn)基于FC的可承載RapidIO、TCP/IP等協(xié)議的多網(wǎng)絡(luò)融合,主要需解決兩個問題:
(1)如何保證系統(tǒng)的異構(gòu)性,在不破壞各子網(wǎng)協(xié)議的同時,有效地跨網(wǎng)絡(luò)尋址。
(2)如何實現(xiàn)TCP/IP、RapidIO、FC-AE不同協(xié)議之間的互相承載與高效傳輸。
在遵循和保留FC、RapidIO、以太網(wǎng)等子網(wǎng)協(xié)議的前提下,通過全局的統(tǒng)一命名、統(tǒng)一地址映射和地址解析服務(wù)可實現(xiàn)跨網(wǎng)絡(luò)互聯(lián)。系統(tǒng)中的所有端口均在FC主干網(wǎng)絡(luò)里獲得唯一的名稱,并同時注冊到FC、RapidIO、以太網(wǎng)三個網(wǎng)絡(luò)中。所有的地址映射信息組成一個地址映射表,具體形式如表1所示。映射表的大小受限于硬件的存儲空間,可達到上萬個端口,但映射表的過大,將導(dǎo)致FPGA邏輯命名尋址時的速度下降,從而影響協(xié)議轉(zhuǎn)換的實時性。因此,可將實時性要求較高的端口進行歸類,將其存儲在指定的空間,方便FPGA邏輯以最快的速度查詢。
表1 地址映射表
橋接模塊是跨網(wǎng)絡(luò)尋址與不同協(xié)議轉(zhuǎn)換的執(zhí)行單元,實現(xiàn)了不同網(wǎng)絡(luò)之間的分離,避免了不同網(wǎng)絡(luò)之間可能出現(xiàn)的管理權(quán)、安全性、以及性能的問題。橋接模塊作為一種網(wǎng)關(guān)設(shè)備屏蔽了其他協(xié)議的可見性,各子網(wǎng)在運行過程中不需要關(guān)心其他子網(wǎng)的拓撲結(jié)構(gòu)及運行情況。
橋接模塊針對不同協(xié)議的特點,通過硬件IP核加速技術(shù)和軟硬件協(xié)同設(shè)計技術(shù)高效實現(xiàn)各子網(wǎng)之間的無縫橋接與協(xié)議轉(zhuǎn)換。如圖4所示,該模塊主要包括大規(guī)模FPGA、PowerPC處理器及以太網(wǎng)接口等組成,最多可滿足8路FC-AE與4路千兆以太網(wǎng)、2路X4 RapidIO、若干路RocketIO接口等的協(xié)議轉(zhuǎn)換,具備很強的通用性。FPGA采用了XILINX公司的Virtex-7系列,F(xiàn)C、RapidIO、RocketIO、以及 FPGA 與 PowerPC之間的X8 PCI-e接口等協(xié)議解析功能單元均以IP核的形式集成在FPGA中;PowerPC選用了Freescale公司MPC8640D高性能處理器,主要完成以太網(wǎng)TCP/IP協(xié)議解析,采用了VxWorks實時操作系統(tǒng)保證協(xié)議轉(zhuǎn)換的實時性。地址映射表以文件形式固化在PowerPC的程序存儲區(qū)中,模塊初始化階段,PowerPC讀取該文件并將加載到FPGA中;運行過程中PowerPC也可根據(jù)用戶要求對地址映射表進行維護。映射地址的查詢完全由FPGA里的數(shù)據(jù)流控制器硬件完成。
圖4 橋接模塊原理框圖
橋接模塊中的各種協(xié)議的實測最大傳輸帶寬如下:X4 sRIO≥1.1 GB/s;FC≥380 MB/s;1G Ethernet≥380 Mb/s;RocketIO協(xié)議簡單,實際有效帶寬接近理論傳輸速率的80%。因此,各總線的帶寬是不完全匹配的。為了實現(xiàn)預(yù)期的服務(wù)性能如數(shù)據(jù)包丟失率或數(shù)據(jù)包傳輸時延等,建立一套有效的流控機制是非常必要的,該工作主要由數(shù)據(jù)流控制器完成,其簡要原理如圖5所示,基本工作原理是通過接收方的反饋信息來調(diào)節(jié)發(fā)送方的發(fā)送能力。
圖5 數(shù)據(jù)流控制器原理框圖
數(shù)據(jù)流控制器由不同位寬的FIFO、流量控制器、地址寄存器接口等組成。FIFO在進行數(shù)據(jù)緩存的同時也實現(xiàn)了不同接口之間的位寬匹配;FC IP核、RapidIO IP核接收時均按照各自規(guī)范的標(biāo)準(zhǔn)幀長度進行數(shù)據(jù)幀封裝;RocketIO則由用戶設(shè)置數(shù)據(jù)幀長度。流量控制器采用基于信用的帶有緩沖池的流控機制[4],發(fā)送方只有在得知接收方有可用信用且FIFO有可用的緩沖空間時才發(fā)送報文。當(dāng)接收方?jīng)]有可用信用或FIFO的可用長度小于預(yù)設(shè)值時立即產(chǎn)生一個脈沖信號并輸出,發(fā)送方據(jù)此可以知道下游的阻塞情況,從而可以作出更好的報文輸出選擇。對于零碎的數(shù)據(jù),流量控制器采用延遲等待的方法,即在規(guī)定的時間內(nèi)如果FIFO里緩存的數(shù)據(jù)長度未達到規(guī)定的幀長度,則將現(xiàn)有數(shù)據(jù)直接進行幀封裝,同時將幀長度封裝在數(shù)據(jù)幀里帶給接收端口。延遲等待時間可根據(jù)應(yīng)用需求自由設(shè)置。
網(wǎng)絡(luò)管理目的是使網(wǎng)絡(luò)中的資源得到更加有效的利用[5]?;贔C的融合網(wǎng)的網(wǎng)絡(luò)角色多元,設(shè)備量大,應(yīng)用場景復(fù)雜,尤其面向軍事應(yīng)用,網(wǎng)絡(luò)的管理與維護更加至關(guān)重要,它的質(zhì)量將會直接影響網(wǎng)絡(luò)運行的效率。根據(jù)該融合網(wǎng)絡(luò)的特點,網(wǎng)絡(luò)管理被劃分成3個功能,即網(wǎng)絡(luò)配置管理、網(wǎng)絡(luò)性能管理、網(wǎng)絡(luò)安全與故障管理。
(1)網(wǎng)絡(luò)配置管理
融合網(wǎng)絡(luò)系統(tǒng)中包含多種類型的交換機與大量的橋接模塊,應(yīng)用涉及到多家廠商的設(shè)備,用戶的增減、設(shè)備的維修或更新均需要調(diào)整網(wǎng)絡(luò)的配置,因此需要網(wǎng)絡(luò)配置管理系統(tǒng)來支持這種調(diào)整和改變。網(wǎng)絡(luò)配置管理主要包含F(xiàn)C交換機群的拓撲與路由配置、橋接模塊橋接表配置、配置操作過程的記錄統(tǒng)計等。本系統(tǒng)采用FC帶內(nèi)配置方法,即通過FC鏈路進行FC交換機與橋接模塊的配置,而不需要額外的接口。軍用裝備一般是預(yù)先定義拓撲并配置相對固定的,F(xiàn)C交換機的拓撲配置完全根據(jù)航空電子環(huán)境光纖通道設(shè)備快速拓撲初始化規(guī)范進行。FC交換路由與橋接表的配置在FC標(biāo)準(zhǔn)協(xié)議中沒有明確的規(guī)定,可以依據(jù)FC_LS_1.62規(guī)范中的擴展鏈路服務(wù)包格式,自定義路由配置包以及相關(guān)的指令。此時,F(xiàn)C鏈路中的數(shù)據(jù)除了業(yè)務(wù)報文幀,還有配置信息幀,這就需要FC交換機與橋接模塊能有效的識別幀信息,各設(shè)備在收到FC數(shù)據(jù)幀后,根據(jù)FC幀頭確定協(xié)議類型,如果是配置協(xié)議類型包則進行配置,如果是FC-AE協(xié)議類型的數(shù)據(jù)則按模塊自身功能進行處理。
(2)網(wǎng)絡(luò)性能管理
主要是對網(wǎng)絡(luò)及相關(guān)設(shè)備的性能統(tǒng)計。軍用裝備網(wǎng)絡(luò)中的數(shù)據(jù)流量是相對確定并可預(yù)估的。由FC交換機實時監(jiān)測、記錄每個端口的流量,并與已配置的閾值比較,當(dāng)超過閾值時,F(xiàn)C交換機采取相應(yīng)補救措施以避免網(wǎng)絡(luò)負載過重甚至阻塞,并上報警示標(biāo)識。FC交換機還進行網(wǎng)絡(luò)上各種業(yè)務(wù)量的統(tǒng)計,對歷史統(tǒng)計數(shù)據(jù)進行分析,找出流量瓶頸,提出端口負載均衡的建議,為管理者提高帶寬利用率提供決策支持[5]。
(3)網(wǎng)絡(luò)安全與故障管理
網(wǎng)絡(luò)系統(tǒng)應(yīng)該具備良好的魯棒性,可抵御惡意用戶的行為,隔離不友好的連接,防止用戶的滿意程度被破壞。網(wǎng)絡(luò)安全必須從物理層面、傳輸層面、數(shù)據(jù)鏈路層面、網(wǎng)絡(luò)層面等進行全方位的保護,首先是通過登陸控制來防止未經(jīng)授權(quán)的訪問;其次是建立分級訪問權(quán)限保證管理信息不被非法修改;對于人為因素導(dǎo)致連接錯誤,則通過FC交換機路由表配置ID檢查來實現(xiàn);FC交換機之間通過心跳反應(yīng)來獲取相鄰交換機的狀態(tài);對于光器件損壞等引起頻繁連接與掉電之間切換不穩(wěn)定狀態(tài),上報后由網(wǎng)絡(luò)管理員進行故障確認與設(shè)備維護。
本文針對多網(wǎng)絡(luò)融合需求,提出一種統(tǒng)一命名、統(tǒng)一地址映射和地址解析服務(wù)的概念,通過橋接模塊將以太網(wǎng)、RapidIO、RocketIO等協(xié)議數(shù)據(jù)承載在光纖通道主干網(wǎng)中,實現(xiàn)了多協(xié)議間的有效連接與大帶寬實時交換,并利用網(wǎng)絡(luò)管理軟件實現(xiàn)全線數(shù)據(jù)通信設(shè)備的統(tǒng)一管理和維護。該方案符合軍用電子綜合系統(tǒng)中的光纖寬帶統(tǒng)一網(wǎng)絡(luò)的發(fā)展趨勢,對解決軍事裝備中由于網(wǎng)絡(luò)技術(shù)的多樣性而帶來的網(wǎng)絡(luò)融合難度大、開發(fā)風(fēng)險不可控、升級經(jīng)費投入大等問題具有重要現(xiàn)實意義,對未來新型作戰(zhàn)平臺通信鏈路的開發(fā)研制亦將具有重要參考價值。
[1] 黃振中,倪 明,柴小麗.基于VxWorks的RapidIO-IP設(shè)計與實現(xiàn)[J]. 計算機工程,2010,36(18):243-245.Huang Zhenzhong,Ni Ming,Chai Xiaoli.Design and implementation of RapidIO-IP based on VxWorks[J].Computer Engineering,2010,36(18)243-245.
[2] 劉 鑫,陸文娟.光纖通道在航空電子環(huán)境的應(yīng)用及關(guān)鍵技術(shù)研究[J]. 光通信技術(shù),2006,30(6):55-58.Liu Xin,Lu Wenjuan.Application and research of fiber channel in the avionics environment[J].Optical Communication Technology,2006,30(6):55-58.
[3] 史衛(wèi)民,施春輝,柴小麗,等.基于FPGA的RapidIO-FC轉(zhuǎn)接橋設(shè)計[J]. 計算機工程,2010,36(19):291-293.Shi Weimin,Shi Chunhui,Chai Xiaoli,et al.Design of RapidIO-FC switching bridge based on FPGA[J].Computer Engineering,2010,36(19):291-293.
[4] 尹亞明,李 瓊,郭御風(fēng),等.新型高性能RapidIO互連技術(shù)研究[J]. 計算機工程與科學(xué),2004,26(12):85-87,107.Yin Yaming,Li Qiong,Guo Yufeng,et al.Study of the new high-performance RapidIO interconnnect technology[J].Computer Engineering & Science,2004,26(12):85-87,107.
[5] 周令俊,盧瑤偉.計算機網(wǎng)絡(luò)管理技術(shù)及其應(yīng)用[J].中國科技信息,2006(19):165-166.Zhou Lingjun,Lu Yaowei.Computer network management technology and applicaiton[J].China Science and Technology Information,2006(19):165-166.