曹飛 孟超 陸源 張立明
1.烽火通信科技股份有限公司;2.中國聯(lián)合網(wǎng)絡(luò)通信有限公司山東省分公司;3.山東省郵電規(guī)劃設(shè)計(jì)院有限公司
新型基礎(chǔ)設(shè)施建設(shè)(簡稱 :新基建),主要包括5G網(wǎng)絡(luò)、特高壓、城際高速鐵路和城市軌道交通、新能源汽車充電樁、數(shù)據(jù)中心、工業(yè)互聯(lián)網(wǎng)等領(lǐng)域,涉及諸多產(chǎn)業(yè)鏈,是以新發(fā)展理念為引領(lǐng),以技術(shù)創(chuàng)新為驅(qū)動(dòng),以信息網(wǎng)絡(luò)為基礎(chǔ),面向高質(zhì)量發(fā)展需要,提供數(shù)字轉(zhuǎn)型、智能升級(jí)、融合創(chuàng)新等服務(wù)的基礎(chǔ)設(shè)施體系。新時(shí)期運(yùn)營商的發(fā)展與新基建領(lǐng)域業(yè)務(wù)是息息相關(guān)的,其中4K/8K高清視頻+VR、5G業(yè)務(wù)、政企專線、DC接入/DC互聯(lián)四類創(chuàng)新業(yè)務(wù)將是未來運(yùn)營商城域業(yè)務(wù)的發(fā)展焦點(diǎn),而大帶寬、低時(shí)延是5G和云時(shí)代業(yè)務(wù)的共性需求,也是大部分新基建領(lǐng)域業(yè)務(wù)的共性需求。
無論是大帶寬還是低時(shí)延,基于波長復(fù)用的OTN光網(wǎng)絡(luò)技術(shù)都顯示了巨大的承載優(yōu)勢。大帶寬方面,單波100G OTN網(wǎng)絡(luò)已廣泛應(yīng)用在干線網(wǎng)絡(luò)和本地網(wǎng)絡(luò)的核心匯聚層,未來將向單波200G/400G等超100G演進(jìn)。低時(shí)延方面,由于OTN網(wǎng)絡(luò)支持設(shè)備處理信息的層級(jí)位于最底層的L0和L1層,時(shí)延接近物理極限,因此OTN網(wǎng)絡(luò)是打造未來低時(shí)延網(wǎng)絡(luò)的最佳選擇。在時(shí)延優(yōu)化方面,目前現(xiàn)網(wǎng)已部署的OTN系統(tǒng)還面臨著一些問題:(1)組網(wǎng)架構(gòu)多為環(huán)網(wǎng),業(yè)務(wù)穿通節(jié)點(diǎn)多,增加了網(wǎng)絡(luò)整體時(shí)延;(2)背靠背堆疊設(shè)備實(shí)現(xiàn)跨層互聯(lián)從而影響時(shí)延;(3)設(shè)備器件存在優(yōu)化空間,如FEC、OTN封裝方式等。
本文從新基建業(yè)務(wù)需求角度出發(fā),重點(diǎn)分析時(shí)延方面的需求挑戰(zhàn),針對OTN網(wǎng)絡(luò)制定網(wǎng)絡(luò)時(shí)延優(yōu)化的具體方案,通過ROADM/OXC等技術(shù)減少網(wǎng)絡(luò)層級(jí),結(jié)合OTN一體化網(wǎng)絡(luò)部署實(shí)現(xiàn)架構(gòu)優(yōu)化,并通過部分案例分析優(yōu)化效果。
“新基建”與傳送網(wǎng)專業(yè)強(qiáng)關(guān)聯(lián)的領(lǐng)域主要是5G網(wǎng)絡(luò)和數(shù)據(jù)中心,衍生領(lǐng)域包含工業(yè)互聯(lián)網(wǎng)、人工智能等,主要特征是需要傳送網(wǎng)提供大帶寬、低時(shí)延、敏捷、安全的傳輸通道。新基建傳送網(wǎng)需求分析如表1。根據(jù)表1分析,5G網(wǎng)絡(luò)、DC互聯(lián)、高品質(zhì)價(jià)值政企專線和工業(yè)互聯(lián)網(wǎng)等均提出了低時(shí)延特性需求,尤其是面向黨政軍和金融類的高品質(zhì)專線訴求更加明顯。
表1 “新基建”領(lǐng)域的傳送網(wǎng)訴求分析
?
超低時(shí)延的實(shí)現(xiàn)需要一系列技術(shù)有機(jī)結(jié)合,系統(tǒng)設(shè)計(jì)中如傳輸速率、時(shí)延、可靠性等性能指標(biāo)之間常常存在著一定程度的此消彼長、相互權(quán)衡的關(guān)系,一個(gè)維度的優(yōu)化往往會(huì)導(dǎo)致另一個(gè)維度性能的退化。因此需要針對業(yè)務(wù)類型,合理權(quán)衡與協(xié)調(diào)時(shí)延與其他性能指標(biāo)實(shí)現(xiàn)之間的關(guān)系。網(wǎng)絡(luò)面臨的時(shí)延挑戰(zhàn)主要分為以下幾個(gè)方面:
挑戰(zhàn)一:5G低時(shí)延需求
5G低時(shí)延是為實(shí)現(xiàn)eMBB移動(dòng)寬帶增強(qiáng)、mMTC大規(guī)模物聯(lián)網(wǎng)、uRLLC超高可靠超低時(shí)延的能力而提出的。ITU、IMT-2020推進(jìn)組等國內(nèi)外5G研究組織機(jī)構(gòu)均對5G提出了毫秒級(jí)的端到端時(shí)延要求,理想情況下端到端時(shí)延為1ms,典型端到端時(shí)延為5-10ms左右。我們目前使用的4G網(wǎng)絡(luò),端到端理想時(shí)延是10ms左右,LTE的端到端典型時(shí)延是50-100ms,這意味著5G將端到端時(shí)延縮短為4G的十分之一。5G網(wǎng)絡(luò)的時(shí)延主要有3段,空口接入時(shí)延約占25%,承載網(wǎng)時(shí)延約占25%,核心網(wǎng)時(shí)延約占55%。5G網(wǎng)絡(luò)技術(shù)中提出全光網(wǎng)實(shí)現(xiàn)低時(shí)延的重要支撐,新型的多址技術(shù)以節(jié)省調(diào)度開銷,同時(shí)基于軟件定義網(wǎng)絡(luò)(SDN)和網(wǎng)絡(luò)功能虛擬化(NFV)實(shí)現(xiàn)網(wǎng)絡(luò)切片并采用FlexE技術(shù)使業(yè)務(wù)流以最短、最快的路由到達(dá)目的用戶。
挑戰(zhàn)二:熱備、多活數(shù)據(jù)庫要求極低時(shí)延
根據(jù)數(shù)據(jù)讀寫時(shí)延分布,讀寫效率提出了苛刻的時(shí)延要求,以O(shè)racle為例,在10ms時(shí)延下,數(shù)據(jù)庫IO性能基本可以保證,滿足多活等高可靠要求。數(shù)據(jù)庫時(shí)延分段包含了服務(wù)器應(yīng)用時(shí)延、設(shè)備時(shí)延和光纖時(shí)延。SCSI一次寫需要兩次指令,寫指令和數(shù)據(jù)發(fā)送,一次IO需要2倍的RTT時(shí)間,只有在端到端業(yè)務(wù)時(shí)延10ms下,數(shù)據(jù)庫集群讀寫效率才能保證。保證E2E時(shí)延<兩端應(yīng)用時(shí)延+兩端設(shè)備時(shí)延×2+光纖時(shí)延×2。網(wǎng)絡(luò)時(shí)延的降低,可以成倍(2次RTT)減少E2E應(yīng)用讀寫時(shí)延,提升數(shù)據(jù)庫讀寫效率,獲得更大收益。
挑戰(zhàn)三:新型時(shí)延敏感業(yè)務(wù)使傳統(tǒng)網(wǎng)絡(luò)面臨巨大挑戰(zhàn)
分布式數(shù)據(jù)中心等東西向業(yè)務(wù)以及VR、工業(yè)控制、車聯(lián)網(wǎng)等新業(yè)務(wù)類型,提出ms級(jí)時(shí)延要求,傳統(tǒng)網(wǎng)絡(luò)難以滿足,而金融實(shí)時(shí)交易業(yè)務(wù)驅(qū)動(dòng)對更低時(shí)延的“極致追求”。根據(jù)《撮合交易原則》,證券期貨交易,以價(jià)格優(yōu)先、時(shí)間優(yōu)先為交易原則,證券公司對運(yùn)營商政企專線網(wǎng)絡(luò)提出了μs級(jí)別需求,且傳統(tǒng)網(wǎng)絡(luò)無法滿足云資源快速響應(yīng)和靈活調(diào)度的需求,云網(wǎng)協(xié)同業(yè)務(wù)客戶期望值當(dāng)前是天級(jí)開通(小于3天),未來降至分鐘級(jí)。新型時(shí)延敏感業(yè)務(wù)的苛刻時(shí)延要求使得各運(yùn)營商均建設(shè)了基于OTN技術(shù)的政企精品專網(wǎng)來滿足客戶訴求。新型時(shí)延敏感型業(yè)務(wù)時(shí)延需求詳見圖1所示。挑戰(zhàn)四:OTT提供高質(zhì)量專線,威脅運(yùn)營商專線市場
圖1 新型時(shí)延敏感業(yè)務(wù)時(shí)延需求
當(dāng)前部分OTT專線采用了自建骨干網(wǎng)模式,即在接入部分,企業(yè)通過運(yùn)營商的城域鏈路接入到OTT的就近POP點(diǎn)。在骨干部分,OTT在城域POP點(diǎn)把企業(yè)專線調(diào)度到自身的骨干網(wǎng),以提供企業(yè)長途專線服務(wù)。運(yùn)營商城域部分通常QoS較好,OTT骨干側(cè)QoS好,因此可提供端到端的良好業(yè)務(wù)體驗(yàn)。由此運(yùn)營商的壓力和挑戰(zhàn)凸顯,運(yùn)營商較好的為OTT專線解決了“最后一公里”問題,但是自身的鏈路被旁路,無法為企業(yè)帶來明顯效益。應(yīng)對OTT自身骨干專線模式,運(yùn)營商需要建設(shè)一體化OTN政企精品網(wǎng),以提高差異化競爭能力(大帶寬、低時(shí)延、智能管控等),同時(shí)以優(yōu)質(zhì)的網(wǎng)絡(luò)、服務(wù)和單GB建設(shè)成本等優(yōu)勢來應(yīng)對市場競爭。
(1)網(wǎng)絡(luò)時(shí)延構(gòu)成
一般網(wǎng)絡(luò)時(shí)延由傳播時(shí)延(Propagation Delay)、傳輸時(shí)延(Transmission Delay)、處理時(shí)延(Processing delay)、調(diào)度時(shí)延(Queuing Delay)構(gòu)成,如圖2所示。
圖2 新型時(shí)延敏感業(yè)務(wù)時(shí)延需求
傳播時(shí)延是指信號(hào)在傳輸介質(zhì)中傳播所花費(fèi)的時(shí)間,與傳播速度、通信距離有關(guān)。對于光傳送網(wǎng)OTN來說,傳輸介質(zhì)即是光纖,單向時(shí)延為5μs/km。傳輸時(shí)延是指站點(diǎn)發(fā)送或接收一個(gè)數(shù)據(jù)幀需要的時(shí)間,與數(shù)據(jù)幀長、鏈路速率相關(guān),對于100G OTN傳輸系統(tǒng)來說,OTU4幀周期為1.168μs,在采用高速接口設(shè)備時(shí)傳輸時(shí)延在網(wǎng)絡(luò)時(shí)延中占比較低。處理時(shí)延是指數(shù)據(jù)轉(zhuǎn)發(fā)花費(fèi)的時(shí)間,包括頭部處理、差錯(cuò)校驗(yàn)、路由表查找等,取決于節(jié)點(diǎn)的處理能力和數(shù)據(jù)處理的復(fù)雜度。調(diào)度時(shí)延是指數(shù)據(jù)在輸入和輸出緩沖區(qū)排隊(duì)花費(fèi)的時(shí)間,與網(wǎng)絡(luò)擁塞狀況、隊(duì)列調(diào)度機(jī)制相關(guān)。比如分組網(wǎng)絡(luò)中應(yīng)用Qos策略,可保證高質(zhì)量業(yè)務(wù)的低時(shí)延要求。
網(wǎng)絡(luò)時(shí)延影響的大小與網(wǎng)絡(luò)工作層級(jí)呈正比關(guān)系,即工作層級(jí)越低,時(shí)延越小。交換機(jī)和路由器的處理時(shí)延一般為1ms-10ms,而OTN網(wǎng)絡(luò)工作在OSI七層協(xié)議模型的L0/L1層,節(jié)點(diǎn)時(shí)延可達(dá)μs級(jí)別,LO層的光器件則可達(dá)ns級(jí)別。如表2所示。
表2 OSI對應(yīng)網(wǎng)元時(shí)延
?
(2)OTN時(shí)延測量
根據(jù)G.709關(guān)于時(shí)延測量的定義,OTN通過下插PM/TCM層的開銷實(shí)現(xiàn)時(shí)延測量。如圖3所示,時(shí)延測試發(fā)起端進(jìn)行業(yè)務(wù)封裝的同時(shí)在ODUk開銷中打上時(shí)間戳,同時(shí)啟動(dòng)計(jì)時(shí)器;時(shí)間戳隨著業(yè)務(wù)傳遞到時(shí)延測試終結(jié)端環(huán)回,反向傳輸給發(fā)起端;發(fā)起端接收到反向傳輸回來的時(shí)間戳,與計(jì)時(shí)器進(jìn)行比較即可得到雙向時(shí)延;考慮到OTN電路的雙向?qū)ΨQ性和路由一致性特點(diǎn),往返時(shí)延的一半即可認(rèn)為是單向傳輸時(shí)延,從而實(shí)現(xiàn)對網(wǎng)絡(luò)高精度端到端時(shí)延的監(jiān)控測試。
圖3 OTN網(wǎng)絡(luò)時(shí)延測量原理
OTN網(wǎng)絡(luò)時(shí)延優(yōu)化方案與影響OTN網(wǎng)絡(luò)時(shí)延的要素息息相關(guān),歸納為以下幾點(diǎn):
(1)時(shí)延影響關(guān)鍵要素:光纖、DCM補(bǔ)償光纖、組網(wǎng)架構(gòu)(減少背靠背節(jié)點(diǎn)串接)。
優(yōu)化方案:光層時(shí)延主要取決于光層的物理傳輸路徑,受物理光速限制,一般通過減少信號(hào)傳輸距離來降低時(shí)延,包含選擇直達(dá)路由、減少跳接、通過合理的局站設(shè)置減少引接距離等,此外還可以通過電域補(bǔ)償色散代替色散補(bǔ)償光纖的使用(單波100G以上系統(tǒng)已經(jīng)考慮)。
如圖4所示,組網(wǎng)架構(gòu)方面,重點(diǎn)地市城域核心匹配DC節(jié)點(diǎn)啟用ROADM/OXC實(shí)現(xiàn)MESH化演進(jìn),節(jié)點(diǎn)間通過ROADM一跳直達(dá),時(shí)延最優(yōu)。傳統(tǒng)OTN網(wǎng)絡(luò)采取環(huán)網(wǎng)模式組建城域OTN網(wǎng)絡(luò),業(yè)務(wù)需要經(jīng)過逐層轉(zhuǎn)發(fā),導(dǎo)致業(yè)務(wù)路徑長,不僅耗費(fèi)大量中間站點(diǎn)的傳送資源,還增加整體網(wǎng)絡(luò)時(shí)延。城域重構(gòu)網(wǎng)絡(luò)的核心層采取MESH化組網(wǎng)架構(gòu),任意兩點(diǎn)間通過直達(dá)光纖實(shí)現(xiàn)時(shí)延優(yōu)化,匯聚層每個(gè)節(jié)點(diǎn)配置ROADM或OXC實(shí)現(xiàn)業(yè)務(wù)的直達(dá)穿通,實(shí)現(xiàn)一跳直達(dá)核心節(jié)點(diǎn),進(jìn)一步降低時(shí)延。
如圖5所示,跨域?qū)臃矫?,省干和本地網(wǎng)對接采用集群共電架或NNI對接取代傳統(tǒng)的背靠背UNI方式。傳統(tǒng)跨域互通模式采取的是UNI模式,不同層級(jí)的設(shè)備背靠背堆疊,配置支路板對接,業(yè)務(wù)需要經(jīng)過“線路板-支路板-支路板-線路板”上下電層處理;優(yōu)化后,如采取NNI模式,不同層級(jí)的設(shè)備通過“線路板-線路板”對接,減少了節(jié)點(diǎn)板卡處理時(shí)延;如采取集群模式,2個(gè)層級(jí)的2端設(shè)備簡化為1端設(shè)備,進(jìn)一步減少了電層處理時(shí)延。
圖4 OTN組網(wǎng)架構(gòu)優(yōu)化方案(環(huán)網(wǎng)-MESH)
圖5 OTN省本對接優(yōu)化方案(傳統(tǒng)UNI-集群/NNI)
(2)時(shí)延影響次要因素:AFEC/FEC、OTN封裝方式。
優(yōu)化方案:AFEC/FEC是光纖之外影響時(shí)延的最主要因素,F(xiàn)EC Buffer緩存有效負(fù)荷和糾錯(cuò)模塊,引入了時(shí)延;AFEC還緩存了編碼間的糾錯(cuò)開銷,再次引入時(shí)延,多級(jí)AFEC在獲得更高增益的同時(shí),進(jìn)一步加深了FIFO的深度。FEC影響級(jí)別20μs左右,AFEC影響級(jí)別100μs左右。針對FEC降低時(shí)延的具體建議如下:1)系統(tǒng)仿真時(shí)提升OSNR余量,減少長跨,減少FEC/AFEC的使用或盡量減少多級(jí)編碼層級(jí)以降低時(shí)延。2)根據(jù)應(yīng)用場景靈活配置FEC糾錯(cuò)能力,在滿足系統(tǒng)誤碼要求的情況下,配置時(shí)延最小的FEC算法,而非糾錯(cuò)能力最強(qiáng)的FEC算法。3)通過FEC算法優(yōu)化,進(jìn)一步降低時(shí)延。
OTN封裝,以典型的GE封裝為例,時(shí)延大小為TTT+GMP<GFP-T<GFP-F。GFP-T方式是填充IDLE幀后,將GFP幀映射到OPU0開銷中,緩沖數(shù)據(jù)多。GMP通過sigma-delta算法將客戶業(yè)務(wù)均勻裝載到OPU開銷中。同樣映射到ODU0顆粒,TTT+GMP封裝時(shí)延更小。因此建議在業(yè)務(wù)封裝方面,優(yōu)選低時(shí)延封裝模式(如GMP)來降低時(shí)延。
綜上所述,OTN網(wǎng)絡(luò)優(yōu)化方案主要從組網(wǎng)方式、設(shè)備器件及光纖路徑等方面降低時(shí)延,基本舉措包含網(wǎng)絡(luò)扁平化、減少網(wǎng)絡(luò)層級(jí),以及光纖優(yōu)化等,可以解決時(shí)延構(gòu)成的90%以上。此外,額外舉措包含優(yōu)化FEC性能、采用相干通信減少DCF影響等,可以解決時(shí)延構(gòu)成的10%左右。
圖6 OTN優(yōu)化方案總結(jié)
(1)沿“黃河軸線”一體化業(yè)務(wù)時(shí)延優(yōu)化
黃河軸線JN-QH-DZ新舊動(dòng)能轉(zhuǎn)換區(qū)一體化,適應(yīng)中心城市“圈層式”一體化趨勢,滿足主要經(jīng)濟(jì)帶和城市群的連續(xù)感知要求。針對新舊動(dòng)能轉(zhuǎn)換綜合試驗(yàn)區(qū),打破干線本地格局,降低專線電路時(shí)延,提升用戶感知;降低專線成本,增加市場競爭力。參照組網(wǎng)架構(gòu)優(yōu)化方案,實(shí)施省本對接及網(wǎng)絡(luò)架構(gòu)優(yōu)化,通過減少路徑迂回,減少設(shè)備及網(wǎng)絡(luò)間的背靠背對接,如圖7所示。
圖7 OTN優(yōu)化案例1-省內(nèi)重客專線
一條QH至JN的100M EOS專線時(shí)延,通過加載業(yè)務(wù)電路進(jìn)行測試驗(yàn)證,優(yōu)化前后的傳輸時(shí)延實(shí)測數(shù)據(jù)由2785μs降低為940μs,降低了66%,如表3所示。
表3 案例1優(yōu)化前后實(shí)測時(shí)延數(shù)據(jù)
(2)跨域證券專線時(shí)延優(yōu)化
L證通(地市DC)到省會(huì)證券公司(XX證券)專線,客戶投訴時(shí)延大,期望優(yōu)化。原業(yè)務(wù)路徑通過本地SDH、省干SDH網(wǎng)絡(luò)承載,路由需經(jīng)過其他地市迂回。路徑:JNDXCXX大廈-XX新時(shí)空-XXDXC,電層節(jié)點(diǎn)多。優(yōu)化方案采取PEOTN網(wǎng)絡(luò)扁平化層級(jí)方案,采取集群方式,干線啟用基于ROADM的省干+國干政企精品OTN網(wǎng)絡(luò)承載,雙向時(shí)延由12ms降低至6ms,其中由光纖路徑優(yōu)化帶來的時(shí)延降低達(dá)5.58ms(約占93%),由設(shè)備節(jié)點(diǎn)優(yōu)化帶來的時(shí)延降低達(dá)0.31ms(約占5%),由集群減少節(jié)點(diǎn)處理帶來的時(shí)延降低達(dá)0.11ms(約占2%),如圖8所示。
圖8 OTN優(yōu)化案例2-集團(tuán)高價(jià)值金融專線
新基建時(shí)代,低時(shí)延是非常重要的業(yè)務(wù)屬性,波分傳輸技術(shù)的低時(shí)延特性為應(yīng)對時(shí)延挑戰(zhàn)提供了契機(jī)。OTN網(wǎng)絡(luò)相比傳統(tǒng)傳輸網(wǎng)絡(luò)(比如SDH、IPRAN),以及新型承載網(wǎng)絡(luò)(比如STN、SPN、智能城域網(wǎng)等),有其天然的時(shí)延優(yōu)勢。新時(shí)代,OTN網(wǎng)絡(luò)既可以作為底層承載網(wǎng),又可以作為面向高品質(zhì)專線的業(yè)務(wù)網(wǎng)。現(xiàn)有OTN網(wǎng)絡(luò)要在新時(shí)期業(yè)務(wù)驅(qū)動(dòng)下做好時(shí)延優(yōu)化,繼而打造端到端一體化精品網(wǎng)絡(luò),為即將到來的新基建業(yè)務(wù)奠定承載基石。