李娜娜， 黃琨強(qiáng)， 張秋聞， 劉 寬

(1.鄭州輕工業(yè)學(xué)院 計(jì)算機(jī)與通信工程學(xué)院，河南 鄭州 450001； 2.鄭州工商學(xué)院 機(jī)械與電信工程學(xué)院，河南 鄭州 451400)

0 引言

采用率失真(rate-distortion optimization, RDO)[1]是HEVC編碼復(fù)雜度高的重要因素之一，而如何有效對(duì)其進(jìn)行優(yōu)化來(lái)降低計(jì)算量成為難題.

針對(duì)上述問(wèn)題，研究人員已經(jīng)從率失真計(jì)算的預(yù)測(cè)過(guò)程出發(fā)，在率失真函數(shù)和編碼器編碼單元的層面進(jìn)行了優(yōu)化，通過(guò)降低函數(shù)本身的運(yùn)算量來(lái)提升HEVC編碼器的性能，并以此達(dá)到優(yōu)化編碼時(shí)間的目的.文獻(xiàn)[2]提出了離散余弦轉(zhuǎn)換系數(shù)和基于全零塊率失真優(yōu)化量化跳過(guò)算法，提升了編碼效率.文獻(xiàn)[3]通過(guò)訓(xùn)練傳輸集合后選擇最合適的傳輸模式來(lái)分類傳輸變換系數(shù)，從而降低視頻比特率.文獻(xiàn)[4]提出了變換編碼傳輸約束條件實(shí)現(xiàn)了簡(jiǎn)化率失真代價(jià)計(jì)算的效果.文獻(xiàn)[5]提出了一種基于運(yùn)動(dòng)特性的編碼塊分割算法，有效加快了幀內(nèi)編碼的速度.文獻(xiàn)[6]提出了主動(dòng)選擇變換編碼塊的率失真優(yōu)化量化(rate-distortion optimized quantization, RDOQ)的決策算法，得到了較好的編碼增益.文獻(xiàn)[7]使率失真優(yōu)化量化代價(jià)計(jì)算隨著標(biāo)準(zhǔn)測(cè)試模型中的量化值變化，實(shí)現(xiàn)了壓縮率的提高.文獻(xiàn)[8]采用一種基于自由量化框架的快速RDO算法，該算法在幀內(nèi)、幀間預(yù)測(cè)過(guò)程都很有效，明顯地降低了率失真計(jì)算復(fù)雜度.文獻(xiàn)[9]利用感知特征引導(dǎo)率失真優(yōu)化算法來(lái)改善視頻編碼中編碼效率低的問(wèn)題，提出通過(guò)空域中梯度幅值率特征和時(shí)域中梯度相似度偏差率特征來(lái)描述相關(guān)性，從而自適應(yīng)地選擇RDO編碼過(guò)程中拉格朗日乘子來(lái)提升編碼性能.文獻(xiàn)[10]對(duì)編碼塊復(fù)雜度進(jìn)行了分類，并根據(jù)分類情況對(duì)編碼單元快速分割，有效地判決了編碼塊深度，提升了編碼效率.文獻(xiàn)[11]簡(jiǎn)化35種幀內(nèi)編碼模式到11種模式后，增加最有可能模式組成候選預(yù)測(cè)集，從而有效減少率失真優(yōu)化過(guò)程中需計(jì)算代價(jià)值的模式數(shù)量，以此來(lái)降低計(jì)算復(fù)雜度.文獻(xiàn)[12]介紹了對(duì)編碼塊和對(duì)應(yīng)視頻幀中已編碼的編碼塊進(jìn)行分類的壓縮方法，改變了遍歷計(jì)算的方式.但是，這些算法都是針對(duì)量化過(guò)程中的率失真計(jì)算進(jìn)行的優(yōu)化，忽略了應(yīng)根據(jù)編碼塊特點(diǎn)來(lái)選擇低計(jì)算復(fù)雜度量化器的方式.

基于此，筆者針對(duì)HEVC中可以使用不同的量化方法對(duì)變換系數(shù)進(jìn)行量化的特點(diǎn)，提出了量化器判決條件，實(shí)現(xiàn)了標(biāo)量量化和率失真優(yōu)化量化的自適應(yīng)選擇，從而減少遍歷計(jì)算量，縮短編碼器編碼時(shí)間.實(shí)驗(yàn)表明，筆者基于量化過(guò)程的自適應(yīng)判決方法在全幀內(nèi)(all intra, AI)實(shí)驗(yàn)條件下可以節(jié)省大約10.52%的編碼時(shí)間，同時(shí)僅約有0.04%的碼率上升和0.0 071 dB的信噪比下降.

1 均勻標(biāo)量量化與率失真優(yōu)化量化技術(shù)特征分析

均勻標(biāo)量量化(uniform scalar quantizer)的量化步長(zhǎng)Qs可以由輸入信號(hào)變化區(qū)間和重建值數(shù)量決定：

(1)

式中:m和n分別表示信號(hào)的最大值和最小值；M表示重建值數(shù)量.則量化后輸出：

(2)

其中，xi和xi+1分別是對(duì)應(yīng)區(qū)間端點(diǎn)對(duì)應(yīng)的映射值.假設(shè)輸入值服從均勻分布，則以EMS衡量的量化誤差為：

(3)

(4)

RDOQ在HEVC編碼器中的計(jì)算需要不斷利用RDO準(zhǔn)則.以官方測(cè)試平臺(tái)HM為例分析.首先，需要確定候選的量化值，公式如下：

(5)

式中：ci為變換塊系數(shù)；li為系數(shù)量化后的值[15-16]；round為舍入關(guān)系.

首先，根據(jù)變換塊系數(shù)及每個(gè)候選量化值計(jì)算所有候選量化值的代價(jià)，利用RDO遍歷計(jì)算所有系數(shù)包含的所有候選值的代價(jià)值，并選取它們較低代價(jià)值對(duì)應(yīng)的量化值作為最優(yōu)量化值.

然后，還需要利用RDO準(zhǔn)則來(lái)遍歷搜索每一個(gè)系數(shù)塊組(coefficient group，CG)是否量化為全零組，以達(dá)到較好的量化效果.最后，量化過(guò)程還需要確定最后一個(gè)非零系數(shù)的位置，通過(guò)確定熵編碼中的該位置信息來(lái)解決拖尾零系數(shù)造成的編碼比特升高問(wèn)題.因此，與標(biāo)量量化相比，RDOQ雖然提高了編碼器的性能，但由于利用了RDO準(zhǔn)則，需要遍歷計(jì)算候選量化值以及全零組、最后一個(gè)非零系數(shù)位置等率失真代價(jià)值，因此，總的編碼時(shí)間大約增加了10%～15%.

2 高效的率失真優(yōu)化量化判決算法

2.1 均勻標(biāo)量量化和率失真量化判決

對(duì)于變換塊，如何自適應(yīng)地合理分配標(biāo)量量化和率失真優(yōu)化量化，對(duì)變換過(guò)程降低計(jì)算復(fù)雜度至關(guān)重要.量化是對(duì)變換系數(shù)進(jìn)行量化，根據(jù)其量化水平可以對(duì)量化器合理有效地判決.然而在下列兩個(gè)條件下，兩種量化器都將無(wú)法有效提升編碼性能.

(1)變換系數(shù)量化為零；

(2)變換系數(shù)RDOQ量化水平等于變換系數(shù)均勻標(biāo)量量化水平.

為此，我們對(duì)同一幀圖像變換塊變換系數(shù)進(jìn)行RDOQ量化和標(biāo)量量化后量化水平相等的概率進(jìn)行了分析，如表1所示.其中，G0表示量化水平為零；GSQ表示均勻量化水平;GRDOQ表示RDOQ量化水平.通過(guò)對(duì)不同尺寸編碼塊在兩種量化模式下量化為零或有相同量化水平的可能性分析進(jìn)行第一步的篩選.當(dāng)量化水平為零或相同時(shí)不需量化器選擇，不同時(shí)則進(jìn)行下一步的量化器選擇判決.從表1可以看出，大約有14%的變換塊系數(shù)在進(jìn)行量化時(shí)，無(wú)論是使用標(biāo)量量化還是率失真優(yōu)化量化，量化水平都相同，兩種方法編碼效率也一樣，不需進(jìn)行量化模式選擇.而在GSQ=GRDOQ和GSQ≠GRDOQ兩種情況下，又分別有74.7%和21.3%的變換塊系數(shù)量化為零，零變換塊不需進(jìn)行量化.所以，在GSQ=GRDOQ或量化水平為零或變換塊變換系數(shù)近似為零時(shí)，兩種量化方法對(duì)視頻編碼效率并沒(méi)有較大的影響.此時(shí)，對(duì)變換塊進(jìn)行量化時(shí)，采用傳統(tǒng)的標(biāo)量量化或者RDOQ任一種即可.在進(jìn)行視頻編碼時(shí)跳過(guò)筆者提出的量化器模式選擇過(guò)程.但是，在GSQ≠GRDOQ且RDOQ量化水平不等于零時(shí)，大約86%中仍然有78.7%的變換塊系數(shù)需要進(jìn)一步判定量化方法.為此，繼續(xù)分析了不同尺寸變換塊變換系數(shù)進(jìn)行RDOQ后量化水平的平均和，如表2所示.

表1 兩種量化方法系數(shù)量化水平之間的關(guān)系 Tab.1 The corrlation of quantization level of coefficients between two quantization methods

表2 系數(shù)量化水平不為零時(shí)RDOQ量化水平平均和 Tab.2 The mean sum of quantization level after RDOQ when quantization level of coefficients not equal to zero

表2中，在變換系數(shù)量化水平不為零，且量化水平和小于平均量化水平平均和(2.23)時(shí)，可以直接將變換系數(shù)量化為零，不再進(jìn)行RDOQ量化.在變換系數(shù)量化水平不為零且GSQ≠GRDOQ情況下，若量化水平和小于最小尺寸4×4變換塊對(duì)應(yīng)的10.11，則RDOQ量化相對(duì)于計(jì)算復(fù)雜度帶來(lái)的編碼時(shí)間增高并沒(méi)有較大幅度的比特率節(jié)省，編碼器將選擇均勻標(biāo)量量化方法.

為了進(jìn)行以上量化方法的選擇，需要計(jì)算變換系數(shù)量化水平和，如式(6)所示：

(6)

式中：lm表示m級(jí)量化水平；cm表示未量化系數(shù)；N表示系數(shù)總量；f表示量化補(bǔ)償.

所以，根據(jù)表2實(shí)驗(yàn)結(jié)果設(shè)定閾值T為10.11，并進(jìn)行以下判決：

(7)

判斷條件(7)可以進(jìn)一步簡(jiǎn)化為：

(8)

所以，在進(jìn)行HEVC視頻編碼時(shí)，變換系數(shù)量化水平和若滿足條件式(8)，量化過(guò)程將跳過(guò)RDOQ，直接進(jìn)行均勻標(biāo)量量化；否則，HEVC進(jìn)行RDOQ量化.HEVC編碼器通過(guò)筆者提出的判決條件進(jìn)行量化器的選擇，可以在保證在失真較低的條件下較大地降低量化過(guò)程中的計(jì)算復(fù)雜度.

2.2 算法流程

步驟1提取當(dāng)前需編碼變換塊變換系數(shù).

步驟2確定變換系數(shù)的RDOQ量化候選值，當(dāng)GSQ=GRDOQ或量化水平為零時(shí)，變換塊變換系數(shù)選擇標(biāo)量量化或者RDOQ并無(wú)區(qū)別，此時(shí)跳出此量化器選擇算法，直接采用標(biāo)準(zhǔn)的RDOQ方法進(jìn)行量化過(guò)程.否則需要進(jìn)行下一步的選擇判決.

步驟3根據(jù)式(6)計(jì)算變換系數(shù)量化水平和.若量化水平和小于平均量化水平平均和2.23時(shí)，則直接將變換系數(shù)量化為零，不再進(jìn)行RDOQ量化；否則需要進(jìn)行下一步判斷.

步驟4設(shè)定10.11為閾值T，根據(jù)判決條件式(8)進(jìn)行量化模式判決.若量化水平和滿足判決條件(8)則使用均勻標(biāo)量量化；否則則使用RDOQ，判決結(jié)束.

步驟5進(jìn)行下一變換塊的量化模式判決.

2.3 算法時(shí)間復(fù)雜度

從以上分析可知，采用了該選擇判決算法后，由于大約有14%的變換塊系數(shù)在進(jìn)行量化時(shí)GSQ=GRDOQ;有86%的變換塊系數(shù)在進(jìn)行量化時(shí)GSQ≠GRDOQ.而在GSQ≠GRDOQ條件下，21.3%的變換塊系數(shù)量化為零，所以大約有14%+86%×21.3%=32.32%的變換塊系數(shù)在步驟2后跳出量化器選擇算法，直接采用標(biāo)準(zhǔn)的RDOQ方法進(jìn)行量化過(guò)程，在此種情況下并沒(méi)有減少時(shí)間復(fù)雜度；而大約有86%×(1-21.3%)=67.68%的變換塊系數(shù)需要進(jìn)行步驟3以下的判斷.當(dāng)其量化水平和小于平均量化水平平均和(2.23)時(shí)，直接將變換系數(shù)量化為零，不再進(jìn)行RDOQ量化.接下來(lái)當(dāng)量化水平和小于10.11時(shí)，則判斷需要使用均勻標(biāo)量量化，不再進(jìn)行RDOQ量化.該算法在這兩種情況下均不再進(jìn)行遍歷計(jì)算候選量化值以及全零組、最后一個(gè)非零系數(shù)位置等率失真代價(jià)值，減少了編碼時(shí)間.

3 實(shí)驗(yàn)結(jié)果

實(shí)驗(yàn)使用HEVC官方測(cè)試(HEVC Test Model,HM)16.0平臺(tái)，在AI、隨機(jī)接入(random access, RA)、低延遲(low delay, LD)3種條件下分別對(duì)不同分辨率和紋理變化特性的視頻測(cè)試序列進(jìn)行測(cè)試.

筆者提出的算法較HEVC編碼器的平均節(jié)省時(shí)間(average saving time, AST)的百分率AST計(jì)算如下：

(9)

式中:tA是HEVC編碼時(shí)間；tP是本文算法的編碼時(shí)間.所以，AST值越高，性能較HEVC編碼器越好.

3.1 與HEVC編碼標(biāo)準(zhǔn)及其他改進(jìn)算法的比較

試驗(yàn)在設(shè)定的標(biāo)準(zhǔn)測(cè)試條件下以峰值信噪比變化(bjontegaard delta peak signal-to-noise rate)RBDPSN和碼率變化(bjontegaard delta bit rate)RBDB判定編碼性能，以AST節(jié)省的時(shí)間多少表示編碼復(fù)雜度降低程度，試驗(yàn)結(jié)果如表3所示.

表3 提出的算法與原始HEVC編碼器的結(jié)果比較 Tab.3 Comparison results between the proposed algorithm and the original HEVC encoder

由表3可知，筆者提出的算法具有較好的量化效果，在3種配置條件下分別實(shí)現(xiàn)了11.23%、11.19% 和 10.52% 的編碼時(shí)間節(jié)省.其中，AI條件下SlideShow最高實(shí)現(xiàn)了25.2%的時(shí)間節(jié)省，BaskeballDrill序列也降低了6.9%的編碼時(shí)間；RA條件下SlideShow最高實(shí)現(xiàn)了29.4%的時(shí)間降低;BasketballPass也降低了8.4%的編碼時(shí)間；LD條件下SlideShow序列實(shí)現(xiàn)了26.4%的時(shí)間降低；BQMall序列實(shí)現(xiàn)大約8.0%的時(shí)間節(jié)省.同時(shí)，3種條件下分別平均有0.07%、0.15%、0.04%的碼率上升和0.009、0.0 195、0.0 071 dB的峰值信噪比降低.實(shí)驗(yàn)結(jié)果中，SlideShow視頻測(cè)試序列因?yàn)榫哂休^為單調(diào)的背景和較為復(fù)雜前景的特點(diǎn)，在提出的判決條件下進(jìn)行編碼，量化過(guò)程更多地選擇了均勻標(biāo)量量化，從而節(jié)省了大量的編碼時(shí)間.與此同時(shí)，序列復(fù)雜也造成了較高的峰值信噪比(peak signal-to-noise rate)RPSN下降，但是仍在可接受范圍內(nèi)；而且，不同分辨率和運(yùn)動(dòng)特性的測(cè)試序列幾乎都保持了較好的編碼質(zhì)量，RPSN和比特率(bit rate)RB在提出的算法中較HEVC編碼器分別下降和升高得并不明顯，如圖1所示為測(cè)試視頻序列率失真(rate distortion,RD)曲線圖.可見，無(wú)論是RBDPSN還是RBDB，其變化都是非常微小的.在時(shí)間節(jié)省方面，文獻(xiàn)[5]基于運(yùn)動(dòng)特性的編碼塊分割算法節(jié)省了4.7%的編碼時(shí)間；文獻(xiàn)[7]中基于代價(jià)值計(jì)算的RDOQ優(yōu)化算法節(jié)省大約為3.74%編碼時(shí)間；文獻(xiàn)[10]基于編碼塊復(fù)雜度分類情況進(jìn)行的編碼單元快速分割算法節(jié)省了大約9.11%的編碼時(shí)間，均低于本文算法的10.5%的時(shí)間節(jié)省.

因此，基于實(shí)驗(yàn)分析，筆者提出的本文算法能夠在保證視頻質(zhì)量的同時(shí)還能節(jié)省編碼時(shí)間，具有良好的編碼性能.

3.2 試驗(yàn)結(jié)果主觀質(zhì)量分析

圖2顯示了編碼后圖像及其紅色矩形區(qū)域的局部放大圖.對(duì)比可知，筆者提出的量化判決方法能有效地對(duì)均勻量化和率失真優(yōu)化量化進(jìn)行自適應(yīng)選擇，量化器選擇更加合理.采用本文算法進(jìn)行編碼后，圖像局部放大圖仍然保留了圖像結(jié)構(gòu)信息以及細(xì)節(jié)，表明該算法在降低了編碼器的計(jì)算復(fù)雜度的同時(shí)，仍然能保持圖像質(zhì)量；同時(shí)可以看出，雖然本文算法理論上會(huì)造成一定的失真(如圖1所示，視頻RPSN值有輕微降低)，但從主觀上看，對(duì)視頻質(zhì)量的影響卻是有限的.

圖1 測(cè)試視頻序列RD曲線圖 Fig.1 The RD curve of test sequences

圖2 主觀質(zhì)量對(duì)比 Fig.2 The comparison of video subjective qualitys

4 總結(jié)

筆者對(duì)比分析了視頻編碼標(biāo)準(zhǔn)中均勻標(biāo)準(zhǔn)量化與率失真優(yōu)化量化的不同特性，提出了一種基于量化水平的量化器自適應(yīng)分配方法，通過(guò)對(duì)不同區(qū)域的特征分析自適應(yīng)地選擇合適的量化器.提出的算法不僅能降低HEVC編碼復(fù)雜度，而且實(shí)現(xiàn)了較好的編碼效果.實(shí)驗(yàn)表明，使用本文算法較HEVC編碼器能節(jié)省大約10.52%左右的編碼時(shí)間，同時(shí)保持了較好的編碼質(zhì)量.