王 爽，黃海超，石寶存，陳景雅

（河海大學(xué)土木與交通學(xué)院，江蘇 南京 210024）

隨著城市的發(fā)展，汽車保有量急劇增加，現(xiàn)有的城市道路交通難以滿足日益增長(zhǎng)的交通需求，兩者之間的供需不平衡導(dǎo)致了交通擁堵、 環(huán)境污染、交通事故等一系列問題， 為了解決這些交通問題，智能交通系統(tǒng)（intelligent transportation system，ITS）應(yīng)運(yùn)而生[1]。 交通流預(yù)測(cè)作為ITS 的核心內(nèi)容，通過計(jì)算機(jī)技術(shù)、大數(shù)據(jù)挖掘等提前對(duì)城市道路交通流及其狀態(tài)進(jìn)行預(yù)測(cè)，從而有助于交通管理者進(jìn)行車流的合理規(guī)劃，達(dá)到緩解交通擁堵和提高道路通行能力等目的。

目前的交通流時(shí)間序列預(yù)測(cè)模型主要分為基于數(shù)理統(tǒng)計(jì)的傳統(tǒng)預(yù)測(cè)模型和基于機(jī)器學(xué)習(xí)的預(yù)測(cè)模型，通過對(duì)歷史時(shí)間序列進(jìn)行建模以及特征學(xué)習(xí)，預(yù)測(cè)未來(lái)時(shí)刻的交通流量。 自回歸積分滑動(dòng)模型 （autoregressive integrated moving average model,ARIMA）[2]作為典型的基于數(shù)理統(tǒng)計(jì)的交通流預(yù)測(cè)模型，在線性數(shù)據(jù)處理上具有優(yōu)勢(shì)，但在大規(guī)模非線性的交通數(shù)據(jù)處理上存在不足。Lu 等[3]將ARIMA模型與LSTM（long short-term memory，LSTM）相結(jié)合， 分別利用ARIMA 處理線性數(shù)據(jù)的優(yōu)勢(shì)以及LSTM 處理非線性數(shù)據(jù)的優(yōu)勢(shì)進(jìn)行交通流預(yù)測(cè)，驗(yàn)證了該組合模型的多功能性。 隨著人工智能和大數(shù)據(jù)的發(fā)展，機(jī)器學(xué)習(xí)模型在處理非線性交通數(shù)據(jù)上的能力，使其逐漸成為研究者們青睞的交通流預(yù)測(cè)模型。 機(jī)器學(xué)習(xí)模型中，常用的交通流預(yù)測(cè)模型有支持向量機(jī)（support vector machines，SVM）[4]、隨機(jī)森林（random forests，RF）[5]、人工神經(jīng)網(wǎng)絡(luò)（artificial neural network，ANN）[6]。 SVM 模 型 在1995 年 被Cortes 和Vapnik 首次提出，童林等[7]，閆賀等[8]對(duì)SVM 進(jìn)行改進(jìn)，提高了短時(shí)交通流預(yù)測(cè)的精度。 針對(duì)SVM 求解二次規(guī)劃問題時(shí)訓(xùn)練時(shí)間過長(zhǎng)等問題，Suyken 等提出了最小二乘支持向量機(jī)（least square SVM, LSSVM），有效地減短了運(yùn)行時(shí)長(zhǎng)。 谷遠(yuǎn)利等[9]通過免疫算法優(yōu)化了LSSVM 的超參數(shù)，優(yōu)化模型訓(xùn)練速度的同時(shí)，提高了預(yù)測(cè)精度。 戴麗珍等[10]通過灰狼算法對(duì)LSSVM 的參數(shù)進(jìn)行優(yōu)化，增強(qiáng)了模型的泛化能力。 Hamner[11]，熊亭等[12]采用了RF進(jìn)行交通流預(yù)測(cè)并取得了良好的效果。 LSTM 具有捕捉非線性數(shù)據(jù)中長(zhǎng)期依賴的能力，常被廣泛運(yùn)用在交通流時(shí)間序列預(yù)測(cè)中。 2015 年，Ma 等[13]使用LSTM 對(duì)速度進(jìn)行了預(yù)測(cè)，并證明了相比較于RNN，SVM，ARIMA 模型，LSTM 在捕捉交通流數(shù)據(jù)非線性特征以及長(zhǎng)時(shí)間依賴的優(yōu)勢(shì)。

交通流預(yù)測(cè)的研究主要集中于模型優(yōu)化，針對(duì)輸入步長(zhǎng)的討論較少。 林培群等[14]在進(jìn)行高速公路的行程時(shí)間預(yù)測(cè)時(shí)， 選擇12 步步長(zhǎng)作為不同預(yù)測(cè)模型的輸入，研究預(yù)測(cè)步長(zhǎng)增加后不同模型的預(yù)測(cè)性能。 王博文等[15]針對(duì)LSTM 預(yù)測(cè)步長(zhǎng)增加誤差迅速累積的問題對(duì)模型進(jìn)行改進(jìn)，選取了8 步作為模型輸入對(duì)未來(lái)的1～12 步的時(shí)刻進(jìn)行預(yù)測(cè)。 Huang等[16]為了驗(yàn)證提出的時(shí)間序列分解方法和相應(yīng)混合預(yù)測(cè)模型的有效性， 選用12 步作為輸入步長(zhǎng)進(jìn)行了多步的交通流預(yù)測(cè)。 高華睿等[17]在雙向長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)預(yù)測(cè)交通流時(shí)，采用了滑動(dòng)窗口模型，以15 步步長(zhǎng)作為滑動(dòng)窗口長(zhǎng)度對(duì)交通流數(shù)據(jù)進(jìn)行重采樣， 學(xué)習(xí)交通流數(shù)據(jù)隨時(shí)間變化的趨勢(shì)變化特征。 金瑋[18]利用傅里葉級(jí)數(shù)提取交通流量的周期性分量特征，分離殘差項(xiàng)，選取1、3、6、9、12 作為輸入步長(zhǎng)分別進(jìn)行預(yù)測(cè)， 分析預(yù)測(cè)結(jié)果用來(lái)判斷模型基于周期性分量的預(yù)測(cè)效果。 熊亭等[19]將擴(kuò)散卷積算子應(yīng)用于GRU（gate recurrent unit）模型進(jìn)行交通流預(yù)測(cè)，通過分析1～8 步輸入步長(zhǎng)對(duì)MAPE值的影響， 選擇5步輸入步長(zhǎng)進(jìn)行特征學(xué)習(xí)和模型訓(xùn)練。

綜上所述，在選擇輸入步長(zhǎng)的方法方面研究較少， 大多直接選擇較小的固定步長(zhǎng)作為模型的輸入， 也有研究通過一些遞減的規(guī)律來(lái)選擇輸入步長(zhǎng)，但這種方法仍依賴于人為的選擇。 為了能夠自適應(yīng)地選取輸入步長(zhǎng)，研究基于交通流時(shí)間序列的自相關(guān)分析， 將輸入步長(zhǎng)與本身的數(shù)據(jù)特征相結(jié)合， 采用機(jī)器學(xué)習(xí)模型中常用的LSSVM，RF，LSTM 3 種模型， 探究自相關(guān)系數(shù)與最佳輸入步長(zhǎng)之間的關(guān)系，最終提出一種基于時(shí)間序列分析能夠自適應(yīng)選取最佳輸入步長(zhǎng)的方法。

1 相關(guān)理論

1.1 自相關(guān)分析

在時(shí)間序列分析中， 自相關(guān)函數(shù)常用來(lái)分析時(shí)間序列與其自身k 階滯后序列之間的相關(guān)關(guān)系，以此度量歷史數(shù)據(jù)對(duì)t 時(shí)刻產(chǎn)生的影響。 在交通流數(shù)據(jù)的自相關(guān)分析中， 可以有效地識(shí)別時(shí)間序列中的周期性特征， 也可以通過相關(guān)程度粗略的判斷輸入數(shù)據(jù)與預(yù)測(cè)數(shù)據(jù)之間的關(guān)系[20]。 其中，以k=0，1，2，…，n 表示時(shí)間序列的滯后階數(shù)，給定目標(biāo)預(yù)測(cè)路段的時(shí)間序列{yt}及滯后序列{yt+k},自相關(guān)函數(shù)定義[21]如下

式中：k 為滯后步長(zhǎng)；cov（yt，yt+k）為yt與yt+k的協(xié)方差；σyt為yt的均方差。

1.2 最小二乘支持向量機(jī)

最小二乘支持向量機(jī)作為支持向量機(jī)的改進(jìn)模型，不僅可以有效的處理強(qiáng)非線性數(shù)據(jù)，而且通過簡(jiǎn)化求解二次規(guī)劃問題減少了訓(xùn)練時(shí)間，極大地增強(qiáng)了LSSVM 的適用性。 與SVM 相同，LSSVM 將交通流數(shù)據(jù)通過非線性變換映射到高維空間[22-23]

式中：ω 為超平面的權(quán)值；c 為常數(shù)；φ（·）為空間轉(zhuǎn)換函數(shù)。

最小二乘支持向量機(jī)的目標(biāo)函數(shù)定義如下

式中：ei為誤差；γ 為懲罰因子。

構(gòu)造拉格朗日函數(shù)如下

式中：ai為拉格朗日乘子。 根據(jù)KKT 條件可得

求解式（5），可得LSSVM 數(shù)學(xué)模型

式中：K（·）為模型核函數(shù)，通常采用RBF 核函數(shù)，即

式中：φ 為核函數(shù)參數(shù)。

1.3 隨機(jī)森林

隨機(jī)森林是一種有監(jiān)督的Bagging（bootstrap aggregating）類集成學(xué)習(xí)方法，具有強(qiáng)大的數(shù)據(jù)挖掘和學(xué)習(xí)能力，在眾多領(lǐng)域均有廣泛的應(yīng)用。 在交通流預(yù)測(cè)研究中， 主要采用隨機(jī)森林的回歸算法，由Bootstrap 法重采樣隨機(jī)形成決策樹，大量相互獨(dú)立的決策樹組成森林，將多個(gè)決策樹預(yù)測(cè)結(jié)果取平均值得到最終的結(jié)果，收斂速度快并且具有較高的精確性。 而且隨機(jī)森林能很好的處理交通流數(shù)據(jù)中的噪聲和異常值，數(shù)據(jù)隨機(jī)以及特征隨機(jī)的特點(diǎn)能夠避免訓(xùn)練數(shù)據(jù)出現(xiàn)過擬合的現(xiàn)象，在大規(guī)模的交通流數(shù)據(jù)中依然可以有效地運(yùn)行[24]。

1.4 長(zhǎng)短記憶神經(jīng)網(wǎng)絡(luò)

長(zhǎng)短記憶神經(jīng)網(wǎng)絡(luò)是一種遞歸神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，作為循環(huán)神經(jīng)網(wǎng)絡(luò)（recurrent neural network，RNN）的一個(gè)重要變體[25]，它解決了RNN 中存在的長(zhǎng)期依賴和梯度彌散的問題， 通過記憶細(xì)胞長(zhǎng)時(shí)間記憶某個(gè)值， 可以更好地捕捉長(zhǎng)時(shí)間步中時(shí)間序列中的規(guī)律。典型的LSTM 在RNN 的基礎(chǔ)上引入了輸入門、遺忘門、輸出門來(lái)控制信息傳遞與丟棄。其中，輸入門獲取輸入數(shù)據(jù)并對(duì)其進(jìn)行更新， 遺忘門給記憶細(xì)胞選擇權(quán)是否維持舊的值，輸出門計(jì)算并輸出結(jié)果。

本文將輸入時(shí)間序列表示為X=[x1，x2，…，xn]，對(duì)輸入t 時(shí)刻數(shù)據(jù)進(jìn)行更新

通過更新門和遺忘門對(duì)記憶細(xì)胞中存儲(chǔ)的值進(jìn)行更新為

輸出門輸出結(jié)果為

式中：xt為t 時(shí)刻的輸入； c～t為t 時(shí)刻的候選記憶細(xì)胞；ct為t 時(shí)刻記憶細(xì)胞； at-1為t-1 時(shí)刻的隱藏狀態(tài)；Γu，Γf，Γo分別為t 時(shí)刻的更新門、遺忘門、輸出門的輸出；Wc，Wu，Wf，Wo分別為各門的權(quán)重參數(shù)；bc，bu，bf，bo為偏置參數(shù)；tan h，ε 為激活函數(shù)。

1.5 交通流預(yù)測(cè)方法

LSSVM，RF，LSTM 分別作為機(jī)器學(xué)習(xí)模型中二分類、集成學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)中常用的預(yù)測(cè)模型，選用這3 種模型研究通過自相關(guān)分析選取最佳輸入步長(zhǎng)的方法。 將車流量時(shí)間序列作為預(yù)測(cè)模型的輸入，以不同的輸入步長(zhǎng)分別進(jìn)行訓(xùn)練，預(yù)測(cè)未來(lái)15 min 的車流量，取5 次預(yù)測(cè)誤差的均值作為最終的預(yù)測(cè)結(jié)果進(jìn)行分析。

輸入步長(zhǎng)的長(zhǎng)度以n 來(lái)表示，交通流預(yù)測(cè)的整體流程圖如圖1 所示。

圖1 交通流預(yù)測(cè)流程圖Fig.1 Flow chart of traffic flow prediction

2 實(shí)例應(yīng)用

2.1 數(shù)據(jù)來(lái)源及預(yù)處理

數(shù)據(jù)集來(lái)源于英國(guó)曼徹斯特郡的某個(gè)路段的車流量數(shù)據(jù)， 選取編號(hào)為A9094、B26053、B9117、A9116、A9070、A5103 的6 個(gè)觀測(cè)點(diǎn)作為研究對(duì)象，為了方便說(shuō)明，將6 個(gè)觀測(cè)點(diǎn)的編號(hào)分別簡(jiǎn)化為序號(hào)1～6。 每個(gè)觀測(cè)點(diǎn)數(shù)據(jù)集的時(shí)間跨度為2020 年1月6 日—2020 年2 月9 日，共35 d，每組數(shù)據(jù)的采樣時(shí)間間隔為15 min，樣本總量為20 160。

為了能夠獲得較好的擬合效果，提高模型的收斂速度，本文采用Min-Max 函數(shù)對(duì)數(shù)據(jù)進(jìn)行歸一化處理。 按8∶2 的比例劃分訓(xùn)練集和測(cè)試集， 其中2020 年1 月6 日—2020 年2 月2 日共28 d 作為訓(xùn)練集，2020 年2 月3 日—2020 年2 月9 日共7 d 的數(shù)據(jù)為測(cè)試集。

2.2 模型參數(shù)設(shè)置及評(píng)價(jià)指標(biāo)選取

參數(shù)尋優(yōu)過程保存在網(wǎng)站https://github.com/Team-Cheng/ACF-parameter-optimization-.git 中，尋找各模型的局部最優(yōu)參數(shù)，具體設(shè)置如下。 LSSVM模型選用RBF 核函數(shù)，模型的性能主要取決于γ 和σ 兩個(gè)參數(shù)， 每個(gè)觀測(cè)點(diǎn)的γ 和σ 分別設(shè)置為10、0.1。RF 模型中主要確定最佳葉子數(shù)以及樹數(shù)，在模型訓(xùn)練中每個(gè)觀測(cè)點(diǎn)設(shè)置了200 棵決策樹，每棵決策樹的最佳葉子數(shù)為20。 LSTM 模型采用2 層LSTM結(jié)構(gòu)，2 層隱藏層的節(jié)點(diǎn)數(shù)分別設(shè)為32 和16， 添加了Dropout 層來(lái)增加模型的泛化能力，設(shè)置丟棄概率為0.1。 選用ReLU 作為激活函數(shù)， 優(yōu)化函數(shù)選用Adam 優(yōu)化函數(shù)，初始學(xué)習(xí)率設(shè)置為0.005，進(jìn)行100輪迭代訓(xùn)練，梯度閾值設(shè)置為1 以防止梯度爆炸。

采用均方根誤差（root mean square error,RMSE）作為指標(biāo)對(duì)預(yù)測(cè)結(jié)果的精確度進(jìn)行評(píng)價(jià)，它通過計(jì)算預(yù)測(cè)值和真實(shí)值之間的標(biāo)準(zhǔn)差來(lái)反映預(yù)測(cè)結(jié)果的準(zhǔn)確性，計(jì)算式為

式中：yi為目標(biāo)預(yù)測(cè)路段的實(shí)際交通流量值；y^i為目標(biāo)預(yù)測(cè)路段的預(yù)測(cè)交通流量值。

2.3 實(shí)驗(yàn)結(jié)果與分析

首先，確定3 個(gè)交通流預(yù)測(cè)模型輸入步長(zhǎng)的閾值。 隨機(jī)選取一個(gè)觀測(cè)點(diǎn)，以輸入步長(zhǎng)n=1，2，3，…，i 分別進(jìn)行預(yù)測(cè)， 觀察RMSE 值的趨勢(shì)變化。 3個(gè)模型不同輸入步長(zhǎng)的RMSE 值如圖2 所示。 從對(duì)RMSE 進(jìn)行擬合的曲線圖中可以看出， 隨著輸入步長(zhǎng)的增加，LSSVM 模型的預(yù)測(cè)誤差呈現(xiàn)出先減小后逐漸增大的趨勢(shì)；LSTM 預(yù)測(cè)結(jié)果波動(dòng)較大，但總體而言，呈逐漸增加的趨勢(shì)，在48 步之后，有明顯增加的趨勢(shì)； 而RF 模型的RMSE 值隨著輸入步長(zhǎng)的增加呈逐漸降低的趨勢(shì)。綜合LSSVM 以及LSTM 模型的預(yù)測(cè)結(jié)果分析，選擇48 步輸入步長(zhǎng)作為上限。

圖2 各模型不同輸入步長(zhǎng)的RMSEFig.2 RMSE of different time step of each model

2.3.1 LSSVM 預(yù)測(cè)結(jié)果

不同輸入步長(zhǎng)下LSSVM 的預(yù)測(cè)誤差以及自相關(guān)系數(shù)值如圖3 所示。 從對(duì)RMSE 進(jìn)行擬合的曲線圖中可以看出， 隨著輸入步長(zhǎng)的增加，LSSVM 的預(yù)測(cè)誤差呈先減小后增大的趨勢(shì)，當(dāng)輸入步長(zhǎng)超過10步后，RMSE 值增加迅速， 輸入步長(zhǎng)對(duì)LSSVM 模型的預(yù)測(cè)結(jié)果影響較大。 結(jié)合6 個(gè)觀測(cè)點(diǎn)交通流時(shí)間序列的自相關(guān)分析，當(dāng)輸入步長(zhǎng)的自相關(guān)系數(shù)值在0.80～0.91 時(shí)，LSSVM 會(huì)有最小的RMSE 值。

圖3 LSSVM 不同輸入步長(zhǎng)RMSE 及ACFFig.3 RMSE and ACF of different time step of LSSVM

2.3.2 RF 預(yù)測(cè)結(jié)果

不同輸入步長(zhǎng)下RF 模型的RMSE 值以及自相關(guān)系數(shù)值如圖4 所示。 從對(duì)RMSE 進(jìn)行擬合的曲線圖可以看出， 隨著輸入步長(zhǎng)的增加，RF 模型的RMSE 值逐漸減小，有可能存在最小的預(yù)測(cè)誤差，也有可能隨著輸入步長(zhǎng)的增加誤差繼續(xù)減小。 原因可能是RF 模型在訓(xùn)練過程中，輸入步長(zhǎng)跨度內(nèi)的交通流數(shù)據(jù)作為RF 中特征的一部分， 可能受到特征隨機(jī)性選擇或者特征數(shù)量對(duì)模型預(yù)測(cè)的影響。 而綜合6 個(gè)觀測(cè)點(diǎn)交通流數(shù)據(jù)的自相關(guān)分析， 難以找到相同的規(guī)律，通過時(shí)間序列的自相關(guān)分析尋找預(yù)測(cè)誤差較小的輸入步長(zhǎng)的方法可能并不適用于RF 模型。

圖4 RF 不同輸入步長(zhǎng)RMSE 及ACFFig.4 RMSE and ACF of different time step of RF

2.3.3 LSTM 預(yù)測(cè)結(jié)果

基于6 個(gè)觀測(cè)點(diǎn)的車流量數(shù)據(jù)，對(duì)各觀測(cè)點(diǎn)從1 步到48 步的不同輸入步長(zhǎng)分別進(jìn)行預(yù)測(cè)，取5 次RMSE 平均值進(jìn)行結(jié)果分析。LSTM 模型各觀測(cè)點(diǎn)不同輸入步長(zhǎng)RMSE 以及相應(yīng)的自相關(guān)系數(shù)值如圖5所示。 從對(duì)RMSE 進(jìn)行擬合的曲線圖可以看出，LSTM模型的預(yù)測(cè)結(jié)果相比較于LSSVM 以及RF 模型，波動(dòng)程度較大。 但從RMSE 值曲線整體而言，LSTM 預(yù)測(cè)模型的誤差會(huì)先呈下降趨勢(shì)，之后隨著步長(zhǎng)的增加，RMSE 值呈增加趨勢(shì)。綜合觀察6 個(gè)觀測(cè)點(diǎn)達(dá)到最小誤差的輸入步長(zhǎng)及相應(yīng)的自相關(guān)系數(shù)值，可以發(fā)現(xiàn)， 當(dāng)輸入步長(zhǎng)的自相關(guān)系數(shù)在0.47～0.51 之間時(shí)，LSTM 可以獲得較好的擬合效果和較好的精度。

圖5 LSTM 不同輸入步長(zhǎng)RMSE 及ACFFig.5 RMSE and ACF of different time step of LSTM

2.3.4 結(jié)果分析

通過對(duì)交通流時(shí)間序列進(jìn)行自相關(guān)分析，結(jié)合3 種模型不同輸入步長(zhǎng)的預(yù)測(cè)結(jié)果，3 種模型最佳輸入步長(zhǎng)的自相關(guān)系數(shù)值如表1 所示。 其中，LSSVM 以及LSTM 最佳輸入步長(zhǎng)的自相關(guān)系數(shù)有一定的規(guī)律， 通過時(shí)間序列的自相關(guān)分析，LSSVM可以選取自相關(guān)系數(shù)在0.80～0.91 的輸入步長(zhǎng)，LSTM 則可以選取自相關(guān)系數(shù)在0.47～0.51 的輸入步長(zhǎng)， 而RF 預(yù)測(cè)模型中精度較好的輸入步長(zhǎng)與其相應(yīng)的自相關(guān)系數(shù)之間的規(guī)律難以找到，數(shù)據(jù)自相關(guān)分析的方法可能并不適用。

表1 各模型最佳輸入步長(zhǎng)及自相關(guān)系數(shù)值Tab.1 Optimal time step and autocorrelation coefficient of each model

3 結(jié)論

基于交通流時(shí)間序列的自相關(guān)分析，選用機(jī)器學(xué)習(xí)中常用的LSSVM、RF、LSTM 模型進(jìn)行預(yù)測(cè)，提出一種自適應(yīng)選取最佳輸入步長(zhǎng)的方法。

1） 當(dāng)采用LSSVM 模型時(shí)， 建議選用自相關(guān)系數(shù)值在0.80～0.91 的輸入步長(zhǎng)，RMSE 值可能有最小值，預(yù)測(cè)精度較高。

2） 采用LSTM 模型進(jìn)行交通流預(yù)測(cè)時(shí)，可以選取自相關(guān)系數(shù)值在0.47～0.51 的輸入步長(zhǎng)， 預(yù)測(cè)誤差較低。

3） 選用RF 模型進(jìn)行交通流預(yù)測(cè)時(shí)，預(yù)測(cè)誤差最小的輸入步長(zhǎng)較大或者自相關(guān)程度較低，通過時(shí)間序列的自相關(guān)分析選擇輸入步長(zhǎng)的方法可能并不適用， 針對(duì)RF 模型的最佳輸入步長(zhǎng)選擇方法需要進(jìn)一步的研究。