□ 靳 猷

(北京公聯(lián)交通樞紐建設(shè)管理有限公司，北京 100000)

目前，國內(nèi)外關(guān)于停車需求預(yù)測(cè)的研究較多。大致可分為統(tǒng)計(jì)分析與機(jī)器學(xué)習(xí)[4]。張雷通過引入時(shí)間序列模型，基于停車場(chǎng)的車輛出入數(shù)據(jù)，對(duì)其進(jìn)行了實(shí)時(shí)預(yù)測(cè)[5]，Cheng等人針對(duì)典型停車到達(dá)和離開規(guī)律分布，利用馬爾科夫生死過程建立停車需求預(yù)測(cè)模型[4]。隨著機(jī)器學(xué)習(xí)領(lǐng)域的發(fā)展，一些神經(jīng)網(wǎng)絡(luò)模型也被應(yīng)用到了需求預(yù)測(cè)中，并獲得了較好的應(yīng)用。高健夫等人利用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行泊位預(yù)測(cè)，得到較好的停車需求預(yù)測(cè)模型[6]。但由于BP神經(jīng)網(wǎng)絡(luò)模型本身存在全局性差，易陷入局部最優(yōu)等缺陷，而為避免出現(xiàn)梯度消失的問題，1997 年Hochreiter和Schmidhuber提出了長短期記憶網(wǎng)絡(luò)(Long-term and Short-term Memory Network,LSTM)[7]，解決了一般的 RNN 存在的長期依賴問題，裘瑞清利用BP神經(jīng)網(wǎng)絡(luò)和LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)泊位需求的短時(shí)預(yù)測(cè)，結(jié)果表明LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)效果明顯優(yōu)于BP神經(jīng)網(wǎng)絡(luò)[8]。LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)目前已被廣泛應(yīng)用于社會(huì)各個(gè)領(lǐng)域，如電力行業(yè)、物流庫存量等。徐堯強(qiáng)等人用電量和溫度、風(fēng)速、相對(duì)濕度、降水之間的動(dòng)力學(xué)因果關(guān)系為研究對(duì)象，建立長短時(shí)記憶網(wǎng)絡(luò)模型，并將建立的模型應(yīng)用在市用電量預(yù)測(cè)中，驗(yàn)證了 LSTM 神經(jīng)網(wǎng)絡(luò)模型在城市用電量預(yù)測(cè)中的實(shí)用性[9]；王淵明以電商行業(yè)的歷史銷售數(shù)據(jù)為研究對(duì)象，構(gòu)建LSTM 神經(jīng)網(wǎng)絡(luò)模型對(duì)其進(jìn)行預(yù)測(cè)，并對(duì)照了BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)結(jié)果，發(fā)現(xiàn)LSTM的誤差結(jié)果明顯低于BP神經(jīng)網(wǎng)絡(luò)[10]。但基于神經(jīng)網(wǎng)絡(luò)需要大量的停車標(biāo)簽數(shù)據(jù)的現(xiàn)實(shí)情況，目前普遍缺乏公開的停車數(shù)據(jù)，導(dǎo)致LSTM 神經(jīng)網(wǎng)絡(luò)仍未被廣泛應(yīng)用于停車需求預(yù)測(cè)研究中。

本文主要針對(duì)停車場(chǎng)的停車需求問題，利用LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)算法進(jìn)行預(yù)測(cè)，首先對(duì)算法進(jìn)行簡(jiǎn)要介紹和分析，構(gòu)建泊位需求預(yù)測(cè)模型，以北京市宋家莊停車場(chǎng)為實(shí)驗(yàn)對(duì)象進(jìn)行停車需求預(yù)測(cè)。

1 LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)介紹

基礎(chǔ)的神經(jīng)網(wǎng)絡(luò)包括輸入層、隱含層和輸出層，通過激活函數(shù)控制輸出，層與層之間通過權(quán)值連，步驟如下。

步驟1：網(wǎng)絡(luò)初始化。根據(jù)系統(tǒng)給定的序列(x,y)確定網(wǎng)絡(luò)輸入層節(jié)點(diǎn)數(shù)I、隱藏層節(jié)點(diǎn)數(shù)J，輸出層節(jié)點(diǎn)數(shù)K，初始化輸入層、隱含層和輸出層之間的鏈接權(quán)重wij和wjk，初始化隱含層偏置a和輸出層偏置b，給定學(xué)習(xí)率和激活函數(shù)。

步驟2：計(jì)算隱含層輸出。

(1)

其中，f為激活函數(shù)，如sigmoid，如式(2)所示。

(2)

步驟3：計(jì)算輸出層，如式(3)所示。

其中，hj表示各消費(fèi)支出項(xiàng)目與產(chǎn)業(yè)結(jié)構(gòu)的和諧度，wj表示各消費(fèi)項(xiàng)目所占權(quán)重，通常用各項(xiàng)消費(fèi)支出在總消費(fèi)支出中所占比重來表示。

(3)

步驟4：誤差計(jì)算，如式(4)所示。

ek=Ok-Yk,k=1,2,…,K#

(4)

步驟5：利用梯度下降法更新權(quán)值和偏置，以減小誤差。

RNN與一般神經(jīng)網(wǎng)絡(luò)的區(qū)別在于其存在神經(jīng)元反饋連接，這種形式的連接使得網(wǎng)絡(luò)能夠以一種激勵(lì)的形式存儲(chǔ)最近時(shí)間段的輸入數(shù)據(jù)信息(短時(shí)記憶)，即循環(huán)神經(jīng)網(wǎng)絡(luò)在t時(shí)刻的輸入完成與輸出的映射且參考了t之前所有輸入數(shù)據(jù)對(duì)網(wǎng)絡(luò)的影響，形成了反饋網(wǎng)絡(luò)結(jié)構(gòu)。但RNN在訓(xùn)練過程中可能發(fā)生的梯度消失現(xiàn)象，致使RNN只能短期記憶，由此LSTM網(wǎng)絡(luò)被提出。LSTM與RNN的區(qū)別在于細(xì)胞的結(jié)構(gòu)和運(yùn)算，LSTM中細(xì)胞由輸入門、遺忘門和輸出門組成，其核心概念在于細(xì)胞狀態(tài)與“門”結(jié)構(gòu)。遺忘門決定了上一時(shí)刻(t-1)的單元狀態(tài)ct-1對(duì)當(dāng)前時(shí)刻(t)ct的影響程度，計(jì)算公式如式(5)所示。

fc=σ(Wf·[ht-1,xt]+bf)#

(5)

其中，ft為遺忘門狀態(tài)結(jié)算結(jié)果，Wf為遺忘門的權(quán)重矩陣，bf為遺忘門的偏置，σ為激活函數(shù)。

輸入門決定當(dāng)前時(shí)刻網(wǎng)絡(luò)的輸入xt對(duì)單元狀態(tài)ct的影響程度，計(jì)算公式如式(6)。其中，bi為遺忘門的偏置，it為輸入門狀態(tài)結(jié)算結(jié)果，Wi為輸入門的權(quán)重矩陣。

it=σ(Wi·[ht-1,xt]+bi)#

(6)

當(dāng)前時(shí)刻輸入的單元狀態(tài)根據(jù)前一時(shí)刻的輸出和當(dāng)前時(shí)刻的輸入確定，計(jì)算公式如式(7)。

(7)

輸出門控制單元狀態(tài)ct對(duì)當(dāng)前輸出值ht的影響程度，計(jì)算公式如(8)所示。

ot=σ(Wo·[ht-1,xt]+bo)#

(8)

其中,ot為輸出門狀態(tài)結(jié)算結(jié)果，ht=ot·tanh(ct)，Wo為輸出門的權(quán)重矩陣。

由此完成LSTM的正向傳播過程。

2 停車需求預(yù)測(cè)的 LSTM 模型構(gòu)建

數(shù)據(jù)預(yù)處理。

本文使用的數(shù)據(jù)來源于北京公聯(lián)樞紐建設(shè)管理有限公司負(fù)責(zé)管理運(yùn)營的宋家莊樞紐停車場(chǎng)2019年10月1日至2019年12月31日共92天的車輛出入記錄，通過對(duì)數(shù)據(jù)進(jìn)行預(yù)處理，獲得了宋家莊樞紐停車場(chǎng)2019年10月1日至2019年12月31日共92天時(shí)間間隔為1小時(shí)的泊位需求值，具體的泊位需求變化如圖1所示。

圖1 10-12月時(shí)間間隔為1小時(shí)的停車需求

如圖1所示，工作日和雙休日的停車需求數(shù)量基本趨于穩(wěn)定，且具有一定規(guī)律，工作日停車需求普遍高于雙休日，其中10月1號(hào)至10月7號(hào)為法定節(jié)假日，故停車需求數(shù)量較少，符合實(shí)際情況。

3 結(jié)果分析

3.1 模型構(gòu)建和參數(shù)設(shè)置

本文的預(yù)測(cè)過程使用所有數(shù)據(jù)中前90%共82天的數(shù)據(jù)作為訓(xùn)練集，后10%用于測(cè)試。LSTM回歸網(wǎng)絡(luò)由1個(gè)輸入層、1個(gè)隱藏層(200個(gè)隱含單元)、1個(gè)輸出層組成。在網(wǎng)絡(luò)訓(xùn)練中，采用“adam”算法加速網(wǎng)絡(luò)收斂[11]，并進(jìn)行 250 輪訓(xùn)練。其中，網(wǎng)絡(luò)中的狀態(tài)激活函數(shù)選取的是雙曲正切函數(shù)(tanh)，門激活函數(shù)選取的是simoid，損失函數(shù)選取均方誤差(RMSE)。同時(shí)，為防止梯度爆炸，將梯度閾值設(shè)置為 1，并指定初始學(xué)習(xí)率 0.005，在 125 輪訓(xùn)練后通過乘以因子 0.2 來降低學(xué)習(xí)率。

3.2 誤差結(jié)果分析

預(yù)測(cè)過程中，將響應(yīng)指定為將值移位了一個(gè)時(shí)間步的訓(xùn)練序列。也就是說，在輸入序列的每個(gè)時(shí)間步后，LSTM 網(wǎng)絡(luò)都學(xué)習(xí)預(yù)測(cè)下一個(gè)時(shí)間步的值。初始化網(wǎng)絡(luò)狀態(tài)后，對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行預(yù)測(cè)。接下來，使用訓(xùn)練響應(yīng)的最后一個(gè)時(shí)間步進(jìn)行第一次預(yù)測(cè)，即完成預(yù)測(cè)過程。

訓(xùn)練過程如圖2所示，隨著迭代次數(shù)的增加，均方誤差(RMSE)和損失逐漸減小并收斂，當(dāng)?shù)螖?shù)達(dá)到50，RMSE和損失趨于平穩(wěn)。

圖2 LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程

預(yù)測(cè)結(jié)果如圖3所示，利用LSTM神經(jīng)網(wǎng)絡(luò)訓(xùn)練得到的模型對(duì)10月-12月92天后10%的數(shù)據(jù)進(jìn)行預(yù)測(cè)，通過對(duì)比停車需求預(yù)測(cè)值和觀測(cè)值，發(fā)現(xiàn)均方誤差RMSE為22.605，誤差較小，但是如圖4所示，預(yù)測(cè)值與觀測(cè)值存在一定誤差，且未體現(xiàn)工作日和雙休日的停車需求數(shù)量變化特征。

圖3 LSTM神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)結(jié)果圖

圖4 觀測(cè)值與預(yù)測(cè)值對(duì)比圖

為對(duì)預(yù)測(cè)結(jié)果進(jìn)行更細(xì)致的分析，從全部數(shù)據(jù)中的后10%中隨機(jī)提取工作日一天，周末一天進(jìn)行神經(jīng)網(wǎng)絡(luò)模型測(cè)試，得到的結(jié)果如下。

對(duì)比圖5和圖6，任意工作日的預(yù)測(cè)結(jié)果明顯優(yōu)于任意周末的預(yù)測(cè)結(jié)果(RMSE=18.4763<32.9507)，這是由于普通工作日泊位需求變化較為穩(wěn)定，且工作日數(shù)量較多，訓(xùn)練樣本大，因此，得到的預(yù)測(cè)結(jié)果誤差較小。

圖5 任意工作日預(yù)測(cè)結(jié)果圖

圖6 任意周末預(yù)測(cè)結(jié)果

前文中，LSTM神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)過程所使用的是停車需求預(yù)測(cè)值，若可以獲取預(yù)測(cè)之前的時(shí)間步的實(shí)際值，則可以使用觀測(cè)值而不是預(yù)測(cè)值更新網(wǎng)絡(luò)狀態(tài)，因此，為進(jìn)一步分析LSTM神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)結(jié)果，本文對(duì)兩種預(yù)測(cè)結(jié)果進(jìn)行了對(duì)比，如圖4、7所示。

通過對(duì)比可知，使用觀測(cè)值更新網(wǎng)絡(luò)狀態(tài)的誤差明顯低于使用預(yù)測(cè)值更新網(wǎng)絡(luò)的結(jié)果(均方誤差RMSE=5.8534遠(yuǎn)遠(yuǎn)小于22,605)，預(yù)測(cè)更加準(zhǔn)確，且體現(xiàn)出了工作日和雙休日的停車需求數(shù)量變化特征，說明相比于使用預(yù)測(cè)值更新狀態(tài)的預(yù)測(cè)結(jié)果，使用觀測(cè)值更新網(wǎng)絡(luò)進(jìn)行預(yù)測(cè)具有一定的優(yōu)越性。

4 結(jié)論

停車需求預(yù)測(cè)對(duì)于緩解停車矛盾具有重要意義，當(dāng)面對(duì)突發(fā)交通狀況時(shí)可以幫助停車管理者更好地管理車位和道路交通。本文基于LSTM 循環(huán)神經(jīng)網(wǎng)絡(luò)，以公聯(lián)樞紐宋家莊停車場(chǎng)3個(gè)月的車輛出入數(shù)據(jù)為研究對(duì)象，其中停車需求數(shù)據(jù)以小時(shí)為單位時(shí)間間隔，建立了停車需求預(yù)測(cè)模型，測(cè)試數(shù)據(jù)與實(shí)際數(shù)據(jù)的對(duì)比表明預(yù)測(cè)結(jié)果較為精確，能夠較好地反映該停車場(chǎng)的車位使用情況與停車需求特性。

但該預(yù)測(cè)方法仍存在一定缺點(diǎn)，實(shí)驗(yàn)訓(xùn)練數(shù)據(jù)不足會(huì)導(dǎo)致某些特殊情況的預(yù)測(cè)情況并不十分理想(如周末)，此外，由于神經(jīng)網(wǎng)絡(luò)本身缺少理論支持，參數(shù)需要由經(jīng)驗(yàn)決定，需要進(jìn)行較長時(shí)間訓(xùn)練才能得到理想模型。