天津大學 孔祥玉等：基於深度信念網路的短期負荷預測方法

提示：點擊"電力系統自動化"↑關注本刊微信

原文發表在《電力系統自動化》2018年第42卷第5期，歡迎品讀。

本文引文信息

孔祥玉, 鄭鋒, 鄂志君, 等. 基於深度信念網路的短期負荷預測方法 [J]. 電力系統自動化, 2018, 42(5): 133-139. DOI: 10.7500/ AEPS20170826002.

KONG Xiangyu, ZHENG Feng, E Zhijun, et al. Short-term Load Forecasting Based on Deep Belief Network [J]. Automation of Electric Power Systems, 2018, 42(5): 133-139. DOI: 10.7500/ AEPS20170826002.

基於深度信念網路的短期負荷預測方法

DOI: 10.7500/AEPS20170826002

孔祥玉，鄭鋒，鄂志君，曹旌，王鑫

1

研究背景

電力系統信息化的發展及配電網中分散式電源和電動汽車的大量接入，增加了用電模式的複雜性，對負荷預測的精確度和穩定性提出了更高的要求。隨著電力市場化的發展，用戶用能行為、用戶對激勵政策的響應程度和城市發展狀況等進一步增加了用電模式的複雜性。深度信念網路（Deep Belief Network，DBN）是一種高效無監督學習演算法，融合了深度學習和特徵學習，可以對大量數據進行快速分析，具有強大的數據擬合能力。近年來，DBN在圖像識別、匯率預測和局部放電模式識別等領域得到了廣泛的應用，為複雜環境下的負荷預測問題提供了新的思路。

本文針對複雜環境下基於深度信念網路的短期負荷預測方法開展研究。採用無監督訓練與有監督訓練相結合的混合訓練方法對預測模型進行部分有監督預訓練，旨在對負荷影響因素與待預測負荷之間的複雜非線性關係進行分層表徵，以實現更好地逼近複雜現實情況；採用列文伯格-馬誇爾特（LM）演算法對預訓練階段得到的初始網路參數進行全局微調，避免了梯度下降法收斂緩慢和容易陷入局部最優的缺點。

2

基於深度信念網路的負荷預測方法

深度信念網路逐層無監督的學習過程可以弱化和目標函數相關性小的輸入特徵，進而能夠更好地逼近複雜函數，有效提高負荷預測的準確性。將DBN應用於複雜因素下的負荷預測問題中，其關鍵問題在於預測模型的構造和相應模型的有效訓練。

2.1

基於DBN的負荷預測模型結構

所構建用於負荷預測的深度信念網路的結構如圖1所示，由一個輸入層、多個隱藏層和一個輸出層構成。輸入層和所有隱藏層共同構成DBN模型，實現對輸入數據的特徵提取；最後一個隱藏層和輸出層構成線性神經網路，作為網路的回歸層，將DBN提取的特徵向量作為輸入，通過線性激活函數處理得到負荷預測值。模型的輸出為預測點的負荷預測值，輸入數據則為影響負荷的各種因素，包括日期屬性（月份、星期類型、節假日類型等）、天氣數據（如溫度、濕度、光照強度等）、需求側管理信息（如峰谷分時電價等）。將DBN和線性神經網路堆疊構成的改進DBN網路結構簡記為DBN-NN。由於DBN的最頂上兩層隱藏層為雙向連接，下面各層之間是自頂向下的有向連接，使得DBN-NN負荷預測模型便於基於訓練樣本逐層進行預訓練。

圖1 用於負荷預測的DBN-NN結構圖

2.2N

DBN-NN的部分有監督預訓練階段

為了對輸入變數與輸出變數之間的複雜非線性關係進行分層表徵，採用無監督訓練與有監督訓練相結合的部分有監督訓練的方法對預測模型進行預訓練，對第一層隱藏層的訓練採用無監督訓練與有監督訓練相結合的混合訓練方法，以後各層逐層無監督訓練。將訓練數據作為第一層RBM的輸入向量，訓練後得到其參數並固定；然後將相應的隱藏單元激活概率作為第二層RBM的輸入向量，訓練得到其參數，以後各層以此類推，直到最頂層結束，由此可以得到DBN網路的權重和偏置參數。DBN部分有監督預訓練具體流程見圖2。

圖2 DBN部分有監督預訓練流程圖

2.3

基於LM演算法的有監督微調階段

在預訓練階段完成後，通常採用最速梯度下降法和共軛梯度下降法將誤差反向傳播實現有監督微調，但該類方法往往收斂緩慢，容易陷入局部最優。LM演算法適用於誤差性能函數為誤差平方和的情況，具有局部漸進的二階收斂性，所需要的迭代次數很少，並且一定收斂至非線性方程的最小二乘解。因此本文採用LM演算法對整體參數進行微調，使模型收斂到全局最優點。LM演算法的每次迭代就是尋找一個合適的阻尼因子。當阻尼因子為0時，演算法轉化為最小二乘解的高斯-牛頓法；當阻尼因子很大時，則轉化為最速梯度下降法。因此，在迭代前期，LM演算法具有最速下降法初始下降量大、迭代迅速的全局收斂特性；而在迭代後期，具有高斯牛頓法局部收斂的特性，避免了最速下降法的缺點。

3

基於DBN-NN的短期負荷預測求解流程

基於DBN-NN的負荷預測演算法的具體步驟如下：

1）首先對原始數據集進行預處理，並選取待預測日的訓練樣本集。對於非節假日，選取待預測日前若干天非節假日的數據作為訓練樣本集；對於節假日，採用加權灰色關聯投影方法選取待預測日的相似日的數據作為訓練數據集。

2）構造DBN-NN負荷預測模型，利用訓練樣本集對其進行部分有監督預訓練，得到負荷預測模型的網路參數初始值。

3）通過LM優化演算法對DBN-NN進行有監督訓練，微調整個網路的參數，得到最優解。

4）訓練完成後，將待預測時刻輸入數據集合輸入到訓練好的DBN-NN模型中，得到各個時刻的負荷預測值。

4

算例分析

以我國某地區實際負荷數據為基礎進行方法驗證。針對所構建的DBN-NN負荷預測模型，對隱藏層的層數和每個隱藏層的單元數量選取進行分析。採用枚舉法對隱藏單元數逐層進行選取，以驗證深度網路結構對預測效果和耗時的影響。算例分別對該地區2016年各個季節的負荷進行了預測，訓練樣本集由各個待預測日前10個月的負荷數據、天氣數據、日期類型數據和電價數據構成。為了突出本文方法的優勢，選擇BP神經網路、SVM方法和傳統DBN方法進行對比。圖3為2016年12月6日至12日連續七天實際負荷值和不同方法預測結果對比分析圖，驗證了本文方法具有較好的擬合精度。在考慮溫度、光照強度、濕度和峰谷分時電價影響的情況下，本文方法可以更充分的挖掘多個影響因素和負荷值的複雜關係，相應的MAPE總平均值為2.26%，比其他三種方法預測誤差都小。本文方法更適用於複雜因素下的負荷預測問題。

圖3 2016年12月6日至12日不同方法的預測結果對比

5

結論和展望

將改進的DBN應用於複雜環境下考慮多種因素影響的負荷預測問題中，通過部分有監督預訓練的方法將DBN-NN模型的參數初始化為較優解，再利用LM優化演算法進一步訓練得到全局最優解，既解決了模型訓練速度慢的問題，同時產生較好的參數參數，從而大大提升了模型的建模能力和預測精度。和BP神經網路、SVM方法和傳統DBN方法相比，改進的DBN預測模型能夠有效提高複雜影響因素情況下的負荷預測精度。未來可以將該方法與其他負荷預測方法相結合，並研究針對負荷特性分類及並行化的計算模型，進一步提高該方法的訓練效率及數據處理能力。

下方查看歷史文章

主要作者及團隊介紹

孔祥玉，博士，天津大學電氣工程系副教授。主要研究方向：電力系統分析、智能配用電技術。

鄭鋒，天津大學電氣工程系碩士研究生。主要研究方向：電力系統負荷預測。

智能電網教育部重點實驗室（Key Laboratory of Smart Grid of Ministry of Education）下設儲能系統實驗室、綜合能源系統模擬與監控實驗室、微電網實驗室、直流配電系統實驗室、智能用電實驗室等。實驗室現有中國工程院院士1人、俄羅斯工程院院士1人、國家千人計劃引進人才1人、長江學者特聘教授1人，國家傑出青年基金獲得者3人、國家973項目首席科學家1人。近年來，承擔數十項國家重大科研項目，實驗室研究成果獲得國家獎4項，省部級獎多項。

鄭重聲明：根據國家版權局相關規定，紙媒、網站、微博、微信公眾號轉載、摘編本微信作品，需包含本微信名稱、二維碼等關鍵信息，並在文首註明《電力系統自動化》原創。個人請按本微信原文轉發、分享。

關於《電力系統自動化》

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！