本發(fā)明屬于用電負(fù)荷預(yù)測，具體涉及一種基于集合函數(shù)的用電個(gè)性化用電負(fù)荷預(yù)測方法。

背景技術(shù)：

1、隨著智能電網(wǎng)的不斷普及和高級量測體系的建立，智能電網(wǎng)中產(chǎn)生了海量的用電數(shù)據(jù)。這些數(shù)據(jù)可以有效的幫助電力公司對電網(wǎng)中的負(fù)荷進(jìn)行有效預(yù)測。準(zhǔn)確安全的負(fù)荷預(yù)測對于電力生產(chǎn)、輸電和維護(hù)至關(guān)重要。建立深度學(xué)習(xí)模型是目前較為流行的預(yù)測方式，電力負(fù)荷數(shù)據(jù)本質(zhì)上屬于時(shí)間序列，現(xiàn)有方法通過循環(huán)神經(jīng)網(wǎng)絡(luò)、transformer等模型能夠很好地建模電力負(fù)荷數(shù)據(jù)中的時(shí)序依賴，從而有效挖掘各種用電設(shè)備潛在的用電模式，實(shí)現(xiàn)準(zhǔn)確的電力負(fù)荷預(yù)測。為節(jié)約數(shù)據(jù)傳輸成本并保護(hù)用戶隱私，基于云邊端架構(gòu)的聯(lián)邦學(xué)習(xí)策略應(yīng)運(yùn)而生，涵蓋了電力數(shù)據(jù)的采集、處理和智能分析等諸多方面應(yīng)用。通常在中心云平臺(云)和用戶終端(端)之間設(shè)置若干邊緣節(jié)點(diǎn)(邊)來接收各自負(fù)責(zé)臺區(qū)的用戶端數(shù)據(jù)，并在邊緣節(jié)點(diǎn)間采用聯(lián)邦學(xué)習(xí)策略來實(shí)現(xiàn)全局模型的分布式訓(xùn)練，即各邊緣節(jié)點(diǎn)利用自身的本地?cái)?shù)據(jù)進(jìn)行全局模型的調(diào)整，并向中心云服務(wù)器發(fā)送模型權(quán)重的更新量，中心服務(wù)器將計(jì)算所有邊緣節(jié)點(diǎn)發(fā)送的權(quán)重更新量平均用于更新全局模型。作為一種新型的分布式機(jī)器學(xué)習(xí)技術(shù)，聯(lián)邦學(xué)習(xí)只發(fā)送模型參數(shù)，不共享原始數(shù)據(jù)，保證了模型訓(xùn)練的高效性與安全性。

2、總的來說，現(xiàn)有方法通過深度學(xué)習(xí)模型建模電力時(shí)序數(shù)據(jù)中的時(shí)序依賴，并通過云邊端協(xié)同方案和聯(lián)邦學(xué)習(xí)策略來解決實(shí)際應(yīng)用場景中模型訓(xùn)練時(shí)出現(xiàn)的效率和安全問題。

3、然而，在預(yù)測用戶電力負(fù)荷時(shí)，現(xiàn)有方法針對的目標(biāo)主要是單個(gè)用戶或單個(gè)用戶的單個(gè)設(shè)備，僅強(qiáng)調(diào)挖掘某一用戶或其下某一設(shè)備的用電模式，并不能有效綜合分析單個(gè)臺區(qū)或者單個(gè)用戶下的綜合電力負(fù)荷預(yù)測，不利于基于集體的臺區(qū)或用戶行為模式分析、群體分類、行為數(shù)據(jù)的挖掘，難以實(shí)現(xiàn)個(gè)性化預(yù)測。由于不同臺區(qū)之間地理、人群類型差異，不同用戶用電習(xí)慣差異，因此實(shí)現(xiàn)集合的個(gè)性化預(yù)測能夠進(jìn)一步提高預(yù)測準(zhǔn)確性，提高服務(wù)質(zhì)量，改善用戶體驗(yàn)。

技術(shù)實(shí)現(xiàn)思路

1、有鑒于此，本發(fā)明旨在提供一種基于集合函數(shù)的用電個(gè)性化用電負(fù)荷預(yù)測方法及相關(guān)裝置，用于針對不同區(qū)域用戶用電模式分布差異的問題，提出基于個(gè)性化聯(lián)邦學(xué)習(xí)框架來為每個(gè)區(qū)域分別建立個(gè)性化的模型，以適應(yīng)不同區(qū)域差異化的用電模式，實(shí)現(xiàn)精準(zhǔn)的用電負(fù)荷預(yù)測。

2、為了解決上述技術(shù)問題，本發(fā)明提供以下技術(shù)方案：

3、第一方面，本發(fā)明提供一種基于集合函數(shù)的用電個(gè)性化用電負(fù)荷預(yù)測方法，包括如下步驟：

4、邊緣節(jié)點(diǎn)獲取所屬區(qū)域內(nèi)各計(jì)量點(diǎn)的用電負(fù)荷原始數(shù)據(jù)；

5、將用電負(fù)荷原始數(shù)據(jù)分別輸入到全局模型和本地個(gè)性化模型中，得到全局模型預(yù)測值和本地個(gè)性化模型預(yù)測值；

6、其中，邊緣節(jié)點(diǎn)根據(jù)從云端獲取的全局模型初始化生成本地個(gè)性化模型，并利用用電負(fù)荷原始數(shù)據(jù)對全局模型和本地個(gè)性化模型的模型參數(shù)進(jìn)行迭代更新，基于更新后的模型參數(shù)更新本地個(gè)性化模型，并將全局模型的模型參數(shù)更新量發(fā)送至云端，以便云端根據(jù)各邊緣節(jié)點(diǎn)發(fā)送的模型參數(shù)更新量更新全局模型，全局模型和本地個(gè)性化模型均為用電負(fù)荷預(yù)測模型。

7、進(jìn)一步地，全局模型和本地個(gè)性化模型在邊緣節(jié)點(diǎn)的更新，包括如下步驟：

8、邊緣節(jié)點(diǎn)將本地歷史窗口的數(shù)據(jù)輸入到全局模型中，基于全局模型輸出的數(shù)據(jù)與預(yù)測窗口的數(shù)據(jù)之間的差異得到更新的全局模型參數(shù)，本地歷史窗口的數(shù)據(jù)和預(yù)測窗口的數(shù)據(jù)為將用電負(fù)荷原始數(shù)據(jù)按照時(shí)間順序通過滑動窗口的方式劃分得到的數(shù)據(jù)；

9、將本地歷史窗口的數(shù)據(jù)輸入到本地個(gè)性化模型中，基于本地個(gè)性化模型輸出的數(shù)據(jù)與預(yù)測窗口的數(shù)據(jù)之間的差異得到更新的本地個(gè)性化模型參數(shù)；

10、基于更新的全局模型參數(shù)得到全局模型參數(shù)的更新量，將更新量發(fā)送至云端，以便云端根據(jù)各邊緣節(jié)點(diǎn)發(fā)送的更新量更新全局模型；

11、基于更新的本地個(gè)性化模型參數(shù)對本地個(gè)性化模型進(jìn)行更新。

12、進(jìn)一步地，用電負(fù)荷預(yù)測模型為基于集合函數(shù)的用電負(fù)荷預(yù)測模型，基于集合函數(shù)的用電負(fù)荷預(yù)測模型的輸入為三元組形式的sj＝(tj,zj,mj)，其中，sj為第j個(gè)電力負(fù)荷采樣點(diǎn)，tj為第j個(gè)電力負(fù)荷采樣點(diǎn)的采樣時(shí)刻，zj為第j個(gè)電力負(fù)荷采樣點(diǎn)的電力負(fù)荷值，mj為第j個(gè)電力負(fù)荷采樣點(diǎn)來源的終端類型，基于集合函數(shù)的用電負(fù)荷預(yù)測模型通過三元組形式的輸入數(shù)據(jù)適應(yīng)不規(guī)則采樣電力時(shí)間序列的用電負(fù)荷原始數(shù)據(jù)。

13、進(jìn)一步地，基于集合函數(shù)的用電負(fù)荷預(yù)測模型的訓(xùn)練步驟，包括：

14、從用電負(fù)荷原始數(shù)據(jù)中提取用于模型訓(xùn)練的樣本數(shù)據(jù)；

15、將三元組形式的樣本數(shù)據(jù)進(jìn)行預(yù)處理；

16、將預(yù)處理后的樣本數(shù)據(jù)輸入到基于前饋神經(jīng)網(wǎng)絡(luò)的用電負(fù)荷預(yù)測模型中，得到用電負(fù)荷預(yù)測值；

17、根據(jù)用電負(fù)荷預(yù)測值與用電負(fù)荷實(shí)際值之間的差異，對基于前饋神經(jīng)網(wǎng)絡(luò)的用電負(fù)荷預(yù)測模型的模型參數(shù)進(jìn)行更新，并獲得更新后的電負(fù)荷預(yù)測模型；

18、其中，基于前饋神經(jīng)網(wǎng)絡(luò)的用電負(fù)荷預(yù)測模型中采用多頭注意力機(jī)制的方法捕捉樣本數(shù)據(jù)對應(yīng)的不規(guī)則采樣電力時(shí)間序列中潛在的時(shí)序依賴，并挖掘用戶的用電特征。

19、進(jìn)一步地，將三元組形式的樣本數(shù)據(jù)進(jìn)行預(yù)處理之前，還包括：

20、按照設(shè)定歷史窗口長度和待預(yù)測窗口長度，從樣本數(shù)據(jù)中提取成對的歷史窗口數(shù)據(jù)和預(yù)測窗口數(shù)據(jù)；

21、歷史窗口數(shù)據(jù)用于作為基于前饋神經(jīng)網(wǎng)絡(luò)的用電負(fù)荷預(yù)測模型的輸入數(shù)據(jù)，以得到用電負(fù)荷預(yù)測值；預(yù)測窗口數(shù)據(jù)用于作為用電負(fù)荷實(shí)際值，以用于更新基于前饋神經(jīng)網(wǎng)絡(luò)的用電負(fù)荷預(yù)測模型。

22、進(jìn)一步地，將三元組形式的樣本數(shù)據(jù)進(jìn)行預(yù)處理，包括：

23、對各采樣點(diǎn)三元組的采樣時(shí)刻tj采用連續(xù)正余弦時(shí)間編碼的方法編碼成τ維向量，得到：

24、

25、式中，et為采樣時(shí)刻tj對應(yīng)的τ維向量，x2k(tj)和x2k+1(tj)分別表示該τ維向量的偶數(shù)位和奇數(shù)位，k∈{0,...,τ/2}，表示維度為τ的向量；

26、對各采樣點(diǎn)三元組的終端類型mj采用預(yù)訓(xùn)練語言模型bert編碼得到文本語義表示向量，再采用前饋神經(jīng)網(wǎng)絡(luò)ffn將文本語義表示向量映射成τ維向量，得到：

27、

28、式中，em為終端類型mj對應(yīng)的τ維向量，um，wm，bm為前饋神經(jīng)網(wǎng)絡(luò)的參數(shù)矩陣，tanh為雙曲正切激活函數(shù)。

29、對各采樣點(diǎn)三元組的電力負(fù)荷值zj采用前饋神經(jīng)網(wǎng)絡(luò)ffn映射成τ維向量，得到：

30、

31、式中，ez為電力負(fù)荷值zj對應(yīng)的τ維向量，uz，wz，bz為前饋神經(jīng)網(wǎng)絡(luò)的參數(shù)矩陣。

32、進(jìn)一步地，采用多頭注意力機(jī)制的方法捕捉樣本數(shù)據(jù)對應(yīng)的不規(guī)則采樣電力時(shí)間序列中潛在的時(shí)序依賴，包括：

33、采用具有h個(gè)注意力頭的點(diǎn)積注意力，對于第i個(gè)頭，分別通過學(xué)習(xí)矩陣和鍵矩陣將歷史窗口數(shù)據(jù)中任意觀測點(diǎn)sx的編碼向量h(sx)映射到d維的query向量和key向量，即：

34、

35、式中，和分別表示query向量和key向量，表示維度為τ×d的向量，表示維度為d的向量；

36、隨后計(jì)算任意兩個(gè)觀測點(diǎn)sx和sy之間在第i個(gè)頭的注意力分?jǐn)?shù)

37、

38、式中，exp()代表以自然對數(shù)e為底的指數(shù)運(yùn)算，通過注意力分?jǐn)?shù)對其他所有m個(gè)觀測點(diǎn)加權(quán)求和可得到任意觀測點(diǎn)sx在第i個(gè)頭的輸出向量

39、

40、式中，為觀測點(diǎn)sx和sj之間在第i個(gè)頭的注意力分?jǐn)?shù)。

41、進(jìn)一步地，三元組sj的編碼向量h(sj)的表達(dá)式，如下：

42、

43、進(jìn)一步地，基于h個(gè)注意力頭得到的輸出向量，通過前饋神經(jīng)網(wǎng)絡(luò)ffn得到用戶的用電特征的表達(dá)式如下：

44、ui＝ffn(oi)

45、

46、式中，上標(biāo)i為h個(gè)注意力頭的編號，下標(biāo)i為用戶編號，ui為第i個(gè)用戶的特征表示，oi為第i個(gè)注意力頭的輸出向量，oi為第i個(gè)用戶的輸出向量聚合矩陣，|h|代表歷史窗口內(nèi)觀測點(diǎn)個(gè)數(shù)。

47、進(jìn)一步地，用電負(fù)荷預(yù)測值的表達(dá)式如下：

48、

49、式中，表示用戶i的mpred設(shè)備在tpred時(shí)刻的用電負(fù)荷預(yù)測值，||代表向量的拼接。

50、第二方面，本發(fā)明還提供一種基于集合函數(shù)的用電個(gè)性化用電負(fù)荷預(yù)測系統(tǒng)，包括：智能計(jì)量裝置、邊緣節(jié)點(diǎn)和中心云服務(wù)器；

51、邊緣節(jié)點(diǎn)用于通過智能計(jì)量裝置獲取所屬區(qū)域內(nèi)各計(jì)量點(diǎn)的用電負(fù)荷原始數(shù)據(jù)；

52、邊緣節(jié)點(diǎn)將用電負(fù)荷原始數(shù)據(jù)分別輸入到全局模型和本地個(gè)性化模型中，得到全局模型預(yù)測值和本地個(gè)性化模型預(yù)測值；

53、其中，邊緣節(jié)點(diǎn)根據(jù)從中心云服務(wù)器獲取的全局模型初始化生成本地個(gè)性化模型，并利用用電負(fù)荷原始數(shù)據(jù)對全局模型和本地個(gè)性化模型的模型參數(shù)進(jìn)行迭代更新，基于更新后的模型參數(shù)更新本地個(gè)性化模型，并將全局模型的模型參數(shù)更新量發(fā)送至中心云服務(wù)器，以便中心云服務(wù)器根據(jù)各邊緣節(jié)點(diǎn)發(fā)送的模型參數(shù)更新量更新全局模型，全局模型和本地個(gè)性化模型均為用電負(fù)荷預(yù)測模型。

54、相應(yīng)地，本發(fā)明還提供了一種計(jì)算機(jī)設(shè)備，設(shè)備包括處理器以及存儲器：

55、存儲器用于存儲計(jì)算機(jī)程序，并將計(jì)算機(jī)程序的指令發(fā)送至處理器；

56、處理器根據(jù)計(jì)算機(jī)程序的指令執(zhí)行如第一方面的一種基于集合函數(shù)的用電個(gè)性化用電負(fù)荷預(yù)測方法。

57、相應(yīng)地，本發(fā)明還提供了一種計(jì)算機(jī)可讀存儲介質(zhì)，計(jì)算機(jī)可讀存儲介質(zhì)上存儲有計(jì)算機(jī)程序，計(jì)算機(jī)程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)如第一方面的一種基于集合函數(shù)的用電個(gè)性化用電負(fù)荷預(yù)測方法。

58、綜上，本發(fā)明提供了一種基于集合函數(shù)的用電個(gè)性化用電負(fù)荷預(yù)測方法，包括邊緣節(jié)點(diǎn)獲取所屬區(qū)域內(nèi)各計(jì)量點(diǎn)的用電負(fù)荷原始數(shù)據(jù)；將用電負(fù)荷原始數(shù)據(jù)分別輸入到全局模型和本地個(gè)性化模型中，得到全局模型預(yù)測值和本地個(gè)性化模型預(yù)測值；其中，邊緣節(jié)點(diǎn)根據(jù)從云端獲取的全局模型初始化生成本地個(gè)性化模型，并利用用電負(fù)荷原始數(shù)據(jù)對全局模型和本地個(gè)性化模型的模型參數(shù)進(jìn)行迭代更新，基于更新后的模型參數(shù)更新本地個(gè)性化模型，并將全局模型的模型參數(shù)更新量發(fā)送至云端，以便云端根據(jù)各邊緣節(jié)點(diǎn)發(fā)送的模型參數(shù)更新量更新全局模型，全局模型和本地個(gè)性化模型均為用電負(fù)荷預(yù)測模型。本發(fā)明針對不同區(qū)域用戶用電模式分布差異的問題，提出基于個(gè)性化聯(lián)邦學(xué)習(xí)框架來為每個(gè)區(qū)域分別建立個(gè)性化的模型，以適應(yīng)不同區(qū)域差異化的用電模式，實(shí)現(xiàn)精準(zhǔn)的用電負(fù)荷預(yù)測。