本發(fā)明實(shí)施例涉及通信,尤其涉及一種基于小波分解和改進(jìn)型lstm的算力網(wǎng)絡(luò)流量預(yù)測(cè)方法。
背景技術(shù):
1、隨著數(shù)字經(jīng)濟(jì)的蓬勃發(fā)展,算力網(wǎng)已成為支撐云計(jì)算、大數(shù)據(jù)、人工智能等新一代信息技術(shù)創(chuàng)新應(yīng)用的核心基礎(chǔ)設(shè)施。組成算力網(wǎng)的各算力中心之間需要通過算力網(wǎng)絡(luò)進(jìn)行高速互聯(lián),實(shí)現(xiàn)數(shù)據(jù)的快速傳輸與處理,為各類應(yīng)用提供強(qiáng)大的計(jì)算支撐。然而,隨著業(yè)務(wù)規(guī)模的擴(kuò)大和數(shù)據(jù)處理需求的增長,算力中心面臨的網(wǎng)絡(luò)吞吐壓力日益增大,網(wǎng)絡(luò)流量的復(fù)雜性和不確定性對(duì)算力網(wǎng)絡(luò)整體性能帶來了顯著影響。算力網(wǎng)絡(luò)流量預(yù)測(cè)作為算力網(wǎng)一體化運(yùn)營管理的重要環(huán)節(jié),對(duì)于提升算力網(wǎng)絡(luò)的資源利用率、保障業(yè)務(wù)連續(xù)性和優(yōu)化用戶體驗(yàn)具有重要意義。通過準(zhǔn)確預(yù)測(cè)算力網(wǎng)絡(luò)流量,算力網(wǎng)平臺(tái)中心可以合理進(jìn)行算力資源調(diào)度和投放,避免數(shù)據(jù)傳輸擁塞和算力資源閑置,同時(shí)也有助于提前發(fā)現(xiàn)潛在的安全性風(fēng)險(xiǎn)和異常流量模式,保障算力網(wǎng)絡(luò)安全和數(shù)據(jù)安全。
2、現(xiàn)有技術(shù)存在的問題:
3、1.算力網(wǎng)絡(luò)的流量特性具有高度的復(fù)雜性和不確定性,受到多種因素的影響,如用戶行為、應(yīng)用特性、設(shè)備性能、網(wǎng)絡(luò)拓?fù)涞龋@使得準(zhǔn)確預(yù)測(cè)算力網(wǎng)絡(luò)流量變得非常困難,且沒有專門用于算力網(wǎng)絡(luò)的流量預(yù)測(cè)方法。
4、2.組合模型往往忽略了分解后組件之間的相關(guān)性,這將影響預(yù)測(cè)結(jié)果的準(zhǔn)確性。
5、3.算力中心的網(wǎng)絡(luò)流量是動(dòng)態(tài)變化的,并且需要實(shí)時(shí)預(yù)測(cè)以支持業(yè)務(wù)決策。這要求預(yù)測(cè)模型具有高度的動(dòng)態(tài)適應(yīng)性和實(shí)時(shí)響應(yīng)能力。
6、可見,亟需一種預(yù)測(cè)實(shí)時(shí)性、精準(zhǔn)度和適應(yīng)性強(qiáng)的基于小波分解和改進(jìn)型lstm的算力網(wǎng)絡(luò)流量預(yù)測(cè)方法。
技術(shù)實(shí)現(xiàn)思路
1、有鑒于此,本發(fā)明實(shí)施例提供一種基于小波分解和改進(jìn)型lstm的算力網(wǎng)絡(luò)流量預(yù)測(cè)方法,至少部分解決現(xiàn)有技術(shù)中存在預(yù)測(cè)實(shí)時(shí)性、精準(zhǔn)度和適應(yīng)性較差的問題。
2、本發(fā)明實(shí)施例提供了一種基于小波分解和改進(jìn)型lstm的算力網(wǎng)絡(luò)流量預(yù)測(cè)方法,包括:
3、步驟1,數(shù)據(jù)預(yù)處理,將算力網(wǎng)絡(luò)流量數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理,然后將算力網(wǎng)絡(luò)流量數(shù)據(jù)劃分為訓(xùn)練集和測(cè)試集;
4、步驟2,構(gòu)建改進(jìn)型lstm的算力網(wǎng)絡(luò)流量預(yù)測(cè)模型,其中,所述算力網(wǎng)絡(luò)流量預(yù)測(cè)模型包括小波分解算法、卷積長短時(shí)記憶網(wǎng)絡(luò)和雙向長短時(shí)記憶網(wǎng)絡(luò);
5、步驟3,將訓(xùn)練集輸入算力網(wǎng)絡(luò)流量預(yù)測(cè)模型中,基于adam優(yōu)化算法進(jìn)行迭代訓(xùn)練,得到訓(xùn)練好的算力網(wǎng)絡(luò)流量預(yù)測(cè)模型;
6、步驟4,將測(cè)試集輸入訓(xùn)練好的算力網(wǎng)絡(luò)流量預(yù)測(cè)模型,評(píng)價(jià)其精度是否符合要求,若是,則進(jìn)入步驟5,若否,則返回步驟3;
7、步驟5,采集目標(biāo)流量數(shù)據(jù)并將其輸入訓(xùn)練好的算力網(wǎng)絡(luò)流量預(yù)測(cè)模型中,將流量序列經(jīng)過小波分解后得到多個(gè)分量并拼接為矩陣,通過并行化的卷積長短時(shí)記憶網(wǎng)絡(luò)提取各分量之間的時(shí)間和空間特征,之后將特征矩陣轉(zhuǎn)為一維特征向量,通過帶指數(shù)門控的雙向長短時(shí)記憶網(wǎng)絡(luò)對(duì)一維特征向量采用順序和逆序計(jì)算得到兩套不同的隱層表示,然后通過向量拼接得到最終的隱藏表示,再通過一個(gè)全連接層輸出實(shí)時(shí)預(yù)測(cè)結(jié)果。
8、根據(jù)本發(fā)明實(shí)施例的一種具體實(shí)現(xiàn)方式,所述步驟1具體包括:
9、步驟1.1,讀取算力網(wǎng)絡(luò)流量數(shù)據(jù)集到本地,其中,所述算力網(wǎng)絡(luò)流量數(shù)據(jù)集包括目標(biāo)算力中心各個(gè)歷史時(shí)刻的網(wǎng)絡(luò)流量數(shù)值;
10、步驟1.2,獲取算力網(wǎng)絡(luò)流量數(shù)據(jù)集的流量最大值和流量最小值;
11、步驟1.3,對(duì)算力網(wǎng)絡(luò)流量數(shù)據(jù)集進(jìn)行標(biāo)準(zhǔn)化,即;
12、其中,x為原始算力網(wǎng)絡(luò)流量數(shù)據(jù),為算力網(wǎng)絡(luò)歷史流量數(shù)據(jù)的最小值,為算力網(wǎng)絡(luò)歷史流量數(shù)據(jù)的最大值,為標(biāo)準(zhǔn)化后的結(jié)果;
13、步驟1.4,設(shè)定每條樣本的大小t以及對(duì)應(yīng)標(biāo)簽大小p,即根據(jù)t個(gè)歷史時(shí)刻的流量數(shù)據(jù)預(yù)測(cè)未來p個(gè)時(shí)刻的流量數(shù)據(jù),按照設(shè)定的t和p將算力網(wǎng)絡(luò)流量數(shù)據(jù)集制成多個(gè)樣本和對(duì)應(yīng)的標(biāo)簽;
14、步驟1.5,將樣本和對(duì)應(yīng)的標(biāo)簽劃分成訓(xùn)練集和測(cè)試集。
15、根據(jù)本發(fā)明實(shí)施例的一種具體實(shí)現(xiàn)方式,所述卷積長短時(shí)記憶網(wǎng)絡(luò)的表達(dá)式為
16、
17、其中,當(dāng)前時(shí)刻記為t,t-1為上一個(gè)時(shí)刻,為當(dāng)前時(shí)刻的輸入,代表卷積,代表哈達(dá)瑪積,為sigmoid激活函數(shù),tanh和softmax也為一種激活函數(shù),為新設(shè)計(jì)的一種補(bǔ)償門,為補(bǔ)償門中對(duì)的三個(gè)卷積核,為補(bǔ)償門的三個(gè)偏置項(xiàng),先將兩個(gè)卷積結(jié)果相乘并激活,再與第三個(gè)卷積結(jié)果相乘并激活即可得到補(bǔ)償門的結(jié)果,代表隱狀態(tài),代表輸入門,代表遺忘門,代表輸出門,為細(xì)胞狀態(tài),為細(xì)胞狀態(tài)的一個(gè)備選狀態(tài),分別為輸入門、遺忘門、細(xì)胞狀態(tài)和輸出門對(duì)的卷積核,分別為輸入門、遺忘門、細(xì)胞狀態(tài)和輸出門對(duì)的卷積核,分別為輸入門、遺忘門、細(xì)胞狀態(tài)和輸出門的偏置項(xiàng);
18、將各個(gè)隱藏狀態(tài)通過自適應(yīng)加權(quán)求和的方式對(duì)最后的輸出門進(jìn)行補(bǔ)償,得到最終的輸出,自適應(yīng)加權(quán)的過程表達(dá)式為:
19、
20、
21、
22、
23、其中,為卷積操作,為t時(shí)刻的隱藏狀態(tài),為一個(gè)卷積核,為偏置項(xiàng),為縮放因子,都為可學(xué)習(xí)的參數(shù),整個(gè)過程為隱藏狀態(tài)分配一個(gè)系數(shù),通過加權(quán)相加的方式把信息相加得到,再將更新到輸出門。
24、根據(jù)本發(fā)明實(shí)施例的一種具體實(shí)現(xiàn)方式,所述雙向長短時(shí)記憶網(wǎng)絡(luò)的表達(dá)式為
25、;
26、其中,為前一時(shí)刻隱藏狀態(tài),為當(dāng)前時(shí)刻輸入,exp為以e為底數(shù)的指數(shù)函數(shù),為sigmoid函數(shù),為遺忘門的偏置向量,代表輸入門,為一個(gè)備選向量,為更新門的偏置向量,為記憶單元偏置向量,為當(dāng)前單元狀態(tài),為輸出門,為輸出門偏置向量,為當(dāng)前隱藏狀態(tài),為平穩(wěn)狀態(tài),和為平穩(wěn)化后的結(jié)果。
27、根據(jù)本發(fā)明實(shí)施例的一種具體實(shí)現(xiàn)方式,所述步驟3具體包括:
28、步驟3.1,設(shè)置批大小,將訓(xùn)練集劃分成多個(gè)批次;
29、步驟3.2,將每個(gè)批次的數(shù)據(jù)輸入算力網(wǎng)絡(luò)流量預(yù)測(cè)模型中,計(jì)算損失函數(shù);
30、步驟3.3,基于adam算法進(jìn)行迭代優(yōu)化,直到設(shè)定的迭代次數(shù);
31、步驟3.4,迭代結(jié)束,將訓(xùn)練好的算力網(wǎng)絡(luò)流量預(yù)測(cè)模型對(duì)應(yīng)的模型參數(shù)保存。
32、根據(jù)本發(fā)明實(shí)施例的一種具體實(shí)現(xiàn)方式,所述步驟4具體包括:
33、步驟4.1,將測(cè)試集輸入訓(xùn)練好的算力網(wǎng)絡(luò)流量預(yù)測(cè)模型,得到p個(gè)時(shí)刻的預(yù)測(cè)結(jié)果;
34、步驟4.2,以均方根誤差和絕對(duì)百分比均值誤差兩個(gè)指標(biāo)評(píng)價(jià)模型精度,若其精度符合要求,則進(jìn)入步驟5,若否,則返回步驟3。
35、根據(jù)本發(fā)明實(shí)施例的一種具體實(shí)現(xiàn)方式,所述均方根誤差的表達(dá)式為
36、
37、所述絕對(duì)百分比均值誤差的表達(dá)式為
38、
39、其中,為模型的預(yù)測(cè)值,為訓(xùn)練集中的真實(shí)值。
40、根據(jù)本發(fā)明實(shí)施例的一種具體實(shí)現(xiàn)方式,所述模型參數(shù)包括隱藏層的層數(shù)、隱藏層的神經(jīng)元個(gè)數(shù)、卷積核的大小、學(xué)習(xí)率、最大迭代次數(shù)和預(yù)測(cè)未來時(shí)刻的數(shù)量。
41、根據(jù)本發(fā)明實(shí)施例的一種具體實(shí)現(xiàn)方式,所述步驟5具體包括:
42、步驟5.1,選擇一個(gè)小波基函數(shù)對(duì)目標(biāo)流量數(shù)據(jù)進(jìn)行多層分解,得到多個(gè)分解后的分量,將分量組合成矩陣,長度不足的分量用0填充;
43、步驟5.2,將分量矩陣輸入并行化的卷積長短時(shí)記憶網(wǎng)絡(luò),提取分量間的特征,并將特征矩陣轉(zhuǎn)化為一維特征向量;
44、步驟5.3,將特征向量輸入帶指數(shù)門控的雙向長短時(shí)記憶網(wǎng)絡(luò)提取時(shí)間特征;
45、步驟5.4,最后通過一個(gè)全連接層輸出預(yù)測(cè)結(jié)果;
46、步驟5.5,將預(yù)測(cè)結(jié)果加入樣本并重復(fù)步驟5.4,直到未來p個(gè)時(shí)刻的數(shù)據(jù)全被計(jì)算出來。
47、本發(fā)明實(shí)施例中的基于小波分解和改進(jìn)型lstm的算力網(wǎng)絡(luò)流量預(yù)測(cè)方案,包括:步驟1,數(shù)據(jù)預(yù)處理,將算力網(wǎng)絡(luò)流量數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理,然后將算力網(wǎng)絡(luò)流量數(shù)據(jù)劃分為訓(xùn)練集和測(cè)試集;步驟2,構(gòu)建改進(jìn)型lstm的算力網(wǎng)絡(luò)流量預(yù)測(cè)模型,其中,所述算力網(wǎng)絡(luò)流量預(yù)測(cè)模型包括小波分解算法、卷積長短時(shí)記憶網(wǎng)絡(luò)和雙向長短時(shí)記憶網(wǎng)絡(luò);步驟3,將訓(xùn)練集輸入算力網(wǎng)絡(luò)流量預(yù)測(cè)模型中,基于adam優(yōu)化算法進(jìn)行迭代訓(xùn)練,得到訓(xùn)練好的算力網(wǎng)絡(luò)流量預(yù)測(cè)模型;步驟4,將測(cè)試集輸入訓(xùn)練好的算力網(wǎng)絡(luò)流量預(yù)測(cè)模型,評(píng)價(jià)其精度是否符合要求,若是,則進(jìn)入步驟5,若否,則返回步驟3;步驟5,采集目標(biāo)流量數(shù)據(jù)并將其輸入訓(xùn)練好的算力網(wǎng)絡(luò)流量預(yù)測(cè)模型中,將流量序列經(jīng)過小波分解后得到多個(gè)分量并拼接為矩陣,通過并行化的卷積長短時(shí)記憶網(wǎng)絡(luò)提取各分量之間的時(shí)間和空間特征,之后將特征矩陣轉(zhuǎn)為一維特征向量,通過帶指數(shù)門控的雙向長短時(shí)記憶網(wǎng)絡(luò)對(duì)一維特征向量采用順序和逆序計(jì)算得到兩套不同的隱層表示,然后通過向量拼接得到最終的隱藏表示,再通過一個(gè)全連接層輸出實(shí)時(shí)預(yù)測(cè)結(jié)果。
48、本發(fā)明實(shí)施例的有益效果為:通過本發(fā)明的方案,先對(duì)算力網(wǎng)絡(luò)流量序列進(jìn)行分解,并用并行化卷積長短時(shí)記憶網(wǎng)絡(luò)convlstm模塊提取分解后的各個(gè)分量之間的特征,再通過帶指數(shù)門控的雙向長短時(shí)記憶網(wǎng)絡(luò)bilstm模塊提取時(shí)序特征,最后通過全連接層輸出,模型輕量且對(duì)樣本適應(yīng)能力強(qiáng),能對(duì)特定區(qū)域內(nèi)的算力網(wǎng)絡(luò)流量變化進(jìn)行高精度的預(yù)測(cè)。