本發(fā)明屬于金融風險預(yù)測，具體涉及基于通道注意力機制的改進resnet進行金融風險預(yù)測方法。

背景技術(shù)：

1、金融風險指的是金融市場或金融機構(gòu)面臨的可能導(dǎo)致?lián)p失的潛在風險。這些風險可能來自各種因素，包括市場波動、信用違約、操作失誤、流動性問題等。金融風險旨在預(yù)測識別潛在風險并制定相應(yīng)的風險管理策略和應(yīng)對措施，以降低潛在風險對機構(gòu)或投資組合的影響。

2、金融風險預(yù)測方法可分為基于傳統(tǒng)的方法和基于神經(jīng)網(wǎng)絡(luò)的方法兩種。傳統(tǒng)方法如隨機森林算法、c4.5算法和分類與回歸樹算法等，用于對金融企業(yè)借貸是否有能力償還進行分類。合并了來自真實企業(yè)的多個信息，例如資產(chǎn)負債率、有形資產(chǎn)負債率、esg得分等。nie等設(shè)計了邏輯回歸與決策樹的比較，但實驗結(jié)果表明，邏輯回歸的性能更好。bhattacharyya等試圖發(fā)現(xiàn)算法在金融風險預(yù)測中的性能，如支持向量機、隨機森林和邏輯回歸。實驗證明，隨機森林算法的整體性能優(yōu)于其他算法。kumar等還提出了一種隨機森林算法，用于預(yù)測現(xiàn)實世界中企業(yè)是否暗含金融風險。傳統(tǒng)方法在處理信用卡交易時相對簡單，特征提取不足導(dǎo)致準確性低，無法對不斷發(fā)展的特征做出快速響應(yīng)。

3、隨著機器學(xué)習技術(shù)在金融領(lǐng)域的快速發(fā)展，神經(jīng)網(wǎng)絡(luò)已成為金融風險預(yù)測中最受歡迎的方法之一?；趯γ總€企業(yè)信用能力、企業(yè)成長性等各項指標以及相關(guān)的內(nèi)在特征的思考，fu等提出了一種基于cnn的金融風險預(yù)測框架，但數(shù)據(jù)屬性相對簡單。jurgovsky等將企業(yè)屬性指標視為一個連續(xù)的時間序列，在lstm網(wǎng)絡(luò)上構(gòu)建了一種序列分類方法。但是上述所提出的方法面臨著風險數(shù)據(jù)內(nèi)部特征之間并不能很好地關(guān)聯(lián)以及數(shù)據(jù)不平衡等許多問題。因此，在最新的研究中，我們注意到了通道注意力機制能夠?qū)W習并強調(diào)每個特征通道的重要性，使得模型能夠集中注意力在最相關(guān)的特征上。這對于金融企業(yè)數(shù)據(jù)中復(fù)雜的非線性關(guān)系識別尤為重要，能夠有效捕捉到影響風險變化的關(guān)鍵特征。resnet結(jié)構(gòu)本身具有深度殘差學(xué)習能力，能夠有效地學(xué)習復(fù)雜的數(shù)據(jù)表示，尤其適用于處理金融市場中的高維、非線性和動態(tài)特性數(shù)據(jù)。但是直接將金融風險數(shù)據(jù)來進行預(yù)測依舊會有數(shù)據(jù)不平衡風險問題。

技術(shù)實現(xiàn)思路

1、本發(fā)明的目的是提供基于通道注意力機制的改進resnet進行金融風險預(yù)測方法，解決了現(xiàn)有技術(shù)中對于數(shù)據(jù)不平衡和金融風險的預(yù)測不準確問題。

2、本發(fā)明所采用的技術(shù)方案是，基于通道注意力機制的改進resnet進行金融風險預(yù)測方法，具體按照以下步驟實施：

3、步驟1、從csmar數(shù)據(jù)庫獲取金融風險數(shù)據(jù)集，并進行預(yù)處理；

4、步驟2、將預(yù)處理后的金融風險數(shù)據(jù)進行編碼轉(zhuǎn)換得到順序編碼特征；使用smote方法對順序編碼特征進行平衡，得到新的編碼數(shù)據(jù)；

5、步驟3、將新的編碼數(shù)據(jù)采用了十折交叉驗證方法，分割為訓(xùn)練集和測試集；

6、步驟4、構(gòu)建基于通道注意力機制的改進resnet模型，將訓(xùn)練集輸入基于通道注意力機制的改進resnet模型訓(xùn)練，并采用測試集檢測，得到金融風險預(yù)測模型；

7、步驟5、使用遷移學(xué)習將金融風險預(yù)測模型對企業(yè)風險數(shù)據(jù)進行預(yù)測，得到預(yù)測結(jié)果。

8、本發(fā)明的特點還在于：

9、步驟1具體過程為：從csmar數(shù)據(jù)庫中，獲取金融風險數(shù)據(jù)集。將金融風險數(shù)據(jù)集定義為data_set＝{d1,d2,d3,...dp},o＝1,2,3...p，包含特征f＝{f1,f2,f3,...fn},j＝1,2,3,...n，類別c＝{c1,c2}；統(tǒng)計每個特征實例中的樣本數(shù)量number(fi)以及所有特征的平均樣本數(shù)在每個特征fi中，如果該類別中的樣本數(shù)量number(fi)少于類別平均樣本數(shù)則在該屬性實例空缺處fi中補全新的樣本值dnew，dnew為除空缺值外其他特征實例值的平均值。

10、步驟2具體過程為：

11、步驟2.1、預(yù)處理后的金融風險數(shù)據(jù)中無順序信息的類別特征使用one-hotencoding進行編碼轉(zhuǎn)換，順序信息的類別特征采用順序編碼轉(zhuǎn)換，得到數(shù)字特征，對數(shù)字特征進行標準化處理，得到順序編碼特征；

12、步驟2.2、采用3σ方法判斷順序編碼特征中的離群點，剔除離群點，對剔除離群點的順序編碼特征采用smote過采樣方法進行平衡數(shù)據(jù)，得到新的編碼數(shù)據(jù)。

13、采用smote過采樣方法進行平衡數(shù)據(jù)的公式為：

14、xnew＝xi+rand(0,1)*|xi-xneighbour|；

15、式中，xnew表示新的編碼數(shù)據(jù)，rand(0,1)表示隨機數(shù)，xi表示剔除離群點的順序編碼特征中的數(shù)據(jù)，xneighbour表示xi的一個相鄰數(shù)據(jù)。

16、步驟4中基于通道注意力機制的改進resnet模型包括：通道注意力模塊，殘差塊作為網(wǎng)絡(luò)基本單元的殘差網(wǎng)絡(luò)結(jié)構(gòu)。

17、殘差塊由兩個卷積層組成，其中第一個卷積層用于降低特征維度，第二個卷積層用于恢復(fù)特征維度，并將輸入的特征與輸出的特征相加，表達式為：

18、y＝σ(f(x,w)+x)；

19、針對于上式中，y代表殘差塊的輸出即金融風險預(yù)測值，其中σ(f(x,w)+x)中，σ(·)代表激活函數(shù)，f(·)代表殘差函數(shù)，x代表輸入，w代表殘差塊內(nèi)的所有權(quán)重，設(shè)xi,xi+1為網(wǎng)絡(luò)中某一較淺層殘差塊的輸入輸出、xi+1為下一殘差塊的輸入，xi為某一深層殘差塊的輸出，relu激活函數(shù)記為r(·)。

20、步驟4具體過程為：

21、步驟4.1、構(gòu)建基于通道注意力機制的改進resnet模型；

22、步驟4.2、通過通道注意力模塊對金融風險數(shù)據(jù)集中每個樣本的特征f進行遍歷，再依次進行全局平均池化和全局最大池化、多層感知機、權(quán)重計算，保留下來的最重要的特征f'i,c；

23、步驟4.3、將重要特征f'i,c輸入殘差網(wǎng)絡(luò)中，得到金融風險預(yù)測值；

24、步驟4.4、返回步驟4.2遍歷金融風險訓(xùn)練集，直到將訓(xùn)練集中所有特征都處理完；

25、步驟4.5、對于訓(xùn)練完成的模型，采用測試集進行測試，完成測試后利用遷移學(xué)習將學(xué)習好的模型中所有權(quán)重和偏置的字典保存下來，即為金融風險預(yù)測模型。

26、步驟4.2具體過程為：

27、步驟4.2.1、通過通道注意力模塊對金融風險數(shù)據(jù)集中每個樣本的特征f進行遍歷，將每個特征f經(jīng)過卷積層提取數(shù)據(jù)特征是通過全局平均池化和全局最大池化來統(tǒng)籌通道全局信息以及捕捉最為顯著的特征，其中全局平均池化和全局最大池化公式為：

28、

29、maxpool(f)c＝maxifi,c；

30、其中，l代表序列長度，c代表通道數(shù)；

31、步驟4.2.2、通過多層感知機來計算出每個特征的權(quán)重大小，第一層為通過權(quán)重矩陣w1將每個通道的池化結(jié)果轉(zhuǎn)化到一個較低維度的特征空間，其中relu激活函數(shù)用于引入非線性，幫助模型學(xué)習復(fù)雜的特征依賴，第二層進一步處理，通過另一個權(quán)重矩陣w2將特征映射回原始的通道維度，sigmoid函數(shù)將輸出壓縮到[0,1]范圍內(nèi)，為每個通道生成一個介于0和1之間的權(quán)重，其中第一層和第二層表達式為：

32、sc＝relu(w1×pool(f)c)；

33、tc＝sigmoid(w2×sc)；

34、其中，pool可以是avgpool或maxpool，w1和w2是多層感知機的權(quán)重矩陣；

35、步驟4.2.3、通道注意力權(quán)重mc通過兩個多層感知機的輸出進行加法融合得到，其中和分別代表應(yīng)用于全局平均池化和全局最大池化結(jié)果的多層感知機輸出，公式為：

36、

37、步驟4.2.4、注意力權(quán)重mc被用來加權(quán)原始特征f，其中每個通道的特征都乘以相應(yīng)的權(quán)重，表達式為：

38、f'i,c＝mc×fi,c；

39、其中，mc應(yīng)該在長度l上復(fù)制，以匹配f的維度。

40、本發(fā)明有益效果是：

41、本發(fā)明基于通道注意力機制的改進resnet進行金融風險預(yù)測方法，在金融風險預(yù)測中具有較高的預(yù)測精度；通過注意力機制強調(diào)每個特征通道的重要性，結(jié)合resnet的深度殘差學(xué)習能力，不僅提升了模型對關(guān)鍵風險因素的識別能力，還改善了模型的泛化能力和預(yù)測準確性。這種方法能夠有效應(yīng)對金融市場的復(fù)雜和動態(tài)變化，為風險管理和決策提供了可靠的支持。