本技術(shù)屬于計算機，具體涉及一種資源處理網(wǎng)絡(luò)訓(xùn)練方法、資源處理方法及裝置。

背景技術(shù)：

1、在金融風(fēng)控、醫(yī)療圖像、安全等業(yè)務(wù)場景中，由于對象借貸逾期表現(xiàn)周期長、樣本標(biāo)記成本代價大等原因，建模過程常面臨有標(biāo)記樣本缺乏帶來的模型冷啟動問題。另一方面，“數(shù)據(jù)孤島”問題導(dǎo)致有標(biāo)記樣本常以小樣本狀態(tài)分散在不同的業(yè)務(wù)機構(gòu)，比如不同的醫(yī)療機構(gòu)擁有不同病人的醫(yī)療圖像，不同的銀行機構(gòu)具有不同的逾期對象，但由于數(shù)據(jù)隱私合規(guī)的原因，不同機構(gòu)之間無法直接共享數(shù)據(jù)進行聯(lián)合建模。

2、相關(guān)技術(shù)通常采用遷移學(xué)習(xí)來解決機器學(xué)習(xí)建模中的小樣本問題，然而大部分遷移學(xué)習(xí)方案仍然需要具有少量的有標(biāo)記樣本資源，無法在無標(biāo)記樣本資源(零樣本)的條件下進行建模。此外，相關(guān)技術(shù)中的遷移學(xué)習(xí)方案需要將源域和目標(biāo)域的數(shù)據(jù)匯聚在一起進行遷移學(xué)習(xí)建模，而在金融場景等特殊的強監(jiān)管和強數(shù)據(jù)隱私合規(guī)要求下，要求數(shù)據(jù)不能出金融機構(gòu)本地，導(dǎo)致傳統(tǒng)的遷移學(xué)習(xí)方法不能直接應(yīng)用于“數(shù)據(jù)孤島”條件下的遷移學(xué)習(xí)建模。綜上，由于相關(guān)技術(shù)無法在無標(biāo)記樣本資源的條件下進行建模以及無法直接應(yīng)用于“數(shù)據(jù)孤島”條件下的遷移學(xué)習(xí)建模，從而無法高效且準(zhǔn)確地對無標(biāo)記樣本資源進行處理。

技術(shù)實現(xiàn)思路

1、為了解決上述技術(shù)問題，本技術(shù)提供一種資源處理網(wǎng)絡(luò)訓(xùn)練方法、資源處理方法及裝置。

2、一方面，本技術(shù)提出了一種資源處理網(wǎng)絡(luò)訓(xùn)練方法，應(yīng)用于至少兩個參與客戶端中的每個參與客戶端，每個參與客戶端包括支持樣本資源、查詢樣本資源、至少兩個業(yè)務(wù)網(wǎng)絡(luò)和第一學(xué)生網(wǎng)絡(luò)，所述方法包括：

3、從服務(wù)器獲取教師網(wǎng)絡(luò)；

4、基于至少兩個業(yè)務(wù)網(wǎng)絡(luò)、所述教師網(wǎng)絡(luò)和所述支持樣本資源訓(xùn)練所述第一學(xué)生網(wǎng)絡(luò)，基于訓(xùn)練結(jié)果對所述查詢樣本資源的資源特征信息進行資源評價處理，并根據(jù)資源評價處理結(jié)果確定所述教師網(wǎng)絡(luò)的更新梯度；

5、發(fā)送更新梯度至服務(wù)器，以使所述服務(wù)器基于每個參與客戶端發(fā)送的更新梯度更新所述教師網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)，得到目標(biāo)教師網(wǎng)絡(luò)；以及以使所述服務(wù)器傳輸所述目標(biāo)教師網(wǎng)絡(luò)至目標(biāo)客戶端，所述目標(biāo)客戶端包括至少兩個業(yè)務(wù)網(wǎng)絡(luò)和第二學(xué)網(wǎng)絡(luò)；以及以使所述目標(biāo)客戶端基于至少兩個業(yè)務(wù)網(wǎng)絡(luò)、所述目標(biāo)教師網(wǎng)絡(luò)和預(yù)設(shè)業(yè)務(wù)場景下的目標(biāo)無標(biāo)簽樣本資源訓(xùn)練所述第二學(xué)網(wǎng)絡(luò)，得到目標(biāo)學(xué)生網(wǎng)絡(luò)；

6、其中，所述目標(biāo)學(xué)生網(wǎng)絡(luò)用于根據(jù)輸入的資源，確定所輸入的資源的資源評價信息；所述輸入的資源、所述支持樣本資源、所述查詢樣本資源和所述目標(biāo)無標(biāo)簽樣本資源各自對應(yīng)的資源，為資源轉(zhuǎn)移關(guān)聯(lián)數(shù)據(jù)、多媒體數(shù)據(jù)中的至少一種；在資源為資源轉(zhuǎn)移關(guān)聯(lián)數(shù)據(jù)的情況下，資源的資源特征信息表征資源轉(zhuǎn)移關(guān)聯(lián)數(shù)據(jù)所對應(yīng)的對象的操作信息，在資源為多媒體數(shù)據(jù)的情況下，資源的資源特征信息表征多媒體數(shù)據(jù)所對應(yīng)的對象的屬性信息。

7、另一方面，本技術(shù)提出了一種資源處理網(wǎng)絡(luò)訓(xùn)練方法，所述方法包括：

8、獲取預(yù)設(shè)業(yè)務(wù)場景下的目標(biāo)無標(biāo)簽樣本資源，并從服務(wù)器獲取目標(biāo)教師網(wǎng)絡(luò)；所述目標(biāo)教師網(wǎng)絡(luò)為所述服務(wù)器基于每個參與客戶端發(fā)送的更新梯度更新所述服務(wù)器中的教師網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)得到；每個參與客戶端發(fā)送的更新梯度，為每個參與客戶端基于每個參與客戶端包括的至少兩個業(yè)務(wù)網(wǎng)絡(luò)、教師網(wǎng)絡(luò)和支持樣本資源訓(xùn)練第一學(xué)生網(wǎng)絡(luò)，基于訓(xùn)練結(jié)果對每個參與客戶端包括的查詢樣本資源的資源特征信息進行資源評價處理，并根據(jù)資源評價處理結(jié)果確定得到；每個參與客戶端包括的教師網(wǎng)絡(luò)為每個參與客戶端從所述服務(wù)器獲取得到；

9、基于至少兩個業(yè)務(wù)網(wǎng)絡(luò)、所述目標(biāo)教師網(wǎng)絡(luò)和所述目標(biāo)無標(biāo)簽樣本資源訓(xùn)練第二學(xué)網(wǎng)絡(luò)，得到目標(biāo)學(xué)生網(wǎng)絡(luò)；

10、其中，所述目標(biāo)學(xué)生網(wǎng)絡(luò)用于根據(jù)輸入的資源，確定所輸入的資源的資源評價信息；所述輸入的資源、所述支持樣本資源、所述查詢樣本資源和所述目標(biāo)無標(biāo)簽樣本資源各自對應(yīng)的資源，為資源轉(zhuǎn)移關(guān)聯(lián)數(shù)據(jù)、多媒體數(shù)據(jù)中的至少一種；在資源為資源轉(zhuǎn)移關(guān)聯(lián)數(shù)據(jù)的情況下，資源的資源特征信息表征資源轉(zhuǎn)移關(guān)聯(lián)數(shù)據(jù)所對應(yīng)的對象的操作信息，在資源為多媒體數(shù)據(jù)的情況下，資源的資源特征信息表征多媒體數(shù)據(jù)所對應(yīng)的對象的屬性信息。

11、另一方面，本技術(shù)提出了一種資源處理網(wǎng)絡(luò)訓(xùn)練方法，所述方法包括：

12、接收每個參與客戶端發(fā)送的更新梯度；每個參與客戶端發(fā)送的更新梯度，為每個參與客戶端基于每個參與客戶端包括的至少兩個業(yè)務(wù)網(wǎng)絡(luò)、教師網(wǎng)絡(luò)和支持樣本資源訓(xùn)練第一學(xué)生網(wǎng)絡(luò)，基于訓(xùn)練結(jié)果對每個參與客戶端包括的查詢樣本資源的資源特征信息進行資源評價處理，并根據(jù)資源評價處理結(jié)果確定得到；每個參與客戶端包括的教師網(wǎng)絡(luò)為每個參與客戶端從所述服務(wù)器獲取得到；

13、基于每個參與客戶端確定的更新梯度更新所述教師網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)，得到目標(biāo)教師網(wǎng)絡(luò)；

14、傳輸所述目標(biāo)教師網(wǎng)絡(luò)至目標(biāo)客戶端，所述目標(biāo)客戶端包括至少兩個業(yè)務(wù)網(wǎng)絡(luò)和第二學(xué)網(wǎng)絡(luò)；以使所述目標(biāo)客戶端基于至少兩個業(yè)務(wù)網(wǎng)絡(luò)、所述目標(biāo)教師網(wǎng)絡(luò)和預(yù)設(shè)業(yè)務(wù)場景下的目標(biāo)無標(biāo)簽樣本資源訓(xùn)練所述第二學(xué)網(wǎng)絡(luò)，得到目標(biāo)學(xué)生網(wǎng)絡(luò)；

15、其中，所述目標(biāo)學(xué)生網(wǎng)絡(luò)用于根據(jù)輸入的資源，確定所輸入的資源的資源評價信息；所述輸入的資源、所述支持樣本資源、所述查詢樣本資源和所述目標(biāo)無標(biāo)簽樣本資源各自對應(yīng)的資源，為資源轉(zhuǎn)移關(guān)聯(lián)數(shù)據(jù)、多媒體數(shù)據(jù)中的至少一種；在資源為資源轉(zhuǎn)移關(guān)聯(lián)數(shù)據(jù)的情況下，資源的資源特征信息表征資源轉(zhuǎn)移關(guān)聯(lián)數(shù)據(jù)所對應(yīng)的對象的操作信息，在資源為多媒體數(shù)據(jù)的情況下，資源的資源特征信息表征多媒體數(shù)據(jù)所對應(yīng)的對象的屬性信息。

16、另一方面，本技術(shù)提出了一種資源處理方法，所述方法包括：

17、獲取待處理資源；

18、輸入所述待處理資源的資源特征信息至目標(biāo)學(xué)生網(wǎng)絡(luò)進行資源評價處理，得到所述待處理資源的資源評價信息；

19、其中，所述目標(biāo)學(xué)生網(wǎng)絡(luò)為基于上述所述的資源處理網(wǎng)絡(luò)訓(xùn)練方法訓(xùn)練得到。

20、另一方面，本技術(shù)提出了一種資源處理網(wǎng)絡(luò)訓(xùn)練裝置，應(yīng)用于至少兩個參與客戶端中的每個參與客戶端，每個參與客戶端包括支持樣本資源、查詢樣本資源、至少兩個業(yè)務(wù)網(wǎng)絡(luò)和第一學(xué)生網(wǎng)絡(luò)，所述裝置包括：

21、教師網(wǎng)絡(luò)獲取模塊，用于從服務(wù)器獲取教師網(wǎng)絡(luò)；

22、更新梯度確定模塊，用于基于至少兩個業(yè)務(wù)網(wǎng)絡(luò)、所述教師網(wǎng)絡(luò)和所述支持樣本資源訓(xùn)練所述第一學(xué)生網(wǎng)絡(luò)，基于訓(xùn)練結(jié)果對所述查詢樣本資源的資源特征信息進行資源評價處理，并根據(jù)資源評價處理結(jié)果確定所述教師網(wǎng)絡(luò)的更新梯度；

23、更新梯度發(fā)送模塊，用于發(fā)送更新梯度至服務(wù)器，以使所述服務(wù)器基于每個參與客戶端發(fā)送的更新梯度更新所述教師網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)，得到目標(biāo)教師網(wǎng)絡(luò)；以及以使所述服務(wù)器傳輸所述目標(biāo)教師網(wǎng)絡(luò)至目標(biāo)客戶端，所述目標(biāo)客戶端包括至少兩個業(yè)務(wù)網(wǎng)絡(luò)和第二學(xué)網(wǎng)絡(luò)；以及以使所述目標(biāo)客戶端基于至少兩個業(yè)務(wù)網(wǎng)絡(luò)、所述目標(biāo)教師網(wǎng)絡(luò)和預(yù)設(shè)業(yè)務(wù)場景下的目標(biāo)無標(biāo)簽樣本資源訓(xùn)練所述第二學(xué)網(wǎng)絡(luò)，得到目標(biāo)學(xué)生網(wǎng)絡(luò)；

24、其中，所述目標(biāo)學(xué)生網(wǎng)絡(luò)用于根據(jù)輸入的資源，確定所輸入的資源的資源評價信息；所述輸入的資源、所述支持樣本資源、所述查詢樣本資源和所述目標(biāo)無標(biāo)簽樣本資源各自對應(yīng)的資源，為資源轉(zhuǎn)移關(guān)聯(lián)數(shù)據(jù)、多媒體數(shù)據(jù)中的至少一種；在資源為資源轉(zhuǎn)移關(guān)聯(lián)數(shù)據(jù)的情況下，資源的資源特征信息表征資源轉(zhuǎn)移關(guān)聯(lián)數(shù)據(jù)所對應(yīng)的對象的操作信息，在資源為多媒體數(shù)據(jù)的情況下，資源的資源特征信息表征多媒體數(shù)據(jù)所對應(yīng)的對象的屬性信息。

25、另一方面，本技術(shù)提出了一種資源處理網(wǎng)絡(luò)訓(xùn)練裝置，所述裝置包括：

26、資源網(wǎng)絡(luò)獲取模塊，用于獲取預(yù)設(shè)業(yè)務(wù)場景下的目標(biāo)無標(biāo)簽樣本資源，并從服務(wù)器獲取目標(biāo)教師網(wǎng)絡(luò)；所述目標(biāo)教師網(wǎng)絡(luò)為所述服務(wù)器基于每個參與客戶端發(fā)送的更新梯度更新所述服務(wù)器中的教師網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)得到；每個參與客戶端發(fā)送的更新梯度，為每個參與客戶端基于每個參與客戶端包括的至少兩個業(yè)務(wù)網(wǎng)絡(luò)、教師網(wǎng)絡(luò)和支持樣本資源訓(xùn)練第一學(xué)生網(wǎng)絡(luò)，基于訓(xùn)練結(jié)果對每個參與客戶端包括的查詢樣本資源的資源特征信息進行資源評價處理，并根據(jù)資源評價處理結(jié)果確定得到；每個參與客戶端包括的教師網(wǎng)絡(luò)為每個參與客戶端從所述服務(wù)器獲取得到；

27、目標(biāo)學(xué)生網(wǎng)絡(luò)生模塊，用于基于至少兩個業(yè)務(wù)網(wǎng)絡(luò)、所述目標(biāo)教師網(wǎng)絡(luò)和所述目標(biāo)無標(biāo)簽樣本資源訓(xùn)練第二學(xué)網(wǎng)絡(luò)，得到目標(biāo)學(xué)生網(wǎng)絡(luò)；

28、其中，所述目標(biāo)學(xué)生網(wǎng)絡(luò)用于根據(jù)輸入的資源，確定所輸入的資源的資源評價信息；所述輸入的資源、所述支持樣本資源、所述查詢樣本資源和所述目標(biāo)無標(biāo)簽樣本資源各自對應(yīng)的資源，為資源轉(zhuǎn)移關(guān)聯(lián)數(shù)據(jù)、多媒體數(shù)據(jù)中的至少一種；在資源為資源轉(zhuǎn)移關(guān)聯(lián)數(shù)據(jù)的情況下，資源的資源特征信息表征資源轉(zhuǎn)移關(guān)聯(lián)數(shù)據(jù)所對應(yīng)的對象的操作信息，在資源為多媒體數(shù)據(jù)的情況下，資源的資源特征信息表征多媒體數(shù)據(jù)所對應(yīng)的對象的屬性信息。

29、另一方面，本技術(shù)提出了一種資源處理網(wǎng)絡(luò)訓(xùn)練裝置，所述裝置包括：

30、更新梯度接收模塊，用于接收每個參與客戶端發(fā)送的更新梯度；每個參與客戶端發(fā)送的更新梯度，為每個參與客戶端基于每個參與客戶端包括的至少兩個業(yè)務(wù)網(wǎng)絡(luò)、教師網(wǎng)絡(luò)和支持樣本資源訓(xùn)練第一學(xué)生網(wǎng)絡(luò)，基于訓(xùn)練結(jié)果對每個參與客戶端包括的查詢樣本資源的資源特征信息進行資源評價處理，并根據(jù)資源評價處理結(jié)果確定得到；每個參與客戶端包括的教師網(wǎng)絡(luò)為每個參與客戶端從本地服務(wù)器獲取得到；

31、目標(biāo)教師網(wǎng)絡(luò)生成模塊，用于基于每個參與客戶端確定的更新梯度更新所述教師網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)，得到目標(biāo)教師網(wǎng)絡(luò)；

32、目標(biāo)教師網(wǎng)絡(luò)傳輸模塊，用于傳輸所述目標(biāo)教師網(wǎng)絡(luò)至目標(biāo)客戶端，所述目標(biāo)客戶端包括至少兩個業(yè)務(wù)網(wǎng)絡(luò)和第二學(xué)網(wǎng)絡(luò)；以使所述目標(biāo)客戶端基于至少兩個業(yè)務(wù)網(wǎng)絡(luò)、所述目標(biāo)教師網(wǎng)絡(luò)和預(yù)設(shè)業(yè)務(wù)場景下的目標(biāo)無標(biāo)簽樣本資源訓(xùn)練所述第二學(xué)網(wǎng)絡(luò)，得到目標(biāo)學(xué)生網(wǎng)絡(luò)；

33、其中，所述目標(biāo)學(xué)生網(wǎng)絡(luò)用于根據(jù)輸入的資源，確定所輸入的資源的資源評價信息；所述輸入的資源、所述支持樣本資源、所述查詢樣本資源和所述目標(biāo)無標(biāo)簽樣本資源各自對應(yīng)的資源，為資源轉(zhuǎn)移關(guān)聯(lián)數(shù)據(jù)、多媒體數(shù)據(jù)中的至少一種；在資源為資源轉(zhuǎn)移關(guān)聯(lián)數(shù)據(jù)的情況下，資源的資源特征信息表征資源轉(zhuǎn)移關(guān)聯(lián)數(shù)據(jù)所對應(yīng)的對象的操作信息，在資源為多媒體數(shù)據(jù)的情況下，資源的資源特征信息表征多媒體數(shù)據(jù)所對應(yīng)的對象的屬性信息。

34、另一方面，本技術(shù)提出了一種資源處理裝置，所述資源處理裝置包括：

35、待處理資源獲取模塊，用于獲取待處理資源；

36、資源輸入模塊，用于輸入所述待處理資源至目標(biāo)學(xué)生網(wǎng)絡(luò)進行資源特征信息的資源評價處理，得到所述待處理資源的資源評價信息。

37、另一方面，本技術(shù)提出了一種資源處理網(wǎng)絡(luò)訓(xùn)練或資源處理的電子設(shè)備，所述電子設(shè)備包括處理器和存儲器，存儲器中存儲有至少一條指令或至少一段程序，至少一條指令或至少一段程序由處理器加載并執(zhí)行以實現(xiàn)如上述所述的資源處理網(wǎng)絡(luò)訓(xùn)練方法或資源處理方法。

38、另一方面，本技術(shù)提出了一種計算機可讀存儲介質(zhì)，所述計算機可讀存儲介質(zhì)中存儲有至少一條指令或至少一段程序，所述至少一條指令或所述至少一段程序由處理器加載并執(zhí)行以實現(xiàn)如上述所述的資源處理網(wǎng)絡(luò)訓(xùn)練方法或資源處理方法。

39、另一方面，本技術(shù)提出了一種計算機程序產(chǎn)品，所述計算機程被處理器執(zhí)行時實現(xiàn)如上述所述的資源處理網(wǎng)絡(luò)訓(xùn)練方法或資源處理方法。

40、本技術(shù)實施例提出的資源處理網(wǎng)絡(luò)訓(xùn)練方法，在無標(biāo)記樣本場景下，且各個參與客戶端的有標(biāo)記樣本不出域條件下，通過自適應(yīng)地融合各個參與客戶端的業(yè)務(wù)網(wǎng)絡(luò)進行蒸餾學(xué)習(xí)以訓(xùn)練零樣本網(wǎng)絡(luò)(即目標(biāo)學(xué)生網(wǎng)絡(luò))。一方面實現(xiàn)了基于聯(lián)邦學(xué)習(xí)的元蒸餾學(xué)習(xí)訓(xùn)練：即在目標(biāo)教師網(wǎng)絡(luò)的訓(xùn)練過程中，各個聯(lián)合參與客戶端傳輸和共享教師網(wǎng)絡(luò)和梯度更新參數(shù)，依賴有標(biāo)記樣本資源的梯度更新計算在各個參與客戶端的本地進行，從而保障所有參與客戶端在樣本資源數(shù)據(jù)不出域、滿足數(shù)據(jù)隱私安全條件下進行聯(lián)合網(wǎng)絡(luò)訓(xùn)練，實現(xiàn)樣本資源和網(wǎng)絡(luò)能力的對外遷移；另一方面實現(xiàn)了基于元蒸餾學(xué)習(xí)的零樣本建模方案：即利用來自各個聯(lián)合參與客戶端的有標(biāo)記樣本資源構(gòu)建的業(yè)務(wù)網(wǎng)絡(luò)，基于元學(xué)習(xí)技術(shù)自適應(yīng)地學(xué)習(xí)各個業(yè)務(wù)網(wǎng)絡(luò)與零樣本場景(即預(yù)設(shè)業(yè)務(wù)場景)的業(yè)務(wù)相關(guān)性，并通過蒸餾學(xué)習(xí)指導(dǎo)零樣本場景下的網(wǎng)絡(luò)訓(xùn)練，得到最終的目標(biāo)學(xué)生網(wǎng)絡(luò)，從而實現(xiàn)在業(yè)務(wù)冷啟動階段無標(biāo)記樣本資源的條件下，將來自各個聯(lián)合參與客戶端的樣本資源和網(wǎng)絡(luò)能力遷移至預(yù)設(shè)業(yè)務(wù)場景，以提升預(yù)設(shè)業(yè)務(wù)場景下無標(biāo)記樣本資源的建模效果，從而解決預(yù)設(shè)業(yè)務(wù)場景在業(yè)務(wù)冷啟動階段無標(biāo)記樣本的建模難題，進而提高預(yù)設(shè)業(yè)務(wù)場景下無標(biāo)記樣本資源的建模效率和建模精度。

41、本技術(shù)實施例提出的資源處理方法，通過獲取待處理資源，輸入待處理資源至訓(xùn)練好的目標(biāo)學(xué)生網(wǎng)絡(luò)進行資源評價處理，得到待處理資源的資源評價信息，實現(xiàn)了對無標(biāo)記的待處理資源進行資源評價處理，有效提高了業(yè)務(wù)冷啟動階段的待處理資源處理的效率和精度。