本技術(shù)涉及數(shù)據(jù)處理，尤其涉及一種對(duì)抗數(shù)據(jù)檢測(cè)方法、裝置、電子設(shè)備、存儲(chǔ)介質(zhì)及計(jì)算機(jī)程序產(chǎn)品。

背景技術(shù)：

1、相關(guān)技術(shù)中，神經(jīng)網(wǎng)絡(luò)模型易受到對(duì)抗樣本的攻擊，一種有效的防御方法是對(duì)抗樣本預(yù)檢，即在樣本輸入到網(wǎng)絡(luò)之前判斷此樣本是否為對(duì)抗樣本，如果為對(duì)抗樣本，則網(wǎng)絡(luò)拒絕其輸入，常用的對(duì)抗樣本檢測(cè)方法包括基于貝葉斯不確定性、基于特征壓縮、基于輸入重構(gòu)。但是，相關(guān)技術(shù)中的對(duì)抗樣本都是針對(duì)單一分布數(shù)據(jù)集進(jìn)行對(duì)抗樣本預(yù)檢，在實(shí)際應(yīng)用中，模型面對(duì)的是開(kāi)集的數(shù)據(jù)，無(wú)法對(duì)開(kāi)集的數(shù)據(jù)生成的對(duì)抗樣本進(jìn)行有效的檢測(cè)，導(dǎo)致面對(duì)開(kāi)集數(shù)據(jù)的對(duì)抗樣本檢測(cè)準(zhǔn)確度低。

技術(shù)實(shí)現(xiàn)思路

1、本技術(shù)實(shí)施例提供的一種對(duì)抗數(shù)據(jù)檢測(cè)方法、裝置、電子設(shè)備、存儲(chǔ)介質(zhì)及計(jì)算機(jī)程序產(chǎn)品，可以提高面對(duì)開(kāi)集數(shù)據(jù)的對(duì)抗樣本檢測(cè)準(zhǔn)確度。

2、本技術(shù)的技術(shù)方案是這樣實(shí)現(xiàn)的：

3、本技術(shù)實(shí)施例提供了一種對(duì)抗數(shù)據(jù)檢測(cè)方法，包括：

4、獲取待檢測(cè)數(shù)據(jù)集；

5、將所述待檢測(cè)數(shù)據(jù)集輸入預(yù)設(shè)檢測(cè)模型，確定所述待檢測(cè)數(shù)據(jù)集中的對(duì)抗數(shù)據(jù)；

6、其中，所述預(yù)設(shè)檢測(cè)模型是基于訓(xùn)練樣本及對(duì)應(yīng)的樣本標(biāo)簽對(duì)初始檢測(cè)模型進(jìn)行訓(xùn)練得到的；所述樣本標(biāo)簽用于表征所述訓(xùn)練樣本所屬的族和群。

7、上述方案中，所述訓(xùn)練樣本包括：干凈樣本和對(duì)抗樣本；所述將所述待檢測(cè)數(shù)據(jù)集輸入預(yù)設(shè)檢測(cè)模型，確定所述待檢測(cè)數(shù)據(jù)集中的對(duì)抗數(shù)據(jù)之前，所述方法還包括：

8、基于獲取的干凈樣本群通過(guò)至少一個(gè)攻擊方法生成對(duì)抗樣本群；其中，所述干凈樣本群中包括多個(gè)干凈樣本族，每一所述干凈樣本族包括多個(gè)所述干凈樣本；所述對(duì)抗樣本群中包括多個(gè)對(duì)抗樣本族，每一所述對(duì)抗樣本族包括多個(gè)所述對(duì)抗樣本；每一所述干凈樣本對(duì)應(yīng)基于至少一個(gè)所述攻擊方法生成的至少一個(gè)所述對(duì)抗樣本；

9、針對(duì)每一所述干凈樣本形成對(duì)應(yīng)的干凈樣本標(biāo)簽，并針對(duì)每一所述對(duì)抗樣本形成對(duì)應(yīng)的對(duì)抗樣本標(biāo)簽；其中，所述干凈樣本標(biāo)簽包括對(duì)應(yīng)的干凈樣本標(biāo)識(shí)，以及所述干凈樣本所屬的所述干凈樣本族和所述干凈樣本群；所述對(duì)抗樣本標(biāo)簽包括對(duì)應(yīng)的對(duì)抗樣本標(biāo)識(shí)，以及所述對(duì)抗樣本所屬的所述對(duì)抗樣本族和所述對(duì)抗樣本群；

10、基于多組訓(xùn)練數(shù)據(jù)包對(duì)所述初始檢測(cè)模型進(jìn)行多次訓(xùn)練，確定每次訓(xùn)練后得到的中間檢測(cè)模型，以及每一所述中間檢測(cè)模型對(duì)應(yīng)的評(píng)估指標(biāo)；其中，所述訓(xùn)練數(shù)據(jù)包包括：所述干凈樣本和對(duì)應(yīng)的所述干凈樣本標(biāo)簽、所述干凈樣本對(duì)應(yīng)的至少一個(gè)所述對(duì)抗樣本以及至少一個(gè)所述對(duì)抗樣本對(duì)應(yīng)的所述對(duì)抗樣本標(biāo)簽；

11、基于每一所述評(píng)估指標(biāo)確定所述預(yù)設(shè)檢測(cè)模型。

12、上述方案中，所述基于獲取的干凈樣本群通過(guò)至少一個(gè)攻擊方法生成對(duì)抗樣本群，包括：

13、利用每一所述攻擊方法對(duì)每一所述干凈樣本進(jìn)行處理，得到每一所述干凈樣本針對(duì)至少一個(gè)所述攻擊方法分別對(duì)應(yīng)的所述對(duì)抗樣本；

14、將對(duì)應(yīng)同一所述攻擊方法的所述對(duì)抗樣本組合得到所述對(duì)抗樣本族，將每一所述對(duì)抗樣本族組合得到所述對(duì)抗樣本群。

15、上述方案中，所述初始檢測(cè)模型包括：初始特征提取模型、初始群分類(lèi)模型和初始族分類(lèi)模型；所述基于多組訓(xùn)練數(shù)據(jù)包對(duì)所述初始檢測(cè)模型進(jìn)行多次訓(xùn)練，確定每次訓(xùn)練后得到的中間檢測(cè)模型，以及每一所述中間檢測(cè)模型對(duì)應(yīng)的評(píng)估指標(biāo)，包括：

16、利用初始特征提取模型提取所述干凈樣本和對(duì)應(yīng)所述干凈樣本標(biāo)簽的第一特征，以及至少一個(gè)所述對(duì)抗樣本和對(duì)應(yīng)的所述對(duì)抗樣本標(biāo)簽的第二特征；

17、基于所述初始群分類(lèi)模型對(duì)所述第一特征和至少一個(gè)所述第二特征進(jìn)行處理確定群類(lèi)別損失；

18、基于所述初始族分類(lèi)模型對(duì)所述第一特征和至少一個(gè)所述第二特征進(jìn)行處理，確定族類(lèi)別損失；

19、基于所述群類(lèi)別損失和所述族類(lèi)別損失對(duì)所述初始檢測(cè)模型進(jìn)行梯度更新，得到第一個(gè)所述中間檢測(cè)模型，以及第一個(gè)所述中間檢測(cè)模型對(duì)應(yīng)的所述評(píng)估指標(biāo)；

20、利用下一組所述訓(xùn)練數(shù)據(jù)包對(duì)所述初始檢測(cè)模型進(jìn)行訓(xùn)練，直至達(dá)到預(yù)定訓(xùn)練次數(shù)時(shí)停止，得到n個(gè)中間檢測(cè)模型，以及每一所述中間檢測(cè)模型對(duì)應(yīng)的所述評(píng)估指標(biāo)；其中，n為大于0的整數(shù)。

21、上述方案中，所述基于所述初始群分類(lèi)模型對(duì)所述第一特征和至少一個(gè)所述第二特征進(jìn)行處理確定群類(lèi)別損失，包括：

22、基于所述初始群分類(lèi)模型對(duì)所述第一特征和至少一個(gè)所述第二特征進(jìn)行處理確定對(duì)比損失和分類(lèi)損失；

23、基于所述對(duì)比損失和所述分類(lèi)損失確定所述群類(lèi)別損失。

24、上述方案中，所述基于所述群類(lèi)別損失和所述族類(lèi)別損失對(duì)所述初始檢測(cè)模型進(jìn)行梯度更新，得到第一個(gè)所述中間檢測(cè)模型，以及第一個(gè)所述中間檢測(cè)模型對(duì)應(yīng)的所述評(píng)估指標(biāo)，包括：

25、基于所述群類(lèi)別損失和所述族類(lèi)別損失之和對(duì)所述初始檢測(cè)模型進(jìn)行梯度更新，得到第一個(gè)所述中間檢測(cè)模型；

26、利用多個(gè)測(cè)試樣本輸入第一個(gè)所述中間檢測(cè)模型，確定每一所述測(cè)試樣本對(duì)應(yīng)的預(yù)測(cè)標(biāo)簽；其中，多個(gè)所述測(cè)試樣本屬于所述干凈樣本群和所述對(duì)抗樣本群；

27、基于每一所述測(cè)試樣本的真實(shí)標(biāo)簽與所述預(yù)測(cè)標(biāo)簽，確定第一個(gè)所述中間檢測(cè)模型對(duì)應(yīng)的所述評(píng)估指標(biāo)。

28、上述方案中，所述預(yù)設(shè)檢測(cè)模型中的族分類(lèi)模型的輸出包括：對(duì)應(yīng)每一所述干凈樣本族的概率輸出和第一虛擬其他類(lèi)的概率輸出；其中，所述第一虛擬其他類(lèi)的概率輸出用于表征所述干凈樣本標(biāo)簽不屬于所述干凈樣本群的概率；

29、所述預(yù)設(shè)檢測(cè)模型中的族分類(lèi)模型的輸出還包括：對(duì)應(yīng)每一所述對(duì)抗樣本族的概率輸出和第二虛擬其他類(lèi)的概率輸出；其中，所述第二虛擬其他類(lèi)的概率輸出用于表征所述對(duì)抗樣本標(biāo)簽不屬于所述對(duì)抗樣本群的概率。

30、上述方案中，所述將所述待檢測(cè)數(shù)據(jù)集輸入預(yù)設(shè)檢測(cè)模型，確定所述待檢測(cè)數(shù)據(jù)集中的對(duì)抗數(shù)據(jù)，包括：

31、將所述待檢測(cè)數(shù)據(jù)集中的每一待檢測(cè)數(shù)據(jù)輸入所述預(yù)設(shè)檢測(cè)模型，得到所述預(yù)設(shè)檢測(cè)模型中的群分類(lèi)模型輸出的群概率信息，以及所述預(yù)設(shè)檢測(cè)模型中的族分類(lèi)模型輸出的第一虛擬其他類(lèi)的概率信息和第二虛擬其他類(lèi)的概率信息；

32、基于所述群概率信息確定所述待檢測(cè)數(shù)據(jù)所屬的群檢測(cè)結(jié)果；

33、基于所述群檢測(cè)結(jié)果結(jié)合所述第一虛擬其他類(lèi)的概率信息或第二虛擬其他類(lèi)的概率信息，確定所述待檢測(cè)數(shù)據(jù)的對(duì)抗數(shù)據(jù)檢測(cè)結(jié)果；

34、基于每一所述對(duì)抗數(shù)據(jù)檢測(cè)結(jié)果在所述待檢測(cè)數(shù)據(jù)集中確定所述對(duì)抗數(shù)據(jù)。

35、上述方案中，所述基于所述群檢測(cè)結(jié)果結(jié)合所述第一虛擬其他類(lèi)的概率信息或第二虛擬其他類(lèi)的概率信息，確定所述待檢測(cè)數(shù)據(jù)的對(duì)抗數(shù)據(jù)檢測(cè)結(jié)果，包括以下之一：

36、若所述群檢測(cè)結(jié)果表征所述待檢測(cè)數(shù)據(jù)屬于所述干凈樣本群，且所述第一虛擬其他類(lèi)的概率信息小于第一閾值，則確定所述待檢測(cè)數(shù)據(jù)是干凈數(shù)據(jù)的所述對(duì)抗數(shù)據(jù)檢測(cè)結(jié)果；

37、若所述群檢測(cè)結(jié)果表征所述待檢測(cè)數(shù)據(jù)屬于對(duì)抗樣本群，且所述第二虛擬其他類(lèi)的概率信息小于第二閾值，則確定所述待檢測(cè)數(shù)據(jù)是對(duì)抗數(shù)據(jù)的所述對(duì)抗數(shù)據(jù)檢測(cè)結(jié)果。

38、本技術(shù)實(shí)施例還提供了一種對(duì)抗數(shù)據(jù)檢測(cè)裝置，包括：

39、數(shù)據(jù)獲取單元，用于獲取待檢測(cè)數(shù)據(jù)集；

40、確定單元，用于將所述待檢測(cè)數(shù)據(jù)集輸入預(yù)設(shè)檢測(cè)模型，確定所述待檢測(cè)數(shù)據(jù)集中的對(duì)抗數(shù)據(jù)；

41、其中，所述預(yù)設(shè)檢測(cè)模型是基于訓(xùn)練樣本及對(duì)應(yīng)的樣本標(biāo)簽對(duì)初始檢測(cè)模型進(jìn)行訓(xùn)練得到的；所述樣本標(biāo)簽用于表征所述訓(xùn)練樣本所屬的族和群。

42、本技術(shù)實(shí)施例還提供了一種電子設(shè)備，包括存儲(chǔ)器和處理器，所述存儲(chǔ)器存儲(chǔ)有可在處理器上運(yùn)行的計(jì)算機(jī)程序，所述處理器執(zhí)行所述計(jì)算機(jī)程序時(shí)實(shí)現(xiàn)上述方法中的步驟。

43、本技術(shù)實(shí)施例還提供了一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其上存儲(chǔ)有計(jì)算機(jī)程序，所述計(jì)算機(jī)程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)上述方法中的步驟。

44、本技術(shù)實(shí)施例還提供了一種計(jì)算機(jī)程序產(chǎn)品，包括計(jì)算機(jī)程序，所述計(jì)算機(jī)程序在被處理器執(zhí)行時(shí)實(shí)現(xiàn)上述方法中的步驟。

45、本技術(shù)實(shí)施例中，獲取待檢測(cè)數(shù)據(jù)集；將待檢測(cè)數(shù)據(jù)集輸入預(yù)設(shè)檢測(cè)模型，確定待檢測(cè)數(shù)據(jù)集中的對(duì)抗數(shù)據(jù)；其中，預(yù)設(shè)檢測(cè)模型是基于訓(xùn)練樣本及對(duì)應(yīng)的樣本標(biāo)簽對(duì)初始檢測(cè)模型進(jìn)行訓(xùn)練得到的；樣本標(biāo)簽用于表征訓(xùn)練樣本所屬的族和群。由于本技術(shù)實(shí)施例中的預(yù)設(shè)檢測(cè)模型學(xué)習(xí)到了大量的訓(xùn)練樣本及訓(xùn)練樣本所屬的族和群的特征，在面對(duì)開(kāi)集數(shù)據(jù)集時(shí)，可以針對(duì)開(kāi)集數(shù)據(jù)集各個(gè)群中各個(gè)類(lèi)的數(shù)據(jù)所形成的對(duì)抗數(shù)據(jù)進(jìn)行有效的檢測(cè)，相比于相關(guān)技術(shù)中的針對(duì)單一分布數(shù)據(jù)集進(jìn)行對(duì)抗樣本檢測(cè)的方案，很大程度上提高了面對(duì)開(kāi)集數(shù)據(jù)的對(duì)抗樣本檢測(cè)準(zhǔn)確度。