技術(shù)特征：

1.一種預(yù)訓(xùn)練模型的攻擊檢測(cè)方法，其特征在于，包括：

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述根據(jù)所述第一指標(biāo)集合和所述第二指標(biāo)集合對(duì)所述測(cè)試樣本集中的各個(gè)物品進(jìn)行分類得到至少兩個(gè)分類集合包括：

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述將所述嵌入表示輸入聚類模型得到所述測(cè)試樣本集中的各個(gè)物品的至少兩個(gè)分類集合包括：

4.根據(jù)權(quán)利要求1至3中任一項(xiàng)所述的方法，其特征在于，所述方法還包括：

5.根據(jù)權(quán)利要求4所述的方法，其特征在于，在獲取所述第二訓(xùn)練樣本集和推薦模型之前，所述方法還包括：

6.一種預(yù)訓(xùn)練模型的攻擊方法，其特征在于，包括：

7.根據(jù)權(quán)利要求6所述的方法，其特征在于，所述利用所述第一物品和所述第一訓(xùn)練樣本集生成第二訓(xùn)練樣本集包括：

8.根據(jù)權(quán)利要求7所述的方法，其特征在于，所述方法還包括：

9.根據(jù)權(quán)利要求7所述的方法，其特征在于，所述方法還包括：

10.根據(jù)權(quán)利要求6至9中任一項(xiàng)所述的方法，其特征在于，在獲取所述第一訓(xùn)練樣本集和初始模型之前，所述方法還包括：

11.根據(jù)權(quán)利要求6至9中任一項(xiàng)所述的方法，其特征在于，所述方法還包括：

12.根據(jù)權(quán)利要求11所述的方法，其特征在于，所述根據(jù)所述第一指標(biāo)集合和所述第二指標(biāo)集合對(duì)所述測(cè)試樣本集中的各個(gè)物品進(jìn)行分類得到至少兩個(gè)分類集合包括：

13.根據(jù)權(quán)利要求12所述的方法，其特征在于，所述將所述嵌入表示輸入聚類模型得到所述測(cè)試樣本集中的各個(gè)物品的至少兩個(gè)分類集合包括：

14.一種預(yù)訓(xùn)練模型的攻擊檢測(cè)裝置，其特征在于，包括：

15.一種預(yù)訓(xùn)練模型的攻擊裝置，其特征在于，包括：

16.一種計(jì)算機(jī)設(shè)備，其特征在于，包括：存儲(chǔ)器、處理器以及總線系統(tǒng)；

17.一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，包括指令，當(dāng)其在計(jì)算機(jī)上運(yùn)行時(shí)，使得計(jì)算機(jī)執(zhí)行如權(quán)利要求1至13中任一項(xiàng)所述的方法。

技術(shù)總結(jié)
本申請(qǐng)實(shí)施例提供了一種預(yù)訓(xùn)練模型的攻擊檢測(cè)方法、裝置、設(shè)備和存儲(chǔ)介質(zhì)，用于檢測(cè)預(yù)訓(xùn)練模型是否存在后門攻擊，從而保證預(yù)訓(xùn)練模型的安全運(yùn)行。包括：根據(jù)應(yīng)用平臺(tái)的第一訓(xùn)練樣本集訓(xùn)練得到第一模型；將應(yīng)用平臺(tái)的測(cè)試樣本集輸入第一模型得到第一指標(biāo)集合，并將測(cè)試樣本集輸入第二模型得到第二指標(biāo)集合，其中，第二模型為第三方提供的預(yù)訓(xùn)練模型，第一指標(biāo)集合和第二指標(biāo)集合中包括具有相同的指標(biāo)類型；根據(jù)第一指標(biāo)集合和第二指標(biāo)集合對(duì)測(cè)試樣本集中的各個(gè)物品進(jìn)行分類得到至少兩個(gè)分類集合，至少兩個(gè)分類集合至少包括正常集合和異常集合；根據(jù)異常集合確定第二模型存在異常攻擊。本申請(qǐng)?zhí)峁┑募夹g(shù)方案應(yīng)用于人工智能、云技術(shù)等領(lǐng)域。

技術(shù)研發(fā)人員：謝若冰,吳貽清,周杰
受保護(hù)的技術(shù)使用者：騰訊科技（深圳）有限公司
技術(shù)研發(fā)日：
技術(shù)公布日：2024/10/21