[发明专利]基于模型权重的后门检测方法、装置、设备及存储介质

权利要求书

1.一种基于模型权重的后门检测方法，其特征在于，所述基于模型权重的后门检测方法包括以下步骤：

获取待检测模型的输出层权重信息，生成所述待检测模型的输出层对应的噪声数据；

获取所述噪声数据对应的映射数据，并根据所述噪声数据及所述映射数据确定互信息损失；

根据所述互信息损失、所述噪声数据及所述映射数据对初始数据生成模型进行更新，获得预设数据生成模型；

通过所述预设数据生成模型及所述噪声数据确定所述待检测模型的输出层对应的输入数据；

根据所述输入数据及所述输出层权重信息对所述待检测模型进行后门检测。

2.如权利要求1所述的基于模型权重的后门检测方法，其特征在于，所述初始数据生成模型包括数据生成网络及数据统计网络；

所述获取所述噪声数据对应的映射数据，并根据所述噪声数据及所述映射数据确定互信息损失的步骤，包括：

通过所述数据生成网络确定所述噪声数据确定对应的映射数据；

通过所述数据统计网络根据所述噪声数据及所述映射数据确定互信息损失。

3.如权利要求2所述的基于模型权重的后门检测方法，其特征在于，所述根据所述互信息损失、所述噪声数据及所述映射数据对初始数据生成模型进行更新，获得预设数据生成模型的步骤，包括：

根据所述互信息损失、所述噪声数据及所述映射数据确定初始数据生成模型对应的模型损失值；

若所述模型损失值不满足模型收敛条件，则根据所述模型损失值对所述初始数据生成模型中的所述数据生成网络及所述数据统计网络进行参数调整，并返回所述通过所述数据生成网络确定所述噪声数据确定对应的映射数据的步骤。

4.如权利要求3所述的基于模型权重的后门检测方法，其特征在于，所述根据所述互信息损失、所述噪声数据及所述映射数据确定初始数据生成模型对应的模型损失值的步骤，包括：

根据所述噪声数据及所述映射数据确定交叉熵损失；

通过预设模型损失公式根据互信息损失及所述交叉熵损失确定初始数据生成模型对应的模型损失值；

其中，所述预设模型损失公式为：

Loss_gen＝-loss_ce-loss_entopy

式中，Loss_gen为模型损失值，loss_ce为交叉熵损失，loss_entopy为互信息损失。

5.如权利要求3所述的基于模型权重的后门检测方法，其特征在于，所述根据所述互信息损失、所述噪声数据及所述映射数据确定初始数据生成模型对应的模型损失值的步骤之后，还包括：

若所述模型损失值满足模型收敛条件，则将所述初始数据生成模型作为预设数据生成模型。

6.如权利要求1所述的基于模型权重的后门检测方法，其特征在于，所述根据所述输入数据及所述输出层权重信息对所述待检测模型进行后门检测的步骤，包括：

获取所述待检测模型的输出层的分类类别；

根据所述输入数据及所述输出层权重信息确定各分类类别对应的峰度范数分值；

根据所述峰度范数分值检测所述待检测模型中是否存在具有后门的分类类别。

7.如权利要求6所述的基于模型权重的后门检测方法，其特征在于，所述根据所述输入数据及所述输出层权重信息确定各分类类别对应的峰度范数分值的步骤，包括：

遍历所述分类类别，并将遍历到的分类类别作为当前分类类别；

确定所述当前分类类别中潜在触发器在模型输出层对应的初始潜在权重分布；

根据所述输入数据确定所述当前分类类别对应的类别输入数据；

根据所述类别输入数据及所述潜在权重分布确定权重损失值；

基于所述权重损失值对所述初始潜在权重分布进行优化，获得最终潜在权重分布；

根据所述最终潜在权重分布及所述类别输入数据确定所述当前分类类别对应的峰度范数分值；

在遍历结束时，获得各分类类别对应的峰度范数分值。