[发明专利]基于模型权重的后门检测方法、装置、设备及存储介质

说明书

本发明属于计算机技术领域，公开了一种基于模型权重的后门检测方法、装置、设备及存储介质。本发明通过获取待检测模型的输出层权重信息，生成待检测模型的输出层对应的噪声数据；获取噪声数据对应的映射数据，并根据噪声数据及映射数据确定互信息损失；根据互信息损失、噪声数据及映射数据对初始数据生成模型进行更新，获得预设数据生成模型；通过预设数据生成模型及噪声数据确定待检测模型的输出层对应的输入数据；根据输入数据及输出层权重信息对待检测模型进行后门检测。由于在进行后门检测前可根据待检测模型的输出层权重信息生成待检测模型输出层的输入数据，然后根据输入数据及输出层权重信息即可进行后门检测，更符合实际使用需求。

技术领域

本发明涉及计算机技术领域，尤其涉及一种基于模型权重的后门检测方法、装置、设备及存储介质。

背景技术

深度学习模型已经被广泛应用于人脸识别、目标检测和自动驾驶等领域，并在决策过程中起到至关重要的作用，而人工智能系统的安全性问题也随之引起人们的广泛关注，若模型的训练过程是在不可控的条件下进行的，则训练得到的模型就有可能会面临后门攻击的风险。后门攻击，是指攻击者通过向模型中植入后门模式，使得被攻击模型面对干净的样本时可以保持原有的分类功能，但是在面对带有触发器的样本时预测错误。

而现有技术虽然有针对后门攻击的检测技术，但是在实际应用中存在一些限制因素：需要获取被检测模型的训练数据，用于对触发器进行人工合成或复现；需要指定触发器在样本中的位置；需要提前训练好通用的触发器模式和检测器；检测流程较为复杂，但是模型的检测时间需要几个小时或更多的时间。

上述内容仅用于辅助理解本发明的技术方案，并不代表承认上述内容是现有技术。

发明内容

本发明的主要目的在于提供一种基于模型权重的后门检测方法、装置、设备及存储介质，旨在解决现有技术在针对模型进行后门检测时实际使用效果不理想的技术问题。

为实现上述目的，本发明提供了一种基于模型权重的后门检测方法，所述方法包括以下步骤:

获取待检测模型的输出层权重信息，生成所述待检测模型的输出层对应的噪声数据；

获取所述噪声数据对应的映射数据，并根据所述噪声数据及所述映射数据确定互信息损失；

根据所述互信息损失、所述噪声数据及所述映射数据对初始数据生成模型进行更新，获得预设数据生成模型；

通过所述预设数据生成模型及所述噪声数据确定所述待检测模型的输出层对应的输入数据；

根据所述输入数据及所述输出层权重信息对所述待检测模型进行后门检测。

可选的，所述初始数据生成模型包括数据生成网络及数据统计网络；

所述获取所述噪声数据对应的映射数据，并根据所述噪声数据及所述映射数据确定互信息损失的步骤，包括：

通过所述数据生成网络确定所述噪声数据确定对应的映射数据；

通过所述数据统计网络根据所述噪声数据及所述映射数据确定互信息损失。

可选的，所述根据所述互信息损失、所述噪声数据及所述映射数据对初始数据生成模型进行更新，获得预设数据生成模型的步骤，包括：

根据所述互信息损失、所述噪声数据及所述映射数据确定初始数据生成模型对应的模型损失值；

若所述模型损失值不满足模型收敛条件，则根据所述模型损失值对所述初始数据生成模型中的所述数据生成网络及所述数据统计网络进行参数调整，并返回所述通过所述数据生成网络确定所述噪声数据确定对应的映射数据的步骤。

可选的，所述根据所述互信息损失、所述噪声数据及所述映射数据确定初始数据生成模型对应的模型损失值的步骤，包括：