[发明专利]一种后处理对抗防御方法及系统在审
| 申请号： | 202310062514.9 | 申请日： | 2023-01-16 |
| 公开（公告）号： | CN116028928A | 公开（公告）日： | 2023-04-28 |
| 发明（设计）人： | 陈思哲;黄哲昊;陶清华;吴颖雯;谢慈航;杨杰;黄晓霖 | 申请（专利权）人： | 上海交通大学 |
| 主分类号： | G06F21/55 | 分类号： | G06F21/55;G06N3/045;G06N3/08;G06N3/047 |
| 代理公司： | 上海恒慧知识产权代理事务所(特殊普通合伙) 31317 | 代理人： | 徐红银;张琳 |
| 地址： | 200240 *** | 国省代码： | 上海;31 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提供了一种后处理对抗防御方法及系统，该方法包括：根据获取的深度神经网络模型中计算样本分类预测概率的原始输入logits向量，用于计算原始边缘损失；根据所述原始边缘损失，获取目标损失；根据所述原始输入logits向量，计算最大值对应类别的原始预测概率和目标校准预测概率；根据所述目标损失和所述目标校准预测概率，确定对抗防御logits向量，直接将其输出，即可达到防御效果。本发明能够在不降低模型识别精度的情况下，极大提升深度神经网络模型对基于分数黑盒查询攻击的抵御能力，提升深度神经网络模型的预测置信度。 | ||
| 搜索关键词： | 一种 处理 对抗 防御 方法 系统 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于上海交通大学，未经上海交通大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202310062514.9/，转载请声明来源钻瓜专利网。
