[发明专利]面向人工智能模型迁移安全的后门攻击对抗方法及系统在审
| 申请号： | 202310705688.2 | 申请日： | 2023-06-14 |
| 公开（公告）号： | CN116702832A | 公开（公告）日： | 2023-09-05 |
| 发明（设计）人： | 王承杰;赵琛;武延军;吴敬征;郑森文;罗天悦 | 申请（专利权）人： | 中国科学院软件研究所 |
| 主分类号： | G06N3/0455 | 分类号： | G06N3/0455;G06N3/0464;G06N3/096;G06N3/094 |
| 代理公司： | 北京君尚知识产权代理有限公司 11200 | 代理人： | 司立彬 |
| 地址： | 100190 *** | 国省代码： | 北京;11 |
| 权利要求书： | 暂无信息 | 说明书： | 暂无信息 |
| 摘要： | 本发明公开了一种面向人工智能模型迁移安全的后门攻击对抗方法及系统。本发明基于对知识蒸馏迁移范式进行优化，来抵抗后门攻击触发器模式的转移；其中学生模型不直接模仿教师模型的输出，而是在利用Transformer对学生模型输出进行层间融合后以全局交互信息模式对教师模型输出进行匹配学习，教师模型的信息被融合信息分散拆解到学生模型各阶段的参数权重内，可避免学生模型受到教师模型内包含的基于局部信息的攻击后门的影响，同时全局信息融合可以提高学生模型所学习的语义，从而提高精度。本发明提供的方法可在迁移不可信来源的人工智能模型能力时，获得可去除基于局部信息攻击后门的安全学生模型。 | ||
| 搜索关键词： | 面向 人工智能 模型 迁移 安全 后门 攻击 对抗 方法 系统 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中国科学院软件研究所，未经中国科学院软件研究所许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202310705688.2/，转载请声明来源钻瓜专利网。
