[发明专利]模型训练方法、装置、计算机设备和存储介质在审
| 申请号: | 202310467837.6 | 申请日: | 2023-04-27 |
| 公开(公告)号: | CN116186704A | 公开(公告)日: | 2023-05-30 |
| 发明(设计)人: | 张诚;程佩哲;韩玮祎 | 申请(专利权)人: | 中国工商银行股份有限公司 |
| 主分类号: | G06F21/56 | 分类号: | G06F21/56;G06F18/214;G06N20/00 |
| 代理公司: | 华进联合专利商标代理有限公司 44224 | 代理人: | 谢曲曲 |
| 地址: | 100140 北*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 模型 训练 方法 装置 计算机 设备 存储 介质 | ||
1.一种模型训练方法,其特征在于,所述方法包括:
获取多种不同类型的攻击方式,以及初始目标模型;
分别基于各所述攻击方式对所述初始目标模型进行仿真攻击处理,得到每个攻击方式对应的模型防御值;
在各所述攻击方式中,筛选模型防御值低于预设防御阈值的目标攻击方式,并基于各所述目标攻击方式,建立多个攻击组;
基于各所述攻击组对所述初始目标模型进行仿真攻击处理,得到每个攻击组对应的综合防御值,并在不存在综合防御值满足预设防御条件的情况下,返回执行基于各所述目标攻击方式,建立多个攻击组步骤,直到存在满足预设防御条件的综合防御值;
将所述满足预设防御条件的综合防御值对应的攻击组,作为目标攻击组,并基于所述目标攻击组对所述初始目标模型进行训练,得到目标模型。
2.根据权利要求1所述的方法,其特征在于,所述分别基于各所述攻击方式对所述初始目标模型进行仿真攻击处理,得到每个攻击方式对应的模型防御值,包括:
针对每个攻击方式,基于所述攻击方式对所述初始目标模型进行仿真攻击处理;
基于各所述攻击方式对应的已仿真的初始目标模型,通过模型评价策略,确定每个攻击方式对应的初始目标模型的防御值。
3.根据权利要求2所述的方法,其特征在于,所述基于各所述攻击方式对应的已仿真的初始目标模型,通过模型评价策略,确定每个攻击方式对应的初始目标模型的防御值,包括:
通过评价函数,对已仿真的初始目标模型进行评价,得到所述初始目标模型的评价值;
基于所述评价值,以及所述初始目标模型的防御信息,确定所述攻击方式对应的初始目标模型的防御值。
4.根据权利要求1所述的方法,其特征在于,所述基于各所述目标攻击方式,建立多个攻击组,包括:
获取攻击组中包含的目标攻击方式的数目;
将各所述目标攻击方式按照所述攻击组中包含的目标攻击方式的数目进行排列组合,得到多个攻击组;各所述攻击组包含的目标攻击方式的数目相同。
5.根据权利要求1所述的方法,其特征在于,在所述攻击组中的各目标攻击方式的攻击模式为结合攻击模式的情况下,所述基于各所述攻击组对所述初始目标模型进行仿真攻击处理,包括:
针对每个攻击组,根据所述攻击组中的各目标攻击方式的攻击特征,确定每个攻击方式对所述初始目标模型的攻击区域;
分别仿真各所述攻击方式攻击所述初始目标模型的不同攻击区域。
6.根据权利要求1所述的方法,其特征在于,在所述攻击组中的各目标攻击方式的攻击模式为组合攻击模式的情况下,所述基于各所述攻击组对所述初始目标模型进行仿真攻击处理,包括:
针对每个攻击组,基于所述攻击组中的各目标攻击方式对应的初始目标模型的防御值,按照防御值从大到小的顺序,确定所述攻击组中的各目标攻击方式的攻击顺序;
基于所述攻击顺序,依次仿真各所述目标攻击方式攻击所述初始目标模型。
7.根据权利要求4所述的方法,其特征在于,所述返回执行基于各所述目标攻击方式,建立多个攻击组之前,还包括:
判断当前的攻击组中包含的目标攻击方式的数目,并将所述当前的攻击组中包含的目标攻击方式的数目增大目标数目,得到新攻击组中包含的目标攻击方式的数目;
将所述当前的攻击组中包含的目标攻击方式的数目,替换为新攻击组中包含的目标攻击方式的数目。
8.根据权利要求1所述的方法,其特征在于,所述基于所述目标攻击组对所述初始目标模型进行训练,得到目标模型,包括:
基于所述目标攻击组中的每个目标攻击方式,分别生成每个目标攻击方式对应的目标攻击样本;其中,每个目标攻击方式对应的各目标攻击样本的数目相同;
确定所述目标攻击组中的各目标攻击方式的攻击模式,并基于所述攻击模式对应的训练方式和所述目标攻击组的各目标攻击样本,对所述初始目标模型进行训练,得到目标模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国工商银行股份有限公司,未经中国工商银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310467837.6/1.html,转载请声明来源钻瓜专利网。





