[发明专利]模型训练方法、装置、计算机设备和存储介质

说明书

本申请涉及一种模型训练方法、装置、计算机设备和存储介质。本申请涉及信息安全技术及人工智能技术领域。方法包括：获取多种不同类型的攻击方式，以及初始目标模型；分别基于各攻击方式对初始目标模型进行仿真攻击处理，得到每个攻击方式对应的模型防御值，并建立多个攻击组；基于各攻击组对初始目标模型进行仿真攻击处理，得到每个攻击组对应的综合防御值，并在不存在综合防御值满足预设防御条件的情况下，返回上述步骤，直到存在满足预设防御条件的综合防御值；将满足预设防御条件的综合防御值对应的攻击组，作为目标攻击组，并基于目标攻击组对初始目标模型进行训练，得到目标模型。采用本方法能够提升目标模型的训练效果。

技术领域

本申请涉及信息安全以及人工智能技术领域，特别是涉及一种模型训练方法、装置、计算机设备和存储介质。

背景技术

人工智能模型为防御外部客户端的攻击需要该人工智能模型进行多次训练，从而提升该人工智能模型的防御效果，因此如何训练该人工智能模型是现在的研究重点。

传统的训练方案是通过模拟单一攻击方式对该人工智能模型进行仿真攻击，从而训练该人工智能模型，但是由于单一攻击方式对人工智能模型进行训练会导致人工智能模型只针对该攻击方式的防御，导致人工智能模型的训练效果较差。

发明内容

基于此，有必要针对上述技术问题，提供一种模型训练方法、装置、计算机设备、计算机可读存储介质和计算机程序产品。

第一方面，本申请提供了一种模型训练方法。所述方法包括：

获取多种不同类型的攻击方式，以及初始目标模型；

分别基于各所述攻击方式对所述初始目标模型进行仿真攻击处理，得到每个攻击方式对应的模型防御值；

在各所述攻击方式中，筛选模型防御值低于预设防御阈值的目标攻击方式，并基于各所述目标攻击方式，建立多个攻击组；

基于各所述攻击组对所述初始目标模型进行仿真攻击处理，得到每个攻击组对应的综合防御值，并在不存在综合防御值满足预设防御条件的情况下，返回执行基于各所述目标攻击方式，建立多个攻击组步骤，直到存在满足预设防御条件的综合防御值；

将所述满足预设防御条件的综合防御值对应的攻击组，作为目标攻击组，并基于所述目标攻击组对所述初始目标模型进行训练，得到目标模型。

可选的，所述分别基于各所述攻击方式对所述初始目标模型进行仿真攻击处理，得到每个攻击方式对应的模型防御值，包括：

针对每个攻击方式，基于所述攻击方式对所述初始目标模型进行仿真攻击处理；

基于各所述攻击方式对应的已仿真的初始目标模型，通过模型评价策略，确定每个攻击方式对应的初始目标模型的防御值。

可选的，所述基于各所述攻击方式对应的已仿真的初始目标模型，通过模型评价策略，确定每个攻击方式对应的初始目标模型的防御值，包括：

通过评价函数，对已仿真的初始目标模型进行评价，得到所述初始目标模型的评价值；

基于所述评价值，以及所述初始目标模型的防御信息，确定所述攻击方式对应的初始目标模型的防御值。

可选的，所述基于各所述目标攻击方式，建立多个攻击组，包括：

获取攻击组中包含的目标攻击方式的数目；

将各所述目标攻击方式按照所述攻击组中包含的目标攻击方式的数目进行排列组合，得到多个攻击组；各所述攻击组包含的目标攻击方式的数目相同。

可选的，在所述攻击组中的各目标攻击方式的攻击模式为结合攻击模式的情况下，所述基于各所述攻击组对所述初始目标模型进行仿真攻击处理，包括：

针对每个攻击组，根据所述攻击组中的各目标攻击方式的攻击特征，确定每个攻击方式对所述初始目标模型的攻击区域；

分别仿真各所述攻击方式攻击所述初始目标模型的不同攻击区域。