[发明专利]一种模型攻击的防御方法及装置

权利要求书

1.一种模型攻击的防御方法，包括：

当集成模型被调用时，获取所述集成模型中各个子模型输出的子预测结果；

判断所述调用是否符合攻击调用；

若所述调用符合攻击调用，则采用预设的防御输出策略，基于所述各个子模型输出的子预测结果确定出所述集成模型的预测结果并输出；

所述采用预设的防御输出策略，基于所述各个子模型输出的子预测结果确定出所述集成模型的预测结果并输出，包括：

将所述子预测结果中置信度最低的子预测结果作为所述集成模型的预测结果并输出。

2.根据权利要求1所述方法，所述方法还包括：

若所述调用不符合攻击调用，则采用预设的缺省输出策略，基于所述各个子模型输出的子预测结果确定出所述集成模型的预测结果并输出。

3.根据权利要求2所述方法，所述采用预设的缺省输出策略，基于所述各个子模型输出的子预测结果确定出所述集成模型的预测结果并输出，包括：

对所述子预测结果进行加权平均计算，得到所述集成模型的预测结果并输出；或

将所述子预测结果中置信度最高的子预测结果作为所述集成模型的预测结果并输出；或

当所述子预测结果中存在多个相同的子预测结果时，将出现次数最多的子预测结果作为所述集成模型的预测结果并输出。

4.根据权利要求1所述方法，所述判断所述调用是否符合攻击调用，包括：

判断调用方的调用频率是否达到频率阈值，若达到所述频率阈值，则确定所述调用符合攻击调用；或

判断调用方在当前统计周期内的调用次数是否达到次数阈值，若达到所述次数阈值，则确定所述调用符合攻击调用。

5.根据权利要求4所述方法，所述频率阈值/次数阈值的确定方式，包括：

根据调用方标识获取调用方的历史调用信息，基于所述历史调用信息确定所述频率阈值/次数阈值。

6.根据权利要求5所述方法，所述基于所述历史调用信息确定所述频率阈值/次数阈值，包括：

根据所述调用方在指定的历史统计周期内的调用频率/调用次数，建立逻辑回归模型；

根据所述逻辑回归模型预测所述调用方在当前统计周期的调用频率/调用次数；

根据所述当前统计周期的调用频率/调用次数确定所述频率阈值/次数阈值。

7.一种模型攻击的防御装置，包括：

获取模块，当集成模型被调用时，获取所述集成模型中各个子模型输出的子预测结果；

判断模块，判断所述调用是否符合攻击调用；

防御输出模块，若所述调用符合攻击调用，则采用预设的防御输出策略，基于所述各个子模型输出的子预测结果确定出所述集成模型的预测结果并输出；

所述防御输出模块：将所述子预测结果中置信度最低的子预测结果作为所述集成模型的预测结果并输出。

8.根据权利要求7所述装置，所述装置还包括：

缺省输出模块，若所述调用不符合攻击调用，则采用预设的缺省输出策略，基于所述各个子模型输出的子预测结果确定出所述集成模型的预测结果并输出。

9.根据权利要求8所述装置，所述缺省输出模块：

对所述子预测结果进行加权平均计算，得到所述集成模型的预测结果并输出；或

将所述子预测结果中置信度最高的子预测结果作为所述集成模型的预测结果并输出；或

当所述子预测结果中存在多个相同的子预测结果时，将出现次数最多的子预测结果作为所述集成模型的预测结果并输出。

10.根据权利要求7所述装置，所述判断模块：

判断调用方的调用频率是否达到频率阈值，若达到所述频率阈值，则确定所述调用符合攻击调用；或

判断调用方在当前统计周期内的调用次数是否达到次数阈值，若达到所述次数阈值，则确定所述调用符合攻击调用。