[发明专利]对抗样本生成方法、装置及计算机设备

权利要求书

1.一种对抗样本生成方法，用于根据图数据样本为目标模型生成对抗样本，所述图数据样本中的节点用于表征用户，所述图数据样本的边用于表征所述用户之间的关联关系，所述目标模型用于对用户进行分类，针对所述图数据样本中给定的任一目标节点，执行以下对抗样本生成方法：

根据所述目标节点的各关联元素对所述图数据样本进行修改，得到修改后的图数据样本，所述关联元素包括：以所述目标节点为端点的边和/或以所述目标节点的邻近节点为端点的边；

将修改后的图数据样本输入到所述目标模型，并根据所述目标模型的输出结果确定表征所述关联元素对所述目标模型干扰大小的干扰参数；

根据所述干扰参数的大小从所述关联元素中确定目标元素；

根据所述目标元素和所述图数据样本生成对抗样本。

2.根据权利要求1所述的对抗样本生成方法，根据所述目标节点的各关联元素对所述图数据样本进行修改，得到修改后的图数据样本，将修改后的图数据样本输入到所述目标模型，并根据所述目标模型的输出结果确定表征所述关联元素对所述目标模型干扰大小的干扰参数，包括：

针对每个所述关联元素，若所述图数据样本包含所述关联元素，则从所述图数据样本删除所述关联元素，得到所述修改后的图数据样本，并将所述修改后的图数据样本输入所述目标模型，以确定所述关联元素的干扰参数。

3.根据权利要求2所述的对抗样本生成方法，所述方法还包括：

若所述图数据样本不包含所述关联元素，则在所述图数据样本增加所述关联元素，得到所述修改后的图数据样本，并将所述修改后的图数据样本输入所述目标模型，以确定所述关联元素的干扰参数。

4.根据权利要求1所述的对抗样本生成方法，根据所述目标元素和所述图数据样本生成对抗样本，包括：

遍历所述目标元素，删除所述图数据样本中的所述目标元素以及在所述图数据样本中增加所述目标元素，得到所述对抗样本。

5.根据权利要求1所述的对抗样本生成方法，所述关联元素还包括：所述目标节点的邻近节点，根据所述目标节点的各关联元素对所述图数据样本进行修改，得到修改后的图数据样本，将修改后的图数据样本输入到所述目标模型，并根据所述目标模型的输出结果确定表征所述关联元素对所述目标模型干扰大小的干扰参数，包括：

针对每个所述邻近节点，分别执行以下操作：

从所述图数据样本中删除所述邻近节点以及以所述邻近节点为端点的边，得到所述修改后的图数据样本，并将所述修改后的图数据样本输入到所述目标模型，以确定所述邻近节点的干扰参数。

6.根据权利要求5所述的对抗样本生成方法，所述目标元素为从所述邻近节点筛选出的一个或多个节点，根据所述目标元素和所述图数据样本生成对抗样本，包括：

遍历所述目标元素，删除所述图数据样本中的所述目标元素以及以所述目标元素为端点的边，得到所述对抗样本。

7.根据权利要求1-6任一项所述的对抗样本生成方法，所述目标元素为所述干扰参数大于指定阈值的关联元素，或

将所述关联元素按照所述干扰参数由大到小的顺序排序，选取前N个关联元素作为所述目标元素，N为正整数。

8.根据权利要求1所述的对抗样本生成方法，所述目标模型为图数据节点分类模型，所述干扰参数根据所述目标模型将所述目标节点划分为指定类别的概率确定。

9.根据权利要求8所述的对抗样本生成方法，所述指定类别为所述目标节点对应的正确类别，所述干扰参数为所述目标模型将所述目标节点划分为所述指定类别的概率的相反数。

10.根据权利要求9所述的对抗样本生成方法，所述邻近节点为所述目标模型计算所述目标节点的分类结果相关的节点。

11.根据权利要求1所述的对抗样本生成方法，所述图数据样本中的节点用于表征社交网络中的用户，所述目标模型用于检测所述社交网络中的异常用户。