[发明专利]对抗样本生成方法、装置及计算机设备

说明书

本说明书实施例提供一种对抗样本生成方法、装置及计算机设备。确定图数据样本中目标节点的关联元素，然后根据关联元素对图数据样本进行修改，将修改后的图数据样本输入到目标模型，根据目标模型输出的结果确定表征每个关联元素对于目标模型的干扰大小的干扰参数，然后选取干扰较大的目标元素对图数据进行修改，得到对抗样本。通过模型的前向计算将关联元素的扰动结果准确量化，避免了基于梯度信息计算扰动结果中的连续松弛问题及计算的扰动结果不准确的问题，通过贪心选取的策略为图结数据加入最少的扰动，以生成对抗样本。

技术领域

本说明书涉及人工智能技术领域，尤其涉及一种对抗样本生成方法、装置以及计算机设备。

背景技术

随着人工智能的发展，机器学习在越来越多的场景中都有广泛的应用，比如采用神经网络模型对文本、图片分类，通过分类模型从社交网络中检测出异常的用户等。虽然，对于有些模型，其预测结果的准确度已经非常高。但是当被输入一些基于正常样本恶意构造的对抗样本时，模型还是会做出错误的预测。采用对抗样本对模型进行攻击可以检测出神经网络模型潜在的漏洞，从而可以对模型进行优化，提升模型性能。因而有必要对抗样本的生成方法加以改进，以便生成扰动较小，并且比较有效的对抗样本，以对模型进行优化。

发明内容

基于此，本说明书提供了一种对抗样本生成方法、装置以及计算机设备。

根据本说明书实施例的第一方面，提供一种对抗样本生成方法，用于根据图数据样本为目标模型生成对抗样本，针对所述图数据样本中给定的任一目标节点，执行以下对抗样本生成方法：

根据所述目标节点的各关联元素对所述图数据样本进行修改，得到修改后的图数据样本，所述关联元素包括：以所述目标节点为端点的边和/或以所述目标节点的邻近节点为端点的边；

将修改后的图数据样本输入到所述目标模型，并根据所述目标模型的输出结果确定表征所述关联元素对所述目标模型干扰大小的干扰参数；

根据所述干扰参数的大小从所述关联元素中确定目标元素；

根据所述目标元素和所述图数据样本生成对抗样本。

根据本说明书实施例的第二方面，提供一种对抗样本生成装置，用于针对图数据样本中给定的任一目标节点，为目标模型生成对抗样本，所述装置包括：

修改模块，用于根据所述目标节点的各关联元素对所述图数据样本进行修改，得到修改后的图数据样本，所述关联元素包括：以所述目标节点为端点的边和/或以所述目标节点的邻近节点为端点的边；

干扰参数确定模块，用于将修改后的图数据样本输入到所述目标模型，并根据所述目标模型的输出结果确定表征所述关联元素对所述目标模型干扰大小的干扰参数；

目标元素确定模块，用于根据所述干扰参数的大小从所述关联元素中确定目标元素；

对抗样本生成模块，用于根据所述目标元素和所述图数据样本生成对抗样本。

根据本说明书实施例的第三方面，提供一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现任一实施例所述的对抗样本生成方法。

应用本说明书实施例方案，确定图数据样本中目标节点的关联元素，然后根据关联元素对图数据样本进行修改，将修改后的图数据样本输入到目标模型，根据目标模型输出的结果确定表征每个关联元素对于目标模型的干扰大小的干扰参数，然后选取干扰较大的目标元素对图数据进行修改，得到对抗样本。通过模型的前向计算将关联元素的扰动结果准确量化，避免了基于梯度信息计算扰动结果中的连续松弛问题及计算的扰动结果不准确问题，通过贪心选取的策略为图结数据加入最少的扰动，以生成对抗样本。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本说明书。

附图说明