[发明专利]一种对抗样本生成方法、装置、设备及存储介质

说明书

本申请提供了一种对抗样本生成方法、装置、设备及存储介质，其中，方法包括：获取与患者病情有关的原始医学数据，作为目标样本；以目标样本为依据，生成能够表征对抗样本的语义的向量，作为目标样本对应的对抗样本语义向量；基于目标样本对应的对抗样本语义向量，生成目标样本对应的对抗样本。经由本申请提供的对抗样本生成方法可自动生成对抗样本，采用生成的对抗样本对深度神经网络模型进行训练，可提高深度神经网络模型的鲁棒性，从而使得深度神经网络模型即便针对对抗样例也能输出正确的预测结果。

技术领域

本申请涉及智慧医疗技术领域，尤其涉及一种对抗样本生成方法、装置、设备及存储介质。

背景技术

近几年，深度学习在医疗领域的研究和应用取得了较为显著的成果，其已经逐渐取代了许多传统的方法。尽管深度神经网络模型在现实世界中有着广泛的应用并且具有出色的表现，但其自身同样面临着诸多的安全威胁。最新研究表明，当面对恶意构造的对抗样例时，即便是表现最出色的深度神经网络模型也同样突显出了极大的脆弱性。

在疾病预测场景，通常会将与患者病情有关的医学数据输入深度神经网络模型，由深度神经网络模型根据输入的医学数据预测患者的疾病，目前的深度神经网络模型针对非对抗样本能够输出较为准确的预测结果，但是，当其面对对抗样例时，难以输出准确的预测结果。为了使深度神经网络模型针对对抗样例能够输出准确地预测的结果，需要利用对抗样本对其进行训练，而如何获得对抗样本是目前亟需解决的问题。

发明内容

有鉴于此，本申请提供了一种对抗样本生成方法、装置、设备及存储介质，用以生成对抗样本，以便利用该对抗样本对深度神经网络模型进行训练，从而使深度神经网络模型针对对抗样例也能输出正确的预测结果，其技术方案如下：

一种对抗样本生成方法，包括：

获取与患者病情有关的原始医学数据，作为目标样本；

以所述目标样本为依据，生成能够表征对抗样本的语义的向量，作为所述目标样本对应的对抗样本语义向量；

基于所述目标样本对应的对抗样本语义向量，生成所述目标样本对应的对抗样本。

可选的，基于所述目标样本，生成所述目标样本对应的对抗样本语义向量，包括：

将所述目标样本输入预先建立的对抗样本语义向量生成模型，得到所述目标样本对应的对抗样本语义向量；

其中，所述对抗样本语义向量生成模型采用训练样本训练得到，所述对抗样本语义向量生成模型的训练目标包括：最小化所述训练样本对应的对抗样本与目标疾病对应的知识库的相关度，最大化所述训练样本对应的对抗样本与非目标疾病对应的知识库的相关度，所述目标疾病为所述训练样本对应的疾病。

可选的，所述对抗样本语义向量生成模型的训练目标还包括：

最大化所述训练样本与所述目标疾病对应的知识库的相关度，最小化所述训练样本与所述非目标疾病对应的知识库的相关度。

可选的，所述将所述目标样本输入预先建立的对抗样本语义向量生成模型，得到所述目标样本对应的对抗样本语义向量，包括：

将所述目标样本输入所述对抗样本语义向量生成模型的第一编码模块进行编码，以得到所述目标样本的表征向量；

将所述目标样本的表征向量输入所述对抗样本语义向量生成模型的干扰向量融合模块，以得到融合有干扰向量的样本表征向量；

将所述融合有干扰向量的样本表征向量输入所述对抗样本语义向量生成模型的第二编码模块进行编码，得到所述目标样本对应的对抗样本语义向量。

可选的，所述基于所述目标样本对应的对抗样本语义向量，生成所述目标样本对应的对抗样本，包括：