[发明专利]基于混合对比学习和生成式数据增强的零样本文本立场检测方法

权利要求书

1.基于混合对比学习和生成式数据增强的零样本文本立场检测方法，其特征在于：所述方法具体过程为：

步骤一、获取可见类样本数据和不可见类样本数据；

可见类样本数据和不可见类样本数据均为带标签数据；

可见类样本数据和不可见类样本数据的目标不同；

可见类样本数据作为训练集；

不可见类样本数据作为测试集；

训练集和测试集包括目标、立场、真实文本x；

步骤二、建立GDA-CL模型，GDA-CL模型包括：文本生成层、对比学习层、立场分类层；

文本生成层用于将训练集中真实文本x的目标和立场输入对抗生成网络模型，对抗生成网络模型输出合成文本，获得预训练好的对抗生成网络模型；

将训练集中真实文本x的目标和立场输入预训练好的对抗生成网络模型，输出合成文本，将合成文本集成到训练数据中，生成新的训练数据集；

对比学习层采用基于RoBERTa的序列编码器E和投影函数H，用于将文本映射到不同维度，通过实例级和类别级对比学习共同优化文本表示，获得训练好的对抗生成网络模型；

将测试集输入训练好的对抗生成网络模型，若输出结果满足要求，获得最终训练好的对抗生成网络模型；若输出结果不满足要求，继续训练对抗生成网络模型，直至满足要求；

将目标和随机立场输入最终训练好的对抗生成网络模型，输出文本，将输出文本输入立场分类层获得待测文本x_i的立场标签y_i。

2.根据权利要求1所述的基于混合对比学习和生成式数据增强的零样本文本立场检测方法，其特征在于：所述文本生成层用于将训练集中真实文本x的目标和立场输入对抗生成网络模型，对抗生成网络模型输出合成文本，获得预训练好的对抗生成网络模型；

将训练集中真实文本x的目标和立场输入预训练好的对抗生成网络模型，输出合成文本，将合成文本集成到训练数据中，生成新的训练数据集；

具体过程为：

所述对抗生成网络模型包括生成器和鉴别器；

所述生成器G_θ为文本生成器GPT-2；

所述鉴别器D_φ为Roberta；

将训练集中真实文本x的目标和立场输入文本生成器GPT-2，文本生成器GPT-2输出合成文本

其中，条件a为属性描述，为真实文本x的目标和立场；G_θ为文本生成器GPT-2，为文本生成器GPT-2输出合成文本；

将文本生成器GPT-2输出合成文本和真实文本x输入鉴别器D_φ，鉴别器D_φ输出真实文本x的置信度得分p_r和合成文本的置信度得分p_g；

所述鉴别器D_φ输出真实文本x的置信度得分0p_r1；

所述鉴别器D_φ输出合成文本的置信度得分0p_g1；

基于鉴别器D_φ输出的合成文本的置信度得分p_g获得稀疏奖励R_y；

生成器损失函数为：

其中，y_1:T是生成器输出文本序列，T是序列长度，ò是裁剪因子，是奖励信号R_y规范化后的奖励，clip是裁剪函数；r(θ)是当前生成器输出值和上一次生成器输出值得比值；

鉴别器损失为：

基于鉴别器D_φ输出合成文本的置信度得分p_g计算交叉熵损失，将交叉熵损失作为鉴别器的损失函数，鉴别器为生成器提供奖励信号R_y；

同时，Roberta作为鉴别器D_φ来区分真实样本x和合成样本

在生成器和鉴别器同时满足以下目标函数对抗生成网络模型达到鞍点时，获得预训练好的对抗生成网络模型：

其中，为鉴别器D_φ期望，为生成器期望；为把x、输入鉴别器，D_φ(x,G_θ(a))为把x、G_θ(a)输入鉴别器；

将训练集中真实文本x的目标和立场输入预训练好的对抗生成网络模型，输出合成文本，将合成文本集成到训练数据中，生成新的训练数据集。