[发明专利]一种基于领域适应的少样本实体识别方法

权利要求书

1.一种基于领域适应的少样本实体识别方法，其特征在于，该方法包括如下步骤：

(1)选取支点特征

统计n-gram在源领域和目标领域的语料中出现的频次，选取在两个领域同时出现，且频次超过阈值词组作为支点特征词，通过支点特征词将模板“支点特征词w在右面”、“支点特征词w在左面”、“支点特征词w在中间”实例化，每个实例代表一个维度的支点特征，形成支点特征集，w表示文本句子中的支点特征词；

(2)建立训练数据集，训练支点特征分类器

将步骤(1)中的支点特征集作为训练数据集，训练一组预测样本句子中是否存在支点特征词的支点特征分类器，具体为：对每一维支点特征i训练一个逻辑回归模型作为支点特征分类器，对样本句子中的词判断是否存在支点特征，训练后得到逻辑回归模型的系数w_i，w_i为一个列向量，其维度为非支点特征的维度数量，对全部支点特征构成矩阵w＝[w₁,w₂,…,w_M]；w_M表示第M维支点特征，M＝3N，w_i中第j维的数值w_ij表示第j维非支点特征词与第i维支点特征词的相关性，w_ij为正值表示正相关；

支点特征分类器的样本输入：计算两个领域全部句子的n-gram形成n-gram列表，每个句子的特征为n-gram列表中的词是否存在于句子中的支点特征词和非支点特征词的二值向量，然后去掉句子中全部支点特征词对应的维度，得到句子的特征向量；

支点特征分类器的样本输出：输出维度为1，由于计算了句子的n-gram特征，如果句子中的某个非支点特征词的左面或右面是支点特征词，那么句子必然至少包含了该支点特征词的2-gram，此时这条句子样本的标签为1，否则标签为0，同时在该支点特征词的w_i系数中对应的项为正值，即句子中的非支点特征词与该支点特征词正相关；

(3)在源领域上训练实体识别模型

在源领域语料上训练实体识别模型，模型的输入为一个句子，输出为与句子长度相同的标签序列，标记了句子中每个字的类别；

(4)在目标领域上进行实体识别

用步骤(3)中训练好的模型在目标领域上进行预测，利用w矩阵中的相关性信息，对目标领域中每个非支点特征词，用与支点特征词最相关并且同时满足相关性大于一定阈值的源领域中的非支点特征词替换。

2.根据权利要求1所述的一种基于领域适应的少样本实体识别方法，其特征在于，所述源领域具有带标签语料和无标签语料，所述目标领域只含有无标签语料。

3.根据权利要求1所述的一种基于领域适应的少样本实体识别方法，其特征在于，所述n-gram中的n取值为2。

4.根据权利要求1所述的一种基于领域适应的少样本实体识别方法，其特征在于，步骤(2)中，w_i的含义表示非支点特征与支点特征之间的协方差。

5.根据权利要求1所述的一种基于领域适应的少样本实体识别方法，其特征在于，步骤(2)中，针对中文语料，对两个领域语料分词，取所有可能的分词结果形成lattice，之后对全部lattice词建立n-gram，再用步骤(1)过程建立样本，此时每个句子包含了句子中全部分词结果对应的n-gram。

6.根据权利要求5所述的一种基于领域适应的少样本实体识别方法，其特征在于，步骤(3)中，针对中文语料，用lattice分词作为输入。

7.根据权利要求5所述的一种基于领域适应的少样本实体识别方法，其特征在于，步骤(4)中，针对中文语料，将每个lattice分词对应的最相关的源领域中的非支点词替换。

8.根据权利要求1所述的一种基于领域适应的少样本实体识别方法，其特征在于，步骤(4)中，若预测结果替换时长度不一致，则应对造成的偏移进行处理。