[发明专利]PU强化学习的远程监督命名实体识别方法

权利要求书

1.一种PU强化学习的远程监督命名实体识别方法，其特征在于，所述方法包括以下步骤：

步骤1，利用BLSTM对非结构化文本提取单条样本序列特征；

步骤2，利用条件随机场和sigmoid进行单类命名实体标注和分类，或者利用条件随机场和softmax进行多类命名实体标注和分类；

步骤3，利用专家规则和远程监督方法获取标记语料和远程监督语料；

步骤4，基于PU强化学习训练样本选择器，从标记语料和远程监督语料中筛选出正样本和待还原负样本；

步骤5，利用去噪还原器对待还原负样本进行重建还原得到还原样本，使用步骤4中得到的正样本作为去噪还原器的训练集，向所述训练集引入一个损坏过程所述损坏过程代表给定数据样本x产生有噪声标记的负样本概率，引入损坏过程的训练集记作损坏集，从所述训练集中随机选择一个训练样本x，从损坏集选择对应损坏样本将作为训练样本来估计去噪还原器的重构分布，去噪还原器的编码器和解码器均为前馈神经网络，输出的还原样本包含还原正样本和无标记样本两部分，利用得分匹配评估样本还原程度，样本还原程度低于10％的样本仍被记作无标记样本输出，样本还原程度达到90％以上的样本被记作正样本输出；

步骤6，引入能够无偏、一致地估计任务损失的损失函数，使用步骤4中得到的正样本和步骤5中得到的还原样本训练中文命名实体识别模型和PU强化学习模型，损失函数如下式所示，

其中，为任务损失，为正类字符集合无偏经验损失，为无标记类字符集合无偏经验损失，为正类无偏损失概率，π_p是正类字符数目与无标记类字符数目的比例，γ为类别权重；

步骤7，样本选择器根据任务损失更新参数后，接受中文命名实体识别模型处理后的标记语料和远程监督语料信息，然后决定再筛选标记语料；

步骤8，按照上述过程，交替训练样本选择器、去噪还原器和中文命名实体识别模型，当筛选出的部分标记语料不变时，停止训练。