[发明专利]一种融合领域词典的中文农作物病虫害命名实体识别方法

权利要求书

1.一种融合领域词典的中文农作物病虫害命名实体识别方法，其特征在于，包括以下步骤：

步骤1：获取网络中有关农作物病虫害的语料，对语料进行预处理，之后将得到的数据集进行标注，再将数据集划分为训练集和测试集；

步骤2：利用ALBERT预训练模型获得初始化字向量并利用对抗训练生成对抗样本；

步骤3：将步骤2中得到的向量与对抗样本输入到BiLSTM层提取上下文特征；

步骤4：将步骤3得到的结果输入到CRF层得到最优标注序列；

步骤5：构建小规模农作物病虫害领域词典，对步骤4得到的结果校正处理，得到最终结果。

2.根据权利要求1所述的融合领域词典的中文农作物病虫害命名实体识别方法，其特征在于，步骤1中，删除农作物病虫害文本语料中重复和不相关的内容，去除文本中的空格、空行，接着对数据进行标注，选择使用YEDDA标注工具对数据进行标注，采用BIO标注格式对作物名称、病害名称、虫害名称、病原、防治药剂五类实体进行标注，其中B表示实体名起点，I表示实体内部，O表示非实体，再将数据集划分为训练集和测试集。

3.根据权利要求1所述的融合领域词典的中文农作物病虫害命名实体识别方法，其特征在于，步骤2中，所述ALBERT预训练语言模型语义理解能力强、参数量少、训练速度快，能很好的学习文本特征，提高向量的表征能力。

4.根据权利要求1所述的融合领域词典的中文农作物病虫害命名实体识别方法，其特征在于，所述对抗训练通过对ALBERT层预训练模型输出的字向量X_c＝(f₁,f₂,K,f_n)添加扰动，对该字向量添加扰动因子r_adv,计算公式为：

式中g(X_c)为梯度，ε为超参数的小有界范数，θ为模型参数，y为标签信息，L(X_c,y,θ)为损失函数，得到对抗样本A：

A＝X_c+r_adv

对抗样本能模拟标签中数据集的自然误差，让模型去适应参数变化带来的波动影响，因而可提升模型的鲁棒性，对抗样本生成后与原始生成的词向量同时送入BiLSTM层训练。

5.根据权利要求1所述的融合领域词典的中文农作物病虫害命名实体识别方法，其特征在于，所述BiLSTM是指正反向长短期记忆网络，BiLSTM网络能有效利用文本长距离语义，更多地挖掘语义特征，计算公式如下所示：

f_t＝σ(W_f[h_t-1,x_t]+b_f)

i_t＝σ(W_i[h_t-1,x_t]+b_i)

o_t＝σ(W_o[h_t-1,x_t]+b_o)

h_t＝o_t×tanh(C_t)

其中，σ代表sigmod激活函数；tanh表示tan激活函数，用于将值规范到-1和1之间；f_t、i_t、C_t、o_t分别为在t时刻遗忘门、输入门、细胞状态和输出门计算公式；h_t-1表示前一时刻的隐藏层状态，x_t表示当前时刻的输入词，表示临时细胞状态。