[发明专利]一种文本分类模型构建方法、文本分类方法及装置

权利要求书

1.一种文本分类模型构建方法，其特征在于，包括如下步骤：

获取训练文本数据以及对应所述训练文本数据所属领域的多个预设标签属性信息；

将所述训练文本数据以及多个预设标签属性信息输入到阅读理解模型，得到每一个训练文本数据与每一个预设标签属性信息之间的文本交互表示；

将每一个文本交互表示输入到特征提取模型，得到文本关键特征；

将所述文本关键特征输入到初始分类模型进行分类识别，得到每一个训练文本数据隶属于每一个预设标签属性信息的概率值，根据所述概率值，得到分类结果；

根据所述分类结果训练所述初始分类模型的模型参数，直至所述初始分类模型的损失函数值满足目标条件，得到目标文本分类模型。

2.根据权利要求1所述的方法，其特征在于，所述将所述训练文本数据以及多个预设标签属性信息输入到阅读理解模型之前，所述方法还包括：

获取预训练文本数据，所述预训练文本数据与所述训练文本数据的领域和分类任务相同；

将所述预训练文本数据输入到机器学习模型中进行训练，得到所述阅读理解模型。

3.根据权利要求1或2所述的方法，其特征在于，将所述训练文本数据以及多个预设标签属性信息输入到阅读理解模型，包括：

对所述训练文本数据以及所述多个预设标签属性信息分别进行分词处理，得到训练文本数据序列和预设标签属性信息序列；

将所述训练文本数据序列和预设标签属性信息序列进行拼接处理，输入到阅读理解模型。

4.根据权利要求1所述的方法，其特征在于，所述初始分类模型为多层感知机制模型，通过下式得到每一个训练文本数据隶属于每一个预设标签属性信息的概率值：

其中，p(label_j|W)表示训练文本数据属于第j个标签的概率；hcnn表示文本关键特征；h_CLS表示首位表征向量；表示hcnn与h_CLS拼接；MLP表示多层感知机制模型的函数。

5.根据权利要求1所述的方法，其特征在于，通过下式得到所述损失函数值：

Loss＝y×p(label_j|W)+(1-y)×(1-p(label_j|W))

其中，loss表示损失函数值；y表示所述训练文本数据的标签属于第j个标签的真实概率；p(label_j|W)表训练文本数据的标签属于第j个标签的模型输出概率。

6.一种文本分类方法，其特征在于，包括如下步骤：

获取待分类文本以及多个预设属性标签信息；

将所述待分类文本以及多个预设属性标签信息输入到通过权利要求1-5任一所述的文本分类模型训练方法训练得到的文本分类模型进行分类识别，得到文本分类结果。

7.一种文本分类模型构建装置，其特征在于，包括：

第一获取模块，用于获取训练文本数据以及对应所述训练文本数据所属领域的多个预设标签属性信息；

第一输入模块，用于将所述训练文本数据以及多个预设标签属性信息输入到阅读理解模型，得到每一个训练文本数据与每一个预设标签属性信息之间的文本交互表示；

第二输入模块，用于将每一个文本交互表示输入到特征提取模型，得到文本关键特征；

识别模块，用于将所述文本关键特征输入到初始分类模型进行分类识别，得到每一个训练文本数据隶属于每一个预设标签属性信息的概率值，根据所述概率值，得到分类结果；

模型训练模块，用于根据所述分类结果训练所述初始分类模型的模型参数，直至所述初始分类模型的损失函数值满足目标条件，得到目标文本分类模型。

8.一种文本分类装置，其特征在于，包括：

第二获取模块，用于获取待分类文本以及多个预设属性标签信息；

分类模块，用于将所述待分类文本以及多个预设属性标签信息输入到通过权利要求1-5任一所述的文本分类模型训练方法训练得到的文本分类模型进行分类识别，得到文本分类结果。