[发明专利]文本分类方法、模型训练方法、装置、设备以及存储介质

说明书

本发明实施例公开了一种文本分类方法、模型训练方法、装置、设备以及存储介质。该训练方法包括：通过训练样本以及训练样本的关键句标签向量和类别标签向量，训练得到具有关键句预测以及类别预测功能的文本分类模型，能够对待处理文本同步预测关键句和各语句类型，即关键句提取结果与文本分类结果，以得到待处理文本的关键句类型。在模型的训练过程中，对训练样本以及标签进行向量形式的预处理；同时基于关键句标签向量和类别标签向量得到损失函数，对待训练的文本分类模型进行训练，得到同时具有关键句预测以及类别预测功能的文本分类模型实现了增加对文本内容多种标签分类的准确性。

技术领域

本发明实施例涉及自然语义分析技术领域，尤其涉及一种文本分类方法、模型训练方法、装置、设备以及存储介质。

背景技术

目前，单标签文本分类计数已经趋向成熟，并广泛应用于病例本分类，评论分区等行业。但是现实场景中，多标签文本情况出现比较多，而目前对应多标签的文本分类主要分两类，一种是传统的传统机器学习，依赖人工设计特征，算法稳定性不强；另外一种是深度学习，常用的网络模型有LSTM(long-short term memory，长短期记忆模型)，Bert，Transformer等。

基于深度学习的多标签文本分类，虽然具有较强的文本处理能力，但是由于需要把每个词向量拼接起来，当文本较长时，会因为拼接起来向量过长造成显存占用过大。针对该情况，目前的做法是固定文本的词向量长度512维，对于多出的词向量直接丢弃，而当关键信息在丢弃部分，往往会影响文本的分类。同时，长文本中一般会带有其他和分类无关的信息，引入这些信息进行训练，会使得模型提取关键信息的能力降低。

发明内容

本发明提供一种文本分类方法、装置、电子设备以及存储介质，以实现增加对文本内容多种标签分类的准确性。

第一方面，本发明实施例提供了一种文本分类模型训练方法，该方法包括：

获取训练样本，对所述训练样本进行预处理，得到所述训练样本对应的样本文本向量；

基于所述样本文本向量，对待训练的文本分类模型进行迭代训练，直到所述文本分类模型满足预设条件，得到训练完成的文本分类模型；

其中，所述对待训练的文本分类模型进行迭代训练，包括：

将所述样本文本向量输入所述文本分类模型，得到所述样本文本向量的关键句预测结果以及文本分类预测结果；基于所述关键句预测结果、所述文本分类预测结果以及所述训练样本的关键句标签和分类标签生成损失函数，并基于所述损失函数对所述文本分类模型进行参数调节。

第二方面，本发明实施例还提供了一种文本分类方法，该方法包括：

获取待分类文本，确定所述待分类文本的文本向量；

基于文本分类模型对所述文本向量进行分类，得到所述文本分类模型输出的关键句提取结果与文本分类结果，其中，所述文本分类模型为基于本发明任意实施例提供的文本分类模型训练方法训练得到；

根据所述关键句提取结果与文本分类结果确定所述待分类文本的分类结果。

第三方面，本发明实施例还提供了一种文本分类模型训练装置，该装置包括：

样本文本向量获取模块，用于获取训练样本，对所述训练样本进行预处理，得到所述训练样本对应的样本文本向量；

模型训练模块，用于基于所述样本文本向量，对待训练的文本分类模型进行迭代训练，直到所述文本分类模型满足预设条件，得到训练完成的文本分类模型；

其中，所述对待训练的文本分类模型进行迭代训练，包括：