[发明专利]文档分类方法及装置在审
| 申请号: | 202210576341.8 | 申请日: | 2022-05-25 |
| 公开(公告)号: | CN114896404A | 公开(公告)日: | 2022-08-12 |
| 发明(设计)人: | 王得贤;李长亮 | 申请(专利权)人: | 北京金山数字娱乐科技有限公司;成都金山互动娱乐科技有限公司 |
| 主分类号: | G06F16/35 | 分类号: | G06F16/35;G06V30/148;G06V30/19 |
| 代理公司: | 北京智信禾专利代理有限公司 11637 | 代理人: | 金鹏 |
| 地址: | 100085 北京市海淀区*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 文档 分类 方法 装置 | ||
1.一种文档分类方法,其特征在于,所述方法包括:
对待处理文档进行分割,得到多个文本;
将所述多个文本分别输入特征提取模型,确定每个文本的类别特征;
对所述多个文本的类别特征进行组合,得到所述待处理文档的类别特征向量;
将所述类别特征向量输入分类模型,确定所述待处理文档的类别。
2.如权利要求1所述的方法,其特征在于,所述特征提取模型包括输入层、嵌入层和输出层,将所述多个文本分别输入特征提取模型,确定每个文本的类别特征,包括:
通过所述输入层,对每个文本进行分词处理,得到每个文本的词单元;
通过所述嵌入层,对每个文本的词单元分别进行词嵌入处理,得到每个文本中词单元的词嵌入向量;
针对任一文本,通过所述输出层,基于该文本中词单元的词嵌入向量,确定该文本的类别特征。
3.如权利要求2所述的方法,其特征在于,所述输出层包括词级注意力层和全连接层,针对任一文本,通过所述输出层,基于该文本中词单元的词嵌入向量,确定该文本的类别特征,包括:
针对任一文本,通过所述词级注意力层,将该文本的第一词单元的词嵌入向量与该文本中每个词单元的词嵌入向量进行注意力计算,确定该文本的特征向量,其中,所述第一词单元是该文本中的任一词单元;
通过所述全连接层,基于该文本的特征向量确定该文本的类别特征。
4.如权利要求3所述的方法,其特征在于,所述输出层还包括文本级注意力层,通过所述全连接层,基于该文本的特征向量确定该文本的类别特征之前,还包括:
通过所述文本级注意力层,将该文本的特征向量与多个文本中每个文本的特征向量进行注意力计算,确定该文本的增强特征向量;
通过所述全连接层,基于该文本的特征向量确定该文本的类别特征,包括:
通过所述全连接层,基于该文本的增强特征向量确定该文本的类别特征。
5.如权利要求1所述的方法,其特征在于,对所述多个文本的类别特征进行组合,得到所述待处理文档的类别特征向量,包括:
按照所述多个文本在所述待处理文档中的先后顺序,对所述多个文本的类别特征进行拼接,得到所述待处理文档的类别特征向量。
6.如权利要求1-5任一项所述的方法,其特征在于,所述特征提取模型包括BERT模型。
7.如权利要求1所述的方法,其特征在于,所述分类模型通过如下方式训练得到:
获取多个样本文档,其中,每个样本文档对应一个类别特征向量;
基于多个类别特征向量构建第一决策树,并基于所述第一决策树确定每个样本文档的预测概率;
基于每个样本文档的预测概率和多个类别特征向量构建第二决策树,并基于第二决策树确定每个样本文档的预测概率,以此类推,直到达到停止条件,将构建的多个决策树确定为分类模型。
8.如权利要求1或7所述的方法,其特征在于,所述分类模型包括光梯度增压机Lightgbm模型,且所述分类模型的损失函数是对数损失函数。
9.如权利要求1所述的方法,其特征在于,对待处理文档进行分割,得到多个文本之前,包括:
基于字符识别算法对所述待处理文档的内容进行识别,获取所述待处理文档的字符内容,其中,所述字符识别算法用于识别文档中的字符内容;
对待处理文档进行分割,得到多个文本,包括:
按照预设分割策略,对所述字符内容进行分割,得到所述多个文本。
10.一种文档分类装置,其特征在于,包括:
分割模块,被配置为对待处理文档进行分割,得到多个文本;
第一确定模块,被配置为将所述多个文本分别输入特征提取模型,确定每个文本的类别特征;
组合模块,被配置为对所述多个文本的类别特征进行组合,得到所述待处理文档的类别特征向量;
第二确定模块,被配置为将所述类别特征向量输入分类模型,确定所述待处理文档的类别。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京金山数字娱乐科技有限公司;成都金山互动娱乐科技有限公司,未经北京金山数字娱乐科技有限公司;成都金山互动娱乐科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210576341.8/1.html,转载请声明来源钻瓜专利网。





