[发明专利]一种多价值链问题文本分类方法和装置在审
申请号: | 202210734541.1 | 申请日: | 2022-06-27 |
公开(公告)号: | CN115168574A | 公开(公告)日: | 2022-10-11 |
发明(设计)人: | 覃博;马祖扬 | 申请(专利权)人: | 浙江大学 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F40/295;G06F40/30;G06F40/289;G06F16/36;G06F16/332;G06N3/04;G06N3/08 |
代理公司: | 北京市广友专利事务所有限责任公司 11237 | 代理人: | 张仲波 |
地址: | 310012 浙江*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 价值链 问题 文本 分类 方法 装置 | ||
1.一种多价值链问题文本分类方法,其特征在于,所述方法包括:
S1、对企业里各业务检索平台中用户检索的问句进行收集与文本类别标签标注,得到多价值链问题文本的数据集;
S2、将所述问题文本数据集进行预处理,将预处理后的问题文本数据集划分为训练文本集与测试文本集;
S3、对所述训练文本集与所述测试文本集进行词向量提取,基于所述训练文本集,用提取后的词向量与标注的文本类别标签,构建全连接网络图;
S4、基于所述全连接网络图,对初始标签图注意力模型进行训练,得到训练完毕的标签图注意力模型;
S5、基于所述训练文本集提取的词向量,对初始文本语义抽取模型进行训练,得到训练完毕的文本语义抽取模型;
S6、根据训练完毕的文本语义抽取模型,对所述测试文本集进行语义抽取,根据训练完毕的标签图注意力模型,对所述测试文本集进行分类。
2.根据权利要求1所述的方法,其特征在于,所述S2中的对所述问题文本数据集进行预处理,包括:
对所述问题文本数据集进行中文分词处理和去掉停用词处理;
其中,所述中文分词处理以及停用词过滤处理包括:
基于预先构建的多价值链文本专家词典对所述文本进行分词,采用大颗粒度词语数目最大化的原则,确定分词结果;其中,所述文本为问题文本数据集;
基于预先构建的多价值链停用词词典对停用词进行过滤,去除噪声字词。
3.根据权利要求1所述的方法,其特征在于,所述S3中的对预处理后的所述训练文本集与测试文本集进行词向量提取,并基于所述训练文本集,用提取后的词向量与标注的文本类别标签,构建全连接网络图,包括:
基于预训练的BERT词向量提取模型,得到预处理后的训练文本集与测试文本集的词向量;
基于训练文本集,用提取后的词向量与标注的文本类别标签分别作为节点,构建所有节点间全连接的全连接网络图,其中,所述文本类别标签代表的节点初始化为随机向量,维度与词向量维度一致,词向量节点间的边权重随机初始化,类别-词节点间的边权重初始化为所述训练文本集中该词在该类别中出现的概率。
4.根据权利要求1所述的方法,其特征在于,所述S4中基于全连接网络图,训练初始标签图注意力模型为GNN-Attention模型,所述GNN-Attention模型包括GNN子模型与Attention子模型;
所述GNN子模型用于得到每个类别标签节点的输出特征;
所述Attention子模型用于控制在GNN子模型中的节点间的注意力权重分配。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江大学,未经浙江大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210734541.1/1.html,转载请声明来源钻瓜专利网。