[发明专利]一种不平衡文本分类方法、装置、设备及存储介质在审
| 申请号: | 202111128220.9 | 申请日: | 2021-09-26 |
| 公开(公告)号: | CN113869398A | 公开(公告)日: | 2021-12-31 |
| 发明(设计)人: | 司世景;王健宗 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
| 主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06F40/284;G06F40/242;G06F16/906 |
| 代理公司: | 深圳市世联合知识产权代理有限公司 44385 | 代理人: | 杨晖琼 |
| 地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 一种 不平衡 文本 分类 方法 装置 设备 存储 介质 | ||
1.一种不平衡文本分类方法,其特征在于,所述方法包括:
获取文本训练数据集;
基于所述文本训练数据集,利用对比学习算法对特征提取器进行训练,得到特征提取模型;
利用均衡算法对所述文本训练数据集进行均衡处理,得到均衡数据集;
利用所述特征提取模型对所述均衡数据集中的各文本进行特征提取,得到对应的特征向量;
基于所述特征向量,对分类器进行训练,以得到分类模型;
获取待处理文本数据,所述待处理文本数据经所述特征提取模型处理,得到对应的待处理向量,所述待处理向量经所述分类模型处理,得到所述待处理文本数据对应的类别。
2.根据权利要求1所述的不平衡文本分类方法,其特征在于,在获取文本训练数据集之前,还包括:
对每一文本数据进行数据增广,得到对应的增广数据,并将所述文本数据和增广数据存储至所述文本训练数据集中;
所述利用对比学习算法对特征提取器进行训练包括;
基于所述增广数据,通过将对比学习算法结合到所述特征提取器中,使所述特征提取器得到的同源的所述增广数据对应的第一特征向量相互聚集,不同源的所述增广数据对应的第一特征向量相互远离。
3.根据权利要求2所述的不平衡文本分类方法,其特征在于,所述通过将对比学习算法结合到所述特征提取器中,使所述特征提取器得到的同源的所述增广数据对应的第一特征向量相互聚集,不同源的所述增广数据对应的第一特征向量相互远离包括:
利用所述对比学习算法中的噪声对比估计函数和内积函数计算所述特征提取器的损失函数,使得所述同源的第一特征向量在嵌入空间中聚集,不同源的第一特征向量在所述嵌入空间中远离。
4.根据权利要求1所述的不平衡文本分类方法,其特征在于,所述利用均衡算法对所述文本训练数据集进行均衡处理包括:
获取所述文本训练数据集中各类别及其对应的文本数据量;
对各所述类别对应的文本数据量进行平均值计算,得到平均数据量;
将各类别的文本数据量与所述平均数据量进行比较;
若小于所述平均数据量,则将该类别对应的文本数据作为待增广的文本数据,并计算该类别对应的文本数据量与所述平均数据量的差值,得到增广数量;
基于所述增广数量,采用合成少数类过采样算法或数据增广工具对所述待增广的文本数据进行增广。
5.根据权利要求1所述的不平衡文本分类方法,其特征在于,在所述利用所述特征提取模型对所述均衡数据集中的各文本进行特征提取之前,还包括:
利用结巴分词对所述文本进行分词处理,得到对应的多个字词;
对所述字词进行向量化,得到所述字词对应的词向量。
6.根据权利要求5所述的不平衡文本分类方法,其特征在于,所述利用所述特征提取模型对所述均衡数据集中的各文本进行特征提取,得到对应的特征向量包括:
通过对所述词向量进行卷积,得到卷积核;
采用激活函数对所述卷积核进行处理,得到对应的特征图谱;
通过对所述特征图谱进行池化处理,得到所述词向量对应的特征向量。
7.根据权利要求1所述的不平衡文本分类方法,其特征在于,所述基于所述特征向量,对分类器进行训练,以得到分类模型包括:
基于所述特征向量,利用小批量梯度下降算法对所述分类器进行训练,以得到所述分类模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111128220.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种照明灯具
- 下一篇:一种可降解锌锂系合金表面涂层及其制备方法和用途





