[发明专利]数据处理方法、装置、电子设备及存储介质有效
申请号: | 201810262078.9 | 申请日: | 2018-03-28 |
公开(公告)号: | CN108536676B | 公开(公告)日: | 2020-10-13 |
发明(设计)人: | 孔维斌;黄伟;朱晓华;廖成才 | 申请(专利权)人: | 广州华多网络科技有限公司 |
主分类号: | G06F40/247 | 分类号: | G06F40/247;G06F16/36;G06F16/33 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 薛娇;王宝筠 |
地址: | 511442 广东省广*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 电子设备 存储 介质 | ||
1.一种数据处理方法,其特征在于,包括:
对第一数据集进行分词处理,得若干分词;
对所述分词进行词性分析,以确定所述若干分词中的同义词,并将所确定的同义词添加至预定义的第一同义词词典中,得到第二同义词词典,所述第一同义词词典中包括至少一组自定义的同义词;
根据所述若干分词,从所述第一数据集中的各个数据样本中提取关键词,并根据提取的关键词构建与各个所述数据样本对应的代表词;其中,所提取的关键词的数量与数据样本的长度相适应;
根据所述第二同义词词典对构建的代表词进行聚合处理,得到第二数据集;
其中,所述根据所述第二同义词词典对构建的代表词进行聚合处理,得到第二数据集,包括:
若依据所述第二同义词词典确定第一代表词中的第一关键词存在同义词,获取与所述第一关键词及其同义词对应的预置关键词;
用所述预置关键词替换所述第一代表词中的第一关键词,得到所述第一代表词的同义词;
基于所述第一代表词的同义词对所述构建的代表词进行去重处理,得到所述第二数据集。
2.根据权利要求1所述的方法,其特征在于,所述根据所述若干分词,从所述第一数据集中的各个数据样本中提取关键词,并根据提取的关键词构建与各个所述数据样本对应的代表词,包括:
获取所述数据样本的长度;
若所述数据样本的长度小于预设阈值,将所述数据样本作为与所述数据样本对应的代表词;
若所述数据样本的长度大于或等于所述预设阈值,根据所述若干分词,从所述数据样本中提取关键词,根据所提取的关键词构建与所述数据样本对应的代表词。
3.根据权利要求2所述的方法,其特征在于,所述根据所述若干分词,从所述数据样本中提取关键词,根据所提取的关键词构建与所述数据样本对应的代表词,包括:
若所述数据样本由至少两个句子构成,对每个所述句子分别进行关键词提取,并去除所提取的关键词中的单字;
针对每个所述句子,根据保留的关键词在所述句子中的位置以及关键词的长度,计算任意相邻两个关键词之间的间隔,并将得到的所有间隔求和,得到与所保留的关键词对应的和值;
根据最小和值对应的保留的关键词构建与所述数据样本对应的代表词。
4.根据权利要求1所述的方法,其特征在于,所述基于所述第一代表词的同义词对所述构建的代表词进行去重处理,包括:
若所述构建的代表词中存在与所述第一代表词的同义词相同的第二代表词,将所述第一代表词和所述第二代表词进行去重处理;
若所述构建的代表词中的第三代表词的同义词与所述第一代表词的同义词相同,对所述第一代表词和所述第三代表词进行去重处理。
5.根据权利要求1所述的方法,其特征在于,所述基于所述第一代表词的同义词对所述构建的代表词进行去重处理,包括:
若所述构建的代表词中各个代表词均存在同义词,则将所述代表词的同义词中的各个关键词按预设规则进行排序,得到排序后的同义词;
基于所述排序后的同义词为所述代表词的同义词分配唯一识别标识;
将所述唯一识别标识与所述代表词相对应;
将所述构建的代表词中对应相同唯一识别标识的代表词进行去重处理。
6.根据权利要求1所述的方法,其特征在于,所述基于所述第一代表词的同义词对所述构建的代表词进行去重处理,包括:
若所述构建的代表词中第一部分的代表词存在同义词,第二部分的代表词不存在同义词,则:
将所述第一部分的代表词的同义词中的各个关键词按预设规则进行排序,得到排序后的同义词;
基于所述排序后的同义词为所述第一部分的代表词的同义词分配唯一识别标识;
将分配的唯一识别标识与所述第一部分的代表词相对应;
将所述第二部分的代表词中的各个关键词按预设规则进行排序,得到排序后的代表词;
基于所述排序后的代表词为所述第二部分的代表词分配唯一识别标识;
将获取的代表词中对应相同唯一识别标识的代表词进行去重处理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州华多网络科技有限公司,未经广州华多网络科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810262078.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:异常分词的处理方法及系统
- 下一篇:一种专利文本相似度计算方法