[发明专利]数据处理方法、装置、服务器和存储介质有效
申请号: | 201911343379.5 | 申请日: | 2019-12-24 |
公开(公告)号: | CN111090686B | 公开(公告)日: | 2023-04-18 |
发明(设计)人: | 华鹏;谢明辰;康伟乐 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F16/2458 | 分类号: | G06F16/2458;G06F16/27;G06F16/28 |
代理公司: | 深圳翼盛智成知识产权事务所(普通合伙) 44300 | 代理人: | 汪阮磊 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 服务器 存储 介质 | ||
1.一种数据处理方法,其特征在于,包括:
获取目标算子、数据血缘网络和目标数据实体集,所述目标数据实体集中包括多个目标数据实体,所述数据血缘网络中包括多个节点,以及所述节点之间的流向线路;
在所述数据血缘网络中确定目标节点,以及与所述目标节点相连的相关节点,所述目标节点对应目标数据实体,所述相关节点对应其他数据实体;
所述目标数据实体和实体关系信息均包括多个关键字段,根据所述目标节点和相关节点之间的流向线路,基于所述目标数据实体和所述其他数据实体的关键字段,生成所述目标数据实体和其他数据实体之间的实体关系信息;
采用所述目标算子提取所述目标数据实体和实体关系信息之间的不同关键字段的字段特征;
根据所述目标数据实体中的关键字段,以及所述不同关键字段的字段特征生成特征集合;
对所述特征集合中的特征进行评分预测,得到所述特征集合中特征的预测评分;
根据所述预测评分在特征集合中确定预测特征。
2.如权利要求1所述的数据处理方法,其特征在于,获取目标算子、数据血缘网络和目标数据实体集,包括:
获取用户的数据处理指令,以及数据库集群的历史操作信息;
基于所述数据处理指令确定目标算子和目标数据实体;
基于所述历史操作信息构建数据血缘网络。
3.如权利要求2所述的数据处理方法,其特征在于,获取用户的数据处理指令,以及数据库集群的历史操作信息,包括:
接收用户触发的数据处理指令;
从数据库集群中的每个分布式数据库中拉取针对所述数据实体的历史操作信息;
所述基于所述历史操作信息构建数据血缘网络,包括:
根据所述历史操作信息对数据实体进行流向分析,得到所述数据实体之间的流向线路;
基于所述数据实体以及数据实体之间的流向线路构建数据血缘网络。
4.如权利要求3所述的数据处理方法,其特征在于,所述历史操作信息包括数据实体中字段的字段操作信息,所述数据实体之间的流向线路包括字段与其他数据实体之间的流向线路,根据所述历史操作信息对数据实体进行流向分析,得到所述数据实体之间的流向线路,包括:
根据所述字段操作信息查询数据实体中与所述字段有依赖关系的所有其他数据实体;
基于所述依赖关系确定所述字段与其他数据实体之间的流向线路。
5.如权利要求1所述的数据处理方法,其特征在于,对所述特征集合中的特征进行评分预测,得到所述特征集合中特征的预测评分,包括:
对所述特征集合中的特征进行数据预处理,得到处理后特征;
采用评分模型计算所述处理后特征的预测评分。
6.如权利要求5所述的数据处理方法,其特征在于,所述评分模型包括线性相关模型和非线性相关模型,采用评分模型计算所述处理后特征的预测评分,包括:
采用所述线性相关模型计算所述处理后特征之间的线性相关度;
采用所述非线性相关模型计算所述处理后特征之间的非线性相关度;
基于所述线性相关度和非线性相关度确定所述处理后特征的预测评分。
7.如权利要求6所述的数据处理方法,其特征在于,基于所述线性相关度和非线性相关度确定所述处理后特征的预测评分之后,还包括:
基于所述线性相关度和非线性相关度生成处理后特征之间的相关度热力图;
展示所述处理后特征之间的相关度热力图。
8.如权利要求5所述的数据处理方法,其特征在于,所述评分模型包括过滤器模型、嵌入模型、包裹器模型其中任意一种。
9.如权利要求5所述的数据处理方法,其特征在于,对所述特征集合中的特征进行数据预处理,得到处理后特征,包括:
采用数据预处理操作对所述特征集合中的特征进行数据预处理,得到处理后特征,其中,所述数据预处理操作包括缺省值处理、特征向量化处理、方差过滤处理、去重处理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911343379.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种纳米银导电膜用涂布液
- 下一篇:一种冲击电流抑制装置