[发明专利]一种数据合并方法及系统在审
申请号: | 201811132215.3 | 申请日: | 2018-09-27 |
公开(公告)号: | CN109241063A | 公开(公告)日: | 2019-01-18 |
发明(设计)人: | 李英军;余春祖;王娟娟 | 申请(专利权)人: | 中国银行股份有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/215 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 古利兰;王宝筠 |
地址: | 100818 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请公开了一种数据合并方法及系统,方法包括:对数据进行压缩处理,基于压缩后表的数据量大小设置分区个数,通过对增量数据层和全量数据层的主键哈希,按照分区个数取模,将增量数据和全量数据分别拆分到不同的临时目录,对增量数据层和全量数据层对应分区下的文件执行相应的合并操作,将合并操作结果输出到临时目录和全量数据目录。本申请在大数据的情景下,能够高效的实现数据的合并。 | ||
搜索关键词: | 全量数据 增量数据 合并操作 临时目录 数据合并 分区 大小设置 文件执行 压缩处理 大数据 数据量 哈希 取模 主键 申请 输出 压缩 合并 情景 | ||
【主权项】:
1.一种数据合并方法,其特征在于,所述方法包括:对数据进行压缩处理;基于压缩后表的数据量大小设置分区个数;通过对增量数据层和全量数据层的主键哈希,按照分区个数取模,将增量数据和全量数据分别拆分到不同的临时目录;对增量数据层和全量数据层对应分区下的文件执行相应的合并操作;将合并操作结果输出到临时目录和全量数据目录。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国银行股份有限公司,未经中国银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201811132215.3/,转载请声明来源钻瓜专利网。
- 上一篇:一种政务数据目录的生成方法及装置
- 下一篇:一种数据库插入排序方法