[发明专利]基于广播机制实现数据同步的方法及装置在审
申请号: | 201611114939.6 | 申请日: | 2016-12-07 |
公开(公告)号: | CN108173891A | 公开(公告)日: | 2018-06-15 |
发明(设计)人: | 王喆 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08;H04L29/06 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张一军;姜劲 |
地址: | 100195 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供一种基于广播机制实现数据同步的方法及装置,该方法包括:获取待同步的数据文件;压缩数据文件;将经压缩的数据文件平均分割为多个文件块,并将分割得到的文件块映射到对应的数据结构中,数据结构的每个节点对应一个文件块;将文件块以数据消息的形式广播至与数据文件的业务类型对应的目标节点,其中,目标节点根据数据结构中节点的顺序将接收的文件块合并,并解压缩合并后的文件块,从而得到数据文件。本发明能够有效自动实现将待同步的数据进行高效压缩,并通过分布式应用进行分块处理,然后使用广播将分块数据分发到多个目标节点,最后在目标节点中合并和解压缩,最终实现数据文件的同步,保证了数据同步的性能和数据安全的可靠性。 1 | ||
搜索关键词: | 文件块 数据文件 目标节点 数据结构 数据同步 广播机制 同步的 合并 压缩数据文件 分布式应用 多个目标 分块处理 分块数据 高效压缩 平均分割 数据安全 数据消息 形式广播 业务类型 自动实现 压缩 解压缩 映射 分发 分割 广播 保证 | ||
获取待同步的数据文件;
压缩所述数据文件;
将经压缩的所述数据文件平均分割为多个文件块,并将分割得到的文件块映射到对应的数据结构中,所述数据结构的每个节点对应一个文件块;
将所述文件块以数据消息的形式广播至与所述数据文件的业务类型对应的目标节点,其中,所述目标节点根据所述数据结构中节点的顺序将接收的所述文件块合并,并解压缩合并后的所述文件块,从而得到所述数据文件。
2.根据权利要求1所述的方法,其特征在于,所述数据结构包括但不限于:集合、链表、堆栈。3.根据权利要求2所述的方法,其特征在于,在将所述文件块映射到对应的所述链表的过程中,按照预设命名规则对所述文件块命名,所述链表的存储格式为key‑value型。4.根据权利要求3所述的方法,其特征在于,还包括:在将接收的所述文件块合并生成所述数据文件的过程中,将所述文件块按照所述预设命名规则合并和解压缩,生成所述数据文件。5.一种基于广播机制实现数据同步的装置,其特征在于,所述装置包括:数据采集模块,用于获取待同步的数据文件;
数据压缩模块,用于压缩所述数据文件;
数据分割模块,用于将经压缩的所述数据文件平均分割为多个文件块,并将分割得到的文件块映射到对应的数据结构中,所述数据结构的每个节点对应一个文件块;
数据同步模块,用于将所述文件块以数据消息的形式广播至与所述数据文件的业务类型对应的目标节点,其中,所述目标节点根据所述数据结构中节点的顺序将接收的所述文件块合并,并解压缩合并后的所述文件块,从而得到所述数据文件。
6.根据权利要求5所述的装置,其特征在于,所述数据结构包括但不限于:集合、链表、堆栈。7.根据权利要求6所述的装置,其特征在于,所述数据分割模块还用于:在将所述文件块映射到对应的所述链表的过程中,按照预设命名规则对所述文件块命名,所述链表的存储格式为key‑value型。
8.根据权利要求7所述的装置,其特征在于,所述数据同步模块还用于:在将接收的所述文件块合并生成所述数据文件的过程中,将所述文件块按照所述预设命名规则合并和解压缩,生成所述数据文件。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201611114939.6/,转载请声明来源钻瓜专利网。