[发明专利]数据处理方法、装置、电子设备及存储介质有效
申请号: | 201910959942.5 | 申请日: | 2019-10-10 |
公开(公告)号: | CN110716984B | 公开(公告)日: | 2023-06-20 |
发明(设计)人: | 李博洋 | 申请(专利权)人: | 北京字节跳动网络技术有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F11/14;G06F9/54 |
代理公司: | 北京天达共和律师事务所 11798 | 代理人: | 关刚 |
地址: | 100041 北京市石景山区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本公开的实施例提供了一种数据处理方法、装置、电子设备及存储介质。该方法包括:通过数据模块对数据库中的数据进行全量加载;通过数据模块将全量加载数据均匀分成多个桶;通过第一数据节点对数据库中的数据进行增量加载;通过第一数据节点将增量加载的数据发送给第二数据节点;将每个桶中的全量加载数据随着增量加载的数据一起发送给第二数据节点,以通过第二数据节点进行数据的全量加载。本公开的数据处理方法将全量加载均匀地分散到增量加载中,以流式数据更新的方式平滑的实现全量加载,消除全量加载的内存突刺,也改善了数据的生效时间。 | ||
搜索关键词: | 数据处理 方法 装置 电子设备 存储 介质 | ||
【主权项】:
1.一种数据处理方法,其特征在于,包括:/n通过数据模块对数据库中的数据进行全量加载;/n通过所述数据模块将全量加载数据均匀分成多个桶;/n通过第一数据节点对所述数据库中的数据进行增量加载;/n通过所述第一数据节点将增量加载的数据发送给第二数据节点;/n将每个桶中的全量加载数据随着增量加载的数据一起发送给所述第二数据节点,以通过所述第二数据节点进行数据的全量加载。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京字节跳动网络技术有限公司,未经北京字节跳动网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910959942.5/,转载请声明来源钻瓜专利网。