[发明专利]大数据环境下提高数据库性能的方法及系统有效
申请号: | 201410338440.8 | 申请日: | 2014-07-16 |
公开(公告)号: | CN104156396B | 公开(公告)日: | 2017-12-01 |
发明(设计)人: | 唐雪飞;边汤贵;廖明焱;倪季敏;马晨曦 | 申请(专利权)人: | 成都康赛信息技术有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 成都宏顺专利代理事务所(普通合伙)51227 | 代理人: | 周永宏 |
地址: | 610054 四川省成都市一*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种大数据环境下提高数据库性能的方法及系统。所述系统包括数据库系统、插入系统、删除系统、更新系统、查询系统和归并系统,所述方法包括如下步骤定义数据库结构,将数据插入数据库,删除数据库数据记录,更新数据库数据,更新数据库数据,归并数据库主从表,所述将数据插入数据库包括在插入数据到达后写入缓存并设置相应的字段内容,然后设置调度位为可调度,根据缓存策略将数据插入从表并设置相应的字段内容后更新依赖缓存并设置调度标志位。本发明的有益效果是本发明通过改善原有数据库,分别对缓存和增量数据进行处理,提高了大数据环境下数据的插入、查询效率,减少了数据处理延时,提升了数据库性能。 | ||
搜索关键词: | 数据 环境 提高 数据库 性能 方法 系统 | ||
【主权项】:
大数据环境下提高数据库性能的方法,其特征在于,包括如下步骤:S1.定义数据库结构;S2.将数据插入数据库;S3.删除数据库数据记录;S4.更新数据库数据;S5.查询数据库数据;S6.归并数据库主从表;其中,所述步骤S2将数据插入数据库具体包括如下分步骤:S201.插入数据到达后进行数据插入操作;S202.将数据写入从缓存;S203.在数据写入从缓存时写入主表字段、数据写入时间字段和是否已存入主表字段,并将是否已存入主表字段置为0;S204.设置调度位为可调度;S205.根据缓存策略,当系统空闲或规定时间到来时,执行缓存更新,提高数据的写入性能;S206.将数据插入从表,进行永久化存储;S207.在数据插入从表时写入主表字段、数据写入时间字段和是否已存入主表字段;S208.若有多个缓存依赖从表,则需要对这些与从表有依赖关系的缓存进行更新;S209.设置主从表的归并调度标志位,归并程序将依此进行归并调度,从而使得从表不至于过大,影响数据库性能,完成数据插入;其中,所述步骤S5查询数据库数据具体包括如下分步骤:S501.判断所要查询的数据是否存在缓存中;S502.数据存在缓存中,则进入缓存查询;S503.在主缓存中进行查询;S504.在从缓存中进行查询;S505.数据不存在缓存中,但能够检索,则进入数据库表查询;S506.在主表中进行查询;S507.在从表中进行查询;S508.数据不存在缓存中,且不能检索,则根据缓存生成策略,判断是否需要生成此缓存;S509.不需要生成此缓存则放弃;S510.需要生成此缓存则将查询结果保存为主缓存,并建立缓存索引;S511.需要生成此缓存则将查询结果保存为从缓存,并建立缓存索引;S512.合成查询的结果,并根据策略决定是否需要进行排序;其中,所述步骤S6归并数据库主从表具体包括如下分步骤:S601.根据从表大小、系统空闲、规定时间段设置调度主从表合并程序的策略,此部分在部署系统设定,或由数据库管理员进行修改;S602.判断是否满足步骤601的策略条件及由插入或新增操作所设定的调度位;S603.若满足则判断从表中是否有数据;S604.若从表中有数据,则判断是否在主表中字段是否为0,防止归并操作中断;S605.若是否在主表中字段为1,则跳过该从表,重复步骤S603;S606.若是否在主表中字段为0,则进行合并操作:将主表进行分开,形成多个分表,以分表为单位,将从表中的数据写入主表中,然后重复步骤S603;S607.若从表中没有数据,则合并主从缓存;S608.将合并的主从缓存删除,提高操作速度;S609.删除从表并重新创建从表;S610.重新创建从缓存,完成本次归并操作。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于成都康赛信息技术有限公司,未经成都康赛信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201410338440.8/,转载请声明来源钻瓜专利网。
- 上一篇:搜索结果的提供方法和装置
- 下一篇:一种具有图像识别功能的数据处理方法及系统
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置