[发明专利]配用电数据检索方法和系统在审
申请号: | 201711434002.1 | 申请日: | 2017-12-26 |
公开(公告)号: | CN108460072A | 公开(公告)日: | 2018-08-28 |
发明(设计)人: | 吴新玲;谢伟;张书翰;田传波;乔克;闫爱梅;佘家驹;郭乃网;苏运;黄芙蓉 | 申请(专利权)人: | 北京国电通网络技术有限公司;国网信息通信产业集团有限公司;国网上海市电力公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京风雅颂专利代理有限公司 11403 | 代理人: | 陈宙 |
地址: | 100070 北京市丰*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用电数据 数据存储节点 检索 索引 分片文件 存储 分布式数据库 分布式检索 分布式索引 并发访问 查询服务 高扩展性 高容错性 高吞吐量 海量数据 集群系统 检索结果 模式建立 文件系统 增加服务 可用性 并发性 查询集 数据集 主节点 查询 响应 管理 | ||
1.一种配用电数据检索方法,其特征在于,包括:
基于预设的配用电数据的存储架构在分布式数据库或文件系统中划分多个数据存储节点,将所述配用电数据存储在与其对应的数据存储节点中;其中,所述配用电数据包括:结构化配用电数据、非结构化配用数据;
在所述分布式数据库或文件系统中建立索引集群系统,所述索引集群系统通过分布式索引建立模式建立并管理与所述数据存储节点以及所述配用电数据相对应的索引分片文件;
在所述分布式数据库或文件系统中建立查询集群系统,所述查询集群系统通过分布式检索模式并基于所述索引分片文件对所述数据存储节点中存储的所述配用电数据进行检索并提供检索结果。
2.如权利要求1所述的方法,其特征在于,还包括:
建立一个索引主节点和多个索引节点,对所述索引节点设置与其所对应的索引分片文件,其中,所述索引分片文件为存储配用电数据的数据表对应的索引分片文件;
所述索引主节点接收对于所述配用电数据的索引任务,将所述索引任务通过消息机制发送给所述索引节点;
所述索引节点基于所述索引任务对与其对应的索引分片文件进行处理;其中,所述索引任务包括:新建索引、更新索引、删除索引任务。
3.如权利要求2所述的方法,其特征在于,还包括:
如果所述索引任务为增量式新建索引任务,当在所述数据存储节点中存储所述配用电数据时,通过系统消息向所述索引主节点发送增量式新建索引任务;其中,所述增量式新建索引任务携带的数据包括:配用电数据的数据表名和内容;
所述索引主节点根据所述配用电数据的数据表名确定此配用电数据所对应的索引分片文件,并基于所述配用电数据的数据表名和内容以及索引分片文件信息生成索引建立消息,并放入分布式索引消息队列中;
所述索引节点从所述索引消息队列中获取所述索引建立消息,基于所述配用电数据的数据表名确定此索引建立消息是否由此索引节点进行处理,如果是,则基于所述索引建立消息为所述配用电数据建立索引并更新与所述配用电数据的数据表名对应的索引分片文件,如果否,则基于所述配用电数据的数据表名确定处理所述索引建立消息的索引节点,并将所述索引建立消息发送给此索引节点进行处理;
如果确定处理所述索引建立消息的索引节点失效,则所述索引主节点为此所述索引建立消息重新分配一个索引节点,并将所述索引建立消息发送给此索引节点进行处理。
4.如权利要求3所述的方法,其特征在于,还包括:
如果所述索引任务为批量式新增索引任务,所述索引主节点调用MapReduce方式,将接收到的批量式新增索引任务划分成多个数据聚合,将所述多个数据集合分配至多个索引节点;其中,多个数据集合中的每条数据包括:配用电数据的数据表名和内容;
所述多个索引节点分别基于接收到的所述数据集合建立索引,将建立的索引进行合并处理,并更新与所述配用电数据的数据表名对应的索引分片文件。
5.如权利要求4所述的方法,其特征在于,还包括:
建立查询主节点、查询节点以及查询客户端;
所述查询主节点接收到所述索引主节点发送的所述索引分片文件,并根据各个查询节点的负载情况向所述查询节点分配所述索引分片文件;
当接收所述查询客户端发送的用户查询请求时,所述查询主节点确定与被查询的所述配用电数据对应的索引分片文件,基于此索引分片文件确定至少一个所述查询节点;
根据所述至少一个所述查询节点的负载状态生成提供查询服务的查询节点列表并发送给所述查询客户端;
所述查询客户端向所述査询节点列表中的查询节点发送查询请求,所述査询节点列表中的查询节点基于被分配的、并在本地存储的索引分片文件执行查询请求;
所述查询客户端将所述査询节点列表中的查询节点返回的查询结果进行合并处理,并提供经过合并处理后的查询结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京国电通网络技术有限公司;国网信息通信产业集团有限公司;国网上海市电力公司,未经北京国电通网络技术有限公司;国网信息通信产业集团有限公司;国网上海市电力公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711434002.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种地形变化情况通报方法
- 下一篇:群组推荐方法、存储介质和服务器