[发明专利]一种全文检索的索引处理方法、索引处理系统及存储介质有效
申请号: | 201910024125.0 | 申请日: | 2019-01-10 |
公开(公告)号: | CN111427989B | 公开(公告)日: | 2023-07-04 |
发明(设计)人: | 师光强;张丹;于晓明 | 申请(专利权)人: | 新方正控股发展有限责任公司;北京北大方正电子有限公司 |
主分类号: | G06F16/31 | 分类号: | G06F16/31;G06F16/18;G06F16/16 |
代理公司: | 北京友联知识产权代理事务所(普通合伙) 11343 | 代理人: | 尚志峰;汪海屏 |
地址: | 519031 广东省珠海市横琴*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 全文 检索 索引 处理 方法 系统 存储 介质 | ||
本发明提出了一种全文检索的索引处理方法、索引处理系统及存储介质。其中,全文检索的索引处理方法包括:接收索引请求,解析索引请求获取索引数据和索引数据对应的索引操作的信息;将索引数据和索引操作的信息写入事务日志,并执行索引请求;在索引请求出现执行异常的情况下,从事务日志中获取索引数据和索引操作的信息,并重新执行索引请求。采用本发明的技术方案,利用事务日志记录索引数据和索引操作,当检索节点异常宕机重启后,通过读取事务日志文件,解析出未生效的索引操作和索引数据并重新执行,保证了索引数据的正确性、完整性及一致性,同时也避免了数据冗余,降低了程序的复杂度,提高了系统的灵活性。
技术领域
本发明涉及信息处理技术领域,具体而言,涉及一种全文检索的索引处理方法、索引处理系统及存储介质。
背景技术
二十一世纪是个信息爆炸的时代,每个实体都在不停地、高速地产生需要存储的数据信息,在待存储的海量数据中,85%是非结构化的。全文检索是一种能够从海量非结构化数据中快速搜索到有用信息的技术,从最初的字符串匹配和简单的布尔逻辑检索技术演进到对超大文本、语音、图像、视频等非结构化数据进行综合管理的复合技术。
目前全文检索的功能已经相当完善,索引文件作为全文检索的最重要的数据单元,索引容错已经成为了越来越多的公司和机构的研究热点。最常用的容错方案是分布式存储分案,其基本原理是将同一份索引数据分布式冗余存储,当任意节点出现故障时,利用其它节点的索引数据进行恢复。该方法可以有效恢复索引错误,但是存在以下弊端:(1)索引数据分布式冗余存储势必增大资源消耗;(2)需要解决索引一致性问题;(3)不支持单节点。
发明内容
本发明旨在至少解决现有技术或相关技术中存在的技术问题之一。
为此,本发明的一个方面在于提出了一种全文检索的索引处理方法。
本发明的另一个方面在于提出了一种全文检索的索引处理系统。
本发明的再一个方面在于提出了一种计算机可读存储介质。
有鉴于此,根据本发明的一个方面,提出了一种全文检索的索引处理方法,包括:接收索引请求,解析索引请求获取索引数据和索引数据对应的索引操作的信息;将索引数据和索引操作的信息写入事务日志,并执行索引请求;在索引请求出现执行异常的情况下,从事务日志中获取索引数据和索引操作的信息,并重新执行索引请求。
本发明提供的全文检索的索引处理方法,将索引请求中的索引数据和索引操作的信息按照指定格式写入事务日志,然后处理该索引请求。进一步地,当索引请求出现执行异常的情况下,从事务日志中获取索引数据和索引操作的信息,并重新执行索引请求。采用本发明的技术方案,利用事务日志记录索引数据和索引操作,当检索节点异常宕机重启后,通过读取事务日志文件,解析出未生效的索引操作和索引数据并重新执行,保证了索引数据的正确性、完整性及一致性,同时也避免了数据冗余,降低了程序的复杂度,提高了系统的灵活性。
根据本发明的上述全文检索的索引处理方法,还可以具有以下技术特征:
在上述技术方案中,优选地,还包括:将事务日志存储至磁盘,并将已存储至磁盘的事务日志删除。
在该技术方案中,将事务日志实时刷新到磁盘,确保事务日志能够有效地记录索引操作和索引数据,在运行过程中对事务日志按一定策略淘汰,降低了索引恢复的事务日志处理量。
在上述任一技术方案中,优选地,在索引请求出现执行异常的情况下,从事务日志中获取索引数据和索引操作的信息,并重新执行索引请求,具体包括:在索引请求出现执行异常的情况下,记录未生效的索引数据和未生效的索引数据对应的未生效的索引操作的信息;在磁盘中读取事务日志,解析事务日志获取未生效的索引数据和未生效的索引操作的信息,并对未生效的索引数据和未生效的索引操作的信息进行恢复;执行恢复后的索引操作和恢复后的索引数据对应的索引请求。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于新方正控股发展有限责任公司;北京北大方正电子有限公司,未经新方正控股发展有限责任公司;北京北大方正电子有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910024125.0/2.html,转载请声明来源钻瓜专利网。
- 上一篇:风力发电设备
- 下一篇:一种应用程序的混淆方法、装置及存储介质