[发明专利]大数据处理方法及系统在审
申请号: | 201911028702.X | 申请日: | 2019-10-28 |
公开(公告)号: | CN110795626A | 公开(公告)日: | 2020-02-14 |
发明(设计)人: | 童欢欢 | 申请(专利权)人: | 南京弹跳力信息技术有限公司 |
主分类号: | G06F16/9535 | 分类号: | G06F16/9535;G06F21/62 |
代理公司: | 32326 南京乐羽知行专利代理事务所(普通合伙) | 代理人: | 缪友建 |
地址: | 210000 江苏省南*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 搜索文件 搜索请求 数据中心 搜索 准确度 存储数据 地址数据 访问地址 工作负荷 快速搜索 能源消耗 数据处理 数据调度 数据搜索 验证通过 大数据 全面性 合法性 存取 存储 验证 安全 | ||
1.一种大数据处理方法,其特征在于,所述方法包括:
将搜索文件分为一个主搜索文件与多个从搜索文件,所述主搜索文件配置有与所述从搜索文件相对应的搜索地址数据与搜索请求命令;
接收所述搜索请求命令,并验证所述搜索请求命令的合法性;
当验证通过后,判断所述搜索地址数据所对应的从搜索文件是否已被存取,若为否时,根据所述搜索请求命令及从搜索文件存储的访问地址数据搜索相应的存储数据。
2.根据权利要求1所述的方法,其特征在于,所述从搜索文件的存取,所述方法包括:
当接收到数据写入指令时,依据所述数据写入指令对所选取的从搜索文件进行数据的写入,直至所有数据已全部写入所述多个从搜索文件。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
使用与从搜索文件相应的随机种子,依次对多个所述从搜索文件的写入数据进行数据扰乱,并对扰乱的数据进行随机编码。
4.根据权利要求3所述的方法,其特征在于,所述根据所述从搜索文件存储的访问地址数据访问相应的存储数据之前,所述方法还包括:
使用与从搜索文件相应的随机种子,依次对多个所述从搜索文件的读出数据进行数据解扰,并对解扰的数据进行随机解码。
5.根据权利要求1-4任一项所述的方法,其特征在于,所述方法还包括:
分别获取根据所述搜索文件访问得到的每个访问结果;
在所有的所述访问结果中,选择大于最大预设匹配度的存储数据作为搜索结果,并返回所述搜索结果。
6.根据权利要求5所述的方法,其特征在于,所述获取根据所述搜索文件访问得到的每个访问结果,所述方法包括:
将所述从搜索文件进行分片,得到多个分片从搜索文件;
根据所述搜索请求命令,对所述多个分片从搜索文件进行并行搜索,并返回分片搜索结果。
7.根据权利要求6所述的方法,其特征在于,所述方法还包括:
若在所有的所述访问结果中,不存在大于最大预设匹配度的存储数据,则选择大于次一级预设匹配度的存储数据作为搜索结果,依次循环,直至返回最终的所述搜索结果。
8.一种大数据处理系统,其特征在于,所述系统包括:
文件划分模块,用于将搜索文件分为一个主搜索文件与多个从搜索文件,所述主搜索文件配置有与所述从搜索文件相对应的搜索地址数据与搜索请求命令;
命令验证模块,用于接收所述搜索请求命令,并验证所述搜索请求命令的合法性;
搜索执行模块,用于判断所述搜索地址数据所对应的从搜索文件是否已被存取,若为否时,根据所述搜索请求命令及从搜索文件存储的访问地址数据搜索相应的存储数据。
9.一种大数据处理系统,其特征在于,所述系统包括:
通信总线,用于实现处理器与存储器间的连接通信;
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序以实现如下步骤:
将搜索文件分为一个主搜索文件与多个从搜索文件,所述主搜索文件配置有与所述从搜索文件相对应的搜索地址数据与搜索请求命令;
接收所述搜索请求命令,并验证所述搜索请求命令的合法性;
当验证通过后,判断所述搜索地址数据所对应的从搜索文件是否已被存取,若为否时,根据所述搜索请求命令及从搜索文件存储的访问地址数据搜索相应的存储数据。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-7任一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京弹跳力信息技术有限公司,未经南京弹跳力信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911028702.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:推荐方法、装置、计算机设备及存储介质
- 下一篇:信息推荐方法及装置、电子设备