[发明专利]一种实现缓存数据调度的方法和装置在审
申请号: | 201910573823.6 | 申请日: | 2019-06-28 |
公开(公告)号: | CN110334036A | 公开(公告)日: | 2019-10-15 |
发明(设计)人: | 史琪 | 申请(专利权)人: | 京东数字科技控股有限公司 |
主分类号: | G06F12/121 | 分类号: | G06F12/121;G06N20/00 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 李阳;伊明明 |
地址: | 100176 北京市北京经济*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 预测数据 访问操作 决策模型 缓存 方法和装置 缓存数据 历史数据 数据标识 日志 计算机技术领域 调度 存储性能 存储状态 调度指令 缓存资源 机器学习 数据延迟 预测 命中率 访问 节约 | ||
1.一种实现缓存数据调度的方法,其特征在于,包括:
获取待预测数据的数据标识和待预测时间;
根据训练的决策模型,判断在所述预测时间是否对所述待预测数据进行缓存;其中,所述决策模型根据历史数据的访问操作日志训练得到,所述访问操作日志中至少包括所述历史数据的数据标识和访问操作时间;
根据所述判断的结果以及所述待预测数据的存储状态,生成调度指令。
2.根据权利要求1所述的方法,其特征在于,在根据训练的决策模型,判断在所述预测时间是否对所述待预测数据进行缓存之前,还包括:
获取历史数据的访问操作日志,所述访问操作日志中还包括访问用户信息、所属业务信息或者所在硬盘的标识信息;
对获取的访问操作日志进行样本处理,所述样本处理包括去噪处理、分类处理或者关键字标记处理;
通过Tensorflow对所述样本处理后的访问操作日志进行机器学习,以得到训练的决策模型。
3.根据权利要求1所述的方法,其特征在于,根据所述判断的结果以及所述待预测数据的存储状态,生成调度指令的步骤包括:
确认所述判断的结果与所述待预测数据的存储状态是否一致,所述存储状态为已进行缓存、未进行缓存;
如果一致,则生成第一调度指令,使得通过所述第一调度指令在所述预测时间不改变所述待预测数据的存储状态;
如果不一致,生成第二调度指令,使得通过所述第二调度指令在所述预测时间将所述待预测数据从硬盘调至内存,或者通过所述第二调度指令在所述预测时间将所述待预测数据从内存调至硬盘。
4.根据权利要求1所述的方法,其特征在于,所述待预测数据以分片的形式存储在分布式系统;所述数据标识为分片编号。
5.根据权利要求1所述的方法,其特征在于,获取待预测数据的数据标识和待预测时间的步骤包括:
根据预设的时间间隔获取数据信息列表;所述数据信息列表中记录有至少包括一条待预测数据,以及每条待预测数据的数据标识和待预测时间。
6.根据权利要求5所述的方法,其特征在于,所述数据信息列表中记录有每条待预测数据的存储状态;则
根据所述判断的结果以及所述待预测数据的存储状态,生成调度指令之前,还包括:基于所述数据信息列表,确定每条待预测数据的存储状态;
根据所述判断的结果以及所述待预测数据的存储状态,生成调度指令之后,还包括:根据执行调度指令的结果,对应更新所述数据信息列表中待预测数据的存储状态。
7.一种实现缓存数据调度的装置,其特征在于,包括:
获取模块,用于获取待预测数据的数据标识和待预测时间;
判断模块,用于根据训练的决策模型,判断在所述预测时间是否对所述待预测数据进行缓存;其中,所述决策模型根据历史数据的访问操作日志训练得到,所述访问操作日志中至少包括所述历史数据的数据标识和访问操作时间;
指令生成模块,用于根据所述判断的结果以及所述待预测数据的存储状态,生成调度指令。
8.根据权利要求7所述的装置,其特征在于,还包括模型训练模块,用于获取历史数据的访问操作日志,所述访问操作日志中还包括访问用户信息、所属业务信息或者所在硬盘的标识信息;以及对获取的访问操作日志进行样本处理,所述样本处理包括去噪处理、分类处理或者关键字标记处理;通过Tensorflow对所述样本处理后的访问操作日志进行机器学习,以得到训练的决策模型。
9.根据权利要求7所述的装置,其特征在于,所述指令生成模块还用于,确认所述判断的结果与所述待预测数据的存储状态是否一致,所述存储状态为已进行缓存、未进行缓存;
如果一致,则生成第一调度指令,使得通过所述第一调度指令在所述预测时间不改变所述待预测数据的存储状态;
如果不一致,生成第二调度指令,使得通过所述第二调度指令在所述预测时间将所述待预测数据从硬盘调至内存,或者通过所述第二调度指令在所述预测时间将所述待预测数据从内存调至硬盘。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于京东数字科技控股有限公司,未经京东数字科技控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910573823.6/1.html,转载请声明来源钻瓜专利网。