[发明专利]数据处理的方法和装置在审
| 申请号: | 202010381663.8 | 申请日: | 2020-05-08 |
| 公开(公告)号: | CN113626175A | 公开(公告)日: | 2021-11-09 |
| 发明(设计)人: | 张同彦;张泽华 | 申请(专利权)人: | 北京沃东天骏信息技术有限公司 |
| 主分类号: | G06F9/50 | 分类号: | G06F9/50;G06Q10/06;G06Q30/02;H04L29/08 |
| 代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张一军;张效荣 |
| 地址: | 100176 北京市北京经济技术*** | 国省代码: | 北京;11 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 数据处理 方法 装置 | ||
1.一种数据处理的方法,其特征在于,包括:
获取数据处理请求的状态特征;
根据所述状态特征,采用数据分片模型对所述数据处理请求进行分片处理,基于预设的奖励函数确定所述分片处理的奖励值;
根据所述数据处理请求的状态特征和所述奖励值强化训练所述数据分片模型,以对下一个数据处理请求进行分片处理。
2.如权利要求1所述的方法,其特征在于,根据所述状态特征,采用数据分片模型对所述数据处理请求进行分片处理,包括:
将所述数据处理请求的状态特征输入所述数据分片模型,确定计算集群中每个计算节点的计算容量;根据每个计算节点的计算容量确定与所述数据处理请求对应的分片数量,以使计算集群根据所述分片数量并发处理所述数据处理请求。
3.如权利要求1所述的方法,其特征在于,所述状态特征包括以下至少之一:所述数据处理请求对应的待处理数据数、待处理数据特征数、计算集群的系统负载、网络吞吐量、网络延迟。
4.如权利要求3所述的方法,其特征在于,所述计算集群的系统负载包括以下至少之一:计算集群中各个计算节点的CPU占用率、内存占用比例、系统负载数值。
5.如权利要求3所述的方法,其特征在于,所述数据处理请求为广告请求;所述待处理数据特征数为处理所述待处理请求时依据的预设指标特征的个数;所述预设指标特征包括以下至少之一:广告标题、广告展示尺寸、广告候选素材数。
6.如权利要求1所述的方法,其特征在于,所述奖励函数的奖励值与所述计算集群的系统负载和/或计算集群处理所述待处理请求的处理耗时负相关。
7.一种数据处理的装置,其特征在于,包括:
特征获取模块,获取数据处理请求的状态特征;
模型计算模块,根据所述状态特征,采用数据分片模型对所述数据处理请求进行分片处理,基于预设的奖励函数确定所述分片处理的奖励值;
强化学习模块,根据所述数据处理请求的状态特征和所述奖励值强化训练所述数据分片模型,以对下一个数据处理请求进行分片处理。
8.如权利要求7所述的装置,其特征在于,所述模型计算模块根据所述状态特征,采用数据分片模型对所述数据处理请求进行分片处理,包括:
将所述数据处理请求的状态特征输入所述数据分片模型,确定计算集群中每个计算节点的计算容量;根据每个计算节点的计算容量确定与所述数据处理请求对应的分片数量,以使计算集群根据所述分片数量并发处理所述数据处理请求。
9.一种数据处理的电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-6中任一所述的方法。
10.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-6中任一所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京沃东天骏信息技术有限公司,未经北京沃东天骏信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010381663.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种振捣装置及整平设备
- 下一篇:一种中厚壁热缩管的自动送料贴标装置





