[发明专利]基于Spark分布式计算的云平台配额智能分配系统有效
申请号: | 202211075559.1 | 申请日: | 2022-09-05 |
公开(公告)号: | CN115145736B | 公开(公告)日: | 2022-12-06 |
发明(设计)人: | 王婷;肖良华;林志鹏;曹玉婷;富海军;吴佳俊 | 申请(专利权)人: | 中国人寿保险股份有限公司上海数据中心 |
主分类号: | G06F9/50 | 分类号: | G06F9/50;G06F16/215;H04L67/50;H04L67/51 |
代理公司: | 上海泰能知识产权代理事务所(普通合伙) 31233 | 代理人: | 宋缨 |
地址: | 201203 上海市浦东新区自*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 spark 分布式 计算 平台 配额 智能 分配 系统 | ||
1.一种基于Spark分布式计算的云平台配额智能分配系统,其特征在于,包括:
数据采集模块,用于定时获取租户云资源当日使用情况和租户下的用户数、以及用户当日浏览数据;
数据清洗与预处理模块,用于对所述用户当日浏览数据进行解析处理,以获取用户浏览的总次数和总时长;
配额智能计算建模模块,用于根据所述租户在每个区域各个云服务使用日平均增长量以及所述用户浏览总次数和总时长预测出需要扩容的配额量;其中,所述配额智能计算建模模块包括:
第一计算单元,用于将租户当日配额总量分别与N天前和M天前的使用量做差,分别除以N+1和M+1得到N+1日和M+1日内的日均使用增长量;
第二计算单元,用于根据租户当日配额总量和当日配额使用量计算剩余量;
第三计算单元,用于根据所述用户浏览的总次数和总时长、以及N+1日内的日均使用增长量计算出租户在一个区域对一个云服务资源需求量;采用计算出租户在一个区域对一个云服务资源需求量,其中,表示租户在一个区域对一个云服务资源需求量,表示用户浏览的总时长,表示用户浏览的总次数,表示N+1日内的日均使用增长量,表示该租户下的用户数;
第四计算单元,用于根据N+1日内的日均使用增长量、M+1日内的日均使用增长量以及租户在一个区域对一个云服务资源需求量计算出租户在一个区域对一个云服务资源的日需求新增预估值;采用计算租户在一个区域对一个云服务资源的日需求新增预估值,其中,表示租户在一个区域对一个云服务资源的日需求新增预估值,表示N+1日内的日均使用增长量,表示M+1日内的日均使用增长量,均为权重值;
第五计算单元,用于根据所述租户在一个区域对一个云服务资源的日需求新增预估值和所述剩余量计算需要扩容的配额量;采用计算需要扩容的配额量,其中,表示需要扩容的配额量,表示剩余量;
配额分配模块,用于根据所述配额量对所述租户进行扩容。
2.根据权利要求1所述的基于Spark分布式计算的云平台配额智能分配系统,其特征在于,所述数据采集模块包括:
第一获取单元,用于获取最小单元VDC集;
第二获取单元,用于获取所有租户集;
第三获取单元,用于获取所有租户在所有区域的云资源配额、使用情况和用户数;
第四获取单元,用于收集每个用户当日在所述云平台点击浏览某个云服务申请页面的次数、点击时间戳,以及提交申请的点击记录,或者点击返回的点击记录和时间。
3.根据权利要求1所述的基于Spark分布式计算的云平台配额智能分配系统,其特征在于,所述数据清洗与预处理模块包括:
第一处理单元,用于将用户当日浏览日志按照Key-Value读取到各个工作节点的内存中,其中,Key为String类型的“tenantId_regionId_serviceId”,Value为切分后的数据;
第二处理单元,用于将相同Key的放到一个列表中,创建一个临时变量并赋值为0.0,遍历所述列表中Value值,若Value是create_timestamp,需要判断临时变量是否等于0.0,若不是则表示前一次用户存在点击创建页面之后超时登出,则将默认时间加入timeList;若临时变量等于0.0,则把时间戳赋值给所述临时变量;若Value是submit,则将所述临时变量赋值为0.0;若Value是return_ timestamp,则提取时间戳,并和所述临时变量做减法,得到时间差,最终将所有时间差加入该Key对应的时间列表中,将所述时间列表中的所有值相加计算出浏览总时长,通过timeList.size()计算出浏览总次数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国人寿保险股份有限公司上海数据中心,未经中国人寿保险股份有限公司上海数据中心许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211075559.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:缺陷检测模型的压缩训练方法和装置
- 下一篇:一种服务器用减振机构