[发明专利]支持高并发请求的云服务运行方法、系统及云服务器在审
申请号: | 202211120198.8 | 申请日: | 2022-09-15 |
公开(公告)号: | CN115567524A | 公开(公告)日: | 2023-01-03 |
发明(设计)人: | 叶可江;林彦颖;须成忠 | 申请(专利权)人: | 中国科学院深圳先进技术研究院;澳门大学 |
主分类号: | H04L67/10 | 分类号: | H04L67/10;H04L67/1097;H04L67/60 |
代理公司: | 深圳市铭粤知识产权代理有限公司 44304 | 代理人: | 孙伟峰;武岑飞 |
地址: | 518055 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 支持 并发 请求 服务 运行 方法 系统 服务器 | ||
本申请涉及一种支持高并发请求的云服务运行方法、系统及云服务器,云服务运行方法包括:在运行应用程序时基于无服务器计算进行函数实例的调用;获取云服务器运行函数实例的流量信息;若流量信息满足预设要求,则在运行函数实例的运行时环境分叉技术进程中进行内存复用及状态复用。本申请在运行时环境分叉技术进程中进行内存复用和状态复用,可在高并发的情况下实现低时延的效果。
技术领域
本申请一般涉及云服务领域。更具体地,本申请涉及一种支持高并发请求的云服务运行方法、支持高并发请求的云服务运行系统及云服务器。
背景技术
云服务是基于互联网的相关服务的增加、使用和交互模式,通常涉及通过互联网来提供动态易扩展且经常是虚拟化的资源。云上服务在高并发场景下容易发生超时,从而导致违反服务级别协议(service-level agreement,缩写SLA)的问题。高并发(HighConcurrency)是云服务系统设计的一个重要概念,它的目的是让系统能够同时并行处理多个请求。
现有方案通常采用中间件策略及体系结构与分布式资源管理策略,中间件策略是通过在中间件级别进行数据缓存,数据库分库分表,服务分区操作,读写分离,服务负载均衡等操作降低服务单点故障所产生的扩散风险;通过页面静态化,并发处理,队列处理,內容分发网络等方式减少集群内部数据通讯开销,从而提升响应时间。
分布式资源管理策略则是高并发时,通过对云服务环境进行自动扩缩容,从而充分地利用了云数据中心的分布式系统优势,将负载平均地分摊到集群中的其他机器上,降低局部效应对单个服务点的影响。
现有的方案中,云计算体系结构以及操作系统在进行服务级别的扩容时,创建虚拟环境的过程中开销过大,从而使得整体的响应时间没法在SLA的要求内达到低时延的效率要求。
发明内容
本申请提供一种支持高并发请求的云服务运行方法、支持高并发请求的云服务运行系统及云服务器,以解决现有云服务在高并发请求的情况下无法在SLA的要求内达到低时延效率要求的问题。
为解决上述技术问题,本申请提供一种支持高并发请求的云服务运行方法,包括:在运行应用程序时基于无服务器计算进行函数实例的调用;获取所述云服务器运行函数实例的流量信息;若所述流量信息满足预设要求,则在运行函数实例的运行时环境分叉技术进程中进行内存复用及状态复用。
在一个实施例中,所述云服务运行方法还包括:若所述流量信息满足预设要求,则复制所述函数实例;在完成所述函数实例的复制后,重新进行函数实例的调用。
在一个实施例中,所述若所述流量信息满足预设要求,包括:若所述流量信息中的流量达到阈值,则判定所述流量信息满足预设要求。
在一个实施例中,所述在运行应用程序时基于无服务器计算进行函数调用,包括:在运行应用程序时基于无服务器计算复用函数模板,以进行函数调用。
在一个实施例中,所述云服务运行方法还包括:在运行所述函数实例时进行中心化存储。
在一个实施例中,所述云服务运行方法还包括:在所述函数实例运行完成后,释放复用和复制。
为解决上述技术问题,本申请提供一种支持高并发请求的云服务运行系统,包括:高并发执行组件,用于在运行应用程序时基于无服务器计算进行函数实例的调用;高并发感知组件,用于感知所述云服务器运行函数实例的流量信息;扩缩容组件,用于在所述流量信息满足预设要求时,在运行函数实例的运行时环境分叉技术进程中进行内存复用及状态复用。
在一个实施例中,所述扩缩容组件还用于,在所述流量信息满足预设要求时,复制所述函数实例;所述高并发执行组件还用于,在完成所述函数实例的复制后,重新进行函数实例的调用。
在一个实施例中,所述高并发执行组件还用于,在运行应用程序时基于无服务器计算复用函数模板,以进行函数调用。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院深圳先进技术研究院;澳门大学,未经中国科学院深圳先进技术研究院;澳门大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211120198.8/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种卫生间地面渗漏维修的防漏结构及其防漏方法
- 下一篇:光学成像镜头