[发明专利]服务器预加载方法、装置、服务器及存储介质有效
申请号: | 202010573639.4 | 申请日: | 2020-06-22 |
公开(公告)号: | CN111756831B | 公开(公告)日: | 2023-05-30 |
发明(设计)人: | 栗垚;尹东洋 | 申请(专利权)人: | 北京达佳互联信息技术有限公司 |
主分类号: | H04L67/02 | 分类号: | H04L67/02;H04L67/1042;H04L67/30;H04L9/32;G06F9/445 |
代理公司: | 华进联合专利商标代理有限公司 44224 | 代理人: | 黄丽霞 |
地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 服务器 加载 方法 装置 存储 介质 | ||
本公开关于一种服务器预加载方法、装置、服务器及存储介质,所述方法包括:预加载任务进程中的主线程向预加载任务进程中的线程池提交预加载请求;线程池响应于预加载请求,从配置服务器中获取预加载服务配置信息;线程池根据预加载服务配置信息生成HTTP请求;线程池将HTTP请求发送至与预加载服务配置信息对应的待预加载服务器。通过该方法不会占用服务器本身的资源,从而不会影响服务器性能;且该方法通过使线程池根据预加载服务配置信息生成真实的HTTP请求,进而将HTTP请求发送至相应的待预加载服务器,对待预加载服务器进行预加载,可以最大可能地覆盖到服务的全部流程,从而实现对待预加载服务器的充分预加载。
技术领域
本公开涉及互联网技术领域,尤其涉及一种服务器预加载方法、装置、服务器及存储介质。
背景技术
服务器API(Application Programming Interface,应用程序接口)层一般都是基于HTTP协议(Hyper Text Transfer Protocol,超文本传输协议)进行开发,协议层的细节被封装在Web(World Wide Web,全球广域网)容器里,开发者需要基于Web容器编写特定的业务代码。在服务器开发完成后需要上线到生产环境,其响应延迟是验证服务器性能的一个重要指标。影响延迟的因素有很多,比如服务器本身的资源,机房带宽、远程调用以及服务器预加载不充分等等。
对于服务器预加载不充分导致的延迟,通常是因为服务器启动后,依赖的外部资源可能没有被加载,比如数据库连接,本地缓存的建立等,导致最初接收的请求由于要建立外部依赖往往会有较高延迟。或者,服务器启动了一段时间后但一直没有接收到请求,此时一些非持久化的连接资源会被释放,当下一批请求到达时,需要重新建立连接,导致延迟升高。服务器预加载不充分导致的延迟在一些具有瞬时峰值流量的服务上(比如春晚、秒杀活动等)会更加明显,这类服务平时没有流量,但会在某一时刻出现流量突增。如果不进行预加载,可能导致服务器线程池被打满,造成服务不可用,引起雪崩效应,拖垮整个集群。
图1示例性示出了相关技术中的一种预加载方案的架构图,通过建立一个服务器内部的预加载机制,在服务器内部针对所有需要预加载的资源建立一个WarmUp(预加载)接口,接口内部建立各个资源的预加载逻辑。在Web服务器启动后,同时启动服务器内部的预加载线程,线程周期性通过Spring(一个开放源代码的应用程序框架,是针对Bean的生命周期进行管理的轻量级容器)的Bean(Spring容器管理的对象)工厂取出WarmUp接口的实例,逐个调用其预加载方法实现资源预加载。上述方案一定程度上解决了服务器预加载不充分的问题,但是没有覆盖到服务器处理请求的全部流程,例如,过滤器内部的依赖资源无法被预加载。且,上述方案是在服务器内部进行预加载的,预加载的执行会消耗服务器本身的资源,如果需要预加载的资源较多,会影响服务器性能,无法进行高频率的预加载。可见,上述方案存在预加载不够充分的问题。
发明内容
本公开提供一种服务器预加载方法、装置、服务器及存储介质,以至少解决相关技术中服务器预加载不充分的问题。本公开的技术方案如下:
根据本公开实施例的第一方面,提供一种服务器预加载方法,包括:
预加载任务进程中的主线程向预加载任务进程中的线程池提交预加载请求;
线程池响应于预加载请求,从配置服务器中获取预加载服务配置信息,配置服务器用于存储预加载服务配置信息;
线程池根据预加载服务配置信息生成HTTP请求;
线程池将HTTP请求发送至与预加载服务配置信息对应的待预加载服务器。
在其中一个实施例中,预加载服务配置信息包括预加载频率;预加载任务进程中的主线程向预加载任务进程中的线程池提交预加载请求,包括:
主线程从配置服务器中获取预先配置的预加载频率;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京达佳互联信息技术有限公司,未经北京达佳互联信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010573639.4/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种工业互联网监控云平台
- 下一篇:用于安全密码生成的系统、方法和存储介质