[发明专利]一种基于业务优先级的高并发服务资源分配方法有效
申请号: | 201611187880.3 | 申请日: | 2016-12-20 |
公开(公告)号: | CN106789726B | 公开(公告)日: | 2019-09-10 |
发明(设计)人: | 魏伟;汪江萍;沈泓 | 申请(专利权)人: | 兴唐通信科技有限公司 |
主分类号: | H04L12/851 | 分类号: | H04L12/851;H04L29/08 |
代理公司: | 北京天达知识产权代理事务所(普通合伙) 11386 | 代理人: | 龚颐雯;彭霜 |
地址: | 100191*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 业务 优先级 并发 服务 资源 分配 方法 | ||
技术领域
本发明涉及服务资源分配技术领域,尤其涉及一种基于业务优先级的高并发服务资源分配方法。
背景技术
近年来,随着计算机技术和通信技术的不断发展,Internet用户数成指数倍增加,互联网应用得到了迅速普及。技术的进步激发了用户需求的增长,业务也变得更加复杂,这就要求服务器提供高并发访问及合理分配服务资源的能力。
传统的单个服务器处理能力有限,无法处理高并发业务请求,而将单个普通的服务器置换成更高性能的服务器其成本又过高,并且又造成了闲置服务器资源的浪费。因此将多台服务器构建成为一个服务器集群系统,共同处理外部请求的做法,已成为国内外构建高性能服务器的主要方法。
集群系统比起使用传统的单个服务器要复杂得多,如何为业务请求合理分配集群中的服务资源是最关键的问题,它将直接影响集群系统是否能提供等于或接近于预期的性能。例如当大量请求同时到达时,若服务资源分配不合理将导致某些服务器节点长期处于负载过重状态,而另外某些服务器则较长时间处于空闲状态。上述这种情况严重浪费了集群系统的资源优势,用户的请求也得不到及时的响应,集群系统的整体性能也并没有多大的提升,这与引入集群系统的初衷是不相符的。因此必须采用一种较好的负载均衡方案,以便将任务尽可能合理地分配到集群系统中的各服务器节点。
负载均衡技术伴随着集群技术的出现而出现,目的是将请求均匀地调度给集群中的节点,尽量做到负载均衡。目前常用的负载均衡算法分为以下两类:
(1)静态调度算法
静态调度算法出现时间最早,是其他算法的基础和雏形。其基本思想就是预先定义好一些调度规则,将所有的请求按照规则进行分配,而与系统的当前状态,比如负载量,资源利用率等信息无关。
(2)动态调度算法
相对于静态调度来说,动态调度算法加入了一些反馈机制,这种机制可以动态地收集当前的集群信息,包括各个节点的负载、新请求的类型、数量、带宽的利用率、请求延时等等。利用这些信息,我们可以动态改变服务器的权值和其他的一些属性,改变新连接的走向。这样的措施在负载高峰和不稳定的时候,能够起到很好的调节作用,避免服务倾斜和宕机的情况出现,提高集群的整体性能。
由于动态调度算法能根据系统的实时信息动态地改变资源分配策略,在现实场景中具有更好的性能,目前国内涉及到负载均衡技术的专利中,采用动态调度算法的较多。
但是,现有技术中关于分配服务资源的方案大都是从负载均衡的角度出发的,很少有针对业务优先级的资源分配方案。在服务资源充裕的情况下,由于所有业务都能及时分配到服务资源,优先级对于业务的重要性可能不大。然而,在服务资源紧缺时,不是所有的业务都能及时分配到服务资源,对于核心的、紧急的业务就应该优先分配到服务资源,此时,优先级对于业务的重要性就不言而喻了。
发明内容
鉴于上述的分析,本发明旨在提供一种基于业务优先级的高并发服务资源分配方法,该方法充分考虑业务优先级,按优先级分配服务资源,用以解决传统负载均衡技术中对业务优先级考虑不足的问题。
本发明的目的主要是通过以下技术方案实现的:
一种基于业务优先级的高并发服务资源分配方法,设置调度器;该调度器与服务器集群中的所有服务器相连;该调度器存储有所有服务器的标识,组成该服务器集群的服务器标识队列;
所述高并发服务资源分配方法包括如下步骤:
步骤S1,调度器接收用户发出的业务请求;
步骤S2,所述调度器为接收到的每个业务请求生成一个进程;
步骤S3,所述调度器采用轮询方式转发所接收到的业务请求给服务器,当有服务器服务资源充足,接受该业务请求时,相应的进程结束;当所有服务器都服务资源不足,暂停接入请求时,转入步骤S4;
步骤S4,所述调度器将未被服务器接受的业务请求存储下来;
步骤S5,所述调度器从配置文件中调取所存储的业务请求的业务优先级;
步骤S6、按照业务优先级及业务请求发出时间,调度器将存储的业务请求插入到相应的业务请求队列中的相应位置;
具体地,业务请求队列由优先级相同的业务请求组成,每一个业务请求队列中,按用户发出业务请求的时间先后顺序排队;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于兴唐通信科技有限公司,未经兴唐通信科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201611187880.3/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种滚刀式蛛网膜剪刀
- 下一篇:结直肠外科用切割器