[发明专利]一种融合同步异步特点的线程池处理方法及系统

说明书

技术领域

本发明涉及互联网通讯处理领域，是一种融合同步异步特点的线程池处理方法及系统。

技术背景

计算机技术经过几十年的发展历程之后已经进入互联网时代，各种分布式应用随处可见。这些应用对系统的响应速度、稳健性和整体性能都提出了较高的要求。

现在分布式应用范围很广，而且与互联网的结合也越来越紧密，像网络游戏、即时通讯、微博、手机类应用等，均具有以下典型特征：接入端数量庞大，任务请求次数很多，每次请求数据量较小。

随着物联网的兴起，大量工业数据、环境监测数据、农业数据、交通数据等，都需要进行大量采集，并通过互联网传输给相应的服务器进行处理，这种情况完全具备上述典型特征，可以推测，随着大数据量的应用越来越普及，应对这种典型特征应用的需求也将越来越迫切。

对于此类特点的应用，用单个线程来处理所有请求，或者给每个请求都生成一个新的线程进行处理，这两种模式都不理想，会降低系统的响应速度和性能。线程池技术是满足这些要求而采用的技术之一，它是组织服务器应用的有效工具，可以提高系统的响应速度和整体性能，线程池技术为线程创建、销毁的开销问题和系统资源不足问题提供了很好的解决方案。

在专利“一种基于浏览器的web即时通讯方法”（申请号：201110454201.5）中，其提出的方法是：用户登录浏览器客户端，向服务器发起http 请求，服务器从线程池获取线程处理浏览器客户端发起的http 连接，判断其缓冲区是否有新信息，如果有，则服务器将新信息发送给浏览器客户端；如果没有，则服务器挂起连接，并释放线程到线程池；服务器判断连接是否超时，如果超时，则从线程池获取一个线程发送一个心跳信号给浏览器客户端，重新建立连接；否则服务器判断是否有新信息，如果是，则服务器将新信息发送给浏览器客户端，否则继续监控。此专利发明通过线程池实现了浏览器客户端实时获取信息，且在连接空闲时挂起连接，减轻了服务器不必要的负担，提高服务器的性能。

此专利发明只解决了互联网通讯的比较单一的异步处理方式，随着互联网应用的日益发展，其发生的应用需求也越来越复杂。现有的通讯服务器技术为了提高并发量通常采用线程池技术，对收到的任务请求进行异步处理。在线程池处理过程中，对于不同的网络环境条件，任务请求的到达顺序往往和发送顺序是不一致的。目前随着通讯服务的发展，通讯应用不仅需要满足点对点的消息互通，而且还需要具备图片、文件、语音视频传输等功能；另外通过与各个网站平台对接，接入了各种各样的业务应用服务，这些业务应用服务都和用户信息进行绑定，这就要求在处理这些业务应用时，其相关的任务请求的处理必须遵循严格的顺序处理关系。

因此在处理具有严格顺序关系业务的时候，要求系统能够在实现异步处理的基础上，同时要具备同步处理任务请求的能力，从而保证业务顺序的一致性，这在目前面临困难。

关于结合同步异步处理方式的研究，已经有了一些成果，在文献《计算机与现代化》的2010年第7期发表的《半同步半异步线程池的设计与实现》中，介绍用于复杂并行系统设计的半同步半异步的设计模式，这种模式把系统分解成异步层、排队层、同步层，异步层异步地处理如网络接口中断等底层的任务请求来提高服务质量，同步层在一个独立的线程中同步处理如数据库查询、文件传输等上层任务请求以简化并行编程，排队层则负责协调异步层和同步层之间的通讯。而且为了避免线程池的切换开销，线程池中的所有工作线程都竞争性地等待任务请求的到来，取到任务请求的工作线程执行结束后，继续去获取新的任务请求。

此文中提出的方法用一个独立线程来处理同步层的任务请求，并不能满足互联网数量众多、处理短小的任务请求的需要。另外，在互联网大量的任务请求中，其重要性是不同的，体现在执行顺序上，其优先级也是不一样的，所有工作线程竞争性地获取任务请求的方法也难以实现任务请求优先级的执行顺序。

因此，对于任务请求数量众多、每个请求数据量较小的情况，如何在异步处理的基础上，根据业务的顺序要求实现同步处理，并能根据任务请求的重要性进行优先级的设置，是亟待解决的重要问题。

发明内容

为了解决这个问题，本专利提出了一种融合同步异步特点的线程池处理方法及系统，对互联网上大量的任务请求，通过线程池进行异步处理，使之互相不受影响且等待时间短，同时单用户操作实现同步处理，符合按业务顺序输出的要求，而且对重要性高的任务请求，具备优先处理的优选机制。

本发明公开了一种融合同步异步特点的线程池处理方法，技术方案如下，包括：