[发明专利]动态地重新组织存储器中的数据对象的装置和方法

说明书

技术领域

本发明一般地涉及存储器管理和系统性能优化，并且具体而言涉及一种在事件驱动的系统中动态地重新组织存储器中的数据对象的装置和方法。

背景技术

中央处理器(CPU)是计算机的核心，90％以上的数据信息都是由它来完成的。它的工作速度快慢直接影响到整个计算机的运行速度。CPU进行处理的数据信息多是从计算机存储器中调用的，但CPU的运算速度要比存储器快得多，为了解决CPU速度和存储器速度之间的差异问题，可采用高速缓冲存储器或高速缓存，用于存储CPU经常使用的数据和指令，以提高数据传输速度。高速缓存的容量越大，存储的信息越多，可减少CPU与存储器之间的数据交换次数，提高CPU的运算效率。存储器中被CPU访问最频繁的数据和指令被复制到高速缓存中，这样CPU就可以不经常到速度较慢的存储器中读取数据，而只要到速度快得多的高速缓存中读取数据。

高速缓存通常由静态RAM组成，其结构较复杂，并且静态RAM的集成度低且成本高，因此考虑到成本和设计因素，在有限的CPU芯片面积上，高速缓存的容量不可能做得太大。另外，对于高速缓存的应用存在算法的问题。即便高速缓存容量很大，但如果没有一种高效率的算法，则将导致应用中高速缓存中数据的命中率偏低，而无法有效发挥出大容量高速缓存的优势。算法与高速缓存容量相辅相成，大容量的高速缓存需要更为高效的算法，否则性能会大打折扣。从技术角度上说，高容量高速缓存的算法是直接影响到CPU性能发挥的重要因素。

这里要特别指出的是：1.因为高速缓存只复制了存储器中的少部分数据，所以CPU到高速缓存中寻找数据时，也会出现找不到的情况，即高速缓存缺失，因为这些数据没有从存储器复制到高速缓存中。这时CPU还是会到存储器中去寻找数据，这样系统的整体速度就会变慢。不过CPU会把这些数据复制到高速缓存中，以便下一次就不用再到存储器中进行读取。2.随着时间的变化，被访问最频繁的数据不是一成不变的，也就是说，之前还不频繁读取的数据，此时可能需要被频繁访问；或者刚才还是频繁进行访问的数据，现在又不再需要进行访问。因此高速缓存中的数据要经常按照一定的算法来更换，这样才能保证高速缓存中的数据是被访问最频繁的。3.由于现代的高速缓存的容量越来越大，高速缓存常常会一次性从存储器中读取一定量的数据，其比所需要的数据更多，这通常是通过从存储器中读取从所需数据开始的若干连续的数据块而实现的。由上述内容可知，提高高速缓存命中率(hit ratio)，即，使CPU尽可能地从高速缓存中读取到所需的数据，而不必经常性访问存储器，可以显著提高系统的整体性能。

随着Web 2.0时代的到来，Web被看成是用于丰富因特网应用(RichInternet Application，RIA)的最重要的应用平台。Web通常支持客户端-服务器体系结构。这尤其对服务器的性能要求很高，因此需要对服务器上的CPU、高速缓存和存储器进行较好的管理。RIA技术允许在因特网上以一种类似于使用Web一样简单的方式来部署丰富客户端程序。其是一种用户接口，比用超文本标记语言(HTML)能实现的接口来说，其更加健壮、反应更加灵敏和更具有令人感兴趣的可视化特性。由于Web 2.0更加强调用户参与，以数据和信息共享为核心，因此应用的开发呈现出快速开发、立即上线、马上可用、持续完善的轻量级开发模式。

在Web 2.0时代，服务器所面临的问题在于：1)存在大量应用：服务器可能在一个逻辑单元(盒子)中运行数百个应用，并且新的应用易于被创建并且持续地被创建；2)面向数据的访问模型：数据是Web 2.0服务的核心，其中存在众多小尺寸数据以及高频率的数据访问模式。

因此，对于传统的应用服务器(诸如Websphere、Weblogic等)，其通常采用一请求、一应答服务，其中每个请求在被处理完之前在服务器上保留几分钟，这样的传统方式不适于高效处理Web 2.0服务的大量应用。因此，服务器需要更强的扩展性和更强的性能。例如，Web服务器应用可以被优化用于安全地运行海量的寿命短且无状态的脚本，其中每个脚本运行其自己的进程，从而与其它脚本相分离，因此可以以更精细的粒度被保护。