[发明专利]使用HTTP资源的高速缓存间通信

说明书

背景技术

背景和相关技术

计算机和计算系统已经影响了现代生活的几乎每个方面。计算机通常在工作、休闲、保健、运输、娱乐、家政管理等中都有涉猎。

此外，计算系统功能还可以通过计算系统的经由网络连接互连到其他计算系统的能力来增强。网络连接可包括，但不仅限于，经由有线或无线以太网的连接，蜂窝式连接，或者甚至通过串行、并行、USB或其它连接的计算机到计算机的连接。这些连接允许计算系统访问其他计算系统上的服务，并快速且有效地从其他计算系统接收应用数据。

为了访问因特网上的服务，客户机处的用户通常将域名键入诸如浏览器等用户界面的地址输入中。该域名能够在域名服务(DNS)处被转换成IP地址，该IP地址然后可用来访问因特网上的服务。

通常，用户可以尝试访问物理地远离该用户的客户机的服务。例如，在日本的用户可以尝试访问在美国的服务。一般而言，只要服务提供的数据量是最少的，诸如最少文本量，这不会造成实际困难。只有少量数据必须从美国远距离行进至日本。然而，当请求诸如大型文本文件、图片、视频、音频记录等较大数据量时，这会促使世界范围的网络拥塞。具体而言，单个数据集可以占据客户机和服务之间的多个网络上的网络带宽，其中客户机和服务之间的距离越远，所需要的网络资源很有可能越多。另外，即使对于较少量的数据，也存在网络等待时间问题。简而言之，数据跨网络长距离行进这一事实导致数据传输的较高等待时间。

为了缓解这一拥塞和等待时间，服务通常将实现分布式高速缓存系统。具体而言，服务可具有在地理上比实际服务更靠近客户机的高速缓存。例如，在日本大阪的客户机可以从在日本东京的高速缓存访问数据以获得在美国的服务。用于在美国的同一服务的其他数据高速缓存可位于其他地理位置，以允许客户机从比该服务更靠近客户机的高速缓存中获取来自该服务的经高速缓存的数据。

高速缓存系统还可以按分层方式组织。例如，高速缓存可具有分层结构，其中在该分层结构中较高的高速缓存覆盖比在该分层结构中较低的高速缓存更大的地理区域或更多的网络。例如，在第一层的是位于华盛顿州雷蒙德市的为全世界提供服务的服务或起源。在第二层的是在新加坡的高速缓存，该高速缓存为亚洲的客户机和更低层的高速缓存对数据进行高速缓存。在第三层的是在日本东京的高速缓存，该高速缓存为全日本的客户机和更低层的高速缓存对数据进行高速缓存。在第四层的是在日本大阪的高速缓存，该高速缓存为大阪自己的客户机对数据进行高速缓存。

高速缓存分层结构是在假定只有请求的子集被路由至下一层的情况下设计的，从而意味着每一层用作“过滤器”。例如，考虑3层拓扑结构，具有子高速缓存服务器层、父高速缓存服务器层和原始服务器。在该示例中，子高速缓存服务器层将接收100％的终端用户通信量，而父高速缓存服务器层将接收小于100％的某一百分比(比如30％，这意味着存在70％的高速缓存命中或者所请求的资源中的70％已经被高速缓存并且将因此直接从子高速缓存服务器层服务)，并且原始服务器将接收甚至更少，比如10％。基于该假设，相应地完成高速缓存分层结构的规模和容量规划。

然而，该假设可能是错误的，具体而言会受到急性情况的影响。例如，考虑名人逝世的新闻第一次开始传播的情况。这导致许多用户同时向新闻服务器请求相同的信息。这导致由大量客户机作出的许多对新鲜内容(即，未被高速缓存的)请求。在这种情况下，内容尚未被子服务器或父服务器高速缓存。在上述示例中，父服务器可接收90％的通信量(而非30％)并且原始服务器可接收70％的通信(而非10％)。在这种情况下，存在高速缓存错失请求的级联效应，这最终可使得高速缓存分层结构过载。

另一示例可涉及诸如网络和/或硬件故障等非预期服务降级，其中服务水平(如用系统的健康状况来指示)是次优的。由此，与所要求的提高相反，存在对总体“健康状况”造成负面影响的性能/可用性/可靠性降低。可能出现其他情况，但未在此处具体说明。

在此要求保护的主题不限于解决任何缺点或仅在诸如上述环境中操作的各个实施例。相反，提供该背景仅用以示出在其中可实践在此描述的部分实施例的一个示例性技术领域。

发明内容