[发明专利]计算机存储介质、分布式系统及其控制方法、以及节点

说明书

一种包括在网络上连接的多个节点的分布式系统。每个节点具有在分布式系统中标识节点的唯一标识符。任务从分布式系统中的任何节点启动并且包括唯一标识符。如果节点接收到包括节点的唯一标识符的任务，则节点执行该任务。每个节点将每个任务存储在日志中。如果节点故障，则在从故障中恢复之后，节点向分布式系统查询由于该故障而没有接收到的任务以及没有完成的任务。任务可以基于通过使用带内访问指定存储与元数据对应的数据的节点的位置的元数据而得到的位置数据来在节点上启动。任务可以包括开启虚拟机以使得IP地址在配置虚拟机的文件中被编码。

技术领域

本发明总体上涉及计算机系统，并且更具体而言涉及用于操作联网的设备或节点的分布式系统的技术。

背景技术

为了提供分布式文件系统的大小和带宽的可扩展性，传统的存储系统将文件的存储分散在分布式存储系统中的多个存储节点上。传统上，虽然存储节点中的文件存储已经被散布，但是，文件系统的管理、处理以及文件元数据被集中在控制节点或任务管理节点中。

在传统的分布式文件系统中，用于定位文件系统内的数据的方法已经使用被当作“带外”或者不由通常用于访问文件系统的协议支持的机制。带外机制的一个示例用在ParaScale^TM分布式存储平台中。在ParaScale^TM分布式存储平台中，集中式任务管理器或主设备打开经由网络文件系统(NFS)导出的挂载点上的文件，使用“stat”操作来获得关于文件的关键信息，并且接着使用文件的关键信息、接收到的诸如为服务器的地址之类的数据位置的可扩展标记语言(XML)信息来在控制节点上传送数据位置服务。ParaScale^TM平台的客户端接着能够使用服务器的地址来启动数据任务。

如上所记载的，传统的分布式文件系统使用负责协调所有节点上的任务的集中式任务管理器。典型地，任务管理器引导其他节点执行任务。虽然这样的配置允许以已知顺序来执行任务，但是，如果任务管理器故障，则分布式文件系统的弹性(resiliency)将受损，因为任务管理器必须在能够启动附加的任务之前从故障中恢复。进而，待定任务的日志传统上已经放置在共享永久性存储器上或者在多个节点之间被复制。因此，任务管理器造成作为针对分布式文件系统的单个故障点的问题。

在分布式系统中，系统中的节点的IP地址分配传统上由动态主机配置协议(DHCP)处理。如果在分布式系统中存在虚拟机，则DHCP造成的问题在于DHCP一般性地向网络中的所有系统分配IP地址。结果，DHCP中存在关于对能够被容易地隔离以仅向存在于分布式系统中的虚拟机提供IP地址的DHCP服务器进行配置的问题。

发明内容

本发明的实施方式总体上涉及一种分布式计算机系统，并且更具体而言，涉及用于在分布式存储系统(这里“集群”)中管理任务的发出的技术，包括用于确定应该启动特定任务的分布式存储系统中的位置、创建具有可靠IP地址的虚拟机的任务、以及分布式存储系统中的任务的错误恢复的技术。

鉴于传统分布式系统中的问题，在本发明的某些实施方式中，配置集群以使得任务能够从集群中的任意节点向集群中的任意其他或所有其他节点发出，并且能够以弹性和容错特性来存储和执行任务。例如，集群采用一致(consensus)算法，诸如用于实现容错分布式系统的Paxos算法，由此能够以已知顺序在集群中的每个节点、节点的子集或所有节点上分发和处理任务。在某些实施方式中，如果节点由于故障等而脱机，并且为脱机节点定义了任务，则当节点回到在线(例如，从故障中恢复)时必须运行该任务。通过使用一致算法，待定任务作为一个或多个有序消息而从集群中的任意节点启动并且广播到集群中的所有节点。例如，可以使用诸如为这里通过引用并入的“Paxos Made Simple SIGACT News，第32卷，第4期(2001年12月)，第51-58页，Leslie Lamport”中描述的一致算法、或者其变型的一致算法。结果，之前的实施方式有利地提供了允许容错和节点弹性的分散型分布式系统。