CN105024831A - 在分布式计算平台中分发参数的方法、装置和系统 - Google Patents

Abstract

本发明公开一种在分布式计算平台中分发参数的方法、装置和系统。其中在分布式计算平台中分发参数的方法中，在预定的参数分发时刻，从所存储的全局参数中提取出需要分发的共享参数；将所述共享参数发送给广播节点，以便广播节点将所述共享参数广播给相应的业务节点。由于利用广播节点进行参数广播，因此管理节点仅需要与广播节点进行一次交互，由网络层组播代替初始节点广播，消除消息的复制，使得各业务节点只需要利用一次广播报文便可以获得参数，从而大幅度降低带宽消耗，提升计算平台的效率。

Description

在分布式计算平台中分发参数的方法、装置和系统

技术领域

本发明涉及通信领域，特别涉及一种在分布式计算平台中分发参数的方法、装置和系统。

背景技术

在计算平台中，参数共享是普遍的现象，一般通过消息广播来完成。比如Storm(实时流计算平台)，是通过多个一对一的消息传递实现参数共享的。但随着计算规模的扩大，参数传递的带宽消耗达到数百兆甚至上千兆，通过一对一的发送实现广播引入的延迟已达到不可接受的程度，这是现有的计算平台中消息广播存在的问题。

在分布式计算平台中，一个任务的多个参与节点往往需要共享一些全局参数，并且这些参数需要定期的更新然后再次共享给所有节点。传统的实现方案是计算平台安排一个节点来存储这些参数，当某个节点需要这些全局参数时，就从网络中通过单播方式获取。当计算平台节点数量较多并且参数规模较大时，获取参数所消耗的带宽就与节点数量成正比。

如图1所示，在现有的分布式计算平台中，所有的业务节点Node_1、Node_2、…、Node_N的任务计算依赖于一个参数集W。在一个大型任务中，这个参数集W占用的存储空间可能上G字节。因此，通常的计算模式是将这个参数集W存储在管理节点Node_0中。每个业务节点Node_i依据某个时刻点的参数W_t进行计算，之后再获得下一时刻点的参数W_t+1，然后所有业务节点再依据W_t+1重新计算各自的任务，为此所有业务节点需要从管理节点Node_0下载参数W。传统的计算平台如Storm在共享参数时采用一对一的发送方案，为了实现消息广播到N个节点，初始节点要与交换机交互至少N次才能把消息传递到其他节点，并且每次都要复制参数信息，造成冗余且占用大量带宽，增加了网络延迟。

发明内容

本发明实施例提供一种在分布式计算平台中分发参数的方法、装置和系统。本发明通过将参数的复制及分发任务交给了广播节点进行，管理节点只需要与广播节点交互一次，由网络层组播代替初始节点广播，消除消息的复制，使得各业务节点只需要利用一次广播报文便可以获得参数，从而大幅度降低带宽消耗，提升计算平台的效率。

根据本发明的一个方面，提供一种在分布式计算平台中分发参数的方法，包括：

在预定的参数分发时刻，从所存储的全局参数中提取出需要分发的共享参数；

将所述共享参数发送给广播节点，以便广播节点将所述共享参数广播给相应的业务节点。

在一个实施例中，当接收到业务节点发送的参数更新信息时，利用所述参数更新信息对所存储的全局参数进行更新；其中接收到所述共享参数的业务节点利用所述共享参数进行相应的计算处理，并在计算处理完成后上报与所述共享参数相关联的所述参数更新信息。

根据本发明的另一方面，提供一种在分布式计算平台中分发参数的管理节点，包括提取单元、发送单元和存储单元，其中：

提取单元，用于在预定的参数分发时刻，从所存储的全局参数中提取出需要分发的共享参数；

发送单元，用于将所述共享参数发送给广播节点，以便广播节点将所述共享参数广播给相应的业务节点；

存储单元，用于存储全局参数。

在一个实施例中，上述管理节点还包括接收单元和更新单元，其中：

接收单元，用于接收业务节点发送的参数更新信息；其中接收到所述共享参数的业务节点利用所述共享参数进行相应的计算处理，并在计算处理完成后上报与所述共享参数相关联的所述参数更新信息；

更新单元，用于当接收单元接收到业务节点发送的参数更新信息时，利用所述参数更新信息对存储单元中存储的全局参数进行更新。

根据本发明的另一方面，提供一种在分布式计算平台中分发参数的系统，包括管理节点、广播节点和业务节点，其中：

管理节点，用于在预定的参数分发时刻，从所存储的全局参数中提取出需要分发的共享参数，并将所述共享参数发送给广播节点；

广播节点，用于在接收到管理节点发送的所述共享参数时，将所述共享参数广播给相应的业务节点；

业务节点，用于在接收到广播节点广播的所述共享参数时，利用所述共享参数进行相应的计算处理。

在一个实施例中，管理节点为上述任一实施例涉及的管理节点。

在一个实施例中，业务节点还用于在计算处理完成后，向管理节点上报与所述共享参数相关联的参数更新信息。

在一个实施例中，广播节点具体在广播所述共享参数时，查询当前与广播节点自身建立连接的业务节点，并向当前与广播节点自身建立连接的业务节点广播所述共享参数。

在一个实施例中，广播节点还用于在广播所述共享参数后，将已广播的所述共享参数删除。

在一个实施例中，广播节点为交换机。

本发明通过管理节点在预定的参数分发时刻，从所存储的全局参数中提取出需要分发的共享参数；将所述共享参数发送给广播节点，以便广播节点将所述共享参数广播给相应的业务节点。由于利用广播节点进行参数广播，因此管理节点仅需要与广播节点进行一次交互，由网络层组播代替初始节点广播，消除消息的复制，使得各业务节点只需要利用一次广播报文便可以获得参数，从而大幅度降低带宽消耗，提升计算平台的效率。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为现有技术中分布式计算平台参数分发一个实施例的示意图。

图2为本发明在分布式计算平台中分发参数的方法一个实施例的示意图。

图3为本发明在分布式计算平台中分发参数的方法另一实施例的示意图。

图4为本发明在分布式计算平台中分发参数的管理节点一个实施例的示意图。

图5为本发明在分布式计算平台中分发参数的管理节点另一实施例的示意图。

图6为本发明在分布式计算平台中分发参数的系统一个实施例的示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本发明及其应用或使用的任何限制。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本发明的范围。

同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。

对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为授权说明书的一部分。

在这里示出和讨论的所有示例中，任何具体值应被解释为仅仅是示例性的，而不是作为限制。因此，示例性实施例的其它示例可以具有不同的值。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。

图2为本发明在分布式计算平台中分发参数的方法一个实施例的示意图。如图2所示，本实施例的方法步骤可由管理节点执行。

步骤201，在预定的参数分发时刻，从所存储的全局参数中提取出需要分发的共享参数。

步骤202，将所述共享参数发送给广播节点。

从而，广播节点将所述共享参数广播给相应的业务节点。

基于本发明上述实施例提供的在分布式计算平台中分发参数的方法，通过在预定的参数分发时刻，从所存储的全局参数中提取出需要分发的共享参数；将所述共享参数发送给广播节点，以便广播节点将所述共享参数广播给相应的业务节点。由于利用广播节点进行参数广播，因此管理节点仅需要与广播节点进行一次交互，由网络层组播代替初始节点广播，消除消息的复制，使得各业务节点只需要利用一次广播报文便可以获得参数，从而大幅度降低带宽消耗，提升计算平台的效率。

图3为本发明在分布式计算平台中分发参数的方法另一实施例的示意图。如图3所示，本实施例的方法步骤可由管理节点执行。

步骤301，在预定的参数分发时刻，从所存储的全局参数中提取出需要分发的共享参数。

步骤302，将所述共享参数发送给广播节点，以便广播节点将所述共享参数广播给相应的业务节点。

步骤303，当接收到业务节点发送的参数更新信息时，利用所述参数更新信息对所存储的全局参数进行更新。

其中接收到所述共享参数的业务节点利用所述共享参数进行相应的计算处理，并在计算处理完成后上报与所述共享参数相关联的所述参数更新信息。

也就是说，业务节点在根据自身需要接收广播的共享参数后，利用所述共享参数进行相应的计算处理，并根据计算处理得到与该共享参数相关的更新信息，业务节点将这些更新信息反馈给管理节点，以便管理节点利用这些反馈的信息对该共享参数进行更新。

图4为本发明在分布式计算平台中分发参数的管理节点一个实施例的示意图。如图4所示，管理节点包括提取单元401、发送单元402和存储单元403。其中：

提取单元401，用于在预定的参数分发时刻，从所存储的全局参数中提取出需要分发的共享参数。

发送单元402，用于将所述共享参数发送给广播节点，以便广播节点将所述共享参数广播给相应的业务节点。

存储单元403，用于存储全局参数。

基于本发明上述实施例提供的在分布式计算平台中分发参数的管理节点，通过在预定的参数分发时刻，从所存储的全局参数中提取出需要分发的共享参数；将所述共享参数发送给广播节点，以便广播节点将所述共享参数广播给相应的业务节点。由于利用广播节点进行参数广播，因此管理节点仅需要与广播节点进行一次交互，由网络层组播代替初始节点广播，消除消息的复制，使得各业务节点只需要利用一次广播报文便可以获得参数，从而大幅度降低带宽消耗，提升计算平台的效率。

图5为本发明在分布式计算平台中分发参数的管理节点另一实施例的示意图。其中，管理节点包括提取单元501、发送单元502、存储单元503、接收单元504和更新单元505。其中，提取单元501、发送单元502、存储单元503与图4所示实施例中涉及的提取单元401、发送单元402、存储单元403相同。

接收单元504，用于接收业务节点发送的参数更新信息。

其中接收到所述共享参数的业务节点利用所述共享参数进行相应的计算处理，并在计算处理完成后上报与所述共享参数相关联的所述参数更新信息。

更新单元505，用于当接收单元504接收到业务节点发送的参数更新信息时，利用所述参数更新信息对存储单元503中存储的全局参数进行更新。

由此，可通过各业务节点的计算处理对相关共享参数进行更新，以便进一步的计算使用。

图6为本发明在分布式计算平台中分发参数的系统一个实施例的示意图。如图6所示，上述系统包括管理节点601、广播节点602和业务节点603。

本领域技术人员可以了解的是，业务节点603的数量可根据计算平台的实际需要进行配置。

管理节点601，用于在预定的参数分发时刻，从所存储的全局参数中提取出需要分发的共享参数，并将所述共享参数发送给广播节点602。

优选的，管理节点601可以为附图4或附图5中任一实施例涉及的管理节点。

广播节点602，用于在接收到管理节点601发送的所述共享参数时，将所述共享参数广播给相应的业务节点603。

优选的，广播节点602为交换机，也可以是其它具有转发功能的网络设备。

业务节点603，用于在接收到广播节点广播的所述共享参数时，利用所述共享参数进行相应的计算处理。

基于本发明上述实施例提供的在分布式计算平台中分发参数的系统，通过在预定的参数分发时刻，从所存储的全局参数中提取出需要分发的共享参数；将所述共享参数发送给广播节点，以便广播节点将所述共享参数广播给相应的业务节点。由于利用广播节点进行参数广播，因此管理节点仅需要与广播节点进行一次交互，由网络层组播代替初始节点广播，消除消息的复制，使得各业务节点只需要利用一次广播报文便可以获得参数，从而大幅度降低带宽消耗，提升计算平台的效率。

优选的，业务节点603还用于在计算处理完成后，向管理节点601上报与所述共享参数相关联的参数更新信息。

从而管理节点601可根据接收到的参数更新信息，对该共享参数进行更新，以便于后续使用。

优选的，广播节点602具体在广播所述共享参数时，查询当前与广播节点自身建立连接的业务节点，并向当前与广播节点自身建立连接的业务节点603广播所述共享参数。

考虑到在计算过程中，业务节点可能会发生变化，因此广播节点602在进行广播前，通过查询确定需要广播的业务节点。

优选的，广播节点602还用于在广播所述共享参数后，将已广播的所述共享参数删除。

由于广播节点602在这里的作用仅在于进行参数广播，因此为了节省系统资源，广播节点602在广播后，即清除缓存的参数。

通过实施本发明，可得到以下有益效果：

1、不同于传统计算平台如Storm共享参数的方法，本发明摒弃可能造成严重广播延迟的一对一发送方案，引入交换机实现网络层组播的方法，消除消息的复制，使得业务节点只需要利用一次广播报文便可以获得参数，从而大幅度降低带宽消耗，提升计算平台的效率。

2、本发明提出利用网络层组播实现计算平台的参数广播，具备大幅度节约网络带宽和大规模降低消息延迟的优点。与现有技术相比，具有明显的优势。

3、本发明仅需要计算平台在实现参数广播时，选择网络组播协议来实现参数传递，因此可以应用到诸如Storm的大规模分布式计算平台。因此本发明具有良好的实用性。

本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成，也可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，上述提到的存储介质可以是只读存储器，磁盘或光盘等。

本发明的描述是为了示例和描述起见而给出的，而并不是无遗漏的或者将本发明限于所公开的形式。很多修改和变化对于本领域的普通技术人员而言是显然的。选择和描述实施例是为了更好说明本发明的原理和实际应用，并且使本领域的普通技术人员能够理解本发明从而设计适于特定用途的带有各种修改的各种实施例。

Claims (10)

1.一种在分布式计算平台中分发参数的方法，其特征在于，包括：

在预定的参数分发时刻，从所存储的全局参数中提取出需要分发的共享参数；

将所述共享参数发送给广播节点，以便广播节点将所述共享参数广播给相应的业务节点。

2.根据权利要求1所述的方法，其特征在于，

当接收到业务节点发送的参数更新信息时，利用所述参数更新信息对所存储的全局参数进行更新；其中接收到所述共享参数的业务节点利用所述共享参数进行相应的计算处理，并在计算处理完成后上报与所述共享参数相关联的所述参数更新信息。

3.一种在分布式计算平台中分发参数的管理节点，其特征在于，包括提取单元、发送单元和存储单元，其中：

提取单元，用于在预定的参数分发时刻，从所存储的全局参数中提取出需要分发的共享参数；

发送单元，用于将所述共享参数发送给广播节点，以便广播节点将所述共享参数广播给相应的业务节点；

存储单元，用于存储全局参数。

4.根据权利要求3所述的管理节点，其特征在于，还包括接收单元和更新单元，其中：

接收单元，用于接收业务节点发送的参数更新信息；其中接收到所述共享参数的业务节点利用所述共享参数进行相应的计算处理，并在计算处理完成后上报与所述共享参数相关联的所述参数更新信息；

更新单元，用于当接收单元接收到业务节点发送的参数更新信息时，利用所述参数更新信息对存储单元中存储的全局参数进行更新。

5.一种在分布式计算平台中分发参数的系统，其特征在于，包括管理节点、广播节点和业务节点，其中：

管理节点，用于在预定的参数分发时刻，从所存储的全局参数中提取出需要分发的共享参数，并将所述共享参数发送给广播节点；

广播节点，用于在接收到管理节点发送的所述共享参数时，将所述共享参数广播给相应的业务节点；

业务节点，用于在接收到广播节点广播的所述共享参数时，利用所述共享参数进行相应的计算处理。

6.根据权利要求5所述的系统，其特征在于，

管理节点为权利要求3-4中任一项涉及的管理节点。

7.根据权利要求5所述的系统，其特征在于，

业务节点还用于在计算处理完成后，向管理节点上报与所述共享参数相关联的参数更新信息。

8.根据权利要求5所述的系统，其特征在于，

广播节点具体在广播所述共享参数时，查询当前与广播节点自身建立连接的业务节点，并向当前与广播节点自身建立连接的业务节点广播所述共享参数。

9.根据权利要求8所述的系统，其特征在于，

广播节点还用于在广播所述共享参数后，将已广播的所述共享参数删除。

10.根据权利要求9所述的系统，其特征在于，

广播节点为交换机。