CN115794418B

CN115794418B - 一种计算资源的分配方法

Info

Publication number: CN115794418B
Application number: CN202310053716.7A
Authority: CN
Inventors: 王克飞; 徐超
Original assignee: Puhuizhizao Technology Co ltd
Current assignee: Puhuizhizao Technology Co ltd
Priority date: 2023-02-03
Filing date: 2023-02-03
Publication date: 2023-04-28
Anticipated expiration: 2043-02-03
Also published as: CN115794418A

Abstract

本发明公开了一种计算资源的分配方法，计算资源分配技术领域，包括以下步骤：步骤S1，网关设定配额；步骤S2，网关更新信用值；步骤S3，网关将信用值归一化；步骤S4，网关收集所用用户的工作，并建立工作等待名单；步骤S5，网关判断工作等待名单是否是空名单：如果是空名单，则转到步骤S1，否则，转到步骤S6；步骤S6，网关在工作等待名单中，选择第一个工作，作为待分配的工作；步骤S7，网关收集每个用户的计算单元优先权，并对每个用户建立自身独立的计算单元名单。本方案，对计算资源进行公平且有效率的资源分配，适用于分散式平行计算的工业运用，避免震荡问题，解决条件限制问题，使整体系统效率提升。

Description

一种计算资源的分配方法

技术领域

本发明涉及计算资源分配技术领域，具体为一种计算资源的分配方法。

背景技术

如图1所示，传统计算资源分配系统的架构，包括：

用户：负责发送工作给网关；网关将工作分配至计算单元；当计算单元完成运算后，将结果回传给用户；

网关：协调用户和计算单元之间的沟通，并将用户的工作分配到对应的计算单元上，也负责把计算单元的状态信息回报给用户，让用户知道目前的系统资源使用状态；

计算单元：提供计算能力，执行网关分派的工作，并将结果回报给网关；另外，计算单元定期地回报自己的状态给网关，且计算单元的信息通过网关回传给用户。

目前，计算资源的分配系统，网关在工作调度与资源分配上，存在以下不足：

第一，震荡问题：资源分配，会在不同的用户之间上下反复变动。例如：

1，用户A登入系统时，会先拿到系统所有的资源。

2，用户B再登入时，由于用户A占据所有资源，系统会纪录用户A欠了用户B大量的计算量。

3，当用户A开始释放计算资源时，由于用户A先前欠了用户B大量的计算量，系统会将资源持续分配给用户B。

4，直到用户B分配到了大部分的资源，用户A才还清先前的计算量。此时反而用户B占据了大量资源，用户B欠用户A的计算量逐渐增加。

5，当用户B释放计算资源时，直到用户A分配到大部分资源，用户B才还清计算量，两个用户的资源使用量会持续彼此消长。

当用户彼此之间所使用的计算资源频繁变动，使用的资源数量短时间内变化过大，会造成程序执行效率的迟滞。

第二，条件限制问题：当用户只能使用某些特定机器时，就会形成条件限制。例如某个用户只能使用系统版本（例如Linux）机器，或者程序需要特殊的硬件架构。如果用户未能及时与其所对应的计算单元对接，或者采用复杂的计算公式和判断方法，则会造成程序执行效率的迟滞。

发明内容

针对现有技术的不足，本发明提供了一种计算资源的分配方法，对计算资源进行公平且有效率的资源分配。

一种计算资源的分配方法，其采用的系统包括：用户：负责发送工作给网关；网关：将工作分配至计算单元并负责把计算单元的状态信息回报给用户；计算单元：提供计算能力，执行网关分派的工作，并将结果回报给网关；其包括以下步骤：

步骤S1，网关设定配额：对于每个系统内的计算单元w，计算其在时间t时提供的计算效率R_w(t)，统计出系统中所有计算单元的计算效率总和∑_wR_w(t)；然后对于每个用户平分系统中的计算效率总和，得到配额Q_u(t)；

步骤S2，网关更新信用值：设定每个用户的初始信用值D_u(t)为0，然后，统计从时间点t到时间点t’的时间区段△t内的用户消耗的计算量R_u(△t)和配额区段量Q_u(△t)，并根据用户消耗的计算量R_u(△t)和配额区段量Q_u(△t)来更新信用值D_u(t)；

步骤S3，网关将信用值归一化：在每个用户更新完信用值后，计算各个用户的归一信用值；此时，使用归一信用值取代信用值，归一信用值总和为0；

步骤S4，网关收集所用用户的工作，并建立工作等待名单；在工作等待名单中，按照工作优先等级，对工作进行从高到低的排序；当工作优先等级相同时，归一信用值高的用户所传递的工作排在前列；对于同一用户的工作优先等级相等的工作，传递时间早的工作排在前列；

步骤S5，网关判断工作等待名单是否是空名单：如果是空名单，则转到步骤S1，否则，转到步骤S6；

步骤S6，网关在工作等待名单中，选择第一个工作，作为待分配的工作；

步骤S7，网关收集每个用户的计算单元优先权，并对每个用户建立自身独立的计算单元名单；计算单元名单中，根据用户所对应的计算单元的优先权进行从高到低的排列。

进一步，步骤S1中，计算单元的计算效率R_w(t)，表示计算单元w在时间t时提供的计算效率；每个计算单元定期执行计算能力检验程序，得到该计算单元目前每秒可以执行的整数运算量，即为R_w(t)；计算单元的计算量R_w(△t)，表示计算单元w在时间区段△t内提供的计算量；即，R_w(△t)=R_w(t)×△t；

配额Q_u(t)，表示在时间点t时，系统分配给用户的计算量配额，即：Q_u(t)=∑_wR_w(t)÷u(t)；其中，u(t)为系统中所有用户的数量，∑_wR_w(t)为系统中所有计算单元的计算效率总和。

进一步，步骤S2中，用户消耗的计算量R_u(△t)，表示在时间区段△t内，用户消耗的计算量，即：R_u(△t)=∑_{w∈w(u，△t)}R_w(△t)；其中，w(u，△t)为一个计算单元的集合，此集合内的计算单元在时间区段△t内分配给用户u；

配额区段量Q_u(△t)，表示在时间区段△t内，系统分配给用户的计算量总额，即Q_u(△t)=Q_u(t)×△t；

信用值D_u(t’)，表示在时间点t’时，用户所积累的欠还的计算量；当从时间点t到时间点t’时，信用值D_u(t’)=D_u(t)+Q_u(△t)-R_u(△t)，其中△t为时间点t到时间点t’的时间区段；如果有用户超用资源，则其信用值为负；如果有用户分配到的资源量不足，则其信用值为正。

进一步，步骤S3中，归一信用值=信用值–偏差值；偏差值=用户总信用值÷用户总人数。

进一步，步骤S4中，工作优先等级，为用户对工作设定的优先等级；最高的工作优先等级，其工作具有占用机器的特性：当计算单元上有最高的工作优先等级的工作，则其他用户无法使用此计算单元；最低的优先等级的工作，任何用户都能发送。

进一步，步骤S7中，计算单元的优先权，根据以下条件决定：

条件1，该用户曾经成功将工作送至该计算单元的次数；次数越多，计算单元的优先权越高；先比较此项，若相同再比较条件2；

条件2，该用户最近一次曾经成功送至该计算单元的间隔时间；间隔时间越接近，计算单元优先权越高。

一种计算资源的分配方法，还包括：步骤S8，网关，对于挑选出来的待分配的工作，判断计算单元名单是否是空名单：如果是空名单，表示对于该用户，计算单元名单内的计算单元均无法使用，则转到步骤S5；否则，转到步骤S9；

步骤S9，网关在计算单元名单中，选择第一个计算单元，作为待分配的计算单元；

步骤S10，网关判断：如果待分配的工作的用户消耗的计算效率R_u(t)加上该计算单元的计算效率R_w(t)小于等于配额Q_u(t)，则待分配的工作分派至待分配的计算单元；否则，转到步骤S11；

步骤S11，网关检查归一信用值是否为正：若为正，则代表该用户曾经少用资源，将待分配的工作分派至待分配的计算单元；若为负，则代表该用户曾经超用资源，则转到步骤S8，在计算单元名单内继续检查下一个计算单元是否能使用。

本发明提供了一种计算资源的分配方法，对计算资源进行公平且有效率的资源分配，适用于分散式平行计算的工业运用。每一次的工作分配流程中，若有空闲的计算单元，则工作等待名单的工作一定至少有一个工作会被分派出去。因为在用户之间的信用值应为平衡(总和为0)，各个用户的信用值有正有负，只要挑选工作时轮到用户信用值为正的工作，就一定能被分派出去。本方案中，长期的公平性则由信用值来维持。在效能上，由于工作优先权先参考工作优先等级，再参考信用值，如此能够避免震荡问题，提升整体程序的执行效率。同时，本方案，考察计算单元优先权，各用户都能根据计算单元优先权进行合适的资源分配，解决条件限制问题，使整体系统效率提升。

附图说明

图1为传统计算资源分配系统的架构；

图2为系统的流程图；

图3为计算单元优先权示意图；

图4为工作单元优先权案例图；

图5为简易方案一的动态计算资源分配图；

图6为本方案的实施例一动态计算资源分配图；

图7为本案例二的用户和计算单元的配置图；

图8为简易方案二的动态计算资源分配图；

图9为简易方案三的动态计算资源分配图；

图10为本方案的实施例二动态计算资源分配图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本方案，网关采用主动派发工作模式和即时联系工作模式：当某个工作结束后，结果会立即回传给用户。用户再根据回传的工作结果来决定产生新的工作，或是中断在其他分支上现有的工作以达到工作的高度动态，提升工作效率。

一种计算资源的分配方法，如图2所示，包括以下步骤：

步骤S1，网关设定配额：对于每个系统内的计算单元w，计算其在时间t时提供的计算效率R_w(t)，统计出系统中所有计算单元的计算效率总和∑_wR_w(t)；然后对于每个用户平分系统中的计算效率总和，得到配额Q_u(t)。

计算单元的计算效率R_w(t)，表示计算单元w在时间t时提供的计算效率；每个计算单元定期执行计算能力检验程序，得到该计算单元目前每秒可以执行的整数运算量，即为R_w(t)。计算单元的计算量R_w(△t)，表示计算单元w在时间区段△t内提供的计算量；即，R_w(△t)=R_w(t)×△t。

举例，计算单元w的R_w(t)=3.0，则此计算单元在2秒内可提供的计算量如下：R_w(△t)=R_w(t)×△t=3.0×2=6.0。

举例，系统中有2个计算单元，其中一个计算单元的计算效率为3.0，另一个计算单元的计算效率为1.7；另外，系统中有2个用户，则每个用户得到的配额为：Q_u(t)=(3.0+1.7)÷2=2.35。

步骤S2，网关更新信用值：设定每个用户的初始信用值D_u(t)为0，然后，统计从时间点t到时间点t’的时间区段△t内的用户消耗的计算量R_u(△t)和配额区段量Q_u(△t)，并根据用户消耗的计算量R_u(△t)和配额区段量Q_u(△t)来更新信用值D_u(t)。

用户消耗的计算量R_u(△t)，表示在时间区段△t内，用户消耗的计算量，即：R_u(△t)=∑_{w∈w(u，△t)}R_w(△t)；其中，w(u，△t)为一个计算单元的集合，此集合内的计算单元在时间区段△t内分配给用户u。

举例，在时间区段2秒，用户u的工作被分配到2个计算单元，其中一个计算单元的计算效率为 3.0，另一个计算单元的计算效率为1.7，则用户u在 2 秒内消耗的计算量如下：R_u(t)=（3.0+1.7）×2=9.4。

信用值D_u(t’)，表示在时间点t’时，用户所积累的欠还的计算量；当从时间点t到时间点t’时，信用值D_u(t’)=D_u(t)+Q_u(△t)-R_u(△t)，其中△t为时间点t到时间点t’的时间区段。如果有用户超用资源，则其信用值为负；如果有用户分配到的资源量不足，则其信用值为正。所有用户的信用值加总应为0，代表信用值平衡。

步骤S3，网关将信用值归一化。

为了让本方案的工作调度能够发挥功用，用户的信用值必须计算准确，全部用户信用值的总和必须平衡，即所有用户的信用值加总应为0。但在实际系统运作中，用户的信用值总和常常失衡(不等于0)。

用户信用值总和失衡的最大原因是用户的登出。当网关在工作调度前，每个用户都会根据用户消耗的计算量R_u(△t)和配额区段量Q_u(△t)更新信用值。当有用户登出时，会将其拥有的信用值带走，造成系统内其他用户的信用值总和失衡。为了解决这个问题，将信用值归一化。

信用值归一化，并不改变各个用户原有的信用值，而是在每个用户更新完信用值后，计算各个用户的归一信用值：归一信用值=信用值–偏差值；偏差值=用户总信用值÷用户总人数；此时，使用归一信用值取代信用值，归一信用值总和为0。

举例，系统内有A，B，C共3个用户，信用值分别为700，-100，-300，此时信用值总和为700-100-300=300，偏差值为300/3=100，状态已失衡。3个用户的归一信用值为该信用值减去偏差值，结果分别为600，-200，-400，归一信用值总和为600-200-400=0，此时状态平衡。

本方案使用信用值来做决策时，均使用归一信用值来取代信用值。归一信用值表示用户之间的信用值相对状态，即使信用值失衡也不会影响到工作调度或资源分配。

步骤S4，网关收集所用用户的工作，并建立工作等待名单；在工作等待名单中，按照工作优先等级，对工作进行从高到低的排序；当工作优先等级相同时，归一信用值高的用户所传递的工作排在前列；对于同一用户的工作优先等级相等的工作，传递时间早的工作排在前列。

工作优先等级，为用户对工作设定的优先等级，在本方案中，系统，从高到低，将工作划分为等级A、等级B、等级C三种不同等级的优先程度。

等级A，其工作具有占用机器的特性；当计算单元上有等级A的工作，其它用户会无法使用此计算单元。

等级B，为一般情况下用户所发送的优先等级。

等级C，为最低的优先等级，任何用户都可发送。

在工作等待名单中，工作所对应的工作优先等级越高和归一信用值越高，则该工作越位于前列，其分配优先权越高。

步骤S5，网关判断工作等待名单是否是空名单：如果是空名单，则转到步骤S1，否则，转到步骤S6。

图3为计算单元优先权示意图；计算单元的优先权，根据以下条件决定：

计算单元的优先权越高的计算单元，在历史纪录中越常被该用户使用，则表示该用户的工作越适合在该计算单元上执行。在挑选出待分配的工作之后，计算单元名单会依照该用户所对应的计算单元的优先权来排序。

步骤S8，网关，对于挑选出来的待分配的工作，判断计算单元名单是否是空名单：如果是空名单，表示对于该用户，计算单元名单内的计算单元均无法使用，则转到步骤S5，在工作等待名单中挑选次高工作优先权的工作，继续从计算单元名单内检查有无可使用的计算单元；否则，转到步骤S9。

步骤S10，网关判断：如果待分配的工作的用户消耗的计算效率R_u(t)加上该计算单元的计算效率R_w(t)小于等于配额Q_u(t)，则待分配的工作分派至待分配的计算单元；否则，转到步骤S11。

步骤S11，网关检查归一信用值是否为正：若为正，则代表该用户曾经少用资源，作为补偿，将待分配的工作分派至待分配的计算单元；若为负，则代表该用户曾经超用资源，则转到步骤S8，在计算单元名单内继续检查下一个计算单元是否能使用。

本方案，计算单元名单的设置，能够辅助维持条件限制下的资源分配平衡状态，也可以防止网关一直将工作分派至不合适的计算单元。图4为工作单元优先权案例图，图4展示3个用户A、B、C与计算单元的条件限制，没有连线则表示该用户无法使用该计算单元。

1，当用户A进入系统时，因为只有用户A，所有计算单元都会分配给用户A，则用户A的计算单元优先权序列为：W1，W2，W3，W4，W5，W6。

2，当用户B进入系统时，用户B只能使用计算单元1~3，用户A会分配到计算单元4~6，用户B则分配到计算单元1~3，则用户A的计算单元优先权：W4，W5，W6，W1，W2，W3；用户B的计算单元优先权：W1，W2，W3。

3.当用户C进入系统时，用户C只能使用计算单元3~4，用户A会分配到计算单元 5~6，用户B分配到计算单元1~2，用户C分配到计算单元3~4，则用户A的计算单元优先权：W5，W6，W4，W1，W2，W3；用户B的计算单元优先权：W1，W2，W3；用户C的计算单元优先权：W3，W4。

4.此时用户C离开系统，同时释放出计算单元3~4。此时用户A若有计算单元优先权，则用户A会优先选择计算单元4，用户B就能使用计算单元3，达成消耗计算效率的平衡。

如果用户A没有计算单元优先权，用户A可能会将工作分派到计算单元3上，而用户B无法使用计算单元4，将会造成消耗计算效率的失衡，如此一来需要额外的时间才能重新达到平衡状态。

上述案例，可知：计算单元优先权能够辅助维持条件限制下的资源分配平衡状态，让用户在系统中登入登出时，能够更快的达到资源分配的平衡，提升整个系统的公平性与效率。

另外，计算单元优先权也可以防止网关一直将工作分派至不合适的计算单元。当某个工作一直在某个计算单元上执行失败，则其对应的计算单元优先权对于该工作的用户会越来越低。当失败次数超过1次，网关就会将该计算单元和该用户之间的连线切断，表示该用户无法使用该计算单元。如此一来，该计算单元就不会执行到不适合的程序，能够提供计算能力给其他用户，避免不必要的资源浪费。

本方案，设置有容错机制：

1，当用户断线时，网关中断该用户已经在计算单元上执行的工作；

2，当计算单元断线时，网关将此计算单元上的工作重新分派给其他工作者；系统预设每个工作的重新分派次数为3次；

3，当工作执行失败时，例如：程序有问题、作业系统版本不符等，网关重新分派工作，转到步骤S8，选择前列的计算单元（与原工作单元不同）；系统预设每个工作的重新分派次数为3次。

对于震荡问题，通过案例一进行说明。

在本案例中，模拟3个计算单元，每个计算单元有6核心，总共为18核心。工作的执行睡眠时间为随机20~30秒。用户进入系统的流程为，用户A登入，用户B再登入。

图5为简易方案一的动态计算资源分配图，简易方案一未考察配额。图5中，2个用户之间的资源使用效率频繁变化，主要原因为从工作等待名单选择工作时，会先考虑信用值，即使用户所使用的计算效率已超过配额，只要信用值足够的情况下还是能继续使用资源，直到信用值降低为止，因此造成震荡问题。

图6为本方案的实施例一动态计算资源分配图，图6中，2个用户之间可以较平稳的平分资源。这是因为从工作等待名单选择工作时，先参考用户的资源使用量，使用最少资源的用户能最优先被考虑，让震荡问题减轻许多。

对于条件限制问题，通过案例二进行说明。

在本案例中，模拟6个计算单元，每个计算单元有8核心，总共为48核心。工作的执行睡眠时间为随机120~180秒。用户进入系统的流程为，用户A登入，用户B登入，用户C再登入，用户C最后登出。

用户和计算单元的配置如图7，用户和计算单元之间没有连线就代表该用户无法使用该计算单元。

图8为简易方案二的动态计算资源分配图，简易方案二未考察配额和计算单元优先权。图8所展示的用户的资源使用变化量，较为不稳定。

图9为简易方案三的动态计算资源分配图，简易方案三未考察计算单元优先权，当用户C登出时，用户A会占用到部分的计算单元W3，让用户A和用户B之间会有一段时间无法达到分配资源的平衡。

图10为本方案的实施例二动态计算资源分配图。图10相对于图9多出了：用户C登出，一次释放出多个计算单元，让用户的选择不只一个。当用户C登出时，用户A和用户B都能根据计算单元优先权进行合适的资源分配，用户A会分配到计算单元W4，用户B能分配到计算单元W3，如此一来能够快速达到资源分配的平衡，使整体系统效率提升。

此外，应当理解，虽然本说明书按照实施方式加以描述，但并非每个实施方式仅包含一个独立的技术方案，说明书的这种叙述方式仅仅是为清楚起见，本领域技术人员应当将说明书作为一个整体，各实施例中的技术方案也可以经适当组合，形成本领域技术人员可以理解的其他实施方式。

Claims

1.一种计算资源的分配方法，其采用的系统包括：用户：负责发送工作给网关；网关：将工作分配至计算单元并负责把计算单元的状态信息回报给用户；计算单元：提供计算能力，执行网关分派的工作，并将结果回报给网关；其特征在于，其包括以下步骤：

步骤S1中，计算单元的计算效率R_w(t)，表示计算单元w在时间t时提供的计算效率；每个计算单元定期执行计算能力检验程序，得到该计算单元目前每秒可以执行的整数运算量，即为R_w(t)；计算单元的计算量R_w(△t)，表示计算单元w在时间区段△t内提供的计算量；即，R_w(△t)=R_w(t)×△t；

配额Q_u(t)，表示在时间点t时，系统分配给用户的计算量配额，即：Q_u(t)=∑_wR_w(t)÷u(t)；其中，u(t)为系统中所有用户的数量，∑_wR_w(t)为系统中所有计算单元的计算效率总和；

步骤S4，网关收集所有用户的工作，并建立工作等待名单；在工作等待名单中，按照工作优先等级，对工作进行从高到低的排序；当工作优先等级相同时，归一信用值高的用户所传递的工作排在前列；对于同一用户的工作优先等级相等的工作，传递时间早的工作排在前列；

步骤S7，网关收集每个用户的计算单元优先权，并对每个用户建立自身独立的计算单元名单；计算单元名单中，根据用户所对应的计算单元的优先权进行从高到低的排列；

步骤S7中，计算单元的优先权，根据以下条件决定：

条件2，该用户最近一次曾经成功送至该计算单元的间隔时间；间隔时间越接近，计算单元优先权越高；

步骤S8，网关，对于挑选出来的待分配的工作，判断计算单元名单是否是空名单：如果是空名单，表示对于该用户，计算单元名单内的计算单元均无法使用，则转到步骤S5；否则，转到步骤S9；

步骤S11，网关检查归一信用值是否为正：若为正，则代表该用户曾经少用资源，将待分配的工作分派至待分配的计算单元；若为负，则代表该用户曾经超用资源，转到步骤S8，在计算单元名单内继续检查下一个计算单元是否能使用。

2.根据权利要求1所述的一种计算资源的分配方法，其特征在于，

步骤S2中，用户消耗的计算量R_u(△t)，表示在时间区段△t内，用户消耗的计算量，即：R_u(△t)=∑_{w∈w(u，△t)}R_w(△t)；其中，w(u，△t)为一个计算单元的集合，此集合内的计算单元在时间区段△t内分配给用户u；

3.根据权利要求1所述的一种计算资源的分配方法，其特征在于，步骤S3中，归一信用值=信用值–偏差值；偏差值=用户总信用值÷用户总人数。

4.根据权利要求1所述的一种计算资源的分配方法，其特征在于，步骤S4中，工作优先等级，为用户对工作设定的优先等级；最高的工作优先等级，其工作具有占用机器的特性：当计算单元上有最高的工作优先等级的工作，则其他用户无法使用此计算单元；最低的优先等级的工作，任何用户都能发送。