CN118093186A - 应用于大规模数学计算的自适应负载均衡方法及装置 - Google Patents

Abstract

本发明涉及负载均衡技术领域，提出了一种应用于大规模数学计算的自适应负载均衡方法和装置，该方法包括：生成预先获取的客户端请求的请求类型；根据所述请求类型获取所述客户端请求的资源预测参数；根据所述请求类型和所述资源预测参数筛选出所述客户端请求的计算单元；利用所述计算单元对所述客户端请求进行请求响应，根据所述请求响应对预设的独立数据单元进行参数更新。本发明可以提高应用于大规模数学计算的负载均衡的效率。

Description

应用于大规模数学计算的自适应负载均衡方法及装置

技术领域

本发明涉及负载均衡技术领域，尤其涉及一种应用于大规模数学计算的自适应负载均衡方法及装置。

背景技术

传统的负载均衡方法，如轮询、随机、比率等，适用于单次任务对系统性能消耗稳定、持续时间不长的场景，应用于大规模数学计算的时候，会使得任务执行的机器负载不均衡，有的机器可能会被同时分配多个计算量大的任务，造成互相之间抢夺资源，计算时间变慢；同样也有的机器可能会分配任务不足，造成资源浪费，使用传统的负载均衡方法将导致负载不均衡，影响业务体验。

发明内容

本发明提供一种应用于大规模数学计算的自适应负载均衡方法及装置，其主要目的在于解决应用于大规模数学计算的自适应负载均衡时效率较低的问题。

为实现上述目的，本发明提供的一种应用于大规模数学计算的自适应负载均衡方法，包括：

生成预先获取的客户端请求的请求类型；

根据所述请求类型获取所述客户端请求的资源预测参数；

根据所述请求类型和所述资源预测参数筛选出所述客户端请求的计算单元；

利用所述计算单元对所述客户端请求进行请求响应，根据所述请求响应对预设的独立数据单元进行参数更新。

可选地，所述生成预先获取的客户端请求的请求类型，包括：

对预先获取的客户端请求进行请求转化，得到所述客户端请求的转化数据；

对所述转化数据进行目标选取，得到所述转化数据的目标数据；

根据所述目标数据确定所述客户端请求的请求类型。

可选地，所述根据所述请求类型获取所述客户端请求的资源预测参数，包括：

根据所述请求类型对预先生成的负载资源数据集进行数据筛选，得到所述客户端请求的筛选数据；

根据所述筛选数据计算所述客户端请求的预测组合值，确定所述预测组合值为所述客户端请求的资源预测参数。

可选地，在所述根据所述请求类型对预先生成的负载资源数据集进行数据筛选，得到所述客户端请求的筛选数据之前，还包括：

采集所述客户端请求的请求数据；

根据所述请求数据生成所述客户端请求的历史资源数据；

建立所述历史资源数据与所述客户端请求数据的数据关联，根据所述数据关联和所述历史资源数据生成所述客户端请求的负载资源数据集。

可选地，所述根据所述筛选数据计算所述客户端请求的预测组合值，包括：

利用预设的预测组合值生成算法和所述筛选数据计算所述客户端请求的预测组合值，其中，所述预设的预测组合值生成算法为：

其中，x₁₁是所述预测组合值中的预测CPU使用率，x₂₁是所述预测组合值中的预测内存，x₃₁是所述预测组合值中的预测显存，n是所述筛选数据中的CPU使用率数据的数据总数，i是所述CPU使用率数据的数据标识，x_1i是第i个所述CPU使用率数据，x₂是所述筛选数据中的内存数据，max(x₂)是所述内存数据中的最大内存数据，x₃是所述筛选数据中的显存数据，max(x₃)是所述显存数据中的最大显存数据，p是所述内存数据的内存配置数，q是所述显存数据的显存配置数。

可选地，所述根据所述请求类型和所述资源预测参数筛选出所述客户端请求的计算单元，包括：

根据所述请求类型查询所述客户端请求所对应的存储在独立数据单元中的计算单元实时负载资源数据；

根据所述资源预测参数和所述实时负载资源筛选出所述客户端请求的计算单元。

可选地，所述根据所述资源预测参数和所述实时负载资源筛选出所述客户端请求的计算单元，包括：

确定所述实时负载资源的实时组合数，其中，所述实时组合数为(y₁,y₂,y₃)；

将所述资源预测参数和实时组合数进行数值比较，根据所述数值比较的比较结果筛选出所述客户端请求的可用单元；

根据所述可用单元确定出所述客户端请求的计算单元。

可选地，所述利用所述计算单元对所述客户端请求进行请求响应，包括：

利用所述计算单元对所述客户端请求进行请求解析，得到所述客户端请求的解析数据；

根据所述解析数据确定所述客户端请求的请求调用资源；

根据所述请求调用资源生成所述客户端请求的响应数据。

可选地，所述根据所述请求响应对预设的独立数据单元进行参数更新，包括：

根据所述请求响应生成所述客户端请求的资源消耗数据；

根据所述资源消耗数据对预设的独立数据单元进行参数更新。

为了解决上述问题，本发明还提供一种应用于大规模数学计算的自适应负载均衡装置，其特征在于，所述装置包括：

请求类型生成模块，用于生成预先获取的客户端请求的请求类型；

资源预测参数获取模块，用于根据所述请求类型获取所述客户端请求的资源预测参数；

计算单元生成模块，用于根据所述请求类型和所述资源预测参数筛选出所述客户端请求的计算单元；

资源参数更新模块，用于利用所述计算单元对所述客户端请求进行请求响应，根据所述请求响应对预设的独立数据单元进行参数更新。

本发明通过获取客户端请求的资源预测参数，可以更好地理解该请求对资源的需求程度，这有助于根据不同的请求类型和需求进行资源分配，根据请求类型和资源预测参数，可以筛选出适合处理该客户端请求的计算单元。这样可以根据实际需求动态选择计算资源，提高负载均衡效果，通过利用请求响应对预设的独立数据单元进行参数更新，可以不断优化负载均衡算法，这样可以根据实际情况进行调整，提高系统对不同类型请求的处理能力，因此本发明提出基于应用于大规模数学计算的自适应负载均衡方法及装置，可以解决应用于大规模数学计算的负载均衡效率较低的问题。

附图说明

图1为本发明一实施例提供的应用于大规模数学计算的自适应负载均衡方法的流程示意图；

图2为本发明一实施例提供的应用于大规模数学计算的自适应负载均衡装置的功能模块图；

本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。

具体实施方式

应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

本申请实施例提供一种应用于大规模数学计算的自适应负载均衡方法。所述应用于大规模数学计算的自适应负载均衡方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。换言之，所述应用于大规模数学计算的自适应负载均衡方法可以由安装在终端设备或服务端设备的软件或硬件来执行。所述服务端包括但不限于：单台服务器、服务器集群、云端服务器或云端服务器集群等。所述服务器可以是独立的服务器，也可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(ContentDelivery Network，CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。

参照图1所示，为本发明一实施例提供的应用于大规模数学计算的自适应负载均衡方法的流程示意图。在本实施例中，所述应用于大规模数学计算的自适应负载均衡方法包括：

S1、生成预先获取的客户端请求的请求类型。

在本发明实施例中，所述生成预先获取的客户端请求的请求类型，包括：

对预先获取的客户端请求进行请求转化，得到所述客户端请求的转化数据；

对所述转化数据进行目标选取，得到所述转化数据的目标数据；

根据所述目标数据确定所述客户端请求的请求类型。

详细地，所述对预先获取的客户端请求进行请求转化是指使用适当的解析工具，将客户端请求的数据进行转换，使其符合计算机处理的要求。

详细地，所述预先获取的客户端请求可以是大规模数学计算任务。

详细地，所述对所述转化数据进行目标选取是指通过对转化数据进行分析和挖掘，提取出与目标相关的特征和信息，以支持目标选取和请求类型确定。

进一步地，所述请求类型可以是各种操作、服务、功能等的分类标识，通过根据目标数据确定请求类型，可以准确地指导后续的处理流程和资源调配。

S2、根据所述请求类型获取所述客户端请求的资源预测参数。

在本发明实施例中，所述根据所述请求类型获取所述客户端请求的资源预测参数，包括：

根据所述请求类型对预先生成的负载资源数据集进行数据筛选，得到所述客户端请求的筛选数据；

根据所述筛选数据计算所述客户端请求的预测组合值，确定所述预测组合值为所述客户端请求的资源预测参数。

详细地，所述根据所述请求类型对预先生成的负载资源数据集进行数据筛选，得到所述客户端请求的筛选数据是指使用请求类型对预先生成的负载资源数据集进行筛选，得到符合请求类型的筛选数据，其中，筛选过程可能会考虑请求类型所需的特定资源属性或规则。

详细地，所述根据所述筛选数据计算所述客户端请求的预测组合值是指利用预设的预测组合值生成算法和筛选数据计算客户端请求的预测组合值。

详细地，所述确定所述预测组合值为所述客户端请求的资源预测参数是指将计算得到的预测组合值作为客户端请求的资源预测参数，预测组合值中的各个参数代表了对应资源的预测需求，可以直接使用这些参数作为资源预测参数。

详细地，在所述根据所述请求类型对预先生成的负载资源数据集进行数据筛选，得到所述客户端请求的筛选数据之前，还包括：

采集所述客户端请求的请求数据；

根据所述请求数据生成所述客户端请求的历史资源数据；

建立所述历史资源数据与所述客户端请求数据的数据关联，根据所述数据关联和所述历史资源数据生成所述客户端请求的负载资源数据集。

详细地，所述采集所述客户端请求的请求数据，包括但不限于：请求类型、请求参数、请求时间等，通过采集客户端请求的请求数据，可以获取到客户端请求的基本信息。

详细地，所述根据所述请求数据生成所述客户端请求的历史资源数据是指根据客户端请求的请求数据，查询历史记录或者其他数据源，获取与该请求相关的历史资源数据，其中，所述历史资源数据可以包括过去的资源使用情况、资源分配信息、资源性能指标等，通过生成客户端请求的历史资源数据，可以提供更多的参考信息。

详细地，所述负载资源数据集包含了与客户端请求相关的资源数据，可以作为筛选数据的基础。

详细地，所述根据所述筛选数据计算所述客户端请求的预测组合值，包括：

利用预设的预测组合值生成算法和所述筛选数据计算所述客户端请求的预测组合值，其中，所述预设的预测组合值生成算法为：

其中，x₁₁是所述预测组合值中的预测CPU使用率，x₂₁是所述预测组合值中的预测内存，x₃₁是所述预测组合值中的预测显存，n是所述筛选数据中的CPU使用率数据的数据总数，i是所述CPU使用率数据的数据标识，x_1i是第i个所述CPU使用率数据，x₂是所述筛选数据中的内存数据，max(x₂)是所述内存数据中的最大内存数据，x₃是所述筛选数据中的显存数据，max(x₃)是所述显存数据中的最大显存数据，p是所述内存数据的内存配置数，q是所述显存数据的显存配置数。

详细地，所述将筛选数据中的CPU使用率数据求和除以n得到预测的CPU使用率x₁₁，将内存数据中的最大值乘以p得到预测的内存x₂₁，将显存数据中的最大值乘以q得到预测的显存x₃₁，最终得到预测组合值(x₁₁,x₂₁,x₃₁)。

S3、根据所述请求类型和所述资源预测参数筛选出所述客户端请求的计算单元。

在本发明实施例中，所述根据所述请求类型和所述资源预测参数筛选出所述客户端请求的计算单元，包括：

根据所述请求类型查询所述客户端请求所对应的存储在独立数据单元中的计算单元实时负载资源数据；

根据所述资源预测参数和所述实时负载资源筛选出所述客户端请求的计算单元。

详细地，所述根据所述请求类型查询所述客户端请求所对应的存储在独立数据单元中的计算单元实时负载资源数据是指根据请求类型确定客户端请求所需的独立数据单元，查询该独立数据单元的实时负载资源信息，包括：计算单元的负载情况，例如：CPU使用率、内存使用情况等。

详细地，所述根据所述资源预测参数和所述实时负载资源筛选出所述客户端请求的计算单元是指结合资源预测参数和查询到的实时负载资源，进行筛选计算单元的过程，其中，筛选过程可能包括排除实时负载资源超过阈值的计算单元、优先选择满足资源需求的计算单元等。

详细地，所述根据所述资源预测参数和所述实时负载资源筛选出所述客户端请求的计算单元，包括：

确定所述实时负载资源的实时组合数，其中，所述实时组合数为(y₁,y₂,y₃)；

将所述资源预测参数和实时组合数进行数值比较，根据所述数值比较的比较结果筛选出所述客户端请求的可用单元；

根据所述可用单元确定出所述客户端请求的计算单元。

详细地，所述实时组合数反映了实时负载资源的具体数值，其中，y₁,y₂,y₃分别对应CPU未使用率、内存剩余大小、显存剩余大小；一个实时组合数(y₁,y₂,y₃)代表一个计算单元，多个计算单元就会得到多个(y₁,y₂,y₃)的组合。

详细地，所述将所述资源预测参数和实时组合数进行数值比较，根据所述数值比较的比较结果筛选出所述客户端请求的可用单元是指首先筛选掉实时组合数中y₂小于x₂₁的组合；其次，筛选掉实时组合数中y₃小于x₃₁的组合；最后，按照y₁由大到小的顺序对剩余的组合数进行排序，从经过筛选和排序的组合中，选取前x个作为候选计算单元，最后在这些候选计算单元中，使用随机算法选择一个作为最终的计算单元。

S4、利用所述计算单元对所述客户端请求进行请求响应，根据所述请求响应对预设的独立数据单元进行参数更新。

在本发明实施例中，所述利用所述计算单元对所述客户端请求进行请求响应，包括：

利用所述计算单元对所述客户端请求进行请求解析，得到所述客户端请求的解析数据；

根据所述解析数据确定所述客户端请求的请求调用资源；

根据所述请求调用资源生成所述客户端请求的响应数据。

详细地，所述利用所述计算单元对所述客户端请求进行请求解析，得到所述客户端请求的解析数据是指利用所述计算单元根据请求协议和格式解析出所述客户端请求的请求头、请求体、参数等内容。

详细地，所述根据所述解析数据确定所述客户端请求的请求调用资源是指根据解析得到的数据，确定客户端请求所需要调用的资源，所述资源可以是功能模块、服务接口、数据库等，

详细地，所述根据所述请求调用资源生成所述客户端请求的响应数据可以是多方面的，假定：客户端请求是执行某个操作或计算任务，计算单元可以处理该请求并生成相应的处理结果作为响应数据，例如：如果客户端请求是进行图像处理，计算单元可以对图像进行处理，并将处理后的图像作为响应数据返回给客户端。

在本发明实施例中，所述根据所述请求响应对预设的独立数据单元进行参数更新，包括：

根据所述请求响应生成所述客户端请求的资源消耗数据；

根据所述资源消耗数据对预设的独立数据单元进行参数更新。

详细地，所述根据所述请求响应生成所述客户端请求的资源消耗数据是指客户端请求在执行过程中所消耗的计算资源、存储资源、网络带宽等信息，例如，可以记录请求处理所使用的CPU时间、内存占用量、磁盘读写次数等。

详细地，所述根据所述资源消耗数据对预设的独立数据单元进行参数更新是指根据所述资源消耗数据对所述预设的独立数据单元中原始的资源数据进行更新。

本发明通过获取客户端请求的资源预测参数，可以更好地理解该请求对资源的需求程度，这有助于根据不同的请求类型和需求进行资源分配，根据请求类型和资源预测参数，可以筛选出适合处理该客户端请求的计算单元。这样可以根据实际需求动态选择计算资源，提高负载均衡效果，通过利用请求响应对预设的独立数据单元进行参数更新，可以不断优化负载均衡算法，这样可以根据实际情况进行调整，提高系统对不同类型请求的处理能力，因此本发明提出基于应用于大规模数学计算的自适应负载均衡方法，可以解决应用于大规模数学计算的负载均衡效率较低的问题。

如图2所示，是本发明一实施例提供的应用于大规模数学计算的自适应负载均衡装置的功能模块图。

本发明所述应用于大规模数学计算的自适应负载均衡装置100可以安装于电子设备中。根据实现的功能，所述应用于大规模数学计算的自适应负载均衡装置100可以包括请求类型生成模块101、资源预测参数获取模块102、计算单元生成模块103及资源参数更新模块104。本发明所述模块也可以称之为单元，是指一种能够被电子设备处理器所执行，并且能够完成固定功能的一系列计算机程序段，其存储在电子设备的存储器中。

在本实施例中，关于各模块/单元的功能如下：

所述请求类型生成模块101，用于生成预先获取的客户端请求的请求类型；

所述资源预测参数获取模块102，用于根据所述请求类型获取所述客户端请求的资源预测参数；

所述计算单元生成模块103，用于根据所述请求类型和所述资源预测参数筛选出所述客户端请求的计算单元；

所述资源参数更新模块104，用于利用所述计算单元对所述客户端请求进行请求响应，根据所述请求响应对预设的独立数据单元进行参数更新。

在本发明所提供的几个实施例中，应该理解到，所揭露的方法和装置，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。

所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能模块的形式实现。

对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。

最后应说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或等同替换，而不脱离本发明技术方案的精神和范围。

Claims (10)

1.一种应用于大规模数学计算的自适应负载均衡方法，其特征在于，所述方法包括：

生成预先获取的客户端请求的请求类型；

根据所述请求类型获取所述客户端请求的资源预测参数；

根据所述请求类型和所述资源预测参数筛选出所述客户端请求的计算单元；

利用所述计算单元对所述客户端请求进行请求响应，根据所述请求响应对预设的独立数据单元进行参数更新。

2.如权利要求1所述的应用于大规模数学计算的自适应负载均衡方法，其特征在于，所述生成预先获取的客户端请求的请求类型，包括：

对预先获取的客户端请求进行请求转化，得到所述客户端请求的转化数据；

对所述转化数据进行目标选取，得到所述转化数据的目标数据；

根据所述目标数据确定所述客户端请求的请求类型。

3.如权利要求1所述的应用于大规模数学计算的自适应负载均衡方法，其特征在于，所述根据所述请求类型获取所述客户端请求的资源预测参数，包括：

根据所述请求类型对预先生成的负载资源数据集进行数据筛选，得到所述客户端请求的筛选数据；

根据所述筛选数据计算所述客户端请求的预测组合值，确定所述预测组合值为所述客户端请求的资源预测参数。

4.如权利要求3所述的应用于大规模数学计算的自适应负载均衡方法，其特征在于，在所述根据所述请求类型对预先生成的负载资源数据集进行数据筛选，得到所述客户端请求的筛选数据之前，还包括：

采集所述客户端请求的请求数据；

根据所述请求数据生成所述客户端请求的历史资源数据；

建立所述历史资源数据与所述客户端请求数据的数据关联，根据所述数据关联和所述历史资源数据生成所述客户端请求的负载资源数据集。

5.如权利要求3所述的应用于大规模数学计算的自适应负载均衡方法，其特征在于，所述根据所述筛选数据计算所述客户端请求的预测组合值，包括：

利用预设的预测组合值生成算法和所述筛选数据计算所述客户端请求的预测组合值，其中，所述预设的预测组合值生成算法为：

其中，x₁₁是所述预测组合值中的预测CPU使用率，x₂₁是所述预测组合值中的预测内存，x₃₁是所述预测组合值中的预测显存，n是所述筛选数据中的CPU使用率数据的数据总数，i是所述CPU使用率数据的数据标识，x_1i是第i个所述CPU使用率数据，x₂是所述筛选数据中的内存数据，max(x₂)是所述内存数据中的最大内存数据，x₃是所述筛选数据中的显存数据，max(x₃)是所述显存数据中的最大显存数据，p是所述内存数据的内存配置数，q是所述显存数据的显存配置数。

6.如权利要求1所述的应用于大规模数学计算的自适应负载均衡方法，其特征在于，所述根据所述请求类型和所述资源预测参数筛选出所述客户端请求的计算单元，包括：

根据所述请求类型查询所述客户端请求所对应的存储在独立数据单元中的计算单元实时负载资源数据；

根据所述资源预测参数和所述实时负载资源筛选出所述客户端请求的计算单元。

7.如权利要求6所述的应用于大规模数学计算的自适应负载均衡方法，其特征在于，所述根据所述资源预测参数和所述实时负载资源筛选出所述客户端请求的计算单元，包括：

确定所述实时负载资源的实时组合数，其中，所述实时组合数为(y₁,y₂,y₃)；

将所述资源预测参数和实时组合数进行数值比较，根据所述数值比较的比较结果筛选出所述客户端请求的可用单元；

根据所述可用单元确定出所述客户端请求的计算单元。

8.如权利要求1所述的应用于大规模数学计算的自适应负载均衡方法，其特征在于，所述利用所述计算单元对所述客户端请求进行请求响应，包括：

利用所述计算单元对所述客户端请求进行请求解析，得到所述客户端请求的解析数据；

根据所述解析数据确定所述客户端请求的请求调用资源；

根据所述请求调用资源生成所述客户端请求的响应数据。

9.如权利要求1至8中任一项所述的应用于大规模数学计算的自适应负载均衡方法，其特征在于，所述根据所述请求响应对预设的独立数据单元进行参数更新，包括：

根据所述请求响应生成所述客户端请求的资源消耗数据；

根据所述资源消耗数据对预设的独立数据单元进行参数更新。

10.一种应用于大规模数学计算的自适应负载均衡装置，其特征在于，所述装置包括：

请求类型生成模块，用于生成预先获取的客户端请求的请求类型；

资源预测参数获取模块，用于根据所述请求类型获取所述客户端请求的资源预测参数；

计算单元生成模块，用于根据所述请求类型和所述资源预测参数筛选出所述客户端请求的计算单元；

资源参数更新模块，用于利用所述计算单元对所述客户端请求进行请求响应，根据所述请求响应对预设的独立数据单元进行参数更新。