CN111158918A - 支撑点并行枚举负载均衡方法、装置、设备及介质 - Google Patents
支撑点并行枚举负载均衡方法、装置、设备及介质 Download PDFInfo
- Publication number
- CN111158918A CN111158918A CN201911422115.9A CN201911422115A CN111158918A CN 111158918 A CN111158918 A CN 111158918A CN 201911422115 A CN201911422115 A CN 201911422115A CN 111158918 A CN111158918 A CN 111158918A
- Authority
- CN
- China
- Prior art keywords
- parameters
- network
- load condition
- determining
- nodes
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 88
- 238000013528 artificial neural network Methods 0.000 claims abstract description 46
- 238000012545 processing Methods 0.000 claims abstract description 22
- 238000012549 training Methods 0.000 claims description 84
- 238000012360 testing method Methods 0.000 claims description 80
- 230000006870 function Effects 0.000 claims description 21
- 230000004913 activation Effects 0.000 claims description 12
- 230000003247 decreasing effect Effects 0.000 claims description 10
- 238000004590 computer program Methods 0.000 claims description 9
- 230000000306 recurrent effect Effects 0.000 claims description 5
- 238000013527 convolutional neural network Methods 0.000 claims description 4
- 230000011218 segmentation Effects 0.000 claims description 4
- 230000007704 transition Effects 0.000 claims description 4
- 238000004422 calculation algorithm Methods 0.000 abstract description 9
- 238000010586 diagram Methods 0.000 description 18
- 238000004364 calculation method Methods 0.000 description 17
- 230000008569 process Effects 0.000 description 14
- 239000011159 matrix material Substances 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 230000009471 action Effects 0.000 description 3
- 239000000758 substrate Substances 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 238000012423 maintenance Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000002904 solvent Substances 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5083—Techniques for rebalancing the load in a distributed system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Supply And Distribution Of Alternating Current (AREA)
Abstract
本申请提供了一种支撑点并行枚举负载均衡方法、装置、设备及介质,所述方法涉及对节点负载情况的预测,包括:利用人工神经网络的自学习能力,建立节点的状态参数与节点内子进程的负载情况之间的对应关系;获取节点的当前状态参数;通过对应关系,确定与当前状态参数对应的当前负载情况;具体地,确定与状态参数对应的当前负载情况,包括:将对应关系中与当前状态参数相同的状态参数所对应的负载等情况,确定为当前负载情况;依据当前负载情况,增加或减少子进程的处理任务,在运行并行的支撑点枚举算法时,能更加充分利用异构并行平台计算资源得出大数据量下的最优支撑点组合,以确保同一节点被分配到的任务负载接近,从而缓解负载均衡的问题。
Description
技术领域
本申请涉及大数据挖掘领域,特别是支撑点并行枚举负载均衡方法、装 置、设备及介质。
背景技术
目前,已经有一些支撑点选取算法,但是不同算法间的性能差别往往不 大,用复杂的数学工具以很高的构建计算代价得到的支撑点带来的索引性能 提升往往相对较少。
随着数据量增大,将会出现计算量呈指数级上升,计算时间过长的问题, 将影响到整个领域的研究进度,因此,研究一种计算时间短的支撑点枚举方 式是目前亟待解决的问题。
现有技术中,IOPEA(Parallel Pivot Enumeration Algorithm on I/OMultiplexing基于IO复用的支撑点并行枚举算法),在程序初始就将需要计 算的数据切分成更多的部分,在将待处理的任务分发给CPU核或GPU卡后, 通过使用select不断轮询监听多个子进程句柄,任意一个子进程计算完毕并 且返回结果后,即为它分发下一个计算任务,通过轮训机制,可以及时有效 地发现空闲计算资源,然后为其派送任务以达到充分利用硬件资源的目的; 虽然在多重并行的前提下,采用I/O复用的方法,能及时发现未被利用的计 算资源。但是该策略有着明显的缺陷,需要采用I/O复用的方法,对多个进 程进行不间断扫描,以阻塞模式监听读事件,借此判断该进程计算是否结束, 这样就造成了资源的浪费。
发明内容
鉴于所述问题,提出了本申请以便提供克服所述问题或者至少部分地解 决所述问题的支撑点并行枚举负载均衡方法、装置、设备及介质,包括:
一种支撑点并行枚举负载均衡方法,所述方法涉及对节点的负载情况的 预测,其特征在于,包括:
利用人工神经网络的自学习能力,建立节点的状态参数与节点的负载情 况之间的对应关系;
获取节点的当前状态参数;
通过所述对应关系,确定与所述当前状态参数对应的当前负载情况;具 体地,确定与所述状态参数对应的当前负载情况,包括:将所述对应关系中 与所述当前状态参数相同的状态参数所对应的负载等情况,确定为所述当前 负载情况;
依据所述当前负载情况,增加或减少所述子进程的处理任务。
进一步地,所述状态参数,包括:任务参数和/或性能参数,和/或由按 设定规律自所述任务参数、所述性能参数中提取的特征组成的一维或两维以 上的数组;其中,
所述任务参数,包括:纹理数据、距离数据、数量数据中的至少之一;
和/或,
所述性能参数,包括:掩码热力任务参数,具体包括,热力点数量、热 力点颜色种类,热力点颜色深浅中的至少之一;
和/或,
所述对应关系,包括:函数关系;
所述状态参数为所述函数关系的输入参数,所述负载情况为所述函数关 系的输出参数;
通过所述对应关系,确定与所述当前状态参数对应的当前负载情况的步 骤,包括:
当所述对应关系包括函数关系时,将所述当前状态参数输入所述函数关 系中,确定所述函数关系的输出参数为当前负载情况。
进一步地,所述建立节点的状态参数与节点的负载情况之间的对应关系 的步骤,包括:
获取用于建立所述状态参数与所述负载情况之间的对应关系的样本数 据;
分析所述状态参数的特性及其规律,根据所述特性及其规律,确定所述 人工神经网络的网络结构及其网络参数;
使用所述样本数据,对所述网络结构和所述网络参数进行训练和测试, 确定所述状态参数与所述负载情况的所述对应关系。
进一步地,所述获取用于建立所述状态参数与所述负载情况之间的对应 关系的样本数据的步骤,包括:
收集节点的在处理不同类型数据下的状态参数和负载情况;
对所述状态参数进行分析、并结合预存的专家经验信息,选取与所述负 载情况相关的数据作为所述状态参数;
将所述负载情况、以及选取的所述状态参数构成的数据对,作为样本数 据。
进一步地,所述网络结构,包括:BP神经网络、CNN神经网络、RNN 神经网络、残差神经网络、多阶段循环神经网络中的至少之一;
和/或,
所述网络参数,包括:输入节点数、输出节点数、隐藏层数、隐节点数、 密集块数、输出层数、卷积层数、过度层数、初始权值、偏置值中的至少之 一。
进一步地,对所述网络结构和所述网络参数进行训练,包括:
选取所述样本数据中的一部分数据作为训练样本,将所述训练样本中的 所述状态参数输入到所述网络结构,通过所述网络结构的激活函数和所述网 络参数进行训练,得到实际训练结果;
确定所述实际训练结果与所述训练样本中的相应负载情况之间的实际 训练误差是否满足预设训练误差;
当所述实际训练误差满足所述预设训练误差时,确定对所述网络结构和 所述网络参数的所述训练完成;
和/或,
对所述网络结构和所述网络参数进行测试,包括:
选取所述样本数据中的另一部分数据作为测试样本,将所述测试样本中 的所述状态参数输入到所述训练完成的所述网络结构中,以所述激活函数和 所述训练完成的所述网络参数进行测试,得到实际测试结果;
确定所述实际测试结果与所述测试样本中的相应负载情况之间的实际 测试误差是否满足设定测试误差;
当所述实际测试误差满足所述设定测试误差时,确定对所述网络结构和 所述网络参数的所述测试完成。
进一步地,对所述网络结构和所述网络参数进行训练,还包括:
当所述实际训练误差不满足所述设定训练误差时,通过所述网络结构的 误差能量函数更新所述网络参数;
通过所述网络结构的所述激活函数和更新后的所述网络参数进行重新 训练,直至所述重新训练后的实际训练误差满足所述设定训练误差;
和/或,
对所述网络结构和所述网络参数进行测试,还包括:
当所述实际测试误差不满足所述设定测试误差时,对所述网络结构和所 述网络参数进行重新训练,直至所述重新训练后的实际测试误差慢速所述设 定测试误差。
一种支撑点并行枚举负载均衡装置,包括:
建立模块,用于利用人工神经网络的自学习能力,建立节点的状态参数 与节点的负载情况之间的对应关系;
获取模块,用于获取节点的当前状态参数;
确定模块,用于通过所述对应关系,确定与所述当前状态参数对应的当 前负载情况;具体地,确定与所述状态参数对应的当前负载情况,包括:将 所述对应关系中与所述当前状态参数相同的状态参数所对应的负载等情况, 确定为所述当前负载情况;
任务分配模块,用于依据所述当前负载情况,增加或减少所述子进程的 处理任务。
一种设备,包括处理器、存储器及存储在所述存储器上并能够在所述处 理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如上所 述的支撑点并行枚举负载均衡方法的步骤。
一种计算机可读存储介质,所述计算机可读存储介质上存储计算机程 序,所述计算机程序被处理器执行时实现如上所述的支撑点并行枚举负载均 衡方法的步骤。
本申请具有以下优点:
在本申请的实施例中,通过利用人工神经网络的自学习能力,建立节点 的状态参数与节点内子进程的负载情况之间的对应关系;获取节点的当前状 态参数;通过所述对应关系,确定与所述当前状态参数对应的当前负载情况; 具体地,确定与所述状态参数对应的当前负载情况,包括:将所述对应关系 中与所述当前状态参数相同的状态参数所对应的负载等情况,确定为所述当 前负载情况;依据所述当前负载情况,增加或减少所述子进程的处理任务, 在运行并行的支撑点枚举算法时,能更加充分利用异构并行平台计算资源得出大数据量下的最优支撑点组合,以确保同一节点被分配到的任务负载接 近,从而缓解负载均衡的问题。
附图说明
为了更清楚地说明本申请的技术方案,下面将对本申请的描述中所需要 使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的 一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提 下,还可以根据这些附图获得其他的附图。
图1是本申请一实施例提供的一种支撑点并行枚举负载均衡方法的步骤 流程图;
图2a是本申请一实施例提供的一种支撑点并行枚举负载均衡方法的种 类一纹理数据结构示意图;
图2b是本申请一实施例提供的一种支撑点并行枚举负载均衡方法的种 类二纹理数据结构示意图;
图2c是本申请一实施例提供的一种支撑点并行枚举负载均衡方法的种 类三纹理数据结构示意图;
图2d是本申请一实施例提供的一种支撑点并行枚举负载均衡方法的种 类四纹理数据结构示意图;
图2e是本申请一实施例提供的一种支撑点并行枚举负载均衡方法的距 离计算次数热力图;
图2f是本申请一实施例提供的一种支撑点并行枚举负载均衡方法的距 离计算次数热力图;
图2g是本申请一实施例提供的一种支撑点并行枚举负载均衡方法的距 离计算次数热力图;
图2h是本申请一实施例提供的一种支撑点并行枚举负载均衡方法的距 离计算次数热力图;
图2i是本申请一实施例提供的一种支撑点并行枚举负载均衡方法的支 撑点组合所需计算次数热力图;
图2j是本申请一实施例提供的一种支撑点并行枚举负载均衡方法的支 撑点组合所需计算次数热力图;
图2k是本申请一实施例提供的一种支撑点并行枚举负载均衡方法的支 撑点组合所需计算次数热力图;
图2l是本申请一实施例提供的一种支撑点并行枚举负载均衡方法的支 撑点组合所需计算次数热力图;
图3是本申请一实施例提供的一种支撑点并行枚举负载均衡方法的全局 任务窃取再分发过程示意图;
图4是本申请一实施例提供的一种支撑点并行枚举负载均衡装置的结构 框图;
图5是本发明一实施例的一种计算机设备的结构示意图。
具体实施方式
为使本申请的所述目的、特征和优点能够更加明显易懂,下面结合附图 和具体实施方式对本申请作进一步详细的说明。显然,所描述的实施例是本 申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域 普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属 于本申请保护的范围。
参照图1,示出了本申请一实施例提供的一种支撑点并行枚举负载均衡 方法,所述方法涉及对节点的负载情况的预测,包括:
S110、利用人工神经网络的自学习能力,建立节点的状态参数与节点的 负载情况之间的对应关系;
S120、获取节点的当前状态参数;
S130、通过所述对应关系,确定与所述当前状态参数对应的当前负载情 况;具体地,确定与所述状态参数对应的当前负载情况,包括:将所述对应 关系中与所述当前状态参数相同的状态参数所对应的负载等情况,确定为所 述当前负载情况;
S140、依据所述当前负载情况,增加或减少所述子进程的处理任务。
在本申请的实施例中,通过利用人工神经网络的自学习能力,建立节点 的状态参数与节点内子进程的负载情况之间的对应关系;获取节点的当前状 态参数;通过所述对应关系,确定与所述当前状态参数对应的当前负载情况; 具体地,确定与所述状态参数对应的当前负载情况,包括:将所述对应关系 中与所述当前状态参数相同的状态参数所对应的负载等情况,确定为所述当 前负载情况;依据所述当前负载情况,增加或减少所述子进程的处理任务, 在运行并行的支撑点枚举算法时,能更加充分利用异构并行平台计算资源得出大数据量下的最优支撑点组合,以确保同一节点被分配到的任务负载接 近,从而缓解负载均衡的问题。
下面,将对本示例性实施例中支撑点并行枚举负载均衡方法作进一步地 说明。
如上述步骤S110所述,利用人工神经网络的自学习能力,建立节点的 状态参数与节点的负载情况之间的对应关系。
例如:利用人工神经网络算法来分析负载情况对应的节点中的状态参数 规律,通过人工神经网络的自学习、自适应特性找到节点中的状态参数与负 载情况间的映射规律。
例如:可以利用人工神经网络算法,通过对大量不同类型的(包括但不 限于如下的一种或多种:等)节点中的状态参数汇总收集,选取若干节点的 状态参数及负载情况作为样本数据,对神经网络进行学习和训练,通过调整 网络结构及网络节点间的权值,使神经网络拟合节点中的状态参数及负载情 况之间的关系,最终使神经网络能准确拟合出不同节点中的状态参数及负载 情况的对应关系。
在一实施例中,所述状态参数,包括:任务参数和/或性能参数,和/或 由按设定规律自所述任务参数、所述性能参数中提取的特征组成的一维或两 维以上的数组;
可选地,所述任务参数,包括:任务数量、子进程数量、任务分割方式 中的至少之一;
具体地,任务数量为S={xi|i=1,2,...,n},其中,S中共有n(n>=k)个 数据点。任务分割方式为从S中选择k个点作为支撑点,其中,支撑点数 量k为子进程数量,记为P={pj|j=1,2,...,k}。在S中的n个数据中选取k 个支撑点的所有方式共有C(n,k)种选择方式,也即存在C(n,k)种不同的 P的组合。例如,当n=1000,k=3时,Cnk=1.66167E+08。
需要说明的是,在本实施例中,优选将以上数据转化为图像序列进行显 示以及分析,具体为,将大量的组合情况,按照顺序以262144(512x512)的 步长进行划分,并对划分后的数据进行归一化处理,以集合P中的k个元素 作为多通道值生成待处理的图像序列。
具体地,公式如下:
式中,matrixk表示由P中第k个维度数据生成的图像矩阵,矩阵中的每 一个元素均来自按照512*512为步长划分的支撑点组合P。
可选地,所述性能参数,包括:子进程计算速度;
需要说明的是,在本实施例中,优选将以上数据转化为图像序列进行显 示以及分析,具体为,利用已经计算出的支撑点性能数据生成相应的掩码 (mask)热力图。
在一具体实现中,通过任务数量、子进程数量、任务分割方式生成的图 像包括四种类型的纹理数据,如图2-a至图2-d所示,每个类别中保存若干 张图像,每副图像大小为512*512,对应的以距离计算次数生成的热力图如 图2e至图2l所示,图2i-l中越深的区域表示该区域对应的支撑点组合所需 计算次数越多,图2e-h中越深的区域则表示距离计算次数越少。其中,图2e与图2i相对应,图2f与图2j相对应,图2g与图2k相对应,图2h与图 2l相对应,对应的两幅图像中图2i-l中的热力点越多表示构成这个图像的支 撑点组合序列性能越差,即在实际的计算任务中需要消耗更多的时间。其中, 图2i-l中的热力点称为网络需要分析定位以及预测的关键区域,关键区域的 数量及热力图中的颜色深浅直接影响了后续任务的分配。
可选地,所述对应关系,包括:函数关系;所述状态参数为所述函数关 系的输入参数,所述负载情况为所述函数关系的输出参数;
具体地,
在一实施例中,所述对应关系,包括:函数关系。
优选地,所述状态参数为所述函数关系的输入参数,所述负载情况为所 述函数关系的输出参数;
由此,通过多种形式的对应关系,可以提升对当前负载情况确定的灵活 性和便捷性。
在一实施例中,可以结合下列描述进一步说明步骤S110中“建立节点 的状态参数与节点内子进程的负载情况之间的对应关系”的具体过程。
如下列步骤所述:获取用于建立所述状态参数与所述负载情况之间的对 应关系的样本数据;
在一进阶实施例中,可以结合下列描述进一步说明“获取用于建立所述 状态参数与所述负载情况之间的对应关系的样本数据”的具体过程。
如下列步骤所述:收集不同节点状况的患者的所述状态参数和所述负载 情况;
例如:数据搜集:搜集不同健康状况的患者的状态参数及对应的负载情 况;以及,搜集不同年龄的患者的状态参数及对应的负载情况;以及,搜集 不同性别的患者的状态参数及对应的负载情况。
由此,通过多种途径收集运行数据,有利于增加运行数据的量,提升人 工神经网络的学习能力,进而提升确定的对应关系的精准性和可靠性。
如下列步骤所述:对所述状态参数进行分析、并结合预存的专家经验信 息,选取与所述负载情况相关的数据作为所述状态参数(例如:选取对负载 情况有影响的状态参数作为输入参数,将指定参数作为输出参数);
例如:通过将已确诊的志愿者的相关数据中的状态参数作为输入参数, 将其相关数据中的负载情况作为输出参数。
如下列步骤所述:将所述负载情况、以及选取的所述状态参数构成的数 据对,作为样本数据。
例如:将得到的输入、输出参数对,一部分用作训练本样数据,一部分 用作测试样本数据。
由此,通过对收集到的状态参数进行分析及处理,进而得到样本数据, 操作过程简单,操作结果可靠性高。
如下列步骤所述:分析所述状态参数的特性及其规律,根据所述特性及 其规律,确定所述人工神经网络的网络结构及其网络参数;
例如:根据不同的年龄、病情、性别等对节点情况具有影响的数据特性 及其所蕴含的规律,可初步确定网络的基本结构、网络的输入、输出节点数、 网络隐层数、隐节点数、网络初始权值等。
优选地,所述网络结构,包括:BP神经网络、CNN神经网络、RNN神 经网络、残差神经网络、多阶段循环神经网络中的至少之一;
和/或,
所述网络参数,包括:输入节点数、输出节点数、隐藏层数、隐节点数、 密集块数、输出层数、卷积层数、过度层数、初始权值、偏置值中的至少之 一。
需要说明的是,所述网络结构优选采用多阶段循环神经网络,其中。
具体地,通过算法得到第n幅图像在第m个循环阶段检测出的关键区域 首先,对每幅图像的每个通道数据进行提取,并将提取的每个通道的数 据对应生成一幅单通道图像,提取每幅图像的对数距离计算次数较多的区域 特征fn,m。
将多通道数据进行提取,将提取后的数据分别作为网络每个阶段的输入。
具体地,对于每一个支撑点组合Pk,均由k个支撑点组成。按照上文描 述方案,将多个支撑点组合Pk按照512*512为步长进行划分,拼接在一起, 即可生成具有k个维度的矩阵matrixk,该矩阵中的每一个维度即为输入图像 序列,即是{I1,I2,...,In|In=matrixn,n∈k}。
需要说明的是,在多段化的优化过程中,具体包括以下过程:
Data:输入图像序列{I1,I2,…,In},优化阶段函数M,图像函数N,
Result:激励计算次数较多的关键区域{K1,K2,…,KN}.
如下列步骤所述:使用所述样本数据,对所述网络结构和所述网络参数 进行训练和测试,确定所述状态参数与所述负载情况的所述对应关系。
例如:网络设计完成后,需用训练样本数据对设计完成的神经网络进行 训练。训练方法可根据实际的网络结构及训练中发现的问题进行调整。
由此,通过收集图像数据,从中选取样本数据,并基于样本数据进行训 练和测试,确定状态参数与负载情况之间的对应关系,有利于提升对指定参 数生成的精准性。
可选地,可以结合下列描述进一步说明步骤“使用所述样本数据,对所 述网络结构和所述网络参数进行训练和测试,确定所述状态参数与所述负载 情况的所述对应关系”中对所述网络结构和所述网络参数进行训练的具体过 程。
如下列步骤所述,选取所述样本数据中的一部分数据作为训练样本,将 所述训练样本中的所述状态参数输入到所述网络结构,通过所述网络结构的 激活函数和所述网络参数进行训练,得到实际训练结果;确定所述实际训练 结果与所述训练样本中的相应负载情况之间的实际训练误差是否满足预设 训练误差;当所述实际训练误差满足所述预设训练误差时,确定对所述网络 结构和所述网络参数的所述训练完成;
更可选地,对所述网络结构和所述网络参数进行训练,还包括:
当所述实际训练误差不满足所述设定训练误差时,通过所述网络结构的 误差能量函数更新所述网络参数;通过所述网络结构的所述激活函数和更新 后的所述网络参数进行重新训练,直至所述重新训练后的实际训练误差满足 所述设定训练误差;
例如:若测试误差满足要求,则网络训练测试完成。
由此,通过将测试样本用于训练得到的网络结构和网络参数进行测试, 以进一步验证网络结构及网络参数的可靠性。
可选地,可以结合下列描述进一步说明步骤“使用所述样本数据,对所 述网络结构和所述网络参数进行训练和测试,确定所述状态参数与所述负载 情况的所述对应关系”中对所述网络结构和所述网络参数进行测试的具体过 程。
如下列步骤所述,选取所述样本数据中的另一部分数据作为测试样本, 将所述测试样本中的所述状态参数输入到所述训练完成的所述网络结构中, 以所述激活函数和所述训练完成的所述网络参数进行测试,得到实际测试结 果;确定所述实际测试结果与所述测试样本中的相应负载情况之间的实际测 试误差是否满足设定测试误差;当所述实际测试误差满足所述设定测试误差 时,确定对所述网络结构和所述网络参数的所述测试完成。
如上述步骤S120所述,获取节点的当前状态参数;
如上述步骤S130所述,通过所述对应关系,确定与所述当前状态参数 对应的当前负载情况;具体地,确定与所述状态参数对应的当前负载情况, 包括:将所述对应关系中与所述当前状态参数相同的状态参数所对应的负载 等情况,确定为所述当前负载情况;
例如:实时识别出节点的状态参数。
由此,通过基于对应关系,根据当当前状态参数有效地识别出当前负载 情况,从而为节点的任务分配提供准确的判断依据,且判断结果精准性好。
在一个可选例子中,步骤S130中确定与所述当前状态参数对应的当前 负载情况,可以包括:将所述对应关系中与所述当前状态参数相同的状态参 数所对应的负载情况,确定为所述当前负载情况。
在一个可选例子中,步骤S130中确定与所述状态参数对应的当前负载 情况,还可以包括:当所述对应关系可以包括函数关系时,将所述当前状态 参数输入所述函数关系中,确定所述函数关系的输出参数为当前负载情况。
由此,通过基于对应关系或函数关系,根据所述当前状态参数确定当前 负载情况,确定方式简便,确定结果可靠性高。
在一个可选实施方式中,还可以包括:验证所述当前负载情况与实际负 载情况是否相符的过程。
可选地,可以接收到所述当前负载情况与实际负载情况不符的验证结 果、和/或确定所述对应关系中没有与所述当前状态参数相同的状态参数时, 对所述对应关系进行更新、修正、再学习中的至少一种维护操作。
例如:设备本身无法获知到实际负载情况,需要有操作人员的反馈操作 才行,即如果设备智能判断出负载情况,操作人员通过操作反馈其与实际的 状态不符,设备才能获知。
验证所述当前负载情况与实际负载情况是否相符(例如:可以通过AR显 示模块对实际负载情况进行显示,以验证确定的所述当前负载情况与实际负 载情况是否相符)。
当所述当前负载情况与实际负载情况不符、和/或所述对应关系中没有与 所述当前状态参数相同的状态参数时,对所述对应关系进行更新、修正、再 学习中的至少一种维护操作。
例如:可以根据维护后的对应关系,根据所述当前状态参数确定当前负 载情况。例如:将维护后的所述对应关系中与所述当前状态参数相同的状态 参数对应的负载情况,确定为当前负载情况。
由此,通过对确定的状态参数与负载情况之间的对应关系的维护,有利 于提升对负载情况确定的精准性和可靠性。
如上述步骤S140所述,依据所述当前负载情况,增加或减少所述子进 程的处理任务。
参照图3,需要说明的是,当存在子进程的当前负载情况超过其他子进 程时,将该部分子进程中的超出部分的任务进行以当前进子进程总数为分割 基础的任务分割,将超出部分的任务重新分割成若干个数据任务,并派送给 所有子进程,以确保各个子进程之间的任务负载均衡,例如:通过多阶段的 神经网络对距离计算次数的估计,将距离计算次数按照由大到小分为若干个 级别,将同一级别的任务序列分配至同一计算节点中,以确保使得同一计算 节点被分配到的任务负载接近,从而缓解负载均衡的问题。
对于装置实施例而言,由于其与方法实施例基本相似,所以描述的比较 简单,相关之处参见方法实施例的部分说明即可。
参照图4,示出了本申请一实施例提供的一种支撑点并行枚举负载均衡 装置,其特征在于,包括:
建立模块410,用于利用人工神经网络的自学习能力,建立节点的状态 参数与节点的负载情况之间的对应关系;
获取模块420,用于获取节点的当前状态参数;
确定模块430,用于通过所述对应关系,确定与所述当前状态参数对应 的当前负载情况;具体地,确定与所述状态参数对应的当前负载情况,包括: 将所述对应关系中与所述当前状态参数相同的状态参数所对应的负载等情 况,确定为所述当前负载情况;
任务分配模块440,用于依据所述当前负载情况,增加或减少所述子进 程的处理任务。
在一实施例中,所述状态参数,包括:任务参数和/或性能参数,和/或 由按设定规律自所述任务参数、所述性能参数中提取的特征组成的一维或两 维以上的数组;其中,
所述任务参数,包括:任务数量、子进程数量、任务分割方式中的至少 之一;
和/或,
所述性能参数,包括:子进程计算速度;
和/或,
所述对应关系,包括:函数关系;
所述状态参数为所述函数关系的输入参数,所述负载情况为所述函数关 系的输出参数;
所述确定模块430,包括:
函数确定子模块,用于当所述对应关系包括函数关系时,将所述当前状 态参数输入所述函数关系中,确定所述函数关系的输出参数为当前负载情 况。
在一实施例中,所述建立模块410,包括:
获取子模块,用于获取用于建立所述状态参数与所述负载情况之间的对 应关系的样本数据;
分析子模块,用于分析所述状态参数的特性及其规律,根据所述特性及 其规律,确定所述人工神经网络的网络结构及其网络参数;
训练子模块,用于使用所述样本数据,对所述网络结构和所述网络参数 进行训练和测试,确定所述状态参数与所述负载情况的所述对应关系。
在一实施例中,所述获取子模块,包括:
收集子模块,用于收集节点的在处理不同类型数据下的状态参数和负载 情况;
分析子模块,用于对所述状态参数进行分析、并结合预存的专家经验信 息,选取与所述负载情况相关的数据作为所述状态参数;
样本数据生成子模块,用于将所述负载情况、以及选取的所述状态参数 构成的数据对,作为样本数据。
在一实施例中,
所述网络结构,包括:BP神经网络、CNN神经网络、RNN神经网络、 残差神经网络、多阶段循环神经网络中的至少之一;
和/或,
所述网络参数,包括:输入节点数、输出节点数、隐藏层数、隐节点数、 密集块数、输出层数、卷积层数、过度层数、初始权值、偏置值中的至少之 一。
在一实施例中,
所述训练子模块,包括:
训练结果生成子模块,用于选取所述样本数据中的一部分数据作为训练 样本,将所述训练样本中的所述状态参数输入到所述网络结构,通过所述网 络结构的激活函数和所述网络参数进行训练,得到实际训练结果;
训练结果误差判断子模块,用于确定所述实际训练结果与所述训练样本 中的相应负载情况之间的实际训练误差是否满足预设训练误差;
训练完成判定子模块,用于当所述实际训练误差满足所述预设训练误差 时,确定对所述网络结构和所述网络参数的所述训练完成;
和/或,
测试子模块,用于对所述网络结构和所述网络参数进行测试,所述测试 子模块,包括:
测试结果生成子模块,用于选取所述样本数据中的另一部分数据作为测 试样本,将所述测试样本中的所述状态参数输入到所述训练完成的所述网络 结构中,以所述激活函数和所述训练完成的所述网络参数进行测试,得到实 际测试结果;
测试结果误差判断子模块,用于确定所述实际测试结果与所述测试样本 中的相应负载情况之间的实际测试误差是否满足设定测试误差;
测试完成判定子模块,用于当所述实际测试误差满足所述设定测试误差 时,确定对所述网络结构和所述网络参数的所述测试完成。
在一实施例中,
所述训练子模块,还包括:
网络参数更新子模块,用于当所述实际训练误差不满足所述设定训练误 差时,通过所述网络结构的误差能量函数更新所述网络参数;
第一重训练子模块,用于通过所述网络结构的所述激活函数和更新后的 所述网络参数进行重新训练,直至所述重新训练后的实际训练误差满足所述 设定训练误差;
和/或,
所述测试子模块,还包括:
第二重训练子模块,用于当所述实际测试误差不满足所述设定测试误差 时,对所述网络结构和所述网络参数进行重新训练,直至所述重新训练后的 实际测试误差慢速所述设定测试误差。
参照图5,示出了本发明的一种支撑点并行枚举负载均衡方法的计算机 设备,具体可以包括如下:
上述计算机设备12以通用计算设备的形式表现,计算机设备12的组件 可以包括但不限于:一个或者多个处理器或者处理单元16,系统存储器28, 连接不同系统组件(包括系统存储器28和处理单元16)的总线18。
总线18表示几类总线18结构中的一种或多种,包括存储器总线18或 者存储器控制器,外围总线18,图形加速端口,处理器或者使用多种总线 18结构中的任意总线18结构的局域总线18。举例来说,这些体系结构包括 但不限于工业标准体系结构(ISA)总线18,微通道体系结构(MAC)总线 18,增强型ISA总线18、音视频电子标准协会(VESA)局域总线18以及 外围组件互连(PCI)总线18。
计算机设备12典型地包括多种计算机系统可读介质。这些介质可以是 任何能够被计算机设备12访问的可用介质,包括易失性和非易失性介质, 可移动的和不可移动的介质。
系统存储器28可以包括易失性存储器形式的计算机系统可读介质,例 如随机存取存储器(RAM)30和/或高速缓存存储器32。计算机设备12可 以进一步包括其他移动/不可移动的、易失性/非易失性计算机体统存储介质。 仅作为举例,存储系统34可以用于读写不可移动的、非易失性磁介质(通 常称为“硬盘驱动器”)。尽管图5中未示出,可以提供用于对可移动非易 失性磁盘(如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例 如CD-ROM,DVD-ROM或者其他光介质)读写的光盘驱动器。在这些情况 下,每个驱动器可以通过一个或者多个数据介质界面与总线18相连。存储 器可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序 模块42,这些程序模块42被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40,可以存储在例 如存储器中,这样的程序模块42包括——但不限于——操作系统、一个或 者多个应用程序、其他程序模块42以及程序数据,这些示例中的每一个或 某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述 的实施例中的功能和/或方法。
计算机设备12也可以与一个或多个外部设备14(例如键盘、指向设备、 显示器24、摄像头等)通信,还可与一个或者多个使得用户能与该计算机设 备12交互的设备通信,和/或与使得该计算机设备12能与一个或多个其他计 算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信 可以通过输入/输出(I/O)界面22进行。并且,计算机设备12还可以通过 网络适配器20与一个或者多个网络(例如局域网(LAN)),广域网(WAN) 和/或公共网络(例如因特网)通信。如图所示,网络适配器20通过总线18 与计算机设备12的其他模块通信。应当明白,尽管图5中未示出,可以结 合计算机设备12使用其他硬件和/或软件模块,包括但不限于:微代码、设 备驱动器、冗余处理单元16、外部磁盘驱动阵列、RAID系统、磁带驱动器 以及数据备份存储系统34等。
处理单元16通过运行存储在系统存储器28中的程序,从而执行各种功 能应用以及数据处理,例如实现本发明实施例所提供的支撑点并行枚举负载 均衡方法。
也即,上述处理单元16执行上述程序时实现:利用人工神经网络的自 学习能力,建立节点的状态参数与节点内子进程的负载情况之间的对应关 系;获取节点的当前状态参数;通过所述对应关系,确定与所述当前状态参 数对应的当前负载情况;具体地,确定与所述状态参数对应的当前负载情况, 包括:将所述对应关系中与所述当前状态参数相同的状态参数所对应的负载 等情况,确定为所述当前负载情况;依据所述当前负载情况,增加或减少所 述子进程的处理任务。
在本发明实施例中,本发明还提供一种计算机可读存储介质,其上存储 有计算机程序,该程序被处理器执行时实现如本申请所有实施例提供的支撑 点并行枚举负载均衡方法:
也即,给程序被处理器执行时实现:利用人工神经网络的自学习能力, 建立节点的状态参数与节点内子进程的负载情况之间的对应关系;获取节点 的当前状态参数;通过所述对应关系,确定与所述当前状态参数对应的当前 负载情况;具体地,确定与所述状态参数对应的当前负载情况,包括:将所 述对应关系中与所述当前状态参数相同的状态参数所对应的负载等情况,确 定为所述当前负载情况;依据所述当前负载情况,增加或减少所述子进程的 处理任务。
可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可 以是计算机克顿信号介质或者计算机可读存储介质。计算机可读存储介质例 如可以是——但不限于——电、磁、光、电磁、红外线或半导体的系统、装 置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非 穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬 盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦可编程只读存储器(EPOM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、 光存储器件、磁存储器件或者上述的任意合适的组合。在本文件中,计算机 可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执 行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的 数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采 用多种形式,包括——但不限于——电磁信号、光信号或上述的任意合适的 组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算 机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系 统、装置或者器件使用或者与其结合使用的程序。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作 的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言——诸 如Java、Smalltalk、C++,还包括常规的过程式程序设计语言——诸如“C” 语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部 分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机 上部分在远程计算机上执行或者完全在远程计算机或者服务器上执行。在涉 及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到 外部计算机(例如利用因特网服务提供商来通过因特网连接)。本说明书 中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他 实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。
尽管已描述了本申请实施例的优选实施例,但本领域内的技术人员一旦 得知了基本创造性概念,则可对这些实施例做出另外的变更和修改。所以, 所附权利要求意欲解释为包括优选实施例以及落入本申请实施例范围的所 有变更和修改。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语 仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求 或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术 语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得 包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素,而且 还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或 者终端设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者终 端设备中还存在另外的相同要素。
以上对本申请所提供的支撑点并行枚举负载均衡方法、装置、设备及介 质,进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进 行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思 想;同时,对于本领域的一般技术人员,依据本申请的思想,在具体实施方 式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本 申请的限制。
Claims (10)
1.一种支撑点并行枚举负载均衡方法,其特征在于,包括:
利用人工神经网络的自学习能力,建立节点的状态参数与节点内子进程的负载情况之间的对应关系;
获取节点的当前状态参数;
通过所述对应关系,确定与所述当前状态参数对应的当前负载情况;具体地,确定与所述状态参数对应的当前负载情况,包括:将所述对应关系中与所述当前状态参数相同的状态参数所对应的负载等情况,确定为所述当前负载情况;
依据所述当前负载情况,增加或减少所述子进程的处理任务。
2.根据权利要求1所述的方法,其特征在于,
所述状态参数,包括:任务参数和/或性能参数,和/或由按设定规律自所述任务参数、所述性能参数中提取的特征组成的一维或两维以上的数组;其中,
所述任务参数,包括:任务数量、子进程数量、任务分割方式中的至少之一;
和/或,
所述性能参数,包括:子进程计算速度;
和/或,
所述对应关系,包括:函数关系;
所述状态参数为所述函数关系的输入参数,所述负载情况为所述函数关系的输出参数;
通过所述对应关系,确定与所述当前状态参数对应的当前负载情况的步骤,包括:
当所述对应关系包括函数关系时,将所述当前状态参数输入所述函数关系中,确定所述函数关系的输出参数为当前负载情况。
3.根据权利要求1所述的方法,其特征在于,所述建立节点的状态参数与节点的负载情况之间的对应关系的步骤,包括:
获取用于建立所述状态参数与所述负载情况之间的对应关系的样本数据;
分析所述状态参数的特性及其规律,根据所述特性及其规律,确定所述人工神经网络的网络结构及其网络参数;
使用所述样本数据,对所述网络结构和所述网络参数进行训练和测试,确定所述状态参数与所述负载情况的所述对应关系。
4.根据权利要求3所述的方法,其特征在于,所述获取用于建立所述状态参数与所述负载情况之间的对应关系的样本数据的步骤,包括:
收集节点的在处理不同类型数据下的状态参数和负载情况;
对所述状态参数进行分析、并结合预存的专家经验信息,选取与所述负载情况相关的数据作为所述状态参数;
将所述负载情况、以及选取的所述状态参数构成的数据对,作为样本数据。
5.根据权利要求4所述的方法,其特征在于,
所述网络结构,包括:BP神经网络、CNN神经网络、RNN神经网络、残差神经网络、多阶段循环神经网络中的至少之一;
和/或,
所述网络参数,包括:输入节点数、输出节点数、隐藏层数、隐节点数、密集块数、输出层数、卷积层数、过度层数、初始权值、偏置值中的至少之一。
6.根据权利要求3-5任一项所述的方法,其特征在于,
对所述网络结构和所述网络参数进行训练,包括:
选取所述样本数据中的一部分数据作为训练样本,将所述训练样本中的所述状态参数输入到所述网络结构,通过所述网络结构的激活函数和所述网络参数进行训练,得到实际训练结果;
确定所述实际训练结果与所述训练样本中的相应负载情况之间的实际训练误差是否满足预设训练误差;
当所述实际训练误差满足所述预设训练误差时,确定对所述网络结构和所述网络参数的所述训练完成;
和/或,
对所述网络结构和所述网络参数进行测试,包括:
选取所述样本数据中的另一部分数据作为测试样本,将所述测试样本中的所述状态参数输入到所述训练完成的所述网络结构中,以所述激活函数和所述训练完成的所述网络参数进行测试,得到实际测试结果;
确定所述实际测试结果与所述测试样本中的相应负载情况之间的实际测试误差是否满足设定测试误差;
当所述实际测试误差满足所述设定测试误差时,确定对所述网络结构和所述网络参数的所述测试完成。
7.根据权利要求6所述的方法,其特征在于,
对所述网络结构和所述网络参数进行训练,还包括:
当所述实际训练误差不满足所述设定训练误差时,通过所述网络结构的误差能量函数更新所述网络参数;
通过所述网络结构的所述激活函数和更新后的所述网络参数进行重新训练,直至所述重新训练后的实际训练误差满足所述设定训练误差;
和/或,
对所述网络结构和所述网络参数进行测试,还包括:
当所述实际测试误差不满足所述设定测试误差时,对所述网络结构和所述网络参数进行重新训练,直至所述重新训练后的实际测试误差慢速所述设定测试误差。
8.一种支撑点并行枚举负载均衡装置,其特征在于,包括:
建立模块,用于利用人工神经网络的自学习能力,建立节点的状态参数与节点的负载情况之间的对应关系;
获取模块,用于获取节点的当前状态参数;
确定模块,用于通过所述对应关系,确定与所述当前状态参数对应的当前负载情况;具体地,确定与所述状态参数对应的当前负载情况,包括:将所述对应关系中与所述当前状态参数相同的状态参数所对应的负载等情况,确定为所述当前负载情况;
任务分配模块,用于依据所述当前负载情况,增加或减少所述子进程的处理任务。
9.一种设备,其特征在于,包括处理器、存储器及存储在所述存储器上并能够在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如权利要求1至7中任一项所述的方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储计算机程序,所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述的方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911422115.9A CN111158918B (zh) | 2019-12-31 | 2019-12-31 | 支撑点并行枚举负载均衡方法、装置、设备及介质 |
PCT/CN2020/071011 WO2021134810A1 (zh) | 2019-12-31 | 2020-01-08 | 支撑点并行枚举负载均衡方法、装置、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911422115.9A CN111158918B (zh) | 2019-12-31 | 2019-12-31 | 支撑点并行枚举负载均衡方法、装置、设备及介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111158918A true CN111158918A (zh) | 2020-05-15 |
CN111158918B CN111158918B (zh) | 2022-11-11 |
Family
ID=70560678
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911422115.9A Active CN111158918B (zh) | 2019-12-31 | 2019-12-31 | 支撑点并行枚举负载均衡方法、装置、设备及介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN111158918B (zh) |
WO (1) | WO2021134810A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111737531A (zh) * | 2020-06-12 | 2020-10-02 | 深圳计算科学研究院 | 一种应用驱动的图划分调整方法和系统 |
CN112668912A (zh) * | 2020-12-31 | 2021-04-16 | 广东中科能睿信息科技有限公司 | 人工神经网络的训练方法、动态计算切分调度方法、存储介质及系统 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101695050A (zh) * | 2009-10-19 | 2010-04-14 | 浪潮电子信息产业股份有限公司 | 一种基于网络流量自适应预测的动态负载均衡方法 |
CN102480529A (zh) * | 2010-11-24 | 2012-05-30 | 北京无线恒远科技有限公司 | 实现广域网负载均衡的域名解析方法及域名解析服务器 |
CN103744643A (zh) * | 2014-01-10 | 2014-04-23 | 浪潮(北京)电子信息产业有限公司 | 一种多线程程序下多节点并行架构的方法及装置 |
CN105227410A (zh) * | 2015-11-04 | 2016-01-06 | 浪潮(北京)电子信息产业有限公司 | 基于自适应神经网络的服务器负载检测的方法及系统 |
CN106708815A (zh) * | 2015-07-15 | 2017-05-24 | 中兴通讯股份有限公司 | 数据处理方法、装置和系统 |
US20180034904A1 (en) * | 2016-07-27 | 2018-02-01 | Salesforce.Com, Inc. | Dynamic allocation of stateful nodes for healing and load balancing |
CN108804383A (zh) * | 2018-05-30 | 2018-11-13 | 深圳大学 | 基于度量空间的支撑点并行枚举方法及装置 |
CN110704542A (zh) * | 2019-10-15 | 2020-01-17 | 南京莱斯网信技术研究院有限公司 | 一种基于节点负载的数据动态分区系统 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104407841A (zh) * | 2014-11-25 | 2015-03-11 | 大连理工大学 | 基于aws的gpu并行粒子群算法 |
-
2019
- 2019-12-31 CN CN201911422115.9A patent/CN111158918B/zh active Active
-
2020
- 2020-01-08 WO PCT/CN2020/071011 patent/WO2021134810A1/zh active Application Filing
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101695050A (zh) * | 2009-10-19 | 2010-04-14 | 浪潮电子信息产业股份有限公司 | 一种基于网络流量自适应预测的动态负载均衡方法 |
CN102480529A (zh) * | 2010-11-24 | 2012-05-30 | 北京无线恒远科技有限公司 | 实现广域网负载均衡的域名解析方法及域名解析服务器 |
CN103744643A (zh) * | 2014-01-10 | 2014-04-23 | 浪潮(北京)电子信息产业有限公司 | 一种多线程程序下多节点并行架构的方法及装置 |
CN106708815A (zh) * | 2015-07-15 | 2017-05-24 | 中兴通讯股份有限公司 | 数据处理方法、装置和系统 |
EP3324304A1 (en) * | 2015-07-15 | 2018-05-23 | ZTE Corporation | Data processing method, device and system |
CN105227410A (zh) * | 2015-11-04 | 2016-01-06 | 浪潮(北京)电子信息产业有限公司 | 基于自适应神经网络的服务器负载检测的方法及系统 |
US20180034904A1 (en) * | 2016-07-27 | 2018-02-01 | Salesforce.Com, Inc. | Dynamic allocation of stateful nodes for healing and load balancing |
CN108804383A (zh) * | 2018-05-30 | 2018-11-13 | 深圳大学 | 基于度量空间的支撑点并行枚举方法及装置 |
CN110704542A (zh) * | 2019-10-15 | 2020-01-17 | 南京莱斯网信技术研究院有限公司 | 一种基于节点负载的数据动态分区系统 |
Non-Patent Citations (3)
Title |
---|
李兴亮,毛睿: "基于近期最远遍历的支撑点选择", 《南京大学学报(自然科学)》 * |
李兴亮: "度量空间索引支撑点选择问题研究", 《中国科学技术大学硕士学位论文》 * |
胡梓良: "度量空间支撑点选择穷举算法优化及并行化研究", 《深圳大学硕士学位论文》 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111737531A (zh) * | 2020-06-12 | 2020-10-02 | 深圳计算科学研究院 | 一种应用驱动的图划分调整方法和系统 |
CN111737531B (zh) * | 2020-06-12 | 2021-05-28 | 深圳计算科学研究院 | 一种应用驱动的图划分调整方法和系统 |
CN112668912A (zh) * | 2020-12-31 | 2021-04-16 | 广东中科能睿信息科技有限公司 | 人工神经网络的训练方法、动态计算切分调度方法、存储介质及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN111158918B (zh) | 2022-11-11 |
WO2021134810A1 (zh) | 2021-07-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105550323B (zh) | 一种分布式数据库负载均衡预测方法和预测分析器 | |
CN108197652B (zh) | 用于生成信息的方法和装置 | |
CN105488539B (zh) | 分类模型的生成方法及装置、系统容量的预估方法及装置 | |
CN111158918B (zh) | 支撑点并行枚举负载均衡方法、装置、设备及介质 | |
CN112613584A (zh) | 一种故障诊断方法、装置、设备及存储介质 | |
CN109981749A (zh) | 一种基于极限梯度提升的云工作流任务执行时间预测方法 | |
CN111145076A (zh) | 数据并行化处理方法、系统、设备及存储介质 | |
CN116450486B (zh) | 多元异构计算系统内节点的建模方法、装置、设备及介质 | |
CN113743607A (zh) | 异常检测模型的训练方法、异常检测方法及装置 | |
CN114564374A (zh) | 算子性能评估方法、装置、电子设备及存储介质 | |
CN112906865B (zh) | 神经网络架构搜索方法、装置、电子设备及存储介质 | |
CN114721835A (zh) | 边缘数据中心服务器能耗预测方法、系统、设备及介质 | |
CN113627422A (zh) | 一种图像分类方法及其相关设备 | |
CN115296984B (zh) | 异常网络节点的检测方法及装置、设备、存储介质 | |
CN111612756A (zh) | 冠状动脉特异性钙化检测方法及装置 | |
CN112037223A (zh) | 图像缺陷检测方法、装置及电子设备 | |
CN112420125A (zh) | 分子属性预测方法、装置、智能设备和终端 | |
JP7355299B2 (ja) | 学習用データセット生成システム、学習サーバ、及び学習用データセット生成プログラム | |
CN111444802A (zh) | 一种人脸识别方法、装置及智能终端 | |
CN110895706A (zh) | 一种目标聚类数的获取方法、装置及计算机系统 | |
CN111159241A (zh) | 一种点击转化预估方法及装置 | |
CN113010687B (zh) | 一种习题标签预测方法、装置、存储介质以及计算机设备 | |
CN115081856A (zh) | 一种企业知识管理绩效评价装置及方法 | |
CN118246346B (zh) | 一种多维立体分析的孪生建模方法 | |
CN118485858B (zh) | 基于多分类器融合的土地利用遥感监测方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |