CN115827189A - 一种大规模智能集群任务调度优化方法 - Google Patents

一种大规模智能集群任务调度优化方法 Download PDF

Info

Publication number
CN115827189A
CN115827189A CN202211426296.4A CN202211426296A CN115827189A CN 115827189 A CN115827189 A CN 115827189A CN 202211426296 A CN202211426296 A CN 202211426296A CN 115827189 A CN115827189 A CN 115827189A
Authority
CN
China
Prior art keywords
intelligent
model
machine learning
simulation model
simulation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202211426296.4A
Other languages
English (en)
Inventor
徐明亮
王�华
王越寒
李亚飞
李书攀
姜晓恒
靳远远
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhengzhou University
Original Assignee
Zhengzhou University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhengzhou University filed Critical Zhengzhou University
Priority to CN202211426296.4A priority Critical patent/CN115827189A/zh
Publication of CN115827189A publication Critical patent/CN115827189A/zh
Pending legal-status Critical Current

Links

Images

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种大规模智能集群任务调度优化方法,它是通过平均场仿真模型建模,再基于混合驱动数字孪生,通过模型之间的数据交换结果实现平均场仿真模型与机器学习模型的集成。使用平均场建模的孪生体构造仿真模型,并通过机器学习与仿真模型对大规模智能集群任务孪生体进行优化。该大规模智能集群任务优化方法,通过基于混合驱动数字孪生,有效的解决了机器学习模型和平均场仿真模型如何以及何时可以结合起来创建数字供应链孪生体的问题,并通过这些平均场孪生体和机器学习模型来提高大规模智能集群任务优化。

Description

一种大规模智能集群任务调度优化方法
技术领域
本发明属于计算机信息处理领域,涉及机器学习与仿真模型在基于混合驱动数字孪生下的大规模智能集群任务孪生优化方面的应用,具体是一种大规模智能集群任务调度优化方法。
背景技术
如今,数字技术使数据驱动的决策支持工具成为可能,这些新形式的数字化大规模智能集群任务具有更高的灵活性,因此,为了实现动态的大规模智能集群任务分配,需要新的建模方法来分析新的组织网络中的集群,并且利用智能系统分析在集群中的大数据,从而更详细了解集群内的详细信息,识别更好的任务分配方式。
智能系统需要仿真技术来实现其功能,而大规模智能集群中大数据信息时空断裂、关联信息不统一且动态多变是数字孪生体一体化建模仿真的难点。现有的仿真模型尽管考虑了随机变化以近似真实情况,但模型仍然基于虚构数据,结果受真实情况的变化影响。对于面向数据的公司中的真实案例应用程序,由于数据可用性的增加,将会出现更多的特性。现有的仿真模型与机器学习相结合的方法无法满足大规模智能集群内部对象关联关系问题的处理。
因此,本发明提出一种方案在基于混合驱动数字孪生下,利用智能体和离散事件进行仿真来更好地理解交互,在仿真中将每一个智能体与主体群体内的相互作用近似于单个主体之间的相互作用和总体群体或相邻主体的平均效应,将数量巨大的互相作用的多体问题转化成每一个粒子处在一种弱周期场中的单体问题,从而使得由于数据可用性增加带来的更多特性可以被充分考虑。
发明内容
本发明的目的,是针对上述技术的不足,提供一种大规模智能集群任务调度优化方法,用于提高大规模智能集群任务优化。
本发明采用的技术方案如下:
一种大规模智能集群任务调度优化方法,它是通过平均场仿真模型建模,再基于混合驱动数字孪生,通过模型之间的数据交换结果实现平均场仿真模型与机器学习模型的集成。
优选的,所述的平均场仿真模型建模,大规模智能集群任务内部对象关联关系问题通过平均场建模将转化为内部对象之间合作博弈最优决策的问题Γ,Γ用如下五元组的结构表示,<N,S,{Ai},{pi},{ri},π>;其中,N表示内部对象数目;S表示状态集合:J×L1×L2×…×L,J表示状态空间集合,Li(i∈[1,N])表示第i个智能个体状态;Ai表示第i个智能个体状态的集合;pi表示第i个智能个体的状态转移概率函数,ri为第i智能个体的回报函数,π为选择策略。
进一步的,所述的合作博弈最优决策的问题Γ采用Q学习算法求解,算法公式为:
Figure BDA0003944702410000021
其中a[a1,a2,…,aN]表示联合动作,
Figure BDA0003944702410000022
表示以为当前状态并选择策略π后得到的预期总回报。γ为常数,表示折扣率。
优选的,为了避免群组数量过大而造成的维度爆炸,拟对当前智能个体所在的子任务外所有的个体对当前对象的影响用一个平均量来计算,所述的Q函数优化后的算式为:
Figure BDA0003944702410000023
其中,Z表示第i个智能个体所处组内对象的集合,Ni表示第i个智能个体组外个体集合,Ni=N(i)表示组外个体总数目。
优选的,在大规模智能集群任务调度优化方面,将平均场的概念应用于任务分配策略学习中,从而降低交互的复杂度和状态空间的复杂性,进一步优化调度策略和调度机制,其学习算法为:
Figure BDA0003944702410000024
其中K(j)是工序j的邻居工序索引集合,Nj=|K(j)|,利用工序与它临近工序之间的近似交互能降低工序之间交互的复杂度。
优选的,在策略学习阶段,平均场的Q函数用如下递归方式进行更新:
Figure BDA0003944702410000025
多工序匹配调度的强化学习问题转变为依照j邻居工序平均场为工序j寻找匹配
Figure BDA0003944702410000026
的问题,实现单体策略学习向流程的群组策略学习。
优选的,平均场仿真模型与机器学习模型的集成,数据交换是借助文本格式文件来实现,此集成的活动序列分为三个步骤,步骤一在平均场仿真模型中,各个智能体在多种状态下多次仿真生成的结果保存到文本格式文件形成训练集数据库,各智能体初始状态参数构成特征集,最终仿真结果参数构成标签集;步骤二,将训练集数据库作为机器学习模型的输入数据进行训练,通过各种算法及混合算法进行对比决策,生成智能体初始状态设置优化后的最优智能决策结果,并生成输出文件,将智能决策结果文件返回平均场仿真模型中作为模拟实验的输入数据进行迭代仿真优化;步骤三,对优化后的试验仿真结果进行编译和分析,并重复步骤二将优化后的试验仿真结果加入数据库并返回机器学习模型作为输入数据,对模型进行验证和调整,并重复步骤一、二迭代优化对模型进行测试。
本发明的有益效果在于:该大规模智能集群任务优化方法,通过基于混合驱动数字孪生,有效的解决了机器学习模型和平均场仿真模型如何以及何时可以结合起来创建数字供应链孪生体的问题,并通过这些平均场孪生体和机器学习模型来提高大规模智能集群任务优化。
附图说明
图1是本发明的平均场仿真模型与机器学习模型的集成流程图。
具体实施方式
下面结合附图和具体的实施例对本发明进行说明。
一种大规模智能集群任务调度优化方法,它是通过平均场仿真模型建模,再基于混合驱动数字孪生,通过模型之间的数据交换结果实现平均场仿真模型与机器学习模型的集成。使用平均场建模的孪生体构造仿真模型,并通过机器学习与仿真模型对大规模智能集群任务孪生体进行优化。
大规模智能集群任务内部对象关联关系问题通过平均场建模将转化为内部对象之间合作博弈最优决策的问题Γ,Γ用如下5元组的结构表示,
<N,S,{Ai},{pi},{ri},π>
其中,N表示内部对象数目。S表示状态集合:J×L1×L2×…×L,J表示状态空间集合,Li(i∈[1,N])表示第i个智能个体状态。Ai表示第i个智能个体状态的集合。pi表示第i个智能个体的状态转移概率函数,ri为第i智能个体的回报函数,π为选择策略。合作博弈最优决策的问题Γ采用Q学习算法求解。
Figure BDA0003944702410000041
其中a[a1,a2,…,aN]表示联合动作,
Figure BDA0003944702410000042
表示以为当前状态并选择策略π后得到的预期总回报。γ为常数,表示折扣率。
由于智能集群任务内部并不是所有对象之间都紧密耦合,而是根据任务功能的不同具有明显的分组特征。为了避免群组数量过大而造成的维度爆炸,拟对当前智能个体所在的子任务外所有的个体对当前对象的影响用一个平均量来计算,因此对Q函数进行优化:
Figure BDA0003944702410000043
其中,Z表示第i个智能个体所处组内对象的集合,Ni表示第i个智能个体组外个体集合,Ni=N(i)表示组外个体总数目。
在大规模智能集群任务调度优化方面,将平均场的概念应用于任务分配策略学习中,从而降低交互的复杂度和状态空间的复杂性,进一步优化调度策略和调度机制,解决复杂环境中传统方法决策效率低和决策模型学习困难等问题。
Figure BDA0003944702410000044
其中K(j)是工序j的邻居工序索引集合,Nj=|K(j)|。利用工序与它临近工序之间的近似交互能降低工序之间交互的复杂度,但是全体工序之间的隐式交互关系依然存在。在策略学习阶段,平均场的Q函数用如下递归方式进行更新。
Figure BDA0003944702410000045
多工序匹配调度的强化学习问题转变为依照j邻居工序平均场为工序j寻找匹配
Figure BDA0003944702410000046
的问题,实现单体策略学习向流程的群组策略学习。
如图1所示,本发明的优化方法基于混合驱动数字孪生,通过模型之间的数据交换结果实现平均场仿真模型与机器学习模型的集成。在本工作中,数据交换是借助文本格式文件来实现的。此集成的活动序列可以概括为三个步骤,如图1所示。步骤一包括在上述平均场仿真模型中,各个智能体在多种状态下多次仿真生成的结果保存到文本格式文件形成训练集数据库,各智能体初始状态参数构成特征集,最终仿真结果参数构成标签集。在步骤二中,将训练集数据库作为机器学习模型的输入数据进行训练,通过各种算法及混合算法进行对比决策,生成智能体初始状态设置优化后的最优智能决策结果,并生成输出文件,将智能决策结果文件返回平均场仿真模型中作为模拟实验的输入数据进行迭代仿真优化。在步骤三中,对优化后的试验仿真结果进行编译和分析,并重复步骤二将优化后的试验仿真结果加入数据库并返回机器学习模型作为输入数据,对模型进行验证和调整。重复步骤一、二迭代优化对模型进行测试。

Claims (7)

1.一种大规模智能集群任务调度优化方法,其特征是:它是通过平均场仿真模型建模,再基于混合驱动数字孪生,通过模型之间的数据交换结果实现平均场仿真模型与机器学习模型的集成。
2.根据权利要求1所述的一种大规模智能集群任务调度优化方法,其特征是:所述的平均场仿真模型建模,大规模智能集群任务内部对象关联关系问题通过平均场建模将转化为内部对象之间合作博弈最优决策的问题Γ,Γ用如下五元组的结构表示,<N,S,{Ai},{pi},{ri},π>;其中,N表示内部对象数目;S表示状态集合:J×L1×L2×…×L,J表示状态空间集合,Li(i∈[1,N])表示第i个智能个体状态;Ai表示第i个智能个体状态的集合;pi表示第i个智能个体的状态转移概率函数,ri为第i智能个体的回报函数,π为选择策略。
3.根据权利要求2所述的一种大规模智能集群任务调度优化方法,其特征是:所述的合作博弈最优决策的问题Γ采用Q学习算法求解,算法公式为:
Figure FDA0003944702400000011
其中a[a1,a2,…,aN]表示联合动作,
Figure FDA0003944702400000012
表示以为当前状态并选择策略π后得到的预期总回报。γ为常数,表示折扣率。
4.根据权利要求3所述的一种大规模智能集群任务调度优化方法,其特征是:为了避免群组数量过大而造成的维度爆炸,拟对当前智能个体所在的子任务外所有的个体对当前对象的影响用一个平均量来计算,所述的Q函数优化后的算式为:
Figure FDA0003944702400000013
其中,Z表示第i个智能个体所处组内对象的集合,Ni表示第i个智能个体组外个体集合,Ni=N(i)表示组外个体总数目。
5.根据权利要求4所述的一种大规模智能集群任务调度优化方法,其特征是:在大规模智能集群任务调度优化方面,将平均场的概念应用于任务分配策略学习中,从而降低交互的复杂度和状态空间的复杂性,进一步优化调度策略和调度机制,其学习算法为:
Figure FDA0003944702400000014
其中K(j)是工序j的邻居工序索引集合,Nj=|K(j)|,利用工序与它临近工序之间的近似交互能降低工序之间交互的复杂度。
6.根据权利要求1所述的一种大规模智能集群任务调度优化方法,其特征是:在策略学习阶段,平均场的Q函数用如下递归方式进行更新:
Figure FDA0003944702400000021
多工序匹配调度的强化学习问题转变为依照j邻居工序平均场为工序j寻找匹配
Figure FDA0003944702400000022
的问题,实现单体策略学习向流程的群组策略学习。
7.根据权利要求1所述的一种大规模智能集群任务调度优化方法,其特征是:平均场仿真模型与机器学习模型的集成,数据交换是借助文本格式文件来实现,此集成的活动序列分为三个步骤,步骤一在平均场仿真模型中,各个智能体在多种状态下多次仿真生成的结果保存到文本格式文件形成训练集数据库,各智能体初始状态参数构成特征集,最终仿真结果参数构成标签集;步骤二,将训练集数据库作为机器学习模型的输入数据进行训练,通过各种算法及混合算法进行对比决策,生成智能体初始状态设置优化后的最优智能决策结果,并生成输出文件,将智能决策结果文件返回平均场仿真模型中作为模拟实验的输入数据进行迭代仿真优化;步骤三,对优化后的试验仿真结果进行编译和分析,并重复步骤二将优化后的试验仿真结果加入数据库并返回机器学习模型作为输入数据,对模型进行验证和调整,并重复步骤一、二迭代优化对模型进行测试。
CN202211426296.4A 2022-11-15 2022-11-15 一种大规模智能集群任务调度优化方法 Pending CN115827189A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211426296.4A CN115827189A (zh) 2022-11-15 2022-11-15 一种大规模智能集群任务调度优化方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211426296.4A CN115827189A (zh) 2022-11-15 2022-11-15 一种大规模智能集群任务调度优化方法

Publications (1)

Publication Number Publication Date
CN115827189A true CN115827189A (zh) 2023-03-21

Family

ID=85528174

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211426296.4A Pending CN115827189A (zh) 2022-11-15 2022-11-15 一种大规模智能集群任务调度优化方法

Country Status (1)

Country Link
CN (1) CN115827189A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116740293A (zh) * 2023-06-13 2023-09-12 西安速度时空大数据科技有限公司 基于数字孪生的三维地形模型获取方法、装置及存储介质
CN117648585A (zh) * 2024-01-29 2024-03-05 中国人民解放军军事科学院国防科技创新研究院 基于任务相似度的智能决策模型泛化方法和装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116740293A (zh) * 2023-06-13 2023-09-12 西安速度时空大数据科技有限公司 基于数字孪生的三维地形模型获取方法、装置及存储介质
CN117648585A (zh) * 2024-01-29 2024-03-05 中国人民解放军军事科学院国防科技创新研究院 基于任务相似度的智能决策模型泛化方法和装置
CN117648585B (zh) * 2024-01-29 2024-05-10 中国人民解放军军事科学院国防科技创新研究院 基于任务相似度的智能决策模型泛化方法和装置

Similar Documents

Publication Publication Date Title
Guo et al. Cloud resource scheduling with deep reinforcement learning and imitation learning
Li et al. A reinforcement learning based RMOEA/D for bi-objective fuzzy flexible job shop scheduling
CN115827189A (zh) 一种大规模智能集群任务调度优化方法
Tseng et al. A block-based genetic algorithm for disassembly sequence planning
Larson et al. Managing design processes: A risk assessment approach
De Toro et al. PSFGA: a parallel genetic algorithm for multiobjective optimization
CN113010393A (zh) 基于混沌工程的故障演练方法及装置
CN113867295A (zh) 一种基于数字孪生的制造车间agv动态调度方法、系统、设备及存储介质
Wang et al. Solving task scheduling problems in cloud manufacturing via attention mechanism and deep reinforcement learning
CN115543626A (zh) 采用异构计算资源负载均衡调度的电力缺陷图像仿真方法
CN112348269A (zh) 一种融合图结构的时间序列预测建模方法
Xu et al. Living with artificial intelligence: A paradigm shift toward future network traffic control
Lin et al. A scheduling algorithm based on reinforcement learning for heterogeneous environments
Aslan Mathematical model and a variable neighborhood search algorithm for mixed-model robotic two-sided assembly line balancing problems with sequence-dependent setup times
Zhang et al. Q-learning-based hyper-heuristic evolutionary algorithm for the distributed assembly blocking flowshop scheduling problem
Cai et al. Multitasking bi-level evolutionary algorithm for data-intensive scientific workflows on clouds
CN111311072B (zh) 一种变粒度任务分解方法
CN112488543A (zh) 基于机器学习的智慧工地智能排班方法及系统
Wang et al. An adaptive multiobjective multitask service composition approach considering practical constraints in fog manufacturing
Wang A Business Management Resource‐Scheduling Method based on Deep Learning Algorithm
Xiao et al. A new approach to solving coupled task sets based on resource balance strategy in product development
Jacobson et al. Metaheuristics for a flexible assembly system design problem
Peng The Research and Implementation in Digital Transformation of Manufacturing Enterprises
CN114860435B (zh) 基于任务选择过程强化学习的大数据作业调度方法
Persson et al. Metamodel-assisted simulation-based optimization of a real-world manufacturing problem

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination