CN116661962A - 基于云计算技术的数据分析方法 - Google Patents
基于云计算技术的数据分析方法 Download PDFInfo
- Publication number
- CN116661962A CN116661962A CN202310585326.4A CN202310585326A CN116661962A CN 116661962 A CN116661962 A CN 116661962A CN 202310585326 A CN202310585326 A CN 202310585326A CN 116661962 A CN116661962 A CN 116661962A
- Authority
- CN
- China
- Prior art keywords
- task
- processing
- time
- data
- cloud server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 53
- 238000005516 engineering process Methods 0.000 title claims abstract description 21
- 238000007405 data analysis Methods 0.000 title claims abstract description 19
- 238000012545 processing Methods 0.000 claims abstract description 229
- 238000010801 machine learning Methods 0.000 claims abstract description 33
- 230000002787 reinforcement Effects 0.000 claims abstract description 27
- 238000012549 training Methods 0.000 claims abstract description 19
- 238000004364 calculation method Methods 0.000 claims description 20
- 230000009471 action Effects 0.000 claims description 9
- LFVLUOAHQIVABZ-UHFFFAOYSA-N Iodofenphos Chemical compound COP(=S)(OC)OC1=CC(Cl)=C(I)C=C1Cl LFVLUOAHQIVABZ-UHFFFAOYSA-N 0.000 claims description 6
- 230000008569 process Effects 0.000 claims description 6
- 238000012216 screening Methods 0.000 claims description 6
- 230000006870 function Effects 0.000 description 4
- 230000004913 activation Effects 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 210000002569 neuron Anatomy 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Machine Translation (AREA)
Abstract
本发明公开了基于云计算技术的数据分析方法,涉及云计算任务调度技术领域,预先收集云服务器集群基础数据、客户业务数据以及历史任务处理数据,基于历史任务处理数据获得历史任务序列调度数据,并基于历史任务处理数据训练出预测任务处理时长的机器学习模型,再基于历史任务序列调度数据训练出对任务序列进行调度的深度强化学习模型,接收到待调度任务请求时,判断是否存在实时处理服务器,若存在实时处理服务器,将该请求发送至该实时处理服务器,否则,通过深度强化学习模型获得对该请求进行调度的决策;对任务紧急程度、客户优先级、云服务器资源利用率以及客户体验的综合考量,实现了任务请求的智能调度。
Description
技术领域
本发明属于涉及云计算技术数据分析领域,具体是基于云计算技术的数据分析方法。
背景技术
随着互联网技术和云计算技术的发展,越来越多的应用程序需要在云服务器上运行。在这种情况下,如何有效地管理云服务器资源,确保任务的及时完成,同时提高云服务器资源的利用率和客户体验,成为云计算领域的一个重要问题。
目前的云计算调度算法主要是基于静态规划或贪心算法。这些算法的缺点是不能适应任务请求的实时变化,无法动态调整云服务器资源的分配。另外,由于缺乏对客户优先级和任务紧急程度的考虑,这些算法不能满足客户的需求。因此,需要一种新的云计算调度算法,以实时智能化的根据云服务器的当前任务处理状态,自适应的满足任务请求的变化和提高客户满意度等多元化需求;
为此,提出基于云计算技术的数据分析方法。
发明内容
本发明旨在至少解决现有技术中存在的技术问题之一。为此,本发明提出基于云计算技术的数据分析方法,该基于云计算技术的数据分析方法对任务紧急程度、客户优先级、云服务器资源利用率以及客户体验的综合考量,实现了任务请求的智能调度。
为实现上述目的,根据本发明的实施例1提出基于云计算技术的数据分析方法,包括以下步骤:
步骤一:收集云服务器集群基础数据以及客户业务数据;
步骤二:收集云服务器集群的历史任务处理数据;
步骤三:基于历史任务处理数据获得历史任务序列调度数据,并基于历史任务处理数据训练出预测任务处理时长的机器学习模型;
步骤四:将历史任务序列调度数据转化为深度强化学习模型所接收的四元组集合,并基于四元组集合训练出对任务序列进行调度的深度强化学习模型;
步骤五:在云服务器集群接收到待调度任务请求时,实时收集云服务器集群的实时任务处理数据,根据实时任务处理数据和机器学习模型判断是否存在实时处理服务器,若存在实时处理服务器,将待调度任务请求发送至该实时处理服务器,若不存在实时处理服务器,执行步骤六;
步骤六:将实时任务处理数据转化四元组中的初始状态,并将初始状态输入至深度强化学习模型,获得对待调度任务请求进行调度的决策;
所述云服务器集群基础数据包括云平台中每台云服务器的最大内存空间以及最大实时算力;
所述客户业务数据包括该云服务器集群中对应的每个客户的单任务最大供给内存、单任务最大供给算力以及任务程序列表;所述任务程序列表为每个客户所提供的用于执行数据处理任务的程序列表;
将云服务器集合中每台云服务器的编号标记为i;将第i台云服务器的最大内存空间标记为Mi,将第i台云服务器的最大实时算力标记为Ci;
将客户的编号标记为j,将第j个客户的单任务最大供给内存标记为Sj,将第j个客户的单任务最大供给算力标记为Dj,将第J个客户的任务程序列表标记为Pj,将任务程序列表Pj中的每个任务程序编号标记为Pjk,其中,k为任务程序在任务程序列表Pj中的序号;
其中,所述历史任务处理数据包括在云服务器集群处理数据处理任务的历史中,每次接收到由客户发送的新任务处理请求时,收集的新任务处理请求对应的任务程序编号、每台云服务器的单服务器任务处理数据以及新任务处理请求的历史调度决策和历史调度信息;
所述单服务器任务处理数据包括每台云服务器已使用实时算力、已使用内存空间、处理中任务的处理信息以及排队中任务的任务信息;其中,所述任务信息包括该任务的待处理的数据量以及剩余最大处理时长;所述处理信息包括处理中任务所分配的实时算力、分配的内存空间、剩余的处理数据量以及预估剩余处理时长;每个处理中任务的预估剩余处理时长为该任务此时距离处理完成时间的时长距离;剩余最大处理时长为当前时刻,该任务距离其预先设定的最迟完成时间的时长距离;
新任务处理请求的历史调度决策为选择一台云服务器进行实时处理或选择一台云服务器进行排队处理中的任意一个,其中,历史调度决策为选择一台云服务器进行实时处理时,历史调度信息包括选择的云服务器的编号;
将新任务处理请求的编号标记为x;在云服务器集群接收到第x个新任务处理请求时,将第i台云服务器的已使用实时算力标记为Cix,将第i台云服务的已使用内存空间标记为Mix,将第i台云服务的处理中任务的任务集合标记为Rix,将每个处理中任务标记为rix,则对于每个处理中任务rix,将其分配的实时算力标记为Crix,将其分配的内存空间标记为Mrix,将其预估剩余处理时长标记为Trix,将其剩余的处理数据量标记为Yrix;将第i台云服务的排队中任务的任务集合标记为Aix,将每个排队中任务标记为aix,则对于每个排队中任务aix,将其待处理的数据量标记为Naix,将其剩余最大处理时长标记为Laix;
基于历史任务处理数据获得历史任务序列调度数据的方式为:
将每次接收新任务处理请求时的新任务处理请求对应的任务程序编号、每台云服务器的单服务器任务处理数据以及新任务处理请求的历史调度决策和历史调度信息的组合标记为一组历史调度数据;
从历史任务处理数据的所有历史调度数据中,筛选出历史调度信息为选择一台云服务器进行排队处理的历史调度数据;
筛选后得到的历史调度数据集合即为历史任务序列调度数据;
基于历史任务处理数据训练出预测任务处理时长的机器学习模型的方式为:
将所有历史调度数据中的所有处理中任务按照对应的任务程序编号进行分类;
对于每个任务程序编号Pjk,将其对应的所有的处理中任务rix的分配的实时算力Crix、分配的内存空间Mrix以及剩余的处理数据量Yrix作为机器学习模型的输入,该机器学习模型的输入以预估的处理时长为输出以每个处理中任务的预估剩余处理时长Trix作为预测目标,以最大化预测准确率作为训练目标,对机器学习模型进行训练,获得预测任务处理时长的机器学习模型;所述机器学习模型为深度神经网络模型;该机器学习模型的其他的模型参数,例如网络模型的深度、每层的神经元数量、网络模型使用的激活函数、收敛条件、训练集测试集验证集比例以及损失函数等均通过实际的工程实现,不断地进行实验调优后获得;
将任务程序编号Pjk对应的机器学习模型标记为VPjk;
将历史任务序列调度数据转化为深度强化学习模型所接收的四元组集合的方式为:
对于云服务器集群接收到第x次新任务处理请求时:
以此时所有云服务器的单服务器任务处理数据作为初始状态;
以选择的进行排队处理该新任务处理请求的云服务器的编号作为选择的动作;
计算此时选择动作后获得的奖励值Q,其中,奖励值Q的计算方式为:
若选择的云服务器完成该待调度任务请求的时间大于最迟完成时间或该云服务器的排队中任务中存在任务完成的时间大于该任务的最迟完成时间时,奖励值Q设置为-MAX;其中,MAX为预设的最大奖励值;
否则,奖励值Q的计算公式为:
其中,H=(α*(Ci-Cix)+β*(Mi-Mix));其中,α、β以及δ分别为预设的比例系数;
以选择动作后,所有云服务器的单服务器任务处理数据作为下一个状态;
则对于每次接收新任务处理请求,<初始状态、选择的动作、奖励值Q、下一个状态>作为其四元组;
所有新任务处理请求对应的四元组共同组成四元组集合;
基于四元组集合训练出对任务序列进行调度的深度强化学习模型的方式为:
将四元组集合作为深度强化学习模型的输入,该深度强化学习模型通过从四元组集合中随机抽取若干四元组进行训练,学习在不同的初始状态下,选择一台云服务器对新任务处理请求进行排队处理,以获得最大奖励值Q的策略;
判断是否存在实时处理服务器的方式为:
将待调度任务请求编号标记为x1;计算此时第i台云服务器的剩余实时算力Bix1以及剩余内存空间Eix1;其中,剩余实时算力Bix1的计算公式为Bix1=Ci-Cix1;剩余内存空间Eix1的计算公式为Eix1=Mi-Mix1;
若存在云服务器的剩余实时算力Bix1大于单任务最大供给算力DJ,以及剩余内存空间Eix1大于单任务最大供给内存Sj,则该云服务器作为实时处理服务器;保证了在条件允许下,客户能获得其该有的最高的算力和内存供给;
否则,将该调度任务请求的待处理数据量、每台云服务器i的剩余实时算力Bix1以及剩余内存空间Eix1分别输入至对应的机器学习模型VPjk中,获得每台云服务器预估的处理该待调度任务请求的时长;
从所有云服务器中选择处理该待调度任务请求的时长最短时长的云服务器,并计算该时长是否大于该待调度任务请求的剩余最大处理时长;若小于剩余最大处理时长,则将该云服务器作为实时处理服务器;若大于剩余最大处理时长,判断为不存在实时处理服务器。
与现有技术相比,本发明的有益效果是:
本发明通过预先收集云服务器集群基础数据、客户业务数据以及历史任务处理数据,再基于历史任务处理数据获得历史任务序列调度数据,并基于历史任务处理数据训练出预测任务处理时长的机器学习模型,将历史任务序列调度数据转化为深度强化学习模型所接收的四元组集合,并基于四元组集合训练出对任务序列进行调度的深度强化学习模型,在接收到待调度任务请求时,分析各台云服务器的资源占用情况,在云服务器的资源充足条件下,实时对待调度任务请求时,在云服务器的资源不充足时,利用深度强化学习模型,对该待调度任务请求调度生成智能调度策略,选择合适的云服务器进行任务排队;对任务紧急程度、客户优先级、云服务器资源利用率以及客户体验的综合考量,实现了任务请求的智能调度。
附图说明
图1为本发明实施例1中基于云计算技术的数据分析方法的流程图。
具体实施方式
下面将结合实施例对本发明的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
实施例1
如图1所示,基于云计算技术的数据分析方法,用于云服务器集群管理系统中,包括以下步骤:
步骤一:收集云服务器集群基础数据以及客户业务数据;
步骤二:收集云服务器集群的历史任务处理数据;
步骤三:基于历史任务处理数据获得历史任务序列调度数据,并基于历史任务处理数据训练出预测任务处理时长的机器学习模型;
步骤四:将历史任务序列调度数据转化为深度强化学习模型所接收的四元组集合,并基于四元组集合训练出对任务序列进行调度的深度强化学习模型;
步骤五:在云服务器集群接收到待调度任务请求时,实时收集云服务器集群的实时任务处理数据,根据实时任务处理数据和机器学习模型判断是否存在实时处理服务器,若存在实时处理服务器,将待调度任务请求发送至该实时处理服务器,若不存在实时处理服务器,执行步骤五;
步骤六:将实时任务处理数据转化四元组中的初始状态,并将初始状态输入至深度强化学习模型,获得对待调度任务请求进行调度的决策;
在一个优选的实施例中,所述云服务器集群基础数据包括云平台中每台云服务器的最大内存空间以及最大实时算力;需要说明的是,最大实时算力是指系统在单位时间内能够处理的最大计算量,通常以浮点运算次数(FLOPS)或每秒钟处理的指令数(IPS)为单位进行衡量;
进一步的,所述客户业务数据包括该云服务器集群中对应的每个客户的单任务最大供给内存、单任务最大供给算力以及任务程序列表;需要说明的是,单任务最大供给内存和单任务最大供给算力是根据客户购买云服务时与云服务提供商签订的具体合同而定;所述任务程序列表为每个客户所提供的用于执行数据处理任务的程序列表;可以理解的是,在云服务器中,每个程序或每个客户的程序集合使用容器进行打包,云服务器对于每个容器进行不同的编号以做区分;
将云服务器集合中每台云服务器的编号标记为i;将第i台云服务器的最大内存空间标记为Mi,将第i台云服务器的最大实时算力标记为Ci;
将客户的编号标记为j,将第j个客户的单任务最大供给内存标记为Sj,将第j个客户的单任务最大供给算力标记为Dj,将第j个客户的任务程序列表标记为Pj,将任务程序列表Pj中的每个任务程序编号标记为Pjk,其中,k为任务程序在任务程序列表Pj中的序号;
其中,所述历史任务处理数据包括在云服务器集群处理数据处理任务的历史中,每次接收到由客户发送的新任务处理请求时,收集的新任务处理请求对应的任务程序编号、每台云服务器的单服务器任务处理数据以及新任务处理请求的历史调度决策和历史调度信息;
可以理解的是,任务程序编号中已携带有客户的编号信息;
所述单服务器任务处理数据包括每台云服务器已使用实时算力、已使用内存空间、处理中任务的处理信息以及排队中任务的任务信息;其中,所述任务信息包括该任务的待处理的数据量以及剩余最大处理时长;所述处理信息包括处理中任务所分配的实时算力、分配的内存空间、剩余的处理数据量以及预估剩余处理时长;需要说明的是,处理中任务是指该云服务器当前正在处理的任务,排队中任务是指在该云服务器中正在排队等待处理的任务;可以理解的是,由于处理信息是历史数据,因此每个处理中任务的预估剩余处理时长即为该任务此时距离处理完成时间的时长距离;剩余最大处理时长为当前时刻,该任务距离其预先设定的最迟完成时间的时长距离;最迟完成时间由客户提交任务处理请求时根据该请求紧急程度自动生成;
新任务处理请求的历史调度决策为选择一台云服务器进行实时处理或选择一台云服务器进行排队处理中的任意一个,其中,历史调度决策为选择一台云服务器进行实时处理时,历史调度信息包括选择的云服务器的编号;
将新任务处理请求的编号标记为x;在云服务器集群接收到第x个新任务处理请求时,将第i台云服务器的已使用实时算力标记为Cix,将第i台云服务的已使用内存空间标记为Mix,将第f台云服务的处理中任务的任务集合标记为Rix,将每个处理中任务标记为rix,则对于每个处理中任务rix,将其分配的实时算力标记为Crix,将其分配的内存空间标记为Mrix,将其预估剩余处理时长标记为Trix,将其剩余的处理数据量标记为Yrix;将第i台云服务的排队中任务的任务集合标记为Aix,将每个排队中任务标记为aix,则对于每个排队中任务aix,将其待处理的数据量标记为Naix,将其剩余最大处理时长标记为Laix;
可以理解的是,每次接收新任务处理请求时,均可获得一组上述数据,所有新任务处理请求的上述数据组合成历史任务处理数据;
基于历史任务处理数据获得历史任务序列调度数据的方式为:
将每次接收新任务处理请求时的新任务处理请求对应的任务程序编号、每台云服务器的单服务器任务处理数据以及新任务处理请求的历史调度决策和历史调度信息的组合标记为一组历史调度数据;
从历史任务处理数据的所有历史调度数据中,筛选出历史调度信息为选择一台云服务器进行排队处理的历史调度数据;
筛选后得到的历史调度数据集合即为历史任务序列调度数据;
基于历史任务处理数据训练出预测任务处理时长的机器学习模型的方式为:
将所有历史调度数据中的所有处理中任务按照对应的任务程序编号进行分类;
对于每个任务程序编号Pjk,将其对应的所有的处理中任务rix的分配的实时算力Crix、分配的内存空间Mrix以及剩余的处理数据量Yrix作为机器学习模型的输入,该机器学习模型的输入以预估的处理时长为输出以每个处理中任务的预估剩余处理时长Trix作为预测目标,以最大化预测准确率作为训练目标,对机器学习模型进行训练,获得预测任务处理时长的机器学习模型;所述机器学习模型为深度神经网络模型;该机器学习模型的其他的模型参数,例如网络模型的深度、每层的神经元数量、网络模型使用的激活函数、收敛条件、训练集测试集验证集比例以及损失函数等均通过实际的工程实现,不断地进行实验调优后获得;
将任务程序编号Pjk对应的机器学习模型标记为VPjk;将历史任务序列调度数据转化为深度强化学习模型所接收的四元组集合的方式为:
对于云服务器集群接收到第x次新任务处理请求时:
以此时所有云服务器的单服务器任务处理数据作为初始状态;
以选择的进行排队处理该新任务处理请求的云服务器的编号作为选择的动作;
计算此时选择动作后获得的奖励值Q,其中,奖励值Q的计算方式为:
若选择的云服务器完成该待调度任务请求的时间大于最迟完成时间或该云服务器的排队中任务中存在任务完成的时间大于该任务的最迟完成时间时,奖励值Q设置为-MAX;其中,MAX为预设的最大奖励值;
否则,奖励值Q的计算公式为:
其中,H=(α*(Ci-Cix)+β*(Mi-Mix));其中,α、β以及δ分别为预设的比例系数;
可以理解的是,H标志第i台云服务器剩余的实时算力和实时内存空间,H越大,选择的概率越大,即Q越大;中,当存在某个处理中任务占据的实时算力和实时内存较大,且其预估剩余处理时长较短时,意味着存在一个即将完成的大任务,选择该云服务器的概率越大,即对Q值的正面影响较大;/>中,当存在某个等待中任务的处理量较大且剩余最大处理时长越小时,说明等待中任务的集合中存在一个较为紧急的大任务,选择该云服务器的概率越小,即对Q值的负面影响较大;
以选择动作后,所有云服务器的单服务器任务处理数据作为下一个状态;
则对于每次接收新任务处理请求,<初始状态、选择的动作、奖励值Q、下一个状态>作为其四元组;
所有新任务处理请求对应的四元组共同组成四元组集合;
基于四元组集合训练出对任务序列进行调度的深度强化学习模型的方式为:
将四元组集合作为深度强化学习模型的输入,该深度强化学习模型通过从四元组集合中随机抽取若干四元组进行训练,学习在不同的初始状态下,选择一台云服务器对新任务处理请求进行排队处理,以获得最大奖励值Q的策略;优选的,所述深度强化学习模型为深度Q网络;
所述实时任务处理数据包括在收集到待调度任务请求时,待调度任务请求对应的任务程序编号、所有云服务器的单服务器任务处理数据;
判断是否存在实时处理服务器的方式为:
获得待调度任务请求的任务程序编号Pjk;
将待调度任务请求编号标记为x1;计算此时第i台云服务器的剩余实时算力Bix1以及剩余内存空间Eix1;其中,剩余实时算力Bix1的计算公式为Bix1=Ci-Cix1;剩余内存空间Eix1的计算公式为Eix1=Mi-Mix1;
若存在云服务器的剩余实时算力Bix1大于单任务最大供给算力DJ,以及剩余内存空间Eix1大于单任务最大供给内存Sj,则该云服务器作为实时处理服务器;保证了在条件允许下,客户能获得其该有的最高的算力和内存供给;
否则,将该调度任务请求的待处理数据量、每台云服务器i的剩余实时算力Bix1以及剩余内存空间Eix1分别输入至对应的机器学习模型VPjk中,获得每台云服务器预估的处理该待调度任务请求的时长;
从所有云服务器中选择处理该待调度任务请求的时长最短时长的云服务器,并计算该时长是否大于该待调度任务请求的剩余最大处理时长;若小于剩余最大处理时长,则将该云服务器作为实时处理服务器;若大于剩余最大处理时长,说明当前不存在能立刻执行该待调度任务的云服务器,因此,判断为不存在实时处理服务器;通过对所有云服务器的剩余算力和剩余内存进行评估,保证每个任务在条件允许下,得以实时获得处理,提高客户的云服务体验;
将实时任务处理数据转化四元组中的初始状态的方式为:
以此时刻所有云服务器的单服务器任务处理数据作为初始状态。
以上实施例仅用以说明本发明的技术方法而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方法进行修改或等同替换,而不脱离本发明技术方法的精神和范围。
Claims (9)
1.基于云计算技术的数据分析方法,其特征在于,包括以下步骤:
收集云服务器集群基础数据以及客户业务数据;
收集云服务器集群的历史任务处理数据;
基于历史任务处理数据获得历史任务序列调度数据,并基于历史任务处理数据训练出预测任务处理时长的机器学习模型;
将历史任务序列调度数据转化为深度强化学习模型所接收的四元组集合,并基于四元组集合训练出对任务序列进行调度的深度强化学习模型;
在云服务器集群接收到待调度任务请求时,实时收集云服务器集群的实时任务处理数据,根据实时任务处理数据和机器学习模型判断是否存在实时处理服务器;
若存在实时处理服务器,将待调度任务请求发送至该实时处理服务器,
若不存在实时处理服务器,将实时任务处理数据转化四元组中的初始状态,并将初始状态输入至深度强化学习模型,获得对待调度任务请求进行调度的决策。
2.根据权利要求1所述的基于云计算技术的数据分析方法,其特征在于,所述云服务器集群基础数据包括云平台中每台云服务器的最大内存空间以及最大实时算力。
3.根据权利要求2所述的基于云计算技术的数据分析方法,其特征在于,所述客户业务数据包括该云服务器集群中对应的每个客户的单任务最大供给内存、单任务最大供给算力以及任务程序列表;所述任务程序列表为每个客户所提供的用于执行数据处理任务的程序列表。
4.根据权利要求3所述的基于云计算技术的数据分析方法,其特征在于,所述历史任务处理数据包括在云服务器集群处理数据处理任务的历史中,每次接收到由客户发送的新任务处理请求时,收集的新任务处理请求对应的任务程序编号、每台云服务器的单服务器任务处理数据以及新任务处理请求的历史调度决策和历史调度信息;
所述单服务器任务处理数据包括每台云服务器已使用实时算力、已使用内存空间、处理中任务的处理信息以及排队中任务的任务信息;其中,所述任务信息包括该任务的待处理的数据量以及剩余最大处理时长;所述处理信息包括处理中任务所分配的实时算力、分配的内存空间、剩余的处理数据量以及预估剩余处理时长;每个处理中任务的预估剩余处理时长为该任务此时距离处理完成时间的时长距离;剩余最大处理时长为当前时刻,该任务距离其预先设定的最迟完成时间的时长距离;
新任务处理请求的历史调度决策为选择一台云服务器进行实时处理或选择一台云服务器进行排队处理中的任意一个,其中,历史调度决策为选择一台云服务器进行实时处理时,历史调度信息包括选择的云服务器的编号。
5.根据权利要求4所述的基于云计算技术的数据分析方法,其特征在于,基于历史任务处理数据获得历史任务序列调度数据的方式为:
将每次接收新任务处理请求时的新任务处理请求对应的任务程序编号、每台云服务器的单服务器任务处理数据以及新任务处理请求的历史调度决策和历史调度信息的组合标记为一组历史调度数据;
从历史任务处理数据的所有历史调度数据中,筛选出历史调度信息为选择一台云服务器进行排队处理的历史调度数据;
筛选后得到的历史调度数据集合即为历史任务序列调度数据。
6.根据权利要求5所述的基于云计算技术的数据分析方法,其特征在于,基于历史任务处理数据训练出预测任务处理时长的机器学习模型的方式为:
将客户的编号标记为j,将第j个客户的单任务最大供给内存标记为Sj,将第j个客户的单任务最大供给算力标记为Dj,将第j个客户的任务程序列表标记为Pj,将任务程序列表Pj中的每个任务程序编号标记为Pjk,其中,k为任务程序在任务程序列表Pj中的序号;
将新任务处理请求的编号标记为x;在云服务器集群接收到第x个新任务处理请求时,将第i台云服务的处理中任务的任务集合标记为Rix,将每个处理中任务标记为rix,则对于每个处理中任务rix,将其分配的实时算力标记为Crix,将其分配的内存空间标记为Mrix,将其预估剩余处理时长标记为Trix,将其剩余的处理数据量标记为Yrix;
将所有历史调度数据中的所有处理中任务按照对应的任务程序编号进行分类;
对于每个任务程序编号Pjk,将其对应的所有的处理中任务rix的分配的实时算力Crix、分配的内存空间Mrix以及剩余的处理数据量Yrix作为机器学习模型的输入,该机器学习模型的输入以预估的处理时长为输出,以每个处理中任务的预估剩余处理时长Trix作为预测目标,以最大化预测准确率作为训练目标,对机器学习模型进行训练,获得预测任务处理时长的机器学习模型;
将任务程序编号Pjk对应的机器学习模型标记为VPjk。
7.根据权利要求6所述的基于云计算技术的数据分析方法,其特征在于,将历史任务序列调度数据转化为深度强化学习模型所接收的四元组集合的方式为:
将云服务器集合中每台云服务器的编号标记为i;将第i台云服务器的最大内存空间标记为Mi,将第i台云服务器的最大实时算力标记为Ci;
在云服务器集群接收到第x个新任务处理请求时,将第i台云服务器的已使用实时算力标记为Cix,将第i台云服务的已使用内存空间标记为Mix,将第i台云服务的排队中任务的任务集合标记为Aix,将每个排队中任务标记为aix,则对于每个排队中任务aix,将其待处理的数据量标记为Naix,将其剩余最大处理时长标记为Laix;
对于云服务器集群接收到第x次新任务处理请求时:
以此时所有云服务器的单服务器任务处理数据作为初始状态;
以选择的进行排队处理该新任务处理请求的云服务器的编号作为选择的动作;
计算此时选择动作后获得的奖励值Q,其中,奖励值Q的计算方式为:
若选择的云服务器完成该待调度任务请求的时间大于最迟完成时间或该云服务器的排队中任务中存在任务完成的时间大于该任务的最迟完成时间时,奖励值Q设置为-MAX;其中,MAX为预设的最大奖励值;
否则,奖励值Q的计算公式为:
其中,H=(α*(Ci-Cix)+β*(Mi-Mix));其中,α、β以及δ分别为预设的比例系数;
以选择动作后,所有云服务器的单服务器任务处理数据作为下一个状态;
则对于每次接收新任务处理请求,<初始状态、选择的动作、奖励值Q、下一个状态>作为其四元组;
所有新任务处理请求对应的四元组共同组成四元组集合。
8.根据权利要求7所述的基于云计算技术的数据分析方法,其特征在于,基于四元组集合训练出对任务序列进行调度的深度强化学习模型的方式为:
将四元组集合作为深度强化学习模型的输入,该深度强化学习模型通过从四元组集合中随机抽取若干四元组进行训练,学习在不同的初始状态下,选择一台云服务器对新任务处理请求进行排队处理,以获得最大奖励值Q的策略。
9.根据权利要求8所述的基于云计算技术的数据分析方法,其特征在于,判断是否存在实时处理服务器的方式为:
获得待调度任务请求的任务程序编号Pjk;
将待调度任务请求编号标记为x1;计算此时第i台云服务器的剩余实时算力Bix1以及剩余内存空间Eix1;其中,剩余实时算力Bix1的计算公式为Bix1=Ci-Cix1;剩余内存空间Eix1的计算公式为Eix1=Mi-Mix1;
若存在云服务器的剩余实时算力Bix1大于单任务最大供绐算力DJ,以及剩余内存空间Eix1大于单任务最大供给内存Sj,则该云服务器作为实时处理服务器;
否则,将该调度任务请求的待处理数据量、每台云服务器i的剩余实时算力Bix1以及剩余内存空间Eix1分别输入至对应的机器学习模型VPjk中,获得每台云服务器预估的处理该待调度任务请求的时长;
从所有云服务器中选择处理该待调度任务请求的时长最短时长的云服务器,并计算该时长是否大于该待调度任务请求的剩余最大处理时长;若小于剩余最大处理时长,则将该云服务器作为实时处理服务器;若大于剩余最大处理时长,判断为不存在实时处理服务器。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310585326.4A CN116661962B (zh) | 2023-05-23 | 2023-05-23 | 基于云计算技术的数据分析方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310585326.4A CN116661962B (zh) | 2023-05-23 | 2023-05-23 | 基于云计算技术的数据分析方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116661962A true CN116661962A (zh) | 2023-08-29 |
CN116661962B CN116661962B (zh) | 2024-02-23 |
Family
ID=87721704
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310585326.4A Active CN116661962B (zh) | 2023-05-23 | 2023-05-23 | 基于云计算技术的数据分析方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116661962B (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20200311573A1 (en) * | 2019-04-01 | 2020-10-01 | Accenture Global Solutions Limited | Utilizing a machine learning model to predict a quantity of cloud resources to allocate to a customer |
CN111966484A (zh) * | 2020-06-23 | 2020-11-20 | 北京大学 | 一种基于深度强化学习的集群资源管理和任务调度方法及系统 |
CN112600759A (zh) * | 2020-12-10 | 2021-04-02 | 东北大学 | 基于深度强化学习在Overlay网络下多路径流量调度方法及系统 |
CN113094159A (zh) * | 2021-03-22 | 2021-07-09 | 西安交通大学 | 一种数据中心作业调度方法、系统、存储介质及计算设备 |
US20220046639A1 (en) * | 2019-04-24 | 2022-02-10 | Huawei Technologies Co., Ltd. | Communication Method and Communications Apparatus |
CN115495222A (zh) * | 2022-10-28 | 2022-12-20 | 赖汝珍 | 基于深度学习和大数据的云计算系统 |
CN115794337A (zh) * | 2022-11-14 | 2023-03-14 | 北京百度网讯科技有限公司 | 资源调度方法、装置、云平台、设备及存储介质 |
-
2023
- 2023-05-23 CN CN202310585326.4A patent/CN116661962B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20200311573A1 (en) * | 2019-04-01 | 2020-10-01 | Accenture Global Solutions Limited | Utilizing a machine learning model to predict a quantity of cloud resources to allocate to a customer |
US20220046639A1 (en) * | 2019-04-24 | 2022-02-10 | Huawei Technologies Co., Ltd. | Communication Method and Communications Apparatus |
CN111966484A (zh) * | 2020-06-23 | 2020-11-20 | 北京大学 | 一种基于深度强化学习的集群资源管理和任务调度方法及系统 |
CN112600759A (zh) * | 2020-12-10 | 2021-04-02 | 东北大学 | 基于深度强化学习在Overlay网络下多路径流量调度方法及系统 |
CN113094159A (zh) * | 2021-03-22 | 2021-07-09 | 西安交通大学 | 一种数据中心作业调度方法、系统、存储介质及计算设备 |
CN115495222A (zh) * | 2022-10-28 | 2022-12-20 | 赖汝珍 | 基于深度学习和大数据的云计算系统 |
CN115794337A (zh) * | 2022-11-14 | 2023-03-14 | 北京百度网讯科技有限公司 | 资源调度方法、装置、云平台、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN116661962B (zh) | 2024-02-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107888669B (zh) | 一种基于深度学习神经网络的大规模资源调度系统及方法 | |
CN110737529B (zh) | 一种面向短时多变大数据作业集群调度自适应性配置方法 | |
CN110096349A (zh) | 一种基于集群节点负载状态预测的作业调度方法 | |
CN102724103B (zh) | 代理服务器、分层次网络系统及分布式工作负载管理方法 | |
CN108874538B (zh) | 用于调度量子计算机的调度服务器、调度方法及应用方法 | |
CN110389820B (zh) | 一种基于v-TGRU模型进行资源预测的私有云任务调度方法 | |
CN109992404A (zh) | 集群计算资源调度方法、装置、设备及介质 | |
CN104065745A (zh) | 云计算动态资源调度系统和方法 | |
CN111026553B (zh) | 离线混部作业的资源调度方法及服务器系统 | |
CN109857535B (zh) | 面向Spark JDBC的任务优先级控制的实现方法及装置 | |
CN110751411B (zh) | 一种面向云制造任务的制造资源匹配方法 | |
CN112685153A (zh) | 微服务调度方法、装置以及电子设备 | |
WO2023124947A1 (zh) | 一种任务处理方法、装置及相关设备 | |
CN115934333A (zh) | 基于历史数据感知的云计算资源调度方法及调度系统 | |
CN109947532A (zh) | 一种教育云平台中的大数据任务调度方法 | |
CN115543577B (zh) | 基于协变量的Kubernetes资源调度优化方法、存储介质及设备 | |
CN104680302A (zh) | 一种体检导检方法及装置 | |
CN115168027A (zh) | 一种基于深度强化学习的算力资源度量方法 | |
CN111651266A (zh) | 基于Hadoop集群资源管理的方法、装置、设备及存储介质 | |
CN105491079B (zh) | 云计算环境中调整应用所需资源的方法及装置 | |
CN116185584A (zh) | 一种基于深度强化学习的多租户数据库资源规划与调度方法 | |
CN108132840A (zh) | 一种分布式系统中的资源调度方法及装置 | |
CN112231081B (zh) | 云环境下基于pso-ahp的单调速率资源调度方法及系统 | |
CN111813524B (zh) | 一种任务执行方法、装置、电子设备和存储介质 | |
CN116661962B (zh) | 基于云计算技术的数据分析方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |