CN105635285B - 一种基于状态感知的vm迁移调度方法 - Google Patents

一种基于状态感知的vm迁移调度方法 Download PDF

Info

Publication number
CN105635285B
CN105635285B CN201511023748.4A CN201511023748A CN105635285B CN 105635285 B CN105635285 B CN 105635285B CN 201511023748 A CN201511023748 A CN 201511023748A CN 105635285 B CN105635285 B CN 105635285B
Authority
CN
China
Prior art keywords
sequencing table
migration
resource
sequencing
type
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201511023748.4A
Other languages
English (en)
Other versions
CN105635285A (zh
Inventor
徐建
陈昊
张宏
陈龙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Science and Technology
Original Assignee
Nanjing University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Science and Technology filed Critical Nanjing University of Science and Technology
Priority to CN201511023748.4A priority Critical patent/CN105635285B/zh
Publication of CN105635285A publication Critical patent/CN105635285A/zh
Application granted granted Critical
Publication of CN105635285B publication Critical patent/CN105635285B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/14Session management
    • H04L67/148Migration or transfer of sessions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • H04L67/1012Server selection for load balancing based on compliance of requirements or conditions with available server resources

Abstract

本发明提供一种基于状态感知的VM迁移调度方法,包括以下步骤:步骤1,实时地采集物理机PM和虚拟机VM的状态信息;步骤2,基于资源消耗顺序对VM进行排序以确定待迁移VM;步骤3,采用模拟退火算法为每个待迁移VM确定目的地以及迁移路径;步骤4,设计交换路径实现最大的并行迁移。

Description

一种基于状态感知的VM迁移调度方法
技术领域
本发明涉及一种虚拟化技术,特别是一种基于状态感知的VM迁移调度方法。
背景技术
云计算是虚拟化(Virtualization)、网格计算(GridComputing)、分布式计算(DistributedComputing)、并行计算(Parallel Computing)等计算机和网络技术发展结合的产物。虚拟化技术是支持云计算的核心技术。虚拟化有许多好处,它可以实现应用环境隔离,提高计算机资源利用率,便于服务器的整合以及可进行合理的资源分配和均衡负载。服务器虚拟化技术可以使一个物理服务器虚拟成若干个服务器使用。负载失衡会导致系统吞吐率降低,甚至会造成某些服务或VM负载过大,无法及时提供服务,影响用户体验。
在云计算系统利用服务器虚拟化,不仅需要实现服务器的多实例、隔离性等功能,还需要提高服务器物理资源的利用率,保证良好的可靠性和安全性,实现云计算系统的负载均衡和故障恢复功能,那么就需要实现对节点状态的监控和资源管理,说到管理,便用到了虚拟机(Virtual Machine,VM)的动态迁移。
VM动态迁移是将运行中的VM从一台物理机(Physical Machine,PM)迁移到另一台PM上,在迁移的过程中要保证VM上运行的应用能够正常运行不受影响。利用VM迁移技术能够改善云计算系统的性能,使得系统资源分配更加灵活。
当前对于数据中心虚拟机迁移调度有许多的学者进行了深入的研究,CLARK C等人提出了一种改进的遗传算法来调度虚拟机(CLARK C,FRASER K,HAND S,et al.Livemigration of virtual machines[C].Proc of the 2nd Symposium on NetworkedSystems Design&Implementation.Berkeley:USENIX Association,2005:273-286.)。遗传算法是模拟进化论的自然选择和遗传学机理的进化过程的一种计算模型,是一种启发式的通过模拟进化过程来搜索最优解的方法,已经证明,在集合中寻找一组最优解是NP问题,我们只能找到一个近似全局最优解。除了遗传算法,有关于调度的算法还有Sufferage算法,Min-Min调度算法,Max-Min调度算法,以及模拟退火算法(Simulated AnnealingAlgorithm,SA算法)。但就目前的迁移调度算法来说,迁移时间和负载均衡很难合理兼顾,同时还要使系统开销尽可能的小。
随着数据中心需求的日益增加,数据中心的VM数量也随之越来越多,在大规模VM集群系统中,VM的迁移调度就感受到了较大的压力。该方法希望在某一时刻一系列的迁移请求中,能够很好的找到每一台VM的目的VM,并且使得整个数据中心的PM都能够处在一个良好的运行环境中,让整个数据中心的集群系统负载更均衡。基于此,总的迁移路线还需要尽可能的短,防止在迁移过程中不必要的浪费,最终使得迁移时间和负载均衡能很好的兼顾,并具有较小的迁移开销。
发明内容
本发明的目的在于以采用虚拟化技术的云计算系统为研究对象,采用节点监控的方式,提供一种状态感知的VM迁移调度方法用于提升虚拟机迁移性能,让整个数据中心负载更均衡,为节点的状态管理提供决策支持。
实现本发明目的的技术解决方案为:一种基于状态感知的VM迁移调度方法,步骤如下:
第一步,状态感知,即利用节点监控系统CVM实时地采集和分析物理机PM和虚拟机VM的状态信息;
第二步,确定待迁移VM队列,即设计资源排序策略根据资源消耗情况对VM进行排序以确定待迁移VM;
第三步,建立迁移路径,即采用了模拟退火算法为每个待迁移VM确定目的地以及迁移路径;
第四步,路径交换,即设计路径交换策略实现最大的并行迁移,从而在最短的迁移时间完成迁移请求,实现系统负载均衡。
本发明与现有技术相比,具有显著优点:(1)VM迁移优化过程中融合了状态感知获取的状态信息,更加准确;(2)采用的模拟退火算法能优化迁移目的地和迁移路径选择,缩短迁移路径,实现负载均衡;(3)采用的路径交换策略,能提高资源使用率,提升并发迁移的VM数目,降低迁移时间。
下面结合附图对本发明作进一步详细描述。
附图说明
图1基于状态感知的VM迁移调度方法流程图;
图2是节点监控系统体系结构示意图;
图3是路径交换示意图。
具体实施方式
结合图1,阐述本发明基于状态感知的VM迁移调度方法,步骤如下:
第一步:状态感知,结合图2阐述节点状态的采集与存储过程。
步骤1:采集节点状态。状态感知监控系统包含有一个管理监控节点CVMan,多个集群监控节点CVClu以及在每个物理机PM上部署的CVMon守护进程。CVMan相当于系统的根节点,它负责采集CVClu中的集群信息,包含系统的构成关系,通过查询集群信息能够快速得到VM到PM,PM到集群的映射,进而得到CVMon和CVClu的访问地址,使得用户可以通过这些地址得到相应的监控信息CVMan中。CVClu相当于系统的中间节点,它负责采集集群中所有PM和VM的信息,并传递给CVMan,出于健壮性考虑,每个集群中有一个主CVClu和多个备用CVClu,备用的和主CVClu中的信息是一样的,只有当主CVClu访问失效时,才会访问备用CVClu。CVMon是一个守护进程,它部署在每个需要监控的PM上,是系统中最基本的监控单元,主要负责收集PM以及运行在其上的VM的状态信息,并将监控到的状态信息通过组播的方式发送给相应的CVClu。
步骤2:采集链路状态信息。由CVMan获取全局的链路状态信息,并对系统的链路状态信息进行存储和管理。
第二步,确定待迁移VM队列,步骤如下:
步骤1:建立资源排序表。设计由四种不同类型资源的资源消耗排序表,包括CPU资源消耗排序表,硬盘资源消耗排序表,内存资源消耗排序表以及网络资源消耗排序表,其中的值分别表示单位时间消耗的CPU时间片个数,单位时间内消耗的内存总量,单位时间内消耗的硬盘总量和单位时间内消耗的网络带宽量。每种类型资源的排序过程类似,因此以内存资源作为例子,阐述排序表建立过程。
步骤1.1建立子表Sublist,它是按照从大到小的有序数组,数组中每个元素代表一个内存消耗值,即假设Sublist有m个元素Value1,Value2,...则对于任意1≤i1<i2≤m1,有若存在多个内存消耗子表Sublist1,Sublist2,......对于任意的1≤i3<i4≤m2,都有即前者中的元素都不会小于后者中的。
步骤1.2排序表更新,当CVMan采集到集群状态信息,需要对排序表进行更新,分为新增、删除、变更操作。CVMan从集群接收到集群状态信息,查看是否有添加(删除或更新)VM的操作,若有的话执行新增(删除或变更)操作。定义函数Position locVal(double value)用于返回参数value所在的位置信息,其中Position是一个结构体,表1给出了其成员变量的含义,并且在不同操作下Position中成员变量的含义也不同,见表2。
表1 Position成员变量
若为新增操作,则将相应的内存消耗值进行插入排序操作。假设新增加的数值为v,则:
(1)执行locVal(v),得到插入的位置信息。令i=position.iSubl,j=position.iBit;
(2)插入,将v值插入到内存消耗总表第i个Sublist的第j个位置;
(3)插入后,Sublisti中的元素个数大于每个Sublist限定的最大元素个数N个,则需要对Sublisti进行分裂(平均分裂:分裂成两个数量相等的sublist;随机数分裂:在0到N中随机产生一个整数,作为其中一个sublist的元素个数),使得所有Sublist符合内存消耗总表的性质,即(1)排序表中元素按照从大到小的顺序排列,(2)排序表中的元素个数不大于N,和(3)相邻排序表的元素个数之和不小于
若为删除操作,则将相应的内存消耗值进行删除排序操作。假设删除的数值为v,则:
(1)执行locVal(v),得到待删除的位置信息;
(2)若position=NULL,说明不存在要求删除的值,返回删除错误的信息;
(3)令i=position.iSubl,j=position.iBit;
(4)删除,将内存消耗总表第i个Sublist的第j个位置的值删除;
(5)删除后,Sublisti中的元素个数为0或者与相邻的Sublist的元素个数的和小于则需要对Sublisti及其相邻的Sublist进行合并操作。判断与Sublisti-1合并是否符合要求,若符合,则合并,否则判断与Sublisti+1合并是否符合要求。从而保证所有Sublist符合内存消耗总表的性质,即(1)排序表中元素按照从大到小的顺序排列,(2)排序表中的元素个数不大于N。
若为变更操作,则将相应的内存消耗值进行更新排序操作。先将原本的数据oldValue执行一次删除操作,再将新数据newValue执行一次插入操作。
步骤2:建立待迁移VM队列。
步骤2.1确定资源负载不均衡的PM。设共有N个PM上,第i个PM有Ni个VM,用VMij表示第i个PM上的第j个VM,其中1≤i≤N,1≤j≤Ni,而VMij的负载表示为LVMij。则第i个PM的负载LPMi计算所有PM的可用资源来衡量负载是否均衡。令PMi的总容量为Ti,则剩余容量是ri=Ti-LPMi,所有PM的平均剩余容量为令σ(s)是PM的剩余容量的标准差,s为VM的一种放置方案,则σ(s)越小,说明系统的负载均衡性越好。一旦σ(r)值超过预先定义的阈值δ,则表示系统处于负载不均衡状态,找出的PM作为资源不平衡的PM,即待迁移VM的宿主来源。
步骤2.2确定待迁移VM。不失一般性,设PMi负载不平衡,按照资源排序表,从大到小的选择VM,使得迁移后,PMi的剩余容量
第三步,建立迁移路径。根据迁移VM队列,采用模拟退火算法得到迁移队列中每个VM的目的VM的位置,并得到每个迁移VM的迁移路径,从而实现负载均衡。
步骤1:定义了一个名为VM_WAIT的类,里面包含了两个属性:srcVm和destVm,分别表示迁移的源VM和目的VM,用于记录迁移信息;定义名为VM_RUN类,用于记录正处于迁移状态的VM信息,包含的属性有srcVm,destVm,endTime,line,分别表示迁移的源VM,目的VM,结束的时间和迁移的路径。
步骤2:寻找初始解。设数据中心所有的PM能放置的VM类型为{1,2,...,k,...,K},且类型为k的VM可以作为任意类型值小于k的VM的迁移目的。因此,将初始解设定为能容纳待迁移类型为k的VM,且空闲的VM。
步骤3:寻找最优解。采用宽度优先的搜索方法,从当前解中任意选择n个迁移目标VM(将待迁移VM的个数设为n,n过大的话,算法会执行的很慢,一般不超过4),并用空闲的同类型VM去代替它,得到新的解,若满足条件Δp=∑|vmNum-AVE|,其中AVE表示该集群系统中所有的VM数除以总的PM数,vmNum表示每台PM上实际的VM个数。Δp越小,整个系统越接近负载平衡状态,表示新的解比当前解更优,接受它作为新的解,否则仍采用当前解。将最优解的信息保存在类VM_WAIT的对象和类VM_RUN的对象中。
采用“以一定概率接受新解作为最优解”代替“舍弃新解”,若满足退火算法退出条件,步骤3结束,否则重复执行步骤三。
第四步,路径交换。采用路径交换策略,交换迁移路径,提升迁移的并发性,缩短迁移总时间。
步骤1:查找可交换路径。结合图3,阐述可交换路径。假设有两条路径:PM1→PM2→PM3→PM4→PM5,PM6→PM4→PM3→PM2→PM7。当PM1和PM6上需要迁移的VM的类型相同时,如果不执行路径交换,那么只能是先执行PM1→PM5的迁移,再执行PM6→PM7的迁移,迁移的总时间将会增加一倍。若交换交换路径的后半段,使得形成这样两条新的路径:PM1→PM2→PM7和PM6→PM4→PM3→PM2→PM3→PM4→PM5,然后去掉第二条路径的自环,得到两条新的路径PM1→PM2→PM7和PM6→PM4→PM5。这样的交换不仅不会影响整个系统的负载均衡,而且能缩短迁移时间。
步骤2:变更迁移路径。一旦查找到可交换路径,则改写对应的类VM_RUN的对象中line信息项。

Claims (9)

1.一种基于状态感知的VM迁移调度方法,其特征在于,包括以下步骤:
步骤1,实时地采集物理机PM和虚拟机VM的状态信息;
步骤2,基于资源消耗顺序对VM进行排序以确定待迁移VM;
步骤3,采用模拟退火算法为每个待迁移VM确定目的地以及迁移路径;
步骤4,设计交换路径实现最大的并行迁移;
步骤2包括:
建立虚拟机VM的不同类型资源的资源消耗排序表Sublistn,n为资源类型索引值,所述该表中的元素表示该类型资源消耗值,该排序表中的元素按照从大到小的顺序排列,其中为该排序表内元素的索引值,为该排序表中元素的总数,对于任意
设定Sublistn最大元素个数为N;
对排序表进行更新,所述更新包括对排序表中元素的新增、删除和变更,更新后的排序表满足:(1)排序表中元素按照从大到小的顺序排列,和(2)排序表中的元素个数不大于N;
对资源负载不均衡的物理机PM,按照资源排序表,从大到小的选择VM,确定待迁移VM队列;
VM迁移后,排序表满足:(1)排序表中元素按照从大到小的顺序排列,和(2)排序表中的元素个数不大于N。
2.根据权利要求1所述的方法,其特征在于,对更新后的排序表,若一排序表中元素个数大于N,对该排序表进行分裂操作,分列操作后的排序表满足:(1)排序表中元素按照从大到小的顺序排列,和(2)排序表中的元素个数不大于N。
3.根据权利要求1或2所述的方法,其特征在于,对一类型资源若存在的若干个资源消耗排序表对于任意的1≤i3<i4≤m2,都有
4.根据权利要求1所述的方法,其特征在于,对更新后的排序表,若一排序表中元素个数大于N,对该排序表进行分裂操作,分列操作后的排序表满足:(1)排序表中元素按照从大到小的顺序排列,(2)排序表中的元素个数不大于N,和(3)相邻排序表的元素个数之和不小于
5.根据权利要求3所述的方法,其特征在于,若对排序表中的元素进行删除后一排序表中的元素个数为0或者与相邻的排序表间的元素个数的和小于则需要对该排序表及其相邻的排序表进行合并操作,操作后的排序表满足:(1)排序表中元素按照从大到小的顺序排列,和(2)排序表中的元素个数不大于N。
6.根据权利要求1所述的方法,其特征在于,所述物理机PM资源负载不均衡的判断方法为:
对PMp对应的第q个VMpq,其负载为LVMpq,则第p个PMp的负载LPMp其中Np为PM的个数;
设PMp的总容量为Tp,则剩余容量是rp=Tp-LPMp,所有PM的平均剩余容量为令σ(s)是PM的剩余容量的标准差,s为VM的一种放置方案,则
遍历出的PM作为资源不平衡的PM。
7.根据权利要求1所述的方法,其特征在于,所述步骤3的具体过程为:
步骤3.1,记录迁移的源VM和目的VM,记录正处于迁移状态的VM信息,包含结束的时间和迁移的路径;
步骤3.2,对类型为k的VM作为任意类型值小于k的VM的迁移目的,设定容纳待迁移类型为k的VM为初始解,该初始解为空闲的VM,其中所有的PM能放置的VM类型为{1,2,...,k,...,K};
步骤3.3:采用宽度优先的搜索方法,从当前初始解中任意选择n个迁移目标VM,采用空闲的同类型VM代替选择的n个迁移目标VM,得到新的解,其中n≤4;
步骤3.4,对于新解,若Δp=∑|vmNum-AVE|最小,保存最小Δp对应的VM;若新解对应的Δp大于初始解对应的Δp,舍弃新解;其中AVE表示所有的VM数除以总的PM数,vmNum表示每台PM上实际的VM个数。
8.根据权利要求7所述的方法,其特征在于,在步骤3.4中采用“以一定概率接受新解作为最优解”代替“舍弃新解”,若满足退火算法退出条件,步骤3结束,否则重复执行步骤3.3和步骤3.4。
9.根据权利要求1所述的方法,其特征在于,步骤4的具体过程为:
对于不同PM上待迁移的相同类型的VM,若其源VM和目的VM之间的路径存在相同一段,则不同的路径相互交换,且交换后的每一条路径短于原路径。
CN201511023748.4A 2015-12-30 2015-12-30 一种基于状态感知的vm迁移调度方法 Active CN105635285B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201511023748.4A CN105635285B (zh) 2015-12-30 2015-12-30 一种基于状态感知的vm迁移调度方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201511023748.4A CN105635285B (zh) 2015-12-30 2015-12-30 一种基于状态感知的vm迁移调度方法

Publications (2)

Publication Number Publication Date
CN105635285A CN105635285A (zh) 2016-06-01
CN105635285B true CN105635285B (zh) 2018-12-14

Family

ID=56049757

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201511023748.4A Active CN105635285B (zh) 2015-12-30 2015-12-30 一种基于状态感知的vm迁移调度方法

Country Status (1)

Country Link
CN (1) CN105635285B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106681815A (zh) * 2016-12-27 2017-05-17 中山大学 一种虚拟机并发迁移方法
CN107491352B (zh) * 2017-08-22 2020-09-08 郑州云海信息技术有限公司 一种资源调度方法及装置
CN110753072B (zh) * 2018-07-24 2022-06-03 阿里巴巴集团控股有限公司 负载均衡系统、方法、装置及设备
CN109857366B (zh) * 2019-02-20 2021-06-22 武汉轻工大学 基于外存的插入排序方法、系统、设备及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010057775A2 (en) * 2008-11-20 2010-05-27 International Business Machines Corporation Method and apparatus for power-efficiency management in a virtualized cluster system
CN102096461A (zh) * 2011-01-13 2011-06-15 浙江大学 基于虚拟机迁移和负载感知整合的云数据中心节能方法
CN102984137A (zh) * 2012-11-14 2013-03-20 江苏南开之星软件技术有限公司 一种基于多目标遗传算法下的多目标服务器调度方法
CN103023799A (zh) * 2011-09-27 2013-04-03 日电(中国)有限公司 用于虚拟机迁移的中央控制器和虚拟机迁移方法
CN103617076A (zh) * 2013-10-31 2014-03-05 中兴通讯股份有限公司 一种虚拟化资源的调度方法和系统及服务端
CN104008001A (zh) * 2014-05-26 2014-08-27 国家电网公司 用于大数据支撑的虚拟机动态迁移算法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2010057775A2 (en) * 2008-11-20 2010-05-27 International Business Machines Corporation Method and apparatus for power-efficiency management in a virtualized cluster system
CN102096461A (zh) * 2011-01-13 2011-06-15 浙江大学 基于虚拟机迁移和负载感知整合的云数据中心节能方法
CN103023799A (zh) * 2011-09-27 2013-04-03 日电(中国)有限公司 用于虚拟机迁移的中央控制器和虚拟机迁移方法
CN102984137A (zh) * 2012-11-14 2013-03-20 江苏南开之星软件技术有限公司 一种基于多目标遗传算法下的多目标服务器调度方法
CN103617076A (zh) * 2013-10-31 2014-03-05 中兴通讯股份有限公司 一种虚拟化资源的调度方法和系统及服务端
CN104008001A (zh) * 2014-05-26 2014-08-27 国家电网公司 用于大数据支撑的虚拟机动态迁移算法

Also Published As

Publication number Publication date
CN105635285A (zh) 2016-06-01

Similar Documents

Publication Publication Date Title
CN110301128B (zh) 基于学习的资源管理数据中心云架构的实现方法
US20200287961A1 (en) Balancing resources in distributed computing environments
Ismaeel et al. Proactive dynamic virtual-machine consolidation for energy conservation in cloud data centres
CN108009016B (zh) 一种资源负载均衡控制方法及集群调度器
US8862744B2 (en) Optimizing traffic load in a communications network
US11715025B2 (en) Method for forecasting distributed resource utilization in a virtualization environment
US9805140B2 (en) Striping of directed graphs and nodes with improved functionality
US9471657B1 (en) Range query capacity allocation
US10171382B2 (en) Mechanism of identifying available memory resources in a network of multi-level memory modules
CN105635285B (zh) 一种基于状态感知的vm迁移调度方法
CN104854563A (zh) 资源使用的自动分析
US9354914B2 (en) Storage system
US8892728B2 (en) Automatic zone-based management of a data center
US9602590B1 (en) Shadowed throughput provisioning
CN106681839B (zh) 弹性计算动态分配方法
US20150248245A1 (en) Storage system, management computer, and virtual logical volume management method
US11150930B2 (en) Autonomic management of multi-site cloud infrastructure
CN109976879B (zh) 一种基于资源使用曲线互补的云计算虚拟机放置方法
CN105426255A (zh) Hadoop大数据平台中基于网络I/O代价评估的ReduceTask数据本地性调度方法
JPWO2014033882A1 (ja) 稼働管理装置、稼働管理方法、及び稼働管理プログラム
CN105930202B (zh) 一种三阈值的虚拟机迁移方法
CN108351795A (zh) 用于映射虚拟机通信路径的方法和系统
CN114035906A (zh) 虚拟机迁移方法、装置、电子设备及存储介质
Kumari et al. Topology-aware virtual machine replication for fault tolerance in cloud computing systems
WO2020019315A1 (zh) 一种基于图数据的计算运行调度方法、系统、计算机可读介质及设备

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant