CN114785693A - 基于分层强化学习的虚拟网络功能迁移方法及装置 - Google Patents

基于分层强化学习的虚拟网络功能迁移方法及装置 Download PDF

Info

Publication number
CN114785693A
CN114785693A CN202210720582.5A CN202210720582A CN114785693A CN 114785693 A CN114785693 A CN 114785693A CN 202210720582 A CN202210720582 A CN 202210720582A CN 114785693 A CN114785693 A CN 114785693A
Authority
CN
China
Prior art keywords
target
resource information
information
physical
agent
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210720582.5A
Other languages
English (en)
Other versions
CN114785693B (zh
Inventor
卢汉成
章放宇
吴枫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Science and Technology of China USTC
Original Assignee
University of Science and Technology of China USTC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Science and Technology of China USTC filed Critical University of Science and Technology of China USTC
Priority to CN202210720582.5A priority Critical patent/CN114785693B/zh
Publication of CN114785693A publication Critical patent/CN114785693A/zh
Application granted granted Critical
Publication of CN114785693B publication Critical patent/CN114785693B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/08—Configuration management of networks or network elements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/08—Configuration management of networks or network elements
    • H04L41/0803—Configuration setting
    • H04L41/0813—Configuration setting characterised by the conditions triggering a change of settings
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/16—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks using machine learning or artificial intelligence

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明提供了一种基于分层强化学习的虚拟网络功能迁移方法及装置。其中，该方法包括：获取与待迁移虚拟网络功能相关的物理资源信息和需求资源信息，其中，物理资源信息包括物理节点信息以及与物理节点相关的可用资源信息；将物理资源信息和需求资源信息输入与待迁移虚拟网络功能相关的至少一个第一智能体集，得到至少一个候选节点信息集；将需求资源信息、可用资源信息和至少一个候选节点信息集输入经训练的第二智能体，得到第一目标节点信息集，第二智能体包括经训练的第二神经网络模型，第一目标节点信息集包括多个目标物理节点信息；以及根据多个目标物理节点信息，将待迁移虚拟网络功能迁移至与目标物理节点信息相对应的目标物理节点。

Description

基于分层强化学习的虚拟网络功能迁移方法及装置
技术领域
本发明涉及计算机、通信技术领域，更具体地，涉及一种基于分层强化学习的虚拟网络功能迁移方法及装置。
背景技术
在目前的网络切片场景下，运用SDN（Software Defined Networks，软件定义网络）、NFV（NetworkFunctionVirtualization，网络功能虚拟化）技术可以将网络功能虚拟化并部署在物理资源上。在网络流量动态变化的情况下，需要进行VNF（Virtual NetworkFunction，虚拟网络功能）迁移以缓解系统资源分配不均匀的问题。由于VNF迁移问题的复杂度高，在实际系统中应用由花费大量时间进行数学计算得出的最优解是不现实的。
采用启发式算法或机器学习算法可以获得逼近最优解的次优解。机器学习算法相较于启发式算法具有运行复杂度较小，模型适用性强等优势。基于深度强化学习的VNF迁移方法多采用DQN（Deep Q-Network，深度Q网络）训练并输出迁移策略。然而使用常规的深度强化学习需要对网络进行大量训练后才能用于决定迁移策略，且给出的策略是否逼近最优解在很大程度上取决于训练时间的长短。
发明内容
有鉴于此，本发明提供了一种基于分层强化学习的虚拟网络功能迁移方法及装置。
本发明的一个方面提供了一种基于分层强化学习的虚拟网络功能迁移方法，包括：获取与待迁移虚拟网络功能相关的物理资源信息和需求资源信息，其中，所述物理资源信息包括物理节点信息以及与所述物理节点信息相关的可用资源信息；将所述物理资源信息和所述需求资源信息输入与所述待迁移虚拟网络功能相关的至少一个第一智能体集，得到至少一个候选节点信息集，其中，所述第一智能体集包括多个第一智能体，所述第一智能体包括经训练的第一神经网络模型，所述候选节点信息集包括多个候选物理节点信息，所述第一智能体与所述候选物理节点信息一一对应，所述第一智能体集与所述候选节点信息集一一对应；将所述需求资源信息、所述可用资源信息和所述至少一个候选节点信息集输入经训练的第二智能体，得到第一目标节点信息集，所述第二智能体包括经训练的第二神经网络模型，所述第一目标节点信息集包括多个目标物理节点信息；以及根据所述多个目标物理节点信息，将所述待迁移虚拟网络功能迁移至与所述目标物理节点信息相对应的目标物理节点。
本发明的另一个方面提供了一种基于分层强化学习的虚拟网络功能迁移装置，包括：第一获取模块，用于获取与待迁移虚拟网络功能相关的物理资源信息和需求资源信息，其中，所述物理资源信息包括物理节点信息以及与所述物理节点信息相关的可用资源信息；第一获得模块，用于将所述物理资源信息和所述需求资源信息输入与所述待迁移虚拟网络功能相关的至少一个第一智能体集，得到至少一个候选节点信息集，其中，所述第一智能体集包括多个第一智能体，所述第一智能体包括经训练的第一神经网络模型，所述候选节点信息集包括多个候选物理节点信息，所述第一智能体与所述候选物理节点信息一一对应，所述第一智能体集与所述候选节点信息集一一对应；第二获得模块，用于将所述需求资源信息、所述可用资源信息和所述至少一个候选节点信息集输入经训练的第二智能体，得到第一目标节点信息集，所述第二智能体包括经训练的第二神经网络模型，所述第一目标节点信息集包括多个目标物理节点信息；以及迁移模块，用于根据所述多个目标物理节点信息，将所述待迁移虚拟网络功能迁移至与所述目标物理节点信息相对应的目标物理节点。
本发明的另一方面提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行根据本发明实施例的基于分层强化学习的虚拟网络功能迁移方法。
根据本发明的实施例，通过采用了获取与待迁移虚拟网络功能相关的物理资源信息和需求资源信息，将物理资源信息和需求资源信息输入与待迁移虚拟网络功能相关的至少一个第一智能体集，得到至少一个候选节点信息集，将需求资源信息、可用资源信息和至少一个候选节点信息集输入经训练的第二智能体，得到第一目标节点信息集，以及根据第一目标节点信息集中的多个目标物理节点信息，将待迁移虚拟网络功能迁移至与目标物理节点信息相对应的目标物理节点的技术手段，基于第一智能体集和第二智能体构建改进的学习网络结构和框架，在需要迁移虚拟网络功能的情况下，通过并行训练第一神经网络模型，可以加速神经网络训练，通过并行运行第一智能体，相比于传统的启发式算法，可大幅降低算法的运行复杂度。
附图说明
通过以下参照附图对本发明实施例的描述，本发明的上述以及其他目的、特征和优点将更为清楚，在附图中：
图1示意性示出了根据本发明实施例的可以应用基于分层强化学习的虚拟网络功能迁移方法的示例性系统架构；
图2示意性示出了根据本发明实施例的基于分层强化学习的虚拟网络功能迁移方法的流程图；
图3示意性示出了根据本发明实施例的基于第一智能体和第二智能体构建的分层强化学习模型的示意图；
图4示意性示出了根据本发明的实施例的基于分层强化学习的虚拟网络功能迁移装置的框图；
图5示意性示出了根据本发明实施例的适于实现基于分层强化学习的虚拟网络功能迁移方法的计算机系统的框图。
具体实施方式
以下，将参照附图来描述本发明的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本发明的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本发明实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本发明的概念。
在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本发明。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语（包括技术和科学术语）具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释（例如，“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等）。在使用类似于“A、B或C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释（例如，“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等）。
图1示意性示出了根据本发明实施例的可以应用基于分层强化学习的虚拟网络功能迁移方法的示例性系统架构100。需要注意的是，图1所示仅为可以应用本发明实施例的系统架构的示例，以帮助本领域技术人员理解本发明的技术内容，但并不意味着本发明实施例不可以用于其他设备、系统、环境或场景。
如图1所示，根据该实施例的系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线和/或无线通信链路等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以配置有各种虚拟网络功能，例如可以配置有目录服务、路由器、防火墙、负载平衡器等其中至少一种虚拟网络功能（仅为示例）。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器（仅为示例）。后台管理服务器可以对接收到的用户请求等数据进行分析等处理，并将处理结果（例如根据用户请求获取或生成的网页、信息、或数据等）反馈给终端设备。
需要说明的是，本发明实施例所提供的基于分层强化学习的虚拟网络功能迁移方法一般可以由服务器105执行。相应地，本发明实施例所提供的基于分层强化学习的虚拟网络功能迁移装置一般可以设置于服务器105中。本发明实施例所提供的基于分层强化学习的虚拟网络功能迁移方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地，本发明实施例所提供的基于分层强化学习的虚拟网络功能迁移装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。或者，本发明实施例所提供的基于分层强化学习的虚拟网络功能迁移方法也可以由终端设备101、102、或103执行，或者也可以由不同于终端设备101、102、或103的其他终端设备执行。相应地，本发明实施例所提供的基于分层强化学习的虚拟网络功能迁移装置也可以设置于终端设备101、102、或103中，或设置于不同于终端设备101、102、或103的其他终端设备中。
例如，与待迁移虚拟网络功能相关的物理资源信息和需求资源信息可以原本存储在终端设备101、102、或103中的任意一个（例如，终端设备101，但不限于此）之中，或者存储在外部存储设备上并可以导入到终端设备101中。然后，终端设备101可以在本地执行本发明实施例所提供的基于分层强化学习的虚拟网络功能迁移方法，或者将物理资源信息和需求资源信息发送到其他终端设备、服务器、或服务器集群，并由接收该物理资源信息和需求资源信息的其他终端设备、服务器、或服务器集群来执行本发明实施例所提供的基于分层强化学习的虚拟网络功能迁移方法。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
图2示意性示出了根据本发明实施例的基于分层强化学习的虚拟网络功能迁移方法的流程图。
如图2所示，该方法包括操作S201~S204。
在操作S201，获取与待迁移虚拟网络功能相关的物理资源信息和需求资源信息，其中，物理资源信息包括物理节点信息以及与物理节点信息相关的可用资源信息。
在操作S202，将物理资源信息和需求资源信息输入与待迁移虚拟网络功能相关的至少一个第一智能体集，得到至少一个候选节点信息集，其中，第一智能体集包括多个第一智能体，第一智能体包括经训练的第一神经网络模型，候选节点信息集包括多个候选物理节点信息，第一智能体与候选物理节点信息一一对应，第一智能体集与候选节点信息集一一对应。
在操作S203，将需求资源信息、可用资源信息和至少一个候选节点信息集输入经训练的第二智能体，得到第一目标节点信息集，第二智能体包括经训练的第二神经网络模型，第一目标节点信息集包括多个目标物理节点信息。
在操作S204，根据多个目标物理节点信息，将待迁移虚拟网络功能迁移至与目标物理节点信息相对应的目标物理节点。
根据本发明的实施例，待迁移虚拟网络功能可以包括配置于某一物理节点上的各类虚拟网络功能，如目录服务、路由器、防火墙、负载平衡器等其中至少之一，且可不限于此。物理资源信息可以表征待迁移虚拟网络功能能够迁移到的物理节点的相关信息。物理节点信息可以包括能够用于确定某个或某些物理节点的节点标识信息、节点MAC地址（Media Access Control Address，媒体存取控制位址）信息等其中至少之一。可用资源信息可以包括物理节点中的CPU、内存等的剩余信息。需求资源信息可以表征待迁移虚拟网络功能所需要的CPU、内存等资源的大小。
根据本发明的实施例，可以根据物理资源信息和需求资源信息，为第一智能体和第二智能体分配状态空间和动作空间。第一智能体和第二智能体的状态空间均可以建立为物理资源信息和需求资源信息的集合。第一智能体的动作空间可以建立为待迁移虚拟网络功能能够迁移到的所有可使用物理节点的节点信息的集合。第二智能体的动作空间可以建立为基于第一智能体确定的待迁移虚拟网络功能可以迁移到的候选物理节点的节点信息的集合。第一智能体的数目可以为多个，每个第一智能体可以用于筛选得到待迁移虚拟网络功能适合被迁移到的候选物理节点或候选物理节点集，第一智能体的动作可以传回第二智能体处理。第二智能体的数目可以为一个，第二智能体可以用于从候选物理节点或候选物理节点集中筛选得到待迁移虚拟网络功能适合被迁移到的目标物理节点或目标物理节点集。
根据本发明的实施例，基于前述针对第一智能体和第二智能体分配的状态空间和动作空间，第一智能体可以接收物理资源信息和需求资源信息，通过第一神经网络的处理，输出得到基于第一智能体选择的待迁移虚拟网络功能能够迁移到的候选物理节点或候选物理节点集的物理节点信息。然后，第二智能体可以接收该物理资源信息、需求资源信息以及表征候选物理节点或候选物理节点集的信息的物理节点信息，通过第二神经网络的处理，输出得到待迁移虚拟网络功能适合迁移到的目标物理节点或目标物理节点集的目标物理节点信息。之后，可以根据第二智能体确定的目标物理节点信息，实现将待迁移虚拟网络功能迁移至相应的目标物理节点或目标物理节点集。
通过本发明的上述实施例，基于第一智能体集和第二智能体构建改进的学习网络结构和框架，在需要迁移虚拟网络功能的情况下，通过并行训练第一神经网络模型，可以加速神经网络训练，通过并行运行第一智能体，相比于传统的启发式算法，可大幅降低算法的运行复杂度。
根据本发明的实施例，在虚拟网络功能运行和迁移的过程中可以产生多种类别的物理开销。根据产生方式的差别，物理开销可以包括如下中的至少之一：能源开销、过载开销和重配置开销，且可不限于此。
根据本发明的实施例，能源开销可以包括迁移过程、运行过程等过程中产生的能源开销，并受迁移、运行过程的影响而变化。例如，迁移的虚拟网络功能越多，能源开销越大。运行的物理机越多，基础消耗越多，能源开销越大。运行的虚拟网络功能的数目越多，能源开销越大。
根据本发明的实施例，过载开销可以表征物理资源过载时产生的开销。过载开销可以通过人为定义阈值判定。
根据本发明的实施例，重配置开销可以表征虚拟链路重配置时对应的物理链路产生的开销。例如，虚拟链路重配置导致物理链路增加时会占用更多的带宽。
根据本发明的实施例，在系统总开销由多种开销组成的情况下，对于动态流量下虚拟网络功能的迁移，可以将迁移过程中的最小化总开销问题建模为混合整数线性规划问题。在此基础上，为了使用深度强化学习对待迁移虚拟网络功能进行迁移决策，可以建立离散马尔可夫决策过程。具体地，可以基于不同类别的开销，为不同的第一智能体和第二智能体配置基于不同类别开销的奖励函数。由于在分层强化学习中存在第一智能体和第二智能体的差别，奖励函数的设置可以根据任务的不同进行有针对性的设计。
图3示意性示出了根据本发明实施例的基于第一智能体和第二智能体构建的分层强化学习模型的示意图。
根据本发明的实施例，在深度强化学习的基础上，基于分层强化学习的思想，可以 将系统产生的各类开销按产生来源不同进行分类。如图3所示，假设存在
Figure 799999DEST_PATH_IMAGE001
种类型的开销
Figure 717140DEST_PATH_IMAGE002
、
Figure 903402DEST_PATH_IMAGE003
、…、
Figure 95349DEST_PATH_IMAGE004
，存在
Figure 909721DEST_PATH_IMAGE005
个待迁移虚拟网络功能，可以针对每个待迁移虚拟网 络功能，配置包括
Figure 637243DEST_PATH_IMAGE006
个第一智能体的第一智能体集，可以得到
Figure 576380DEST_PATH_IMAGE005
个第一智能体集
Figure 775280DEST_PATH_IMAGE007
、
Figure 240897DEST_PATH_IMAGE008
、…、
Figure 640785DEST_PATH_IMAGE009
等。其中，第
Figure 395115DEST_PATH_IMAGE010
个待迁移虚拟网络功能的第
Figure 804230DEST_PATH_IMAGE011
个第一智能体
Figure 327616DEST_PATH_IMAGE012
的奖励函 数可以设置如公式（1）所示：
Figure 288618DEST_PATH_IMAGE013
（1）
在公式（1）中，
Figure 700883DEST_PATH_IMAGE014
可以表示第
Figure 976007DEST_PATH_IMAGE010
个待迁移虚拟网络功能的第
Figure 150636DEST_PATH_IMAGE011
个第一智能体在 当前时刻获得的奖励，
Figure 157906DEST_PATH_IMAGE015
可以表示第
Figure 886828DEST_PATH_IMAGE011
种类型的开销，每次应用时可根据实际情况实 时计算，
Figure 372167DEST_PATH_IMAGE016
，
Figure 666882DEST_PATH_IMAGE017
，
Figure 438529DEST_PATH_IMAGE018
均为正整数。据此构建得到的整个分层强化学 习模型中的智能体数量为
Figure 61271DEST_PATH_IMAGE019
个，包括
Figure 848836DEST_PATH_IMAGE020
个第一智能体310和1个第二智能体 320。
根据本发明的实施例，参见图3所示，在某一时刻，环境340中的物理资源信息和需 求资源信息等可以作为状态信息被同时输入到分层强化学习模型的
Figure 201320DEST_PATH_IMAGE020
个第一智能体 310和第二智能体中320中。每个第一智能体可以通过第一神经网络选择候选迁移动作，即 候选物理节点，总计可以得到
Figure 940606DEST_PATH_IMAGE020
个迁移动作。通过对相同类型开销的第一智能体选择 的候选迁移动作进行整合，可以得到在当前时刻所对应的环境状态下，基于该类型的开销， 针对该
Figure 785065DEST_PATH_IMAGE021
个待迁移虚拟网络功能选择的整体动作。对应于
Figure 205683DEST_PATH_IMAGE022
种类型的开销，总计可以得到
Figure 350356DEST_PATH_IMAGE023
个整体动作。如基于开销
Figure 994964DEST_PATH_IMAGE024
确定的第一智能体
Figure 920195DEST_PATH_IMAGE025
、
Figure 816607DEST_PATH_IMAGE026
、…、
Figure 409262DEST_PATH_IMAGE027
的动作选择 结果，可以确定
Figure 693613DEST_PATH_IMAGE021
个待迁移虚拟网络功能的整体动作。基于
Figure 276779DEST_PATH_IMAGE023
种类型的开销
Figure 976881DEST_PATH_IMAGE028
、
Figure 158464DEST_PATH_IMAGE029
、…、
Figure 879295DEST_PATH_IMAGE030
，可以确定
Figure 451222DEST_PATH_IMAGE022
个整体动作330，
Figure 17333DEST_PATH_IMAGE031
个整体动作330可以包括整体动作
Figure 725526DEST_PATH_IMAGE032
、
Figure 882837DEST_PATH_IMAGE033
、…、
Figure 269956DEST_PATH_IMAGE034
。该
Figure 544818DEST_PATH_IMAGE023
个整体动作330可以构成第二智能体320的动作空间。
根据本发明的实施例，第二智能体320可以通过第二神经网络可以选择一个目标 整体动作，作为与
Figure 107517DEST_PATH_IMAGE035
个待迁移虚拟网络功能的迁移策略相关的完整迁移动作，可以确定
Figure 904572DEST_PATH_IMAGE021
个 待迁移虚拟网络功能将要被迁移到的目标物理节点。例如，在确定目标整体动作
Figure 310145DEST_PATH_IMAGE036
的情 况下，可以将
Figure 890162DEST_PATH_IMAGE021
个待迁移虚拟网络功能迁移至第一智能体
Figure 900844DEST_PATH_IMAGE025
、
Figure 540904DEST_PATH_IMAGE026
、…、
Figure 168194DEST_PATH_IMAGE027
选定 的候选物理节点，作为将要被迁移到的目标物理节点。其中，第二智能体的奖励函数可以设 置如公式（2）所示：
Figure 879798DEST_PATH_IMAGE037
（2）
在公式（2）中，
Figure 915625DEST_PATH_IMAGE038
可以表征第二智能体在当前时刻获得的奖励，
Figure 585641DEST_PATH_IMAGE039
可 以表征根据目标整体动作执行迁移过程时所花费的总开销。
根据本发明的实施例，根据公式（1）的奖励函数计算得到的奖励值可以作为相应第一智能体在相应状态下选择相应动作后获得的反馈值。根据公式（2）的奖励函数计算得到的奖励值可以作为相应第二智能体在相应状态下选择相应动作后获得的反馈值。根据状态空间、动作空间和反馈值的建立，可以实现完整的分层强化学习模型的构建。
根据本发明的实施例，针对每个第一智能体，可以记录在将待迁移虚拟网络功能迁移至基于第一智能体选择的候选物理节点的情况下所产生的物理开销的开销信息。基于不同的第一智能体所对应生成的物理开销的开销类别不同。根据开销信息，确定与第一智能体相关的反馈值。
根据本发明的实施例，可以记录在将待迁移虚拟网络功能迁移至基于第二智能体选择的目标物理节点的情况下所产生的物理开销的总开销信息。根据总开销信息，确定与第二智能体相关的反馈值。
通过本发明的上述实施例，根据待迁移虚拟网络功能的迁移系统中各种类型开销的差别，设计奖励函数，结合分层强化学习框架来进行虚拟网络功能的迁移，可有效减少训练神经网络做出的决策逼近最优解的时间，并可提高迁移效率。
根据本发明的实施例，在网络流量动态变化的情况下，针对基于深度强化学习的虚拟网络功能迁移方法训练时间过长的问题，可以针对构建好的分层强化学习模型，通过并行训练具有不同训练目标的第一智能体和第二智能体，得到用于实现虚拟网络功能高效迁移的分层强化学习模型。
根据本发明的实施例，第一神经网络模型可以通过如下方法训练得到：获取第一时刻的第一目标物理资源信息、第一目标需求资源信息、基于第一智能体在第一时刻选择的第一目标候选物理节点信息以及与第一智能体相对应的第一目标反馈值；获取第二时刻的第二目标物理资源信息、第二目标需求资源信息以及基于第一智能体在第二时刻选择的第二目标候选物理节点信息；以及根据第一目标物理资源信息、第一目标需求资源信息、第一目标候选物理节点信息、第一目标反馈值，以及第二目标物理资源信息、第二目标需求资源信息、第二目标候选物理节点信息，对第一神经网络模型进行训练。
根据本发明的实施例，第二神经网络模型可以通过如下方法训练得到：获取第一时刻的第一目标物理资源信息、第一目标需求资源信息、基于第二智能体在第一时刻选择的第二目标节点信息集以及与第二智能体相对应的第二目标反馈值；获取第二时刻的第二目标物理资源信息、第二目标需求资源信息以及基于第二智能体在第二时刻选择的第三目标节点信息集；根据第一目标物理资源信息、第一目标需求资源信息、第二目标节点信息集、第二目标反馈值，以及第二目标物理资源信息、第二目标需求资源信息、第三目标节点信息集，对第二神经网络模型进行训练。
根据本发明的实施例，参见图3所述，在前述基于分层强化学习模型确定目标整体动作并执行迁移过程的基础上，根据目标整体动作，执行迁移操作之后，可以得到环境340下一时刻的状态信息。在该过程中，还可以将每个智能体在每一时刻的状态信息、执行的目标整体动作的信息、获得的反馈值以及相对于每一时刻的下一时刻的状态信息存入相应智能体的经验回放池350中。第一神经网络模型和第二神经网络模型的训练过程的相应物理资源信息、相应需求资源信息、相应目标物理节点信息以及相应目标反馈值等样本数据可以从该经验回放池350中获得。
例如，每个智能体在训练的每一时刻都将当前获得的经验存入经验池后，可以每隔一段指定时间就从经验池中取出指定大小的minibatch（小批量）进行训练。多个第一智能体的训练过程可以完全并行进行，互不干扰。一个minibatch最小可以包括相邻两个时刻所对应的经验信息。
根据本发明的实施例，在获取得到相应经验信息之后，可以构建损失函数，实现对各个神经网络模型的训练。
根据本发明的实施例，根据第一目标物理资源信息、第一目标需求资源信息、第一目标候选物理节点信息、第一目标反馈值，以及第二目标物理资源信息、第二目标需求资源信息、第二目标候选物理节点信息，对第一神经网络模型进行训练可以包括：根据第一目标物理资源信息、第一目标需求资源信息和第一目标候选物理节点信息，确定与第一神经网络相关的第一Q值。根据第二目标物理资源信息、第二目标需求资源信息和第二目标候选物理节点信息，确定与第一神经网络相关的第二Q值。根据第一Q值、第二Q值和第一目标反馈值构建第一损失函数，调整第一神经网络的参数。
根据本发明的实施例，根据第一目标物理资源信息、第一目标需求资源信息、第二目标节点信息集、第二目标反馈值，以及第二目标物理资源信息、第二目标需求资源信息、第三目标节点信息集，对第二神经网络模型进行训练可以包括：根据第一目标物理资源信息、第一目标需求资源信息和第二目标节点信息集，确定与第二神经网络相关的第三Q值。根据第二目标物理资源信息、第二目标需求资源信息和第三目标节点信息集，确定与第二神经网络相关的第四Q值。根据第三Q值、第四Q值和第二目标反馈值构建第一损失函数，调整第二神经网络的参数。
根据本发明的实施例，经验回放训练的第一损失函数和第二损失函数可以表示为公式（3）所示：
Figure 169069DEST_PATH_IMAGE040
（3）
在公式（3）中，
Figure 90889DEST_PATH_IMAGE041
可以表示第一时刻的状态信息，
Figure 482687DEST_PATH_IMAGE042
可以表示第一时刻的动作信息，
Figure 589183DEST_PATH_IMAGE043
可以表示第二时刻的状态信息，
Figure 332011DEST_PATH_IMAGE044
可以表示第二时刻的动作信息，
Figure 290478DEST_PATH_IMAGE045
可以表示第一时刻获 得的奖励，
Figure 130258DEST_PATH_IMAGE046
可以表示神经网络的参数，
Figure 407655DEST_PATH_IMAGE047
可以表示学习速率。
需要说明的是，在将公式（3）应用于第一智能体的情况下，第一智能体的第一反馈 值由其对应的开销类型决定，如第一反馈值
Figure 106621DEST_PATH_IMAGE045
可以根据公式（1）确定，
Figure 963718DEST_PATH_IMAGE046
可以表示第一神经 网络的参数，
Figure 330109DEST_PATH_IMAGE048
可以构成第一Q值，
Figure 512828DEST_PATH_IMAGE049
可以构成第二Q值。在将公式（3） 应用于第二智能体的情况下，第二智能体的第二反馈值为总开销，如第二反馈值
Figure 558145DEST_PATH_IMAGE045
例如可以 根据公式（2）确定，
Figure 625458DEST_PATH_IMAGE046
可以表示第二神经网络的参数，
Figure 705409DEST_PATH_IMAGE048
可以构成第三Q值，
Figure 793451DEST_PATH_IMAGE049
可以构成第四Q值。相同时刻下，第二智能体的部分经验信息需要根据第一智 能体确定。
根据本发明的实施例，反复训练第一智能体和第二智能体后，可以使用整个分层 强化学习模型在系统中运行并获取迁移策略。由第一智能体确定
Figure 231124DEST_PATH_IMAGE023
个整体动作后由第二智 能体决定选择最终动作并执行。由于第一智能体并行运行，总运行复杂度仅为单个工作智 能体神经网络运行复杂度与管理智能体神经网络运行复杂度之和。
需要说明的是，将分层强化学习模型运行在环境中，可以根据需求继续进行在线学习或直接使用。
通过本发明的上述实施例，通过并行训练具有不同训练目标的第一智能体和第二智能体，使得智能体能够探索到更多动作空间，并可加速第一神经网络和第二神经网络的训练过程，有效降低训练神经网络的难度和减少训练时间。
图4示意性示出了根据本发明的实施例的基于分层强化学习的虚拟网络功能迁移装置的框图。
如图4所示，基于分层强化学习的虚拟网络功能迁移装置400包括第一获取模块410、第一获得模块420、第二获得模块430和迁移模块440。
第一获取模块410，用于获取与待迁移虚拟网络功能相关的物理资源信息和需求资源信息。物理资源信息包括物理节点信息以及与物理节点信息相关的可用资源信息。
第一获得模块420，用于将物理资源信息和需求资源信息输入与待迁移虚拟网络功能相关的至少一个第一智能体集，得到至少一个候选节点信息集。第一智能体集包括多个第一智能体，第一智能体包括经训练的第一神经网络模型，候选节点信息集包括多个候选物理节点信息，第一智能体与候选物理节点信息一一对应，第一智能体集与候选节点信息集一一对应。
第二获得模块430，用于将需求资源信息、可用资源信息和至少一个候选节点信息集输入经训练的第二智能体，得到第一目标节点信息集，第二智能体包括经训练的第二神经网络模型，第一目标节点信息集包括多个目标物理节点信息。
迁移模块440，用于根据多个目标物理节点信息，将待迁移虚拟网络功能迁移至与目标物理节点信息相对应的目标物理节点。
根据本发明的实施例，基于分层强化学习的虚拟网络功能迁移装置400还包括第一记录模块和第一确定模块。
第一记录模块，用于针对每个第一智能体，记录在将待迁移虚拟网络功能迁移至基于第一智能体选择的候选物理节点的情况下所产生的物理开销的开销信息。基于不同的第一智能体所对应生成的物理开销的开销类别不同。
第一确定模块，用于根据开销信息，确定与第一智能体相关的反馈值。
根据本发明的实施例，基于分层强化学习的虚拟网络功能迁移装置400还包括第二记录模块和第二确定模块。
第二记录模块，用于记录在将待迁移虚拟网络功能迁移至基于第二智能体选择的目标物理节点的情况下所产生的物理开销的总开销信息。
第二确定模块，用于根据总开销信息，确定与第二智能体相关的反馈值。
根据本发明的实施例，第一神经网络模型通过如下模块训练得到第二获取模块、第三获取模块和第一训练模块。
第二获取模块，用于获取第一时刻的第一目标物理资源信息、第一目标需求资源信息、基于第一智能体在第一时刻选择的第一目标候选物理节点信息以及与第一智能体相对应的第一目标反馈值。
第三获取模块，用于获取第二时刻的第二目标物理资源信息、第二目标需求资源信息以及基于第一智能体在第二时刻选择的第二目标候选物理节点信息。
第一训练模块，用于根据第一目标物理资源信息、第一目标需求资源信息、第一目标候选物理节点信息、第一目标反馈值，以及第二目标物理资源信息、第二目标需求资源信息、第二目标候选物理节点信息，对第一神经网络模型进行训练。
根据本发明的实施例，第一训练模块包括第一确定单元、第二确定单元和第一调整单元。
第一确定单元，用于根据第一目标物理资源信息、第一目标需求资源信息和第一目标候选物理节点信息，确定与第一神经网络相关的第一Q值。
第二确定单元，用于根据第二目标物理资源信息、第二目标需求资源信息和第二目标候选物理节点信息，确定与第一神经网络相关的第二Q值。
第一调整单元，用于根据第一Q值、第二Q值和第一目标反馈值构建第一损失函数，调整第一神经网络的参数。
根据本发明的实施例，第二神经网络模型通过如下模块训练得到第四获取模块、第五获取模块和第二训练模块。
第四获取模块，用于获取第一时刻的第一目标物理资源信息、第一目标需求资源信息、基于第二智能体在第一时刻选择的第二目标节点信息集以及与第二智能体相对应的第二目标反馈值。
第五获取模块，用于获取第二时刻的第二目标物理资源信息、第二目标需求资源信息以及基于第二智能体在第二时刻选择的第三目标节点信息集。
第二训练模块，用于根据第一目标物理资源信息、第一目标需求资源信息、第二目标节点信息集、第二目标反馈值，以及第二目标物理资源信息、第二目标需求资源信息、第三目标节点信息集，对第二神经网络模型进行训练。
根据本发明的实施例，第二训练模块包括第三确定单元、第四确定单元和第二调整单元。
第三确定单元，用于根据第一目标物理资源信息、第一目标需求资源信息和第二目标节点信息集，确定与第二神经网络相关的第三Q值。
第四确定单元，用于根据第二目标物理资源信息、第二目标需求资源信息和第三目标节点信息集，确定与第二神经网络相关的第四Q值。
第二调整单元，用于根据第三Q值、第四Q值和第二目标反馈值构建第二损失函数，调整第二神经网络的参数。
根据本发明的实施例，物理开销包括如下中的至少之一：能源开销、过载开销和重配置开销。
根据本发明的实施例的模块、单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本发明实施例的模块、单元中的任意一个或多个可以被拆分成多个模块来实现。根据本发明实施例的模块、单元中的任意一个或多个可以至少被部分地实现为硬件电路，例如现场可编程门阵列（FPGA）、可编程逻辑阵列（PLA）、片上系统、基板上的系统、封装上的系统、专用集成电路（ASIC），或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，根据本发明实施例的模块、单元中的一个或多个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。
例如，第一获取模块410、第一获得模块420、第二获得模块430和迁移模块440中的任意多个可以合并在一个模块/单元中实现，或者其中的任意一个模块/单元可以被拆分成多个模块/单元。或者，这些模块/单元中的一个或多个模块/单元的至少部分功能可以与其他模块/单元的至少部分功能相结合，并在一个模块/单元中实现。根据本发明的实施例，第一获取模块410、第一获得模块420、第二获得模块430和迁移模块440中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列（FPGA）、可编程逻辑阵列（PLA）、片上系统、基板上的系统、封装上的系统、专用集成电路（ASIC），或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，第一获取模块410、第一获得模块420、第二获得模块430和迁移模块440中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。
需要说明的是，本发明的实施例中基于分层强化学习的虚拟网络功能迁移装置部分与本发明的实施例中基于分层强化学习的虚拟网络功能迁移方法部分是相对应的，基于分层强化学习的虚拟网络功能迁移装置部分的描述具体参考基于分层强化学习的虚拟网络功能迁移方法部分，在此不再赘述。
图5示意性示出了根据本发明实施例的适于实现基于分层强化学习的虚拟网络功能迁移方法的计算机系统的框图。图5示出的计算机系统仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示，根据本发明实施例的计算机系统500包括处理器501，其可以根据存储在只读存储器（ROM）502中的程序或者从存储部分508加载到随机访问存储器（RAM）503中的程序而执行各种适当的动作和处理。处理器501例如可以包括通用微处理器（例如CPU）、指令集处理器和/或相关芯片组和/或专用微处理器（例如，专用集成电路（ASIC）），等等。处理器501还可以包括用于缓存用途的板载存储器。处理器501可以包括用于执行根据本发明实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 503中，存储有系统500操作所需的各种程序和数据。处理器 501、ROM 502以及RAM 503通过总线504彼此相连。处理器501通过执行ROM 502和/或RAM 503中的程序来执行根据本发明实施例的方法流程的各种操作。需要注意，所述程序也可以存储在除ROM502和RAM 503以外的一个或多个存储器中。处理器501也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本发明实施例的方法流程的各种操作。
根据本发明的实施例，系统500还可以包括输入/输出（I/O）接口505，输入/输出（I/O）接口505也连接至总线504。系统500还可以包括连接至I/O接口505的以下部件中的一项或多项：包括键盘、鼠标等的输入部分506；包括诸如阴极射线管（CRT）、液晶显示器（LCD）等以及扬声器等的输出部分507；包括硬盘等的存储部分508；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器510上，以便于从其上读出的计算机程序根据需要被安装入存储部分508。
根据本发明的实施例，根据本发明实施例的方法流程可以被实现为计算机软件程序。例如，本发明的实施例包括一种计算机程序产品，其包括承载在计算机可读存储介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分509从网络上被下载和安装，和/或从可拆卸介质511被安装。在该计算机程序被处理器501执行时，执行本发明实施例的系统中限定的上述功能。根据本发明的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
本发明还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的；也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本发明实施例的方法。
根据本发明的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质。例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器（RAM）、只读存储器（ROM）、可擦式可编程只读存储器（EPROM或闪存）、便携式紧凑磁盘只读存储器（CD-ROM）、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
例如，根据本发明的实施例，计算机可读存储介质可以包括上文描述的ROM 502和/或RAM 503和/或ROM 502和RAM 503以外的一个或多个存储器。
本发明的实施例还包括一种计算机程序产品，其包括计算机程序，该计算机程序包含用于执行本发明实施例所提供的方法的程序代码，当计算机程序产品在电子设备上运行时，该程序代码用于使电子设备实现本发明实施例所提供的基于分层强化学习的虚拟网络功能迁移方法。
在该计算机程序被处理器501执行时，执行本发明实施例的系统/装置中限定的上述功能。根据本发明的实施例，上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中，该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中，该计算机程序也可以在网络介质上以信号的形式进行传输、分发，并通过通信部分509被下载和安装，和/或从可拆卸介质511被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。
根据本发明的实施例，可以以一种或多种程序设计语言的任意组合来编写用于执行本发明实施例提供的计算机程序的程序代码，具体地，可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java，C++，python，“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网（LAN）或广域网（WAN），连接到用户计算设备，或者，可以连接到外部计算设备（例如利用因特网服务提供商来通过因特网连接）。
附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。本领域技术人员可以理解，本发明的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合，即使这样的组合或结合没有明确记载于本发明中。特别地，在不脱离本发明精神和教导的情况下，本发明的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本发明的范围。
以上对本发明的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本发明的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本发明的范围由所附权利要求及其等同物限定。不脱离本发明的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本发明的范围之内。

Claims (10)

1.一种基于分层强化学习的虚拟网络功能迁移方法，包括：
获取与待迁移虚拟网络功能相关的物理资源信息和需求资源信息，其中，所述物理资源信息包括物理节点信息以及与所述物理节点信息相关的可用资源信息；
将所述物理资源信息和所述需求资源信息输入与所述待迁移虚拟网络功能相关的至少一个第一智能体集，得到至少一个候选节点信息集，其中，所述第一智能体集包括多个第一智能体，所述第一智能体包括经训练的第一神经网络模型，所述候选节点信息集包括多个候选物理节点信息，所述第一智能体与所述候选物理节点信息一一对应，所述第一智能体集与所述候选节点信息集一一对应；
将所述需求资源信息、所述可用资源信息和所述至少一个候选节点信息集输入经训练的第二智能体，得到第一目标节点信息集，所述第二智能体包括经训练的第二神经网络模型，所述第一目标节点信息集包括多个目标物理节点信息；以及
根据所述多个目标物理节点信息，将所述待迁移虚拟网络功能迁移至与所述目标物理节点信息相对应的目标物理节点。
2.根据权利要求1所述的方法，其特征在于，还包括：
针对每个所述第一智能体，记录在将所述待迁移虚拟网络功能迁移至基于所述第一智能体选择的候选物理节点的情况下所产生的物理开销的开销信息，其中，基于不同的第一智能体所对应生成的物理开销的开销类别不同；
根据所述开销信息，确定与所述第一智能体相关的反馈值。
3.根据权利要求1所述的方法，其特征在于，还包括：
记录在将所述待迁移虚拟网络功能迁移至基于所述第二智能体选择的目标物理节点的情况下所产生的物理开销的总开销信息；
根据所述总开销信息，确定与所述第二智能体相关的反馈值。
4.根据权利要求1所述的方法，其特征在于，所述第一神经网络模型通过如下方法训练得到：
获取第一时刻的第一目标物理资源信息、第一目标需求资源信息、基于所述第一智能体在所述第一时刻选择的第一目标候选物理节点信息以及与所述第一智能体相对应的第一目标反馈值；
获取第二时刻的第二目标物理资源信息、第二目标需求资源信息以及基于所述第一智能体在所述第二时刻选择的第二目标候选物理节点信息；以及
根据所述第一目标物理资源信息、所述第一目标需求资源信息、所述第一目标候选物理节点信息、所述第一目标反馈值，以及所述第二目标物理资源信息、所述第二目标需求资源信息、所述第二目标候选物理节点信息，对所述第一神经网络模型进行训练。
5.根据权利要求4所述的方法，其特征在于，根据所述第一目标物理资源信息、所述第一目标需求资源信息、所述第一目标候选物理节点信息、所述第一目标反馈值，以及所述第二目标物理资源信息、所述第二目标需求资源信息、所述第二目标候选物理节点信息，对所述第一神经网络模型进行训练包括：
根据所述第一目标物理资源信息、所述第一目标需求资源信息和所述第一目标候选物理节点信息，确定与所述第一神经网络相关的第一Q值；
根据所述第二目标物理资源信息、所述第二目标需求资源信息和所述第二目标候选物理节点信息，确定与所述第一神经网络相关的第二Q值；
根据所述第一Q值、所述第二Q值和所述第一目标反馈值构建第一损失函数，调整所述第一神经网络的参数。
6.根据权利要求1或4或5所述的方法，其特征在于，所述第二神经网络模型通过如下方法训练得到：
获取第一时刻的第一目标物理资源信息、第一目标需求资源信息、基于所述第二智能体在所述第一时刻选择的第二目标节点信息集以及与所述第二智能体相对应的第二目标反馈值；
获取第二时刻的第二目标物理资源信息、第二目标需求资源信息以及基于所述第二智能体在所述第二时刻选择的第三目标节点信息集；
根据所述第一目标物理资源信息、所述第一目标需求资源信息、所述第二目标节点信息集、所述第二目标反馈值，以及所述第二目标物理资源信息、所述第二目标需求资源信息、所述第三目标节点信息集，对所述第二神经网络模型进行训练。
7.根据权利要求6所述的方法，其特征在于，根据所述第一目标物理资源信息、所述第一目标需求资源信息、所述第二目标节点信息集、所述第二目标反馈值，以及所述第二目标物理资源信息、所述第二目标需求资源信息、所述第三目标节点信息集，对所述第二神经网络模型进行训练包括：
根据所述第一目标物理资源信息、所述第一目标需求资源信息和所述第二目标节点信息集，确定与所述第二神经网络相关的第三Q值；
根据所述第二目标物理资源信息、所述第二目标需求资源信息和所述第三目标节点信息集，确定与所述第二神经网络相关的第四Q值；
根据所述第三Q值、所述第四Q值和所述第二目标反馈值构建第二损失函数，调整所述第二神经网络的参数。
8.根据权利要求2或3所述的方法，其特征在于，所述物理开销包括如下中的至少之一：能源开销、过载开销和重配置开销。
9.一种基于分层强化学习的虚拟网络功能迁移装置，包括：
第一获取模块，用于获取与待迁移虚拟网络功能相关的物理资源信息和需求资源信息，其中，所述物理资源信息包括物理节点信息以及与所述物理节点信息相关的可用资源信息；
第一获得模块，用于将所述物理资源信息和所述需求资源信息输入与所述待迁移虚拟网络功能相关的至少一个第一智能体集，得到至少一个候选节点信息集，其中，所述第一智能体集包括多个第一智能体，所述第一智能体包括经训练的第一神经网络模型，所述候选节点信息集包括多个候选物理节点信息，所述第一智能体与所述候选物理节点信息一一对应，所述第一智能体集与所述候选节点信息集一一对应；
第二获得模块，用于将所述需求资源信息、所述可用资源信息和所述至少一个候选节点信息集输入经训练的第二智能体，得到第一目标节点信息集，所述第二智能体包括经训练的第二神经网络模型，所述第一目标节点信息集包括多个目标物理节点信息；以及
迁移模块，用于根据所述多个目标物理节点信息，将所述待迁移虚拟网络功能迁移至与所述目标物理节点信息相对应的目标物理节点。
10.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-8中任一项所述的方法。
CN202210720582.5A 2022-06-24 2022-06-24 基于分层强化学习的虚拟网络功能迁移方法及装置 Active CN114785693B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210720582.5A CN114785693B (zh) 2022-06-24 2022-06-24 基于分层强化学习的虚拟网络功能迁移方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210720582.5A CN114785693B (zh) 2022-06-24 2022-06-24 基于分层强化学习的虚拟网络功能迁移方法及装置

Publications (2)

Publication Number Publication Date
CN114785693A true CN114785693A (zh) 2022-07-22
CN114785693B CN114785693B (zh) 2022-09-30

Family

ID=82422223

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210720582.5A Active CN114785693B (zh) 2022-06-24 2022-06-24 基于分层强化学习的虚拟网络功能迁移方法及装置

Country Status (1)

Country Link
CN (1) CN114785693B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117499491A (zh) * 2023-12-27 2024-02-02 杭州海康威视数字技术股份有限公司 基于双智能体深度强化学习的物联网服务编排方法及装置

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180329647A1 (en) * 2017-05-12 2018-11-15 International Business Machines Corporation Distributed storage system virtual and storage data migration
CN110896360A (zh) * 2019-10-23 2020-03-20 中国人民解放军陆军工程大学 基于历史信息和分层强化学习的拒绝服务攻击防护方法
US20200167610A1 (en) * 2018-11-23 2020-05-28 POSTECH Research and Business Development Foundation Method of predicting demand of virtual network function resources to which machine learning is applied
CN111695690A (zh) * 2020-07-30 2020-09-22 航天欧华信息技术有限公司 基于合作式强化学习与迁移学习的多智能体对抗决策方法
CN112052947A (zh) * 2020-08-17 2020-12-08 清华大学 基于策略选项的分层强化学习方法和装置
CN112953601A (zh) * 2019-12-10 2021-06-11 中国科学院深圳先进技术研究院 优化驱动的分层深度强化学习在混合中继通信中的应用
CN113114722A (zh) * 2021-03-17 2021-07-13 重庆邮电大学 一种基于边缘网络的虚拟网络功能迁移方法
CN113301583A (zh) * 2020-02-21 2021-08-24 中国电信股份有限公司 网络切片的重映射方法、装置以及存储介质
CN113992524A (zh) * 2021-09-28 2022-01-28 北京工业大学 网络切片优化处理方法及系统

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180329647A1 (en) * 2017-05-12 2018-11-15 International Business Machines Corporation Distributed storage system virtual and storage data migration
US20200167610A1 (en) * 2018-11-23 2020-05-28 POSTECH Research and Business Development Foundation Method of predicting demand of virtual network function resources to which machine learning is applied
CN110896360A (zh) * 2019-10-23 2020-03-20 中国人民解放军陆军工程大学 基于历史信息和分层强化学习的拒绝服务攻击防护方法
CN112953601A (zh) * 2019-12-10 2021-06-11 中国科学院深圳先进技术研究院 优化驱动的分层深度强化学习在混合中继通信中的应用
CN113301583A (zh) * 2020-02-21 2021-08-24 中国电信股份有限公司 网络切片的重映射方法、装置以及存储介质
CN111695690A (zh) * 2020-07-30 2020-09-22 航天欧华信息技术有限公司 基于合作式强化学习与迁移学习的多智能体对抗决策方法
CN112052947A (zh) * 2020-08-17 2020-12-08 清华大学 基于策略选项的分层强化学习方法和装置
CN113114722A (zh) * 2021-03-17 2021-07-13 重庆邮电大学 一种基于边缘网络的虚拟网络功能迁移方法
CN113992524A (zh) * 2021-09-28 2022-01-28 北京工业大学 网络切片优化处理方法及系统

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
HONGQIAO LIU、JIA CHEN、JING CHEN、XIN CHENG、KUO GUO、YAJUAN QI: "A Deep Q-Learning Based VNF Migration Strategy for Elastic Control in SDN/NFV Network", 《2021 INTERNATIONAL CONFERENCE ON WIRELESS COMMUNICATIONS AND SMART GRID (ICWCSG)》 *
吕建成、叶庆、田煜鑫、韩军伟、吴枫: "类脑超大规模深度神经网络系统", 《软件学报》 *
荆荣丽等: "基于强化学习的网络时延自动化控制数学建模研究", 《自动化与仪器仪表》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117499491A (zh) * 2023-12-27 2024-02-02 杭州海康威视数字技术股份有限公司 基于双智能体深度强化学习的物联网服务编排方法及装置
CN117499491B (zh) * 2023-12-27 2024-03-26 杭州海康威视数字技术股份有限公司 基于双智能体深度强化学习的物联网服务编排方法及装置

Also Published As

Publication number Publication date
CN114785693B (zh) 2022-09-30

Similar Documents

Publication Publication Date Title
Rausch et al. Optimized container scheduling for data-intensive serverless edge computing
Saxena et al. A proactive autoscaling and energy-efficient VM allocation framework using online multi-resource neural network for cloud data center
Toosi et al. Resource provisioning for data-intensive applications with deadline constraints on hybrid clouds using Aneka
US9235801B2 (en) Managing computer server capacity
US20190179725A1 (en) Simulating hosted application performance
US10310908B2 (en) Dynamic usage balance of central processing units and accelerators
US10887167B2 (en) Adaptive software-defined storage for cloud storage workloads
US9842006B2 (en) Application processing allocation in a computing system
Agliamzanov et al. Hydrology@ Home: a distributed volunteer computing framework for hydrological research and applications
JP2022511716A (ja) 非集中的な分散型深層学習
US11249811B2 (en) Method, apparatus, and computer program product for processing computing task
US11429434B2 (en) Elastic execution of machine learning workloads using application based profiling
JP2014527221A (ja) クラウド上のアプリケーション・リソース・マネージャ
CN116508003A (zh) 通过评估微服务对容器的自动化编排
KR101882383B1 (ko) 데스크톱 가상화 환경에서의 컨테이너 자원할당 장치 및 방법
US10936361B2 (en) Cloud and datacenter migration wave planning using analytics and flow modeling
Tran et al. Virtual machine migration policy for multi-tier application in cloud computing based on Q-learning algorithm
US20220391253A1 (en) Method of resource management of virtualized system, electronic device and computer program product
US11709978B1 (en) Optimization of configurable distributed computing systems
CN114785693B (zh) 基于分层强化学习的虚拟网络功能迁移方法及装置
Li et al. An intelligent collaborative inference approach of service partitioning and task offloading for deep learning based service in mobile edge computing networks
US9471389B2 (en) Dynamically tuning server placement
Ullah et al. Evaluation of distributed data processing frameworks in hybrid clouds
Vahora et al. Cloudsim-a survey on vm management techniques
CN113076224A (zh) 数据备份方法、数据备份系统、电子设备及可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant