CN112306628B - 一种基于多核服务器的虚拟网络功能资源管理系统 - Google Patents

一种基于多核服务器的虚拟网络功能资源管理系统 Download PDF

Info

Publication number
CN112306628B
CN112306628B CN202011084855.9A CN202011084855A CN112306628B CN 112306628 B CN112306628 B CN 112306628B CN 202011084855 A CN202011084855 A CN 202011084855A CN 112306628 B CN112306628 B CN 112306628B
Authority
CN
China
Prior art keywords
module
virtual network
network function
function
resource
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011084855.9A
Other languages
English (en)
Other versions
CN112306628A (zh
Inventor
李健
钱建民
管海兵
张沪滨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Jiaotong University
Original Assignee
Shanghai Jiaotong University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Jiaotong University filed Critical Shanghai Jiaotong University
Priority to CN202011084855.9A priority Critical patent/CN112306628B/zh
Publication of CN112306628A publication Critical patent/CN112306628A/zh
Application granted granted Critical
Publication of CN112306628B publication Critical patent/CN112306628B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5011—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resources being hardware resources other than CPUs, Servers and Terminals
    • G06F9/5016—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resources being hardware resources other than CPUs, Servers and Terminals the resource being the memory
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/12—Discovery or management of network topologies
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/50—Network service management, e.g. ensuring proper service fulfilment according to agreements
    • H04L41/5041—Network service management, e.g. ensuring proper service fulfilment according to agreements characterised by the time relationship between creation and deployment of a service
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G06F2009/45595—Network integration; Enabling network access in virtual machine instances

Abstract

一种基于多核服务器的虚拟网络功能资源管理框架，其特征在于，包括：第一模块、第二模块，第三模块；所述第一模块即虚拟网络功能实时监控模块，用于监控虚拟网络功能的实时资源访问行为，所述第二模块即底层硬件信息监测模块，用于探测底层硬件的拓扑信息，所述第三模块即虚拟网络功能资源调度模块，用于根据所述第一模块、所述第二模块提供的信息来选择最优的资源分布。本发明的有益效果是：考虑了虚拟网络功能的实时资源访问行为，以及多核服务器底层硬件的拓扑信息，考虑了网络设备的节点亲和性，特别适用网络功能虚拟化环境等高性能I/O场景。

Description

一种基于多核服务器的虚拟网络功能资源管理系统
技术领域
本发明涉及计算机系统架构，多核资源管理，网络功能虚拟化，具体是一种在多核服务器系统架构下，高效管理虚拟网络功能的资源分配以提升服务功能连的整体性能的系统框架。
背景技术
网络功能虚拟化(Network Function Virtualization，NFV)技术能够使软件定义的网络功能代替传统的硬件网络功能，减小硬件更新换代开销的同时还提高了网络功能服务的易维护性。这些虚拟的网络功能运行在通用的服务器上，可以灵活的启动和消除。因此，网络功能虚拟化技术收到几大通信运营商(联通，移动和电信)以及通信制造商(华为和中兴)的极大青睐。然而，硬件软件化带来了额外的性能上的挑战。因为软件需要访问硬件资源，如果没有一个高效的资源管理框架，资源访问效率就会变低，从而降低整个网络服务链的吞吐量。
与此同时，当前数据中心的通用服务器往往都配备着多个处理器(CPU)，每个处理器有多个处理核心(core)。戴尔PowerEdge R730系列服务器最多可以配备两个处理器，而PowerEdge M830最多可以配备4个处理器。为了高效的利用这些处理核心，这些服务器一般被组织成非一致性内存访问(Non-Uniform Memory Access,NUMA)架构。NUMA架构可以很好的使每个处理器具有很高的带宽资源，但是NUMA架构同时也带来了远程访问延迟。远程访问延迟是指应用访问非本地的内存会比访问本地内存要慢。如果应用的资源分配不合理的话，很容易就造成了大量的非本地内存访问，导致了性能的急剧下降。更重要的是，远程访问不仅仅局限于内存，在网络I/O等PCIe设备上也广泛存在。对于虚拟网络功能(Virtualized Network Function，vNF)服务链这类I/O密集型的应用，远程I/O访问带来的性能影响更加明显。在数据中心通用多核服务器上部署网络功能面临着很大的性能上的挑战，因此，需要一个高效的资源管理分配框架来解决这个挑战。
虚拟化层同时也给网络功能在多核服务器上的资源优化带来了新的挑战。虚拟化层将底层的硬件资源统一成一个虚拟的资源池，屏蔽了硬件的特性，比如多核节点的拓扑关系等等。虚拟机无法感知到底层的硬件特性就无法做出合理的资源分配和调度。随着当前各种硬件技术的不断加入，特别是高性能网络I/O技术的发展，如果不能够感知到硬件特性，就会使虚拟网络功能的性能和功能大打折扣。当前的资源管理方案没有意识到高性能I/O等其他硬件资源，钦此也无法提供全面的资源管理方案，存在以下两点不足：
首先，当前的基于多核服务器的虚拟资源调度框架没有考虑到底层处理器互联拓扑的特性。特别是对多个虚拟网络功能组成的服务功能链，如果不感知底层处理器的拓扑结构，就可能会使服务功能链的数据访问路径过长，增加了访问延迟，最好不能满足用户的服务质量要求。另外，网络功能虚拟化是一个I/O密集型的应用。底层的I/O资源对整个应用的性能影响也巨大，如果不感知网卡的位置也会导致I/O路径过长，降低I/O吞吐量。因此，一个高效的网络功能资源管理框架必须要精确的感知底层硬件资源的分布以及特性才能做到合理的优化。
另一方面，每一个网络功能的资源需求也不一样。有的是CPU密集型，频繁访问缓存资源。有的是内存密集型的，频繁的访问内存资源。然而内存的读写速度要比缓存的读写速度慢一个数量级。在资源分配的时候，如果分给CPU密集型的网络功能更多的CPU资源，就会导致CPU密集型的网络功能数据包处理速度过快，而后面的网络功能无法处理前面来的数据包，导致丢包现象。因此，网络功能资源管理框架必须要感知每个虚拟网络功能的数据包处理速度，做出合理的资源分配，使得每个网络功能的处理速度相匹配。
发明内容
基于当前的虚拟网络功能资源管理框架上的缺陷，本发明提出了一种基于多核服务器的虚拟网络功能资源管理框架，实时监控虚拟网络功能的性能指标和底层多核服务器的硬件特性，利用资源重调度来解决NUMA开销和数据包丢包现象，通过资源调度实现虚拟网络功能的最优分布。
一种基于多核服务器的虚拟网络功能资源管理框架，包括：第一模块、第二模块，第三模块；第一模块即虚拟网络功能实时监控模块，用于监控虚拟网络功能的实时资源访问行为，第二模块即底层硬件信息监测模块，用于探测底层硬件的拓扑信息，第三模块即虚拟网络功能资源调度模块，用于根据第一、二模块两个模块提供的信息来选择最优的资源分布。
进一步地，第一模块计算当前每个虚拟网络功能的本地内存访问比例，计算方式如公式(1)所示。LAR表示本地内存访问比例，Accesslocal是监控周期内本地内存访问的次数，Accessremote是监控周期内远程内存的访问次数。
Figure GDA0003794413350000021
进一步地，第一模块计算当前每个虚拟网络功能的数据包处理速率，计算方法如公式(3)所示，使用了每个时钟周期内处理的数据包数作为计算方法。NumofPacket是处理的数据包数量，Cycles是处理这些数据包所使用的时钟周期数。
Figure GDA0003794413350000031
进一步地，第一模块计算整个资源管理框架的不丢包的目标函数，如公式(4)所示,
Figure GDA0003794413350000032
目标函数是要满足最小化所有相邻的虚拟网络功能之间的数据包处理速率差异的累加之和，式中N是一条服务功能链中所包含的虚拟网络功能的数量。
进一步地，第二模块所探测的底层硬件的拓扑信息包括：NUMA节点的互联状况、网卡设备的位置信息。
进一步地，第二模块利用节点间的延迟来表达节点间的链接情况。
进一步地，第二模块计算节点间的延迟的方法为：首先在节点j上开辟一个读写缓冲区，然后在结点i上创建一个读写进程；在开始读写数据之前先记录下当前的时钟(start_cycles)，当发生读写行为的时候我们再记录下当前时钟(end_cycles)；最后计算时钟数差值，然后计算延迟，如公式(6)所示。计算完所有节点间的延迟以后，得到一个M*M的二维矩阵，其中M为NUMA节点数，这个矩阵记录了每个处理器节点间的延迟拓扑信息。
latency＝end_cycles-start_cycles (6)
进一步地，第二模块直接通过读取系统文件来获取网卡设备的位置信息。
进一步地，第三模块优化资源的算法是一个动态规划过程，具体为：一条含n个虚拟网络功能的链的最优带宽bw(n)等于前面n-1个虚拟网络功能的最优带宽bw(n-1)和第n-1个虚拟网络功能到第n个虚拟网络功能的最优带宽(max
Figure GDA0003794413350000033
)的交集，如公式(7)所示。
Figure GDA0003794413350000034
进一步地，第三模块优化资源的算法主要包括以下几个步骤：
步骤1、首先获取入口和出口网络功能的端口号(Input/Output port ID)来确定网络功能链的入口和出口的物理网卡，再通过物理网卡的硬件地址来确定物理网卡所连接的NUMA节点；
步骤2、根据硬件节点的拓扑结构(二维矩阵)公式(6)来选择NUMA节点来部署每一个网络功能的线程和内存资源，部署的时候满足公式(7)，直到所有的网络功能部署完毕；
步骤3、部署好网络功能链中的每一个网络功能所在的NUMA节点后，再通过控制每一个网络的本地内存访问比例LAR(公式(1))来满足每一个网络功能的数据包处理速率相近(公式(4))。
本发明具有如下技术效果：
本方案考虑了虚拟网络功能的实时资源访问行为，有效地对虚拟网络功能的资源访问路径进行了建模，模型能够实时的反映整个服务功能链的数据包处理情况；
本方案考虑了同时多核服务器底层硬件的拓扑信息，考虑了网络设备的节点亲和性，特别适用网络功能虚拟化环境等高性能I/O场景；
本方案还包含了更加高效的资源调度方法，我们根据虚拟网络功能的实时访问行为计算整条服务功能连的最优吞吐量模型。再根据底层硬件信息来计算对应的最优资源放置方案。
附图说明
图1是本发明的一个实施例的虚拟网络功能服务链系统示意图；
图2是本发明的一个实施例的系统框架示意图。
具体实施方式
以下参考说明书附图介绍本申请的优选实施例，使其技术内容更加清楚和便于理解。本申请可以通过许多不同形式的实施例来得以体现，本申请的保护范围并非仅限于文中提到的实施例。
以下将对本发明的构思、具体结构及产生的技术效果作进一步的说明，以充分地了解本发明的目的、特征和效果，但本发明的保护不仅限于此。
在本发明的一个实施例中，
如图1所示，一个虚拟网络功能服务链系统，包含两条服务功能链，其中第一条是vNF1->vNF 4，第二条是vNF1->vNF2->vNF3，其中vNF1-vNF4为4个虚拟网络服务功能，每个服务功能链由1个或多个虚拟服务功能串联组成，图中是所示了向外部发送数据包时的情况，数据包依次经过每个虚拟服务功能，到达路由器。每个虚拟网络功能都可以部署在同一台物理服务器上。
如图2所示，系统的框架图，包括三层，自底向上，最底层是物理硬件层，包括网卡、内存、处理器，最上层是在用户空间部署的若干虚拟网络服务，中间层既为本申请的方案的三个模块。
第一模块即虚拟网络功能实时监控模块，用于监控虚拟网络功能的实时资源访问行为，包括：计算当前每个虚拟网络功能的本地内存访问比例，数据包处理速率。本地内存访问的比例用来大致地判断当前虚拟网络功能是否遭受大量的远程访问。计算方式如公式(1)所示。LAR表示本地内存访问比例，Accesslocal是监控周期内本地内存访问的次数，Accessremote是监控周期内远程内存的访问次数。
Figure GDA0003794413350000041
数据包处理速率可以用来判断虚拟网络功能构成的服务功能链是否会发生丢包现象。一般的数据包处理速率计算方式如公式(2)所示。但是这种方法需要一个监控周期MonitorTime，上一监控周期的结果作为下一次结论的依据。但是对于数据包处理这种高速率的行为来说，下一周期的处理速率可能会大幅度改变，因此本方案采用了更为精确的监控方法，如公式(3)所示。使用了每个时钟周期内处理的数据包数作为计算方法。NumofPacket是处理的数据包数量，Cycles是处理这些数据包所使用的时钟周期数。这种计算方式更加细粒度，下一时钟周期的行为基本上和上一次监控的时钟周期内的行为一致，所以计算结果也更加精确。
Figure GDA0003794413350000051
Figure GDA0003794413350000052
整个资源管理框架的目标是保证数据包丢包率的情况下最大化数据包的传输速率。
因此基于这个目标我们定义了不丢包的目标函数，如公式(4)所示。
Figure GDA0003794413350000053
目标函数是要满足最小化所有相邻的虚拟网络功能之间的数据包处理速率差异的累加之和，式中N是一条服务功能链中所包含的虚拟网络功能的数量。
第二模块即底层硬件信息监测模块，用于探测底层硬件的拓扑信息。底层硬件的拓扑信息也是调度模块的输入参数，主要分为两部分：一部分是NUMA节点的互联状况；一部分是网卡设备的位置。因为这两个因素会影响虚拟网络功能所构成的服务功能链的路径，而服务功能链的路径长短和其性能有着很强的联系。
NUMA节点的互联状况主要是探测节点间的链接情况。本方案利用节点间的延迟来表达节点间的链接情况，为了计算节点i和j之间的延迟，首先在节点j上开辟一个读写缓冲区，然后在结点i上创建一个读写进程。在开始读写数据之前先记录下当前的时钟(start_cycles)，当发生读写行为的时候我们再记录下当前时钟(end_cycles)。最后计算时钟数差值，然后计算延迟，如公式(6)所示。计算完所有节点间的延迟以后，我们得到一个M*M的二维矩阵，其中M为NUMA节点数，这个矩阵记录了每个处理器节点间的延迟拓扑信息。
latency＝end_cycles-start_cycles (6)
获取网卡设备的位置比较简单，可以直接通过读取系统文件来获取。
第三模块即虚拟网络功能资源调度模块，用于根据第一、二模块两个模块提供的信息来选择最优的资源分布。获取虚拟网络功能的实时行为和底层硬件的拓扑关系以后，第三模块就利用这些信息来计算最优的资源分布情况来达到最优的系统性能。根据第一模块，本方案的目标是整条服务功能链的带宽最大化。算法其实就是一个动态规划过程。一条含n个虚拟网络功能的链的最优带宽bw(n)等于前面n-1个虚拟网络功能的最优带宽bw(n-1)和第n-1个虚拟网络功能到第n个虚拟网络功能的最优带宽(max
Figure GDA0003794413350000061
)的交集，如公式(7)所示。例如服务功能链上前n-1个最优带宽bw(n-1)是8GB/s，第n-1个虚拟网络功能到第n个虚拟网络功能的最优带宽max
Figure GDA0003794413350000062
是7.6GB/s，那么最后计算出的整条链的最优带宽就是7.6GB/s。
Figure GDA0003794413350000063
算法主要包括以下几个步骤：
步骤1、首先获取入口和出口网络功能的端口号(Input/Output port ID)来确定网络功能链的入口和出口的物理网卡，再通过物理网卡的硬件地址来确定物理网卡所连接的NUMA节点；
步骤2、根据硬件节点的拓扑结构(二维矩阵)公式(6)来选择NUMA节点来部署每一个网络功能的线程和内存资源，部署的时候满足公式(7)，直到所有的网络功能部署完毕；
步骤3、部署好网络功能链中的每一个网络功能所在的NUMA节点后，再通过控制每一个网络的本地内存访问比例LAR(公式(1))来满足每一个网络功能的数据包处理速率相近(公式(4))。
以上详细描述了本申请的较佳具体实施例。应当理解，本领域的普通技术无需创造性劳动就可以根据本申请的构思作出诸多修改和变化。因此，凡本技术领域中技术人员依本申请的构思在现有技术的基础上通过逻辑分析、推理或者有限的实验可以得到的技术方案，皆应在由权利要求书所确定的保护范围内。

Claims (5)

1.一种基于多核服务器的虚拟网络功能资源管理系统，其特征在于，包括：第一模块、第二模块，第三模块；所述第一模块即虚拟网络功能实时监控模块，用于监控虚拟网络功能的实时资源访问行为，所述第二模块即底层硬件信息监测模块，用于探测底层硬件的拓扑信息，所述第三模块即虚拟网络功能资源调度模块，用于根据所述第一模块、所述第二模块提供的信息来选择最优的资源分布；
所述第一模块计算当前每个虚拟网络功能的本地内存访问比例，计算方式如公式1所示，
Figure FDA0003794413340000011
式中，LAR表示本地内存访问比例，Accesslocal是监控周期内本地内存访问的次数，Accessremote是监控周期内远程内存的访问次数；
所述第一模块计算当前每个虚拟网络功能的数据包处理速率，计算方法如公式3所示，
Figure FDA0003794413340000012
式中，NumofPacket是处理的数据包数量，Cycles是处理这些数据包所使用的时钟周期数；
所述第一模块计算整个资源管理系统的不丢包的目标函数，如公式(4)所示,
Figure FDA0003794413340000013
目标函数是要满足最小化所有相邻的虚拟网络功能之间的数据包处理速率差异的和，式中N是一条服务功能链中所包含的虚拟网络功能的数量；
所述第二模块所探测的底层硬件的拓扑信息包括：NUMA节点的互联状况、网卡设备的位置信息；
第三模块优化资源的算法是一个动态规划过程，具体为：一条含n个虚拟网络功能的链的最优带宽等于前面n-1个虚拟网络功能的最优带宽和第n-1个虚拟网络功能到第n个虚拟网络功能的最优带宽的交集，如公式7所示，
Figure FDA0003794413340000014
式中，n表示一条虚拟网络功能链所包含的虚拟网络功能的数量，bw(n)表示含n个虚拟网络功能的链的最优带宽，
Figure FDA0003794413340000015
表示第n-1个虚拟网络功能到第n个虚拟网络功能的最优带宽。
2.如权利要求1所述的基于多核服务器的虚拟网络功能资源管理系统，其特征在于，所述第二模块利用节点间的延迟来表达节点间的链接情况。
3.如权利要求2所述的基于多核服务器的虚拟网络功能资源管理系统，其特征在于，所述第二模块计算节点间的延迟的方法为：首先在节点j上开辟一个读写缓冲区，然后在结点i上创建一个读写进程；在开始读写数据之前先记录下当前的时钟start_cycles，当发生读写行为的时候我们再记录下当前时钟end_cycles；最后计算时钟数差值，然后计算延迟，如公式6所示，
latency＝end_cycles-start_cycles (6)
计算完所有节点间的延迟以后，得到一个M*M的二维矩阵，其中M为NUMA节点数，所述二维矩阵记录了每个处理器节点间的延迟拓扑信息。
4.如权利要求3所述的基于多核服务器的虚拟网络功能资源管理系统，其特征在于，所述第二模块直接通过读取系统文件来获取所述网卡设备的位置信息。
5.如权利要求4所述的基于多核服务器的虚拟网络功能资源管理系统，其特征在于，所述第三模块优化资源的算法包括以下步骤：
步骤1、获取入口和出口网络功能的端口号来确定网络功能链的入口和出口的物理网卡，再通过所述物理网卡的硬件地址来确定所述物理网卡所连接的NUMA节点；
步骤2、根据硬件节点的拓扑结构，即所述二维矩阵及所述公式6来选择NUMA节点来部署每一个网络功能的线程和内存资源，部署的时候满足所述公式7，直到所有的网络功能部署完毕；
步骤3、通过控制每一个网络的本地内存访问比例即所述LAR，使每一个网络功能的数据包处理速率相近，即满足所述公式4的值最小。
CN202011084855.9A 2020-10-12 2020-10-12 一种基于多核服务器的虚拟网络功能资源管理系统 Active CN112306628B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011084855.9A CN112306628B (zh) 2020-10-12 2020-10-12 一种基于多核服务器的虚拟网络功能资源管理系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011084855.9A CN112306628B (zh) 2020-10-12 2020-10-12 一种基于多核服务器的虚拟网络功能资源管理系统

Publications (2)

Publication Number Publication Date
CN112306628A CN112306628A (zh) 2021-02-02
CN112306628B true CN112306628B (zh) 2022-10-14

Family

ID=74488419

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011084855.9A Active CN112306628B (zh) 2020-10-12 2020-10-12 一种基于多核服务器的虚拟网络功能资源管理系统

Country Status (1)

Country Link
CN (1) CN112306628B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113420517B (zh) * 2021-05-28 2023-01-06 清华大学 面向云端深度学习推理的fpga虚拟化硬件系统栈设计
CN113708965B (zh) * 2021-08-24 2023-04-07 北京计算机技术及应用研究所 一种高性能构件化的数据包处理系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2911347A1 (en) * 2014-02-24 2015-08-26 Hewlett-Packard Development Company, L.P. Providing policy information
CN107070709A (zh) * 2017-03-31 2017-08-18 上海交通大学 一种基于底层numa感知的nfv实现方法
CN109067579A (zh) * 2018-08-01 2018-12-21 重庆邮电大学 面向底层节点失效的5g网络切片拓扑设计及可靠映射方法
CN109117247A (zh) * 2018-07-18 2019-01-01 上海交通大学 一种基于异构多核拓扑感知的虚拟资源管理系统及方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2911347A1 (en) * 2014-02-24 2015-08-26 Hewlett-Packard Development Company, L.P. Providing policy information
CN107070709A (zh) * 2017-03-31 2017-08-18 上海交通大学 一种基于底层numa感知的nfv实现方法
CN109117247A (zh) * 2018-07-18 2019-01-01 上海交通大学 一种基于异构多核拓扑感知的虚拟资源管理系统及方法
CN109067579A (zh) * 2018-08-01 2018-12-21 重庆邮电大学 面向底层节点失效的5g网络切片拓扑设计及可靠映射方法

Also Published As

Publication number Publication date
CN112306628A (zh) 2021-02-02

Similar Documents

Publication Publication Date Title
US11507430B2 (en) Accelerated resource allocation techniques
US8898674B2 (en) Memory databus utilization management system and computer program product
Chen et al. Deep learning research and development platform: Characterizing and scheduling with qos guarantees on gpu clusters
CN112306628B (zh) 一种基于多核服务器的虚拟网络功能资源管理系统
CN107967180B (zh) 基于numa虚拟化环境下资源全局亲和度网络优化方法和系统
CN107070709B (zh) 一种基于底层numa感知的nfv实现方法
Yi et al. Efficient compute-intensive job allocation in data centers via deep reinforcement learning
CN114880130B (zh) 并行训练中突破内存限制的方法、系统、设备及存储介质
Qiao et al. Joint effects of application communication pattern, job placement and network routing on fat-tree systems
Zhu et al. Hermes: an integrated CPU/GPU microarchitecture for IP routing
CN111190735B (zh) 一种基于Linux的片上CPU/GPU流水化计算方法及计算机系统
Akay et al. Predicting the performance measures of an optical distributed shared memory multiprocessor by using support vector regression
US20050125797A1 (en) Resource management for a system-on-chip (SoC)
CN106250348A (zh) 一种基于gpu访存特性的异构多核架构缓存管理方法
CN111418187A (zh) 云网络中的可伸缩统计和分析机制
Zhao et al. Large-scale machine learning cluster scheduling via multi-agent graph reinforcement learning
WO2020008392A2 (en) Predicting execution time of memory bandwidth intensive batch jobs
WO2021115082A1 (zh) 作业调度方法以及作业调度装置
EP4189542A1 (en) Sharing of compute resources between the virtualized radio access network (vran) and other workloads
CN109117247B (zh) 一种基于异构多核拓扑感知的虚拟资源管理系统及方法
CN103955397A (zh) 一种基于微架构感知的虚拟机调度多策略选择方法
WO2023124304A1 (zh) 芯片的缓存系统、数据处理方法、设备、存储介质及芯片
WO2021253817A1 (zh) 一种互联通道的调整方法、装置、系统、设备和介质
Samih et al. Collaborative memories in clusters: Opportunities and challenges
JP2007514214A (ja) 使用率を計測するための計測ユニットを備える集積回路

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant