CN112463305A

CN112463305A - 一种云端虚拟化gpu的管理方法、系统及相关装置

Info

Publication number: CN112463305A
Application number: CN202011403158.5A
Authority: CN
Inventors: 宋文平; 亓开元; 苏广峰; 张百林
Original assignee: Beijing Inspur Data Technology Co Ltd
Current assignee: Beijing Inspur Data Technology Co Ltd
Priority date: 2020-12-04
Filing date: 2020-12-04
Publication date: 2021-03-09
Anticipated expiration: 2040-12-04

Abstract

本申请提供一种云端虚拟化GPU的管理方法，包括：获取GPU虚拟化资源，并将所述GPU虚拟化资源上报至控制节点；在所述控制节点中将所述GPU虚拟化资源与云端的历史虚拟化资源进行资源比对，确定所述GPU虚拟化资源中的变化资源；所述变化资源包括更新资源、新增资源和删除资源；根据所述变化资源对云端的所述历史虚拟化资源执行相应的资源变更操作。本申请可以提高GPU虚拟化资源的更新效率，使得云端可以及时管理和应用当前最新GPU虚拟化资源。本申请还提供一种云端虚拟化GPU的管理系统、计算机可读存储介质和电子设备，具有上述有益效果。

Description

一种云端虚拟化GPU的管理方法、系统及相关装置

技术领域

本申请涉及服务器领域，特别涉及一种云端虚拟化GPU的管理方法、系统及相关装置。

背景技术

当前，在进行硬件加速资源系统的应用时，需要把物理GPU虚拟化的资源绑定到不同的虚拟机上，以便云平台中多个虚拟机共同使用同一块GPU加速卡，以及在多个GPU设备的情况下，指定特定的GPU型号以及vGPU类型绑定到虚拟机上使用。这种方法首先需要手动通过命令查出GPU型号以及虚拟的vGPU类型，然后配置GPU型号以及vGPU类型，进而选择性的把特定vGPU绑定到虚拟机上使用。上述过程依赖于人工配置，比较繁琐，对于非专业人员，更是容易出错，导致vGPU使用较为不便。

发明内容

本申请的目的是提供一种云端虚拟化GPU的管理方法、管理系统、计算机可读存储介质和电子设备，能够自动获取虚拟化GPU资源并管理。

为解决上述技术问题，本申请提供一种云端虚拟化GPU的管理方法，具体技术方案如下：

获取GPU虚拟化资源，并将所述GPU虚拟化资源上报至控制节点；

在所述控制节点中将所述GPU虚拟化资源与云端的历史虚拟化资源进行资源比对，确定所述GPU虚拟化资源中的变化资源；所述变化资源包括更新资源、新增资源和删除资源；

根据所述变化资源对云端的所述历史虚拟化资源执行相应的资源变更操作。

可选的，获取GPU虚拟化资源包括：

以预设周期周期性获取GPU虚拟化资源。

可选的，将所述GPU虚拟化资源上报至控制节点包括：

通过资源系统的API接口将所述GPU虚拟化资源上报至控制节点。

可选的，还包括：

通过所述资源系统的API接口获取GPU虚拟化资源的资源状态信息；所述资源状态信息包括资源使用情况、资源更新时间、资源绑定状态中的任一项或任几项的组合。

可选的，根据所述变化资源对所述历史虚拟化资源执行相应的资源变更操作包括：

根据所述更新资源对历史虚拟化资源中相应的历史资源进行资源配置更新；

将所述新增资源添加至资源数据库；

根据所述删除资源删除所述历史虚拟化资源中相应的历史资源。

可选的，根据所述变化资源对所述历史虚拟化资源执行相应的资源变更操作之后，还包括：

将执行所述资源变更操作之后的当前GPU虚拟化资源同步至云主机的资源数据库信息列表。

本申请还提供一种云端虚拟化GPU的管理系统，包括：

资源获取模块，用于获取GPU虚拟化资源，并将所述GPU虚拟化资源上报至控制节点；

资源比对模块，用于在所述控制节点中将所述GPU虚拟化资源与云端的历史虚拟化资源进行资源比对，确定所述GPU虚拟化资源中的变化资源；所述变化资源包括更新资源、新增资源和删除资源；

资源管理模块，用于根据所述变化资源对云端的所述历史虚拟化资源执行相应的资源变更操作。

可选的，所述资源获取模块包括：

获取单元，用于以预设周期周期性获取GPU虚拟化资源。

本申请还提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如上所述的方法的步骤。

本申请还提供一种电子设备，包括存储器和处理器，所述存储器中存有计算机程序，所述处理器调用所述存储器中的计算机程序时实现如上所述的方法的步骤。

本申请提供一种云端虚拟化GPU的管理方法，包括：获取GPU虚拟化资源，并将所述GPU虚拟化资源上报至控制节点；在所述控制节点中将所述GPU虚拟化资源与云端的历史虚拟化资源进行资源比对，确定所述GPU虚拟化资源中的变化资源；所述变化资源包括更新资源、新增资源和删除资源；根据所述变化资源对云端的所述历史虚拟化资源执行相应的资源变更操作。

本申请通过获取GPU虚拟化资源并上报至控制节点，实现了GPU虚拟化资源的发现及上报过程，通过在控制节点中与云端的历史虚拟化资源进行比对，以针对变化资源进行GPU虚拟化资源的进行资源同步，可以提高GPU虚拟化资源的更新效率，使得云端可以及时管理和应用当前最新GPU虚拟化资源。

本申请还提供一种云端虚拟化GPU的管理系统、计算机可读存储介质和电子设备，具有上述有益效果，此处不再赘述。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。

图1为本申请实施例所提供的一种云端虚拟化GPU的管理方法的流程图；

图2为本申请实施例所提供的一种云端虚拟化GPU的管理系统结构示意图。

具体实施方式

为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

请参考图1，图1为本申请实施例所提供的一种云端虚拟化GPU的管理方法的流程图，该方法包括：

S101：获取GPU虚拟化资源，并将所述GPU虚拟化资源上报至控制节点；

GPU安装在计算节点上，通过GPU虚拟工具虚拟化出nvidia-180、nvidia-181等多个vGPU类型的资源，vGPU即虚拟图形处理单元，又称为虚拟GPU。本步骤中针对的即如vGPU等的GPU虚拟化资源。但需要注意的是，GPU虚拟化资源并不仅仅包含vGPU，还可以包括其他架构的CPU虚拟化资源，例如cGPU等。通常，本申请针对于硬件加速资源系统，硬件加速资源系统用于管理GPU、FPGA、NVMe SSD、SmartNIC等硬件加速资源的管理系统。通过该系统，可以方便使用云平台中的硬件加速资源。而GPU虚拟化管理需要对单个物理GPU虚拟化的多个vGPU进行管理，以便云平台中多个虚拟机共同使用一个物理GPU加速卡。

本步骤旨在获取GPU虚拟化资源，在此对于如何获取以及获取周期均不作具体限定。在获取方式上，可以通过资源系统的API接口，例如上文所述硬件加速资源系统的API接口，直接获取资源系统中包含的GPU虚拟化资源。在获取周期上，为了使得云平台所应用的虚拟化GPU资源为资源系统当前可提供的最新资源，以预设周期周期性获取GPU虚拟化资源，该预设周期可以设为较短时间，例如每分钟或者每几分钟等。当然，本领域技术人员还可以在此基础上设置其他周期，以周期性获取GPU虚拟化资源。此外，相对应的，也可以不采用周期性获取方式，例如可以配置固定获取时间，以实现GPU虚拟化资源的定时获取。

在获取GPU虚拟化资源后，需要将所述GPU虚拟化资源上报至控制节点。在此对于如何上报不作具体限定，通常也可以通过资源系统的API接口进行上报。该上报过程是指将资源系统中的GPU虚拟化资源上传至控制节点。例如可以上传至控制节点的conductor服务。Conductor服务部署在控制节点上和数据库交互的服务，把GPU虚拟化资源整理后存入数据库中。这里的整理即指下文步骤S102中的相应操作。需要注意的是，本步骤中的控制节点实际作为资源系统与云端的中间设备或系统，用于获取GPU虚拟化资源，因此具有与本申请控制节点相类似作用的其他设备或系统，也应在本申请的保护范围内。

S102：在所述控制节点中将所述GPU虚拟化资源与云端的历史虚拟化资源进行资源比对，确定所述GPU虚拟化资源中的变化资源；

在步骤S101获取GPU虚拟化资源后，本步骤需要在控制节点中将获取得到的GPU虚拟化资源与云端的历史虚拟化资源进行资源比对，以确定变化资源。而本步骤中的变化资源主要包括更新资源、新增资源和删除资源。云端的历史虚拟化资源指云端当前所记录的GPU虚拟化资源，可能源于上一次GPU虚拟化资源获取过程，例如可能为上一次执行如本实施例的管理过程所得到的GPU虚拟化资源。

S103：根据所述变化资源对云端的所述历史虚拟化资源执行相应的资源变更操作。

本步骤旨在根据已经确定的变化资源对云端的历史虚拟化资源进行资源变更。以变化资源包括更新资源、新增资源和删除资源为例，需要根据更新资源对历史虚拟化资源中相应的历史资源进行资源配置更新，将新增资源添加至资源数据库，并根据删除资源删除历史虚拟化资源中相应的历史资源。云主机还可以包括云平台资源系统API，用于对外提供云平台CPU、内存、磁盘等资源增、删、改、查相关操作的接口，直接对数据库进行操作。

在执行本步骤后，还可以将执行资源变更操作之后的当前GPU虚拟化资源同步至云主机的资源数据库信息列表，以使得云端主机可以针对当前资源数据库信息列表中的实时GPU虚拟化资源进行应用。特别的，可以利用DB(database)作为存储GPU虚拟资源的数据库，通过对原有数据库结构的改造，设计出适配GPU虚拟资源的数据库结构模型。

因为目前云平台资源调度还是在云平台资源管理系统中实现，所以需要把GPU虚拟资源信息存储到云平台资源管理系统中，以便云平台中虚拟机调度、挂载、卸载vGPU资源。本申请实施例通过获取GPU虚拟化资源并上报至控制节点，实现了GPU虚拟化资源的发现及上报过程，通过在控制节点中与云端的历史虚拟化资源进行比对，以针对变化资源进行GPU虚拟化资源的进行资源同步，可以提高GPU虚拟化资源的更新效率，使得云端可以及时管理和应用当前最新GPU虚拟化资源。

基于上述实施例，作为优选的实施例，还可以通过所述资源系统的API接口获取GPU虚拟化资源的资源状态信息。该资源状态信息包括资源使用情况、资源更新时间、资源绑定状态中的任一项或任几项的组合。

以硬件加速资源系统为例，硬件加速资源系统API还可以用于对外提供硬件加速资源增、删、改、查相关操作的接口，例如实现查看硬件加速资源的基本信息，使用情况，更新时间，资源绑定、解绑等操作。

下文对本申请的一种云端虚拟化GPU的管理方法的具体应用过程进行描述，以硬件加速资源系统、控制节点和云平台为具体的实施主体，其中，硬件加速资源系统库恶意部署与包含GPU设备的物理服务器上，而控制节点可以以高可用的方式部署硬件加速资源系统API服务以及云平台资源系统API服务，且控制节点可以为多个，例如两个或三个，具体过程可以如下：

第一步、控制节点周期性地调用硬件加速资源系统API获取硬件加速资源系统中的GPU虚拟化资源，并存储于自身DB数据库；

第二步、控制节点的Conductor服务利用将获取到的GPU虚拟化资源与云平台的历史虚拟化资源进行比对，以确定变化资源；

第三步、云平台根据DB数据库中的变化资源自身存储的历史虚拟化资源进行变更，完成GPU虚拟化资源的更新管理。

本实施例使用云平台从硬件加速资源系统周期性拉取数据的方式，通过调用硬件加速资源系统API，再由硬件加速资源系统API调用硬件加速资源系统Conductor服务访问数据库，进而获取硬件加速资源信息，存储到自己数据库中。使用拉取数据的方式而不是硬件资源系统把数据推送给云平台资源系统的方式，一方面是为了避免Conductor服务挂掉后仍然发送数据导致占用大量的带宽资源，造成网络的巨大浪费。另一方面可以减轻硬件加速资源系统周期性获取本机资源的压力。

下面对本申请实施例提供的云端虚拟化GPU的管理系统进行介绍，下文描述的管理系统与上文描述的云端虚拟化GPU的管理方法可相互对应参照。

参见图2，图2为本申请实施例所提供的一种云端虚拟化GPU的管理系统结构示意图，本申请还提供一种云端虚拟化GPU的管理系统，包括：

资源获取模块100，用于获取GPU虚拟化资源，并将所述GPU虚拟化资源上报至控制节点；

资源比对模块200，用于在所述控制节点中将所述GPU虚拟化资源与云端的历史虚拟化资源进行资源比对，确定所述GPU虚拟化资源中的变化资源；所述变化资源包括更新资源、新增资源和删除资源；

资源管理模块300，用于根据所述变化资源对云端的所述历史虚拟化资源执行相应的资源变更操作。

基于上述实施例，作为优选的实施例，资源获取模块100包括：

获取单元，用于以预设周期周期性获取GPU虚拟化资源。

上报单元，用于通过资源系统的API接口将所述GPU虚拟化资源上报至控制节点。

基于上述实施例，作为优选的实施例，还包括：

信息获取模块，用于通过所述资源系统的API接口获取GPU虚拟化资源的资源状态信息；所述资源状态信息包括资源使用情况、资源更新时间、资源绑定状态中的任一项或任几项的组合。

基于上述实施例，作为优选的实施例，资源管理模块300包括：

更新单元，用于根据所述更新资源对历史虚拟化资源中相应的历史资源进行资源配置更新；

新增单元，用于将所述新增资源添加至资源数据库；

删除单元，用于根据所述删除资源删除所述历史虚拟化资源中相应的历史资源。

本申请还提供了一种计算机可读存储介质，其上存有计算机程序，该计算机程序被执行时可以实现上述实施例所提供的步骤。该存储介质可以包括：U盘、移动硬盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

本申请还提供了一种电子设备，可以包括存储器和处理器，所述存储器中存有计算机程序，所述处理器调用所述存储器中的计算机程序时，可以实现上述实施例所提供的步骤。当然所述电子设备还可以包括各种网络接口，电源等组件。

说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例提供的系统而言，由于其与实施例提供的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。

本文中应用了具体个例对本申请的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本申请的方法及其核心思想。应当指出，对于本技术领域的普通技术人员来说，在不脱离本申请原理的前提下，还可以对本申请进行若干改进和修饰，这些改进和修饰也落入本申请权利要求的保护范围内。

还需要说明的是，在本说明书中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

Claims

1.一种云端虚拟化GPU的管理方法，其特征在于，包括：

2.根据权利要求1所述的管理方法，其特征在于，获取GPU虚拟化资源包括：

以预设周期周期性获取GPU虚拟化资源。

3.根据权利要求1或2所述的管理方法，其特征在于，将所述GPU虚拟化资源上报至控制节点包括：

4.根据权利要求3所述的管理方法，其特征在于，还包括：

5.根据权利要求1所述的管理方法，其特征在于，根据所述变化资源对所述历史虚拟化资源执行相应的资源变更操作包括：

将所述新增资源添加至资源数据库；

6.根据权利要求1所述的管理方法，其特征在于，根据所述变化资源对所述历史虚拟化资源执行相应的资源变更操作之后，还包括：

7.一种云端虚拟化GPU的管理系统，其特征在于，包括：

8.根据权利要求7所述的管理系统，其特征在于，所述资源获取模块包括：

获取单元，用于以预设周期周期性获取GPU虚拟化资源。

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1-6任一项所述的云端虚拟化GPU的管理方法的步骤。

10.一种电子设备，其特征在于，包括存储器和处理器，所述存储器中存有计算机程序，所述处理器调用所述存储器中的计算机程序时实现如权利要求1-6任一项所述的云端虚拟化GPU的管理方法的步骤。