CN106708602B - 基于半虚拟化的通用计算方法及系统 - Google Patents

基于半虚拟化的通用计算方法及系统 Download PDF

Info

Publication number
CN106708602B
CN106708602B CN201611226993.XA CN201611226993A CN106708602B CN 106708602 B CN106708602 B CN 106708602B CN 201611226993 A CN201611226993 A CN 201611226993A CN 106708602 B CN106708602 B CN 106708602B
Authority
CN
China
Prior art keywords
virtual
general
gpu
physical
machine
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201611226993.XA
Other languages
English (en)
Other versions
CN106708602A (zh
Inventor
张帅依
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Suzhou Inspur Intelligent Technology Co Ltd
Original Assignee
Suzhou Inspur Intelligent Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Suzhou Inspur Intelligent Technology Co Ltd filed Critical Suzhou Inspur Intelligent Technology Co Ltd
Priority to CN201611226993.XA priority Critical patent/CN106708602B/zh
Publication of CN106708602A publication Critical patent/CN106708602A/zh
Application granted granted Critical
Publication of CN106708602B publication Critical patent/CN106708602B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G06F2009/45562—Creating, deleting, cloning virtual machine instances
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G06F2009/45579—I/O management, e.g. providing access to device drivers or storage

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Memory System Of A Hierarchy Structure (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本发明涉及虚拟机技术领域，尤其涉及一种基于半虚拟化的通用计算方法及系统，通过在多个虚拟机中配置多个虚拟GPU，生成通用计算命令，并在内核中截获通用计算命令发送到物理机中，在物理机中实现实际通用计算后将结果返回虚拟机，实现虚拟机通用计算。本发明提供一种基于半虚拟化的通用计算方法，包括：将多个虚拟机对应于一个物理机；配置多个虚拟GPU分别对应多个虚拟机；将虚拟GPU的通用计算命令发送给物理机的物理GPU；物理GPU将通用计算结果返回给虚拟机。

Description

基于半虚拟化的通用计算方法及系统
技术领域
本发明涉及虚拟机技术领域，尤其涉及一种基于半虚拟化的通用计算方法及系统。
背景技术
在大数据背景下，对于计算机的通用计算能力有越来越多的要求，通用计算是由GPU提供，主要有OPENCL和CUDA两种实现，目前的虚拟化方案没有高效的通用计算模块的虚拟化方案。目前比较成熟的两种实现：一是XEN使用GRID卡，GRID卡是NVIDIA的专用显卡，价格昂贵，虚拟化成本很高；二是将单个普通GPU passthrough，这样每一个VM都要独占一个GPU进行通用计算，虚拟化成本也很高。
所谓通用计算，general purpose computing，是相对于图形计算而言的。由于图形处理器在历史上是专门为图形应用而设计的，因而只能作图形计算，在软件层只拥有图形接口，如OPENGL、DIRECT3D。但随着GPU处理能力的增强，工业界和学术界发现它可以处理图形之外的计算，这种计算形式由于相对图形这一单一应用而言显得更加一般、通用，所以被称为通用计算，相应的接口被称为通用计算接口，目前的代表有CUDA、OPENCL等。
最好的方法是可以多个VM共用一个GPU并提供通用计算能力。如果按照目前全虚拟化方向，需要模拟完整GPU设备，使用GPU厂家提供的驱动，但是有两个局限性：一是全虚拟化效率低；二是GPU实现复杂，还需要有对应的GPU设计手册可参考。另一种可用的思路是使用半虚拟化，使用自定义的驱动模拟GPU设备，将用户态发送到内核态的通用计算指令截获，在宿主机中进行相应操作。
发明内容
鉴于此，本发明提供的一种基于半虚拟化的通用计算方法及系统，在多个虚拟机中配置多个虚拟GPU，生成通用计算命令，并在内核中截获通用计算命令发送到物理机中，在物理机中实现实际通用计算后将结果返回虚拟机，实现虚拟机通用计算。
为了达到上述目的，本发明是通过以下技术方案实现的：
本发明提供一种基于半虚拟化的通用计算方法，包括：
将多个虚拟机对应于一个物理机；
配置多个虚拟GPU分别对应多个虚拟机；
将虚拟GPU的通用计算命令发送给物理机的物理GPU；
物理GPU将通用计算结果返回给虚拟机。
进一步地，配置多个虚拟GPU分别对应多个虚拟机，包括：
在每个虚拟机中，使用前端驱动创建虚拟GPU。
优选地，所述前端驱动为virtio驱动。
进一步地，将虚拟GPU的通用计算命令发送给物理机的物理GPU，包括：
在虚拟机内核态中截获通用计算命令；
通过virtio queue将所截获的通用计算命令发送到物理机的虚拟化程序；
虚拟化程序调用物理GPU接收通用计算命令。
进一步地，在虚拟机内核态中截获通用计算命令，包括：通过驱动接口在虚拟机内核态中截获通用计算命令。
进一步地，物理GPU将通用计算结果返回给虚拟机，包括：物理GPU将通用计算结果通过virtio queue返回给虚拟机。
本发明还提供一种基于半虚拟化的通用计算系统，包括一个物理机，在物理机下配置多个虚拟机，虚拟机中设有对应的前端驱动模块和驱动接口，其中：
前端驱动模块用于创建虚拟GPU；
虚拟GPU用于生成通用计算命令；
驱动接口用于在虚拟机内核态中截获通用计算命令；
进一步地，所述物理机包括虚拟化程序模块和一个物理GPU，虚拟化程序模块用于接收虚拟机传来的通用计算命令，并调用物理机中的物理GPU处理通用计算命令；物理GPU用于实现虚拟机发送来的通用计算命令，并输出计算结果。
优选地，所述前端驱动模块通过virtio驱动创建虚拟GPU。
优选地，所述虚拟机通过virtio queue将通用计算命令发送到物理机，所述物理机通过virtio queue将通用计算结果返回给虚拟机。
本发明提供一种基于半虚拟化的通用计算方法，有益效果如下：
提供了一种半虚拟化方案，在多个虚拟机中配置多个虚拟GPU，生成通用计算命令，并在内核中截获通用计算命令发送到物理机中，在物理机中实现实际通用计算后将结果返回虚拟机，实现虚拟机通用计算的方法。同时，将多个虚拟机共用同一个物理GPU，相当于多个进程操作同一个物理GPU，降低虚拟化成本，使用半虚拟化的方式提高虚拟机的性能。
本发明还提供一种基于半虚拟化的通用计算系统，其有益效果与基于半虚拟化的通用计算方法类似，不再赘述。
附图说明：
图1为本发明实施例所提供的基于半虚拟化的通用计算方法流程示意图；
图2为本发明实施例所提供的基于半虚拟化的通用计算系统框架示意图；
具体实施方式：
为了便于理解，对本发明中出现的部分名词作以下解释说明：
虚拟机：即VM，是指一种特殊的软件，可以在计算机平台和终端用户之间创建一种环境，而终端用户则是基于这个软件所创建的环境来操作软件。在计算机科学中，虚拟机是指可以像真实机器一样运行程序的计算机的软件实现。
物理机：在本发明中，物理机与虚拟机对应，作为虚拟机的宿主机，一般指实体计算机。
virtio ：是指半虚拟化 hypervisor 中位于设备之上的抽象层。
virtio queue：virtio是通过使用virtqueue来实现其I/O机制的，每个 virtioqueue就是一个承载大量数据的queue。
依照附图详细说明关于本发明的示例性实施例。
本实施例提供一种基于半虚拟化的通用计算方法，通过半虚拟化方法在虚拟机中创建虚拟GPU设备，将对应的通用计算命令截获转发到宿主机的物理GPU中，在虚拟机中实现通用计算，包括以下步骤：
将多个虚拟机对应于一个物理机；
配置多个虚拟GPU分别对应多个虚拟机；
将虚拟GPU的通用计算命令发送给物理机的物理GPU；
物理GPU将通用计算结果返回给虚拟机。
请参考图1，图1为本发明实施例所提供的基于半虚拟化的通用计算方法流程示意图；本实施例提供一种基于半虚拟化的通用计算方法，包括：
步骤S101、将多个虚拟机对应于一个物理机；
步骤S102、在每个虚拟机中，使用前端驱动创建虚拟GPU；
其中，在每个虚拟机中均使用前端驱动创建一个虚拟GPU，虚拟机在运算的过程中，通过虚拟GPU生成通用计算命令，因为一个物理机下设有多个虚拟机，通过调用物理机中的物理GPU，形成了一个物理GPU对应多个虚拟GPU的整体框架，多个虚拟GPU在运行时生成多个通用计算命令，这些通用计算命令可能为一种，也可能为多种。
在本实施例中，前端驱动为virtio驱动，即前端驱动是基于virtio的驱动，由此创建的虚拟GPU可表示为virtio GPU。
作为一种可实施方式，前端驱动可选取基于xen或VMware的驱动程序或工具。
步骤S103、在虚拟机内核态中截获通用计算命令；
多个虚拟机的虚拟GPU生成通用计算命令，通过驱动接口在虚拟机内核态中截获这些通用计算命令，内核态的接口较少，只要实现内核态对应的几个接口就可以截获全部通用计算命令。
步骤S104、通过virtio queue将所截获的通用计算命令发送到物理机的虚拟化程序；在本实施例中，虚拟GPU是基于virtio的驱动创建出来的，之后将通用计算命令通过virtio queue传递到物理机的虚拟化程序，物理机中的虚拟化程序将处理这些通用计算命令，virtio queue中可以包括大量的数据，因此保证了通用计算命令的传输能力；同时virtio queue作为一种连接虚拟机和物理机的通道，传输通用计算命令。
步骤S105、虚拟化程序调用物理GPU接收通用计算命令；
步骤S106、物理GPU将通用计算结果通过virtio queue返回给虚拟机；
在物理机中可以直接操作物理GPU设备，在虚拟机中的操作虚拟GPU的命令都可以对应到物理机的物理GPU上，将对应的通用计算命令在物理GPU上实现后将结果反馈给虚拟机，多个虚拟机可共用同一个物理GPU，相当于多个进程操作同一个物理GPU，实现通用计算。
本实施例提供一种基于半虚拟化的通用计算系统，包括一个物理机，在物理机下配置多个虚拟机，虚拟机中设有对应的前端驱动模块和驱动接口，其中：
前端驱动模块用于创建虚拟GPU；
虚拟GPU用于生成通用计算命令；
驱动接口用于在虚拟机内核态中截获通用计算命令；
请参考图2，图2为本发明实施例所提供的基于半虚拟化的通用计算系统框架示意图；本实施例提供一种基于半虚拟化的通用计算系统，包括一个物理机，在物理机下配置多个虚拟机，虚拟机中设有对应的前端驱动模块和驱动接口，其中：
前端驱动模块用于创建虚拟GPU；
虚拟GPU用于生成通用计算命令；
驱动接口用于在虚拟机内核态中截获通用计算命令；
进一步地，所述物理机包括虚拟化程序模块和一个物理GPU，虚拟化程序模块用于接收虚拟机传来的通用计算命令，并调用物理机中的物理GPU处理通用计算命令；物理GPU用于实现虚拟机发送来的通用计算命令，并输出计算结果。
优选地，所述前端驱动模块通过virtio驱动创建虚拟GPU。
优选地，所述虚拟机通过virtio queue将通用计算命令发送到物理机，所述物理机通过virtio queue将通用计算结果返回给虚拟机。
以上所述仅为本发明示意性的具体实施方式，并非用以限定本发明的范围，任何本领域的技术人员在不脱离本发明构思和原则的前提下所做出的等同变化与修改，均应属于本发明保护的范围。

Claims (2)

1.一种基于半虚拟化的通用计算方法，其特征在于，包括：
将多个虚拟机对应于一个物理机；
配置多个虚拟GPU分别对应多个虚拟机，包括：在每个虚拟机中，使用前端驱动创建虚拟GPU，所述前端驱动为virtio驱动；
将虚拟GPU的通用计算命令发送给物理机的物理GPU，包括：通过驱动接口在虚拟机内核态中截获通用计算命令；通过virtio queue将所截获的通用计算命令发送到物理机的虚拟化程序；虚拟化程序调用物理GPU接收通用计算命令；
物理GPU将通用计算结果通过virtio queue返回给虚拟机。
2.一种基于半虚拟化的通用计算系统，其特征在于，包括一个物理机，所述物理机包括虚拟化程序模块和一个物理GPU，在物理机下配置多个虚拟机，虚拟机中设有对应的前端驱动模块和驱动接口，其中：
前端驱动模块用于通过virtio驱动创建虚拟GPU；
虚拟GPU用于生成通用计算命令；
驱动接口用于在虚拟机内核态中截获通用计算命令；
所述虚拟机通过virtio queue将通用计算命令发送到物理机；
虚拟化程序模块用于接收虚拟机传来的通用计算命令，并调用物理机中的物理GPU处理通用计算命令；
物理GPU用于实现虚拟机发送来的通用计算命令，并输出通用计算结果；
所述物理机通过virtio queue将通用计算结果返回给虚拟机。
CN201611226993.XA 2016-12-27 2016-12-27 基于半虚拟化的通用计算方法及系统 Active CN106708602B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201611226993.XA CN106708602B (zh) 2016-12-27 2016-12-27 基于半虚拟化的通用计算方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201611226993.XA CN106708602B (zh) 2016-12-27 2016-12-27 基于半虚拟化的通用计算方法及系统

Publications (2)

Publication Number Publication Date
CN106708602A CN106708602A (zh) 2017-05-24
CN106708602B true CN106708602B (zh) 2021-02-02

Family

ID=58902785

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201611226993.XA Active CN106708602B (zh) 2016-12-27 2016-12-27 基于半虚拟化的通用计算方法及系统

Country Status (1)

Country Link
CN (1) CN106708602B (zh)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103761139A (zh) * 2014-01-25 2014-04-30 湖南大学 一种基于动态库拦截的通用计算虚拟化实现方法
CN104040494A (zh) * 2012-01-13 2014-09-10 微软公司 准虚拟化的域着色器、外壳着色器和几何着色器
CN105117273A (zh) * 2015-09-11 2015-12-02 中科信息安全共性技术国家工程研究中心有限公司 一种xen虚拟化平台中获取客户机进程信息的方法及系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104040494A (zh) * 2012-01-13 2014-09-10 微软公司 准虚拟化的域着色器、外壳着色器和几何着色器
CN103761139A (zh) * 2014-01-25 2014-04-30 湖南大学 一种基于动态库拦截的通用计算虚拟化实现方法
CN105117273A (zh) * 2015-09-11 2015-12-02 中科信息安全共性技术国家工程研究中心有限公司 一种xen虚拟化平台中获取客户机进程信息的方法及系统

Also Published As

Publication number Publication date
CN106708602A (zh) 2017-05-24

Similar Documents

Publication Publication Date Title
JP6140190B2 (ja) 準仮想化された高性能コンピューティングおよびｇｄｉ高速化
US10664942B2 (en) Reconfigurable virtual graphics and compute processor pipeline
EP2888662A1 (en) Specialized virtual machine to virtualize hardware resource for guest virtual machines
US10169075B2 (en) Method for processing interrupt by virtualization platform, and related device
CN102591715B (zh) 一种使用多队列技术的虚拟机网络性能优化的实现方法
US20190266008A1 (en) Idle processor management in virtualized systems via paravirtualization
CN104615480A (zh) 基于numa高性能网络处理器负载的虚拟处理器调度方法
CN107958437A (zh) 一种多gpu大分辨率多屏图形分块并行渲染方法
US10002016B2 (en) Configuration of virtual machines in view of response time constraints
EP2688037A1 (en) Method and apparatus for data processing using graphic processing unit
GB2499545A (en) Device emulation in a virtualised computing environment
CN109254826B (zh) 虚拟化加速处理装置的挂起检测
CN104618158A (zh) 嵌入式网络虚拟化环境中VirtIO网络虚拟化工作方法
CN103577250A (zh) 一种应用于虚拟机的设备直通方法
CN106708602B (zh) 基于半虚拟化的通用计算方法及系统
CN103092676A (zh) 虚拟机集群的模拟输入输出方法、装置及系统
CN114116393A (zh) 一种采集虚拟机的gpu性能数据的方法、装置和设备
CN102495776B (zh) 一种应用于云存储的存储控制器的bios调试方法
EP3113015B1 (en) Method and apparatus for data communication in virtualized environment
CN104866373A (zh) 基于跨平台技术的实时操作系统仿真方法
CN108460718B (zh) 基于低功耗飞腾的三维图形显示系统优化方法及装置
CN103197959B (zh) 一种多核cpu的切换方法
Gerangelos et al. vphi: Enabling xeon phi capabilities in virtual machines
CN111552554A (zh) 基于图形库api代理的gpu虚拟化方法、系统及介质
CN100545815C (zh) 软仿真器中协处理器的实现方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20210106

Address after: 215000 Building 9, No.1 guanpu Road, Guoxiang street, Wuzhong Economic Development Zone, Suzhou City, Jiangsu Province

Applicant after: SUZHOU LANGCHAO INTELLIGENT TECHNOLOGY Co.,Ltd.

Address before: Room 1601, 16 / F, 278 Xinyi Road, Zhengdong New District, Zhengzhou City, Henan Province, 450000

Applicant before: ZHENGZHOU YUNHAI INFORMATION TECHNOLOGY Co.,Ltd.

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant