CN113867970A - 一种容器加速装置、方法、设备及计算机可读存储介质 - Google Patents

一种容器加速装置、方法、设备及计算机可读存储介质 Download PDF

Info

Publication number
CN113867970A
CN113867970A CN202111460772.XA CN202111460772A CN113867970A CN 113867970 A CN113867970 A CN 113867970A CN 202111460772 A CN202111460772 A CN 202111460772A CN 113867970 A CN113867970 A CN 113867970A
Authority
CN
China
Prior art keywords
container
computing unit
hardware accelerator
configuration table
accelerator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111460772.XA
Other languages
English (en)
Inventor
张德闪
牟奇
刘伟
李仁刚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Suzhou Inspur Intelligent Technology Co Ltd
Original Assignee
Suzhou Inspur Intelligent Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Suzhou Inspur Intelligent Technology Co Ltd filed Critical Suzhou Inspur Intelligent Technology Co Ltd
Priority to CN202111460772.XA priority Critical patent/CN113867970A/zh
Publication of CN113867970A publication Critical patent/CN113867970A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本申请公开了一种容器加速装置、方法、设备及计算机可读存储介质，装置包括：安装于软件层的第一数量的容器、安装于硬件层的第二数量的硬件加速器；各个容器均用于：基于配置在软件层中的配置表，确定自身在硬件加速器中分配的计算单元，基于计算单元对应用进行加速。本申请在软件层中配置有配置表，且容器可以基于该配置表确定自身在硬件加速器中分配得到的计算单元，并可以根据分配得到的计算单元进行应用加速，这样，容器需要使用几个计算单元只需通过配置表进行相应配置即可，在快速为容器分配计算单元的情况下，提高了容器对硬件加速器的资源利用率。本申请提供的容器加速方法、设备及计算机可读存储介质也解决了相应技术问题。

Description

一种容器加速装置、方法、设备及计算机可读存储介质
技术领域
本申请涉及计算机技术领域，更具体地说，涉及一种容器加速装置、方法、设备及计算机可读存储介质。
背景技术
随着大量不同类型的应用迁移到云上以及数据量的指数级增长，数据中心为保证服务质量需要提供满足需求的算力。而受限于场地、功耗、成本等因素，简单依赖服务器数量的增加不是有效之计，数据中心则通过引入其他能提供算力的设备以提高服务器的计算密度，这类设备通常被称为硬件加速器，比如GPU（graphics processing unit，图形处理器）、FPGA（Field Programmable Gate Array，现场可编程逻辑门阵列）以及各种类型的AI（Artificial Intelligence，人工智能）加速器。另外，运行在云上的应用逐渐从单体形式向微服务形式转化，以获得更好的可扩展性以及敏捷性等优势。其中容器是应用微服务化的主要承载形式。目前单个硬件加速器通常只分配给一个容器，使得容器对硬件加速器的资源利用率较低。
综上所述，如何提高容器对硬件加速器的资源利用率是目前本领域技术人员亟待解决的问题。
发明内容
本申请的目的是提供一种容器加速方法，其能在一定程度上解决如何提高容器对硬件加速器的资源利用率的技术问题。本申请还提供了一种容器加速装置、设备及计算机可读存储介质。
为了实现上述目的，本申请提供如下技术方案：
一种容器加速方法，应用于容器，包括：
基于预设的配置表，确定自身在硬件加速器中分配的计算单元；
基于加速器设备插件及系统软件栈调用所述硬件加速器中的所述计算单元；
基于所述计算单元对应用进行加速。
优选的，所述基于预设的配置表，确定自身在硬件加速器中分配的计算单元，包括：
通过预设端口向计算单元管理单元发送查询信息；
接收所述计算单元管理单元基于所述查询信息及所述配置表确定的、所述容器在所述硬件加速器中分配的所述计算单元。
优选的，所述配置表中分配给各个所述容器的所述计算单元均不同。
一种容器加速装置，包括：第一数量的容器、第二数量的硬件加速器、加速器设备插件及系统软件栈；
各个所述容器通过所述加速器设备插件及所述系统软件栈与对应的所述硬件加速器连接；
各个所述容器均用于：基于配置表，确定自身在所述硬件加速器中分配的计算单元，基于所述加速器设备插件及所述系统软件栈调用所述硬件加速器中的所述计算单元，基于所述计算单元对应用进行加速。
优选的，还包括：管理所述配置表的计算单元管理单元；
所述容器基于配置表，确定自身在所述硬件加速器中分配的计算单元，包括：
所述容器通过预设端口向所述计算单元管理单元发送查询信息，并接收所述计算单元管理单元基于所述查询信息及所述配置表确定的、所述容器在硬件加速器中分配的所述计算单元。
优选的，所述容器、所述加速器设备插件、所述系统软件栈及所述计算单元管理单元安装于软件层；所述硬件加速器安装于硬件层；且所述配置表配置于所述软件层。
一种电子设备，包括：
存储器，用于存储计算机程序；
处理器，用于执行所述计算机程序时实现如上任一所述容器加速方法的步骤。
一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机程序，所述计算机程序被处理器执行时实现如上任一所述容器加速方法的步骤。
本申请提供的一种容器加速方法，应用于容器，基于预设的配置表，确定自身在硬件加速器中分配的计算单元；基于计算单元对应用进行加速。本申请中，容器可以基于配置表快速确定自身在硬件加速器中分配得到的计算单元，并可以根据分配得到的计算单元进行应用加速，这样，容器需要使用几个计算单元只需通过配置表进行相应配置即可，在快速为容器分配计算单元的情况下，提高了容器对硬件加速器的资源利用率。本申请提供的容器加速装置、电子设备及计算机可读存储介质也解决了相应技术问题。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。
图1为本申请实施例提供的一种容器加速装置的结构示意图；
图2为本申请实施例提供的一种容器加速方法的流程图；
图3为本申请实施例提供的一种容器加速系统的流程图；
图4为本申请实施例提供的一种电子设备的结构示意图；
图5为本申请实施例提供的一种电子设备的另一结构示意图。
具体实施方式
下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
请参阅图1，图1为本申请实施例提供的一种容器加速装置的结构示意图。在图1中，示出了两个容器，分别为容器0和容器1；示出了一个硬件加速器，也即Accelerator0，且Accelerate0中包括四个计算单元（Compute Unit，CU），分别为CU0、CU1、CU2和CU3。
本申请实施例提供的一种容器加速装置，包括：安装于软件层的第一数量的容器、安装于硬件层的第二数量的硬件加速器；
各个容器均用于：基于配置在软件层中的配置表，确定自身在硬件加速器中分配的计算单元，基于计算单元对应用进行加速。
实际应用中，配置表用于将硬件加速器中的计算单元分配给相应的容器，比如在图1中，将硬件加速器中的CU0和CU1分配给容器0进行使用，将硬件加速器中的CU2和CU3分配给容器1进行使用。需要说明的是，本申请中的第一数量、第二数量、配置表及容器中进行加速的应用等的具体内容等均可以根据实际需要确定，本申请在此不做具体限定。
具体应用场景中，为了便于容器调用硬件加速器中的计算单元，本申请中的容器加速装置中还可以包括：安装于软件层的加速器设备插件及系统软件栈；此时，各个容器通过加速器设备插件及系统软件栈与对应的硬件加速器连接。
需要说明的是，各个容器与硬件加速器间的连接方式可以根据实际需要确定，比如容器可以与每个硬件加速器均连接，或者容器只与自身分配的计算单元所属的硬件加速器连接等；此外，加速器设备插件可以为K8S（kubernetes）加速器设备插件等；本申请在此不做具体限定。
具体应用场景中，为了便于管理配置表，本申请中的容器加速装置中还包括：安装于软件层且管理配置表的计算单元管理单元，也即CU管理单元；相应的，容器基于配置在软件层中的配置表，确定自身在硬件加速器中分配的计算单元的过程中，容器可以通过预设端口向计算单元管理单元发送查询信息，并接收计算单元管理单元基于查询信息及配置表确定的、容器在硬件加速器中分配的计算单元。
需要说明的是，为了便于容器确定自身在硬件加速器中分配的计算单元，还可以在容器中设置CU资源层，借助CU资源层与计算单元管理单元间的信息交互来确定容器在硬件加速器中分配的计算单元等。此外，计算单元管理单元还可以用于：接收并保存用户设置的配置表；具体的，计算单元管理单元可以呈现容器信息及硬件加速器信息给用户，使得用户基于容器信息及硬件加速器信息设置相应的配置表，之后，计算单元管理单元再接收并保存相应的配置表等。
具体应用场景中，为了避免容器间共用一个计算单元而导致访问冲突和数据泄露等风险，在本申请中的容器加速装置中，可以设置配置表中分配给各个容器的计算单元均不同，这样，不同的容器只能应用不同的计算单元，不存在访问冲突及数据泄露等风险。
本申请提供的一种容器加速装置，包括：安装于软件层的第一数量的容器、安装于硬件层的第二数量的硬件加速器；各个容器均用于：基于配置在软件层中的配置表，确定自身在硬件加速器中分配的计算单元，基于计算单元对应用进行加速。本申请中，在软件层中配置有配置表，且容器可以基于该配置表快速确定自身在硬件加速器中分配得到的计算单元，并可以根据分配得到的计算单元进行应用加速，这样，容器需要使用几个计算单元只需通过配置表进行相应配置即可，在快速为容器分配计算单元的情况下，提高了容器对硬件加速器的资源利用率。
请参阅图2，图2为本申请实施例提供的一种容器加速方法的流程图。
本申请实施例提供的一种容器加速方法，应用于容器，可以包括以下步骤：
步骤S101：基于预设的配置表，确定自身在硬件加速器中分配的计算单元。
步骤S102：基于计算单元对应用进行加速；其中，容器安装于软件层，硬件加速器安装于硬件层，且配置表配置于软件层。
实际应用中，配置表中分配给各个容器的计算单元均不同。
本申请实施例提供的一种容器加速方法中相应步骤的描述可以参阅上述实施例，在此不再赘述。
本申请提供的一种容器加速方法，应用于容器，基于预设的配置表，确定自身在硬件加速器中分配的计算单元；基于计算单元对应用进行加速；其中，容器安装于软件层，硬件加速器安装于硬件层，且配置表配置于软件层。本申请中，在软件层中配置有配置表，且容器可以基于该配置表快速确定自身在硬件加速器中分配得到的计算单元，并可以根据分配得到的计算单元进行应用加速，这样，容器需要使用几个计算单元只需通过配置表进行相应配置即可，在快速为容器分配计算单元的情况下，提高了容器对硬件加速器的资源利用率。
请参阅图3，图3为本申请实施例提供的一种容器加速系统的流程图。
本申请实施例提供的一种容器加速系统，其特征在于，应用于容器，可以包括：
第一确定模块101，用于基于预设的配置表，确定自身在硬件加速器中分配的计算单元；
第一加速模块102，用于基于计算单元对应用进行加速；
其中，容器安装于软件层，硬件加速器安装于硬件层，且配置表配置于软件层。
本申请实施例提供的一种容器加速系统中相应模块的描述可以参阅上述实施例，在此不再赘述。
本申请还提供了一种电子设备及计算机可读存储介质，其均具有本申请实施例提供的一种容器加速方法具有的对应效果。请参阅图4，图4为本申请实施例提供的一种电子设备的结构示意图。
本申请实施例提供的电子设备，包括存储器201和处理器202，存储器201中存储有计算机程序，处理器202执行计算机程序时实现如上任一实施例所描述容器加速方法中的步骤。
请参阅图5，本申请实施例提供的另一种电子设备中还可以包括：与处理器202连接的输入端口203，用于传输外界输入的命令至处理器202；与处理器202连接的显示单元204，用于显示处理器202的处理结果至外界；与处理器202连接的通信模块205，用于实现电子设备与外界的通信。显示单元204可以为显示面板、激光扫描使显示器等；通信模块205所采用的通信方式包括但不局限于移动高清链接技术（HML）、通用串行总线（USB）、高清多媒体接口（HDMI）、无线连接：无线保真技术（WiFi）、蓝牙通信技术、低功耗蓝牙通信技术、基于IEEE802.11s的通信技术。
本申请实施例提供的一种计算机可读存储介质，计算机可读存储介质中存储有计算机程序，计算机程序被处理器执行时实现如上任一实施例所描述容器加速方法中的步骤。
本申请所涉及的计算机可读存储介质包括随机存储器（RAM）、内存、只读存储器（ROM）、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质。
本申请实施例提供的一种容器加速方法、系统、设备及计算机可读存储介质中相关部分的说明请参见本申请实施例提供的一种容器加速装置中对应部分的详细说明，在此不再赘述。另外，本申请实施例提供的上述技术方案中与现有技术中对应技术方案实现原理一致的部分并未详细说明，以免过多赘述。
还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
对所公开的实施例的上述说明，使本领域技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下，在其它实施例中实现。因此，本申请将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (8)

1.一种容器加速方法，其特征在于，应用于容器，包括：
基于预设的配置表，确定自身在硬件加速器中分配的计算单元；
基于加速器设备插件及系统软件栈调用所述硬件加速器中的所述计算单元；
基于所述计算单元对应用进行加速。
2.根据权利要求1所述的方法，其特征在于，所述基于预设的配置表，确定自身在硬件加速器中分配的计算单元，包括：
通过预设端口向计算单元管理单元发送查询信息；
接收所述计算单元管理单元基于所述查询信息及所述基于预设的配置表确定的、所述容器在所述硬件加速器中分配的所述计算单元。
3.根据权利要求1至2任一项所述的方法，其特征在于，所述配置表中分配给各个所述容器的所述计算单元均不同。
4.一种容器加速装置，其特征在于，包括：第一数量的容器、第二数量的硬件加速器、加速器设备插件及系统软件栈；
各个所述容器通过所述加速器设备插件及所述系统软件栈与对应的所述硬件加速器连接；
各个所述容器均用于：基于配置表，确定自身在所述硬件加速器中分配的计算单元，基于所述加速器设备插件及所述系统软件栈调用所述硬件加速器中的所述计算单元，基于所述计算单元对应用进行加速。
5.根据权利要求4所述的容器加速装置，其特征在于，还包括：管理所述配置表的计算单元管理单元；
所述容器基于配置表，确定自身在所述硬件加速器中分配的计算单元，包括：
所述容器通过预设端口向所述计算单元管理单元发送查询信息，并接收所述计算单元管理单元基于所述查询信息及所述配置表确定的、所述容器在硬件加速器中分配的所述计算单元。
6.根据权利要求5所述的容器加速装置，其特征在于，所述容器、所述加速器设备插件、所述系统软件栈及所述计算单元管理单元安装于软件层；所述硬件加速器安装于硬件层；且所述配置表配置于所述软件层。
7.一种电子设备，其特征在于，包括：
存储器，用于存储计算机程序；
处理器，用于执行所述计算机程序时实现如权利要求1至3任一项所述容器加速方法的步骤。
8.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1至3任一项所述容器加速方法的步骤。
CN202111460772.XA 2021-12-03 2021-12-03 一种容器加速装置、方法、设备及计算机可读存储介质 Pending CN113867970A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111460772.XA CN113867970A (zh) 2021-12-03 2021-12-03 一种容器加速装置、方法、设备及计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111460772.XA CN113867970A (zh) 2021-12-03 2021-12-03 一种容器加速装置、方法、设备及计算机可读存储介质

Publications (1)

Publication Number Publication Date
CN113867970A true CN113867970A (zh) 2021-12-31

Family

ID=78985652

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111460772.XA Pending CN113867970A (zh) 2021-12-03 2021-12-03 一种容器加速装置、方法、设备及计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN113867970A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116028230A (zh) * 2023-02-17 2023-04-28 浪潮电子信息产业股份有限公司 一种资源配置方法、装置、设备、介质及云平台

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10031760B1 (en) * 2016-05-20 2018-07-24 Xilinx, Inc. Boot and configuration management for accelerators
CN110659127A (zh) * 2018-06-29 2020-01-07 杭州海康威视数字技术股份有限公司 一种处理任务的方法、装置及系统
CN111176731A (zh) * 2019-12-29 2020-05-19 苏州浪潮智能科技有限公司 一种提高芯片计算性能的方法、系统、设备及介质
CN111880936A (zh) * 2020-07-31 2020-11-03 广州华多网络科技有限公司 资源调度方法、装置、容器集群、计算机设备和存储介质
WO2020234792A1 (en) * 2019-05-21 2020-11-26 Politecnico Di Milano An fpga-as-a-service system for accelerated serverless computing
US20200401093A1 (en) * 2018-02-08 2020-12-24 Alibaba Group Holding Limited Hybrid system-on-chip for power and performance prediction and control
CN112395071A (zh) * 2019-08-12 2021-02-23 北京百度网讯科技有限公司 用于资源管理的方法、装置、电子设备和存储介质

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10031760B1 (en) * 2016-05-20 2018-07-24 Xilinx, Inc. Boot and configuration management for accelerators
US20200401093A1 (en) * 2018-02-08 2020-12-24 Alibaba Group Holding Limited Hybrid system-on-chip for power and performance prediction and control
CN110659127A (zh) * 2018-06-29 2020-01-07 杭州海康威视数字技术股份有限公司 一种处理任务的方法、装置及系统
WO2020234792A1 (en) * 2019-05-21 2020-11-26 Politecnico Di Milano An fpga-as-a-service system for accelerated serverless computing
CN112395071A (zh) * 2019-08-12 2021-02-23 北京百度网讯科技有限公司 用于资源管理的方法、装置、电子设备和存储介质
CN111176731A (zh) * 2019-12-29 2020-05-19 苏州浪潮智能科技有限公司 一种提高芯片计算性能的方法、系统、设备及介质
CN111880936A (zh) * 2020-07-31 2020-11-03 广州华多网络科技有限公司 资源调度方法、装置、容器集群、计算机设备和存储介质

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116028230A (zh) * 2023-02-17 2023-04-28 浪潮电子信息产业股份有限公司 一种资源配置方法、装置、设备、介质及云平台

Similar Documents

Publication Publication Date Title
CN109213600B (zh) 一种基于ai云的gpu资源调度方法和装置
CN102906726B (zh) 协处理加速方法、装置及系统
CN110750341B (zh) 任务调度方法、装置、系统、终端设备及存储介质
CN104102693A (zh) 对象处理方法和装置
CN113537518B (zh) 基于联邦学习的模型训练方法及装置、设备、存储介质
CN109684073A (zh) 电子装置、云服务资源分配方法及存储介质
CN109673061A (zh) 一种pdu会话处理的方法和装置
CN112686379B (zh) 集成电路装置、电子设备、板卡和计算方法
CN113867970A (zh) 一种容器加速装置、方法、设备及计算机可读存储介质
CN114461382A (zh) 可灵活配置的算力调度实现方法、装置及存储介质
CN104243531A (zh) 一种数据处理的方法、装置及系统
CN102870374A (zh) 负荷分担方法及装置、单板
CN103853676B (zh) 基于PCIe总线的信道分配、释放、数据传输方法和系统
CN115408108A (zh) 一种云环境下的i/o卸载方法、设备、系统及存储介质
CN114926318A (zh) 多gpu聚合方法、图像处理装置、电子设备和存储介质
CN109509139A (zh) 顶点数据处理方法、装置及设备
CN112965788A (zh) 一种混合虚拟化方式的任务执行方法、系统及设备
CN113254160B (zh) 一种io资源请求方法和装置
CN111400021A (zh) 一种深度学习方法、装置及系统
CN112463028B (zh) 一种i/o处理方法、系统、设备及计算机可读存储介质
CN104657087A (zh) 一种虚拟磁盘映射的方法、装置及系统
CN105323320B (zh) 一种内容分发的方法及装置
CN112463027B (zh) 一种i/o处理方法、系统、设备及计算机可读存储介质
CN114363988A (zh) 分簇方法、装置和电子设备
CN110703997A (zh) 云存储系统及数据存储方法、装置、设备、计算机介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20211231