CN108829512A - 一种云中心硬件加速计算力的分配方法、系统和云中心 - Google Patents

一种云中心硬件加速计算力的分配方法、系统和云中心 Download PDF

Info

Publication number
CN108829512A
CN108829512A CN201810436612.3A CN201810436612A CN108829512A CN 108829512 A CN108829512 A CN 108829512A CN 201810436612 A CN201810436612 A CN 201810436612A CN 108829512 A CN108829512 A CN 108829512A
Authority
CN
China
Prior art keywords
fpga
hardware
power
accelerator card
fpga accelerator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810436612.3A
Other languages
English (en)
Other versions
CN108829512B (zh
Inventor
孙善宝
于治楼
姜凯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shandong Inspur Scientific Research Institute Co Ltd
Original Assignee
Jinan Inspur Hi Tech Investment and Development Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jinan Inspur Hi Tech Investment and Development Co Ltd filed Critical Jinan Inspur Hi Tech Investment and Development Co Ltd
Priority to CN201810436612.3A priority Critical patent/CN108829512B/zh
Publication of CN108829512A publication Critical patent/CN108829512A/zh
Application granted granted Critical
Publication of CN108829512B publication Critical patent/CN108829512B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/5044Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering hardware capabilities
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00Indexing scheme relating to G06F9/00
    • G06F2209/50Indexing scheme relating to G06F9/50
    • G06F2209/501Performance criteria
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00Indexing scheme relating to G06F9/00
    • G06F2209/50Indexing scheme relating to G06F9/50
    • G06F2209/502Proximity
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Power Sources (AREA)

Abstract

本发明提供了一种云中心硬件加速计算力的分配方法、系统和云中心,包括:预先设置至少两个现场可编程门阵列FPGA加速卡;记录每一个所述FPGA加速卡的硬件计算力;接收至少一个外部客户端发送的FPGA硬件资源申请;针对每一个所述外部客户端,根据所述FPGA硬件资源申请中的预估计算力和每一个所述硬件计算力,为所述FPGA硬件资源申请分配云中心硬件加速计算力;确定至少一个最优FPGA加速卡,其中,每一个所述最优FPGA加速卡的硬件计算力之和等于所述云中心硬件加速计算力;利用每一个所述最优FPGA加速卡为所述硬件资源申请对应的业务加速。本方案能够提高服务端业务加速能力。

Description

一种云中心硬件加速计算力的分配方法、系统和云中心
技术领域
本发明涉及数据处理技术领域,特别涉及一种云中心硬件加速计算力的分配方法、系统和云中心。
背景技术
近年来,随着云计算和虚拟技术的推广普及,涌现出很多优秀的云计算应用服务平台,其聚合了大量的物理硬件资源,并采用虚拟化技术将物理硬件设备的硬件资源进行抽象,实现异构网络计算资源的统一的分配、调度和管理,从而达到充分利用软硬件资源、提高利用率的目的,在一定程度上解决了资源超配问题。
目前,随着互联网的迅速发展,从PC互联网、移动互联网来到物联网时代,万物互联的时代已经到来,设备接入的规模、大数据的规模、互联网应用的规模正在指数级增长,服务端需要处理的业务也处于指数级增长。
但是,云中心所使用处理器为通用处理器,而利用处理能力已经到达瓶颈的通用处理器处理大量的业务,会降低服务端处理业务时的计算能力,从而导致服务端的业务加速能力差。
发明内容
本发明实施例提供了一种云中心硬件加速计算力的分配方法、系统和云中心,能够提高云中心业务加速能力。
第一方面,预先设置至少两个现场可编程门阵列FPGA加速卡;
记录每一个所述FPGA加速卡的硬件计算力;
接收至少一个外部客户端发送的FPGA硬件资源申请;
针对每一个所述外部客户端,根据所述FPGA硬件资源申请中的预估计算力和每一个所述硬件计算力,为所述FPGA硬件资源申请分配云中心硬件加速计算力;
确定至少一个最优FPGA加速卡,其中,每一个所述最优FPGA加速卡的硬件计算力之和等于所述云中心硬件加速计算力;
利用每一个所述最优FPGA加速卡为所述硬件资源申请对应的业务加速。
优选地,在所述预先设置至少两个FPGA加速卡之后,进一步包括:
记录每一个所述FPGA加速卡的运行状态;
所述根据所述FPGA硬件资源申请中的预估计算力和每一个所述硬件计算力,为所述FPGA硬件资源申请分配云中心硬件加速计算力,包括:
S0:根据每一个所述运行状态,确定是否存在至少两个所述运行状态为空闲的空闲FPGA加速卡,如果是,执行S1,否则,执行S4;
S1:确定每一个所述空闲FPGA加速卡的所述硬件计算力中,是否存在至少一个大于等于所述预估计算力的指定计算力,如果是,执行S2,否则,执行S3;
S2:确定所述指定计算力为云中心硬件加速计算力;
S3:确定每一个所述空闲FPGA加速卡的所述硬件计算力中,是否存在至少两个所述硬件计算力之和大于等于所述预估计算力的所述指定计算力,如果是,执行S2,否则,执行S4;
S4:取消本次业务加速。
优选地,在所述否则之后,在所述取消本次业务加速之前,进一步包括:
D0:确定是否存在至少一个待定请求,其中,所述待定请求对应的业务的加速次数小于所述FPGA硬件资源申请对应的业务的加速次数,如果是,执行D1,否则,执行所述取消本次业务加速;
D1:确定每一个所述待定请求中是否存在至少一个代替换请求,其中,所述代替换请求的硬件计算力小于所述预估计算力,如果是,执行D2,否则,执行所述取消本次业务加速;
D2:释放所述代替换请求对应的代替换FPGA加速卡的加速资源,确定所述代替换FPGA加速卡的所述硬件计算力为所述指定计算力,执行S2。
优选地,在所述预先设置至少两个FPGA加速卡之后,进一步包括:
记录每一个所述FPGA加速卡的硬件位置;
在所述如果是,在所述是否存在至少一个大于等于所述预估计算力的指定计算力之前,进一步包括:
根据每一个所述硬件位置,从至少两个所述空闲FPGA加速卡中,确定出至少两个与所述FPGA硬件资源申请中的业务位置相对最近的最近FPGA 加速卡;
确定每一个所述最近FPGA加速卡中,执行所述是否存在至少一个大于等于所述预估计算力的指定计算力;
确定每一个所述最近FPGA加速卡中,执行所述是否存在至少两个所述硬件计算力之和大于等于所述预估计算力的所述指定计算力。
优选地,在所述利用每一个所述最优FPGA加速卡为所述硬件资源申请对应的业务加速之后,进一步包括:
当至少一个所述最优FPGA加速卡出现异常时,从每一个所述最近FPGA 加速卡中,分配至少一个最佳FPGA加速卡;
利用每一个所述最佳FPGA加速卡,替换出现异常的所述最优FPGA加速卡,其中,每一个所述最佳FPGA加速卡的所述硬件计算力之和等于所述预估计算力,且分别对应的所述硬件位置与所述业务位置相对最近。
利用每一个所述最佳FPGA加速卡和每一个未出现异常的所述最优 FPGA加速卡为所述业务加速。
优选地,在所述接收至少一个外部客户端发送的FPGA硬件资源申请之后,进一步包括:
设置与所述FPGA硬件资源申请相对应的冷却时长;
在所述利用每一个所述最优FPGA加速卡为所述硬件资源申请对应的业务加速之后,进一步包括:
等待所述冷却时长,在所述冷却时长后释放每一个所述最优FPGA加速卡。
优选地,在所述预先设置至少两个现场可编程门阵列FPGA加速卡之后,进一步包括:
设置至少一个FPGA硬件加速程序;
分别确定每一个所述FPGA硬件加速程序的程序标识;
所述利用每一个所述最优FPGA加速卡为所述硬件资源申请对应的业务加速,包括:
根据所述FPGA硬件资源申请中的业务加速标识,从每一个所述程序标识中,确定与业务加速标识相同的指定程序标识;
将所述指定程序标识对应的所述FPGA硬件加速程序,加载到每一个所述最优FPGA加速卡中;
利用加载后的所述最优FPGA加速卡,为所述硬件资源申请对应的业务加速。
第二方面,本发明实施例提供了一种云中心,包括:
FPGA资源管理模块,用于预先设置至少两个现场可编程门阵列FPGA 加速卡;
FPGA标注模块,用于记录每一个所述FPGA资源管理模块设置的所述 FPGA加速卡的硬件计算力;
通信模块,用于接收至少一个外部客户端发送的FPGA硬件资源申请;
FPGA资源动态分配模块,用于针对每一个所述外部客户端,根据所述通信模块接收的所述FPGA硬件资源申请中预估计算力和每一个所述FPGA 标注模块记录的所述硬件计算力,为所述FPGA硬件资源申请分配云中心硬件加速计算力;确定至少一个最优FPGA加速卡,其中,每一个所述最优FPGA 加速卡的硬件计算力之和等于所述云中心硬件加速计算力;
FPGA加速模块,用于利用每一个所述FPGA资源动态分配模块确定的所述最优FPGA加速卡为所述硬件资源申请对应的业务加速。
优选地,所述FPGA标注模块,进一步用于记录每一个所述FPGA加速卡的运行状态;
所述FPGA资源动态分配模块,用于执行:
S0:根据每一个所述运行状态,确定是否存在至少两个所述运行状态为空闲的空闲FPGA加速卡,如果是,执行S1,否则,执行S4;
S1:确定每一个所述空闲FPGA加速卡的所述硬件计算力中,是否存在至少一个大于等于所述预估计算力的指定计算力,如果是,执行S2,否则,执行S3;
S2:确定所述指定计算力为云中心硬件加速计算力;
S3:确定每一个所述空闲FPGA加速卡的所述硬件计算力中,是否存在至少两个所述硬件计算力之和大于等于所述预估计算力的所述指定计算力,如果是,执行S2,否则,执行S4;
S4:取消本次业务加速。
第三方面,本发明实施例提供了一种云中心硬件加速计算力的分配系统,其特征在于,包括:第二方面所述的云中心,以及至少一个客户端;
所述客户端,用于在接收到用户发送的FPGA硬件资源申请时,将所述 FPGA硬件资源申请发送给所述云中心。
在本发明实施例中,通过预先设置至少两个FPGA加速卡,以及记录每一个FPGA加速卡的硬件计算力,即可在接收到外部客户端发送的FPGA硬件资源申请时,为FPGA硬件资源申请分配云中心硬件加速计算力,以使利用云中心硬件加速计算力对应的每一个最优FPGA加速卡为业务加速,而利用功耗低、实施并行处理能力强、动态可擦洗的最优FPGA加速卡中加载待启动FPGA硬件加速程序,即可提升云中心处理业务时的计算能力,进而实现提高云中心的业务加速能力的目的。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一实施例提供的一种云中心硬件加速计算力的分配方法的流程图;
图2是本发明一实施例提供的一种云中心的结构示意图;
图3是本发明一实施例提供的一种云中心硬件加速计算力的分配系统的结构示意图;
图4是本发明一实施例提供的另一种云中心硬件加速计算力的分配系统的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例,基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
如图1所示,本发明实施例提供了一种业务加速方法,应用于服务端,包括:
步骤101:预先设置至少两个现场可编程门阵列FPGA加速卡;
步骤102:记录每一个所述FPGA加速卡的硬件计算力;
步骤103:接收至少一个外部客户端发送的FPGA硬件资源申请;
步骤104:针对每一个所述外部客户端,根据所述FPGA硬件资源申请中的预估计算力和每一个所述硬件计算力,为所述FPGA硬件资源申请分配云中心硬件加速计算力;
步骤105:确定至少一个最优FPGA加速卡,其中,每一个所述最优FPGA 加速卡的硬件计算力之和等于所述云中心硬件加速计算力;
步骤106:利用每一个所述最优FPGA加速卡为所述硬件资源申请对应的业务加速。
在本发明实施例中,通过预先设置至少两个FPGA加速卡,以及记录每一个FPGA加速卡的硬件计算力,即可在接收到外部客户端发送的FPGA硬件资源申请时,为FPGA硬件资源申请分配云中心硬件加速计算力,以使利用云中心硬件加速计算力对应的每一个最优FPGA加速卡为业务加速,而利用功耗低、实施并行处理能力强、动态可擦洗的最优FPGA加速卡中加载待启动FPGA硬件加速程序,即可提升云中心处理业务时的计算能力,进而实现提高云中心的业务加速能力的目的。
在本发明一实施例中,在所述预先设置至少两个FPGA加速卡之后,进一步包括:
记录每一个所述FPGA加速卡的运行状态;
所述根据所述FPGA硬件资源申请中的预估计算力和每一个所述硬件计算力,为所述FPGA硬件资源申请分配云中心硬件加速计算力,包括:
S0:根据每一个所述运行状态,确定是否存在至少两个所述运行状态为空闲的空闲FPGA加速卡,如果是,执行S1,否则,执行S4;
S1:确定每一个所述空闲FPGA加速卡的所述硬件计算力中,是否存在至少一个大于等于所述预估计算力的指定计算力,如果是,执行S2,否则,执行S3;
S2:确定所述指定计算力为云中心硬件加速计算力;
S3:确定每一个所述空闲FPGA加速卡的所述硬件计算力中,是否存在至少两个所述硬件计算力之和大于等于所述预估计算力的所述指定计算力,如果是,执行S2,否则,执行S4;
S4:取消本次业务加速。
在本发明实施例中,在为FPGA硬件资源申请分配云中心硬件加速计算力之前,需要每一个FPGA加速卡的运行状态,以使根据运行状态为空闲的 FPGA加速卡对应的硬件计算力,为FPGA硬件资源申请分配云中心硬件加速计算力,而分配的云中心硬件加速计算力,可以是由至少一个最优的FPGA 加速卡的硬件计算力所组成。综上可见,通过利用FPGA功耗低、实时并行处理能力强、动态可擦洗的特点,与实际情况相结合,实现了应用业务硬件加速,提升了客户的业务运营效率,进而提高云中心的资源利用率。
在本发明一实施例中,在所述否则之后,在所述取消本次业务加速之前,进一步包括:
D0:确定是否存在至少一个待定请求,其中,所述待定请求对应的业务的加速次数小于所述FPGA硬件资源申请对应的业务的加速次数,如果是,执行D1,否则,执行所述取消本次业务加速;
D1:确定每一个所述待定请求中是否存在至少一个代替换请求,其中,所述代替换请求的硬件计算力小于所述预估计算力,如果是,执行D2,否则,执行所述取消本次业务加速;
D2:释放所述代替换请求对应的代替换FPGA加速卡的加速资源,确定所述代替换FPGA加速卡的所述硬件计算力为所述指定计算力,执行S2。
在本发明实施例中,当不存在至少两个运行状态为空闲的空闲FPGA加速卡,或空闲FPGA加速卡的硬件计算力低于预估计算力时,则需要根据业务的加速次数和硬件计算力,确定业务的权重,进而确定是否释放正在加速的待定请求对应的代替换FPGA加速卡的加速资源,当且仅当在待定请求对应的业务权重较低时,释放加速资源,以使利用被释放的代替换FPGA加速卡为FPGA硬件资源申请对应的业务加速,进而实现提升云中心处理业务时的计算能力,进而实现提高云中心的业务加速能力的目的。
在本发明一实施例中,在所述预先设置至少两个FPGA加速卡之后,进一步包括:
记录每一个所述FPGA加速卡的硬件位置;
在所述如果是,在所述是否存在至少一个大于等于所述预估计算力的指定计算力之前,进一步包括:
根据每一个所述硬件位置,从至少两个所述空闲FPGA加速卡中,确定出至少两个与所述FPGA硬件资源申请中的业务位置相对最近的最近FPGA 加速卡;
确定每一个所述最近FPGA加速卡中,执行所述是否存在至少一个大于等于所述预估计算力的指定计算力;
确定每一个所述最近FPGA加速卡中,执行所述是否存在至少两个所述硬件计算力之和大于等于所述预估计算力的所述指定计算力。
在本发明实施例中,通过记录每一个FPGA加速卡的硬件位置,便于在确定出至少两个空闲FPGA加速卡后,从空闲FPGA加速卡确定出与业务需求中的业务位置相对最近的最近FPGA加速卡,进而根据最近FPGA加速卡确定最优FPGA加速卡。而确定与业务位置相对最近的最近FPGA加速卡,不仅可以提高服务端的业务加速能力,进而提高服务端的运营效率,还可以优化服务端的资源配置,避免在为FPGA硬件资源申请对应的业务加速时,耗费过多的资源。
在本发明一实施例中,在所述利用每一个所述最优FPGA加速卡为所述硬件资源申请对应的业务加速之后,进一步包括:
当至少一个所述最优FPGA加速卡出现异常时,从每一个所述最近FPGA 加速卡中,分配至少一个最佳FPGA加速卡;
利用每一个所述最佳FPGA加速卡,替换出现异常的所述最优FPGA加速卡,其中,每一个所述最佳FPGA加速卡的所述硬件计算力之和等于所述预估计算力,且分别对应的所述硬件位置与所述业务位置相对最近。
利用每一个所述最佳FPGA加速卡和每一个未出现异常的所述最优 FPGA加速卡为所述业务加速。
在本发明实施例中,当最优FPGA加速卡出现异常时,则需要计算迁移,因此需要进行FPGA硬件调度,重新为FPGA硬件资源申请分配最佳FPGA 加速卡,以使通过最佳FPGA加速卡和未出现异常的最优FPGA加速卡为业务加速,进而实现提高云中心的业务加速能力的目的。
在本发明一实施例中,在所述接收至少一个外部客户端发送的FPGA硬件资源申请之后,进一步包括:
设置与所述FPGA硬件资源申请相对应的冷却时长;
在所述利用每一个所述最优FPGA加速卡为所述硬件资源申请对应的业务加速之后,进一步包括:
等待所述冷却时长,在所述冷却时长后释放每一个所述最优FPGA加速卡。
在本发明实施例中,当FPGA硬件资源申请对应的业务加速完毕后,需要等待与FPGA硬件资源申请对应的冷却时长后,再释放部分FPGA硬件资源,可以避免周期性瞬间业务量激增或下降的波动,带来的资源切换导致的资源消耗。
在本发明一实施例中,在所述预先设置至少两个现场可编程门阵列 FPGA加速卡之后,进一步包括:
设置至少一个FPGA硬件加速程序;
分别确定每一个所述FPGA硬件加速程序的程序标识;
所述利用每一个所述最优FPGA加速卡为所述硬件资源申请对应的业务加速,包括:
根据所述FPGA硬件资源申请中的业务加速标识,从每一个所述程序标识中,确定与业务加速标识相同的指定程序标识;
将所述指定程序标识对应的所述FPGA硬件加速程序,加载到每一个所述最优FPGA加速卡中;
利用加载后的所述最优FPGA加速卡,为所述硬件资源申请对应的业务加速。
在本发明实施例中,在设置FPGA硬件加速程序之后,需要对每一个 FPGA硬件加速程序进行标识,以使在接收到FPGA硬件资源申请时,根据FPGA硬件资源申请中的业务加速标识和程序标识,查找标识相同的指定程序标识,以使通过指定程序标识对应的FPGA硬件加速程序为业务加速,进而通过提升服务端处理业务时的计算能力,实现提高服务端的业务加速能力的目的。
如图2所示,本发明实施例提供了一种云中心,包括:
FPGA资源管理模块201,用于预先设置至少两个现场可编程门阵列 FPGA加速卡;
FPGA标注模块202,用于记录每一个所述FPGA资源管理模块201设置的所述FPGA加速卡的硬件计算力;
通信模块203,用于接收至少一个外部客户端发送的FPGA硬件资源申请;
FPGA资源动态分配模块204,用于针对每一个所述外部客户端,根据所述通信模块203接收的所述FPGA硬件资源申请中预估计算力和每一个所述FPGA标注模块202记录的所述硬件计算力,为所述FPGA硬件资源申请分配云中心硬件加速计算力;确定至少一个最优FPGA加速卡,其中,每一个所述最优FPGA加速卡的硬件计算力之和等于所述云中心硬件加速计算力;
FPGA加速模块205,用于利用每一个所述FPGA资源动态分配模块204 确定的所述最优FPGA加速卡为所述硬件资源申请对应的业务加速。
在本发明实施例中,通过FPGA资源管理模块预先设置至少两个FPGA 加速卡,以及通过FPGA标注模块记录每一个FPGA加速卡的硬件计算力, FPGA资源动态分配模块即可在通信模块接收到外部客户端发送的FPGA硬件资源申请时,为FPGA硬件资源申请分配云中心硬件加速计算力,以使 FPGA加速模块利用云中心硬件加速计算力对应的每一个最优FPGA加速卡为业务加速,而利用功耗低、实施并行处理能力强、动态可擦洗的最优FPGA 加速卡中加载待启动FPGA硬件加速程序,即可提升云中心处理业务时的计算能力,进而实现提高云中心的业务加速能力的目的。
在本发明一实施例中,所述FPGA标注模块,进一步用于记录每一个所述FPGA加速卡的运行状态;
所述FPGA资源动态分配模块,用于执行:
S0:根据每一个所述运行状态,确定是否存在至少两个所述运行状态为空闲的空闲FPGA加速卡,如果是,执行S1,否则,执行S4;
S1:确定每一个所述空闲FPGA加速卡的所述硬件计算力中,是否存在至少一个大于等于所述预估计算力的指定计算力,如果是,执行S2,否则,执行S3;
S2:确定所述指定计算力为云中心硬件加速计算力;
S3:确定每一个所述空闲FPGA加速卡的所述硬件计算力中,是否存在至少两个所述硬件计算力之和大于等于所述预估计算力的所述指定计算力,如果是,执行S2,否则,执行S4;
S4:取消本次业务加速。
如图3所示,本发明实施例提供了一种云中心硬件加速计算力的分配系统,包括:上述任一所述的云中心301,以及至少一个客户端302;
所述客户端302,用于在接收到用户发送的FPGA硬件资源申请时,将所述FPGA硬件资源申请发送给所述云中心301。
在本发明实施例中,云中心通过预先设置至少两个FPGA加速卡,以及记录每一个FPGA加速卡的硬件计算力,即可在接收到客户端发送的FPGA 硬件资源申请时,为FPGA硬件资源申请分配云中心硬件加速计算力,以使利用云中心硬件加速计算力对应的每一个最优FPGA加速卡为业务加速,而利用功耗低、实施并行处理能力强、动态可擦洗的最优FPGA加速卡中加载待启动FPGA硬件加速程序,即可提升云中心处理业务时的计算能力,进而实现提高云中心的业务加速能力的目的。
为了更加清晰的说明本发明的技术方案及优点,下面以客户端a、客户端b和客户端c、云中心为例,对本发明实施例提供了一种业务加速系统进行详细描述,如图4所示,包括:
客户端a401、客户端b402和客户端c403分别与云中心相连。
云中心404,用于预先设置至少两个FPGA加速卡,并记录每一个FPGA 加速卡的硬件位置、计算力和运行状态。
具体地,通过设置FPGA加速卡,即可在利用功耗低、实时并行处理能力强、动态可擦洗的FPGA加速卡,为加速需求对应的业务加速,进而提升服务端处理业务时的计算能力,实现提高服务端的业务加速能力的目的,而记录FPGA加速卡的基础信息,即硬件位置、计算力和运行状态,可以使得根据基础信息,为用户发送的加速需求确定最佳的FPGA加速卡。
举例来说,云中心设置FPGA加速卡z、FPGA加速卡x、FPGA加速卡c和FPGA加速卡v;
FPGA加速卡z的硬件位置为济南市、硬件计算力为3000,运行状态为空闲;
FPGA加速卡x的硬件位置为长沙市、硬件计算力为5000,运行状态为空闲;
FPGA加速卡c的硬件位置为北京市、硬件计算力为4400,运行状态为空闲;
FPGA加速卡v的硬件位置为淄博市、硬件计算力为2100,运行状态为空闲。
云中心404,用于设置至少一个FPGA硬件加速程序,并分别确定每一个FPGA硬件加速程序的程序标识。
具体地,通过设置FPGA硬件加速程序,可以使得在接收到客户端的加速需求时,将FPGA硬件加速程序加载到FPGA加速卡中,再利用加载后的 FPGA加速卡为业务加速。
举例来说,云中心设置FPGA硬件加速程序q、FPGA硬件加速程序w 和FPGA硬件加速程序e;
确定FPGA硬件加速程序q的程序标识为q、确定FPGA硬件加速程序w的程序标识为w,确定FPGA硬件加速程序e的程序标识为e。
客户端b402,用于在接收到用户发送的FPGA硬件资源申请时,将FPGA 硬件资源申请发送给云中心。
具体地,用户如需业务加速,需要向客户端发送FPGA硬件资源申请,以使客户端将FPGA硬件资源申请发送给云中心,通过云中心为业务加速。
举例来说,客户端b接收用户发送的FPGA硬件资源申请,其中,FPGA 硬件资源申请中的业务位置为济南市、预估计算力为5000和业务加速标识为 q。
云中心404,用于接收客户端b402发送的FPGA硬件资源申请。
具体地,云中心在接收到客户端b发送的FPGA硬件资源申请后,即可为FPGA硬件资源申请对应的业务分配FPGA硬件资源。
云中心404,用于设置与FPGA硬件资源申请对应的冷却时长。
具体地,设置冷却时长,可以使得在为业务加速完毕后,等待冷却时长后再释放部分FPGA硬件资源,防止周期性瞬间业务量激增或下降的波动带来的资源切换带来的资源消耗。
举例来说,冷却时长为10min。
云中心404,用于执行:
A0:根据每一个运行状态,确定是否存在至少两个所述运行状态为空闲的空闲FPGA加速卡,如果是,执行A1,否则,执行A4;
具体地,云中心在为FPGA硬件资源申请对应的业务分配FPGA硬件资源时,需要先根据每一个FPGA加速卡的运行状态,确定至少两个空闲的空闲FPGA加速卡,进而从空闲FPGA加速卡中,确定出最佳FPGA加速卡。
举例来说,根据FPGA加速卡z、FPGA加速卡x、FPGA加速卡c和FPGA 加速卡v的运行状态,确定FPGA加速卡z、FPGA加速卡x、FPGA加速卡 c和FPGA加速卡v均为空闲FPGA加速卡。
A1:根据每一个硬件位置,从至少两个空闲FPGA加速卡中,确定出至少两个与FPGA硬件资源申请中的业务位置相对最近的最近FPGA加速卡。
具体地,在确定出空闲FPGA加速卡后,需要再根据各个空闲FPGA加速卡的硬件位置,确定与FPGA硬件资源申请中的业务位置相对最近的最近FPGA加速卡,以使在为FPGA硬件资源申请对应的业务加速的同时,降低云中心在加速的过程中的资源损耗。
举例来说,根据硬件位置为济南市、长沙市、为北京市和淄博市,确定与业务位置为济南市相对最近的FPGA加速卡z和FPGA加速卡v为最近 FPGA加速卡。
A2:确定每一个最近FPGA加速卡中,是否存在至少一个大于等于预估计算力的指定计算力,如果是,执行A3,否则,执行A4。
具体地,在确定与FPGA硬件资源申请中的业务位置相对最近的最近 FPGA加速卡后,需要确定各个最近FPGA加速卡的硬件计算力,以使根据计算力,确定最优FPGA加速卡。
举例来说,将FPGA加速卡z的计算力为3000与FPGA硬件资源申请对应预估计算力为5000进行比对,确定FPGA加速卡z的计算力小于预估计算力;
将FPGA加速卡v的计算力为2100与预估计算力为5000进行比对,确定FPGA加速卡v的计算力小于预估计算力。
A3:确定指定计算力为云中心硬件加速计算力。
具体地,当存在大于等于预估计算力的指定计算力时,即可确定指定计算力为云中心硬件加速计算力,进而确定云中心硬件加速计算力对应的每一个FPGA加速卡为最优FPGA加速卡,即可利用最优FPGA加速卡为业务加速。
A4:确定每一个最近FPGA加速卡中,是否存在至少两个硬件计算力之和大于等于预估计算力的指定计算力,如果是,执行A3,否则,执行A5。
具体地,当确定不存在至少一个大于等于预估计算力的指定计算力时,则需要重新确定FPGA硬件资源,以使利用多个FPGA加速卡的硬件计算力为业务加速。
举例来说,确定FPGA加速卡z和FPGA加速卡v的计算力之和为5100;
将计算力5100与预估计算力5000比对,确定FPGA加速卡z和FPGA 加速卡v的计算力之和,大于预估计算力,因此确定FPGA加速卡z和FPGA 加速卡v为最优FPGA加速卡。
A5:确定是否存在至少一个待定请求,其中,待定请求对应的业务的加速次数小于FPGA硬件资源申请对应的业务的加速次数,如果是,执行A6,否则,执行A8。
具体地,当不存在至少两个空闲的空闲FPGA加速卡或不存在至少两个计算力之和大于预估计算力的匹配加速卡时,则需要确定FPGA硬件资源申请对应的业务的权重,即确定FPGA硬件资源申请对应的加速次数,以使根据权重重新分配FPGA硬件资源。
A6:确定每一个待定请求中是否存在至少一个代替换请求,其中,代替换请求的硬件计算力小于预估计算力,如果是,执行A7,否则,执行A8。
具体地,当确定待定请求对应的加速次数小于,FPGA硬件资源申请对应业加速次数时,还需要对比计算力,以使将各个待定请求中计算力小的代替换请求对应的代替换FPGA加速卡分配给FPGA硬件资源申请对应的业务。
A7:释放代替换请求对应的代替换FPGA加速卡的加速资源,确定代替换FPGA加速卡的硬件计算力为指定计算力,执行A3。
具体地,当根据计算力和加速次数,确定FPGA硬件资源申请对应的业务的权重较高时,即需要释放权重较低的代替换FPGA加速卡,以使利用代替换FPGA加速卡为业务加速。
A8:取消本次业务加速。
具体地,当确定FPGA硬件资源申请对应的业务权重较低时,则取消本次加速。
云中心404,用于根据FPGA硬件资源申请中的业务加速标识,从每一个程序标识中,确定与业务加速标识相同的指定程序标识,并确定指定程序标识对应的PGA硬件加速程序为待启动FPGA硬件加速程序,将待启动 FPGA硬件加速程序加载到每一个最优FPGA加速卡中,利用每一个被加载的最优FPGA加速卡,为FPGA硬件资源申请对应的业务加速。
具体地,在确定FPGA硬件资源申请对应的FPGA硬件加速程序时,需要从记录的每一个程序标识中,确定与FPGA硬件资源申请中的业务加速标识相同的指定程序标识,以使利用指定程序标识对应的待启动FPGA硬件加速程序和最优FPGA加速卡为业务加速。
举例来说,业务加速标识为q,在程序标识为q、程序标识为w和程序标识为e中,FPGA硬件加速程序q的程序标识与业务加速标识相同,因此确定FPGA硬件加速程序q为待启动FPGA硬件加速程序;
将FPGA硬件加速程序q加载到最优FPGA加速卡中,利用加载后的最优FPGA加速卡为FPGA硬件资源申请对应的业务加速。
云中心404,用于当确定至少一个被加载的最优FPGA加速卡出现异常时,从至少一个FPGA硬件加速程序中,重新为FPGA硬件资源申请分配至少一个对应的最佳FPGA加速卡,其中,每一个最佳FPGA加速卡的计算力之和大于等于预估计算力,且分别对应的硬件位置与业务位置相对最近。
具体地,当最优FPGA加速卡出现异常或出现计算迁移时,则需要重新为FPGA硬件资源申请重新分配最佳FPGA加速卡,以使利用最佳FPGA加速卡为业务加速,实现实时恢复业务的目的。
云中心404,用于在每一个最佳FPGA加速卡中加载待启动FPGA硬件加速程序,利用每一个被加载的最佳FPGA加速卡为业务加速。
具体地,在确定出最佳FPGA加速卡后,需要重新加载待启动FPGA硬件加速程序到最佳FPGA加速卡中,以使利用加载后的最佳FPGA加速卡为业务加速。
云中心404,用于当确定最优FPGA加速卡或最佳FPGA加速卡为业务加速完毕后,等待冷却时长后释放每一个最优FPGA加速卡。
具体地,可以有效的解决短周期峰值带来的资源切换损失问题。
本发明各个实施例至少具有如下有益效果:
1、在本发明一实施例中,通过预先设置至少两个FPGA加速卡,以及记录每一个FPGA加速卡的硬件计算力,即可在接收到外部客户端发送的FPGA硬件资源申请时,为FPGA硬件资源申请分配云中心硬件加速计算力,以使利用云中心硬件加速计算力对应的每一个最优FPGA加速卡为业务加速,而利用功耗低、实施并行处理能力强、动态可擦洗的最优FPGA加速卡中加载待启动FPGA硬件加速程序,即可提升云中心处理业务时的计算能力,进而实现提高云中心的业务加速能力的目的。
2、在本发明一实施例中,在为FPGA硬件资源申请分配云中心硬件加速计算力之前,需要每一个FPGA加速卡的运行状态,以使根据运行状态为空闲的FPGA加速卡对应的硬件计算力,为FPGA硬件资源申请分配云中心硬件加速计算力,而分配的云中心硬件加速计算力,可以是由至少一个最优的FPGA加速卡的硬件计算力所组成。综上可见,通过利用FPGA功耗低、实时并行处理能力强、动态可擦洗的特点,与实际情况相结合,实现了应用业务硬件加速,提升了客户的业务运营效率,进而提高云中心的资源利用率。
3、在本发明一实施例中,当不存在至少两个运行状态为空闲的空闲 FPGA加速卡,或空闲FPGA加速卡的硬件计算力低于预估计算力时,则需要根据业务的加速次数和硬件计算力,确定业务的权重,进而确定是否释放正在加速的待定请求对应的代替换FPGA加速卡的加速资源,当且仅当在待定请求对应的业务权重较低时,释放加速资源,以使利用被释放的代替换 FPGA加速卡为FPGA硬件资源申请对应的业务加速,进而实现提升云中心处理业务时的计算能力,进而实现提高云中心的业务加速能力的目的。
4、在本发明一实施例中,通过记录每一个FPGA加速卡的硬件位置,便于在确定出至少两个空闲FPGA加速卡后,从空闲FPGA加速卡确定出与业务需求中的业务位置相对最近的最近FPGA加速卡,进而根据最近FPGA 加速卡确定最优FPGA加速卡。而确定与业务位置相对最近的最近FPGA加速卡,不仅可以提高服务端的业务加速能力,进而提高服务端的运营效率,还可以优化服务端的资源配置,避免在为FPGA硬件资源申请对应的业务加速时,耗费过多的资源。
5、在本发明一实施例中,当最优FPGA加速卡出现异常时,则需要计算迁移,因此需要进行FPGA硬件调度,重新为FPGA硬件资源申请分配最佳FPGA加速卡,以使通过最佳FPGA加速卡和未出现异常的最优FPGA加速卡为业务加速,进而实现提高云中心的业务加速能力的目的。
6、在本发明一实施例中,当FPGA硬件资源申请对应的业务加速完毕后,需要等待与FPGA硬件资源申请对应的冷却时长后,再释放部分FPGA 硬件资源,可以避免周期性瞬间业务量激增或下降的波动,带来的资源切换导致的资源消耗。
需要说明的是,在本文中,诸如第一和第二之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同因素。
最后需要说明的是:以上所述仅为本发明的较佳实施例,仅用于说明本发明的技术方案,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所做的任何修改、等同替换、改进等,均包含在本发明的保护范围内。

Claims (10)

1.一种云中心硬件加速计算力的分配方法,其特征在于,应用于云中心,包括:
预先设置至少两个现场可编程门阵列FPGA加速卡;
记录每一个所述FPGA加速卡的硬件计算力;
接收至少一个外部客户端发送的FPGA硬件资源申请;
针对每一个所述外部客户端,根据所述FPGA硬件资源申请中的预估计算力和每一个所述硬件计算力,为所述FPGA硬件资源申请分配云中心硬件加速计算力;
确定至少一个最优FPGA加速卡,其中,每一个所述最优FPGA加速卡的硬件计算力之和等于所述云中心硬件加速计算力;
利用每一个所述最优FPGA加速卡为所述硬件资源申请对应的业务加速。
2.根据权利要求1所述的分配方法,其特征在于,
在所述预先设置至少两个FPGA加速卡之后,进一步包括:
记录每一个所述FPGA加速卡的运行状态;
所述根据所述FPGA硬件资源申请中的预估计算力和每一个所述硬件计算力,为所述FPGA硬件资源申请分配云中心硬件加速计算力,包括:
S0:根据每一个所述运行状态,确定是否存在至少两个所述运行状态为空闲的空闲FPGA加速卡,如果是,执行S1,否则,执行S4;
S1:确定每一个所述空闲FPGA加速卡的所述硬件计算力中,是否存在至少一个大于等于所述预估计算力的指定计算力,如果是,执行S2,否则,执行S3;
S2:确定所述指定计算力为云中心硬件加速计算力;
S3:确定每一个所述空闲FPGA加速卡的所述硬件计算力中,是否存在至少两个所述硬件计算力之和大于等于所述预估计算力的所述指定计算力,如果是,执行S2,否则,执行S4;
S4:取消本次业务加速。
3.根据权利要求2所述的分配方法,其特征在于,
在所述否则之后,在所述取消本次业务加速之前,进一步包括:
D0:确定是否存在至少一个待定请求,其中,所述待定请求对应的业务的加速次数小于所述FPGA硬件资源申请对应的业务的加速次数,如果是,执行D1,否则,执行所述取消本次业务加速;
D1:确定每一个所述待定请求中是否存在至少一个代替换请求,其中,所述代替换请求的硬件计算力小于所述预估计算力,如果是,执行D2,否则,执行所述取消本次业务加速;
D2:释放所述代替换请求对应的代替换FPGA加速卡的加速资源,确定所述代替换FPGA加速卡的所述硬件计算力为所述指定计算力,执行S2。
4.根据权利要求2所述的分配方法,其特征在于,
在所述预先设置至少两个FPGA加速卡之后,进一步包括:
记录每一个所述FPGA加速卡的硬件位置;
在所述如果是,在所述是否存在至少一个大于等于所述预估计算力的指定计算力之前,进一步包括:
根据每一个所述硬件位置,从至少两个所述空闲FPGA加速卡中,确定出至少两个与所述FPGA硬件资源申请中的业务位置相对最近的最近FPGA加速卡;
确定每一个所述最近FPGA加速卡中,执行所述是否存在至少一个大于等于所述预估计算力的指定计算力;
确定每一个所述最近FPGA加速卡中,执行所述是否存在至少两个所述硬件计算力之和大于等于所述预估计算力的所述指定计算力。
5.根据权利要求4中所述的分配方法,其特征在于,
在所述利用每一个所述最优FPGA加速卡为所述硬件资源申请对应的业务加速之后,进一步包括:
当至少一个所述最优FPGA加速卡出现异常时,从每一个所述最近FPGA加速卡中,分配至少一个最佳FPGA加速卡;
利用每一个所述最佳FPGA加速卡,替换出现异常的所述最优FPGA加速卡,其中,每一个所述最佳FPGA加速卡的所述硬件计算力之和等于所述预估计算力,且分别对应的所述硬件位置与所述业务位置相对最近。
利用每一个所述最佳FPGA加速卡和每一个未出现异常的所述最优FPGA加速卡为所述业务加速。
6.根据权利要求1所述的分配方法,其特征在于,
在所述接收至少一个外部客户端发送的FPGA硬件资源申请之后,进一步包括:
设置与所述FPGA硬件资源申请相对应的冷却时长;
在所述利用每一个所述最优FPGA加速卡为所述硬件资源申请对应的业务加速之后,进一步包括:
等待所述冷却时长,在所述冷却时长后释放每一个所述最优FPGA加速卡。
7.根据权利要求1至6中任一所述的分配方法,其特征在于,
在所述预先设置至少两个现场可编程门阵列FPGA加速卡之后,进一步包括:
设置至少一个FPGA硬件加速程序;
分别确定每一个所述FPGA硬件加速程序的程序标识;
所述利用每一个所述最优FPGA加速卡为所述硬件资源申请对应的业务加速,包括:
根据所述FPGA硬件资源申请中的业务加速标识,从每一个所述程序标识中,确定与业务加速标识相同的指定程序标识;
将所述指定程序标识对应的所述FPGA硬件加速程序,加载到每一个所述最优FPGA加速卡中;
利用加载后的所述最优FPGA加速卡,为所述硬件资源申请对应的业务加速。
8.一种云中心,其特征在于,包括:
FPGA资源管理模块,用于预先设置至少两个现场可编程门阵列FPGA加速卡;
FPGA标注模块,用于记录每一个所述FPGA资源管理模块设置的所述FPGA加速卡的硬件计算力;
通信模块,用于接收至少一个外部客户端发送的FPGA硬件资源申请;
FPGA资源动态分配模块,用于针对每一个所述外部客户端,根据所述通信模块接收的所述FPGA硬件资源申请中预估计算力和每一个所述FPGA标注模块记录的所述硬件计算力,为所述FPGA硬件资源申请分配云中心硬件加速计算力;确定至少一个最优FPGA加速卡,其中,每一个所述最优FPGA加速卡的硬件计算力之和等于所述云中心硬件加速计算力;
FPGA加速模块,用于利用每一个所述FPGA资源动态分配模块确定的所述最优FPGA加速卡为所述硬件资源申请对应的业务加速。
9.根据权利要求8所述的云中心,其特征在于,
所述FPGA标注模块,进一步用于记录每一个所述FPGA加速卡的运行状态;
所述FPGA资源动态分配模块,用于执行:
S0:根据每一个所述运行状态,确定是否存在至少两个所述运行状态为空闲的空闲FPGA加速卡,如果是,执行S1,否则,执行S4;
S1:确定每一个所述空闲FPGA加速卡的所述硬件计算力中,是否存在至少一个大于等于所述预估计算力的指定计算力,如果是,执行S2,否则,执行S3;
S2:确定所述指定计算力为云中心硬件加速计算力;
S3:确定每一个所述空闲FPGA加速卡的所述硬件计算力中,是否存在至少两个所述硬件计算力之和大于等于所述预估计算力的所述指定计算力,如果是,执行S2,否则,执行S4;
S4:取消本次业务加速。
10.一种云中心硬件加速计算力的分配系统,其特征在于,包括:权利要求8或9所述的云中心,以及至少一个客户端;
所述客户端,用于在接收到用户发送的FPGA硬件资源申请时,将所述FPGA硬件资源申请发送给所述云中心。
CN201810436612.3A 2018-05-09 2018-05-09 一种云中心硬件加速计算力的分配方法、系统和云中心 Active CN108829512B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810436612.3A CN108829512B (zh) 2018-05-09 2018-05-09 一种云中心硬件加速计算力的分配方法、系统和云中心

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810436612.3A CN108829512B (zh) 2018-05-09 2018-05-09 一种云中心硬件加速计算力的分配方法、系统和云中心

Publications (2)

Publication Number Publication Date
CN108829512A true CN108829512A (zh) 2018-11-16
CN108829512B CN108829512B (zh) 2021-08-24

Family

ID=64148651

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810436612.3A Active CN108829512B (zh) 2018-05-09 2018-05-09 一种云中心硬件加速计算力的分配方法、系统和云中心

Country Status (1)

Country Link
CN (1) CN108829512B (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110519090A (zh) * 2019-08-23 2019-11-29 苏州浪潮智能科技有限公司 一种fpga云平台的加速卡分配方法、系统及相关组件
CN110995614A (zh) * 2019-11-05 2020-04-10 华为技术有限公司 一种算力资源分配的方法及装置
CN111104363A (zh) * 2019-12-27 2020-05-05 浪潮(北京)电子信息产业有限公司 一种fpga云平台使用方法、装置、设备、介质
CN111143078A (zh) * 2019-12-31 2020-05-12 深圳云天励飞技术有限公司 一种数据处理方法、装置及计算机可读存储介质
WO2020238720A1 (zh) * 2019-05-24 2020-12-03 阿里巴巴集团控股有限公司 计算资源分配系统和方法
WO2021051714A1 (zh) * 2019-09-21 2021-03-25 苏州浪潮智能科技有限公司 一种fpga云平台加速资源的分配方法与系统
CN112887093A (zh) * 2021-03-30 2021-06-01 矩阵元技术(深圳)有限公司 用于实现密码算法的硬件加速系统和方法
CN115829064A (zh) * 2023-02-17 2023-03-21 山东浪潮科学研究院有限公司 一种联邦学习加速方法、装置、设备及存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150227463A1 (en) * 2014-02-07 2015-08-13 Cisco Technology, Inc. Precaching of responsive information
CN104951353A (zh) * 2014-03-28 2015-09-30 华为技术有限公司 一种对vnf实现加速处理的方法及装置
CN104969182A (zh) * 2012-12-28 2015-10-07 英特尔公司 高动态范围软件-透明异构计算元件处理器、方法及系统
CN105824706A (zh) * 2015-12-31 2016-08-03 华为技术有限公司 一种配置加速器的方法和装置
US20160335120A1 (en) * 2015-05-11 2016-11-17 Auviz Systems, Inc. ACCELERATING ALGORITHMS & APPLICATIONS ON FPGAs
CN106776044A (zh) * 2017-01-11 2017-05-31 上海鲲云信息科技有限公司 硬件加速方法及系统、硬件加速器执行方法及系统
US20170300362A1 (en) * 2016-04-14 2017-10-19 International Business Machines Corporation Performance optimization of hardware accelerators

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104969182A (zh) * 2012-12-28 2015-10-07 英特尔公司 高动态范围软件-透明异构计算元件处理器、方法及系统
US20150227463A1 (en) * 2014-02-07 2015-08-13 Cisco Technology, Inc. Precaching of responsive information
CN104951353A (zh) * 2014-03-28 2015-09-30 华为技术有限公司 一种对vnf实现加速处理的方法及装置
US20160335120A1 (en) * 2015-05-11 2016-11-17 Auviz Systems, Inc. ACCELERATING ALGORITHMS & APPLICATIONS ON FPGAs
CN105824706A (zh) * 2015-12-31 2016-08-03 华为技术有限公司 一种配置加速器的方法和装置
US20170300362A1 (en) * 2016-04-14 2017-10-19 International Business Machines Corporation Performance optimization of hardware accelerators
CN106776044A (zh) * 2017-01-11 2017-05-31 上海鲲云信息科技有限公司 硬件加速方法及系统、硬件加速器执行方法及系统

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020238720A1 (zh) * 2019-05-24 2020-12-03 阿里巴巴集团控股有限公司 计算资源分配系统和方法
CN110519090A (zh) * 2019-08-23 2019-11-29 苏州浪潮智能科技有限公司 一种fpga云平台的加速卡分配方法、系统及相关组件
CN110519090B (zh) * 2019-08-23 2022-11-04 苏州浪潮智能科技有限公司 一种fpga云平台的加速卡分配方法、系统及相关组件
WO2021051714A1 (zh) * 2019-09-21 2021-03-25 苏州浪潮智能科技有限公司 一种fpga云平台加速资源的分配方法与系统
US11789778B2 (en) 2019-09-21 2023-10-17 Inspur Suzhou Intelligent Technology Co., Ltd. FPGA cloud platform acceleration resource allocation method, and system
CN110995614A (zh) * 2019-11-05 2020-04-10 华为技术有限公司 一种算力资源分配的方法及装置
CN110995614B (zh) * 2019-11-05 2022-04-05 华为技术有限公司 一种算力资源分配的方法及装置
CN111104363A (zh) * 2019-12-27 2020-05-05 浪潮(北京)电子信息产业有限公司 一种fpga云平台使用方法、装置、设备、介质
CN111104363B (zh) * 2019-12-27 2022-04-22 浪潮(北京)电子信息产业有限公司 一种fpga云平台使用方法、装置、设备、介质
CN111143078A (zh) * 2019-12-31 2020-05-12 深圳云天励飞技术有限公司 一种数据处理方法、装置及计算机可读存储介质
CN112887093A (zh) * 2021-03-30 2021-06-01 矩阵元技术(深圳)有限公司 用于实现密码算法的硬件加速系统和方法
CN115829064A (zh) * 2023-02-17 2023-03-21 山东浪潮科学研究院有限公司 一种联邦学习加速方法、装置、设备及存储介质

Also Published As

Publication number Publication date
CN108829512B (zh) 2021-08-24

Similar Documents

Publication Publication Date Title
CN108829512A (zh) 一种云中心硬件加速计算力的分配方法、系统和云中心
CN109218355B (zh) 负载均衡引擎,客户端,分布式计算系统以及负载均衡方法
US8812639B2 (en) Job managing device, job managing method and job managing program
CN103294548B (zh) 一种基于分布式文件系统的io请求调度方法和系统
CN110602156A (zh) 一种负载均衡调度方法及装置
CN103401947A (zh) 多个服务器的任务分配方法和装置
WO2020019743A1 (zh) 流量控制方法及装置
CN103297499A (zh) 一种基于云平台的调度方法及系统
CN102857548A (zh) 一种移动云计算资源优化配置方法
CN112888005B (zh) 一种面向mec的分布式业务调度方法
CN108491255B (zh) 自助式MapReduce数据优化分配方法及系统
CN107291544A (zh) 任务调度的方法及装置、分布式任务执行系统
CN108900626A (zh) 一种云环境下数据存储方法、装置及系统
CN104794239A (zh) 一种云平台数据处理方法
Hu et al. Job scheduling without prior information in big data processing systems
CN109491775A (zh) 一种用于边缘计算环境下的任务处理与调度方法
CN117032902A (zh) 一种基于负载的改进离散粒子群算法的云任务调度方法
US8812578B2 (en) Establishing future start times for jobs to be executed in a multi-cluster environment
CN110308965B (zh) 云数据中心的基于规则的启发式虚拟机分配方法及系统
CN111552547A (zh) 作业处理方法、装置以及计算机设备
CN110309229A (zh) 分布式系统的数据处理方法和分布式系统
CN112148474B (zh) 面向负载均衡的龙芯大数据一体机自适应任务分割方法及系统
CN113778675A (zh) 一种基于面向区块链网络的计算任务分配系统及方法
Xue et al. BOLAS: bipartite-graph oriented locality-aware scheduling for MapReduce tasks
Wang et al. Improved intermediate data management for mapreduce frameworks

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20210803

Address after: 250100 building S02, No. 1036, Langchao Road, high tech Zone, Jinan City, Shandong Province

Applicant after: Shandong Inspur Scientific Research Institute Co.,Ltd.

Address before: 250100 First Floor of R&D Building 2877 Kehang Road, Sun Village Town, Jinan High-tech Zone, Shandong Province

Applicant before: JINAN INSPUR HIGH-TECH TECHNOLOGY DEVELOPMENT Co.,Ltd.

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant
EE01 Entry into force of recordation of patent licensing contract

Application publication date: 20181116

Assignee: INSPUR SOFTWARE Co.,Ltd.

Assignor: Shandong Inspur Scientific Research Institute Co.,Ltd.

Contract record no.: X2023980030294

Denomination of invention: A distribution method, system and cloud center for accelerating computing power of cloud center hardware

Granted publication date: 20210824

License type: Exclusive License

Record date: 20230110

EE01 Entry into force of recordation of patent licensing contract