CN113434284A - 一种隐私计算服务端设备、系统及任务调度方法 - Google Patents
一种隐私计算服务端设备、系统及任务调度方法 Download PDFInfo
- Publication number
- CN113434284A CN113434284A CN202110993479.3A CN202110993479A CN113434284A CN 113434284 A CN113434284 A CN 113434284A CN 202110993479 A CN202110993479 A CN 202110993479A CN 113434284 A CN113434284 A CN 113434284A
- Authority
- CN
- China
- Prior art keywords
- task
- computing
- computation
- privacy
- state
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
- G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
- G06F21/6245—Protecting personal data, e.g. for financial or medical purposes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Bioethics (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Databases & Information Systems (AREA)
- Computer Hardware Design (AREA)
- Computer Security & Cryptography (AREA)
- Mobile Radio Communication Systems (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请公开了一种隐私计算服务端设备、系统及任务调度方法,包括:相连接的调度器和接口适配模块;调度器与客户端设备相连,接口适配模块与多个加速芯片相连;调度器,用于接收客户端设备发送的各隐私计算任务;并基于多个加速芯片提供的计算资源,以及各隐私计算任务的任务状态,对各隐私计算任务的运行进行调度;并为将要运行的隐私计算任务分配计算资源;并向接口适配模块发送将要运行的该隐私计算任务的计算指令和计算数据,以及所分配的计算资源的抽象资源标识;接口适配模块,用于向具有抽象资源标识表示的计算资源的加速芯片,发送将要运行的该隐私计算任务的计算指令和计算数据。采用本方案,能够有效利用多个加速芯片提供的计算资源。
Description
技术领域
本申请涉及隐私计算技术领域,尤其涉及一种隐私计算服务端设备、系统及任务调度方法。
背景技术
目前现有的隐私计算技术中,为了提高隐私计算的效率,可以在用于进行隐私计算的服务端设备外接加速芯片,也可以称作加速卡或加速硬件,外接的加速芯片可以提供更多的计算资源,用于执行各隐私计算任务的计算指令,从而可以更快速的完成计算,提高隐私计算的效率。
然而,现有的使用加速芯片进行隐私计算的方法,对加速芯片的水平扩展没有考虑,在服务端设备的计算机主板可以外接多个加速芯片进行水平扩展的情况下,无法有效利用多个加速芯片提供的计算资源。
发明内容
本申请实施例提供一种隐私计算服务端设备、系统及任务调度方法,用以解决现有技术中存在的无法有效利用多个加速芯片提供的计算资源的问题。
本申请实施例提供一种隐私计算服务端设备,包括:相连接的调度器和接口适配模块;
所述调度器与客户端设备相连,所述接口适配模块与多个加速芯片相连;
所述调度器,用于接收所述客户端设备发送的各隐私计算任务;并基于所述多个加速芯片提供的计算资源,以及所述各隐私计算任务的任务状态,对所述各隐私计算任务的运行进行调度;并为将要运行的隐私计算任务分配计算资源;并向所述接口适配模块发送将要运行的该隐私计算任务的计算指令和计算数据,以及所分配的计算资源的抽象资源标识;
所述接口适配模块,用于向具有所述抽象资源标识表示的计算资源的加速芯片,发送将要运行的该隐私计算任务的计算指令和计算数据,使得所述加速芯片使用所述计算数据执行所述计算指令。
进一步的,所述多个加速芯片的计算资源被划分为多个计算资源单元;
所述调度器,还用于在将计算资源单元分配给将要运行的隐私计算任务之后,将分配的计算资源单元的资源状态,从空闲状态设置为占用状态,在正在运行的隐私计算任务的任务状态从活动状态变更为等待状态后,将已分配给该隐私计算任务的计算资源单元的资源状态,从占用状态设置为空闲状态;
所述调度器,具体用于从处于空闲状态的计算资源单元中选择计算资源单元,为将要运行的隐私计算任务分配指定数量的计算资源单元。
进一步的,隐私计算任务的任务状态包括:初始状态、等待状态和活动状态;
所述调度器,具体用于将处于初始状态的隐私计算任务,移动到等待任务队列;当存在处于空闲状态的计算资源单元时,将所述等待任务队列中位于第一个的隐私计算任务,移动到就绪任务队列,所述就绪任务队列中的隐私计算任务为正在运行或将要运行的隐私计算任务;当所述就绪任务队列中的隐私计算任务的任务状态从活动状态变更为等待状态,将该隐私计算任务移动到所述等待任务队列。
进一步的,所述调度器,还用于针对正在运行的隐私计算任务,当在执行完该隐私计算任务的一条计算指令后,且该隐私计算任务还包括未执行的计算指令时,确定该未执行的计算指令所需要的计算资源数量,当为该隐私计算任务已分配的计算资源单元的数量大于该计算资源数量时,释放多余的计算资源单元,当为该隐私计算任务已分配的计算资源单元的数量小于该计算资源数量时,为该隐私计算任务追加分配欠缺的计算资源单元。
本申请实施例还提供一种隐私计算系统,包括:上述任一所述的服务端设备和所述多个加速芯片。
进一步的,所述客户端设备包括相连接的密文计算应用和密文计算API模块,所述调度器与所述客户端设备中的密文计算API模块相连;
所述密文计算应用通过调用所述密文计算API模块提供的各API接口,向所述调度器发送各隐私计算任务。
本申请实施例还提供一种隐私计算任务调度方法,应用于隐私计算服务端设备所包括的调度器,所述服务端设备还包括与所述调度器相连接的接口适配模块,所述接口适配模块与多个加速芯片相连,所述方法,包括:
接收客户端设备发送的各隐私计算任务;
基于所述多个加速芯片提供的计算资源,以及所述各隐私计算任务的任务状态,对所述各隐私计算任务的运行进行调度;
为将要运行的隐私计算任务分配计算资源;
向所述接口适配模块发送将要运行的该隐私计算任务的计算指令和计算数据,以及所分配的计算资源的抽象资源标识,使得所述接口适配模块向具有所述抽象资源标识表示的计算资源的加速芯片,发送将要运行的该隐私计算任务的计算指令和计算数据。
进一步的,所述多个加速芯片的计算资源被划分为多个计算资源单元,所述方法,还包括:
在将计算资源单元分配给将要运行的隐私计算任务之后,将分配的计算资源单元的资源状态,从空闲状态设置为占用状态,在正在运行的隐私计算任务的任务状态从活动状态变更为等待状态后,将已分配给该隐私计算任务的计算资源单元的资源状态,从占用状态设置为空闲状态;
所述为将要运行的隐私计算任务分配计算资源,包括:
从处于空闲状态的计算资源单元中选择计算资源单元,为将要运行的隐私计算任务分配指定数量的计算资源单元。
进一步的,隐私计算任务的任务状态包括:初始状态、等待状态和活动状态;
所述基于所述多个加速芯片提供的计算资源,以及所述各隐私计算任务的任务状态,对所述各隐私计算任务的运行进行调度,包括:
将处于初始状态的隐私计算任务,移动到等待任务队列;
当存在处于空闲状态的计算资源单元时,将所述等待任务队列中位于第一个的隐私计算任务,移动到就绪任务队列,所述就绪任务队列中的隐私计算任务为正在运行或将要运行的隐私计算任务;
当所述就绪任务队列中的隐私计算任务的任务状态从活动状态变更为等待状态,将该隐私计算任务移动到所述等待任务队列。
进一步的,还包括:
针对正在运行的隐私计算任务,当在执行完该隐私计算任务的一条计算指令后,且该隐私计算任务还包括未执行的计算指令时,确定该未执行的计算指令所需要的计算资源数量;
当为该隐私计算任务已分配的计算资源单元的数量大于该计算资源数量时,释放多余的计算资源单元;
当为该隐私计算任务已分配的计算资源单元的数量小于该计算资源数量时,为该隐私计算任务追加分配欠缺的计算资源单元。
本申请实施例还提供一种隐私计算任务调度装置,应用于隐私计算服务端设备所包括的调度器,所述服务端设备还包括与所述调度器相连接的接口适配模块,所述接口适配模块与多个加速芯片相连,所述装置,包括:
任务接收模块,用于接收客户端设备发送的各隐私计算任务;
任务调度模块,用于基于所述多个加速芯片提供的计算资源,以及所述各隐私计算任务的任务状态,对所述各隐私计算任务的运行进行调度;
资源分配模块,用于为将要运行的隐私计算任务分配计算资源;
指令发送模块,用于向所述接口适配模块发送将要运行的该隐私计算任务的计算指令和计算数据,以及所分配的计算资源的抽象资源标识,使得所述接口适配模块向具有所述抽象资源标识表示的计算资源的加速芯片,发送将要运行的该隐私计算任务的计算指令和计算数据。
进一步的,所述多个加速芯片的计算资源被划分为多个计算资源单元,所述装置,还包括:
资源状态设置模块,用于在将计算资源单元分配给将要运行的隐私计算任务之后,将分配的计算资源单元的资源状态,从空闲状态设置为占用状态,在正在运行的隐私计算任务的任务状态从活动状态变更为等待状态后,将已分配给该隐私计算任务的计算资源单元的资源状态,从占用状态设置为空闲状态;
所述资源分配模块,具体用于从处于空闲状态的计算资源单元中选择计算资源单元,为将要运行的隐私计算任务分配指定数量的计算资源单元。
进一步的,隐私计算任务的任务状态包括:初始状态、等待状态和活动状态;
所述任务调度模块,具体用于将处于初始状态的隐私计算任务,移动到等待任务队列;当存在处于空闲状态的计算资源单元时,将所述等待任务队列中位于第一个的隐私计算任务,移动到就绪任务队列,所述就绪任务队列中的隐私计算任务为正在运行或将要运行的隐私计算任务;当所述就绪任务队列中的隐私计算任务的任务状态从活动状态变更为等待状态,将该隐私计算任务移动到所述等待任务队列。
进一步的,任务调度模块,还用于针对正在运行的隐私计算任务,当在执行完该隐私计算任务的一条计算指令后,且该隐私计算任务还包括未执行的计算指令时,确定该未执行的计算指令所需要的计算资源数量;当为该隐私计算任务已分配的计算资源单元的数量大于该计算资源数量时,释放多余的计算资源单元;当为该隐私计算任务已分配的计算资源单元的数量小于该计算资源数量时,为该隐私计算任务追加分配欠缺的计算资源单元。
本申请实施例还提供一种电子设备,其特征在于,包括处理器和机器可读存储介质,所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令,所述处理器被所述机器可执行指令促使:实现上述任一隐私计算任务调度方法。
本申请实施例还提供一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述任一隐私计算任务调度方法。
本申请实施例还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述任一隐私计算任务调度方法。
本申请有益效果包括:
本申请实施例提供的方案中,用于隐私计算的服务端设备包括了相连接的调度器和接口适配模块,并由接口适配模块与多个加速芯片相连,针对各隐私计算任务,调度器基于多个加速芯片提供的计算资源,以及各隐私计算任务的任务状态,对各隐私计算任务的运行进行调度,并为将要运行的隐私计算任务分配计算资源,并向接口适配模块发送将要运行的该隐私计算任务的计算指令和计算数据,以及所分配的计算资源的抽象资源标识,由接口适配模块向具有该抽象资源标识表示的计算资源的加速芯片,发送将要运行的该隐私计算任务的计算指令和计算数据,以使加速芯片使用接收的计算数据执行计算指令,从而实现了基于多个加速芯片提供的计算资源,对各隐私计算任务的运行进行调度,即有效利用了多个加速芯片提供的计算资源。并且,调度器在分配和使用计算资源时,使用计算资源的抽象资源标识,并不需要获知计算资源具体所属的加速芯片的相关信息,并通过接口适配模块向加速芯片发送计算指令和计算数据,从而可以更便于加速芯片的水平扩展。
本申请的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本申请而了解。本申请的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。
附图说明
附图用来提供对本申请的进一步理解,并且构成说明书的一部分,与本申请实施例一起用于解释本申请,并不构成对本申请的限制。在附图中:
图1为本申请实施例提供的隐私计算服务端设备的结构示意图;
图2为本申请实施例中隐私计算任务的各任务状态之间的切换示意图;
图3为本申请另一实施例提供的隐私计算服务端设备的结构示意图;
图4为本申请实施例提供的隐私计算系统的结构示意图;
图5为本申请实施例提供的隐私计算任务调度方法的流程图;
图6为本申请另一实施例提供的隐私计算任务调度方法的流程图;
图7-1为本申请实施例中任务调度用例1的示意图;
图7-2为本申请实施例中任务调度用例2的示意图;
图7-3为本申请实施例中任务调度用例3的示意图;
图7-4为本申请实施例中任务调度用例4的示意图;
图7-5为本申请实施例中任务调度用例5的示意图;
图8-1为本申请实施例提供的隐私计算任务调度装置的结构示意图;
图8-2为本申请另一实施例提供的隐私计算任务调度装置的结构示意图;
图9为本申请实施例提供的电子设备的结构示意图。
具体实施方式
为了给出能够有效利用多个加速芯片提供的计算资源的实现方案,本申请实施例提供了一种隐私计算服务端设备、系统及任务调度方法,以下结合说明书附图对本申请的优选实施例进行说明,应当理解,此处所描述的优选实施例仅用于说明和解释本申请,并不用于限定本申请。并且在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。
本申请实施例提供一种隐私计算服务端设备,如图1所示,包括:相连接的调度器11和接口适配模块12;
调度器11与客户端设备相连,接口适配模块12与多个加速芯片相连;
调度器11,用于接收客户端设备发送的各隐私计算任务;并基于多个加速芯片提供的计算资源,以及各隐私计算任务的任务状态,对各隐私计算任务的运行进行调度;并为将要运行的隐私计算任务分配计算资源;并向接口适配模块发送将要运行的该隐私计算任务的计算指令和计算数据,以及所分配的计算资源的抽象资源标识;
接口适配模块12,用于向具有抽象资源标识表示的计算资源的加速芯片,发送将要运行的该隐私计算任务的计算指令和计算数据,使得加速芯片使用计算数据执行计算指令。
采用上述隐私计算服务端设备,可以由调度器基于多个加速芯片提供的计算资源,以及各隐私计算任务的任务状态,对各隐私计算任务的运行进行调度,以及分配计算资源,并通过接口适配模块向具有该分配的计算资源的加速芯片,发送将要运行的该隐私计算任务的计算指令和计算数据,以使加速芯片使用接收的计算数据执行计算指令,从而实现了基于多个加速芯片提供的计算资源,对各隐私计算任务的运行进行调度,即有效利用了多个加速芯片提供的计算资源。
并且,调度器在分配和使用计算资源时,使用计算资源的抽象资源标识,并不需要获知计算资源具体所属的加速芯片的相关信息,并通过接口适配模块向加速芯片发送计算指令和计算数据,从而可以更便于加速芯片的水平扩展。
本申请实施例中,接口适配模块12负责对接不同类型硬件架构下的各种加速芯片,可以使用PCIE(Peripheral Component Interconnect Express,高速串行计算机扩展总线标准)接口、JTAG(Oint Test Action Group,联合测试行为组织)接口、网络或其它用于连接主机与加速硬件的连接接口,与多个加速芯片之间进行连接,在软件层面可以使用面向对象的方式,向上层的调度器11提供抽象接口,即为多个加速芯片提供的各计算资源定义抽象资源标识,计算资源的抽象资源标识与计算资源所属的加速芯片的各种芯片信息无关,也就是说,与加速芯片的硬件结构、名称、存取寄存器地址等一系列细节信息无关,从而使得上层的调度器11只需要获知计算资源的抽象资源标识即可,进而可以更便于加速芯片的水平扩展。
本申请实施例中,进一步的,多个加速芯片的计算资源可以被划
分为多个计算资源单元;
调度器11,还用于在将计算资源单元分配给将要运行的隐私计算任务之后,将分配的计算资源单元的资源状态,从空闲状态设置为占用状态,在正在运行的隐私计算任务的任务状态从活动状态变更为等待状态后,将已分配给该隐私计算任务的计算资源单元的资源状态,从占用状态设置为空闲状态;
调度器11,具体用于从处于空闲状态的计算资源单元中选择计算资源单元,为将要运行的隐私计算任务分配指定数量的计算资源单元。
本申请实施例中,每个加速芯片可以被划分为若干个逻辑分区,每个逻辑分区可以称为核心组(Cor Group),一个核心组作为一个计算资源单元,每个计算资源可以独立计算,一个计算资源单元一次只分配给一个计算指令。
进一步的,隐私计算任务的任务状态可以包括:初始状态、等待状态和活动状态;
调度器11在对接收的各隐私计算任务的运行进行调度时,具体可以用于将处于初始状态的隐私计算任务,移动到等待任务队列;当存在处于空闲状态的计算资源单元时,将等待任务队列中位于第一个的隐私计算任务,移动到就绪任务队列,就绪任务队列中的隐私计算任务为正在运行或将要运行的隐私计算任务;当就绪任务队列中的隐私计算任务的任务状态从活动状态变更为等待状态,将该隐私计算任务移动到等待任务队列。
并且,具体可以将处于初始状态的隐私计算任务,移动到等待任务队列的队尾,将等待任务队列中位于第一个的隐私计算任务,移动到就绪任务队列的队尾,针对需要从就绪任务队列中移动到等待任务队列中的隐私计算任务,具体可以移动到等待任务队列的队首,以便使得已经启动过计算的该隐私计算任务尽快完成全部计算。
进一步的,调度器11在对接收的各隐私计算任务的运行进行调度时,还可以用于针对正在运行的隐私计算任务,当在执行完该隐私计算任务的一条计算指令后,且该隐私计算任务还包括未执行的计算指令时,确定该未执行的计算指令所需要的计算资源数量,当为该隐私计算任务已分配的计算资源单元的数量大于该计算资源数量时,释放多余的计算资源单元,当为该隐私计算任务已分配的计算资源单元的数量小于该计算资源数量时,为该隐私计算任务追加分配欠缺的计算资源单元;当需要追加分配的所欠缺的计算资源单元不足时,则等待有计算资源单元被释放,不需要释放目前已经占用的计算资源单元。
本申请实施例中,隐私计算任务的任务状态可以包括:初始状态(INIT)、等待状态(IDLE)和活动状态(ACTIVE),进一步的,还可以包括僵死状态(ZOMMBIE),如图2所示,下面针对各任务状态之间的切换进行详细描述:
21、在接收到一个新的隐私计算任务后,表示任务开始,在针对该新的隐私计算任务设置上下文(set context)之后,将该隐私计算任务的任务状态设置为初始状态;
22、针对处于初始状态的隐私计算任务,在开始模组操作(start mod operation)后,将该隐私计算任务的任务状态设置为活动状态;
23、针对处于初始状态的隐私计算任务,在等待模组超时(wait mod timeout)后,将该隐私计算任务的任务状态设置为等待状态;
24、针对处于活动状态的隐私计算任务,在超时(timeout)后,将该隐私计算任务的任务状态设置为等待状态;
25、针对处于等待状态的隐私计算任务,在开始模组操作(start mod operation)后,将该隐私计算任务的任务状态设置为活动状态;
26、针对处于等待状态的隐私计算任务,在等待超时(idle timeout)后,将该隐私计算任务的任务状态设置为僵死状态;
27、针对处于各种状态的隐私计算任务,在用户关闭(kill by user)后,结束该隐私计算任务。
基于上述调度器11执行的任务调度流程,在本申请实施例中,设置了两个任务队列,一个是等待任务队列,另一个是就绪任务队列,其中,等待任务队列中存储有处于初始状态和等待状态的隐私计算任务,就绪任务队列中存储有将要运行或正在运行的隐私计算任务,正在运行的隐私计算任务的任务状态为活动状态,将要运行的隐私计算任务为新加入就绪任务队列且还未分配计算资源单元的任务,此时还处于等待状态,在为其分配计算资源单元并启动运行后,任务状态将从等待状态变更为活动状态。
本申请实施例中,调度器11基于隐私计算任务的任务状态,以及多个加速芯片提供的计算资源的资源状态,对接收的各隐私计算任务的运行进行调度,所以,如图3所示,本申请实施例提供的隐私计算服务端设备,还可以包括计算任务状态存储模块13,用于存储各隐私计算任务的任务状态,以及还可以包括计算资源状态存储模块14,用于存储各计算资源的资源状态,以便调度器11及时、准确的获取各隐私计算任务的任务状态和各计算资源的资源状态,用于对各隐私计算任务的运行进行有效的调度,进而提高了加速芯片提供的计算资源的利用率,同时也提高了对隐私计算任务所包含的各计算指令进行计算的效率。
基于本申请实施例提供的上述隐私计算服务端设备,本申请实施例还提供了一种隐私计算系统,如图4所示,包括:上述任一的服务端设备41和多个加速芯片42。
关于服务端设备41和加速芯片42的功能和处理操作,以及两者之间的连接关系等,详见上述相关描述内容,在此不再赘述。
进一步的,本申请实施例中,如图4所示,针对与服务端设备相连的客户端设备43,可以包括相连接的密文计算应用431和密文计算API模块432,调度器11与客户端设备43中的密文计算API模块432相连;
密文计算应用431可以通过调用密文计算API模块432提供的各API接口,向调度器11发送各隐私计算任务。
其中,密文计算API模块432,与调度器11之间可以采用进程间通信,且该进程间通信可以是本地进程间通信,也可以使用远程进程间通信,包括不限于如:RDMA(RemoteDirect Memory Access,远程直接内存访问)通信、MPI(信息传递接口)通信。
上述客户端设备中,为密文计算应用提供了透明的密文计算API模块,密文计算应用只需要调用规范和透明的API接口,即可以向服务端设备发送隐私计算任务,因此,在硬件资源扩容或缩容情况下,无需修改密文计算应用。
基于本申请实施例提供的上述隐私计算服务端设备,本申请实施例还提供一种隐私计算任务调度方法,应用于隐私计算服务端设备所包括的调度器,服务端设备还包括与调度器相连接的接口适配模块,接口适配模块与多个加速芯片相连,如图5所示,包括:
51、接收客户端设备发送的各隐私计算任务。
52、基于多个加速芯片提供的计算资源,以及各隐私计算任务的任务状态,对各隐私计算任务的运行进行调度。
53、为将要运行的隐私计算任务分配计算资源。
54、向接口适配模块发送将要运行的该隐私计算任务的计算指令和计算数据,以及所分配的计算资源的抽象资源标识,使得接口适配模块向具有抽象资源标识表示的计算资源的加速芯片,发送将要运行的该隐私计算任务的计算指令和计算数据。
采用上述隐私计算任务调度方法,可以由调度器基于多个加速芯片提供的计算资源,以及各隐私计算任务的任务状态,对各隐私计算任务的运行进行调度,以及分配计算资源,并通过接口适配模块向具有该分配的计算资源的加速芯片,发送将要运行的该隐私计算任务的计算指令和计算数据,以使加速芯片使用接收的计算数据执行计算指令,从而实现了基于多个加速芯片提供的计算资源,对各隐私计算任务的运行进行调度,即有效利用了多个加速芯片提供的计算资源。
并且,调度器在分配和使用计算资源时,使用计算资源的抽象资源标识,并不需要获知计算资源具体所属的加速芯片的相关信息,并通过接口适配模块向加速芯片发送计算指令和计算数据,从而可以更便于加速芯片的水平扩展。
下面对本申请实施例提供的隐私计算任务调度方法进行详细描述,如图6所示,可以包括如下步骤:
步骤61、客户端设备向服务端设备的调度器发送隐私计算任务。
本申请实施例中,客户端设备可以包括相连接的密文计算应用和密文计算API模块,调度器与客户端设备中的密文计算API模块相连;
密文计算应用可以通过调用密文计算API模块提供的各API接口,向调度器发送各隐私计算任务。
步骤62、调度器在接收客户端设备发送的隐私计算任务后,将该隐私计算任务的任务状态设置为初始状态,并将该隐私计算任务移动到等待任务队列。
等待任务队列中存储有处于初始状态和等待状态的隐私计算任务。
步骤63、当存在处于空闲状态的计算资源单元时,将等待任务队列中位于第一个的隐私计算任务,移动到就绪任务队列。
就绪任务队列中的隐私计算任务为正在运行或将要运行的隐私计算任务,正在运行的隐私计算任务的任务状态为活动状态,将要运行的隐私计算任务为新加入就绪任务队列且还未分配计算资源单元的任务,此时还处于等待状态,在为其分配计算资源单元并启动运行后,任务状态将从等待状态变更为活动状态。
步骤64、从处于空闲状态的计算资源单元中选择计算资源单元,为就绪任务队列中将要运行的隐私计算任务分配指定数量的计算资源单元。
本申请实施例中,对于计算资源单元的资源状态,可以在将计算资源单元分配给将要运行的隐私计算任务之后,将分配的计算资源单元的资源状态,从空闲状态设置为占用状态,在正在运行的隐私计算任务的任务状态从活动状态变更为等待状态后,将已分配给该隐私计算任务的计算资源单元的资源状态,从占用状态设置为空闲状态。
每个加速芯片可以被划分为若干个逻辑分区,每个逻辑分区可以称为核心组(CorGroup),一个核心组作为一个计算资源单元,每个计算资源可以独立计算,一个计算资源单元一次只分配给一个计算指令。
本申请实施例中,调度器可以基于将要运行的隐私计算任务所包含的各计算指令的特性,确定为每个计算指令分配的计算资源单元的数量,当隐私计算任务包含多个计算指令时,可以基于目前处于空闲状态的计算资源单元的数量,确定针对该多个计算指令采取串行执行的方式,还是采取并行执行的方式,串行执行的方式,是按照该多个计算指令的排列顺序,依次分配计算资源单元并执行,并行执行的方式,是为该多个计算指令均分配计算资源单元,并同时执行。
本申请实施例中,调度器针对正在运行的隐私计算任务,当在执行完该隐私计算任务的一条计算指令后,且该隐私计算任务还包括未执行的计算指令时,确定该未执行的计算指令所需要的计算资源数量,当为该隐私计算任务已分配的计算资源单元的数量大于该计算资源数量时,释放多余的计算资源单元,当为该隐私计算任务已分配的计算资源单元的数量小于该计算资源数量时,为该隐私计算任务追加分配欠缺的计算资源单元;当需要追加分配的所欠缺的计算资源单元不足时,则等待有计算资源单元被释放,不需要释放目前已经占用的计算资源单元。
步骤65、调度器向接口适配模块发送将要运行的该隐私计算任务的计算指令和计算数据,以及所分配的计算资源的抽象资源标识。
步骤66、接口适配模块在接收到该隐私计算任务的计算指令和计算数据,以及所分配的计算资源的抽象资源标识后,向具有抽象资源标识表示的计算资源的加速芯片,发送将要运行的该隐私计算任务的计算指令和计算数据。
步骤67、加速芯片在接收到该隐私计算任务的计算指令和计算数据后,使用该计算数据执行该计算指令。
在执行完计算指令得到计算结果后,如何返回计算结果,可以采用已知的各种可行的方式,本申请中不再详细进行描述。
本申请实施例提供的隐私计算任务调度方法中,关于隐私计算任务的各种任务状态之间的变更,可以详见上述关于图2的描述,在此不再进行详细描述。
基于本申请实施例提供的上述隐私计算任务调度方法,下面对隐私计算任务的各任务调度用例进行举例描述。
如图7-1所示,为任务调度用例1的示意图,任务调度用例1针对单独隐私计算任务包含多个计算指令,采用串行执行的方式:
从图7-1可知,为隐私计算任务1的第一个计算指令分配8个计算资源单元,执行完成后,经过1s的超时时间后,任务状态从活动状态变更为等待状态,为第二个计算指令分配8个计算资源单元后,任务状态从等待状态变更为活动状态,各计算指令是依次先后串行执行的。
如图7-2所示,为任务调度用例2的示意图,任务调度用例2针对单独隐私计算任务包含多个计算指令,采用并行执行的方式:
从图7-2可知,为隐私计算任务1的三个计算指令分别分配了2个计算资源单元,并在三个计算指令全部执行完毕后,且经过1s的超时时间后,任务状态从活动状态变更为等待状态,各计算指令是并行的同时执行的。
如图7-3所示,为任务调度用例3的示意图,任务调度用例3针对两个隐私计算任务各自包含多个计算指令,采用串行执行的方式,且每个隐私计算任务均占用所有计算资源单元:
从图7-3可知,为隐私计算任务1分配全部8个计算资源单元,执行完成后,经过1s的超时时间后,隐私计算任务1的任务状态从活动状态变更为等待状态;
然后为隐私计算任务2分配全部8个计算资源单元,隐私计算任务2的任务状态从等待状态变更为活动状态,执行完成后,经过1s的超时时间后,隐私计算任务2的任务状态从活动状态变更为等待状态;
然后再为隐私计算任务1分配全部8个计算资源单元,隐私计算任务1的任务状态从等待状态变更为活动状态;
隐私计算任务1和隐私计算任务2所包含的共计多个计算指令是依次先后串行执行的。
如图7-4所示,为任务调度用例4的示意图,任务调度用例4针对两个隐私计算任务各自包含多个计算指令,采用并行执行的方式:
从图7-4可知,为隐私计算任务1分配了2个计算资源单元,并使用这2个计算资源单元,执行隐私计算任务1包含的各计算指令,直到执行完毕后,且经过1s的超时时间后,任务状态从活动状态变更为等待状态;
同时,当存在隐私计算任务2时,为隐私计算任务2分配了2个计算资源单元,并使用这2个计算资源单元,执行隐私计算任务2包含的各计算指令,直到执行完毕后,且经过1s的超时时间后,任务状态从活动状态变更为等待状态;
隐私计算任务1的计算指令与隐私计算任务2的计算指令,是可以并行的同时执行的。
如图7-5所示,为任务调度用例5的示意图,任务调度用例5针对多个(图中以3个为例)隐私计算任务各自包含多个计算指令,并启动计算指令间隔时间S(S小于超时时间1s),采用并行执行的方式,且T小于单独指令执行时间:
从图7-5中可知,为隐私计算任务1分配了2个计算资源单元,并使用这2个计算资源单元,执行隐私计算任务1包含的各计算指令,且执行相邻两个计算指令之间的间隔时间为S,直到执行完毕后,且经过1s的超时时间后,任务状态从活动状态变更为等待状态;
同时,当存在隐私计算任务2时,为隐私计算任务2分配了2个计算资源单元,并使用这2个计算资源单元,执行隐私计算任务2包含的各计算指令,且执行相邻两个计算指令之间的间隔时间为S,直到执行完毕后,且经过1s的超时时间后,任务状态从活动状态变更为等待状态;
同时,当存在隐私计算任务3时,为隐私计算任务3分配了2个计算资源单元,并使用这2个计算资源单元,执行隐私计算任务3包含的各计算指令,且执行相邻两个计算指令之间的间隔时间为S,直到执行完毕后,且经过1s的超时时间后,任务状态从活动状态变更为等待状态;
隐私计算任务1的计算指令、隐私计算任务2的计算指令和隐私计算任务3的计算指令,是可以并行的同时执行的。
基于同一发明构思,根据本申请上述实施例提供的隐私计算任务调度方法,相应地,本申请另一实施例还提供了一种隐私计算任务调度装置,应用于隐私计算服务端设备所包括的调度器,服务端设备还包括与调度器相连接的接口适配模块,接口适配模块与多个加速芯片相连,其结构示意图如图8-1所示,具体包括:
任务接收模块81,用于接收客户端设备发送的各隐私计算任务;
任务调度模块82,用于基于多个加速芯片提供的计算资源,以及各隐私计算任务的任务状态,对各隐私计算任务的运行进行调度;
资源分配模块83,用于为将要运行的隐私计算任务分配计算资源;
指令发送模块84,用于向接口适配模块发送将要运行的该隐私计算任务的计算指令和计算数据,以及所分配的计算资源的抽象资源标识,使得接口适配模块向具有抽象资源标识表示的计算资源的加速芯片,发送将要运行的该隐私计算任务的计算指令和计算数据。
进一步的,多个加速芯片的计算资源被划分为多个计算资源单元,如图8-2所示,该装置,还包括:
资源状态设置模块85,用于在将计算资源单元分配给将要运行的隐私计算任务之后,将分配的计算资源单元的资源状态,从空闲状态设置为占用状态,在正在运行的隐私计算任务的任务状态从活动状态变更为等待状态后,将已分配给该隐私计算任务的计算资源单元的资源状态,从占用状态设置为空闲状态;
资源分配模块83,具体用于从处于空闲状态的计算资源单元中选择计算资源单元,为将要运行的隐私计算任务分配指定数量的计算资源单元。
进一步的,隐私计算任务的任务状态包括:初始状态、等待状态和活动状态;
任务调度模块82,具体用于将处于初始状态的隐私计算任务,移动到等待任务队列;当存在处于空闲状态的计算资源单元时,将等待任务队列中位于第一个的隐私计算任务,移动到就绪任务队列,就绪任务队列中的隐私计算任务为正在运行或将要运行的隐私计算任务;当就绪任务队列中的隐私计算任务的任务状态从活动状态变更为等待状态,将该隐私计算任务移动到等待任务队列。
进一步的,任务调度模块82,还用于针对正在运行的隐私计算任务,当在执行完该隐私计算任务的一条计算指令后,且该隐私计算任务还包括未执行的计算指令时,确定该未执行的计算指令所需要的计算资源数量;当为该隐私计算任务已分配的计算资源单元的数量大于该计算资源数量时,释放多余的计算资源单元;当为该隐私计算任务已分配的计算资源单元的数量小于该计算资源数量时,为该隐私计算任务追加分配欠缺的计算资源单元。
上述各模块的功能可对应于上述方法流程中的相应处理步骤,在此不再赘述。
本申请的实施例所提供的隐私计算任务调度装置可通过计算机程序实现。本领域技术人员应该能够理解,上述的模块划分方式仅是众多模块划分方式中的一种,如果划分为其他模块或不划分模块,只要墙体彩绘打印装置具有上述功能,都应该在本申请的保护范围之内。
本申请另一实施例还提供了一种电子设备,其结构示意图如图9所示,具体包括:处理器91和机器可读存储介质92,机器可读存储介质92存储有能够被处理器91执行的机器可执行指令,处理器91被机器可执行指令促使:实现上述任一隐私计算任务调度方法。
本申请实施例还提供一种计算机可读存储介质,计算机可读存储介质内存储有计算机程序,计算机程序被处理器执行时实现上述任一隐私计算任务调度方法。
本申请实施例还提供一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述任一隐私计算任务调度方法。
上述电子设备中的机器可读存储介质可以包括随机存取存储器(Random AccessMemory,RAM),也可以包括非易失性存储器(Non-Volatile Memory,NVM),例如至少一个磁盘存储器。可选的,存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)、网络处理器(Network Processor,NP)等;还可以是数字信号处理器(Digital SignalProcessing,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于装置、电子设备、计算机可读存储介质,计算机程序产品实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
显然,本领域的技术人员可以对本申请进行各种改动和变型而不脱离本申请的精神和范围。这样,倘若本申请的这些修改和变型属于本申请权利要求及其等同技术的范围之内,则本申请也意图包含这些改动和变型在内。
Claims (13)
1.一种隐私计算服务端设备,其特征在于,包括:相连接的调度器和接口适配模块;
所述调度器与客户端设备相连,所述接口适配模块与多个加速芯片相连;
所述调度器,用于接收所述客户端设备发送的各隐私计算任务;并基于所述多个加速芯片提供的计算资源,以及所述各隐私计算任务的任务状态,对所述各隐私计算任务的运行进行调度;并为将要运行的隐私计算任务分配计算资源;并向所述接口适配模块发送将要运行的该隐私计算任务的计算指令和计算数据,以及所分配的计算资源的抽象资源标识;
所述接口适配模块,用于向具有所述抽象资源标识表示的计算资源的加速芯片,发送将要运行的该隐私计算任务的计算指令和计算数据,使得所述加速芯片使用所述计算数据执行所述计算指令。
2.如权利要求1所述的服务端设备,其特征在于,所述多个加速芯片的计算资源被划分为多个计算资源单元;
所述调度器,还用于在将计算资源单元分配给将要运行的隐私计算任务之后,将分配的计算资源单元的资源状态,从空闲状态设置为占用状态,在正在运行的隐私计算任务的任务状态从活动状态变更为等待状态后,将已分配给该隐私计算任务的计算资源单元的资源状态,从占用状态设置为空闲状态;
所述调度器,具体用于从处于空闲状态的计算资源单元中选择计算资源单元,为将要运行的隐私计算任务分配指定数量的计算资源单元。
3.如权利要求2所述的服务端设备,其特征在于,隐私计算任务的任务状态包括:初始状态、等待状态和活动状态;
所述调度器,具体用于将处于初始状态的隐私计算任务,移动到等待任务队列;当存在处于空闲状态的计算资源单元时,将所述等待任务队列中位于第一个的隐私计算任务,移动到就绪任务队列,所述就绪任务队列中的隐私计算任务为正在运行或将要运行的隐私计算任务;当所述就绪任务队列中的隐私计算任务的任务状态从活动状态变更为等待状态,将该隐私计算任务移动到所述等待任务队列。
4.如权利要求3所述的服务端设备,其特征在于,所述调度器,还用于针对正在运行的隐私计算任务,当在执行完该隐私计算任务的一条计算指令后,且该隐私计算任务还包括未执行的计算指令时,确定该未执行的计算指令所需要的计算资源数量,当为该隐私计算任务已分配的计算资源单元的数量大于该计算资源数量时,释放多余的计算资源单元,当为该隐私计算任务已分配的计算资源单元的数量小于该计算资源数量时,为该隐私计算任务追加分配欠缺的计算资源单元。
5.一种隐私计算系统,其特征在于,包括:上述权利要求1-4任一所述的服务端设备和所述多个加速芯片。
6.如权利要求5所述的系统,其特征在于,所述客户端设备包括相连接的密文计算应用和密文计算API模块,所述调度器与所述客户端设备中的密文计算API模块相连;
所述密文计算应用通过调用所述密文计算API模块提供的各API接口,向所述调度器发送各隐私计算任务。
7.一种隐私计算任务调度方法,其特征在于,应用于隐私计算服务端设备所包括的调度器,所述服务端设备还包括与所述调度器相连接的接口适配模块,所述接口适配模块与多个加速芯片相连,所述方法,包括:
接收客户端设备发送的各隐私计算任务;
基于所述多个加速芯片提供的计算资源,以及所述各隐私计算任务的任务状态,对所述各隐私计算任务的运行进行调度;
为将要运行的隐私计算任务分配计算资源;
向所述接口适配模块发送将要运行的该隐私计算任务的计算指令和计算数据,以及所分配的计算资源的抽象资源标识,使得所述接口适配模块向具有所述抽象资源标识表示的计算资源的加速芯片,发送将要运行的该隐私计算任务的计算指令和计算数据。
8.如权利要求7所述的方法,其特征在于,所述多个加速芯片的计算资源被划分为多个计算资源单元,所述方法,还包括:
在将计算资源单元分配给将要运行的隐私计算任务之后,将分配的计算资源单元的资源状态,从空闲状态设置为占用状态,在正在运行的隐私计算任务的任务状态从活动状态变更为等待状态后,将已分配给该隐私计算任务的计算资源单元的资源状态,从占用状态设置为空闲状态;
所述为将要运行的隐私计算任务分配计算资源,包括:
从处于空闲状态的计算资源单元中选择计算资源单元,为将要运行的隐私计算任务分配指定数量的计算资源单元。
9.如权利要求8所述的方法,其特征在于,隐私计算任务的任务状态包括:初始状态、等待状态和活动状态;
所述基于所述多个加速芯片提供的计算资源,以及所述各隐私计算任务的任务状态,对所述各隐私计算任务的运行进行调度,包括:
将处于初始状态的隐私计算任务,移动到等待任务队列;
当存在处于空闲状态的计算资源单元时,将所述等待任务队列中位于第一个的隐私计算任务,移动到就绪任务队列,所述就绪任务队列中的隐私计算任务为正在运行或将要运行的隐私计算任务;
当所述就绪任务队列中的隐私计算任务的任务状态从活动状态变更为等待状态,将该隐私计算任务移动到所述等待任务队列。
10.如权利要求9所述的方法,其特征在于,还包括:
针对正在运行的隐私计算任务,当在执行完该隐私计算任务的一条计算指令后,且该隐私计算任务还包括未执行的计算指令时,确定该未执行的计算指令所需要的计算资源数量;
当为该隐私计算任务已分配的计算资源单元的数量大于该计算资源数量时,释放多余的计算资源单元;
当为该隐私计算任务已分配的计算资源单元的数量小于该计算资源数量时,为该隐私计算任务追加分配欠缺的计算资源单元。
11.一种隐私计算任务调度装置,其特征在于,应用于隐私计算服务端设备所包括的调度器,所述服务端设备还包括与所述调度器相连接的接口适配模块,所述接口适配模块与多个加速芯片相连,所述装置,包括:
任务接收模块,用于接收客户端设备发送的各隐私计算任务;
任务调度模块,用于基于所述多个加速芯片提供的计算资源,以及所述各隐私计算任务的任务状态,对所述各隐私计算任务的运行进行调度;
资源分配模块,用于为将要运行的隐私计算任务分配计算资源;
指令发送模块,用于向所述接口适配模块发送将要运行的该隐私计算任务的计算指令和计算数据,以及所分配的计算资源的抽象资源标识,使得所述接口适配模块向具有所述抽象资源标识表示的计算资源的加速芯片,发送将要运行的该隐私计算任务的计算指令和计算数据。
12.一种电子设备,其特征在于,包括处理器和机器可读存储介质,所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令,所述处理器被所述机器可执行指令促使:实现权利要求7-10任一所述的方法。
13.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现权利要求7-10任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110993479.3A CN113434284B (zh) | 2021-08-27 | 2021-08-27 | 一种隐私计算服务端设备、系统及任务调度方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110993479.3A CN113434284B (zh) | 2021-08-27 | 2021-08-27 | 一种隐私计算服务端设备、系统及任务调度方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113434284A true CN113434284A (zh) | 2021-09-24 |
CN113434284B CN113434284B (zh) | 2021-11-16 |
Family
ID=77798223
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110993479.3A Active CN113434284B (zh) | 2021-08-27 | 2021-08-27 | 一种隐私计算服务端设备、系统及任务调度方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113434284B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112799742A (zh) * | 2021-02-09 | 2021-05-14 | 上海海事大学 | 一种基于微服务的机器学习实训系统及方法 |
CN114168302A (zh) * | 2021-12-28 | 2022-03-11 | 中国建设银行股份有限公司 | 任务调度方法、装置、设备及存储介质 |
CN114172958A (zh) * | 2021-11-19 | 2022-03-11 | 云从科技集团股份有限公司 | 隐私计算节点、系统、方法、装置以及存储介质 |
CN114697113A (zh) * | 2022-03-30 | 2022-07-01 | 医渡云(北京)技术有限公司 | 一种基于硬件加速卡的多方隐私计算方法、装置及系统 |
CN115129481A (zh) * | 2022-08-31 | 2022-09-30 | 华控清交信息科技(北京)有限公司 | 一种计算资源分配方法、装置及电子设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109313584A (zh) * | 2016-07-22 | 2019-02-05 | 英特尔公司 | 用于管理加速器资源的分配的技术 |
US20190050256A1 (en) * | 2017-08-12 | 2019-02-14 | Facebook, Inc. | Systems and methods for distributed management of computing resources |
CN110597627A (zh) * | 2019-08-24 | 2019-12-20 | 中国电子科技集团公司第十五研究所 | 基于虚拟fpga的数据库运算加速装置及加速方法 |
CN112346833A (zh) * | 2020-09-30 | 2021-02-09 | 深圳致星科技有限公司 | 用于隐私计算的任务处理方法、处理器及异构处理系统 |
CN112667560A (zh) * | 2020-12-22 | 2021-04-16 | 深圳致星科技有限公司 | 基于fpga的数据分发装置和计算平台 |
-
2021
- 2021-08-27 CN CN202110993479.3A patent/CN113434284B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109313584A (zh) * | 2016-07-22 | 2019-02-05 | 英特尔公司 | 用于管理加速器资源的分配的技术 |
US20190050256A1 (en) * | 2017-08-12 | 2019-02-14 | Facebook, Inc. | Systems and methods for distributed management of computing resources |
CN110597627A (zh) * | 2019-08-24 | 2019-12-20 | 中国电子科技集团公司第十五研究所 | 基于虚拟fpga的数据库运算加速装置及加速方法 |
CN112346833A (zh) * | 2020-09-30 | 2021-02-09 | 深圳致星科技有限公司 | 用于隐私计算的任务处理方法、处理器及异构处理系统 |
CN112667560A (zh) * | 2020-12-22 | 2021-04-16 | 深圳致星科技有限公司 | 基于fpga的数据分发装置和计算平台 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112799742A (zh) * | 2021-02-09 | 2021-05-14 | 上海海事大学 | 一种基于微服务的机器学习实训系统及方法 |
CN114172958A (zh) * | 2021-11-19 | 2022-03-11 | 云从科技集团股份有限公司 | 隐私计算节点、系统、方法、装置以及存储介质 |
CN114172958B (zh) * | 2021-11-19 | 2023-10-20 | 云从科技集团股份有限公司 | 隐私计算节点、系统、方法、装置以及存储介质 |
CN114168302A (zh) * | 2021-12-28 | 2022-03-11 | 中国建设银行股份有限公司 | 任务调度方法、装置、设备及存储介质 |
CN114697113A (zh) * | 2022-03-30 | 2022-07-01 | 医渡云(北京)技术有限公司 | 一种基于硬件加速卡的多方隐私计算方法、装置及系统 |
CN115129481A (zh) * | 2022-08-31 | 2022-09-30 | 华控清交信息科技(北京)有限公司 | 一种计算资源分配方法、装置及电子设备 |
CN115129481B (zh) * | 2022-08-31 | 2022-11-29 | 华控清交信息科技(北京)有限公司 | 一种计算资源分配方法、装置及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
CN113434284B (zh) | 2021-11-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113434284B (zh) | 一种隐私计算服务端设备、系统及任务调度方法 | |
CN110489213B (zh) | 一种任务处理方法及处理装置、计算机系统 | |
CN112465129B (zh) | 片内异构人工智能处理器 | |
CN109144710B (zh) | 资源调度方法、装置及计算机可读存储介质 | |
CN109564528B (zh) | 分布式计算中计算资源分配的系统和方法 | |
CN107515786B (zh) | 资源分配方法、主装置、从装置和分布式计算系统 | |
CN107025139A (zh) | 一种基于云计算的高性能计算调度框架 | |
CN103793272B (zh) | 一种周期性任务调度方法及系统 | |
CN111625331B (zh) | 任务调度方法、装置、平台、服务器及存储介质 | |
CN112463375B (zh) | 一种数据处理的方法和装置 | |
WO2017070900A1 (zh) | 多核数字信号处理系统中处理任务的方法和装置 | |
CN105893126A (zh) | 一种任务调度方法及装置 | |
CN110297661B (zh) | 基于amp构架dsp操作系统的并行计算方法、系统及介质 | |
CN115454589A (zh) | 一种任务调度方法、装置及Kubernetes调度器 | |
TW202246977A (zh) | 一種任務調度方法、任務調度裝置、電腦設備、電腦可讀儲存媒介和電腦程式產品 | |
CN115543615A (zh) | 一种资源分配方法、装置、电子设备及存储介质 | |
CN111158875B (zh) | 基于多模块的多任务处理方法、装置及系统 | |
CN109002364A (zh) | 进程间通信的优化方法、电子装置以及可读存储介质 | |
CN111597044A (zh) | 任务调度方法、装置、存储介质及电子设备 | |
WO2017124925A1 (zh) | 存储系统的服务质量控制方法和装置 | |
CN103164338A (zh) | 并发处理系统的模拟方法及装置 | |
CN113296957B (zh) | 一种用于动态分配片上网络带宽的方法及装置 | |
CN116166421A (zh) | 分布式训练任务的资源调度方法及其设备 | |
CN115373826A (zh) | 一种基于云计算的任务调度方法及装置 | |
CN110647393A (zh) | 一种弹性进程管理系统及方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |