CN112416840A - 一种计算资源的远程映射方法、装置、设备及存储介质 - Google Patents
一种计算资源的远程映射方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN112416840A CN112416840A CN202011229875.0A CN202011229875A CN112416840A CN 112416840 A CN112416840 A CN 112416840A CN 202011229875 A CN202011229875 A CN 202011229875A CN 112416840 A CN112416840 A CN 112416840A
- Authority
- CN
- China
- Prior art keywords
- fpga
- heterogeneous accelerator
- accelerator card
- box
- network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000013507 mapping Methods 0.000 title claims abstract description 79
- 238000000034 method Methods 0.000 title claims abstract description 44
- 230000005540 biological transmission Effects 0.000 claims abstract description 79
- 238000004891 communication Methods 0.000 claims abstract description 57
- 230000003993 interaction Effects 0.000 claims abstract description 15
- 230000007246 mechanism Effects 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 11
- 238000004364 calculation method Methods 0.000 claims description 10
- 230000006870 function Effects 0.000 claims description 10
- 238000004088 simulation Methods 0.000 claims description 6
- 230000003287 optical effect Effects 0.000 claims description 5
- 230000000875 corresponding effect Effects 0.000 abstract 1
- 230000009286 beneficial effect Effects 0.000 description 7
- 238000011161 development Methods 0.000 description 7
- 230000001133 acceleration Effects 0.000 description 6
- 238000007726 management method Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 230000006872 improvement Effects 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000013144 data compression Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000001939 inductive effect Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 230000008054 signal transmission Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
- G06F13/38—Information transfer, e.g. on bus
- G06F13/42—Bus transfer protocol, e.g. handshake; Synchronisation
- G06F13/4282—Bus transfer protocol, e.g. handshake; Synchronisation on a serial bus, e.g. I2C bus, SPI bus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
- G06F13/38—Information transfer, e.g. on bus
- G06F13/382—Information transfer, e.g. on bus using universal interface adapter
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
- G06F13/38—Information transfer, e.g. on bus
- G06F13/40—Bus structure
- G06F13/4004—Coupling between buses
- G06F13/4027—Coupling between buses using bus bridges
- G06F13/404—Coupling between buses using bus bridges with address mapping
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F15/00—Digital computers in general; Data processing equipment in general
- G06F15/76—Architectures of general purpose stored program computers
- G06F15/78—Architectures of general purpose stored program computers comprising a single central processing unit
- G06F15/7807—System on chip, i.e. computer system on a single chip; System in package, i.e. computer system on one or more chips in a single package
- G06F15/7825—Globally asynchronous, locally synchronous, e.g. network on chip
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Computer Hardware Design (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本申请公开了一种计算资源的远程映射方法，应用于服务器中，包括：识别出FPGA BOX中的各个FPGA异构加速卡；通过各FPGA异构加速卡的网络接口建立与各FPGA异构加速卡的网络通信连接以及各FPGA异构加速卡之间的网络通信连接；将各FPGA异构加速卡映射到服务器中；为建立的网络通信连接建立网络传输并将通过PCIE进行的控制流及数据流迁移到网络传输中；通过建立的网络传输，将目标应用部署在FPGA BOX中，并在运行时通过网络传输与FPGA BOX进行数据交互。应用本申请的方案，突破了PCIE插槽的限制且降低了传输路径。本申请还提供了一种计算资源的远程映射装置、设备及存储介质，具有相应效果。
Description
技术领域
本发明涉及数据处理技术领域，特别是涉及一种计算资源的远程映射方法、装置、设备及存储介质。
背景技术
随着人工智能以及大数据的快速发展，数据中心的数据成倍增长，对数据中心的计算力需求呈现指数级提高，而CPU处理器的计算能力的提升开始滞后于摩尔定律，在后摩尔时代，CPU的性能已无法成倍的提升，FPGA、ASIC异构加速系统因其高并行的计算能力、硬件可编程性、低功耗和低延迟等优势，开始应用于数据分析、网络数据处理、科学计算等领域。
数据中心的服务器中开始大规模部署FPGA，现有的部署方式绝大部分采用的是单机单卡，单机多卡的CPU绑定模式，这种机卡绑定模式造成服务器与FPGA加速卡的紧耦合，需要增加FPGA加速卡，由于服务器的PCIE插槽数量有限，就需要增加配套的服务器。
还有的方案是利用远程登录等机制完成远端的FPGA在本地端的虚拟化，但是依赖的是本地端的CPU经网卡通过网络与远端的CPU进行交互，使得传输路径过长，延时加大，在一定程度上抵消了FPGA加速所带来的效率提高。并且，随着数据中心体系结构的不断发展演进，与CPU解耦的FPGA加速器，开始在数据中心部署，此时FPGA作为独立的加速单元，其不再通过PCIE部署在服务器内部，造成上述虚拟化的功能无法有效实现。
综上所述，在FPGA加速卡大规模拓展时，突破PCIE插槽的限制从而更加有效地应用FPGA进行加速，并且降低传输路径，是目前本领域技术人员急需解决的技术问题。
发明内容
本发明的目的是提供一种计算资源的远程映射方法、装置、设备及存储介质，以在FPGA加速卡大规模拓展时，突破PCIE插槽的限制从而更加有效地应用FPGA进行加速，并且降低传输路径。
为解决上述技术问题，本发明提供如下技术方案：
一种计算资源的远程映射方法，应用于服务器中，包括：
识别出FPGA BOX中的各个FPGA异构加速卡；其中，所述FPGA BOX中包括一个或多个FPGA异构加速卡，且各个FPGA异构加速卡均与CPU解耦，并完成了PCIE接口的配置和数据传输功能到网络接口的映射；
通过所述FPGABOX中的各个FPGA异构加速卡的网络接口，建立与各个FPGA异构加速卡的网络通信连接，且建立各个FPGA异构加速卡之间的网络通信连接；
将各个FPGA异构加速卡映射到所述服务器中；
为建立的所述网络通信连接建立网络传输，并将通过PCIE进行的控制流及数据流迁移到所述网络传输中；
通过建立的所述网络传输，将目标应用部署在FPGA BOX中，并且在运行所述目标应用时，通过建立的所述网络传输与所述FPGA BOX进行数据交互。
优选的，所述识别出FPGA BOX中的各个FPGA异构加速卡，包括：
基于资源管理模块与所述服务器的交互，获取分配到的各个FPGA异构加速卡的信息，并将获取的各个FPGA异构加速卡的信息保存到服务器加密配置文件当中；
查询并解密所述服务器的加密配置文件，完成对FPGA BOX中的各个FPGA异构加速卡的识别。
优选的，所述将各个FPGA异构加速卡映射到所述服务器中，包括：
根据识别出的FPGA BOX中的各个FPGA异构加速卡的物理ID，为各个FPGA异构加速卡分配虚拟ID；
建立各个物理ID与相应的虚拟ID之间的映射关系，并根据各个虚拟ID在服务器本地创建各个设备节点；其中，每个设备节点对应一个FPGA；
建立各个设备节点的虚拟ID与相应的网络地址信息之间的映射关系，完成各个FPGA异构加速卡到所述服务器的映射。
优选的，还包括：
基于虚拟设备驱动进行PCIE总线模拟，将虚拟PCIE的BAR地址操作转换到以太网数据包操作，并完成上层应用对寄存器、DMA数据流操作以及中断数据的接收。
优选的，还包括：
在利用FPGA BOX中的各个FPGA异构加速卡完成所述目标应用的计算之后，接收表示计算完成的报文；
向上层应用发送虚拟的中断信号。
优选的，所述FPGA BOX中的各个FPGA异构加速卡的网络接口均为基于光模块的网络接口。
优选的，所述为建立的所述网络通信连接建立网络传输，并将通过PCIE进行的控制流及数据流迁移到所述网络传输中，包括：
通过高速互联机制，为建立的网络通信连接建立可靠网络传输，并将通过PCIE进行的控制流及数据流迁移到所述可靠网络传输中。
优选的，还包括：
将携带有多个网络地址信息的地址限制数据发送至预设的各个FPGA异构加速卡，以使得接收到所述地址限制数据的各个FPGA异构加速卡只允许与网络地址信息符合所述地址限制数据的限定的设备进行通信；
其中，所述地址限制数据中至少包括服务器的网络地址信息。
一种计算资源的远程映射装置，应用于服务器中，包括：
FPGA异构加速卡识别单元，用于：识别出FPGABOX中的各个FPGA异构加速卡；其中，所述FPGA BOX中包括一个或多个FPGA异构加速卡，且各个FPGA异构加速卡均与CPU解耦，并完成了PCIE接口的配置和数据传输功能到网络接口的映射；
网络通信连接建立单元，用于：通过所述FPGA BOX中的各个FPGA异构加速卡的网络接口，建立与各个FPGA异构加速卡的网络通信连接，且建立各个FPGA异构加速卡之间的网络通信连接；
本地映射单元，用于：将各个FPGA异构加速卡映射到所述服务器中；
网络传输建立单元，用于：为建立的所述网络通信连接建立网络传输，并将通过PCIE进行的控制流及数据流迁移到所述网络传输中；
目标应用部署运行单元，用于：通过建立的所述网络传输，将目标应用部署在FPGABOX中，并且在运行所述目标应用时，通过建立的所述网络传输与所述FPGA BOX进行数据交互。
一种计算资源的远程映射设备，包括：
存储器，用于存储计算机程序；
处理器，用于执行所述计算机程序以实现上述任一项所述的计算资源的远程映射方法的步骤。
一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现上述任一项所述的计算资源的远程映射方法的步骤。
应用本发明实施例所提供的技术方案，将FPGABOX中的各个FPGA异构加速卡虚拟化到服务器本地，将通过PCIE进行的控制流及数据流迁移到网络传输中，使得服务器可以与使用本地的FPGA异构加速卡一样无差别的使用远端的FPGABOX中的各个FPGA异构加速卡。具体的，通过FPGABOX中的各个FPGA异构加速卡的网络接口，建立与各个FPGA异构加速卡的网络通信连接，且建立各个FPGA异构加速卡之间的网络通信连接；将各个FPGA异构加速卡映射到服务器中；为建立的网络通信连接建立网络传输，并将通过PCIE进行的控制流及数据流迁移到网络传输中。并且，本申请的方案中是基于各个FPGA异构加速卡的网络接口实现通信，且各个FPGA异构加速卡均与CPU解耦，，并完成了PCIE接口的配置和数据传输功能到网络接口的映射，使得FPGABOX中的各个FPGA异构加速卡可以不依赖于CPU工作。也即本申请的方案降低了传输路径，也就有利于提高目标应用的执行效率。同时，由于是通过FPGA BOX中的各个FPGA异构加速卡的网络接口实现通信，将各个FPGA异构加速卡虚拟化到服务器中，使得本申请的方案不会受到服务器PCIE插槽的限制。综上所述，本申请的方案在FPGA加速卡大规模拓展时，突破PCIE插槽的限制从而更加有效地应用FPGA进行加速，并且降低传输路径，并且降低了传输路径，也就有利于提高应用的执行效率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明中一种计算资源的远程映射方法的实施流程图；
图2为本发明中一种计算资源的远程映射装置的结构示意图；
图3为本发明中一种计算资源的远程映射设备的结构示意图。
具体实施方式
本发明的核心是提供一种计算资源的远程映射方法，可以避免PCIE插槽的限制，并且降低了传输路径，也就有利于提高应用的执行效率。
为了使本技术领域的人员更好地理解本发明方案，下面结合附图和具体实施方式对本发明作进一步的详细说明。显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
请参考图1，图1为本发明中一种计算资源的远程映射方法的实施流程图，该计算资源的远程映射方法可以应用于服务器中，包括以下步骤：
步骤S101：识别出FPGA BOX中的各个FPGA异构加速卡；其中，FPGA BOX中包括一个或多个FPGA异构加速卡，且各个FPGA异构加速卡均与CPU解耦，并完成了PCIE接口的配置和数据传输功能到网络接口的映射。
FPGA BOX中的各个FPGA异构加速卡进行上电之后，服务器便可以对远端的FPGABOX中的各个FPGA异构加速卡进行设备发现，即识别出FPGA BOX中的各个FPGA异构加速卡，从而得到各个FPGA异构加速卡的设备信息，设备信息的具体内容项通常可以包括IP地址、MAC地址、板卡PCIE总线参数，物理ID等。
本申请描述的FPGA BOX是一种以FPGA异构加速卡为中心的数据中心体系结构，其对FPGA计算资源完成了与CPU的解耦，并进行了重构，实现了FPGA计算资源池化。FPGA BOX中包括一个或多个FPGA异构加速卡，具体数量可以根据实际需要进行设定。
需要说明的是，各个FPGA异构加速卡均与CPU解耦，指的是各个FPGA异构加速卡均可以不依赖于CPU工作，即FPGA BOX中可以不包括CPU或者其他的交换芯片，也可以含有CPU，利用CPU处理一些其他方面的工作，不需要参与本申请的方案。此外，针对各个FPGA异构加速卡，均需要完成FPGA异构加速卡的PCIE接口的配置和数据传输功能到网络接口的映射，从而使得后续服务器可以利用FPGA异构加速卡的网络接口进行数据传输，也可以对FPGA异构加速卡进行配置。
为了便于实施，FPGA Box兼容全高和半高的FPGA异构加速卡，高度通常可以等于标准的3U设备高度，在实际应用中，通常可以通过PCIE部署16张单宽或32张双宽的FPGA异构加速卡，其中前窗可通过PCIE部署8张双宽或16张单宽FPGA异构加速卡，后窗也可通过PCIE部署8张双宽或16张单宽FPGA异构加速卡。
PCIE插槽仅用于供电，而不需要如传统方案中利用CPU访问PCIE实现FPGA异构加速卡的工作。即，本申请的方案中，FPGA Box中的FPGA异构加速卡的控制通路及数据通路，均不通过PCIE以及CPU进行传输，而是直接基于FPGA异构加速卡的网络接口。此外，可以保留有监控管理的硬件通路。
步骤S102：通过FPGA BOX中的各个FPGA异构加速卡的网络接口，建立与各个FPGA异构加速卡的网络通信连接，且建立各个FPGA异构加速卡之间的网络通信连接。
步骤S103：将各个FPGA异构加速卡映射到服务器中。
步骤S104：为建立的网络通信连接建立网络传输，并将通过PCIE进行的控制流及数据流迁移到网络传输中。
通过步骤S102，步骤S103以及步骤S104，可以实现服务器与FPGA BOX中的各个FPGA异构加速卡的通信连接。后续便可以实现目标应用的部署以及运行，并且，这些过程均不需要FPGA BOX中的CPU参与。
具体的，在执行步骤S102之后，通过FPGA BOX中的各个FPGA异构加速卡的网络接口，建立了服务器与各个FPGA异构加速卡的网络通信连接，且建立了各个FPGA异构加速卡之间的网络通信连接，也就是说，该步骤使得数据传输具有了网络通路。例如具体实施时，可以基于FPGA BOX中的各个FPGA异构加速卡的网络接口，建立交换机与服务器以及各个FPGA异构加速卡的网络通信连接，使得服务器与各个FPGA异构加速卡，以及各个FPGA异构加速卡之间，均建立了网络通信连接。
之后再将各个FPGA异构加速卡映射到服务器中，也即，将各个FPGA异构加速卡虚拟化到服务器中，这样使得服务器上就可以看到FPGA BOX中的各个FPGA异构加速卡，在使用时，服务器使用本地的FPGA异构加速卡与使用FPGA BOX中的各个FPGA异构加速卡没有区别。还需要为建立的网络通信连接建立网络传输，并将通过PCIE进行的控制流及数据流迁移到网络传输中。具体的，服务器与FPGA异构加速卡之间的交互内容可以分为控制指令以及数据搬移，也即控制流和数据流，需要将传统的通过PCIE进行的控制流及数据流迁移到步骤S104建立的网络传输中。为建立的网络通信连接建立网络传输时，具体采用的网络传输机制可以根据实际需要进行设定和调整，例如在本发明的一种具体实施方式中，该步骤可以具体为：通过高速互联机制，为建立的网络通信连接建立可靠网络传输，并将通过PCIE进行的控制流及数据流迁移到可靠网络传输中。通过高速互联机制进行可靠网络传输的建立，提高了数据传输的效率以及可靠性，当然，高速互联机制的具体内容可以根据实际需要进行选取。
在本发明的一种具体实施方式中步骤S103可以具体包括：
根据识别出的FPGA BOX中的各个FPGA异构加速卡的物理ID，为各个FPGA异构加速卡分配虚拟ID；
建立各个物理ID与相应的虚拟ID之间的映射关系，并根据各个虚拟ID在服务器本地创建各个设备节点；其中，每个设备节点对应一个FPGA；
建立各个设备节点的虚拟ID与相应的网络地址信息之间的映射关系，完成各个FPGA异构加速卡到服务器的映射。
该种实施方式中，通常可以基于虚拟设备驱动将各个FPGA异构加速卡映射到服务器中。
具体的，服务器可以识别出FPGA BOX中的各个FPGA异构加速卡，例如可以基于资源管理模块，识别出FPGA BOX中的各个FPGA异构加速卡，从而可以得到各个FPGA异构加速卡的设备信息，例如可以包括FPGA BOX中的FPGA异构加速卡的数量，每个FPGA异构加速卡的物理ID，IP地址等。
根据识别出的FPGA BOX中的各个FPGA异构加速卡的物理ID，服务器会为各个FPGA异构加速卡分配虚拟ID，从而建立各个物理ID与相应的虚拟ID之间的映射关系，并且根据各个虚拟ID在服务器本地的设定目录下，例如在/dev/下创建各个设备节点。每个设备节点都有其对应的虚拟ID，也即每个设备节点对应一个FPGA异构加速卡。
建立各个设备节点的虚拟ID与相应的网络地址信息之间的映射关系之后，便可以完成各个FPGA异构加速卡到服务器的映射，网络地址信息通常可以包括FPGA异构加速卡的IP地址以及MAC地址，只要能够基于该网络地址信息能够实现与FPGA异构加速卡的通信即可。
基于虚拟设备驱动，完成各个FPGA异构加速卡到服务器的映射，是考虑到目标应用通常使用的是OpenCL编程框架创建的，按照符合OpenCL编程框架的标准，通常是创建虚拟设备驱动，然后便可以基于创建的虚拟设备驱动完成各个FPGA异构加速卡到服务器的映射。
此外，在本发明的一种具体实施方式中，还可以包括：
基于虚拟设备驱动进行PCIE总线模拟，将虚拟PCIE的BAR地址操作转换到以太网数据包操作，并完成上层应用对寄存器、DMA数据流操作以及中断数据的接收，从而可以使得目标应用实现上层的无感知操作。具体的，可以为服务器上层的OpenCL提供无感中的操作，有利于提高用户的使用体验。在虚拟驱动层实现虚拟化PCIE的bar地址操作到以太网数据包操作的转换，这种转换可以实现OpenCL的所有寄存器操作，所有DMA数据流操作，所有中断数据的接收全部兼容，上层的OpenCL应用并不知道FPGA异构加速卡是否为通过网络映射，即实现了无感知操作，用户使用本地的FPGA异构加速卡和使用FPGA BOX中的FPGA异构加速卡并无区别。
FPGA BOX中的各个FPGA异构加速卡的网络接口的具体形式也可以根据实际需要进行设定，在本发明的一种具体实施方式中，FPGA BOX中的各个FPGA异构加速卡的网络接口均为基于光模块的网络接口，有利于提高数据的传输效率。
此外需要说明的是，前述的部分实施例中，利用虚拟设备驱动实现了服务器与各个FPGA异构加速卡的通信，在其他实施方式中，也可以不基于虚拟设备驱动实现通信，即，能够基于FPGA BOX中的各个FPGA异构加速卡的网络接口，实现与服务器与各个FPGA异构加速卡的通信以及各个FPGA异构加速卡之间的通信即可。例如使用RTL编程框架进行目标应用的创建时，可以直接将各个FPGA异构加速卡映射到服务器中，并且通过高速互联机制建立可靠网络传输。
步骤S105：通过建立的网络传输，将目标应用部署在FPGA BOX中，并且在运行目标应用时，通过建立的网络传输与FPGA BOX进行数据交互。
通过步骤S102至步骤S104，可以将FPGA BOX中的各个FPGA异构加速卡虚拟化到服务器本地，因此便可以通过与各个FPGA异构加速卡建立的网络传输，将目标应用部署在FPGA BOX中。目标应用可以是人工智能、图像处理、数据压缩等应用。将目标应用部署在FPGA BOX中，具体使用到的FPGA BOX中的FPGA异构加速卡的数量，可以根据目标应用的实际需要进行设定和调整。
目标应用部署完毕之后，在运行目标应用时，服务器便可以通过此前建立的网络传输，与FPGA BOX进行数据交互，即通过各个FPGA异构加速卡的网络接口，与FPGA BOX中的各个FPGA异构加速卡进行数据交互。
服务器与FPGA BOX进行数据交互，通常可以分为两类交互数据，一类是控制指令类型，用于修改FPGA BOX中的寄存器的配置，可以实现对目标应用的部署以及调整、第二类是数据类型，具体可以包括数据的读、写、中断等。
例如在本发明的一种具体实施方式中，对于FPGA中的寄存器或者DMA的写操作，可以首先获取服务器当前环境与FPGA异构加速卡相对应的虚拟ID，然后依据FPGA异构加速卡的IP地址，按照高速互联机制开发接口进行协议组包操作，例如可以基于UDP进行组包，之后便可以通过光模块将数据发送给远端的FPGA异构加速卡，完成一个写操作。
对于读操作，服务器可以检测以太网接收数据包，按照高速互联机制议协进行UDP的解包操作，完成数据接收。对于中断的处理，FPGA异构加速卡会主动发送一个特征包，当服务器解析为特征包后，可以通过一个信号机制传输给上层的OpenCL/RTL开发框架。当然，如果是OpenCL开发框架，还可以进行PCIE总线的模拟。
此外需要说明的是，本申请的前述实施方式中，描述了将远端的FPGA异构加速卡虚拟化到服务器本地，即，将FPGA BOX中的各个FPGA异构加速卡虚拟化到服务器本地，本申请的服务器可以同时兼容服务器本地的FPGA异构加速卡，即在使用上，远端的FPGA异构加速卡与本地的FPGA异构加速卡并无区别，有利于提高用户的使用体验。并且，在进行开发时，也可以采用相同的开发模式进行。
在本发明的一种具体实施方式中，步骤S101中描述的识别出FPGA BOX中的各个FPGA异构加速卡，可以具体包括：
基于资源管理模块与服务器的交互，获取分配到的各个FPGA异构加速卡的信息，并将获取的各个FPGA异构加速卡的信息保存到服务器加密配置文件当中；
查询并解密服务器的加密配置文件，完成对FPGA BOX中的各个FPGA异构加速卡的识别。
该种实施方式中，获取了分配到的各个FPGA异构加速卡的信息之后，会将获取的各个FPGA异构加速卡的信息保存到服务器加密配置文件当中，之后再查询并解密服务器的加密配置文件，完成对FPGA BOX中的各个FPGA异构加速卡的识别，有利于提高方案的安全性。具体的加密方式也可以根据实际需要进行调整。
在本发明的一种具体实施方式中，还可以包括：
在利用FPGA BOX中的各个FPGA异构加速卡完成目标应用的计算之后，接收表示计算完成的报文；向上层应用发送虚拟的中断信号。从而使得上层应用得知目标应用计算完成这一信息，进而可以进行后续的任务。
在本发明的一种具体实施方式中。还可以包括：
将携带有多个网络地址信息的地址限制数据发送至预设的各个FPGA异构加速卡，以使得接收到地址限制数据的各个FPGA异构加速卡只允许与网络地址信息符合地址限制数据的限定的设备进行通信；
其中，地址限制数据中至少包括服务器的网络地址信息。
网络地址信息为FPGA BOX中的FPGA的网络地址信息时，可以具体包括IP地址，MAC地址，FPGA异构加速卡的ID等。由于接收到地址限制数据的各个FPGA异构加速卡，只允许与网络地址信息符合地址限制数据的限定的设备进行通信，也就是说，经过地址限制数据进行限制之后，对于接收到地址限制数据的任意一个FPGA异构加速卡而言，该FPGA异构加速卡只能响应地址限制数据所限定的设备，其他的都不会响应，有利于提高数据的安全性。
应用本发明实施例所提供的技术方案，将FPGA BOX中的各个FPGA异构加速卡虚拟化到服务器本地，将通过PCIE进行的控制流及数据流迁移到网络传输中，使得服务器可以与使用本地的FPGA异构加速卡一样无差别的使用远端的FPGA BOX中的各个FPGA异构加速卡。具体的，通过FPGA BOX中的各个FPGA异构加速卡的网络接口，建立与各个FPGA异构加速卡的网络通信连接，且建立各个FPGA异构加速卡之间的网络通信连接；将各个FPGA异构加速卡映射到服务器中；为建立的网络通信连接建立网络传输，并将通过PCIE进行的控制流及数据流迁移到网络传输中。并且，本申请的方案中是基于各个FPGA异构加速卡的网络接口实现通信，且各个FPGA异构加速卡均与CPU解耦，，并完成了PCIE接口的配置和数据传输功能到网络接口的映射，使得FPGA BOX中的各个FPGA异构加速卡可以不依赖于CPU工作。也即本申请的方案降低了传输路径，也就有利于提高目标应用的执行效率。同时，由于是通过FPGA BOX中的各个FPGA异构加速卡的网络接口实现通信，将各个FPGA异构加速卡虚拟化到服务器中，使得本申请的方案不会受到服务器PCIE插槽的限制。综上所述，本申请的方案在FPGA加速卡大规模拓展时，突破PCIE插槽的限制从而更加有效地应用FPGA进行加速，并且降低传输路径，并且降低了传输路径，也就有利于提高应用的执行效率。
相应于上面的方法实施例，本发明实施例还提供了一种计算资源的远程映射装置，可与上文相互对应参照。
参见图2所示，为本发明中一种计算资源的远程映射装置的结构示意图，应用于服务器中，包括：
FPGA异构加速卡识别单元201，用于：识别出FPGABOX中的各个FPGA异构加速卡；其中，所述FPGA BOX中包括一个或多个FPGA异构加速卡，且各个FPGA异构加速卡均与CPU解耦，并完成了PCIE接口的配置和数据传输功能到网络接口的映射；
网络通信连接建立单元202，用于：通过所述FPGA BOX中的各个FPGA异构加速卡的网络接口，建立与各个FPGA异构加速卡的网络通信连接，且建立各个FPGA异构加速卡之间的网络通信连接；
本地映射单元203，用于：将各个FPGA异构加速卡映射到所述服务器中；
网络传输建立单元204，用于：为建立的所述网络通信连接建立网络传输，并将通过PCIE进行的控制流及数据流迁移到所述网络传输中；
目标应用部署运行单元205，用于：通过建立的所述网络传输，将目标应用部署在FPGA BOX中，并且在运行所述目标应用时，通过建立的所述网络传输与所述FPGA BOX进行数据交互。
在本发明的一种具体实施方式中，FPGA异构加速卡识别单元201，具体用于：
基于资源管理模块与所述服务器的交互，获取分配到的各个FPGA异构加速卡的信息，并将获取的各个FPGA异构加速卡的信息保存到服务器加密配置文件当中；
查询并解密所述服务器的加密配置文件，完成对FPGA BOX中的各个FPGA异构加速卡的识别。
在本发明的一种具体实施方式中，本地映射单元203，具体用于：
根据识别出的FPGA BOX中的各个FPGA异构加速卡的物理ID，为各个FPGA异构加速卡分配虚拟ID；
建立各个物理ID与相应的虚拟ID之间的映射关系，并根据各个虚拟ID在服务器本地创建各个设备节点；其中，每个设备节点对应一个FPGA；
建立各个设备节点的虚拟ID与相应的网络地址信息之间的映射关系，完成各个FPGA异构加速卡到所述服务器的映射。
在本发明的一种具体实施方式中，还包括：
PCIE总线模拟单元，用于基于虚拟设备驱动进行PCIE总线模拟，将虚拟PCIE的BAR地址操作转换到以太网数据包操作，并完成上层应用对寄存器、DMA数据流操作以及中断数据的接收。
在本发明的一种具体实施方式中，还包括：
中断信号发送单元，用于：在利用FPGA BOX中的各个FPGA异构加速卡完成所述目标应用的计算之后，接收表示计算完成的报文；向上层应用发送虚拟的中断信号。
在本发明的一种具体实施方式中，所述FPGA BOX中的各个FPGA异构加速卡的网络接口均为基于光模块的网络接口。
在本发明的一种具体实施方式中，网络传输建立单元204，具体用于：
通过高速互联机制，为建立的网络通信连接建立可靠网络传输，并将通过PCIE进行的控制流及数据流迁移到所述可靠网络传输中。
在本发明的一种具体实施方式中，还包括：
地址限制单元，用于：将携带有多个网络地址信息的地址限制数据发送至预设的各个FPGA异构加速卡，以使得接收到所述地址限制数据的各个FPGA异构加速卡只允许与网络地址信息符合所述地址限制数据的限定的设备进行通信；
其中，所述地址限制数据中至少包括服务器的网络地址信息。
相应于上面的方法和装置实施例，本发明实施例还提供了一种计算资源的远程映射设备以及一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序，计算机程序被处理器执行时实现上述任一实施例中的计算资源的远程映射方法的步骤，可与上文相互对应参照。这里所说的计算机可读存储介质包括随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质。
可参阅图3，为一种计算资源的远程映射设备的结构示意图，包括：
存储器301，用于存储计算机程序；
处理器302，用于执行计算机程序以实现如上述任一实施例中的计算资源的远程映射方法的步骤。
还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
专业人员还可以进一步意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的技术方案及其核心思想。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以对本发明进行若干改进和修饰，这些改进和修饰也落入本发明权利要求的保护范围内。
Claims (11)
1.一种计算资源的远程映射方法，其特征在于，应用于服务器中，包括：
识别出FPGA BOX中的各个FPGA异构加速卡；其中，所述FPGA BOX中包括一个或多个FPGA异构加速卡，且各个FPGA异构加速卡均与CPU解耦，并完成了PCIE接口的配置和数据传输功能到网络接口的映射；
通过所述FPGA BOX中的各个FPGA异构加速卡的网络接口，建立与各个FPGA异构加速卡的网络通信连接，且建立各个FPGA异构加速卡之间的网络通信连接；
将各个FPGA异构加速卡映射到所述服务器中；
为建立的所述网络通信连接建立网络传输，并将通过PCIE进行的控制流及数据流迁移到所述网络传输中；
通过建立的所述网络传输，将目标应用部署在FPGA BOX中，并且在运行所述目标应用时，通过建立的所述网络传输与所述FPGA BOX进行数据交互。
2.根据权利要求1所述的计算资源的远程映射方法，其特征在于，所述识别出FPGA BOX中的各个FPGA异构加速卡，包括：
基于资源管理模块与所述服务器的交互，获取分配到的各个FPGA异构加速卡的信息，并将获取的各个FPGA异构加速卡的信息保存到服务器加密配置文件当中；
查询并解密所述服务器的加密配置文件，完成对FPGA BOX中的各个FPGA异构加速卡的识别。
3.根据权利要求1所述的计算资源的远程映射方法，其特征在于，所述将各个FPGA异构加速卡映射到所述服务器中，包括：
根据识别出的FPGA BOX中的各个FPGA异构加速卡的物理ID，为各个FPGA异构加速卡分配虚拟ID；
建立各个物理ID与相应的虚拟ID之间的映射关系，并根据各个虚拟ID在服务器本地创建各个设备节点；其中，每个设备节点对应一个FPGA；
建立各个设备节点的虚拟ID与相应的网络地址信息之间的映射关系，完成各个FPGA异构加速卡到所述服务器的映射。
4.根据权利要求1所述的计算资源的远程映射方法，其特征在于，还包括：
基于虚拟设备驱动进行PCIE总线模拟，将虚拟PCIE的BAR地址操作转换到以太网数据包操作，并完成上层应用对寄存器、DMA数据流操作以及中断数据的接收。
5.根据权利要求1所述的计算资源的远程映射方法，其特征在于，还包括：
在利用FPGA BOX中的各个FPGA异构加速卡完成所述目标应用的计算之后，接收表示计算完成的报文；
向上层应用发送虚拟的中断信号。
6.根据权利要求1所述的计算资源的远程映射方法，其特征在于，所述FPGA BOX中的各个FPGA异构加速卡的网络接口均为基于光模块的网络接口。
7.根据权利要求1所述的计算资源的远程映射方法，其特征在于，所述为建立的所述网络通信连接建立网络传输，并将通过PCIE进行的控制流及数据流迁移到所述网络传输中，包括：
通过高速互联机制，为建立的网络通信连接建立可靠网络传输，并将通过PCIE进行的控制流及数据流迁移到所述可靠网络传输中。
8.根据权利要求1至7任一项所述的计算资源的远程映射方法，其特征在于，还包括：
将携带有多个网络地址信息的地址限制数据发送至预设的各个FPGA异构加速卡，以使得接收到所述地址限制数据的各个FPGA异构加速卡只允许与网络地址信息符合所述地址限制数据的限定的设备进行通信；
其中，所述地址限制数据中至少包括服务器的网络地址信息。
9.一种计算资源的远程映射装置，其特征在于，应用于服务器中，包括：
FPGA异构加速卡识别单元，用于：识别出FPGA BOX中的各个FPGA异构加速卡；其中，所述FPGA BOX中包括一个或多个FPGA异构加速卡，且各个FPGA异构加速卡均与CPU解耦，并完成了PCIE接口的配置和数据传输功能到网络接口的映射；
网络通信连接建立单元，用于：通过所述FPGA BOX中的各个FPGA异构加速卡的网络接口，建立与各个FPGA异构加速卡的网络通信连接，且建立各个FPGA异构加速卡之间的网络通信连接；
本地映射单元，用于：将各个FPGA异构加速卡映射到所述服务器中；
网络传输建立单元，用于：为建立的所述网络通信连接建立网络传输，并将通过PCIE进行的控制流及数据流迁移到所述网络传输中；
目标应用部署运行单元，用于：通过建立的所述网络传输，将目标应用部署在FPGA BOX中，并且在运行所述目标应用时，通过建立的所述网络传输与所述FPGA BOX进行数据交互。
10.一种计算资源的远程映射设备，其特征在于，包括：
存储器，用于存储计算机程序；
处理器，用于执行所述计算机程序以实现如权利要求1至8任一项所述的计算资源的远程映射方法的步骤。
11.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1至8任一项所述的计算资源的远程映射方法的步骤。
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011229875.0A CN112416840B (zh) | 2020-11-06 | 2020-11-06 | 一种计算资源的远程映射方法、装置、设备及存储介质 |
| US18/246,817 US11960430B2 (en) | 2020-11-06 | 2021-04-26 | Remote mapping method, apparatus and device for computing resources, and storage medium |
| PCT/CN2021/089931 WO2022095348A1 (zh) | 2020-11-06 | 2021-04-26 | 一种计算资源的远程映射方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011229875.0A CN112416840B (zh) | 2020-11-06 | 2020-11-06 | 一种计算资源的远程映射方法、装置、设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112416840A true CN112416840A (zh) | 2021-02-26 |
| CN112416840B CN112416840B (zh) | 2023-05-26 |
Family
ID=74780458
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011229875.0A Active CN112416840B (zh) | 2020-11-06 | 2020-11-06 | 一种计算资源的远程映射方法、装置、设备及存储介质 |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US11960430B2 (zh) |
| CN (1) | CN112416840B (zh) |
| WO (1) | WO2022095348A1 (zh) |
Cited By (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113096201A (zh) * | 2021-03-30 | 2021-07-09 | 上海西井信息科技有限公司 | 嵌入式视频图像深度学习系统、方法、设备及存储介质 |
| CN113900982A (zh) * | 2021-12-09 | 2022-01-07 | 苏州浪潮智能科技有限公司 | 一种分布式异构加速平台通信方法、系统、设备及介质 |
| WO2022095348A1 (zh) * | 2020-11-06 | 2022-05-12 | 浪潮(北京)电子信息产业有限公司 | 一种计算资源的远程映射方法、装置、设备及存储介质 |
| CN116886751A (zh) * | 2023-09-04 | 2023-10-13 | 浪潮(北京)电子信息产业有限公司 | 一种异构设备的高速通信方法、装置和异构通信系统 |
| WO2023206787A1 (zh) * | 2022-04-29 | 2023-11-02 | 苏州元脑智能科技有限公司 | 一种异构加速方法、装置、系统及计算机可读存储介质 |
| CN117493259A (zh) * | 2023-12-28 | 2024-02-02 | 苏州元脑智能科技有限公司 | 一种数据存储系统、方法及服务器 |
| CN117519955A (zh) * | 2024-01-08 | 2024-02-06 | 浪潮电子信息产业股份有限公司 | 一种加速设备的控制方法、系统、装置及加速设备 |
| CN117931722A (zh) * | 2024-03-20 | 2024-04-26 | 苏州元脑智能科技有限公司 | 运算装置及服务器系统 |
| CN117931722B (zh) * | 2024-03-20 | 2024-06-07 | 苏州元脑智能科技有限公司 | 运算装置及服务器系统 |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114880269B (zh) * | 2022-05-26 | 2024-02-02 | 无锡华普微电子有限公司 | 板卡id配置与识别方法、微控制器及控制系统 |
| CN115297187B (zh) * | 2022-07-12 | 2023-11-17 | 重庆大学 | 一种网络通讯协议与总线协议的转换装置及集群系统 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103744612A (zh) * | 2013-12-17 | 2014-04-23 | 记忆科技(深圳)有限公司 | 基于闪存转换层的精简配置的方法及其系统 |
| CN108776648A (zh) * | 2018-05-28 | 2018-11-09 | 郑州云海信息技术有限公司 | 数据传输方法、系统及fpga异构加速卡和存储介质 |
| US10338847B1 (en) * | 2017-08-28 | 2019-07-02 | Amazon Technologies, Inc. | Coherent buffer mapping for virtualized graphics processing |
| CN110083558A (zh) * | 2019-06-03 | 2019-08-02 | 苏州长江睿芯电子科技有限公司 | 一种用于自适应可编程存储计算加速卡装置 |
| CN111143276A (zh) * | 2019-12-29 | 2020-05-12 | 苏州浪潮智能科技有限公司 | 一种异构计算系统及其计算方法 |
| CN111343148A (zh) * | 2020-02-05 | 2020-06-26 | 苏州浪潮智能科技有限公司 | 一种fgpa通信数据的处理方法、系统及装置 |
Family Cites Families (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| AU2012201865A1 (en) * | 2012-03-29 | 2013-10-17 | Canon Kabushiki Kaisha | GPU-based RIP architecture |
| CN109783433A (zh) * | 2019-01-08 | 2019-05-21 | 郑州云海信息技术有限公司 | 一种算法加速系统以及加速卡的配置方法 |
| CN109787918A (zh) * | 2019-01-08 | 2019-05-21 | 郑州云海信息技术有限公司 | 基于网络传输的数据加速方法、装置、系统及一种加速卡 |
| CN109783429A (zh) * | 2019-01-21 | 2019-05-21 | 郑州云海信息技术有限公司 | 一种fpga加速卡拓展盘柜及服务器 |
| CN109857620A (zh) * | 2019-03-06 | 2019-06-07 | 苏州浪潮智能科技有限公司 | 加速卡辅助功能管理系统、方法、装置及相关组件 |
| CN110618871B (zh) * | 2019-09-21 | 2022-07-22 | 苏州浪潮智能科技有限公司 | 一种fpga云平台加速资源的分配方法与系统 |
| CN111262917A (zh) * | 2020-01-13 | 2020-06-09 | 苏州浪潮智能科技有限公司 | 一种基于fpga云平台的远端数据搬移装置和方法 |
| CN112416840B (zh) * | 2020-11-06 | 2023-05-26 | 浪潮(北京)电子信息产业有限公司 | 一种计算资源的远程映射方法、装置、设备及存储介质 |
| US20220291961A1 (en) * | 2021-03-12 | 2022-09-15 | Saankhya Labs Private Limited | Optimizing ran compute resources in a vertically scaled vran deployment |
-
2020
- 2020-11-06 CN CN202011229875.0A patent/CN112416840B/zh active Active
-
2021
- 2021-04-26 US US18/246,817 patent/US11960430B2/en active Active
- 2021-04-26 WO PCT/CN2021/089931 patent/WO2022095348A1/zh active Application Filing
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103744612A (zh) * | 2013-12-17 | 2014-04-23 | 记忆科技(深圳)有限公司 | 基于闪存转换层的精简配置的方法及其系统 |
| US10338847B1 (en) * | 2017-08-28 | 2019-07-02 | Amazon Technologies, Inc. | Coherent buffer mapping for virtualized graphics processing |
| CN108776648A (zh) * | 2018-05-28 | 2018-11-09 | 郑州云海信息技术有限公司 | 数据传输方法、系统及fpga异构加速卡和存储介质 |
| CN110083558A (zh) * | 2019-06-03 | 2019-08-02 | 苏州长江睿芯电子科技有限公司 | 一种用于自适应可编程存储计算加速卡装置 |
| CN111143276A (zh) * | 2019-12-29 | 2020-05-12 | 苏州浪潮智能科技有限公司 | 一种异构计算系统及其计算方法 |
| CN111343148A (zh) * | 2020-02-05 | 2020-06-26 | 苏州浪潮智能科技有限公司 | 一种fgpa通信数据的处理方法、系统及装置 |
Cited By (14)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2022095348A1 (zh) * | 2020-11-06 | 2022-05-12 | 浪潮(北京)电子信息产业有限公司 | 一种计算资源的远程映射方法、装置、设备及存储介质 |
| US11960430B2 (en) | 2020-11-06 | 2024-04-16 | Inspur (Beijing) Electronic Information Industry Co., Ltd. | Remote mapping method, apparatus and device for computing resources, and storage medium |
| CN113096201A (zh) * | 2021-03-30 | 2021-07-09 | 上海西井信息科技有限公司 | 嵌入式视频图像深度学习系统、方法、设备及存储介质 |
| CN113096201B (zh) * | 2021-03-30 | 2023-04-18 | 上海西井信息科技有限公司 | 嵌入式视频图像深度学习方法、设备及存储介质 |
| CN113900982A (zh) * | 2021-12-09 | 2022-01-07 | 苏州浪潮智能科技有限公司 | 一种分布式异构加速平台通信方法、系统、设备及介质 |
| WO2023206787A1 (zh) * | 2022-04-29 | 2023-11-02 | 苏州元脑智能科技有限公司 | 一种异构加速方法、装置、系统及计算机可读存储介质 |
| CN116886751B (zh) * | 2023-09-04 | 2024-01-19 | 浪潮(北京)电子信息产业有限公司 | 一种异构设备的高速通信方法、装置和异构通信系统 |
| CN116886751A (zh) * | 2023-09-04 | 2023-10-13 | 浪潮(北京)电子信息产业有限公司 | 一种异构设备的高速通信方法、装置和异构通信系统 |
| CN117493259A (zh) * | 2023-12-28 | 2024-02-02 | 苏州元脑智能科技有限公司 | 一种数据存储系统、方法及服务器 |
| CN117493259B (zh) * | 2023-12-28 | 2024-04-05 | 苏州元脑智能科技有限公司 | 一种数据存储系统、方法及服务器 |
| CN117519955A (zh) * | 2024-01-08 | 2024-02-06 | 浪潮电子信息产业股份有限公司 | 一种加速设备的控制方法、系统、装置及加速设备 |
| CN117519955B (zh) * | 2024-01-08 | 2024-03-29 | 浪潮电子信息产业股份有限公司 | 一种加速设备的控制方法、系统、装置及加速设备 |
| CN117931722A (zh) * | 2024-03-20 | 2024-04-26 | 苏州元脑智能科技有限公司 | 运算装置及服务器系统 |
| CN117931722B (zh) * | 2024-03-20 | 2024-06-07 | 苏州元脑智能科技有限公司 | 运算装置及服务器系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112416840B (zh) | 2023-05-26 |
| US20240045824A1 (en) | 2024-02-08 |
| WO2022095348A1 (zh) | 2022-05-12 |
| US11960430B2 (en) | 2024-04-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112416840A (zh) | 一种计算资源的远程映射方法、装置、设备及存储介质 | |
| CN107566541B (zh) | 容器网络资源分配方法、系统、存储介质和电子设备 | |
| US20180210752A1 (en) | Accelerator virtualization method and apparatus, and centralized resource manager | |
| CN111880902A (zh) | 一种pod创建方法、装置、设备及可读存储介质 | |
| US20140123140A1 (en) | Network virtualization system, physical node, and virtual interface identification method in virtual machine | |
| CN112416737B (zh) | 一种容器的测试方法、装置、设备和存储介质 | |
| CN103441867A (zh) | 一种更新虚拟机内部网络资源配置的方法 | |
| US10372633B1 (en) | Interconnection of peripheral devices on different electronic devices | |
| CN110389711B (zh) | 帮助端点设备实现sr-iov功能的方法、设备和非瞬态计算机可读介质 | |
| CN112422357A (zh) | 网络通信路径的状态检测方法以及设备 | |
| US10353857B2 (en) | Parallel processing apparatus and method for controlling communication | |
| CN114691286A (zh) | 服务器系统、虚拟机创建方法及装置 | |
| CN103092676A (zh) | 虚拟机集群的模拟输入输出方法、装置及系统 | |
| CN112433826B (zh) | 混合异构虚拟化通信方法及芯片 | |
| CN113821309A (zh) | 一种微内核虚拟机间的通信方法、装置、设备及存储介质 | |
| CN113127144B (zh) | 一种处理方法、装置及存储介质 | |
| CN113157396A (zh) | 一种虚拟化服务系统和方法 | |
| CN109933411B (zh) | 一种在线修改虚拟机内部配置系统及方法 | |
| CN108351802B (zh) | 计算机数据处理系统和用于虚拟机通信的基于通信流量的优化的方法 | |
| CN114528114B (zh) | 数据处理方法、装置及设备 | |
| CN114650223A (zh) | 一种Kubernetes集群的网络配置方法、装置及电子设备 | |
| EP4009160A1 (en) | Methods for application deployment across multiple computing domains and devices thereof | |
| CN115134281A (zh) | 一种网络耗源型组件性能测试优化方法、系统及装置 | |
| US11106359B1 (en) | Interconnection of peripheral devices on different electronic devices | |
| CN113900791A (zh) | 一种作业处理方法以及相关设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |