CN113688352B - 一种数据处理系统、方法及装置 - Google Patents
一种数据处理系统、方法及装置 Download PDFInfo
- Publication number
- CN113688352B CN113688352B CN202110962549.9A CN202110962549A CN113688352B CN 113688352 B CN113688352 B CN 113688352B CN 202110962549 A CN202110962549 A CN 202110962549A CN 113688352 B CN113688352 B CN 113688352B
- Authority
- CN
- China
- Prior art keywords
- data
- computing node
- target
- computing
- dimension
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/14—Fourier, Walsh or analogous domain transformations, e.g. Laplace, Hilbert, Karhunen-Loeve, transforms
- G06F17/141—Discrete Fourier transforms
- G06F17/142—Fast Fourier transforms, e.g. using a Cooley-Tukey type algorithm
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Abstract
本发明公开了一种数据处理系统、方法及装置,该系统包括:多个计算节点和管理节点,多个计算节点之间在多个维度上存在连接关系。计算节点接收管理节点发送的数据传输表,在执行每个维度的空间变换域运算之前,基于数据传输表,通过计算节点中的连接关系将计算节点中需要传输的数据传输到目的计算节点的相应位置上,在接收到其它计算节点发送的数据后存储到相应的位置上,并在满足进行空间变换域运算的条件后,基于计算节点上存储的数据进行空间变换域运算。由此,在进行每个维度的空间变换域之前,可以通过各个计算节点在多个维度的连接关系进行数据传输,从而缩短了数据传输的路径,提高了数据传输效率。
Description
技术领域
本发明涉及分子动力学模拟领域,尤其涉及一种数据处理系统、方法及装置。
背景技术
在分子动力学模拟中,将待测体系放入到一个物理空间立方体中,体系中的粒子受多种作用影响而发生运动,其中静电作用是周期性边界条件下的N-body问题,计算量巨大,成为限制分子动力学模拟计算速度的重要因素。针对静电作用计算,学术界和产业界发明了PPPM(Particle-Particle Particle-Mesh Method),PME(Particle Mesh Ewald),GSE(Gaussian Split Ewald)等算法,都是利用FFT(Fast Fourier Transform Algorithm)技术对静电作用计算的改进。这些算法的发展推进了分子动力学模拟在大规模计算系统,尤其是使用了GPU(Graphics Processing Uni,图形处理器)加速卡、FPGA(现场可编程门阵列)加速卡、甚至ASIC(Application Specific Integrated Circuit,专用集成电路)加速卡的分布式超级计算系统上的实现。
虽然常规的分布式大规模计算系统可以高效率的实现单独的各组FFT(FastFourier Transformation,快速傅氏变换)计算,但是分子动力学模拟的静电作用计算效率依然受限,这主要是由常规分布式计算系统的互联方式所致。分子动力学中的静电作用是粒子在三维立体空间中的相互作用,所含的FFT和IFFT计算也是立体空间变换域计算,需要依次完成各维度上的FFT/IFFT计算。通常使用的大规模计算系统都是分布式计算系统,每一维度FFT/IFFT计算都由多个计算节点并行完成,但由于各维度计算的是不同组的FFT/IFFT,所以各维度计算之间需要数据交互。常规分布式计算系统在互联方式上没有维度的概念(可以认为是一维),在一个维度计算之后,需要将FFT/IFFT点从各计算节点全部传回主存储,主存储对数据重排完成维度转换后,再次下发到各计算节点进行下一个维度的计算。这样的方式数据传输量巨大,导致在大规模三维FFT/IFFT计算中,数据通信成为影响整体计算效率的瓶颈,这也是导致分子动力学模拟在常规超算系统上计算效率受限的重要因素。
发明内容
有鉴于此,本发明实施例提供了一种数据处理系统、方法及装置,通过预先构建的各个计算节点之间在多个维度的连接关系,缩短了数据的传输路径,降低了数据传输量,提升了数据处理效率。
本发明实施例公开了一种数据处理系统,包括:
多个计算节点和管理节点,所述多个计算节点在多个维度上存在连接关系;
所述管理节点用于存储每个计算节点在每个维度的数据传输表,并将数据传输表发送给相对应的计算节点;所述数据传输表包括:计算节点需要传输的数据的源地址和目的地址;
所述计算节点,用于接收管理节点发送的数据传输表,在执行每个维度的空间变换域运算之前,基于所述数据传输表,通过各个计算节点在多个维度的连接关系将计算节点中需要传输的数据通过传输到目的计算节点的相应位置上,在接收到其它计算节点发送的数据后存储到相应的位置上,并在满足进行空间变换域运算的条件后,进行空间变换域运算。
可选的,针对任意一个第一目标计算节点,所述第一目标计算节点与每一个维度上的两个第二目标计算节点直接相连,任意一个维度的两个第二目标计算节点的编号与所述第一目标计算节点的编号是相邻的。
可选的,所述数据传输表中,源地址表征需要传输的数据在计算节点中的位置;
所述目的地址表示源地址上数据需要被传输到的目的计算节点以及所述目的计算节点中存放的源地址上的数据的具体位置。
可选的,所述计算节点还用于:检测接收到目标数据的计算节点是否为所述目标数据的目的地址;
若接收到目标数据的计算节点不是目标数据的目的地址,基于所述目标数据的源地址和目的地址,将所述目标数据发送到下一个计算节点。
可选的,所述计算节点还用于:
在完成了每一个维度的空间变换域运算后,将计算节点中每个维度对应的数据传输表中的源地址和目的地址进行互换;
在进行每个维度的空间变换域逆运算之前,依据互换了源地址和目的地址的数据传输表,将需要传输的数据传输到目的计算节点相应位置上;
进行空间变换域逆运算。
本发明实施例公开了一种数据处理方法,包括:
各个计算节点接收管理节点发送的数据传输表;所述数据传输表包括:计算节点中需要传输的数据的源地址和目的地址;所述各个计算节点在多个维度上存在连接关系;
在进行每个维度的空间变换域之前,基于所述数据传输表,将各个计算节点中需要传输的数据传输到目的计算节点的相应位置上;每个计算节点预先存储了预设空间上的数据;
接收其它计算节点发送的数据,并进行存储;
在满足了进行目标维度的空间变换域运算的条件后,各个计算节点进行空间变换域运算。
可选的,所述数据传输表中,源地址表征需要传输的数据在计算节点中的位置;
所述目的地址表示源地址上数据需要被传输到的目的计算节点以及所述目的计算节点中存放源地址上的数据的具体位置。
可选的,还包括:
第三目标计算节点接收到其它计算节点发送的目标数据后,检测所述第三目标计算节点是否为所述目标数据的目的地址;
若所述第三目标计算节点不是所述目标数据的目的地址,基于目标数据的源地址和目的地址,将所述目标数据发送到下一个计算节点;所述第三目标计算节点为任意一个计算节点。
可选的,还包括:
在完成了所有维度的空间变换域运算后,将计算节点中每个维度对应的数据传输表中的源地址和目的地址进行互换;
各个计算节点进行空间变换域逆运算;
在完成了每一个维度的空间变换域逆运算后,各个计算节点按照转换了源地址和目的地址的数据传输表,将源地址的数据传输到目的地址对应的计算节点相应的位置上。
本发明实施例公开了一种数据处理装置,包括:
第一接收单元,用于各个计算节点接收管理节点发送的数据传输表;所述数据传输表包括:计算节点中需要传输的数据的源地址和目的地址;所述各个计算节点在多个维度上存在连接关系;
传输单元,用于在进行每个维度的空间变换域之前,基于所述数据传输表,将各个计算节点中需要传输的数据传输到目的计算节点的相应位置上;每个计算节点预先存储了预设空间上的数据;
第二接收单元,用于接收其它计算节点发送的数据,并进行存储;
运算单元,用于在满足了进行目标维度的空间变换域运算的条件后,各个计算节点进行空间变换域运算。
本实施例中公开的数据处理系统、方法及装置,该系统包括:多个计算节点和管理节点,其中,所述多个计算节点之间在多个维度上存在连接关系。管理节点,用于存储每个计算节点对应的数传输表,数据传输表包括:计算节点中需要传输的数据的源地址和目的地址。计算节点用于接收管理节点发送的数据传输表,在执行每个维度的空间变换域运算之前,并基于数据传输表,将计算节点中需要传输的数据通过计算节点中的连接关系传输到目的计算节点的相应位置上,并在接收到其它计算节点发送的数据后存储到相应的位置上,并在满足进行空间变换域运算的条件后,基于计算节点上存储的数据进行空间变换域运算。由此,通过预先构建的各个计算节点之间在多个维度的连接关系,使得各个计算节点在多个维度上都可以实现连通,在进行每个维度的空间变换域之前,可以通过各个计算节点在多个维度的连接关系进行数据传输,从而缩短了数据传输的路径,提高了数据传输效率。
进一步的,通过预先设置的数据传输表,可以指示计算节点将参与某个维度的空间变换域运算的数据传输到相对应的目的计算节点,由此通过预先设置的数据传输表,指示了数据的传输路径,为实现计算节点之间直接进行数据传输提供了依据,从而间接提高了数据处理效率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1示出了本发明实施例提供的一种数据处理系统的结构示意图;
图2示出了一种计算节点在三个维度上产生连接关系的示意图;
图3示出了本发明实施例提供的一种数据处理方法的流程示意图;
图4示出了本发明实施例提供的一种数据处理的场景示意图;
图5示出了本发明实施例公开的一种数据处理装置的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
参考图1,示出了本发明实施例提供的一种数据处理系统的结构示意图,在本实施例中,该结构包括:
多个计算节点100和管理节点200,所述多个计算节点100在多个维度上存在连接关系;
所述管理节点200用于存储每个计算节点在每个维度的数据传输表,并将数据传输表发送给相对应的计算节点;所述数据传输表包括:计算节点需要传输的数据的源地址和目的地址;
所述计算节点100,用于接收管理节点发送的数据传输表,在执行每个维度的空间变换域运算之前,基于所述数据传输表,通过各个计算节点在多个维度的连接关系,将计算节点中需要传输的数据传输到目的计算节点的相应位置上,在接收到其它计算节点发送的数据后存储到相应的位置上,并在满足进行空间变换域运算的条件后,基于进行空间变换域运算。
本实施例中,多个计算节点在多个维度上存在连接关系,由此,基于各个计算节点之间的连接关系,任意两个计算节点可以实现连通。
其中,在一种实施方式下,实现多个计算节点在多个维度上存在连接关系的一种连接方式为:
对于任意一个计算节点,表示为第一目标计算节点,该第一目标计算节点与每一个维度上的两个第二目标计算节点直接相连,任意一个维度的两个第二目标计算节点的编号与所述第一目标计算节点的编号是相邻的。
举例说明:如图2所示,示出了一种计算节点在三个维度上产生连接关系的示意图,以多个计算节点在三个维度上存在连接关系为例,假设第一目标计算节点的编号为(x,y,z),x=1,2,...,F,y=1,2,...,F,z=1,2,...,F,则在X维度上,与第一目标计算节点直接相连的第二目标计算节点的编号为C(mod(x-1,F),y,z)、C(mod(x+1,F),y,z),在Y维度上,与第一目标计算节点直接相连的第二目标计算节点的编号为C(x,mod(y-1,F),z)、C(x,mod(y+1,F),z),在Z维度上,与第一目标计算节点直接相连的第二目标计算节点的编号为C(x,y,mod(z-1,F))、C(x,y,mod(z+1,F))。
进一步的,为了提高数据传输效率,各个计算节点之间通过高速互联网络进行连接。
本实施例中,管理节点预存储了每个计算节点参与每个维度的空间变换域运算对应数据传输表,例如若需要进行三个维度的空间变换域运算,每个计算节点对应三个维度的数据传输表,第一数据传输表,包括:进行第一维度的空间变换域运算需要传输的数据的源地址和目的地址;第二数据传输表,包括:进行第二维度的空间变换域运算需要传输的数据的源地址和目的地址;第三数据传输表,包括:进行第三维度的空间变换域运算需要传输的数据的源地址和目的地址。
本实施例中,数据传输表的源地址,表示需要传输的数据在计算节点中的位置;其中,一个计算节点中需要传输的数据表示进行空间变换域运算需要的数据,具体的,需要传输的数据为需要在其它的计算节点中参与进行某个维度的空间变换域运算的数据。
数据传输表中的目的地址表示源地址上数据需要被传输到的目的计算节点以及所述目的计算节点中存放的源地址上的数据的具体位置。具体的,数据传输表的目的地址对应的计算节点为:需要源地址上的地址进行某个维度的空间变换域运算的计算节点。
管理节点将数据传输表发送给计算节点可以包括如下的两种实施方式:
实施方式一:在进行任何一个维度空间变换域之前,管理节点将每个维度的数据传输表同时发送给相对应的计算节点;
举例说明:若进行三个维度的空间变换域运算,包括X维度、Y维度和Z维度,若先执行X维度的空间变换域运算,再执行Y维度的空间变换域运算,最后执行Z维度的空间变换域运算,则在执行X维度之前,管理节点将每个维度的数据传输表同时发送给相对应的计算节点。
实施方式二:每次在执行目标维度的空间变换域之前,将该目标维度对应的数据传输表发送给相对应的计算节点;所述目标维度为计算节点当前需要进行空间变换域的维度;所述目标维度为空间变换域运算包含的任意一个维度;
举例说明:若进行三个维度的空间变换域运算,则在进行第一维度的空间变换域运算之前,将第一数据传输表发送给相对应的计算节点;在进行第二维度的空间变换域运算之前,将第二数据传输表发送给相对应的计算节点;在进行第三维度的空间变换域运算之前,将第三数据传输表发送给相对应的计算节点。
本实施例中,每个计算节点中预先存储了数据,但是预先存储的数据不能满足计算节点进行某个维度的空间变换域运算,在进行每个维度的空间变换域运算之前,每个计算节点根据数据传输表向其它计算节点传输数据。
基于此,计算节点的功能包括:根据数据传输表向其它计算节点传输数据,接收其它计算节点发送的数据,并在满足进行空间变换域运算的条件后,进行空间变换域运算。
除此之外,计算节点之间进行数据传输时,计算节点上的数据可能无法直接发送到目的地址对应的计算节点,那么需要计算节点作为中继节点进行转发,具体的,计算节点还用于:
检测接收到目标数据的计算节点是否为所述目标数据的目的地址;
若接收到目标数据的计算节点不是目标数据的目的地址,基于所述目标数据的源地址和目的地址,将所述目标数据发送到下一个计算节点。
本实施例中,基于各个计算节点之间的连接关系和数据的源地址和目的地址,可以确定出该数据的传输路径,按照该数据的传输路径将目标数据从源地址所在的初始计算节点传输到目的地址对应的目的计算节点。
并且,每个计算节点中预先设置了存放数据节点的空间位置,预先将数据存储到相对应的空间位置上,并在进行某个维度的空间变换域之前,通过数据传输表,将计算节点源地址对应的空间位置上的数据发送到目的计算节点的相应位置上。
本实施例中,上述提到计算节点在满足进行空间变换域运算的条件后,基于计算节点上存储的数据进行空间变换域运算。这里提到的进行空间变换域运算的条件为,计算节点中存储的数据满足进行目标维度的空间变换域运算的条件。或者,当计算节点按照数据传输表将参与目标维度的空间变换域运算全部传输到相对应的目的节点后,则表示满足进行目标维度的空间变换域运算的条件。
举例说明:若需要进行三个维度的空间变换域运算,则在进行X维度的空间变换域运算之前,基于第一数据传输表,将参与X维度的空间变换域运算的数据传输到相对应的目的计算节点上,各个计算节点进行X维度的空间变换域运算;在进行Y维度的空间变换域运算之前,基于第二数据传输表,将参与Y维度的空间变换域运算的数据传输到相对应的目的计算节点,各个计算节点进行Y维度的空间变换域运算;在进行Z维度的空间变换域运算之前,基于第三数据传输表,将参与Z维度的空间变换域运算的数据传输到相对应的目的计算节点,各个计算节点进行Z维度上的空间变换域运算。
除此之外,在计算节点执行了空间变换域计算之后,还可以执行空间变换域逆运算,具体的,计算节点还用于:
在完成了每一个维度的空间变换域运算后,将计算节点中每个维度对应的数据传输表中的源地址和目的地址进行互换;
在进行每个维度的空间变换域逆运算之前,依据互换了源地址和目的地址的数据传输表,将需要传输的数据传输到目的计算节点相应位置上;
进行空间变换域逆运算。
本实施例中,将计算节点中的数据传输表的源地址和目的地址互换后,可以实现数据的回传,数据回传后,可以实现空间变换域的逆运算。
本实施例中,上述提到的空间变换域运算可以包括FFT(Fast FourierTransformation,快速傅氏变换),上述提到的空间变换域逆运算可以包括IFFT(InverseFast Fourier Transform,快速傅里叶逆变换)。
本实施例中公开的数据处理系统,包括:多个计算节点和管理节点,其中,所述多个计算节点在多个维度上存在连接关系。管理节点,用于存储每个计算节点对应的数传输表,数据传输表包括:计算节点中需要传输的数据的源地址和目的地址。计算节点用于接收管理节点发送的数据传输表,在执行每个维度的空间变换域运算之前,基于数据传输表,通过各个计算节点在多个维度上的连接关系,将计算节点中需要传输的数据传输到目的计算节点的相应位置上,在接收到其它计算节点发送的数据后存储到相应的位置上,并在满足进行空间变换域运算的条件后,基于计算节点上存储的数据进行空间变换域运算。由此,通过预先构建的各个计算节点之间在多个维度的连接关系,使得各个计算节点在多个维度上都可以实现连通,在进行每个维度的空间变换域之前,可以通过各个计算节点在多个维度的连接关系进行数据传输,从而缩短了数据传输的路径,提高了数据传输效率。
进一步的,通过预先设置的数据传输表,可以指示计算节点将参与某个维度的空间变换域运算的数据传输到相对应的目的计算节点,由此通过预先设置的数据传输表,指示了数据的传输路径,为实现计算节点之间直接进行数据传输提供了依据,从而间接提高了数据处理效率。
其中,上述提到的数据处理系统可以为一种超算系统。
参考图3,示出了本发明实施例提供的一种数据处理方法的流程示意图,在本实施例中,该方法包括:
S301:各个计算节点接收管理节点发送的数据传输表;所述数据传输表包括:计算节点中需要传输的数据的源地址和目的地址;
本实施例中,数据传输表预先存储在管理节点中,其中,数据传输表的源地址,表示一个计算节点中需要传输的数据,具体的是进行每个维度的空间变换域运算需要传输的数据,其中,需要传输的数据为需要参数某个维度的空间变换域运算,且需要在其它的计算节点中参与进行某个维度的空间变换域运算。
数据传输表中的目的地址表示,源地址上数据需要被传输到的目的计算节点以及该目的计算节点中存放的源地址上的数据的具体位置。具体的,数据传输表的目的地址对应的计算节点为:需要源地址上的地址进行某个维度的空间变换域运算的计算节点。
S302:在进行每个维度的空间变换域之前,基于所述数据传输表,将各个计算节点中需要传输的数据传输到目的计算节点的相应位置上;每个计算节点预先存储了预设空间上的数据;
S303:接收其它计算节点发送的数据,并进行存储;
本实施例中,预先构建多个计算节点在多个维度上的连接关系,由此通过该连接关系,在每个维度上,每两个计算节点均可以实现连通。
其中,在一种实施方式下,实现多个计算节点在多个维度上存在连接关系的一种连接方式为:
对于任意一个计算节点,表示为第一目标计算节点,该第一目标计算节点与每一个维度上的两个第二目标计算节点直接相连,任意一个维度的两个第二目标计算节点的编号与所述第一目标计算节点的编号是相邻的。
在另外一种实施方式下,任意两个节点之间可以直接相连,由此,每两个计算节点之间存在连接关系。
进一步的,为了提高数据传输效率,各个计算节点之间通过高速互联网络进行连接。
本实施例中,每个计算节点中预先存储了数据,但是预先存储的数据不能满足计算节点进行某个维度的空间变换域运算,在进行每个维度的空间变换域运算之前,每个计算节点根据数据传输表向其它计算节点传输数据。
基于此,计算节点的功能包括:根据数据传输表向其它计算节点传输数据,接收其它计算节点发送的数据,并在满足进行空间变换域运算的条件后,进行空间变换域运算。
除此之外,计算节点之间进行数据传输时,计算节点上的数据可能无法直接发送到目的地址对应的计算节点,那么需要计算节点作为中继节点进行转发,具体的,还包括:
第三目标计算节点接收到其它计算节点发送的目标数据后,检测所述第三目标计算节点是否为所述目标数据的目的地址;
若所述第三目标计算节点不是所述目标数据的目的地址,基于目标数据的源地址和目的地址,将所述目标数据发送到下一个计算节点;所述第三目标计算节点为任意一个计算节点。
并且,若第三目标计算节点是所述目标数据的目的地址,则将接收到的目标数据进行存储。
本实施例中,基于各个计算节点之间的连接关系和数据的源地址和目的地址,可以确定出该数据的传输路径,按照该数据的传输路径将目标数据从源地址所在的初始计算节点传输到目的地址对应的目的计算节点。
S304:在满足了进行目标维度的空间变换域运算的条件后,各个计算节点进行空间变换域运算。
本实施例中,上述提到计算节点在满足进行空间变换域运算的条件后,基于计算节点上存储的数据进行空间变换域运算。这里提到的进行空间变换域运算的条件为,计算节点中存储的数据满足进行目标维度的空间变换域运算的条件。或者,当计算节点按照数据传输表将参与目标维度的空间变换域运算全部传输到相对应的目的节点后,则表示满足进行目标维度的空间变换域运算的条件。
除此之外,在计算节点执行了空间变换域计算之后,还可以执行空间变换域逆运算,具体的,计算节点还用于:
在完成了所有维度的空间变换域运算后,将计算节点中每个维度对应的数据传输表中的源地址和目的地址进行互换;
各个计算节点进行空间变换域逆运算;
在完成了每一个维度的空间变换域逆运算后,各个计算节点按照转换了源地址和目的地址的数据传输表,将源地址的数据传输到目的地址对应的计算节点相应的位置上。
本实施例公开的数据处理方法,通过预先构建的各个计算节点之间在多个维度的连接关系,使得各个计算节点在多个维度上都可以实现连通,在进行每个维度的空间变换域之前,可以通过各个计算节点在多个维度的连接关系进行数据传输,从而无需通过主存储向各个计算节点传输数据,提高了数据传输效率。
进一步的,通过预先设置的数据传输表,可以指示计算节点将参与某个维度的空间变换域运算的数据传输到相对应的目的计算节点,由此通过预先设置的数据传输表,指示了数据的传输路径,为实现计算节点之间直接进行数据传输提供了依据,从而间接提高了数据处理效率。
实施例3
参考图4,示出了本发明实施例提供的一种数据处理的场景示意图,包括:
管理节点将数据传输表发送给各个计算节点;
在进行第一维度的空间变换域运算之前,基于第一数据传输表,将参与第一维度的空间变换域运算的数据发送到相对应的目的计算节点,各个计算节点进行第一维度的空间变换域运算;
在进行第二维度的空间变换域运算之前,基于第二数据传输表,将参与第二维度的空间变换域运算的数据发送到相对应的目的计算节点,各个计算节点进行第二维度的空间变换域运算;
在进行第三维度的空间变换域运算之前,基于第三数据传输表,将参与第三维度的空间变换域运算的数据发送到相对应的目的计算节点,各个计算节点进行第三维度的空间变换域运算;
各个计算节点将数据传输表中的源地址和目的地址进行互换;
各个计算节点进行第三维度的空间变换域逆运算;
在完成了第三维度的空间变换域逆运算后,各个计算节点按照转换了源地址和目的地址的第三数据传输表,将源地址的数据传输到目的地址对应的计算节点相应的位置上;
各个计算节点进行第二维度的空间变换域逆运算;
在完成了第二维度的空间变换域逆运算后,各个计算节点按照转换了源地址和目的地址的第二数据传输表,将源地址的数据传输到目的地址对应的计算节点相应的位置上;
各个计算节点进行第一维度的空间变换域逆运算;
在完成了第一维度的空间变换域逆运算后,各个计算节点按照转换了源地址和目的地址的第一数据传输表,将源地址的数据传输到目的地址对应的计算节点相应的位置上。
本实施例公开的数据处理方法,通过预先构建的各个计算节点之间在多个维度的连接关系,使得各个计算节点在多个维度上都可以实现连通,在进行每个维度的空间变换域之前,可以通过各个计算节点在多个维度的连接关系进行数据传输,从而无需通过主存储向各个计算节点传输数据,提高了数据传输效率。
实施例4
参考图5,示出了本发明实施例公开的一种数据处理装置的结构示意图,在本实施例中,该装置包括:
第一接收单元501,用于各个计算节点接收管理节点发送的数据传输表;所述数据传输表包括:计算节点中需要传输的数据的源地址和目的地址;所述各个计算节点在多个维度上存在连接关系;
第一传输单元502,用于在进行每个维度的空间变换域之前,基于所述数据传输表,将各个计算节点中需要传输的数据传输到目的计算节点的相应位置上;每个计算节点预先存储了预设空间上的数据;
第二接收单元503,用于接收其它计算节点发送的数据,并进行存储;
运算单元504,用于在满足了进行目标维度的空间变换域运算的条件后,各个计算节点进行空间变换域运算。
可选的,所述数据传输表中,源地址表征需要传输的数据在计算节点中的位置;
所述目的地址表示源地址上数据需要被传输到的目的计算节点以及所述目的计算节点中存放源地址上的数据的具体位置。
可选的,还包括:
数据中转单元,用于:
第三目标计算节点接收到其它计算节点发送的目标数据后,检测所述第三目标计算节点是否为所述目标数据的目的地址;
若所述第三目标计算节点不是所述目标数据的目的地址,基于目标数据的源地址和目的地址,将所述目标数据发送到下一个计算节点;所述第三目标计算节点为任意一个计算节点。
可选的,还包括:
地址转换单元,用于在完成了所有维度的空间变换域运算后,将计算节点中每个维度对应的数据传输表中的源地址和目的地址进行互换;
空间变换域逆运算,用于各个计算节点进行空间变换域逆运算;
第二传输单元,用于在完成了每一个维度的空间变换域逆运算后,各个计算节点按照转换了源地址和目的地址的数据传输表,将源地址的数据传输到目的地址对应的计算节点相应的位置上。
本实施例的装置,通过预先构建的各个计算节点之间在多个维度的连接关系,使得各个计算节点在多个维度上都可以实现连通,在进行每个维度的空间变换域之前,可以通过各个计算节点在多个维度的连接关系进行数据传输,从而无需通过主存储向各个计算节点传输数据,提高了数据传输效率。
需要说明的是,本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (9)
1.一种数据处理系统,其特征在于,包括:
多个计算节点和管理节点,所述多个计算节点在多个维度上存在连接关系;所述多个计算节点在多个维度上存在连接关系,包括:针对任意一个第一目标计算节点,所述第一目标计算节点与每一个维度上的两个第二目标计算节点直接相连,任意一个维度的两个第二目标计算节点的编号与所述第一目标计算节点的编号是相邻的;
所述管理节点用于存储每个计算节点在每个维度的数据传输表,并将数据传输表发送给相对应的计算节点;所述数据传输表包括:计算节点需要传输的数据的源地址和目的地址;
所述计算节点,用于接收管理节点发送的数据传输表,在执行每个维度的空间变换域运算之前,基于所述数据传输表,通过各个计算节点在多个维度的连接关系将计算节点中需要传输的数据传输到目的计算节点的相应位置上,在接收到其它计算节点发送的数据后存储到相应的位置上,并在满足进行空间变换域运算的条件后,进行空间变换域运算。
2.根据权利要求1所述的数据处理系统,其特征在于,所述数据传输表中,源地址表征需要传输的数据在计算节点中的位置;
所述目的地址表示源地址上数据需要被传输到的目的计算节点以及所述目的计算节点中存放的源地址上的数据的具体位置。
3.根据权利要求1所述的数据处理系统,其特征在于,所述计算节点还用于:检测接收到目标数据的计算节点是否为所述目标数据的目的地址;
若接收到目标数据的计算节点不是目标数据的目的地址,基于所述目标数据的源地址和目的地址,将所述目标数据发送到下一个计算节点。
4.根据权利要求1所述的数据处理系统,其特征在于,所述计算节点还用于:
在完成了所有维度的空间变换域运算后,将计算节点中每个维度对应的数据传输表中的源地址和目的地址进行互换;
各个计算节点进行空间变换域逆运算;
在完成了每一个维度的空间变换域逆运算后,各个计算节点按照转换了源地址和目的地址的数据传输表,将源地址的数据传输到目的地址对应的计算节点相应的位置上。
5.一种数据处理方法,其特征在于,包括:
各个计算节点接收管理节点发送的数据传输表;所述数据传输表包括:计算节点中需要传输的数据的源地址和目的地址;所述各个计算节点在多个维度上存在连接关系;所述各个计算节点在多个维度上存在连接关系,包括:针对任意一个第一目标计算节点,所述第一目标计算节点与每一个维度上的两个第二目标计算节点直接相连,任意一个维度的两个第二目标计算节点的编号与所述第一目标计算节点的编号是相邻的;
在进行每个维度的空间变换域之前,基于所述数据传输表,将各个计算节点中需要传输的数据传输到目的计算节点的相应位置上;每个计算节点预先存储了预设空间上的数据;
接收其它计算节点发送的数据,并进行存储;
在满足了进行目标维度的空间变换域运算的条件后,各个计算节点进行空间变换域运算。
6.根据权利要求5所述的方法,其特征在于,所述数据传输表中,源地址表征需要传输的数据在计算节点中的位置;
所述目的地址表示源地址上数据需要被传输到的目的计算节点以及所述目的计算节点中存放源地址上的数据的具体位置。
7.根据权利要求5所述的方法,其特征在于,还包括:
第三目标计算节点接收到其它计算节点发送的目标数据后,检测所述第三目标计算节点是否为所述目标数据的目的地址;
若所述第三目标计算节点不是所述目标数据的目的地址,基于目标数据的源地址和目的地址,将所述目标数据发送到下一个计算节点;所述第三目标计算节点为任意一个计算节点。
8.根据权利要求5所述的方法,其特征在于,还包括:
在完成了每一个维度的空间变换域运算后,将计算节点中每个维度对应的数据传输表中的源地址和目的地址进行互换;
在进行每个维度的空间变换域逆运算之前,各个计算节点依据互换了源地址和目的地址的数据传输表,将需要传输的数据传输到目的计算节点相应位置上;
各个计算节点进行空间变换域逆运算。
9.一种数据处理装置,其特征在于,包括:
第一接收单元,用于各个计算节点接收管理节点发送的数据传输表;所述数据传输表包括:计算节点中需要传输的数据的源地址和目的地址;所述各个计算节点在多个维度上存在连接关系;所述各个计算节点在多个维度上存在连接关系,包括:针对任意一个第一目标计算节点,所述第一目标计算节点与每一个维度上的两个第二目标计算节点直接相连,任意一个维度的两个第二目标计算节点的编号与所述第一目标计算节点的编号是相邻的;
传输单元,用于在进行每个维度的空间变换域之前,基于所述数据传输表,将各个计算节点中需要传输的数据传输到目的计算节点的相应位置上;每个计算节点预先存储了预设空间上的数据;
第二接收单元,用于接收其它计算节点发送的数据,并进行存储;
运算单元,用于在满足了进行目标维度的空间变换域运算的条件后,各个计算节点进行空间变换域运算。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110962549.9A CN113688352B (zh) | 2021-08-20 | 2021-08-20 | 一种数据处理系统、方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110962549.9A CN113688352B (zh) | 2021-08-20 | 2021-08-20 | 一种数据处理系统、方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113688352A CN113688352A (zh) | 2021-11-23 |
CN113688352B true CN113688352B (zh) | 2023-08-04 |
Family
ID=78581370
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110962549.9A Active CN113688352B (zh) | 2021-08-20 | 2021-08-20 | 一种数据处理系统、方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113688352B (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007022469A2 (en) * | 2005-08-18 | 2007-02-22 | D.E. Shaw Research, Llc | Parallel computer architecture for computation of particle interactions |
CN101311917A (zh) * | 2007-05-24 | 2008-11-26 | 中国科学院过程工程研究所 | 一种面向粒子模型的多层直连集群并行计算系统 |
EP2728490A1 (en) * | 2012-10-31 | 2014-05-07 | Fujitsu Limited | Application execution method in computing |
CN104040528A (zh) * | 2011-12-28 | 2014-09-10 | 富士通株式会社 | 计算机系统、通信控制装置以及计算机系统的控制方法 |
CN105224506A (zh) * | 2015-10-29 | 2016-01-06 | 北京大学 | 一种用于gpu异构集群的高性能fft方法 |
CN109542515A (zh) * | 2017-10-30 | 2019-03-29 | 上海寒武纪信息科技有限公司 | 运算装置及方法 |
JP2020126487A (ja) * | 2019-02-05 | 2020-08-20 | 富士通株式会社 | 並列処理装置、データ転送先決定方法およびデータ転送先決定プログラム |
-
2021
- 2021-08-20 CN CN202110962549.9A patent/CN113688352B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007022469A2 (en) * | 2005-08-18 | 2007-02-22 | D.E. Shaw Research, Llc | Parallel computer architecture for computation of particle interactions |
CN101311917A (zh) * | 2007-05-24 | 2008-11-26 | 中国科学院过程工程研究所 | 一种面向粒子模型的多层直连集群并行计算系统 |
CN104040528A (zh) * | 2011-12-28 | 2014-09-10 | 富士通株式会社 | 计算机系统、通信控制装置以及计算机系统的控制方法 |
EP2728490A1 (en) * | 2012-10-31 | 2014-05-07 | Fujitsu Limited | Application execution method in computing |
CN105224506A (zh) * | 2015-10-29 | 2016-01-06 | 北京大学 | 一种用于gpu异构集群的高性能fft方法 |
CN109542515A (zh) * | 2017-10-30 | 2019-03-29 | 上海寒武纪信息科技有限公司 | 运算装置及方法 |
JP2020126487A (ja) * | 2019-02-05 | 2020-08-20 | 富士通株式会社 | 並列処理装置、データ転送先決定方法およびデータ転送先決定プログラム |
Non-Patent Citations (3)
Title |
---|
A-Tree: Distributed Indexing of Multidimensional Data for Cloud Computing Environments;Andreas Papadopoulos, et al;2011 IEEE Third International Conference on Cloud Computing Technology and Science;全文 * |
车身CAN总线网络数据传输效率优化算法的研究;刘宇;张义民;曹万科;郭晨;;汽车工程(第07期);全文 * |
面向图计算应用的处理器访存通路优化设计与实现;张旭;常轶松;张科;陈明宇;;国防科技大学学报(第02期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN113688352A (zh) | 2021-11-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWI803663B (zh) | 一種運算裝置和運算方法 | |
EP0544532B1 (en) | A parallel computer and its all-to-all communications method | |
US8527739B2 (en) | Iterative process partner pairing scheme for global reduce operation | |
CN105264930B (zh) | 发送节点及其缓存状态上报方法 | |
CN109309726A (zh) | 基于海量数据的文件生成方法及系统 | |
CN105874758B (zh) | 内存访问方法、交换机及多处理器系统 | |
WO2023040197A1 (zh) | 一种跨节点通信方法、装置、设备及可读存储介质 | |
CN107070709A (zh) | 一种基于底层numa感知的nfv实现方法 | |
CN106101262A (zh) | 一种基于以太网的直连架构计算集群系统及构建方法 | |
CN105359122B (zh) | 多cpu系统中的增强型数据传输 | |
CN113688352B (zh) | 一种数据处理系统、方法及装置 | |
CN103312614A (zh) | 一种组播报文处理方法、线卡及通信设备 | |
CN108153494A (zh) | 一种io请求处理方法及装置 | |
CN109254844B (zh) | 一种大规模图的三角形计算方法 | |
CN102646058A (zh) | 多节点计算系统下选择共享内存所在节点的方法和装置 | |
CN113704681B (zh) | 一种数据处理方法、装置及超算系统 | |
CN105072047B (zh) | 一种报文传输及处理方法 | |
Zhao et al. | On peer-assisted data dissemination in data center networks: Analysis and implementation | |
US9948543B2 (en) | Mechanism to extend the remote get to do async rectangle broadcast on a rectangle with wild cards in the packet header | |
US10084725B2 (en) | Extracting features from a NoC for machine learning construction | |
EP3188531B1 (en) | Cluster system self-organizing method, device, and cluster system | |
CN114095289B (zh) | 数据多播电路、方法、电子设备及计算机可读存储介质 | |
Souravlas et al. | Dynamic Load Balancing on All-to-All Personalized Communications Using the NNLB Principal | |
Henrio et al. | An optimal broadcast algorithm for content-addressable networks | |
WO2022007587A1 (zh) | 交换机和数据处理的系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information | ||
CB02 | Change of applicant information |
Address after: Room 1010, No. 2, Lane 288, Kangning Road, Jing'an District, Shanghai, 200040 Applicant after: Shanghai Silang Technology Co.,Ltd. Address before: 100176 room 506-1, floor 5, building 6, courtyard 10, KEGU 1st Street, Beijing Economic and Technological Development Zone, Beijing Applicant before: Beijing Si Lang science and Technology Co.,Ltd. |
|
GR01 | Patent grant | ||
GR01 | Patent grant |