CN112597424B - 基于广播机制进行张量计算的方法、装置、芯片及介质 - Google Patents

Abstract

本发明实施例公开了一种基于广播机制进行张量计算的方法、装置、芯片及介质。该方法包括：获取第一张量和第二张量，第一张量的维数大于或等于第二张量的维数；判断第一张量和第二张量是否满足广播机制条件，若满足，则确定与第一张量和第二张量分别对应的第一目标张量和第二目标张量，第一目标张量和第二目标张量的后缘维度的轴长度相符；通过通用计算硬件单元组，采用广播机制对第一目标张量和第二目标张量进行张量计算，得到张量计算备选结果；根据张量计算备选结果，确定与第一张量和第二张量对应的目标计算结果。上述技术方案实现了在无支持广播计算的专用底层硬件时全面支持广播机制中所有形式的广播操作。

Description

基于广播机制进行张量计算的方法、装置、芯片及介质

技术领域

本发明实施例涉及数据处理技术领域，尤其涉及一种基于广播机制进行张量计算的方法、装置、芯片及介质。

背景技术

在使用Tensorflow、Pytorch和Mxnet等深度学习框架过程中，经常遇到形状不相同的数组也可以进行加减乘除等算子操作，这主要由于其内部存在的广播机制。广播机制，指的是如果两个数组的后缘维度(trailing dimension，即从末尾开始算起的维度)的轴长度相符，或其中一方的长度为1，则认为它们是广播兼容的。

在实际应用中，需要支持广播操作的硬件比较多，如加减乘除、逻辑与，逻辑或，求最大值(maximum)，求最小值(minmum)，求幂(pow)，大于，大于等于，小于，小于等于，不相等，等等。由于广播会在缺失和/或长度为1的维度上进行，故广播机制中涉及的广播操作形式有多种，目前针对每种算子都需要单独配置硬件，以支持与此算子对应的所有形式的广播操作。

因此，在无法针对每种算子都单独配置硬件以支持与此算子对应的所有形式的广播操作时，也即在无支持广播计算的专用底层硬件时，如何全面支持与各种算子对应的所有形式的广播操作是亟待解决的问题。

发明内容

本发明实施例提供一种基于广播机制进行张量计算的方法、装置、设备及介质，以实现在无支持广播计算的专用底层硬件时全面支持广播机制中所有形式的广播操作。

第一方面，本发明实施例提供了一种基于广播机制进行张量计算的方法，包括：

获取第一张量和第二张量，第一张量的维数大于或等于第二张量的维数；

判断第一张量和第二张量是否满足广播机制条件，若满足，则确定与第一张量和第二张量分别对应的第一目标张量和第二目标张量，第一目标张量和第二目标张量的后缘维度的轴长度相符；

通过通用计算硬件单元组，采用广播机制对第一目标张量和第二目标张量进行张量计算，得到张量计算备选结果；

根据张量计算备选结果，确定与第一张量和第二张量对应的目标计算结果。

第二方面，本发明实施例还提供了一种基于广播机制进行张量计算的装置，包括：

张量获取模块，用于获取第一张量和第二张量，第一张量的维数大于或等于第二张量的维数；

张量处理模块，用于判断第一张量和第二张量是否满足广播机制条件，若满足，则确定与第一张量和第二张量对应的第一目标张量和第二目标张量，第一目标张量和第二目标张量的后缘维度的轴长度相符；

张量计算模块，用于通过通用计算硬件单元组，采用广播机制对第一目标张量和第二目标张量进行张量计算，得到张量计算备选结果；

计算结果确定模块，用于根据张量计算备选结果，确定与第一张量和第二张量对应的目标计算结果。

第三方面，本发明实施例还提供了一种芯片，包括存储器、处理器、通用计算硬件单元组及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现本发明任意实施例所述的基于广播机制进行张量计算的方法，所述通用计算硬件单元组用于采用广播机制对第一目标张量和第二目标张量进行张量计算，得到张量计算备选结果。

第四方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现本发明任意实施例所述的基于广播机制进行张量计算的方法。

本发明实施例的技术方案中，在第一张量和第二张量满足广播机制条件时，首先确定与第一张量和第二张量分别对应的第一目标张量和第二目标张量，第一目标张量和第二目标张量的后缘维度的轴长度相符，其次通过通用计算硬件单元组采用广播机制对第一目标张量和第二目标张量进行张量计算，得到张量计算备选结果，再根据张量计算备选结果确定与第一张量和第二张量对应的目标计算结果。在上述技术方案中，由于在进行张量间广播计算之前对张量进行处理，使张量的后缘维度的轴长度相符，进而采用只支持后缘维度的轴长度相符的张量间的广播操作的通用计算硬件单元组，就能够全面支持第一张量和第二张量之间所有形式的广播操作，也即通过支持广播操作的基本硬件实现了对形式更为广泛的广播操作的支持，实现了在无支持广播计算的专用底层硬件时全面支持广播机制中所有形式的广播操作。

附图说明

图1是本发明实施例一中的一种基于广播机制进行张量计算的方法的流程图；

图2是本发明实施例二中的一种基于广播机制进行张量计算的方法的流程图；

图3是本发明实施例三中的一种基于广播机制进行张量计算的方法的流程图；

图4是本发明实施例四中的一种基于广播机制进行张量计算的方法的流程图；

图5是本发明实施例五中的一种基于广播机制进行张量计算的方法的流程图；

图6是本发明实施例六中的一种基于广播机制进行张量计算的装置的结构示意图；

图7是本发明实施例七中的一种芯片的结构示意图。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。

在更加详细地讨论示例性实施例之前应当提到的是，一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各项操作(或步骤)描述成顺序的处理，但是其中的许多操作可以被并行地、并发地或者同时实施。此外，各项操作的顺序可以被重新安排。当其操作完成时所述处理可以被终止，但是还可以具有未包括在附图中的附加步骤。所述处理可以对应于方法、函数、规程、子例程、子程序等等。

实施例一

图1为本发明实施例一提供的一种基于广播机制进行张量计算的方法的流程图，本实施例可适用于支持广播计算的底层硬件配置较低时全面支持广播机制中所有形式的广播操作的情况，该方法可以由本发明实施例提供的基于广播机制进行张量计算的装置来执行，该装置可采用软件和/或硬件的方式实现，并一般可集成在芯片中。

如图1所示，本实施例提供的基于广播机制进行张量计算的方法，包括：

S110、获取第一张量和第二张量，第一张量的维数大于或等于第二张量的维数。

针对基于广播机制待进行张量计算的两个张量，鉴于广播操作硬件的要求，第一个输入张量的维度无限制，第二个输入张量的维度不大于第一个输入张量。在本实施例中，假设第一张量为第一个输入张量，第二张量为第二个输入张量，故第一张量的维数大于或等于第二张量的维数。

S120、判断第一张量和第二张量是否满足广播机制条件，若满足，则确定与第一张量和第二张量分别对应的第一目标张量和第二目标张量，第一目标张量和第二目标张量的后缘维度的轴长度相符。

广播机制的原则，指的是如果两个数组的后缘维度的轴长度相符，或其中一方的长度为1，则认为它们是广播兼容的。其中，后缘维度指的是从末尾开始算起的维度，也即从最低维度开始算起的各个维度；轴指的就是维度，轴长度指的是维度尺寸。

例如，第一张量的形状为6,7,8,9,7,6，则第一张量的维数为6，也即有6个维度或轴，从左开始，第一个维度的维度尺寸(或者轴长度)为6，第二个维度的维度尺寸(或者轴长度)为7，第三个维度的维度尺寸(或者轴长度)为8，第四个维度的维度尺寸(或者轴长度)为9，以此类推。

进而，广播机制条件即为两个数组的后缘维度的轴长度相符，或者两个数组的后缘维度的轴长度不相符，但其中一方的轴长度为1。

例如，第一张量的形状为6,7,8,9,7,6，第二张量的形状为8,9,7,6，则两个张量的后缘维度为从末尾开始算起的四个维度，二者后缘维度的形状均为8,9,7,6，也即第一张量和第二张量的后缘维度的轴长度相符，也即后缘维度中每个对应维度的轴长度都相同。

再例如，第一张量的形状为6,7,8,9,1,6，第二张量的形状为8,9,7,1，则两个张量的后缘维度为从末尾开始算起的四个维度，二者后缘维度的形状依次为8,9,1,6和8,9,7,1，二者右数第一个维度和第二个维度的轴长度均不相同，也即第一张量和第二张量的后缘维度的轴长度不相符。但是，在轴长度不相同的两个维度上，其中一个张量的轴长度为1，故这两个张量依旧是满足广播机制条件

在一种可选的实施方式中，判断第一张量和第二张量是否满足广播机制条件，包括：

比较第一张量和第二张量对应维度的维度尺寸；若任意维度上维度尺寸不相等且均不为1，则确定第一张量和第二张量不满足广播机制条件，结束张量计算流程；否则，确定第一张量和第二张量满足广播机制条件。

其中，对应维度，指的是以最低维度为基准，相同维度位置上的维度。

比较第一张量和第二张量对应维度的维度尺寸，即是比较第一张量和第二张量相同维度位置上的维度尺寸，可以将第一张量和第二张量按照由右向左的顺序依次对比对应维度的维度尺寸。

如果在第一张量和第二张量的对应维度中，存在任意维度上二者的维度尺寸不相等且均不为1，则确定第一张量和第二张量不满足广播机制条件，此时无法对第一张量和第二张量进行张量计算，报错并结束计算流程，否则第一张量和第二张量满足广播机制条件。

可选的，定义第一张量的形状为X.shape，第二张量的形状为Y.shape，记录第二张量的维数为min_len，在维度索引i＝-1～-min_len的范围内逐一对比X.shape[i]和Y.shape[i]。其中，-n维度即为张量右数第n个维度。

在i＝-1～-min_len时，针对任意一个i值，若X.shape[i]与Y.shape[i]不相等，且X.shape[i]和Y.shape[i]均不等于1，则第一张量和第二张量不满足广播机制条件，报错并结束计算流程，如果i遍历结束且未报错，则确定第一张量和第二张量满足广播机制条件。

进一步的，在第一张量和第二张量的后缘维度的轴长度不相符时，确定与第一张量和第二张量分别对应的第一目标张量和第二目标张量，可以具体为：

通过张量处理硬件单元组对第一张量和/或第二张量进行处理，得到第一目标张量和第二目标张量。

其中，张量处理硬件单元组指的芯片内用于对张量进行常规硬件操作处理的已有硬件单元的组合，并非支持广播计算的专用底层硬件，常规硬件操作处理区别于支持广播计算的专用底层硬件的硬件操作。

可选的，张量处理硬件单元组的常规硬件操作，可以包括用于实现张量重组处理的张量重组(Reshape)硬件操作，用于实现张量轴移处理、张量反轴移处理的张量转置(Transpose)硬件操作，用于实现张量拼接处理的张量拼接(Concate)硬件操作，用于实现张量降维处理的张量降维(Squeeze)硬件操作。

在第一张量和第二张量的后缘维度的轴长度不相符时，通过张量处理硬件单元组对第一张量和/或第二张量进行处理，得到与第一张量对应的第一目标张量，以及与第二张量对应的第二目标张量，其中，第一目标张量和第二目标张量的后缘维度的轴长度相符。

例如，第一张量的形状为6,7,8,9,1,6，第二张量的形状为8,9,7,1，二者后缘维度的轴长度不相符，通过张量处理硬件单元组对第一张量和/或第二张量进行处理，得到第一目标张量的形状为6,7,6,8,9,7，第二目标张量的形状为8,9,7，此时，第一目标张量和第二目标张量的后缘维度的轴长度相符。

进一步的，作为一种可选的实施方式，通过张量处理硬件单元组对第一张量和/或第二张量进行处理，得到第一目标张量和第二目标张量，可以具体为：

根据第一张量和第二张量中对应维度的维度尺寸，获取满足张量轴移条件的至少一个第一维度，和/或满足张量拼接条件的至少一个第二维度；

通过张量处理硬件单元组，根据第一维度对第一张量和第二张量进行张量轴移处理，和/或对第一张量的第二维度进行与第二张量匹配的张量拼接处理，得到第一目标张量和第二目标张量。

其中，张量轴移条件，指的是在第一张量和第二张量的对应维度中，存在二者维度尺寸不相等且第二张量的维度尺寸为1的维度。

张量拼接条件，指的是在第一张量和第二张量的对应维度中，存在二者维度尺寸不相等且第一张量的维度尺寸为1的维度。

如果存在满足张量轴移条件的至少一个第一维度，但不存在满足张量拼接条件的第二维度，则通过张量处理硬件单元组，根据第一维度对第一张量和第二张量进行张量轴移处理，并将张量轴移处理后的第一张量作为第一目标张量，将张量轴移处理后的第二张量作为第二目标张量。

如果存在满足张量拼接条件的至少一个第二维度，但不存在满足张量轴移条件的第一维度，则通过张量处理硬件单元组对第一张量的第二维度进行与第二张量匹配的张量拼接处理，也即将第一张量的第二维度进行张量拼接处理，使第一张量的第二维度的维度尺寸与第二张量相等，并将张量拼接处理后的第一张量作为第一目标张量，将第二张量直接作为第二目标张量。

如果既存在满足张量轴移条件的至少一个第一维度，又存在满足张量拼接条件的至少一个第二维度，通过张量处理硬件单元组对第一张量的第二维度进行与第二张量匹配的张量拼接处理，并根据第一维度对张量拼接处理后的第一张量以及第二张量进行张量轴移处理，将张量拼接处理及张量轴移处理后的第一张量作为第一目标张量，将张量轴移处理后的第二张量作为第二目标张量。

进一步的，通过张量处理硬件单元组对第二张量进行处理，得到第二目标张量，还可以包括：

若第二张量中维度尺寸为1的各维度均高于任意一个维度尺寸不为1的维度，则通过张量处理硬件单元组根据维度尺寸为1的各维度对第二张量进行张量降维处理，得到第二目标张量。

在确定第二目标张量之前，判断第二张量是否需要降维处理，若需要则通过张量处理硬件单元组基于张量降维(Squeeze)硬件操作对第二张量进行降维处理，并将降维后的第二目标张量作为第二目标张量。

可选的，标记第二张量在最高维至最低维方向上首个维度尺寸不为1的维度作为起始维度，判断维度尺寸为1的各个维度是否均高于起始维度，若是，则去掉第二张量中维度尺寸为1的各个维度，实现对第二张量的张量降维处理，得到第二目标张量。

例如，第二张量的形状为1,1,1,8,9,7，则可以将第二张量进行张量降维处理，降维处理后第二张量的形状为8,9,7。

在一种可选的实施方式中，若第一张量的维数大于第二张量的维数，则在最高维度处将第二张量维数补齐至与第一张量的维数相等；通过张量处理硬件单元组，根据第二张量补齐后的维度对第二张量进行张量重组处理。

在获取到第一张量和第二张量后，如果二者的维数不相等，可以将维数较小的一个张量的维数进行补齐处理，也即将在最高维度处将第二张量维数补齐至与第一张量的维数相等，然后通过张量处理硬件单元组根据第二张量补齐后的维度基于张量重组(Reshape)硬件操作对第二张量进行张量重组处理。

例如，第一张量的形状为6,7,8,9,1,6，第二张量的形状为8,9,7,1，则第一张量的维数为6，第二张量的维数为4，二者的维数不相等，可以在最高维度处将第二张量维数补齐至与第一张量的维数相等，也即将第二张量的形状调整为1,1,8,9,7,1，并根据的调整后的第二张量的形状对第二张量进行张量重组处理。

在本实施方式中，将第一张量和第二张量的维数调整至一致，降低了张量处理硬件单元组对两个张量进行处理时的复杂性。

需要指出的是，第二张量的张量降维处理可能是由张量本身的形状引起的，例如第二张量的形状为1,8,9,7，也可能是由于张量补齐操作引起的，例如通过张量维数补齐操作将第二张量的形状由8,9,7调整至1,1,8,9,7，也可能是由于张量轴移操作引起的，例如由于张量轴移操作将第二张量的形状由8,9,7,1调整至1,8,9,7。

S130、通过通用计算硬件单元组，采用广播机制对第一目标张量和第二目标张量进行张量计算，得到张量计算备选结果。

通用计算硬件单元组，指的是通用的张量计算硬件单元的组合，并非支持广播计算的专用底层硬件，且通用计算硬件单元组只支持后缘维度的轴长度相符的张量间的广播操作。也即，通用计算硬件单元组只支持一种形式的广播操作，该形式的广播操作也就是后缘维度的轴长度相符的张量间的广播操作。

针对后缘维度的轴长度相符的第一目标张量和第二目标张量，可以通过通用计算硬件单元组采用广播机制进行张量计算，得到张量计算备选结果。

通用计算硬件单元组可以根据张量计算指令进行相应的计算处理，其中，通过通用计算硬件单元组，采用广播机制对第一目标张量和第二目标张量进行张量计算包括下述至少一种：张量加计算、张量乘计算和元素间逻辑计算。其中，所述元素间逻辑计算至少包括：逻辑与、逻辑或、求最大值、求最小值、求幂、大于、大于等于、小于、小于等于、不等。

可选的，通用计算硬件单元组的硬件操作可以包括通用加算子硬件操作，通用乘算子硬件操作，通用元素间(element_wise)逻辑计算算子硬件操作。

由于通用加算子、通用乘算子支持广播操作，减法可以由通用加算子得到，除法可以由通用乘算子以及倒数组合而成，这样即可支持加减乘除的广播操作，而逻辑与，逻辑或，maximum，minmum，pow，大于，大于等于，小于，小于等于，不相等这些算子均可以由基本的加减乘除以及相应的element_wise算子组合而成，从而实现了这些算子的广播计算，也即不需要每个算子都单独硬件实现各自的广播操作，以此节省了硬件资源，并可以广泛地实现所有形式的广播操作。

S140、根据张量计算备选结果，确定与第一张量和第二张量对应的目标计算结果。

判断是否需要对张量计算备选结果进行调整，具体可以根据张量处理硬件单元组对第一张量、第二张量的处理流程判断是否需要对张量计算备选结果进行调整。若不需要进行调，则将张量计算备选结果作为与第一张量和第二张量对应的目标计算结果，若需要调整，则对张量计算备选结果进行调整，并将调整后的结果作为与第一张量和第二张量对应的目标计算结果。

其中，如果在通过通用计算硬件单元组采用广播机制对第一目标张量和第二目标张量进行张量计算之前，对第一张量和第二张量进行了轴移操作，则需要对张量计算备选结果进行匹配的反轴移操作，并将反轴移操作后的结果作为与第一张量和第二张量对应的目标计算结果。如果在通过通用计算硬件单元组采用广播机制对第一目标张量和第二目标张量进行张量计算之前，未对第一张量和第二张量进行轴移操作，则不需要对张量计算备选结果进行调整，并将张量计算备选结果直接作为与第一张量和第二张量对应的目标计算结果。

本发明实施例的技术方案中，在第一张量和第二张量满足广播机制条件时，首先确定与第一张量和第二张量分别对应的第一目标张量和第二目标张量，第一目标张量和第二目标张量的后缘维度的轴长度相符，其次通过通用计算硬件单元组采用广播机制对第一目标张量和第二目标张量进行张量计算，得到张量计算备选结果，再根据张量计算备选结果确定与第一张量和第二张量对应的目标计算结果。在上述技术方案中，由于在进行张量间广播计算之前对张量进行处理，使张量的后缘维度的轴长度相符，进而采用只支持后缘维度的轴长度相符的张量间的广播操作的通用计算硬件单元组，就能够全面支持第一张量和第二张量之间所有形式的广播操作，也即通过支持广播操作的基本硬件实现了对形式更为广泛的广播操作的支持，实现了在无支持广播计算的专用底层硬件时全面支持广播机制中所有形式的广播操作。

实施例二

图2为本发明实施例二提供的一种基于广播机制进行张量计算的方法的流程图，本实施例在前述实施例的基础上进行具体化，其中，根据第一张量和第二张量中对应维度的维度尺寸，获取满足张量轴移条件的至少一个第一维度，可以具体为：

以第二张量的最高维度为起点，在第二张量中获取维度尺寸不为1的首个维度作为起始维度；

在所述起始维度至最低维度的范围内，比较第一张量和第二张量对应维度的维度尺寸，依次记录维度尺寸不相等且第二张量的维度尺寸为1的第一维度；

相应的，通过张量处理硬件单元组，根据第一维度对第一张量和第二张量进行张量轴移处理，可以具体为：

通过张量处理硬件单元组，按照记录顺序将第一张量和第二张量中的各第一维度依次轴移到所述起始维度所在位置。

进一步的，根据张量计算备选结果，确定与第一张量和第二张量对应的目标计算结果，可以具体为：

通过张量处理硬件单元组，按照与所述张量轴移处理匹配的逆处理过程，对张量计算备选结果进行处理，得到所述目标计算结果。

如图2所示，本实施例提供的基于广播机制进行张量计算的方法，包括：

S210、获取第一张量和第二张量，第一张量的维数大于等于第二张量的维数。

在本实施例中，假设第一张量和第二张量的后缘维度的轴长度不相符。

S220、在第一张量和第二张量满足广播机制条件时，若第一张量的维数大于第二张量的维数，则在最高维度处将第二张量维数补齐至与第一张量的维数相等，并通过张量处理硬件单元组，根据第二张量补齐后的维度对第二张量进行张量重组处理。

假设，本实施例中获取的第一张量的形状X.shape为6,7,8,9,7,6，第二张量的形状Y.shape为8,9,7,1，此时第一张量和第二张量满足广播机制条件，且第一张量的维数大于第二张量的维数，故可以将第二张量的形状Y.shape调整为1,1,8,9,7,1，并通过张量处理硬件单元组根据第二张量补齐后的维度对第二张量进行张量重组处理。

S230、若只存在满足张量轴移条件的至少一个第一维度，则以第二张量的最高维度为起点，在第二张量中获取维度尺寸不为1的首个维度作为起始维度，则在所述起始维度至最低维度的范围内，比较第一张量和第二张量对应维度的维度尺寸，依次记录维度尺寸不相等且第二张量的维度尺寸为1的第一维度。

其中，第二张量的最高维度的维度索引为-6维，最低维度的维度索引为-1维，在第二张量中维度尺寸不为1的首个维度的维度索引为-4维，也即起始维度的维度索引为-4维。

在i＝-1～-4的范围内，针对任意一个i值，比较X.shape[i]与Y.shape[i]，若X.shape[i]与Y.shape[i]不相等，且Y.shape[i]等于1，则将第i维作为第一维度，并将确定的第一维度进行记录。在本实施例中，第一维度为-1维。

可选的，当确定的第一维度有多个时，则需要依次对各个第一维度进行记录。

可选的，可以将第一维度通过维度索引(也即轴索引)的形式进行记录。

S240、通过张量处理硬件单元组，按照记录顺序将第一张量和第二张量中的各第一维度依次轴移到所述起始维度所在位置，得到第一目标张量和第二目标张量。

通过张量处理硬件单元组，基于张量转置(Transpose)硬件操作将第一张量和第二张量中的各第一维度依次轴移到所述起始维度所在位置，在本实施例中即将第一张量和第二张量中的-1维轴移到-4维所在位置，其余维度顺序后移。此时，第一张量的形状X.shape调整为6,7,6,8,9,7，第二张量的形状Y.shape调整为1,1,1,8,9,7，也即第一目标张量的形状为6,7,6,8,9,7，第二目标张量的形状为1,1,1,8,9,7，此时第一目标张量和第二目标张量的后缘维度的轴长度相符。

也即，通过张量处理硬件单元组按照记录顺序将第一张量和第二张量中的各第一维度依次轴移到所述起始维度所在位置后，处理后的第二张量中维度尺寸为1的各个维度相邻排布且位于张量的最高维，如处理后的第二张量的形状为1,1,1,8,9,7。

如果第一维度有多个时，则按照记录顺序依次将每个第一维度轴移到所述起始维度所在位置。示例性的，第一张量的形状X.shape为5,6,7,8,9,6，第二张量的形状Y.shape为1,1,7,8,1,1，则起始维度为-4维，记录的第一维度为-1维、-2维，则先将第一张量和第二张量中的-1维轴移到-4维所在位置，其余维度顺序后移，此时第一张量的形状X.shape调整为5,6,6,7,8,9，第二张量的形状Y.shape调整为1,1,1,7,8,1。若以维度索引的形式记录满足张量轴移条件的第一维度，随着一次轴移操作，未进行轴移的第一维度的维度索引可能已被更新，故在进行下一次维度轴移之前，可以首先对记录的未进行轴移的第一维度的维度索引进行更新。在本示例中，记录的未进行轴移的第一维度的维度索引由-2更新为-1，故再将第一张量和第二张量中维度索引为-1维的维度轴移到维度索引为-4维的维度所在位置，其余维度顺序后移，此时第一张量的形状X.shape调整为5,6,9,6,7,8，第二张量的形状Y.shape调整为1,1,1,1,7,8。

在一种可选的实施方式中，依次记录维度尺寸不相等且第二张量的维度尺寸为1的第一维度，可以具体为：在轴移列表中依次记录各所述第一维度。

相应的，通过张量处理硬件单元组，按照记录顺序将第一张量和第二张量中的各第一维度依次轴移到所述起始维度所在位置，可以包括：通过张量处理硬件单元组，按照轴移列表中记录顺序将第一张量和第二张量中的各第一维度依次轴移到所述起始维度所在位置。

在本实施方式中，通过轴移列表记录确定的满足张量轴移条件的第一维度，进而在对第一张量和第二张量进行轴移操作时，可以查询轴移列表确定记录的各所述第一维度以及其记录顺序，通过张量处理硬件单元组，按照轴移列表中第一维度记录顺序将第一张量和第二张量中的各第一维度依次轴移到所述起始维度所在位置。

值得指出的是，在轴移列表记录的第一维度的维度索引有多个时，每针对一个第一维度进行轴移操作后，都需要对轴移列表记录的第一维度的维度索引进行更新。

S250、通过通用计算硬件单元组，采用广播机制对第一目标张量和第二目标张量进行张量计算，得到张量计算备选结果。

S260、通过张量处理硬件单元组，按照与所述张量轴移处理匹配的逆处理过程，对张量计算备选结果进行处理，得到所述目标计算结果。

与所述张量轴移处理匹配的逆处理过程，指的是与轴移处理匹配的反向轴移过程，其中，反向轴移操作时所依据的第一维度的顺序与轴移操作是所依据的第一维度的顺序是呈逆序的。

按照与所述张量轴移处理匹配的逆处理过程，对张量计算备选结果进行处理，目的在于将张量计算备选结果的形状进行还原，使得到的目标计算结果的形状与获取的第一张量的形状匹配。

相应的，通过张量处理硬件单元组，按照与所述张量轴移处理匹配的逆处理过程，对张量计算备选结果进行处理，得到所述目标计算结果，可以具体为：

通过张量处理硬件单元组，按照第一维度记录顺序的逆序，将张量计算备选结果中所述起始维度依次轴移到各所述第一维度，得到与第一张量和第二张量对应的目标计算结果。

需要注意的是，若以维度索引的形式记录满足张量轴移条件的第一维度，则第一维度记录顺序的逆序，指的是当前第一维度记录顺序的逆序，也即最后一次更新后的第一维度记录顺序的逆序。

接续前例，在起始维度的维度索引为-4维，记录的第一维度的维度索引为-1维时，将张量计算备选结果中维度索引为-4维的维度轴移到维度索引为-1维的维度位置，其余维度顺序前移，得到目标计算结果。

接续前例，在起始维度的维度索引为-4维，最初记录的第一维度的维度索引为-1维、-2维时，最后一次更新后记录的第一维度维度索引为-1维、-1维，此时第一维度记录顺序的逆序也即-1维、-1维，故先将张量计算备选结果中维度索引为-4维的维度轴移到维度索引为-1维的维度的位置，其余维度顺序前移，再将张量计算备选结果中维度索引为-4维的维度轴移到维度索引为-1维的位置，其余维度顺序前移，得到目标计算结果。

可选的，通过张量处理硬件单元组，按照轴移列表中各所述第一维度记录顺序的逆序，将张量计算备选结果中所述起始维度依次轴移到各所述第一维度，得到与第一张量和第二张量对应的目标计算结果。

作为一种可选的实施方式，可以根据轴移列表生成反向轴移列表，其中，反向轴移列表和轴移列表中第一维度的记录顺序呈逆序。

需要指出的是，若轴移列表中维度索引存在更新，则根据最后一次更新后的轴移列表生成反向轴移列表。

相应的，通过张量处理硬件单元组，按照与所述张量轴移处理匹配的逆处理过程，对张量计算备选结果进行处理，得到所述目标计算结果，可以具体为：通过张量处理硬件单元组，按照反向轴移列表中第一维度的记录顺序，将张量计算备选结果中所述起始维度依次轴移到各所述第一维度。

在本实施方式中，判断是否需要对张量计算备选结果进行处理时，可以查询反向轴移列表是否为空，若反向轴移列表为空，则无需对张量计算备选结果进行处理，直接将张量计算备选结果作为目标计算结果即可，若反向轴移列表不为空，则可以按照反向轴移列表中第一维度的记录顺序，将张量计算备选结果中所述起始维度依次轴移到各所述第一维度，以得到目标计算结果。

关于将记录的第一张量和第二张量中的各第一维度进行轴移处理，也即将各第一维度轴移到起始维度所在位置(也即轴移到首个维度尺寸非1的维度位置)，以及按照与张量轴移处理匹配的逆处理过程，对张量计算备选结果进行处理，也即将张量计算备选结果中起始维度依次轴移到各所述第一维度，还可以通过其他的轴移方式以及匹配的反向轴移方式进行处理，例如可以是根据维度互换的方式来实现，本实施例对此不作具体限定。

本实施例未尽详细解释之处请参见前述实施例，在此不再赘述。

实施例三

图3为本发明实施例三提供的一种基于广播机制进行张量计算的方法的流程图，本实施例在前述实施例的基础上进行具体化，其中，根据第一张量和第二张量中对应维度的维度尺寸，获取满足张量拼接条件的至少一个第二维度，可以具体为：比较第一张量和第二张量对应维度的维度尺寸，获取维度尺寸不相等且第一张量的维度尺寸为1的第二维度；

相应的，通过张量处理硬件单元组，对第一张量的第二维度进行与第二张量匹配的张量拼接处理，可以具体为：通过张量处理硬件单元组，对第一张量的第二维度进行张量拼接处理至与第二张量相等。

S310、获取第一张量和第二张量，第一张量的维数大于等于第二张量的维数。

第一张量和第二张量的后缘维度的轴长度不相符。

S320、在第一张量和第二张量满足广播机制条件时，若第一张量的维数大于第二张量的维数，则在最高维度处将第二张量维数补齐至与第一张量的维数相等，并通过张量处理硬件单元组，根据第二张量补齐后的维度对第二张量进行张量重组处理。

假设，第一张量的形状X.shape为6,7,8,9,1,6，第二张量的形状Y.shape为8,9,7,6，则第一张量和第二张量满足广播机制条件，且第一张量的维数大于第二张量的维数，将第二张量的形状Y.shape调整为1,1,8,9,7,6。根据第二张量补齐后的维度对第二张量进行张量重组处理。

S330、若只存在满足张量拼接条件的至少一个第二维度，则比较第一张量和第二张量对应维度的维度尺寸，获取维度尺寸不相等且第一张量的维度尺寸为1的第二维度。

记录第二张量的维数为min_len，在维度i＝-1～-min_len范围内逐一对比X.shape[i]和Y.shape[i]。针对任意一个i，若X.shape[i]和Y.shape[i]不相等且X.shape[i]等于1，则i维即为第二维度。在本实施例中，第二维度为-2维。

S340、通过张量处理硬件单元组，对第一张量的第二维度进行张量拼接处理至与第二张量相等，得到第一目标张量，并将第二目标张量作为第二张量。

通过张量处理硬件单元组，基于张量拼接(Concate)硬件操作对第一张量的第二维度进行张量拼接处理至与第二张量相等，此时第一张量的形状X.shape调整为6,7,8,9,7,6。

可选的，当确定的第二维度有多个时，则依次针对第一张量的各个第二维度进行张量拼接处理。

S350、通过通用计算硬件单元组，采用广播机制对第一目标张量和第二目标张量进行张量计算，得到张量计算备选结果。

S360、根据张量计算备选结果，确定与第一张量和第二张量对应的目标计算结果。

在本实施例中，由于未对第一张量和第二张量进行轴移操作，则无需对张量计算备选结果进行处理，得到的张量计算备选结果即为与第一张量和第二张量对应的目标计算结果。

本实施例未尽详细解释之处请参见前述实施例，在此不再赘述。

实施例四

图4为本发明实施例四提供的一种基于广播机制进行张量计算的方法的流程图，本实施例在前述实施例的基础上提供了一种具体的示例。

如图4所示，本实施例提供的基于广播机制进行张量计算的方法，包括：

S410、获取第一张量和第二张量，第一张量的维数大于等于第二张量的维数。

第一张量和第二张量的后缘维度的轴长度不相符。

S420、在第一张量和第二张量满足广播机制条件时，若第一张量的维数大于第二张量的维数，则在最高维度处将第二张量维数补齐至与第一张量的维数相等，并通过张量处理硬件单元组，根据第二张量补齐后的维度对第二张量进行张量重组处理。

假设，第一张量的形状X.shape为6,7,8,9,1,6，第二张量的形状Y.shape为8,9,7,1，则第一张量和第二张量满足广播机制条件，且第一张量的维数大于第二张量的维数，将第二张量的形状Y.shape调整为1,1,8,9,7,1。根据第二张量补齐后的维度对第二张量进行张量重组处理。

S430、若存在满足张量拼接条件的至少一个第二维度，则比较第一张量和第二张量对应维度的维度尺寸，获取维度尺寸不相等且第一张量的维度尺寸为1的第二维度。

S440、通过张量处理硬件单元组，对第一张量的第二维度进行张量拼接处理至与第二张量相等。

在本实施例中，第二维度为-2维。通过张量处理硬件单元组，基于张量拼接(Concate)硬件操作对第一张量的第二维度进行张量拼接处理至与第二张量相等，此时第一张量的形状X.shape为6,7,8,9,7,6。

S450、若存在满足张量轴移条件的至少一个第一维度，则以第二张量的最高维度为起点，在第二张量中获取维度尺寸不为1的首个维度作为起始维度，则在所述起始维度至最低维度的范围内，比较第一张量和第二张量对应维度的维度尺寸，依次记录维度尺寸不相等且第二张量的维度尺寸为1的第一维度。

S460、通过张量处理硬件单元组，按照记录顺序将第一张量和第二张量中的各第一维度依次轴移到所述起始维度所在位置。

在本实施例中，第一维度为-1维，起始维度为-4维。通过张量处理硬件单元组，按照将第一张量和第二张量中的第一维度轴移到起始维度所在位置，此时，第一张量的形状X.shape为6,7,6,8,9,7，第二张量的形状Y.shape为1,1,1,8,9,7。

S470、若第二张量中维度尺寸为1的各维度均高于任意一个维度尺寸不为1的维度，则通过张量处理硬件单元组根据维度尺寸为1的各维度对第二张量进行张量降维处理。

此时，第二张量的形状Y.shape为8,9,7。

S480、将当前的第一张量、第二张量分别作为第一目标张量、第二目标张量，通过通用计算硬件单元组，采用广播机制对第一目标张量和第二目标张量进行张量乘计算，得到张量计算备选结果。

S490、通过张量处理硬件单元组，按照第一维度记录顺序的逆序，将张量计算备选结果中所述起始维度依次轴移到各所述第一维度，得到与第一张量和第二张量对应的目标计算结果。

在本实施例中，第一维度为-1维，起始维度为-4维，将张量计算备选结果中-4维轴移到-1维即可得到与第一张量和第二张量对应的目标计算结果。

本实施例未尽详细解释之处请参见前述实施例，在此不再赘述。

在上述技术方案中，通过concate拼接、transpose轴移、squeeze降维、broad_mul、untranspose反向轴移等硬件操作，实现了形状为(6,7,8,9,1,6)的第一张量和形状为(8,9,7,1)的第二张量之间的广播乘操作。

实施例五

图5为本发明实施例五提供的一种基于广播机制进行张量计算的方法的流程图，本实施例在前述实施例的基础上提供了一种具体的实施方式。

如图5所示，本实施例提供的基于广播机制进行张量计算的方法，包括：

S510、获取第一张量和第二张量，第一张量的维数大于等于第二张量的维数，第一张量和第二张量的后缘维度的轴长度不相符。

S520、判断第一张量和第二张量是否满足广播机制条件，若否，则执行S530，若是，则执行S540。

S530、结束张量计算流程。

S540、判断第一张量和第二张量是否维数相等，若否，则执行S550，若是，则执行S560。

S550、在最高维度处将第二张量维数补齐至与第一张量的维数相等，通过张量处理硬件单元组，根据第二张量补齐后的维度对第二张量进行张量重组处理，执行S560。

S560、比较第一张量和第二张量对应维度的维度尺寸，判断是否存在维度尺寸不相等且第一张量的维度尺寸为1的第二维度，若是，则执行S570，若否，则执行S580。

S570、通过张量处理硬件单元组，对第一张量的第二维度进行张量拼接处理至与第二张量相等，执行S580。

S580、以第二张量的最高维度为起点，在第二张量中获取维度尺寸不为1的首个维度作为起始维度，在所述起始维度至最低维度的范围内，比较第一张量和第二张量对应维度的维度尺寸。

S590、判断是否存在维度尺寸不相等且第二张量的维度尺寸为1的第一维度，若是，则执行S5100，若否，则执行S5120。

S5100、依次记录维度尺寸不相等且第二张量的维度尺寸为1的第一维度至轴移列表中，并根据轴移列表更新反向轴移列表。

S51110、通过张量处理硬件单元组，按照轴移列表中记录顺序将第一张量和第二张量中的各第一维度依次轴移到所述起始维度所在位置。

S5120、判断第二张量中是否存在维度尺寸为1的维度，若是，则执行S5130，若否，则S5140。

S5130、通过张量处理硬件单元组根据维度尺寸为1的各维度对第二张量进行张量降维处理。

S5140、将当前的第一张量、第二张量分别作为第一目标张量、第二目标张量，通过通用计算硬件单元组，采用广播机制对第一目标张量和第二目标张量进行张量乘计算，得到张量计算备选结果。

S5150、在反向轴移列表非空时，通过张量处理硬件单元组，按照反向轴移列表中第一维度记录顺序将张量计算备选结果中所述起始维度依次轴移到各所述第一维度，得到与第一张量和第二张量对应的目标计算结果。

本实施例未尽详细解释之处请参见前述实施例，在此不再赘述。

在上述技术方案中，通过广播加、广播乘、元素间逻辑计算、张量转置、张量重组、张量降维、张量拼接等硬件操作的组合以及相应的软件控制，即可以支持广播机制中的所有形式的广播操作以及加减乘除、逻辑与、逻辑或、maximum、minmum、pow、大于、大于等于、小于、小于等于、不相等这些算子的广播操作。

实施例六

图6为本发明实施例六提供的一种基于广播机制进行张量计算的装置的结构示意图，本实施例可适用于支持广播计算的底层硬件配置较低时全面支持广播机制中所有形式的广播操作的情况，该装置可采用软件和/或硬件的方式实现，并一般可集成在芯片中。如图6所示，该装置包括：张量获取模块610、张量处理模块620、张量计算模块630和计算结果确定模块640。其中，

张量获取模块610，用于获取第一张量和第二张量，第一张量的维数大于或等于第二张量的维数；

张量处理模块620，用于判断第一张量和第二张量是否满足广播机制条件，若满足，则确定与第一张量和第二张量对应的第一目标张量和第二目标张量，第一目标张量和第二目标张量的后缘维度的轴长度相符；

张量计算模块630，用于通过通用计算硬件单元组，采用广播机制对第一目标张量和第二目标张量进行张量计算，得到张量计算备选结果；

计算结果确定模块640，用于根据张量计算备选结果，确定与第一张量和第二张量对应的目标计算结果。

本发明实施例的技术方案中，在第一张量和第二张量满足广播机制条件时，首先确定与第一张量和第二张量分别对应的第一目标张量和第二目标张量，第一目标张量和第二目标张量的后缘维度的轴长度相符，其次通过通用计算硬件单元组采用广播机制对第一目标张量和第二目标张量进行张量计算，得到张量计算备选结果，再根据张量计算备选结果确定与第一张量和第二张量对应的目标计算结果。在上述技术方案中，由于在进行张量间广播计算之前对张量进行处理，使张量的后缘维度的轴长度相符，进而采用只支持后缘维度的轴长度相符的张量间的广播操作的通用计算硬件单元组，就能够全面支持第一张量和第二张量之间所有形式的广播操作，也即通过支持广播操作的基本硬件实现了对形式更为广泛的广播操作的支持，实现了在无支持广播计算的专用底层硬件时全面支持广播机制中所有形式的广播操作。

可选的，第一张量和第二张量的后缘维度的轴长度不相符；张量处理模块620，具体用于通过张量处理硬件单元组对第一张量和/或第二张量进行处理，得到第一目标张量和第二目标张量。

可选的，张量处理模块620，具体用于根据第一张量和第二张量中对应维度的维度尺寸，获取满足张量轴移条件的至少一个第一维度，和/或满足张量拼接条件的至少一个第二维度；通过张量处理硬件单元组，根据第一维度对第一张量和第二张量进行张量轴移处理，和/或对第一张量的第二维度进行与第二张量匹配的张量拼接处理，得到第一目标张量和第二目标张量。

可选的，张量处理模块620，具体用于以第二张量的最高维度为起点，在第二张量中获取维度尺寸不为1的首个维度作为起始维度；在所述起始维度至最低维度的范围内，比较第一张量和第二张量对应维度的维度尺寸，依次记录维度尺寸不相等且第二张量的维度尺寸为1的第一维度；通过张量处理硬件单元组，按照记录顺序将第一张量和第二张量中的各第一维度依次轴移到所述起始维度所在位置。

可选的，计算结果确定模块640，具体用于通过张量处理硬件单元组，按照与所述张量轴移处理匹配的逆处理过程，对张量计算备选结果进行处理，得到所述目标计算结果。

可选的，张量处理模块620，具体用于在轴移列表中依次记录各所述第一维度；通过张量处理硬件单元组，按照轴移列表中记录顺序将第一张量和第二张量中的各第一维度依次轴移到所述起始维度所在位置。

进一步的，计算结果确定模块640，具体用于通过张量处理硬件单元组，按照第一维度记录顺序的逆序，将张量计算备选结果中所述起始维度依次轴移到各所述第一维度。

进一步的，计算结果确定模块640，具体用于通过张量处理硬件单元组，按照反向轴移列表中第一维度的记录顺序，将张量计算备选结果中所述起始维度依次轴移到各所述第一维度；其中，反向轴移列表和轴移列表中第一维度的记录顺序呈逆序。

可选的，张量处理模块620，具体用于比较第一张量和第二张量对应维度的维度尺寸，获取维度尺寸不相等且第一张量的维度尺寸为1的第二维度；通过张量处理硬件单元组，对第一张量的第二维度进行张量拼接处理至与第二张量相等。

可选的，张量处理模块620，具体用于若第二张量中维度尺寸为1的各维度均高于任意一个维度尺寸不为1的维度，则通过张量处理硬件单元组根据维度尺寸为1的各维度对第二张量进行张量降维处理，得到第二目标张量。

可选的，张量处理模块620，具体用于若第一张量的维数大于第二张量的维数，则在最高维度处将第二张量维数补齐至与第一张量的维数相等；通过张量处理硬件单元组，根据第二张量补齐后的维度对第二张量进行张量重组处理。

可选的，张量处理模块620，具体用于比较第一张量和第二张量对应维度的维度尺寸；若任意维度上维度尺寸不相等且均不为1，则确定第一张量和第二张量不满足广播机制条件，结束张量计算流程；否则，确定第一张量和第二张量满足广播机制条件。

可选的，张量计算模块630，具体用于通过通用计算硬件单元组，采用广播机制对第一目标张量和第二目标张量进行张量计算包括下述至少一种：张量加计算、张量乘计算和元素间逻辑计算；其中，所述元素间逻辑计算至少包括：逻辑与、逻辑或、求最大值、求最小值、求幂、大于、大于等于、小于、小于等于、不等。

上述基于广播机制进行张量计算的装置可执行本发明任意实施例所提供的基于广播机制进行张量计算的方法，具备执行的基于广播机制进行张量计算的方法相应的功能模块和有益效果。

实施例七

图7为本发明实施例七提供的一种芯片的硬件结构示意图，如图7所示，该芯片包括：

一个或多个处理器710，图7中以一个处理器710为例；

存储器720；

通用计算硬件单元组730；其中，通用计算硬件单元组730，用于采用广播机制对第一目标张量和第二目标张量进行张量计算，得到张量计算备选结果。

所述芯片中的处理器710、存储器720、通用计算硬件单元组730可以通过总线或者其他方式连接，图7中以通过总线连接为例。

存储器720作为一种非暂态计算机可读存储介质，可用于存储软件程序、计算机可执行程序，如本发明实施例中的一种基于广播机制进行张量计算的方法对应的程序指令，包括：

获取第一张量和第二张量，第一张量的维数大于或等于第二张量的维数；

判断第一张量和第二张量是否满足广播机制条件，若满足，则确定与第一张量和第二张量分别对应的第一目标张量和第二目标张量，第一目标张量和第二目标张量的后缘维度的轴长度相符；

通过通用计算硬件单元组，采用广播机制对第一目标张量和第二目标张量进行张量计算，得到张量计算备选结果；

根据张量计算备选结果，确定与第一张量和第二张量对应的目标计算结果。

处理器710通过运行存储在存储器720中的软件程序指令，从而执行芯片的各种功能应用以及数据处理，即实现上述方法任意实施例中的一种基于广播机制进行张量计算的方法。

存储器720可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据芯片的使用所创建的数据等。此外，存储器720可以包括高速随机存取存储器，还可以包括非暂态性存储器，例如至少一个磁盘存储器件、闪存器件、或其他非暂态性固态存储器件。

实施例八

本发明实施例八还提供一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由处理器执行时用于执行一种基于广播机制进行张量计算的方法，该方法包括：

获取第一张量和第二张量，第一张量的维数大于或等于第二张量的维数；

判断第一张量和第二张量是否满足广播机制条件，若满足，则确定与第一张量和第二张量分别对应的第一目标张量和第二目标张量，第一目标张量和第二目标张量的后缘维度的轴长度相符；

通过通用计算硬件单元组，采用广播机制对第一目标张量和第二目标张量进行张量计算，得到张量计算备选结果；

根据张量计算备选结果，确定与第一张量和第二张量对应的目标计算结果。

可选的，该计算机可执行指令在由处理器执行时还可以用于执行本发明任意实施例所提供的一种基于广播机制进行张量计算的方法的技术方案。

通过以上关于实施方式的描述，所属领域的技术人员可以清楚地了解到，本发明可借助软件及必需的通用硬件来实现，当然也可以通过硬件实现，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如计算机的软盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(RandomAccess Memory,RAM)、闪存(FLASH)、硬盘或光盘等，包括若干指令用以使得芯片执行本发明各个实施例所述的方法。

值得注意的是，上述基于广播机制进行张量计算的装置的实施例中，所包括的各个单元和模块只是按照功能逻辑进行划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本发明的保护范围。

注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。

Claims (14)

1.一种基于广播机制进行张量计算的方法，其特征在于，包括：

获取第一张量和第二张量，第一张量的维数大于或等于第二张量的维数；

判断第一张量和第二张量是否满足广播机制条件，若满足，则确定与第一张量和第二张量分别对应的第一目标张量和第二目标张量，第一目标张量和第二目标张量的后缘维度的轴长度相符；

通过通用计算硬件单元组，采用广播机制对第一目标张量和第二目标张量进行张量计算，得到张量计算备选结果；

根据张量计算备选结果，确定与第一张量和第二张量对应的目标计算结果；

所述确定与第一张量和第二张量分别对应的第一目标张量和第二目标张量，包括：根据第一张量和第二张量中对应维度的维度尺寸，获取满足张量轴移条件的至少一个第一维度，和/或满足张量拼接条件的至少一个第二维度，其中，第一张量和第二张量的后缘维度的轴长度不相符；通过张量处理硬件单元组，根据第一维度对第一张量和第二张量进行张量轴移处理，和/或对第一张量的第二维度进行与第二张量匹配的张量拼接处理，得到第一目标张量和第二目标张量；

所述根据第一张量和第二张量中对应维度的维度尺寸，获取满足张量轴移条件的至少一个第一维度，包括：以第二张量的最高维度为起点，在第二张量中获取维度尺寸不为1的首个维度作为起始维度；在所述起始维度至最低维度的范围内，比较第一张量和第二张量对应维度的维度尺寸，依次记录维度尺寸不相等且第二张量的维度尺寸为1的第一维度；

所述通过张量处理硬件单元组，根据第一维度对第一张量和第二张量进行张量轴移处理，包括：通过张量处理硬件单元组，按照记录顺序将第一张量和第二张量中的各第一维度依次轴移到所述起始维度所在位置。

2.根据权利要求1所述的方法，其特征在于，第一张量和第二张量的后缘维度的轴长度不相符；

确定与第一张量和第二张量分别对应的第一目标张量和第二目标张量，包括：

通过张量处理硬件单元组对第一张量和/或第二张量进行处理，得到第一目标张量和第二目标张量。

3.根据权利要求1所述的方法，其特征在于，根据张量计算备选结果，确定与第一张量和第二张量对应的目标计算结果，包括：

通过张量处理硬件单元组，按照与所述张量轴移处理匹配的逆处理过程，对张量计算备选结果进行处理，得到所述目标计算结果。

4.根据权利要求3所述的方法，其特征在于，依次记录维度尺寸不相等且第二张量的维度尺寸为1的第一维度，包括：

在轴移列表中依次记录各所述第一维度；

通过张量处理硬件单元组，按照记录顺序将第一张量和第二张量中的各第一维度依次轴移到所述起始维度所在位置，包括：

通过张量处理硬件单元组，按照轴移列表中记录顺序将第一张量和第二张量中的各第一维度依次轴移到所述起始维度所在位置。

5.根据权利要求4所述的方法，其特征在于，通过张量处理硬件单元组，按照与所述张量轴移处理匹配的逆处理过程，对张量计算备选结果进行处理，得到所述目标计算结果，包括：

通过张量处理硬件单元组，按照第一维度记录顺序的逆序，将张量计算备选结果中所述起始维度依次轴移到各所述第一维度。

6.根据权利要求4所述的方法，其特征在于，通过张量处理硬件单元组，按照与所述张量轴移处理匹配的逆处理过程，对张量计算备选结果进行处理，得到所述目标计算结果，包括：

通过张量处理硬件单元组，按照反向轴移列表中第一维度的记录顺序，将张量计算备选结果中所述起始维度依次轴移到各所述第一维度；

其中，反向轴移列表和轴移列表中第一维度的记录顺序呈逆序。

7.根据权利要求1所述的方法，其特征在于，根据第一张量和第二张量中对应维度的维度尺寸，获取满足张量拼接条件的至少一个第二维度，包括：

比较第一张量和第二张量对应维度的维度尺寸，获取维度尺寸不相等且第一张量的维度尺寸为1的第二维度；

通过张量处理硬件单元组，对第一张量的第二维度进行与第二张量匹配的张量拼接处理，包括：

通过张量处理硬件单元组，对第一张量的第二维度进行张量拼接处理至与第二张量相等。

8.根据权利要求2所述的方法，其特征在于，通过张量处理硬件单元组对第二张量进行处理，得到第二目标张量，包括：

若第二张量中维度尺寸为1的各维度均高于任意一个维度尺寸不为1的维度，则通过张量处理硬件单元组根据维度尺寸为1的各维度对第二张量进行张量降维处理，得到第二目标张量。

9.根据权利要求8所述的方法，其特征在于，还包括：

若第一张量的维数大于第二张量的维数，则在最高维度处将第二张量维数补齐至与第一张量的维数相等；

通过张量处理硬件单元组，根据第二张量补齐后的维度对第二张量进行张量重组处理。

10.根据权利要求1-9任一项所述的方法，其特征在于，判断第一张量和第二张量是否满足广播机制条件，包括：

比较第一张量和第二张量对应维度的维度尺寸；

若任意维度上维度尺寸不相等且均不为1，则确定第一张量和第二张量不满足广播机制条件，结束张量计算流程；

否则，确定第一张量和第二张量满足广播机制条件。

11.根据权利要求1-9任一项所述的方法，其特征在于，通过通用计算硬件单元组，采用广播机制对第一目标张量和第二目标张量进行张量计算包括下述至少一种：

张量加计算、张量乘计算和元素间逻辑计算；其中，所述元素间逻辑计算至少包括：

逻辑与、逻辑或、求最大值、求最小值、求幂、大于、大于等于、小于、小于等于、不等。

12.一种基于广播机制进行张量计算的装置，其特征在于，包括：

张量获取模块，用于获取第一张量和第二张量，第一张量的维数大于或等于第二张量的维数；

张量处理模块，用于判断第一张量和第二张量是否满足广播机制条件，若满足，则确定与第一张量和第二张量对应的第一目标张量和第二目标张量，第一目标张量和第二目标张量的后缘维度的轴长度相符；

张量计算模块，用于通过通用计算硬件单元组，采用广播机制对第一目标张量和第二目标张量进行张量计算，得到张量计算备选结果；

计算结果确定模块，用于根据张量计算备选结果，确定与第一张量和第二张量对应的目标计算结果；

所述确定与第一张量和第二张量分别对应的第一目标张量和第二目标张量，包括：根据第一张量和第二张量中对应维度的维度尺寸，获取满足张量轴移条件的至少一个第一维度，和/或满足张量拼接条件的至少一个第二维度，其中，第一张量和第二张量的后缘维度的轴长度不相符；通过张量处理硬件单元组，根据第一维度对第一张量和第二张量进行张量轴移处理，和/或对第一张量的第二维度进行与第二张量匹配的张量拼接处理，得到第一目标张量和第二目标张量；

所述根据第一张量和第二张量中对应维度的维度尺寸，获取满足张量轴移条件的至少一个第一维度，包括：以第二张量的最高维度为起点，在第二张量中获取维度尺寸不为1的首个维度作为起始维度；在所述起始维度至最低维度的范围内，比较第一张量和第二张量对应维度的维度尺寸，依次记录维度尺寸不相等且第二张量的维度尺寸为1的第一维度；

所述通过张量处理硬件单元组，根据第一维度对第一张量和第二张量进行张量轴移处理，包括：通过张量处理硬件单元组，按照记录顺序将第一张量和第二张量中的各第一维度依次轴移到所述起始维度所在位置。

13.一种芯片，包括：存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，还包括：通用计算硬件单元组，用于采用广播机制对第一目标张量和第二目标张量进行张量计算，得到张量计算备选结果；

所述处理器执行所述程序时实现如权利要求1-11中任一所述的方法。

14.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-11任一所述的方法。