CN111291323B - 一种基于脉动阵列的矩阵乘法处理器及其数据处理方法 - Google Patents

一种基于脉动阵列的矩阵乘法处理器及其数据处理方法 Download PDF

Info

Publication number
CN111291323B
CN111291323B CN202010095448.1A CN202010095448A CN111291323B CN 111291323 B CN111291323 B CN 111291323B CN 202010095448 A CN202010095448 A CN 202010095448A CN 111291323 B CN111291323 B CN 111291323B
Authority
CN
China
Prior art keywords
basic operation
data
row
operation units
weight
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010095448.1A
Other languages
English (en)
Other versions
CN111291323A (zh
Inventor
王中风
徐铭阳
林军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University
Original Assignee
Nanjing University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University filed Critical Nanjing University
Priority to CN202010095448.1A priority Critical patent/CN111291323B/zh
Publication of CN111291323A publication Critical patent/CN111291323A/zh
Application granted granted Critical
Publication of CN111291323B publication Critical patent/CN111291323B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
    • G06F7/38—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
    • G06F7/48—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
    • G06F7/52—Multiplying; Dividing
    • G06F7/523—Multiplying only
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Computational Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Algebra (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • Complex Calculations (AREA)

Abstract

本申请公开了一种基于脉动阵列的矩阵乘法处理器及其数据处理方法，该矩阵乘法处理器包括由多个基本运算单元排布而成脉动阵列，多个权重输入通道以及数据输入通道，脉动阵列中每一列的任意两个相邻基本运算单元之间通过D触发器相连，D触发器用于根据时钟信号进行数据的的存储及传递，权重输入通道以及数据输入通道分别用于按照时钟信号，将权重数据输入至对应行中的每一个基本运算单元以及将激活数据输入至脉动阵列中每一列底端基本运算单元的数据输入接口。当权重数据和激活数据在时钟信号的控制下广播时，无需额外的控制信号，D触发器便可同时进行数据的存储以及传递，有效减少控制信号的数量，降低矩阵乘法处理器的布线复杂度。

Description

一种基于脉动阵列的矩阵乘法处理器及其数据处理方法
技术领域
本申请涉及集成电路及通信技术领域，尤其涉及一种基于脉动阵列的矩阵乘法处理器及其数据处理方法。
背景技术
神经网络模型中通常都包括大量的网络层，每一个网络层都存在权重矩阵与激活矩阵之间的卷积操作，其中权重矩阵中包含大量的权重数据，激活矩阵中包含大量的激活数据。在进行卷积操作时，一般会将卷积操作转化成矩阵乘法，然后使用矩阵乘法处理器进行计算，进而获得卷积操作的结果。
矩阵乘法处理器通常包括多个基本运算单元，这些基本运算单元排布成脉动阵列，多个权重数据和激活数据在时钟信号的控制下广播至脉动阵列中，整个矩阵乘法运算流程通过控制信号控制每一个基本运算单元不断的对接收到的权重数据和激活数据进行乘法累加运算实现。
在脉动阵列中，每行及每列的基本运算单元之间均设置有用于存储及传递中间运算结果的累加寄存器，由于累加寄存器也需要通过控制信号进行控制以执行存储动作，因此矩阵乘法处理器的控制信号包括用来控制累加寄存器的控制信号和控制运算流程的控制信号，由于这些控制信号都是独立分开的，并且每一类控制信号的数量都是比较多且均需单独布线，导致矩阵乘法处理器的布线复杂度高。
发明内容
为了解决矩阵乘法处理器由于控制信号数量较多导致布线复杂度高的技术问题，本申请通过以下实施例公开了一种基于脉动阵列的矩阵乘法处理器及其数据处理方法。
本申请第一方面公开了一种基于脉动阵列的矩阵乘法处理器，包括：
由多个基本运算单元排布而成的脉动阵列，在所述脉动阵列中，每一列的任意两个相邻基本运算单元之间通过D触发器相连，所述D触发器用于根据时钟信号进行数据的的存储及传递；
每一个所述基本运算单元包括一个权重输入接口、一个数据输入接口、一个时钟信号接收接口以及一个控制信号接收接口，所述基本运算单元用于在控制信号的控制下，对接收到的权重数据以及激活数据执行乘法累加运算；
多个权重输入通道，一个所述权重输入通道对应接至所述脉动阵列其中一行所有基本运算单元的权重输入接口，所述权重输入通道用于按照所述时钟信号，将权重数据输入至对应行中的每一个基本运算单元；
多个数据输入通道，用于按照所述时钟信号，将激活数据输入至所述脉动阵列中每一列底端基本运算单元的数据输入接口，所述每一列底端基本运算单元为位于每一列中最后一行的基本运算单元。
可选的，每一个所述基本运算单元还包括一个本级结果输出接口以及一个前级结果输入接口；
其中，所述本级结果输出接口用于输出当前基本运算单元的输出结果，所述前级结果输入接口用于接收前级结果，所述前级结果为位于所述当前基本运算单元同一列前一行的基本运算单元的输出结果；
所述脉动阵列的每一列基本运算单元中，前一行基本运算单元的本级结果输出接口与后一行基本运算单元的前级结果输入接口相连接。
可选的，每一个所述基本运算单元内设置有一个乘法器、一个加法器、一个与门、一个非门、一个累加寄存器以及一个多路选择器；
其中，所述乘法器的输入端分别接至所述权重输入接口以及所述数据输入接口，输出端接至所述加法器的输入端；
所述加法器的输入端还接至所述与门的输出端，输出端接至所述累加寄存器的输入端；
所述非门的输入端接至所述控制信号接收接口，输出端接至所述与门的输入端；
所述累加寄存器的输入端还接至所述时钟信号接收接口，输出端分别接至所述与门的输入端以及所述多路选择器的输入端；
所述多路选择器的输入端还接至所述前级结果输入接口以及所述控制信号接收接口，输出端接至所述本级结果输出接口。
可选的，所述多路选择器为二选一多路选择器；
所述多路选择器用于接收控制信号、所述前级结果以及所述累加寄存器的累加结果，并根据所述控制信号，选择所述前级结果或者所述累加结果作为输出结果，发送至所述本级结果输出接口。
可选的，所述控制信号为1或0；
其中，若所述控制信号为1，则所述多路选择器选择所述累加结果作为所述当前结果；
或者，若所述控制信号为0，则所述多路选择器选择所述前级结果作为所述当前结果。
可选的，所述D触发器通过数据输入接口连接每一列的任意两个相邻基本运算单元。
本申请第二方面公开了一种基于脉动阵列的矩阵乘法处理器的数据处理方法，所述基于脉动阵列的矩阵乘法处理器的数据处理方法应用于本申请第一方面所述的基于脉动阵列的矩阵乘法处理器，所述基于脉动阵列的矩阵乘法处理器的数据处理方法包括：
获取权重矩阵以及激活矩阵，所述权重矩阵包括多个权重数据，所述激活矩阵包括多个激活数据；
根据时钟信号，将所述多个权重数据与所述多个激活数据按照预设规则依次广播至脉动阵列中，同时根据控制信号，控制每个基本运算单元对接收到的权重数据以及激活数据进行乘法累加运算；
根据控制信号，按行输出所述脉动阵列的运算结果。
可选的，所述预设规则包括：
在第一个时钟内，按照行序将所述权重矩阵中每行的第一个权重数据输入至所述脉动阵列对应行的所有基本运算单元中，按照列序将所述激活矩阵中每列的第一个激活数据分别输入至所述脉动阵列最后一行的基本运算单元中；
在第X个时钟内，按照行序将所述权重矩阵中每行的第X个权重数据输入至所述脉动阵列对应行的所有基本运算单元中，通过D触发器将每行基本运算单元中原有的激活数据按照列序传递至前一行基本运算单元中，然后按照列序将所述激活矩阵中每列的第X个激活数据分别输入至所述脉动阵列最后一行的基本运算单元中，其中，X为大于1的自然数。
可选的，所述根据控制信号，按行输出所述脉动阵列的运算结果，包括：
若某一行所有基本运算单元的控制信号皆为1，则输出该行所有基本运算单元的当前结果。
本申请实施例公开了一种基于脉动阵列的矩阵乘法处理器及其数据处理方法，该矩阵乘法处理器包括由多个基本运算单元排布而成脉动阵列、多个权重输入通道以及多个数据输入通道，在所述脉动阵列中，每一列的任意两个相邻基本运算单元之间通过D触发器相连，所述D触发器用于根据时钟信号进行数据的的存储及传递，基本运算单元用于在控制信号的控制下，对接收到的权重数据以及激活数据执行乘法累加运算，所述权重输入通道以及数据输入通道分别用于按照所述时钟信号，将权重数据输入至对应行中的每一个基本运算单元，将激活数据输入至所述脉动阵列中每一列底端基本运算单元的数据输入接口。当权重数据和激活数据在时钟信号的控制下广播至脉动阵列中时，D触发器同时进行数据的存储以及传递，无需额外的控制信号进行控制，有效减少控制信号的数量，降低矩阵乘法处理器的布线复杂度。
附图说明
为了更清楚地说明本申请的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，对于本领域普通技术人员而言，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本申请实施例公开的一种基于脉动阵列的矩阵乘法处理器的结构示意图；
图2为本申请实施例公开的一种基于脉动阵列的矩阵乘法处理器中，基本运算单元的结构示意图；
图3为本申请实施例公开的一种基于脉动阵列的矩阵乘法处理器的数据处理方法的工作流程示意图；
图4为本申请实施例公开的一种基于脉动阵列的矩阵乘法处理器在数据处理过程中数据流的示意图。
具体实施方式
为了解决矩阵乘法处理器由于控制信号数量较多导致布线复杂度高的技术问题，本申请通过以下实施例公开了一种基于脉动阵列的矩阵乘法处理器及其数据处理方法。
参见图1，本申请第一实施例公开的一种基于脉动阵列的矩阵乘法处理器，包括：
由多个基本运算单元(Cell)排布而成的脉动阵列，脉动阵列由N*M个基本运算单元构成，其中,脉动阵列的维度是可以配置的，其行数N可以大于、小于或者等于列数M。在所述脉动阵列中，每一列的任意两个相邻基本运算单元之间通过D触发器相连，所述D触发器用于根据时钟信号进行数据的的存储及传递。在一种实现方式中，所述D触发器通过数据输入接口连接每一列的任意两个相邻基本运算单元。
多个权重输入通道，一个所述权重输入通道对应接至所述脉动阵列其中一行所有基本运算单元的权重输入接口，所述权重输入通道用于按照所述时钟信号，将权重数据(权重数据_1、权重数据_2、权重数据_3、…、权重数据_N)输入至对应行中的每一个基本运算单元。
多个数据输入通道，用于按照所述时钟信号，将激活数据(激活数据_1、激活数据_2、…、激活数据_M)输入至所述脉动阵列中每一列底端基本运算单元的数据输入接口，所述每一列底端基本运算单元为位于每一列中最后一行的基本运算单元。
所述基本运算单元用于在控制信号的控制下，对接收到的权重数据以及激活数据执行乘法累加运算。参见图2，每一个所述基本运算单元包括一个权重输入接口(Weight)、一个数据输入接口(Data)、一个时钟信号接收接口(Clk)、一个控制信号接收接口(Control)、一个本级结果输出接口(Output)以及一个前级结果输入接口(ResultIn)。
其中，权重输入接口(Weight)用于接收神经网络每一层中权重矩阵中的权重数据；数据输入接口(Data)用于接收神经网络第一层的从外部传感器获得的激活数据，或者神经网络隐藏层中上一层的输出数据；时钟信号接收接口(Clk)用于接收固定的时钟信号；控制信号接收接口(Control)用于接收控制信号，所述控制信号由权重矩阵所决定，用于控制基本运算单元工作；本级结果输出接口(Output)用于输出当前基本运算单元(Cell)的运算结果，并将结果输出给同一列下一行的基本运算单元，作为同一列下一行基本运算单元的前级结果输入接口(ResultIn)的输入；前级结果输入接口(ResultIn)用于接收前级结果，所述前级结果为位于所述当前基本运算单元同一列前一行的基本运算单元的输出结果，如果基本运算单元的位置处在整个脉动阵列的第一行时，这个基本运算单元的前级结果输入接口(ResultIn)将直接接地。
所述脉动阵列的每一列基本运算单元中，前一行基本运算单元的本级结果输出接口与后一行基本运算单元的前级结果输入接口相连接。
本申请实施例中，针对矩阵乘法处理器进行布线时，对于任意一行，将一根数据线作为一个权重输入通道从外部连接至这一行的所有基本运算单元上。对于任意一列，将一根数据线作为一个数据输入通道从外部连接至这一列的最底端的基本运算单元上。对于同一列的基本运算单元，通过一个D触发器连接相邻的两个基本运算单元，D触发器分别接至上下两个基本运算单元的数据输入接口(Data)。同时，对应于同一列，通过一根数据线将位于上方的基本运算单元的本级结果输出接口(Output)，连接到相邻下方的基本运算单元的前级结果输出接口(ResultIn)。
本申请实施例公开了一种基于脉动阵列的矩阵乘法处理器及其数据处理方法，该矩阵乘法处理器包括由多个基本运算单元排布而成脉动阵列、多个权重输入通道以及多个数据输入通道，在所述脉动阵列中，每一列的任意两个相邻基本运算单元之间通过D触发器相连，所述D触发器用于根据时钟信号进行数据的的存储及传递，基本运算单元用于在控制信号的控制下，对接收到的权重数据以及激活数据执行乘法累加运算，所述权重输入通道以及数据输入通道分别用于按照所述时钟信号，将权重数据输入至对应行中的每一个基本运算单元，将激活数据输入至所述脉动阵列中每一列底端基本运算单元的数据输入接口。当权重数据和激活数据在时钟信号的控制下广播至脉动阵列中时，D触发器同时进行数据的存储以及传递，无需额外的控制信号进行控制，有效减少控制信号的数量，降低矩阵乘法处理器的布线复杂度。
进一步的，参见图2，每一个所述基本运算单元内设置有一个乘法器、一个加法器、一个与门、一个非门、一个累加寄存器以及一个多路选择器。
其中，所述乘法器的输入端分别接至所述权重输入接口以及所述数据输入接口，输出端接至所述加法器的输入端。
所述加法器的输入端还接至所述与门的输出端，输出端接至所述累加寄存器的输入端。
所述非门的输入端接至所述控制信号接收接口，输出端接至所述与门的输入端。
所述累加寄存器的输入端还接至所述时钟信号接收接口，输出端分别接至所述与门的输入端以及所述多路选择器的输入端。
所述多路选择器的输入端还接至所述前级结果输入接口以及所述控制信号接收接口，输出端接至所述本级结果输出接口。
其中，乘法器用于在每一个时钟，从数据输入接口(Data)接收一个激活数据，以及从权重输入接口(Weight)接收一个权重数据，并将接收到的两个数据进行相乘，然后将相乘的结果输出给加法器。
加法器用于将乘法器输出的相乘结果以及与门的输出结果进行累加，并将累加结果输出给累加寄存器。
累加寄存器用于在每一个时钟，从加法器中接收到一个累加结果进行存储，同时将所存储的累加结果作为数据信号分别输出给与门以及多路选择器。其中，累加寄存器的位宽是可以根据乘加结果的位宽进行设定的，本申请实施例中，将其设定为接收32位的数据。
非门用于从控制信号接收接口(Control)接收一个提前设置好的控制信号，并将该控制信号进行反向，然后输出给与门。
与门包括两个输入，一个是从非门中获取的经过反向的控制信号，另一个为在每一个时钟从累加寄存器中接收的数据信号。其中，当控制信号为“1”时，与门接收到的信号则为“0”，此时，无论与门从累加寄存器中接收到什么数据信号，与门的输出都为“0”，这种情况下，与门起到清零作用，能够将累加寄存器中的数据清零，以便执行新一次的卷积乘累加操作。当控制信号为“0”时，与门接收到的信号则为“1”，此时，与门将输出从累加寄存器中接收到的数据信号，并把这个数据信号发送给加法器，以执行累加操作，这种情况下，与门起到数据传递作用，能够使一次卷积中的数据能够继续进行累加操作。
本申请实施例中，与门和非门能够将基本运算单元中数据流的控制信号加以合并，使得基本运算单元使用一个控制信号便可执行相乘累加操作，有效减少每个基本运算单元所需要的布线，进而可以减少整个矩阵乘法处理器的布线复杂度。
进一步的，所述多路选择器为二选一多路选择器。
所述多路选择器用于接收控制信号、所述前级结果以及所述累加寄存器的累加结果，并根据所述控制信号，选择所述前级结果或者所述累加结果作为输出结果，发送至所述本级结果输出接口，然后通过本级结果输出接口将输出结果发送至同一列下一行基本运算单元的前级结果输入接口(ResultIn)。在一种实现方式中，所述控制信号为1或0，其中，若所述控制信号为1，则所述多路选择器选择所述累加结果作为所述当前结果；或者，若所述控制信号为0，则所述多路选择器选择所述前级结果作为所述当前结果。
在一种实现方式中，若基本运算单元位于脉动阵列的第一行，那么接收到的前级结果为0。若基本运算单元位于脉动阵列的最后一行，那么本级结果输出接口的输出将会直接发送给一个缓冲器或者一个存储器。
本申请实施例中，多路选择器能够将一个基本运算单元的运算结果及时的输出，无需在基本运算单元中进行保存，减少了基本运算单元中所需寄存器的数量，因而降低了基本运算单元的结构复杂度。
本申请实施例公开的矩阵乘法处理器中，脉动阵列的行是权重数据的输入方向，其中每一行输入的是一个权重矩阵的权重数据。脉动阵列的列是激活数据的输入方向，其中每一列输入的是一次卷积对应激活矩阵的激活数据。如图1所示，在矩阵乘法处理器工作时，对于不同行，对应不同权重矩阵，即存在N个不同权重矩阵，而在同一行中，同一个权重数据会广播到同一行的所有M个基本运算单元中，且在每一个时钟，一个权重数据都会广播到这一行的所有M个基本运算单元之中。对于不同列，对应不同激活矩阵，即存在M个不同激活矩阵，在每一列中，激活矩阵的第一个激活数据，会在第一个时钟传递给对应列最底端(倒数第一个)的基本运算单元之中；在第二时钟时，激活矩阵的第一个激活数据会沿着D触发器传递到这一列倒数第二个基本运算单元处，而激活矩阵的第二个激活数据则会传递到对应列最底端(倒数第一个)的基本运算单元处；在第三个时钟时，激活矩阵的第一个激活数据会沿着D触发器传递到这一列倒数第三个基本运算单元处，激活矩阵的第二个激活数据会沿着D触发器传递到这一列倒数第二个基本运算单元处，激活矩阵的第三个激活数据会传递到对应列最底端(倒数第一个)的基本运算单元处，依此在每一个时钟不断传递激活数据进行运算。
在矩阵乘法处理器工作期间，对于每一个基本运算单元，在其没有完成一次卷积计算时，其内部的多路选择器会始终选择将前级结果输入接口(ResultIn)的数据传递到本级结果输出接口(Output)。而当每一个基本运算单元完成了一个卷积计算之后，其内部的多路选择器会在其完成卷积运算的那个时钟，选择输出累加寄存器的结果，将完成了卷积计算的运算结果传递到本级结果输出接口(Output)，同时在下一个时钟到来前，再次选择将前级结果输入接口(ResultIn)的数据传递到本级结果输出接口(Output)。
本申请第二实施例公开了一种基于脉动阵列的矩阵乘法处理器的数据处理方法，所述基于脉动阵列的矩阵乘法处理器的数据处理方法应用于本申请第一实施例所述的基于脉动阵列的矩阵乘法处理器，参见图3，所述基于脉动阵列的矩阵乘法处理器的数据处理方法包括：
步骤S101，获取权重矩阵以及激活矩阵，所述权重矩阵包括多个权重数据，所述激活矩阵包括多个激活数据。
步骤S102，根据时钟信号，将所述多个权重数据与所述多个激活数据按照预设规则依次广播至脉动阵列中，同时根据控制信号，控制每个基本运算单元对接收到的权重数据以及激活数据进行乘法累加运算。
步骤S103，根据控制信号，按行输出所述脉动阵列的运算结果。
进一步的，所述预设规则包括：
在第一个时钟内，按照行序将所述权重矩阵中每行的第一个权重数据输入至所述脉动阵列对应行的所有基本运算单元中，按照列序将所述激活矩阵中每列的第一个激活数据分别输入至所述脉动阵列最后一行的基本运算单元中。
在第X个时钟内，按照行序将所述权重矩阵中每行的第X个权重数据输入至所述脉动阵列对应行的所有基本运算单元中，通过D触发器将每行基本运算单元中原有的激活数据按照列序传递至前一行基本运算单元中，然后按照列序将所述激活矩阵中每列的第X个激活数据分别输入至所述脉动阵列最后一行的基本运算单元中，其中，X为大于1的自然数。
进一步的，所述根据控制信号，按行输出所述脉动阵列的运算结果，包括：
若某一行所有基本运算单元的控制信号皆为1，则输出该行所有基本运算单元的当前结果。
以下结合具体示例，对本申请实施例公开的基于脉动阵列的矩阵乘法处理器的数据处理方法进行说明。
首先，设定脉动阵列的维度为3*3，共有9个基本运算单元，同时设定在卷积运算中只用1*1*3的卷积核，即对于一个基本运算单元，工作三个时钟便得到一个卷积运算的结果，每一个卷积运算的结果由3个权重数据及3个激活数据相乘累加获得。
其次，将脉动阵列中所有的基本运算单元中的多路选择器，均设定为选择前级结果输入接口(ResultIn)中的信号输出，即将控制信号设置为“0”，这种情况下，不会有结果输出。
参见图4中的第(1)幅图，在输入到矩阵乘法处理器的脉动阵列之前，先对权重矩阵以及激活矩阵进行预处理，将矩阵数据向量化以及对输入数据进行补零。
参见图4中的第(2)幅图，在第一个时钟周期内，对于行，只有脉动阵列的最下面一行得到了有效的权重数据A_1，另外两行得到的是0，对于列，三个激活数据a_1、b_1以及c_1分别输入至最后一行对应列的基本运算单元中，在完成运算之后，运算结果分别存储在最下面一行的累加寄存器中，同时整个脉动阵列中所有的基本运算单元中的多路选择器，均选择基本运算单元中的前级结果输入接口(ResultIn)中的信号输出，即将控制信号设为“0”，这种情况下，不会有结果输出。
参见图4中的第(3)幅图，在第二个时钟周期，对于行，脉动阵列的第二行得到了有效权重数据B_1，第三行得到了有效数据A_2，对于列，三个激活数据a_1、b_1以及c_1分别通过D触发器传递至第二行中对应列的基本运算单元中，三个激活数据a_2、b_2以及c_2分别输入至最后一行对应列的基本运算单元，在基本运算单元中进行计算之后分别存入各自的累加寄存器中，同时脉动阵列中所有的基本运算单元中的多路选择器，均选择基本运算单元中的前级结果输入接口(ResultIn)中的信号输出，即将控制信号设为“0”，这种情况下，不会有结果输出。
参见图4中的第(4)幅图，在第三个时钟周期，对于行，第一行得到了有效权重数据C_1，第二行得到了有效权重数据B_2，第三行得到了有效权重数据A_3,对于列，三个激活数据a_1、b_1以及c_1分别通过D触发器传递至第一行中对应列的基本运算单元中，三个激活数据a_2、b_2以及c_2分别通过D触发器传递至第二行中对应列的基本运算单元中，三个激活数据a_3、b_3以及c_3输入至最后一行对应列的基本运算单元，此时，在完成相应的计算之后，脉动阵列第三行已经完成了卷积运算，将第三行的三个基本运算单元的控制信号设置为“1”，使得累加寄存器中的结果从脉动阵列中输出，而第一及第二行基本运算单元的控制信号依旧置为“0”，以继续执行相乘累加操作。
参见图4中的第(5)幅图，在第四个时钟周期，对于行，第一行得到了有效权重数据C_2，第二行得到了有效权重数据B_3，第三行已经没有数据,对于列，不存在数据可以输入至最后一行对应列中的基本运算单元中，三个激活数据a_2、b_2以及c_2分别通过D触发器传递至第一行中对应列的基本运算单元中，三个激活数据a_3、b_3以及c_3分别通过D触发器传递至第二行中对应列的基本运算单元中，在完成相应的计算之后，脉动阵列第二行已经完成了卷积运算，此时第二行的三个基本运算单元的控制信号会置为“1”，将累加寄存器中的结果从脉动阵列中输出，而第一及第三行的控制信号置为“0”，以继续执行相乘累加操作。
参见图4中的第(6)幅图，在第五个时钟周期，对于行，第一行得到了有效权重数据C_3，第二行和第三行已经没有数据。对于列，不存在数据可以输入至最后一行对应列中的基本运算单元中，三个激活数据a_3、b_3以及c_3分别通过D触发器传递至第一行中对应列的基本运算单元中，此时，在完成相应的计算之后，阵列第一行已经完成了卷积运算，第一行的三个基本运算单元的控制信号会置为“1”，将累加寄存器中的结果从脉动阵列中输出，而第二及第三行的控制信号置为“0”。至此，完成了全部的运算，得到9个有效的输出结果。
需要说明的是，在实际运算中，脉动阵列的维度是可以调整的，不仅仅局限于本申请上述实施例中公开的3*3，在此基础上，权重数据和激活数据也不仅局限于3个，本领域技术人员完全可以基于上述公开的实施例，使用任意维度的脉动阵列进行大型的矩阵乘法运算，以实现复杂度更高的卷积运算。
以上结合具体实施方式和范例性实例对本申请进行了详细说明，不过这些说明并不能理解为对本申请的限制。本领域技术人员理解，在不偏离本申请精神和范围的情况下，可以对本申请技术方案及其实施方式进行多种等价替换、修饰或改进，这些均落入本申请的范围内。本申请的保护范围以所附权利要求为准。

Claims (8)

1.一种基于脉动阵列的矩阵乘法处理器，其特征在于，包括：
由多个基本运算单元排布而成的脉动阵列，在所述脉动阵列中，每一列的任意两个相邻基本运算单元之间通过D触发器相连，所述D触发器用于根据时钟信号进行数据的的存储及传递；
每一个所述基本运算单元包括一个权重输入接口、一个数据输入接口、一个时钟信号接收接口以及一个控制信号接收接口，所述基本运算单元用于在控制信号的控制下，对接收到的权重数据以及激活数据执行乘法累加运算；
每一个所述基本运算单元还包括一个本级结果输出接口以及一个前级结果输入接口；
其中，所述本级结果输出接口用于输出当前基本运算单元的输出结果，所述前级结果输入接口用于接收前级结果，所述前级结果为位于所述当前基本运算单元同一列前一行的基本运算单元的输出结果；
所述脉动阵列的每一列基本运算单元中，前一行基本运算单元的本级结果输出接口与后一行基本运算单元的前级结果输入接口相连接；
多个权重输入通道，一个所述权重输入通道对应接至所述脉动阵列其中一行所有基本运算单元的权重输入接口，所述权重输入通道用于按照所述时钟信号，将权重数据输入至对应行中的每一个基本运算单元；
多个数据输入通道，用于按照所述时钟信号，将激活数据输入至所述脉动阵列中每一列底端基本运算单元的数据输入接口，所述每一列底端基本运算单元为位于每一列中最后一行的基本运算单元。
2.根据权利要求1所述的基于脉动阵列的矩阵乘法处理器，其特征在于，每一个所述基本运算单元内设置有一个乘法器、一个加法器、一个与门、一个非门、一个累加寄存器以及一个多路选择器；
其中，所述乘法器的输入端分别接至所述权重输入接口以及所述数据输入接口，输出端接至所述加法器的输入端；
所述加法器的输入端还接至所述与门的输出端，输出端接至所述累加寄存器的输入端；
所述非门的输入端接至所述控制信号接收接口，输出端接至所述与门的输入端；
所述累加寄存器的输入端还接至所述时钟信号接收接口，输出端分别接至所述与门的输入端以及所述多路选择器的输入端；
所述多路选择器的输入端还接至所述前级结果输入接口以及所述控制信号接收接口，输出端接至所述本级结果输出接口。
3.根据权利要求2所述的基于脉动阵列的矩阵乘法处理器，其特征在于，所述多路选择器为二选一多路选择器；
所述多路选择器用于接收控制信号、所述前级结果以及所述累加寄存器的累加结果，并根据所述控制信号，选择所述前级结果或者所述累加结果作为输出结果，发送至所述本级结果输出接口。
4.根据权利要求3所述的基于脉动阵列的矩阵乘法处理器，其特征在于，所述控制信号为1或0；
其中，若所述控制信号为1，则所述多路选择器选择所述累加结果作为当前结果；
或者，若所述控制信号为0，则所述多路选择器选择所述前级结果作为当前结果。
5.根据权利要求1所述的基于脉动阵列的矩阵乘法处理器，其特征在于，
所述D触发器通过数据输入接口连接每一列的任意两个相邻基本运算单元。
6.一种基于脉动阵列的矩阵乘法处理器的数据处理方法，其特征在于，所述基于脉动阵列的矩阵乘法处理器的数据处理方法应用于权利要求1-5任一项所述的基于脉动阵列的矩阵乘法处理器，所述基于脉动阵列的矩阵乘法处理器的数据处理方法包括：
获取权重矩阵以及激活矩阵，所述权重矩阵包括多个权重数据，所述激活矩阵包括多个激活数据；
根据时钟信号，将所述多个权重数据与所述多个激活数据按照预设规则依次广播至脉动阵列中，同时根据控制信号，控制每个基本运算单元对接收到的权重数据以及激活数据进行乘法累加运算；
根据控制信号，按行输出所述脉动阵列的运算结果。
7.根据权利要求6所述的基于脉动阵列的矩阵乘法处理器的数据处理方法，其特征在于，所述预设规则包括：
在第一个时钟内，按照行序将所述权重矩阵中每行的第一个权重数据输入至所述脉动阵列对应行的所有基本运算单元中，按照列序将所述激活矩阵中每列的第一个激活数据分别输入至所述脉动阵列最后一行的基本运算单元中；
在第X个时钟内，按照行序将所述权重矩阵中每行的第X个权重数据输入至所述脉动阵列对应行的所有基本运算单元中，通过D触发器将每行基本运算单元中原有的激活数据按照列序传递至前一行基本运算单元中，然后按照列序将所述激活矩阵中每列的第X个激活数据分别输入至所述脉动阵列最后一行的基本运算单元中，其中，X为大于1的自然数。
8.根据权利要求6所述的基于脉动阵列的矩阵乘法处理器的数据处理方法，其特征在于，所述根据控制信号，按行输出所述脉动阵列的运算结果，包括：
若某一行所有基本运算单元的控制信号皆为1，则输出该行所有基本运算单元的当前结果。
CN202010095448.1A 2020-02-17 2020-02-17 一种基于脉动阵列的矩阵乘法处理器及其数据处理方法 Active CN111291323B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010095448.1A CN111291323B (zh) 2020-02-17 2020-02-17 一种基于脉动阵列的矩阵乘法处理器及其数据处理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010095448.1A CN111291323B (zh) 2020-02-17 2020-02-17 一种基于脉动阵列的矩阵乘法处理器及其数据处理方法

Publications (2)

Publication Number Publication Date
CN111291323A CN111291323A (zh) 2020-06-16
CN111291323B true CN111291323B (zh) 2023-12-12

Family

ID=71030721

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010095448.1A Active CN111291323B (zh) 2020-02-17 2020-02-17 一种基于脉动阵列的矩阵乘法处理器及其数据处理方法

Country Status (1)

Country Link
CN (1) CN111291323B (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111752887B (zh) * 2020-06-22 2024-03-15 深圳鲲云信息科技有限公司 人工智能芯片和基于人工智能芯片的数据处理方法
TWI742802B (zh) * 2020-08-18 2021-10-11 創鑫智慧股份有限公司 矩陣運算裝置及其操作方法
CN112614040B (zh) * 2020-12-16 2021-09-21 上海壁仞智能科技有限公司 用于卷积计算的方法、计算设备和计算机可读存储介质
CN112632464B (zh) * 2020-12-28 2022-11-29 上海壁仞智能科技有限公司 用于处理数据的处理装置
CN112818416B (zh) * 2021-01-22 2022-09-27 合肥工业大学 一种基于脉动阵列的全同态加密硬件加速器及其设计方法
CN112819684B (zh) * 2021-03-02 2022-07-26 成都视海芯图微电子有限公司 一种面向图像文本识别的加速装置
CN113094646B (zh) * 2021-03-25 2023-04-28 电子科技大学 一种基于矩阵联合近似对角化的矩阵数据处理系统及方法
CN114675806B (zh) * 2022-05-30 2022-09-23 中科南京智能技术研究院 一种脉动矩阵单元及脉动矩阵计算装置
CN115469826B (zh) * 2022-09-16 2023-04-07 深圳思谋信息科技有限公司 数据处理方法、装置、计算机设备及计算机可读存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109902064A (zh) * 2019-02-01 2019-06-18 京微齐力(北京)科技有限公司 一种二维脉动阵列的芯片电路
CN109992743A (zh) * 2017-12-29 2019-07-09 华为技术有限公司 矩阵乘法器

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106445471B (zh) * 2016-10-13 2018-06-01 北京百度网讯科技有限公司 处理器和用于在处理器上执行矩阵乘运算的方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109992743A (zh) * 2017-12-29 2019-07-09 华为技术有限公司 矩阵乘法器
CN109902064A (zh) * 2019-02-01 2019-06-18 京微齐力(北京)科技有限公司 一种二维脉动阵列的芯片电路

Also Published As

Publication number Publication date
CN111291323A (zh) 2020-06-16

Similar Documents

Publication Publication Date Title
CN111291323B (zh) 一种基于脉动阵列的矩阵乘法处理器及其数据处理方法
EP2017743B1 (en) High speed and efficient matrix multiplication hardware module
US10915297B1 (en) Hardware accelerator for systolic matrix multiplication
JP3719509B2 (ja) シリアル演算パイプライン、演算装置、算術論理演算回路およびシリアル演算パイプラインによる演算方法
CN100465876C (zh) 基于单fpga的矩阵乘法器装置
CN104899182A (zh) 一种支持可变分块的矩阵乘加速方法
CN108304922A (zh) 用于神经网络计算的计算设备和计算方法
US9483442B2 (en) Matrix operation apparatus
CN104572011A (zh) 基于fpga的通用矩阵定点乘法器及其计算方法
US20140195779A1 (en) Software based application specific integrated circuit
US9372665B2 (en) Method and apparatus for multiplying binary operands
CN109144469B (zh) 流水线结构神经网络矩阵运算架构及方法
EP4066170A1 (en) Loading operands and outputting results from a multi-dimensional array using only a single side
WO2010088017A1 (en) Digital signal processing block with preadder stage
CN212112470U (zh) 一种矩阵乘法计算电路
CN113064852B (zh) 一种可重构处理器及配置方法
CN113869498A (zh) 一种卷积运算电路及其运算方法
CN111581595A (zh) 一种矩阵乘法计算方法及计算电路
US20210319291A1 (en) Neural network computation apparatus having systolic array
US7958179B2 (en) Arithmetic method and device of reconfigurable processor
CN110457648B (zh) 一种用于lu分解的脉动阵列结构的实现方法
CN101840322B (zh) 滤波器运算单元复用的方法和滤波器的运算系统
CN116050492A (zh) 一种扩展单元
CN113869507B (zh) 一种基于脉动阵列的神经网络加速器卷积计算装置与方法
JP2002269067A (ja) 行列演算装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant