CN107092961B - 一种基于模式频率统计编码的神经网络处理器及设计方法 - Google Patents

一种基于模式频率统计编码的神经网络处理器及设计方法 Download PDF

Info

Publication number
CN107092961B
CN107092961B CN201710178680.XA CN201710178680A CN107092961B CN 107092961 B CN107092961 B CN 107092961B CN 201710178680 A CN201710178680 A CN 201710178680A CN 107092961 B CN107092961 B CN 107092961B
Authority
CN
China
Prior art keywords
data
unit
neural network
mode frequency
coding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710178680.XA
Other languages
English (en)
Other versions
CN107092961A (zh
Inventor
韩银和
许浩博
王颖
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Institute of Computing Technology of CAS
Original Assignee
Institute of Computing Technology of CAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Institute of Computing Technology of CAS filed Critical Institute of Computing Technology of CAS
Priority to CN201710178680.XA priority Critical patent/CN107092961B/zh
Publication of CN107092961A publication Critical patent/CN107092961A/zh
Application granted granted Critical
Publication of CN107092961B publication Critical patent/CN107092961B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Neurology (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

本发明提出一种基于模式频率统计编码的神经网络处理器及设计方法，涉及神经网络模型计算的硬件加速技术领域，该处理器包括至少一存储单元，用于存储操作指令与运算数据；至少一计算单元，用于执行神经网络计算；以及控制单元，与至少一存储单元、所述至少一计算单元相连，用于经由所述至少一存储单元获得所述至少一存储单元存储的操作指令，并且解析所述操作指令以控制所述至少一计算单元；至少一个数据压缩单元，其中每个所述数据压缩单元与所述至少一计算单元相连，用于压缩根据所述运算数据获取的计算结果，并基于模式频率统计重新编码；至少一数据解压单元，其中每个所述数据解压单元与所述至少一个计算单元相连，用于解压被压缩的运算数据。

Description

一种基于模式频率统计编码的神经网络处理器及设计方法
技术领域
本发明涉及神经网络模型计算的硬件加速技术领域，特别涉及一种基于模式频率统计编码的神经网络处理器及设计方法。
背景技术
深度学习技术在近几年得到了飞速的发展，深度神经网络，尤其是卷积神经网络，在图像识别、语音识别、自然语言理解、天气预测、基因表达、内容推荐和智能机器人等领域取得了广泛的应用。
深度学习所得的深度网络结构是一种运算模型，其中包含大量数据节点，每个数据节点与其他数据节点相连，各个节点间的连接关系用权重表示。伴随神经网络复杂度不断提高，神经网络技术在实际应用过程中存在占用资源多、运算速度慢、能量消耗大等问题，因此该技术在嵌入式设备或低开销数据中心等领域应用时存在严重能效问题和运算速度瓶颈。采用硬件加速替代传统软件计算的方法成为提高神经网络计算效率的一种行之有效方式。主流的硬件加速方式包括通用图形处理器、专用处理器芯片和现场可编程逻辑阵列(FPGA)等。
当前的深度神经网络在实际应用中网络规模越来越大、数据吞吐量越来越高、任务类型越来越复杂，这会导致神经网络处理器电路规模变大、数据传输效率降低、计算速度变差。现有技术实际应用时，在神经网络计算过程中存在大量数值为0的数据元素，这类元素经过乘法和加法等数据运算后对运算结果不产生数值上的影响，但是神经网络处理器在处理这部分数据元素时会占用大量片上存储空间、消耗多余传输资源并增加运行时间，因此难以满足神经网络处理器的性能要求。
发明内容
针对现有技术的不足，本发明提出一种基于模式频率统计编码的神经网络处理器及设计方法。
本发明提出一种基于模式频率统计编码的神经网络处理器，包括：
至少一存储单元，用于存储操作指令与运算数据；
至少一计算单元，用于执行神经网络计算；
以及控制单元，与所述至少一存储单元、所述至少一计算单元相连，用于经由所述至少一存储单元获得所述至少一存储单元存储的操作指令，并且解析所述操作指令以控制所述至少一计算单元；
至少一个数据压缩单元，其中每个所述数据压缩单元与所述至少一计算单元相连，用于压缩根据所述运算数据获取的计算结果，并重新编码；
至少一数据解压单元，其中每个所述数据解压单元与所述至少一个计算单元相连，用于解压被压缩的运算数据。
所述运算数据包括原始特征图数据或中间层数据计算结果。
所述数据压缩单元，采用模式频率统计压缩编码的方式对压缩并编码后的所述计算结果进行存储。
所述编码的编码模式为根据神经网络计算过程中数据模式的出现频率，依据数据的稀疏性，将二进制数据中各位全部为零或者多位连续为零的数据采用短位数二进制数表示。
所述数据解压单元将采用模式频率统计压缩编码的数据解压并送至所述计算单元中。
本发明还提出一种基于模式频率统计编码的神经网络处理器的设计方法，包括：
设置至少一存储单元，存储操作指令与运算数据；
设置至少一计算单元，执行神经网络计算；
设置以及控制单元，与所述至少一存储单元、所述至少一计算单元相连，经由所述至少一存储单元获得所述至少一存储单元存储的操作指令，并且解析所述操作指令以控制所述至少一计算单元；
设置至少一个数据压缩单元，压缩根据所述运算数据获取的计算结果，并重新编码，其中每个所述数据压缩单元与所述至少一计算单元相连；
设置至少一数据解压单元，解压被压缩的运算数据，其中每个所述数据解压单元与所述至少一个计算单元相连。
所述运算数据包括原始特征图数据或中间层数据计算结果。
所述数据压缩单元，采用模式频率统计压缩编码的方式对压缩并编码后的所述计算结果进行存储。
所述编码的编码模式为根据神经网络计算过程中数据模式的出现频率，依据数据的稀疏性，将二进制数据中各位全部为零或者多位连续为零的数据采用短位数二进制数表示。
所述数据解压单元将采用模式频率统计压缩编码的数据解压并送至所述计算单元中。
由以上方案可知，本发明的优点在于：
本发明在神经网络处理系统中引入基于模式频率统计编码的数据压缩结构，从而降低片上存储开销、减小运算电路规模并提高运算效率，使得神经网络处理系统整体性能更高。
附图说明
图1是本发明提供的神经网络处理器结构框图；
图2是本发明提出的模式频率统计压缩编码格式图；
图3是本发明一种实施例中数据压缩单元结构示意图；
图4是本发明中数据压缩单元将数据压缩为模式频率统计压缩编码的过程示意图；
图5是本发明一种实施例数据解压单元结构示意图；
图6是本发明中数据解压单元解压数据示意图；
图7是本发明神经网络处理器进行神经网络计算的流程图。
具体实施方式
针对现有神经网络处理器的缺陷，本发明目的为提供一种基于模式频率统计编码的神经网络处理器及设计方法，该处理器在现有神经网络处理器系统中引入数据压缩单元，进而提升了神经网络处理器的运算速度及运行能量效率。
为实现上述目的，本发明提供的一种基于模式频率统计编码的神经网络处理器，包括：
至少一个存储单元，用于存储操作指令和运算数据；
至少一个计算单元，用于执行神经网络计算；以及控制单元，与所述至少一个存储单元和所述至少一个计算单元相连，用于经由所述至少一个存储单元获得所述至少一个存储单元存储的指令，并且解析该指令以控制所述至少一个计算单元；
至少一个数据压缩单元，其中每个数据压缩单元与所述至少一个计算单元相连，用于压缩运算数据，对运算数据重新压缩编码；
至少一个数据解压单元，其中每个数据解压单元与所述至少一个计算单元相连，用于解压被压缩的运算数据；
一种基于模式频率统计的压缩编码方式，神经网络处理过程中的中间数据采用所述模式频率统计编码进行存储和传输；
根据本发明提出的神经网络处理器，所述运算数据包括原始特征图数据或中间层数据计算结果；
根据本发明的神经网络处理，所述神经网络处理器进行神经网络计算时，数据压缩单元会将特征图数据或中间层计算结果整合映射成为数据压缩格式；
所述具有数据压缩格式的数据为神经网络计算过程中间计算结果，需要进行再次存储或被其他系统单元使用。
为了使本发明的目的、技术方案、设计方法及优点更加清楚明了，以下结合附图通过具体实施例对本发明进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。
本发明旨在提供一种基于模式频率统计编码的神经网络处理器，其在神经网络处理中引入基于模式频率统计编码的数据压缩结构，从而降低片上存储开销、减小运算电路规模并提高运算效率，使得神经网络处理系统整体性能更高。
本发明提供的神经网络处理器基于存储-控制-计算的结构；
存储结构用于存储参与计算的数据、神经网络权重及处理器操作指令；
控制结构包括译码电路与控制逻辑电路，用于解析操作指令，生成控制信号，该信号用于控制片上数据的调度与存储以及神经网络计算过程；
计算结构包括计算单元，用于参与该处理器中的神经网络计算操作，其中应包括数据检索结构，保证被压缩的数据在计算单元中能够正确地与相应权重进行计算。
图1为本发明提供的一种神经网络处理器系统101，该神经网络处理器系统101架构由七个部分构成，包括输入数据存储单元102、控制单元103、输出数据存储单元104、权重存储单元105、指令存储单元106、计算单元107和数据压缩单元108。
输入数据存储单元102用于存储参与计算的数据，该数据包括原始特征图数据和参与中间层计算的数据；输出数据存储单元104存储计算得到的神经元响应值；指令存储单元106存储参与计算的指令信息，指令被解析为控制流来调度神经网络计算；权重存储单元105用于存储已经训练好的神经网络权重，其中输入数据存储单元102及输出数据存储单元104包括压缩数据存储单元和模式编码存储单元两部分。
控制单元103分别与输出数据存储单元104、权重存储单元105、指令存储单元106、计算单元107相连，控制单元103获得保存在指令存储单元106中的指令并且解析该指令，控制单元103可根据解析指令得到的控制信号控制计算单元进行神经网络计算。
计算单元107用于根据控制单元103产生的控制信号来执行相应的神经网络计算。计算单元107与一个或多个存储单元相关联，计算单元107可以从与其相关联的输入数据存储单元102中的数据存储部件获得数据以进行计算，并且可以向与其相关联的输出数据存储单元104写入数据。计算单元107完成神经网络算法中的大部分运算，即向量乘加操作等。此外，由于载入到计算单元107中参与计算的数据格式为数据压缩格式，因此在计算单元107中还应包括数据检索子单元，该子单元用于保证被压缩的数据可以与权重正确计算。
数据压缩单元108用于参与数据压缩，对计算结果重新编码，采用模式频率统计压缩编码的方式进行存储。
数据解压单元109用于参与数据解压，将采用模式频率统计压缩编码的数据解压并送至计算单元中。
本发明提供一种基于模式频率统计的压缩编码方式，所述编码模式根据神经网络计算过程中数据模式的出现频率，依据数据的稀疏性，将二进制数据中各位全部为零或者多位连续为零的数据采用短位数二进制数表示。例如数据0x0000等，输出字全部为零，或其他包含多个连续零位的数据，如果采用全字长进行存储在一定程度上是硬件开销和能耗的浪费。将这种具有相似形式的数据以短字长的方式存储，存储空间及数据传输能耗将大大减小
图2为本发明提供的一种基于模式频率统计的编码方式，该编码方式包括编码前缀值和数据值两部分。以8bit数据为例，当数据数值为0时，编码前缀值为00，此时存储保留数据低四位0000，即数据长度为4；当8bit数据的高四位为零时，编码前缀值为01，此时存储保留数据低四位，即数据长度为4；当8bit数据的低四位为零时，编码前缀值为10，此时存储保留数据高四位，即数据长度为4；当8bit不属于上述三种模式时，编码前缀值为11，此时存储保留完整8bit数据，不具有压缩格式，即数据长度为8。
为表述方便，本发明仅以图2为例描述所提供基于模式频率统计编码方式，在设计实施时可根据数据数值或数据模式进一步细化，采用更多模式类型表示原始数据。
所述基于模式频率统计编码方式中，编码值存储在模式编码存储单元中，数据保存在压缩数据存储单元中。
图3为数据压缩单元结构示意图。数据压缩单元包括模式匹配单元、模式编码存储单元和压缩数据缓存单元。
图4为数据压缩单元将数据压缩为模式频率统计压缩编码的过程示意图。以数据为8bit为例，原始数据首先被载入至模式匹配单元中，模式匹配单元将原始与模式类型进行比对，生成编码前缀值和数据两部分，编码前缀值通过寄存器拼接后存储在模式编码存储单元中，数据存储在数据缓存单元中。数据存储时，以4bit为数据存储长度，即每个存储单元保留4bit数据，当编码值为11时，由于数据长度为8，因此需要占用两个存储单元。
图5为数据解压单元结构示意图。数据解压单元包括模式编码译码器、压缩数据偏移累加器、并行移位寄存器和并行译码器。
图6为数据解压单元进行数据解压的示意图。首先，存储在模式编码存储单元中编码前缀值接入至模式编码译码器中；编码前缀值译码结果接入压缩数据偏移累加器中，通过累加器对偏移量的累加得到压缩数据存储的偏移地址，从而在压缩数据中分割得到各个压缩数据值；压缩数据值接着载入到并行译码器中，并行译码器根据所对应的编码前缀值，将压缩数据扩展为数据原始值。
图7是本发明神经网络处理器进行神经网络计算的流程图，该方法包括：
步骤S1，控制单元对存储单元寻址，读取并解析下一步需要执行的指令；
步骤S2，根据解析指令得到的存储地址从存储单元中获取输入数据；
步骤S3，将数据和权重分别从输入存储单元和权重存储单元载入至计算单元；
步骤S4，解压单元将压缩数据解压恢复为原始数据；
步骤S5，计算单元执行神经网络运算中的运算操作；
步骤S6，数据压缩单元将计算结果重编码为数据压缩存储格式；
步骤S7，将以数据压缩存储格式存储的数据存储输出至存储单元中。
本发明能够提升神经网络处理系统的运算速度并降低能耗，使得神经网络处理系统性能更加高效。
本发明还提出一种基于模式频率统计编码的神经网络处理器的设计方法，包括：设置至少一存储单元，存储操作指令与运算数据；
设置至少一计算单元，执行神经网络计算；
设置以及控制单元，与所述至少一存储单元、所述至少一计算单元相连，经由所述至少一存储单元获得所述至少一存储单元存储的操作指令，并且解析所述操作指令以控制所述至少一计算单元；
设置至少一个数据压缩单元，压缩根据所述运算数据获取的计算结果，并重新编码，其中每个所述数据压缩单元与所述至少一计算单元相连；
设置至少一数据解压单元，解压被压缩的运算数据，其中每个所述数据解压单元与所述至少一个计算单元相连。
所述运算数据包括原始特征图数据或中间层数据计算结果。
所述数据压缩单元，采用模式频率统计压缩编码的方式对压缩并编码后的所述计算结果进行存储。
所述编码的编码模式为根据神经网络计算过程中数据模式的出现频率，依据数据的稀疏性，将二进制数据中各位全部为零或者多位连续为零的数据采用短位数二进制数表示。
所述数据解压单元将采用模式频率统计压缩编码的数据解压并送至所述计算单元中。
综上所述，本发明针对神经网络处理器中存在的运算速度差、能量效率低这一问题，通过对数据进行重编码，实现了数据压缩功能，降低了神经网络处理器中数据的存储资源占用，提高了运算速度，提升了能量效率。
应当理解，虽然本说明书是按照各个实施例描述的，但并非每个实施例仅包含一个独立的技术方案，说明书的这种叙述方式仅仅是为清楚起见，本领域技术人员应当将说明书作为一个整体，各实施例中的技术方案也可以经适当组合，形成本领域技术人员可以理解的其他实施方式。
以上所述仅为本发明示意性的具体实施方式，并非用以限定本发明的范围。任何本领域的技术人员，在不脱离本发明的构思和原则的前提下所作的等同变化、修改与结合，均应属于本发明保护的范围。

Claims (8)

1.一种基于模式频率统计编码的神经网络处理器，其特征在于，包括：
至少一存储单元，用于存储操作指令、运算数据和神经网络权重；
至少一计算单元，用于根据所述存储操作指令、所述运算数据和所述神经网络权重，执行神经网络计算中向量乘加操作；
以及控制单元，与所述至少一存储单元、所述至少一计算单元相连，用于经由所述至少一存储单元获得所述至少一存储单元存储的操作指令，并且解析所述操作指令以控制所述至少一计算单元；
至少一个数据压缩单元，其中每个所述数据压缩单元与所述至少一计算单元相连，用于压缩根据所述运算数据获取的计算结果，并重新编码，所述编码的编码模式为，将二进制数据中各位全部为零或者多位连续为零的数据采用短位数二进制数表示；
至少一数据解压单元，其中每个所述数据解压单元与所述至少一个计算单元相连，用于解压被压缩的运算数据，将被压缩的运算数据扩展为数据原始值。
2.如权利要求1所述的基于模式频率统计编码的神经网络处理器，其特征在于，所述运算数据包括原始特征图数据或中间层数据计算结果。
3.如权利要求1所述的基于模式频率统计编码的神经网络处理器，其特征在于，所述数据压缩单元，采用模式频率统计压缩编码的方式对压缩并编码后的所述计算结果进行存储。
4.如权利要求1所述的基于模式频率统计编码的神经网络处理器，其特征在于，所述数据解压单元将采用模式频率统计压缩编码的数据解压并送至所述计算单元中。
5.一种基于模式频率统计编码的神经网络处理器的设计方法，其特征在于，包括：
设置至少一存储单元，存储操作指令、运算数据和神经网络权重；
设置至少一计算单元，根据所述存储操作指令、所述运算数据和所述神经网络权重，执行神经网络计算中向量乘加操作；
设置以及控制单元，与所述至少一存储单元、所述至少一计算单元相连，经由所述至少一存储单元获得所述至少一存储单元存储的操作指令，并且解析所述操作指令以控制所述至少一计算单元；
设置至少一个数据压缩单元，压缩根据所述运算数据获取的计算结果，并重新编码，其中每个所述数据压缩单元与所述至少一计算单元相连，所述编码的编码模式为，将二进制数据中各位全部为零或者多位连续为零的数据采用短位数二进制数表示；
设置至少一数据解压单元，解压被压缩的运算数据，将被压缩的运算数据扩展为数据原始值，其中每个所述数据解压单元与所述至少一个计算单元相连。
6.如权利要求5所述的基于模式频率统计编码的神经网络处理器的设计方法，其特征在于，所述运算数据包括原始特征图数据或中间层数据计算结果。
7.如权利要求5所述的基于模式频率统计编码的神经网络处理器的设计方法，其特征在于，所述数据压缩单元，采用模式频率统计压缩编码的方式对压缩并编码后的所述计算结果进行存储。
8.如权利要求5所述的基于模式频率统计编码的神经网络处理器的设计方法，其特征在于，所述数据解压单元将采用模式频率统计压缩编码的数据解压并送至所述计算单元中。
CN201710178680.XA 2017-03-23 2017-03-23 一种基于模式频率统计编码的神经网络处理器及设计方法 Active CN107092961B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710178680.XA CN107092961B (zh) 2017-03-23 2017-03-23 一种基于模式频率统计编码的神经网络处理器及设计方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710178680.XA CN107092961B (zh) 2017-03-23 2017-03-23 一种基于模式频率统计编码的神经网络处理器及设计方法

Publications (2)

Publication Number Publication Date
CN107092961A CN107092961A (zh) 2017-08-25
CN107092961B true CN107092961B (zh) 2018-08-28

Family

ID=59646336

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710178680.XA Active CN107092961B (zh) 2017-03-23 2017-03-23 一种基于模式频率统计编码的神经网络处理器及设计方法

Country Status (1)

Country Link
CN (1) CN107092961B (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107590533B (zh) * 2017-08-29 2020-07-31 中国科学院计算技术研究所 一种用于深度神经网络的压缩装置
CN109993287B (zh) * 2017-12-29 2019-12-06 北京中科寒武纪科技有限公司 神经网络处理方法、计算机系统及存储介质
CN110377288A (zh) * 2018-04-13 2019-10-25 赛灵思公司 神经网络压缩编译器及其编译压缩方法
CN111523654B (zh) * 2019-02-03 2024-03-29 上海寒武纪信息科技有限公司 处理装置及方法
CN110046703B (zh) * 2019-03-07 2020-07-31 中国科学院计算技术研究所 一种用于神经网络的片上存储处理系统
CN110163370B (zh) * 2019-05-24 2021-09-17 上海肇观电子科技有限公司 深度神经网络的压缩方法、芯片、电子设备及介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102480618A (zh) * 2010-11-24 2012-05-30 中国电信股份有限公司 实现h264视频编码格式播放优化的方法及系统
CN106447034A (zh) * 2016-10-27 2017-02-22 中国科学院计算技术研究所 一种基于数据压缩的神经网络处理器、设计方法、芯片

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8078552B2 (en) * 2008-03-08 2011-12-13 Tokyo Electron Limited Autonomous adaptive system and method for improving semiconductor manufacturing quality
CN103346799A (zh) * 2013-06-05 2013-10-09 中国科学院微电子研究所 基于压缩感知理论的气体识别方法
CN106529670B (zh) * 2016-10-27 2019-01-25 中国科学院计算技术研究所 一种基于权重压缩的神经网络处理器、设计方法、芯片

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102480618A (zh) * 2010-11-24 2012-05-30 中国电信股份有限公司 实现h264视频编码格式播放优化的方法及系统
CN106447034A (zh) * 2016-10-27 2017-02-22 中国科学院计算技术研究所 一种基于数据压缩的神经网络处理器、设计方法、芯片

Also Published As

Publication number Publication date
CN107092961A (zh) 2017-08-25

Similar Documents

Publication Publication Date Title
CN107092961B (zh) 一种基于模式频率统计编码的神经网络处理器及设计方法
CN106447034B (zh) 一种基于数据压缩的神经网络处理器、设计方法、芯片
CN107169563B (zh) 应用于二值权重卷积网络的处理系统及方法
CN104040542B (zh) 用于在易失性存储器内保持关系型数据的列向量的技术
CN112292816B (zh) 处理核心数据压缩和存储系统
CN110070178A (zh) 一种卷积神经网络计算装置及方法
US11763156B2 (en) Neural network compression based on bank-balanced sparsity
DE112016006059T5 (de) Hardwareeinrichtungen und Verfahren für Datendekomprimierung
CN109409518A (zh) 神经网络模型处理方法、装置及终端
CN107256424A (zh) 三值权重卷积网络处理系统及方法
CN104011723A (zh) 状态机晶格中的布尔逻辑
CN104011736A (zh) 用于状态机中的检测的方法及系统
CN104067282A (zh) 状态机晶格中的计数器操作
CN100367316C (zh) 窗口空闲帧存储器压缩
CN105264779A (zh) 使用simd指令的数据压缩和解压
CN103914404B (zh) 一种粗粒度可重构系统中的配置信息缓存装置及压缩方法
CN114647635B (zh) 数据处理系统
CN103995827B (zh) MapReduce计算框架中的高性能排序方法
CN106445890A (zh) 数据处理方法
CN115880132A (zh) 图形处理器、矩阵乘法任务处理方法、装置及存储介质
CN103209328A (zh) 多源卫星图像实时在线处理技术方法及装置
CN107436865A (zh) 一种词对齐训练方法、机器翻译方法及系统
CN105023021A (zh) 一种基于主方向模板的特征匹配方法
CN100551066C (zh) 编码器及自适应算术编码的实现方法及装置
CN116128701A (zh) 一种用于执行图计算任务的装置、图计算方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant