CN111523657B - 神经网络加速器创建方法及装置、电子设备和存储介质 - Google Patents

神经网络加速器创建方法及装置、电子设备和存储介质 Download PDF

Info

Publication number
CN111523657B
CN111523657B CN202010340943.4A CN202010340943A CN111523657B CN 111523657 B CN111523657 B CN 111523657B CN 202010340943 A CN202010340943 A CN 202010340943A CN 111523657 B CN111523657 B CN 111523657B
Authority
CN
China
Prior art keywords
neural network
network accelerator
attribute
evaluation
design
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010340943.4A
Other languages
English (en)
Other versions
CN111523657A (zh
Inventor
朱海周
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Unisound Intelligent Technology Co Ltd
Xiamen Yunzhixin Intelligent Technology Co Ltd
Original Assignee
Unisound Intelligent Technology Co Ltd
Xiamen Yunzhixin Intelligent Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Unisound Intelligent Technology Co Ltd, Xiamen Yunzhixin Intelligent Technology Co Ltd filed Critical Unisound Intelligent Technology Co Ltd
Priority to CN202010340943.4A priority Critical patent/CN111523657B/zh
Publication of CN111523657A publication Critical patent/CN111523657A/zh
Application granted granted Critical
Publication of CN111523657B publication Critical patent/CN111523657B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Abstract

本发明公开了一种神经网络加速器创建方法及装置，该方法包括：获取神经网络加速器的设计属性，根据所述设计属性，创建虚拟化平台，在所述虚拟化平台运行待加速的神经网络，获取神经网络加速器的评估属性，判断所述神经网络加速器的评估属性是否满足预设的评估标准，在判断所述神经网络加速器的评估属性满足预设的评估标准的情况下，根据所述设计属性，创建神经网络加速器。通过上述方法，在创建神经网络加速器之前，就可以通过直接在虚拟化平台运行待加速的神经网络，来获取神经网络加速器的评估属性，以确定所创建的神经网络加速器是否满足评估标准，能够有效地大幅度提高创建神经网络加速器的效率，缩短整颗芯片的研发周期。

Description

神经网络加速器创建方法及装置、电子设备和存储介质
技术领域
本发明涉及计算机技术领域，具体涉及一种神经网络加速器创建方法及装置、电子设备和存储介质。
背景技术
随着人工智能技术的不断发展，以深度学习为代表的神经网络算法逐渐被广泛的应用到人工智能设备内。
目前，由于人工智能在模型训练与推理中需要大量的计算，但受限于其算法和计算本身的特性，传统的计算芯片已经无法满足计算需求，需要通过加速器对神经网络进行加速，提高运算神经网络的计算能力，因此，创建提高神经网络计算能力的加速器成为人工智能设备发展的重要一环。
现有的神经网络加速器创建过程主要是获取神经网络加速器的设计属性，并根据设计属性，创建神经网络加速器，后续，对创建好的神经网络加速器进行FPGA测试，以确定所创建的神经网络加速器是否满足评估标准。
但是，在现有技术中，只有在进行FPGA测试后才能知道所创建的神经网络加速器是否满足评估标准，如果发现所创建的神经网络加速器不满足评估标准，就需要重新调整设计属性，并重新创建神经网络加速器，这样漫长的迭代环路，无疑会大大拉长神经网络加速器的研发周期，从而拉长整颗芯片的研发周期。
发明内容
鉴于上述问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的神经网络加速器创建方法及装置、电子设备和存储介质。
根据本发明的第一方面，提供了一种神经网络加速器创建方法，所述方法包括：
获取神经网络加速器的设计属性；
根据所述设计属性，创建虚拟化平台；
在所述虚拟化平台运行待加速的神经网络，获取神经网络加速器的评估属性；
判断所述神经网络加速器的评估属性是否满足预设的评估标准；
在判断所述神经网络加速器的评估属性满足预设的评估标准的情况下，根据所述设计属性，创建神经网络加速器。
根据本发明的第二方面，提供了一种神经网络加速器创建装置，所述装置包括：
第一获取模块，用于获取神经网络加速器的设计属性；
第一创建模块，用于根据所述设计属性，创建虚拟化平台；
第二获取模块，用于在所述虚拟化平台运行待加速的神经网络，获取神经网络加速器的评估属性；
判断模块，用于判断所述神经网络加速器的评估属性是否满足预设的评估标准；
第二创建模块，用于在判断所述神经网络加速器的评估属性满足预设的评估标准的情况下，根据所述设计属性，创建神经网络加速器。
根据本发明的第三方面，提供了一种电子设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；
所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行第一方面中任一项所述的神经网络加速器创建方法对应的操作。
根据本发明的第四方面，提供了一种存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使所述处理器执行第一方面中任一项所述的神经网络加速器创建方法对应的操作。
根据本发明提供的神经网络加速器创建方法及装置，该方法包括：获取神经网络加速器的设计属性，根据所述设计属性，创建虚拟化平台，在所述虚拟化平台运行待加速的神经网络，获取神经网络加速器的评估属性，判断所述神经网络加速器的评估属性是否满足预设的评估标准，在判断所述神经网络加速器的评估属性满足预设的评估标准的情况下，根据所述设计属性，创建神经网络加速器。通过上述方法，在创建神经网络加速器之前，就可以通过直接在虚拟化平台运行待加速的神经网络，来获取神经网络加速器的评估属性，以确定所创建的神经网络加速器是否满足评估标准，能够有效地大幅度提高创建神经网络加速器的效率，缩短整颗芯片的研发周期。
上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：
图1示出了根据本发明一个实施例的神经网络加速器创建方法的流程图；
图2示出了根据本发明一个实施例的神经网络加速器创建装置的示意图；
图3示出了根据本发明一个实施例的电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。
图1示出了根据本发明一个实施例的神经网络加速器创建的流程图。如图1所示，该方法包括如下步骤：
S101：获取神经网络加速器的设计属性。
在实际应用中，由于人工智能在模型训练与推理中需要大量的计算，但受限于其算法和计算本身的特性，传统的计算芯片已经无法满足计算需求，需要通过加速器对神经网络进行加速，提高运算神经网络的计算能力，因此，创建提高神经网络计算能力的加速器成为人工智能设备发展的重要一环。
进一步的，由于在实际创建神经网络加速器的过程中，需要明确知道要创建什么样的神经网络加速器，因此，在本说明书实施例中，首先获取神经网络加速器的设计属性。
在此需要说明的是，该设计属性指的是根据开发需求设计出的神经网络加速器硬件系统的总体规格书，详细描述了包括神经网络加速器的系统及其功能的设计细节，后续，根据该设计细节就能完整的实现整个神经网络加速器。
另外，开发需求指的是为了满足市场需要，神经网络硬件加速器需要达到的算力规模、支持的图像格式和神经网络类型、满足的能耗比等要求。
S102：根据所述设计属性，创建虚拟化平台。
S103：在所述虚拟化平台运行待加速的神经网络，获取神经网络加速器的评估属性。
进一步的，在创建完成神经网络加速器后，需要知道所创建的神经网络加速器是否符合需求，因此，在本说明书实施例中，为了能够有效地大幅度提高创建神经网络加速器的效率，缩短整颗芯片的研发周期，可根据设计属性，创建虚拟化平台，后续，可在所述虚拟化平台运行待加速的神经网络，获取神经网络加速器的评估属性，以此确定所创建的神经网络加速器是否符合需求。
进一步的，本说明书实施例给出了一种根据设计属性，创建虚拟化平台的实施方式，具体如下：
根据所述神经网络加速器的系统及其功能，划分所述神经网络加速器的子功能，根据每个所述神经网络加速器的子功能，建立所述神经网络加速器的子功能对应的功能模块，根据所述功能模块，确定对应的评估属性统计逻辑，根据所述功能模块及其对应的评估属性统计逻辑，创建虚拟化平台。
在此需要说明的是，虚拟化平台是芯片设计工程师为了加速神经网络加速器的研发，根据设计属性设计出来的与神经网络加速器对等的模拟平台。
进一步的，本说明书实施例在创建完虚拟化平台之后，直接在所述虚拟化平台运行待加速的神经网络，获取神经网络加速器的评估属性。
具体的，通过所述虚拟化平台的功能模块运行待加速的神经网络，通过所述功能模块对应的评估属性统计逻辑，统计获取神经网络加速器的评估属性。
在此需要说明的是，每个功能模块均对应一个评估属性统计逻辑，该评估属性统计逻辑在功能模块运行神经网络的过程中，不断采集并统计相应的评估属性。
在此还需要说明的是，该评估属性包括神经网络加速器的性能、资源利用率或特定资源使用效率中的至少一种，预先根据实际情况设定的，在此不再一一赘述。
S104：判断所述神经网络加速器的评估属性是否满足预设的评估标准。
S105：在判断所述神经网络加速器的评估属性满足预设的评估标准的情况下，根据所述设计属性，创建神经网络加速器。
在本说明书实施例中，在获取到神经网络加速器的评估属性之后，需要判断所述神经网络加速器的评估属性是否满足预设的评估标准；
在判断所述神经网络加速器的评估属性满足预设的评估标准的情况下，根据所述设计属性，创建神经网络加速器。
在判断所述神经网络加速器的评估属性未满足预设的评估标准的情况下，更改所述神经网络加速器的设计属性，并根据更改后的设计属性，更改已创建的虚拟化平台。
在此需要说明的是，评估标准是根据实际情况设定的。
另外，只有在判断所述神经网络加速器的评估属性满足预设的评估标准的情况下，才能够创建神经网络加速器。
进一步的，在判断所述神经网络加速器的评估属性满足预设的评估标准的情况下，根据所述设计属性，创建神经网络加速器，具体如下：
根据所述设计属性，设计所述神经网络加速器的硬件代码，根据所述神经网络加速器的硬件代码，进行设计仿真，对设计仿真后的神经网络加速器的硬件代码，进行FPGA测试，得到神经网络加速器。
通过上述方法，在创建神经网络加速器之前，就可以通过直接在虚拟化平台运行待加速的神经网络，来获取神经网络加速器的评估属性，以确定所创建的神经网络加速器是否满足评估标准，能够有效地大幅度提高创建神经网络加速器的效率，缩短整颗芯片的研发周期。
本说明书实施例通过步骤S101～步骤S105，还可以达到以下效果：
第一，虚拟化平台在创建神经网络加速器之前就介入，并给出评估属性，即，神经网络加速器的性能、资源利用率或特定资源使用效率等关键信息，这样可以在早期指导神经网络加速器的研发，从而避免了现有技术中冗长回路迭代的过程，大大节省了研发时间。
第二，虚拟化平台可使用systemC、C++等面向对象的语言实现，相比硬件描述语言verilog、VHDL等，其开发速度快，维护成本低。
第三，当设计属性中途变更时，虚拟化平台在得到设计属性变更要求之后，能快速根据新的需求修改虚拟化平台，并给出相关信息，大大节省了研发时间。也就是说，当需求中途变更时，传统方法需要重新回到设计属性制定阶段，并经过硬件代码设计、设计仿真、FPGA测试等阶段才能得到需求变更之后的性能、资源利用率、特定资源使用效率等信息。而虚拟平台技术在得到需求变更要求之后，能快速根据新的需求修改虚拟平台，并给出相关信息。大大节省了研发时间。
最后，在本说明书实施例以研发一个4T ops算力，且支持六种目前比较流行的卷积神经网络的图像神经网络加速器为例，给出了使用虚拟化平台技术和使用现有技术时创建神经网络加速器各个阶段的耗时信息。
Figure BDA0002468466050000061
Figure BDA0002468466050000071
表1
在此需要说明的是，人月是软件开发的工作量单位，如200人月，10个人开发，那整个软件开发需要花20个月就可完工。
以上是本说明书实施例提供的神经网络加速器创建的方法，基于此，本说明书实施例提供了一种神经网络加速器创建的装置，如图2所示。
图2为本说明书实施例提供的神经网络加速器创建的装置，该装置包括：
第一获取模块201，用于获取神经网络加速器的设计属性；
第一创建模块202，用于根据所述设计属性，创建虚拟化平台；
第二获取模块203，用于在所述虚拟化平台运行待加速的神经网络，获取神经网络加速器的评估属性；
判断模块204，用于判断所述神经网络加速器的评估属性是否满足预设的评估标准；
第二创建模块205，用于在所述判断模块204判断所述神经网络加速器的评估属性满足预设的评估标准的情况下，根据所述设计属性，创建神经网络加速器。
所述设计属性包括：神经网络加速器的系统及其功能。
所述第一创建模块202具体用于，根据所述神经网络加速器的系统及其功能，划分所述神经网络加速器的子功能；根据每个所述神经网络加速器的子功能，建立所述神经网络加速器的子功能对应的功能模块；根据所述功能模块，确定对应的评估属性统计逻辑；根据所述功能模块及其对应的评估属性统计逻辑，创建虚拟化平台。
所述第二获取模块203具体用于，通过所述虚拟化平台的功能模块运行待加速的神经网络；通过所述功能模块对应的评估属性统计逻辑，统计获取神经网络加速器的评估属性。
所述第二创建模块205具体用于，根据所述设计属性，设计所述神经网络加速器的硬件代码；根据所述神经网络加速器的硬件代码，进行设计仿真；对设计仿真后的神经网络加速器的硬件代码，进行FPGA测试，得到神经网络加速器。
所述装置还包括：
更改模块206，用于在所述判断模块204判断所述神经网络加速器的评估属性未满足预设的评估标准的情况下，更改所述神经网络加速器的设计属性，并根据更改后的设计属性，更改已创建的虚拟化平台。
所述评估属性包括：神经网络加速器的性能、资源利用率或特定资源使用效率中的至少一种。
本说明书实施例还提供了一种非易失性计算机存储介质，所述计算机存储介质存储有至少一可执行指令，该计算机可执行指令可执行上述任意方法实施例中的神经网络加速器创建方法。
图3示出了根据本发明实施例的一种电子设备的结构示意图，本发明具体实施例并不对电子设备的具体实现做限定。
如图3所示，该电子设备可以包括：处理器(processor)302、通信接口(Communications Interface)304、存储器(memory)306、以及通信总线308。
其中：
处理器302、通信接口304、以及存储器306通过通信总线308完成相互间的通信。
通信接口304，用于与其它设备比如服务器等的网元通信。
处理器302，用于执行程序310，具体可以执行上述神经网络加速器创建方法实施例中的相关步骤。
具体地，程序310可以包括程序代码，该程序代码包括计算机操作指令。
处理器302可能是中央处理器CPU，或者是特定集成电路ASIC(ApplicationSpecific Integrated Circuit)，或者是被配置成实施本发明实施例的一个或多个集成电路。电子设备包括的一个或多个处理器，可以是同一类型的处理器，如一个或多个CPU；也可以是不同类型的处理器，如一个或多个CPU以及一个或多个ASIC。
存储器306，用于存放程序310。存储器306可能包含高速RAM存储器，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。
在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本发明也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明的内容，并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。
类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的互联网电视调度设备中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

Claims (8)

1.一种神经网络加速器创建方法，其特征在于，所述方法包括：
获取神经网络加速器的设计属性；
根据所述设计属性，创建虚拟化平台，其中，所述设计属性包括：神经网络加速器的系统及其功能；
其中，根据所述设计属性，创建虚拟化平台，包括：
根据所述神经网络加速器的系统及其功能，划分所述神经网络加速器的子功能；根据每个所述神经网络加速器的子功能，建立所述神经网络加速器的子功能对应的功能模块；根据所述功能模块，确定对应的评估属性统计逻辑；根据所述功能模块及其对应的评估属性统计逻辑，创建虚拟化平台；
在所述虚拟化平台运行待加速的神经网络，获取神经网络加速器的评估属性；
判断所述神经网络加速器的评估属性是否满足预设的评估标准；
在判断所述神经网络加速器的评估属性满足预设的评估标准的情况下，根据所述设计属性，创建神经网络加速器。
2.根据权利要求1所述的方法，其特征在于，在所述虚拟化平台运行待加速的神经网络，获取神经网络加速器的评估属性，包括：
通过所述虚拟化平台的功能模块运行待加速的神经网络；
通过所述功能模块对应的评估属性统计逻辑，统计获取神经网络加速器的评估属性。
3.根据权利要求1所述的方法，其特征在于，根据所述设计属性，创建神经网络加速器，包括：
根据所述设计属性，创建神经网络加速器的硬件代码；
根据所述神经网络加速器的硬件代码，进行设计仿真；
对设计仿真后的神经网络加速器的硬件代码，进行FPGA测试，得到神经网络加速器。
4.根据权利要求1所述的方法，其特征在于，所述方法还包括：
在判断所述神经网络加速器的评估属性未满足预设的评估标准的情况下，更改所述神经网络加速器的设计属性，并根据更改后的设计属性，更改已创建的虚拟化平台。
5.根据权利要求1所述的方法，其特征在于，所述评估属性包括：神经网络加速器的性能、资源利用率或特定资源使用效率中的至少一种。
6.一种神经网络加速器创建装置，其特征在于，所述装置包括
第一获取模块，用于获取神经网络加速器的设计属性；
第一创建模块，用于根据所述设计属性，创建虚拟化平台，其中，所述设计属性包括：神经网络加速器的系统及其功能；
其中，所述第一创建模块，还用于执行如下操作：
根据所述神经网络加速器的系统及其功能，划分所述神经网络加速器的子功能；根据每个所述神经网络加速器的子功能，建立所述神经网络加速器的子功能对应的功能模块；根据所述功能模块，确定对应的评估属性统计逻辑；根据所述功能模块及其对应的评估属性统计逻辑，创建虚拟化平台；
第二获取模块，用于在所述虚拟化平台运行待加速的神经网络，获取神经网络加速器的评估属性；
判断模块，用于判断所述神经网络加速器的评估属性是否满足预设的评估标准；
第二创建模块，用于在判断所述神经网络加速器的评估属性满足预设的评估标准的情况下，根据所述设计属性，创建神经网络加速器。
7.一种电子设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；
所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行如权利要求1-5中任一项所述的神经网络加速器创建方法对应的操作。
8.一种存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使处理器执行如权利要求1-5任一项所述神经网络加速器创建方法对应的操作。
CN202010340943.4A 2020-04-26 2020-04-26 神经网络加速器创建方法及装置、电子设备和存储介质 Active CN111523657B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010340943.4A CN111523657B (zh) 2020-04-26 2020-04-26 神经网络加速器创建方法及装置、电子设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010340943.4A CN111523657B (zh) 2020-04-26 2020-04-26 神经网络加速器创建方法及装置、电子设备和存储介质

Publications (2)

Publication Number Publication Date
CN111523657A CN111523657A (zh) 2020-08-11
CN111523657B true CN111523657B (zh) 2023-06-20

Family

ID=71904642

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010340943.4A Active CN111523657B (zh) 2020-04-26 2020-04-26 神经网络加速器创建方法及装置、电子设备和存储介质

Country Status (1)

Country Link
CN (1) CN111523657B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112613598B (zh) * 2020-12-10 2023-04-07 上海交通大学 一种基于fpga模拟的阻变神经网络加速器评估方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108062239A (zh) * 2016-11-09 2018-05-22 华为技术有限公司 一种加速器加载方法、系统和加速器加载装置
CN109657784A (zh) * 2018-12-25 2019-04-19 北京迈格威科技有限公司 神经网络创建方法和装置、图像处理方法和电子设备
CN110097179A (zh) * 2018-01-29 2019-08-06 上海寒武纪信息科技有限公司 计算机设备、数据处理方法及存储介质
CN110291502A (zh) * 2017-11-15 2019-09-27 华为技术有限公司 一种调度加速资源的方法、装置及加速系统
CN110968423A (zh) * 2018-09-28 2020-04-07 英特尔公司 使用机器学习将工作负荷分配给加速器的方法和设备
CN111047017A (zh) * 2019-12-18 2020-04-21 北京安兔兔科技有限公司 一种神经网络算法的评估方法、装置及电子设备

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10241956B2 (en) * 2016-09-12 2019-03-26 International Business Machines Corporation Virtualizing coherent hardware accelerators
US11816552B2 (en) * 2017-10-26 2023-11-14 International Business Machines Corporation Dynamically reconfigurable networked virtual neurons for neural network processing
US20190286972A1 (en) * 2018-03-14 2019-09-19 Microsoft Technology Licensing, Llc Hardware accelerated neural network subgraphs

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108062239A (zh) * 2016-11-09 2018-05-22 华为技术有限公司 一种加速器加载方法、系统和加速器加载装置
CN110291502A (zh) * 2017-11-15 2019-09-27 华为技术有限公司 一种调度加速资源的方法、装置及加速系统
CN110097179A (zh) * 2018-01-29 2019-08-06 上海寒武纪信息科技有限公司 计算机设备、数据处理方法及存储介质
CN110968423A (zh) * 2018-09-28 2020-04-07 英特尔公司 使用机器学习将工作负荷分配给加速器的方法和设备
CN109657784A (zh) * 2018-12-25 2019-04-19 北京迈格威科技有限公司 神经网络创建方法和装置、图像处理方法和电子设备
CN111047017A (zh) * 2019-12-18 2020-04-21 北京安兔兔科技有限公司 一种神经网络算法的评估方法、装置及电子设备

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
万雷 ; 罗玉玲 ; 黄星月 ; .脉冲神经网络硬件系统性能监测平台.广西师范大学学报(自然科学版).2018,(01),全文. *
王志中 ; .船舶通信网络安全评估模型研究.舰船科学技术.2018,(06),全文. *

Also Published As

Publication number Publication date
CN111523657A (zh) 2020-08-11

Similar Documents

Publication Publication Date Title
Gong et al. MALOC: A fully pipelined FPGA accelerator for convolutional neural networks with all layers mapped on chip
CN107103113B (zh) 面向神经网络处理器的自动化设计方法、装置及优化方法
CN112433819A (zh) 异构集群调度的模拟方法、装置、计算机设备及存储介质
Luo et al. Comparison and benchmarking of ai models and frameworks on mobile devices
CN111144561B (zh) 一种神经网络模型确定方法及装置
CN103885826B (zh) 一种多核嵌入式系统实时任务调度实现方法
CN1349630A (zh) 提供现场可编程系统级装置的软件工具
CN111399911B (zh) 一种基于多核异构计算的人工智能开发方法及装置
CN114004352B (zh) 一种仿真实现方法、神经网络编译器以及计算机可读存储介质
CN110750312A (zh) 硬件资源配置方法、装置、云侧设备和存储介质
CN111523657B (zh) 神经网络加速器创建方法及装置、电子设备和存储介质
CN116263701A (zh) 算力网络任务调度方法、装置、计算机设备及存储介质
Mousavi Khaneghah et al. A mathematical multi-dimensional mechanism to improve process migration efficiency in peer-to-peer computing environments
CN115686805A (zh) Gpu资源共享的方法和装置、调度gpu资源共享的方法和装置
CN110750359B (zh) 硬件资源配置方法、装置、云侧设备和存储介质
CN110738317A (zh) 基于fpga的可变形卷积网络运算方法、装置和系统
CN113168552A (zh) 人工智能应用开发系统、计算机设备及存储介质
CN116974868A (zh) 芯片功耗估计装置、方法、电子设备及存储介质
CN109302723B (zh) 一种基于互联网的多节点实时无线电监测控制方法
CN113221501B (zh) 用于平衡电路不同划分间互联数的方法及可读存储介质
CN113971115A (zh) 容器资源的需求确定方法、装置、服务器及存储介质
CN111143148A (zh) 一种模型参数确定方法、装置及存储介质
CN117057411B (zh) 一种大语言模型训练方法、装置、设备及存储介质
CN114691457A (zh) 一种确定硬件性能的方法、装置、存储介质以及电子设备
US20220284272A1 (en) Dynamic design method to form acceleration units of neural networks

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant