CN116301898A - 神经网络信息整合方法、装置、系统及存储介质 - Google Patents

神经网络信息整合方法、装置、系统及存储介质 Download PDF

Info

Publication number
CN116301898A
CN116301898A CN202310280172.8A CN202310280172A CN116301898A CN 116301898 A CN116301898 A CN 116301898A CN 202310280172 A CN202310280172 A CN 202310280172A CN 116301898 A CN116301898 A CN 116301898A
Authority
CN
China
Prior art keywords
network
memory
neural network
iriff
file
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310280172.8A
Other languages
English (en)
Inventor
严勇猛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Intengine Technology Co Ltd
Original Assignee
Beijing Intengine Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Intengine Technology Co Ltd filed Critical Beijing Intengine Technology Co Ltd
Priority to CN202310280172.8A priority Critical patent/CN116301898A/zh
Publication of CN116301898A publication Critical patent/CN116301898A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00—Arrangements for software engineering
    • G06F8/40—Transformation of program code
    • G06F8/41—Compilation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00—Arrangements for software engineering
    • G06F8/70—Software maintenance or management
    • G06F8/71—Version control; Configuration management
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Computer Security & Cryptography (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了一种神经网络信息整合方法、装置、系统及存储介质。本发明可以提取预设神经网络的特征图、网络层、网段、子网以及网络，新建至少一个容器，并将特征图、网络层、网段、子网以及网络分别存储在至少一个容器中，分别获取至少一个容器中的神经网络特征参数，整合为IRIFF文件，并将IRIFF文件存储至非易失性存储器中，在运行预设神经网络时，将IRIFF文件中的网络特征参数拷贝到平台的内存中，并调用平台的计算模组通过访问内存的方式调用网络特征参数。本申请实施例可以将神经网络特征参数整合为IRIFF文件，并拷贝到平台的内存中，在后续使用时可以通过内存直接调用，简化了各种神经网络在不同硬件平台上的部署流程，提升了神经网络的运行效率。

Description

神经网络信息整合方法、装置、系统及存储介质
技术领域
本发明涉及神经网络处理领域，具体涉及一种神经网络信息整合方法、装置、系统及存储介质。
背景技术
随着人工智能技术的发展，神经网络应用到越来越多的领域，对人们的生产和生活带来了改善。神经网络是一种神经网络学习算法，其由输入层、中间层、输出层组成的阶层型神经网络，中间层可扩展为多层。相邻层之间各神经元进行全连接，而每层各神经元之间无连接，网络按有教师示教的方式进行学习，当一对学习模式提供给网络后，各神经元获得网络的输入响应产生连接权值(Weight)。然后按减小希望输出与实际输出误差的方向，从输出层经各中间层逐层修正各连接权，回到输入层。此过程反复交替进行，直至网络的全局误差趋向给定的极小值，即完成学习的过程。
在现有技术当中，神经网络具有很多种类，比如BP(Back Propagation)神经网络、径向基函数(RBF-Radial Basis Function)神经网络、感知器神经网络、线性神经网络、自组织神经网络以及反馈神经网络等等。然而申请人发现，每个神经网络都包含多种信息参数，比如网络图、辅助信息、权重数据、NPU指令代码、编译器生成的其它相关信息等，计算平台在使用神经网络时需要调用上述参数，而常见的计算平台中的内存资源极其有限，也不支持文件系统，因此只能从外存中调用上述参数，导致神经网络处理效率较低。
发明内容
本发明提供一种神经网络信息整合方法、装置、系统及存储介质，可以将神经网络特征参数进行整合并通过内存直接调用，从而提升了神经网络的处理效率。
为实现上述有益效果，本发明实施例提供以下技术方案：
第一方面，本身请提供一种神经网络信息整合方法，所述方法包括：
提取预设神经网络的特征图、网络层、网段、子网以及网络；
新建至少一个容器，并将所述特征图、网络层、网段、子网以及网络分别存储在所述至少一个容器中；
分别获取所述至少一个容器中的神经网络特征参数，整合为IRIFF文件，并将所述IRIFF文件存储至非易失性存储器中；
在运行所述预设神经网络时，将所述IRIFF文件中的网络特征参数拷贝到平台的内存中，并调用平台的计算模组通过访问内存的方式调用所述网络特征参数。
第二方面，本身请提供一种神经网络信息整合装置，包括：
提取单元，用于提取预设神经网络的特征图、网络层、网段、子网以及网络；
存储单元，用于新建至少一个容器，并将所述特征图、网络层、网段、子网以及网络分别存储在所述至少一个容器中；
整合单元，用于分别获取所述至少一个容器中的神经网络特征参数，整合为IRIFF文件，并将所述IRIFF文件存储至非易失性存储器中；
调用单元，用于在运行所述预设神经网络时，将所述IRIFF文件中的网络特征参数拷贝到平台的内存中，并调用平台的计算模组通过访问内存的方式调用所述网络特征参数。
第三方面，本身请提供一种神经网络信息整合系统，包括：计算模组和非易失性存储器；
所述计算模组包括主控制模组、至少一个计算核以及内存，所述主控制模组提取预设神经网络的特征图、网络层、网段、子网以及网络，新建至少一个容器，并将所述特征图、网络层、网段、子网以及网络分别存储在所述至少一个容器中，分别获取所述至少一个容器中的神经网络特征参数，整合为IRIFF文件，并将所述IRIFF文件存储至非易失性存储器中；
在所述至少一个计算核运行所述预设神经网络时，通过所述主控制模组将所述IRIFF文件中的网络特征参数拷贝到平台的内存中，并通过访问内存的方式调用所述网络特征参数。
第四方面，本身请提供一种存储介质，所述存储介质存储有多条指令，所述指令适于处理器进行加载，以执行上述神经网络信息整合方法中的步骤。
本申请提供的实施例可以提取预设神经网络的特征图、网络层、网段、子网以及网络，新建至少一个容器，并将特征图、网络层、网段、子网以及网络分别存储在至少一个容器中，分别获取至少一个容器中的神经网络特征参数，整合为IRIFF文件，并将IRIFF文件存储至非易失性存储器中，在运行预设神经网络时，将IRIFF文件中的网络特征参数拷贝到平台的内存中，并调用平台的计算模组通过访问内存的方式调用网络特征参数。本申请实施例可以将神经网络特征参数整合为IRIFF文件，并将其拷贝到平台的内存中，从而在后续使用时可以通过内存直接调用，有效提升了神经网络的处理效率。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的神经网络信息整合方法的一种流程示意图；
图2是本发明实施例提供的硬件平台的结构示意图；
图3是本发明实施例提供的神经网络信息整合方法的另一流程示意图；
图4是本发明实施例提供的神经网络信息整合系统的结构示意图；
图5为本发明实施例提供的神经网络信息整合装置的另一种结构示意图；
图6是本发明实施例提供的智能终端的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本发明的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。
本发明实施例提供一种神经网络信息整合方法，该神经网络信息整合方法的执行主体可以是本发明实施例提供的神经网络信息整合装置，或者集成了该神经网络信息整合装置的电子设备，其中该神经网络信息整合装置可以采用硬件或者软件的方式实现。
在本实施例中，将从神经网络信息整合装置的角度进行描述，该神经网络信息整合装置具体可以为电子设备，且该电子设备具备储存单元并能够运行应用程序。
一种神经网络信息整合方法，所述方法包括：
提取预设神经网络的特征图、网络层、网段、子网以及网络；
新建至少一个容器，并将所述特征图、网络层、网段、子网以及网络分别存储在所述至少一个容器中；
分别获取所述至少一个容器中的神经网络特征参数，整合为IRIFF文件，并将所述IRIFF文件存储至非易失性存储器中；
在运行所述预设神经网络时，将所述IRIFF文件中的网络特征参数拷贝到平台的内存中，并调用平台的计算模组通过访问内存的方式调用所述网络特征参数。
请参阅图1，图1是本发明实施例提供的神经网络信息整合方法的一种流程示意图。该神经网络信息整合方法包括：
步骤101，提取预设神经网络的特征图、网络层、网段、子网以及网络。
在一实施例中，本申请实施例提供的神经网络信息整合方法可以应用在如图2所示的硬件平台，其中，该硬件平台可以包括一个外存和多个计算模组，上述外存可以包括低速、非易失性存储模块、设备或等价物。比如flash、机械硬盘等，甚至可以是一个远程文件等。
在一实施例中，上述计算模组中则包括主控制模组、至少一个计算核以及内存，其中内存可以为SRAM(Static Random-Access Memory，静态随机存取存储器)或DDR SDRAM(Double Data Rate Synchronous Dynamic Random Access Memory，双倍数据率同步动态随机存取存储器)，主控制模组Host可以为CPU，而至少一个计算核可以为DSP(DigitalSignal Processing，数字信号处理器)、NPU(Neural-network Processing Unit，嵌入式神经网络处理器)、GPU(graphics processing unit，图形处理器)等。
需要说明的是，上述计算模组可以是物理上固定的，也可以是按需动态组合成的，每个计算模组的内存可能独立编址，也可能与其余一个或多个模组内存统一编址。在一实施例中，上述计算核分两种：即能自动地连续读取命令(可以是指令，也可以是配置参数)序列、译码并执行的称为主动核；否则称为被动核。其中，每个计算模组内的每一种主动核都需要进行编号，如图2中所示CPU、NPU_0、NPU_1等。多个相互独立的计算模组可同时运行，且每个计算模组可计算一个或多个神经网络，本申请对此不作进一步限定。
在一实施例中，本申请将预设神经网络按照内部结构按级别从小到大进行了细致划分，具体可以包括特征图、网络层、网段、子网以及网络。其中，特征图(feature map，简记为fm)：即3维张量，3个纬度通常用H、W、C表示，合写即为HWC。其数据类型不计入纬度，用B独立表示。
网络层(layer)：是神经网络经神经网络编译器预处理后的基本单位，也简称层。与通常所说的神经网络层(简称原始层)有区别：可能是某个原始层拆分后的一部分，也可能是多个连续原始层的融合。其输入为张量，通常以特征图为，输出为特征图。这里对网络层进一步细分为两种：一种是经神经网络工具链编译后能生成命令序列，且该命令序列能由某个主动核执行(计算)并得到输出特征图的层，称作CMD网络层；其余称作RAW网络层，即需要保留该网络层的原始信息，计算时由Host决定实际的计算方式、过程。
网段(segment)：即满足某种条件的一个或连续多个网络层。也分两种：能在某个主动核上持续运行而不切换，称为CMD网段；否则称为RAW网段。需要说明的是，在调试或测试时，也有可能将每个CMD网络层单独作为一个CMD网段。
子网(subnet)：即每一轮计算(对应一个输入特征图(简记为fi))中，计算频次都相同的一个或连续多个网段。也就是说中间没有条件判断造成的分叉、或循环。
网络(net)：由逻辑关系组合在一起的一个或多个子网。常见的各种神经网络都只包含一个子网。网络各层的计算结果称为中间特征图。中间特征图可分为两类：需要保存且参与后续某轮计算的称为静态(static)特征图；其余的(即不参与后续轮计算的)称为局域(local)特征图。
在一实施例中，还可以进一步定义一个高层概念，比如为网组(group)，可以由逻辑关系组合在一起的多个网络构成。
步骤102，新建至少一个容器，并将特征图、网络层、网段、子网以及网络分别存储在至少一个容器中。
其中，在IRIFF格式中，特征图、网络层、网段、子网、网络分别对应一个个容器(bin)，因此新建多个容器并分别将上述提取到的特征图、网络层、网段、子网、网络进行存储。
在一实施例中，上述容器可以分为两类，一类是仅含容器头(header)，另一类则包含容器头和数据(data)。容器的关键特征是长度，因此在计算容器的长度时，若容器仅含容器头，则直接获取容器头的固定长度即可，比如cIRIFF_FM_SHAPE的长度即sizeof(cIRIFF_FM_SHAPE)。若容器头包含一个成员，比如size，则可以直接指明本容器的长度，也即本bin的字节数。还可以通过容器头包含的某些成员以及结合容器的隐含要求(比如4字节对齐)间接计算出指明本容器的长度等等。
步骤103，分别获取至少一个容器中的神经网络特征参数，整合为IRIFF文件，并将IRIFF文件存储至非易失性存储器中。
在一实施例中，考虑到易用性以及兼容性，为了方便用户在某些级别按需加入一些自定义的辅助网络信息，因此本实施例还可以定义用户自定义数组容器以及用户自定义结构体容器。此外，为了便于软硬件研发过程中的调试和测试，还可以定义参考特征图容器以及参考特征图数组容器。
进一步的，IRIFF总的BNF如下所示：
Figure BDA0004137811710000061
每个神经网络的相关参数信息以及数据都可以在IRIFF文件中存储，比如从左至右(对应文件即从头至尾方向)依次为3大块：网络细节信息、权重参数、命令序列，调试时可能增加第4块即参考特征图，上述网络细节信息、权重参数、命令序列以及参考特征图均连续存放，首尾相接。
步骤104，在运行预设神经网络时，将IRIFF文件中的网络特征参数拷贝到平台的内存中，并调用平台的计算模组通过访问内存的方式调用网络特征参数。
在一实施例中，比如外存是一个flash，IRIFF文件保存其中。上电后，某个主控制模组Host可以将神经网络的信息按全部拷贝至模组2的内存中，其中主控制模组Host不一定是本模组的CPU，具体根据硬件平台的设计而定。然后计算模组开始运行，每层/每网段具体计算过程仅访问内存即可，无需再访问flash。
在一实施例中，将IRIFF文件中的网络特征参数拷贝到平台的内存中的步骤可以包括：解析IRIFF文件的头部信息，以得到预设神经网络的特征图、网络层、网段、子网以及网络分别对应的名称，按照IRIFF格式以及名称依次获取特征图、网络层、网段、子网以及网络各自的神经网络特征参数，并拷贝到平台的内存中。
由上可知，本申请实施例提供的神经网络信息整合方法可以提取预设神经网络的特征图、网络层、网段、子网以及网络，新建至少一个容器，并将特征图、网络层、网段、子网以及网络分别存储在至少一个容器中，分别获取至少一个容器中的神经网络特征参数，整合为IRIFF文件，并将IRIFF文件存储至非易失性存储器中，在运行预设神经网络时，将IRIFF文件中的网络特征参数拷贝到平台的内存中，并调用平台的计算模组通过访问内存的方式调用网络特征参数。本申请实施例可以将神经网络特征参数整合为IRIFF文件，并将其拷贝到平台的内存中，从而在后续使用时可以通过内存直接调用，有效提升了神经网络的处理效率。
根据上一实施例中所描述的神经网络信息整合方法，以下将举例作进一步详细说明。
在本实施例中，将以该神经网络信息整合装置具体集成在智能终端中为例进行说明。
请参阅图3，图3为本发明实施例提供的神经网络信息整合方法的另一流程示意图。该方法流程可以包括：
步骤201，提取预设神经网络的特征图、网络层、网段、子网以及网络。
步骤202，新建至少一个容器，并将特征图、网络层、网段、子网以及网络分别存储在至少一个容器中。
在一实施例中，在IRIFF格式中，特征图、网络层、网段、子网、网络分别对应一个个容器(bin)，因此新建多个容器并分别将上述提取到的特征图、网络层、网段、子网、网络进行存储。
步骤203，分别获取至少一个容器中的网络细节信息、权重参数以及命令序列，从参考特征图容器中提取预设神经网络的参考特征图。
步骤204，将网络细节信息、权重参数、命令序列以及参考特征图连续存放至IRIFF文件中，并将IRIFF文件存储至非易失性存储器中。
在一实施例中，每个神经网络的相关参数信息以及数据都可以在IRIFF文件中存储，比如从左至右(对应文件即从头至尾方向)依次网络细节信息、权重参数、命令序列以及参考特征图，上述网络细节信息、权重参数、命令序列以及参考特征图均连续存放，首尾相接。
步骤205，在运行预设神经网络时，根据平台的剩余内存确定IRIFF文件中的目标参数，将目标参数拷贝到平台的内存中。
步骤206，调用平台的计算模组通过访问内存的方式调用目标参数，通过访问非易失性存储器的方式调用IRIFF文件中的非目标参数。
在一实施例中，在计算模组运行时若内存空间较小，以至于不能将IRIFF文件中的全部网络特征参数拷贝到内存中时，就可以根据剩余内存值优先拷贝一部分网络特征参数也即目标参数。比如将神经网络的网络细节信息拷贝到内存当中，然后每个CMD网段具体计算过程中需先访问flash读取权重参数或命令序列至内存，然后计算模组中的计算核才能开始计算。
在另一实施例中，若当内存足够时，还可以预先从平台的内存中划分出一段预设内存区域，然后将IRIFF文件加载到预设内存区域，并调用平台的计算模组通过访问内存的方式调用网络特征参数。比如在调试时，通过后门直接将IRIFF文件加载到内存某区域中。然后计算模组开始运行，省去数据拷贝的过程，可大大加速仿真调试。
由上可知，本申请实施例提供的神经网络信息整合方法可以提取预设神经网络的特征图、网络层、网段、子网以及网络，新建至少一个容器，并将特征图、网络层、网段、子网以及网络分别存储在至少一个容器中，分别获取至少一个容器中的网络细节信息、权重参数以及命令序列，从参考特征图容器中提取预设神经网络的参考特征图，将网络细节信息、权重参数、命令序列以及参考特征图连续存放至IRIFF文件中，并将IRIFF文件存储至非易失性存储器中，在运行预设神经网络时，根据平台的剩余内存确定网络特征参数中的目标参数，将目标参数拷贝到平台的内存中。本申请实施例可以将神经网络特征参数整合为IRIFF文件，并将其拷贝到平台的内存中，从而在后续使用时可以通过内存直接调用，有效提升了神经网络的处理效率。
本申请还提供一种神经网络信息整合系统，具体可以包括计算模组和非易失性存储器；
其中，计算模组包括主控制模组、至少一个计算核以及内存，主控制模组提取预设神经网络的特征图、网络层、网段、子网以及网络，新建至少一个容器，并将特征图、网络层、网段、子网以及网络分别存储在至少一个容器中，分别获取至少一个容器中的神经网络特征参数，整合为IRIFF文件，并将IRIFF文件存储至非易失性存储器中；
在至少一个计算核运行预设神经网络时，通过主控制模组将IRIFF文件中的网络特征参数拷贝到平台的内存中，并通过访问内存的方式调用网络特征参数。
为便于更好的实施本发明实施例提供的神经网络信息整合方法，本发明实施例还提供一种基于上述神经网络信息整合方法的装置。其中名词的含义与上述神经网络信息整合方法中相同，具体实现细节可以参考方法实施例中的说明。
在本实施例中，将从神经网络信息整合装置的角度进行描述，该神经网络信息整合装置具体可以集成由多个智能终端组成的系统中，每一智能终端为在具备储存单元并安装有显示屏而具有视频播放功能的智能终端。
请参阅图4，图4为本发明实施例提供的神经网络信息整合装置300的一种结构示意图。其中，上述神经网络信息整合装置300可以包括：
提取单元301，用于提取预设神经网络的特征图、网络层、网段、子网以及网络；
存储单元302，用于新建至少一个容器，并将所述特征图、网络层、网段、子网以及网络分别存储在所述至少一个容器中；
整合单元303，用于分别获取所述至少一个容器中的神经网络特征参数，整合为IRIFF文件，并将所述IRIFF文件存储至非易失性存储器中；
调用单元304，用于在运行所述预设神经网络时，将所述IRIFF文件中的网络特征参数拷贝到平台的内存中，并调用平台的计算模组通过访问内存的方式调用所述网络特征参数。
在一实施例中，请参阅图5，图5为本发明实施例提供的神经网络信息整合装置300的另一种结构示意图。其中，所述整合单元301，可以具体包括：
获取子单元3011，用于分别获取所述至少一个容器中的网络细节信息、权重参数以及命令序列；
提取子单元3012，用于从参考特征图容器中提取所述预设神经网络的参考特征图；
存放子单元3013，用于将所述网络细节信息、权重参数、命令序列以及参考特征图连续存放至所述IRIFF文件中。
在一实施例中，所述调用单元304，可以具体包括：
确定子单元3041，用于根据平台的剩余内存确定所述网络特征参数中的目标参数；
拷贝子单元3042，用于将所述目标参数拷贝到平台的内存中；
调用子单元3043，用于调用平台的计算模组通过访问内存的方式调用所述目标参数，通过访问非易失性存储器的方式调用所述网络特征参数中的非目标参数。
由上述可知，本发明实施例可以提取预设神经网络的特征图、网络层、网段、子网以及网络，新建至少一个容器，并将特征图、网络层、网段、子网以及网络分别存储在至少一个容器中，分别获取至少一个容器中的神经网络特征参数，整合为IRIFF文件，并将IRIFF文件存储至非易失性存储器中，在运行预设神经网络时，将IRIFF文件中的网络特征参数拷贝到平台的内存中，并调用平台的计算模组通过访问内存的方式调用网络特征参数。本申请实施例可以将神经网络特征参数整合为IRIFF文件，并将其拷贝到平台的内存中，从而在后续使用时可以通过内存直接调用，有效提升了神经网络的处理效率。
本发明实施例还提供一种智能终端600，如图6所示，该智能终端600可以集成上述神经网络信息整合装置，还可以进一步包括射频(RF，Radio Frequency)电路601、包括有一个或一个以上计算机可读存储介质的存储器602、输入单元603、显示单元604、传感器605、音频电路606、无线保真(WiFi，Wireless Fidelity)模块607、包括有一个或者一个以上处理核心的处理器608、以及电源609等部件。本领域技术人员可以理解，图6中示出的智能终端600结构并不构成对智能终端600的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。其中：
RF电路601可用于收发信息或通话过程中，信号的接收和发送，特别地，将基站的下行信息接收后，交由一个或者一个以上处理器608处理；另外，将涉及上行的数据发送给基站。通常，RF电路601包括但不限于天线、至少一个放大器、调谐器、一个或多个振荡器、用户身份模块(SIM，Subscriber Identity Module)卡、收发信机、耦合器、低噪声放大器(LNA，Low Noise Amplifier)、双工器等。此外，RF电路601还可以通过无线通信与网络和其他设备通信。无线通信可以使用任一通信标准或协议，包括但不限于全球移动通讯系统(GSM，Global System of Mobile communication)、通用分组无线服务(GPRS，GeneralPacket Radio Service)、码分多址(CDMA，Code Division Multiple Access)、宽带码分多址(WCDMA，Wideband Code Division Multiple Access)、长期演进(LTE，Long TermEvolution)、电子邮件、短消息服务(SMS，Short Messaging Service)等。
存储器602可用于存储软件程序以及模块，处理器608通过运行存储在存储器602的软件程序以及模块，从而执行各种功能应用以及信息处理。存储器602可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、目标数据播放功能等)等；存储数据区可存储根据智能终端600的使用所创建的数据(比如音频数据、电话本等)等。此外，存储器602可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。相应地，存储器602还可以包括存储器控制器，以提供处理器608和输入单元603对存储器602的访问。
输入单元603可用于接收输入的数字或字符信息，以及产生与用户设置以及功能控制有关的键盘、鼠标、操作杆、光学或者轨迹球信号输入。具体地，在一个具体的实施例中，输入单元603可包括触敏表面以及其他输入设备。触敏表面，也称为触摸显示屏或者触控板，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触敏表面上或在触敏表面附近的操作)，并根据预先设定的程式驱动相应的连接装置。可选的，触敏表面可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器608，并能接收处理器608发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触敏表面。除了触敏表面，输入单元603还可以包括其他输入设备。具体地，其他输入设备可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种。
显示单元604可用于显示由用户输入的信息或提供给用户的信息以及智能终端600的各种图形用户接口，这些图形用户接口可以由图形、文本、图标、视频和其任意组合来构成。显示单元604可包括显示面板，可选的，可以采用液晶显示器(LCD，Liquid CrystalDisplay)、有机发光二极管(OLED，Organic Light-Emitting Diode)等形式来配置显示面板。进一步的，触敏表面可覆盖显示面板，当触敏表面检测到在其上或附近的触摸操作后，传送给处理器608以确定触摸事件的类型，随后处理器608根据触摸事件的类型在显示面板上提供相应的视觉输出。虽然在图6中，触敏表面与显示面板是作为两个独立的部件来实现输入和输入功能，但是在某些实施例中，可以将触敏表面与显示面板集成而实现输入和输出功能。
智能终端600还可包括至少一种传感器605，比如光传感器、运动传感器以及其他传感器。具体地，光传感器可包括环境光传感器及接近传感器，其中，环境光传感器可根据环境光线的明暗来调节显示面板的亮度，接近传感器可在智能终端600移动到耳边时，关闭显示面板和/或背光。作为运动传感器的一种，重力加速度传感器可检测各个方向上(一般为三轴)加速度的大小，静止时可检测出重力的大小及方向，可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；至于智能终端600还可配置的陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器，在此不再赘述。
音频电路606、扬声器，传声器可提供用户与智能终端600之间的音频接口。音频电路606可将接收到的音频数据转换后的电信号，传输到扬声器，由扬声器转换为声音信号输出；另一方面，传声器将收集的声音信号转换为电信号，由音频电路606接收后转换为音频数据，再将音频数据输出处理器608处理后，经RF电路601以发送给比如另一智能终端600，或者将音频数据输出至存储器602以便进一步处理。音频电路606还可能包括耳塞插孔，以提供外设耳机与智能终端600的通信。
WiFi属于短距离无线传输技术，智能终端600通过WiFi模块607可以帮助用户收发电子邮件、浏览网页和访问流式媒体等，它为用户提供了无线的宽带互联网访问。虽然图6示出了WiFi模块607，但是可以理解的是，其并不属于智能终端600的必须构成，完全可以根据需要在不改变发明的本质的范围内而省略。
处理器608是智能终端600的控制中心，利用各种接口和线路连接整个手机的各个部分，通过运行或执行存储在存储器602内的软件程序和/或模块，以及调用存储在存储器602内的数据，执行智能终端600的各种功能和处理数据，从而对手机进行整体监控。可选的，处理器608可包括一个或多个处理核心；优选的，处理器608可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器608中。
智能终端600还包括给各个部件供电的电源609(比如电池)，优选的，电源可以通过电源管理系统与处理器608逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。电源609还可以包括一个或一个以上的直流或交流电源、再充电系统、电源故障检测电路、电源转换器或者逆变器、电源数据指示器等任意组件。
尽管未示出，智能终端600还可以包括摄像头、蓝牙模块等，在此不再赘述。具体在本实施例中，智能终端600中的处理器608会按照如下的指令，将一个或一个以上的应用程序的进程对应的可执行文件加载到存储器602中，并由处理器608来运行存储在存储器602中的应用程序，从而实现各种功能：
提取预设神经网络的特征图、网络层、网段、子网以及网络；
新建至少一个容器，并将所述特征图、网络层、网段、子网以及网络分别存储在所述至少一个容器中；
分别获取所述至少一个容器中的神经网络特征参数，整合为IRIFF文件，并将所述IRIFF文件存储至非易失性存储器中；
在运行所述预设神经网络时，将所述IRIFF文件中的网络特征参数拷贝到平台的内存中，并调用平台的计算模组通过访问内存的方式调用所述网络特征参数。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见上文神经网络信息整合方法的详细描述，此处不再赘述。
由上可知，本发明实施例的智能终端600可以提取预设神经网络的特征图、网络层、网段、子网以及网络，新建至少一个容器，并将特征图、网络层、网段、子网以及网络分别存储在至少一个容器中，分别获取至少一个容器中的神经网络特征参数，整合为IRIFF文件，并将IRIFF文件存储至非易失性存储器中，在运行预设神经网络时，将IRIFF文件中的网络特征参数拷贝到平台的内存中，并调用平台的计算模组通过访问内存的方式调用网络特征参数。本申请实施例可以将神经网络特征参数整合为IRIFF文件，并将其拷贝到平台的内存中，从而在后续使用时可以通过内存直接调用，有效提升了神经网络的处理效率。
本领域普通技术人员可以理解，上述实施例的各种方法中的全部或部分步骤可以通过指令来完成，或通过指令控制相关的硬件来完成，该指令可以存储于一计算机可读存储介质中，并由处理器进行加载和执行。
为此，本申请实施例还提供一种存储介质，其上存储有多条指令，所述指令适于处理器进行加载，以执行上述神经网络信息整合方法中的步骤。
以上各个操作的具体实施可参见前面的实施例，在此不再赘述。
其中，该存储介质可以包括：只读存储器(ROM，Read Only Memory)、随机存取记忆体(RAM，Random Access Memory)、磁盘或光盘等。
由于该存储介质中所存储的指令，可以执行本发明实施例所提供的任一种神经网络信息整合方法中的步骤，因此，可以实现本发明实施例所提供的任一种神经网络信息整合方法所能实现的有益效果，详见前面的实施例，在此不再赘述。
以上对本发明实施例所提供的神经网络信息整合方法、装置、系统及存储介质进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

Claims (10)

1.一种神经网络信息整合方法，其特征在于，所述方法包括：
提取预设神经网络的特征图、网络层、网段、子网以及网络；
新建至少一个容器，并将所述特征图、网络层、网段、子网以及网络分别存储在所述至少一个容器中；
分别获取所述至少一个容器中的神经网络特征参数，整合为IRIFF文件，并将所述IRIFF文件存储至非易失性存储器中；
在运行所述预设神经网络时，将所述IRIFF文件中的网络特征参数拷贝到平台的内存中，再由所述平台的计算模组通过访问内存的方式使用所述网络特征参数。
2.根据权利要求1所述的神经网络信息整合方法，其特征在于，所述分别获取所述至少一个容器中的神经网络特征参数，整合为IRIFF文件，包括：
分别获取所述至少一个容器中的网络细节信息、权重参数以及命令序列；
从参考特征图容器中提取所述预设神经网络的参考特征图；
将所述网络细节信息、权重参数、命令序列以及参考特征图连续存放至所述IRIFF文件中。
3.根据权利要求1所述的神经网络信息整合方法，其特征在于，所述将所述IRIFF文件中的网络特征参数拷贝到平台的内存中，再由所述平台的计算模组通过访问内存的方式使用所述网络特征参数，包括：
根据所述平台的剩余内存确定所述网络特征参数中的目标参数；
将所述目标参数拷贝到平台的内存中；
调用所述平台的计算模组通过访问内存的方式调用所述目标参数，通过访问非易失性存储器的方式调用所述网络特征参数中的非目标参数。
4.根据权利要求1所述的神经网络信息整合方法，其特征在于，所述将所述IRIFF文件中的网络特征参数拷贝到平台的内存中，并调用所述平台的计算模组通过访问内存的方式调用所述网络特征参数，包括：
从所述平台的内存中划分出一段预设内存区域；
将所述IRIFF文件加载到所述预设内存区域，并调用所述平台的计算模组通过访问内存的方式调用所述网络特征参数。
5.根据权利要求1至4任一项所述的神经网络信息整合方法，其特征在于，所述将所述IRIFF文件中的网络特征参数拷贝到平台的内存中，包括：
解析IRIFF文件的头部信息，以得到所述预设神经网络的特征图、网络层、网段、子网以及网络分别对应的名称；
按照所述IRIFF格式以及所述名称依次获取所述特征图、网络层、网段、子网以及网络各自的神经网络特征参数，并拷贝到所述平台的内存中。
6.一种神经网络信息整合装置，其特征在于，包括：
提取单元，用于提取预设神经网络的特征图、网络层、网段、子网以及网络；
存储单元，用于新建至少一个容器，并将所述特征图、网络层、网段、子网以及网络分别存储在所述至少一个容器中；
整合单元，用于分别获取所述至少一个容器中的神经网络特征参数，整合为IRIFF文件，并将所述IRIFF文件存储至非易失性存储器中；
调用单元，用于在运行所述预设神经网络时，将所述IRIFF文件中的网络特征参数拷贝到平台的内存中，并调用所述平台的计算模组通过访问内存的方式调用所述网络特征参数。
7.根据权利要求6所述的神经网络信息整合装置，其特征在于，所述整合单元，包括：
获取子单元，用于分别获取所述至少一个容器中的网络细节信息、权重参数以及命令序列；
提取子单元，用于从参考特征图容器中提取所述预设神经网络的参考特征图；
存放子单元，用于将所述网络细节信息、权重参数、命令序列以及参考特征图连续存放至所述IRIFF文件中。
8.根据权利要求6所述的神经网络信息整合装置，其特征在于，所述调用单元，包括：
确定子单元，用于根据所述平台的剩余内存确定所述网络特征参数中的目标参数；
拷贝子单元，用于将所述目标参数拷贝到平台的内存中；
调用子单元，用于调用所述平台的计算模组通过访问内存的方式调用所述目标参数，通过访问非易失性存储器的方式调用所述网络特征参数中的非目标参数。
9.一种神经网络信息整合系统，其特征在于，包括：计算模组和非易失性存储器；
所述计算模组包括主控制模组、至少一个计算核以及内存，所述主控制模组提取预设神经网络的特征图、网络层、网段、子网以及网络，新建至少一个容器，并将所述特征图、网络层、网段、子网以及网络分别存储在所述至少一个容器中，分别获取所述至少一个容器中的神经网络特征参数，整合为IRIFF文件，并将所述IRIFF文件存储至非易失性存储器中；
在所述至少一个计算核运行所述预设神经网络时，通过所述主控制模组将所述IRIFF文件中的网络特征参数拷贝到平台的内存中，并通过访问内存的方式调用所述网络特征参数。
10.一种存储介质，其特征在于，所述存储介质存储有多条指令，所述指令适于处理器进行加载，以执行权利要求1至5任一项所述的神经网络信息整合方法中的步骤。
CN202310280172.8A 2023-03-21 2023-03-21 神经网络信息整合方法、装置、系统及存储介质 Pending CN116301898A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310280172.8A CN116301898A (zh) 2023-03-21 2023-03-21 神经网络信息整合方法、装置、系统及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310280172.8A CN116301898A (zh) 2023-03-21 2023-03-21 神经网络信息整合方法、装置、系统及存储介质

Publications (1)

Publication Number Publication Date
CN116301898A true CN116301898A (zh) 2023-06-23

Family

ID=86784800

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310280172.8A Pending CN116301898A (zh) 2023-03-21 2023-03-21 神经网络信息整合方法、装置、系统及存储介质

Country Status (1)

Country Link
CN (1) CN116301898A (zh)

Similar Documents

Publication Publication Date Title
KR102354275B1 (ko) 음성 인식 방법 및 장치, 그리고 저장 매체
CN110515626B (zh) 深度学习计算框架的代码编译方法及相关产品
CN106502703B (zh) 一种函数调用方法和装置
CN106919458B (zh) Hook目标内核函数的方法及装置
CN103488450A (zh) 一种投射图片的方法、装置及终端设备
CN106293738A (zh) 一种表情图像的更新方法及装置
CN111399819B (zh) 数据生成方法、装置、电子设备及存储介质
CN115981798B (zh) 文件解析方法、装置、计算机设备及可读存储介质
CN104102560A (zh) 系统性能测试的方法及装置
CN106230919B (zh) 一种文件上传的方法和装置
CN116881143A (zh) 一种数据对象复制异常排查方法、装置、设备及存储介质
CN111367502A (zh) 一种数值处理方法和装置
CN112559532B (zh) 一种基于红黑树的数据插入方法、装置及电子设备
CN114510417A (zh) 一种图像渲染效果测试方法、装置、电子设备和存储介质
CN112261634B (zh) 一种蓝牙传输控制方法、装置、终端设备和存储介质
CN116301898A (zh) 神经网络信息整合方法、装置、系统及存储介质
CN115981666B (zh) 神经网络信息整合方法、装置、系统及存储介质
CN110503189B (zh) 一种数据处理方法以及装置
CN115982110B (zh) 文件运行方法、装置、计算机设备及可读存储介质
CN112367428A (zh) 电量的显示方法、系统、存储介质及移动终端
CN116166274A (zh) 神经网络信息整合方法、装置、系统及存储介质
CN109240986B (zh) 一种日志处理方法、装置及存储介质
CN116150057B (zh) 数据传输方法、装置、计算机设备及可读存储介质
CN112199245B (zh) 移动终端屏幕检测方法、系统、存储介质及移动终端
CN116737601B (zh) 将外设寄存器扩展为系统ram的方法、装置及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination