CN112153139B - 基于传感器网络和存内计算神经网络的控制系统及方法 - Google Patents

Abstract

本发明公开了基于传感器网络和存内计算神经网络的控制系统及方法，本发明涉及人工智能领域。本发明包括传感器网络、数据自处理模块、模数转换器模块和存内计算神经网络模块，将存内计算技术和传感器网络相结合，利用了拥有数据自处理能力的传感器网络以增加数据带宽并降低功耗，通过存内计算技术完成神经网络的计算，避免了过多不必要的数据传输操作，在保证高精度计算的同时，极大地提高了计算速度、减少了数据存储空间、降低了系统整体运算功耗。

Description

基于传感器网络和存内计算神经网络的控制系统及方法

技术领域

本发明涉及人工智能领域，具体涉及基于传感器网络和存内计算神经网络的控制系统及方法。

背景技术

传感器网络是一种分布式的传感器阵列，由大量微小、较低成本、功能丰富、获取信息能力较强的传感器构成，传感器之间通过无线网络相互连接以进行通信。传感器网络的应用前景十分广泛，在许多领域和实际应用场景中都有着举足轻重的作用，发展潜力巨大。随着微电子相关技术的不断进步，传感器网络技术也在不断前进，并对现代信息技术产业、现代制造业以及现代军事信息等领域产生巨大的影响。但是对于大多数实际应用场景而言，为了获取更加精确的环境信息，传感器网络就必须收集海量的信息并对其进行存储和信号处理，这不但会增大存储信息数据方面的压力，也使得传感器网络的功耗居高不下。

随着近些年神经网络的不断发展，人工智能设备不断推陈出新。神经网络面世之初，神经网络的计算和训练均是利用电脑中的CPU或者GPU完成的，但是这样高功率的芯片无法大量应用于普通实际应用场景。

于是人们开始着手于设计制造专用的神经网络硬件加速器，但是市面上现有的这类神经网络硬件加速器均是以传统冯·诺依曼式计算机体系结构完成的，这样的设计将计算和存储部分分开，进行运算时将数据从存储器中读入计算阵列；计算结束后将结果读出至存储器中进行保存，这样大量高频的数据传输操作对于神经网络计算来说是慢速的，形成了“内存墙”壁垒，这是制约神经网络硬件加速器速度的关键因素。另一方面，现有的神经网络硬件加速器在进行计算时，均需存储与神经网络数学模型中同等数量的参数才能够进行计算，这类参数称为权重。随着神经网络结构的不断更新、网络层数的不断增加，所需要的参数量呈指数上升，神经网络硬件加速器所消耗的存储空间也不断增大，所以，如何在有限存储资源条件下高效存储神经网络所需参数成为了一个需解决的难题。

发明内容

本发明的目的在于：提供了基于传感器网络和存内计算神经网络的控制系统及方法，为了解决现有传感器网络和传统神经网络硬件加速器存在运行计算瓶颈的问题，该系统将传感器网络与存内计算神经网络相结合，在传感器网络内部嵌入了数据自处理模块，有效地过滤了传感器采集到的无效数据，并且将原本需要在存储器外部进行数据计算的单元转移到了内存中，在存储的同时便完成了计算过程，从而有效地避免了传统计算机体系结构中的大量I/O操作，节省了数据处理的时间，提高了系统的整体计算效率，降低了整体功耗的同时也节省了数据所需要的存储空间。

本发明采用的技术方案如下：

本发明是基于传感器网络和存内计算神经网络的控制系统，包括传感器网络、数据自处理模块、模数转换器模块和存内计算神经网络模块，

所述传感器网络由传感器阵列构成，通过内部总线连接与数据自处理模块，采集不同的外界环境信息并输出对应的模拟信号，将模拟信号传输至数据自处理模块进行进一步处理；

所述数据自处理模块由多层感知器构成，与模数转换器通过内部总线连接，对传感器网络传来的模拟信号进行初步处理、过滤无效数据，并将处理结果传至模数转换器；

所述模数转换器模块由模数转换器和微处理单元构成，通过内部总线与存内计算神经网络模块连接，对数据自处理模块的处理结果进行信号处理，将模拟信号转换成数字信号，并将此数字信号传输至存内计算神经网络模块；

所述存内计算神经网络模块主要实现神经网络的计算。

进一步的，所述存内计算神经网络模块包括时钟控制模块、读写控制器模块、双模式字线驱动模块、存储单元阵列、非线性激活函数模块、数据缓冲器模块和输出控制模块；

时钟控制模块用于对基于存内计算的控制系统进行同步时序控制，确保数据在存内计算过程中的有序性和正确性，该模块与外部控制单元相连；

读写控制模块用于响应外部的读写控制请求，并对双模式字线驱动模块进行读写数据的控制；

双模式字线驱动模块用于存内计算控制系统运行阶段，主要控制存储单元阵列的两种不同工作模式：数据存储模式和数据计算模式，当该模块发出数据存储模式的信号时，存储单元阵列会将外部数据读取至内部并加以保存，当该模块发出数据计算模式的信号时，存储单元阵列会对内部的数据完成相乘累加计算，并将计算结果输出至后续的非线性激活函数模块或者数据缓冲器模块；

非线性激活函数模块用于处理存内计算的每一轮中间结果，将中间结果归一化并利用非线性函数对其进行处理；

数据缓冲器模块用于暂存神经网络运算过程中的中间结果，当神经网络要进行下一轮的运算操作时，该模块中暂存的数据会被存储单元阵列读取至内部进行新一轮的相乘累加运算；

存储单元阵列用于存储神经网络的权重参数以及相乘累加的运算，该模块可根据双模式字线驱动模块输出的控制信号分别工作于两种不同的模式：数据存储模式和数据计算模式；

输出控制模块用于最终结果的输出，该模块负责与后续的受控设备进行数据传输，当神经网络完成了最终计算后，该模块向受控设备发送控制信号。

进一步的，所述传感器网络为声音、光、温度或压力传感器阵列。

基于传感器网络和存内计算神经网络的控制方法，包括上述控制系统，其控制方法的流程如下：

步骤1，全局复位，将控制系统中的所有模块进行初始化；

步骤2，将训练好的神经网络数学模型中的权重信息和网络结构信息存储到存内计算神经网络模块中；

步骤3，传感器网络获取到外部环境中的信息，将这些信息传输至数据自处理模块；

步骤4，数据自处理模块对初步得到的信息进行处理，过滤掉不需要的信息后，将其传输至模数转换器模块；

步骤5，模数转换器模块将模拟信号转换为包含特征向量信息的高精度数字信号，并将其传输给存内计算神经网络模块；

步骤6，存内计算神经网络模块接收到来自模数转换器模块传输而来的信号后，读写控制模驱动双模式字线驱动模块至数据存储工作模式，存储单元阵列接收到存储指令信号后，将模数转换器模块输出的数据保存至内部；随后双模式字线驱动模块切换至数据运算的工作模式，驱动存储单元阵列进行相乘累加的运算，当存储单元阵列完成一轮相乘累加操作后，将数据输出至非线性激活函数模块；

步骤7，非线性激活函数模块接收到中间结果后对其进行非线性处理，将处理后的结果传输至数据缓冲器模块，若神经网络的计算还未结束则跳转至步骤6，并利用数据缓冲器模块中的数据进行新一轮的结算，否则结束计算；

步骤8，等待步骤7的计算结果，输出控制模块根据计算结果向外界的受控设备输出控制信号，清除不需要的缓存数据，跳转至步骤3继续进行新一轮的计算，直到整个控制系统关闭为止。

综上所述，由于采用了本技术方案，本发明的有益效果是：

1.本发明是基于传感器网络和存内计算神经网络的控制系统，该系统将传感器网络与存内计算神经网络相结合，在传感器网络内部嵌入了数据自处理模块，有效地过滤了传感器采集到的无效数据，并且将原本需要在存储器外部进行数据计算的单元转移到了内存中，在存储的同时便完成了计算过程，从而有效地避免了传统计算机体系结构中的大量I/O操作，节省了数据处理的时间，提高了系统的整体计算效率，降低了整体功耗的同时也节省了数据所需要的存储空间。

2.本发明是基于传感器网络和存内计算神经网络的控制系统及方法，利用存内计算神经网络模块实现高效的神经网络计算，相比于传统的神经网络硬件计算，存内计算在保存数据的同时即可完成计算操作，节约了神经网络参数的存储空间，在保持高精度运算的同时，减少了大量不必要的数据传输操作，极大地提高了神经网络对于数据的处理速度、降低了系统的整体功耗。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图，本说明书附图中的各个部件的比例关系不代表实际选材设计时的比例关系，其仅仅为结构或者位置的示意图，其中：

图1是本发明控制系统的结构示意图；

图2是传感器网络的结构示意图；

图3是数据自处理的传感器网络部分的示意图；

图4是存内计算神经网络模块的示意图；

图5是循环神经网络的结构示意图；

图6是本发明的控制方法流程示意图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明，即所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。

下面结合附图对本发明作详细说明。

实施例一

本发明是基于传感器网络和存内计算神经网络的控制系统，包括传感器网络、数据自处理模块、模数转换器模块和存内计算神经网络模块。

所述传感器网络由传感器阵列构成，并通过内部总线连接与数据自处理模块，根据不同的外界环境信息输出对应的模拟信号，并将模拟信号传输至数据自处理模块进行进一步处理，传感器的种类并不受限制，本发明支持但不限于声音、光、温度、压力等传感器阵列；

所述数据自处理模块由多层感知器构成，与模数转换器通过内部总线连接，对传感器网络传来的模拟信号进行初步处理、过滤无效数据，并将处理结果传至模数转换器；

所述模数转换器模块由模数转换器和微处理单元构成，通过内部总线与存内计算神经网络模块连接，对数据自处理模块的处理结果进行信号处理，将模拟信号转换成数字信号，并将此数字信号传输至存内计算神经网络模块；

所述存内计算神经网络模块主要实现神经网络的计算，

进一步的，所述存内计算神经网络模块包括：时钟控制模块、读写控制器模块、双模式字线驱动模块、存储单元阵列、非线性激活函数模块、数据缓冲器模块和输出控制模块；

时钟控制模块用于对基于存内计算的控制系统进行同步时序控制，确保数据在存内计算过程中的有序性和正确性，该模块与外部控制单元相连；

读写控制模块用于响应外部的读写控制请求，并对双模式字线驱动模块进行读写数据的控制；

双模式字线驱动模块用于存内计算控制系统运行阶段，主要控制存储单元阵列的两种不同工作模式：数据存储模式和数据计算模式，当该模块发出数据存储模式的信号时，存储单元阵列会将外部数据读取至内部并加以保存，当该模块发出数据计算模式的信号时，存储单元阵列会对内部的数据完成相乘累加计算，并将计算结果输出至后续的非线性激活函数模块或者数据缓冲器模块；

非线性激活函数模块用于处理存内计算的每一轮中间结果，将中间结果归一化并利用非线性函数对其进行处理；

数据缓冲器模块用于暂存神经网络运算过程中的中间结果，当神经网络要进行下一轮的运算操作时，该模块中暂存的数据会被存储单元阵列读取至内部进行新一轮的相乘累加运算；

存储单元阵列用于存储神经网络的权重参数以及相乘累加的运算，该模块可根据双模式字线驱动模块输出的控制信号分别工作于两种不同的模式：数据存储模式和数据计算模式；

输出控制模块用于最终结果的输出，该模块负责与后续的受控设备进行数据传输，当神经网络完成了最终计算后，该模块向受控设备发送控制信号。

进一步的，所述传感器网络为声音、光、温度或压力传感器阵列。

如图1，该系统主要由两大部分构成，数据自处理的传感器网络部分和存内计算神经网络模块部分。本实施例以声音传感器为例，声音传感器网络负责采集环境中的声音信息，并通过内部的数据处理模块对信号进行初步的过滤和处理，然后由内部的模数转换器模块将连续的模拟信号转换为离散的数字信号，并将数字信息传输至存内计算神经网络模块中，存内计算神经网络模块负责对数字信息进行处理，通过神经网络对声音数据进行计算，得出计算结果并将其输出，最终将声音转换成文字信息。

如图3所示，该图展示了实施例中带有数据自处理的传感器网络部分结构示意图，包括传感器网络、权重偏置模块、多层感知器模块、时钟发生器、模数转换器、特征向量数据输出模块构成。如图2所示，传感器网络由传感器阵列构成，本实施例中的传感器网络以声音传感器阵列为例，声音传感器收集到声音信号后，将其传输至多层传感器模块，并根据权重偏置模块提供的参数对信号进行初步处理、过滤冗余信息，当该模块判定声音内含文字信息后，将其传输给模数转换器，模数转换器根据时钟发生器提供的时钟将模拟信号转换为数字信号，并通过特征向量数据输出模块将数字信号传至存内计算神经网络模块。

如图4，该存内计算神经网络由双模式字线驱动模块、时钟控制模块、读写控制器模块、存储单元阵列模块、非线性激活函数模块、数据缓冲器模块、输出控制器模块构成。存储单元阵列模块包括若干个存储单元。存内计算神经网络模块接收到来自传感器网络的数字信号后，读写控制模块将数据传输命令转化为电信号，同时驱动双模式字线驱动模块向存储单元阵列模块发送数据存储的指令信号，存储单元阵列模块将数据保存至内部，随后双模式字线驱动模块发送出数据计算信号，存储单元便对内部的权重参数和数据进行相乘累加运算操作，并得到中间结果。如果本轮神经网络的计算没有结束，则会将中间结果备份至数据缓冲器模块，存储单元阵列模块会利用数据缓冲器模块中的数据进行新的运算；如果本轮神经网络的计算结束了，则将中间结果传输至非线性激活函数模块，经过激活函数模块的运算后，得到本轮的计算结果，并开启下一轮的神经网络运算，形成循环的神经网络计算。

如图5，该图展示了本实施例中循环神经网络结构示意图。该神经网络是一个典型的循环神经网络，包含输入层、隐藏层、记忆层、输出层、输入权重矩阵、隐藏层权重矩阵、输出权重矩阵激活函数。各个层的神经元个数都需要按照实际应用情况进行确定，隐藏层的数量不宜过多，否则会出现过拟合的现象。另外，隐藏层的层数与记忆层的层数应保持一致。循环神经网络在接收到输入数据后，将输入数据与输入权重相乘，再累加上记忆层的数据后便得到隐藏层的数据，隐藏层的数据与输出权重相乘后进行非线性激活函数运算，便得到本轮计算结果。另外，隐藏层的数据需要与隐藏层权重矩阵相乘，以得到新的记忆层。在本实施例中，循环神经网络主要由存内计算神经网络模块构成输入层、隐藏层、记忆层、输出层。输入数据是经由模数转换器输出的声音特征向量，最终输出结果是向受控设备发出控制信号，使得受控设备能够产生声音内容中对应的文字信息。

实施例二

基于传感器网络和存内计算神经网络的控制方法，包括上述实施例一中的控制系统，其控制方法的流程如下：

步骤1，全局复位，将控制系统中的所有模块进行初始化；

步骤2，将训练好的神经网络数学模型中的权重信息和网络结构信息存储到存内计算神经网络模块中；

步骤3，传感器网络获取到外部环境中的信息，将这些信息传输至数据自处理模块；

步骤4，数据自处理模块对初步得到的信息进行处理，过滤掉不需要的信息后，将其传输至模数转换器模块；

步骤5，模数转换器模块将模拟信号转换为包含特征向量信息的高精度数字信号，并将其传输给存内计算神经网络模块；

步骤6，存内计算神经网络模块接收到来自模数转换器模块传输而来的信号后，读写控制模驱动双模式字线驱动模块至数据存储工作模式，存储单元阵列接收到存储指令信号后，将模数转换器模块输出的数据保存至内部；随后双模式字线驱动模块切换至数据运算的工作模式，驱动存储单元阵列进行相乘累加的运算，当存储单元阵列完成一轮相乘累加操作后，将数据输出至非线性激活函数模块；

步骤7，非线性激活函数模块接收到中间结果后对其进行非线性处理，将处理后的结果传输至数据缓冲器模块，若神经网络的计算还未结束则跳转至步骤6，并利用数据缓冲器模块中的数据进行新一轮的结算，否则结束计算；

步骤8，等待步骤7的计算结果，输出控制模块根据计算结果向外界的受控设备输出控制信号，清除不需要的缓存数据，跳转至步骤3继续进行新一轮的计算，直到整个控制系统关闭为止。

如图6，该图展示了该系统的整体工作流程，主要是传感器网络的检测过程和存内计算过程。首先传感器网络获取外界信息后，将其传输至数据自处理模块，数据自处理模块对信号进行处理和过滤后，通过模数转换器将信号转变为数字信号，并将数字信号传输至存内计算神经网络模块。基于存内计算的神经网络依据内部存储的权重信息进行神经网络的计算，最后得到计算结果，并将其传输至后续的受控设备。

以上所述，仅为本发明的优选实施方式，但本发明的保护范围并不局限于此，任何熟悉本领域的技术人员在本发明所揭露的技术范围内，可不经过创造性劳动想到的变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应该以权利要求书所限定的保护范围为准。

Claims (3)

1.基于传感器网络和存内计算神经网络的控制系统，包括传感器网络、数据自处理模块、模数转换器模块和存内计算神经网络模块，其特征在于：

所述传感器网络由传感器阵列构成，通过内部总线连接与数据自处理模块，采集不同的外界环境信息并输出对应的模拟信号，将模拟信号传输至数据自处理模块进行进一步处理；

所述数据自处理模块由多层感知器构成，与模数转换器通过内部总线连接，对传感器网络传来的模拟信号进行初步处理、过滤无效数据，并将处理结果传至模数转换器；

所述模数转换器模块由模数转换器和微处理单元构成，通过内部总线与存内计算神经网络模块连接，对数据自处理模块的处理结果进行信号处理，将模拟信号转换成数字信号，并将此数字信号传输至存内计算神经网络模块；

所述存内计算神经网络模块主要实现神经网络的计算；

所述存内计算神经网络模块包括时钟控制模块、读写控制器模块、双模式字线驱动模块、存储单元阵列、非线性激活函数模块、数据缓冲器模块和输出控制模块；

时钟控制模块用于对基于存内计算的控制系统进行同步时序控制，确保数据在存内计算过程中的有序性和正确性，该模块与外部控制单元相连；

读写控制模块用于响应外部的读写控制请求，并对双模式字线驱动模块进行读写数据的控制；

双模式字线驱动模块用于存内计算控制系统运行阶段，主要控制存储单元阵列的两种不同工作模式：数据存储模式和数据计算模式，当该模块发出数据存储模式的信号时，存储单元阵列会将外部数据读取至内部并加以保存，当该模块发出数据计算模式的信号时，存储单元阵列会对内部的数据完成相乘累加计算，并将计算结果输出至后续的非线性激活函数模块或者数据缓冲器模块；

非线性激活函数模块用于处理存内计算的每一轮中间结果，将中间结果归一化并利用非线性函数对其进行处理；

数据缓冲器模块用于暂存神经网络运算过程中的中间结果，当神经网络要进行下一轮的运算操作时，该模块中暂存的数据会被存储单元阵列读取至内部进行新一轮的相乘累加运算；

存储单元阵列用于存储神经网络的权重参数以及相乘累加的运算，该模块可根据双模式字线驱动模块输出的控制信号分别工作于两种不同的模式：数据存储模式和数据计算模式；

输出控制模块用于最终结果的输出，该模块负责与后续的受控设备进行数据传输，当神经网络完成了最终计算后，该模块向受控设备发送控制信号。

2.根据权利要求1所述基于传感器网络和存内计算神经网络的控制系统，其特征在于：所述传感器网络为声音、光、温度或压力传感器阵列。

3.基于传感器网络和存内计算神经网络的控制方法，包括如权利要求1-2任意一条所述的控制系统，其特征在于，其控制方法的流程如下：

步骤1，全局复位，将控制系统中的所有模块进行初始化；

步骤2，将训练好的神经网络数学模型中的权重信息和网络结构信息存储到存内计算神经网络模块中；

步骤3，传感器网络获取到外部环境中的信息，将这些信息传输至数据自处理模块；

步骤4，数据自处理模块对初步得到的信息进行处理，过滤掉不需要的信息后，将其传输至模数转换器模块；

步骤5，模数转换器模块将模拟信号转换为包含特征向量信息的高精度数字信号，并将其传输给存内计算神经网络模块；

步骤6，存内计算神经网络模块接收到来自模数转换器模块传输而来的信号后，读写控制模驱动双模式字线驱动模块至数据存储工作模式，存储单元阵列接收到存储指令信号后，将模数转换器模块输出的数据保存至内部；随后双模式字线驱动模块切换至数据运算的工作模式，驱动存储单元阵列进行相乘累加的运算，当存储单元阵列完成一轮相乘累加操作后，将数据输出至非线性激活函数模块；

步骤7，非线性激活函数模块接收到中间结果后对其进行非线性处理，将处理后的结果传输至数据缓冲器模块，若神经网络的计算还未结束则跳转至步骤6，并利用数据缓冲器模块中的数据进行新一轮的结算，否则结束计算；

步骤8，等待步骤7的计算结果，输出控制模块根据计算结果向外界的受控设备输出控制信号，清除不需要的缓存数据，跳转至步骤3继续进行新一轮的计算，直到整个控制系统关闭为止。

Images