CN107832846A - 一种整合多种激活函数的神经元电路 - Google Patents

一种整合多种激活函数的神经元电路 Download PDF

Info

Publication number
CN107832846A
CN107832846A CN201711235384.5A CN201711235384A CN107832846A CN 107832846 A CN107832846 A CN 107832846A CN 201711235384 A CN201711235384 A CN 201711235384A CN 107832846 A CN107832846 A CN 107832846A
Authority
CN
China
Prior art keywords
input
module
voltage
variety
weights
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201711235384.5A
Other languages
English (en)
Inventor
胡绍刚
罗鑫
张成明
乔冠超
刘洋
于奇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Electronic Science and Technology of China
Original Assignee
University of Electronic Science and Technology of China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Electronic Science and Technology of China filed Critical University of Electronic Science and Technology of China
Priority to CN201711235384.5A priority Critical patent/CN107832846A/zh
Publication of CN107832846A publication Critical patent/CN107832846A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Neurology (AREA)
  • Logic Circuits (AREA)

Abstract

本发明公开了一种整合多种激活函数的神经元电路，属于神经网络技术领域，包括输入与权值模块、求和与函数模块、函数调整模块；所述输入与权值模块，具有多个电压型输入，并具有电流输出，能够用于接受输入，并对输入进行权值调整；所述求和与函数模块，耦接到所述输入与权值模块的输出端，能够实现电压输出，并用于对输入实现求和，以及进行激活函数处理；所述函数调整模块，耦接到所述求和与函数模块的输出端，用于对电压波形进行调整，以实现多种激活函数。本发明提供了一种具有多个输入并对每个输入进行单独权值控制，以及整合多种激活函数的神经元电路，相比于现有的全部使用数字电路方式实现，结构简单，元件数量少，功耗低。

Description

一种整合多种激活函数的神经元电路
技术领域
本发明涉及神经网络技术领域，尤其涉及一种整合多种激活函数的神经元电路。
背景技术
人工神经网络(Artificial Neural Network，ANN)，是20世纪80年代以来人工智能领域兴起的研究热点。它从信息处理角度对人脑神经元网络进行抽象，建立某种简单模型，并按不同的连接方式组成不同的网络。在工程与学术界也常简称为神经网络或类神经网络。
神经网络是一种运算模型，由大量的节点(或称神经元)之间相互连接构成，每个节点代表一种特定的输出函数，也称为激励函数；每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重，这相当于人工神经网络的记忆。网络的输出则依网络的连接方式、权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。随着深度学习的快速发展，激活函数的种类也逐渐丰富起来。目前，在机器学习领域广泛应用的激活函数有Sigmoid(S型生长曲线)函数、Tanh(双曲正切)函数、ReLU(修正线性单元)函数、Sign(符号)函数等等。
在实现本发明的过程中，发明人发现现有技术至少存在以下问题：
目前还没有一种能够具有多个输入并对每个输入进行单独权值控制，以及整合多种激活函数的神经元电路。
发明内容
为了解决现有技术的问题，本发明实施例提供了一种整合多种激活函数的神经元电路。所述技术方案如下：
一种整合多种激活函数的神经元电路，包括输入与权值模块、求和与函数模块、函数调整模块；
所述输入与权值模块，具有多个电压型输入，并具有电流输出，能够用于接受输入，并对输入进行权值调整；
所述求和与函数模块，耦接到所述输入与权值模块的输出端，能够实现电压输出，并用于对输入实现求和，以及进行激活函数处理；
所述函数调整模块，耦接到所述求和与函数模块的输出端，用于对电压波形进行调整，以实现多种激活函数。
进一步的，所述输入与权值模块还包括输入电路和权值控制电路；
所述输入电路，用于将输入电压转化为电流；
所述权值控制电路，用于实现对输入的权值大小以及输入正负的调整。
进一步的，所述输入电路具有多个电压型输入，每一个电压型输入同时接到一个NMOS管和一个PMOS管的栅极。
进一步的，所述权值控制电路包括：
存储器，用于存储每个输入对应的权值；
数模转换器，用于将存储器中存储的权值转化为相应的模拟电压；
权值MOS管，用于根据数模转换器输出在权值MOS管栅极上的模拟电压来改变工作状态，实现输入的权值幅度调整；
正向开关，与所述权值MOS管耦接，用于输入选择正向输入通路；
符号处理电路，具有第一输入端与第一输出端，其中，所述第一输入端与所述正向开关耦接，所述第一输出端的输出量为电流，所述第一输出端用于将输入电流反向后输出，以实现输入电流的符号处理；
负向开关，与所述权值MOS管耦接，用于输入选择负向输入通路。
进一步的，所述求和与函数模块，包括以二极管方式连接的两个晶体管。
进一步的，所述求和与函数模块，还包括第二输入端与第二输出端，所述第二输入端的输入量为电流，所述第二输出端的输出量为电压。
进一步的，所述求和与函数模块在不需要电压转换直接实现所需激活函数时，所述第二输出端的输出电压量为最终输出。
进一步的，所述函数调整模块，包括电压波形调整模块，用于对所述求和与函数模块输出的电压波形进行调整，以实现多种形式的激活函数。
进一步的，所述电压波形调整模块还包括ReLU函数模块，所述ReLU函数模块由二极管或MOS管实现，其将所述求和与函数模块输出的电压波形进行调整，实现类ReLU函数输出。
进一步的，所述电压波形调整模块还包括Sign函数模块，所述Sign函数模块用开关电路实现，其将所述求和与函数模块输出的电压波形进行调整，实现类Sign函数输出。
本发明实施例提供的技术方案带来的有益效果是：
本发明实施例提供了一种具有多个输入并对每个输入进行单独权值控制，以及整合多种激活函数的神经元电路，通过采用模拟电路和小部分数字电路实现具有对输入进行加权求和后经由激活函数输出功能的神经元电路，并在不改变其主要电路部分的情况下，通过选择不同的输出通路实现多种激活函数，具体的，包括类Sigmoid函数、类Tanh函数、类ReLU函数、类Sign函数，相比于现有的全部使用数字电路方式实现，结构简单，元件数量少，功耗低。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种整合多种激活函数的神经元电路示意图；
图2A是本发明实施例提供的一种整合多种激活函数的神经元电路中的输入与权值模块示意图；
图2B是图2A中所示的输入与权值模块的权值控制电路示意图；
图2C是图2A中所示的输入与权值模块中的开关电路示意图；
图2D是图2A中所示的输入与权值模块中的符号处理电路示意图；
图3是本发明实施例提供的一种整合多种激活函数的神经元电路中的求和与函数模块示意图；
图4A是本发明实施例提供的一种整合多种激活函数的神经元电路中的函数调整模块中的Relu函数调整模块示意图；
图4B是本发明实施例提供的一种整合多种激活函数的神经元电路中的函数调整模块中的Sign函数调整模块示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明实施方式作进一步地详细描述。
本发明实施例提供了一种整合多种激活函数的神经元电路，包括输入与权值模块、求和与函数模块、函数调整模块；
所述输入与权值模块，具有多个电压型输入，并具有电流输出，能够用于接受输入，并对输入进行权值调整；
所述求和与函数模块，耦接到所述输入与权值模块的输出端，能够实现电压输出，并用于对输入实现求和，以及进行激活函数处理；
所述函数调整模块，耦接到所述求和与函数模块的输出端，用于对电压波形进行调整，以实现多种激活函数。
在本实施例中，所述输入与权值模块还包括输入电路和权值控制电路；
所述输入电路，用于将输入电压转化为电流；
所述权值控制电路，用于实现对输入的权值大小以及输入正负的调整。
在本实施例中，所述输入电路具有多个电压型输入，每一个电压型输入同时接到一个NMOS管和一个PMOS管的栅极。
在本实施例中，所述权值控制电路包括：
存储器，用于存储每个输入对应的权值；
数模转换器，用于将存储器中存储的权值转化为相应的模拟电压；
权值MOS管，用于根据数模转换器输出在权值MOS管栅极上的模拟电压来改变工作状态，实现输入的权值幅度调整；
正向开关，与所述权值MOS管耦接，用于输入选择正向输入通路；
符号处理电路，具有第一输入端与第一输出端，其中，所述第一输入端与所述正向开关耦接，所述第一输出端的输出量为电流，所述第一输出端用于将输入电流反向后输出，以实现输入电流的符号处理；
负向开关，与所述权值MOS管耦接，用于输入选择负向输入通路。
在本实施例中，所述求和与函数模块，包括以二极管方式连接的两个晶体管。
在本实施例中，所述求和与函数模块，还包括第二输入端与第二输出端，所述第二输入端的输入量为电流，所述第二输出端的输出量为电压。
在本实施例中，所述求和与函数模块在不需要电压转换直接实现所需激活函数时，所述第二输出端的输出电压量为最终输出。
在本实施例中，所述函数调整模块，包括电压波形调整模块，用于对所述求和与函数模块输出的电压波形进行调整，以实现多种形式的激活函数。
在本实施例中，所述电压波形调整模块还包括ReLU函数模块，所述ReLU函数模块由二极管或MOS管实现，其将所述求和与函数模块输出的电压波形进行调整，实现类ReLU函数输出。
在本实施例中，所述电压波形调整模块还包括Sign函数模块，所述Sign函数模块用开关电路实现，其将所述求和与函数模块输出的电压波形进行调整，实现类Sign函数输出。
如图1所示，图1示出了一种具有多个输入，并加权求和，整合多个激活函数的神经元电路。在图1中，求和与函数模块为∑/F，∑/F左侧的电路部分为输入与权值模块，该输入与权值模块中具体的电路标号，将结合图2进行具体说明。∑/F右侧的F’为函数调整模块。该神经元电路在使用较少的元件的情况下，可以实现对多个输入进行加权求和，同时通过选择不同的输出通路来实现不同的激活函数，具体的，可以实现的激活函数包括类Sigmoid函数、类Tanh函数、类ReLU函数、类Sign函数等。相比于以单纯的数字电路方式来实现权值以及各种激活函数，上述神经元电路更为简单，所需元件数目更少，可以有效地减少功耗，提高集成度。
结合图1，对图2A-2D进行介绍，其中，图2A示出了根据图1所示的神经元电路的输入与权值模块。此电路的输入个数可根据实际需要进行相应的增减。如图2A所示，每一个输入同时接到一个输入PMOS管与相应的一个输入NMOS管的栅极，对应的PMOS管与NMOS管将输入量电压V转换为电流量I，输入电流量经过权值控制电路，以实现对各个输入的权值调整，输入电流经过权值控制电路调整后可以选择经由正向开关或者反向开关流到输出，输入电流若通过反向开关直接接到输出则为反向输入，输入电流若通过正向开关后，再经过符号处理模块后接到输出便为正向输入。
具体的，对于某一个输入，其可以由1输入到对应的PMOS管与NMOS管的栅级得到输入电流4，输入电流4经过权值控制模块可选择流经正向开关后得到电流7，也可选择流经反向开关得到电流10，电流7与其他输入的正向输入汇合为电流13，并经过符号处理模块得到电流14，电流10与其他输入的反向输入电流汇合为电流15。所有输入的正向输入电流14与所有输入电流的反向输入电流15汇合得到电流16，电流16作为总的输入电流。相应的，该输入也可以由2或3输入，之后的处理逻辑，同由1输入类似。
图2B示出了图2A中所示的输入与权值模块中的权值控制电路。如图2B所示，每个输入的权重值存储在RAM中，通过DAC将RAM中存储的权重值转换为相应的电压Vw，通过电压Vw控制单个晶体管MW的电流，从而实现了对单个输入的权重控制。在本发明实施例中，通过电压控制单个MOS管的电流来实现对单个输入的权重控制，也可使用更为复杂的电路来替换晶体管Mw实现更为精确的权值调整。
图2C示出了图2A中所示的输入与权值模块中的开关电路。如图2C所示，开关电路使用了传输门作为开关，也可以使用更为复杂的电路来实现开关电路，以达到更好的控制开关的效果。
图2D示出了图2A中所示的输入与权值模块中的符号处理电路。如图2D所示，符号处理电路使用了两个电流镜对输入电流进行符号处理，其中，电流镜的输入电流13与输出电流14幅度相等，但电流13与电流14方向相反。
图3示出了图1中所示的神经元电路框图中的求和与函数模块∑/F。如图3所示，输入与权值模块将输入电压转化为电流并最终得到正向输入总电流14与反向输入总电流15，电流14与电流15相加得到最终输入总电流16。电流16输入到求和与函数模块。
具体的，由两个二极管方式连接的晶体管将输入电流16转化为电压。当实现类Sigmoid函数以及类Tanh函数时，不需要图4所示的函数调整模块，直接由求和与函数模块得到最终输出。具体的，使得VDD为正，VSS为零，并调整各个MOS管宽长比即可得到类Sigmoid函数输出；使得VDD＝-VSS单并调整各个MOS管宽长比即可得到类Tanh函数输出。本实施例使用两个二极管连接方式的MOS管实现输入电流到输出电压的转换，并能通过调整各个管子的宽长比以及电源的调整得到类Sigmoid函数以及类Tanh函数输出，与使用数字电路实现这两个激活函数相比，本实施例所需的元件数目更少，功耗更低，便于集成。
图4A示出了图1中所示的神经元电路的函数调整模块F’中的ReLU函数调整模块。具体的，在实现ReLU函数时，将经由图3所示的求和与函数模块得到的电压17输入到ReLU函数调整模块，ReLU函数调整模块的另一输入端输入Vref。
具体的，需要对各个MOS管宽长比进行适当的调整，函数调整模块为使用二极管或MOS管构成的ReLU调整模块。其中，电压17经由线性调整模块得到输出，实现类ReLU函数。
图4B示出了图1中所示的神经元电路中的函数调整模块中的Sign函数调整模块。具体的，在实现Sign函数时，将经由图3所示的求和与函数模块得到的电压17输入到Sign函数调整模块，从而实现类Sign函数。
本发明实施例提供了一种具有多个输入并对每个输入进行单独权值控制，以及整合多种激活函数的神经元电路，通过采用模拟电路和小部分数字电路实现具有对输入进行加权求和后经由激活函数输出功能的神经元电路，并在不改变其主要电路部分的情况下，通过选择不同的输出通路实现多种激活函数，具体的，包括类Sigmoid函数、类Tanh函数、类ReLU函数、类Sign函数，相比于现有的全部使用数字电路方式实现，结构简单，元件数量少，功耗低。
需要说明的是，术语“包括”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的商品或者系统不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种商品或者系统所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的商品或者系统中还存在另外的相同要素。
以上所述仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种整合多种激活函数的神经元电路，其特征在于，包括输入与权值模块、求和与函数模块、函数调整模块；
所述输入与权值模块，具有多个电压型输入，并具有电流输出，能够用于接受输入，并对输入进行权值调整；
所述求和与函数模块，耦接到所述输入与权值模块的输出端，能够实现电压输出，并用于对输入实现求和，以及进行激活函数处理；
所述函数调整模块，耦接到所述求和与函数模块的输出端，用于对电压波形进行调整，以实现多种激活函数。
2.根据权利要求1所述的整合多种激活函数的神经元电路，其特征在于，所述输入与权值模块还包括输入电路和权值控制电路；
所述输入电路，用于将输入电压转化为电流；
所述权值控制电路，用于实现对输入的权值大小以及输入正负的调整。
3.根据权利要求2所述的整合多种激活函数的神经元电路，其特征在于，所述输入电路具有多个电压型输入，每一个电压型输入同时接到一个NMOS管和一个PMOS管的栅极。
4.根据权利要求3所述的整合多种激活函数的神经元电路，其特征在于，所述权值控制电路包括：
存储器，用于存储每个输入对应的权值；
数模转换器，用于将存储器中存储的权值转化为相应的模拟电压；
权值MOS管，用于根据数模转换器输出在权值MOS管栅极上的模拟电压来改变工作状态，实现输入的权值幅度调整；
正向开关，与所述权值MOS管耦接，用于输入选择正向输入通路；
符号处理电路，具有第一输入端与第一输出端，其中，所述第一输入端与所述正向开关耦接，所述第一输出端的输出量为电流，所述第一输出端用于将输入电流反向后输出，以实现输入电流的符号处理；
负向开关，与所述权值MOS管耦接，用于输入选择负向输入通路。
5.根据权利要求1所述的整合多种激活函数的神经元电路，其特征在于，所述求和与函数模块，包括以二极管方式连接的两个晶体管。
6.根据权利要求5所述的整合多种激活函数的神经元电路，其特征在于，所述求和与函数模块，还包括第二输入端与第二输出端，所述第二输入端的输入量为电流，所述第二输出端的输出量为电压。
7.根据权利要求6所述的整合多种激活函数的神经元电路，其特征在于，所述求和与函数模块在不需要电压转换直接实现所需激活函数时，所述第二输出端的输出电压量为最终输出。
8.根据权利要求1所述的整合多种激活函数的神经元电路，其特征在于，所述函数调整模块，包括电压波形调整模块，用于对所述求和与函数模块输出的电压波形进行调整，以实现多种形式的激活函数。
9.根据权利要求8所述的整合多种激活函数的神经元电路，其特征在于，所述电压波形调整模块还包括ReLU函数模块，所述ReLU函数模块由二极管或MOS管实现，其将所述求和与函数模块输出的电压波形进行调整，实现类ReLU函数输出。
10.根据权利要求9所述的整合多种激活函数的神经元电路，其特征在于，所述电压波形调整模块还包括Sign函数模块，所述Sign函数模块用开关电路实现，其将所述求和与函数模块输出的电压波形进行调整，实现类Sign函数输出。
CN201711235384.5A 2017-11-30 2017-11-30 一种整合多种激活函数的神经元电路 Pending CN107832846A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201711235384.5A CN107832846A (zh) 2017-11-30 2017-11-30 一种整合多种激活函数的神经元电路

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201711235384.5A CN107832846A (zh) 2017-11-30 2017-11-30 一种整合多种激活函数的神经元电路

Publications (1)

Publication Number Publication Date
CN107832846A true CN107832846A (zh) 2018-03-23

Family

ID=61646740

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201711235384.5A Pending CN107832846A (zh) 2017-11-30 2017-11-30 一种整合多种激活函数的神经元电路

Country Status (1)

Country Link
CN (1) CN107832846A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108445766A (zh) * 2018-05-15 2018-08-24 山东大学 基于rpd-smc和rise的无模型四旋翼无人机轨迹跟踪控制器及方法
CN110866595A (zh) * 2018-08-28 2020-03-06 北京嘉楠捷思信息技术有限公司 一种集成电路中激活函数运算方法、装置及电路
CN110990771A (zh) * 2018-10-03 2020-04-10 马克西姆综合产品公司 用于机器学习过程的高效模拟矩阵乘法的系统和方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6754645B2 (en) * 2001-03-20 2004-06-22 Winbond Electronics Corp. Voltage-mode pulse width modulation VLSI implementation of neural networks
CN103023839A (zh) * 2012-12-04 2013-04-03 温州大学 基于输出反馈偏置型复连续反馈神经网络结构的无线光通信系统盲均衡方法
CN106447033A (zh) * 2016-10-13 2017-02-22 中国科学院深圳先进技术研究院 神经元突触电路及神经元电路
CN106779059A (zh) * 2016-12-30 2017-05-31 华中科技大学 一种基于忆阻的巴普洛夫联想记忆的人工神经网络电路
CN106815636A (zh) * 2016-12-30 2017-06-09 华中科技大学 一种基于忆阻器的神经元电路
CN107122825A (zh) * 2017-03-09 2017-09-01 华南理工大学 一种神经网络模型的激活函数生成方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6754645B2 (en) * 2001-03-20 2004-06-22 Winbond Electronics Corp. Voltage-mode pulse width modulation VLSI implementation of neural networks
CN103023839A (zh) * 2012-12-04 2013-04-03 温州大学 基于输出反馈偏置型复连续反馈神经网络结构的无线光通信系统盲均衡方法
CN106447033A (zh) * 2016-10-13 2017-02-22 中国科学院深圳先进技术研究院 神经元突触电路及神经元电路
CN106779059A (zh) * 2016-12-30 2017-05-31 华中科技大学 一种基于忆阻的巴普洛夫联想记忆的人工神经网络电路
CN106815636A (zh) * 2016-12-30 2017-06-09 华中科技大学 一种基于忆阻器的神经元电路
CN107122825A (zh) * 2017-03-09 2017-09-01 华南理工大学 一种神经网络模型的激活函数生成方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
V. SURESH BABU，AND ETC: "FGMOSFET circuit for Neuron Activation Function and its derivative", 《2009 4TH IEEE CONFERENCE ON INDUSTRIAL ELECTRONICS AND APPLICATIONS》 *
周伟雄等: "模拟神经元电路实现研究现状与进展", 《固体电子学研究与进展》 *

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108445766A (zh) * 2018-05-15 2018-08-24 山东大学 基于rpd-smc和rise的无模型四旋翼无人机轨迹跟踪控制器及方法
CN108445766B (zh) * 2018-05-15 2020-02-21 山东大学 基于rpd-smc和rise的无模型四旋翼无人机轨迹跟踪控制器及方法
CN110866595A (zh) * 2018-08-28 2020-03-06 北京嘉楠捷思信息技术有限公司 一种集成电路中激活函数运算方法、装置及电路
CN110866595B (zh) * 2018-08-28 2024-04-26 嘉楠明芯(北京)科技有限公司 一种集成电路中激活函数运算方法、装置及电路
CN110990771A (zh) * 2018-10-03 2020-04-10 马克西姆综合产品公司 用于机器学习过程的高效模拟矩阵乘法的系统和方法
US11829864B2 (en) 2018-10-03 2023-11-28 Analog Devices, Inc. Systems and methods for energy-efficient analog matrix multiplication for machine learning processes
CN110990771B (zh) * 2018-10-03 2024-04-23 马克西姆综合产品公司 用于机器学习过程的高效模拟矩阵乘法的系统和方法

Similar Documents

Publication Publication Date Title
CN107832846A (zh) 一种整合多种激活函数的神经元电路
CN106779059A (zh) 一种基于忆阻的巴普洛夫联想记忆的人工神经网络电路
US20020169729A1 (en) Voltage-mode pulse width modulation VLSI implementation of neural networks
CN105160401A (zh) 一种基于忆阻器阵列的wta神经网络及其应用
CN208299759U (zh) 一种放大器输入失调电压的自动校正电路
Lodi et al. Modulation with metaheuristic approach for cascaded-MPUC49 asymmetrical inverter with boosted output
CN109742748A (zh) 一种适用于多电压等级直流配电系统的稳定判据方法
Sukumar et al. Three-level inverter-fed induction motor drive performance improvement with neuro-fuzzy space vector modulation
CN116826847B (zh) 动态网络重构与无功电压调整协同优化方法、装置及设备
Beerten et al. MatACDC-an open source software tool for steady-state analysis and operation of HVDC grids
Bose Artificial neural network applications in power electronics
Thangavel et al. Design and development of solar photovoltaic fed modular multilevel inverter using intelligent techniques for renewable energy applications
JPH02276310A (ja) 論理回路
Huh et al. An adaptive fuzzy controller for power converters
CN110443356A (zh) 一种基于多阻态忆阻器的电流型神经网络
CN105911882A (zh) 基于lpv模型boost变换器的鲁棒变增益控制方法
Lin Comparison of CART-and MLP-based power system transient stability preventive control
Sahin et al. Fuzzy logic controlled synchronous buck DC-DC converter IOR solar energy-hydrogen systems
CN111969993B (zh) 基于CCSA与Sigmoid激活函数复用的电路结构
Sivarani et al. Novel intelligent hybrid techniques for speed control of electric drives fed by matrix converter
Serrano-Balbontín et al. Introducing fractional order dynamics in neuromorphic control: Application to a velocity servomotor
CN107749634A (zh) 面向直流电力系统的统一直流潮流控制器
Gupta et al. Asymmetric cross-coupled differential pair configuration to realize neuron activation function and its derivative
JPH0360219A (ja) 超伝導しきい値論理回路
Ninomiya et al. Design and simulation of neural network digital sequential circuits

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
AD01 Patent right deemed abandoned
AD01 Patent right deemed abandoned

Effective date of abandoning: 20220405