CN112130057A - 基于忆阻器神经网络的辐射效应诊断系统 - Google Patents

基于忆阻器神经网络的辐射效应诊断系统 Download PDF

Info

Publication number
CN112130057A
CN112130057A CN202010960715.7A CN202010960715A CN112130057A CN 112130057 A CN112130057 A CN 112130057A CN 202010960715 A CN202010960715 A CN 202010960715A CN 112130057 A CN112130057 A CN 112130057A
Authority
CN
China
Prior art keywords
circuit
neural network
layer
positive
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010960715.7A
Other languages
English (en)
Other versions
CN112130057B (zh
Inventor
王新胜
喻明艳
韩良
王静
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Harbin Institute of Technology Weihai
Original Assignee
Harbin Institute of Technology Weihai
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Harbin Institute of Technology Weihai filed Critical Harbin Institute of Technology Weihai
Priority to CN202010960715.7A priority Critical patent/CN112130057B/zh
Publication of CN112130057A publication Critical patent/CN112130057A/zh
Application granted granted Critical
Publication of CN112130057B publication Critical patent/CN112130057B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01R—MEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
    • G01R31/00—Arrangements for testing electric properties; Arrangements for locating electric faults; Arrangements for electrical testing characterised by what is being tested not provided for elsewhere
    • G01R31/28—Testing of electronic circuits, e.g. by signal tracer
    • G01R31/2851—Testing of integrated circuits [IC]
    • G01R31/2855—Environmental, reliability or burn-in testing
    • G01R31/2872—Environmental, reliability or burn-in testing related to electrical or environmental aspects, e.g. temperature, humidity, vibration, nuclear radiation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Biophysics (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Environmental & Geological Engineering (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Toxicology (AREA)
  • Computer Hardware Design (AREA)
  • Testing Of Individual Semiconductor Devices (AREA)
  • Semiconductor Integrated Circuits (AREA)

Abstract

本发明涉及一种基于忆阻器神经网络的辐射效应诊断系统，其解决了现有技术通过神经网络诊断集成电路的辐射失效状态，耗费大量硬件资源，诊断过程可靠性低的技术问题，其通过设计的卷积神经网络对集成电路的故障数据集实现了分类诊断；基于忆阻器的神经网络，包含了第一层一维卷积层电路、第二层一维卷积层电路、矩阵正负值运算电路电路、最大池化电路、全连接层的电路结构；通过忆阻器搭建的智能集成电路辐射效应诊断系统可以将诊断电路与待诊断电路集成，可以有效掌控电路的状态，保障系统的可靠性。本发明广泛用于集成电路辐射故障诊断。

Description

基于忆阻器神经网络的辐射效应诊断系统
技术领域
本发明涉及集成电路辐射故障诊断技术领域，具体而言，涉及一种基于忆阻器神经网络的辐射效应诊断系统。
背景技术
航天事业是我国群策群力发展的重要事业，航天事业的稳步向前离不开航天器的可靠性，电子元器件是航天技术快速提升的关键。航天器正常工作时一般位于太空中，太空中存在大量高能粒子，如果集成电路暴露在太空环境中，那么集成电路将迅速出错甚至失效,有许多航天器受到空间环境影响而出现故障，而其中45％左右的故障是由各类辐射失效所导致的。随着集成电路工艺技术的发展，纳米级的MOSFET会产生一些新的辐射效应。实时判断集成电路所处的工作状态，诊断集成电路的辐射失效状态，及时采取处理措施可以很大程度的降低航天器出现故障的概率。
目前，通过神经网络诊断集成电路的辐射失效状态，会耗费大量硬件资源，并且诊断过程可靠性低。
发明内容
本发明就是为了解决现有技术通过神经网络诊断集成电路的辐射失效状态，耗费大量硬件资源，诊断过程可靠性低的技术问题，提供了一种基于忆阻器神经网络的辐射效应诊断系统。
本发明的技术方案是，提供一种基于忆阻器神经网络的辐射效应诊断系统，通过以下过程来实现：
第一步，搭建模拟辐射现象的器件模型，通过器件模型模拟仿真辐射现象，根据器件模拟仿真结果提取关键参数，通过辐射带来的1/f噪声变化导致的电流改变获取不同的辐射故障情况下的不同电流功耗数据，将其作为故障数据集；
第二步，通过卷积神经网络对故障数据集进行预处理，然后通过设定训练的迭代次数对单组数据输入网络的训练次数，使用随机梯度下降的方法进行训练；
第三步，采用参数移植的方法，将所述第二步训练之后的卷积神经网络参数移植到忆阻器交叉阵列神经网络电路中，将神经网络的权重和偏置映射到忆阻器的电导值中，实现辐射故障诊断神经网络的硬件电路的搭建，硬件电路包括第一层一维卷积层电路、第二层一维卷积层电路、矩阵正负值运算电路电路、最大池化电路、全连接层的电路结构。
优选地，所述第二步中，预处理的过程是，对神经网络的权值初始化，采用Xavier正态分布进行初始化，分别对一维卷积层和全连接层的偏置全部初始化，一维卷积层和全连接层的偏置全部初始化为0.0，权重为高斯分布。
优选地，所述第三步中，数据流拆分为正负部分流进第一层一维卷积层电路，输出正值数据流入最大池化层电路1，输出到池化层1正负产生电路，生成正负值数据流入第二层一位卷积层电路，由此输出正值数据流入最大池化层电路2，输出正值数据到池化层1正负产生电路，生成正负值数据流入第二层一位卷积层电路全连接层。
本发明的有益效果是：本发明可以将诊断电路与待诊断电路集成，可以有效掌控电路的状态，保障系统的可靠性，实现分类诊断，诊断过程可靠性高，节省硬件资源。
对辐射故障诊断神经网络训练之前，本发明通过对辐射故障诊断神经网络的权值初始化以加快辐射故障诊断神经网络参数的收敛速度。
本发明进一步的特征和方面，将在以下参考附图的具体实施方式的描述中，得以清楚地记载。
附图说明
图1是本发明集成电路辐射故障诊断方法的流程图；
图2是本发明辐射故障诊断的一维神经网络结构图；
图3是是本发明神经网络的权重偏置初始化策略图；
图4是本发明conv1中的一个卷积核电路图；
图5是本发明正负值运算产生电路的结构图
图6是本发明最大池化电路的原理电路图；
图7是本发明进行分类的全连接层电路图。
具体实施方式
以下参照附图，以具体实施例对本发明作进一步详细说明。
忆阻器是具有一定“记忆”特性的四种电学基本元件之一，目前主要的应用方向有数据存储、逻辑运算、神经网络运算等，且忆阻器可以与CMOS电路集成。忆阻器电路在数值运算方面比CMOS电路更具优势，在实现2×2乘法器时，使用纯CMOS搭建需要62个器件，而使用忆阻器与MOSFET混合搭建时仅需要36个器件就可以实现相同功能，忆阻器也可以实现模拟信号的乘法。使用忆阻器交叉阵列搭建CNN的硬件电路是一种合适选择，通过忆阻器搭建的智能集成电路辐射效应诊断系统可以将诊断电路与待诊断电路集成，可以有效掌控电路的状态，保障系统的可靠性。
如图1所示，基于忆阻器的卷积神经网络对集成电路辐射故障诊断方法主要包括以下步骤：
第一步，搭建模拟辐射现象的器件模型，通过器件模型模拟仿真辐射现象，根据器件模拟仿真结果提取关键参数，通过辐射带来的1/f噪声变化导致的电流改变获取不同的辐射故障情况下的不同电流功耗数据，将其作为故障数据集。
比如，通过参数采集来构建具体表现为漏极电流异常的晶体管电路模型。
第二步，参考图2和3，通过卷积神经网络对故障数据集进行预处理，然后通过设定训练的迭代次数(iteration)对单组数据输入网络的训练次数，使用随机梯度下降(Stochastic Gradient Descent,SGD)的方法进行训练。
数据预处理实现的功能是将原始数据等比例放缩到区间(-1,1)之间，由于故障诊断神经网络的输入数据的相对较小，在进行神经网络训练时可能出现训练速度慢的情况，使用数据预处理对输入数据标准化，一方面对数据按照一定比例进行放大，另一方面加快神经网络训练时的收敛速度。具体地预处理过程是，对神经网络的权值初始化，采用Xavier正态分布进行初始化，分别对一维卷积层和全连接层的偏置全部初始化，一维卷积层和全连接层的偏置全部初始化为0.0，权重为高斯分布。
由于一般的卷积神经网络激活函数为ReLU激活函数，但由于ReLU激活函数的正数部分没有上限，如果通过忆阻器硬件电路实现，忆阻器卷积神经网络计算出的电流或电压值也没有上限，这不符合忆阻器电路对电压的要求。为了为下一步神经网络的硬件实现做准备，该辐射故障诊断的一维神经网络用到的激活函数是Sigmoid激活函数，Sigmoid激活函数可以将输出值限定在(0,1)的范围内，该范围内的电压值是满足神经网络硬件电路的运算范围的。
预处理之后的训练过程具体是，本发明采集的仿真数据是csv格式，通过Python编写数据处理脚本将所有csv文件自动加入标签(label)号后写入训练集和测试集两个txt文件中。神经网络的训练程序首先对训练集的txt文件进行读取，通过一维卷积的公式对数据预处理，通过设定训练的迭代次数(iteration)对单组数据输入网络的训练次数，辐射故障诊断神经网络训练时使用的是随机梯度下降(Stochastic Gradient Descent,SGD)的方法。卷积运算需要进行多次的乘法和加法，是基于英伟达统一计算设备架构(ComputeUnified Device Architecture,CUDA)的GPU进行训练。
第三步，采用参数移植的方法，将前述第二步训练之后的卷积神经网络参数移植到忆阻器交叉阵列神经网络电路中，将神经网络的权重和偏置映射到忆阻器的电导值中，实现辐射故障诊断神经网络的硬件电路的搭建。具体搭建过程是，数据流拆分为正负部分流进第一层一维卷积层电路，输出正值数据流入最大池化层电路1，输出到池化层1正负产生电路，生成正负值数据流入第二层一位卷积层电路，由此输出正值数据流入最大池化层电路2，输出正值数据到池化层1正负产生电路，生成正负值数据流入第二层一位卷积层电路全连接层，最后输出诊断结果。
参考图4，辐射故障诊断神经网络的硬件电路的搭建过程具体是：
conv1的输入为14个数据，需要拆分成正半部分和负半部分，每一个忆阻器的电导值都需要通过转换公式进行转换。本发明通过Python脚本将训练后的神经网络参数转换为忆阻器二氧化钛边界的相对位置，并将相对位置的值移植到忆阻器电路中。inp是输入的正半部分数据值，inn是输入的负半部分数据值，输入1V电压的一行忆阻器用于对拟合的激活函数偏置和一维卷积层的偏置进行计算。用VerilogA模型替代图2中模拟乘法器的功能。本发明的辐射故障诊断神经网络的conv1有6个卷积核，图2中只是其中一个卷积核的电路图，其他的卷积核结构与图2相同，区别在于忆阻器的电导值和还原倍数不同。
第二层一维卷积层中的卷积核电路图与图1类似，只是结构上输入节点和输出节点数目不同，电路方面忆阻器的电导和乘法器还原倍数不同。
如附图5所示，是正负值产生电路的电路图，电路将输入Vin的值输出为Vn和Vp，由于Sigmoid激活函数的输出均为正值或0，所以Vn的值是Vin的值绝对值的相反数，Vp的值是Vin的绝对值，差分放大器的增益均为1。
如附图6所示，图中左边的是CMOS比较器，其功能是比较两个输入的大小，如果正极输入大于负极输入，则输出上限电压1V，相反如果正极输入小于负极电压，则输出下限电压0V。右边的器件是可用CMOS传输门实现的单刀双掷开关，Sel是数据输出选择信号，Sel为高电平时，将输出Vin1的值，Sel为低电平时，则输出Vin2的值。最大池化电路由这种电路为单元组成，辐射故障诊断神经网络的第一层最大池化层有72个输入和36个输出，共需要36个这样的单元组成，第二层最大池化层有48个输入和24个输出，共需要24个这样的单元组成。
如附图7所示，全连接层有24个输入和3个分类输出，且全连接层的输出没有使用Sigmoid函数进行激活，但同样需要单独的忆阻器来计算全连接层的偏置值。
本发明在Virtuoso中对神经网络的总体电路进行搭建，如附图1所示，矩形的方框内代表上文中介绍的电路结构，箭头方向代表数据流的方向，箭头上的数据代表各个电路之间的数据数量及正负，未标明正负代表数据可能为正值或负值。
如图1所示，14位数据流拆分为正负部分流进第一层一维卷积层电路，输出72个正值数据流入最大池化层电路1，输出36个数据到池化层1正负产生电路，生成36位正负值数据流入第二层一位卷积层电路，由此输出48位正值数据流入最大池化层电路2，输出24位正值数据到池化层1正负产生电路，生成24位正负值数据流入第二层一位卷积层电路全连接层，最后输出数据。
硬件电路包括第一层一维卷积层电路、第二层一维卷积层电路、矩阵正负值运算电路、最大池化电路、全连接层的电路结构。
以上所述仅对本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。

Claims (3)

1.一种基于忆阻器神经网络的辐射效应诊断系统，其特征在于，通过以下过程来实现：
第一步，搭建模拟辐射现象的器件模型，通过器件模型模拟仿真辐射现象，根据器件模拟仿真结果提取关键参数，通过辐射带来的1/f噪声变化导致的电流改变获取不同的辐射故障情况下的不同电流功耗数据，将其作为故障数据集；
第二步，通过卷积神经网络对故障数据集进行预处理，然后通过设定训练的迭代次数对单组数据输入网络的训练次数，使用随机梯度下降的方法进行训练；
第三步，采用参数移植的方法，将所述第二步训练之后的卷积神经网络参数移植到忆阻器交叉阵列神经网络电路中，将神经网络的权重和偏置映射到忆阻器的电导值中，实现辐射故障诊断神经网络的硬件电路的搭建，硬件电路包括第一层一维卷积层电路、第二层一维卷积层电路、矩阵正负值运算电路、最大池化电路、全连接层的电路结构。
2.根据权利要求1所述的基于忆阻器神经网络的辐射效应诊断系统，其特征在于，所述第二步中，预处理的过程是，对神经网络的权值初始化，采用Xavier正态分布进行初始化，分别对一维卷积层和全连接层的偏置全部初始化，一维卷积层和全连接层的偏置全部初始化为0.0，权重为高斯分布。
3.根据权利要求1所述的基于忆阻器神经网络的辐射效应诊断系统，其特征在于，所述第三步中，数据流拆分为正负部分流进第一层一维卷积层电路，输出正值数据流入最大池化层电路1，输出到池化层1正负产生电路，生成正负值数据流入第二层一位卷积层电路，由此输出正值数据流入最大池化层电路2，输出正值数据到池化层1正负产生电路，生成正负值数据流入第二层一位卷积层电路全连接层。
CN202010960715.7A 2020-09-14 2020-09-14 基于忆阻器神经网络的辐射效应诊断系统 Active CN112130057B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010960715.7A CN112130057B (zh) 2020-09-14 2020-09-14 基于忆阻器神经网络的辐射效应诊断系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010960715.7A CN112130057B (zh) 2020-09-14 2020-09-14 基于忆阻器神经网络的辐射效应诊断系统

Publications (2)

Publication Number Publication Date
CN112130057A true CN112130057A (zh) 2020-12-25
CN112130057B CN112130057B (zh) 2024-04-16

Family

ID=73845587

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010960715.7A Active CN112130057B (zh) 2020-09-14 2020-09-14 基于忆阻器神经网络的辐射效应诊断系统

Country Status (1)

Country Link
CN (1) CN112130057B (zh)

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100085242A1 (en) * 2008-10-07 2010-04-08 Sungkyunkwan University Foundation For Corporate Collaboration Method of sensor network localization through reconstruction of radiation pattern
EP2500738A1 (en) * 2011-03-17 2012-09-19 Kabushiki Kaisha Toshiba Abnormality diagnosis for photovoltaic power generation system
US20160004960A1 (en) * 2013-03-05 2016-01-07 Sylvain SAÏGHI Unit having an artificial neuron and a memristor
CN107742153A (zh) * 2017-10-20 2018-02-27 华中科技大学 一种基于忆阻器的具有稳态可塑性的神经元电路
CN109063826A (zh) * 2018-03-19 2018-12-21 重庆大学 一种基于忆阻器的卷积神经网络实现方法
CN109086870A (zh) * 2018-07-27 2018-12-25 重庆因普乐科技有限公司 一种基于忆阻器的三维卷积神经网络实现方法
US20190243787A1 (en) * 2018-02-05 2019-08-08 Micron Technology, Inc. Memory Systems having Controllers Embedded in Packages of Integrated Circuit Memory
US20190311244A1 (en) * 2018-04-09 2019-10-10 Electronics And Telecommunications Research Institute Spike neural network circuit including radiation source
US20200026992A1 (en) * 2016-09-29 2020-01-23 Tsinghua University Hardware neural network conversion method, computing device, compiling method and neural network software and hardware collaboration system
CN111239548A (zh) * 2020-02-16 2020-06-05 常熟理工学院 一种基于分数忆阻神经网络系统的电路故障检测装置

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100085242A1 (en) * 2008-10-07 2010-04-08 Sungkyunkwan University Foundation For Corporate Collaboration Method of sensor network localization through reconstruction of radiation pattern
EP2500738A1 (en) * 2011-03-17 2012-09-19 Kabushiki Kaisha Toshiba Abnormality diagnosis for photovoltaic power generation system
US20160004960A1 (en) * 2013-03-05 2016-01-07 Sylvain SAÏGHI Unit having an artificial neuron and a memristor
US20200026992A1 (en) * 2016-09-29 2020-01-23 Tsinghua University Hardware neural network conversion method, computing device, compiling method and neural network software and hardware collaboration system
CN107742153A (zh) * 2017-10-20 2018-02-27 华中科技大学 一种基于忆阻器的具有稳态可塑性的神经元电路
US20190243787A1 (en) * 2018-02-05 2019-08-08 Micron Technology, Inc. Memory Systems having Controllers Embedded in Packages of Integrated Circuit Memory
CN109063826A (zh) * 2018-03-19 2018-12-21 重庆大学 一种基于忆阻器的卷积神经网络实现方法
US20190311244A1 (en) * 2018-04-09 2019-10-10 Electronics And Telecommunications Research Institute Spike neural network circuit including radiation source
CN109086870A (zh) * 2018-07-27 2018-12-25 重庆因普乐科技有限公司 一种基于忆阻器的三维卷积神经网络实现方法
CN111239548A (zh) * 2020-02-16 2020-06-05 常熟理工学院 一种基于分数忆阻神经网络系统的电路故障检测装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
李宗霖: "基于忆阻器神经网络的集成电路辐射效应诊断系统设计", 中国优秀硕士学位论文全文数据库 工程科技II辑 *
王新胜，李宗霖，王夕悦: "基于忆阻器神经网络的辐射效应诊断系统设计", 重庆理工大学学报 *

Also Published As

Publication number Publication date
CN112130057B (zh) 2024-04-16

Similar Documents

Publication Publication Date Title
CN109670553B (zh) 基于自适应神经模糊推理系统的光伏阵列故障诊断方法
CN111046961B (zh) 基于双向长短时记忆单元和胶囊网络的故障分类方法
US20210097388A1 (en) Method for Realizing a Neural Network
CN115376581B (zh) 一种基于忆阻器的存内计算阵列结构
Praveen et al. Using AIG in Verilog HDL, Autonomous Testing in a Family of Wien Bridge Cross Transducers
CN114445336A (zh) 配电设备缺陷检测方法、装置、计算机设备和存储介质
Fritscher et al. Simulating large neural networks embedding MLC RRAM as weight storage considering device variations
CN111461308B (zh) 忆阻神经网络及权值训练方法
CN112130057A (zh) 基于忆阻器神经网络的辐射效应诊断系统
CN112285541B (zh) 一种电流频率转换电路的故障诊断方法
CN114764620B (zh) 一种量子卷积操作器
CN114048846A (zh) 一种实现文本分析的bi-gru神经网络电路及训练方法和使用方法
Lin et al. D-NAT: Data-Driven Non-Ideality Aware Training Framework for Fabricated Computing-In-Memory Macros
Deese et al. Utilization of field programmable analog arrays (FPAA) to emulate power system dynamics
Li et al. Fault diagnosis of analog circuit based on wavelet neural networks and chaos differential evolution algorithm
Peng et al. Analog fault diagnosis using decision fusion
Gencer et al. Design of An Analog Circuit-Based Artificial Neural Network
US6654940B2 (en) Method and apparatus for improving critical path analysis using gate delay
CN110717580B (zh) 面向二值化神经网络的基于电压调制的计算阵列
Bhuvaneswary et al. Hybrid Optimized Verification Methodology using Deep Reinforcement Neural Network
Ozyapici Modeling of deep in-memory architechture (DIMA) IC for DNNs
Smirnov et al. Methods of automatic testing the very large integrated circuit of memory
Ying et al. Neural network based preprocessing and dictionary methods for switched current circuit fault diagnosis
CN115511066A (zh) 基于氧化锌忆阻器的储备池计算系统
Yuan et al. Fault diagnosis in nonlinear circuit based on volterra series and recurrent neural network

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant