CN112434755B - 一种基于异构系统的数据异常感知方法 - Google Patents

一种基于异构系统的数据异常感知方法 Download PDF

Info

Publication number
CN112434755B
CN112434755B CN202011476734.9A CN202011476734A CN112434755B CN 112434755 B CN112434755 B CN 112434755B CN 202011476734 A CN202011476734 A CN 202011476734A CN 112434755 B CN112434755 B CN 112434755B
Authority
CN
China
Prior art keywords
data
neural network
circuit
network
abnormal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011476734.9A
Other languages
English (en)
Other versions
CN112434755A (zh
Inventor
阮爱武
向蔺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Electronic Science and Technology of China
Original Assignee
University of Electronic Science and Technology of China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Electronic Science and Technology of China filed Critical University of Electronic Science and Technology of China
Priority to CN202011476734.9A priority Critical patent/CN112434755B/zh
Publication of CN112434755A publication Critical patent/CN112434755A/zh
Application granted granted Critical
Publication of CN112434755B publication Critical patent/CN112434755B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/23—Clustering techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Complex Calculations (AREA)

Abstract

本发明属于电路与系统领域，提供了一种应用于电路与系统的基于异构系统实现深度神经网络进行数据异常感知的方法，用于对电路与系统运行状态的预测。该方法利用CPU+FPGA异构芯片完成基于深度神经网络的数据异常感知系统。首先准备确定待测电路，收集电路在正常和异常运行状态下的各项特征数据；再将收集到的数据进行预处理和特征缩放；然后将处理后的数据作为训练样本，训练深度神经网络模型；最后将训练好的模型部署到异构芯片以实现数据异常感知系统。本发明能够检测电路运行中的异常状态，识别运行中产生的异常数据，以用于后续电路的维修和改进。

Description

一种基于异构系统的数据异常感知方法
技术领域
本发明属于电路与系统技术领域，具体涉及一种应用于电路的基于CPU+FPGA异构系统的数据异常感知方法。
背景技术
随着科技水平的提高，所生产的设备具有了更加复杂的系统结构，为了满足设备稳定可靠性的需求，需要实时监控电路运行时出现的异常状态。
异常检测的主要目的是通过识别与名义上健康行为的偏差来识别系统的异常行为。异常检测的结果可以提供故障的高级警告，通常称为故障先兆。
在异常检测方法的发展中，重要的要是正确理解异常的性质。一般将异常分为三类：
1)点异常：如果单个观察相对于其他观察而言可以视为是异常数据，则称之为点异常。
2)上下文异常：如果一个样本数据点在与之关联的上下文中表现是异常的，但在其他情况该数据的出现以正常，则将此称之为上下文异常。
3)集合异常：在一些更复杂的问题中，样本数据值从单点和上下文观察中一直表现正常，但其周围数据一起作为一个集合相对与整体的数据样本而言是异常的，这种称之为集合异常。
数据异常识别的方法有以下4种分类：
1)基于距离的检测方法：基于距离的方法利用异常数据点距离正常数据实例较远的性质，并且需要度量和相似性度量用于检测异常点的判断。
2)基于聚类的检测方法：基于聚类的异常数据检测方法通过最大化群集间距离和最小化群集内距离将数据集(即一组观察值)划分为多个群集(或子集)。
3)基于统计的检测方法：基于统计异常检测的基本原理是，异常被视为不是由健康统计数据分布生成的观察值。
4)基于分类的检测方法：异常数据的表现特点之一就是不符合预期的行为，因此一个对应的思路就是划定一块正常的区域，在检测中将不属于该正常区域的数据值标注为异常。
基于分类的检测方法相比于前面的三种方法对异常数据的区分度更高，并且结合神经网络技术能够很好的解决异常和正常数据的分类问题，从而完成对异常数据的识别。
目前基于机器学习神经网络技术进行数据异常的识别方法有很多种。主要依赖于不同的神经网络结构算法，文献“基于深度学习的时间序列数据异常检测方法”(信息与控制，2019)中提出利用深度卷积神经网络对时间分布不平衡的时间序列数据异常进行检测；文献“基于模糊神经网络的异常网络数据挖掘算法“(计算机科学，2019)中提出根据异常数据的分类属性进行相似度分析，提取异常数据的数值属性特征和分类属性特征，然后采用基于模糊质心相异性的度量方法构建异常网络数据的分类模糊集，最后利用模糊神经网络分类器进行数据异常分类识别。上述的文献在进行数据异常识别时都有一个共同的特性，就是根据不同的神经网络算法对数据进行不同方式的预处理得到相应的训练数据集，然后对神经网络进行训练，最后利用训练好的神经网络完成数据异常的识别。这些方法都有一个共同的不足就是最后用于数据异常识别的神经网络的实现和部署，在实际的应用中，往往需要将神经网络部署到待检测的现场，这就需要采取一种方法来实现这一要求，而本发明正是提出了一种基于异构芯片系统的实现方法。
发明内容
本发明的目的在于提供了一种基于异构系统实现深度神经网络成数据异常识别的方法，对电路运行时的各项数据进行监测，识别电路运行过程中产生的异常数据，以提供电路故障的警示。
为达到上述目的，本发明采用的技术方案为：
一种应用于电路与系统的基于异构系统的数据异常识别方法，其特征在于，包括以下步骤：
步骤1、准备待测电路，收集该电路运行时的各项数据，包括正常和异常的数据。
步骤2、对收集到的电路数据进行预处理，包括数据整理和特征缩放。
步骤3、采用深层神经网络模型DNN(Deep Neural Network)，确定神经网络结构，包括网络层数和神经元个数，以及各层网络的激活函数。
步骤4、根据神经网络模型确定神经网络电路结构，并采用流水线设计优化电路结构。
步骤5、使用步骤2中处理后的数据训练神经网络模型，根据神经网络模型的误差函数来决定训练的进程，当误差函数的值小于预设的一个阈值时，则认为是网络训练成功过，此时得到最优的神经网络参数。
步骤6、将步骤5得到的最优神经网络参数以及步骤4确定的神经网络电路结构相结合在异构芯片系统上实现该神经网络电路。
步骤7、将实现的神经网络电路应用于待测电路，即可对待测电路的运行状态数据进行监测，识别出运行时的异常数据。
进一步说明的是：数据预处理中，数据整理主要是通过均值替换，中位数替换以及线性插值的方法来填补一些缺失的数据或者修改一些测量错误的数据；特征缩放主要是将各维度的数据都归一化到相似的水平，通过Min-Max标准化方法，可以得到缩放后的数据x^＝low+((high-low)(x-X_min))/(X_max-X_min)，即可将区间(Xmin，Xmax)的数据缩放到(low,high)区间。深层神经网络的电路实现中，采用的CPU+FPGA异构芯片，能够同时发挥CPU软件运行的优势和FPGA硬件实现的优势，在训练网络的时候使用CPU运行，在利用网络进行数据异常识别时使用FPGA运行，能够加速运算。
本发明的效果在于：
本发明能够对电路运行时产生的异常数据进行识别，帮助进一步排除电路故障。同时在进行数据异常识别的实现上，采用了CPU+FPGA的异构系统，结合了CPU交互训练网络便捷的优势和FPGA实现网络以及高速运算推理的优势。
附图说明
图1为本发明应用于电路的数据异常感知方法的各步骤流程示意框图。
图2为本发明中使用的异构芯片结构示意图。
具体实施方式
结合附图对本发明进行详细描述。
如图1所示，本发明包括：待测电路运行数据获取，数据预处理，建立神经网络模型以及网络模型的训练，实现神经网络电路，异常数据识别。
1、收集待测电路运行数据，这些数据为表征电路运行状态的各项特征数据，包括一些基础参数温度、电压、电流、运行频率、输入输出延迟等，以及一些针对不同功能电路所具备的特定的参数。
2、数据预处理包括数据整理和特征缩放，数据整理主要是通过均值替换，中位数替换以及线性插值的方法来填补一些缺失的数据或者修改一些测量错误的数据；特征缩放主要是将各维度的数据都归一化到相似的水平，通过Min-Max标准化方法，可以得到缩放后的数据x^＝low+((high-low)(x-X_min))/(X_max-X_min)，即可将区间(Xmin，Xmax)的数据缩放到(low,high)区间。
3、建立神经网络模型，确定深层神经网络的网络层数，各层网络的神经元个数，以及网络的激活函数。
4、根据上述确定好的神经网络模型设计神经网络电路，并利用流水线设计优化电路结构。
5、利用预处理后的数据训练神经网络模型，得到最优的神经网络参数。
6、将训练得到的最优化神经网络参数带入第4步中确定的电路结构，得到最终的神经网络电路。
7、利用所实现的神经网络电路进行异常数据识别。
以上所述，为本发明的具体实施方式，本说明书中所公开的任何一个特征，除非特别说明，均可被其他等效或者具有类似目的替代特征所替换；所公开的所有特征、或所有方法或过程中的步骤，除了互相排斥的特征或步骤以外，均可以以任何方式组合。

Claims (1)

1.一种应用于电路与系统的基于异构系统的数据异常感知方法，其特征在于，包括以下步骤：
步骤1、准备待测电路，收集该电路运行时的各项数据，包括正常和异常的数据；
步骤2、对收集到的电路数据进行预处理，包括数据整理和特征缩放，数据整理通过均值替换，中位数替换以及线性插值的方法实现；特征缩放采用Min-Max标准化，得到缩放后的数据
Figure FDA0003743822560000011
将区间(Xmin，Xmax)的数据缩放到(low，high)区间；
步骤3、采用多层神经网络模型，确定神经网络结构，包括网络层数和神经元个数，以及各层网络的激活函数；所述多层神经网络模型为深层神经网络模型DNN；
步骤4、根据神经网络模型确定神经网络电路结构，采用流水线设计优化电路结构；
步骤5、使用步骤2中处理后的数据训练神经网络模型，得到最优的神经网络参数；
步骤6、将步骤5得到的最优神经网络参数以及步骤4确定的神经网络电路结构相结合在异构芯片系统上实现该神经网络电路；
所述步骤6中，神经网络的实现方式为基于CPU+FPGA的异构芯片，结合了CPU交互训练网络的便捷性和FPGA实现网络以及高速运算推理的优势；在训练网络的时候使用CPU运行，在利用网络进行数据异常识别时使用FPGA运行。
CN202011476734.9A 2020-12-15 2020-12-15 一种基于异构系统的数据异常感知方法 Active CN112434755B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011476734.9A CN112434755B (zh) 2020-12-15 2020-12-15 一种基于异构系统的数据异常感知方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011476734.9A CN112434755B (zh) 2020-12-15 2020-12-15 一种基于异构系统的数据异常感知方法

Publications (2)

Publication Number Publication Date
CN112434755A CN112434755A (zh) 2021-03-02
CN112434755B true CN112434755B (zh) 2023-04-07

Family

ID=74692660

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011476734.9A Active CN112434755B (zh) 2020-12-15 2020-12-15 一种基于异构系统的数据异常感知方法

Country Status (1)

Country Link
CN (1) CN112434755B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113204453B (zh) * 2021-04-25 2024-06-11 深圳致星科技有限公司 基于异构系统的异常反馈方法、设备、介质及程序产品
CN116187399B (zh) * 2023-05-04 2023-06-23 北京麟卓信息科技有限公司 一种基于异构芯片的深度学习模型计算误差定位方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106528975A (zh) * 2016-11-01 2017-03-22 电子科技大学 一种应用于电路与系统的故障预测与健康管理方法
CN110110707A (zh) * 2019-05-24 2019-08-09 苏州闪驰数控系统集成有限公司 人工智能cnn、lstm神经网络动态识别系统
CN110634081A (zh) * 2019-08-02 2019-12-31 国网四川省电力公司映秀湾水力发电总厂 一种水电站异常数据的处理方法及装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11023351B2 (en) * 2017-02-28 2021-06-01 GM Global Technology Operations LLC System and method of selecting a computational platform
CN107239315B (zh) * 2017-04-11 2019-11-15 赛灵思公司 面向神经网络异构计算平台的编程模型
CN109783412B (zh) * 2019-01-18 2022-04-22 电子科技大学 一种深度强化学习加速训练的方法
CN110942137A (zh) * 2019-10-18 2020-03-31 云南电网有限责任公司信息中心 一种基于深度学习的电网信息运维监控方法
CN110991632B (zh) * 2019-11-29 2023-05-23 电子科技大学 一种基于fpga的异构神经网络计算加速器设计方法
CN112067289A (zh) * 2020-08-21 2020-12-11 天津电气科学研究院有限公司 一种基于神经网络的电机轴及传动轴异常振动预警算法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106528975A (zh) * 2016-11-01 2017-03-22 电子科技大学 一种应用于电路与系统的故障预测与健康管理方法
CN110110707A (zh) * 2019-05-24 2019-08-09 苏州闪驰数控系统集成有限公司 人工智能cnn、lstm神经网络动态识别系统
CN110634081A (zh) * 2019-08-02 2019-12-31 国网四川省电力公司映秀湾水力发电总厂 一种水电站异常数据的处理方法及装置

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
A power efficient neural network implementation on heterogeneous FPGA and GPU devices;Yuexuan Tu等;《2019 IEEE 20th International Conference on Information Reuse and Integration for Data Science (IRI)》;1-7 *
A Reinforcement Learning Based Markov-Decision Process (MDP) Implementation for SRAM FPGAs;A Ruan;《IEEE TRANSACTIONS ON CIRCUITS AND SYSTEMS》;1-5 *
Identifying the Most Reliable Collaborative Workload Distribution in Heterogeneous Devices;Gabriel Piscoya Dávila;《Automation & Test in Europe Conference & Exhibition (DATE)》;1-5 *
基于SoC的卷积神经网络系统设计;李子聪;《电子测量技术》;126-131 *
基于模糊神经网络的异常网络数据挖掘算法;许磊等;《计算机科学》(第04期);73-76 *

Also Published As

Publication number Publication date
CN112434755A (zh) 2021-03-02

Similar Documents

Publication Publication Date Title
Brito et al. An explainable artificial intelligence approach for unsupervised fault detection and diagnosis in rotating machinery
Xu et al. An incorrect data detection method for big data cleaning of machinery condition monitoring
Saeed et al. Fault diagnosis based on extremely randomized trees in wireless sensor networks
Jia et al. Assessment of data suitability for machine prognosis using maximum mean discrepancy
Timusk et al. Fault detection using transient machine signals
US9824060B2 (en) Tool and method for fault detection of devices by condition based maintenance
CN109787979B (zh) 一种电力网络事件和入侵的检测方法
CN112434755B (zh) 一种基于异构系统的数据异常感知方法
KR102501883B1 (ko) 기계 학습 기반의 설비 이상 분류 시스템 및 방법
GB2476246A (en) Diagnosing an operation mode of a machine
Yang et al. Refined composite multivariate multiscale symbolic dynamic entropy and its application to fault diagnosis of rotating machine
KR102501884B1 (ko) 기계 학습 기반의 설비 이상 진단 시스템 및 방법
KR20210102170A (ko) 반도체 제조 공정에서 고장 검출 및 불량 원인 진단을 위한 방법
Martínez-Rego et al. Fault detection via recurrence time statistics and one-class classification
CN117849512B (zh) 摩托车电气系统故障检测系统
Pirasteh et al. Interactive feature extraction for diagnostic trouble codes in predictive maintenance: A case study from automotive domain
Amruthnath et al. Factor analysis in fault diagnostics using random forest
CN118174788B (zh) 一种光纤配线柜的故障检测方法、装置、设备及存储介质
Emmanouilidis et al. Flexible software for condition monitoring, incorporating novelty detection and diagnostics
Zhang et al. Selecting optimal features for cross-fleet analysis and fault diagnosis of industrial gas turbines
Fang et al. Intermittent fault recognition of analog circuits in the presence of outliers via density peak clustering with adaptive weighted distance
Abedin et al. Vibration signal for bearing fault detection using random forest
Decker et al. Does your model think like an engineer? explainable ai for bearing fault detection with deep learning
US20080091715A1 (en) Method and system of creating health operating envelope for dynamic systems by unsupervised learning of a sequence of discrete event codes
Jin et al. Data-driven resiliency solutions for boards and systems

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant