CN110363231B - 基于半监督深度学习的异常识别方法、装置及存储介质 - Google Patents

基于半监督深度学习的异常识别方法、装置及存储介质 Download PDF

Info

Publication number
CN110363231B
CN110363231B CN201910567477.0A CN201910567477A CN110363231B CN 110363231 B CN110363231 B CN 110363231B CN 201910567477 A CN201910567477 A CN 201910567477A CN 110363231 B CN110363231 B CN 110363231B
Authority
CN
China
Prior art keywords
data
sample data
sample
marked
noise
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910567477.0A
Other languages
English (en)
Other versions
CN110363231A (zh
Inventor
邓悦
金戈
徐亮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Priority to CN201910567477.0A priority Critical patent/CN110363231B/zh
Publication of CN110363231A publication Critical patent/CN110363231A/zh
Application granted granted Critical
Publication of CN110363231B publication Critical patent/CN110363231B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G06F18/2155—Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the incorporation of unlabelled data, e.g. multiple instance learning [MIL], semi-supervised techniques using expectation-maximisation [EM] or naïve labelling
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)

Abstract

本发明涉及机器学习领域，提出一种基于半监督深度学习的异常识别方法、装置及存储介质，方法包括：S110：获取样本数据；S120：获取正样本数据增强、负样本数据增强及数据噪声；S130：形成对应的标注数据正样本、标注数据负样本及标注数据噪声样本；S140：形成对应的三个初始预测模型；S150：将无标注样本数据分别输入训练完成的三个初始预测模型中进行数据预测；S160：对无标注样本数据进行标注，形成新的有标注样本数据；S170：将新的有标注样本数据添加至初始有标注样本数据中，并循环执行步骤S120至S170，形成最终预测模型；S180：待识别数据输入最终预测模型中进行异常识别。本发明对数据要求较低，无需大量的标记数据，同时能够提高数据异常识别的准确率。

Description

基于半监督深度学习的异常识别方法、装置及存储介质
技术领域
本发明涉及异常检测技术领域，尤其涉及一种基于半监督深度学习的异常识别方法、装置及计算机可读存储介质。
背景技术
异常检测是检测不符合期望的数据、行为，在实际应用中包括去噪、网络入侵检测、欺诈检测、设备故障检测、机会识别、风险识别、特殊群体识别、患病诊断、视频监测等。异常检测通过对输入数据进行分析，检测异常状态。输入数据类型包括:连续型、二值型、类别型、图、时空数据、图像、音频等，输出异常事件或者异常概率。在选择异常检测方法时既要考虑解决的问题，也要考虑数据状态，如数据类型、数据分布、数据标记、数据量等。
现有异常检测方法要么是有监督的，要么是无监督的。有监督的方法需要大量的标记，但现实中往往难以获得；而无监督的方法需要人工对数据分布进行假设，由于没有任何标记信息因此效果往往不如有监督的方法理想。
半监督学习(Semi-Supervised Learning，SSL)是模式识别和机器学习领域研究的重点问题，是监督学习与无监督学习相结合的一种学习方法。半监督学习使用大量的未标记数据，以及同时使用标记数据，来进行模式识别工作。当使用半监督学习时，将会要求尽量少的人员来从事工作，同时，又能够带来比较高的准确性，因此，半监督学习目前正越来越受到人们的重视。
目前，通过半监督学习进行异常识别，通常是运用正常样本点进行建模，如果样本点不属于建模类别即为异常点，该方法计算密集，精度低，在正常样本类别数据稀疏时并不适用。
发明内容
本发明提供一种基于半监督深度学习的异常识别方法、电子装置及计算机可读存储介质，其主要目的在于通过增强或噪声处理后的不同的样本数据对不同的网络模型进行训练，形成最终的预测模型，通过预测模型实现对异常数据的识别，不需要大量的标记数据，同时还能够提高异常识别的准确率。
为实现上述目的，本发明提供一种基于半监督深度学习的异常识别方法，应用于电子装置，所述方法包括：
S110：获取样本数据，其中所述样本数据包括有标注样本数据及无标注样本数据；
S120：对所述有标注样本数据进行数据增强及噪声处理，获取正样本数据增强、负样本数据增强及数据噪声；
S130：基于所述正样本数据增强、负样本数据增强及数据噪声分别形成对应的标注数据正样本、标注数据负样本及标注数据噪声样本；
S140：将所述标注数据正样本、标注数据负样本及标注数据噪声样本分别输入三个不同的网络架构模型中进行训练，形成对应的三个初始预测模型；
S150：将所述无标注样本数据分别输入训练完成的三个初始预测模型中进行数据预测，并输出对应的预测结果；
S160：将至少有两个预测结果一致的无标注样本数据的预测结果作为标记对所述无标注样本数据进行标注，形成新的有标注样本数据；
S170：将所述新的有标注样本数据添加至初始有标注样本数据中，并循环执行步骤S120至步骤S170，形成最终预测模型；
S180：将待识别数据输入所述最终预测模型中进行异常识别。
优选地，所述标注数据正样本包括所述有标注样本数据和正样本数据增强，所述标注数据负样本包括所述有标注样本数据和负样本数据增强，所述标注数据噪声样本包括所述有标注样本数据和数据噪声。
优选地，所述初始预测模型或所述最终预测模型为CNN模型、LSTM模型或者DNN模型。
优选地，所述对所述有标注样本数据进行数据增强及噪声处理的步骤包括：通过smote算法对所述有标注样本数据进行数据增强处理。
优选地，所述对所述有标注样本数据进行数据增强及噪声处理的步骤还包括：对所述有标注样本数据添加高斯噪声形成所述数据噪声。
优选地，步骤S120至步骤S170循环执行3～10次，形成最终预测模型。
为实现上述目的，本发明还提供一种电子装置，该电子装置包括：存储器及处理器，所述存储器中包括基于半监督深度学习的异常识别程序，所述基于半监督深度学习的异常识别程序被所述处理器执行时实现如下步骤：
S110：获取样本数据，其中所述样本数据包括有标注样本数据及无标注样本数据；
S120：对所述有标注样本数据进行数据增强及噪声处理，获取正样本数据增强、负样本数据增强及数据噪声；
S130：基于所述正样本数据增强、负样本数据增强及数据噪声分别形成对应的标注数据正样本、标注数据负样本及标注数据噪声样本；
S140：将所述标注数据正样本、标注数据负样本及标注数据噪声样本分别输入三个不同的网络架构模型中进行训练，形成对应的三个初始预测模型；
S150：将所述无标注样本数据分别输入训练完成的三个初始预测模型中进行数据预测，并输出对应的预测结果；
S160：将至少有两个预测结果一致的无标注样本数据的预测结果作为标记对所述无标注样本数据进行标注，形成新的有标注样本数据；
S170：将所述新的有标注样本数据添加至初始有标注样本数据中，并循环执行步骤S120至步骤S170，形成最终预测模型；
S180：将待识别数据输入所述最终预测模型中进行异常识别。
优选地，所述标注数据正样本包括所述有标注样本数据和正样本数据增强，所述标注数据负样本包括所述有标注样本数据和负样本数据增强，所述标注数据噪声样本包括所述有标注样本数据和数据噪声。
优选地，所述初始预测模型或所述最终预测模型为CNN模型、LSTM模型或者DNN模型。
为实现上述目的，本发明还提供一种计算机可读存储介质，所述计算机可读存储介质中包括基于半监督深度学习的异常识别程序，所述基于半监督深度学习的异常识别程序被处理器执行时，实现如上所述的基于半监督深度学习的异常识别方法的任意步骤。
本发明提出的基于半监督深度学习的异常识别方法、电子装置及计算机可读存储介质，通过增强或噪声处理后的不同的样本数据对不同的网络模型进行训练，形成初始预测模型，并根据初始预测模型对无标注样本数据进行预测并标注，标注后的数据再次作为样本数据对不同的网络模型(预测模型)进行训练，直至形成最终的预测模型，以实现对异常数据的精准识别，不需要大量的标记数据，同时还能够提高异常识别的准确率。
附图说明
图1为根据本发明基于半监督深度学习的异常识别方法具体实施例的应用环境示意图；
图2为图1中基于半监督深度学习的异常识别程序具体实施例的模块示意图；
图3为根据本发明基于半监督深度学习的异常识别方法具体实施例的流程图一；
图4为根据本发明基于半监督深度学习的异常识别方法具体实施例的流程图二。
本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
本发明提供一种基于半监督深度学习的异常识别方法，应用于一种电子装置1。参照图1所示，为本发明基于半监督深度学习的异常识别方法较佳实施例的应用环境示意图。
在本实施例中，电子装置1可以是服务器、智能手机、平板电脑、便携计算机、桌上型计算机等具有运算功能的终端设备。
该电子装置1包括：处理器12、存储器11、网络接口14及通信总线15。
存储器11包括至少一种类型的可读存储介质。所述至少一种类型的可读存储介质可为如闪存、硬盘、多媒体卡、卡型存储器11等的非易失性存储介质。在一些实施例中，所述可读存储介质可以是所述电子装置1的内部存储单元，例如该电子装置1的硬盘。在另一些实施例中，所述可读存储介质也可以是所述电子装置1的外部存储器11，例如所述电子装置1上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。
在本实施例中，所述存储器11的可读存储介质通常用于存储安装于所述电子装置1的基于半监督深度学习的异常识别程序10等。所述存储器11还可以用于暂时地存储已经输出或者将要输出的数据。
处理器12在一些实施例中可以是一中央处理器(Central Processing Unit,CPU)，微处理器或其他数据处理芯片，用于运行存储器11中存储的程序代码或处理数据，例如执行基于半监督深度学习的异常识别程序10等。
网络接口14可选地可以包括标准的有线接口、无线接口(如WI-FI接口)，通常用于在该电子装置1与其他电子设备之间建立通信连接。
通信总线15用于实现这些组件之间的连接通信。
图1仅示出了具有组件11-15的电子装置1，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。
可选地，该电子装置1还可以包括用户接口，用户接口可以包括输入单元比如键盘(Keyboard)、语音输入装置比如麦克风(microphone)等具有语音识别功能的设备、语音输出装置比如音响、耳机等，可选地用户接口还可以包括标准的有线接口、无线接口。
可选地，该电子装置1还可以包括显示器，显示器也可以称为显示屏或显示单元。在一些实施例中可以是LED显示器、液晶显示器、触控式液晶显示器以及有机发光二极管(Organic Light-Emitting Diode，OLED)触摸器等。显示器用于显示在电子装置1中处理的信息以及用于显示可视化的用户界面。
可选地，该电子装置1还包括触摸传感器。所述触摸传感器所提供的供用户进行触摸操作的区域称为触控区域。此外，这里所述的触摸传感器可以为电阻式触摸传感器、电容式触摸传感器等。而且，所述触摸传感器不仅包括接触式的触摸传感器，也可包括接近式的触摸传感器等。此外，所述触摸传感器可以为单个传感器，也可以为例如阵列布置的多个传感器。
此外，该电子装置1的显示器的面积可以与所述触摸传感器的面积相同，也可以不同。可选地，将显示器与所述触摸传感器层叠设置，以形成触摸显示屏。该装置基于触摸显示屏侦测用户触发的触控操作。
可选地，该电子装置1还可以包括射频(Radio Frequency，RF)电路，传感器、音频电路等等，在此不再赘述。
在图1所示的装置具体实施例中，作为一种计算机存储介质的存储器11中可以包括操作系统以及基于半监督深度学习的异常识别程序10；通过处理器12执行存储器11中存储的基于半监督深度学习的异常识别程序10时实现如下步骤：
S110：获取样本数据，其中所述样本数据包括有标注样本数据及无标注样本数据；
S120：对所述有标注样本数据进行数据增强及噪声处理，获取正样本数据增强、负样本数据增强及数据噪声；
S130：基于所述正样本数据增强、负样本数据增强及数据噪声分别形成对应的标注数据正样本、标注数据负样本及标注数据噪声样本；
S140：将所述标注数据正样本、标注数据负样本及标注数据噪声样本分别输入三个不同的网络架构模型中进行训练，形成对应的三个初始预测模型；
S150：将所述无标注样本数据分别输入训练完成的三个初始预测模型中进行数据预测，并输出对应的预测结果；
S160：将至少有两个预测结果一致的无标注样本数据的预测结果作为标记对所述无标注样本数据进行标注，形成新的有标注样本数据；
S170：将所述新的有标注样本数据添加至初始有标注样本数据中，并循环执行步骤S120至步骤S170，形成最终预测模型；
S180：将待识别数据输入所述最终预测模型中进行异常识别。
其中，所述标注数据正样本包括所述有标注样本数据和正样本数据增强，所述标注数据负样本包括所述有标注样本数据和负样本数据增强，所述标注数据噪声样本包括所述有标注样本数据和数据噪声。
具体地，所述对所述有标注样本数据进行数据增强及噪声处理的步骤包括：通过smote算法对所述有标注样本数据进行数据增强处理，以及对所述有标注样本数据添加高斯噪声形成所述数据噪声。通过对初始的有标注样本数据进行数据增强及数据噪声处理，形成与有标注样本数据对应的正样本数据增强、负样本数据增强和数据噪声，然后通过有标注样本数据与正样本数据增强、负样本数据增强和数据噪声相结合，形成标注数据正样本、标注数据负样本和标注数据噪声样本。
进而，将上述标注数据正样本、标注数据负样本和标注数据噪声样本分别输入三个不同的网络架构模型(或预测模型)中进行训练，所述的三个不同的网络架构模型指的是三种不同的神经网络模型对应的网络架构，三个不同的网络的架构通过训练形成对应的三个初始预测模型，此处选择三种不同的初始预测模型进行预测，目的是为了得到三个预测结果，并从三个结果中选择相同的两个作为最终结果。然后将无标注样本数据分别输入训练完成的三个初始预测模型中进行数据预测，并输出对应的预测结果。
可知，三个初始预测模型的预测结果至少有两个预测结果是一致的，此时可将该预测结果作为标记对无标注样本数据进行标注，形成新的有标注样本数据，并添加至初始的有标注样本数据中，形成新的有标注样本数据，将所述新的有标注样本数据添加至初始有标注样本数据中，并循环执行步骤S120至步骤S170，形成最终预测模型。
其中，所述初始预测模型或所述最终预测模型可以选用CNN模型、LSTM模型或者DNN模型等。上述三个不同的网络架构模型则分别对应CNN网络架构、LSTM网络架构或者DNN网络架构，本发明并不限于上述三种网络架构形式，也可选用不相同的其他多种神经网络模型架构。
优选地，所述步骤S120至步骤S170循环执行3～10次，形成最终预测模型。理论上，在当前预测模型的预测结果与上一轮预测结果一致或者变化很小时即可停止上述循环，但是这一过程耗费时间较长，通常循环3-10次，也可根据具体的测试需求对循环次数进行设定。
本发明的基于半监督深度学习的异常识别方法，可适用于各类异常识别场景，作为具体示例，此处以用电量异常为例进行描述：
样本数据为由一系列输入特征：用电量，季节，是否工作日，是否节假日，天气等构成的时序数据，如下表所示：
Figure BDA0002109931850000071
在上述各时序数据中，有标注样本数据约1000条左右，无标注样本数据量远大于有标注样本数据，通过smote算法对有标注样本数据进行数据增强处理，获取正样本数据增强和负样本数据增强。一些情况下我们需要向标准数据中加入合适的高斯噪声，使数据变得有一定误差而具有实验价值，为此在本发明获取数据噪声的过程中，可以对有标注样本数据添加高斯噪声，其中，高斯噪声既是符合高斯正态分布的误差。python的random库中集成了高斯正态分布，可以直接使用。
根据上述正样本数据增强、负样本数据增强及数据噪声分别获取对应的标注数据正样本、标注数据负样本及标注数据噪声样本，标注数据正样本包括所述有标注样本数据和正样本数据增强，所述标注数据负样本包括所述有标注样本数据和负样本数据增强，所述标注数据噪声样本包括所述有标注样本数据和数据噪声。
然后，将标注数据正样本、标注数据负样本及标注数据噪声样本分别输入cnn模型、lstm模型和dnn模型中进行训练，形成对应的cnn初始预测模型、lstm初始预测模型和dnn初始预测模型；
具体地，卷积神经网络(Convolutional Neural Networks，CNN)是一类包含卷积计算且具有深度结构的前馈神经网络(Feedforward Neural Networks)，由于卷积神经网络能够进行平移不变分类(shift-invariant classification)，因此也被称为“平移不变人工神经网络(Shift-Invariant Artificial Neural Networks，SIANN)，主要包括：输入层、卷积层、池化层、展平层、全连接层和输出层。
LSTM(Long Short-Term Memory)是长短期记忆网络，是一种时间递归神经网络，适合于处理和预测时间序列中间隔和延迟相对较长的重要事件。LSTM区别于RNN的地方，主要就在于其在算法中加入了一个判断信息有用与否的“处理器”，这个处理器作用的结构被称为cell。在每个cell当中放置有三扇门，分别叫做输入门、遗忘门和输出门。一个信息进入LSTM的网络当中，可以根据规则来判断是否有用。只有符合算法认证的信息才会留下，不符的信息则通过遗忘门被遗忘。
进而将无标注样本数据分别输入训练完成的cnn初始预测模型、lstm初始预测模型和dnn初始预测模型中进行数据预测，并输出目标用电量是否异常的预测结果。
可知，目标用电量的预测结果只有两种可能，cnn初始预测模型、lstm初始预测模型和dnn初始预测模型的预测结果至少有两个结果是完全一致的，此时，可将该预测结果作为标记，对对应的无标注样本数据进行标注，形成新的有标注样本数据。
最后，将新的有标注样本数据添加至初始的有标注样本数据中，并循环执行上述步骤，直至预测结果与上一轮预测结果一致或者差异在预设范围内即可停止循环，并选出预测结果较好的模型作为最终预测模型。
在应用过程中，将待识别的用电量数据输入所述最终预测模型中进行异常识别即可识别目标用电量是否异常。
上述实施例提出的电子装置1，对数据要求较低，无需大量的标记数据，且异常识别准确率高。
在其他实施例中，基于半监督深度学习的异常识别程序10还可以被分割为一个或者多个模块，一个或者多个模块被存储于存储器11中，并由处理器12执行，以完成本发明。本发明所称的模块是指能够完成特定功能的一系列计算机程序指令段。参照图2所示，为图1中基于半监督深度学习的异常识别程序10较佳实施例的程序模块图。
如图2所示，所述基于半监督深度学习的异常识别程序10可以被分割为：
样本数据采集单元101，用于获取样本数据，所述样本数据包括有标注样本数据及无标注样本数据。
样本数据处理单元102，用于对所述有标注样本数据进行数据增强处理，获取正样本数据增强、负样本数据增强及数据噪声。
模型训练数据获取单元103，用于基于所述正样本数据增强、负样本数据增强及数据噪声分别形成对应的标注数据正样本、标注数据负样本及标注数据噪声样本。
初始预测模型创建单元104，用于将所述标注数据正样本、标注数据负样本及标注数据噪声样本分别输入三个不同的网络架构模型中进行训练，形成三个初始预测模型。
无标注样本数据预测单元105，用于将所述无标注样本数据输入训练完成的三个初始预测模型中进行数据预测，并输出对应的预测结果。
无标注样本数据标注单元106，用于将至少有两个预测结果一致的无标注样本数据的预测结果作为标记对所述无标注样本数据进行标注，形成新的有标注样本数据。
预测模型确定单元107，将所述新的有标注样本数据添加至初始有标注样本数据中，进行循环测试，形成最终预测模型。
异常识别单元108，用于将待识别数据输入所述最终预测模型中进行异常识别。
此外，本发明还提供一种基于半监督深度学习的异常识别方法。参照图3和图4所示，为本发明基于半监督深度学习的异常识别方法不同角度实施例的流程图。该方法可以由一个装置执行，该装置可以由软件和/或硬件实现。
在本实施例中，基于半监督深度学习的异常识别方法包括：步骤S110-步骤S180。
S110：获取样本数据，其中所述样本数据包括有标注样本数据及无标注样本数据。
其中，有标注样本数据约一千条左右，而无标注样本数据量远远大于有标注样本数据。
S120：对所述有标注样本数据进行数据增强及噪声处理，获取正样本数据增强、负样本数据增强及数据噪声。
S130：基于所述正样本数据增强、负样本数据增强及数据噪声分别形成对应的标注数据正样本、标注数据负样本及标注数据噪声样本。
其中，所述标注数据正样本包括所述有标注样本数据和正样本数据增强，所述标注数据负样本包括所述有标注样本数据和负样本数据增强，所述标注数据噪声样本包括所述有标注样本数据和数据噪声。
具体地，所述对所述有标注样本数据进行数据增强及噪声处理的步骤包括：通过smote算法对所述有标注样本数据进行数据增强处理，以及对所述有标注样本数据添加高斯噪声形成所述数据噪声。通过对初始的有标注样本数据进行数据增强及数据噪声处理，形成与有标注样本数据对应的正样本数据增强、负样本数据增强和数据噪声，然后通过有标注样本数据与正样本数据增强、负样本数据增强和数据噪声相结合，形成标注数据正样本、标注数据负样本和标注数据噪声样本。
S140：将所述标注数据正样本、标注数据负样本及标注数据噪声样本分别输入三个不同的网络架构模型中进行训练，形成对应的三个初始预测模型。
其中，所述初始预测模型或所述最终预测模型可以选用CNN模型、LSTM模型或者DNN模型等。上述三个不同的网络架构模型则分别对应CNN网络架构、LSTM网络架构或者DNN网络架构，本发明并不限于上述三种网络架构形式，也可选用不相同的其他多种神经网络模型架构。
具体地，卷积神经网络(Convolutional Neural Networks，CNN)是一类包含卷积计算且具有深度结构的前馈神经网络(Feedforward Neural Networks)，由于卷积神经网络能够进行平移不变分类(shift-invariant classification)，因此也被称为“平移不变人工神经网络(Shift-Invariant Artificial Neural Networks，SIANN)，主要包括：输入层、卷积层、池化层、展平层、全连接层和输出层。
LSTM(Long Short-Term Memory)是长短期记忆网络，是一种时间递归神经网络，适合于处理和预测时间序列中间隔和延迟相对较长的重要事件。LSTM区别于RNN的地方，主要就在于其在算法中加入了一个判断信息有用与否的“处理器”，这个处理器作用的结构被称为cell。在每个cell当中放置有三扇门，分别叫做输入门、遗忘门和输出门。一个信息进入LSTM的网络当中，可以根据规则来判断是否有用。只有符合算法认证的信息才会留下，不符的信息则通过遗忘门被遗忘。
S150：将所述无标注样本数据分别输入训练完成的三个初始预测模型中进行数据预测，并输出对应的预测结果。
S160：将至少有两个预测结果一致的无标注样本数据的预测结果作为标记对所述无标注样本数据进行标注，形成新的有标注样本数据。
S170：将所述新的有标注样本数据添加至初始有标注样本数据中，并循环执行步骤S120至步骤S170，形成最终预测模型。
S180：将待识别数据输入所述最终预测模型中进行异常识别。
将上述标注数据正样本、标注数据负样本和标注数据噪声样本分别输入三个不同的网络架构模型(或预测模型)中进行训练，所述的三个不同的网络架构模型指的是三种不同的神经网络模型对应的网络架构，三个不同的网络的架构通过训练形成对应的三个初始预测模型，此处选择三种不同的初始预测模型进行预测，目的是为了得到三个预测结果，并从三个结果中选择相同的两个作为最终结果。然后将无标注样本数据分别输入训练完成的三个初始预测模型中进行数据预测，并输出对应的预测结果。
可知，三个初始预测模型的预测结果至少有两个预测结果是一致的，此时可将该预测结果作为标记对无标注样本数据进行标注，形成新的有标注样本数据，并添加至初始的有标注样本数据中，形成新的有标注样本数据，将所述新的有标注样本数据添加至初始有标注样本数据中，并循环执行步骤S120至步骤S170，形成最终预测模型。
优选地，所述步骤S120至步骤S170循环执行3～10次，形成最终预测模型。理论上，在当前预测模型的预测结果与上一轮预测结果一致或者变化很小时即可停止上述循环，但是这一过程耗费时间较长，通常循环3-10次，也可根据具体的测试需求对循环次数进行设定。
本发明的基于半监督深度学习的异常识别方法，可适用于各类异常识别场景，作为具体示例，此处以用电量异常为例进行描述：
样本数据为由一系列输入特征：用电量，季节，是否工作日，是否节假日，天气等构成的时序数据，如下表所示：
Figure BDA0002109931850000121
在上述各时序数据中，有标注样本数据约1000条左右，无标注样本数据量远大于有标注样本数据，通过smote算法对有标注样本数据进行数据增强处理，获取正样本数据增强和负样本数据增强。一些情况下我们需要向标准数据中加入合适的高斯噪声，使数据变得有一定误差而具有实验价值，为此在本发明获取数据噪声的过程中，可以对有标注样本数据添加高斯噪声，其中，高斯噪声既是符合高斯正态分布的误差。python的random库中集成了高斯正态分布，可以直接使用。
根据上述正样本数据增强、负样本数据增强及数据噪声分别获取对应的标注数据正样本、标注数据负样本及标注数据噪声样本，标注数据正样本包括所述有标注样本数据和正样本数据增强，所述标注数据负样本包括所述有标注样本数据和负样本数据增强，所述标注数据噪声样本包括所述有标注样本数据和数据噪声。
然后，将标注数据正样本、标注数据负样本及标注数据噪声样本分别输入cnn模型、lstm模型和dnn模型中进行训练，形成对应的cnn初始预测模型、lstm初始预测模型和dnn初始预测模型；
进而将无标注样本数据分别输入训练完成的cnn初始预测模型、lstm初始预测模型和dnn初始预测模型中进行数据预测，并输出目标用电量是否异常的预测结果。
可知，目标用电量的预测结果只有两种可能，cnn初始预测模型、lstm初始预测模型和dnn初始预测模型的预测结果至少有两个结果是完全一致的，此时，可将该预测结果作为标记，对对应的无标注样本数据进行标注，形成新的有标注样本数据。
最后，将新的有标注样本数据添加至初始的有标注样本数据中，并循环执行上述步骤，直至预测结果与上一轮预测结果一致或者差异在预设范围内即可停止循环，并选出预测结果较好的模型作为最终预测模型。
上述实施例提出的基于半监督深度学习的异常识别方法，通过增强或噪声处理后的不同的样本数据对不同的网络模型进行训练，形成初始预测模型，并根据初始预测模型对无标注样本数据进行预测并标注，标注后的数据再次作为样本数据对不同的网络模型进行训练，直至形成最终的预测模型，以实现对异常数据的识别，不需要大量的标记数据，同时还能够提高异常识别的准确率。
此外，本发明实施例还提出一种计算机可读存储介质，所述计算机可读存储介质中包括基于半监督深度学习的异常识别程序，所述基于半监督深度学习的异常识别程序被处理器执行时实现如下操作：
S110：获取样本数据，其中所述样本数据包括有标注样本数据及无标注样本数据；
S120：对所述有标注样本数据进行数据增强及噪声处理，获取正样本数据增强、负样本数据增强及数据噪声；
S130：基于所述正样本数据增强、负样本数据增强及数据噪声分别形成对应的标注数据正样本、标注数据负样本及标注数据噪声样本；
S140：将所述标注数据正样本、标注数据负样本及标注数据噪声样本分别输入三个不同的网络架构模型中进行训练，形成对应的三个初始预测模型；
S150：将所述无标注样本数据分别输入训练完成的三个初始预测模型中进行数据预测，并输出对应的预测结果；
S160：将至少有两个预测结果一致的无标注样本数据的预测结果作为标记对所述无标注样本数据进行标注，形成新的有标注样本数据；
S170：将所述新的有标注样本数据添加至初始有标注样本数据中，并循环执行步骤S120至步骤S170，形成最终预测模型；
S180：将待识别数据输入所述最终预测模型中进行异常识别。
优选地，所述标注数据正样本包括所述有标注样本数据和正样本数据增强，所述标注数据负样本包括所述有标注样本数据和负样本数据增强，所述标注数据噪声样本包括所述有标注样本数据和数据噪声。
优选地，所述初始预测模型或所述最终预测模型为CNN模型、LSTM模型或者DNN模型。
优选地，所述对所述有标注样本数据进行数据增强及噪声处理的步骤包括：通过smote算法对所述有标注样本数据进行数据增强处理。
优选地，所述对所述有标注样本数据进行数据增强及噪声处理的步骤还包括：对所述有标注样本数据添加高斯噪声形成所述数据噪声。
优选地，步骤S120至步骤S170循环执行3～10次，形成最终预测模型。
本发明之计算机可读存储介质的具体实施方式与上述基于半监督深度学习的异常识别方法、电子装置的具体实施方式大致相同，在此不再赘述。
需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、装置、物品或者方法不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、装置、物品或者方法所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、装置、物品或者方法中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在如上所述的一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种基于半监督深度学习的异常识别方法，应用于电子装置，其特征在于，所述方法包括：
S110：获取样本数据，其中所述样本数据包括有标注样本数据及无标注样本数据；
S120：对所述有标注样本数据进行数据增强及噪声处理，获取正样本数据增强、负样本数据增强及数据噪声；
S130：基于所述正样本数据增强、负样本数据增强及数据噪声分别形成对应的标注数据正样本、标注数据负样本及标注数据噪声样本；
S140：将所述标注数据正样本、标注数据负样本及标注数据噪声样本分别输入三个不同的网络架构模型中进行训练，形成对应的三个初始预测模型，所述初始预测模型包括CNN模型、LSTM模型或者DNN模型；
S150：将所述无标注样本数据分别输入训练完成的三个初始预测模型中进行数据预测，并输出对应的预测结果；
S160：将至少有两个预测结果一致的无标注样本数据的预测结果作为标记对所述无标注样本数据进行标注，形成新的有标注样本数据；
S170：将所述新的有标注样本数据添加至初始有标注样本数据中，并循环执行步骤S120至步骤S170，形成最终预测模型；
S180：将待识别数据输入所述最终预测模型中进行异常识别。
2.根据权利要求1所述的基于半监督深度学习的异常识别方法，其特征在于，
所述标注数据正样本包括所述有标注样本数据和正样本数据增强，所述标注数据负样本包括所述有标注样本数据和负样本数据增强，所述标注数据噪声样本包括所述有标注样本数据和数据噪声。
3.根据权利要求1所述的基于半监督深度学习的异常识别方法，其特征在于，
所述最终预测模型为CNN模型、LSTM模型或者DNN模型。
4.根据权利要求1所述的基于半监督深度学习的异常识别方法，其特征在于，所述对所述有标注样本数据进行数据增强及噪声处理的步骤包括：
通过smote算法对所述有标注样本数据进行数据增强处理。
5.根据权利要求1所述的基于半监督深度学习的异常识别方法，其特征在于，所述对所述有标注样本数据进行数据增强及噪声处理的步骤还包括：
对所述有标注样本数据添加高斯噪声形成所述数据噪声。
6.根据权利要求1所述的基于半监督深度学习的异常识别方法，其特征在于，
所述步骤S120至步骤S170循环执行3～10次，形成最终预测模型。
7.一种电子装置，其特征在于，该电子装置包括：存储器及处理器，所述存储器中包括基于半监督深度学习的异常识别程序，所述基于半监督深度学习的异常识别程序被所述处理器执行时实现如下步骤：
S110：获取样本数据，其中所述样本数据包括有标注样本数据及无标注样本数据；
S120：对所述有标注样本数据进行数据增强及噪声处理，获取正样本数据增强、负样本数据增强及数据噪声；
S130：基于所述正样本数据增强、负样本数据增强及数据噪声分别形成对应的标注数据正样本、标注数据负样本及标注数据噪声样本；
S140：将所述标注数据正样本、标注数据负样本及标注数据噪声样本分别输入三个不同的网络架构模型中进行训练，形成对应的三个初始预测模型，所述初始预测模型包括CNN模型、LSTM模型或者DNN模型；
S150：将所述无标注样本数据分别输入训练完成的三个初始预测模型中进行数据预测，并输出对应的预测结果；
S160：将至少有两个预测结果一致的无标注样本数据的预测结果作为标记对所述无标注样本数据进行标注，形成新的有标注样本数据；
S170：将所述新的有标注样本数据添加至初始有标注样本数据中，并循环执行步骤S120至步骤S170，形成最终预测模型；
S180：将待识别数据输入所述最终预测模型中进行异常识别。
8.根据权利要求7所述的电子装置，其特征在于，
所述标注数据正样本包括所述有标注样本数据和正样本数据增强，所述标注数据负样本包括所述有标注样本数据和负样本数据增强，所述标注数据噪声样本包括所述有标注样本数据和数据噪声。
9.根据权利要求7所述的电子装置，其特征在于，
所述最终预测模型为CNN模型、LSTM模型或者DNN模型。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中包括基于半监督深度学习的异常识别程序，所述基于半监督深度学习的异常识别程序被处理器执行时，实现如权利要求1至6中任一项所述的基于半监督深度学习的异常识别方法的步骤。
CN201910567477.0A 2019-06-27 2019-06-27 基于半监督深度学习的异常识别方法、装置及存储介质 Active CN110363231B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910567477.0A CN110363231B (zh) 2019-06-27 2019-06-27 基于半监督深度学习的异常识别方法、装置及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910567477.0A CN110363231B (zh) 2019-06-27 2019-06-27 基于半监督深度学习的异常识别方法、装置及存储介质

Publications (2)

Publication Number Publication Date
CN110363231A CN110363231A (zh) 2019-10-22
CN110363231B true CN110363231B (zh) 2023-01-06

Family

ID=68215835

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910567477.0A Active CN110363231B (zh) 2019-06-27 2019-06-27 基于半监督深度学习的异常识别方法、装置及存储介质

Country Status (1)

Country Link
CN (1) CN110363231B (zh)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113052195A (zh) * 2019-12-27 2021-06-29 北京国双科技有限公司 测井曲线异常值标注方法、装置、计算机设备和存储介质
CN113450776A (zh) * 2020-03-24 2021-09-28 合肥君正科技有限公司 一种改善婴儿哭声检测模型效果的数据增强方法及其系统
CN113723649A (zh) * 2020-05-25 2021-11-30 中国石油化工股份有限公司 基于半监督模型的化工工艺异常监控方法及模型优化方法
CN113723650A (zh) * 2020-05-25 2021-11-30 中国石油化工股份有限公司 基于半监督模型的化工工艺异常监控系统及模型优化装置
CN113722973A (zh) * 2020-05-25 2021-11-30 中国石油化工股份有限公司 计算机仿真模型的修正系统及修正方法
CN112069921A (zh) * 2020-08-18 2020-12-11 浙江大学 一种基于自监督知识迁移的小样本视觉目标识别方法
CN112182225A (zh) * 2020-10-14 2021-01-05 上海宝钿科技产业发展有限公司 一种多模态场景目标基于半监督深度学习的知识管理方法
CN112396513B (zh) * 2020-11-27 2024-02-20 中国银联股份有限公司 一种数据处理的方法及装置
CN112820324B (zh) * 2020-12-31 2024-06-25 平安科技（深圳）有限公司 多标签语音活动检测方法、装置及存储介质
CN112966588B (zh) * 2021-03-02 2023-05-30 南昌黑鲨科技有限公司 视频数据标注方法、系统、获取神经网络深度学习的数据源的方法及计算机可读存储介质
CN112820322B (zh) * 2021-03-18 2022-12-23 中国科学院声学研究所 一种基于自监督对比学习的半监督音频事件标注方法
CN113537040B (zh) * 2021-07-13 2024-07-05 南京理工大学 一种基于半监督学习的时序行为检测方法及系统
CN113850301B (zh) * 2021-09-02 2024-06-18 支付宝(杭州)信息技术有限公司 训练数据的获取方法和装置、模型训练方法和装置
CN116304762A (zh) * 2023-05-17 2023-06-23 杭州致成电子科技有限公司 负荷的分解方法和装置
CN116738049A (zh) * 2023-06-13 2023-09-12 湖北华中电力科技开发有限责任公司 基于大数据技术的用电监测系统、方法、装置和存储介质
CN116545779B (zh) * 2023-07-06 2023-10-03 鹏城实验室 网络安全命名实体识别方法、装置、设备和存储介质

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106650721B (zh) * 2016-12-28 2019-08-13 吴晓军 一种基于卷积神经网络的工业字符识别方法
CN107122790B (zh) * 2017-03-15 2021-06-11 华北电力大学 基于混合神经网络和集成学习的非侵入式负荷识别算法
CN108416370B (zh) * 2018-02-07 2022-03-22 深圳大学 基于半监督深度学习的图像分类方法、装置和存储介质
CN108596266A (zh) * 2018-05-02 2018-09-28 深圳市易成自动驾驶技术有限公司 基于半监督学习的融合决策方法、装置及存储介质
CN108986824B (zh) * 2018-07-09 2022-12-27 宁波大学 一种回放语音检测方法
CN109670559A (zh) * 2018-12-07 2019-04-23 北京锐安科技有限公司 手写汉字的识别方法、装置、设备和存储介质

Also Published As

Publication number Publication date
CN110363231A (zh) 2019-10-22

Similar Documents

Publication Publication Date Title
CN110363231B (zh) 基于半监督深度学习的异常识别方法、装置及存储介质
US11195007B2 (en) Classification of piping and instrumental diagram information using machine-learning
CN106446816B (zh) 人脸识别方法及装置
CN110033018B (zh) 图形相似度判断方法、装置及计算机可读存储介质
CN109086873B (zh) 递归神经网络的训练方法、识别方法、装置及处理设备
CN109285105B (zh) 水印检测方法、装置、计算机设备和存储介质
CN111241304B (zh) 基于深度学习的答案生成方法、电子装置及可读存储介质
CN110704634A (zh) 知识图谱链接错误的查修方法、装置及存储介质
Althubiti et al. Circuit manufacturing defect detection using VGG16 convolutional neural networks
CN110245714B (zh) 图像识别方法、装置及电子设备
US10810508B1 (en) Methods and apparatus for classifying and discovering historical and future operational states based on Boolean and numerical sensor data
CN111814472B (zh) 文本识别方法、装置、设备及存储介质
CN113610787A (zh) 图像缺陷检测模型的训练方法、装置、计算机设备
CN112581227A (zh) 产品推荐方法、装置、电子设备及存储介质
CN111338692B (zh) 基于漏洞代码的漏洞分类方法、装置及电子设备
EP3333757A1 (en) Predictive anomaly detection
CN112966088B (zh) 未知意图的识别方法、装置、设备及存储介质
CN110968689A (zh) 罪名及法条预测模型的训练方法以及罪名及法条预测方法
CN111222588A (zh) 一种后门样本检测方法、系统及装置
Vellasques et al. Fast intelligent watermarking of heterogeneous image streams through mixture modeling of PSO populations
Shi et al. Adversarial semi‐supervised learning method for printed circuit board unknown defect detection
CN117132763A (zh) 电力图像异常检测方法、装置、计算机设备和存储介质
Kopčan et al. Anomaly detection using autoencoders and deep convolution generative adversarial networks
CN110717407A (zh) 基于唇语密码的人脸识别方法、装置及存储介质
CN113449816A (zh) 网址分类模型训练、网址分类方法、装置、设备及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant