CN114842425B - 用于石油化工工艺的异常行为识别方法及电子设备 - Google Patents

用于石油化工工艺的异常行为识别方法及电子设备 Download PDF

Info

Publication number
CN114842425B
CN114842425B CN202210776260.2A CN202210776260A CN114842425B CN 114842425 B CN114842425 B CN 114842425B CN 202210776260 A CN202210776260 A CN 202210776260A CN 114842425 B CN114842425 B CN 114842425B
Authority
CN
China
Prior art keywords
neural network
loss function
extraction effect
feature extraction
feature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210776260.2A
Other languages
English (en)
Other versions
CN114842425A (zh
Inventor
刘灿
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xian Shiyou University
Original Assignee
Xian Shiyou University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xian Shiyou University filed Critical Xian Shiyou University
Priority to CN202210776260.2A priority Critical patent/CN114842425B/zh
Publication of CN114842425A publication Critical patent/CN114842425A/zh
Application granted granted Critical
Publication of CN114842425B publication Critical patent/CN114842425B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0635—Risk analysis of enterprise or organisation activities
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/02—Agriculture; Fishing; Mining
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30—Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • Human Resources & Organizations (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Economics (AREA)
  • General Health & Medical Sciences (AREA)
  • Strategic Management (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Software Systems (AREA)
  • Computational Linguistics (AREA)
  • General Business, Economics & Management (AREA)
  • Tourism & Hospitality (AREA)
  • Marketing (AREA)
  • Evolutionary Biology (AREA)
  • Development Economics (AREA)
  • Game Theory and Decision Science (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Educational Administration (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Agronomy & Crop Science (AREA)
  • Animal Husbandry (AREA)
  • Marine Sciences & Fisheries (AREA)
  • Mining & Mineral Resources (AREA)
  • Primary Health Care (AREA)

Abstract

本发明涉及数据处理技术领域，具体涉及一种用于石油化工工艺的异常行为识别方法及电子设备，该方法基于神经网络中各卷积层对正常操作行为图像和异常操作行为图像的特征提取效果差异，对神经网络中的损失函数进行优化，以实现对神经网络的神经元的抑制或激励，进而利用优化后的损失函数对神经网络进行再训练，得到最终神经网络，使得最终神经网络能够很好的学习到少量异常样本的特征信息，从而增大了神经网络对应异常样本的学习能力，适当抑制了神经网络对正常样本的学习能力，同时提高了神经网络对异常行为识别率的准确度。

Description

用于石油化工工艺的异常行为识别方法及电子设备
技术领域
本发明涉及数据处理技术领域，具体涉及一种用于石油化工工艺的异常行为识别方法及电子设备。
背景技术
随着社会经济的发展和工业化水平的提高，人们对于能源的需求越来越大，而石油能源作为人们衣食住行的主要能源之一，其使用量也随之增多。为了更好使用石油能源需要对石油进行提炼处理，而在石油化工提炼过程中工艺是保障安全、高效、高质量提炼的基础，因此需要对工艺中的行为进行监控，一旦发现异常行为及时预警。
目前，为了提高异常行为的识别准确度一般采用神经网络来进行识别处理，但是要用神经网络进行识别处理需要大量数据集来训练神经网络，而石油化工工艺中正常行为的样本数据较多，异常行为的样本数据较少，从而存在样本数据不均衡现象，然而如果利用不均衡的样本数据进行训练就会导致神经网络出现过多拟合正常行为样本的信息规律，且对于异常行为样本的信息规律拟合不足，最终导致神经网络对异常行为的识别准确度低。
发明内容
为了解决上述技术问题，本发明的目的在于提供一种用于石油化工工艺的异常行为识别方法及电子设备，所采用的技术方案具体如下：
第一方面，本发明实施例提供了一种用于石油化工工艺的异常行为识别方法，该方法包括：
采集石油化工提炼重点工位设备的多张操作行为图像，所述操作行为图像包括正常操作行为图像和异常操作行为图像；
将所述正常操作行为图像和所述异常操作行为图像作为训练数据，基于预设的损失函数对预先构建的神经网络进行初步训练，得到目标神经网络；其中，所述预先构建的神经网络包括N个卷积层，N为正整数，前N-1个卷积层用于获取输入数据的特征图像和对应的多维特征向量，最后一个卷积层用于获取神经网络的输出数据；所述损失函数是基于所述多维特征向量和输出数据构建的；
获取所述目标神经网络中各神经元对所述正常操作行为图像和所述异常操作行为图像之间的特征提取效果差异，根据所述特征提取效果差异对所述损失函数进行优化，利用优化后的所述损失函数对所述目标神经网络进行训练，得到最终神经网络；利用所述最终神经网络对待检测的操作行为图像进行异常行为识别。
进一步的，所述损失函数的构建方法，包括：
基于前N-1个卷积层的所述多维特征向量和神经网络的输出数据分别对应构建每个卷积层的损失函数；
将交叉熵损失函数和前N-1个卷积层对应的损失函数进行相加构成神经网络的综合损失函数，将所述综合损失函数作为神经网络的所述损失函数。
进一步的，所述每个卷积层的损失函数的构建方法，包括：
利用当前卷积层中的分组卷积操作得到M个通道的特征图像，M为正整数，一个分组对应一个通道的特征图像；对M个通道的特征图像进行全局最大池化得到M维特征向量；
设定当前卷积层中第i个分组卷积核对所述正常操作行为图像的第一特征提取效果值和第i个分组卷积核对所述异常操作行为图像的第二特征提取效果值，分组卷积核是指与当前分组相关的神经元；对第一特征提取效果值和第二特征提取效果值进行相加，得到累加值，计算第一特征提取效果值与累加值之间的第一比值和第二特征提取效果值与累加值之间的第二比值；
获取M维特征向量中第i个分组卷积核对应的维度取值，将所述维度取值与第一比值之间的乘积作为第i个分组卷积核对所述正常操作行为图像的第一特征描述能力指标，将所述维度取值与第二比值之间的乘积作为第i个分组卷积核对所述异常操作行为图像的第二特征描述能力指标；令第i个分组卷积核对应的第一特征描述能力指标和第二特征描述能力指标构成一个二维目标向量；
结合神经网络的输出数据和每个分组卷积核对应的所述二维目标向量构建当前卷积层对应的损失函数，则损失函数的公式为：
Figure 801052DEST_PATH_IMAGE001
其中，
Figure 946862DEST_PATH_IMAGE002
为当前卷积层的损失函数；
Figure 915955DEST_PATH_IMAGE003
为当前卷积层的分组卷积核的总数量；
Figure 772791DEST_PATH_IMAGE004
为输出数据
Figure 651885DEST_PATH_IMAGE005
与第i个分组卷积核对应的所述二维目标向量
Figure 703018DEST_PATH_IMAGE006
之间的L2范数。
进一步的，所述根据所述特征提取效果差异对所述损失函数进行优化的方法，包括：
根据训练好的目标神经网络得到前N-1个卷积层对应每个分组卷积核的第一特征提取效果值和第二特征提取效果值；
根据第一特征提取效果值和第二特征提取效果值之间的差值分别构建前N-1个卷积层中每个卷积层的正则化项，将所有的正则化项进行累加得到综合正则化项；
将综合损失函数中的交叉熵损失函数与所述综合正则化项进行相加得到优化后的所述损失函数。
进一步的，所述根据第一特征提取效果值和第二特征提取效果值之间的差值分别构建前N-1个卷积层中每个卷积层的正则化项得方法，包括：
对当前卷积层中第i个分组卷积核的第一特征提取效果值和第二特征提取效果值进行归一化，分别得到归一化第一特征提取效果值和归一化第二特征提取效果值；计算归一化第一特征提取效果值和归一化第二特征提取效果值之间的差值，根据所述差值得到第i个分组卷积核的正则化系数；
获取当前卷积层中每个分组卷积核的正则化系数，基于每个分组卷积核的正则化系数构建当前卷积层的正则化项，则正则化项的计算公式为：
Figure 893827DEST_PATH_IMAGE007
其中，
Figure 524660DEST_PATH_IMAGE008
为当前层的正则化项；
Figure 287955DEST_PATH_IMAGE009
为第j个神经元的参数值；
Figure 103464DEST_PATH_IMAGE003
为当前卷积层的分组卷积核的总数量；
Figure 656936DEST_PATH_IMAGE010
为目标神经网络中的神经元总数量；
Figure 216093DEST_PATH_IMAGE011
为当前卷积层中第i个分组卷积核的正则化系数。
进一步的，所述正则化系数的计算公式为：
Figure 53468DEST_PATH_IMAGE012
其中，
Figure 446403DEST_PATH_IMAGE011
为第一特征图F1中第i个分组卷积核的正则化系数；
Figure 877385DEST_PATH_IMAGE013
表示常量系数，根据经验该值为
Figure 82976DEST_PATH_IMAGE014
，
Figure 915803DEST_PATH_IMAGE010
表示目标神经网络中神经元的总数量；
Figure 479639DEST_PATH_IMAGE015
为归一化第一特征提取效果值；
Figure 7704DEST_PATH_IMAGE016
为归一化第二特征提取效果值；
Figure 580767DEST_PATH_IMAGE017
为特征提取效果差异值，且当
Figure 2521DEST_PATH_IMAGE018
时，
Figure 907898DEST_PATH_IMAGE019
=
Figure 719997DEST_PATH_IMAGE020
，当
Figure 300014DEST_PATH_IMAGE021
时，
Figure 576274DEST_PATH_IMAGE022
，其中
Figure 269465DEST_PATH_IMAGE023
为常数。
进一步的，本发明实施例还提供了一种用于石油化工工艺的异常行为识别电子设备，包括存储器、处理器以及存储在所述存储器中并在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述一种用于石油化工工艺的异常行为识别方法中的步骤。
本发明实施例至少具有如下有益效果：基于神经网络中各卷积层对正常操作行为图像和异常操作行为图像的特征提取效果差异，对神经网络中的损失函数进行优化，以实现对神经网络的神经元的抑制或激励，进而利用优化后的损失函数对神经网络进行再训练，得到最终神经网络，使得最终神经网络能够很好的学习到少量异常样本的特征信息，从而增大了神经网络对应异常样本的学习能力，适当抑制了神经网络对正常样本的学习能力，同时提高了神经网络对异常行为识别率的准确度。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案和优点，下面将对实施例或现有技术描述中所需要使用的附图作简单的介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它附图。
图1为本发明一个实施例提供的一种用于石油化工工艺的异常行为识别方法的步骤流程图。
具体实施方式
为了更进一步阐述本发明为达成预定发明目的所采取的技术手段及功效，以下结合附图及较佳实施例，对依据本发明提出的一种用于石油化工工艺的异常行为识别方法及电子设备，其具体实施方式、结构、特征及其功效，详细说明如下。在下述说明中，不同的“一个实施例”或“另一个实施例”指的不一定是同一实施例。此外，一或多个实施例中的特定特征、结构或特点可由任何合适形式组合。
除非另有定义，本文所使用的所有的技术和科学术语与属于本发明的技术领域的技术人员通常理解的含义相同。
下面结合附图具体的说明本发明所提供的一种用于石油化工工艺的异常行为识别方法及电子设备的具体方案。
请参阅图1，其示出了本发明一个实施例提供的一种用于石油化工工艺的异常行为识别方法的步骤流程图，该方法包括以下步骤：
步骤S001,采集石油化工提炼重点工位设备的多张操作行为图像，操作行为图像包括正常操作行为图像和异常操作行为图像。
具体的，利用相机采集石油化工提炼重点工位设备的多张操作行为图像，且通过人工判定将操作行为图像分为正常操作行为图像和异常操作行为图像。
步骤S002,将正常操作行为图像和异常操作行为图像作为训练数据，基于预设的损失函数对预先构建的神经网络进行初步训练，得到目标神经网络；其中，预先构建的神经网络包括N个卷积层，N为正整数，前N-1个卷积层用于获取输入数据的特征图像和对应的多维特征向量，最后一个卷积层用于获取神经网络的输出数据；损失函数是基于多维特征向量和输出数据构建的。
具体的，预先构建神经网络的网络结构图，该神经网络包括N个卷积层，N为正整数，且卷积层采用ResNet网络结构，每个卷积层都包含分组卷积操作、池化操作和激活函数等，由于ResNet网络是常用的神经网络，本发明实施例不再对该网络进行详细叙述；将正常操作行为图像和异常操作行为图像作为神经网络的训练数据，也即是神经网络的输入数据，神经网络的输出数据为二维向量Y，该向量表示输入数据属于正常操作行为类别和异常操作行为类别的概率。
以带有标签的操作行为图像X为例进行神经网络的叙述，其中，令神经网络有四个卷积层、操作行为图像X的大小为1024*1024，且其标签为正常操作行为标签[1,0]或异常操作行为标签[0,1]。
将操作行为图像X输入到神经网络中，该操作行为图像X通过神经网络的卷积层1处理得到大小为256*256*80的第一特征图像F1，利用卷积层1中的分组卷积操作得到第一特征图F1对应的M个通道的特征图像，然后再将M个通道的特征图像进行全局最大池化得到特征向量
Figure 772122DEST_PATH_IMAGE024
，特征向量
Figure 749305DEST_PATH_IMAGE024
为一个M维特征向量。
需要说明的是，特征向量
Figure 817755DEST_PATH_IMAGE024
中的M维度分别对应第一特征图F1中的M个分组，因此可以将第一特征图F1中每个分组降维成特征向量
Figure 97558DEST_PATH_IMAGE024
中的每个维度取值；又因为第一特征图F1的每个分组里即包含正常样本特征也会包含异常样本特征，所以得到特征向量
Figure 382783DEST_PATH_IMAGE024
中的每个维度的大小取值表示正常样本特征与异常样本特征的融合结果。
需要说明的是，正常样本是指正常操作行为图像，异常样本为异常操作行为图像。
同理，将第一特征图F1输入卷积层2，得到大小为64*64*40的第二特征图F2和一个M维特征向量
Figure 163658DEST_PATH_IMAGE025
，将第二特征图F2输入卷积层3，能够得到大小为16*16*10的第三特征图F3和对应的M维特征向量
Figure 758718DEST_PATH_IMAGE026
，将第三特征图F3输入卷积层4得到神经网络的输出数据，也即是二维向量Y。
进一步的，由于异常行为样本数量较少，正常行为样本数据较多，导致神经网络对正常行为存在过拟合，对异常行为存在欠拟合，因而需提高神经网络对异常行为样本数据的学习能力，抑制正常行为样本数据的学习能力，故通过构建神经网络的损失函数以使得神经网络达到该目的。
需要说明的是，在神经网络的训练过程中，如果任意卷积层中对应当前分组的特征图像所包含的特征对神经网络输出正常操作行为类别有帮助，则说明与当前分组相关的神经元对正常样本的特征提取效果较好，反之，当前分组的特征图像所包含的特征对神经网络输出异常操作行为类别有帮助，则说明与当前分组相关的神经元对异常样本的特征提取效果较好，由此可知与当前分组相关的神经元是指在当前分组卷积过程中直接得到当前分组的特征图像的所有卷积核，而为了后续叙述方便，将每个分组的相关神经元简称为分组卷积核，一个分组的相关神经元对应一个分组卷积核。
本发明实施例基于神经网络的卷积层输出结果，也即是多维特征向量和输出数据构建神经网络的损失函数，其损失函数的构建过程为：
（1）基于前N-1个卷积层的多维特征向量和输出数据分别构建每个卷积层的损失函数。
具体的，以神经网络的卷积层1为例，令第一特征图F1中的第i个分组卷积核对正常样本的第一特征提取效果值为
Figure 271739DEST_PATH_IMAGE027
、第i个分组卷积核对异常样本的第二特征提取效果值为
Figure 981944DEST_PATH_IMAGE028
,且将第一特征图F1中每个分组卷积核分别对正常样本的第一特征提取效果值和异常样本的第二特征提取效果值视为待学习参数，且对其进行随机初始化。
设卷积层1的多维特征向量
Figure 238613DEST_PATH_IMAGE024
中第i个维度取值为
Figure 343972DEST_PATH_IMAGE029
，
Figure 27894DEST_PATH_IMAGE029
的大小表示第i个分组卷积核中正常样本特征与异常样本特征的融合结果，因此令第i个分组卷积核对正常样本的特征描述能力指标为
Figure 726860DEST_PATH_IMAGE030
、令第i个分组卷积核对异常样本的特征描述能力指标为
Figure 849537DEST_PATH_IMAGE031
。
为了提高神经网络对异常行为样本数据的学习能力而抑制正常行为样本数据的学习能力，需要当神经网络的输入数据为正常样本时得到特征描述能力指标
Figure 245621DEST_PATH_IMAGE032
尽可能大于特征描述能力指标
Figure 303707DEST_PATH_IMAGE033
，反之，当神经网络的输入数据为异常样本时，得到的特征描述能力指标
Figure 614602DEST_PATH_IMAGE033
尽可能大于特征描述能力指标
Figure 213074DEST_PATH_IMAGE032
，则令第i个分组卷积核对应的特征描述能力指标
Figure 168392DEST_PATH_IMAGE033
和特征描述能力指标
Figure 522013DEST_PATH_IMAGE032
构成一个二维目标向量
Figure 490843DEST_PATH_IMAGE034
，同理，获取第一特征图F1对应每个分组卷积核的二维目标向量，结合神经网络的输出数据和每个分组卷积核对应的二维目标向量构建卷积层1对应的损失函数，则损失函数的公式为：
Figure 96268DEST_PATH_IMAGE035
其中，
Figure 765147DEST_PATH_IMAGE002
为卷积层1对应的损失函数；
Figure 227352DEST_PATH_IMAGE003
为卷积层1中第一特征图F1对应的分组卷积核的总数量；
Figure 122627DEST_PATH_IMAGE004
为输出数据
Figure 561436DEST_PATH_IMAGE005
与第i个分组卷积核对应的二维目标向量
Figure 350401DEST_PATH_IMAGE006
之间的L2范数。
（2）利用步骤（1）的方法，分别构建前N-1个卷积层对应的损失函数，将交叉熵损失函数和前N-1个卷积层对应的损失函数进行相加构成神经网络的综合损失函数，则综合损失函数
Figure 983508DEST_PATH_IMAGE036
，其中
Figure 100499DEST_PATH_IMAGE037
为交叉熵损失函数，
Figure 172360DEST_PATH_IMAGE038
为卷积层1的损失函数，
Figure 19094DEST_PATH_IMAGE039
为卷积层2的损失函数，
Figure 259320DEST_PATH_IMAGE040
为第N-1个卷积层对应的损失函数。
进一步的，利用构建的综合损失函数，将神经网络的训练数据输入到神经网络中，利用随机梯度下降法进行E轮初始迭代训练，E为正整数，在训练过程中，令每个卷积层的第i个分组卷积核对应的二维目标向量
Figure 253821DEST_PATH_IMAGE006
与神经网络的输出数据
Figure 535897DEST_PATH_IMAGE005
尽可能相等，从而实现当神经网络的输入数据为正常样本时，得到的特征描述能力指标
Figure 440400DEST_PATH_IMAGE032
大于特征描述能力指标
Figure 212047DEST_PATH_IMAGE033
，当神经网络的输入数据为异常样本时，得到的特征描述能力指标
Figure 631527DEST_PATH_IMAGE033
大于特征描述能力指标
Figure 419092DEST_PATH_IMAGE032
，优选的，本发明实施例令E=30，通过30轮初始迭代训练得到初始训练好的神经网络，将初始训练好的神经网络作为目标神经网络。
步骤S003,获取目标神经网络中各神经元对正常操作行为图像和异常操作行为图像之间的特征提取效果差异，根据特征提取效果差异对损失函数进行优化，利用优化后的损失函数对目标神经网络进行训练，得到最终神经网络；利用最终神经网络对待检测的操作行为图像进行异常行为识别。
具体的，根据步骤S002步骤得到目标神经网络，相对应也得到目标神经网络中前N-1个卷积层对应每个分组卷积核分别对正常样本的特征提取效果值和对异常样本的特征提取效果值，进而根据正常样本的特征提取效果值和异常样本的特征提取效果值之间的特征提取效果差异进行目标神经网络的神经元激活或抑制处理，从而对目标神经网络的综合损失函数进行优化，则具体过程为：
（1）以卷积层1为例，对第一特征图F1中每个分组卷积核对应的特征提取效果值进行归一化处理，归一化方法为：
Figure 37155DEST_PATH_IMAGE041
其中，
Figure 182965DEST_PATH_IMAGE027
表示第一特征图F1中第i个分组卷积核对正常样本的第一特征提取效果值；
Figure 761845DEST_PATH_IMAGE028
为第一特征图F1中第i个分组卷积核对异常样本的第二特征提取效果值；
Figure 713621DEST_PATH_IMAGE042
表示第一特征图F1中第i个分组卷积核对正常样本的归一化第一特征提取效果值。
Figure 389453DEST_PATH_IMAGE043
其中，
Figure 876804DEST_PATH_IMAGE016
表示第一特征图F1中第i个分组卷积核对异常样本的归一化第二特征提取效果值。
（2）根据第一特征图F1中第i个分组卷积核分别对正常样本的归一化特征提取效果值
Figure 5297DEST_PATH_IMAGE042
和对异常样本的归一化特征提取效果值
Figure 760763DEST_PATH_IMAGE016
，获取第一特征图F1中第i个分组卷积核的正则化系数。
具体的，当第一特征图F1中第i个分组卷积核对正常样本的特征提取效果较大时，应该对该分组卷积核进行抑制，进而将该分组卷积核的正则化系数调大，则第一特征图F1中第i个分组卷积核的正则化系数的计算公式为：
Figure 25522DEST_PATH_IMAGE044
其中，
Figure 716398DEST_PATH_IMAGE011
为第一特征图F1中第i个分组卷积核的正则化系数；
Figure 394504DEST_PATH_IMAGE045
表示常量系数，根据经验该值为
Figure 61983DEST_PATH_IMAGE014
，
Figure 446828DEST_PATH_IMAGE010
表示目标神经网络中神经元的总数量；
Figure 433239DEST_PATH_IMAGE017
为特征提取效果差异值,当
Figure 474007DEST_PATH_IMAGE018
时，
Figure 243380DEST_PATH_IMAGE019
=
Figure 810628DEST_PATH_IMAGE020
，当
Figure 872999DEST_PATH_IMAGE021
时，
Figure 666643DEST_PATH_IMAGE022
，其中
Figure 36444DEST_PATH_IMAGE047
为常数。
优选的，本发明实施例中
Figure 599144DEST_PATH_IMAGE023
取经验值，令
Figure 599461DEST_PATH_IMAGE048
。
（3）利用步骤（1）和步骤（2）能够得到卷积层1对应的第一特征图F1中每个分组卷积核的正则化系数，进而基于每个分组卷积核的正则化系数构建卷积层1的正则化项，则正则化项的计算公式为：
Figure 473876DEST_PATH_IMAGE007
其中，
Figure 552428DEST_PATH_IMAGE008
为卷积层1的正则化项；
Figure 766372DEST_PATH_IMAGE009
为第j个神经元的参数值。
（4）利用步骤（1）至步骤（3）的方法，分别得到目标神经网络中前N-1个卷积层的正则化项，将所有正则化项进行累加得到综合正则化项。
（5）利用综合正则化项对目标神经网络的综合损失函数进行优化，则优化后的综合损失函数为综合损失函数中的交叉熵损失函数与综合正则化项之间的相加结果。
进一步的，利用优化后的综合损失函数对目标神经网络进行再次训练，得到最终神经网络，进而利用最终神经网络对待检测的操作行为图像进行异常行为识别，当识别结果为异常行为时，发出报警信号以通知管理人员进行处理。
综上所述，本发明实施例提供了一种用于石油化工工艺的异常行为识别方法，该方法基于神经网络中各卷积层对正常操作行为图像和异常操作行为图像的特征提取效果差异，对神经网络中的损失函数进行优化，以实现对神经网络的神经元的抑制或激励，进而利用优化后的损失函数对神经网络进行再训练，得到最终神经网络，使得最终神经网络能够很好的学习到少量异常样本的特征信息，从而增大了神经网络对应异常样本的学习能力，适当抑制了神经网络对正常样本的学习能力，同时提高了神经网络对异常行为识别率的准确度。
基于与上述方法相同的发明构思，本发明实施例还提供了一种用于石油化工工艺的异常行为识别电子设备，包括存储器、处理器以及存储在所述存储器中并在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述一种用于石油化工工艺的异常行为识别方法中的步骤。
需要说明的是：上述本发明实施例先后顺序仅仅为了描述，不代表实施例的优劣。且上述对本说明书特定实施例进行了描述。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。
以上所述仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (3)

1.一种用于石油化工工艺的异常行为识别方法，其特征在于，该方法包括以下步骤：
采集石油化工提炼重点工位设备的多张操作行为图像，所述操作行为图像包括正常操作行为图像和异常操作行为图像；
将所述正常操作行为图像和所述异常操作行为图像作为训练数据，基于预设的损失函数对预先构建的神经网络进行初步训练，得到目标神经网络；其中，所述预先构建的神经网络包括N个卷积层，N为正整数，前N-1个卷积层用于获取输入数据的特征图像和对应的多维特征向量，最后一个卷积层用于获取神经网络的输出数据；所述损失函数是基于所述多维特征向量和输出数据构建的；
获取所述目标神经网络中各神经元对所述正常操作行为图像和所述异常操作行为图像之间的特征提取效果差异，根据所述特征提取效果差异对所述损失函数进行优化，利用优化后的所述损失函数对所述目标神经网络进行训练，得到最终神经网络；利用所述最终神经网络对待检测的操作行为图像进行异常行为识别；
所述损失函数的构建方法，包括：
基于前N-1个卷积层的所述多维特征向量和神经网络的输出数据分别对应构建每个卷积层的损失函数；
将交叉熵损失函数和前N-1个卷积层对应的损失函数进行相加构成神经网络的综合损失函数，将所述综合损失函数作为神经网络的所述损失函数；
所述获取所述目标神经网络中各神经元对所述正常操作行为图像和所述异常操作行为图像之间的特征提取效果差异，根据所述特征提取效果差异对所述损失函数进行优化的方法，包括：
基于所述目标神经网络得到前N-1个卷积层对应每个分组卷积核分别对所述正常操作行为图像的第一特征提取效果值和对所述异常操作行为图像的第二特征提取效果值；
将当前卷积层中第i个分组卷积核对应的第一特征提取效果值和第二特征提取效果值进行归一化处理，分别得到归一化第一特征提取效果值和归一化第二特征提取效果值；根据归一化第一特征提取效果值和归一化第二特征提取效果值之间的差异获取当前卷积层中第i个分组卷积核的正则化系数，其中，正则化系数的计算公式为：
Figure 252433DEST_PATH_IMAGE002
其中，
Figure DEST_PATH_IMAGE003
为当前卷积层中第i个分组卷积核的正则化系数；
Figure 156804DEST_PATH_IMAGE004
表示常量系数，根据经验该值为
Figure DEST_PATH_IMAGE005
，
Figure 971920DEST_PATH_IMAGE006
表示所述目标神经网络中神经元的总数量；
Figure DEST_PATH_IMAGE007
为归一化第一特征提取效果值；
Figure 910926DEST_PATH_IMAGE008
为归一化第二特征提取效果值；
Figure DEST_PATH_IMAGE009
为特征提取效果差异值，且当
Figure 828329DEST_PATH_IMAGE010
时，
Figure DEST_PATH_IMAGE011
=
Figure 219996DEST_PATH_IMAGE012
，当
Figure DEST_PATH_IMAGE013
时，
Figure 313504DEST_PATH_IMAGE014
，其中
Figure DEST_PATH_IMAGE015
为常数；
获取当前卷积层中每个分组卷积核的正则化系数；基于每个分组卷积核的正则化系数构建当前卷积层的正则化项，则正则化项的计算公式为：
Figure DEST_PATH_IMAGE017
其中，
Figure 107016DEST_PATH_IMAGE018
为当前卷积层的正则化项；
Figure DEST_PATH_IMAGE019
为第j个神经元的参数值；
Figure 257637DEST_PATH_IMAGE020
为当前卷积层的分组卷积核的总数量；
获取所述目标神经网络中前N-1个卷积层的正则化项，将所有的正则化项进行累加得到综合正则化项；将所述综合损失函数中的交叉熵损失函数与综合正则化项之间的相加结果作为优化后的所述损失函数。
2.如权利要求1所述的一种用于石油化工工艺的异常行为识别方法，其特征在于，所述每个卷积层的损失函数的构建方法，包括：
利用当前卷积层中的分组卷积操作得到M个通道的特征图像，M为正整数，一个分组对应一个通道的特征图像；对M个通道的特征图像进行全局最大池化得到M维特征向量；
设定当前卷积层中第i个分组卷积核对所述正常操作行为图像的第一特征提取效果值和第i个分组卷积核对所述异常操作行为图像的第二特征提取效果值，分组卷积核是指与当前分组相关的神经元；对第一特征提取效果值和第二特征提取效果值进行相加，得到累加值，计算第一特征提取效果值与累加值之间的第一比值和第二特征提取效果值与累加值之间的第二比值；
获取M维特征向量中第i个分组卷积核对应的维度取值，将所述维度取值与第一比值之间的乘积作为第i个分组卷积核对所述正常操作行为图像的第一特征描述能力指标，将所述维度取值与第二比值之间的乘积作为第i个分组卷积核对所述异常操作行为图像的第二特征描述能力指标；令第i个分组卷积核对应的第一特征描述能力指标和第二特征描述能力指标构成一个二维目标向量；
结合神经网络的输出数据和每个分组卷积核对应的所述二维目标向量构建当前卷积层对应的损失函数，则损失函数的公式为：
Figure 480808DEST_PATH_IMAGE022
其中，
Figure DEST_PATH_IMAGE023
为当前卷积层的损失函数；
Figure 889924DEST_PATH_IMAGE020
为当前卷积层的分组卷积核的总数量；
Figure 131418DEST_PATH_IMAGE024
为输出数据
Figure DEST_PATH_IMAGE025
与第i个分组卷积核对应的所述二维目标向量
Figure 967787DEST_PATH_IMAGE026
之间的L2范数。
3.一种用于石油化工工艺的异常行为识别电子设备，包括存储器、处理器以及存储在所述存储器中并在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1-2任意一项所述一种用于石油化工工艺的异常行为识别方法的步骤。
CN202210776260.2A 2022-07-04 2022-07-04 用于石油化工工艺的异常行为识别方法及电子设备 Active CN114842425B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210776260.2A CN114842425B (zh) 2022-07-04 2022-07-04 用于石油化工工艺的异常行为识别方法及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210776260.2A CN114842425B (zh) 2022-07-04 2022-07-04 用于石油化工工艺的异常行为识别方法及电子设备

Publications (2)

Publication Number Publication Date
CN114842425A CN114842425A (zh) 2022-08-02
CN114842425B true CN114842425B (zh) 2022-09-20

Family

ID=82574455

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210776260.2A Active CN114842425B (zh) 2022-07-04 2022-07-04 用于石油化工工艺的异常行为识别方法及电子设备

Country Status (1)

Country Link
CN (1) CN114842425B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116823175A (zh) * 2023-07-10 2023-09-29 深圳市昭行云科技有限公司 一种石油化工生产信息化系统智能运维方法及系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111931641A (zh) * 2020-08-07 2020-11-13 华南理工大学 基于权重多样性正则化的行人重识别方法及其应用
CN112329685A (zh) * 2020-11-16 2021-02-05 常州大学 一种融合型卷积神经网络人群异常行为检测的方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108875779A (zh) * 2018-05-07 2018-11-23 深圳市恒扬数据股份有限公司 神经网络的训练方法、装置及终端设备
CN110163302B (zh) * 2019-06-02 2022-03-22 东北石油大学 基于正则化注意力卷积神经网络的示功图识别方法
EP3885974B1 (en) * 2020-03-28 2024-01-03 Tata Consultancy Services Limited Methods and systems for identifying presence of abnormal heart sounds of a subject
CN111767826B (zh) * 2020-06-24 2023-06-06 浙江大学 一种定时定点场景异常检测方法
CN111798469A (zh) * 2020-07-13 2020-10-20 珠海函谷科技有限公司 基于深度卷积神经网络的数字图像小数据集语义分割方法
CN112115769A (zh) * 2020-08-05 2020-12-22 西安交通大学 一种基于视频的无监督稀疏人群异常行为检测算法
CN113297885A (zh) * 2020-08-10 2021-08-24 湖南长天自控工程有限公司 基于卷积神经网络的皮带机表面状态检测方法及装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111931641A (zh) * 2020-08-07 2020-11-13 华南理工大学 基于权重多样性正则化的行人重识别方法及其应用
CN112329685A (zh) * 2020-11-16 2021-02-05 常州大学 一种融合型卷积神经网络人群异常行为检测的方法

Also Published As

Publication number Publication date
CN114842425A (zh) 2022-08-02

Similar Documents

Publication Publication Date Title
CN108491765B (zh) 一种蔬菜图像的分类识别方法及系统
CN109063719B (zh) 一种联合结构相似性和类信息的图像分类方法
CN111222457B (zh) 一种基于深度可分离卷积的鉴别视频真伪性的检测方法
CN108960304B (zh) 一种网络交易欺诈行为的深度学习检测方法
CN113988126A (zh) 一种基于少标签数据特征迁移的滚动轴承故障诊断方法
US20230162254A1 (en) Product information visualization processing method and apparatus, and computer device
CN113723238B (zh) 一种人脸轻量网络模型构建方法和人脸识别方法
CN114842425B (zh) 用于石油化工工艺的异常行为识别方法及电子设备
CN108364073A (zh) 一种多标记学习方法
CN113887580A (zh) 一种考虑多粒度类相关性的对比式开放集识别方法及装置
CN116628605A (zh) 一种基于ResNet和DSCAttention机制的窃电分类的方法及装置
CN109617864B (zh) 一种网站识别方法及网站识别系统
CN111860601B (zh) 预测大型真菌种类的方法及装置
CN109101984B (zh) 一种基于卷积神经网络的图像识别方法及装置
CN111178897B (zh) 在不平衡数据上快速特征学习的代价敏感的动态聚类方法
CN114119191A (zh) 风控方法、逾期预测方法、模型训练方法及相关设备
CN108898157B (zh) 基于卷积神经网络的数值型数据的雷达图表示的分类方法
CN111783688A (zh) 一种基于卷积神经网络的遥感图像场景分类方法
CN114821200B (zh) 一种应用于工业视觉检测领域的图像检测模型及方法
CN115345248A (zh) 一种面向深度学习的数据去偏方法及装置
CN114494777A (zh) 一种基于3D CutMix-Transformer的高光谱图像分类方法及系统
CN113935413A (zh) 一种基于卷积神经网的配网录波文件波形识别方法
CN113642674A (zh) 一种基于图卷积神经网络的多轮对话分类方法
CN112507137B (zh) 开放环境下基于粒度感知的少样本关系抽取方法及应用
CN114418752B (zh) 无类型标签用户数据的处理方法、装置、电子设备和介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant