CN116645978B - 基于超算并行环境的电力故障声类别增量学习系统及方法 - Google Patents
基于超算并行环境的电力故障声类别增量学习系统及方法 Download PDFInfo
- Publication number
- CN116645978B CN116645978B CN202310735303.7A CN202310735303A CN116645978B CN 116645978 B CN116645978 B CN 116645978B CN 202310735303 A CN202310735303 A CN 202310735303A CN 116645978 B CN116645978 B CN 116645978B
- Authority
- CN
- China
- Prior art keywords
- feature
- power failure
- feature extractor
- super
- learning system
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 21
- 230000005236 sound signal Effects 0.000 claims abstract description 11
- 238000010586 diagram Methods 0.000 claims abstract description 8
- 238000013434 data augmentation Methods 0.000 claims abstract description 5
- 239000013598 vector Substances 0.000 claims description 24
- 238000013528 artificial neural network Methods 0.000 claims description 21
- 239000011159 matrix material Substances 0.000 claims description 16
- 238000011176 pooling Methods 0.000 claims description 9
- 230000008569 process Effects 0.000 claims description 7
- 238000013527 convolutional neural network Methods 0.000 claims description 6
- 230000009471 action Effects 0.000 claims description 2
- 238000004364 calculation method Methods 0.000 claims 1
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 230000002159 abnormal effect Effects 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 230000004075 alteration Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 2
- 238000012423 maintenance Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 206010063385 Intellectualisation Diseases 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000007599 discharging Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
- G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
- G10L25/24—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being the cepstrum
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/27—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
- G10L25/30—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique using neural networks
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
- Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
- Y04S10/00—Systems supporting electrical power generation, transmission or distribution
- Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于超算并行环境的电力故障声类别增量学习系统及方法,电力故障声类别增量学习系统采用可扩展的网络架构包括音频预处理器、特征提取器、权重生成器和分类器,音频预处理器用于将电力故障声的音频信号进行数据增广并转换为梅尔谱图;特征提取器用于提取梅尔谱图中的高层语义特征,每次增加新的类别,系统中就增加一个特征提取器;权重生成器用于针对不同特征提取器生产的特征图,计算出不同的权重,对各特征图乘以对应权重后再进行拼接;分类器由多层全连接层构成,用于根据特征图给出电力故障声类别判断。本发明使得系统可以同时识别旧类别和新增类别;使得各个特征图的组合更加合理。
Description
技术领域
本发明涉及电力安全技术领域,尤其公开了一种基于超算并行环境的电力故障声类别增量学习系统及方法。
背景技术
在电力系统中,许多设备在出现故障时会发出某种特征的异常声音,例如变压器直流偏磁异常、有载分接开关异常、刀闸放电、机械松动等故障,因此许多有经验的运维工程师可通过声音来分辨电力系统的故障类型。得益于深度神经网络强大的特征表示能力,许多科技工作者通过深度学习模型实现了电力故障声音的自动分类,大幅度减轻了运维工程师的工作负担。
虽然现有的基于深度学习的电力故障声智能分类系统取得了巨大成功和广泛应用,但还存在一个明显的缺陷:因为所采用的深度模型只能识别预先设定的某些类别的故障声,一旦遇到新的未曾遇到过的故障声类别,则模型无法有效实现分类识别。然而,在真实的应用场景中,许多新的故障类型会随着任务的拓展和细化被添加进系统,以拓展系统的应用范围。对于电力故障声智能识别系统,必须能够适应任务的变化,能够方便地进行任务升级,并能避免模型的低效重复训练和资源浪费,才能真正实现持续的智能化。
因此,现有基于深度学习的电力故障声诊断系统在遇到新故障类别时失效,是目前亟待解决的技术问题。
发明内容
本发明提供了一种基于超算并行环境的电力故障声类别增量学习系统及方法,旨在解决现有基于深度学习的电力故障声诊断系统在遇到新故障类别时失效的技术问题。
本发明的一方面涉及一种基于超算并行环境的电力故障声类别增量学习系统,采用可扩展的网络架构,包括音频预处理器、特征提取器、权重生成器和分类器,其中,
音频预处理器,用于将电力故障声的音频信号进行数据增广并转换为梅尔谱图;
特征提取器与音频预处理器相连接,用于提取梅尔谱图中的高层语义特征,每次增加新的类别,系统中就增加一个特征提取器;
权重生成器与特征提取器相连接,用于针对不同特征提取器生产的特征图,计算出不同的权重,对各特征图乘以对应权重后再进行拼接;
分类器与权重生成器相连接,由多层全连接层构成,用于根据特征图给出电力故障声类别判断。
进一步地,基于超算并行环境的电力故障声类别增量学习系统还包括历史类别的样本库和新增类别的样本库,
历史类别的样本库设于音频预处理器内,用于存储历史类别样本;
新增类别的样本库设于音频预处理器内,用于存储当前新增类别的样本。
进一步地,特征提取器采用卷积神经网络。
进一步地,权重生成器包括池化层、可学习的第一全连接层Wp和可学习的第二全连接层Wc,
池化层,用于求取特征图在二维尺度上的平均值,并将特征图的每个通道被变换为一个标量值,每个特征图在池化后会获得一个矢量Vi(i=1...t),矢量的长度为特征图的通道数;
第一全连接层Wp,用于将池化后的矢量Vi(i=1...t)拼接成一个一维矢量V,并将拼接的一维矢量V转化为一个长度为t的一维矢量Vp;
第二全连接层Wc,用于将长度为t的一维矢量Vp再次转化成另一个长度为t的一维矢量Vc。
进一步地,权重生成器将每个特征图视为一个三维矩阵,每个三维矩阵的维度大小一致,均表示为W×H×C。
本发明的另一方面涉及一种基于超算并行环境的电力故障声类别增量学习系统的训练方法,应用于上述的基于超算并行环境的电力故障声类别增量学习系统中,基于超算并行环境的电力故障声类别增量学习系统的训练方法包括以下步骤:
训练初始特征提取器E1;
每当有新增的类别需要识别,则新增一个特征提取器,并分为两个阶段S1和S2训练神经网络。
进一步地,每当有新增的类别需要识别,则新增一个特征提取器,并分为两个阶段S1和S2训练神经网络的步骤中,在S1阶段,将历史上曾经训练好的特征提取器E1...Et-1的参数固定,利用随机梯度下降算法对神经网络的其它部分的参数进行训练和调整,其中学习率设置为一个较大的值lr1。
进一步地,每当有新增的类别需要识别,则新增一个特征提取器,并分为两个阶段S1和S2训练神经网络的步骤中,根据随机梯度下降算法的基本流程,将S1阶段分为多次迭代,在S1阶段的每次迭代过程中,从样本库中采集一批样本作为神经网络的输入。
进一步地,每当有新增的类别需要识别,则新增一个特征提取器,并分为两个阶段S1和S2训练神经网络的步骤中,在S2阶段进行均衡化微调训练,将历史上曾经训练好的特征提取器E1...Et-1的参数固定,特征提取器Et的参数也被固定,仅对权重生成器和分类器进行微调,其中学习率设置为一个较小的值lr2,lr2<lr1。
进一步地,每当有新增的类别需要识别,则新增一个特征提取器,并分为两个阶段S1和S2训练神经网络的步骤中,根据随机梯度下降算法的基本流程,S2阶段被分为多次迭代,在S2阶段的每次迭代过程中,从样本库中采集一批样本作为神经网络的输入。
本发明所取得的有益效果为:
本发明提供一种基于超算并行环境的电力故障声类别增量学习系统及方法,电力故障声类别增量学习系统采用可扩展的网络架构,包括音频预处理器、特征提取器、权重生成器和分类器,音频预处理器,用于将电力故障声的音频信号进行数据增广并转换为梅尔谱图;特征提取器与音频预处理器相连接,用于提取梅尔谱图中的高层语义特征,每次增加新的类别,系统中就增加一个特征提取器;权重生成器与特征提取器相连接,用于针对不同特征提取器生产的特征图,计算出不同的权重,对各特征图乘以对应权重后再进行拼接;分类器与权重生成器相连接,由多层全连接层构成,用于根据特征图给出电力故障声类别判断。本发明提供的基于超算并行环境的电力故障声类别增量学习系统及方法,由于采用了可扩展的网络架构,系统在遇到新的故障声类型时,旧的特征提取器可以较好地提取出旧类别的特征,而新增的特征提取器可以较好地提取新增类别的特征,使得系统可以同时识别旧类别和新增类别;设计了权重生成器,通过学习的方式获得各个特征提取器生产的特征图的权重,使得各个特征图的组合更加合理;在S2阶段进行了均衡化微调训练,因此系统可以减缓不同类别间样本数量不一样导致的网络偏置;利用超级计算平台的大规模并行计算能力,多个特征提取器可同时运算,提高了系统的计算效率。
附图说明
图1为本发明提供的基于超算并行环境的电力故障声类别增量学习系统一实施例的功能框图;
图2为本发明提供的基于超算并行环境的电力故障声类别增量学习系统可扩展的网络架构图;
图3为图1中所示的权重生成器的结构示意图;
图4为本发明提供的于超算并行环境的电力故障声类别增量学习系统的训练方法一实施例的流程示意图。
附图标号说明:
10、音频预处理器;20、特征提取器;30、权重生成器;40、分类器;50、历史类别的样本库;60、新增类别的样本库。
具体实施方式
为了更好的理解上述技术方案,下面将结合说明书附图以及具体的实施方式对上述技术方案做详细的说明。
如图1和图2所示,本发明第一实施例提出一种基于超算并行环境的电力故障声类别增量学习系统,采用可扩展的网络架构,包括音频预处理器10、特征提取器20、权重生成器30和分类器40,其中,音频预处理器10,用于将电力故障声的音频信号进行数据增广并转换为梅尔谱图;特征提取器20与音频预处理器10相连接,用于提取梅尔谱图中的高层语义特征,每次增加新的类别,系统中就增加一个特征提取器;权重生成器30与特征提取器20相连接,用于针对不同特征提取器20生产的特征图,计算出不同的权重,对各特征图乘以对应权重后再进行拼接;分类器40与权重生成器30相连接,由多层全连接层构成,用于根据特征图给出电力故障声类别判断。
在上述结构中,请见图1和图2,基于超算并行环境的电力故障声类别增量学习系统还包括历史类别的样本库50和新增类别的样本库60,其中,历史类别的样本库50设于音频预处理器10内,用于存储历史类别样本;新增类别的样本库60设于音频预处理器10内,用于存储当前新增类别的样本。在本实施例中,历史类别样本库50中,每个历史类别存储的样本数较少。新增类别样本库60中,每个新增类别的样本数很多。
本实施例提供的基于超算并行环境的电力故障声类别增量学习系统,主要包括如图1和2所示的几个部分:(1)音频预处理器10,将音频信号进行数据增广并转换为梅尔谱;(2)特征提取器20E1...Et,特征提取器用于提取梅尔谱图中的高层语义特征,每次增加新的类别,系统中就增加一个特征提取器,其中Et表示第t次增加类别时新添加的特征提取器;(3)权重生成器30,针对不同特征提取器生产的特征图,权重生成器会计算出不同的权重,各特征图乘以该权重后再进行拼接;(4)分类器40,由多层全连接层构成,根据特征图给出类别判断;(5)历史类别的样本库50,用于存储历史类别样本的存储,每个历史类别存储的样本数较少;(6)新增类别的样本库60,用于存储当前新增类别的样本的存储,每个新增类别的样本数很多。
本实施例提供的基于超算并行环境的电力故障声类别增量学习系统,特征提取器20采用卷积神经网络(Convolutional Neural Networks,简称CNN)。卷积神经网络可以有多种实现方式,例如VGG(Visual Geometry Group Network,视觉几何群网络),也可以为ResNet(Residual Network,残差网络),均在本专利的保护范围之内。
进一步地,如图3所示,图3为图1中所示的权重生成器的结构示意图,权重生成器30包括池化层pool、可学习的第一全连接层Wp和可学习的第二全连接层Wc,其中,池化层pool用于求取特征图在二维尺度上的平均值,并将特征图的每个通道被变换为一个标量值,每个特征图在池化后会获得一个矢量Vi(i=1...t),矢量的长度为特征图的通道数。第一全连接层Wp用于将池化后的矢量Vi(i=1...t)拼接成一个一维矢量V,并将拼接的一维矢量V转化为一个长度为t的一维矢量Vp;第二全连接层Wc用于将长度为t的一维矢量Vp再次转化成另一个长度为t的一维矢量Vc。其中,Vc(1)是特征图F1的权重,Vc(2)是特征图F2的权重...以此类推,Vc(t)是特征图Ft的权重。
在本实施例中,可扩展的网络架构采用超算平台进行运算。每增加一个特征提取器20,就从超算平台动态申请一块GPU卡,各个特征提取器20并行化计算。权重生成器30将每个特征图视为一个三维矩阵,每个三维矩阵的维度大小一致,均表示为W×H×C。
本实施例提供的基于超算并行环境的电力故障声类别增量学习系统,权重生成器中Ft和VC(t)进行加权拼接的作用和原理:对于分类器而言,各个特征提取器输出的特征图F1...Ft的重要性并不一致,通过可学习的权重生成器,自动计算出各个特征图的权重,也就获得了各个特征图的重要性。通过权重生成器得到的权重值,是学习所得,比将各个特征图简单地进行同权拼接更加合理。加权拼接的过程为:每个特征图均可视为一个三维矩阵,每个三维矩阵的维度大小一致,均可表示为W×H×C,三维矩阵F1中每一个元素均与VC(1)相乘,...,三维矩阵Ft中每一个元素均与VC(t)相乘,相乘后的各个三维矩阵在第三个维度(通道维度C)上进行拼接,拼接后的新三维矩阵的维度为W×H×(tC)。
本发明的另一方面涉及一种基于超算并行环境的电力故障声类别增量学习系统的训练方法,应用于上述的基于超算并行环境的电力故障声类别增量学习系统中,基于超算并行环境的电力故障声类别增量学习系统的训练方法包括以下步骤:
步骤S100、训练初始特征提取器E1。
步骤S200、每当有新增的类别需要识别,则新增一个特征提取器,并分为两个阶段S1和S2训练神经网络。
在S1阶段,将历史上曾经训练好的特征提取器E1...Et-1的参数固定,利用随机梯度下降算法对神经网络的其它部分的参数进行训练和调整,其中学习率设置为一个较大的值lr1。
根据随机梯度下降算法的基本流程,将S1阶段分为多次迭代,在S1阶段的每次迭代过程中,从样本库中采集一批样本(一个mini-batch)作为神经网络的输入。学习率是随机梯度下降算法中需要由人工设置的一个超参数。学习率lr1较大,则神经网络参数调整幅度较大,训练速度较快,但参数可能难以调整到较好的取值。本实施例所针对的应用场景中,历史类别的样本较少,而新增类别的样本较多。本实施例的S1阶段在采样时每个类别样本被抽中的概率与该类别样本数的多少成正比,例如,类别1的样本数占总样本的比例为P1,则类别1被抽中的比例为P1。
在S2阶段进行均衡化微调训练,将历史上曾经训练好的特征提取器E1...Et-1的参数固定,特征提取器Et的参数也被固定,仅有权重生成器和分类器的参数不固定(利用随机梯度下降算法),其中学习率设置为一个较小的值lr2,lr2<lr1。在本实施例中,学习率是随机梯度下降算法中需要由人工设置的一个超参数。学习率lr2较小,则神经网络参数调整幅度较小,训练速度较慢,通过设置较小的学习率参数可以调整到较好的取值。
根据随机梯度下降算法的基本流程,S2阶段被分为多次迭代,在S2阶段的每次迭代过程中,从样本库中采集一批样本(一个mini-batch)作为神经网络的输入。本实施例所针对的应用场景中,历史类别的样本较少,而新增类别的样本较多。本发明的S2阶段在采样时采用均衡化采样技术,即不管每个类别样本数的多少,各类别的样本被抽中的概率是一样的。
本实施例提供的基于超算并行环境的电力故障声类别增量学习系统及方法,所取得的有益效果为:(1)由于采用了可扩展的网络架构,系统在遇到新的故障声类型时,旧的特征提取器可以较好地提取出旧类别的特征,而新增的特征提取器可以较好地提取新增类别的特征,使得系统可以同时识别旧类别和新增类别。(2)设计了权重生成器,通过学习的方式获得各个特征提取器生产的特征图的权重,使得各个特征图的组合更加合理。(3)在S2阶段进行了均衡化微调训练,因此系统可以减缓不同类别间样本数量不一样导致的网络偏置。(4)利用超级计算平台的大规模并行计算能力,多个特征提取器可同时运算,提高了系统的计算效率。
尽管已描述了本发明的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例作出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。
Claims (5)
1.一种基于超算并行环境的电力故障声类别增量学习系统,其特征在于,采用可扩展的网络架构,包括音频预处理器(10)、特征提取器(20)、权重生成器(30)和分类器(40),其中,
所述音频预处理器(10),用于将电力故障声的音频信号进行数据增广并转换为梅尔谱图;
所述特征提取器(20)与所述音频预处理器(10)相连接,用于提取梅尔谱图中的高层语义特征,每次增加新的类别,系统中就增加一个特征提取器;
所述权重生成器(30)与所述特征提取器(20)相连接,用于针对不同特征提取器(20)生产的特征图,计算出不同的权重,对各特征图乘以对应权重后再进行拼接;
分类器(40)与所述权重生成器(30)相连接,由多层全连接层构成,用于根据所述特征图给出电力故障声类别判断;
所述权重生成器(30)包括池化层、可学习的第一全连接层Wp和可学习的第二全连接层Wc,
所述池化层,用于求取特征图在二维尺度上的平均值,并将特征图的每个通道被变换为一个标量值,每个特征图在池化后会获得一个矢量Vi(i=1...t),矢量的长度为特征图的通道数;
所述第一全连接层Wp,用于将池化后的矢量Vi(i=1...t)拼接成一个一维矢量V,并将拼接的一维矢量V转化为一个长度为t的一维矢量Vp;
所述第二全连接层Wc,用于将长度为t的一维矢量Vp再次转化成另一个长度为t的一维矢量Vc;其中,Vc(1)是特征图F1的权重,Vc(2)是特征图F2的权重...以此类推,Vc(t)是特征图Ft的权重;
可扩展的网络架构采用超算平台进行运算,每增加一个特征提取器(20),就从超算平台动态申请一块GPU卡,各个特征提取器(20)并行化计算;所述权重生成器(30)将每个特征图视为一个三维矩阵,每个三维矩阵的维度大小一致,均表示为W×H×C;所述权重生成器(30)中Ft和Vc(t)进行加权拼接的作用和原理:对于分类器(40)而言,各个特征提取器(20)输出的特征图F1...Ft的重要性并不一致,通过可学习的权重生成器(30),自动计算出各个特征图的权重,也就获得了各个特征图的重要性;
加权拼接的过程为:每个特征图均可视为一个三维矩阵,每个三维矩阵的维度大小一致,均可表示为W×H×C,三维矩阵F1中每一个元素均与Vc(1)相乘,...,三维矩阵Ft中每一个元素均与Vc(t)相乘,相乘后的各个三维矩阵在第三个维度上进行拼接,拼接后的新三维矩阵的维度为W×H×(tC)。
2.如权利要求1所述的基于超算并行环境的电力故障声类别增量学习系统,其特征在于,所述基于超算并行环境的电力故障声类别增量学习系统还包括历史类别的样本库(50)和新增类别的样本库(60),
所述历史类别的样本库(50)设于所述音频预处理器(10)内,用于存储历史类别样本;
所述新增类别的样本库(60)设于所述音频预处理器(10)内,用于存储当前新增类别的样本。
3.如权利要求1所述的基于超算并行环境的电力故障声类别增量学习系统,其特征在于,所述特征提取器(20)采用卷积神经网络。
4.一种基于超算并行环境的电力故障声类别增量学习系统的训练方法,应用于如权利要求1至3任意一项所述的基于超算并行环境的电力故障声类别增量学习系统中,其特征在于,所述基于超算并行环境的电力故障声类别增量学习系统的训练方法包括以下步骤:
训练初始特征提取器E1;
每当有新增的类别需要识别,则新增一个特征提取器,并分为两个阶段S1和S2训练神经网络;
所述每当有新增的类别需要识别,则新增一个特征提取器,并分为两个阶段S1和S2训练神经网络的步骤中,在S1阶段,将历史上曾经训练好的特征提取器E1...Et-1的参数固定,利用随机梯度下降算法对神经网络的其它部分的参数进行训练和调整,其中学习率设置为lr1;
在S2阶段进行均衡化微调训练,将历史上曾经训练好的特征提取器E1...Et-1的参数固定,特征提取器Et的参数也被固定,仅对权重生成器和分类器进行微调,其中学习率设置为lr2,lr2<lr1。
5.如权利要求4所述的基于超算并行环境的电力故障声类别增量学习系统的训练方法,其特征在于,所述每当有新增的类别需要识别,则新增一个特征提取器,并分为两个阶段S1和S2训练神经网络的步骤中,根据随机梯度下降算法的基本流程,S2阶段被分为多次迭代,在S2阶段的每次迭代过程中,从样本库中采集一批样本作为神经网络的输入。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310735303.7A CN116645978B (zh) | 2023-06-20 | 2023-06-20 | 基于超算并行环境的电力故障声类别增量学习系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310735303.7A CN116645978B (zh) | 2023-06-20 | 2023-06-20 | 基于超算并行环境的电力故障声类别增量学习系统及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116645978A CN116645978A (zh) | 2023-08-25 |
CN116645978B true CN116645978B (zh) | 2024-02-02 |
Family
ID=87615500
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310735303.7A Active CN116645978B (zh) | 2023-06-20 | 2023-06-20 | 基于超算并行环境的电力故障声类别增量学习系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116645978B (zh) |
Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20150074644A (ko) * | 2013-12-24 | 2015-07-02 | 전자부품연구원 | 음악분류를 위한 저차의 오디오 특징 추출 장치 및 방법 |
CN110827837A (zh) * | 2019-10-18 | 2020-02-21 | 中山大学 | 一种基于深度学习的鲸鱼活动音频分类方法 |
WO2020214253A1 (en) * | 2019-04-16 | 2020-10-22 | Microsoft Technology Licensing, Llc | Condition-invariant feature extraction network for speaker recognition |
KR20210046416A (ko) * | 2019-10-18 | 2021-04-28 | 한국과학기술원 | 파형 음원 신호를 분석하는 신경망 모델에 기반한 음원 분류 방법 및 분석장치 |
CN112820321A (zh) * | 2021-03-05 | 2021-05-18 | 河北雄安友平科技有限公司 | 一种抽油机远程智能音频诊断系统、方法、设备及介质 |
KR20210068774A (ko) * | 2019-12-02 | 2021-06-10 | 아이브스 주식회사 | 인공지능 기반의 이상음원 인식 장치, 그 방법 및 이를 이용한 관제시스템 |
WO2021128704A1 (zh) * | 2019-12-25 | 2021-07-01 | 华南理工大学 | 一种基于分类效用的开集分类方法 |
CN113539297A (zh) * | 2021-07-08 | 2021-10-22 | 中国海洋大学 | 一种用于声音分类的联合注意力机制模型、方法及应用 |
CN113707176A (zh) * | 2021-09-02 | 2021-11-26 | 国网安徽省电力有限公司铜陵供电公司 | 一种基于声信号及深度学习技术的变压器故障检测方法 |
CN114913872A (zh) * | 2022-05-23 | 2022-08-16 | 扬州大学 | 基于卷积神经网络的时频双域音频分类方法与系统 |
CN115798515A (zh) * | 2023-02-06 | 2023-03-14 | 北京石油化工学院 | 一种基于transformer的声场景分类方法 |
CN115798516A (zh) * | 2023-02-07 | 2023-03-14 | 海纳科德(湖北)科技有限公司 | 一种可迁移的端到端声信号诊断方法及系统 |
CN116052651A (zh) * | 2023-01-16 | 2023-05-02 | 多伦科技股份有限公司 | 基于深度学习的语音提示作弊行为检测方法及电子设备 |
CN116108346A (zh) * | 2023-02-17 | 2023-05-12 | 苏州大学 | 一种基于生成特征重放的轴承增量故障诊断终身学习方法 |
CN116129888A (zh) * | 2023-01-18 | 2023-05-16 | 天翼安全科技有限公司 | 一种音频数据分类方法、装置、设备及介质 |
-
2023
- 2023-06-20 CN CN202310735303.7A patent/CN116645978B/zh active Active
Patent Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20150074644A (ko) * | 2013-12-24 | 2015-07-02 | 전자부품연구원 | 음악분류를 위한 저차의 오디오 특징 추출 장치 및 방법 |
WO2020214253A1 (en) * | 2019-04-16 | 2020-10-22 | Microsoft Technology Licensing, Llc | Condition-invariant feature extraction network for speaker recognition |
CN110827837A (zh) * | 2019-10-18 | 2020-02-21 | 中山大学 | 一种基于深度学习的鲸鱼活动音频分类方法 |
KR20210046416A (ko) * | 2019-10-18 | 2021-04-28 | 한국과학기술원 | 파형 음원 신호를 분석하는 신경망 모델에 기반한 음원 분류 방법 및 분석장치 |
KR20210068774A (ko) * | 2019-12-02 | 2021-06-10 | 아이브스 주식회사 | 인공지능 기반의 이상음원 인식 장치, 그 방법 및 이를 이용한 관제시스템 |
WO2021128704A1 (zh) * | 2019-12-25 | 2021-07-01 | 华南理工大学 | 一种基于分类效用的开集分类方法 |
CN112820321A (zh) * | 2021-03-05 | 2021-05-18 | 河北雄安友平科技有限公司 | 一种抽油机远程智能音频诊断系统、方法、设备及介质 |
CN113539297A (zh) * | 2021-07-08 | 2021-10-22 | 中国海洋大学 | 一种用于声音分类的联合注意力机制模型、方法及应用 |
CN113707176A (zh) * | 2021-09-02 | 2021-11-26 | 国网安徽省电力有限公司铜陵供电公司 | 一种基于声信号及深度学习技术的变压器故障检测方法 |
CN114913872A (zh) * | 2022-05-23 | 2022-08-16 | 扬州大学 | 基于卷积神经网络的时频双域音频分类方法与系统 |
CN116052651A (zh) * | 2023-01-16 | 2023-05-02 | 多伦科技股份有限公司 | 基于深度学习的语音提示作弊行为检测方法及电子设备 |
CN116129888A (zh) * | 2023-01-18 | 2023-05-16 | 天翼安全科技有限公司 | 一种音频数据分类方法、装置、设备及介质 |
CN115798515A (zh) * | 2023-02-06 | 2023-03-14 | 北京石油化工学院 | 一种基于transformer的声场景分类方法 |
CN115798516A (zh) * | 2023-02-07 | 2023-03-14 | 海纳科德(湖北)科技有限公司 | 一种可迁移的端到端声信号诊断方法及系统 |
CN116108346A (zh) * | 2023-02-17 | 2023-05-12 | 苏州大学 | 一种基于生成特征重放的轴承增量故障诊断终身学习方法 |
Also Published As
Publication number | Publication date |
---|---|
CN116645978A (zh) | 2023-08-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3340129B1 (en) | Artificial neural network class-based pruning | |
CN111027629A (zh) | 基于改进随机森林的配电网故障停电率预测方法及系统 | |
CN113505655A (zh) | 面向数字孪生系统的轴承故障智能诊断方法 | |
CN114609994B (zh) | 基于多粒度正则化重平衡增量学习的故障诊断方法及装置 | |
CN116599857B (zh) | 一种适用于物联网多场景的数字孪生应用系统 | |
CN113094860A (zh) | 一种基于注意力机制的工控网络流量建模方法 | |
CN115862319A (zh) | 一种面向时空图自编码器的交通流量预测方法 | |
CN117308077A (zh) | 一种反应堆核电机组蒸发器给水控制系统 | |
CN116645978B (zh) | 基于超算并行环境的电力故障声类别增量学习系统及方法 | |
CN116827685B (zh) | 基于深度强化学习的微服务系统动态防御策略方法 | |
CN117131452A (zh) | 基于归一化流和贝叶斯网络的异常检测方法及系统 | |
CN114372539B (zh) | 基于机器学习框架的分类方法及相关设备 | |
CN114358295B (zh) | 基于机器学习框架的二分类方法及相关装置 | |
CN115907000A (zh) | 一种用于电力系统最优潮流预测的小样本学习方法 | |
CN115936926A (zh) | 一种基于smote-gbdt的不平衡窃电数据分类方法、装置、计算机设备和存储介质 | |
Si et al. | Application of a Taylor expansion criterion-based pruning convolutional network for bearing intelligent diagnosis | |
CN109359781A (zh) | 一种智能制造系统余寿的预测方法及装置 | |
CN115329118B (zh) | 一种面向垃圾图像的图像相似性检索方法及系统 | |
CN115658307B (zh) | 一种基于压缩数据直接计算的智能负载处理方法和系统 | |
Wang et al. | A novel algorithm for edge detection of remote sensing image based on CNN and PSO | |
Garg et al. | Revisiting neural architecture search | |
CN111382761B (zh) | 一种基于cnn的检测器、图像检测方法及终端 | |
US20230290125A1 (en) | Image processing apparatus and image processing method | |
CN112364892B (zh) | 一种基于动态模型的图像识别方法及装置 | |
CN114282157A (zh) | 一种应用于图学习的聚焦数据处理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |