CN115861886A - 基于视频片段特征匹配的风机叶片分割方法及设备 - Google Patents

Abstract

本发明提出一种基于视频片段特征匹配的风机叶片分割方法及设备，该方法通过构建风机叶片视频目标分割网络；其中，风机叶片目标分割网络包括键编码器、值编码器、特征匹配模块、序列细化模解码器；采集风机叶片视频历史数据集，对视频目标分割网络进行训练；将实时拍摄的风机叶片视频输入训练完成的视频目标分割网络，输出结果即为对风机叶片视频中的风机叶片区域分割结果。本发明集成了一种创新的动态内存机制存储视频片段的历史信息，通过特征匹配使得分割网络能够有效处理视频片段，通过多帧输入与多帧输出，生成片段级的预测结果，有效提高了风机叶片分割的速度与精度。

Description

基于视频片段特征匹配的风机叶片分割方法及设备

技术领域

本发明涉及深度学习技术领域，尤其涉及一种基于视频片段特征匹配的风机叶片分割方法、装置、设备、存储介质。

背景技术

为了帮助无人机实现自动化检测风机叶片的缺陷，无人机需要识别视频与图像中风机所属区域，获取风机的准确边界。现阶段，科学家们利用视频目标分割技术提取视频中的风机叶片目标，以获取风机的准确边界。视频目标分割的目的是预测视频中前景目标，广义来讲，视频目标分割可以分为两类：无监督视频目标分割与半监督视频目标分割。无监督视频目标分割无需人工标注，算法自动进行前景目标提取。早期的方法探索了两种流架构或递归神经网络的变体，以捕获更多时间信息。最近的研究通过共同注意、锚点扩散和图神经网络从全局角度解决了综合前景推理。

半监督视频目标分割借助有限的人工标注(通常是第一帧)，来获取视频中的前景目标。在这种情况下，半监督视频目标分割也称为逐像素跟踪或掩码传播。常见方法是学习关于第一帧注释对象的视频特定表示，然后在剩余帧中执行逐像素检测。早期的半监督视频目标分割方法都是基于光流法或者循环连接。随着深度学习的发展，更先进的方法是基于匹配的策略，通常训练一个原型孪生匹配网络来找到第一帧(或分段帧)和查询之间最匹配的像素(或特征空间中的嵌入)框架，然后相应地实现标签分配。但是往往存在识别精度较低的问题。

发明内容

本发明提供一种基于视频片段特征匹配的风机叶片分割方法、装置、设备、存储介质，旨在利用时序信息提高视频中风机叶片识别的精度。

为此，本发明的第一个目的是提出一种基于视频片段特征匹配的风机叶片分割方法，包括：

构建风机叶片视频目标分割网络；其中，风机叶片目标分割网络包括键编码器、值编码器、特征匹配模块、序列细化模解码器；

采集风机叶片视频历史数据集，对视频目标分割网络进行训练；

将实时拍摄的风机叶片视频输入训练完成的视频目标分割网络，输出结果即为对风机叶片视频中的风机叶片区域分割结果。

其中，采集风机叶片视频历史数据集，对视频目标分割网络进行训练的步骤包括：

获取风机叶片视频数据集，对风机叶片视频中的风机叶片区域进行像素级标注，生成对应的标注数据，并将生成对应标注数据的风机叶片视频历史数据集分为训练集和测试集；

将训练集输入视频目标分割模型中进行训练，确定模型训练的超参数和损失函数，优化视频目标分割网络的参数，至视频目标分割网络的预测结果精度达到预设精度阈值；

将测试集输入至训练完成的视频目标分割网络，验证视频目标分割网络的准确性。

其中，在对视频目标分割网络进行训练的步骤之前，还包括：对训练集中的机叶片视频数据进行预处理的步骤；包括：

将训练集中的任一风机叶片视频数据，按照预设间隔分为若干视频片段，前一视频片段与对应的标注数据作为记忆帧用于预测当前视频片段，待预测的当前视频片段作为查询帧；

对于每一帧的图像做样本增强，包括随机亮度、对比度、饱和度变换。

其中，视频目标分割网络的分割步骤包括：

将记忆帧与查询帧均输入至键编码器，由键编码器提取时空关系对应的特征图；

将记忆帧的标注数据输入至值编码器，由值编码器提取记忆帧的标注掩码特征；

将键编码器提取的时空关系对应的特征图和值编码器提取的记忆帧的标注掩码特征输入至特征匹配模块，挖掘查询帧特征图与记忆帧及标注掩码特征图的相关性信息并进行匹配；

特征匹配模块的输出与记忆帧输入至序列细化模块，利用transformer结构获得视频片段内相关性；

通过解码器对序列细化模块的输出解码，得到查询帧的预测结果。

其中，键编码器使用ResNet50主干网络进行特征提取，查询帧与记忆帧输入至键编码器分别得到特征值k^Q、k^Q _intra、k^M；

其中值编码器使用ResNet18提取主干网络特征值，记忆帧的标注数据输入至值编码器得到特征值v^m。

其中，特征匹配模块计算查询帧与记忆帧特征值的全局相似性，相似性矩阵A计算方式为：

其中，A_i，j表示在第i行，第j列像素点的相似性程度；

得到查询帧与记忆帧的全局相似性矩阵A后，从记忆帧及标注数据中检索到的关于查询帧的特征嵌入v^Q计算如下：

v^Q＝A(k^Q，k^M)v^M。

其中，序列细化模块为加强对查询帧内出现新目标、遮挡或物体形变时的处理能力，采用Transformer网络的多头注意力机制，根据视频片段中特征间的时空相关性来细化查询帧的特征嵌入；

序列细化模块包括：层归一化、多头注意力模块、层归一化和前馈层；为保证训练的稳定性，对v^Q与k^Q _intra归一化，归一化后通过多头注意力机制计算v^Q与k^Q _intra的相似性，由前馈层完成特征提取；

前馈层依次为全连接层、GELU激活函数、dropout、全连接层和dropout；

整个计算过程由公式表示为：

v_atten＝A(f_k(LN(k^Q _intra))，f_k(LN(k^Q _intra)))f_v(LN(v^Q))+LN(v^Q)

其中LN表示归一化，f_k与f_v分别代表对v^Q与k^Q _intra进行线性映射，FF代表前馈层；序列细化模块的输出为细化后的查询帧的特征嵌入

输入至编码器后得到最终的分割结果；

其中，解码器由通过双线性插值对编码特征上采样，并通过skip-connection与编码器进行特征融合。

本发明的第二个目的是提出一种基于视频片段特征匹配的风机叶片分割装置，包括：

模型构建模块，用于构建风机叶片视频目标分割网络；其中，风机叶片目标分割网络包括键编码器、值编码器、特征匹配模块、序列细化模解码器；

模型训练模块，用于采集风机叶片视频历史数据集，对视频目标分割网络进行训练；

叶片分割模块，用于将实时拍摄的风机叶片视频输入训练完成的视频目标分割网络，输出结果即为对风机叶片视频中的风机叶片区域分割结果。

本发明的第三个目的在于提出一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行前述技术方案的方法中的各步骤。

本发明的第四个目的在于提出存储有计算机指令的非瞬时计算机可读存储介质，其中，计算机指令用于使计算机执行根据前述技术方案的方法中的各步骤。

区别于现有技术，本发明提供的基于视频片段特征匹配的风机叶片分割方法，通过构建风机叶片视频目标分割网络；其中，风机叶片目标分割网络包括键编码器、值编码器、特征匹配模块、序列细化模解码器；采集风机叶片视频历史数据集，对视频目标分割网络进行训练；将实时拍摄的风机叶片视频输入训练完成的视频目标分割网络，输出结果即为对风机叶片视频中的风机叶片区域分割结果。本发明集成了一种创新的动态内存机制存储视频片段的历史信息，通过特征匹配使得分割网络能够有效处理视频片段，通过多帧输入与多帧输出，生成片段级的预测结果，有效提高了风机叶片分割的速度与精度.

附图说明

本发明的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：

图1是本发明提供的一种基于视频片段特征匹配的风机叶片分割方法的流程示意图。

图2是本发明提供的一种基于视频片段特征匹配的风机叶片分割方法中风机叶片分割网络的结构示意图。

图3是本发明提供的一种基于视频片段特征匹配的风机叶片分割方法中风机叶片分割网络的序列细化模块的逻辑示意图。

图4是本发明提供的一种基于视频片段特征匹配的风机叶片分割装置的结构示意图。

图5是本发明提供的一种存储有计算机指令的非瞬时计算机可读存储介质的结构示意图。

具体实施方式

下面详细描述本发明的实施例，实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本发明，而不能理解为对本发明的限制。

如图1所示，为本发明实施例所提供的一种基于视频片段特征匹配的风机叶片分割方法，具体包括：

S110：构建风机叶片视频目标分割网络；其中，风机叶片目标分割网络包括键编码器、值编码器、特征匹配模块、序列细化模解码器。

所构建的视频目标分割网络结构如图2所示，包括键编码器、值编码器、特征匹配模块、序列细化模块、解码器。记忆帧与查询帧均输入至键编码器，由键编码器提取时空关系对应的特征图，记忆帧的标注数据输入至值编码器，由值编码器提取记忆帧的标注掩码特征，键编码器与值编码器提取的特征图输入至特征匹配模块，用于挖掘查询帧特征图与记忆帧及标注掩码特征图的相关性信息并进行匹配。特征匹配模块的输出与记忆帧输入至序列细化模块，该模块利用transformer结构获得视频片段内相关性，最终由解码器对序列细化模块的输出解码，得到查询帧的预测结果。

其中键编码器使用ResNet50主干网络提取特征，查询帧与记忆帧输入至键编码器分别得到特征值k^Q、k^Q _intra、k^M。

其中值编码器使用ResNet18提取主干网络特征值。记忆帧的标注数据输入至值编码器得到特征值v^m。

其中特征匹配模块首先计算查询帧与记忆帧特征值的全局相似性，相似性矩阵A计算方式为：

其中，A_i，j表示在第i行，第j列像素点的相似性程度。

得到查询帧与记忆帧的全局相似性矩阵A后，从记忆帧及标注数据中检索到的关于查询帧的特征嵌入v^Q计算如下：

v^Q＝A(k^Q，k^M)v^M

其中序列细化模块为了加强模型对查询帧内出现新目标、遮挡或物体形变时的处理能力，采用Transformer网络的多头注意力机制，根据视频片段中特征间的时空相关性来细化查询帧的特征嵌入。

如图3所示，序列细化模块的主要结构为：层归一化、多头注意力模块、层归一化，前馈层。为保证训练的稳定性，首先对v^Q与k^Q _intra归一化，归一化后通过多头注意力模块计算v^Q与k^Q _intra的相似性，最后由前馈层完成特征提取。的前馈层(Feed Forward)依次为全连接层，GELU激活函数，dropout，全连接层，dropout。

整个计算过程由公式表示为：

v_atten＝A(f_k(LN(k^Q _intra))，f_k(LN(k^Q _intra)))f_v(LN(v^Q))+LN(v^Q)

其中LN表示归一化，f_k与f_v分别代表对v^Q与k^Q _intra进行线性映射，FF代表前馈层。序列细化模块的输出为细化后的查询帧的特征嵌入

输入至编码器后得到最终的分割结果。

其中解码器由通过双线性插值对编码特征上采样，并通过skip-connection与编码器进行特征融合。

在对视频目标分割网络进行训练的步骤之前，还包括：对训练集中的机叶片视频数据进行预处理的步骤；包括：

将训练集中的任一风机叶片视频数据，按照预设间隔分为若干视频片段，前一视频片段与对应的标注数据作为记忆帧用于预测当前视频片段，待预测的当前视频片段作为查询帧；

对于每一帧的图像做样本增强，包括随机亮度、对比度、饱和度变换。

S120：采集风机叶片视频历史数据集，对视频目标分割网络进行训练。

训练的步骤包括：

获取风机叶片视频数据集，对风机叶片视频中的风机叶片区域进行像素级标注，生成对应的标注数据，并将生成对应标注数据的风机叶片视频历史数据集分为训练集和测试集；

将训练集输入视频目标分割模型中进行训练，确定模型训练的超参数和损失函数，优化视频目标分割网络的参数，至视频目标分割网络的预测结果精度达到预设精度阈值；

将测试集输入至训练完成的视频目标分割网络，验证视频目标分割网络的准确性。

通过特征匹配模块与序列细化模块进行处理，输入至解码器，解码后得到生成标注数据的风机叶片视频中风机叶片的提取结果，由标注数据与网络输出的损失更新网络参数。

S130：将实时拍摄的风机叶片视频输入训练完成的视频目标分割网络，输出结果即为对风机叶片视频中的风机叶片区域分割结果。

如图4所示，本发明提供了一种基于视频片段特征匹配的风机叶片分割装置300，包括：

模型构建模块310，用于构建风机叶片视频目标分割网络；其中，风机叶片目标分割网络包括键编码器、值编码器、特征匹配模块、序列细化模解码器；

模型训练模块320，用于采集风机叶片视频历史数据集，对视频目标分割网络进行训练；

叶片分割模块330，用于将实时拍摄的风机叶片视频输入训练完成的视频目标分割网络，输出结果即为对风机叶片视频中的风机叶片区域分割结果。

为了实现实施例，本发明还提出一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行前述技术方案基于视频片段特征匹配的风机叶片分割方法中的各步骤。

如图5所示，非临时性计算机可读存储介质800包括指令的存储器810，接口830，指令可由根据基于视频片段特征匹配的风机叶片分割处理器820执行以完成方法。可选地，存储介质可以是非临时性计算机可读存储介质，例如，非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。

为了实现实施例，本发明还提出一种非临时性计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现如本发明实施例的基于视频片段特征匹配的风机叶片分割。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对所述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本发明的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本发明的实施例所属技术领域的技术人员所理解。

在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。

应当理解，本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在所述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。

本技术领域的普通技术人员可以理解实现所述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。

此外，在本发明各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。所述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。

所述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本发明的实施例，可以理解的是，所述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对所述实施例进行变化、修改、替换和变型。

Claims (10)

1.一种基于视频片段特征匹配的风机叶片分割方法，其特征在于，包括：

构建风机叶片视频目标分割网络；其中，所述风机叶片目标分割网络包括键编码器、值编码器、特征匹配模块、序列细化模解码器；

采集风机叶片视频历史数据集，对所述视频目标分割网络进行训练；

将实时拍摄的风机叶片视频输入训练完成的视频目标分割网络，输出结果即为对风机叶片视频中的风机叶片区域分割结果。

2.根据权利要求1所述的基于视频片段特征匹配的风机叶片分割方法，其特征在于，采集风机叶片视频历史数据集，对所述视频目标分割网络进行训练的步骤包括：

获取风机叶片视频数据集，对风机叶片视频中的风机叶片区域进行像素级标注，生成对应的标注数据，并将生成对应标注数据的风机叶片视频历史数据集分为训练集和测试集；

将所述训练集输入所述视频目标分割模型中进行训练，确定模型训练的超参数和损失函数，优化视频目标分割网络的参数，至所述视频目标分割网络的预测结果精度达到预设精度阈值；

将测试集输入至训练完成的视频目标分割网络，验证视频目标分割网络的准确性。

3.根据权利要求2所述的基于视频片段特征匹配的风机叶片分割方法，其特征在于，在对视频目标分割网络进行训练的步骤之前，还包括：对所述训练集中的机叶片视频数据进行预处理的步骤；包括：

将训练集中的任一风机叶片视频数据，按照预设间隔分为若干视频片段，前一视频片段与对应的标注数据作为记忆帧用于预测当前视频片段，待预测的当前视频片段作为查询帧；

对于每一帧的图像做样本增强，包括随机亮度、对比度、饱和度变换。

4.根据权利要求3所述的基于视频片段特征匹配的风机叶片分割方法，其特征在于，所述视频目标分割网络的分割步骤包括：

将所述记忆帧与所述查询帧均输入至键编码器，由键编码器提取时空关系对应的特征图；

将所述记忆帧的标注数据输入至值编码器，由值编码器提取记忆帧的标注掩码特征；

将键编码器提取的时空关系对应的特征图和值编码器提取的记忆帧的标注掩码特征输入至特征匹配模块，挖掘查询帧特征图与记忆帧及标注掩码特征图的相关性信息并进行匹配；

特征匹配模块的输出与记忆帧输入至序列细化模块，利用transformer结构获得视频片段内相关性；

通过解码器对序列细化模块的输出解码，得到查询帧的预测结果。

5.根据权利要求4所述的基于视频片段特征匹配的风机叶片分割方法，其特征在于，所述键编码器使用ResNet50主干网络进行特征提取，查询帧与记忆帧输入至键编码器分别得到特征值k^Q、k^Q _intra、k^M；

其中值编码器使用ResNet18提取主干网络特征值，记忆帧的标注数据输入至值编码器得到特征值v^m。

6.根据权利要求5所述的基于视频片段特征匹配的风机叶片分割方法，其特征在于，所述特征匹配模块计算查询帧与记忆帧特征值的全局相似性，相似性矩阵A计算方式为：

其中，A_i，j表示在第i行，第j列像素点的相似性程度；

得到查询帧与记忆帧的全局相似性矩阵A后，从记忆帧及标注数据中检索到的关于查询帧的特征嵌入v^Q计算如下：

v^Q＝A(k^Q，k^M)v^M。

7.根据权利要求6所述的基于视频片段特征匹配的风机叶片分割方法，其特征在于，所述序列细化模块为加强对查询帧内出现新目标、遮挡或物体形变时的处理能力，采用Transformer网络的多头注意力机制，根据视频片段中特征间的时空相关性来细化查询帧的特征嵌入；

序列细化模块包括：层归一化、多头注意力模块、层归一化和前馈层；为保证训练的稳定性，对v^Q与k^Q _intra归一化，归一化后通过多头注意力机制计算v^Q与k^Q _intra的相似性，由前馈层完成特征提取；

所述前馈层依次为全连接层、GELU激活函数、dropout、全连接层和dropout；

整个计算过程由公式表示为：

v_atten＝A(f_k(LN(k^Q _intra))，f_k(LN(k^Q _intra)))f_v(LN(v^Q))+LN(v^Q)

其中LN表示归一化，f_k与f_v分别代表对v^Q与k^Q _intra进行线性映射，FF代表前馈层；序列细化模块的输出为细化后的查询帧的特征嵌入

输入至编码器后得到最终的分割结果；

其中，解码器由通过双线性插值对编码特征上采样，并通过skip-connection与编码器进行特征融合。

8.一种基于视频片段特征匹配的风机叶片分割装置，其特征在于，包括：

模型构建模块，用于构建风机叶片视频目标分割网络；其中，所述风机叶片目标分割网络包括键编码器、值编码器、特征匹配模块、序列细化模解码器；

模型训练模块，用于采集风机叶片视频历史数据集，对所述视频目标分割网络进行训练；

叶片分割模块，用于将实时拍摄的风机叶片视频输入训练完成的视频目标分割网络，输出结果即为对风机叶片视频中的风机叶片区域分割结果。

9.一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法中的各步骤。

10.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-7中任一项所述的方法中的各步骤。

Images