CN116524201A - 多尺度门控融合单元的特征提取方法、装置、设备及介质 - Google Patents

多尺度门控融合单元的特征提取方法、装置、设备及介质 Download PDF

Info

Publication number
CN116524201A
CN116524201A CN202310324993.7A CN202310324993A CN116524201A CN 116524201 A CN116524201 A CN 116524201A CN 202310324993 A CN202310324993 A CN 202310324993A CN 116524201 A CN116524201 A CN 116524201A
Authority
CN
China
Prior art keywords
feature
result
image
ith
matrix
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202310324993.7A
Other languages
English (en)
Other versions
CN116524201B (zh
Inventor
何良雨
崔健
刘彤
王戬鑫
张文刚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fengrui Lingchuang Zhuhai Technology Co ltd
Original Assignee
Fengrui Lingchuang Zhuhai Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fengrui Lingchuang Zhuhai Technology Co ltd filed Critical Fengrui Lingchuang Zhuhai Technology Co ltd
Priority to CN202310324993.7A priority Critical patent/CN116524201B/zh
Publication of CN116524201A publication Critical patent/CN116524201A/zh
Application granted granted Critical
Publication of CN116524201B publication Critical patent/CN116524201B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/20—Image enhancement or restoration using local operators
    • G06T5/30—Erosion or dilatation, e.g. thinning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
    • G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10004—Still image; Photographic image
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)

Abstract

本申请涉及一种多尺度门控融合单元的特征提取方法、装置、设备及介质。针对当前深度学习算法对弱小目标特征提取能力不足问题，提出了串联膨胀卷积网络结构，提取图像多尺度特征的同时减少网络下采样过程中的特征损失。针对纹理特征相近目标难以区分的问题，提出一种自适应门控融合模块，首先在不同尺度的特征图之间构建特征依赖关系矩阵，再将特征依赖关系矩阵转换为激活权重矩阵，并利用激活权重矩阵为特征图中各元素赋予激活权重值，进而在图像上下文特征间建立了长距离特征依赖关系，依据特征之间的依赖关系来调节特征融合的过程，形成基于激活权重的门控单元，从而有效地扩大目标间的类间差异，提高网络对相近特征的鉴别能力。

Description

多尺度门控融合单元的特征提取方法、装置、设备及介质
技术领域
本申请适用于图像处理技术领域，尤其涉及一种多尺度门控融合单元的特征提取方法、装置、设备及介质。
背景技术
目前，随着人工智能技术的快速发展，基于深度学习的计算机视觉算法已经在交通、医疗、工业生产等各领域得到广泛的应用。然而，在进行特征提取时，随着深度学习模型层数的加深，会不可避免的带来细节特征的损失，在一些特殊的应用领域，如半导体等微、纳米级别图像分析任务中，这种细节特征的损失会对模型的性能产生很大的影响。通过多尺度特征提取算法能够弥补网络对细节特征的损失，但是目前常用的多尺度特征提取算法大多基于特征金字塔网络进行特征提取，直接将网络不同深度所提取的上下文特征进行拼接融合，使用网络浅层提取的细节特征取弥补网络深层对高细粒度特征提取的缺失，这种方法没有实质上解决网络深层对细节特征损失的问题，此外，使用拼接的融合方式也缺乏对不同尺度的上下文特征的有效融合。
因此，如何改善模型对图像不同尺度的上下文特征的融合过程，以减小特征提取过程中细节特征的损失成为亟待解决的问题。
发明内容
有鉴于此，本申请实施例提供了一种多尺度门控融合单元的特征提取方法、装置、设备及介质，以解决如何改善模型对图像不同尺度的上下文特征的融合过程问题。实验结果表明，多尺度自适应门控融合模块可以显著减小特征提取过程中细节特征的损失的问题，有效提高模型的特征提取能力。
第一方面，本申请实施例提供一种多尺度门控融合单元的特征提取方法，所述特征提取方法包括：
获取待处理的目标图像，对所述目标图像进行第一次膨胀处理，得到第一图像特征，对所述第一图像特征进行全局平均池化，得到一维的第一图像特征向量；
对所述第一图像特征进行第二次膨胀处理，得到第二图像特征，使用预设的投影函数对所述第二图像特征进行维度转换，得到第二图像特征向量，根据所述第一图像特征向量和所述第二图像特征向量，构建第一长距离特征依赖关系矩阵，其中，所述第一次膨胀处理的膨胀率尺度小于所述第二次膨胀处理的膨胀率尺度；
将所述第一长距离特征依赖关系矩阵中各元素转换为分布在0和1之间的关系权重值，得到第一关系权重矩阵，将所述第一关系权重矩阵点乘与所述第二图像特征向量，得到具备依赖关系表征的第一长距离特征依赖关系向量；
使用所述投影函数的反向投影函数对所述第一长距离特征依赖关系向量进行维度转换，得到第一维度转换结果，将所述第一维度转换结果与所述第一图像特征进行拼接，将拼接的结果中各元素转换为分布在0和1之间激活权重值，得到第一激活权重矩阵；
使用所述第一激活权重矩阵对所述第一图像特征进行激活，并使用1与所述第一激活权重矩阵的差值对应的矩阵对所述第一维度转换结果进行激活，拼接两次激活的结果，得到第一拼接结果，将所述第一拼接结果与所述第二图像特征进行融合，确定融合的结果为所述目标图像的特征提取结果。
第二方面，本申请实施例提供一种多尺度门控融合单元的特征提取装置，所述特征提取装置包括：
第一膨胀模块，用于获取待处理的目标图像，对所述目标图像进行第一次膨胀处理，得到第一图像特征，对所述第一图像特征进行全局平均池化，得到一维的第一图像特征向量；
第二膨胀模块，用于对所述第一图像特征进行第二次膨胀处理，得到第二图像特征，使用预设的投影函数对所述第二图像特征进行维度转换，得到第二图像特征向量，根据所述第一图像特征向量和所述第二图像特征向量，构建第一长距离特征依赖关系矩阵，其中，所述第一次膨胀处理的膨胀率尺度小于所述第二次膨胀处理的膨胀率尺度；
依赖关系分析模块，用于将所述第一长距离特征依赖关系矩阵中各元素转换为分布在0和1之间的关系权重值，得到第一关系权重矩阵，将所述第一关系权重矩阵点乘与所述第二图像特征向量，得到具备依赖关系表征的第一长距离特征依赖关系向量；
权重门控模块，用于使用所述投影函数的反向投影函数对所述第一长距离特征依赖关系向量进行维度转换，得到第一维度转换结果，将所述第一维度转换结果与所述第一图像特征进行拼接，将拼接的结果中各元素转换为分布在0和1之间激活权重值，得到第一激活权重矩阵；
特征提取模块，用于使用所述第一激活权重矩阵对所述第一图像特征进行激活，并使用1与所述第一激活权重矩阵的差值对应的矩阵对所述第一维度转换结果进行激活，拼接两次激活的结果，得到第一拼接结果，将所述第一拼接结果与所述第二图像特征进行融合，确定融合的结果为所述目标图像的特征提取结果。
第三方面，本申请实施例提供一种计算机设备，所述计算机设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如第一方面所述的特征提取方法。
第四方面，本申请实施例提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如第一方面所述的特征提取方法。
本申请实施例与现有技术相比存在的有益效果是：本申请获取待处理的目标图像，对所述目标图像进行第一次膨胀处理，得到第一图像特征，对所述第一图像特征进行全局平均池化，得到一维的第一图像特征向量，对所述第一图像特征进行第二次膨胀处理，得到第二图像特征，使用预设的投影函数对所述第二图像特征进行维度转换，得到第二图像特征向量，根据所述第一图像特征向量和所述第二图像特征向量，构建第一长距离特征依赖关系矩阵，将所述第一长距离特征依赖关系矩阵中各元素转换为分布在0和1之间的关系权重值，得到第一关系权重矩阵，将所述第一关系权重矩阵点乘与所述第二图像特征向量，得到具备依赖关系表征的第一长距离特征依赖关系向量，使用所述投影函数的反向投影函数对所述第一长距离特征依赖关系向量进行维度转换，得到第一维度转换结果，将所述第一维度转换结果与所述第一图像特征进行拼接，将拼接的结果中各元素转换为分布在0和1之间激活权重值，得到第一激活权重矩阵，使用所述第一激活权重矩阵对所述第一图像特征进行激活，并使用1与所述第一激活权重矩阵的差值对应的矩阵对所述第一维度转换结果进行激活，拼接两次激活的结果，得到第一拼接结果，将所述第一拼接结果与所述第二图像特征进行融合，确定融合的结果为所述目标图像的特征提取结果，将图像转为不同尺度的上下文特征，并依据特征之间的依赖关系来调节融合的过程，形成基于激活权重门控单元，从而有效地对多尺度的上下文特征进行拼接融合等操作，降低了特征提取过程中细节特征的损失，有助于提高特征提取的准确度。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1是本申请实施例一提供的一种多尺度门控融合单元的特征提取方法的一应用环境示意图；
图2是本申请实施例二提供的一种多尺度门控融合单元的特征提取方法的流程示意图；
图3(a)是本申请实施例二提供的一种多尺度门控融合单元的特征提取方法的模型架构示意图；
图3(b)是本申请实施例二提供的举例说明的原图；
图3(c)是本申请实施例二提供的加入多尺度自适应门控融合模块前提取的特征图；
图3(d)是本申请实施例二提供的加入多尺度自适应门控融合模块后提取的特征图；
图4是本申请实施例三提供的一种多尺度门控融合单元的特征提取装置的结构示意图；
图5是本申请实施例四提供的一种计算机设备的结构示意图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本申请实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本申请的描述。
应当理解，当在本申请说明书和所附权利要求书中使用时，术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解，在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
如在本申请说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外，在本申请说明书和所附权利要求书的描述中，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此，在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例，而是意味着“一个或多个但不是所有的实施例”，除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”，除非是以其他方式另外特别强调。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中，人工智能是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
应理解，以下实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。
为了说明本申请的技术方案，下面通过具体实施例来进行说明。
本申请实施例一提供的一种多尺度门控融合单元的特征提取方法，可应用在如图1的应用环境中，其中，客户端与服务端进行通信。其中，客户端包括但不限于掌上电脑、桌上型计算机、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer，UMPC)、上网本、服务端计算机设备、个人数字助理(personal digital assistant，PDA)等计算机设备。服务端可以用独立的服务器或者是多个服务器组成的服务器集群来实现。
参见图2，是本申请实施例二提供的一种多尺度门控融合单元的特征提取方法的流程示意图，上述多尺度门控融合单元的特征提取方法应用于图1中的服务端，服务端对应的计算机设备连接相应的数据库，以获取数据库中相应的目标图像。上述计算机设备还可以连接相应的客户端，客户端也可以为服务端采集相应的目标图像。如图2所示，该多尺度门控融合单元的特征提取方法可以包括以下步骤：
步骤S201，获取待处理的目标图像，对目标图像进行第一次膨胀处理，得到第一图像特征，对第一图像特征进行全局平均池化，得到一维的第一图像特征向量。
本申请中，对目标图像分别进行多次的膨胀处理，每次膨胀处理的膨胀率尺度不相同，随着膨胀处理的次数的增加，对应的膨胀率尺度增大，从而得到不同尺度的具备上下文关系的图像特征。
例如，第一图像特征表征为Q1，该Q1的特征维度为W×H×N，对该Q1进行全局平均池化，得到维度为1×N的特征向量Q′1，其中，W×H为特征图的长和宽，N为特征图的通道数。
可选的是，所有的膨胀处理均包括：
使用空洞卷积对目标图像进行卷积，得到卷积结果，其中，实际卷积核的尺寸与原始卷积核的尺寸的关系为：
D＝k+(k-1)(a-1)
其中，k为原始卷积核的尺寸，a为膨胀率尺度，D为经过扩展后实际卷积核的尺寸。
如图3(a)所示，本申请首先将四个膨胀率分别为2、3、4、5的空洞卷积串联组成一支完整的前向传播网络。在前向传播过程中使用不同膨胀率的空洞卷积代替步长为2的下采样方式，可以在提取网络多尺度上下文特征的同时，减少使用步长下采样方式所带来的特征丢失。此外，不同尺度上下文特征进行融合时需要先将特征转换到相同的维度，若采用传统的步长下采样方式，在进行多尺度上下文特征时需要大量的上采样操作，会引入大量的冗余信息，对特征的有效提取产生干扰，而使用不同膨胀率的空洞卷积所提取的不同尺度上下文特征具有相同的维度，在进行多尺度上下文特征融合时避免了对特征的上采样操作。
对输入信息进行特征提取，每个不同膨胀率的空洞卷积产生不同的感受野，提取不同细粒度的特征信息，膨胀率越小，提取的特征具有越高的细粒度，膨胀率越大，提取的特征具有越高的语义特征。
步骤S202，对第一图像特征进行第二次膨胀处理，得到第二图像特征，使用预设的投影函数对第二图像特征进行维度转换，得到第二图像特征向量，根据第一图像特征向量和第二图像特征向量，构建第一长距离特征依赖关系矩阵。
本申请中，第一次膨胀处理的膨胀率尺度小于第二次膨胀处理的膨胀率尺度。预设的投影函数用于将第二图像特征的维度进行转换，以达到与所述第一图像特征向量相同的维度表达，例如，第一图像特征和第二图像特征的特征维度为W×H×N，第一图像特征向量经过全局平均池化后维度变为1×N，相应地，预设的投影函数可以为α(·)＝QW×H×N→QN ×WH，使得第二图像特征的维度转为N×WH的特征向量。
将第一图像特征向量与第二图像特征向量进行矩阵相乘，即可反映出两者的关系度。
可选的是，根据第一图像特征向量和第二图像特征向量，构建第一长距离特征依赖关系矩阵包括：
使用非线性激活函数对第二图像特征向量进行激活，得到第一激活特征矩阵；
将第一图像特征向量与第一激活特征矩阵进行矩阵乘法，得到第一长距离特征依赖关系矩阵。
其中，首先对第二图像特征向量进行激活，非线性激活函数的导数恒大于0，在输入为0的附近值时，输出具有一定的平滑度，有利于训练过程中的优化和泛化。第一图像特征向量与第一激活特征矩阵进行矩阵乘法的结果表征第一图像特征和第二图像特征之间的依赖关系。
步骤S203，将第一长距离特征依赖关系矩阵中各元素转换为分布在0和1之间的关系权重值，得到第一关系权重矩阵，将第一关系权重矩阵点乘与第二图像特征向量，得到具备依赖关系表征的第一长距离特征依赖关系向量。
本申请中，对第一长距离特征依赖关系矩阵中的元素进行归一化，将归一化后的元素的数值作为关系权重值，其中，像素点间的依赖程度越大，对应的关系权重值越大，反之，关系权重值越小。使用第一长距离特征依赖关系矩阵与第二图像特征向量相乘，可以实现该第二图像特征向量的特征激活，使得该第二图像特征向量中与第一图像特征依赖程度较大的像素点间的依赖程度变得更大，依赖程度较小的像素点间依赖程度变得更小，利用各个像素点之间的依赖程度不同，使不同类别对象间的特征差异更加显著。
归一化具体可以采用Sigmoid激活函数对第一长距离特征依赖关系矩阵进行特征激活，进而得到第一关系权重矩阵。
步骤S204，使用投影函数的反向投影函数对第一长距离特征依赖关系向量进行维度转换，得到第一维度转换结果，将第一维度转换结果与第一图像特征进行拼接，将拼接的结果中各元素转换为分布在0和1之间激活权重值，得到第一激活权重矩阵。
本申请中，由于第一长距离特征依赖关系向量的维度依然为上述步骤S202中进行维度转换后的特征维度，因此，需要对该第一长距离特征依赖关系向量进行反向的维度转换，以使得该第一长距离特征依赖关系向量恢复维度为与第一图像特征、第二图像特征等相同的特征维度，以便于与第一图像特征融合。
对第一维度转换结果与第一图像特征拼接的结果中的元素进行归一化，将归一化后的元素的数值作为激活权重值，该激活权重值用于对第一图像特征和第二图像特征进行激活，以实现第一图像特征与第二图像特征的融合。
可选的是，将第一维度转换结果与第一图像特征进行拼接，将拼接的结果中各元素转换为分布在0和1之间激活权重值，得到第一激活权重矩阵包括：
将第一维度转换结果与第一图像特征进行拼接，将拼接的结果进行卷积融合处理，得到融合结果；
使用Sigmoid激活函数对融合结果进行激活，得到第一激活权重矩阵，第一激活权重矩阵中各元素值为分布在0和1之间激活权重值。
步骤S205，使用第一激活权重矩阵对第一图像特征进行激活，并使用1与第一激活权重矩阵的差值对应的矩阵对第一维度转换结果进行激活，拼接两次激活的结果，得到第一拼接结果，将第一拼接结果与第二图像特征进行融合，确定融合的结果为目标图像的特征提取结果。
本申请中，由于第一图像特征与第一维度转换结果所包含的特征不相同，因此，在激活第一图像特征和第一维度转换结果时不能够使用同一个激活权重值，进而建立一门控单元，该门控单元一个激活权重为该第一激活权重矩阵，另一激活权重为1-第一激活权重矩阵(即一种自适应特征激活的权重)，使用门控单元的两个权重分别激活第一图像特征和第一维度转换结果，并将激活的结果进行拼接，实现第一图像特征与第二图像特征之间的特征拼接。
如果仅适用两个尺度的特征，则将特征拼接后的结果与第二图像特征利用卷积进行融合，进而得到最终的融合结果即特征提取结果。例如，利用1×1卷积将拼接结果与第二图像特征进行融合，从而提取到两个尺度的上下文融合特征。
可选的是，在对第一图像特征进行第二次膨胀处理之后，还包括：
对目标图像连续进行N次膨胀处理，得到N个图像特征，其中，随着膨胀处理的次数的增加，对应的膨胀率尺度增大，且均大于第二次膨胀处理的膨胀率尺度，N为大于零的整数；
针对第i个图像特征，0<i≤N，使用投影函数对第i个图像特征进行维度转换，得到第i个图像特征向量，根据第i-1个长距离特征依赖关系向量和第i个图像特征向量，构建第i个长距离特征依赖关系矩阵；
将第i个长距离特征依赖关系矩阵中各元素转换为分布在0和1之间的关系权重值，得到第i个关系权重矩阵，将第i个关系权重矩阵点乘与第i个图像特征向量，得到具备依赖关系表征的第i个长距离特征依赖关系向量；
使用反向投影函数对第i个长距离特征依赖关系向量进行维度转换，得到第i个维度转换结果，将第i个维度转换结果与第i-1个拼接结果进行拼接，将拼接的结果中各元素转换为分布在0和1之间激活权重值，得到第i个激活权重矩阵；
使用第i个激活权重矩阵对第i-1个拼接结果进行激活，并使用1与第i个激活权重矩阵的差值对应的矩阵对第i个维度转换结果进行激活，拼接两次激活的结果，得到第i个拼接结果，其中，在i＝1时，第0个长距离特征依赖关系向量为第一长距离特征依赖关系向量，第0个拼接结果为第一拼接结果；
将第一拼接结果与第二图像特征向量进行融合，确定融合的结果为目标图像的特征提取结果包括：
将第N个拼接结果与第N个图像特征进行融合，确定融合的结果为目标图像的特征提取结果。
其中，多尺度可以为2个及以上的膨胀处理，从第三次膨胀处理开始，后续所有的膨胀处理过程均与第三次膨胀处理的过程相同，并且最终的特征提取结果需要使用最后一次膨胀处理得到第N个拼接结果和第N个图像特征进行融合才能够得到。
可选的是，根据第i-1个长距离特征依赖关系向量和第i个图像特征向量，构建第i个长距离特征依赖关系矩阵包括：
对第i-1个长距离特征依赖关系向量进行全局平均池化，得到一维的池化结果；
使用非线性激活函数对第i个图像特征向量进行激活，得到第i个激活特征矩阵；
将池化结果与第i个激活特征矩阵进行矩阵乘法，得到第i个长距离特征依赖关系矩阵。
可选的是，将第i个维度转换结果与第i-1个拼接结果进行拼接，将拼接的结果中各元素转换为分布在0和1之间激活权重值，得到第i个激活权重矩阵包括：
将第i个维度转换结果与第i-1个拼接结果进行拼接，将拼接的结果进行卷积融合处理，得到融合结果；
使用Sigmoid激活函数对融合结果进行激活，得到第i个激活权重矩阵，第i个激活权重矩阵中各元素值为分布在0和1之间激活权重值。
如图3(a)所示，将不同膨胀率的空洞卷积所提取的特征分别通过一个分支引出特征，得到不同尺度的上下文特征，之后对提取的多尺度上下文特征进行自适应门控特征融合，有效提取目标的全局上下文特征。
自适应门控特征融合的具体过程如下：
将膨胀率为2的空洞卷积所提取的特征维度为W×H×N的特征Q1进行全局平均池化，得到维度为1×N的特征向量Q′1，其中，W×H为特征图的长和宽，N为特征图的通道数。全局平均池化是将W×H的特征图各个像素点求取一个平均值，通过全局平均池化操作既可以得到输入信息的全局特征，也可以将三维特征向量转化为一维特征向量，进而显著降低计算复杂度。
将膨胀率为3的空洞卷积所提取的特征维度为W×H×N的特征Q2进行维度转换，利用投影函数α(·)＝QW×H×N→QN×WH转换为维度为N×WH的特征向量Q′2。将特征向量Q′2经过非线性激活函数S得到激活后的特征向量R2。
计算公式为：
其中，非线性激活函数S的导数恒大于0，在输入为0的附近值时，输出具有一定的平滑度，有利于训练过程中的优化和泛化。
随后，利用矩阵相乘的方法建立特征向量R2与特征向量Q′1之间的依赖关系系数矩阵其中/>表示矩阵乘法。特征向量R2与特征向量Q′1之间的依赖关系系数矩阵可以用来表示多尺度特征Q1与Q2之间的依赖关系。
然后，利用Sigmiod激活函数对依赖关系系数矩阵进行特征激活，将依赖关系系数矩阵的各个元素转换为分布在0-1之间的关系权重值ω1，计算公式为：
利用Sigmiod函数，可以将多尺度特征Q1与Q2之间的长距离特征依赖关系矩阵转换为关系权重值，并利用反向传播对关系权重值进行训练优化，像素点间的依赖程度越大，权重值越大，依赖程度越小，权重值越小。
然后，将多尺度特征Q1与Q2之间的关系权重值ω1与特征向量Q′2相乘，将关系权重值赋予特征向量Q′2，实现对特征向量Q′2的特征激活，得到激活后的依赖程度特征使得Q′2中依赖程度较大的像素点间的依赖程度变得更大，依赖程度较小的像素点间依赖程度变得更小，利用各个像素点之间的依赖程度不同，使不同类别对象间的特征差异更加显著，计算公式为：/>其中，·表示矩阵点乘。
将激活后的特征维度为N×WH的依赖程度特征进行维度转换，利用投影函数ε(·)＝QN×WH→QW×H×N转换为维度为W×H×N的特征向量/>并将维度转换后的特征向量与维度为W×H×N的特征Q1进行拼接操作，再通过1×1卷积实现特征的融合。将融合后的特征经过Sigmoid激活函数激活后，将融合特征转化为0-1之间的激活权重值G1。
由于激活权重值G1是特征Q1与进行特征融合得到，其中包含了Q1与Q2的不同尺度特征间的依赖关系信息，因此，可以使用这种依赖关系信息同时对不同尺度特征Q1与Q2进行特征激活，但由于Q1与/>所包含的特征不同，因此不能使用同一个权重值对Q1与Q2进行激活。为此，本申请设计了一个门控单元，将激活权重值G1作为特征Q1的激活权重值，将1-G1作为权重值对/>进行自适应特征激活，然后将Q1激活后的特征与/>激活后的特征进行拼接，实现Q1与/>的特征融合，即实现了多尺度特征Q1与Q2间的特征融合。
计算公式为：
其中，⊕表示拼接操作，Fδ表示Sigmoid函数，conv表示1×1卷积。
同样的，对于多尺度特征Q3，采用相同的方法进行多尺度上下文特征融合。其中，将依赖关系特征作为输入，计算多尺度特征Q2、Q3的关系权重值ω2，将关系权重值ω2与Q3经过维度转换与非线性激活后的特征进行矩阵点乘后得到依赖关系特征/>并经过维度转换后得到/>将F1作为输入，与/>通过门控单元进行特征融合，实现了多尺度特征Q2与Q3间的特征融合，得到融合后的特征F2。
对于多尺度特征Q4，也采用相同的方法进行多尺度上下文特征融合。其中，将依赖关系特征作为输入，计算多尺度特征Q3、Q4的依赖关系权重值ω2，将依赖关系权重值ω3与Q4经过维度转换与非线性激活后的特征进行矩阵点乘后得到依赖关系特征/>并经过维度转换后得到/>将F2作为输入，与/>通过门控单元进行特征融合，实现了多尺度特征Q3与Q4间的特征融合，得到融合后的特征F3。
最后，将多尺度融合特征F3与多尺度特征Q4利用1×1卷积实现特征的融合，得到网络最终提取到的多尺度上下文融合特征。
印制电路板(Printed Circuit Board，PCB)是电子设备中的重要组成部分，焊接质量的好坏直接影响设备的性能和可靠性。因此，PCB板焊点检测是电子制造业中至关重要的环节之一。为评估所提出方法对网络特征提取性能提升的有效性，本发明针对PCB板焊点识别项目设计一个深度卷积神经网络模型，用于对流水线上的PCB板焊点进行检测。利用高清工业相机采集了多种类型的PCB板焊点图像，包括单面板、双面板和多层板等。对于每张图像，可以使用手动标注焊点的位置和质量等级。标注过程中，将焊点的质量分为优、良、差三个等级，以便后续的质量评估。本发明构建了包括3000张PCB板图像的数据集，图像分辨率为512×512。在Pytorch框架下使用Adam优化器对模型进行训练。使用Windows 10操作系统，两个Intel Xeon(R)E5-2650-v4 CPU处理器，两个NVIDIA Quadro M5000图形处理单元(GPU)。网络的初始训练参数如表1所示。
表1
该网络利用预先定义的锚框(anchor boxes)直接将整张图像作为输入进行训练，省去生成候选区域的中间步骤，能够快速区分背景区域和目标，从而实现对目标的实时检测。在检测过程中首先将输入图像划分成S×S个大小相同的单元格，每个单元格只负责对中心位于该单元格中的目标进行预测，一个单元格预测B个边界框(predicting box)，每个边界框中包含的信息为(tx,ty,tw,th)，然后通过计算得出(bx,by,bw,bh)来预测边界框。预测边界框的位置计算如下：
bx＝σ(tx)+cx
by＝σ(ty)+cy
式中：(bx,by,bw,bh)是预测边界框的长度、宽度和中心点坐标；σ是sigmoid函数；(tx,ty)是目标中心点相对于点所在网格左上角的偏移量；(cx,cy)是点所在网格的左上角和左上角之间相差的格数；(pw,ph)是锚框(anchor box)的边缘长度；(tw,th)是预测框的宽度和高度。整个训练过程使用一个称为平方和误差的损失计算，即损失函数为所有单元格预测值和真实值的均方差，包括坐标误差、置信度(IOU)误差和分类误差。
在相同的主网络结构下，分别对不添加多尺度自适应门控融合模块以及添加多尺度自适应门控融合模块的特征提取效果进行了对比，并将网络提取的特征图进行可视化处理。实验表明，在相同的网络结构下，采用添加多尺度自适应门控融合模块算法可以明显提高对目标特征的提取能力。特征图可视化处理结果对比如图3(b)、图3(c)和图3(d)所示，其中，图3(b)为原图，图3(c)为加入多尺度自适应门控融合模块前提取的特征图，图3(d)为加入多尺度自适应门控融合模块后提取的特征图。
本申请实施例获取待处理的目标图像，对目标图像进行第一次膨胀处理，得到第一图像特征，对第一图像特征进行全局平均池化，得到一维的第一图像特征向量，对第一图像特征进行第二次膨胀处理，得到第二图像特征，使用预设的投影函数对第二图像特征进行维度转换，得到第二图像特征向量，根据第一图像特征向量和第二图像特征向量，构建第一长距离特征依赖关系矩阵，将第一长距离特征依赖关系矩阵中各元素转换为分布在0和1之间的关系权重值，得到第一关系权重矩阵，将第一关系权重矩阵点乘与第二图像特征向量，得到具备依赖关系表征的第一长距离特征依赖关系向量，使用投影函数的反向投影函数对第一长距离特征依赖关系向量进行维度转换，得到第一维度转换结果，将第一维度转换结果与第一图像特征进行拼接，将拼接的结果中各元素转换为分布在0和1之间激活权重值，得到第一激活权重矩阵，使用第一激活权重矩阵对第一图像特征进行激活，并使用1与第一激活权重矩阵的差值对应的矩阵对第一维度转换结果进行激活，拼接两次激活的结果，得到第一拼接结果，将第一拼接结果与第二图像特征进行融合，确定融合的结果为目标图像的特征提取结果，将图像转为不同尺度的上下文特征，并依据特征之间的依赖关系来调节融合的过程，形成基于激活权重门控单元，从而有效地对多尺度的上下文特征进行拼接融合等操作，降低了特征提取过程中细节特征的损失，有助于提高特征提取的准确度。
对应于上文实施例的多尺度门控融合单元的特征提取方法，图4示出了本申请实施例三提供的多尺度门控融合单元的特征提取装置的结构框图，上述特征提取装置应用于图1中的服务端，服务端对应的计算机设备连接相应的数据库，以获取数据库中相应的目标图像。上述计算机设备还可以连接相应的客户端，客户端也可以为服务端采集相应的目标图像。为了便于说明，仅示出了与本申请实施例相关的部分。
参见图4，该特征提取装置包括：
第一膨胀模块41，用于获取待处理的目标图像，对目标图像进行第一次膨胀处理，得到第一图像特征，对第一图像特征进行全局平均池化，得到一维的第一图像特征向量；
第二膨胀模块42，用于对第一图像特征进行第二次膨胀处理，得到第二图像特征，使用预设的投影函数对第二图像特征进行维度转换，得到第二图像特征向量，根据第一图像特征向量和第二图像特征向量，构建第一长距离特征依赖关系矩阵，其中，第一次膨胀处理的膨胀率尺度小于第二次膨胀处理的膨胀率尺度；
依赖关系分析模块43，用于将第一长距离特征依赖关系矩阵中各元素转换为分布在0和1之间的关系权重值，得到第一关系权重矩阵，将第一关系权重矩阵点乘与第二图像特征向量，得到具备依赖关系表征的第一长距离特征依赖关系向量；
权重门控模块44，用于使用投影函数的反向投影函数对第一长距离特征依赖关系向量进行维度转换，得到第一维度转换结果，将第一维度转换结果与第一图像特征进行拼接，将拼接的结果中各元素转换为分布在0和1之间激活权重值，得到第一激活权重矩阵；
特征提取模块45，用于使用第一激活权重矩阵对第一图像特征进行激活，并使用1与第一激活权重矩阵的差值对应的矩阵对第一维度转换结果进行激活，拼接两次激活的结果，得到第一拼接结果，将第一拼接结果与第二图像特征进行融合，确定融合的结果为目标图像的特征提取结果。
可选的是，该特征提取装置还包括：
其他膨胀模块，用于在对第一图像特征进行第二次膨胀处理之后，对目标图像连续进行N次膨胀处理，得到N个图像特征，其中，随着膨胀处理的次数的增加，对应的膨胀率尺度增大，且均大于第二次膨胀处理的膨胀率尺度，N为大于零的整数；
矩阵构建模块，用于针对第i个图像特征，0<i≤N，使用投影函数对第i个图像特征进行维度转换，得到第i个图像特征向量，根据第i-1个长距离特征依赖关系向量和第i个图像特征向量，构建第i个长距离特征依赖关系矩阵；
其他依赖关系模块，用于将第i个长距离特征依赖关系矩阵中各元素转换为分布在0和1之间的关系权重值，得到第i个关系权重矩阵，将第i个关系权重矩阵点乘与第i个图像特征向量，得到具备依赖关系表征的第i个长距离特征依赖关系向量；
权重矩阵确定模块，用于使用反向投影函数对第i个长距离特征依赖关系向量进行维度转换，得到第i个维度转换结果，将第i个维度转换结果与第i-1个拼接结果进行拼接，将拼接的结果中各元素转换为分布在0和1之间激活权重值，得到第i个激活权重矩阵；
激活模块，用于使用第i个激活权重矩阵对第i-1个拼接结果进行激活，并使用1与第i个激活权重矩阵的差值对应的矩阵对第i个维度转换结果进行激活，拼接两次激活的结果，得到第i个拼接结果，其中，在i＝1时，第0个长距离特征依赖关系向量为第一长距离特征依赖关系向量，第0个拼接结果为第一拼接结果；
上述特征提取模块45包括：
提取结果确定单元，用于将第N个拼接结果与第N个图像特征进行融合，确定融合的结果为目标图像的特征提取结果。
可选的是，上述第二膨胀模块42包括：
第一激活单元，用于使用非线性激活函数对第二图像特征向量进行激活，得到第一激活特征矩阵；
第一关系度确定单元，用于将第一图像特征向量与第一激活特征矩阵进行矩阵乘法，得到第一长距离特征依赖关系矩阵。
可选的是，上述矩阵构建模块包括：
池化单元，用于对第i-1个长距离特征依赖关系向量进行全局平均池化，得到一维的池化结果；
第二激活单元，用于使用非线性激活函数对第i个图像特征向量进行激活，得到第i个激活特征矩阵；
第二关系度确定单元，用于将池化结果与第i个激活特征矩阵进行矩阵乘法，得到第i个长距离特征依赖关系矩阵。
可选的是，上述权重门控模块44包括：
第一卷积融合单元，用于将第一维度转换结果与第一图像特征进行拼接，将拼接的结果进行卷积融合处理，得到融合结果；
第三激活单元，用于使用Sigmoid激活函数对融合结果进行激活，得到第一激活权重矩阵，第一激活权重矩阵中各元素值为分布在0和1之间激活权重值。
可选的是，上述权重矩阵确定模块包括：
第二卷积融合单元，用于将第i个维度转换结果与第i-1个拼接结果进行拼接，将拼接的结果进行卷积融合处理，得到融合结果；
第四激活单元，用于使用Sigmoid激活函数对融合结果进行激活，得到第i个激活权重矩阵，第i个激活权重矩阵中各元素值为分布在0和1之间激活权重值。
可选的是，所有的膨胀处理均包括：
使用空洞卷积对目标图像进行卷积，得到卷积结果，其中，实际卷积核的尺寸与原始卷积核的尺寸的关系为：
D＝k+(k-1)(a-1)
其中，k为原始卷积核的尺寸，a为膨胀率尺度，D为经过扩展后实际卷积核的尺寸。
需要说明的是，上述模块之间的信息交互、执行过程等内容，由于与本申请方法实施例基于同一构思，其具体功能及带来的技术效果，具体可参见方法实施例部分，此处不再赘述。
图5为本申请实施例四提供的一种计算机设备的结构示意图。如图5所示，该实施例的计算机设备包括：至少一个处理器(图5中仅示出一个)、存储器以及存储在存储器中并可在至少一个处理器上运行的计算机程序，处理器执行计算机程序时实现上述任意各个多尺度门控融合单元的特征提取方法实施例中的步骤。
该计算机设备可包括，但不仅限于，处理器、存储器。本领域技术人员可以理解，图5仅仅是计算机设备的举例，并不构成对计算机设备的限定，计算机设备可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如还可以包括网络接口、显示屏和输入装置等。
所称处理器可以是CPU，该处理器还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific IntegratedCircuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器包括可读存储介质、内存储器等，其中，内存储器可以是计算机设备的内存，内存储器为可读存储介质中的操作系统和计算机可读指令的运行提供环境。可读存储介质可以是计算机设备的硬盘，在另一些实施例中也可以是计算机设备的外部存储设备，例如，计算机设备上配备的插接式硬盘、智能存储卡(Smart Media Card，SMC)、安全数字(Secure Digital，SD)卡、闪存卡(Flash Card)等。进一步地，存储器还可以既包括计算机设备的内部存储单元也包括外部存储设备。存储器用于存储操作系统、应用程序、引导装载程序(BootLoader)、数据以及其他程序等，该其他程序如计算机程序的程序代码等。存储器还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述装置中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请实现上述实施例方法中的全部或部分流程，可以通过计算机程序来指令相关的硬件来完成，计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述方法实施例的步骤。其中，计算机程序包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质至少可以包括：能够携带计算机程序代码的任何实体或装置、记录介质、计算机存储器、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区，根据立法和专利实践，计算机可读介质不可以是电载波信号和电信信号。
本申请实现上述实施例方法中的全部或部分流程，也可以通过一种计算机程序产品来完成，当计算机程序产品在计算机设备上运行时，使得计算机设备执行时实现可实现上述方法实施例中的步骤。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中，应该理解到，所揭露的装置/计算机设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/计算机设备实施例仅仅是示意性的，例如，模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。

Claims (10)

1.一种多尺度门控融合单元的特征提取方法，其特征在于，所述特征提取方法包括：
获取待处理的目标图像，对所述目标图像进行第一次膨胀处理，得到第一图像特征，对所述第一图像特征进行全局平均池化，得到一维的第一图像特征向量；
对所述第一图像特征进行第二次膨胀处理，得到第二图像特征，使用预设的投影函数对所述第二图像特征进行维度转换，得到第二图像特征向量，根据所述第一图像特征向量和所述第二图像特征向量，构建第一长距离特征依赖关系矩阵，其中，所述第一次膨胀处理的膨胀率尺度小于所述第二次膨胀处理的膨胀率尺度；
将所述长距离特征依赖关系矩阵中各元素转换为分布在0和1之间的关系权重值，得到第一长距离特征依赖关系权重矩阵，将所述第一长距离特征依赖关系权重矩阵与所述第二图像特征向量点乘，得到具备长距离特征依赖关系表征的第一长距离特征依赖关系向量；
使用所述投影函数的反向投影函数对所述第一长距离特征依赖关系向量进行维度转换，得到第一维度转换结果，将所述第一维度转换结果与所述第一图像特征进行拼接，将拼接的结果中各元素转换为分布在0和1之间激活权重值，得到第一激活权重矩阵；
使用所述第一激活权重矩阵对所述第一图像特征进行激活，并使用1与所述第一激活权重矩阵的差值对应的矩阵对所述第一维度转换结果进行激活，拼接两次激活的结果，得到第一拼接结果，将所述第一拼接结果与所述第二图像特征进行融合，确定融合的结果为所述目标图像的特征提取结果。
2.根据权利要求1所述的特征提取方法，其特征在于，在对所述第一图像特征进行第二次膨胀处理之后，还包括：
对所述目标图像连续进行N次膨胀处理，得到N个图像特征，其中，随着膨胀处理的次数的增加，对应的膨胀率尺度增大，且均大于第二次膨胀处理的膨胀率尺度，N为大于零的整数；
针对第i个图像特征，0<i≤N，使用所述投影函数对所述第i个图像特征进行维度转换，得到第i个图像特征向量，根据所述第i-1个长距离特征依赖关系向量和所述第i个图像特征向量，构建第i个长距离特征依赖关系矩阵；
将所述第i个长距离特征依赖关系矩阵中各元素转换为分布在0和1之间的关系权重值，得到第i个关系权重矩阵，将所述第i个关系权重矩阵点乘与所述第i个图像特征向量，得到具备依赖关系表征的第i个长距离特征依赖关系向量；
使用所述反向投影函数对所述第i个长距离特征依赖关系向量进行维度转换，得到第i个维度转换结果，将所述第i个维度转换结果与所述第i-1个拼接结果进行拼接，将拼接的结果中各元素转换为分布在0和1之间激活权重值，得到第i个激活权重矩阵；
使用所述第i个激活权重矩阵对所述第i-1个拼接结果进行激活，并使用1与所述第i个激活权重矩阵的差值对应的矩阵对所述第i个维度转换结果进行激活，拼接两次激活的结果，得到第i个拼接结果，其中，在i＝1时，第0个长距离特征依赖关系向量为所述第一长距离特征依赖关系向量，第0个拼接结果为所述第一拼接结果；
将所述第一拼接结果与所述第二图像特征向量进行融合，确定融合的结果为所述目标图像的特征提取结果包括：
将所述第N个拼接结果与所述第N个图像特征进行融合，确定融合的结果为所述目标图像的特征提取结果。
3.根据权利要求2所述的特征提取方法，其特征在于，根据所述第一图像特征向量和所述第二图像特征向量，构建第一长距离特征依赖关系矩阵包括：
使用非线性激活函数对所述第二图像特征向量进行激活，得到第一激活特征矩阵；
将所述第一图像特征向量与所述第一激活特征矩阵进行矩阵乘法，得到第一长距离特征依赖关系矩阵。
4.根据权利要求3所述的特征提取方法，其特征在于，根据所述第i-1个长距离特征依赖关系向量和所述第i个图像特征向量，构建第i个长距离特征依赖关系矩阵包括：
对所述第i-1个长距离特征依赖关系向量进行全局平均池化，得到一维的池化结果；
使用所述非线性激活函数对所述第i个图像特征向量进行激活，得到第i个激活特征矩阵；
将所述池化结果与所述第i个激活特征矩阵进行矩阵乘法，得到第i个长距离特征依赖关系矩阵。
5.根据权利要求2所述的特征提取方法，其特征在于，将所述第一维度转换结果与所述第一图像特征进行拼接，将拼接的结果中各元素转换为分布在0和1之间激活权重值，得到第一激活权重矩阵包括：
将所述第一维度转换结果与所述第一图像特征进行拼接，将拼接的结果进行卷积融合处理，得到融合结果；
使用Sigmoid激活函数对所述融合结果进行激活，得到第一激活权重矩阵，所述第一激活权重矩阵中各元素值为分布在0和1之间激活权重值。
6.根据权利要求5所述的特征提取方法，其特征在于，将所述第i个维度转换结果与所述第i-1个拼接结果进行拼接，将拼接的结果中各元素转换为分布在0和1之间激活权重值，得到第i个激活权重矩阵包括：
将所述第i个维度转换结果与所述第i-1个拼接结果进行拼接，将拼接的结果进行卷积融合处理，得到融合结果；
使用Sigmoid激活函数对所述融合结果进行激活，得到第i个激活权重矩阵，所述第i个激活权重矩阵中各元素值为分布在0和1之间激活权重值。
7.根据权利要求1至6任一项所述的特征提取方法，其特征在于，所有的膨胀处理均包括：
使用空洞卷积对所述目标图像进行卷积，得到卷积结果，其中，实际卷积核的尺寸与原始卷积核的尺寸的关系为：
D＝k+(k-1)(a-1)
其中，k为原始卷积核的尺寸，a为膨胀率尺度，D为经过扩展后实际卷积核的尺寸。
8.一种多尺度门控融合单元的特征提取装置，其特征在于，所述特征提取装置包括：
第一膨胀模块，用于获取待处理的目标图像，对所述目标图像进行第一次膨胀处理，得到第一图像特征，对所述第一图像特征进行全局平均池化，得到一维的第一图像特征向量；
第二膨胀模块，用于对所述第一图像特征进行第二次膨胀处理，得到第二图像特征，使用预设的投影函数对所述第二图像特征进行维度转换，得到第二图像特征向量，根据所述第一图像特征向量和所述第二图像特征向量，构建第一长距离特征依赖关系矩阵，其中，所述第一次膨胀处理的膨胀率尺度小于所述第二次膨胀处理的膨胀率尺度；
依赖关系分析模块，用于将所述第一长距离特征依赖关系矩阵中各元素转换为分布在0和1之间的关系权重值，得到第一关系权重矩阵，将所述第一关系权重矩阵点乘与所述第二图像特征向量，得到具备依赖关系表征的第一长距离特征依赖关系向量；
权重门控模块，用于使用所述投影函数的反向投影函数对所述第一长距离特征依赖关系向量进行维度转换，得到第一维度转换结果，将所述第一维度转换结果与所述第一图像特征进行拼接，将拼接的结果中各元素转换为分布在0和1之间激活权重值，得到第一激活权重矩阵；
特征提取模块，用于使用所述第一激活权重矩阵对所述第一图像特征进行激活，并使用1与所述第一激活权重矩阵的差值对应的矩阵对所述第一维度转换结果进行激活，拼接两次激活的结果，得到第一拼接结果，将所述第一拼接结果与所述第二图像特征进行融合，确定融合的结果为所述目标图像的特征提取结果。
9.一种计算机设备，其特征在于，所述计算机设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的特征提取方法。
10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的特征提取方法。
CN202310324993.7A 2023-03-29 2023-03-29 多尺度门控融合单元的特征提取方法、装置、设备及介质 Active CN116524201B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310324993.7A CN116524201B (zh) 2023-03-29 2023-03-29 多尺度门控融合单元的特征提取方法、装置、设备及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310324993.7A CN116524201B (zh) 2023-03-29 2023-03-29 多尺度门控融合单元的特征提取方法、装置、设备及介质

Publications (2)

Publication Number Publication Date
CN116524201A true CN116524201A (zh) 2023-08-01
CN116524201B CN116524201B (zh) 2023-11-17

Family

ID=87402025

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310324993.7A Active CN116524201B (zh) 2023-03-29 2023-03-29 多尺度门控融合单元的特征提取方法、装置、设备及介质

Country Status (1)

Country Link
CN (1) CN116524201B (zh)

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005106788A1 (en) * 2004-04-29 2005-11-10 Koninklijke Philips Electronics N.V. Method of and system for changing the projection behavior of image projection means
GB0523150D0 (en) * 2005-11-02 2005-12-21 Crime Scene Invest Equipment L Imprint identification system
EP3690483A1 (en) * 2019-02-04 2020-08-05 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. A method for synthesis of antenna array layouts or selection of waveform in a set of mutually incoherent apertures for radar and radio-frequency applications
CN112799128A (zh) * 2021-02-03 2021-05-14 北京航空航天大学 一种地震信号检测和震相提取的方法
CN112949828A (zh) * 2021-03-04 2021-06-11 湖南大学 一种基于图学习的图卷积神经网络交通预测方法及系统
CN114067013A (zh) * 2020-07-31 2022-02-18 通用电气精准医疗有限责任公司 用于经由单应重采样变换进行重投影和反投影的系统和方法
CN114842057A (zh) * 2022-04-28 2022-08-02 美的集团(上海)有限公司 距离信息补全方法、设备、存储介质和计算机程序产品
CN115115863A (zh) * 2022-06-28 2022-09-27 成都信息工程大学 水面多尺度目标检测方法、装置及系统和存储介质
CN115170638A (zh) * 2022-07-13 2022-10-11 东北林业大学 一种双目视觉立体匹配网络系统及其构建方法
CN115240425A (zh) * 2022-07-26 2022-10-25 西北师范大学 一种基于多尺度时空融合图网络的交通预测方法
WO2022241874A1 (zh) * 2021-05-18 2022-11-24 烟台艾睿光电科技有限公司 一种红外热成像单目视觉测距方法及相关组件
CN115410067A (zh) * 2022-08-23 2022-11-29 浙江工商大学 一种基于CNN-Transformer双流网络的细粒度服饰检索方法
WO2023279739A1 (zh) * 2021-07-09 2023-01-12 上海商汤智能科技有限公司 一种图像处理方法及装置、电子设备和存储介质

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005106788A1 (en) * 2004-04-29 2005-11-10 Koninklijke Philips Electronics N.V. Method of and system for changing the projection behavior of image projection means
GB0523150D0 (en) * 2005-11-02 2005-12-21 Crime Scene Invest Equipment L Imprint identification system
EP3690483A1 (en) * 2019-02-04 2020-08-05 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. A method for synthesis of antenna array layouts or selection of waveform in a set of mutually incoherent apertures for radar and radio-frequency applications
CN114067013A (zh) * 2020-07-31 2022-02-18 通用电气精准医疗有限责任公司 用于经由单应重采样变换进行重投影和反投影的系统和方法
CN112799128A (zh) * 2021-02-03 2021-05-14 北京航空航天大学 一种地震信号检测和震相提取的方法
CN112949828A (zh) * 2021-03-04 2021-06-11 湖南大学 一种基于图学习的图卷积神经网络交通预测方法及系统
WO2022241874A1 (zh) * 2021-05-18 2022-11-24 烟台艾睿光电科技有限公司 一种红外热成像单目视觉测距方法及相关组件
WO2023279739A1 (zh) * 2021-07-09 2023-01-12 上海商汤智能科技有限公司 一种图像处理方法及装置、电子设备和存储介质
CN114842057A (zh) * 2022-04-28 2022-08-02 美的集团(上海)有限公司 距离信息补全方法、设备、存储介质和计算机程序产品
CN115115863A (zh) * 2022-06-28 2022-09-27 成都信息工程大学 水面多尺度目标检测方法、装置及系统和存储介质
CN115170638A (zh) * 2022-07-13 2022-10-11 东北林业大学 一种双目视觉立体匹配网络系统及其构建方法
CN115240425A (zh) * 2022-07-26 2022-10-25 西北师范大学 一种基于多尺度时空融合图网络的交通预测方法
CN115410067A (zh) * 2022-08-23 2022-11-29 浙江工商大学 一种基于CNN-Transformer双流网络的细粒度服饰检索方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
FENG LING;: "Super-Resolution Land Cover Mapping with Spatial–Temporal Dependence by Integrating a Former Fine Resolution Map", 《 IEEE JOURNAL OF SELECTED TOPICS IN APPLIED EARTH OBSERVATIONS AND REMOTE SENSING》 *
刘飞虎: "基于雷达点云深度补全的运动目标识别研究", 《中国优秀硕士学位论文全文数据库》 *
张彦霞;赵永恒;: "数据挖掘技术在天文学中的应用", 科研信息化技术与应用, no. 03 *

Also Published As

Publication number Publication date
CN116524201B (zh) 2023-11-17

Similar Documents

Publication Publication Date Title
US10210418B2 (en) Object detection system and object detection method
Wu et al. Enhanced Precision in Dam Crack Width Measurement: Leveraging Advanced Lightweight Network Identification for Pixel‐Level Accuracy
CN112818966B (zh) 多模态遥感影像数据检测方法及系统
US20230137337A1 (en) Enhanced machine learning model for joint detection and multi person pose estimation
US20220277581A1 (en) Hand pose estimation method, device and storage medium
Yang et al. A sea-sky-line detection method based on Gaussian mixture models and image texture features
CN116433661B (zh) 多任务学习的半导体晶圆检测方法、装置、设备及介质
CN116205918B (zh) 基于图卷积的多模态融合半导体检测方法、装置及介质
CN116524201B (zh) 多尺度门控融合单元的特征提取方法、装置、设备及介质
CN113610856B (zh) 训练图像分割模型和图像分割的方法和装置
CN115619678A (zh) 一种图像变形的矫正方法、装置、计算机设备及存储介质
CN115205806A (zh) 生成目标检测模型的方法、装置和自动驾驶车辆
CN115331254A (zh) 一种免锚框的实例人像语义解析方法
Chen et al. Underwater target detection and embedded deployment based on lightweight YOLO_GN
Shan et al. Recognitions of collision avoidance for unmanned surface vessels with visible light camera using broad learning system
CN116486203B (zh) 一种基于孪生网络和在线模板更新的单目标跟踪方法
Liu et al. RETRACTED: Simulation of swimming sports image recognition based on multi-core processor and dynamic image sampling
CN118097340B (zh) 一种车道图像分割模型的训练方法、系统、设备及介质
Song et al. Real-time low-cost human skeleton detection
WO2023220892A1 (en) Expanded neural network training layers for convolution
Kapoor Point Cloud Data Augmentation for Safe 3D Object Detection using Geometric Techniques
Manimurugan et al. HLASwin-T-ACoat-Net based Underwater Object Detection
KARTHIKEYAN et al. HLASwin-T-ACoat-Net Based Underwater Object Detection
Yu et al. CRGF-YOLO: An Optimized Multi-Scale Feature Fusion Model Based on YOLOv5 for Detection of Steel Surface Defects
CN117351000A (zh) 一种端到端变形测量方法、系统、存储介质、设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant