CN117392489A - 图像处理方法、装置、设备及存储介质 - Google Patents
图像处理方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN117392489A CN117392489A CN202210761355.7A CN202210761355A CN117392489A CN 117392489 A CN117392489 A CN 117392489A CN 202210761355 A CN202210761355 A CN 202210761355A CN 117392489 A CN117392489 A CN 117392489A
- Authority
- CN
- China
- Prior art keywords
- feature map
- fusion
- scale
- output
- downsampling
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 33
- 230000004927 fusion Effects 0.000 claims abstract description 174
- 238000000605 extraction Methods 0.000 claims abstract description 78
- 238000000034 method Methods 0.000 claims abstract description 62
- 238000012545 processing Methods 0.000 claims abstract description 60
- 238000005070 sampling Methods 0.000 claims description 64
- 238000010586 diagram Methods 0.000 claims description 51
- 238000004590 computer program Methods 0.000 claims description 12
- 238000012546 transfer Methods 0.000 claims description 8
- 230000008569 process Effects 0.000 abstract description 38
- 238000003062 neural network model Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 7
- 230000000694 effects Effects 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000002776 aggregation Effects 0.000 description 2
- 238000004220 aggregation Methods 0.000 description 2
- 230000009191 jumping Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000005012 migration Effects 0.000 description 2
- 238000013508 migration Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 238000011176 pooling Methods 0.000 description 2
- 230000000750 progressive effect Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000007499 fusion processing Methods 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
- G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/52—Scale-space analysis, e.g. wavelet analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- General Health & Medical Sciences (AREA)
- Databases & Information Systems (AREA)
- Computing Systems (AREA)
- Health & Medical Sciences (AREA)
- Image Processing (AREA)
Abstract
本公开实施例提供一种图像处理方法、装置、设备及存储介质，通过对目标图像进行多尺度特征提取，得到不同分辨率尺度下的第一融合特征图；对第一输出特征图进行多尺度特征提取，并在每一分辨率尺度下，基于对应分辨率尺度的第一融合特征图进行特征融合，得到不同分辨率尺度下的第二融合特征图，其中，第一输出特征图为最大分辨率尺度对应的第一融合特征图；叠加第一输出特征图和第二输出特征图，生成目标图像对应的显著图，其中，第二输出特征图为最大分辨率尺度对应的第二融合特征图。通过对目标图像进行两次多尺度特征提取，处理过程简化，降低得到显著图所需的计算资源消耗，提高在移动终端一侧使用时的处理实时性和稳定性。
Description
技术领域
本公开实施例涉及图像处理技术领域，尤其涉及一种图像处理方法、装置、设备及存储介质。
背景技术
随着机器学习技术的发展，基于机器学习的图像处理技术广泛应用在各类应用中。其中，一些用于实现像素级别图像处理任务的网络模型，通过捕捉图像不同分辨率尺度下的局部和全局信息，来获得用于实现像素级别任务的图像特征。
然而，现有技术中实现像素级别图像处理任务的网络模型计算量大，过程复杂，在移动终端一侧使用时，存在处理实时性差、稳定性差、终端计算资源消耗大等问题。
发明内容
本公开实施例提供一种图像处理方法、装置、设备及存储介质，以克服现有技术中实现像素级别图像处理任务的网络模型计算量大，过程复杂的问题。
第一方面，本公开实施例提供一种图像处理方法，包括：
对目标图像进行多尺度特征提取，得到不同分辨率尺度下的第一融合特征图；对第一输出特征图进行多尺度特征提取，并在每一分辨率尺度下，基于对应分辨率尺度的第一融合特征图进行特征融合，得到不同分辨率尺度下的第二融合特征图，其中，所述第一输出特征图为最大分辨率尺度对应的第一融合特征图；叠加所述第一输出特征图和第二输出特征图，生成所述目标图像对应的显著图，其中，所述第二输出特征图为最大分辨率尺度对应的第二融合特征图。
第二方面，本公开实施例提供一种图像处理装置，包含：
第一U型网络和第二U型网络，所述第一U型网络包括依次设置的多个下采样层和多个上采样层，所述第二U型网络包括依次设置的多个下采样层和多个上采样层，所述第一U型网络和所述第二U型网络之间通过融合结构连接；所述融合结构包括输出连接、第一残差连接和第二残差连接，其中，所述第一残差连接用于实现所述第一U型网络的下采样层和所述第二U型网络的上采样层之间的特征融合；所述第二残差连接用于实现所述第一U型网络的输出与所述第二U型网络的输出之间的特征融合，所述输出连接用于实现所述第一U型网络的输出与所述第二U型网络的输入之间的特征传递；所述图像处理装置用于生成目标图像对应的显著图。
第三方面，本公开实施例提供一种神经网络模型，包括：
第一U型网络和第二U型网络，所述第一U型网络包括依次设置的多个下采样层和多个上采样层，所述第二U型网络包括依次设置的多个下采样层和多个上采样层，所述第一U型网络和所述第二U型网络之间通过融合结构连接；所述融合结构包括输出连接、第一残差连接和第二残差连接，其中，所述第一残差连接用于实现所述第一U型网络的下采样层和所述第二U型网络的上采样层之间的特征融合；所述第二残差连接用于实现所述第一U型网络的输出与所述第二U型网络的输出之间的特征融合，所述输出连接用于实现所述第一U型网络的输出与所述第二U型网络的输入之间的特征传递；所述神经网络模型用于实现如上第一方面以及第一方面各种可能的设计所述的图像处理方法。
第四方面，本公开实施例提供一种图像处理装置，包括：
第一提取模块，用于对目标图像进行多尺度特征提取，得到不同分辨率尺度下的第一融合特征图；
第二提取模块，用于对第一输出特征图进行多尺度特征提取，并在每一分辨率尺度下，基于对应分辨率尺度的第一融合特征图进行特征融合，得到不同分辨率尺度下的第二融合特征图，其中，所述第一输出特征图为最大分辨率尺度对应的第一融合特征图；
叠加模块，用于叠加所述第一输出特征图和第二输出特征图，生成所述目标图像对应的显著图，其中，所述第二输出特征图为最大分辨率尺度对应的第二融合特征图。
第五方面，本公开实施例提供一种电子设备，包括：
处理器，以及与所述处理器通信连接的存储器；
所述存储器存储计算机执行指令；
所述处理器执行所述存储器存储的计算机执行指令，以实现如上第一方面以及第一方面各种可能的设计所述的图像处理方法。
第六方面，本公开实施例提供一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机执行指令，当处理器执行所述计算机执行指令时，实现如上第一方面以及第一方面各种可能的设计所述的图像处理方法。
第七方面，本公开实施例提供一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现如上第一方面以及第一方面各种可能的设计所述的图像处理方法。
本实施例提供的图像处理方法、装置、设备及存储介质，通过对目标图像进行多尺度特征提取，得到不同分辨率尺度下的第一融合特征图；对第一输出特征图进行多尺度特征提取，并在每一分辨率尺度下，基于对应分辨率尺度的第一融合特征图进行特征融合，得到不同分辨率尺度下的第二融合特征图，其中，所述第一输出特征图为最大分辨率尺度对应的第一融合特征图；叠加所述第一输出特征图和第二输出特征图，生成所述目标图像对应的显著图，其中，所述第二输出特征图为最大分辨率尺度对应的第二融合特征图。通过对目标图像进行两次多尺度特征提取，并进行特征融合，得到能够表现目标图像在不同分辨率尺度下的第一融合特征图和第二融合特征图，再对第一融合特征图和第二融合特征图进行融合，得到的显著图能够更好的表现目标图像在不同维度下的特征，从而实现更好的图像处理效果，同时处理过程简化，降低得到显著图所需的计算资源消耗，提高在移动终端一侧使用时的处理实时性和稳定性。
附图说明
为了更清楚地说明本公开实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本公开实施例提供的图像处理方法的一种应用场景图；
图2为本公开实施例提供的图像处理方法的流程示意图一；
图3为图2所示实施例中步骤S101的具体实现步骤流程图；
图4为本公开实施例提供的一种U型网络的示意图；
图5为本公开实施例提供的图像处理方法的流程示意图二；
图6为图5所示实施例中步骤S201的具体实现步骤流程图；
图7为图5所示实施例中步骤S202的具体实现步骤流程图；
图8为图5所示实施例中步骤S203的具体实现步骤流程图；
图9为本公开实施例提供的一种神经网络模型的示意图；
图10为本公开实施例提供的一种残差相加的过程示意图；
图11为本公开实施例提供的图像处理装置的结构框图；
图12为本公开实施例提供的一种电子设备的结构示意图；
图13为本公开实施例提供的电子设备的硬件结构示意图。
具体实施方式
为使本公开实施例的目的、技术方案和优点更加清楚，下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本公开一部分实施例，而不是全部的实施例。基于本公开中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本公开保护的范围。
下面对本公开实施例的应用场景进行解释：
图1为本公开实施例提供的图像处理方法的一种应用场景图，本公开实施例提供的图像处理方法，可以应用于移动端的图像处理的场景。具体地，可以应用于移动设备一侧进行像素级别图像处理任务的应用场景，例如实现应用程序(Application，APP)中的图像分割、风格迁移等图像处理任务。如图1所示，本公开实施例提供的方法，可以应用于终端设备，例如，智能手机，终端设备内以客户端程序的形式部署有用于实现本公开实施例提供的图像处理方法的神经网络模型，终端设备通过运行应用程序，调用安装在应用客户端内的神经网络模型，实现具体的像素级别图像处理任务，例如人像抠图、图像风格迁移等。
现有技术中，实现像素级别的图像处理任务，不仅需要获得图像的全局特征，还有获得图像的局部特征，因此需要对图像进行多尺寸维度的特征提取，并在提取后进行特征融合，从而得到对应的显著图来完成图像处理任务。然而，这需要复杂的网络结构才能实现，相应的，需要消耗较多的计算资源。因此，此类用于实现像素级别图像处理任务的网络模型，通常是部署于服务器一侧运行，而在计算资源有限的移动终端一侧运行时，则会由于计算资源的限制，导致运行卡顿、任务处理实时性差、稳定性差等问题，甚至无法成功运行。
本公开实施例提供一种图像处理方法、装置、设备及存储介质以解决上述问题。
参考图2，图2为本公开实施例提供的图像处理方法的流程示意图一。本实施例的方法可以应用在终端设备中，例如智能手机，该图像处理方法包括：
步骤S101：对目标图像进行多尺度特征提取，得到不同分辨率尺度下的第一融合特征图。
示例性地，目标图像即待处理的图像，目标图像可以是终端设备内存储的图片，也可以是通过对视频进行抽帧后得到的视频帧。在一种可能的实现方式中，终端设备可以通过相机应用进行拍摄，从而得到照片或视频，之后从该拍摄得到的照片或视频中，基于用户指令确认并得到目标图像。
进一步地，对目标图像进行多尺度特征提取，即在目标图像的不同分辨率尺度下，进行特征提取，从而得到不同分辨率尺度下的特征图，即第一融合特征图。
在一种可能的实现方式中，如图3所示，步骤S101的具体实现步骤包括：
步骤S1011：对目标图像进行逐级下采样，得到多个各分辨率尺度下的第一下采样特征图。
步骤S1022：对第一最小特征图进行逐级上采样，并在每一分辨率尺度下，利用对应分辨率尺度下的第一下采样特征图进行残差相加，得到各分辨率尺度下的第一融合特征图，其中，第一最小特征图为最小分辨率尺度对应的第一下采样特征图。
具体地，该过程可通过预训练的U型网络实现，U型网络基于U-Net(也称为Unet)网络实现，通过对称设置的多层网络对图像进行逐层下采样和上采样，实现多尺度特征提取的目的。下面结合U型网络对步骤S101的具体实现过程做进一步说明。
图4为本公开实施例提供的一种U型网络的示意图，如图4所示，U型网络包括依次设置的多个下采样层(图中示为L1-L4)和多个上采样层(图中示为L5-L8)，其中，多个下采样层和多个上采样层依次连接的同时，各下采样层与对应的上采样层之间进行残差相加(图中示为ADD)连接。其中，残差相加即图像之间的逐点对应相加。将目标图像输入U型网络后，通过多个依次连接的下采样层，依次对目标图像进行迭代处理(即上一层的输出作为下一层的输入)，在每个下采样层中，进行卷积、池化等操作，从而得到分辨率尺寸逐渐降低的第一下采样特征图。其中，需要说明的是，基于具体的网络结构，下采样层中的最后一层和上采样层中的第一层直接连接，下采样层中的最后一层的输出直接传递给上采样层中的第一层。即第一最小特征图输入首个上采样层时，其对应的第一下采样特征图与第一最小特征图相同，因此二者的残差相加结合，仍然为第一最小特征图。
同时，在下采样层全部执行完毕后，最后一个下采样层输出的，即第一最小特征图，也即最小分辨率尺度对应的第一下采样特征图。以第一最小特征图为输入，通过多个依次连接的上采样层，依次对目标图像进行迭代处理(即上一层的输出作为下一层的输入)，逐层提高图像的分辨率。其中，示例性地，U型网络中的上采样层下采样层的层数相同，上采样层与下采样一一对应，在通过上采样层依次对目标图像进行迭代处理的过程中，同时将对应下采样层输出的第一下采样特征图以残差相加的方式输出至上采样层，实现对图像的恢复，得到各分辨率尺度下的第一融合特征图。本实施例中，通过从逐渐下采样的特征图中提取多尺度特征，并通过逐渐上采样、残差相加的过程进行图像恢复，最终得到各分辨率尺度下经过特征融合的第一融合特征图，此过程减轻了由大规模直接上采样引起的精细细节的损失。通过采用残差相加的方式来进行特征融合，有助于不同的分支学习其他分支学不到的知识并减少信息冗余，提高网络学习效率。
步骤S102：对第一输出特征图进行多尺度特征提取，并在每一分辨率尺度下，基于对应分辨率尺度的第一融合特征图进行特征融合，得到不同分辨率尺度下的第二融合特征图，其中，第一输出特征图为最大分辨率尺度对应的第一融合特征图。
示例性地，在生成不同分辨率尺度对应的第一融合特征图的过程中，随着上采样和特征融合过程的不断进行(参考图4所示)，第一融合特征图对应的分辨率尺度越来越大，最终又最后一个上采样层输出的第一融合特征图，为第一输出特征图，也即最大分辨率尺度对应的第一融合特征图。基于该第一融合特征图，再次进行多尺度特征提取，该多尺度特征提取的基本过程与对目标图像进行多尺度特征提取的过程类似，也是在第一输出特征图的不同分辨率尺度下，进行特征提取，从而得到不同分辨率尺度下的特征图，即第二融合特征图。不同之处在于，在对第一输出特征图进行多尺度特征提取的过程中，在每一分辨率尺度下，基于对应分辨率尺度的第一融合特征图进行特征融合，从而将第一融合特征图所包含的图像特征融合进第二融合特征图，使第二融合特征图包含有更加丰富的图像特征。
示例性地，对第一输出特征图进行多尺度特征提取的过程，也可以通过U型网络实现，U型网络的具体介绍可参见图4所对应实施例中的相关介绍。之后，通过对第一融合特征图对应的U型网络(即第一U型网络)和第二融合特征图对应的U型网络(即第二U型网络)进行融合连接，从而实现在每一分辨率尺度下，基于对应分辨率尺度的第一融合特征图进行特征融合的过程。
步骤S103：叠加第一输出特征图和第二输出特征图，生成目标图像对应的显著图，其中，第二输出特征图为最大分辨率尺度对应的第二融合特征图。
示例性地，在得到各第二融合特征图后，最后一个第二融合特征图，即经过第二次多尺度特征提取后的结果，由于在第二次多尺度特征提取的过程中，融合了第一次多尺度特征提取过程输出的各分辨率尺度下的图像特征(第一融合特征图)，因此实现了图像特征信息在不同的U型网络(第一U型网络和第二U型网络)中的传递。使得到的第二融合特征图包含第一融合特征图中的图像特征。之后，再将第一输出特征图和第二输出特征图进一步叠加，进行特征融合，实现两次多尺度特征提取结果的融合，从而得到包含各分辨率尺度下图像特征的显著性图。
示例性地，叠加第一输出特征图和第二输出特征图，生成目标图像对应的显著图，包括：对第一输出特征图和第二输出特征图进行残差相加，生成目标图像对应的显著图。通过残差相加的方式进行融合，可以在实现信息有效融合的基础上，减少生成的显著图的数据，从而提高图像数据处理速度。之后，可选地，基于包含丰富图像特征信息的显著性图，即可实现对目标图像的像素级别的图像处理任务，具体基于显著性图实现对应像素级别的图像处理任务的实现方式为现有技术，此处不再赘述。
在本实施例中，通过对目标图像进行多尺度特征提取，得到不同分辨率尺度下的第一融合特征图；对第一输出特征图进行多尺度特征提取，并在每一分辨率尺度下，基于对应分辨率尺度的第一融合特征图进行特征融合，得到不同分辨率尺度下的第二融合特征图，其中，第一输出特征图为最大分辨率尺度对应的第一融合特征图；叠加第一输出特征图和第二输出特征图，生成目标图像对应的显著图，其中，第二输出特征图为最大分辨率尺度对应的第二融合特征图。通过对目标图像进行两次多尺度特征提取，并进行特征融合，得到能够表现目标图像在不同分辨率尺度下的第一融合特征图和第二融合特征图，再对第一融合特征图和第二融合特征图进行融合，得到的显著图能够更好的表现目标图像在不同维度下的特征，从而实现更好的图像处理效果，同时处理过程简化，降低得到显著图所需的计算资源消耗，提高在移动终端一侧使用时的处理实时性和稳定性。
参考图5，图5为本公开实施例提供的图像处理方法的流程示意图二。本实施例在图2所示实施例的基础上，对步骤S102进一步细化，并增加了对神经网络模型的具体实现方式介绍，该图像处理方法包括：
步骤S201：对目标图像进行逐级下采样，得到多个各分辨率尺度下的第一下采样特征图。
一种可能的实现方式中，如图6所示，步骤S201的具体实现步骤包括：
步骤S2011：获取当前循环次数，若循环次数大于预设的下采样次数，则退出循环，若循环次数不大于预设的下采样次数，则执行步骤S2012：
步骤S2012：通过当前循环次数对应的下采样比例，对目标图像依次进行下采样操作，得到当前循环次数对应的第一下采样特征图；
步骤S2013：将目标图像更新为当前循环次数对应的第一下采样特征图。
示例性地，上述步骤可以通过预训练的U型网络实现，其中，下采样次数与U型网络中的下采样层相关，下采样层越多，则下采样次数越多，反之亦然。其中，每一次下采样操作时，基于当前循环次数(即当前下采样层)，确定对应的下采样比例，例如1/2，即分辨率降低一半。基于下采样比例来对目标图像进行下采样操作，得到分辨率降低的第一下采样特征图，具体地，例如通过对目标图像进行卷积和池化操作，实现下采样操作。其中，示例性地，下采样比例可以由U型网络的网络参数确定，此处不再详细举例赘述。
之后，继续以生成的第一下采样特征图为输入，进行下一次循环的下采样操作，直至循环次数大于预设的下采样次数，跳出循环，从而完成对目标图像进行逐级下采样的过程，并得到各预设的分辨率尺度下的第一下采样特征图。
步骤S202：对第一最小特征图进行逐级上采样，并在每一分辨率尺度下，利用对应分辨率尺度下的第一下采样特征图进行残差相加，得到各分辨率尺度下的第一融合特征图，其中，第一最小特征图为最小分辨率尺度对应的第一下采样特征图。
示例性地，与逐级下采样过程类似的，可以通过预设次数的循环上采样操作，来对第一最小特征图进行逐级升采样，并在升采样过程中，融合对应级别(分辨率尺度)的第一下采样特征图，进行残差相加，从而实现对目标图像的分辨率还原，得到各分辨率尺度下的第一融合特征图。需要说明的是，升采样的过程，可以通过卷积和插值操作的方式实现，但图像实际分辨率在下采样过程中不可逆的减小，因此，多尺度特征提取的过程，实际上是通过逐级降低图像实际分辨率，获得不同分辨率尺度下的特征的过程。
可选地，如图7所示，步骤S202的具体实现步骤包括：
步骤S2021：获取当前循环次数，若循环次数大于预设的上采样次数，则退出循环，若循环次数不大于预设的下采样次数，则执行步骤S2022；
步骤S2022：对第一最小特征图和对应分辨率尺度下的第一下采样特征图进行残差相加，得到第一输入特征图。
步骤S2023：通过当前循环次数对应的上采样比例，依次对第一输入特征图进行上采样操作，得到当前循环次数对应的第一融合特征图。
步骤S2024：将第一最小特征图更新为当前循环次数对应的第一融合特征图。
示例性地，具体地，上述步骤可以通过预训练的U型网络实现，其中，上采样次数与U型网络中的上采样层相关，上采样层越多，则上采样次数越多，反之亦然。其中，U型网络实现中的上采样层和下采样层对应设置，数量相同。
进一步地，在每一次循环过程中，首先，将第一最小特征图和对应分辨率尺度下的第一下采样特征图进行残差相加，得到第一输入特征图，实现相同分辨率尺度下的信息融合，提高第一输入特征图中的信息量。之后，基于当前循环次数(即当前上采样层)，确定对应的上采样比例，该上采样比例与对应的下采样层的下采样比例相同，基于上采样比例来对第一最小特征图进行上采样操作，得到图像分辨率提高的第一融合特征图，具体地，例如通过对目标图像进行卷积和插值操作，实现上采样操作。其中，示例性地，上采样比例可以由U型网络的网络参数确定，此处不再详细举例赘述。
之后，继续以生成的第一融合特征图为输入，进行下一次循环的上采样操作，直至循环次数大于预设的上采样次数，跳出循环，从而完成对第一最小特征图进行逐级下采样的过程，并得到各预设的分辨率尺度下的第一融合特征图。
步骤S203：对第一输出特征图进行逐级下采样，并在每一分辨率尺度下，利用对应分辨率尺度下的第一融合特征图进行残差相加，得到各分辨率尺度下的第二下采样特征图。
示例性地，在得到各分辨率尺度下的第一融合特征图后，相当于完成了第一次的多尺度特征提取，其中，第一输出特征图为分辨率尺度最大的第一融合特征图，也即第一次的多尺度特征提取的结果。步骤S203即以第一输出特征图为输入，进行第二次多尺度特征提取的过程。
可选地，如图8所示，步骤S203的具体实现步骤包括：
步骤S2031：获取当前循环次数，若循环次数大于预设的下采样次数，则退出循环，若循环次数不大于预设的下采样次数，则执行步骤S2032：
步骤S2032：对第一输出特征图和对应分辨率尺度下的第一融合特征图进行残差相加，得到第二输入特征图。
步骤S2033：通过当前循环次数对应的下采样比例，对第二输入特征图进行下采样操作，得到当前循环次数对应的第二下采样特征图。
步骤S2034：将第一输出特征图更新为当前循环次数对应的第二下采样特征图。
示例性地，在进行第二次多尺度特征提取的过程中，与第一次多尺度特征提取的过程类似，通过循环完成逐级下采样操作。具体地，首先，对第一次多尺度特征提取的过程输出的第一输出特征图为输入，与对应分辨率尺度下的第二融合特征图进行残差相加，得到第二输入特征图，再通过当前循环次数对应的下采样比例，对第二输入特征图进行下采样操作，得到当前循环次数对应的第二下采样特征图，之后，将第一输出特征图更新为本次循环得到的第二下采样特征图，进行下一次循环。直至循环次数到达预设的下采样次数，上述对第一输出特征图进行逐级下采样的过程，也可以通过U型网络实现，具体地，本实施例步骤中实现第一次多尺度特征提取的过程的U型网络为第一U型网络，实现第二次多尺度特征提取的过程的U型网络为第二U型网络，上述实施例步骤中，对第一输出特征图和对应分辨率尺度下的第一融合特征图进行残差相加的过程，可以通过第一U型网络的上采样层与第二U型网络的下采样层相连接而实现。
本公开实施例中，将第一次多尺度特征提取的过程中生成的第一融合特征图，融合至第二次多尺度特征提取的过程中，使图像的特征信息在多次特征提取过程中传递，使相同维度(分辨率尺度)的特征图进行融合，有助于加强信息的聚合，同时，通过残差相加的方式学习到多尺度的特征，提高图像处理的效果。
步骤S204：对第二最小特征图进行逐级上采样，并在每一分辨率尺度下，利用对应分辨率尺度下的第二下采样特征图进行残差相加，得到各分辨率尺度下的第二融合特征图，其中，第二最小特征图为最小分辨率尺度对应的第二下采样特征图。
示例性地，在完成第二次多尺度特征提取过程中的逐级下采样操作后，对应的，亿逐级下采样操作输出的第二最小特征图为输入，进行逐级上采样，并在每一分辨率尺度下，利用对应分辨率尺度下的第二下采样特征图进行残差相加，从而实现对该第二最小特征图的还原。该过程与第一次多尺度特征提取过程中的逐级上采样操作类似，具体实现过程可参见上述实施例中第一次多尺度特征提取过程中的逐级上采样操作的过程(步骤S202)，此处不再赘述。
步骤S205：叠加第一输出特征图和第二输出特征图，生成目标图像对应的显著图。
图9为本公开实施例提供的一种神经网络模型的示意图，如图9所示，神经网络模型包括第一U型网络和第二U型网络，第一U型网络包括依次设置的多个下采样层和多个上采样层，第二U型网络包括依次设置的多个下采样层和多个上采样层，第一U型网络和第二U型网络之间通过融合结构连接；融合结构包括输出连接、第一残差连接和第二残差连接，其中，第一残差连接用于实现第一U型网络的下采样层和第二U型网络的上采样层之间的特征融合(图中示为⊕，表示残差相加)；第二残差连接用于实现第一U型网络的输出与第二U型网络的输出之间的特征融合(图中示为⊕，表示残差相加)，输出连接用于实现第一U型网络的输出与第二U型网络的输入之间的特征传递。
下面结合图9对本公开实施例中步骤S201-S205的实现过程做进一步介绍：
示例性地，首先，将目标图像输入第一U型网络后，通过第一U型网络的多个依次连接的下采样层，对目标图像进行逐级下采样，得到多个各分辨率尺度下的第一下采样特征图。其中，示例性地，每一下采样层对应一个下采样比例，该下采样比例基于下采样的网络参数确定。下采样层通过对应的下采样比例，对目标图像进行处理。最后一个下采样层输出的为第一最小特征图，即最小分辨率尺度对应的第一下采样特征图。
之后，通过第一U型网络的多个依次连接的上采样层，对第一最小特征图进行逐级上采样，同时，利用下采样层与上采样层之间的残差连接，将对应的下采样层输出的第一下采样特征图进行残差相加，得到各分辨率尺度下的第一融合特征图。其中，示例性地，每一下采样层对应一个上采样比例，该上采样比例与对应的下采样层的下采样比例相同，用于实现对图像分辨率尺寸的还原。
图10为本公开实施例提供的一种残差相加的过程示意图，如图10所示，下采样层中，至少包括DL1、DL2、DL3，上采样层中，至少包括UL1、UL2、UL3，其中，UL1对应的下采样层为DL1、UL2对应的下采样层为DL2，UL3对应的下采样层为DL3。UL2的上一层级(图中示为UL1)输出图像P1后，将P1与下采样层DL2输出的P2(第一下采样特征图)进行相加，其中P1和P2图像尺寸相同，进行点对点像素相加，得到P3，P3即残差相加结果。将P3输入UL2进行上采样，UL2输出P4；之后，与之前步骤类似，将UL2输出的P4与下采样层DL3输出的P5进行相加，得到P6，并输入上采样层UL3进行上采样，以此类推，直至执行完所有上采样层。
进一步地，示例性地，每一上采样层包括多个子层(图中未示出)，例如卷积层、激活层、插值层等，每一子层可以通过具体的功能函数实现，此处不再赘述。每经过一个包括多个子层的上采样层，会完成一次上采样的处理过程，并生成上采样操作的处理结果，即第一融合特征图。最终，在经过所有上采样层后，得到一个融合了各个分辨率尺度下的特征信息的特征图，即第一输出特征图。本实施例中，通过用残差相加的方式来进行特征融合，这样有助于不同的分支学习其他分支学不到的知识并减少信息冗余，相比残差特征合并(concatenation)的方式，计算量更小，处理速度更快。
进一步地，第一U型网络的处理过程完成后，输出第一输出特征图，通过融合结构中的输出连接，将特征传递给第二U型网络，即将第一输出特征图传递给第二U型网络的下采样层。之后，通过第二U型网络中依次连接的多个下采样层通对第一输出特征图进行处理，其中，第二U型网络中依次连接的多个下采样层与第一U型网络中的多个上采样层通过融合结构中的第一残差连接相连接，将第一U型网络输出的第一融合特征图以残差相加的方式与第二U型网络中的上一级的下采样层的输出融合，得到第二输入特征图，并输入至下一级的下采样层进行下采样操作，得到与下采样层对应的第二下采样特征图，其中，最小分辨率尺度对应的第二下采样特征图为第二最小特征图。
进一步地，利用第二U型网络中与下采样层对称设置的多个上采样层，继续对第二最小特征图进行逐层上采样操作，并在上采样过程中，利用第二U型网络中的残差连接结构，在每一分辨率尺度下，利用对应分辨率尺度下的第二下采样特征图进行残差相加，最终得到第二输出特征图。最后，利用融合结构中的第二残差连接，对第二输出特征图和第二输出特征图进行相加，实现特征融合，得到最终的输出，即显著图。
其中，在一种可能的实现方式中，第二U型网络和/或第二U型网络中的上采用层和下采样层，包括深度可分离卷积层，通过逐通道卷积(depthwise，DW)和逐点卷积(pointwise，PW)两个部分结合起来，用来提取特征图。相比常规的卷积操作，可以降低参数数量和运算成本，提高应用于移动终端场景下的适用性。
本实施例中，通过由第一U型网络、第二U型网络以及连接二者的融合结构构成的神经网络模型，实现了对目标图像的两次多尺度特征提取，并且将前一次的多尺度特征提取的结构，融合至后一次的多尺度特征提取过程中，实现了图像特征信息在不同的U型网络中传递，而且维度(分辨率尺度)相同的特征图进行残差相加有助于加强信息的聚合，通过残差的方式学习到多尺度的特征；最后通过将第一个U型网络和第二个U型网络输出的特征进行相加，输出最终的模型预测的结果(显著图)，提高图像处理效果。
本实施例中，步骤S205的实现方式与本公开图2所示实施例中的步骤S103的实现方式相同，在此不再一一赘述。
本公开实施例提供了一种图像处理装置，包含第一U型网络和第二U型网络，所述第一U型网络包括依次设置的多个下采样层和多个上采样层，所述第二U型网络包括依次设置的多个下采样层和多个上采样层，所述第一U型网络和所述第二U型网络之间通过融合结构连接；
所述融合结构包括输出连接、第一残差连接和第二残差连接，其中，所述第一残差连接用于实现所述第一U型网络的下采样层和所述第二U型网络的上采样层之间的特征融合；所述第二残差连接用于实现所述第一U型网络的输出与所述第二U型网络的输出之间的特征融合，所述输出连接用于实现所述第一U型网络的输出与所述第二U型网络的输入之间的特征传递；
所述图像处理装置用于生成目标图像对应的显著图。
更具体地，上述图像处理装置中，包含有图9所示的神经网络模型，通过该图像处理装置，可以实现图2至图10任一所示实施例中的方案，具体实现方法可参见上述实施例中的相关介绍，此处不再赘述。
对应于上文实施例的图像处理方法，图11为本公开实施例提供的图像处理装置的结构框图。为了便于说明，仅示出了与本公开实施例相关的部分。参照图11，图像处理装置3，包括：
第一提取模块31，用于对目标图像进行多尺度特征提取，得到不同分辨率尺度下的第一融合特征图；
第二提取模块32，用于对第一输出特征图进行多尺度特征提取，并在每一分辨率尺度下，基于对应分辨率尺度的第一融合特征图进行特征融合，得到不同分辨率尺度下的第二融合特征图，其中，第一输出特征图为最大分辨率尺度对应的第一融合特征图；
叠加模块33，用于叠加第一输出特征图和第二输出特征图，生成目标图像对应的显著图，其中，第二输出特征图为最大分辨率尺度对应的第二融合特征图。
在本公开的一个实施例中，第一提取模块31，具体用于：对目标图像进行逐级下采样，得到多个各分辨率尺度下的第一下采样特征图；对第一最小特征图进行逐级上采样，并在每一分辨率尺度下，利用对应分辨率尺度下的第一下采样特征图进行残差相加，得到各分辨率尺度下的第一融合特征图，其中，第一最小特征图为最小分辨率尺度对应的第一下采样特征图。
在本公开的一个实施例中，第一提取模块31在对目标图像进行逐级下采样，得到多个各分辨率尺度下的第一下采样特征图时，具体用于：循环执行以下步骤，直至循环次数大于预设的下采样次数：通过当前循环次数对应的下采样比例，对目标图像依次进行下采样操作，得到当前循环次数对应的第一下采样特征图；将目标图像更新为当前循环次数对应的第一下采样特征图。
在本公开的一个实施例中，第一提取模块31在对第一最小特征图进行逐级上采样，并在每一分辨率尺度下，利用对应分辨率尺度下的第一下采样特征图进行残差相加，得到各分辨率尺度下的第一融合特征图时，具体用于：循环执行以下步骤，直至循环次数大于预设的上采样次数：对第一最小特征图和对应分辨率尺度下的第一下采样特征图进行残差相加，得到第一输入特征图；通过当前循环次数对应的上采样比例，依次对第一输入特征图进行上采样操作，得到当前循环次数对应的第一融合特征图；将第一最小特征图更新为当前循环次数对应的第一融合特征图。
在本公开的一个实施例中，第一提取模块32，具体用于：对第一输出特征图进行逐级下采样，并在每一分辨率尺度下，利用对应分辨率尺度下的第一融合特征图进行残差相加，得到各分辨率尺度下的第二下采样特征图；对第二最小特征图进行逐级上采样，并在每一分辨率尺度下，利用对应分辨率尺度下的第二下采样特征图进行残差相加，得到各分辨率尺度下的第二融合特征图，其中，第二最小特征图为最小分辨率尺度对应的第二下采样特征图。
在本公开的一个实施例中，第一提取模块32在对第一输出特征图进行逐级下采样，并在每一分辨率尺度下，利用对应分辨率尺度下的第一融合特征图进行残差相加，得到各分辨率尺度下的第二下采样特征图时，具体用于：循环执行以下步骤，直至循环次数大于预设的下采样次数：对第一输出特征图和对应分辨率尺度下的第一融合特征图进行残差相加，得到第二输入特征图；通过当前循环次数对应的下采样比例，对第二输入特征图进行下采样操作，得到当前循环次数对应的第二下采样特征图；将第一输出特征图更新为当前循环次数对应的第二下采样特征图。
在本公开的一个实施例中，叠加模块33，具体用于：对第一输出特征图和第二输出特征图进行残差相加，生成目标图像对应的显著图。
在本公开的一个实施例中，第一融合特征图和/或第二融合特征图基于深度可分离卷积操作得到。
其中，第一提取模块31、第二提取模块32和叠加模块33依次连接。本实施例提供的图像处理装置3可以执行上述方法实施例的技术方案，其实现原理和技术效果类似，本实施例此处不再赘述。
图12为本公开实施例提供的一种电子设备的结构示意图，如图12所示，该电子设备4包括：
处理器41，以及与处理器41通信连接的存储器42；
存储器42存储计算机执行指令；
处理器41执行存储器42存储的计算机执行指令，以实现如图2-图10所示实施例中的图像处理方法。
其中，可选地，处理器41和存储器42通过总线43连接。
相关说明可以对应参见图2-图10所对应的实施例中的步骤所对应的相关描述和效果进行理解，此处不做过多赘述。
参考图13，其示出了适于用来实现本公开实施例的电子设备900的结构示意图，该电子设备900可以为终端设备或服务器。其中，终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、个人数字助理(Personal Digital Assistant，简称PDA)、平板电脑(Portable Android Device，简称PAD)、便携式多媒体播放器(Portable MediaPlayer，简称PMP)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图13示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图13所示，电子设备900可以包括处理装置(例如中央处理器、图形处理器等)901，其可以根据存储在只读存储器(Read Only Memory，简称ROM)902中的程序或者从存储装置908加载到随机访问存储器(Random Access Memory，简称RAM)903中的程序而执行各种适当的动作和处理。在RAM 903中，还存储有电子设备900操作所需的各种程序和数据。处理装置901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。
通常，以下装置可以连接至I/O接口905：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置906；包括例如液晶显示器(Liquid CrystalDisplay，简称LCD)、扬声器、振动器等的输出装置907；包括例如磁带、硬盘等的存储装置908；以及通信装置909。通信装置909可以允许电子设备900与其他设备进行无线或有线通信以交换数据。虽然图13示出了具有各种装置的电子设备900，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置909从网络上被下载和安装，或者从存储装置908被安装，或者从ROM902被安装。在该计算机程序被处理装置901执行时，执行本公开实施例的方法中限定的上述功能。
需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备执行上述实施例所示的方法。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LocalArea Network，简称LAN)或广域网(Wide Area Network，简称WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定，例如，第一获取单元还可以被描述为“获取至少两个网际协议地址的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
第一方面，根据本公开的一个或多个实施例，提供了一种图像处理方法，包括：
对目标图像进行多尺度特征提取，得到不同分辨率尺度下的第一融合特征图；对第一输出特征图进行多尺度特征提取，并在每一分辨率尺度下，基于对应分辨率尺度的第一融合特征图进行特征融合，得到不同分辨率尺度下的第二融合特征图，其中，所述第一输出特征图为最大分辨率尺度对应的第一融合特征图；叠加所述第一输出特征图和第二输出特征图，生成所述目标图像对应的显著图，其中，所述第二输出特征图为最大分辨率尺度对应的第二融合特征图。
根据本公开的一个或多个实施例，所述对目标图像进行多尺度特征提取，得到不同分辨率尺度下的第一融合特征图，包括：对所述目标图像进行逐级下采样，得到多个各分辨率尺度下的第一下采样特征图；对第一最小特征图进行逐级上采样，并在每一所述分辨率尺度下，利用对应分辨率尺度下的第一下采样特征图进行残差相加，得到各分辨率尺度下的第一融合特征图，其中，所述第一最小特征图为最小分辨率尺度对应的第一下采样特征图。
根据本公开的一个或多个实施例，所述对所述目标图像进行逐级下采样，得到多个各分辨率尺度下的第一下采样特征图，包括：循环执行以下步骤，直至循环次数大于预设的下采样次数：通过当前循环次数对应的下采样比例，对所述目标图像依次进行下采样操作，得到所述当前循环次数对应的第一下采样特征图；将所述目标图像更新为所述当前循环次数对应的第一下采样特征图。
根据本公开的一个或多个实施例，所述对第一最小特征图进行逐级上采样，并在每一所述分辨率尺度下，利用对应分辨率尺度下的第一下采样特征图进行残差相加，得到各分辨率尺度下的第一融合特征图，包括：循环执行以下步骤，直至循环次数大于预设的上采样次数：对所述第一最小特征图和对应分辨率尺度下的第一下采样特征图进行残差相加，得到第一输入特征图；通过当前循环次数对应的上采样比例，依次对所述第一输入特征图进行上采样操作，得到所述当前循环次数对应的第一融合特征图；将所述第一最小特征图更新为所述当前循环次数对应的第一融合特征图。
根据本公开的一个或多个实施例，所述对第一输出特征图进行多尺度特征提取，并在每一分辨率尺度下，基于对应分辨率尺度的第一融合特征图进行特征融合，得到不同分辨率尺度下的第二融合特征图，包括：对所述第一输出特征图进行逐级下采样，并在每一所述分辨率尺度下，利用对应分辨率尺度下的第一融合特征图进行残差相加，得到各分辨率尺度下的第二下采样特征图；对第二最小特征图进行逐级上采样，并在每一所述分辨率尺度下，利用对应分辨率尺度下的第二下采样特征图进行残差相加，得到各分辨率尺度下的第二融合特征图，其中，所述第二最小特征图为最小分辨率尺度对应的第二下采样特征图。
根据本公开的一个或多个实施例，所述对所述第一输出特征图进行逐级下采样，并在每一所述分辨率尺度下，利用对应分辨率尺度下的第一融合特征图进行残差相加，得到各分辨率尺度下的第二下采样特征图，包括：循环执行以下步骤，直至循环次数大于预设的下采样次数：对所述第一输出特征图和对应分辨率尺度下的第一融合特征图进行残差相加，得到第二输入特征图；通过当前循环次数对应的下采样比例，对所述第二输入特征图进行下采样操作，得到所述当前循环次数对应的第二下采样特征图；将所述第一输出特征图更新为所述当前循环次数对应的第二下采样特征图。
根据本公开的一个或多个实施例，叠加所述第一输出特征图和第二输出特征图，生成所述目标图像对应的显著图，包括：对所述第一输出特征图和第二输出特征图进行残差相加，生成所述目标图像对应的显著图。
根据本公开的一个或多个实施例，所述第一融合特征图和/或所述第二融合特征图基于深度可分离卷积操作得到。
第二方面，本公开实施例提供一种图像处理装置，包含：
第一U型网络和第二U型网络，所述第一U型网络包括依次设置的多个下采样层和多个上采样层，所述第二U型网络包括依次设置的多个下采样层和多个上采样层，所述第一U型网络和所述第二U型网络之间通过融合结构连接；所述融合结构包括输出连接、第一残差连接和第二残差连接，其中，所述第一残差连接用于实现所述第一U型网络的下采样层和所述第二U型网络的上采样层之间的特征融合；所述第二残差连接用于实现所述第一U型网络的输出与所述第二U型网络的输出之间的特征融合，所述输出连接用于实现所述第一U型网络的输出与所述第二U型网络的输入之间的特征传递；所述图像处理装置用于生成目标图像对应的显著图。
第三方面，根据本公开的一个或多个实施例，提供了一种神经网络模型，包括：第一U型网络和第二U型网络，所述第一U型网络包括依次设置的多个下采样层和多个上采样层，所述第二U型网络包括依次设置的多个下采样层和多个上采样层，所述第一U型网络和所述第二U型网络之间通过融合结构连接；所述融合结构包括输出连接、第一残差连接和第二残差连接，其中，所述第一残差连接用于实现所述第一U型网络的下采样层和所述第二U型网络的上采样层之间的特征融合；所述第二残差连接用于实现所述第一U型网络的输出与所述第二U型网络的输出之间的特征融合，所述输出连接用于实现所述第一U型网络的输出与所述第二U型网络的输入之间的特征传递；所述神经网络模型用于实现如上第一方面以及第一方面各种可能的设计所述的图像处理方法。
第四方面，根据本公开的一个或多个实施例，提供了一种神经网络模型，包括：
第一提取模块，用于对目标图像进行多尺度特征提取，得到不同分辨率尺度下的第一融合特征图；
第二提取模块，用于对第一输出特征图进行多尺度特征提取，并在每一分辨率尺度下，基于对应分辨率尺度的第一融合特征图进行特征融合，得到不同分辨率尺度下的第二融合特征图，其中，所述第一输出特征图为最大分辨率尺度对应的第一融合特征图；
叠加模块，用于叠加所述第一输出特征图和第二输出特征图，生成所述目标图像对应的显著图，其中，所述第二输出特征图为最大分辨率尺度对应的第二融合特征图。
根据本公开的一个或多个实施例，所述第一提取模块，具体用于：对所述目标图像进行逐级下采样，得到多个各分辨率尺度下的第一下采样特征图；对第一最小特征图进行逐级上采样，并在每一所述分辨率尺度下，利用对应分辨率尺度下的第一下采样特征图进行残差相加，得到各分辨率尺度下的第一融合特征图，其中，所述第一最小特征图为最小分辨率尺度对应的第一下采样特征图。
根据本公开的一个或多个实施例，所述第一提取模块在对所述目标图像进行逐级下采样，得到多个各分辨率尺度下的第一下采样特征图时，具体用于：循环执行以下步骤，直至循环次数大于预设的下采样次数：通过当前循环次数对应的下采样比例，对所述目标图像依次进行下采样操作，得到所述当前循环次数对应的第一下采样特征图；将所述目标图像更新为所述当前循环次数对应的第一下采样特征图。
根据本公开的一个或多个实施例，所述第一提取模块在对第一最小特征图进行逐级上采样，并在每一所述分辨率尺度下，利用对应分辨率尺度下的第一下采样特征图进行残差相加，得到各分辨率尺度下的第一融合特征图时，具体用于：循环执行以下步骤，直至循环次数大于预设的上采样次数：对所述第一最小特征图和对应分辨率尺度下的第一下采样特征图进行残差相加，得到第一输入特征图；通过当前循环次数对应的上采样比例，依次对所述第一输入特征图进行上采样操作，得到所述当前循环次数对应的第一融合特征图；将所述第一最小特征图更新为所述当前循环次数对应的第一融合特征图。
根据本公开的一个或多个实施例，所述第一提取模块，具体用于：对所述第一输出特征图进行逐级下采样，并在每一所述分辨率尺度下，利用对应分辨率尺度下的第一融合特征图进行残差相加，得到各分辨率尺度下的第二下采样特征图；对第二最小特征图进行逐级上采样，并在每一所述分辨率尺度下，利用对应分辨率尺度下的第二下采样特征图进行残差相加，得到各分辨率尺度下的第二融合特征图，其中，所述第二最小特征图为最小分辨率尺度对应的第二下采样特征图。
根据本公开的一个或多个实施例，所述第一提取模块在对所述第一输出特征图进行逐级下采样，并在每一所述分辨率尺度下，利用对应分辨率尺度下的第一融合特征图进行残差相加，得到各分辨率尺度下的第二下采样特征图时，具体用于：循环执行以下步骤，直至循环次数大于预设的下采样次数：对所述第一输出特征图和对应分辨率尺度下的第一融合特征图进行残差相加，得到第二输入特征图；通过当前循环次数对应的下采样比例，对所述第二输入特征图进行下采样操作，得到所述当前循环次数对应的第二下采样特征图；将所述第一输出特征图更新为所述当前循环次数对应的第二下采样特征图。
根据本公开的一个或多个实施例，所述叠加模块，具体用于：对所述第一输出特征图和第二输出特征图进行残差相加，生成所述目标图像对应的显著图。
在本公开的一个实施例中，所述第一融合特征图和/或所述第二融合特征图基于深度可分离卷积操作得到。
第五方面，根据本公开的一个或多个实施例，提供了一种电子设备，包括：处理器，以及与所述处理器通信连接的存储器；
所述存储器存储计算机执行指令；
所述处理器执行所述存储器存储的计算机执行指令，以实现如上第一方面以及第一方面各种可能的设计所述的图像处理方法。
第六方面，根据本公开的一个或多个实施例，提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机执行指令，当处理器执行所述计算机执行指令时，实现如上第一方面以及第一方面各种可能的设计所述的图像处理方法。
第七方面，本公开实施例提供一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现如上第一方面以及第一方面各种可能的设计所述的图像处理方法。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外，虽然采用特定次序描绘了各操作，但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。
Claims (13)
1.一种图像处理方法，其特征在于，包括：
对目标图像进行多尺度特征提取，得到不同分辨率尺度下的第一融合特征图；
对第一输出特征图进行多尺度特征提取，并在每一分辨率尺度下，基于对应分辨率尺度的第一融合特征图进行特征融合，得到不同分辨率尺度下的第二融合特征图，其中，所述第一输出特征图为最大分辨率尺度对应的第一融合特征图；
叠加所述第一输出特征图和第二输出特征图，生成所述目标图像对应的显著图，其中，所述第二输出特征图为最大分辨率尺度对应的第二融合特征图。
2.根据权利要求1所述的方法，其特征在于，所述对目标图像进行多尺度特征提取，得到不同分辨率尺度下的第一融合特征图，包括：
对所述目标图像进行逐级下采样，得到多个各分辨率尺度下的第一下采样特征图；
对第一最小特征图进行逐级上采样，并在每一所述分辨率尺度下，利用对应分辨率尺度下的第一下采样特征图进行残差相加，得到各分辨率尺度下的第一融合特征图，其中，所述第一最小特征图为最小分辨率尺度对应的第一下采样特征图。
3.根据权利要求2所述的方法，其特征在于，所述对所述目标图像进行逐级下采样，得到多个各分辨率尺度下的第一下采样特征图，包括：
循环执行以下步骤，直至循环次数大于预设的下采样次数：
通过当前循环次数对应的下采样比例，对所述目标图像依次进行下采样操作，得到所述当前循环次数对应的第一下采样特征图；
将所述目标图像更新为所述当前循环次数对应的第一下采样特征图。
4.根据权利要求2所述的方法，其特征在于，所述对第一最小特征图进行逐级上采样，并在每一所述分辨率尺度下，利用对应分辨率尺度下的第一下采样特征图进行残差相加，得到各分辨率尺度下的第一融合特征图，包括：
循环执行以下步骤，直至循环次数大于预设的上采样次数：
对所述第一最小特征图和对应分辨率尺度下的第一下采样特征图进行残差相加，得到第一输入特征图；
通过当前循环次数对应的上采样比例，依次对所述第一输入特征图进行上采样操作，得到所述当前循环次数对应的第一融合特征图；
将所述第一最小特征图更新为所述当前循环次数对应的第一融合特征图。
5.根据权利要求1所述的方法，其特征在于，所述对第一输出特征图进行多尺度特征提取，并在每一分辨率尺度下，基于对应分辨率尺度的第一融合特征图进行特征融合，得到不同分辨率尺度下的第二融合特征图，包括：
对所述第一输出特征图进行逐级下采样，并在每一所述分辨率尺度下，利用对应分辨率尺度下的第一融合特征图进行残差相加，得到各分辨率尺度下的第二下采样特征图；
对第二最小特征图进行逐级上采样，并在每一所述分辨率尺度下，利用对应分辨率尺度下的第二下采样特征图进行残差相加，得到各分辨率尺度下的第二融合特征图，其中，所述第二最小特征图为最小分辨率尺度对应的第二下采样特征图。
6.根据权利要求5所述的方法，其特征在于，所述对所述第一输出特征图进行逐级下采样，并在每一所述分辨率尺度下，利用对应分辨率尺度下的第一融合特征图进行残差相加，得到各分辨率尺度下的第二下采样特征图，包括：
循环执行以下步骤，直至循环次数大于预设的下采样次数：
对所述第一输出特征图和对应分辨率尺度下的第一融合特征图进行残差相加，得到第二输入特征图；
通过当前循环次数对应的下采样比例，对所述第二输入特征图进行下采样操作，得到所述当前循环次数对应的第二下采样特征图；
将所述第一输出特征图更新为所述当前循环次数对应的第二下采样特征图。
7.根据权利要求1-6任一项所述的方法，其特征在于，叠加所述第一输出特征图和第二输出特征图，生成所述目标图像对应的显著图，包括：
对所述第一输出特征图和第二输出特征图进行残差相加，生成所述目标图像对应的显著图。
8.根据权利要求1-6任一项所述的方法，其特征在于，所述第一融合特征图和/或所述第二融合特征图基于深度可分离卷积操作得到。
9.一种图像处理装置，其特征在于，包含第一U型网络和第二U型网络，所述第一U型网络包括依次设置的多个下采样层和多个上采样层，所述第二U型网络包括依次设置的多个下采样层和多个上采样层，所述第一U型网络和所述第二U型网络之间通过融合结构连接；
所述融合结构包括输出连接、第一残差连接和第二残差连接，其中，所述第一残差连接用于实现所述第一U型网络的下采样层和所述第二U型网络的上采样层之间的特征融合；所述第二残差连接用于实现所述第一U型网络的输出与所述第二U型网络的输出之间的特征融合，所述输出连接用于实现所述第一U型网络的输出与所述第二U型网络的输入之间的特征传递；
所述图像处理装置用于生成目标图像对应的显著图。
10.一种图像处理装置，其特征在于，包括：
第一提取模块，用于对目标图像进行多尺度特征提取，得到不同分辨率尺度下的第一融合特征图；
第二提取模块，用于对第一输出特征图进行多尺度特征提取，并在每一分辨率尺度下，基于对应分辨率尺度的第一融合特征图进行特征融合，得到不同分辨率尺度下的第二融合特征图，其中，所述第一输出特征图为最大分辨率尺度对应的第一融合特征图；
叠加模块，用于叠加所述第一输出特征图和第二输出特征图，生成所述目标图像对应的显著图，其中，所述第二输出特征图为最大分辨率尺度对应的第二融合特征图。
11.一种电子设备，其特征在于，包括：处理器，以及与所述处理器通信连接的存储器；
所述存储器存储计算机执行指令；
所述处理器执行所述存储器存储的计算机执行指令，以实现如权利要求1至8中任一项所述的图像处理方法。
12.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有计算机执行指令，当处理器执行所述计算机执行指令时，实现如权利要求1至8任一项所述的图像处理方法。
13.一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现权利要求1至8中任一项所述的图像处理方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210761355.7A CN117392489A (zh) | 2022-06-29 | 2022-06-29 | 图像处理方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210761355.7A CN117392489A (zh) | 2022-06-29 | 2022-06-29 | 图像处理方法、装置、设备及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN117392489A true CN117392489A (zh) | 2024-01-12 |
Family
ID=89436033
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210761355.7A Pending CN117392489A (zh) | 2022-06-29 | 2022-06-29 | 图像处理方法、装置、设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN117392489A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117745595A (zh) * | 2024-02-18 | 2024-03-22 | 珠海金山办公软件有限公司 | 图像处理方法、装置、电子设备及存储介质 |
| CN118521835A (zh) * | 2024-07-22 | 2024-08-20 | 广州亚信技术有限公司 | 一种细粒度图像分类方法及装置 |
-
2022
- 2022-06-29 CN CN202210761355.7A patent/CN117392489A/zh active Pending
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117745595A (zh) * | 2024-02-18 | 2024-03-22 | 珠海金山办公软件有限公司 | 图像处理方法、装置、电子设备及存储介质 |
| CN117745595B (zh) * | 2024-02-18 | 2024-06-25 | 珠海金山办公软件有限公司 | 图像处理方法、装置、电子设备及存储介质 |
| CN118521835A (zh) * | 2024-07-22 | 2024-08-20 | 广州亚信技术有限公司 | 一种细粒度图像分类方法及装置 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN117392489A (zh) | 图像处理方法、装置、设备及存储介质 | |
| CN112184738A (zh) | 一种图像分割方法、装置、设备及存储介质 | |
| CN110413812B (zh) | 神经网络模型的训练方法、装置、电子设备及存储介质 | |
| CN111325704B (zh) | 图像修复方法、装置、电子设备及计算机可读存储介质 | |
| CN110298851B (zh) | 人体分割神经网络的训练方法及设备 | |
| CN111368668B (zh) | 三维手部识别方法、装置、电子设备及存储介质 | |
| CN112330788A (zh) | 图像处理方法、装置、可读介质及电子设备 | |
| CN114898177B (zh) | 缺陷图像生成方法、模型训练方法、设备、介质及产品 | |
| CN114693876B (zh) | 数字人生成方法、装置、存储介质和电子设备 | |
| CN110310293B (zh) | 人体图像分割方法及设备 | |
| CN112418249A (zh) | 掩膜图像生成方法、装置、电子设备和计算机可读介质 | |
| CN114422698B (zh) | 视频生成方法、装置、设备及存储介质 | |
| CN114399814B (zh) | 一种基于深度学习的遮挡物移除和三维重建方法 | |
| CN114066722A (zh) | 用于获取图像的方法、装置和电子设备 | |
| CN112714263A (zh) | 视频生成方法、装置、设备及存储介质 | |
| CN113222144B (zh) | 图像修复模型的训练方法及图像修复方法、装置及设备 | |
| CN116433686A (zh) | 基于Transformer上下文信息融合的医学图像分割方法及相关设备 | |
| CN111696041B (zh) | 图像处理方法、装置及电子设备 | |
| CN115049537A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
| CN111340813B (zh) | 图像实例分割方法、装置、电子设备及存储介质 | |
| CN117392412A (zh) | 基于推理引擎的图像处理方法、装置、设备及存储介质 | |
| CN114283060B (zh) | 视频生成方法、装置、设备及存储介质 | |
| WO2024174923A1 (zh) | 图像处理方法、装置及电子设备 | |
| CN117095264A (zh) | 图像处理方法、用于图像处理的神经网络、设备及介质 | |
| CN115761248B (zh) | 图像处理方法、装置、设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |