CN112001861B - 图像处理方法和装置、计算机设备及存储介质 - Google Patents
图像处理方法和装置、计算机设备及存储介质 Download PDFInfo
- Publication number
- CN112001861B CN112001861B CN202010829243.1A CN202010829243A CN112001861B CN 112001861 B CN112001861 B CN 112001861B CN 202010829243 A CN202010829243 A CN 202010829243A CN 112001861 B CN112001861 B CN 112001861B
- Authority
- CN
- China
- Prior art keywords
- image
- feature
- low
- resolution image
- resolution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 20
- 238000012545 processing Methods 0.000 claims abstract description 38
- 238000005070 sampling Methods 0.000 claims description 31
- 238000000034 method Methods 0.000 claims description 29
- 239000011159 matrix material Substances 0.000 claims description 19
- 238000000605 extraction Methods 0.000 claims description 10
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 claims description 8
- 238000010586 diagram Methods 0.000 description 14
- 230000006854 communication Effects 0.000 description 6
- 238000004891 communication Methods 0.000 description 6
- 230000002708 enhancing effect Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 4
- 230000006978 adaptation Effects 0.000 description 2
- 230000002776 aggregation Effects 0.000 description 2
- 238000004220 aggregation Methods 0.000 description 2
- 230000007175 bidirectional communication Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000013508 migration Methods 0.000 description 2
- 230000005012 migration Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000011524 similarity measure Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
本发明实施例公开了一种图像处理方法、装置、计算机设备及存储介质，包括：获取待处理的低分辨率图像；根据低分辨率图像在预设的参考池中进行特征搜索得到参考特征图，其中，参考特征图是对参考池中的高清图像集进行特征提取得到的；按照参考特征图对低分辨率图像进行特征增强得到高分辨率图像。由于参考池中图像的多样化，参考特征图中包含了所有可能用到的局部特征，可以为每一张低分辨率图像提供高频纹理信息不仅保证了特征的丰富性，还可以减轻了内存负担。此外，根据低分辨率图像来搜索参考特征图，选择的参考特征图可以自适应的屏蔽或增强多种不同的特征，使低分辨率图像的细节更加丰富。
Description
技术领域
本发明实施例涉及计算机技术领域，尤其是一种图像处理方法、装置、计算机设备及存储介质。
背景技术
超分辨率(SR)是将现实中得到的低分辨率(LR)图像处理为高分辨率(HR)图像，其处理结果中应包含细节纹理来满足视觉感官需求。其中，SR作为一种提升图像质量的底层计算机视觉任务对多种高层次计算机视觉任务，包括图像检测与分类，视频传输，监控分析等方面都具有重大意义。
目前，超分辨率(RefSR)方法包括：SRNTT，CrossNet，其中，SRNTT作为RefSR的代表，将LR图像和一张HR参考图像同时输入到VGG-19神经网络中提取出三个尺度的特征图，然后为每个LR特征图中的局部区域寻找一个最相近的参考特征图中的局部区域加以替换。随后将这些寻找到的特征合成出的特征图加入到SR的过程中，以此来实现从参考图像到LR图像的特征迁移。其中相似度度量使用的是点积距离，并且使用卷积操作来高效完成特征点的寻找任务。该方法由于引入了参考图像的特征，在给定一张与LR相似的参考图像时会在相似区域重建出更加细腻的纹理效果。
但是，上述方法主要有两个缺陷：(1)对参考图像和LR图像之间的相关性施加了严格的限制，例如拥有相似内容，同质模式，相机视图和相对比例，这种约束在许多实际应用中是不切实际的，从而影响了图像的处理，得到的结果不理想。(2)上述方法在进行特征寻找与迁移时只考虑了最相近的一个特征点，无法自适应的从多种模式中提取并增强特征表征能力，使得在参考图像模式极度单一时出现明显的颜色偏差和伪影。
发明内容
本发明实施例提供一种图像处理方法、装置、计算机设备及存储介质。
为解决上述技术问题，本发明创造的实施例采用的一个技术方案是：提供一种图像处理方法，包括下述步骤：
获取待处理的低分辨率图像；
根据所述低分辨率图像在预设的参考池中进行特征搜索得到参考特征图，其中，所述参考特征图是对所述参考池中的高清图像集进行特征提取得到的；
按照所述参考特征图对所述低分辨率图像进行特征增强得到高分辨率图像。
可选地，所述根据所述低分辨率图像在预设的参考池中进行特征搜索得到参考特征图之前，包括：
对所述高清图像集中的多张高清图像进行采样得到采样图像集；
对所述高清图像集和采样图像集进行特征提取得到键特征集和索引特征集。
可选地，所述根据所述低分辨率图像在预设的参考池中进行特征搜索得到参考特征图，包括：
对所述低分辨率图像进行双线性上采样处理；
从采样处理后的低分辨率图像中提取多个特征点；
按照预设的索引矩阵在所述索引特征集中查找与每个特征点的相似度最高的多个参考特征，并从所述键特征集中提取所述多个参考特征的图像；
将所述多个参考特征的图像与预设的相似度矩阵中的相似性系数进行加权运算得到所述参考特征图。
可选地，所述按照所述参考特征图对所述低分辨率图像进行特征增强得到高分辨率图像，包括：
将所述低分辨图像输入到高分辨率网络隐藏层中输出所述低分辨率的待增强特征图；
将所述待增强特征图与所述参考特征图进行叠加并输入到多个共享权重的残差块中进行组合增强得到所述高分辨率图像。
可选地，所述方法还包括：
对所述索引特征集中的图像进行最远点采样。
为解决上述技术问题，本发明实施例还提供一种图像处理装置，包括：
获取模块，用于获取待处理的低分辨率图像；
处理模块，用于根据所述低分辨率图像在预设的参考池中进行特征搜索得到参考特征图，其中，所述参考特征图是对所述参考池中的高清图像集进行特征提取得到的；
执行模块，用于按照所述参考特征图对所述低分辨率图像进行特征增强得到高分辨率图像。
可选地，还包括：
第一获取子模块，用于对所述高清图像集中的多张高清图像进行采样得到采样图像集；
第一处理子模块，用于对所述高清图像集和采样图像集进行特征提取得到键特征集和索引特征集。
可选地，所述处理模块包括：
第二处理子模块，用于对所述低分辨率图像进行双线性上采样处理；
第二获取子模块，用于从采样处理后的低分辨率图像中提取多个特征点；
第三处理子模块，用于按照预设的索引矩阵在所述索引特征集中查找与每个特征点的相似度最高的多个参考特征，并从所述键特征集中提取所述多个参考特征的图像；
第一执行子模块，用于将所述多个参考特征的图像与预设的相似度矩阵中的相似性系数进行加权运算得到所述参考特征图。
可选地，所述执行模块包括：
第三获取子模块，用于将所述低分辨图像输入到高分辨率网络隐藏层中输出所述低分辨率的待增强特征图；
第二执行子模块，用于将所述待增强特征图与所述参考特征图进行叠加并输入到多个共享权重的残差块中进行组合增强得到所述高分辨率图像。
可选地，还包括：
第四获取子模块，用于对所述索引特征集中的图像进行最远点采样。
为解决上述技术问题，本发明实施例还提供一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述计算机可读指令被所述处理器执行时，使得所述处理器执行上述所述图像处理方法的步骤。
为解决上述技术问题，本发明实施例还提供一种存储有计算机可读指令的存储介质，所述计算机可读指令被一个或多个处理器执行时，使得一个或多个处理器执行上述所述图像处理方法的步骤。
本发明实施例的有益效果是：参考特征图是对参考池中的高清图像集进行特征提取得到的，由于高清图像集中图像的多样化，参考特征图中包含了所有可能用到的局部特征，可以为每一张低分辨率图像提供高频纹理信息不仅保证了特征的丰富性，还可以减轻了内存负担。此外，根据低分辨率图像来搜索参考特征图，选择的参考特征图可以自适应的屏蔽或增强多种不同的特征，使低分辨率图像的细节更加丰富。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种图像处理方法的基本流程示意图；
图2为本发明实施例提供的一种根构建键特征集和索引特征集的方法的基本流程示意图；
图3为本发明实施例提供的对参考池中的多张高清图像进行特征提取的示意图；
图4为本发明实施例提供的一种根据低分辨率图像在预设的参考池中进行特征搜索得到参考特征图的方法的流程示意图；
图5为本发明实施例提供的根据低分辨率图像在预设的参考池中进行特征搜索得到参考特征图的示意图；
图6为本发明实施例提供的按照参考特征图对低分辨率图像进行特征增强得到高分辨率图像的方法流程示意图；
图7为本发明实施例提供的按照参考特征图对低分辨率图像进行特征增强得到高分辨率图像的方法示意图；
图8为本发明实施例提供的图像处理装置基本结构框图；
图9为本发明实施例提供的计算机设备基本结构框图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述。
在本发明的说明书和权利要求书及上述附图中的描述的一些流程中，包含了按照特定顺序出现的多个操作，但是应该清楚了解，这些操作可以不按照其在本文中出现的顺序来执行或并行执行，操作的序号如101、102等，仅仅是用于区分开各个不同的操作，序号本身不代表任何的执行顺序。另外，这些流程可以包括更多或更少的操作，并且这些操作可以按顺序执行或并行执行。需要说明的是，本文中的“第一”、“第二”等描述，是用于区分不同的消息、设备、模块等，不代表先后顺序，也不限定“第一”和“第二”是不同的类型。
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
实施例
本技术领域技术人员可以理解，这里所使用的“终端”、“终端设备”既包括无线信号接收器的设备，其仅具备无发射能力的无线信号接收器的设备，又包括接收和发射硬件的设备，其具有能够在双向通信链路上，执行双向通信的接收和发射硬件的设备。这种设备可以包括：蜂窝或其他通信设备，其具有单线路显示器或多线路显示器或没有多线路显示器的蜂窝或其他通信设备；PCS(Personal Communications Service，个人通信系统)，其可以组合语音、数据处理、传真和/或数据通信能力；PDA(Personal Digital Assistant，个人数字助理)，其可以包括射频接收器、寻呼机、互联网/内联网访问、网络浏览器、记事本、日历和/或GPS(Global Positioning System，全球定位系统)接收器；常规膝上型和/或掌上型计算机或其他设备，其具有和/或包括射频接收器的常规膝上型和/或掌上型计算机或其他设备。这里所使用的“终端”、“终端设备”可以是便携式、可运输、安装在交通工具(航空、海运和/或陆地)中的，或者适合于和/或配置为在本地运行，和/或以分布形式，运行在地球和/或空间的任何其他位置运行。这里所使用的“终端”、“终端设备”还可以是通信终端、上网终端、音乐/视频播放终端，例如可以是PDA、MID(Mobile Internet Device，移动互联网设备)和/或具有音乐/视频播放功能的移动电话，也可以是智能电视、机顶盒等设备。
如图1所示，图1为本发明实施例提供的一种图像处理方法的基本流程示意图，其特征在于，包括下述步骤：
S101、获取待处理的低分辨率图像；
低分辨率图像一般为低清图像，本实施例中，低分辨率图像不以分辨率大小作为限定，可以为需要进行高分辨率重建的图像。通过接收终端或服务器发送的或者调用本地存储的低清图像来进行获取。
S102、根据低分辨率图像在预设的参考池中进行特征搜索得到参考特征图，其中，参考特征图是对参考池中的高清图像集进行特征提取得到的；
参考池是预先构造的，可以对低分辨率图像进行特征增强达到高分辨率。其中，参考池中包括：对多张高清图像进行体征提取得到的键特征集以及对多张高清图像进行上下采样后提取特征得到的索引特征集。本发明实施例中，键特征集用于进行特征聚合和增强，索引特征集用于做特征搜索，即在索引特征集中搜索与低分辨率图像中多个特征点相似的特征，以形成参考特征图。
一个实施例中，参考特征图需要将查询到的多个相似的特征进行融合，即按照相似度进行加权运算。
S103、按照参考特征图对低分辨率图像进行特征增强得到高分辨率图像。
在进行特征增强时利用将低分辨率图像的特征图与参考特征图进行叠加并输入到多个共享权重的残差块中进行组合。
本发明实施例中，参考特征图是对参考池中的高清图像集进行特征提取得到的，由于参考池中图像的多样化，参考特征图中包含了所有可能用到的局部特征，可以为每一张低分辨率图像提供高频纹理信息不仅保证了特征的丰富性，还可以减轻了内存负担。此外，根据低分辨率图像来搜索参考特征图，选择的参考特征图可以自适应的屏蔽或增强多种不同的特征，使低分辨率图像的细节更加丰富。
如图2所示，图2为本发明实施例提供的一种根构建键特征集和索引特征集的方法的基本流程示意图。具体地，上述方法包括以下步骤：
S110、对高清图像集中的多张高清图像进行采样得到采样图像集；
S120、对高清图像集和采样图像集进行特征提取得到键特征集和索引特征集。
请参阅图3，图3为对参考池中的多张高清图像进行特征提取的示意图。
如图3(a)所示，参考池中选取M张高清图像构成高清图像集IRef，对高清图像集IRef中的高清图像进行下采样后上采样，得到采样图像集IRef↓↑，其中，采样图像集IRef↓↑与高清图像集IRef具有相同的大小和频域信号。
将高清图像集IRef与采样图像集IRef↓↑经过特征提取器F提取特征得到了特征空间中的两组特征点集，即键特征集Fk和索引特征集Fq，具体运算公式如下所示：
其中，每个Fq中的特征点对应着上采样参考图像在Conv3-2层的特征图上的一个3x3区域，用于做特征搜索。Fk具有高清参考图像提取的特征，用来做特征聚合以及增强。Fq构成的特征搜索空间和索引特征集Fk中的特征具有一一对应关系。
在实际应用中，由于最开始生成的索引特征集Fk会存在局部冗余的情况，如图3(b)所示的大部分点都属于天空或草地等没有很强纹理的特征点，为了解决这个问题，可以在特征空间，即索引特征集中进行均匀采样，以更好的覆盖整个特征点集，本实施例中，可以采用最远点采样(FPS)的方法来进行特征采样，即在每次更迭中，最远点采样从索引特征集Fk中选择一个新的特征点，并选择与所有采样特征点之间距离最远的特征点，如此可以在特征空间中实现近似均匀的采样，更好的覆盖整个特征点集。经过上述最远点采样后得到新的索引特征集作为索引特征集。
如图4所示，图4为本发明实施例提供的一种根据低分辨率图像在预设的参考池中进行特征搜索得到参考特征图的方法的流程示意图，上述方法包括下述步骤：
S112、对低分辨率图像进行双线性上采样处理；
S122、从采样处理后的低分辨率图像中提取多个特征点；
如图5所示，图5为根据低分辨率图像在预设的参考池中进行特征搜索得到参考特征图的示意图。
如图5所示，对低分辨率图像LR图像进行双线性上采样处理得到ILR↑，利用特征提取器对ILR↑进行特征提取形状为Nl×Dq，其中F中的每个特征点代表着LR图像中的3×3区块。
S132、按照预设的索引矩阵在索引特征集中查找与每个特征点的相似度最高的多个参考特征，并从键特征集中提取多个参考特征的图像；
每个特征点fi∈F，在索引特征集中找到K个最相似的特征，并将他们的索引存为索引矩阵N(F)，其中索引矩阵中每一行代表一个索引向量/>索引矩阵N(F)包括采样特征集Fk和索引特征集/>之间的映射关系。
通过索引矩阵N(F)在采样特征集Fk提取最相似的K个特征点，组成了K个参考特征图将上述每个参考特征图和低分辨率图像的特征之间的相似度关系保存在相似度矩阵SA中。其中第i矩阵记录着第k个参考特征和LR特征之间的归一化内积。在实际应用中，相似度可以利用图像处理软件计算出。
S142、将多个参考特征的图像与预设的相似度矩阵中的相似性系数进行加权运算得到参考特征图。
将多个参考特征图与相似度矩阵中相似度系数相乘来生成最终参考特征图，以上过程用公式可表示为：
如图6所示，图6为按照参考特征图对低分辨率图像进行特征增强得到高分辨率图像的方法流程示意图，该方法包括下述步骤：
S113、将低分辨图像输入到高分辨率网络隐藏层中输出低分辨率的待增强特征图；
S123、将待增强特征图与参考特征图进行叠加并输入到多个共享权重的残差块中进行组合增强得到高分辨率图像。
如图7所示，图7为按照参考特征图对低分辨率图像进行特征增强得到高分辨率图像的方法示意图。
其中，FH为低分辨率图像LR经过任意的高分辨率网络(SRNet)的隐藏层输出的特征图，为上述步骤得到的K个参考特征图，在实施例中，将FH与/>叠加并输入到K个共享权重的残差块中来将K个参考特征图进行组合，即使用最大池化操作将K个特征图融合为一个用于增强原始的低分辨率图像的增强特征图，即高分辨率图像。
本实施例仅示出了一个尺度的例子，在实际应用中，还可以在多个尺度中进行使用，例如可以在4x超分辨率任务中在三个不同的尺度中使用。
本发明实施例还提供一种图像处理装置。具体请参阅图8，图8为本实施例图像处理装置基本结构框图。
如图8所示，一种图像处理装置，包括：获取模块2100、处理模块2200和执行模块2300。其中，获取模块2100，用于获取待处理的低分辨率图像；处理模块2200，用于根据所述低分辨率图像在预设的参考池中进行特征搜索得到参考特征图，其中，所述参考特征图是对所述参考池中的高清图像集进行特征提取得到的；执行模块2300，用于按照所述参考特征图对所述低分辨率图像进行特征增强得到高分辨率图像。
本发明实施例提供的一种图像处理装置，其中的参考特征图是对参考池中的高清图像集进行特征提取得到的，由于参考池中图像的多样化，参考特征图中包含了所有可能用到的局部特征，可以为每一张低分辨率图像提供高频纹理信息不仅保证了特征的丰富性，还可以减轻了内存负担。此外，根据低分辨率图像来搜索参考特征图，选择的参考特征图可以自适应的屏蔽或增强多种不同的特征，使低分辨率图像的细节更加丰富。
在一些实施方式中，还包括：第一获取子模块，用于对所述高清图像集中的多张高清图像进行采样得到采样图像集；第一处理子模块，用于对所述高清图像集和采样图像集进行特征提取得到键特征集和索引特征集。
在一些实施方式中，所述处理模块包括：第二处理子模块，用于对所述低分辨率图像进行双线性上采样处理；第二获取子模块，用于从采样处理后的低分辨率图像中提取多个特征点；第三处理子模块，用于按照预设的索引矩阵在所述索引特征集中查找与每个特征点的相似度最高的多个参考特征，并从所述键特征集中提取所述多个参考特征的图像；第一执行子模块，用于将所述多个参考特征的图像与预设的相似度矩阵中的相似性系数进行加权运算得到所述参考特征图。
在一些实施方式中，所述执行模块包括：第三获取子模块，用于将所述低分辨图像输入到高分辨率网络隐藏层中输出所述低分辨率的待增强特征图；第二执行子模块，用于将所述待增强特征图与所述参考特征图进行叠加并输入到多个共享权重的残差块中进行组合增强得到所述高分辨率图像。
在一些实施方式中，还包括：第四获取子模块，用于对所述索引特征集中的图像进行最远点采样。
为解决上述技术问题，本发明实施例还提供计算机设备。具体请参阅图9，图9为本实施例计算机设备基本结构框图。
如图9所示，计算机设备的内部结构示意图。如图9所示，该计算机设备包括通过系统总线连接的处理器、非易失性存储介质、存储器和网络接口。其中，该计算机设备的非易失性存储介质存储有操作系统、数据库和计算机可读指令，数据库中可存储有控件信息序列，该计算机可读指令被处理器执行时，可使得处理器实现一种图像处理方法。该计算机设备的处理器用于提供计算和控制能力，支撑整个计算机设备的运行。该计算机设备的存储器中可存储有计算机可读指令，该计算机可读指令被处理器执行时，可使得处理器执行一种图像处理方法。该计算机设备的网络接口用于与终端连接通信。本领域技术人员可以理解，图9中示出的结构，仅仅是与本申请方案相关的部分结构的框图，并不构成对本申请方案所应用于其上的计算机设备的限定，具体的计算机设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
本实施方式中处理器用于执行图8中获取模块2100、处理模块2200和执行模块2300的具体内容，存储器存储有执行上述模块所需的程序代码和各类数据。网络接口用于向用户终端或服务器之间的数据传输。本实施方式中的存储器存储有图像处理方法中执行所有子模块所需的程序代码及数据，服务器能够调用服务器的程序代码及数据执行所有子模块的功能。
本发明实施例提供的计算机设备，其中的参考特征图是对参考池中的高清图像集进行特征提取得到的，由于参考池中图像的多样化，参考特征图中包含了所有可能用到的局部特征，可以为每一张低分辨率图像提供高频纹理信息不仅保证了特征的丰富性，还可以减轻了内存负担。此外，根据低分辨率图像来搜索参考特征图，选择的参考特征图可以自适应的屏蔽或增强多种不同的特征，使低分辨率图像的细节更加丰富。
本发明还提供一种存储有计算机可读指令的存储介质，所述计算机可读指令被一个或多个处理器执行时，使得一个或多个处理器执行上述任一实施例所述图像处理方法的步骤。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，该计算机程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)等非易失性存储介质，或随机存储记忆体(Random Access Memory，RAM)等。
应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
以上所述仅是本发明的部分实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。
Claims (9)
1.一种图像处理方法，其特征在于，包括下述步骤：
获取待处理的低分辨率图像；
根据所述低分辨率图像在预设的参考池中进行特征搜索得到参考特征图，其中，所述参考特征图是对所述参考池中的高清图像集进行特征提取得到的；
按照所述参考特征图对所述低分辨率图像进行特征增强得到高分辨率图像；
其中，所述按照所述参考特征图对所述低分辨率图像进行特征增强得到高分辨率图像，包括：
将所述低分辨率图像输入到高分辨率网络隐藏层中输出所述低分辨率的待增强特征图；
将所述待增强特征图与所述参考特征图进行叠加并输入到多个共享权重的残差块中进行组合增强得到所述高分辨率图像。
2.根据权利要求1所述的图像处理方法，其特征在于，所述根据所述低分辨率图像在预设的参考池中进行特征搜索得到参考特征图之前，包括：
对所述高清图像集中的多张高清图像进行采样得到采样图像集；
对所述高清图像集和采样图像集进行特征提取得到键特征集和索引特征集。
3.根据权利要求2所述的图像处理方法，其特征在于，所述根据所述低分辨率图像在预设的参考池中进行特征搜索得到参考特征图，包括：
对所述低分辨率图像进行双线性上采样处理；
从采样处理后的低分辨率图像中提取多个特征点；
按照预设的索引矩阵在所述索引特征集中查找与每个特征点的相似度最高的多个参考特征，并从所述键特征集中提取所述多个参考特征的图像；
将所述多个参考特征的图像与预设的相似度矩阵中的相似性系数进行加权运算得到所述参考特征图。
4.根据权利要求3所述的图像处理方法，其特征在于，所述方法还包括：
对所述索引特征集中的图像进行最远点采样。
5.一种图像处理装置，其特征在于，包括：
获取模块，用于获取待处理的低分辨率图像；
处理模块，用于根据所述低分辨率图像在预设的参考池中进行特征搜索得到参考特征图，其中，所述参考特征图是对所述参考池中的高清图像集进行特征提取得到的；
执行模块，用于按照所述参考特征图对所述低分辨率图像进行特征增强得到高分辨率图像；
其中，第三获取子模块，用于将所述低分辨率图像输入到高分辨率网络隐藏层中输出所述低分辨率的待增强特征图；
第二执行子模块，用于将所述待增强特征图与所述参考特征图进行叠加并输入到多个共享权重的残差块中进行组合增强得到所述高分辨率图像。
6.根据权利要求5所述的图像处理装置，其特征在于，还包括：
第一获取子模块，用于对所述高清图像集中的多张高清图像进行采样得到采样图像集；
第一处理子模块，用于对所述高清图像集和采样图像集进行特征提取得到键特征集和索引特征集。
7.根据权利要求6所述的图像处理装置，其特征在于，所述处理模块包括：
第二处理子模块，用于对所述低分辨率图像进行双线性上采样处理；
第二获取子模块，用于从采样处理后的低分辨率图像中提取多个特征点；
第三处理子模块，用于按照预设的索引矩阵在所述索引特征集中查找与每个特征点的相似度最高的多个参考特征，并从所述键特征集中提取所述多个参考特征的图像；
第一执行子模块，用于将所述多个参考特征的图像与预设的相似度矩阵中的相似性系数进行加权运算得到所述参考特征图。
8.一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述计算机可读指令被所述处理器执行时，使得所述处理器执行如权利要求1至4中任一项权利要求所述图像处理方法的步骤。
9.一种存储有计算机可读指令的存储介质，所述计算机可读指令被一个或多个处理器执行时，使得一个或多个处理器执行如权利要求1至4中任一项权利要求所述图像处理方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010829243.1A CN112001861B (zh) | 2020-08-18 | 2020-08-18 | 图像处理方法和装置、计算机设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010829243.1A CN112001861B (zh) | 2020-08-18 | 2020-08-18 | 图像处理方法和装置、计算机设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112001861A CN112001861A (zh) | 2020-11-27 |
| CN112001861B true CN112001861B (zh) | 2024-04-02 |
Family
ID=73473259
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010829243.1A Active CN112001861B (zh) | 2020-08-18 | 2020-08-18 | 图像处理方法和装置、计算机设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112001861B (zh) |
Families Citing this family (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112801908B (zh) * | 2021-02-05 | 2022-04-22 | 深圳技术大学 | 图像去噪方法、装置、计算机设备和存储介质 |
| CN112801875B (zh) * | 2021-02-05 | 2022-04-22 | 深圳技术大学 | 超分辨率重建方法、装置、计算机设备和存储介质 |
| CN115002333B (zh) * | 2021-03-02 | 2023-09-26 | 华为技术有限公司 | 一种图像处理方法及相关装置 |
| CN113724276B (zh) * | 2021-08-04 | 2024-05-28 | 香港中文大学（深圳） | 一种息肉图像的分割方法和装置 |
| CN114781601B (zh) * | 2022-04-06 | 2022-12-23 | 北京科技大学 | 图像超分辨率方法及装置 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102946522A (zh) * | 2012-10-22 | 2013-02-27 | 华为技术有限公司 | 基于非局部均值的超分辨率方法和设备 |
| CN104252703A (zh) * | 2014-09-04 | 2014-12-31 | 吉林大学 | 基于小波预处理和稀疏表示的卫星遥感图像超分辨率重构方法 |
| CN109313795A (zh) * | 2016-04-11 | 2019-02-05 | 商汤集团有限公司 | 用于超分辨率处理的方法和设备 |
| CN109949226A (zh) * | 2019-03-11 | 2019-06-28 | 厦门美图之家科技有限公司 | 一种图像处理方法及计算设备 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101498206B1 (ko) * | 2008-09-30 | 2015-03-06 | 삼성전자주식회사 | 고해상도 영상 획득 장치 및 그 방법 |
-
2020
- 2020-08-18 CN CN202010829243.1A patent/CN112001861B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102946522A (zh) * | 2012-10-22 | 2013-02-27 | 华为技术有限公司 | 基于非局部均值的超分辨率方法和设备 |
| CN104252703A (zh) * | 2014-09-04 | 2014-12-31 | 吉林大学 | 基于小波预处理和稀疏表示的卫星遥感图像超分辨率重构方法 |
| CN109313795A (zh) * | 2016-04-11 | 2019-02-05 | 商汤集团有限公司 | 用于超分辨率处理的方法和设备 |
| CN109949226A (zh) * | 2019-03-11 | 2019-06-28 | 厦门美图之家科技有限公司 | 一种图像处理方法及计算设备 |
Non-Patent Citations (2)
| Title |
|---|
| H. Balakrishnan ; MIT LCS ; S. Seshan ; CMU ; .The Congestion Manager.IETF rfc3124.2001,全文. * |
| 基于深度学习和注意力机制的图像超分辨率重建方法研究;李薿;中国优秀硕士学位论文全文数据库;全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112001861A (zh) | 2020-11-27 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112001861B (zh) | 图像处理方法和装置、计算机设备及存储介质 | |
| CN111369440B (zh) | 模型训练、图像超分辨处理方法、装置、终端及存储介质 | |
| Xie et al. | Hyperspectral image super-resolution using deep feature matrix factorization | |
| CN111666994A (zh) | 样本图像数据增强方法、装置、电子设备及存储介质 | |
| CN113284051B (zh) | 一种基于频率分解多注意力机制的人脸超分辨方法 | |
| US20200410643A1 (en) | Image generation using subscaling and depth up-scaling | |
| CN113674146A (zh) | 图像超分辨率 | |
| Pan et al. | Towards bidirectional arbitrary image rescaling: Joint optimization and cycle idempotence | |
| CN114298900A (zh) | 图像超分方法和电子设备 | |
| CN108921801B (zh) | 用于生成图像的方法和装置 | |
| Qu et al. | MSSL: Hyperspectral and panchromatic images fusion via multiresolution spatial–spectral feature learning networks | |
| CN115272082A (zh) | 模型训练、视频质量提升方法、装置和计算机设备 | |
| CN115713462A (zh) | 超分辨模型训练方法、图像识别方法、装置及设备 | |
| CN113066089A (zh) | 一种基于注意力引导机制的实时图像语义分割网络 | |
| Jiang et al. | U-shaped attention connection network for remote-sensing image super-resolution | |
| CN115082322A (zh) | 图像处理方法和装置、图像重建模型的训练方法和装置 | |
| CN113724151B (zh) | 一种图像增强方法、电子设备和计算机可读存储介质 | |
| Zhang et al. | Removing cloud cover interference from Sentinel-2 imagery in Google Earth Engine by fusing Sentinel-1 SAR data with a CNN model | |
| CN114494022A (zh) | 模型训练方法、超分辨率重建方法、装置、设备及介质 | |
| CN113837980A (zh) | 分辨率的调整方法、装置、电子设备及存储介质 | |
| WO2022036556A1 (zh) | 图像处理方法和装置、计算机设备及存储介质 | |
| Liu et al. | Gradient prior dilated convolution network for remote sensing image super-resolution | |
| CN115713585A (zh) | 纹理图像重建方法、装置、计算机设备和存储介质 | |
| Shen et al. | ASDN: A deep convolutional network for arbitrary scale image super-resolution | |
| Jeong et al. | Fast Super‐Resolution Algorithm Based on Dictionary Size Reduction Using k‐Means Clustering |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |