CN114648468A - 图像处理方法、装置、终端设备及计算机可读存储介质 - Google Patents
图像处理方法、装置、终端设备及计算机可读存储介质 Download PDFInfo
- Publication number
- CN114648468A CN114648468A CN202210538089.1A CN202210538089A CN114648468A CN 114648468 A CN114648468 A CN 114648468A CN 202210538089 A CN202210538089 A CN 202210538089A CN 114648468 A CN114648468 A CN 114648468A
- Authority
- CN
- China
- Prior art keywords
- residual
- image
- information
- convolution
- processed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 65
- 238000003672 processing method Methods 0.000 title claims abstract description 34
- 238000000605 extraction Methods 0.000 claims abstract description 153
- 238000005070 sampling Methods 0.000 claims abstract description 20
- 238000004590 computer program Methods 0.000 claims description 21
- 238000010586 diagram Methods 0.000 claims description 17
- 230000006835 compression Effects 0.000 claims description 16
- 238000007906 compression Methods 0.000 claims description 16
- 230000017105 transposition Effects 0.000 claims description 9
- XXJWXESWEXIICW-UHFFFAOYSA-N diethylene glycol monoethyl ether Chemical compound CCOCCOCCO XXJWXESWEXIICW-UHFFFAOYSA-N 0.000 claims 1
- 238000012544 monitoring process Methods 0.000 abstract description 19
- 238000000034 method Methods 0.000 description 17
- 238000003384 imaging method Methods 0.000 description 16
- 230000008569 process Effects 0.000 description 11
- 230000006870 function Effects 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 230000007246 mechanism Effects 0.000 description 3
- 210000001525 retina Anatomy 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 239000011664 nicotinic acid Substances 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 239000000969 carrier Substances 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000003061 neural cell Anatomy 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 235000001968 nicotinic acid Nutrition 0.000 description 1
- 230000035479 physiological effects, processes and functions Effects 0.000 description 1
- 230000002207 retinal effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
- G06T5/94—Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
- G06T3/4076—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution using the original low-resolution images to iteratively correct the high-resolution images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本申请适用于智能监控技术领域，提供了一种图像处理方法、装置、终端设备及计算机可读存储介质，其中，图像处理方法包括：对待处理图像进行上采样操作，得到待处理图像的上采样图像；通过预设的残差网络对待处理图像的特征图进行处理，得到待处理图像的残差图像；残差网络包括n个局部残差提取块，n个局部残差提取块之间采用稠密连接方式相连；通过预设的残差增强网络对特征图进行处理，得到待处理图像的残差增强细节图像；残差增强网络包括n个卷积块，n个卷积块之间采用稠密连接方式连接；根据上采样图像、残差图像及残差增强细节图像，得到待处理图像的目标图像；目标图像的分辨率高于待处理图像的分辨率，从而提高了待处理图像的分辨率。
Description
技术领域
本申请属于智能监控技术领域，尤其涉及一种图像处理方法、装置、终端设备及计算机可读存储介质。
背景技术
智能监控系统是指以监控摄像头和互联网服务为主要载体，通过将计算机成像理论与以深度学习为代表的人工智能技术相结合，来实现对各种场景的智能化监控的系统。目前，智能监控系统在城市道路交通和公共区域管理等应用场景中得到了广泛应用，为社会安全和城市发展等提供了基础性保障。
智能监控系统的成像过程容易受到诸多因素的干扰，导致智能监控系统的成像质量较低。具体而言，智能监控系统中的成像设备或图像传感器的固定分辨率是决定图像输出分辨率的重要因素，然而，在现实世界中，物体发出或反射的光线经过成像光学系统的传输投射到传感器表面时，往往存在采样率不足、光圈衍射所造成的光学模糊、快门速度有限所造成的运动模糊以及感光噪声干扰等问题，导致图像的分辨率较低，为后续的图像识别增加了难度。
发明内容
有鉴于此，本申请实施例提供了一种图像处理方法、装置、终端设备及计算机可读存储介质，以解决现有的智能监控系统拍摄到的图像的分辨率较低的技术问题。
第一方面，本申请实施例提供一种图像处理方法，包括：
对待处理图像进行上采样操作，得到所述待处理图像的上采样图像；
对待处理图像进行上采样操作，得到所述待处理图像的上采样图像；
通过预设的残差网络对所述待处理图像的特征图进行处理，得到所述待处理图像的残差图像；所述残差网络包括n个局部残差提取块，所述n个局部残差提取块之间采用稠密连接方式相连，n为大于1的整数；
通过预设的残差增强网络对所述特征图和来自所述残差网络的残差信息进行处理，得到所述待处理图像的残差增强细节图像；所述残差增强网络包括n个卷积块，所述n个卷积块之间采用稠密连接方式连接，且第i个所述卷积块与第i-1个所述局部残差提取块之间采用稠密连接方式连接，1<i≤n；
根据所述上采样图像、所述残差图像及所述残差增强细节图像，得到所述待处理图像的目标图像；所述目标图像的分辨率高于所述待处理图像的分辨率。
在第一方面的一种可选的实现方式中，所述对待处理图像进行上采样操作，得到所述待处理图像的上采样图像，包括：
对所述待处理图像进行双三次上采样操作，得到所述上采样图像。
在第一方面的一种可选的实现方式中，所述残差网络还包括第一转置卷积层，所述第一转置卷积层连接在第n个所述局部残差提取块之后；所述通过预设的残差网络对所述待处理图像的特征图进行处理，得到所述待处理图像的残差图像，包括：
通过第1个所述局部残差提取块从所述特征图中提取第一残差信息并输出；
通过第2至第n个所述局部残差提取块从所述特征图中提取第一残差信息，并从来自前序的所有局部残差提取块的残差信息中提取第二残差信息，以及将所述第一残差信息与所述第二残差信息进行融合后输出；
通过所述第一转置卷积层对来自第n个所述局部残差提取块的残差信息进行转置卷积操作，得到所述待处理图像的残差图像。
在第一方面的一种可选的实现方式中，所述局部残差提取块包括依次连接的浅层残差提取单元、第一残差去噪单元、深层残差提取单元、第二残差去噪单元及卷积压缩单元；所述通过第1个所述局部残差提取块从所述特征图中提取第一残差信息并输出，包括：
针对第1个所述局部残差提取块，通过所述浅层残差提取单元从所述特征图中提取第一残差信息；
通过所述第一残差去噪单元对所述第一残差信息进行去噪处理；
通过所述深层残差提取单元从所述第一残差信息中提取深层残差信息；
通过所述第二残差去噪单元对所述深层残差信息进行去噪处理；
通过所述卷积压缩单元对去噪处理后的所述深层残差信息进行卷积处理，并输出卷积处理后的所述深层残差信息。
在第一方面的一种可选的实现方式中，所述局部残差提取块包括依次连接的浅层残差提取单元、第一残差去噪单元、深层残差提取单元、第二残差去噪单元及卷积压缩单元；所述通过第2至第n个所述局部残差提取块从所述特征图中提取第一残差信息，并从来自前序的所有局部残差提取块的残差信息中提取第二残差信息，以及将所述第一残差信息与所述第二残差信息进行融合后输出，包括：
针对第2至第n个所述局部残差提取块，通过所述浅层残差提取单元从所述特征图中提取第一残差信息；
通过所述第一残差去噪单元对所述第一残差信息进行去噪处理；
通过所述深层残差提取单元分别从所述第一残差信息和目标残差信息中提取深层残差信息；所述目标残差信息包括来自前序的所有局部残差提取块的残差信息；
通过所述第二残差去噪单元对所述深层残差信息进行去噪处理；
通过所述卷积压缩单元对去噪处理后的所述深层残差信息进行卷积处理，并输出卷积处理后的所述深层残差信息。
在第一方面的一种可选的实现方式中，所述残差增强网络还包括第二转置卷积层，所述第二转置卷积层连接在第n个所述卷积块之后；所述通过预设的残差增强网络对所述特征图和来自所述残差网络的残差信息进行处理，得到所述待处理图像的残差增强细节图像，包括：
通过第1个所述卷积块对所述特征图进行卷积操作，得到第一特征信息，并输出所述第一特征信息；
通过第2至第n个所述卷积块对所述特征图进行卷积操作，得到第一特征信息，并对来自前序的所有卷积块的特征信息进行卷积操作，得到第二特征信息，以及对来自局部残差提取块的残差信息进行卷积操作，得到第三特征信息，并输出所述第一特征信息、所述第二特征信息及所述第三特征信息；
通过所述第二转置卷积层对来自第n个所述卷积块的所述第一特征信息、所述第二特征信息及所述第三特征信息进行转置卷积操作，得到所述残差增强细节图像。
在第一方面的一种可选的实现方式中，所述卷积块包括第一卷积层、第二卷积层及第三卷积层；所述通过第1个所述卷积块对所述特征图进行卷积操作，得到第一特征信息，并输出所述第一特征信息，包括：
针对第1个所述卷积块，分别通过所述第一卷积层、所述第二卷积层及所述第三卷积层对所述特征图进行卷积操作，得到第一特征信息，并输出所述第一特征信息；
所述通过第2至第n个所述卷积块对所述特征图进行卷积操作，得到第一特征信息，并对来自前序的所有卷积块的特征信息进行卷积操作，得到第二特征信息，以及对来自局部残差提取块的残差信息进行卷积操作，得到第三特征信息，包括：
针对第2至第n个所述卷积块，通过所述第一卷积层对所述特征图进行卷积操作，得到第一特征信息；
通过所述第二卷积层对来自前序的所有卷积块的特征信息进行卷积操作，得到第二特征信息；
通过所述第三卷积层对来自局部残差提取块的残差信息进行卷积操作，得到第三特征信息。
第二方面，本申请实施例提供一种图像处理装置，包括：
上采样单元，用于对待处理图像进行上采样操作，得到所述待处理图像的上采样图像；
第一残差提取单元，用于通过预设的残差网络对所述待处理图像的特征图进行处理，得到所述待处理图像的残差图像；所述残差网络包括n个局部残差提取块，所述n个局部残差提取块之间采用稠密连接方式相连，n为大于1的整数；
第二残差提取单元，用于通过预设的残差增强网络对所述特征图和来自所述残差网络的残差信息进行处理，得到所述待处理图像的残差增强细节图像；所述残差增强网络包括n个卷积块，所述n个卷积块之间采用稠密连接方式连接，且第i个所述卷积块与第i-1个所述局部残差提取块之间采用稠密连接方式连接，1<i≤n；
图像处理单元，用于根据所述上采样图像、所述残差图像及所述残差增强细节图像，得到所述待处理图像的目标图像；所述目标图像的分辨率高于所述待处理图像的分辨率。
第三方面，本申请实施例提供一种终端设备，所述终端设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如上述第一方面或第一方面的任一可选方式所述的图像处理方法。
第四方面，本申请实施例提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如上述第一方面或第一方面的任一可选方式所述的图像处理方法。
第五方面，本申请实施例提供一种计算机程序产品，当计算机程序产品在终端设备上运行时，使得终端设备执行如上述第一方面或第一方面的任一可选方式所述的图像处理方法。
实施本申请实施例提供的图像处理方法、装置、终端设备、计算机可读存储介质及计算机程序产品具有以下有益效果：
本申请实施例提供的图像处理方法，通过对待处理图像进行上采样操作，得到待处理图像的上采样图像；通过预设的残差网络对待处理图像的特征图进行处理，得到待处理图像的残差图像；由于残差网络包括n个局部残差提取块，且n个局部残差提取块之间采用稠密连接方式相连，因此可以实现网络中信息流量的增加，从而使得各个阶段的残差信息得以充分提取和利用，保证在局部深层信息被充分提取的同时，局部浅层信息不会随着信息的流动而逐渐弱化；同时，由于残差信息在残差网络中的各个局部残差提取块之间流动时可能过会存在信息溢出的情况，因此通过设置残差增强网络，通过残差增强网络对特征图进行处理，得到待处理图像的残差增强细节图像，从而可以对残差网络溢出的有用信息进行回收，实现对残差图像细节的修补及增强，如此可以使得根据上采样图像、残差图像及残差增强细节图像得到的目标图像的分辨率高于待处理图像的分辨率，从而提高了待处理图像的分辨率。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种图像处理方法的示意性流程图；
图2为本申请实施例提供的一种待处理图像的处理流程示意图；
图3为本申请实施例提供的一种图像处理方法中S12中步骤1的具体实现流程图；
图4为本申请实施例提供的一种图像处理方法中S12中步骤2的具体实现流程图；
图5为本申请实施例提供的一种图像处理装置的结构示意图；
图6为本申请实施例提供的一种终端设备的结构示意图。
具体实施方式
需要说明的是，本申请实施例使用的术语仅用于对本申请的具体实施例进行解释，而非旨在限定本申请。在本申请实施例的描述中，除非另有说明，“多个”是指两个或多于两个，“至少一个”、“一个或多个”是指一个、两个或两个以上。术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”特征可以明示或者隐含地包括一个或者更多个该特征。
在本说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此，在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例，而是意味着“一个或多个但不是所有的实施例”，除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”，除非是以其他方式另外特别强调。
智能监控系统的成像过程容易受到诸多因素的干扰，导致智能监控系统的成像质量较低。具体而言，智能监控系统中的成像设备或图像传感器的固定分辨率是决定图像输出分辨率的重要因素，然而，在现实世界中，物体发出或反射的光线经过成像光学系统的传输投射到传感器表面时，往往存在采样率不足、光圈衍射所造成的光学模糊、快门速度有限所造成的运动模糊以及感光噪声干扰等问题，导致图像的分辨率较低，为后续的图像识别增加了难度。
而智能监控系统对成像场景中信息的捕捉，实际上可以看作是视觉信息进入生物视网膜成像的过程。根据视觉生理学结构可知，视网膜成像过程一方面与视细胞、双极细胞和神经细胞相关，另一方面与神经感受野的尺寸相关。视觉仿生学中的视网膜变分辨成像机理，可以为智能监控系统中的高清晰度成像提供生物学意义上的支持。因此，本申请实施例提供一种图像处理方法，该图像处理方法基于仿生视觉理论，利用视网膜变分辨成像机理，结合多尺度稠密深度残差网络的思想，能够得到智能监控系统所拍图像的高分辨率图像，从而提高了智能监控系统所拍图像的分辨率，提升了智能监控系统的成像质量。
本申请实施例提供的一种图像处理方法，执行主体为终端设备，包括但不限于计算机终端或者移动通信终端，如个人电脑、手机或平板电脑等。在具体应用中，可以通过对终端设备配置目标脚本文件，由该目标脚本文件描述本申请实施例提供的图像处理方法，令终端设备在需要对图像进行去雾时执行该目标脚本文件，进而执行本申请实施例提供的图像处理方法中的各个步骤。
请参阅图1，为本申请实施例提供的一种图像处理方法的示意性流程图。如图1所示，该图像处理方法可以包括S11~S14，详述如下：
S11：对待处理图像进行上采样操作，得到所述待处理图像的上采样图像。
本申请实施例中，待处理图像可以是分辨率低于预设分辨率阈值的图像。预设分辨率阈值可以根据图像识别过程对图像分辨率的要求确定，此处对其不做特别限定。示例性的，待处理图像可以是摄像装置（如，智能监控系统的摄像头）拍摄到的图像，也可以是从网络下载的图像等。
本申请实施例中，终端设备对待处理图像进行上采样操作的目的是为了对待处理图像的局部区域进行放大，以提高待处理图像的分辨率。在一种可能的实现方式中，终端设备可以采用线性差值、转置卷积或解池化的方式对待处理图像进行上采样操作，得到待处理图像的上采样图像。在另一种可能的实现方式中，终端设备可以对待处理图像进行双三次上采样操作，得到待处理图像的上采样图像。示例性的，双三次上采样操作可以是双三次差值操作。
S12：通过预设的残差网络对所述待处理图像的特征图进行处理，得到所述待处理图像的残差图像。
本申请实施例中，如图2所示，终端设备可以先采用预设的卷积网络21对待处理图像P1进行卷积操作，得到待处理图像P1的特征图，即，卷积网络21的输出为待处理图像P1的特征图。作为示例而非限定，卷积网络21可以包括两个卷积层（未图示），每个卷积层的卷积核大小可以为3×3像素，每个卷积层的卷积核权值可以根据实际需求设置，此处对其不做特别限定。
终端设备得到待处理图像的特征图后，可以将待处理图像的特征图导入预设的残差网络22中，以通过预设的残差网络22对待处理图像的特征图进行处理，得到待处理图像的残差图像P3。待处理图像的残差图像P3用于描述待处理图像的特征图与该特征图的期望值之间的差值。
在本申请的一个实施例中，如图2所示，残差网络22与卷积网络21之间可以采用稠密连接方式直接相连（图中的S表示稠密连接）。残差网络22与卷积网络21之间采用稠密连接方式直接相连具体指，卷积网络21的输出作为所有局部残差提取块221的输入。
残差网络22可以包括n个局部残差提取块221，n为大于1的整数。其中，且n个局部残差提取块221之间也可以采用稠密连接方式直接相连。n个局部残差提取块221之间采用稠密连接方式直接相连具体指，每一个局部残差提取块221的输出均作为后续所有局部残差提取块221的输入。
示例性的，假如第1个局部残差提取块221的输入为x，第1个局部残差提取块221的输出为f1(x)，第2个局部残差提取块221的输出为f2(x)，第n-1个局部残差提取块221的输出为fn-1(x)，那么通过n个局部残差提取块221之后可以将x映射为[x,f1(x),f2(x,f1(x)),f3(f2(x,f1(x))),…]。
在本申请的一个实施例中，如图2所示，残差网络22还可以包括第一转置卷积层222，第一转置卷积层222可以连接在第n个局部残差提取块221之后。基于此，S12具体可以包括以下步骤：
步骤1：通过第1个所述局部残差提取块从所述特征图中提取第一残差信息并输出。
步骤2：通过第2至第n个所述局部残差提取块从所述特征图中提取第一残差信息，并从来自其前序的所有局部残差提取块的残差信息中提取第二残差信息，以及将所述第一残差信息与所述第二残差信息进行融合后输出。
步骤3：通过所述第一转置卷积层对来自第n个所述局部残差提取块的残差信息进行转置卷积操作，得到所述待处理图像的残差图像。
本实施例中，由于残差网络22与卷积网络21之间采用稠密连接方式直接相连，因此，残差网络22中的每个局部残差提取块221均会接收到来自卷积网络21的待处理图像的特征图；同时，由于残差网络22中的各个局部残差提取块221之间也采用稠密连接方式直接相连，因此，每个局部残差提取块221还会接收到来自其之前所有局部残差提取块221的残差信息。也就是说，对于第1个局部残差提取块211而言，其只接收到待处理图像的特征图；对于第2至第n个局部残差提取块221而言，其不仅接收到待处理图像的特征图，还接收到前序的各个局部残差提取块输出的残差信息。
需要说明的是，某个局部残差提取块221的前序的局部残差提取块包括位于该局部残差提取块221之前的所有局部残差提取块。
基于此，终端设备可以通过第1个局部残差提取块221从特征图中提取第一残差信息并输出。终端设备可以通过第2个局部残差提取块221从特征图中提取第一残差信息，并从来自第1个局部残差提取块的残差信息中提取第二残差信息，且将本局部残差提取块221提取出的第一残差信息和第二残差信息融合后输出。终端设备可以通过第3个局部残差提取块221从特征图中提取第一残差信息，并从来自第2个局部残差提取块221的残差信息中提取第二残差信息，且将本局部残差提取块221提取出的第一残差信息和第二残差信息融合后输出。以此类推，终端设备可以通过第一转置卷积层222将第n个局部残差提取块221输出的残差信息进行转置卷积操作，得到待处理图像的残差图像P3。
由于在各个局部残差提取块之间引入稠密连接机制，因此可以保证在局部深层信息被充分提取的同时，局部浅层信息不会随着信息的流动而逐渐弱化。
在一种可能的实现方式中，如图2所示，局部残差提取块221包括依次连接的浅层残差提取单元、第一残差去噪单元、深层残差提取单元、第二残差去噪单元及卷积压缩单元。其中，卷积压缩单元的卷积核大小可以为1×1像素。
基于此，上述步骤1可以通过如图3所示的S31~S34实现，详述如下：
S31：针对第1个所述局部残差提取块，通过所述浅层残差提取单元从所述特征图中提取第一残差信息。
S32：通过所述第一残差去噪单元对所述第一残差信息进行去噪处理。
S33：通过所述深层残差提取单元从所述第一残差信息中提取深层残差信息。
S34：通过所述第二残差去噪单元对所述深层残差信息进行去噪处理。
S35：通过所述卷积压缩单元对去噪处理后的所述深层残差信息进行卷积处理，并输出卷积处理后的所述深层残差信息。
上述步骤2可以通过如图4所示的S41~S45实现，详述如下：
S41：针对第2至第n个所述局部残差提取块，通过所述浅层残差提取单元从所述特征图中提取第一残差信息。
S42：通过所述第一残差去噪单元对所述第一残差信息进行去噪处理。
S43：通过所述深层残差提取单元分别从所述第一残差信息和目标残差信息中提取深层残差信息；所述目标残差信息包括来自前序的所有局部残差提取块的残差信息。
S44：通过所述第二残差去噪单元对所述深层残差信息进行去噪处理。
S45：通过所述卷积压缩单元对去噪处理后的所述深层残差信息进行卷积处理，并输出卷积处理后的所述深层残差信息。
需要说明的是，本实施例中，针对第2至第n个局部残差提取块中的每一个局部残差提取块，终端设备均会进行执行上述S41~S45。
本实施例中，第一残差去噪单元用于去除提取出的浅层残差信息中的冗余信息和噪声，第二残差去噪单元用于去除提取出的深层残差信息中的冗余信息和噪声，从而模仿仿生视觉中的信息选择行为，可以有效提高最终得到的残差信息的稳定性。通过在每个局部残差提取块设置卷积压缩单元，可以减少特征维度，从而降低各个局部残差提取块的计算量。
S13：通过预设的残差增强网络对所述特征图和来自所述残差网络的残差信息进行处理，得到所述待处理图像的残差增强细节图像。
本实施例中，如图2所示，残差增强网络23可以包括n个卷积块231，该n个卷积块231之间可以采用稠密连接方式连接，且第i个卷积块231还可以与第i-1个局部残差提取块221采用稠密连接方式连接，1<i≤n。
其中，n个卷积块231之间采用稠密连接方式连接具体指，每一个卷积块231的输出均作为后续所有卷积块231的输入。第i个卷积块231与第i-1个局部残差提取块221采用稠密连接方式连接具体指，第1至第i-1个局部残差提取块221的输出也作为第i个卷积块231的输入。
在本申请的一个实施例中，如图2所示，残差增强网络23还可以包括第二转置卷积层232，第二转置卷积层232可以连接在第n个卷积块231之后。基于此，S13具体可以包括以下步骤：
步骤a：通过第1个所述卷积块对所述特征图进行卷积操作，得到第一特征信息，并输出所述第一特征信息。
步骤b：通过第2至第n个所述卷积块对所述特征图进行卷积操作，得到第一特征信息，并对来自前序的所有卷积块的特征信息进行卷积操作，得到第二特征信息，以及对来自局部残差提取块的残差信息进行卷积操作，得到第三特征信息，并输出所述第一特征信息、所述第二特征信息及所述第三特征信息。
步骤c：通过所述第二转置卷积层对来自第n个所述卷积块的所述第一特征信息、所述第二特征信息及所述第三特征信息进行转置卷积操作，得到所述残差增强细节图像。
在本申请的一个具体实施例中，如图2所述，卷积块231可以包括第一卷积层、第二卷积层及第三卷积层。基于此，上述步骤a可以包括：
针对第1个所述卷积块，分别通过所述第一卷积层、所述第二卷积层及所述第三卷积层对所述特征图进行卷积操作，得到第一特征信息，并输出所述第一特征信息。
上述步骤b可以包括以下步骤：
针对第2至第n个所述卷积块，通过所述第一卷积层对所述特征图进行卷积操作，得到第一特征信息；
通过所述第二卷积层对来自前序的所有卷积块的特征信息进行卷积操作，得到第二特征信息；
通过所述第三卷积层对来自局部残差提取块的残差信息进行卷积操作，得到第三特征信息。
需要说明的是，本申请实施例中，S11、S12及S13可以为并列步骤，即终端设备可以同时执行S11、S12及S13，本申请实施例对S11、S12及S13的被执行顺序不做特别限定。
S14：根据所述上采样图像、所述残差图像及所述残差增强细节图像，得到所述待处理图像的目标图像；所述目标图像的分辨率高于所述待处理图像的分辨率。
本实施例中，终端设备可以将上采样图像、残差图像及残差增强细节图像进行融合，进而得到待处理图像的目标图像。作为示例而非限定，融合方式可以为，将三个图像中对应像素的灰度值相加，即终端设备可以将上采样图像、残差图像及残差增强细节图像中对应像素的灰度值相加，得到目标图像。
以上可以看出，本实施例提供的图像处理方法，通过对待处理图像进行上采样操作，得到待处理图像的上采样图像；通过预设的残差网络对待处理图像的特征图进行处理，得到待处理图像的残差图像；由于残差网络包括n个局部残差提取块，且n个局部残差提取块之间采用稠密连接方式相连，因此可以实现网络中信息流量的增加，从而使得各个阶段的残差信息得以充分提取和利用，保证在局部深层信息被充分提取的同时，局部浅层信息不会随着信息的流动而逐渐弱化；同时，由于残差信息在残差网络中的各个局部残差提取块之间流动时可能过会存在信息溢出的情况，因此通过设置残差增强网络，通过残差增强网络对特征图进行处理，得到待处理图像的残差增强细节图像，从而可以对残差网络溢出的有用信息进行回收，实现对残差图像细节的修补及增强，如此可以使得根据上采样图像、残差图像及残差增强细节图像得到的目标图像的分辨率高于待处理图像的分辨率，从而提高了待处理图像的分辨率。
基于上述实施例所提供的图像处理方法，本发明实施例进一步给出实现上述方法实施例的图像处理装置的实施例。请参阅图5，为本申请实施例提供的一种图像处理装置的结构示意图。为了便于说明，仅示出了与本实施例相关的部分。如图5所示，图像处理装置50可以包括：上采样单元51、第一残差提取单元52、第二残差提取单元53及图像处理单元54。其中：
上采样单元51用于对待处理图像进行上采样操作，得到所述待处理图像的上采样图像。
第一残差提取单元52用于通过预设的残差网络对所述待处理图像的特征图进行处理，得到所述待处理图像的残差图像；所述残差网络包括n个局部残差提取块，所述n个局部残差提取块之间采用稠密连接方式相连，n为大于1的整数。
第二残差提取单元53用于通过预设的残差增强网络对所述特征图和来自所述残差网络的残差信息进行处理，得到所述待处理图像的残差增强细节图像；所述残差增强网络包括n个卷积块，所述n个卷积块之间采用稠密连接方式连接，且第i个所述卷积块与第i-1个所述局部残差提取块之间采用稠密连接方式连接，1<i≤n。
图像处理单元54用于根据所述上采样图像、所述残差图像及所述残差增强细节图像，得到所述待处理图像的目标图像；所述目标图像的分辨率高于所述待处理图像的分辨率。
可选的，上采样单元51具体用于对所述待处理图像进行双三次上采样操作，得到所述上采样图像。
可选的，所述残差网络还包括第一转置卷积层，所述第一转置卷积层连接在第n个所述局部残差提取块之后；第一残差提取单元52包括：第一提取单元、第二提前单元及第一转置卷积单元。其中：
第一提取单元用于通过第1个所述局部残差提取块从所述特征图中提取第一残差信息并输出。
第二提取单元用于通过第2至第n个所述局部残差提取块从所述特征图中提取第一残差信息，并从来自前序的所有局部残差提取块的残差信息中提取第二残差信息，以及将所述第一残差信息与所述第二残差信息进行融合后输出。
第一转置卷积单元用于通过所述第一转置卷积层对来自第n个所述局部残差提取块的残差信息进行转置卷积操作，得到所述待处理图像的残差图像。
可选的，所述局部残差提取块包括依次连接的浅层残差提取单元、第一残差去噪单元、深层残差提取单元、第二残差去噪单元及卷积压缩单元；第一提取单元具体用于：
针对第1个所述局部残差提取块，通过所述浅层残差提取单元从所述特征图中提取第一残差信息；
通过所述第一残差去噪单元对所述第一残差信息进行去噪处理；
通过所述深层残差提取单元从所述第一残差信息中提取深层残差信息；
通过所述第二残差去噪单元对所述深层残差信息进行去噪处理；
通过所述卷积压缩单元对去噪处理后的所述深层残差信息进行卷积处理，并输出卷积处理后的所述深层残差信息。
可选的，第二提取单元具体用于：
针对第2至第n个所述局部残差提取块，通过所述浅层残差提取单元从所述特征图中提取第一残差信息；
通过所述第一残差去噪单元对所述第一残差信息进行去噪处理；
通过所述深层残差提取单元分别从所述第一残差信息和目标残差信息中提取深层残差信息；所述目标残差信息包括来自前序的所有局部残差提取块的残差信息；
通过所述第二残差去噪单元对所述深层残差信息进行去噪处理；
通过所述卷积压缩单元对去噪处理后的所述深层残差信息进行卷积处理，并输出卷积处理后的所述深层残差信息。
可选的，所述残差增强网络还包括第二转置卷积层，所述第二转置卷积层连接在第n个所述卷积块之后；第二残差提取单元53包括第一卷积单元、第二卷积单元及第二转置卷积单元。其中：
第一卷积单元用于通过第1个所述卷积块对所述特征图进行卷积操作，得到第一特征信息，并输出所述第一特征信息。
第二卷积单元用于通过第2至第n个所述卷积块对所述特征图进行卷积操作，得到第一特征信息，并对来自前序的所有卷积块的特征信息进行卷积操作，得到第二特征信息，以及对来自局部残差提取块的残差信息进行卷积操作，得到第三特征信息，并输出所述第一特征信息、所述第二特征信息及所述第三特征信息。
第二转置卷积单元用于通过所述第二转置卷积层对来自第n个所述卷积块的所述第一特征信息、所述第二特征信息及所述第三特征信息进行转置卷积操作，得到所述残差增强细节图像。
可选的，所述卷积块包括第一卷积层、第二卷积层及第三卷积层；第一卷积单元具体用于：
针对第1个所述卷积块，分别通过所述第一卷积层、所述第二卷积层及所述第三卷积层对所述特征图进行卷积操作，得到第一特征信息，并输出所述第一特征信息；
第二卷积单元具体用于：
针对第2至第n个所述卷积块，通过所述第一卷积层对所述特征图进行卷积操作，得到第一特征信息；
通过所述第二卷积层对来自前序的所有卷积块的特征信息进行卷积操作，得到第二特征信息；
通过所述第三卷积层对来自局部残差提取块的残差信息进行卷积操作，得到第三特征信息。
需要说明的是，上述单元之间的信息交互、执行过程等内容，由于与本申请方法实施例基于同一构思，其具体功能及带来的技术效果，具体可参照方法实施例部分，此处不再赘述。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元完成，即将图像处理装置的内部结构划分成不同的功能单元，以完成以上描述的全部或者部分功能。实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述系统中单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
请参阅图6，图6为本申请实施例提供的一种终端设备的结构示意图。如图6所示，本实施例提供的终端设备6可以包括：处理器60、存储器61以及存储在存储器61中并可在处理器60上运行的计算机程序62，例如图像处理方法对应的程序。处理器60执行计算机程序62时实现上述图像处理方法实施例中的步骤，例如图1所示的S11~S14。或者，处理器60执行计算机程序62时实现上述图像处理装置实施例中各模块/单元的功能，例如图5所示的单元51~54的功能。
示例性的，计算机程序62可以被分割成一个或多个模块/单元，一个或者多个模块/单元被存储在存储器61中，并由处理器60执行，以完成本申请。一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述计算机程序62在终端设备6中的执行过程。例如，计算机程序62可以被分割成上采样单元、第一残差提取单元、第二残差提取单元及图像处理单元，各单元的具体功能请参阅图5对应的实施例中的相关描述，此处不赘述。
本领域技术人员可以理解，图6仅仅是终端设备6的示例，并不构成对终端设备6的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件。
处理器60可以是中央处理单元（central processing unit，CPU），还可以是其他通用处理器、数字信号处理器（digital signal processor，DSP）、专用集成电路（application specific integrated circuit，ASIC）、现成可编程门阵列（field-programmable gate array，FPGA）或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器61可以是终端设备6的内部存储单元，例如终端设备6的硬盘或内存。存储器61也可以是终端设备6的外部存储设备，例如终端设备6上配备的插接式硬盘、智能存储卡（smart media card，SMC）、安全数字（secure digital，SD）卡或闪存卡（flash card）等。进一步地，存储器61还可以既包括终端设备6的内部存储单元也包括外部存储设备。存储器61用于存储计算机程序以及终端设备所需的其他程序和数据。存储器61还可以用于暂时地存储已经输出或者将要输出的数据。
本申请实施例还提供了一种计算机可读存储介质，该计算机可读存储介质中存储有计算机程序，该计算机程序被处理器执行时可实现上述各个方法实施例中的步骤。
本申请实施例提供了一种计算机程序产品，当计算机程序产品在终端设备上运行时，使得终端设备实现上述各个方法实施例中的步骤。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参照其它实施例的相关描述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。
以上所述实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。
Claims (10)
1.一种图像处理方法，其特征在于，包括：
对待处理图像进行上采样操作，得到所述待处理图像的上采样图像；
通过预设的残差网络对所述待处理图像的特征图进行处理，得到所述待处理图像的残差图像；所述残差网络包括n个局部残差提取块，所述n个局部残差提取块之间采用稠密连接方式相连，n为大于1的整数；
通过预设的残差增强网络对所述特征图和来自所述残差网络的残差信息进行处理，得到所述待处理图像的残差增强细节图像；所述残差增强网络包括n个卷积块，所述n个卷积块之间采用稠密连接方式连接，且第i个所述卷积块与第i-1个所述局部残差提取块之间采用稠密连接方式连接，1<i≤n；
根据所述上采样图像、所述残差图像及所述残差增强细节图像，得到所述待处理图像的目标图像；所述目标图像的分辨率高于所述待处理图像的分辨率。
2.根据权利要求1所述的图像处理方法，其特征在于，所述对待处理图像进行上采样操作，得到所述待处理图像的上采样图像，包括：
对所述待处理图像进行双三次上采样操作，得到所述上采样图像。
3.根据权利要求1所述的图像处理方法，其特征在于，所述残差网络还包括第一转置卷积层，所述第一转置卷积层连接在第n个所述局部残差提取块之后；所述通过预设的残差网络对所述待处理图像的特征图进行处理，得到所述待处理图像的残差图像，包括：
通过第1个所述局部残差提取块从所述特征图中提取第一残差信息并输出；
通过第2至第n个所述局部残差提取块从所述特征图中提取第一残差信息，并从来自前序的所有局部残差提取块的残差信息中提取第二残差信息，以及将所述第一残差信息与所述第二残差信息进行融合后输出；
通过所述第一转置卷积层对来自第n个所述局部残差提取块的残差信息进行转置卷积操作，得到所述待处理图像的残差图像。
4.根据权利要求3所述的图像处理方法，其特征在于，所述局部残差提取块包括依次连接的浅层残差提取单元、第一残差去噪单元、深层残差提取单元、第二残差去噪单元及卷积压缩单元；所述通过第1个所述局部残差提取块从所述特征图中提取第一残差信息并输出，包括：
针对第1个所述局部残差提取块，通过所述浅层残差提取单元从所述特征图中提取第一残差信息；
通过所述第一残差去噪单元对所述第一残差信息进行去噪处理；
通过所述深层残差提取单元从所述第一残差信息中提取深层残差信息；
通过所述第二残差去噪单元对所述深层残差信息进行去噪处理；
通过所述卷积压缩单元对去噪处理后的所述深层残差信息进行卷积处理，并输出卷积处理后的所述深层残差信息。
5.根据权利要求3所述的图像处理方法，其特征在于，所述局部残差提取块包括依次连接的浅层残差提取单元、第一残差去噪单元、深层残差提取单元、第二残差去噪单元及卷积压缩单元；所述通过第2至第n个所述局部残差提取块从所述特征图中提取第一残差信息，并从来自前序的所有局部残差提取块的残差信息中提取第二残差信息，以及将所述第一残差信息与所述第二残差信息进行融合后输出，包括：
针对第2至第n个所述局部残差提取块，通过所述浅层残差提取单元从所述特征图中提取第一残差信息；
通过所述第一残差去噪单元对所述第一残差信息进行去噪处理；
通过所述深层残差提取单元分别从所述第一残差信息和目标残差信息中提取深层残差信息；所述目标残差信息包括来自前序的所有局部残差提取块的残差信息；
通过所述第二残差去噪单元对所述深层残差信息进行去噪处理；
通过所述卷积压缩单元对去噪处理后的所述深层残差信息进行卷积处理，并输出卷积处理后的所述深层残差信息。
6.根据权利要求1至5任一项所述的图像处理方法，其特征在于，所述残差增强网络还包括第二转置卷积层，所述第二转置卷积层连接在第n个所述卷积块之后；所述通过预设的残差增强网络对所述特征图和来自所述残差网络的残差信息进行处理，得到所述待处理图像的残差增强细节图像，包括：
通过第1个所述卷积块对所述特征图进行卷积操作，得到第一特征信息，并输出所述第一特征信息；
通过第2至第n个所述卷积块对所述特征图进行卷积操作，得到第一特征信息，并对来自前序的所有卷积块的特征信息进行卷积操作，得到第二特征信息，以及对来自局部残差提取块的残差信息进行卷积操作，得到第三特征信息，并输出所述第一特征信息、所述第二特征信息及所述第三特征信息；
通过所述第二转置卷积层对来自第n个所述卷积块的所述第一特征信息、所述第二特征信息及所述第三特征信息进行转置卷积操作，得到所述残差增强细节图像。
7.根据权利要求6所述的图像处理方法，其特征在于，所述卷积块包括第一卷积层、第二卷积层及第三卷积层；所述通过第1个所述卷积块对所述特征图进行卷积操作，得到第一特征信息，并输出所述第一特征信息，包括：
针对第1个所述卷积块，分别通过所述第一卷积层、所述第二卷积层及所述第三卷积层对所述特征图进行卷积操作，得到第一特征信息，并输出所述第一特征信息；
所述通过第2至第n个所述卷积块对所述特征图进行卷积操作，得到第一特征信息，并对来自前序的所有卷积块的特征信息进行卷积操作，得到第二特征信息，以及对来自局部残差提取块的残差信息进行卷积操作，得到第三特征信息，包括：
针对第2至第n个所述卷积块，通过所述第一卷积层对所述特征图进行卷积操作，得到第一特征信息；
通过所述第二卷积层对来自前序的所有卷积块的特征信息进行卷积操作，得到第二特征信息；
通过所述第三卷积层对来自局部残差提取块的残差信息进行卷积操作，得到第三特征信息。
8.一种图像处理装置，其特征在于，包括：
上采样单元，用于对待处理图像进行上采样操作，得到所述待处理图像的上采样图像；
第一残差提取单元，用于通过预设的残差网络对所述待处理图像的特征图进行处理，得到所述待处理图像的残差图像；所述残差网络包括n个局部残差提取块，所述n个局部残差提取块之间采用稠密连接方式相连，n为大于1的整数；
第二残差提取单元，用于通过预设的残差增强网络对所述特征图和来自所述残差网络的残差信息进行处理，得到所述待处理图像的残差增强细节图像；所述残差增强网络包括n个卷积块，所述n个卷积块之间采用稠密连接方式连接，且第i个所述卷积块与第i-1个所述局部残差提取块之间采用稠密连接方式连接，1<i≤n；
图像处理单元，用于根据所述上采样图像、所述残差图像及所述残差增强细节图像，得到所述待处理图像的目标图像；所述目标图像的分辨率高于所述待处理图像的分辨率。
9.一种终端设备，其特征在于，包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如权利要求1-7任意一项所述的图像处理方法。
10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1-7任意一项所述的图像处理方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210538089.1A CN114648468B (zh) | 2022-05-18 | 2022-05-18 | 图像处理方法、装置、终端设备及计算机可读存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210538089.1A CN114648468B (zh) | 2022-05-18 | 2022-05-18 | 图像处理方法、装置、终端设备及计算机可读存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN114648468A true CN114648468A (zh) | 2022-06-21 |
| CN114648468B CN114648468B (zh) | 2022-08-16 |
Family
ID=81997695
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210538089.1A Active CN114648468B (zh) | 2022-05-18 | 2022-05-18 | 图像处理方法、装置、终端设备及计算机可读存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114648468B (zh) |
Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180137603A1 (en) * | 2016-11-07 | 2018-05-17 | Umbo Cv Inc. | Method and system for providing high resolution image through super-resolution reconstruction |
| CN109087243A (zh) * | 2018-06-29 | 2018-12-25 | 中山大学 | 一种基于深度卷积生成对抗网络的视频超分辨率生成方法 |
| CN110276721A (zh) * | 2019-04-28 | 2019-09-24 | 天津大学 | 基于级联残差卷积神经网络的图像超分辨率重建方法 |
| CN110458758A (zh) * | 2019-07-29 | 2019-11-15 | 武汉工程大学 | 一种图像超分辨率重建方法、系统及计算机存储介质 |
| CN112767251A (zh) * | 2021-01-20 | 2021-05-07 | 重庆邮电大学 | 基于多尺度细节特征融合神经网络的图像超分辨率方法 |
| US20210272247A1 (en) * | 2020-02-27 | 2021-09-02 | Fotonation Limited | Video super resolution method |
| CN113592718A (zh) * | 2021-08-12 | 2021-11-02 | 中国矿业大学 | 基于多尺度残差网络的矿井图像超分辨率重建方法及系统 |
| EP3987454A1 (en) * | 2019-06-21 | 2022-04-27 | Intel Corporation | Adaptive deep learning model for noisy image super-resolution |
-
2022
- 2022-05-18 CN CN202210538089.1A patent/CN114648468B/zh active Active
Patent Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180137603A1 (en) * | 2016-11-07 | 2018-05-17 | Umbo Cv Inc. | Method and system for providing high resolution image through super-resolution reconstruction |
| CN109087243A (zh) * | 2018-06-29 | 2018-12-25 | 中山大学 | 一种基于深度卷积生成对抗网络的视频超分辨率生成方法 |
| CN110276721A (zh) * | 2019-04-28 | 2019-09-24 | 天津大学 | 基于级联残差卷积神经网络的图像超分辨率重建方法 |
| EP3987454A1 (en) * | 2019-06-21 | 2022-04-27 | Intel Corporation | Adaptive deep learning model for noisy image super-resolution |
| CN110458758A (zh) * | 2019-07-29 | 2019-11-15 | 武汉工程大学 | 一种图像超分辨率重建方法、系统及计算机存储介质 |
| US20210272247A1 (en) * | 2020-02-27 | 2021-09-02 | Fotonation Limited | Video super resolution method |
| CN112767251A (zh) * | 2021-01-20 | 2021-05-07 | 重庆邮电大学 | 基于多尺度细节特征融合神经网络的图像超分辨率方法 |
| CN113592718A (zh) * | 2021-08-12 | 2021-11-02 | 中国矿业大学 | 基于多尺度残差网络的矿井图像超分辨率重建方法及系统 |
Non-Patent Citations (3)
| Title |
|---|
| 唐家福等: "基于多尺度稠密卷积网络的单图像超分辨率重建", 《包装工程》 * |
| 林格平等: "无字典的超分辨率多径稀疏信道估计方法", 《信号处理》 * |
| 王一宁等: "基于残差神经网络的图像超分辨率改进算法", 《计算机应用》 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN114648468B (zh) | 2022-08-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111178211B (zh) | 图像分割方法、装置、电子设备及可读存储介质 | |
| CN110008817B (zh) | 模型训练、图像处理方法、装置、电子设备及计算机可读存储介质 | |
| US11922671B2 (en) | Apparatus and method for processing image data | |
| CN113284054B (zh) | 图像增强方法以及图像增强装置 | |
| CN112446383B (zh) | 车牌识别方法及装置、存储介质、终端 | |
| WO2021135254A1 (zh) | 车牌号码识别方法、装置、电子设备及存储介质 | |
| EP4075374A1 (en) | Image processing method and apparatus, and image processing system | |
| CN111968064B (zh) | 一种图像处理方法、装置、电子设备及存储介质 | |
| CN112602088B (zh) | 提高弱光图像的质量的方法、系统和计算机可读介质 | |
| CN113592736A (zh) | 一种基于融合注意力机制的半监督图像去模糊方法 | |
| CN111353956B (zh) | 图像修复方法、装置、计算机设备及存储介质 | |
| CN113674159A (zh) | 图像处理方法、装置、电子设备及可读存储介质 | |
| CN110781980A (zh) | 目标检测模型的训练方法、目标检测方法及装置 | |
| CN112132216B (zh) | 车型识别方法、装置、电子设备及存储介质 | |
| CN114627034A (zh) | 一种图像增强方法、图像增强模型的训练方法及相关设备 | |
| CN114140346A (zh) | 一种图像处理方法及装置 | |
| CN110717864B (zh) | 一种图像增强方法、装置、终端设备及计算机可读介质 | |
| CN117409412A (zh) | 一种基于细节增强的双分辨率实时语义分割方法 | |
| CN111383188A (zh) | 一种图像处理方法、系统及终端设备 | |
| CN117409057A (zh) | 全景图深度估计方法、设备及介质 | |
| CN114648468B (zh) | 图像处理方法、装置、终端设备及计算机可读存储介质 | |
| CN116993987A (zh) | 一种基于轻量级神经网络模型的图像语义分割方法及系统 | |
| US20230325985A1 (en) | Systems and methods for inpainting images at increased resolution | |
| CN115965531A (zh) | 模型训练方法及图像生成方法、装置、设备和存储介质 | |
| CN112801912B (zh) | 一种人脸图像复原方法、系统、装置及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |