CN112200719A - 图像处理方法、电子设备及可读存储介质 - Google Patents
图像处理方法、电子设备及可读存储介质 Download PDFInfo
- Publication number
- CN112200719A CN112200719A CN202011031575.1A CN202011031575A CN112200719A CN 112200719 A CN112200719 A CN 112200719A CN 202011031575 A CN202011031575 A CN 202011031575A CN 112200719 A CN112200719 A CN 112200719A
- Authority
- CN
- China
- Prior art keywords
- resolution
- image
- sdr image
- sub
- filter coefficient
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 23
- 238000012545 processing Methods 0.000 claims abstract description 114
- 238000001914 filtration Methods 0.000 claims abstract description 81
- 238000000034 method Methods 0.000 claims abstract description 60
- 238000013527 convolutional neural network Methods 0.000 claims description 66
- 238000012549 training Methods 0.000 claims description 32
- 238000005070 sampling Methods 0.000 claims description 21
- 238000003062 neural network model Methods 0.000 claims description 18
- 230000006870 function Effects 0.000 claims description 12
- 238000013507 mapping Methods 0.000 abstract description 19
- 230000008569 process Effects 0.000 description 20
- 238000004364 calculation method Methods 0.000 description 17
- 238000010586 diagram Methods 0.000 description 9
- 230000000694 effects Effects 0.000 description 5
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
- G06T3/4076—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution using the original low-resolution images to iteratively correct the high-resolution images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Biophysics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Processing (AREA)
Abstract
本发明提供了一种图像处理方法、电子设备及可读存储介质,其中所述方法包括:获取第一分辨率标准动态范围SDR图像;根据第一分辨率SDR图像,得到第二分辨率SDR图像的导向图和第二分辨率SDR图像的滤波系数;根据所述第二分辨率SDR图像的导向图和所述第二分辨率SDR图像的滤波系数进行导向滤波处理,得到第二分辨率HDR图像;其中,所述第二分辨率高于所述第一分辨率。本发明能够降低滤波系数的计算复杂度,并实现从SDR图像到HDR图像的快速映射,解决了现有技术中SDR图像到HDR图像的映射方法存在计算量大的问题。
Description
技术领域
本发明涉及图像处理技术领域,尤其涉及一种图像处理方法、电子设备及可读存储介质。
背景技术
目前,可以采用卷积神经网络进行高动态范围图像(High Dynamic Range,HDR)的映射,如从标准动态范围(Standard Dynamic Range,SDR)图像映射为HDR图像,在图像处理上表现优于传统的算法。但是随着网络深度的加深,其计算量急剧增大成为其应用于实际的瓶颈。另外,通过导向图滤波进行从SDR图像到HDR图像映射的方法,能够保证输出图像整体上和输入图像大体相似,而纹理边缘和导向图相同,但是由于其直接在大分辨率图像上进行计算,其计算量较大。
发明内容
本发明提供一种图像处理方法、电子设备及可读存储介质,解决了现有技术中从SDR图像到HDR图像映射的方法存在计算量大的问题。
为了解决上述技术问题,本发明实施例是这样实现的:
第一方面,本发明的实施例提供了一种图像处理方法,包括:
获取第一分辨率标准动态范围SDR图像;
根据第一分辨率SDR图像得到第二分辨率SDR图像的导向图和第二分辨率SDR图像的滤波系数;
根据所述第二分辨率SDR图像的导向图和所述第二分辨率SDR图像的滤波系数进行导向滤波处理,得到第二分辨率HDR图像;
其中,所述第二分辨率高于所述第一分辨率。
可选地,根据第一分辨率SDR图像得到第二分辨率SDR图像的滤波系数,包括:
基于第一卷积神经网络模型,通过所述第一分辨率SDR图像得到第一分辨率HDR图像;
基于第二卷积神经网络模型,通过所述第一分辨率SDR图像和所述第一分辨率HDR图像得到第二分辨率SDR图像的滤波系数。
可选地,通过所述第一分辨率SDR图像和所述第一分辨率HDR图像得到第二分辨率SDR图像的滤波系数,包括:
根据所述第一分辨率SDR图像,得到第一分辨率SDR图像的导向图;
根据所述第一分辨率HDR图像和所述第一分辨率SDR图像的导向图,计算得到第一分辨率SDR图像的滤波系数;
对所述第一分辨率SDR图像的滤波系数进行上采样处理,得到第二分辨率SDR图像的滤波系数。
可选地,所述根据所述第一分辨率HDR图像和所述第一分辨率SDR图像的导向图,计算得到第一分辨率SDR图像的滤波系数,包括:
根据所述第二卷积神经网络模型的卷积核半径和所述第一分辨率SDR图像对应的图像缩放比例值之间的比值,计算得到滤波半径rsub;
基于半径为rsub的滤波窗口,对所述第一分辨率SDR图像的导向图Isub进行均值滤波处理,得到均值滤波处理后的第一图像Mi;
基于半径为rsub的滤波窗口,对所述第一分辨率HDR图像psub进行均值滤波处理,得到均值滤波处理后的第二图像Mp;
根据所述Mi和所述Mp,计算得到第一分辨率SDR图像的滤波系数。
可选地,所述根据所述Mi和所述Mp,计算得到第一分辨率SDR图像的滤波系数,包括:
根据所述Mi和所述Mp,计算得到所述Isub对应的方差图vari,以及所述Isub与所述psub之间的协方差图covip;
根据所述vari、所述covip和预设阈值ε,计算得到所述第一分辨率SDR图像的第一滤波系数asub;
根据所述Mi、所述Mp和所述asub,计算得到所述第一分辨率SDR图像的第二滤波系数bsub。
可选地,所述根据所述vari、所述covip和预设阈值ε,计算得到所述第一分辨率SDR图像的第一滤波系数asub,包括:
在半径为rsub的滤波窗口覆盖下,计算所述vari和所述ε的和值;
根据所述covip与所述和值的点除,计算得到所述第一滤波系数的平均值meana;
计算所述meana在半径为rsub的滤波窗口覆盖下的第三均值,并将所述第三均值作为所述asub。
可选地,所述根据所述Mi、所述Mp和所述asub,计算得到所述第一分辨率SDR图像的第二滤波系数bsub,包括:
计算所述meana与所述Mi的第三点积,并根据所述Mp与所述第三点积之间的差值,计算得到所述第一滤波系数的平均值meanb;
计算所述meanb在半径为rsub的滤波窗口覆盖下的第四均值,并将所述第四均值作为所述bsub。
可选地,根据第一分辨率SDR图像得到第二分辨率SDR图像的导向图,包括:
根据所述第一分辨率SDR图像,得到第一分辨率SDR图像的导向图;
将所述第一分辨率SDR图像的导向图作为所述第三卷积神经网络模型的输入,并通过子像素卷积处理得到所述第二分辨率SDR图像的导向图。
可选地,所述将所述第一分辨率SDR图像导向图作为所述第三卷积神经网络模型的输入,并通过子像素卷积处理得到所述第二分辨率SDR图像的导向图之前,还包括:
通过执行以下步骤,训练得到所述第三卷积神经网络模型:
在所述第一卷积神经网络模型和所述第二卷积神经网络模型的参数固定的情况下,将所述第二卷积神经网络模型训练时输出的第一分辨率的导向图作为所述第三卷积神经网络模型的输入,并通过子像素卷积处理得到第二分辨率的导向图;
根据所述第二分辨率的导向图和所述第二卷积神经网络模型训练时输出的对应第二分辨率的滤波系数,得到预测的HDR图像。
第二方面,本发明实施例还提供了一种图像处理装置,包括:
获取模块,用于获取第一分辨率标准动态范围SDR图像;
第一处理模块,用于根据第一分辨率SDR图像,得到第二分辨率SDR图像的导向图和第二分辨率SDR图像的滤波系数;
第二处理模块,用于根据所述第二分辨率SDR图像的导向图和所述第二分辨率SDR图像的滤波系数进行导向滤波处理,得到第二分辨率HDR图像;
其中,所述第二分辨率高于所述第一分辨率。
可选地,所述第一处理模块包括:
第一处理子模块,用于基于第一卷积神经网络模型,通过所述第一分辨率SDR图像得到第一分辨率HDR图像;
第二处理子模块,用于基于第二卷积神经网络模型,通过所述第一分辨率SDR图像和所述第一分辨率HDR图像得到第二分辨率SDR图像的滤波系数。
可选地,所述第二处理子模块包括:
第一处理单元,用于根据所述第一分辨率SDR图像,得到第一分辨率SDR图像的导向图;
第二处理单元,用于根据所述第一分辨率HDR图像和所述第一分辨率SDR图像的导向图,计算得到第一分辨率SDR图像的滤波系数;
上采样单元,用于对所述第一分辨率SDR图像的滤波系数进行上采样处理,得到第二分辨率SDR图像的滤波系数。
可选地,所述第二处理单元包括:
第一计算子单元,用于根据所述第二卷积神经网络模型的卷积核半径和所述第一分辨率SDR图像对应的图像缩放比例值之间的比值,计算得到滤波半径rsub;
第一滤波子单元,用于基于半径为rsub的滤波窗口,对所述第一分辨率SDR图像的导向图Isub进行均值滤波处理,得到均值滤波处理后的第一图像Mi;
第二滤波子单元,用于基于半径为rsub的滤波窗口,对所述第一分辨率HDR图像psub进行均值滤波处理,得到均值滤波处理后的第二图像Mp;
第二计算子单元,用于根据所述Mi和所述Mp,计算得到第一分辨率SDR图像的滤波系数。
可选地,所述第二计算子单元具体用于:
根据所述Mi和所述Mp,计算得到所述Isub对应的方差图vari,以及所述Isub与所述psub之间的协方差图covip;
根据所述vari、所述covip和预设阈值ε,计算得到所述第一分辨率SDR图像的第一滤波系数asub;
根据所述Mi、所述Mp和所述asub,计算得到所述第一分辨率SDR图像的第二滤波系数bsub。
可选地,所述第二计算子单元执行所述根据所述vari、所述covip和预设阈值ε,计算得到所述第一分辨率SDR图像的第一滤波系数asub的步骤,还具体用于:
在半径为rsub的滤波窗口覆盖下,计算所述vari和所述ε的和值;
根据所述covip与所述和值的点除,计算得到所述第一滤波系数的平均值meana;
计算所述meana在半径为rsub的滤波窗口覆盖下的第三均值,并将所述第三均值作为所述asub。
可选地,所述第二计算子单元执行所述根据所述Mi、所述Mp、和所述asub,计算得到所述第一分辨率SDR图像的第二滤波系数bsub的步骤,还具体用于:
计算所述meana与所述Mi的第三点积,并根据所述Mp与所述第三点积之间的差值,计算得到所述第一滤波系数的平均值meanb;
计算所述meanb在半径为rsub的滤波窗口覆盖下的第四均值,并将所述第四均值作为所述bsub。
可选地,所述第一处理模块包括:
第三处理子模块,用于根据所述第一分辨率SDR图像,得到第一分辨率SDR图像的导向图;
第四处理子模块,用于将所述第一分辨率SDR图像的导向图作为所述第三卷积神经网络模型的输入,并通过子像素卷积处理得到所述第二分辨率SDR图像的导向图。
可选地,所述图像处理装置还包括:
训练模块,用于通过执行以下步骤,训练得到所述第三卷积神经网络模型:
在所述第一卷积神经网络模型和所述第二卷积神经网络模型的参数固定的情况下,将所述第二卷积神经网络模型训练时输出的第一分辨率的导向图作为所述第三卷积神经网络模型的输入,并通过子像素卷积处理得到第二分辨率的导向图;
根据所述第二分辨率的导向图和所述第二卷积神经网络模型训练时输出的对应第二分辨率的滤波系数,得到预测的HDR图像。
第三方面,本发明的实施例还提供了一种电子设备,包括:处理器、存储器及存储在所述存储器上并可在所述处理器上运行的程序,所述处理器执行所述程序时实现如上所述的图像处理方法的步骤。
第四方面,本发明的实施例还提供了一种可读存储介质,所述可读存储介质上存储有程序,所述程序被处理器执行时实现如上所述的图像处理方法的步骤。
本发明的实施例,通过获取到第一分辨率SDR图像,并基于第一分辨率SDR图像,得到第二分辨率SDR图像的导向图和第二分辨率SDR图像的滤波系数,降低了滤波系数的计算复杂度;进而根据所述第二分辨率SDR图像的导向图和所述第二分辨率SDR图像的滤波系数进行导向滤波处理,得到第二分辨率HDR图像,即实现从SDR图像到HDR图像的映射,解决了现有技术中SDR图像到HDR图像的映射方法存在计算量大的问题。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1表示本发明实施例的图像处理的流程图;
图2表示本发明实施例SDR-HDR模块和Guide_CNN模块的处理流程图;
图3表示本发明实施例CNN-C的处理流程图;
图4表示本发明实施例通过导向图Iup和滤波系数A、B得到HDR图像的流程图;
图5表示本发明实施例的图像处理装置的框图;
图6表示本发明实施例的电子设备的框图。
具体实施方式
为使本发明要解决的技术问题、技术方案和优点更加清楚,下面将结合附图及具体实施例进行详细描述。在下面的描述中,提供诸如具体的配置和组件的特定细节仅仅是为了帮助全面理解本发明的实施例。因此,本领域技术人员应该清楚,可以对这里描述的实施例进行各种改变和修改而不脱离本发明的范围和精神。另外,为了清楚和简洁,省略了对已知功能和构造的描述。
应理解,说明书通篇中提到的“一个实施例”或“一实施例”意味着与实施例有关的特定特征、结构或特性包括在本发明的至少一个实施例中。因此,在整个说明书各处出现的“在一个实施例中”或“在一实施例中”未必一定指相同的实施例。此外,这些特定的特征、结构或特性可以任意适合的方式结合在一个或多个实施例中。
在本发明的各种实施例中,应理解,下述各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
在本发明所提供的实施例中,应理解,“与A相应的B”表示B与A相关联,根据A可以确定B。但还应理解,根据A确定B并不意味着仅仅根据A确定B,还可以根据A和/或其它信息确定B。
具体地,本发明的实施例提供了一种图像处理方法,解决了现有技术中从SDR图像到HDR图像映射的方法存在计算量大的问题。
其中,HDR图像/视频支持更宽范围的亮度和更丰富的色彩,能够捕获和呈现场景中较暗部分和较亮部分更多的细节。HDR图像编码范围在10比特(bit)以上,色域遵循BT.2020标准。HDR图像清晰度高、层次感强,能够展现更接近于人眼视觉的真实感受。
HDR视频与SDR视频相比,HDR视频主要具有以下特点:亮/暗区域的细节会更加明显;图像的亮度结合屏的最大亮度进行还原,并且不损失图像细节;消除闪烁等负面效果;保留更多的图像细节,提升图像的清晰度。
如图1所示,本发明实施例提供了一种图像处理方法,具体可以包括以下步骤:
步骤11:获取第一分辨率标准动态范围SDR图像。
可选地,该第一分辨率的SDR图像可以是一张第一分辨率的SDR图片,也可以是第一分辨率的SDR视频中的图像;
可选地,作为一种实现方式,该步骤11可以具体包括:获取初始SDR图像,该初始SDR图像的分辨率为第一分辨率,可以理解为该初始SDR图像即为第一分辨率的SDR图像。
可选地,作为另一种实现方式,该步骤11可以具体包括:获取初始SDR图像,所述初始SDR图像的分辨率高于所述第一分辨率;对初始SDR图像进行下采样处理,得到第一分辨率SDR图像。
其中,初始SDR图像的分辨率与所要处理得到的HDR图像(即下述步骤14中获得的第二分辨率的HDR图像)的分辨率可以相同,也可以不同。
例如:可以通过对初始SDR图像进行下采样处理,得到第一分辨率的SDR图像;其中,下采样处理的采样率可以预先设定,或者可以依据初始SDR图像和下采样处理后得到的SDR图像的分辨率确定,本发明实施例不以此为限。
步骤12:根据第一分辨率SDR图像,得到第二分辨率SDR图像的导向图和第二分辨率SDR图像的滤波系数;其中,所述第二分辨率高于所述第一分辨率。
可选地,上述步骤12可以具体包括:基于卷积神经网络模型,通过第一分辨率SDR图像得到第二分辨率SDR图像的导向图和第二分辨率SDR图像的滤波系数。
其中,卷积神经网络可以用于进行图像特征提取,并对临近像素敏感,每次卷积时对临近且相关性较高的像素点进行感知。当使用多次卷积时,可以得到更大感受区域,即更大的感受野。例如:对于某张图像的特征提取,卷积神经网络使用特定卷积核可以得到整张图像的特征图,使用不同卷积核进行对整张图像的卷积,可以获得基于不同卷积核得到的不同特征图。卷积神经网络具有局部感知、参数共享、多卷积核的特点,使得卷积神经网络在进行图像处理时具有更优的性能。
步骤13:根据所述第二分辨率SDR图像的导向图和所述第二分辨率SDR图像的滤波系数进行导向滤波处理,得到第二分辨率HDR图像。
可选地,所述导向滤波处理即基于导向图滤波的图像滤波技术,采用该技术的输出图像由输入图像和导向图共同决定。导向图滤波可以作为一个保边平滑算子使用,并且对图像边缘的处理能够达到更好的效果。
该实施例中采用的导向滤波处理,在低分辨率的导向图和低分辨率输入图片上计算局部线性模型,再将其运用到高分辨率图像上,从而得到高分辨率的滤波结果,其输出图像整体上和输入图像大体相似,纹理边缘和导向图相同,并且时间复杂度较低。
该实施例中,通过获取到第一分辨率SDR图像,并基于第一分辨率SDR图像得到第二分辨率SDR图像的导向图和第二分辨率SDR图像的滤波系数,降低了滤波系数的计算复杂度;进而根据所述第二分辨率SDR图像的导向图和所述第二分辨率SDR图像的滤波系数进行导向滤波处理,得到第二分辨率HDR图像,即实现从SDR图像到HDR图像的映射,解决了现有技术中SDR图像到HDR图像的映射方法存在计算量大的问题。
可选地,上述步骤12可以具体包括:
基于第一卷积神经网络模型,通过所述第一分辨率SDR图像得到第一分辨率HDR图像;
基于第二卷积神经网络模型,通过和所述第一分辨率HDR图像得到第二分辨率SDR图像的滤波系数。
其中,第一卷积神经网络模型CNN-A用于将第一分辨率SDR图像转换为第一分辨率HDR图像,也可以将其称为SDR-HDR模块;第二卷积神经网络模型CNN-B用于将第一分辨率SDR图像进行处理,得到第一分辨率SDR图像的导向图,并结合CNN-A输出的第一分辨率HDR图像,计算得到滤波系数,也可以将其称为Guide_CNN模块。
该实施例中,将卷积神经网络模型CNN-A和CNN-B分别使用在不同的网络分支,即通过使用CNN-A对低频部分进行映射,CNN-B对高频部分进行映射,得到滤波系数,从而提高了整个网络的鲁棒性和准确性。
可选地,所述通过所述第一分辨率SDR图像和所述第一分辨率HDR图像得到第二分辨率SDR图像的滤波系数的步骤,可以具体包括:
根据所述第一分辨率SDR图像,得到第一分辨率SDR图像的导向图;
根据所述第一分辨率HDR图像和所述第一分辨率SDR图像的导向图,计算得到第一分辨率SDR图像的滤波系数;
对所述第一分辨率SDR图像的滤波系数进行上采样处理,得到第二分辨率SDR图像的滤波系数。
如图2所示,给出了SDR-HDR模块和Guide_CNN模块的处理流程图。
其中,针对SDR-HDR模块的处理过程包括:
对于输入的初始SDR图像p进行x倍的下采样处理,得到小分辨率SDR图像P,例如可以通过以下公式表示下采样过程:
P=fsub(p,x)
其中,x表示采样率;fsub表示采样函数。
对于下采样得到的小分辨率SDR图像使用所述SDR-HDR(或称为CNN-A)模块转换为第一分辨率HDR图像,并将输出的小分辨率HDR图像作为Guide_CNN(或称为CNN-B)模块的输入。
其中,针对Guide_CNN模块的处理过程包括:
对于输入的初始SDR图像p进行y倍的下采样处理,得到小分辨率SDR图像I;例如可以通过以下公式表示下采样过程:
I=fsub(p,y)
其中,y表示采样率,fsub表示采样函数。
对于下采样得到的小分辨率SDR图像使用Guide_CNN(或称为CNN-B)模块,得到小分辨率SDR图像的导向图;
对于小分辨率SDR图像的导向图结合SDR-HDR模块输出的小分辨率HDR图像,计算得到小分辨率SDR图像的滤波系数;
对于小分辨率SDR图像的滤波系数进行上采样处理,得到大分辨率SDR图像的滤波系数。
该实施例中,通过对原始SDR图像进行下采样,再使用CNN-A将SDR图像转换成HDR图像,得到小分辨率HDR图像,作为计算滤波系数a、b的原始图像输入,由于CNN-A采用了在小分辨率图像上进行转换,实现了算法的加速;并且对于原始SDR图像进行下采样处理得到小分辨率SDR图像,通过CNN-B的处理得到小分辨率导向图,并结合小分辨率HDR图像共同计算出快速导向图滤波的滤波系数,节省了计算滤波系数的计算的时间,并提高了算法的准确性,并且所述CNN-B可以弥补滤波系数上采样后的缺失。
可选地,在使用所述CNN-A和CNN-B进行处理之前,还可以对CNN-A和CNN-B进行训练。
可选地,针对CNN-A的训练过程为:选用成对的SDR图像和HDR图像作为训练样本,将HDR图像作为训练标签,将训练样本与标签一一对应,形成训练集。如可以基于U-NET网络进行训练。
可选地,针对CNN-B的训练过程为:将CNN-A训练得到训练集进行缩图,得到成对的小分辨率SDR图像和HDR图像,作为新的训练集,小分辨率HDR图像作为训练标签,如该CNN-B可以是一个3层3*3的卷积网络,并结合导向图滤波模块进行训练。
可选地,为了提高模型精度,可以对CNN-B进行单独训练,其输入为缩小的sdr图像和原始SDR图像,缩小的sdr图像和原始SDR图像共享卷积参数,分别输出标记为g(sdr),和g(SDR)。
g(sdr)结合小的HDR图像通过导向滤波算法求解得出滤波参数a、b,在将所述滤波参数a、b通过双三次插值上采样处理得到滤波参数A、B。
g(SDR)结合滤波参数A、B,通过公式HDR=g(SDR)*A+B得出预测的HDR图像。
将该特征图(即上述预测的HDR图像)与g(SDR)图像相加得出最终要求的导向图I,最后得出预测的HDR图像为A×I+B。
可选地,所述根据所述第一分辨率HDR图像和所述第一分辨率SDR图像的导向图,计算得到第一分辨率SDR图像的滤波系数的步骤,可以具体包括:
根据所述第二卷积神经网络模型的卷积核半径和所述第一分辨率SDR图像对应的图像缩放比例值之间的比值,计算得到滤波半径rsub。
例如:可以通过公式:rsub=r/s,计算得到下采样后的滤波半径rsub。
基于半径为rsub的滤波窗口,对所述第一分辨率SDR图像的导向图Isub进行均值滤波处理,得到均值滤波处理后的第一图像Mi。
例如:可以通过公式:Mi=fmean(Isub,rsub),计算得到均值滤波处理后的第一图像Mi。
基于半径为rsub的滤波窗口,对所述第一分辨率HDR图像psub进行均值滤波处理,得到均值滤波处理后的第二图像Mp。
例如:可以通过公式:Mp=fmean(psub,rsub),计算得到均值滤波处理后的第一图像Mp。
根据所述Mi和所述Mp,计算得到第一分辨率SDR图像的滤波系数。
其中,fmean表示均值函数。
可选地,所述根据所述Mi和所述Mp,计算得到第一分辨率SDR图像的滤波系数的步骤,可以具体包括:
根据所述Mi和所述Mp,计算得到所述Isub对应的方差图vari,以及所述Isub与所述psub之间的协方差图covip;
根据所述vari、所述covip和预设阈值ε,计算得到所述第一分辨率SDR图像的第一滤波系数asub;
根据所述Mi、所述Mp和所述asub,计算得到所述第一分辨率SDR图像的第二滤波系数bsub。
可选地,所述根据所述Mi和所述Mp,计算得到所述Isub对应的方差图vari,以及所述Isub与所述psub之间的协方差图covip的步骤,可以具体包括:
计算所述Isub和所述Isub的点积,在半径为rsub的滤波窗口覆盖下的第一均值corri。
例如:通过公式:corri=fmean(Isub.×Isub,rsub),计算得到第一均值corri。
计算所述Isub和所述psub的点积,在半径为rsub的滤波窗口覆盖下的第二均值corrip。
例如:通过公式:corrip=fmean(Isub.×psup,rsub),计算得到第二均值corrip。
计算所述Mi和所述Mi的第一点积,并根据所述vari与所述第一点积之间的差值,计算得到所述vari。
例如:通过公式:vari=corri-Mi.×Mi,计算得到第一分辨率SDR图像的导向图对应的方差图vari。
计算所述Mi和所述Mp的第二点积,并根据所述covip与所述第二点积之间的差值,计算得到所述covip。
例如:通过公式:covip=corrip-Mi.×Mp,计算得到第一分辨率SDR图像的导向图与所述第一分辨率HDR图像之间的协方差covip。
可选地,所述根据所述vari、所述covip和预设阈值ε,计算得到所述第一分辨率SDR图像的第一滤波系数asub,包括:
在半径为rsub的滤波窗口覆盖下,计算所述vari和所述ε的和值,并根据所述covip与所述和值的点除,计算得到所述第一滤波系数的平均值meana。
需要说明的是,由上述计算过程可知vari是在半径为rsub的滤波窗口覆盖下计算得到的方差图,表示为一矩阵;在半径为rsub的滤波窗口覆盖下,计算所述vari和所述ε的和值,可以理解为vari结合图像在半径为rsub的滤波窗口覆盖下的平坦程度的计算结果,即所述vari和所述ε的和值也表示为一矩阵。
例如:通过公式:meana=covip./(vari+ε),计算得到所述第一分辨率SDR图像的第一滤波系数的平均值meana。
其中,ε可以是预先设定的固定值,ε用于表征半径为rsub的滤波窗口的图像是否是平坦区域,或者可以理解为ε用于表征半径为rsub的滤波窗口的图像的平坦程度,即针对半径为rsub的滤波窗口的图像通过与ε的比较确定其是否为平坦区域。
计算所述meana在半径为rsub的滤波窗口覆盖下的第三均值,并将所述第三均值作为所述asub。
例如:通过公式:asub=fmean(meana,rsub),计算得到所述第一分辨率SDR图像的第一滤波系数asub。
可选地,所述根据所述Mi、所述Mp和所述asub,计算得到所述第一分辨率SDR图像的第二滤波系数bsub,包括:
计算所述meana与所述Mi的第三点积,并根据所述Mp与所述第三点积之间的差值,计算得到所述第一滤波系数的平均值meanb。
例如:通过公式:meanb=Mp-meana.×Mi,计算得到第一分辨率SDR图像的第二滤波系数的平均值meanb。
计算所述meanb在半径为rsub的滤波窗口覆盖下的第四均值,并将所述第四均值作为所述bsub。
例如:通过公式:bsub=fmean(meanb,rsub),计算得到所述第一分辨率SDR图像的第二滤波系数bsub。
可选地,所述对所述第一分辨率SDR图像的滤波系数进行上采样处理,得到第二分辨率SDR图像的滤波系数的步骤,可以具体包括:
对所述第一分辨率SDR图像对应的第一滤波系数asub进行上采样处理,得到第二分辨率SDR图像的对应的第一滤波系数A;
对所述第一分辨率SDR图像对应的第二滤波系数bsub进行上采样处理,得到第二分辨率SDR图像的对应的第二滤波系数B。
例如:对第一分辨率导向图的滤波系数asub和bsub进行比例为n倍数的上采样处理,得到所述第二分辨率SDR图像的滤波系数A和B,可以通过以下公式表示:
A=fup(asub,n)
B=fup(bsub,n)
其中,fup表示上采样函数。
可选地,上述步骤12还可以具体包括:
基于第三卷积神经网络模型,通过所述第一分辨率SDR图像的导向图得到第二分辨率SDR图像的导向图。
其中,第三卷积神经网络模型用于对第一分辨率SDR图像的导向图进行上采样,得到第二分辨率SDR图像的导向图,实现了导向图的超分,其还可以称为CNN-C模块。
如图3所示,给出了CNN-C模块的处理流程图,将第一分辨率SDR图像的导向图输入CNN-C进行处理(这里CNN-C带有上采样的功能),从而得到第二分辨率SDR图像的导向图。
可选地,所述第一分辨率SDR图像的导向图可以是CNN-B输出第一分辨率SDR图像的导向图,即CNN-C可以直接针对CNN-B输出的第一分辨率SDR图像的导向图进行处理,得到第二分辨率SDR图像的导向图。
当然,作为另一种实现方式:CNN-C也可以相对于CNN-B独立,即CNN-C可以先基于第一分辨率SDR图像,得到第一分辨率SDR图像的导向图,进而再通过所述第一分辨率SDR图像的导向图得到第二分辨率SDR图像的导向图,本发明实施例不以此为限。
可选地,上述步骤12还可以具体包括:
根据所述第一分辨率SDR图像,得到第一分辨率SDR图像的导向图;
将所述第一分辨率SDR图像的导向图作为所述第三卷积神经网络模型的输入,并通过子像素卷积(Subpixel)处理得到第二分辨率SDR图像的导向图。
其中,根据所述第一分辨率SDR图像得到的第一分辨率SDR图像的导向图,可以是基于CNN-B输出的第一分辨率SDR图像的导向图,即CNN-C可以直接针对CNN-B输出的第一分辨率SDR图像的导向图进行处理得到第二分辨率SDR图像的导向图。
由于上述CNN-B已经得出较好的预测HDR图像,但是其过程中需要经过上采样得到滤波系数,该方式可能导致精度损失,因而可以通过微调g(SDR)的结果来弥补这部分的精度缺失,即通过第三卷积神经网络模型结合Subpixel的上采样处理得到大分辨率导向图的方式,可以弥补经过上采样得到滤波系数导致的准确度缺失的问题。
或者CNN-C也可以相对于CNN-B独立,即CNN-C可以先基于第一分辨率SDR图像得到第一分辨率SDR图像的导向图,进而再通过所述第一分辨率SDR图像的导向图得到第二分辨率SDR图像的导向图,本发明实施例不以此为限。
可选地,所述将所述第一分辨率SDR图像的导向图作为所述第三卷积神经网络模型的输入,并通过子像素卷积处理得到所述第二分辨率SDR图像的导向图的步骤之前,还可以具体包括:
通过执行以下步骤,训练得到所述第三卷积神经网络模型:
在所述第一卷积神经网络模型和所述第二卷积神经网络模型的参数固定的情况下,将所述第二卷积神经网络模型训练时输出的第一分辨率的导向图作为所述第三卷积神经网络模型的输入,并通过子像素卷积处理得到第二分辨率的导向图;
根据所述第二分辨率的导向图和所述第二卷积神经网络模型训练时输出的对应第二分辨率的滤波系数,得到预测的HDR图像。
例如:CNN-C的训练过程为:固定CNN-A和CNN-B的参数,将最终的HDR图像作为训练标签,将CNN-B输出的小分辨率的导向图作为CNN-C的输入,即将Isub输入三层3*3的网络结合Subpixel处理,得到大分辨率的导向图Iup,并结合导向图滤波系数a和b得出预测的HDR图像,以实现对CNN-C进行训练。其中,输出的预测HDR图像是与初始SDR图像尺寸相同的特征图。
可选地,上述步骤13可以具体包括:
通过公式:O=A*Iup+B,计算得到滤波后的图像O,即为第二分辨率HDR图像。如图4所示给出了通过导向图Iup和滤波系数A、B得到HDR图像的流程图。
本发明的实施例中,基于快速导向图滤波和卷积神经网络深度学习相结合的思想,实现了对于图像细节的还原和计算量的数倍节省,并且通过对导向图进行上采样,使最终的HDR图像在图像和质量上得到了保证,并且基于该实施例从SDR图像到SDR图像的映射,使得图像亮/暗区域的细节会更加明显,图像的亮度得到最大程度的还原,并且在不损失图像细节的基础上,提高了图像质量,保证了图像的颜色恢复。
此外,本发明的实施例中,基于快速导向图滤波、卷积神经网络及超分辨率相结合的思想,降低了滤波系数的计算复杂度,同时通过针对性训练的卷积神经网络分别放在整个网络的不同位置,既实现了SDR图像映射为高分辨率的HDR图像的加速,也增强了算法的鲁棒性。
以上实施例对本发明的图像处理方法进行了说明,下面结合附图对其对应的图像处理装置进行具体说明。
如图5所示,本发明实施例还提供了一种图像处理装置500,包括:
获取模块510,用于获取第一分辨率标准动态范围SDR图像;
第一处理模块520,用于根据第一分辨率SDR图像得到第二分辨率SDR图像的导向图和第二分辨率SDR图像的滤波系数;
第二处理模块530,用于根据所述第二分辨率SDR图像的导向图和所述第二分辨率SDR图像的滤波系数进行导向滤波处理,得到第二分辨率HDR图像;
其中,所述第二分辨率高于所述第一分辨率。
可选地,所述获取模块510包括:
获取子模块,用于获取初始SDR图像;
下采样子模块,用于对初始SDR图像进行下采样处理,得到第一分辨率SDR图像。
可选地,所述第一处理模块520包括:
第一处理子模块,用于基于第一卷积神经网络模型,通过所述第一分辨率SDR图像得到第一分辨率HDR图像;
第二处理子模块,用于基于第二卷积神经网络模型,通过所述第一分辨率SDR图像和所述第一分辨率HDR图像得到第二分辨率SDR图像的滤波系数。
可选地,所述第二处理子模块包括:
第一处理单元,用于根据所述第一分辨率SDR图像,得到第一分辨率SDR图像的导向图;
第二处理单元,用于根据所述第一分辨率HDR图像和所述第一分辨率SDR图像的导向图,计算得到第一分辨率SDR图像的滤波系数;
上采样单元,用于对所述第一分辨率SDR图像的滤波系数进行上采样处理,得到第二分辨率SDR图像的滤波系数。
可选地,所述第二处理单元包括:
第一计算子单元,用于根据所述第二卷积神经网络模型的卷积核半径和所述第一分辨率SDR图像对应的图像缩放比例值之间的比值,计算得到滤波半径rsub;
第一滤波子单元,用于基于半径为rsub的滤波窗口,对所述第一分辨率SDR图像的导向图Isub进行均值滤波处理,得到均值滤波处理后的第一图像Mi;
第二滤波子单元,用于基于半径为rsub的滤波窗口,对所述第一分辨率HDR图像psub进行均值滤波处理,得到均值滤波处理后的第二图像Mp;
第二计算子单元,用于根据所述Mi和所述Mp,计算得到第一分辨率SDR图像的滤波系数。
可选地,所述第二计算子单元具体用于:
根据所述Mi和所述Mp,计算得到所述Isub对应的方差图vari,以及所述Isub与所述psub之间的协方差图covip;
根据所述vari、所述covip和预设阈值ε,计算得到所述第一分辨率SDR图像的第一滤波系数asub;
根据所述Mi、所述Mp和所述asub,计算得到所述第一分辨率SDR图像的第二滤波系数bsub。
可选地,所述第二计算子单元执行所述根据所述Mi和所述Mp,计算得到所述Isub对应的方差图vari,以及所述Isub与所述psub之间的协方差图covip的步骤,还具体用于:
计算所述Isub和所述Isub的点积,在半径为rsub的滤波窗口覆盖下的第一均值corri;
计算所述Isub和所述psup的点积,在半径为rsub的滤波窗口覆盖下的第二均值corrip;
计算所述Mi和所述Mi的第一点积,并根据所述vari与所述第一点积之间的差值,计算得到所述vari;
计算所述Mi和所述Mp的第二点积,并根据所述covip与所述第二点积之间的差值,计算得到所述covip。
可选地,所述第二计算子单元执行所述根据所述vari、所述covip和预设阈值ε,计算得到所述第一分辨率SDR图像的第一滤波系数asub的步骤,还具体用于:
在半径为rsub的滤波窗口覆盖下,计算所述vari和所述ε的和值;
根据所述covip与所述和值的点除,计算得到所述第一滤波系数的平均值meana;
计算所述meana在半径为rsub的滤波窗口覆盖下的第三均值,并将所述第三均值作为所述asub。
可选地,所述第二计算子单元执行所述根据所述Mi、所述Mp、和所述asub,计算得到所述第一分辨率SDR图像的第二滤波系数bsub的步骤,还具体用于:
计算所述meana与所述Mi的第三点积,并根据所述Mp与所述第三点积之间的差值,计算得到所述第一滤波系数的平均值meanb;
计算所述meanb在半径为rsub的滤波窗口覆盖下的第四均值,并将所述第四均值作为所述bsub。
可选地,所述第一处理模块520包括:
第三处理子模块,用于根据所述第一分辨率SDR图像,得到第一分辨率SDR图像的导向图;
第四处理子模块,用于将所述第一分辨率SDR图像的导向图作为所述第三卷积神经网络模型的输入,并通过子像素卷积处理得到所述第二分辨率SDR图像的导向图。
可选地,所述图像处理装置500还包括:
训练模块,用于通过执行以下步骤,训练得到所述第三卷积神经网络模型:
在所述第一卷积神经网络模型和所述第二卷积神经网络模型的参数固定的情况下,将所述第二卷积神经网络模型训练时输出的第一分辨率的导向图作为所述第三卷积神经网络模型的输入,并通过子像素卷积处理得到第二分辨率的导向图;
根据所述第二分辨率的导向图和所述第二卷积神经网络模型训练时输出的对应第二分辨率的滤波系数,得到预测的HDR图像。
本发明实施例中的图像处理装置能够实现上述图像处理方法的相应功能,并能达到相同的技术效果,此处不再赘述。
本发明实施例中的装置500,通过获取到第一分辨率SDR图像,并基于第一分辨率SDR图像得到第二分辨率SDR图像的导向图和第二分辨率SDR图像的滤波系数,降低了滤波系数的计算复杂度;进而根据所述第二分辨率SDR图像的导向图和所述第二分辨率SDR图像的滤波系数进行导向滤波处理,得到第二分辨率HDR图像,即实现从SDR图像到HDR图像的映射,解决了现有技术中SDR图像到HDR图像的映射方法存在计算量大的问题。
如图6所示,本发明实施例还提供一种电子设备,包括处理器61、存储器62及存储在所述存储器62上并可在所述处理器61上运行的程序,所述处理器61执行所述程序时实现上述的图像处理方法的步骤。
可选地,所述处理器61用于:获取第一分辨率标准动态范围SDR图像;根据第一分辨率SDR图像得到第二分辨率SDR图像的导向图和第二分辨率SDR图像的滤波系数;根据所述第二分辨率SDR图像的导向图和所述第二分辨率SDR图像的滤波系数进行导向滤波处理,得到第二分辨率HDR图像;其中,所述第二分辨率高于所述第一分辨率。
可选地,所述处理器61用于:获取初始SDR图像;对初始SDR图像进行下采样处理,得到第一分辨率SDR图像。
可选地,所述处理器61用于:基于第一卷积神经网络模型,通过所述第一分辨率SDR图像得到第一分辨率HDR图像;基于第二卷积神经网络模型,通过所述第一分辨率SDR图像和所述第一分辨率HDR图像得到第二分辨率SDR图像的滤波系数。
可选地,所述处理器61用于:根据所述第一分辨率SDR图像,得到第一分辨率SDR图像的导向图;根据所述第一分辨率HDR图像和所述第一分辨率SDR图像的导向图,计算得到第一分辨率SDR图像的滤波系数;对所述第一分辨率SDR图像的滤波系数进行上采样处理,得到第二分辨率SDR图像的滤波系数。
可选地,所述处理器61用于:根据所述第二卷积神经网络模型的卷积核半径和所述第一分辨率SDR图像对应的图像缩放比例值之间的比值,计算得到滤波半径rsub;基于半径为rsub的滤波窗口,对所述第一分辨率SDR图像的导向图Isub进行均值滤波处理,得到均值滤波处理后的第一图像Mi;基于半径为rsub的滤波窗口,对所述第一分辨率HDR图像psub进行均值滤波处理,得到均值滤波处理后的第二图像Mp;根据所述Mi和所述Mp,计算得到第一分辨率SDR图像的滤波系数。
可选地,所述处理器61用于:根据所述Mi和所述Mp,计算得到所述Isub对应的方差图vari,以及所述Isub与所述psub之间的协方差图covip;根据所述vari、所述covip和预设阈值ε,计算得到所述第一分辨率SDR图像的第一滤波系数asub;根据所述Mi、所述Mp和所述asub,计算得到所述第一分辨率SDR图像的第二滤波系数bsub。
可选地,所述处理器61用于:计算所述Isub和所述Isub的点积,在半径为rsub的滤波窗口覆盖下的第一均值corri;计算所述Isub和所述psup的点积,在半径为rsub的滤波窗口覆盖下的第二均值corrip;计算所述Mi和所述Mi的第一点积,并根据所述vari与所述第一点积之间的差值,计算得到所述vari;计算所述Mi和所述Mp的第二点积,并根据所述covip与所述第二点积之间的差值,计算得到所述covip。
可选地,所述处理器61用于:在半径为rsub的滤波窗口覆盖下,计算所述vari和所述ε的和值;根据所述covip与所述和值的点除,计算得到所述第一滤波系数的平均值meana;计算所述meana在半径为rsub的滤波窗口覆盖下的第三均值,并将所述第三均值作为所述asub。
可选地,所述处理器61用于:计算所述meana与所述Mi的第三点积,并根据所述Mp与所述第三点积之间的差值,计算得到所述第一滤波系数的平均值meanb;计算所述meanb在半径为rsub的滤波窗口覆盖下的第四均值,并将所述第四均值作为所述bsub。
可选地,可选地,所述处理器61用于:根据所述第一分辨率SDR图像,得到第一分辨率SDR图像的导向图;将所述第一分辨率SDR图像的导向图作为所述第三卷积神经网络模型的输入,并通过子像素卷积处理得到所述第二分辨率SDR图像的导向图。
可选地,所述处理器61用于:通过执行以下步骤,训练得到所述第三卷积神经网络模型:
在所述第一卷积神经网络模型和所述第二卷积神经网络模型的参数固定的情况下,将所述第二卷积神经网络模型训练时输出的第一分辨率的导向图作为所述第三卷积神经网络模型的输入,并通过子像素卷积处理得到第二分辨率的导向图;
根据所述第二分辨率的导向图和所述第二卷积神经网络模型训练时输出的对应第二分辨率的滤波系数,得到预测的HDR图像。
本发明实施例中的电子设备,在处理器61执行所述程序时能够实现上述图像处理方法的对应功能,并能达到相同的技术效果,这里不再赘述。
本发明实施例中的电子设备,通过获取到第一分辨率SDR图像,并基于第一分辨率SDR图像得到第二分辨率SDR图像的导向图和第二分辨率SDR图像的滤波系数,降低了滤波系数的计算复杂度;进而根据所述第二分辨率SDR图像的导向图和所述第二分辨率SDR图像的滤波系数进行导向滤波处理,得到第二分辨率HDR图像,即实现从SDR图像到HDR图像的映射,解决了现有技术中SDR图像到HDR图像的映射方法存在计算量大的问题。
其中,总线架构可以包括任意数量的互联的总线和桥,具体由处理器61代表的一个或多个处理器61和存储器62代表的存储器62的各种电路链接在一起。总线架构还可以将诸如外围设备、稳压器和功率管理电路等之类的各种其他电路链接在一起,这些都是本领域所公知的,因此,本文不再对其进行进一步描述。
可选地,所述电子设备还可以包括:总线接口,用于提供接口。
可选地,所述电子设备还可以包括:收发机63可以是多个元件,即包括发送机和收发机,提供用于在传输介质上与各种其他装置通信的单元。处理器61负责管理总线架构和通常的处理,存储器62可以存储处理器在执行操作时所使用的数据。
本领域技术人员可以理解,实现上述实施例的全部或者部分步骤可以通过硬件来完成,也可以通过程序来指示相关的硬件来完成,所述程序包括执行上述方法的部分或者全部步骤的指令;且该程序可以存储于一可读存储介质中,存储介质可以是任何形式的存储介质。
另外,本发明具体实施例还提供一种可读存储介质,其上存储有程序,该程序被处理器执行时实现上述的信息处理方法中的步骤,且能达到相同的技术效果,为避免重复,这里不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露方法和装置,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理包括,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
上述以软件功能单元的形式实现的集成的单元,可以存储在一个可读取存储介质中。上述软件功能单元存储在一个存储介质中,包括若干指令用使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述收发方法的部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,简称ROM)、随机存取存储器(Random Access Memory,简称RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述的是本发明的优选实施方式,应当指出对于本技术领域的普通人员来说,在不脱离本发明所述的原理前提下还可以作出若干改进和润饰,这些改进和润饰也在本发明的保护范围内。
Claims (11)
1.一种图像处理方法,其特征在于,包括:
获取第一分辨率标准动态范围SDR图像;
根据第一分辨率SDR图像,得到第二分辨率SDR图像的导向图和第二分辨率SDR图像的滤波系数;
根据所述第二分辨率SDR图像的导向图和所述第二分辨率SDR图像的滤波系数进行导向滤波处理,得到第二分辨率HDR图像;
其中,所述第二分辨率高于所述第一分辨率。
2.根据权利要求1所述的图像处理方法,其特征在于,根据第一分辨率SDR图像,得到第二分辨率SDR图像的滤波系数,包括:
基于第一卷积神经网络模型,通过所述第一分辨率SDR图像得到第一分辨率HDR图像;
基于第二卷积神经网络模型,通过所述第一分辨率SDR图像和所述第一分辨率HDR图像得到第二分辨率SDR图像的滤波系数。
3.根据权利要求2所述的图像处理方法,其特征在于,所述通过所述第一分辨率SDR图像和所述第一分辨率HDR图像得到第二分辨率SDR图像的滤波系数,包括:
根据所述第一分辨率SDR图像,得到第一分辨率SDR图像的导向图;
根据所述第一分辨率HDR图像和所述第一分辨率SDR图像的导向图,计算得到第一分辨率SDR图像的滤波系数;
对所述第一分辨率SDR图像的滤波系数进行上采样处理,得到第二分辨率SDR图像的滤波系数。
4.根据权利要求3所述的图像处理方法,其特征在于,所述根据所述第一分辨率HDR图像和所述第一分辨率SDR图像的导向图,计算得到第一分辨率SDR图像的滤波系数,包括:
根据所述第二卷积神经网络模型的卷积核半径和所述第一分辨率SDR图像对应的图像缩放比例值之间的比值,计算得到滤波半径rsub;
基于半径为rsub的滤波窗口,对所述第一分辨率SDR图像的导向图Isub进行均值滤波处理,得到均值滤波处理后的第一图像Mi;
基于半径为rsub的滤波窗口,对所述第一分辨率HDR图像psub进行均值滤波处理,得到均值滤波处理后的第二图像Mp;
根据所述Mi和所述Mp,计算得到第一分辨率SDR图像的滤波系数。
5.根据权利要求4所述的图像处理方法,其特征在于,所述根据所述Mi和所述Mp,计算得到第一分辨率SDR图像的滤波系数,包括:
根据所述Mi和所述Mp,计算得到所述Isub对应的方差图vari,以及所述Isub与所述psub之间的协方差图covip;
根据所述vari、所述covip和预设阈值ε,计算得到所述第一分辨率SDR图像的第一滤波系数asub;
根据所述Mi、所述Mp和所述asub,计算得到所述第一分辨率SDR图像的第二滤波系数bsub。
6.根据权利要求5所述的图像处理方法,其特征在于,所述根据所述vari、所述covip和预设阈值ε,计算得到所述第一分辨率SDR图像的第一滤波系数asub,包括:
在半径为rsub的滤波窗口覆盖下,计算所述vari和所述ε的和值;
根据所述covip与所述和值的点除,计算得到所述第一滤波系数的平均值meana;
计算所述meana在半径为rsub的滤波窗口覆盖下的第三均值,并将所述第三均值作为所述asub。
7.根据权利要求6所述的图像处理方法,其特征在于,所述根据所述Mi、所述Mp和所述asub,计算得到所述第一分辨率SDR图像的第二滤波系数bsub,包括:
计算所述meana与所述Mi的第三点积,并根据所述Mp与所述第三点积之间的差值,计算得到所述第一滤波系数的平均值meanb;
计算所述meanb在半径为rsub的滤波窗口覆盖下的第四均值,并将所述第四均值作为所述bsub。
8.根据权利要求2所述的图像处理方法,其特征在于,根据第一分辨率SDR图像,得到第二分辨率SDR图像的导向图,包括:
根据所述第一分辨率SDR图像,得到第一分辨率SDR图像的导向图;
将所述第一分辨率SDR图像的导向图作为第三卷积神经网络模型的输入,并通过子像素卷积处理得到所述第二分辨率SDR图像的导向图。
9.根据权利要求8所述的图像处理方法,其特征在于,所述将所述第一分辨率SDR图像的导向图作为所述第三卷积神经网络模型的输入,并通过子像素卷积处理得到所述第二分辨率SDR图像的导向图之前,还包括:
通过执行以下步骤,训练得到所述第三卷积神经网络模型:
在所述第一卷积神经网络模型和所述第二卷积神经网络模型的参数固定的情况下,将所述第二卷积神经网络模型训练时输出的第一分辨率的导向图作为所述第三卷积神经网络模型的输入,并通过子像素卷积处理得到第二分辨率的导向图;
根据所述第二分辨率的导向图和所述第二卷积神经网络模型训练时输出的对应第二分辨率的滤波系数,得到预测的HDR图像。
10.一种电子设备,其特征在于,包括:处理器、存储器及存储在所述存储器上并可在所述处理器上运行的程序,所述处理器执行所述程序时实现如权利要求1至9中任一项所述的图像处理方法的步骤。
11.一种可读存储介质,其特征在于,所述可读存储介质上存储有程序,所述程序被处理器执行时实现如权利要求1至9中任一项所述的图像处理方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011031575.1A CN112200719B (zh) | 2020-09-27 | 2020-09-27 | 图像处理方法、电子设备及可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011031575.1A CN112200719B (zh) | 2020-09-27 | 2020-09-27 | 图像处理方法、电子设备及可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112200719A true CN112200719A (zh) | 2021-01-08 |
CN112200719B CN112200719B (zh) | 2023-12-12 |
Family
ID=74006661
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011031575.1A Active CN112200719B (zh) | 2020-09-27 | 2020-09-27 | 图像处理方法、电子设备及可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112200719B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023010749A1 (zh) * | 2021-08-02 | 2023-02-09 | 中国科学院深圳先进技术研究院 | 一种hdr视频转换方法、装置、设备及计算机存储介质 |
WO2023205548A1 (en) | 2022-04-21 | 2023-10-26 | Dolby Laboratories Licensing Corporation | Generating hdr image from corresponding camera raw and sdr images |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105745914A (zh) * | 2013-11-22 | 2016-07-06 | 杜比实验室特许公司 | 用于逆色调映射的方法和系统 |
US20170103729A1 (en) * | 2015-10-09 | 2017-04-13 | Stmicroelectronics Asia Pacific Pte Ltd | Enhanced tone mapper for high dynamic range images and video |
GB2549696A (en) * | 2016-04-13 | 2017-11-01 | Sony Corp | Image processing method and apparatus, integrated circuitry and recording medium |
CN108269280A (zh) * | 2018-01-05 | 2018-07-10 | 厦门美图之家科技有限公司 | 一种深度图像的处理方法及移动终端 |
CN108376386A (zh) * | 2018-03-23 | 2018-08-07 | 深圳天琴医疗科技有限公司 | 一种图像的超分辨率模型的构建方法及装置 |
CN109785239A (zh) * | 2017-11-13 | 2019-05-21 | 华为技术有限公司 | 图像处理的方法和装置 |
CN109978764A (zh) * | 2019-03-11 | 2019-07-05 | 厦门美图之家科技有限公司 | 一种图像处理方法及计算设备 |
CN110428387A (zh) * | 2018-11-16 | 2019-11-08 | 西安电子科技大学 | 基于深度学习与矩阵分解的高光谱与全色图像融合方法 |
CN110717868A (zh) * | 2019-09-06 | 2020-01-21 | 上海交通大学 | 视频高动态范围反色调映射模型构建、映射方法及装置 |
CN111145097A (zh) * | 2019-12-31 | 2020-05-12 | 华为技术有限公司 | 图像处理方法、装置和图像处理系统 |
CN111683269A (zh) * | 2020-06-12 | 2020-09-18 | 腾讯科技(深圳)有限公司 | 视频处理方法、装置、计算机设备和存储介质 |
-
2020
- 2020-09-27 CN CN202011031575.1A patent/CN112200719B/zh active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105745914A (zh) * | 2013-11-22 | 2016-07-06 | 杜比实验室特许公司 | 用于逆色调映射的方法和系统 |
US20170103729A1 (en) * | 2015-10-09 | 2017-04-13 | Stmicroelectronics Asia Pacific Pte Ltd | Enhanced tone mapper for high dynamic range images and video |
GB2549696A (en) * | 2016-04-13 | 2017-11-01 | Sony Corp | Image processing method and apparatus, integrated circuitry and recording medium |
CN109785239A (zh) * | 2017-11-13 | 2019-05-21 | 华为技术有限公司 | 图像处理的方法和装置 |
CN108269280A (zh) * | 2018-01-05 | 2018-07-10 | 厦门美图之家科技有限公司 | 一种深度图像的处理方法及移动终端 |
CN108376386A (zh) * | 2018-03-23 | 2018-08-07 | 深圳天琴医疗科技有限公司 | 一种图像的超分辨率模型的构建方法及装置 |
CN110428387A (zh) * | 2018-11-16 | 2019-11-08 | 西安电子科技大学 | 基于深度学习与矩阵分解的高光谱与全色图像融合方法 |
CN109978764A (zh) * | 2019-03-11 | 2019-07-05 | 厦门美图之家科技有限公司 | 一种图像处理方法及计算设备 |
CN110717868A (zh) * | 2019-09-06 | 2020-01-21 | 上海交通大学 | 视频高动态范围反色调映射模型构建、映射方法及装置 |
CN111145097A (zh) * | 2019-12-31 | 2020-05-12 | 华为技术有限公司 | 图像处理方法、装置和图像处理系统 |
CN111683269A (zh) * | 2020-06-12 | 2020-09-18 | 腾讯科技(深圳)有限公司 | 视频处理方法、装置、计算机设备和存储介质 |
Non-Patent Citations (1)
Title |
---|
王峰; 严利民: "一种亮度分区和导向滤波相结合的色调映射算法", 《液晶与显示》, vol. 34, no. 10, pages 1000 - 1005 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023010749A1 (zh) * | 2021-08-02 | 2023-02-09 | 中国科学院深圳先进技术研究院 | 一种hdr视频转换方法、装置、设备及计算机存储介质 |
WO2023205548A1 (en) | 2022-04-21 | 2023-10-26 | Dolby Laboratories Licensing Corporation | Generating hdr image from corresponding camera raw and sdr images |
Also Published As
Publication number | Publication date |
---|---|
CN112200719B (zh) | 2023-12-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11537873B2 (en) | Processing method and system for convolutional neural network, and storage medium | |
CN109472270B (zh) | 图像风格转换方法、装置及设备 | |
US10198801B2 (en) | Image enhancement using self-examples and external examples | |
CN111754438B (zh) | 基于多分支门控融合的水下图像复原模型及其复原方法 | |
CN111784582B (zh) | 一种基于dec_se的低照度图像超分辨率重建方法 | |
CN110992265B (zh) | 图像处理方法及模型、模型的训练方法及电子设备 | |
Panetta et al. | Tmo-net: A parameter-free tone mapping operator using generative adversarial network, and performance benchmarking on large scale hdr dataset | |
CN116051428B (zh) | 一种基于深度学习的联合去噪与超分的低光照图像增强方法 | |
KR100860968B1 (ko) | 해상도 향상 장치 및 방법 | |
JP2007507809A (ja) | レティネックス型アルゴリズムを高速化する方法 | |
WO2021115403A1 (zh) | 一种图像的处理方法及装置 | |
CN112801904B (zh) | 一种基于卷积神经网络的混合退化图像增强方法 | |
CN112200719A (zh) | 图像处理方法、电子设备及可读存储介质 | |
Chen et al. | Structure-preserving and color-restoring up-sampling for single low-light image | |
CN114830168A (zh) | 图像重建方法、电子设备和计算机可读存储介质 | |
Zhu et al. | Low-light image enhancement network with decomposition and adaptive information fusion | |
CN110717864A (zh) | 一种图像增强方法、装置、终端设备及计算机可读介质 | |
Lai et al. | A two-stage and two-branch generative adversarial network-based underwater image enhancement | |
Zhang et al. | A cross-scale framework for low-light image enhancement using spatial–spectral information | |
CN111161189A (zh) | 一种基于细节弥补网络的单幅图像再增强方法 | |
CN108921785B (zh) | 基于小波包的超分辨率重建方法 | |
KR20070063781A (ko) | 색역 내에 존재하는 색상을 영상 적응적으로 조절하는 방법및 장치 | |
KR101242069B1 (ko) | 개선된 영상 생성모델과 적응적 필터를 이용한 컬러 영상 보정방법 | |
WO2020241337A1 (ja) | 画像処理装置 | |
CN113689333A (zh) | 一种图像增强的方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |