CN111263128A - 图像插值方法及装置、存储介质、终端 - Google Patents

图像插值方法及装置、存储介质、终端 Download PDF

Info

Publication number
CN111263128A
CN111263128A CN201811462532.1A CN201811462532A CN111263128A CN 111263128 A CN111263128 A CN 111263128A CN 201811462532 A CN201811462532 A CN 201811462532A CN 111263128 A CN111263128 A CN 111263128A
Authority
CN
China
Prior art keywords
interpolated
point
wavelet
neighborhood
component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201811462532.1A
Other languages
English (en)
Other versions
CN111263128B (zh
Inventor
张玉光
杨傲
吴佩媛
彭晓峰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Spreadtrum Communications Shanghai Co Ltd
Original Assignee
Spreadtrum Communications Shanghai Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Spreadtrum Communications Shanghai Co Ltd filed Critical Spreadtrum Communications Shanghai Co Ltd
Priority to CN201811462532.1A priority Critical patent/CN111263128B/zh
Publication of CN111263128A publication Critical patent/CN111263128A/zh
Application granted granted Critical
Publication of CN111263128B publication Critical patent/CN111263128B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

一种图像插值方法及装置、存储介质、终端,图像插值方法包括:获取待插值图像,所述待插值图像为4cell格式图像;对所述待插值图像进行一级Haar小波分解,以得到多个待插值子带,所述多个待插值子带包括低频子带和三个高频子带,所述多个待插值子带中每个待插值点具备单个颜色分量;在每个待插值子带中,根据待插值点处小波系数的邻域信息进行颜色插值得到缺失的颜色分量的小波系数估计值,以得到在各个颜色通道下的低频子带和三个高频子带;根据所述各个颜色通道下的低频子带和三个高频子带进行一级Haar小波重构,以得到插值后的全彩色图像。本发明技术方案能够实现从4cell格式传感器所获取的图像得到全彩色图像。

Description

图像插值方法及装置、存储介质、终端
技术领域
本发明涉及图像处理技术领域,尤其涉及一种图像插值方法及装置、存储介质、终端。
背景技术
一幅数字彩色图像通常由红(Red)、绿(Green)、蓝(Blue)三幅单色图像所构成。处于成本考虑,目前大部分数字图像采集设备使用的是单个传感器。用于采集数字图像的传感器主要分为两种:电荷耦合器件(Charge Coupled Device,CCD)以及互补金属氧化物主动式像素传感器(Complementary Metal Oxide Semiconductor,CMOS)。通常会在CCD或者CMOS表面上覆盖一层彩色滤波阵列(Color Filter Array,CFA)。由于简单而高效,Bayer格式的CFA是目前应用最为广泛的一种。在基于CFA的传感器中每个像素点只采集一种颜色,而另外两种缺失的颜色值则根据其邻域信息来插值,这一插值过程被称为“去马赛克”(demosaicking)。
近些年出现了一种Bayer阵列的改良型4cell格式彩色滤波阵列,其特征在于每相邻的四个像素点具有相同的颜色分量,它的排列组合方式有四种,请参照图1至图4,分别是BBBB-GGGG-GGGG-RRRR(图1),GGGG-BBBB-GGGG-RRRR(图2),RRRR-GGGG-GGGG-BBBB(图3),和GGGG-RRRR-GGGG-BBBB(图4)。与Bayer格式传感器相比,4cell格式传感器中相同颜色通道具有更高的感光面积,因此4cell格式传感器具有更高的信噪比。
CFA图像去马赛克技术按照是否利用到相关性原则可以把这些分为两大类:一类是没有利用任何相关性的方法,例如最邻近插值、双线性插值等。这一类算法容易实现,在平滑区域也可以得到比较满意的结果,但在高频区域会产生严重的人工痕迹(如伪彩色效应、摩尔纹等)。另一类是利用相关性的方法,这里提到的相关性指的是每个颜色通道内像素间空间关系的相关性和多通道间颜色的相关性。这一类自适应算法常常结合了对图像细节的分析判断以及颜色通道之间的相关性,插值效果要明显优于前一类。现有的CFA图像去马赛克技术大部分是基于Bayer格式的,但是如何从4cell格式图像得到全彩色图像是一个亟待解决的问题。
发明内容
本发明解决的技术问题是如何实现从4cell格式传感器所获取的图像得到全彩色图像。
为解决上述技术问题,本发明实施例提供一种图像插值方法,图像插值方法包括:获取待插值图像,所述待插值图像为4cell格式图像;对所述待插值图像进行一级Haar小波分解,以得到多个待插值子带,所述多个待插值子带包括低频子带和三个高频子带,所述多个待插值子带均为Bayer格式图像,所述多个待插值子带中每个待插值点具备单个颜色分量;在每个待插值子带中,根据待插值点处小波系数的邻域信息进行颜色插值得到缺失的颜色分量的小波系数估计值,以得到在各个颜色通道下的低频子带和三个高频子带;根据所述各个颜色通道下的低频子带和三个高频子带进行一级Haar小波重构,以得到插值后的全彩色图像。
可选的,所述在每个待插值子带中,根据待插值点处小波系数的邻域信息进行颜色插值得到缺失的颜色分量的小波系数估计值,以得到在各个颜色通道下的低频子带和三个高频子带包括:如果待插值点具备红色分量或蓝色分量,则分别计算所述待插值点在上下左右四个方向上具备绿色分量的小波系数估计值;利用一级Haar小波分解后的水平和垂直高频子带分别计算所述待插值点的上方和下方梯度值,以及左方和右方梯度值;根据所述待插值点在上下左右四个方向上具备绿色分量的小波系数估计值,以及所述待插值点的上方和下方梯度值、左方和右方梯度值计算所述待插值点处缺失的绿色分量的小波系数估计值。
可选的,所述方法还包括:如果待插值点具备蓝色分量,则在低频子带中计算待插值点处的红绿色比值,并根据所述红绿色比值和绿色分量的小波系数估计值计算缺失的红色分量的小波系数估计值。
可选的,所述方法还包括:如果待插值点具备红色分量,则在低频子带中计算待插值点处的蓝绿色比值,并根据所述蓝绿色比值和绿色分量的小波系数估计值计算缺失的蓝色分量的小波系数估计值。
可选的,所述方法还包括:如果待插值点具备绿色分量,则在低频子带中计算待插值点处的红绿色比值和蓝绿色比值,并根据所述红绿色比值和蓝绿色比值以及绿色分量的小波系数真实值分别计算缺失的红色分量和蓝色分量的小波系数估计值。
可选的,所述三个高频子带包括水平高频子带、垂直高频子带和对角高频子带;所述分别计算所述待插值点的上方和下方梯度值,以及左方和右方梯度值包括:在所述水平高频子带中,选取处于与所述待插值点相同位置的上方邻域内小波系数,以作为第一邻域系数,并计算所述第一邻域系数中每个小波系数的绝对值之和,以作为所述待插值点的上方梯度值;在所述水平高频子带中,选取处于与所述待插值点相同位置的下方邻域内小波系数,以作为第二邻域系数,并计算所述第二邻域小波系数中每个小波系数的绝对值之和,以作为所述待插值点的下方梯度值;在所述垂直高频子带中,选取处于与所述待插值点相同位置的左方邻域内小波系数,以作为第三邻域系数,并计算所述第三邻域系数中每个小波系数的绝对值之和,以作为所述待插值点的左方梯度值;在所述垂直高频子带中,选取处于与所述待插值点相同位置的右方邻域内小波系数,以作为第四邻域系数,并计算所述第四邻域小波系数中每个小波系数的绝对值之和,以作为所述待插值点的右方梯度值。
为解决上述技术问题,本发明实施例还公开了一种图像插值装置,图像插值装置包括:待插值图像获取模块,适于获取待插值图像,所述待插值图像为4cell格式图像;一级Haar小波分解模块,适于对所述待插值图像进行一级Haar小波分解,以得到多个待插值子带,所述多个待插值子带包括低频子带和三个高频子带,所述多个待插值子带均为Bayer格式图像,所述多个待插值子带中每个待插值点具备单个颜色分量;颜色插值模块,适于在每个待插值子带中,根据每个待插值点处小波系数的邻域信息进行颜色插值得到缺失的颜色分量的小波系数估计值,以得到在各个颜色通道下的低频子带和三个高频子带;Haar小波重构模块,适于根据所述各个颜色通道下的低频子带和三个高频子带进行一级Haar小波重构,以得到插值后的全彩色图像。
可选的,所述颜色插值模块包括:绿色分量计算单元,适于如果待插值点具备红色分量或蓝色分量,则分别计算所述待插值点在上下左右四个方向上具备绿色分量的小波系数估计值;梯度计算单元,适于分别计算所述待插值点的上方和下方梯度值,以及左方和右方梯度值;绿色分量估计单元,适于根据所述待插值点在上下左右四个方向上具备绿色分量的小波系数估计值,以及所述待插值点的上方和下方梯度值、左方和右方梯度值计算所述待插值点处缺失的绿色分量的小波系数估计值。
可选的,所述颜色插值模块还包括:红色分量估计单元,适于如果待插值点具备蓝色分量(或者绿色分量),则在低频子带中计算待插值点处的红绿色比值,并根据所述红绿色比值和绿色分量的小波系数估计值(或者真实值)计算缺失的红色分量的小波系数估计值。
可选的,所述颜色插值模块还包括:蓝色分量估计单元,适于如果待插值点具备红色分量(或者绿色分量),则在低频子带中计算待插值点处的蓝绿色比值,并根据所述蓝绿色比值和绿色分量的小波系数估计值(或者真实值)计算缺失的蓝色分量的小波系数估计值。
可选的,所述梯度计算单元包括:上方梯度计算子单元,适于在所述水平高频子带中,选取处于与所述待插值点相同位置的上方邻域内小波系数,以作为第一邻域系数,并计算所述第一邻域系数中每个小波系数的绝对值之和,以作为所述待插值点的上方梯度值;下方梯度计算子单元,适于在所述水平高频子带中,选取处于与所述待插值点相同位置的下方邻域内小波系数,以作为第二邻域系数,并计算所述第二邻域系数中每个小波系数的绝对值之和,以作为所述待插值点的下方梯度值;左方梯度计算子单元,适于在所述垂直高频子带中,选取处于与所述待插值点相同位置的左方邻域内小波系数,以作为第三邻域系数,并计算所述第三邻域系数中每个小波系数的绝对值之和,以作为所述待插值点的左方梯度值;右方梯度计算子单元,适于在所述垂直高频子带中,选取处于与所述待插值点相同位置的右方邻域内小波系数,以作为第四邻域系数,并计算所述第四邻域系数中每个小波系数的绝对值之和,以作为所述待插值点的右方梯度值。
本发明实施例还公开了一种存储介质,其上存储有计算机指令,所述计算机指令运行时执行所述图像插值方法的步骤。
本发明实施例还公开了一种终端,包括存储器和处理器,所述存储器上存储有可在所述处理器上运行的计算机指令,所述处理器运行所述计算机指令时执行所述图像插值方法的步骤。
与现有技术相比,本发明实施例的技术方案具有以下有益效果:
本发明技术方案通过将4cell图像进行一级Haar小波分解,可以得到多个待插值子带,也即低频子带和三个高频子带;并且由于待插值子带的格式为拜耳格式,因此能够在待插值子带中进行颜色插值,从而能够获得各个待插值子带中各个待插值点的三个颜色分量信息;进而通过小波重构获得与待插值图像具备相同分辨率的全彩色图像。
进一步地,三个高频子带包括水平高频子带、垂直高频子带和对角高频子带;所述水平高频子带用于描述待插值图像的水平边缘,所述垂直高频子带用于描述待插值图像的垂直边缘,且梯度与边缘是相互垂直的,故而可以利用水平高频子带中的小波系数计算待插值点的上方以及下方梯度值,并利用垂直高频子带中的小波系数计算待插值点的左方以及右方梯度值,以实现绿色分量小波系数估计的便捷性。
附图说明
图1至图4是四种基本的4cell格式彩色滤波阵列的示意图;
图5是本发明实施例一种图像插值方法的流程图;
图6是图5所示步骤S503的一种具体实施方式的流程图;
图7是本发明实施例中一种典型Bayer格式彩色滤波阵列的示意图;
图8是图5所示步骤S503的另一种具体实施方式的流程图;
图9是本发明实施例中另一种典型Bayer格式彩色滤波阵列的示意图;
图10是本发明实施例中又一种典型Bayer格式彩色滤波阵列的示意图;
图11是本发明实施例中再一种典型Bayer格式彩色滤波阵列的示意图;
图12是本发明实施例一种图像插值装置的结构示意图。
具体实施方式
如背景技术中所述,如何从4cell格式图像得到全彩色图像是一个亟待解决的问题。
本申请发明人发现,目前的颜色插值,也称为去马赛克(demosaicing)主要是针对Bayer格式图像的。利用插值的方法将Bayer格式图像中每个像素只有一种基色的马赛克图像变换成每个像素都包含红、绿、蓝三色的全彩色图像。并且本申请发明人还发现,由于4cell格式的传感器采集到的CFA图像中每相邻的四个像素点具有相同的颜色分量,所以可以进行一级Haar小波分解,而且分解后得到的低频子带和三个高频子带均为Bayer格式图像。因此可以间接地利用基于Bayer格式图像的插值方法在分解后的子带图像中进行颜色插值,从而获得各个颜色通道下的低频子带和三个高频子带;进而通过一级Haar小波重构获得与待插值图像具备相同分辨率的全彩色图像。
为使本发明的上述目的、特征和优点能够更为明显易懂,下面结合附图对本发明的具体实施例做详细的说明。
图5是本发明实施例一种图像插值方法的流程图。
所述图像插值方法可以包括以下步骤:
步骤S501:获取待插值图像,所述待插值图像为4cell格式图像;
步骤S502:对所述待插值图像进行一级Haar小波分解,以得到多个待插值子带,所述多个待插值子带包括低频子带和三个高频子带,所述多个待插值子带均为Bayer格式图像,所述多个待插值子带中每个待插值点具备单个颜色分量;
步骤S503:在每个待插值子带中,根据待插值点处小波系数的邻域信息进行颜色插值得到缺失的颜色分量的小波系数估计值,以得到在各个颜色通道下的低频子带和三个高频子带;
步骤S504:根据所述各个颜色通道下的低频子带和三个高频子带进行一级Haar小波重构,以得到插值后的全彩色图像。
需要指出的是,本实施例中各个步骤的序号并不代表对各个步骤的执行顺序的限定。
在步骤S502的具体实施中,对所述待插值图像进行一级Haar小波分解,以得到低频子带和三个高频子带。
具体而言,对分辨率为M×N的待插值图像I4cell(x,y)进行如下的一级Haar小波分解:
Figure BDA0001887422060000071
Figure BDA0001887422060000072
Figure BDA0001887422060000073
Figure BDA0001887422060000074
其中,函数L(x)、L(y)是低通滤波器,函数H(x)、H(y)是高通滤波器。
Figure BDA0001887422060000075
是分辨率为(M/2)×(N/2)的低频子带,
Figure BDA0001887422060000076
是分辨率为(M/2)×(N/2)的垂直高频子带,
Figure BDA0001887422060000077
是分辨率为(M/2)×(N/2)的水平高频子带,
Figure BDA0001887422060000078
是分辨率为(M/2)×(N/2)的对角高频子带,并且低频子带和上述三个高频子带都是Bayer格式图像。
在步骤S503的具体实施中,可以利用分解后的待插值子带
Figure BDA0001887422060000079
Figure BDA00018874220600000710
Figure BDA00018874220600000711
进行颜色插值以得到各个颜色通道下的低频子带和三个高频子带。
例如,如果在待插值子带中待插值点(i,j)处具备红色R分量,则通过颜色插值可以估计出缺失的绿色G分量的一级Haar小波系数
Figure BDA00018874220600000712
Figure BDA00018874220600000713
Figure BDA00018874220600000714
以及缺失的蓝色B分量的一级Haar小波系数
Figure BDA00018874220600000715
Figure BDA00018874220600000716
Figure BDA00018874220600000717
或者,如果在待插值子带中待插值点(i,j)处具备绿色G分量,则通过颜色插值可以估计出缺失的红色R分量的一级Haar小波系数
Figure BDA00018874220600000718
Figure BDA00018874220600000719
以及缺失的蓝色B分量的一级Haar小波系数
Figure BDA00018874220600000720
Figure BDA00018874220600000721
或者,如果在待插值子带中待插值点(i,j)处具备蓝色B分量,则通过颜色插值可以估计出缺失的绿色G分量的一级Haar小波系数
Figure BDA00018874220600000722
Figure BDA00018874220600000723
以及缺失的红色R分量的一级Haar小波系数
Figure BDA00018874220600000724
Figure BDA0001887422060000081
由于4cell格式图像中绿色像素点是红色(或者蓝色)像素点的两倍,那么经过一级Haar小波分解之后的各个子带中具备绿色分量的小波系数是红色分量(或者蓝色分量)的小波系数的两倍,因此,可以利用小波子带的空间关系和多通道间颜色的相关性,先计算出缺失的绿色分量的小波系数估计值,进一步地利用绿色分量的小波系数估计值和真实值计算出缺失的红色分量的小波系数估计值和蓝色分量的小波系数估计值。
本发明一个非限制性的实施例中,请参照图6,在图5所示的步骤S503中计算缺失的绿色分量的小波系数估计值可以包括以下步骤:
步骤S601:对于各个待插值子带,如果待插值点具备红色分量或蓝色分量,则分别计算所述待插值点在上下左右四个方向上具备绿色分量的小波系数估计值;
步骤S602:利用一级Haar小波分解后的水平和垂直高频子带分别计算所述待插值点的上方和下方梯度值,以及左方和右方梯度值;
步骤S603:根据所述待插值点在上下左右四个方向上具备绿色分量的小波系数估计值,以及所述待插值点的上方和下方梯度值、左方和右方梯度值计算所述待插值点处缺失的绿色分量的小波系数估计值。
在步骤S601的具体实施中,请参照图7,如果待插值子带
Figure BDA0001887422060000082
中待插值点(i,j)处具备红色R分量,其中F∈{LL,HL,LH,HH},可以采用如下公式计算待插值点(i,j)处上下左右四个方向上具备绿色G分量的小波系数估计值:
Figure BDA0001887422060000083
Figure BDA0001887422060000084
Figure BDA0001887422060000085
Figure BDA0001887422060000091
Figure BDA0001887422060000092
其中,上标数字1~4分别表示上下左右四个方向。
本发明一个优选实施例中,图6所示步骤S602可以包括以下步骤:
在所述水平高频子带中,选取处于与所述待插值点相同位置的上方邻域内的小波系数,以作为第一邻域系数,并计算所述第一邻域系数中每个小波系数的绝对值之和,以作为所述待插值点的上方梯度值;
在所述水平高频子带中,选取处于与所述待插值点相同位置的下方邻域内的小波系数,以作为第二邻域系数,并计算所述第二邻域系数中每个小波系数的绝对值之和,以作为所述待插值点的下方梯度值;
在所述垂直高频子带中,选取处于与所述待插值点相同位置的左方邻域内的小波系数,以作为第三邻域系数,并计算所述第三邻域系数中每个小波系数的绝对值之和,以作为所述待插值点的左方梯度值;
在所述垂直高频子带中,选取处于与所述待插值点相同位置的右方邻域内的小波系数,以作为第四邻域系数,并计算所述第四邻域系数中每个小波系数的绝对值之和,以作为所述待插值点的右方梯度值。
具体地,继续参照图7,可以利用水平高频子带
Figure BDA0001887422060000093
计算待插值点(i,j)的上方和下方梯度值:
Figure BDA0001887422060000094
Figure BDA0001887422060000095
可以利用垂直高频子带
Figure BDA0001887422060000096
计算待插值点(i,j)的左方和右方梯度值:
Figure BDA0001887422060000101
Figure BDA0001887422060000102
进一步地,利用上述四个方向的梯度值可以计算出四个方向的权重值如下:
Figure BDA0001887422060000103
根据上述四个方向的绿色G分量的小波系数估计值和相对应的权重值按照如下公式计算待插值点(i,j)处缺失的绿色G分量的小波系数估计值:
Figure BDA0001887422060000104
需要说明的是如果待插值子带中待插值点处具备蓝色分量,同样可以参照上述方法计算出缺失的绿色分量的小波系数估计值,此处不再赘述。
因此,当待插值点按照步骤S601~S603遍历待插值子带
Figure BDA0001887422060000105
Figure BDA0001887422060000106
Figure BDA0001887422060000107
后,可以得到绿色G通道下的低频子带
Figure BDA0001887422060000108
以及三个高频子带
Figure BDA0001887422060000109
Figure BDA00018874220600001010
在本发明另一个非限制性的实施例中,请参照图8,在图5所示的步骤S503中计算缺失的红色分量和蓝色分量的小波系数估计值可以包括以下步骤:
步骤S801:如果待插值点具备蓝色分量,则在低频子带中计算待插值点处的红绿色比值,并根据所述红绿色比值和绿色分量的小波系数估计值计算缺失的红色分量的小波系数估计值;
步骤S802:如果待插值点具备红色分量,则在低频子带中计算待插值点处的蓝绿色比值,并根据所述蓝绿色比值和绿色分量的小波系数估计值计算缺失的蓝色分量的小波系数估计值;
步骤S803:如果待插值点具备绿色分量,则在低频子带中计算待插值点处的红绿色比值和蓝绿色比值,并根据所述红绿色比值和蓝绿色比值以及绿色分量的小波系数真实值分别计算缺失的红色分量和蓝色分量的小波系数估计值。
在步骤S801的具体实施中,请参照图9,假设待插值子带
Figure BDA0001887422060000111
中待插值点(i,j)处具备蓝色B分量,其中F∈{LL,HL,LH,HH}。在低频子带
Figure BDA0001887422060000112
中利用待插值点的3×3邻域内具备红色分量的小波系数真实值和绿色分量的小波系数估计值按照如下公式计算待插值点(i,j)处红绿色比值:
Figure BDA0001887422060000113
根据红绿色比值R_ratio和绿色分量的小波系数估计值
Figure BDA0001887422060000114
计算待插值点(i,j)处缺失的红色R分量的小波系数估计值为:
Figure BDA0001887422060000115
在步骤S802的具体实施中,请参照图10,假设待插值子带
Figure BDA0001887422060000116
中待插值点(i,j)处具备红色R分量,其中F∈{LL,HL,LH,HH}。在低频子带
Figure BDA0001887422060000117
中利用待插值点的3×3邻域内具备蓝色分量的小波系数真实值和绿色分量的小波系数估计值按照如下公式计算待插值点(i,j)处蓝绿色比值:
Figure BDA0001887422060000118
根据红绿色比值B_ratio和绿色分量的小波系数估计值
Figure BDA0001887422060000119
计算待插值点(i,j)处缺失的蓝色B分量的小波系数估计值为:
Figure BDA00018874220600001110
在步骤S803的具体实施中,请参照图11,假设待插值子带
Figure BDA00018874220600001111
中待插值点(i,j)处具备绿色G分量,其中F∈{LL,HL,LH,HH}。在低频子带
Figure BDA00018874220600001112
中利用待插值点的3×3邻域内具备红色分量的小波系数真实值和绿色分量的小波系数估计值按照如下公式计算待插值点(i,j)处红绿色比值:
Figure BDA0001887422060000121
根据红绿色比值R_ratio和具备绿色分量的小波系数真实值GF(i,j)计算待插值点(i,j)处缺失的红色R分量的小波系数估计值为:
Figure BDA0001887422060000122
另外,在低频子带
Figure BDA0001887422060000123
中利用待插值点的3×3邻域内具备蓝色分量的小波系数真实值和绿色分量的小波系数估计值按照如下公式计算待插值点(i,j)处蓝绿色比值:
Figure BDA0001887422060000124
根据蓝绿色比值B_ratio和具备绿色分量的小波系数真实值GF(i,j)计算待插值点(i,j)处缺失的蓝色B分量的小波系数估计值为:
Figure BDA0001887422060000125
因此,当待插值点按照步骤S801~S803遍历待插值子带
Figure BDA0001887422060000126
Figure BDA0001887422060000127
Figure BDA0001887422060000128
后,可以得到红色R通道下的低频子带
Figure BDA0001887422060000129
以及三个高频子带
Figure BDA00018874220600001210
Figure BDA00018874220600001211
也可以得到蓝色B通道下的低频子带
Figure BDA00018874220600001212
以及三个高频子带
Figure BDA00018874220600001213
Figure BDA00018874220600001214
进而在步骤S504中,可以利用各个颜色通道下的低频子带和三个高频子带进行一级Haar小波重构,以获得与待插值图像分辨率相同的插值后的全彩色图像。
具体而言,将红色R通道下的子带
Figure BDA00018874220600001215
Figure BDA00018874220600001216
经过一级Haar小波重构可以获得分辨率为M×N的红色平面
Figure BDA00018874220600001217
将绿色G通道下的子带
Figure BDA00018874220600001218
Figure BDA00018874220600001219
经过一级Haar小波重构可以获得分辨率为M×N的绿色平面
Figure BDA00018874220600001220
将蓝色B通道下的子带
Figure BDA00018874220600001221
Figure BDA00018874220600001222
经过一级Haar小波重构可以获得分辨率为M×N的蓝色平面
Figure BDA00018874220600001223
因此,插值后的图像为分辨率为M×N的全彩色图像
Figure BDA00018874220600001224
具体而言,可以采用如下公式计算各个颜色平面:
Figure BDA00018874220600001225
Figure BDA0001887422060000131
Figure BDA0001887422060000132
其中,X∈{R,G,B},函数
Figure BDA0001887422060000133
是低通滤波器L(z)的共轭,函数
Figure BDA0001887422060000134
是高通滤波器H(z)的共轭。
请参照图12,图像插值装置120可以包括待插值图像获取模块1201、一级Haar小波分解模块1202、颜色插值模块1203和Haar小波重构模块1204。
其中,待插值图像获取模块1201适于获取待插值图像,所述待插值图像为4cell格式图像;一级Haar小波分解模块1202适于对所述待插值图像进行一级Haar小波分解,以得到多个待插值子带,所述多个带插值子带包括低频子带和三个高频子带,所述多个待插值子带均为Bayer格式图像,所述多个待插值子带中每个待插值点具备单个颜色分量;颜色插值模块1203适于在每个待插值子带中,根据待插值点处小波系数的邻域信息进行颜色插值得到缺失的颜色分量的小波系数估计值,以得到在各个颜色通道下的低频子带和三个高频子带;Haar小波重构模块1204适于根据所述各个颜色通道下的低频子带和三个高频子带进行一级Haar小波重构,以得到插值后的全彩色图像。
关于所述图像插值装置120的工作原理、工作方式的更多内容,可以参照图1至图11中的相关描述,这里不再赘述。
本发明实施例还公开了一种存储介质,其上存储有计算机指令,所述计算机指令运行时可以执行图5至图11中所示的图像插值方法的步骤。所述存储介质可以包括ROM、RAM、磁盘或光盘等。所述存储介质还可以包括非挥发性存储器(non-volatile)或者非瞬态(non-transitory)存储器等。
本发明实施例还公开了一种终端,所述终端可以包括存储器和处理器,所述存储器上存储有可在所述处理器上运行的计算机指令。所述处理器运行所述计算机指令时可以执行图5至图11中所示的图像插值方法的步骤。所述用户设备包括但不限于手机、计算机、平板电脑等终端设备。
虽然本发明披露如上,但本发明并非限定于此。任何本领域技术人员,在不脱离本发明的精神和范围内,均可作各种更动与修改,因此本发明的保护范围应当以权利要求所限定的范围为准。

Claims (10)

1.一种图像插值方法,其特征在于,包括:
获取待插值图像,所述待插值图像为4cell格式图像;
对所述待插值图像进行一级Haar小波分解,以得到多个待插值子带,所述多个待插值子带包括低频子带和三个高频子带,所述多个待插值子带均为Bayer格式图像,所述多个待插值子带中每个待插值点具备单个颜色分量;
在每个待插值子带中,根据待插值点处小波系数的邻域信息进行颜色插值得到缺失的颜色分量的小波系数估计值,以得到在各个颜色通道下的低频子带和三个高频子带;
根据所述各个颜色通道下的低频子带和三个高频子带进行一级Haar小波重构,以得到插值后的全彩色图像。
2.根据权利要求1所述的图像插值方法,其特征在于,所述在每个待插值子带中,根据待插值点处小波系数的邻域信息进行颜色插值得到缺失的颜色分量的小波系数估计值,以得到在各个颜色通道下的低频子带和三个高频子带包括:
对于各个待插值子带,如果待插值点具备红色分量或蓝色分量,则分别计算所述待插值点在上下左右四个方向上具备绿色分量的小波系数估计值;
利用一级Haar小波分解后的水平和垂直高频子带分别计算所述待插值点的上方和下方梯度值,以及左方和右方梯度值;
根据所述待插值点在上下左右四个方向上具备绿色分量的小波系数估计值,以及所述待插值点的上方和下方梯度值、左方和右方梯度值计算所述待插值点处缺失的绿色分量的小波系数估计值。
3.根据权利要求1所述的图像插值方法,其特征在于,所述在每个待插值子带中,根据待插值点处小波系数的邻域信息进行颜色插值得到缺失的颜色分量的小波系数估计值,以得到在各个颜色通道下的低频子带和三个高频子带还包括:
如果待插值点具备蓝色分量,则在低频子带中计算待插值点处的红绿色比值,并根据所述红绿色比值和绿色分量的小波系数估计值计算缺失的红色分量的小波系数估计值;
如果待插值点具备红色分量,则在低频子带中计算待插值点处的蓝绿色比值,并根据所述蓝绿色比值和绿色分量的小波系数估计值计算缺失的蓝色分量的小波系数估计值;
如果待插值点具备绿色分量,则在低频子带中计算待插值点处的红绿色比值和蓝绿色比值,并根据所述红绿色比值和蓝绿色比值以及绿色分量的小波系数真实值分别计算缺失的红色分量和蓝色分量的小波系数估计值。
4.根据权利要求2所述的图像插值方法,其特征在于,所述三个高频子带包括水平高频子带、垂直高频子带和对角高频子带;所述分别计算所述待插值点的上方和下方梯度值,以及左方和右方梯度值包括:
在所述水平高频子带中,选取处于与所述待插值点相同位置的上方邻域内小波系数,以作为第一邻域系数,并计算所述第一邻域系数中每个小波系数的绝对值之和,以作为所述待插值点的上方梯度值;
在所述水平高频子带中,选取处于与所述待插值点相同位置的下方邻域内小波系数,以作为第二邻域系数,并计算所述第二邻域系数中每个小波系数的绝对值之和,以作为所述待插值点的下方梯度值;
在所述垂直高频子带中,选取处于与所述待插值点相同位置的左方邻域内小波系数,以作为第三邻域系数,并计算所述第三邻域系数中每个小波系数的绝对值之和,以作为所述待插值点的左方梯度值;
在所述垂直高频子带中,选取处于与所述待插值点相同位置的右方邻域内小波系数,以作为第四邻域系数,并计算所述第四邻域系数中每个小波系数的绝对值之和,以作为所述待插值点的右方梯度值。
5.一种图像插值装置,其特征在于,包括:
待插值图像获取模块,适于获取待插值图像,所述待插值图像为4cell格式图像;
一级Haar小波分解模块,适于对所述待插值图像进行一级Haar小波分解,以得到多个待插值子带,所述多个待插值子带包括低频子带和三个高频子带,所述多个待插值子带均为Bayer格式图像,所述多个待插值子带中每个待插值点具备单个颜色分量;
颜色插值模块,适于在每个待插值子带中,根据待插值点处小波系数的邻域信息进行颜色插值得到缺失的颜色分量的小波系数估计值,以得到在各个颜色通道下的低频子带和三个高频子带;
Haar小波重构模块,适于根据所述各个颜色通道下的低频子带和三个高频子带进行一级Haar小波重构,以得到插值后的全彩色图像。
6.根据权利要求5所述的图像插值装置,其特征在于,所述颜色插值模块包括:
绿色分量计算单元,适于如果待插值点具备红色分量或蓝色分量,则分别计算所述待插值点在上下左右四个方向上具备绿色分量的小波系数估计值;
梯度计算单元,适于分别计算所述待插值点的上方和下方梯度值,以及左方和右方梯度值;
绿色分量估计单元,适于根据所述待插值点在上下左右四个方向上具备绿色分量的小波系数估计值,以及所述待插值点的上方和下方梯度值、左方和右方梯度值计算所述待插值点处绿色分量的小波系数估计值。
7.根据权利要求5所述的图像插值装置,其特征在于,所述颜色插值模块还包括:
红色分量估计单元,适于如果待插值点具备蓝色分量(或者绿色分量),则在低频子带中计算待插值点处的红绿色比值,并根据所述红绿色比值和绿色分量的小波系数估计值(或者真实值)计算缺失的红色分量的小波系数估计值;
蓝色分量估计单元,适于如果待插值点具备红色分量(或者绿色分量),则在低频子带中计算待插值点处的蓝绿色比值,并根据所述蓝绿色比值和绿色分量的小波系数估计值(或者真实值)计算缺失的蓝色分量的小波系数估计值。
8.根据权利要求6所述的图像插值装置,其特征在于,所述三个高频子带包括水平高频子带、垂直高频子带和对角高频子带;所述梯度计算单元包括:上方梯度计算子单元,适于在所述水平高频子带中,选取处于与所述待插值点相同位置的上方邻域内小波系数,以作为第一邻域系数,并计算所述第一邻域系数中每个小波系数的绝对值之和,以作为所述待插值点的上方梯度值;
下方梯度计算子单元,适于在所述水平高频子带中,选取处于与所述待插值点相同位置的下方邻域内小波系数,以作为第二邻域系数,并计算所述第二邻域小波系数中每个小波系数的绝对值之和,以作为所述待插值点的下方梯度值;
左方梯度计算子单元,适于在所述垂直高频子带中,选取处于与所述待插值点相同位置的左方邻域内小波系数,以作为第三邻域系数,并计算所述第三邻域小波系数中每个小波系数的绝对值之和,以作为所述待插值点的左方梯度值;
右方梯度计算子单元,适于在所述垂直高频子带中,选取处于与所述待插值点相同位置的右方邻域内小波系数,以作为第四邻域系数,并计算所述第四邻域小波系数中每个小波系数的绝对值之和,以作为所述待插值点的右方梯度值。
9.一种存储介质,其上存储有计算机指令,其特征在于,所述计算机指令运行时执行权利要求1至4中任一项所述图像插值方法的步骤。
10.一种终端,包括存储器和处理器,所述存储器上存储有可在所述处理器上运行的计算机指令,其特征在于,所述处理器运行所述计算机指令时执行权利要求1至4中任一项所述图像插值方法的步骤。
CN201811462532.1A 2018-11-30 2018-11-30 图像插值方法及装置、存储介质、终端 Active CN111263128B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811462532.1A CN111263128B (zh) 2018-11-30 2018-11-30 图像插值方法及装置、存储介质、终端

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811462532.1A CN111263128B (zh) 2018-11-30 2018-11-30 图像插值方法及装置、存储介质、终端

Publications (2)

Publication Number Publication Date
CN111263128A true CN111263128A (zh) 2020-06-09
CN111263128B CN111263128B (zh) 2021-06-25

Family

ID=70953650

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811462532.1A Active CN111263128B (zh) 2018-11-30 2018-11-30 图像插值方法及装置、存储介质、终端

Country Status (1)

Country Link
CN (1) CN111263128B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113382185A (zh) * 2021-06-09 2021-09-10 豪威科技(武汉)有限公司 数据生成、训练、成像方法、存储介质和拍摄装置

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101442673A (zh) * 2008-12-19 2009-05-27 太原理工大学 贝尔模板图像编码与解码方法
CN102104731A (zh) * 2009-12-18 2011-06-22 索尼公司 相机系统和图像处理方法
CN106508048B (zh) * 2011-12-05 2014-08-27 中国科学院自动化研究所 一种基于多尺度基本形式的相似尺度图像融合方法
CN104680485A (zh) * 2013-11-27 2015-06-03 展讯通信(上海)有限公司 一种基于多分辨率的图像去噪方法及装置
CN106709891A (zh) * 2016-11-15 2017-05-24 哈尔滨理工大学 基于小波变换与自适应变换结合的图像处理方法
CN106875371A (zh) * 2017-02-09 2017-06-20 聚龙智瞳科技有限公司 基于Bayer格式的图像融合方法及图像融合装置
US20180035091A1 (en) * 2016-07-27 2018-02-01 Canon Kabushiki Kaisha Imaging apparatus and control method thereof
CN108171668A (zh) * 2017-12-29 2018-06-15 南京邮电大学盐城大数据研究院有限公司 一种基于定向加权插值的cfa图像去马赛克方法
CN108269246A (zh) * 2018-01-30 2018-07-10 江苏理工学院 一种低频小波系数插值的图像均衡增强方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101442673A (zh) * 2008-12-19 2009-05-27 太原理工大学 贝尔模板图像编码与解码方法
CN102104731A (zh) * 2009-12-18 2011-06-22 索尼公司 相机系统和图像处理方法
CN106508048B (zh) * 2011-12-05 2014-08-27 中国科学院自动化研究所 一种基于多尺度基本形式的相似尺度图像融合方法
CN104680485A (zh) * 2013-11-27 2015-06-03 展讯通信(上海)有限公司 一种基于多分辨率的图像去噪方法及装置
US20180035091A1 (en) * 2016-07-27 2018-02-01 Canon Kabushiki Kaisha Imaging apparatus and control method thereof
CN106709891A (zh) * 2016-11-15 2017-05-24 哈尔滨理工大学 基于小波变换与自适应变换结合的图像处理方法
CN106875371A (zh) * 2017-02-09 2017-06-20 聚龙智瞳科技有限公司 基于Bayer格式的图像融合方法及图像融合装置
CN108171668A (zh) * 2017-12-29 2018-06-15 南京邮电大学盐城大数据研究院有限公司 一种基于定向加权插值的cfa图像去马赛克方法
CN108269246A (zh) * 2018-01-30 2018-07-10 江苏理工学院 一种低频小波系数插值的图像均衡增强方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113382185A (zh) * 2021-06-09 2021-09-10 豪威科技(武汉)有限公司 数据生成、训练、成像方法、存储介质和拍摄装置

Also Published As

Publication number Publication date
CN111263128B (zh) 2021-06-25

Similar Documents

Publication Publication Date Title
Chang et al. Effective use of spatial and spectral correlations for color filter array demosaicking
US8761504B2 (en) Spatio-spectral sampling paradigm for imaging and a novel color filter array design
Mizutani et al. Multispectral demosaicking algorithm based on inter-channel correlation
CN111510691B (zh) 颜色插值方法及装置、设备、存储介质
Jaiswal et al. Exploitation of inter-color correlation for color image demosaicking
WO2011141196A1 (en) Two-dimensional super resolution scaling
CN111263128B (zh) 图像插值方法及装置、存储介质、终端
Chang et al. Stochastic color interpolation for digital cameras
Lam et al. Demosaic: Color filter array interpolation for digital cameras
Wu et al. Color demosaicking with sparse representations
US8731281B2 (en) Wavelet transform on incomplete image data and its applications in image processing
WO2008086037A2 (en) Color filter array interpolation
CN114902276A (zh) 图像处理器
Paul et al. Maximum accurate medical image demosaicing using WRGB based Newton Gregory interpolation method
Su et al. Effective demosaicing using subband correlation
CN113840124B (zh) 图像处理方法及系统
Kolta et al. A hybrid demosaicking algorithm using frequency domain and wavelet methods
Chen et al. Color filter array demosaicking using wavelet-based subband synthesis
Chen et al. Subband synthesis for color filter array demosaicking
Rafinazari et al. Demosaicking algorithm for the Fujifilm X-Trans color filter array
Singh et al. Disregarding spectral overlap—A unified approach for demosaicking, compressive sensing and color filter array design
JP2001136542A (ja) 信号処理装置
Goyal et al. Impact of neighborhood size on median filter based color filter array interpolation.
Prasad et al. Demosaicking for Artificial Vision-Implementation and Evaluation
JP4175924B2 (ja) 単板カラーカメラの信号補間方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant