CN110730336A - 一种去马赛克方法及装置 - Google Patents
一种去马赛克方法及装置 Download PDFInfo
- Publication number
- CN110730336A CN110730336A CN201910588696.7A CN201910588696A CN110730336A CN 110730336 A CN110730336 A CN 110730336A CN 201910588696 A CN201910588696 A CN 201910588696A CN 110730336 A CN110730336 A CN 110730336A
- Authority
- CN
- China
- Prior art keywords
- pixel
- directions
- interpolation
- missing
- values
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Color Television Image Signal Generators (AREA)
Abstract
本发明公开了一种去马赛克方法,该方法包括计算出当前像素的八方向的色差梯度;判断当前像素的插值方向并计算出相应插值方向的权重;并通过确定的插值方向和对应的权重计算当前R像素、B像素处缺失的G像素值;然后插值出R像素、B像素处缺失的B像素、R像素值,以及G像素处缺失的R像素、B像素值;最后对插值好的RGB图像进行伪彩色消除后进行调节解析度。本发明还提供了一种去马赛克装置。本发明的有益效果为:该方法能更准确地恢复出CFA上缺失的颜色分量,解决了拉链效应、伪彩色、摩尔纹、迷宫效应、边缘模糊等问题;并且在处理流程上是并行化处理,同时对R、G、B等多通道插值,极大地降低了该装置硬件化代价。
Description
技术领域
本发明涉及图像处理技术领域,具体而言,涉及一种去马赛克方法及装置。
背景技术
为了降低成本、减小体积和方便硬件处理,而使用单图像传感器(Sensor)采集到的原始(Raw)图像叫彩色滤波阵列(Color Filter Array,CFA)图像,这是一种马赛克排列式的图像,其传感器前覆盖的滤波阵列按波长对捕捉的光进行滤波,该方式在图像中每个像素上有规律的只会采集多个颜色分量中的某一个分量,某个特定的CFA类型会有它自己对应的排列方式。接着图像信号处理器(ISP)会处理传感器捕捉的CFA数据,经过去马赛克操作,得到完整的全彩色图像。而通过将CFA中每个像素上缺失的颜色分量重建出来,使其值能与每个像素相关联的过程叫去马赛克(或插值)。
最简单的去马赛克方法之一是双线性插值,对需要插值的像素色彩使用相同分量的近邻像素作为参考,所以对每个颜色分量的平面是独立进行插值的,其计算简单,易于硬件实现,但是去马赛克后的图像质量不高,人工痕迹严重。另一种比双线性插值效果好的方法”Adaptive Color Plane Interpolation in Single Sensor Color ElectronicCamera”,U.S.Pat.No.5,652,621,提出的通过水平竖直梯度方向进行不同的插值,并实现了硬件化,但是效果依旧不太理想。目前提出了效果达到最先进(state-of-the-art)的去马赛克方法,虽然获得视觉效果高的彩色图像,但是方法复杂,有些方法伴有多次的迭代处理或者是基于频域/小波域进行处理,计算量非常大,硬件难以实现。
现有技术中,对Bayer CFA图像去马赛克算法恢复缺失的颜色分量时,会先插值G通道,再根据插值好的G通道信息,并采用一定的计算方式从周围局部范围内已知的颜色分量来得到缺失的R、B颜色分量(利用不同颜色通道间的相关性),即必须依靠一定的理论假设,比如:色比恒定(局部范围内R/G、B/G恒定)、色差恒定(局部范围内R-G、B-G恒定),在这些理论假设的基础上才能达到重建彩色图像的目的。目前行业内已经硬件实现的技术方案都是用色比恒定、或色差恒定、或色比色差恒定独立组合使用。
另外,一般抑制图像伪彩色的方法,通常是将图像从RGB色彩空间转到YUV/YCbCr色彩空间,将亮度和色度信号进行分离,对色度信号进行伪彩色的去除后,再转换回RGB色彩空间进行其他的ISP流程处理,这样的转换大大增加了硬件资源的消耗。例如:公开号为CN 106507066A的中国专利《抑制图像伪彩色的方法、装置》利用了色差恒定的理论假设进行图像伪彩色的处理。
发明内容
为解决上述问题,本发明的目的在于提供一种去马赛克方法,该方法包括以下步骤:
步骤101:计算出当前像素的八方向的色差梯度,八方向包括:北(N)、南(S)、西(W)、东(E)、西北(NW)、东南(SE)、东北(NE)和西南(SW);
步骤102:判断当前像素的插值方向并计算出相应插值方向的权重;
步骤103:通过步骤102确定的插值方向和对应的权重计算当前R像素、B像素处缺失的G像素值;
步骤104:通过步骤102确定的插值方向和对应的权重插值出R像素处缺失的B像素和B像素处缺失的R像素值,以及G像素处缺失的R像素和B像素值;
步骤105:将插值好的RGB图像进行伪彩色消除;
步骤106:将经过伪彩色消除的RGB图像进行调节解析度。
作为本发明进一步的改进,步骤101中,具体包括以下步骤:
步骤S1,根据当前像素值类型计算当前像素在北N、南S、西W和东E四个方向的色差差值,即色差梯度,包括:
当前像素值类型为R时,R像素处四个方向计算的都是R-G色差;
当前像素值类型为B时,B像素处四个方向计算的都是B-G色差;
当前像素值类型为G时,如果水平和垂直方向是R像素,则计算R-G色差;如果水平和垂直方向是B像素,则计算B-G色差;
步骤S2,将计算得到的四个方向的色差差值与预先设定的水平、垂直、对角1和对角2四个方向的阈值参数进行比较,确定当前像素四个方向上是否分别满足色差恒定假设;
步骤S3,根据当前像素在北N、南S、西W和东E四个方向上是否满足色差恒定,分别计算出当前像素北N、南S、西W和东E四个方向的相应G像素的初始估计值,并通过相应两方向的平均值计算得到西北NW、东南SE、东北NE和西南SW四个方向的G像素的初始值;
步骤S4,根据G像素的初始值计算出当前像素八方向的色差梯度。
作为本发明进一步的改进,步骤102中,当计算得到的八方向的色差梯度中只有一个最小值,或者只有相对的两个方向为最小值时,将插值方向设定为色差梯度最小方向和它的反方向,并对这两个对立方向的权重进行计算;
当计算得到的八方向的色差梯度中不止一个最小值时,将插值方向设定为所有八个方向,并对这八个方向的权重进行计算,得出八个加权系数。
作为本发明进一步的改进,步骤103中,根据步骤102中判断的插值方向并加权插值出缺失的G像素值,
当前第i行第j列的像素的插值方向设定为色差梯度最小方向和它的反方向时,如判断的插值方向为北N或者南S,则缺失的G像素值为:
Gi,j=WN×Gi,j_N+WS×Gi,j_S
当前第i行第j列的像素的插值方向设定为所有八个方向时,缺失的G像素值为:
Gi,j=WN×Gi,j_N+WS×Gi,j_S+WE×Gi,j_E+WW×Gi,j_W+
WNW×Gi,j_NW+WSE×Gi,j_SE+WNE×Gi,j_NE+WSW×Gi,j_SW
其中,WN为北N方向的权重,WS为南S方向的权重,WE为东E方向的权重,WW为西W方向的权重,WNW为西北NW方向的权重,WSW为西南SW方向的权重,WSE为东南SE方向的权重,WNE为东北NE方向的权重,Gi,j_N为第i行第j列的像素北N方向的G像素值,Gi,j_S为第i行第j列的像素南S方向的G像素值,Gi,j_E为第i行第j列的像素东E方向的G像素值,Gi,j_W为第i行第j列的像素西W方向的G像素值,Gi,j_NW为第i行第j列的像素西北NW方向的G像素值,Gi,j_SE为第i行第j列的像素东南SE方向的G像素值,Gi,j_NE为第i行第j列的像素东北NE方向的G像素值,Gi,j_SW为第i行第j列的像素西南SW方向的G像素值。
作为本发明进一步的改进,步骤104中,按照局部范围内R像素值或B像素值与G像素值为线性关系进行插值,局部范围内R像素值或B像素值与G像素值为线性关系为:
R=a*G+b;
B=c*G+d;
式中,R为当前像素的R像素值,B为当前像素的B像素值,G为当前像素的G像素值,a、b、c和d为相关系数。
作为本发明进一步的改进,步骤104中,采用已经推导出的最小二乘公式计算出的线性关系式R=a*G+b和B=c*G+d中的系数a、b、c、d,得出引导输出值,然后再得出残差值,最后用残差值进行插值得到缺失的R、B像素值。
本发明还提供了一种去马赛克装置,该装置包括:
色差梯度获取模块,其用于计算出当前像素的八方向的色差梯度,八方向包括:北N、南S、西W、东E、西北NW、东南SE、东北NE和西南SW;
权重计算模块,其用于判断当前像素的插值方向并计算出相应插值方向的权重;
多通道并行插值模块,其用于通过所述权重计算模块确定的插值方向和对应的权重,计算当前R像素和B像素处缺失的G像素值,并插值出R像素处缺失的B像素和B像素处缺失的R像素值,以及G像素处缺失的R像素和B像素值;
伪色彩消除模块,其用于将插值好的RGB图像进行伪彩色消除;
调节解析度模块,其用于将经过伪彩色消除的RGB图像进行调节解析度。
作为本发明进一步的改进,该装置还包括输出模块,其用于将经过去马赛克处理后的完整的彩色图像进行输出。
本发明的有益效果为:通过采用多方向加权插值的方法对缺失的G分量进行插值,并同时使用色比色差恒定联合组合使用的技术方案对缺失的R和B分量进行插值及伪彩色消除,该方法能更准确地恢复出CFA上缺失的颜色分量,解决了拉链效应、伪彩色、摩尔纹、迷宫效应、边缘模糊等问题;并且在处理流程上是并行化处理,同时对R、G、B等多通道插值,极大地降低了该装置硬件化代价。
附图说明
图1为本发明实施例所述的一种去马赛克方法的流程图;
图2为本发明实施例所述的一种去马赛克装置的结构示意图;
图3为以R像素为中心的9*9模板示意图;
图4为以B像素为中心的9*9模板示意图;
图5为以G像素为中心的9*9模板示意图;
图6为以G像素为中心的9*9模板另一个示意图;
图7为3*3滑动窗口示意图;
图8为Kodak测试图不同去马赛克后效果示意图比较;
图9为McMaster测试图不同去马赛克后效果示意图比较。
具体实施方式
为了对本发明的技术方案进行更详细的说明,以促进对本发明的进一步理解,下面结合附图描述本发明的具体实施方式。但应当理解,所有示意性实施例及其说明用于解释本发明,并不构成对本发明的唯一限定。同时,在内部逻辑不冲突的情况下,各个实施方式可以进行组合。
本发明适用于任何类型/延伸类型的彩色/多波段滤波器阵列中,以硬件或软件的形式,在多种通用或者专用计算系统、环境、配置中使用,但不仅限于处理图像数据的电子设备。
实施例1,如图1所示,本发明实施例所述的一种去马赛克方法,其中插值统一采用9*9像素的模板窗口,该方法具体实施步骤为:
步骤101:计算出当前像素的八方向的色差梯度,八方向包括:北N、南S、西W、东E、西北NW、东南SE、东北NE和西南SW;
步骤102:判断当前像素的插值方向并计算出相应插值方向的权重;
步骤103:通过步骤102确定的插值方向和对应的权重计算当前R像素和B像素处缺失的G像素值;
步骤104:通过步骤102确定的插值方向和对应的权重插值出R像素处缺失的B像素和B像素处缺失的R像素值,以及G像素处缺失的R像素和B像素值;
步骤105:将插值好的RGB图像进行伪彩色消除;
步骤106:将经过伪彩色消除的RGB图像进行调节解析度。
具体的,步骤101中,计算出当前像素的八方向的色差梯度,八方向包括:北N、南S、西W、东E、西北NW、东南SE、东北NE和西南SW(以下用相应字母代表各方向),包括:
首先,根据当前像素值类型计算当前像素在N、S、W和E四个方向的色差差值。具体的,首先输入一幅待去马赛克的Bayer CFA图像(其位宽可以是8、10、12、16等比特的,其中第一颜色通道对应于红色R分量,第二颜色通道对应于绿色G分量,第三颜色通道对应于蓝色B分量,Bayer CFA图像中每个像素点仅存在R、G、B三种颜色值中的一个),按照N、S、W、E四个方向判断当前像素在模板内满足色差恒定假设的程度,具体是根据当前像素值类型(如图3至图6所示)来计算色差差值,比如:R像素处四个方向计算的都是R-G色差,B像素处四个方向计算的都是B-G色差,G像素处看水平和垂直方向是R或B像素来计算R-G色差或B-G色差。
然后,将计算得到的四个方向的色差差值与预先设定的水平、垂直、对角1、对角2四个方向的阈值参数进行比较,确定当前像素四个方向上是否分别满足色差恒定假设;如果只有水平和竖直方向的判断是否满足色差恒定假设是不够全面的,故额外增加对角线方向上的阈值参数来进行判断,而对角线方向的色差是不需要计算的,会根据其水平和竖直方向的色差进行综合判断(例如:NW方向,N方向的色差值和W方向的色差值分别都与对角线1阈值进行比较,得出NW方向的N方向是否满足色差恒定假设和NW方向的W方向是否满足色差恒定假设。
其次,根据当前像素在N、S、W和E四个方向上是否满足色差恒定,来分别计算出这四个方向的相应G的初始估计值(所谓的色差恒定就是两个颜色通道之间的差值是恒定的,当满足色差恒定,G初始值需要引入对应方向上R/B的像素值和相邻G像素值进行计算,此计算的方式可以有很多种,而不满足色差恒定假设,则G初始值为对应方向上的相邻G像素值,此计算的方式也可以有很多种);而对角线上,NW、SE、NE、SW这四个方向的G初始值为通过相应两方向的平均值计算出来,比如:NW方向为N、W方向各自的G初始值的平均值,NW方向的N方向的G初始值就会根据NW方向的N方向是否满足色差恒定假设的结果来计算,NW方向的W方向的G初始值就会根据NW方向的W方向是否满足色差恒定假设的结果来计算。
最后,根据G像素的初始值计算出当前像素八方向的色差梯度。
当前第i行第j列像素的每个方向上都有G的初始值为:Gi,j_N、Gi,j_S、Gi,j_E、Gi,j_W、Gi,j_NW、Gi,j_SE、Gi,j_NE、Gi,j_SW,如:当前位置是R像素处,则其对应的八方向的R-G色差梯度为,
difRGi,j_N=Ri,j-Gi,j_N difRGi,j_NW=Ri,j-Gi,j_NW
difRGi,j_S=Ri,j-Gi,j_S difRGi,j_SE=Ri,j-Gi,j_SE
difRGi,j_E=Ri,j-Gi,j_E difRGi,j_NE=Ri,j-Gi,j_NE
difRGi,j_W=Ri,j-Gi,j_W difRGi,j_SW=Ri,j-Gi,j_SW
进一步的,步骤102中,判断当前像素的插值方向并计算出相应插值方向的权重;
当计算得到的八方向的色差梯度中只有一个最小值,或者只有相对的两个方向为最小值时,将插值方向设定为色差梯度最小方向和它的反方向,并对这两个对立方向的权重进行计算;
N方向的色差域梯度最小min_grad_difN,就计算N和S这两个对立方向的权重WN和WS,
min_grad_difN=min(sum_grad_difN,sum_grad_difS,
sum_grad_difE,sum_grad_difW,
sum_grad_difNW,sum_grad_difSE,
sum_grad_difNE,sum_grad_difSW)
当计算得到的八方向的色差梯度中不止一个最小值时,将插值方向设定为所有八个方向,并对这八个方向的权重进行计算,得出八个加权系数WN、WS、WE、WW、WNW、WSE、WNE、WSW:
W=wN+wS+wE+wW+wNW+wSE+wNE+wSW
进一步的,步骤103中,通过步骤102确定的插值方向和对应的权重计算当前R像素、B像素处缺失的G像素值;
当前第i行第j列的像素的插值方向设定为色差梯度最小方向和它的反方向时,如:判断方向为N或者S,第i行j列的G像素值为:
Gi,j=WN×Gi,j_N+WS×Gi,j_S
当前第i行j列的像素的插值方向设定为所有八个方向时,缺失的G像素值为:
Gi,j=WN×Gi,j_N+WS×Gi,j_S+WE×Gi,j_E+WW×Gi,j_W+
WNW×Gi,j_NW+WSE×Gi,j_SE+WNE×Gi,j_NE+WSW×Gi,j_SW
进一步的,步骤104中,按照局部范围内R像素值或B像素值与G像素值为线性关系进行插值,局部范围内R像素值或B像素值与G像素值为线性关系为:R=a*G+b;B=c*G+d。
具体的,采用已经推导出的最小二乘公式计算出的线性关系式R=a*G+b和B=c*G+d中的系数a、b、c、d,得出引导输出值,然后再得出残差值,最后用残差值进行插值得到缺失的R像素值和B像素值。
假设当前像素点为蓝色像素点,如图4所示,需要插值出红色像素值,根据它四周的红色像素值R1,R2,R3,R4进行参考,它们的坐标分别为(i-1,j-1)、(i-1,j+1)、(i+1,j-1)、(i+1,j+1),估算出对应差值方向的引导输出值假设在一个9*9的像素范围内存在线性关系,那么每个红色像素值参考点(R1,R2,R3,R4)的四周各自存在9个红色像素点及其各个向的绿色估计值,利用每个红色像素值参考点的位置可以组合出对应方向的策略,来选择对应的9组二元一次方程,例如,R1和R2可以各自计算出N方向的a和b系数,如下:
Ri-3,j-3=ai-1,j-1*Gi-1,j-1_N+bi-1,j-1 Ri-3,j-1=ai-1,j+1*Gi-1,j+1_N+bi-1,j+1
Ri-3,j-1=ai-1,j-1*Gi-1,j-1_N+bi-1,j-1 Ri-3,j+1=ai-1,j+1*Gi-1,j+1_N+bi-1,j+1
Ri-3,j+1=ai-1,j-1*Gi-1,j-1_N+bi-1,j-1 Ri-3,j+3=ai-1,j+1*Gi-1,j+1_N+bi-1,j+1
Ri-1,j-3=ai-1,j-1*Gi-1,j-1_N+bi-1,j-1 Ri-1,j-1=ai-1,j+1*Gi-1,j+1_N+bi-1,j+1
Ri-1,j+1=ai-1,j-1*Gi-1,j-1_N+bi-1,j-1 Ri-1,j+3=ai-1,j+1*Gi-1,j+1_N+bi-1,j+1
Ri+1,j-3=ai-1,j-1*Gi-1,j-1_N+bi-1,j-1 Ri+1,j-1=ai-1,j+1*Gi-1,j+1_N+bi-1,j+1
Ri+1,j-1=ai-1,j-1*Gi-1,j-1_N+bi-1,j-1 Ri+1,j+1=ai-1,j+1*Gi-1,j+1_N+bi-1,j+1
Ri+1,j+1=ai-1,j-1*Gi-1,j-1_N+bi-1,j-1 Ri+1,j+3=ai-1,j+1*Gi-1,j+1_N+bi-1,j+1
以此类推,四个红色像素值参考点都可以计算出相应的系数(ai-1,j-1,bi-1,j-1)、(ai-1,j+1,bi-1,j+1)、(ai+1,j-1,bi+1,j-1)、(ai+1,j+1,bi+1,j+1),当前点的红色像素在N和S方向上的引导输出值为:
其对应的残差值为:
例如:插值R像素值,判断方向为N或者S,其中,引导输出值:对应的残差值:resi_Ri,j_N、resi_Ri,j_S。
N和S方向的R初始值为:
缺失的第i行第j列R像素值为:
Ri,j=WN×Ri,j_N+WS×Ri,j_S
同理,判断方向为所有八个方向时,缺失的第i行j列R像素值为:
Ri,j=WN×Ri,j_N+WS×Ri,j_S+WE×Ri,j_E+WW×Ri,j_W+
WNW×Ri,j_NW+WSE×Ri,j_SE+WNE×Ri,j_NE+WSW×Ri,j_SW
根据上述方法,同样可以对绿色像素处插值出红色和蓝色像素值,如图5和图6所示,区别是使用6个红色像素值参考点(R1,R2,R3,R4,R5,R6),6个点的坐标分别为(i-2,j-1)(i-2,j+1)、(i,j-1)、(i,j+1)、(i+2,j-1)、(i+2,j+1)。
进一步的,步骤105中,将插值好的RGB图像进行伪彩色消除;
具体的,将所有缺失的R、G、B值都插值出来后,在以当前位置像素为中心的n*n像素的滑动窗口内(n大于等于3),用一定的计算方式来得到当前位置像素消除伪彩色后的新R、B值。
例如:使用如图7所示的3*3的滑动窗口,分别计算3*3个像素位置对应插值后的R-G和B-G的色差及其色差平均值,再计算方差和协方差,计算R-G、B-G色差的平均值与G的平均值的比值(ratio_difRG_G和ratio_difBG_G),根据参数阈值与方差和协方差的对比,判断是否属于伪彩色,若属于伪彩色则更新第i行j列的R和B的值为:
Ri,j=ratio_difRG_G×(Gi,j+abs(Ri,j-Bi,j))+Gi,j
Bi,j=ratio_difBG_G×(Gi,j+abs(Ri,j-Bi,j))+Gi,j
进一步的,步骤106中,将经过伪彩色消除的RGB图像进行调节解析度。
具体的,将所有缺失的R、G、B值都插值出来后,以当前像素为中心的n*n像素的滑动窗口内(n大于等于3),用一定的计算方式来得到当前位置像素在模糊后的新R、G、B值,输出彩色图像。
例如:在如图7所示的3*3的滑动窗口内,使用一定的滤波器模板来计算插值后的G分量的边缘强度值,再与设定的参数阈值进行对比,来判断是否需要调节这个位置像素的模糊程度,其中filter为使用的模糊滤波器(可以是中值滤波器、均值滤波器、低通滤波器等等),更新第i行j列的R、G和B的值为:
Rnew i,j=filter*Ri,j
Gnew i,j=filter*Gi,j
Bnew i,j=filter*Bi,j
本实施例采用9*9像素模板,并采用8方向的插值方向,除此之外,在插值的模板窗口上,可以使用7*7像素、11*11像素等多种尺寸的模板代替本实施例中使用的9*9像素模板;在插值方向的获取上,可以使用2方向、4方向、6方向等多种方向的方式去替代本实施例中使用的8方向。在插值R、B缺失像素值时,本发明实施例中使用了局部范围内R或B与G为线性关系的理论假设,也可以使用局部范围内R或B与G为非线性关系等其他理论假设去替代。
实施例2,如图2所示,本发明还提供了一种去马赛克装置,该装置包括:
色差梯度获取模块,其用于计算出当前像素的八方向的色差梯度,八方向包括:北N、南S、西W、东E、西北NW、东南SE、东北NE和西南SW,用以判断出插值的方向;
权重计算模块,其用于判断当前像素的插值方向并计算出相应插值方向的权重;
多通道并行插值模块,其用于通过所述权重计算模块确定的插值方向和对应的权重,计算当前R像素和B像素处缺失的G像素值,并插值出R像素处缺失的B像素和B像素处缺失的R像素值,以及G像素处缺失的R像素和B像素值;依据插值的方向和对应的权重,1)对缺失的G像素进行插值,2)对缺失的R像素进行插值(使用色比色差恒定联合组合技术),3)对缺失的B像素进行插值(使用色比色差恒定联合组合技术);
伪色彩消除模块,其用于将插值好的RGB图像进行伪彩色消除;并行插值计算模块并行地计算出对应的R、G、B缺失像素值后,计算R-G和B-G色差的均值和方差,与设定的阈值参数比较,来判断是否需要进行伪彩色的消除;
调节解析度模块,其用于将经过伪彩色消除的RGB图像进行调节解析度,计算插值好的RGB图像边缘强度值,与设定的阈值参数比较,来判断是否需要进行解析度的调节;
输出单元,把经过去马赛克处理后的完整彩色图像进行输出。
本发明的装置可用作为双目/多目等其他形式的单图像传感器(其滤波阵列CFA可以是RGB-IR、RGB-Quad、多波段MultiSpectral等形式)的去马赛克装置,只要插值R、G、B通道的过程是相互独立的,就可以与本发明实施例的思路一样,实现处理流程上的并行运算,这降低了硬件化的成本,为硬件实现并行处理提供了依据。本发明装置中伪彩色消除单元和调解析度单元也可以以其他形式(去除、替换、合并、融合到插值单元中等)被代替。
本发明已经经过实验证明可行,拉链效应消除率100%,伪彩色消除率95%,摩尔纹消除率100%,迷宫效应消除率99%,边缘模糊消除率100%,分别对Kodak测试图集和McMaster测试图集进行去马赛克实验,其部分结果如图8和图9所示,从左到右分别为传统方法、近似方法和本发明方法去马赛克后的效果示意图。
以上所述的具体实施例,对本发明的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施例而已,并不用于限制本发明,凡在本发明的精神和原则之内所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (8)
1.一种去马赛克方法,其特征在于,该方法包括以下步骤:
步骤101:计算出当前像素的八方向的色差梯度,八方向包括:北N、南S、西W、东E、西北NW、东南SE、东北NE和西南SW;
步骤102:判断当前像素的插值方向并计算出相应插值方向的权重;
步骤103:通过步骤102确定的插值方向和对应的权重计算当前R像素、B像素处缺失的G像素值;
步骤104:通过步骤102确定的插值方向和对应的权重插值出R像素处缺失的B像素和B像素处缺失的R像素值,以及G像素处缺失的R像素和B像素值;
步骤105:将插值好的RGB图像进行伪彩色消除;
步骤106:将经过伪彩色消除的RGB图像进行调节解析度。
2.根据权利要求1所述的一种去马赛克方法,其特征在于,步骤101中,具体包括以下步骤:
步骤S1,根据当前像素值类型计算当前像素在北N、南S、西W和东E四个方向的色差差值,即色差梯度,包括:
当前像素值类型为R时,R像素处四个方向计算的都是R-G色差;
当前像素值类型为B时,B像素处四个方向计算的都是B-G色差;
当前像素值类型为G时,如果水平和垂直方向是R像素,则计算R-G色差;如果水平和垂直方向是B像素,则计算B-G色差;
步骤S2,将计算得到的四个方向的色差差值与预先设定的水平、垂直、对角1和对角2四个方向的阈值参数进行比较,确定当前像素四个方向上是否分别满足色差恒定假设;
步骤S3,根据当前像素在北N、南S、西W和东E四个方向上是否满足色差恒定,分别计算出当前像素北N、南S、西W和东E四个方向的相应G像素的初始估计值,并通过相应两方向的平均值计算得到西北NW、东南SE、东北NE和西南SW四个方向的G像素的初始值;
步骤S4,根据G像素的初始值计算出当前像素八方向的色差梯度。
3.根据权利要求1所述的一种去马赛克方法,其特征在于,步骤102中,当计算得到的八方向的色差梯度中只有一个最小值,或者只有相对的两个方向为最小值时,将插值方向设定为色差梯度最小方向和它的反方向,并对这两个对立方向的权重进行计算;
当计算得到的八方向的色差梯度中不止一个最小值时,将插值方向设定为所有八个方向,并对这八个方向的权重进行计算,得出八个加权系数。
4.根据权利要求1所述的一种去马赛克方法,其特征在于,步骤103中,根据步骤102中判断的插值方向并加权插值出缺失的G像素值,
当前第i行第j列的像素的插值方向设定为色差梯度最小方向和它的反方向时,如判断的插值方向为北N或者南S,则缺失的G像素值为:
Gi,j=WN×Gi,j_N+WS×Gi,j_S
当前第i行第j列的像素的插值方向设定为所有八个方向时,缺失的G像素值为:
Gi,j=WN×Gi,j_N+WS×Gi,j_S+WE×Gi,j_E+WW×Gi,j_W+WNW×Gi,j_NW+WSE×Gi,j_SE+WNE×Gi,j_NE+WSW×Gi,j_SW
其中,WN为北N方向的权重,WS为南S方向的权重,WE为东E方向的权重,WW为西W方向的权重,WNW为西北NW方向的权重,WSW为西南SW方向的权重,WSE为东南SE方向的权重,WNE为东北NE方向的权重,Gi,j_N为第i行第j列的像素北N方向的G像素值,Gi,j_S为第i行第j列的像素南S方向的G像素值,Gi,j_E为第i行第j列的像素东E方向的G像素值,Gi,j_W为第i行第j列的像素西W方向的G像素值,Gi,j_NW为第i行第j列的像素西北NW方向的G像素值,Gi,j_SE为第i行第j列的像素东南SE方向的G像素值,Gi,j_NE为第i行第j列的像素东北NE方向的G像素值,Gi,j_SW为第i行第j列的像素西南SW方向的G像素值。
5.根据权利要求1所述的一种去马赛克方法,其特征在于,步骤104中,按照局部范围内R像素值或B像素值与G像素值为线性关系进行插值,局部范围内R像素值或B像素值与G像素值为线性关系为:
R=a*G+b;
B=c*G+d;
式中,R为当前像素的R像素值,B为当前像素的B像素值,G为当前像素的G像素值,a、b、c和d为相关系数。
6.根据权利要求5所述的一种去马赛克方法,其特征在于,步骤104中,采用已经推导出的最小二乘公式计算出的线性关系式R=a*G+b和B=c*G+d中的系数a、b、c、d,得出引导输出值,然后再得出残差值,最后用残差值进行插值得到缺失的R像素值和B像素值。
7.一种基于权利要求1所述的去马赛克方法的去马赛克装置,该装置包括:
色差梯度获取模块,其用于计算出当前像素的八方向的色差梯度,八方向包括:北N、南S、西W、东E、西北NW、东南SE、东北NE和西南SW;
权重计算模块,其用于判断当前像素的插值方向并计算出相应插值方向的权重;
多通道并行插值模块,其用于通过所述权重计算模块确定的插值方向和对应的权重,计算当前R像素和B像素处缺失的G像素值,并插值出R像素处缺失的B像素和B像素处缺失的R像素值,以及G像素处缺失的R像素和B像素值;
伪色彩消除模块,其用于将插值好的RGB图像进行伪彩色消除;
调节解析度模块,其用于将经过伪彩色消除的RGB图像进行调节解析度。
8.根据权利要求7所述的一种去马赛克装置,其特征在于,该装置还包括输出模块,其用于将经过去马赛克处理后的完整的彩色图像进行输出。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910588696.7A CN110730336B (zh) | 2019-07-02 | 2019-07-02 | 一种去马赛克方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910588696.7A CN110730336B (zh) | 2019-07-02 | 2019-07-02 | 一种去马赛克方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110730336A true CN110730336A (zh) | 2020-01-24 |
CN110730336B CN110730336B (zh) | 2021-10-08 |
Family
ID=69217082
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910588696.7A Active CN110730336B (zh) | 2019-07-02 | 2019-07-02 | 一种去马赛克方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110730336B (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112004003A (zh) * | 2020-08-07 | 2020-11-27 | 深圳市汇顶科技股份有限公司 | 图像处理方法、芯片、电子设备和存储介质 |
CN112652027A (zh) * | 2020-12-30 | 2021-04-13 | 凌云光技术股份有限公司 | 一种伪彩检测算法及系统 |
CN113362300A (zh) * | 2021-06-03 | 2021-09-07 | 豪威科技(武汉)有限公司 | 训练、检测、聚焦方法及拍摄装置 |
CN113436163A (zh) * | 2021-06-23 | 2021-09-24 | 四川大学 | 一种叶轮机械叶栅试验纹影图像流场特征识别处理方法 |
CN114051125A (zh) * | 2021-11-11 | 2022-02-15 | 锐芯微电子股份有限公司 | 图像处理方法及系统 |
US20230186427A1 (en) * | 2021-12-15 | 2023-06-15 | Advanced Micro Devices, Inc. | Device and method for image demosaicing |
CN116977173A (zh) * | 2023-07-12 | 2023-10-31 | 武汉大学 | 基于色差和色比的边缘优化Bayer插值方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7755682B2 (en) * | 2006-03-29 | 2010-07-13 | Ite Tech. Inc. | Color interpolation method for Bayer filter array images |
KR20100084458A (ko) * | 2009-01-16 | 2010-07-26 | 삼성전자주식회사 | 컬러 필터 어레이의 패턴 특성을 이용한 이미지 보간 방법 및 장치 |
CN102630018A (zh) * | 2012-03-27 | 2012-08-08 | 上海算芯微电子有限公司 | 去马赛克的方法和装置 |
CN108171668A (zh) * | 2017-12-29 | 2018-06-15 | 南京邮电大学盐城大数据研究院有限公司 | 一种基于定向加权插值的cfa图像去马赛克方法 |
CN108961167A (zh) * | 2018-07-12 | 2018-12-07 | 安徽理工大学 | 一种基于有限差分及梯度的Bayer-CFA插值方法 |
-
2019
- 2019-07-02 CN CN201910588696.7A patent/CN110730336B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7755682B2 (en) * | 2006-03-29 | 2010-07-13 | Ite Tech. Inc. | Color interpolation method for Bayer filter array images |
KR20100084458A (ko) * | 2009-01-16 | 2010-07-26 | 삼성전자주식회사 | 컬러 필터 어레이의 패턴 특성을 이용한 이미지 보간 방법 및 장치 |
CN102630018A (zh) * | 2012-03-27 | 2012-08-08 | 上海算芯微电子有限公司 | 去马赛克的方法和装置 |
CN108171668A (zh) * | 2017-12-29 | 2018-06-15 | 南京邮电大学盐城大数据研究院有限公司 | 一种基于定向加权插值的cfa图像去马赛克方法 |
CN108961167A (zh) * | 2018-07-12 | 2018-12-07 | 安徽理工大学 | 一种基于有限差分及梯度的Bayer-CFA插值方法 |
Non-Patent Citations (1)
Title |
---|
L.PEKKUCUKSEN等: "Gradient based threshold free color filter array interpolation", 《PROC. IEEE INT. CONF. IMAGE PROCESS 》 * |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112004003A (zh) * | 2020-08-07 | 2020-11-27 | 深圳市汇顶科技股份有限公司 | 图像处理方法、芯片、电子设备和存储介质 |
CN112652027A (zh) * | 2020-12-30 | 2021-04-13 | 凌云光技术股份有限公司 | 一种伪彩检测算法及系统 |
CN112652027B (zh) * | 2020-12-30 | 2024-03-22 | 凌云光技术股份有限公司 | 一种伪彩检测方法及系统 |
CN113362300A (zh) * | 2021-06-03 | 2021-09-07 | 豪威科技(武汉)有限公司 | 训练、检测、聚焦方法及拍摄装置 |
CN113436163A (zh) * | 2021-06-23 | 2021-09-24 | 四川大学 | 一种叶轮机械叶栅试验纹影图像流场特征识别处理方法 |
CN113436163B (zh) * | 2021-06-23 | 2023-06-09 | 四川大学 | 一种叶轮机械叶栅试验纹影图像流场特征识别处理方法 |
CN114051125A (zh) * | 2021-11-11 | 2022-02-15 | 锐芯微电子股份有限公司 | 图像处理方法及系统 |
CN114051125B (zh) * | 2021-11-11 | 2023-07-04 | 锐芯微电子股份有限公司 | 图像处理方法及系统 |
US20230186427A1 (en) * | 2021-12-15 | 2023-06-15 | Advanced Micro Devices, Inc. | Device and method for image demosaicing |
CN116977173A (zh) * | 2023-07-12 | 2023-10-31 | 武汉大学 | 基于色差和色比的边缘优化Bayer插值方法 |
CN116977173B (zh) * | 2023-07-12 | 2024-03-22 | 武汉大学 | 基于色差和色比的边缘优化Bayer插值方法 |
Also Published As
Publication number | Publication date |
---|---|
CN110730336B (zh) | 2021-10-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110730336B (zh) | 一种去马赛克方法及装置 | |
KR100843084B1 (ko) | 노이즈 저감 방법 및 장치 | |
KR101744761B1 (ko) | 영상처리장치 및 방법 | |
US8837853B2 (en) | Image processing apparatus, image processing method, information recording medium, and program providing image blur correction | |
CN107967668B (zh) | 一种图像处理方法及装置 | |
WO2011152174A1 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
CN111510691B (zh) | 颜色插值方法及装置、设备、存储介质 | |
US20070211307A1 (en) | Image processing apparatus and method for reducing noise in image signal | |
KR101637488B1 (ko) | 컬러 필터 어레이의 패턴 특성을 이용한 이미지 보간 방법 및 장치 | |
Nezhadarya et al. | A new scheme for robust gradient vector estimation in color images | |
CN110517206B (zh) | 彩色摩尔纹消除方法及装置 | |
CN111539893A (zh) | 一种基于导向滤波的Bayer图像联合去马赛克去噪方法 | |
CN109302593A (zh) | 一种面向单传感器相机成像系统的去马赛克算法 | |
CN111539892A (zh) | Bayer图像的处理方法、系统、电子设备和存储介质 | |
CN113068011B (zh) | 图像传感器、图像处理方法及系统 | |
JP2007325253A (ja) | ビデオ信号に関する再帰的フィルタ・システム | |
KR20180118432A (ko) | 감도 개선을 위한 영상 처리 장치 및 방법 | |
CN113840124B (zh) | 图像处理方法及系统 | |
Hua et al. | A color interpolation algorithm for Bayer pattern digital cameras based on green components and color difference space | |
Chang et al. | Directionally weighted color interpolation for digital cameras | |
CN101778297A (zh) | 影像序列的干扰消除方法 | |
US9008463B2 (en) | Image expansion apparatus for performing interpolation processing on input image data, and image expansion method thereof | |
KR101780726B1 (ko) | 앤티-에일리어싱 fir 필터에 기반한 디모자이킹 방법 | |
Schöberl et al. | Sparsity-based defect pixel compensation for arbitrary camera raw images | |
CN107517367B (zh) | 拜尔域图像插值方法、装置、图像处理芯片及存储装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |