CN113259635A - 去马赛克方法、装置、设备及存储介质 - Google Patents

去马赛克方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN113259635A
CN113259635A CN202110659637.1A CN202110659637A CN113259635A CN 113259635 A CN113259635 A CN 113259635A CN 202110659637 A CN202110659637 A CN 202110659637A CN 113259635 A CN113259635 A CN 113259635A
Authority
CN
China
Prior art keywords
channel
interpolation
pixel
preset
missing pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110659637.1A
Other languages
English (en)
Other versions
CN113259635B (zh
Inventor
不公告发明人
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhuhai Eeasy Electronic Tech Co ltd
Original Assignee
Zhuhai Eeasy Electronic Tech Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhuhai Eeasy Electronic Tech Co ltd filed Critical Zhuhai Eeasy Electronic Tech Co ltd
Priority to CN202110659637.1A priority Critical patent/CN113259635B/zh
Publication of CN113259635A publication Critical patent/CN113259635A/zh
Application granted granted Critical
Publication of CN113259635B publication Critical patent/CN113259635B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

本发明适用于图像处理技术领域,提供了一种去马赛克方法、装置、设备及存储介质,该方法包括:获取拜耳格式图像,确定拜耳格式图像G通道上每个缺失像素的插值方向是否明显,采用预设的插值方式,对插值方向明显的G通道缺失像素进行插值,按照预设的插值方向选取规则,为插值方向不明显的G通道缺失像素选取插值方向,根据选取的插值方向进行插值,得到完整的G通道信息,基于完整的G通道信息对R通道和B通道进行插值,得到RGB图像并输出,从而提高了图像处理结果的精确度。

Description

去马赛克方法、装置、设备及存储介质
技术领域
本发明属于图像处理技术领域,尤其涉及一种去马赛克方法、装置、设备及存储介质。
背景技术
为了降低图像传感器的体积和成本,现代的图像传感器一般采用彩色滤波阵列(color filter array,CFA),其感光单元按照某种规律只保留多个颜色分量中的某一个成分。图像处理器接收到CFA的原始数据后进行相应的颜色插值还原R、G、B三通道完整的信息。一般而言,RGB图像的复原效果跟缺失像素的插值方向正确与否有很大关系,尤其是纹理细节的复原效果、伪彩色的抑制和锯齿边的去除。
现有的去马赛克方法一般都是简单地根据缺失像素附近各预设方向的梯度幅值大小来判断插值方向,该方法虽然简单,但一旦遇到图像的纹理细节频率接近CFA阵列的采样频率,就容易出现混叠导致插值错误。
发明内容
本发明的目的在于提供一种去马赛克方法、装置、设备及存储介质,旨在解决由于现有技术中直接根据各预设方向的梯度大小判断插值方向导致的图像处理结果的精确度不够高问题。
一方面,本发明提供一种去马赛克方法,所述方法包括下述步骤:
获取拜耳格式图像;
确定所述拜耳格式图像G通道上每个缺失像素的插值方向是否明显;
采用预设的插值方式,对插值方向明显的G通道缺失像素进行插值;
按照预设的插值方向选取规则,为插值方向不明显的G通道缺失像素选取插值方向,根据选取的插值方向进行插值,得到完整的G通道信息;
基于所述完整的G通道信息对R通道和B通道进行插值,得到RGB图像并输出。
优选地,确定所述拜耳格式图像G通道上每个缺失像素的插值方向是否明显的步骤,包括:
对G通道当前缺失像素为中心的像素阵列进行水平方向和垂直方向的梯度计算,并对G通道当前缺失像素为中心的像素阵列进行水平方向和垂直方向的插值估算;
根据所述水平方向和垂直方向的梯度计算值的接近度,以及所述水平方向和垂直方向的插值估算值的差异度,判断G通道当前缺失像素的插值方向是否明显。
优选地,对G通道当前缺失像素为中心的像素阵列进行水平方向和垂直方向的插值估算的步骤,包括:
采用插值阶次自适应的方式对G通道当前缺失像素为中心的像素阵列进行第一预设方向的插值估算,所述第一预设方向包括东、南、西、北四个方向;
对东、西两个方向的插值估算值进行加权平均,得到所述水平方向的插值估算值,对南、北两个方向的插值估算值进行加权平均,得到所述垂直方向的插值估算值。
优选地,采用插值阶次自适应的方式对G通道当前缺失像素为中心的像素阵列进行第一预设方向的插值估算的步骤,包括:
在所述第一预设方向的任一方向上,若G通道当前缺失像素在G通道的梯度和在C通道的梯度的相似度小于预设的第一阈值,则采用一阶插值法进行插值估算,否则采用零阶插值法进行插值估算。
优选地,根据所述水平方向和垂直方向的梯度计算值的接近度,以及所述水平方向和垂直方向的插值估算值的差异度,判断G通道当前缺失像素的插值方向是否明显的步骤,包括:
判断G通道当前缺失像素是否满足预设条件,所述预设条件为所述水平方向和垂直方向的梯度计算值的接近度小于预设的第二阈值、且所述水平方向和垂直方向的插值估算值的差异度大于预设的第三阈值;
若满足,则判定G通道当前缺失像素为插值方向难以初步确认的缺失像素,否则判定G通道当前缺失像素为插值方向明显的缺失像素。
优选地,每个方向的插值权重的计算公式是随该方向梯度计算值的增大而减小的递减函数,所述插值权重的计算公式如下:
Figure 414641DEST_PATH_IMAGE001
,其中,E、S、W、N分别表示东、南、西、北四个方向,
Figure 957749DEST_PATH_IMAGE002
表示G通道当前缺失像素沿东、南、西或北向的插值权重,
Figure 626628DEST_PATH_IMAGE003
表示G通道当前缺失像素沿东、南、西或北向的梯度计算值,ij分别表示G通道当前缺失像素的行号和列号。
优选地,采用预设的插值方式,对插值方向明显的G通道缺失像素进行插值的步骤,包括:
若所述水平方向的梯度计算值与预设的第一阈值之和小于所述垂直方向的梯度计算值,则采用所述水平方向的差值估算值对G通道当前缺失像素进行插值;
若所述垂直方向的梯度计算值与所述第一阈值之和小于所述水平方向的梯度计算值,则采用所述垂直方向的差值估算值对G通道当前缺失像素进行插值;
否则,采用东、南、西、北四个方向的插值估算值的加权平均值对G通道当前缺失像素进行插值。
优选地,按照预设的插值方向选取规则,为插值方向不明显的G通道缺失像素选取插值方向的步骤,包括:
按照色差通道的能量大小,为插值方向不明显的G通道缺失像素选取插值方向;
按照色差通道的能量大小,为插值方向不明显的G通道缺失像素选取插值方向的步骤,包括:
将能量最小的色差通道对应的插值方向设置为G通道当前缺失像素的插值方向,其中,所述色差通道的能量大小基于色差通道的方差、熵或梯度获取。
优选地,基于所述完整的G通道信息对R通道和B通道进行插值的步骤,包括:
对C通道的每个有效像素进行色差提取,得到降采样的色差通道信息,其中,所述C通道包括R通道和B通道,所述色差通道信息包括B-G通道信息和R-G通道信息;
以色差通道当前缺失像素为中心取第一邻域窗,根据所述第一邻域窗内的中心像素与有效像素的关联性和相似性对所述降采样的色差通道信息进行双边滤波,以恢复完整的色差通道信息,其中,所述第一邻域窗内的中心像素与有效像素的关联性根据完整的G通道信息获得;
基于所述完整的G通道信息和所述完整的色差通道信息对R通道和B通道进行插值。
优选地,输出RGB图像的步骤之前,包括:
分别对R、G、B通道进行修正。
优选地,分别对R、G、B通道进行修正的步骤,包括:
在每一通道内,以插值像素为中心取第二邻域窗,根据所述第二邻域窗内的中心像素与其他像素的相似度进行滤波,以剔除插值出的离群点。
另一方面,本发明提供了一种去马赛克装置,所述装置包括:
图像获取单元,用于获取拜耳格式图像;
插值方向确定单元,用于确定所述拜耳格式图像G通道上每个缺失像素的插值方向是否明显;
第一插值单元,用于采用预设的插值方式,对插值方向明显的G通道缺失像素进行插值;
第二插值单元,用于按照预设的插值方向选取规则,为插值方向不明显的G通道缺失像素选取插值方向,根据选取的插值方向进行插值,得到完整的G通道信息;以及
第三插值单元,用于基于所述完整的G通道信息对R通道和B通道进行插值,得到RGB图像并输出。
另一方面,本发明还提供了一种电子设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上所述方法的步骤。
另一方面,本发明还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如上所述方法的步骤。
本发明获取拜耳格式图像,确定所述拜耳格式图像G通道上每个缺失像素的插值方向是否明显,采用预设的插值方式,对插值方向明显的G通道缺失像素进行插值,按照预设的插值方向选取规则,为插值方向不明显的G通道缺失像素选取插值方向,根据选取的插值方向进行插值,得到完整的G通道信息,基于完整的G通道信息对R通道和B通道进行插值,得到RGB图像并输出,从而提高了图像处理结果的精确度。
附图说明
图1A是本发明实施例一提供的去马赛克方法的实现流程图;
图1B是本发明实施例一提供的拜耳格式图像的一示例图;
图1C是本发明实施例一提供的拜耳格式图像的又一示例图;
图2是本发明实施例二提供的去马赛克装置的实现流程图;以及
图3是本发明实施例三提供的电子设备的结构示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
以下结合具体实施例对本发明的具体实现进行详细描述:
实施例一:
图1A示出了本发明实施例一提供的去马赛克方法的实现流程,为了便于说明,仅示出了与本发明实施例相关的部分,详述如下:
在步骤S101中,获取拜耳格式图像。
本发明实施例适用于电子设备,该电子设备具体可以包括手机、平板、相机、电脑和智能手表等。拜耳格式图像中包括矩阵式排布的像素点,其中,绿色像素点G 占50%,而红色像素点R 和蓝色像素点B各占25%。
在步骤S102中,确定拜耳格式图像G通道上每个缺失像素的插值方向是否明显。
在本发明实施例中,在确定拜耳格式图像G通道上每个缺失像素的插值方向是否明显时,优选地,对G通道当前缺失像素为中心的像素阵列进行水平方向和垂直方向的梯度计算,并对G通道当前缺失像素为中心的像素阵列进行水平方向和垂直方向的插值估算,根据水平方向和垂直方向的梯度计算值的接近度,以及水平方向和垂直方向的插值估算值的差异度,判断G通道当前缺失像素的插值方向是否明显,从而提高了插值方向判断的准确性。
在对G通道当前缺失像素为中心的像素阵列进行水平方向和垂直方向的梯度计算时,可以首先对G通道当前缺失像素进行第一预设方向的梯度计算,该第一预设方向包括东、南、西、北四个方向,然后对G通道当前缺失像素的东、西两个方向的梯度计算结果求和,得到水平方向的梯度计算结果,对G通道当前缺失像素的南、北两个方向的梯度计算结果求和,得到垂直方向的梯度计算结果,具体可参考下述公式:
Figure 495358DEST_PATH_IMAGE004
Figure 515266DEST_PATH_IMAGE005
其中,
Figure 65327DEST_PATH_IMAGE006
Figure 916609DEST_PATH_IMAGE007
Figure 612032DEST_PATH_IMAGE008
Figure 666707DEST_PATH_IMAGE009
分别为G通道当前缺失像素沿东(E)、南(S)、西(W)、北(N)方向的梯度计算值,
Figure 269727DEST_PATH_IMAGE010
Figure 714528DEST_PATH_IMAGE011
分别为G通道当前缺失像素沿水平方向和垂直方向的梯度计算值,G代表G像素值,C代表R像素值或B像素值,若G通道当前缺失像素对应的有效像素属于R通道,例如图1B所示,则C代表R像素值,若G通道当前缺失像素对应的有效像素属于B通道,例如图1C所示,则C代表B像素值,ij分别代表G通道当前缺失像素的行号和列号。
现有技术中G通道缺失像素的插值一般用到R、B通道的高频信息选择一阶插值,但只有G通道和R、B通道的信息有高度相似性时这方法才奏效,否则会由于插值阶次错误产生严重的斑点噪声,进而严重影响图像质量的客观指标和对图像质量的主观评价,从而优选地,在对G通道当前缺失像素为中心的像素阵列进行水平方向和垂直方向的插值估算时,采用插值阶次自适应的方式对G通道当前缺失像素为中心的像素阵列进行第一预设方向的插值估算,第一预设方向包括东、南、西、北四个方向,然后,对东、西两个方向的插值估算值进行加权平均,得到水平方向的插值估算值,对南、北两个方向的插值估算值进行加权平均,得到垂直方向的插值估算值,从而通过自适应插值选择方式提高了插值估算结果的准确性,进而减少了G通道复原时的斑点噪声。在对G通道当前缺失像素为中心的像素阵列进行第一预设方向的插值估算时,具体地,在第一预设方向的任一方向上,若G通道当前缺失像素在G通道的梯度和在C通道的梯度的相似度小于预设的第一阈值,则采用一阶插值法进行插值估算,否则采用零阶插值法进行插值估算。具体可参考以下公式:
Figure 846432DEST_PATH_IMAGE012
Figure 388403DEST_PATH_IMAGE013
其中,
Figure 77005DEST_PATH_IMAGE014
Figure 168457DEST_PATH_IMAGE015
Figure 487574DEST_PATH_IMAGE016
Figure 766109DEST_PATH_IMAGE017
分别为G通道当前缺失像素沿东(E)、南(S)、西(W)、北(N)四个方向的插值估算值,
Figure 461664DEST_PATH_IMAGE018
Figure 876465DEST_PATH_IMAGE019
分别为G通道当前缺失像素沿水平方向和垂直方向的插值估算值,
Figure 835324DEST_PATH_IMAGE020
Figure 601155DEST_PATH_IMAGE021
Figure 287351DEST_PATH_IMAGE022
Figure 838550DEST_PATH_IMAGE023
分别表示G通道当前缺失像素沿东(E)、南(S)、西(W)、北(N)四个方向的插值权重,
Figure 951999DEST_PATH_IMAGE024
为预设的第一阈值,该第一阈值用于评估G通道当前缺失像素在G通道的梯度和在C通道的梯度的相似度。
在上述公式中,每个方向的插值权重的计算公式是随该方向梯度计算值的增大而减小的递减函数,优选地,插值权重的计算公式如下:
Figure 487017DEST_PATH_IMAGE025
,其中,E、S、W、N分别表示东、南、西、北四个方向,
Figure 976904DEST_PATH_IMAGE002
表示G通道当前缺失像素沿东、南、西或北向的插值权重,
Figure 117029DEST_PATH_IMAGE003
表示G通道当前缺失像素沿东、南、西或北向的梯度计算值。
在根据水平方向和垂直方向的梯度计算值的接近度,以及水平方向和垂直方向的插值估算值的差异度,判断G通道当前缺失像素的插值方向是否明显时,优选地,判断G通道当前缺失像素是否满足预设条件,该预设条件为水平方向和垂直方向的梯度计算值的接近度小于预设的第二阈值、且水平方向和垂直方向的插值估算值的差异度大于预设的第三阈值,若满足,则判定G通道当前缺失像素为插值方向难以初步确认的缺失像素,否则判定G通道当前缺失像素为插值方向明显的缺失像素,以提高后续插值的准确性。预设条件可参考下述公式:
Figure 729276DEST_PATH_IMAGE026
其中,
Figure 407382DEST_PATH_IMAGE010
Figure 248430DEST_PATH_IMAGE011
分别表示G通道当前缺失像素沿水平方向和垂直方向的梯度计算值,
Figure 492330DEST_PATH_IMAGE027
为预设的第二阈值,第二阈值用于评估水平方向和垂直方向的梯度计算值的接近度,
Figure 495052DEST_PATH_IMAGE028
为预设的第三阈值,第三阈值用于评估水平方向和垂直方向的插值估算值的差异度。
在步骤S103中,采用预设的插值方式,对插值方向明显的G通道缺失像素进行插值。
在本发明实施例中,鉴于不同图像传感器捕获的图像的饱和度有较大的差异,G通道的缺失像素沿第一预设方向的插值阶次可以根据拜耳格式图像的原始数据直接通过上述方式决定,在对插值方向明显的G通道缺失像素进行插值时,优选地,若水平方向的梯度计算值与预设的第一阈值之和小于垂直方向的梯度计算值,则采用水平方向的差值估算值对G通道当前缺失像素进行插值,若垂直方向的梯度计算值与第一阈值之和小于水平方向的梯度计算值,则采用垂直方向的差值估算值对G通道当前缺失像素进行插值,否则,采用东、南、西、北四个方向的插值估算值的加权平均值对G通道当前缺失像素进行插值,从而减少了G通道高频分量复原时的斑点噪声。具体插值方式可参考公式:
Figure 722771DEST_PATH_IMAGE029
其中,
Figure 101931DEST_PATH_IMAGE030
表示G通道当前缺失像素的插值。
在步骤S104中,按照预设的插值方向选取规则,为插值方向不明显的G通道缺失像素选取插值方向,根据选取的插值方向进行插值,得到完整的G通道信息。
在本发明实施例中,根据色差恒定理论,插值方向正确时色差通道的能量比插值方向错误对应的色差通道能量要小,从而优选地,按照色差通道的能量大小,为插值方向不明显的G通道缺失像素选取插值方向,以通过色差通道的能量大小实现插值方向的选择,具体地,将能量最小的色差通道对应的插值方向设置为G通道当前缺失像素的插值方向。进一步地,色差通道的能量大小基于色差通道的方差、熵或梯度获取。以下结合色差通道的熵评估水平、垂直方向插值后色差通道的能量大小做具体说明:
首先,以当前尚未插值的缺失像素为中心取一个n0×n0大小的邻域窗M(第三邻域窗),进行水平方向和垂直方向的插值估算,得到水平插值图
Figure 403599DEST_PATH_IMAGE031
和垂直插值图
Figure 108381DEST_PATH_IMAGE032
,其中,n0为奇数且n0大于3。
Figure 26659DEST_PATH_IMAGE031
Figure 662040DEST_PATH_IMAGE032
包含R、G、B三通道沿水平、垂直方向插值的完整数据,记为:
Figure 83794DEST_PATH_IMAGE033
先估算
Figure 162739DEST_PATH_IMAGE034
Figure 99471DEST_PATH_IMAGE032
的G通道的完整信息,计算公式如下:
Figure 804122DEST_PATH_IMAGE035
之后,根据当前缺失像素对应领域内R、B通道的有效像素,用双线性插值的方式求解色差通道B-G、R-G,记为:
Figure 831115DEST_PATH_IMAGE036
Figure 126967DEST_PATH_IMAGE037
其中,
Figure 754258DEST_PATH_IMAGE038
Figure 216594DEST_PATH_IMAGE039
分别为邻域窗M内水平方向的B-G色差、R-G色差,
Figure 878519DEST_PATH_IMAGE040
Figure 779828DEST_PATH_IMAGE041
分别为邻域窗M内垂直方向的B-G色差、R-G色差,
Figure 973043DEST_PATH_IMAGE042
Figure 488338DEST_PATH_IMAGE043
Figure 801508DEST_PATH_IMAGE044
分别为邻域窗M内水平方向的B像素值、G像素值、R像素值,
Figure 127578DEST_PATH_IMAGE045
Figure 729461DEST_PATH_IMAGE046
Figure 314026DEST_PATH_IMAGE047
分别为邻域窗M内垂直方向的B像素值、G像素值、R像素值。
根据色差恒定的理论,若插值方向正确,色差通道只有低频成分,小区域内M的灰度值趋于一致,对应的熵大小则趋于0;若插值方向错误,则容易产生迷宫格、伪彩等现象。结合当前缺失像素属于插值方向难以初步确定的像素集,该类像素一般出现在图像的高频边缘和高频纹理区域,插值方向错误大概率引起对于应色差通道的灰度分布大面积波动起伏,所对应的熵则越大。
水平、垂直方向的色差通道的熵计算为:
Figure 232434DEST_PATH_IMAGE048
其中,
Figure 978673DEST_PATH_IMAGE049
为水平插值对应的色差区域的熵大小,
Figure 802273DEST_PATH_IMAGE050
为垂直插值对应的色差区域的熵大小。
之后,将熵最小色差通道对应的插值方向设置为G通道当前缺失像素的插值方向进行插值。由此,得到完整的G通道信息。
在步骤S105中,基于完整的G通道信息对R通道和B通道进行插值,得到RGB图像并输出。
在本发明实施例中,基于R、B通道的有效像素只占各自通道完整信息的25%,基于色差恒定理论,只要缺失像素没有跨越边缘,缺失像素的色差就基本恒定,因此,可先提取C通道的色差通道信息,根据完整的G通道信息评估色差通道缺失像素与周围有效像素的相似性,选择相似性最高的若干个有效像素加权求和得到色差通道缺失像素,即可复原出完整的色差通道信息,再通过色差通道和G通道求和复原C通道。
为了高效地复原色差通道的完整信息,优选地,对C通道的每个有效像素进行色差提取,得到降采样的色差通道信息,以色差通道当前缺失像素为中心取第一邻域窗,根据第一邻域窗内的中心像素与有效像素的关联性和相似性对降采样的色差通道信息进行双边滤波,以恢复完整的色差通道信息,基于完整的G通道信息和完整的色差通道信息对R通道和B通道进行插值,从而实现R通道和B通道的恢复。其中,C通道包括R通道和B通道,色差通道信息包括B-G通道信息和R-G通道信息,第一邻域窗内的中心像素与有效像素的关联性根据完整的G通道信息获得。
具体地,降采样的色差通道可记为:
Figure 737999DEST_PATH_IMAGE051
由于第一邻域窗内由缺失像素和有效像素组成,中心像素(缺失像素)与邻域内其他有效像素的相似性无法直接计算,通过完整的G通道信息可估算中心缺失像素与第一邻域窗中有效像素的相似性,进而得到双边滤波器的参数,由双边滤波器对第一邻域窗内的缺失像素进行恢复:
Figure 697865DEST_PATH_IMAGE052
其中,BF[I]为滤波后的像素值,q为第一邻域窗内需要插值的缺失像素,
Figure 880584DEST_PATH_IMAGE053
为两像素灰度值计算滤波权重的相似性核,
Figure 4529DEST_PATH_IMAGE054
为两像素坐标空间距离计算滤波权重的空间核,p为第一邻域窗内其他有效像素,I为p、q在G通道中的取值,σ为预设的参数。
在R、G、B通道插值完成之后,输出RGB图像之前,优选地,分别对R、G、B通道进行修正,以去除因图像传感器噪声带来缺失像素插值方向错误以及G通道缺失像素插值阶次选择错误产生的伪彩和插值噪声。进一步优选地,在每一通道内,以插值像素为中心取第二邻域窗,根据第二邻域窗内的中心像素与其他像素的相似度进行滤波,以剔除插值出的离群点。
具体实施中,以插值像素为中心取一个n2×n2的方形邻域(第二邻域窗),为了减少运算量,n2可取为3,除掉要滤波的中心像素(插值像素)外,以第二邻域窗内其他像素构造一个集合S,之后,评估集合S和中心像素的相似性,在评估集合S和中心像素的相似性时,可用灰度值作差求绝对值得到集合Z,取Z的中值,该流程可记为:
Figure 930897DEST_PATH_IMAGE056
其中,m为集合Z中所有元素的中值,c为第二邻域窗内的中心像素值。
计算集合S中小于c-k*m的元素个数r1,以及集合S中大于c+k*m的元素个数r2,k为一个预设的参数,并得到:
Figure 745269DEST_PATH_IMAGE057
随后,滤波器可设置为:
Figure 911940DEST_PATH_IMAGE058
其中,
Figure 710131DEST_PATH_IMAGE059
表示集合S中第R小的元素,
Figure 174611DEST_PATH_IMAGE060
表示集合S中第R大的元素。
在本发明实施例中,获取拜耳格式图像,确定拜耳格式图像G通道上每个缺失像素的插值方向是否明显,采用预设的插值方式,对插值方向明显的G通道缺失像素进行插值,按照预设的插值方向选取规则,为插值方向不明显的G通道缺失像素选取插值方向,根据选取的插值方向进行插值,得到完整的G通道信息,基于完整的G通道信息对R通道和B通道进行插值,得到RGB图像并输出,从而提高了图像处理结果的精确度。
实施例二:
图2示出了本发明实施例二提供的去马赛克装置的结构,为了便于说明,仅示出了与本发明实施例相关的部分,其中包括:
图像获取单元21,用于获取拜耳格式图像;
插值方向确定单元22,用于确定拜耳格式图像G通道上每个缺失像素的插值方向是否明显;
第一插值单元23,用于采用预设的插值方式,对插值方向明显的G通道缺失像素进行插值;
第二插值单元24,用于按照预设的插值方向选取规则,为插值方向不明显的G通道缺失像素选取插值方向,根据选取的插值方向进行插值,得到完整的G通道信息;以及
第三插值单元25,用于基于完整的G通道信息对R通道和B通道进行插值,得到RGB图像并输出。
优选地,插值方向确定单元22包括:
梯度与插值估算单元,用于对G通道当前缺失像素为中心的像素阵列进行水平方向和垂直方向的梯度计算,并对G通道当前缺失像素为中心的像素阵列进行水平方向和垂直方向的插值估算;
判断子单元,用于根据水平方向和垂直方向的梯度计算值的接近度,以及水平方向和垂直方向的插值估算值的差异度,判断G通道当前缺失像素的插值方向是否明显;
优选地,梯度与插值估算单元包括:
自适应插值单元,用于采用插值阶次自适应的方式对G通道当前缺失像素为中心的像素阵列进行第一预设方向的插值估算,第一预设方向包括东、南、西、北四个方向;
加权平均计算单元,对东、西两个方向的插值估算值进行加权平均,得到水平方向的插值估算值,对南、北两个方向的插值估算值进行加权平均,得到垂直方向的插值估算值;
优选地,自适应插值单元包括:
自适应插值子单元,用于在第一预设方向的任一方向上,若G通道当前缺失像素在G通道的梯度和在C通道的梯度的相似度小于预设的第一阈值,则采用一阶插值法进行插值估算,否则采用零阶插值法进行插值估算;
优选地,判断子单元包括:
条件判断单元,用于判断G通道当前缺失像素是否满足预设条件,预设条件为水平方向和垂直方向的梯度计算值的接近度小于预设的第二阈值、且水平方向和垂直方向的插值估算值的差异度大于预设的第三阈值;以及
插值结果判定单元,用于若满足预设条件,则判定G通道当前缺失像素为插值方向难以初步确认的缺失像素,否则判定G通道当前缺失像素为插值方向明显的缺失像素。
优选地,每个方向的插值权重的计算公式是随该方向梯度计算值的增大而减小的递减函数,插值权重的计算公式如下:
Figure 109069DEST_PATH_IMAGE025
,其中,E、S、W、N分别表示东、南、西、北四个方向,
Figure 649902DEST_PATH_IMAGE002
表示G通道当前缺失像素沿东、南、西或北向的插值权重,
Figure 466549DEST_PATH_IMAGE003
表示G通道当前缺失像素沿东、南、西或北向的梯度计算值,ij分别表示G通道当前缺失像素的行号和列号。
优选地,第二插值单元包括:
方向选择单元,用于按照色差通道的能量大小,为插值方向不明显的G通道缺失像素选取插值方向;
方向选择单元包括:
方向选择子单元,用于将能量最小的色差通道对应的插值方向设置为G通道当前缺失像素的插值方向,其中,色差通道的能量大小基于色差通道的方差、熵或梯度获取。
优选地,第三插值单元包括:
色差提取单元,用于对C通道的每个有效像素进行色差提取,得到降采样的色差通道信息,其中,C通道包括R通道和B通道,色差通道信息包括B-G通道信息和R-G通道信息;
色差恢复单元,用于以色差通道当前缺失像素为中心取第一邻域窗,根据第一邻域窗内的中心像素与有效像素的关联性和相似性对降采样的色差通道信息进行双边滤波,以恢复完整的色差通道信息,其中,第一邻域窗内的中心像素与有效像素的关联性根据完整的G通道信息获得;以及
第三插值子单元,用于基于完整的G通道信息和完整的色差通道信息对R通道和B通道进行插值。
优选地,该装置包括:
修正单元,用于分别对R、G、B通道进行修正;
优选地,修正单元还包括:
滤波单元,用于在每一通道内,以插值像素为中心取第二邻域窗,根据第二邻域窗内的中心像素与其他像素的相似度进行滤波,以剔除插值出的离群点。
在本发明实施例中,去马赛克装置的各单元可由相应的硬件或软件单元实现,各单元可以为独立的软、硬件单元,也可以集成为一个软、硬件单元,在此不用以限制本发明。去马赛克装置的各单元的具体实施方式可参考前述方法实施例的描述,在此不再赘述。
实施例三:
图3示出了本发明实施例三提供的电子设备的结构,为了便于说明,仅示出了与本发明实施例相关的部分。
本发明实施例的电子设备3包括处理器30、存储器31以及存储在存储器31中并可在处理器30上运行的计算机程序32。该处理器30执行计算机程序32时实现上述各方法实施例中的步骤,例如,图1A所示的步骤S101至S105。或者,处理器30执行计算机程序32时实现上述各装置实施例中各单元的功能,例如,图2所示单元21至25的功能。
在本发明实施例中,获取拜耳格式图像,确定拜耳格式图像G通道上每个缺失像素的插值方向是否明显,采用预设的插值方式,对插值方向明显的G通道缺失像素进行插值,按照预设的插值方向选取规则,为插值方向不明显的G通道缺失像素选取插值方向,根据选取的插值方向进行插值,得到完整的G通道信息,基于完整的G通道信息对R通道和B通道进行插值,得到RGB图像并输出,从而提高了图像处理结果的精确度。
实施例四:
在本发明实施例中,提供了一种计算机可读存储介质,该计算机可读存储介质存储有计算机程序,该计算机程序被处理器执行时实现上述方法实施例中的步骤,例如,图1A所示的步骤S101至S105。或者,该计算机程序被处理器执行时实现上述各装置实施例中各单元的功能,例如,图2所示单元21至25的功能。
在本发明实施例中,获取拜耳格式图像,确定拜耳格式图像G通道上每个缺失像素的插值方向是否明显,采用预设的插值方式,对插值方向明显的G通道缺失像素进行插值,按照预设的插值方向选取规则,为插值方向不明显的G通道缺失像素选取插值方向,根据选取的插值方向进行插值,得到完整的G通道信息,基于完整的G通道信息对R通道和B通道进行插值,得到RGB图像并输出,从而提高了图像处理结果的精确度。
本发明实施例的计算机可读存储介质可以包括能够携带计算机程序代码的任何实体或装置、记录介质,例如,ROM/RAM、磁盘、光盘、闪存等存储器。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。

Claims (10)

1.一种去马赛克方法,其特征在于,所述方法包括下述步骤:
获取拜耳格式图像;
确定所述拜耳格式图像G通道上每个缺失像素的插值方向是否明显;
采用预设的插值方式,对插值方向明显的G通道缺失像素进行插值;
按照预设的插值方向选取规则,为插值方向不明显的G通道缺失像素选取插值方向,根据选取的插值方向进行插值,得到完整的G通道信息;
基于所述完整的G通道信息对R通道和B通道进行插值,得到RGB图像并输出。
2.如权利要求1所述的方法,其特征在于,确定所述拜耳格式图像G通道上每个缺失像素的插值方向是否明显的步骤,包括:
对G通道当前缺失像素为中心的像素阵列进行水平方向和垂直方向的梯度计算,并对G通道当前缺失像素为中心的像素阵列进行水平方向和垂直方向的插值估算;
根据所述水平方向和垂直方向的梯度计算值的接近度,以及所述水平方向和垂直方向的插值估算值的差异度,判断G通道当前缺失像素的插值方向是否明显;
对G通道当前缺失像素为中心的像素阵列进行水平方向和垂直方向的插值估算的步骤,包括:
采用插值阶次自适应的方式对G通道当前缺失像素为中心的像素阵列进行第一预设方向的插值估算,所述第一预设方向包括东、南、西、北四个方向;
对东、西两个方向的插值估算值进行加权平均,得到所述水平方向的插值估算值,对南、北两个方向的插值估算值进行加权平均,得到所述垂直方向的插值估算值;
采用插值阶次自适应的方式对G通道当前缺失像素为中心的像素阵列进行第一预设方向的插值估算的步骤,包括:
在所述第一预设方向的任一方向上,若G通道当前缺失像素在G通道的梯度和在C通道的梯度的相似度小于预设的第一阈值,则采用一阶插值法进行插值估算,否则采用零阶插值法进行插值估算;
根据所述水平方向和垂直方向的梯度计算值的接近度,以及所述水平方向和垂直方向的插值估算值的差异度,判断G通道当前缺失像素的插值方向是否明显的步骤,包括:
判断G通道当前缺失像素是否满足预设条件,所述预设条件为所述水平方向和垂直方向的梯度计算值的接近度小于预设的第二阈值、且所述水平方向和垂直方向的插值估算值的差异度大于预设的第三阈值;
若满足,则判定G通道当前缺失像素为插值方向难以初步确认的缺失像素,否则判定G通道当前缺失像素为插值方向明显的缺失像素。
3.如权利要求2所述的方法,其特征在于,每个方向的插值权重的计算公式是随该方向梯度计算值的增大而减小的递减函数,所述插值权重的计算公式如下:
Figure DEST_PATH_IMAGE001
,其中,E、S、W、N分别表示东、南、西、北四个方向,
Figure 958368DEST_PATH_IMAGE002
表示G通道当前缺失像素沿东、南、西或北向的插值权重,
Figure DEST_PATH_IMAGE003
表示G通道当前缺失像素沿东、南、西或北向的梯度计算值,ij分别表示G通道当前缺失像素的行号和列号。
4.如权利要求2所述的方法,其特征在于,采用预设的插值方式,对插值方向明显的G通道缺失像素进行插值的步骤,包括:
若所述水平方向的梯度计算值与预设的第一阈值之和小于所述垂直方向的梯度计算值,则采用所述水平方向的差值估算值对G通道当前缺失像素进行插值;
若所述垂直方向的梯度计算值与所述第一阈值之和小于所述水平方向的梯度计算值,则采用所述垂直方向的差值估算值对G通道当前缺失像素进行插值;
否则,采用东、南、西、北四个方向的插值估算值的加权平均值对G通道当前缺失像素进行插值。
5.如权利要求1所述的方法,其特征在于,按照预设的插值方向选取规则,为插值方向不明显的G通道缺失像素选取插值方向的步骤,包括:
按照色差通道的能量大小,为插值方向不明显的G通道缺失像素选取插值方向;
按照色差通道的能量大小,为插值方向不明显的G通道缺失像素选取插值方向的步骤,包括:
将能量最小的色差通道对应的插值方向设置为G通道当前缺失像素的插值方向,其中,所述色差通道的能量大小基于色差通道的方差、熵或梯度获取。
6.如权利要求1所述的方法,其特征在于,基于所述完整的G通道信息对R通道和B通道进行插值的步骤,包括:
对C通道的每个有效像素进行色差提取,得到降采样的色差通道信息,其中,所述C通道包括R通道和B通道;
以色差通道当前缺失像素为中心取第一邻域窗,根据所述第一邻域窗内的中心像素与有效像素的关联性和相似性对所述降采样的色差通道信息进行双边滤波,以恢复完整的色差通道信息,其中,所述第一邻域窗内的中心像素与有效像素的关联性根据完整的G通道信息获得;
基于所述完整的G通道信息和所述完整的色差通道信息对R通道和B通道进行插值。
7.如权利要求1所述的方法,其特征在于,输出RGB图像的步骤之前,包括:
分别对R、G、B通道进行修正;
分别对R、G、B通道进行修正的步骤,包括:
在每一通道内,以插值像素为中心取第二邻域窗,根据所述第二邻域窗内的中心像素与其他像素的相似度进行滤波,以剔除插值出的离群点。
8.一种去马赛克装置,其特征在于,所述装置包括:
图像获取单元,用于获取拜耳格式图像;
插值方向确定单元,用于确定所述拜耳格式图像G通道上每个缺失像素的插值方向是否明显;
第一插值单元,用于采用预设的插值方式,对插值方向明显的G通道缺失像素进行插值;
第二插值单元,用于按照预设的插值方向选取规则,为插值方向不明显的G通道缺失像素选取插值方向,根据选取的插值方向进行插值,得到完整的G通道信息;以及
第三插值单元,用于基于所述完整的G通道信息对R通道和B通道进行插值,得到RGB图像并输出。
9.一种电子设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述方法的步骤。
CN202110659637.1A 2021-06-15 2021-06-15 去马赛克方法、装置、设备及存储介质 Active CN113259635B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110659637.1A CN113259635B (zh) 2021-06-15 2021-06-15 去马赛克方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110659637.1A CN113259635B (zh) 2021-06-15 2021-06-15 去马赛克方法、装置、设备及存储介质

Publications (2)

Publication Number Publication Date
CN113259635A true CN113259635A (zh) 2021-08-13
CN113259635B CN113259635B (zh) 2021-10-01

Family

ID=77187976

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110659637.1A Active CN113259635B (zh) 2021-06-15 2021-06-15 去马赛克方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN113259635B (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1913576A (zh) * 2005-08-10 2007-02-14 展讯通信(上海)有限公司 一种彩色滤镜阵列插值方法
CN101001387A (zh) * 2006-01-11 2007-07-18 华晶科技股份有限公司 利用多数决判断影像局部信息变化最少方向的方法
CN104159091A (zh) * 2014-07-30 2014-11-19 广东顺德中山大学卡内基梅隆大学国际联合研究院 一种基于边缘检测的颜色插值方法
CN105160628A (zh) * 2015-09-07 2015-12-16 努比亚技术有限公司 一种获取rgb数据的方法和装置
CN112700433A (zh) * 2021-01-11 2021-04-23 地平线(上海)人工智能技术有限公司 图像处理方法、装置、电子设备以及计算机可读存储介质

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1913576A (zh) * 2005-08-10 2007-02-14 展讯通信(上海)有限公司 一种彩色滤镜阵列插值方法
CN101001387A (zh) * 2006-01-11 2007-07-18 华晶科技股份有限公司 利用多数决判断影像局部信息变化最少方向的方法
CN104159091A (zh) * 2014-07-30 2014-11-19 广东顺德中山大学卡内基梅隆大学国际联合研究院 一种基于边缘检测的颜色插值方法
CN105160628A (zh) * 2015-09-07 2015-12-16 努比亚技术有限公司 一种获取rgb数据的方法和装置
CN112700433A (zh) * 2021-01-11 2021-04-23 地平线(上海)人工智能技术有限公司 图像处理方法、装置、电子设备以及计算机可读存储介质

Also Published As

Publication number Publication date
CN113259635B (zh) 2021-10-01

Similar Documents

Publication Publication Date Title
CN101917629B (zh) 一种基于绿色分量和色差空间的Bayer格式颜色插值方法
EP2584782A1 (en) Image processing device, image processing method, and program
CN110557584B (zh) 图像处理方法及装置、计算机可读存储介质
KR101665137B1 (ko) 이미지 센서에서 발생되는 잡음을 제거하기 위한 장치 및 방법
JP2010049610A (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
CN111784603A (zh) 一种raw域图像去噪方法、计算机装置及计算机可读存储介质
US20070211307A1 (en) Image processing apparatus and method for reducing noise in image signal
JP2013066157A (ja) 画像処理装置、および画像処理方法、並びにプログラム
KR101700928B1 (ko) 다중 방향성 가중 보간 및 유도필터에 기초한 베이어 패턴 영상의 디모자이킹 방법 및 장치
KR100587143B1 (ko) 영상 신호의 에지 검출 방법
CN111539893A (zh) 一种基于导向滤波的Bayer图像联合去马赛克去噪方法
CN110246080B (zh) 去马赛克方法及其系统
KR100932217B1 (ko) 컬러 보간 방법 및 장치
CN111539892A (zh) Bayer图像的处理方法、系统、电子设备和存储介质
KR20190060481A (ko) 위성 영상처리방법 및 기록매체
KR100565429B1 (ko) 컬러 필터 어레이에서 손실된 컬러값 복원 방법 및 장치
TWI488494B (zh) 多畫面的影像降噪方法
CN113259635B (zh) 去马赛克方法、装置、设备及存储介质
JP4934839B2 (ja) 画像処理装置及びその方法並びにプログラム
JP2010141661A (ja) 画像処理装置
US20140376805A1 (en) Method for demosaicking
CN114372938A (zh) 一种基于标定的图像自适应复原方法
KR100741517B1 (ko) 잡음에 강한 채널 간 상관관계를 고려한 고해상도 색상보간 방법
CN112241936B (zh) 图像处理方法、装置及设备、存储介质
US20150138439A1 (en) Real-time false color reduction system and method for color interpolation

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant