CN105408936A - 校正图像伪像的系统和方法 - Google Patents

校正图像伪像的系统和方法 Download PDF

Info

Publication number
CN105408936A
CN105408936A CN201480041655.1A CN201480041655A CN105408936A CN 105408936 A CN105408936 A CN 105408936A CN 201480041655 A CN201480041655 A CN 201480041655A CN 105408936 A CN105408936 A CN 105408936A
Authority
CN
China
Prior art keywords
pixel
color
correction
value
chromatic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201480041655.1A
Other languages
English (en)
Other versions
CN105408936B (zh
Inventor
舒贤彪
江晓云
熊卫华
刘伟亮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of CN105408936A publication Critical patent/CN105408936A/zh
Application granted granted Critical
Publication of CN105408936B publication Critical patent/CN105408936B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/77Retouching; Inpainting; Scratch removal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/58Edge or detail enhancement; Noise or error suppression, e.g. colour misregistration correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)

Abstract

某些方面涉及用于使用统一框架校正包含色差和色点伪像两者的色彩伪像的系统和技术。例如,可以使用在色度通道上实现方向中值滤波的后处理方法对色差和色点伪像两者进行校正。可以通过分析图像的亮度分量和色度分量构建逐像素的校正比率图,以便指示与所述图像中的每个像素相关联的色彩伪像类型,并且可以基于对应校正比率图值来为每个像素选择方向中值滤波器。

Description

校正图像伪像的系统和方法
技术领域
本文揭示的系统和方法大体涉及图像捕获装置,并且更具体地涉及校正所捕获的图像中的色彩伪像。
背景技术
使用数字相机来捕获的图像可能出现例如色点或色线的色彩伪像,在突出显示区域和锐化亮度边缘尤其如此。此些色彩伪像对于具有较小且存在缺陷的透镜的小型移动相机是尤其成问题的。色彩伪像通常造成所捕获的图像中不应存在的不期望的色点以及色点,例如,亮点/亮线(高光区域)以及锐化亮度边缘(位于天空与遮蔽对象之间的汇接区域)。色彩伪像本身会表现为例如由于相机透镜故障而将所有色彩聚焦在图像传感器上的一点处造成的高对比度边缘的“边界”。
作为一种类型的色彩伪像的色点伪像是不期望的色点或色线,通常出现在图像中的亮点和高对比度边缘周围。色点伪像可为若干因素所致。在使用基于尼奎斯特定理的采样的成像系统中,色彩伪像(例如较小亮点/细线)可为以基于尼奎斯特定理的速率采样所致。色点伪像还可以是光的镜面反射、每通道比特的错误校正、传感器的不均匀的色彩响应以及有缺陷的去马赛克算法所致。
称为色度或色差的另一类型色彩伪像会表现为色彩沿着将图像的较暗部分和较亮部分分开的边界的边界。色差可能在有缺陷的透镜无法将光的不同色彩聚焦在相同的汇聚点时出现。这是因为透镜对于不同波长的光具有不同的折射率(称为透镜色散),并且因为折射率会随着波长的增加而减少。由于透镜焦距取决于折射率,因此不同波长的光能够聚焦在图像传感器的不同位置上。色差还可以为不同波长的光聚焦在焦面中的不同位置处所致。因此,显著有色边缘可出现在图像中的对象周围,在高对比度区域中尤其如此。
发明内容
所捕获的图像中的色彩伪像会使图像质量降低,并且可能在相对小的相机例如移动装置上使用的那些上尤其是个问题。然而,用于校正色彩伪像的现有方法未提出校正两种类型的色彩伪像(即色差和色点伪像)的统一方法。在常规上,色差和色点伪像是通过不同方式解决,其中色差通过透镜校准方法以及动态检测-校准方法解决,并且色点伪像通过使用针对突出显示/饱和区域的稳健性而改进的去马赛克算法来强加色彩一致性或者通过独立后处理色度滤波器进行校正。因此,本文所述色彩校正技术提出用于检测和校正色差和色点伪像两者的统一方法的示例实施方案。
对色彩伪像的准确检测可在区分图像的色彩伪像和合法色彩特征方面存在挑战。本文所述的色彩校正技术的检测方法可有利地利用图像中出现的色彩伪像的一或多个特性,包括例如色彩伪像可以具有色彩凹凸、位于突出显示或饱和区域中、具有亮度边缘、大小相对较小并且具有相较于合法色彩特征而言不太均匀的色彩。本文所述的校正技术的色彩实例能够将松散检测方法与保守校正方法平衡,以便去除不想要的色彩伪像,同时维持图像合法色彩特征。
一个方面涉及一种用于校正具有多个像素的图像中的色彩伪像的方法,所述方法包括:接收所述图像的图像数据,所述图像数据包括所述图像中的所述多个像素中的每个的亮度(Y)分量值和两个色度分量值;检测所述图像数据的所述Y分量值中的至少一个色彩伪像;生成对应于所述图像中的所述多个像素的校正比率图,所述校正比率图指示所述图像数据中的所述至少一个色彩伪像的位置;将多个方向中值滤波器应用于每个色度分量以针对所述色度分量值的子集生成多个中值;针对所述色度分量值的所述子集中的每个,至少部分基于对应校正比率图条目选择所述多个中值中的一个;以及至少部分基于所述多个中值中的所选择的一个,输出所述像素的校正的色度值。此方法可实现在电子装置上,包括具有显示器的便携装置。
另一方面涉及用于对图像中的色彩伪像进行校正的系统,所述系统包括检测模块,所述检测模块被配置成检测包括多个像素的图像中的至少一个色彩伪像,所述检测模块进一步配置成生成具有针对所述图像中的所述多个像素中的每个的条目的校正比率图,所述条目指示与对应像素相关联的色彩伪像类型。所述系统还可包括校正模块,所述校正模块被配置成至少部分基于所述条目计算所述对应像素的校正的色度值,所述条目指示与所述对应像素相关联的色彩伪像的类型,所述校正模块进一步配置成基于所述条目选择多个方向中值滤波器中的一个以用来计算校正的色度值,所述校正模块进一步配置成如果所述条目指示所述对应像素与色点伪像相关联,那么选择第一方向中值滤波器,并且如果所述条目指示所述对应像素与色差相关联,那么选择第二方向中值滤波器。所述系统还可包括检验模块,所述检验模块被配置成检验所述校正的色度值,以便减少在从所述校正的色度值形成的校正过的图像中引入合法色彩特征的另外伪像或去饱和。
另一方面涉及一种生成用于校正图像中的色彩伪像的校正比率图的方法,所述方法包括:接收包括所述图像的图像数据,所述图像包括亮度分量以及两个色度分量;将所述亮度分量与至少一个对称内核卷积,以便生成色彩伪像图;至少部分基于所述色彩伪像图生成初步校正比率图,其中所述初步校正比率图包含对应于所述图像中的多个像素中的每个的条目;执行对所述色度分量中的至少一个的灰度校验;以及至少部分基于所述灰度校验更新所述初步校正比率图以便从后续色彩校正中排除任何无色像素,由此生成最终校正比率图。
另一方面涉及一种在电子装置中用于校正图像中的色彩伪像的方法,所述方法包括:接收对应于输入图像的像素的输入值,每个输入值均具有亮度(Y)分量、第一色度分量以及第二色度分量,所述输入值的所述Y分量形成Y分量数据集,所述输入值的所述第一色度分量形成第一色度分量数据集,并且所述输入值的所述第二色度分量形成第二色度分量数据集;检测所述Y分量数据集中的至少一个色彩伪像;生成具有对应于所述输入值的多个校正条目的校正比率图,所述校正条目指示所述至少一个色彩伪像的位置;将多个方向中值滤波器应用于所述第一色度分量数据集以针对所述第一色度分量数据集中的每个分量生成多个中值;将多个方向中值滤波器应用于所述第二色度分量数据集以针对所述第二色度分量数据集中的每个分量生成多个中值;在校正模块处接收从所述第一色度分量数据集和所述第二色度分量数据集中的至少一个而生成的所述多个中值,并且接收所述校正比率图,而且选择所述多个中值中的一个以供用于至少部分基于所述校正比率图条目生成输出图像;以及生成包括输出值阵列的输出图像,每个输出值对应于所述输入图像的输入值,所述生成包括基于指示色差的存在的所述校正比率图确定改变对应的输入值,并且针对将要改变的输入值,通过将所述中值中的所选择的一个作为输出值应用于在所述像素与色点伪像相关联的情况下具有第一设置和在所述像素与色差相关联的情况下具有第二设置的所述像素来生成输出值。
另一方面涉及一种非暂时性计算机可读媒体,所述非暂时性计算机可读媒体存储指令,所述指令在执行时致使至少一个处理器来执行一种方法,所述方法包括:接收图像的图像数据,所述图像数据包括所述图像中的所述多个像素中的每个的亮度(Y)分量值和两个色度分量值;检测所述图像数据的所述Y分量值中的至少一个色彩伪像;生成对应于所述图像中的所述多个像素的校正比率图,所述校正比率图指示所述图像数据中的所述至少一个色彩伪像的位置;将多个方向中值滤波器应用于每个色度分量以针对所述色度分量值的子集生成多个中值;针对所述色度分量值的所述子集中的每个,至少部分基于对应校正比率图条目选择所述多个中值中的一个;以及至少部分基于所述多个中值中的所选择的一个,输出所述像素的校正的色度值。
附图说明
在下文中,将会结合附图以及随附内容描述所揭示的方面,附图以及随附内容提供用于例示而非限制所揭示的方面,其中相似标记指示相似元件。
图1示出自适应式色彩伪像校正系统的实施例的示意性方框图。
图2示出具有自适应式色彩伪像校正能力的示范性系统的示意性方框图。
图3A示出用于检测在图像的亮度分量中的色彩伪像的检测内核的多个实施例。
图3B示出能够实现图3A的检测内核的校正图电路的实施例。
图4A示出用于检测在图像的色度分量中的色彩伪像的检测内核的多个实施例。
图4B示出能够实现图4A的检测内核的校正图更新电路的实施例。
图5A示出方向中值滤波器的实施例。
图5B示出能够实现图5A的方向中值滤波器的自适应式色彩伪像校正电路的实施例。
图5C示出可受图5A的方向中值滤波器的应用影响的示例像素。
图6示出自适应式色彩伪像校正过程的实施例。
具体实施方式
引言
本揭示案的实施例包括涉及色差和/或色点伪像的校正的技术。例如,可以使用在色度通道(YCbCr)上实现方向中值滤波的后处理方法对色差和色点伪像两者进行校正,在本文中称为多假设式色彩伪像校正MHCAC。比起现有方法,多假设式色彩伪像校正技术放宽对色彩伪像检测的准确性的要求并且大大提高色彩伪像校正效率和稳健性,以便使去除图像中的不想要的色彩伪像与维持图像中的合法色彩特征平衡。
在一些实施例中,多假设式色彩伪像校正技术采用对色彩伪像的假设检测,以便减少错误校正的可能性并且因此减少校正计算成本。色彩伪像检测可以基于两个有效假设:(1)色点伪像和色差通常出现在亮点、亮线、高对比度边缘以及饱和区域附近,以及(2)严重色差通常会发生在饱和区域附近。在检测后,通过使用方向中值滤波,多假设式色彩伪像校正技术可在具有两种不同校正设置的单个统一框架中自适应地去除不同类的色彩伪像,即色差(粗线)和色点(细线或点)伪像。多假设式色彩伪像校正技术能够将方向中值滤波器用在图像的色度通道上,该方向中值滤波器能够有效校正色彩伪像,而不会对合法色彩特征(例如,点、边缘以及拐角)造成损坏。虽然在计算上比均值滤波器内核成本更高,但是在一些实施例中,中值滤波器更有效,因为它们对异常值是稳健的,并且中值滤波器更保守,因为它们保留锐化边缘。另外,对NEONTMSIMD(单指令、多数据)加速是友好的。方向中值滤波器的使用可以允许通过呈现更严格的检测准则以减少校正点的数量由实施系统实现快速处理。实验结果表明,方向中值滤波以及有效色彩伪像检测提供对色彩伪像校正的有效且稳健的解决方案,而不损害(即去饱和)色彩特征。
为了在统一框架中校正这两种类型的色彩伪像,多假设式色彩伪像校正方法的实施例可以包括三个步骤。第一,多假设式色彩伪像校正技术可以检测亮点、亮线、以及高对比度区域,以便构建校正比率图。第二,多假设式色彩伪像校正技术可以基于校正比率图将两个不同方向中值滤波设置自适应地应用于每个像素,其中色点和色差各对应一个设置。第三,多假设式色彩伪像校正技术可以检验色彩伪像校正并未造成另外伪像或不想要的去饱和。
在检测步骤的一个实施例中,多假设式色彩伪像校正技术可对YCbCr图像的亮度通道执行两个检测措施。一个检测措施可以执行亮点和亮边缘检测,而另一措施则可以执行饱和检测。此部分的检测步骤可以构建逐像素的校正比率图,以便指示色彩伪像的存在和位置以及所需色彩校正强度。随后,校正比率图可以通过对图像的色度通道执行两个检测措施进行更新,其中一个检测措施执行灰度校验,而另一措施则执行色点检测。
根据校正比率图的值,方向中值滤波的一个实施例利用如由校正比率图中的对应的值指示的不同设置和不同强度来对每个像素的色度值进行校正。例如,校正图中的第一值可指示不应当对像素执行校正,第二值可指示应当执行色点校正,并且第三值可指示应当执行色差校正。校正的像素色度值能够在被输出并用来构造校正过的图像前例如通过箝位进行检验。多假设式色彩伪像校正技术的一些实施例可将图像的Cb通道和Cr通道中的色度值分开校正。
自适应式色彩校正概览
图1示出自适应式色彩伪像校正系统100的实施例的示意性方框图。色彩伪像校正系统100包括检测模块120以及与检测模块120数据通信的缩小模块130、160。自适应式色彩伪像校正系统100还包括了Cb校正模块140以及Cr校正模块170,这些模块与检测模块120数据通信以接收可包括图像像素和/或部分的输出,所述图像可包括像差待校正。Cb校正模块140还与缩小模块130数据通信,并且Cr校正模块170会与缩小模块160数据通信,以便分别接收缩小Cr和Cr图像数据。Cb校正模块140会与检验模块145数据通信,所述检验模块会与放大模块150数据通信。放大模块150被配置成提供放大Cb数据输出。类似地,Cr校正模块170会与检验模块175数据通信,所述检验模块会与放大模块180数据通信。放大模块180被配置成提供放大Cr数据输出。自适应式色彩伪像校正系统100及其组件在下文中更进一步描述。
如图1所示,自适应式色彩伪像校正系统100接收输入数据,所述输入数据可以包括图像数据的Y块105、图像数据对应于Y块105的Cb块110、以及图像数据对应于Y块105和Cb块110的Cr块115。在所示实例中,Y块105可以包括3×3扩展,而Cb块110和Cr块115可不包括这种扩展。输入Y块105数据接收在检测模块120处。输入图像分量Cb块110和Cr块115可以在接收在检测模块120处前分别通过缩小模块130、160来变换成缩小Cb块135和缩小Cr块165。虽然缩小模块130、160示为是单独的,其中Cb和Cr分量各自专用一个,但是在其它实施例中,可以使用单个缩小模块处理Cb和Cr分量两者。在其它实施例中,Cb和Cr分量在通过检测模块120接收前可不缩小。检测模块120可配置成Y块105、Cb块110和Cr块115的检测过程,以便检测图像数据中的色彩伪像并且在色点伪像和色差之间做出区分,如下文中更详细地论述。例如,参考图3A和3B描述Y块105的检测的某些方面,并且参考图4A和4B描述Cb块110和Cr块115的检测的某些方面。在一些实施例中,检测模块120可以构建逐像素的校正比率图,所述逐像素的校正比率图指示色彩伪像的类型和位置(在哪个像素中出现像差)。在一些实施例中,在校正比率图中的值可以指示在每个像素处应用的校正的类型和/或强度。
色差检测过程可以基于以下假设:色点伪像和色差通常出现在亮点、亮线、高对比度边缘以及饱和区域附近,以及严重色差通常会发生在饱和区域附近。色点可为例如像素群集,在所述像素群集中,中心色彩不同于像素群集中的周边区域的色彩。色差可呈现为沿着图像中的较暗区域和较亮区域之间的边界线的色彩边界、或色彩错误的边缘。
在一个实施例中,检测模块120可对亮度分量(Y)数据105使用一或多个对称内核,以便检测包括任何亮点、亮线和高对比度边缘的色彩伪像。检测模块120可以构建色彩伪像图,所述色彩伪像图指示这些色彩伪像所在位置。检测模块120还可从亮度通道中估计饱和度图,并且可以通过将色彩伪像图和饱和度图组合而构建出初步校正比率图。在一些实施例中,检测模块120可对色度通道(Cb和Cr)执行灰度校验以及色点检测。通过使用来自对色度通道执行的灰度校验和色点检测的信息,检测模块120能够通过校验初步校正比率图中的像素的色度通道(Cb和Cr)并改变对应于无色像素的校正比率图值以指示该像素无需校正来更新初步校正比率图以排除无色(即黑色和白色)像素。因此,检测模块120可以生成最终校正比率图。
缩小Cb块135和缩小Cr块165以及来自检测模块120的校正比率图可以接收在Cb校正模块140和Cr校正模块170(它们在本文中可统称为“校正模块140、170”)处。校正模块140、170可以使用校正比率图中的值来确定是否并且如何校正图像中的每个像素的色度值。例如,校正图中的第一值(或值范围)可指示不应当对像素执行校正,第二值(或值范围)可指示应当执行色点校正,并且第三值(或值范围)可指示应当执行色差校正。
校正模块140、170能够使用方向中值滤波校正色彩伪像,并且可以对色点伪像和色差使用自适应选择的不同滤波技术。例如,图2所示校正模块260可配置成并操作来以两个设置对色度通道应用方向中值滤波,其中第一设置可以是针对色差的较强设置,并且第二设置可以是针对色点伪像的较弱设置。中值滤波可非常适合来保持图像中的所需色彩特征,同时校正色彩伪像。比起无方向的中值滤波,方向中值滤波能够更好保留细致色彩特征(例如,拐角和线)并且减少计算成本。另外,校正模块140、170可以通过调节中值滤波器的方向来控制应用于图像或图像的部分的校正的强度。校正模块140、170可以针对缩小Cb色度通道和Cr色度通道的每个像素输出校正的色度值。虽然校正模块140、170示为单独模块,其中Cb和Cr分量各自专用一个,但是在其它实施例中,可以使用单个校正模块,例如,如图2的校正模块260所示。
校正的Cb和Cr色度值可由检验模块145、175接收。虽然检验模块145、175示为单独模块,其中Cb和Cr分量各自专用一个,但是在其它实施例中,可以使用单个检验模块处理来自两个色度通道的数据。检验模块145、175可对校正的色度值执行逐像素的分析,以便检验色彩伪像校正不会引起另外伪像或不想要的去饱和,并且可将校正的色度值箝位至指定范围内。例如,在校正后,实施了方向中值滤波的色度校正可能已使黑色或白色的像素因其有色相邻部分而变换成有色像素。为了避免引起此些另外色彩伪像,检验模块145、175可对每个像素的色度值执行逐像素的箝位。在一个实例中,检验模块145、175可将每个像素的输出Cb/Cr值箝位在128与像素的输入值之间的范围内,这是因为像素在Cr=Cb=128时为黑色或白色的像素的事实。以此方式,箝位过程就可避免多假设式色彩伪像校正使无色像素变为更为有色的问题情况。
在所示实施例中,Cb块110和Cr块115可以在进行色彩校正前分别通过缩小模块130、160来变换成缩小Cb块135和缩小Cr块165。因此,在最终校正Cb分量155和最终校正Cr分量185被输出来构造色彩校正过的图像前,缩小Cb块135和缩小Cr块165通过放大模块150、180来变换成它们原始大小。
系统概览
图2示出具有自适应式色彩伪像校正能力的示例系统200的示意性方框图,系统200具有一组组件,包括链接至成像传感器215的处理器220。工作存储器205、存储装置(或者说是“数据存储设备”)210、电子显示器225以及存储器230还与处理器220通信。
在一些实施方案中,系统200可为移动计算装置,例如蜂窝电话、数字相机、平板计算机、音乐播放器、个人数字助理等等。系统200还可以是更固定的装置,例如使用用于捕获图像的内置相机或外置相机的桌上型个人计算机、视频会议站等等。系统200还可以是图像捕获装置和从图像捕获装置接收图像数据的单独处理装置的组合。多个应用可供系统200上的用户使用。这些应用可以包括传统照相应用、静态图像和视频的捕获以及自适应式色彩校正应用等等。
图像捕获系统200包括用于捕获图像的图像传感器215。图像传感器215可为例如电荷耦合装置(CCD)、互补金属氧化物半导体(CMOS)传感器等等。图像传感器215可耦接至处理器(或“图像处理器”)220,以向图像处理器220传输所捕获的图像。图像处理器220可配置成针对接收到的所捕获的图像执行各种操作,以便输出高质量色彩校正的图像,如下文中更详细地描述。
处理器220可为通用处理单元或专门为成像应用设计的处理器。如图所示,处理器220被连接至存储器330以及工作存储器205。在所示实施例中,存储器230存储成像传感器控制模块235、色彩伪像校正模块240、捕获控制模块245以及操作系统250。这些模块包括配置处理器来执行各种成像处理和装置管理任务的指令。工作存储器205可由处理器220用来存储存储器330的模块中包含的处理器指令工作集。可替代地,工作存储器205还可以由处理器220用来存储在装置200操作期间创建的动态数据。
如上提及,处理器220通过存储器230中存储的若干模块进行配置。成像传感器控制模块235包括配置处理器320来调节成像传感器215的焦点位置的指令。成像传感器控制模块235还包括了配置处理器220来利用成像传感器215捕获图像的指令。因此,处理器220连同图像捕获控制模块235、成像传感器215、滤波器260以及工作存储器205一起代表一种用于捕获要校正色彩伪像的图像或图像序列的装置。在一些实施例中,模块中描述的功能的全部或部分可以硬件、软件、或硬件和软件的组合来实施。
色彩伪像校正模块240包括配置处理器220来校正所捕获的图像中的色彩伪像的指令,并且可以包括例如所示检测模块255、校正模块260以及检验模块265的三个子模块。例如,检测模块255可以通过根据关于图像数据中的色彩伪像的形成和特性的一或多个假设来分析图像数据,从而生成校正比率图。例如,检测模块255可以包括配置处理器220来基于色彩伪像可以具有色彩凹凸、可能位于突出显示或饱和区域中、具有亮度边缘、大小相对较小并且具有相较于合法色彩特征而言不太均匀的色彩的情况来检测色彩伪像的指令。另外,检测模块255可以包括配置处理器来区分色点伪像和色差的指令。例如,在一个实施例中,可以基于相邻特征对色点伪像和色差进行区分。例如,色点伪像通常出现在亮点、亮线、高对比度边缘以及饱和区域附近,而色差通常出现在饱和区域附近。
检测模块255可向所捕获的图像的亮度通道和色度通道中的一或两个应用检测内核,以便构建校正比率图,如下文中更详细地论述。对应于图像中的每个像素的校正比率图可以指示将要对像素的色度值执行的校正的类型和强度。例如,校正图中的第一值(或值范围)可指示不应当对像素执行校正,第二值(或值范围)可指示应当执行色点校正,并且第三值(或值范围)可指示应当执行色差校正。
在一些实施例中,检测模块255可以实施两阶段式方法生成校正比率图。在第一阶段中,检测模块255可对YCbCr图像的亮度通道执行两个检测措施。一个检测措施可以执行亮点和亮边缘检测,而另一措施则可以执行饱和检测。这可构建逐像素的校正比率图,以便指示色彩伪像的存在和位置以及所需色彩校正的类型和强度。在第一阶段中,检测模块255可以通过对图像的色度通道执行两个检测措施更新校正比率图,其中一个检测措施执行灰度校验,而另一措施则执行色点检测。
校正模块260可以两种不同设置来对色度通道应用方向中值滤波,色点伪像和色差各对应一种设置。校正模块260可以利用由校正比率图中对应于像素的条目确定的不同设置和不同强度自适应地应用方向中值滤波来对每个像素(例如,像素的色度值)进行校正。中值滤波非常适于保持图像中的所需色彩特征,同时校正色彩伪像,并且方向中值滤波能够更好保留细致色彩特征(例如,拐角和线)并相较于无方向的中值滤波而减少了计算成本。另外,方向中值滤波是有利的,因为校正模块260可以通过调节中值滤波器的方向来控制应用于图像或图像的部分的校正的强度。
在一些实施例中,对于每个色度通道(Cb和Cr)中的每个像素,校正模块260可以沿着四个方向中的每个应用中值滤波器来获得四个中值。中值可与原始的色度值进行比较,并且适当校正的色度值可以基于如由校正比率图指示的保守或激进中值。保守中值可最接近像素原始输入的色度值,并且激进中值可最远离像素原始输入的色度值。
检验模块265可对校正的色度值C校正进行分析,以便确保色彩伪像得到校正,而不造成另外伪像或去饱和。虽然方向中值滤波一般有效保留合法色彩特征,但是在一些情况下,它也可能造成一些另外色彩伪像。例如,在校正后,方向中值滤波可能已使黑色或白色的像素因其有色相邻部分而变换成有色像素。为了避免引起此些另外色彩伪像,检验模块265可以执行箝位。
捕获控制模块245可以包括控制系统200的总体图像捕获功能的指令。例如,在实施例中,捕获控制模块245可以包括调用子例程来配置处理器220使用成像传感器215捕获目标图像场景的图像数据的指令。随后,捕获控制模块245可以调用色彩伪像校正模块240校正所捕获的图像数据中的色彩伪像。捕获控制模块245还可调用未示出的其它处理模块,例如,用于最小化检测到的色差的透镜控制模块。
在图2所示实施例中,操作系统模块250可以配置和/或控制处理器220来管理系统200的存储器和处理资源。例如,操作系统模块255可以包括用于管理硬件资源(例如电子显示器225、存储装置210或成像传感器215)的装置驱动器。因此,在一些实施例中,上文所论述的成像处理模块中包含的指令可以不与这些硬件资源直接交互,而替代地,通过位于操作系统组件250中的标准子例程或API交互。随后,操作系统250内的指令可与这些硬件组件直接交互。
处理器220可以进一步配置成控制显示器225来向用户显示所捕获的图像。显示器225可在包括成像传感器215的成像装置外部,或可为成像装置的部分。显示器225还可以配置成在捕获图像前向用户提供寻像器,或者可配置成显示存储在存储器中的或最近由用户捕获到的所捕获的图像。显示器225可以包括LCD或LED屏幕,并且可以实施触敏技术。
处理器220可向存储模块210写入数据,例如表示所捕获的图像、校正比率图和校正的色度值的数据。虽然存储模块210在图形上是表示为传统磁盘装置,但是本领域的技术人员将会理解,存储模块210可配置为任何存储媒体装置。例如,存储模块210可以包括磁盘驱动器(例如,软磁盘驱动器、硬磁盘驱动器、光学磁盘驱动器或磁光磁盘驱动器)或固态存储器(例如,闪存存储器、RAM、ROM和/或EEPROM)。存储模块210还可包括多个存储单元,并且所述存储单元中的任何一个可配置成在图像捕获装置200内,或者可在图像捕获系统200外部。例如,存储模块210可以包括包含存储在图像捕获系统200内的系统程序指令的ROM存储器。存储模块210还可包括可从相机移除的存储卡或高速存储器,它们被配置成存储所捕获的图像。
虽然图2描绘具有一些单独组件(例如,处理器220、图像传感器215和存储器205)的系统的实例,但是本领域的普通技术人员将认识到,这些单独组件可以各种各样方式组合以便实现特定设计目标。例如,在替代性实施例中,存储器组件可与处理器组件组合,以便节省成本并且提高性能。
另外,虽然图2示出两个存储组件,即包括若干模块的存储器组件230和包括工作存储器的单独存储器205,但是本领域的普通技术人员将认识到,此系统可具有利用不同的存储器架构的其它实施例。例如,设计可以利用ROM或静态RAM存储器实现实施存储器230中包含的模块的处理器指令的存储。可替代地,在系统启动时,可以从集成到系统200中或经由外部设备端口连接的磁盘存储装置来读出处理器指令。随后,可将处理器指令加载到RAM中,以便促成由处理器执行。例如,工作存储器205可为RAM存储器,其中指令在由处理器220执行前加载到工作存储器205中。
校正图构造概览
图3A示出用于检测图像的亮度分量中的色彩伪像的色彩伪像检测内核305、310、315的多个实施例,并且图3B示出能够实施图3A的内核305、310、315的校正图电路300的实施例。将所示对称内核305、310、315与输入图像数据或与图像数据的Y分量卷积可以提供色彩伪像图,所述色彩伪像图指示图像数据中的色彩伪像的位置、或者说是可能位置。应用具有输入图像数据的内核305可以通过确定由2×2像素组成的每个块的单“超级像素”值来执行下采样。例如,该超级像素值可为2×2块中的每个的合计或平均值。输出块可以是所示实例中的原始块大小的四分之一。将内核310与图像数据卷积可以提供关于该超级像素值是否亮于像素的本地相邻部分的指示,并且将内核315与图像数据卷积可以提供关于该超级像素值是否亮于像素的较远相邻部分的指示。
如图3B所示,示出校正图电路300。如本文所使用,术语“电路”用作宽泛术语,并且是指可实施在硬件、软件、或硬件和软件的组合中的功能(例如,参考校正图电路、校正图更新电路以及自适应式色彩伪像校正电路)。校正图电路300可以具有输入302,所述输入包括第一阈值T1、图像数据的亮度分量Y以及第二阈值T2。亮度分量可与图3A所示内核305、310、315中的每个卷积。来自内核305、310、315中的每个的输出数据中的给定像素的值可以通过将每个内核值乘以对应输入亮度分量像素值来计算。例如,在一个实施例中,来自内核305的输出数据可以根据等式(1)计算,来自内核310的输出数据可以根据等式(2)计算,并且来自内核315的输出数据可以根据等式(3)计算,如下。
Y′1=Y*(H1/4)(1)
Y′2=Y*(H2/32)(2)
Y′3=Y*(H3/28)(3)
输出Y′1、Y′2和Y′3可提供给相对差计算器320。在一个实施例中,相对差计算器320可以等式(4)和(5)来提供两个相对差输出,如下。
(Y′1-Y′2)/Y′2(4)
(Y′1-Y′3)/Y′3(5)
相对差输出最大值可由最大值计算器325确定并提供给N×N块上最大值计算器330,所述N×N块上最大值计算器可搜索并输出N×N块的相邻部分的最大值。在所示实例中,N×N块计算器330可以在3×3块的相邻部分内进行搜索,然而在其它实施例中,内核305、310、315可设计成用于其它大小经设定的相邻像素。因此,对输入图像数据进行操作的相对差计算器320和最大值计算器325产生N×N块计算器330可在其上搜索3×3相邻块的最大值的相对差图(其可为相对于输入图像数据的四分之一大小的)。N×N块上最大值计算器330上的最大值的输出可输出至比较模块335,以与第一阈值T1进行比较。
输入亮度分量可提供至块上最大值计算器340,所述块上最大值计算器可搜索并输出N×N块的相邻部分的最大值。块上最大值计算器340输出可以接收在比较模块350处,以与第二阈值T2进行比较。比较模块335和比较模块350的结果可以在组合模块355处组合,并且输出R360可提供为校正比率图或初步校正比率图。输出R360可以包含针对输入图像数据中的每个像素的一个值。
图4A示出用于检测在图像的色度分量中的色彩伪像的内核405、410的两个实例。内核405是拉普拉斯卷积内核的一个实例,其可通过计算强度相对于位置的第二导数突出显示高于阈值的梯度或强度变化的区域,并可因此用于边缘检测。内核405可以用于检测色点伪像所在位置。内核410可以用于执行饱和检测,所述饱和检测校验中心像素是否位于饱和区域附近。与图像数据卷积时,内核410可以提供在中心像素与周边附近或远处的相邻像素之间计算过的差值,以便指示是否存在相对较大色点。
图4B示出能够实现图4A的内核405、410的校正图更新电路400的实施例。将所示内核405、410与输入图像数据卷积或与图像数据的Cb和Cr分量卷积可提供值以通过排除无色像素来改进初步校正比率图。从校正图更新电路400输出的校正比率图可以用来确定哪些像素应当进行色彩校正。
校正图更新电路400可以具有输入,所述输入包括图像数据色度分量Cb和Cr、第三阈值T3、第四阈值T4以及初步校正比率图R。如图4B所示,校正图更新电路400包括灰度校验模块415,所述灰度校验模块接收阈值T3作为输入并还接收Cb和Cr分量作为输入。灰度校验模块415被配置成将输入Cr和Cb像素值与阈值进行比较,以便确定可用于帮助确定无色像素位置并从校正比率图中排除无色像素的信息。更具体地,在一些实施例中,灰度校验模块415被配制成将Cr和Cb分量对应的像素值与阈值T3进行比较,例如,如以下等式(6)所示。这可针对CR和Cb分量中的每个像素执行。灰度校验模块415输出可提供给校正比率图更新器430,以便基于来自灰度校验模块415的输出来设置校正比率图中的对应值,或指示不设置(或更新)校正比率图中的对应值。
Cr和Cb分量两者可经处理,以便确定色差(例如,色点)位置。在图4B所示实施例中,图4A的内核405、410中的每个可与内核405和内核410卷积,以便确定色点位置。每次卷积产生包括空间上对应于Cr和Cb分量像素值的值的所得的数据集,这些值输入至最大绝对值计算器420。来自内核405、410中的每个的输出数据中的给定像素的值可以通过将每个内核值乘以对应输入色度分量像素值来计算。来自内核405、410的输出可提供至最大绝对值计算器420,以便确定像素的四个输入卷积Cr和Cb值的最大值。随后,此最大值可输入至比较模块425,以与第四阈值T4进行比较。比较模块425可将最大值与阈值T4进行比较,以便确定该最大值是否小于阈值,并且可向校正比率图更新器430提供这个数据。
来自灰度校验模块415和比较模块425的输出可提供至校正比率图更新器430,以便更新初步校正比率图R的值。例如,在一个实施例中,根据等式(6)来建模的灰度校验,如果在对应像素的Cr和Cb值两者与128之间的差值的绝对值小于第三阈值T3,那么像素的校正比率图值可设为零,以便指示在所述像素处不应执行校正。
R=0如果|Cr-128|<Th3并且|Cb-128|<Th3(6)
根据等式(7),如果像素的初步校正比率图值R等于1并且如果比较模块425的输出C'小于第四阈值Th4,如由色点检测指示,那么像素的校正比率图值可设为零。
R=0如果R==1并且C′<Th4(7)
在一些实施例中,Th3可设为等于15,并且Th4可设为等于12。在另一实施例中,Th3可设为等于5,并且Th4可设为等于10。在执行灰度校验和色点检测期间或在此后,检测模块255可以更新初步校正比率图值R以生成并提供最终校正比率图作为输出。
自适应式色彩伪像校正的概述
图5A示出方向中值滤波器505、510、515、520的实施例。图5B示出可实施图5A的方向中值滤波器505、510、515、520的自适应式色彩伪像校正电路500的实施例。如图所示,滤波器包括垂直5×3中值滤波器505、水平5×3中值滤波器510、偏离垂直滤波器505约45度的第一对角5×3中值滤波器515以及垂直于第一对角滤波器515的第二对角5×3中值滤波器520。图5A的四个5×3方向中值滤波器505、510、515、520例示多假设式色彩伪像校正技术的一个实施例,并且在其它实施例中,可以使用其它尺寸和方向的中值滤波器。图5C示出5×5块中的可受图5A的方向中值滤波器的应用影响的实例像素。为了应用对角中值滤波器515和520,可以使用来自5×5块边界外的像素的值。在一个实施例中,最近边沿像素可延伸得如必要那样远,以便提供用于卷积的值。在另一实施例中,可跳过将需要来自块边缘外的值的输出中值中的任何像素。在其它实例中,可以使用其它边缘处理技术。
校正电路500可提供有针对输入图像数据中的每个像素的校正比率图值R和色度值C。在一些实施例中,校正电路500可分开对来自输入图像数据的Cb和Cr分量的色度值进行操作。针对每个像素输入的色度值可分别与垂直中值滤波器505、水平中值滤波器510、第一对角中值滤波器515以及第二对角中值滤波器520中的每个进行卷积,从而提供输出中值C1、C2、C3和C4。在一些实施例中,C1、C2、C3和C4可以表示按照升序从最低到最高来排序的中值。在一些实施例中,可以分别根据以下所示等式(8)和(9)对激进中值和保守中值进行计算。
Cdmf=argmini=1,2,3,4|Ci-128|(8)
Cdmf=argmini=1,2,3,4|Ci-C0|(9)
激进中值可为四个中值中的最去饱和(就色彩而言)的那个,而保守中值则可为四个中值中的最接近输入值的那个。激进中值可以用来提供对色差的较强校正,并且保守中值可以用来提供对色点伪像的较弱校正。
可将输入的色度值C0、输出值C1、C2、C3和C4、以及校正比率图值R输入到自适应式选择模块525中。如果对应于像素的校正比率图是R==0(其指示了这个像素未检测为属于色彩伪像),那么针对像素校正的色度值可设为C校正=C0,其中C0是当前像素的输入或当前的色度值。如果像素的校正比率图值在0<=R<=1范围内,那么像素被检测为近似色点伪像或色点伪像的部分(例如,色点或细线),并且针对像素校正的色度值C校正可以通过从C1、C2、C3和C4中选择保守(即,输出值与输入值C0之间的最小差值)中值并将其与输入的色度值C0加权,如下:
Ccorr=Ck,k=argmini=1,2,3,4|Ci-C0|(10)
在一个实施例中,四或五个像素周边范围内的像素可视为近似的,并且可以落在0<=R<=1校正比率图值的范围内。
如果对应于像素的校正比率图为R==2(其指示了像素被检测为靠近一或多个饱和区域并可能是色差),那么自适应式选择模块525可以通过选择激进(即,相较于输入值C0而言最去饱和)中值获得针对像素校正的色度值C校正
C校正=argmini=1,2,3,4|Ci-128|(11)
由于用于中值滤波的激进方向通常垂直于保守方向,因此自适应式选择模块525可以首先通过确定所得的色度值C1、C2、C3和C4中的哪个与色度值C0具有最小差值来搜索保守方向。该激进校正值可以通过确定所得的色度值C1、C2、C3和C4中的哪个得自在与保守方向相反的方向(其垂直于保守方向)的中值滤波器来确定,或通过确定所得的色度值C1、C2、C3和C4中的哪个与当前值C0具有最大差值来确定。
示例自适应式色彩伪像校正过程概览
图6示出自适应式色彩伪像校正过程600的实施例。虽然在图1、2、3B、4B和5B的系统和组件的上下文中论述,但是过程600可实施在具有自适应式色彩校正能力的任何系统上。
在开始时,在方框605处,成像系统200的色彩伪像校正器240例如从成像传感器215处接收图像数据。在其它实施例中,与成像装置分开的计算装置中的模块或处理器可以接收用于后捕获处理的图像数据。
在方框610处,检测模块255通过根据关于图像数据中的色彩伪像的形成和特性的一或多个假设来分析图像数据,从而生成校正比率图。例如,检测模块255可以基于色彩伪像通常具有色彩凹凸、位于突出显示或饱和区域中、具有亮度边缘、大小相对较小并且具有相较于合法色彩特征而言不太均匀的色彩的假设中的一或多个来检测色彩伪像。另外,检测模块255可以区分两类色彩伪像,即色点伪像和色差。这种区分可以基于以下假设:色点伪像通常出现在亮点、亮线、高对比度边缘以及饱和区域附近,以及色差通常会出现在饱和区域附近。
如上论述,色彩伪像检测的一个实施例可以涉及从图像数据中的亮度(Y)分量或明度分量构建校正比率图并使用图像的色度(Cb和Cr)通道来校正校正比率图的两阶段式过程。检测模块255可将滤波器应用于亮度分量,以便检测亮点和亮边缘并且执行饱和校验,而且在一些实施例中,还可根据亮度分量估计饱和度图。这可提供逐像素的校正比率图的初步值,以便指示色彩伪像的存在和位置以及所需色彩校正强度。例如,可以根据以下等式(12)来执行饱和校验和亮点检测。
在一个实施例中,T1可设为等于10,并且T2可设为等于240。
随后,检测模块255可将滤波器应用于该图像的色度通道,以便执行灰度校验并且执行色点检测。这可提供关于初步校正比率图中可能无色像素的信息。初步校正比率图的像素值可以使用对色度通道的分析更新,例如,以便排除包括任何错误地包括的无色像素。在一些实施例中,灰度校验可以使用以上等式(6)执行,并且色点检测可以根据以上等式(7)执行。在执行灰度校验和色点检测期间或在此后,检测模块255可以更新初步校正比率图值R,以便生成最终校正比率图。
在色彩伪像检测过程的另一实施例中,根据等式(13),检测模块255可以不同标度将两个对称检测内核应用于亮度通道(Y),以便检测亮点/亮线以及高对比度边缘。
其中Y'通过将两个内核应用于亮度通道的最大响应来获得,即,Y'=max(Y*H1,Y*H2)。这提供对色彩伪像图R1的估计,从而指示图像中的色彩伪像所在位置。饱和度图R2可从亮度通道Y进行估计,
并且根据等式(15),初步校正比率图R12可以通过将色彩伪像图R1和饱和度图R2来与一些扩展组合:
R 12 i , j = m a x ( m a x i - 1 &le; m &le; i + 1 , j - 1 &le; n &le; j + 1 R 1 m , n , m a x i - 2 &le; m &le; i + 2 , j - 2 &le; n &le; j + 2 R 2 m , n ) - - - ( 15 )
初步校正比率图R12可以包括一或多个无色(即,黑色、白色以及灰度)像素,由此,这些无色像素无需校正。为了使稍后校正的计算延迟减少,可以通过校验无色像素的色度通道(Cb和Cr)并通过改变与无色像素相关联的校正比率图中的条目以指示无需色度校正来从后续色彩校正排除这些无色像素。以此方式,我们可以根据等式(16)获得最终校正比率图R。
在生成校正比率图后,过程600转至方框615,以便使用用于色点伪像和色差的自适应选择的滤波来对色彩伪像进行校正。例如,校正模块260可以两种不同设置分别针对色点伪像和色差对色度通道应用方向中值滤波。根据在检测色彩伪像期间生成的校正比率图,方向中值滤波利用由校正比率图中对应于像素的条目确定的不同设置和不同强度来对每个像素(例如,像素的色度值)进行校正。
在一个实施例中,校正模块260可以在四个方向上使用方向中值滤波,其中每个均为5×3中值滤波器。中值滤波非常适于保持图像中的所需色彩特征,同时校正色彩伪像。比起无方向的中值滤波(5×5),5×3方向中值滤波能够更好保留细致色彩特征(例如,拐角和线)并且减少计算成本。另外,校正模块260可以通过调节5×3中值滤波器的方向来控制应用于图像或图像的部分的校正的强度。
在一些实施例中,对于每个色度通道(Cb和Cr)中的每个像素,校正模块260可以沿着四个方向中的每个应用5×3中值滤波器来获得四个中值。在排序后,四个中值可指示为C1<C2<C3<C4
C1<C2<C3<C4(17)
当对应于像素的校正比率图是R==0(其指示了这个像素未检测为属于色彩伪像),那么针对像素校正的色度值可设为C校正=C0,其中C0是当前像素的输入或当前的色度值。在一些实施例中,根据以上等式(9),或在其它实施例中,根据以下等式,当对应于像素的校正比率图在0<=R<=1范围内(其指示了这个像素被检测为色点伪像,例如色点或细线),那么校正模块260可以通过从C1、C2、C3和C4中选择保守(即,与当前值C0的差值最小)中值并将其与当前的色度值C0加权来获得针对像素校正的色度值C校正
C校正=(1-R)*C0+R*argmini=1,2,3,4|Ci-C0|(18)
根据以上等式(10),当对应于像素的校正比率图为R==2(其指示了像素被检测为靠近一或多个饱和区域并可能是色差),那么自适应式选择模块260可以通过选择激进(去饱和的)中值获得针对像素校正的色度值C校正
由于用于中值滤波的激进方向通常垂直于保守方向,因此自适应式选择模块260可以首先通过确定所得的色度值C1、C2、C3和C4中的哪个与色度值C0具有最小差值来搜索保守方向。该激进校正值可以通过确定所得的色度值C1、C2、C3和C4中的哪个得自在与保守方向相反的方向(其垂直于保守方向)的中值滤波器来确定,或通过确定所得的色度值C1、C2、C3和C4中的哪个与当前值C0具有最大差值来确定。
在方框620处,检验模块265可对校正的色度值C校正进行分析,以便确保色彩伪像得到校正,而不造成另外伪像或去饱和。例如,方向中值滤波可能已经造成一些另外色彩伪像,例如已使黑色或白色的像素因其有色相邻部分而变换成有色像素。为了避免引起此些另外色彩伪像,检验模块265可以执行“箝位”操作,这个操作最终限制最终的输出值。在一些实施例中,最终输出的色度值可以如下获得:
虽然并未示出,过程600的一些实施例可以在从检验步骤输出的Cb/Cr值与输入Cb/Cr值之间执行一定插值,以便获得最终输出Cb/Cr值。以此方式,过程600可以通过控制插值加权来进一步控制色彩伪像校正强度。
在方框625处,色彩伪像校正器240可以输出校正过的图像数据,例如以存储或显示。
实施系统以及术语
本文所揭示的实施方案提供用于利用具有一或多个成像传感器的电子装置生成色彩经校正的图像的系统、方法和设备。本领域的技术人员将认识到,这些实施例能够以硬件、软件、固件或它们的任何组合实施。
在一些实施例中,上文论述的电路、过程和系统可以用于无线通信装置。无线通信装置可为一种用于与其它电子装置无线通信的电子装置。无线通信装置实例包括蜂窝电话、智能电话、个人数字助理(PDA)、电子阅读器、游戏系统、音乐播放器、笔记本、无线调制解调器、膝上型计算机、平板装置等等。
无线通信装置可以包括一或多个图像传感器、两个或两个以上的图像信号处理器、以及包括用于实行上文论述的CNR过程的指令或模块的存储器。本文提到的存储器可为一个存储器组件、两个或两个以上的存储器组件,或可包括RAM、ROM、EEPROM、闪存、CD-ROM或其它光盘存储装置、磁盘存储装置或其它磁性存储装置,或能够用来存储呈指令或数据结构形式的所需程序代码并能够由计算机访问的任何其它媒体。所述装置还可具有数据、加载来自存储器的指令和/或数据的一或多个处理器、一或多个通信接口、一或多个输入装置、一或多个输出装置(例如显示装置以及电源/电源接口)。本文提到的处理器除非具体指明,否则可以是单个处理器组件或多个处理器组件,并且还可以是配置到一个组件上的多个处理器。无线通信装置另外可包括发射器和接收器。该发射器和接收器可以统称为收发器。该收发器可耦接至一或多个天线,用以传输和/或接收无线信号。
无线通信装置可以无线方式来连接至另一电子装置(例如,基站)。无线通信装置可替代地称为移动装置、移动站、订户站、用户设备UE、远程站、访问终端、移动终端、终端、用户终端、订户单元等等。无线通信装置实例包括膝上型或桌上型计算机、蜂窝电话、智能电话、无线调制解调器、电子阅读器、平板装置、游戏系统等等。无线通信装置可以根据一或多个行业标准(例如第三代合作伙伴计划(3GPP))进行操作。因此,一般术语“无线通信装置”可以包括用根据行业标准的不同术语来描述的无线通信装置(例如,访问终端、用户设备(UE)、远程终端等等)。
本文所述功能可以作为一或多个指令来存储在处理器可读或计算机可读媒体上。术语“计算机可读媒体”是指能够被计算机或处理器访问的任何可用媒体。举例来说,但非限制,此些媒体可以包括RAM、ROM、EEPROM、闪存、CD-ROM或其它光盘存储装置、磁盘存储装置或其它磁性存储装置,或能够用来存储呈指令或数据结构形式的所需程序代码并能够由计算机访问的任何其它媒体。如本文所使用的磁盘和光盘包括压缩光盘(CD)、激光光盘、光学光盘、数字通用光盘(DVD)、软磁盘和光盘,其中磁盘通常磁性再现数据,而光盘则利用激光光学再现数据。应当注意,计算机可读媒体可为有形且非暂时性的。术语“计算机程序产品”是指结合可由计算装置或处理器执行、处理或计算的代码或指令(例如,“程序”)的计算装置或处理器。如本文所使用,术语“代码”可指可由计算装置或处理器执行的软件、指令、代码或数据。
还可经由传输媒体对软件或指令进行传输。例如,如果软件是使用同轴线缆、光纤线缆、双绞线、数字订户线路(DSL)、或无线技术(例如红外、无线电和微波)从网站、服务器或其它远程来源传输,那么同轴线缆、光纤线缆、双绞线、数字订户线路、或无线技术(例如红外、无线电和微波)可包括于传输媒体的定义中。
本文所揭示的方法包括用于实现所述方法的一或多个步骤或动作。在不背离权利要求范围的情况下,可将方法步骤和/或动作彼此互换。换句话说,除非需要特定步骤次序来实现所述方法的正确操作,否则在不背离权利要求范围的情况下,可对特定步骤和/或动作次序和/或使用进行修改。
应当注意,如本文所使用,术语“耦接”、“所耦接的”、“被耦接的”或词语“耦接”的其它变型可以指示间接连接或直接连接。例如,如果第一组件“被耦接”至第二组件,那么第一组件可间接连接至第二组件,或直接连接至第二组件。如本文所使用,术语“多个”指两个或两个以上。例如,多个组件指示两个或两个以上的组件。
术语“确定”涵盖各种各样动作,并且因此“确定”可以包括核算、计算、处理、推导、调查、查找(例如,在表、数据库或另一数据结构中进行查找)、推断等等。另外,“确定”可以包括接收(例如,接收信息)、评估(例如,评估在存储器中的数据)等等。另外,“确定”可以包括解析、选择、选取、建立等等。
词语“基于”不意味着“仅仅基于”,除非另外具体指明。换句话说,词语“基于”描述“仅仅基于”和“至少基于”两者。
在前述描述中,给出具体细节以便提供对实例的透彻理解。然而,本领域的技术人员将会理解实例可在没有这些特定细节的情况下实践。例如,电学组件/装置可以方框图来示出,以便不会在不必要的细节上模糊实例。在其它实例中,此些部件、其它结构以及技术可详细地示出以进一步解释实例。
在本文中包括的标题用于参考并有助于定位各个章节。这些标题并非旨在限制针对其所述的概念的范围。此些概念可以在整个本说明书中都具有适用性。
还要注意,实例可描述为过程,所述过程可描绘为流程图、流图、有限态图、结构图、或方框图。虽然流程图可描述操作作为顺序过程,但是许多操作可以并行、或者说是同时执行,并且过程可以重复。另外,操作次序可以重新安排。过程在其操作已完成时终止。过程可对应于方法、功能、程序、子例程、子程序等等。当过程是对应于软件功能时,过程终止就对应于功能返回至调用功能或主要功能。
所公开的实施方案的先前描述提供用于使得本领域的任何技术人员能够制作或使用本发明。对这些实施方案的各种修改将对本领域的技术人员显而易见,并且在不背离本发明精神和范围的情况下,本文所定义的一般原理可应用于其它实施方案。因此,本发明不旨在限于本文所示实施方案,而是依照符合本文所揭示的原理和新颖特征的最宽泛的范围。

Claims (30)

1.一种用于校正具有多个像素的图像中的色彩伪像的方法,所述方法包括:
接收所述图像的图像数据,所述图像数据包括所述图像中的所述多个像素中的每个的亮度(Y)分量值和两个色度分量值;
检测所述图像数据的所述Y分量值中的至少一个色彩伪像;
生成对应于所述图像中的所述多个像素的校正比率图,所述校正比率图指示所述图像数据中的所述至少一个色彩伪像的位置;
将多个方向中值滤波器应用于每个色度分量以针对所述色度分量值的子集生成多个中值;
针对所述色度分量值的所述子集中的每个,至少部分基于对应校正比率图条目选择所述多个中值中的一个;以及
至少部分基于所述多个中值中的所选择的一个,输出所述像素的校正的色度值。
2.根据权利要求1所述的方法,其进一步包括将所述中值和第一校正比率图条目接收在校正模块处,所述第一校正比率图条目与所述像素相对应。
3.根据权利要求1所述的方法,其进一步包括基于对所述图像数据的Cb分量和Cr分量中的至少一个的分析,更新所述校正比率图,其中更新所述校正比率图通过改变与无色像素相关联的第二校正比率图条目值从后续色度校正中排除所述无色像素。
4.根据权利要求1所述的方法,其进一步包括响应于对一或两个色度分量所执行的灰度校验结果而更新所述校正比率图。
5.根据权利要求1所述的方法,其中选择所述多个中值中的一个包括如果所述第一校正比率图条目指示所述像素与色点伪像相关联,那么选择最保守的中值。
6.根据权利要求5所述的方法,其中输出所述校正的色度值进一步包括利用所述输入的色度值来对所述最保守的中值进行加权。
7.根据权利要求1所述的方法,其中选择所述多个中值中的一个包括如果所述第一校正比率图条目指示所述像素与色差相关联,那么选择最激进的中值。
8.一种用于对图像中的色彩伪像进行校正的系统,所述系统包括:
检测模块,所述检测模块被配置成检测包括多个像素的图像中的至少一个色彩伪像,所述检测模块进一步配置成生成具有针对所述图像中的多个像素中的每个的条目的校正比率图,所述条目指示与对应像素相关联的色彩伪像类型;
校正模块,所述校正模块被配置成至少部分基于所述条目计算所述对应像素的校正的色度值,所述条目指示与所述对应像素相关联的色彩伪像的类型,所述校正模块进一步配置成基于所述条目选择多个方向中值滤波器中的一个以用来计算校正的色度值,所述校正模块进一步配置成如果所述条目指示所述对应像素与色点伪像相关联,那么选择第一方向中值滤波器,并且如果所述条目指示所述对应像素与色差相关联,那么选择第二方向中值滤波器;以及
检验模块,所述检验模块被配置成检验所述校正的色度值,以便减少在从所述校正的色度值形成的校正过的图像中引入合法色彩特征的另外伪像或去饱和。
9.根据权利要求8所述的系统,其中所述多个方向中值滤波器包括垂直5×3中值滤波器、水平5×3中值滤波器、以及两个对角5×3中值滤波器,并且其中所述对角5×3中值滤波器彼此垂直。
10.根据权利要求8所述的系统,其中所述校正比率图条目指示所述对应像素是不与无色伪像相关联、还是与色点伪像或是色差相关联。
11.根据权利要求8所述的系统,其中所述检测模块包括校正图电路,所述校正图电路被配置成至少部分基于所捕获的图像的亮度分量的分析来生成初步校正比率图条目值。
12.根据权利要求11所述的系统,其中所述校正图电路包括用于将所述亮度分量与用于检测色点伪像的多个内核进行卷积的多个模块。
13.根据权利要求11所述的系统,其中所述校正图电路包括用于构建所述亮度分量的饱和度图的模块。
14.根据权利要求11所述的系统,其中所述检测模块进一步包括校正图更新电路,所述校正图更新电路被配置成至少部分基于所捕获的图像的一或两个色度分量的分析来更新所述初步校正比率图条目值。
15.根据权利要求14所述的系统,其中所述校正图更新电路包括灰度校验模块,所述灰度校验模块被配置成确定所述多个像素中的每个是否为无色像素。
16.根据权利要求14所述的系统,其中所述校正图更新电路包括用于将所述一或两个色度分量与用于检测色点伪像的多个内核进行卷积的多个模块。
17.根据权利要求14所述的系统,其中所述校正图更新电路包括配置成至少部分基于灰度校验结果和色点校验结果来更新所述校正比率图条目的模块,其中所述灰度校验和所述色点校验对所述一或两个色度分量执行。
18.根据权利要求8所述的系统,其中所述校正模块包括用于将所述多个方向中值滤波器应用于所述对应像素的输入色度值以生成多个中值的多个滤波器模块。
19.根据权利要求18所述的系统,所述校正模块进一步包括自适应式选择模块,所述自适应式选择模块被配置成接收所述校正比率图条目以及所述多个中值,并且针对所述对应像素输出校正的色度值。
20.根据权利要求8所述的系统,其进一步包括:
存储器,所述存储器被配置成存储所述图像;以及
处理器,所述处理器被耦接至所述存储器,所述处理器被配置成使用所述检测模块、所述校正模块以及所述检验模块来检索所述图像和处理所述图像。
21.一种生成用于校正图像中的色彩伪像的校正比率图的方法,所述方法包括:
接收包括所述图像的图像数据,所述图像包括亮度分量以及两个色度分量;
将所述亮度分量与至少一个对称内核卷积,以便生成色彩伪像图;
至少部分基于所述色彩伪像图生成初步校正比率图,其中所述初步校正比率图包含对应于所述图像中的多个像素中的每个的条目;
对所述色度分量中的至少一个执行灰度校验;以及
至少部分基于所述灰度校验更新所述初步校正比率图以便从后续色彩校正中排除任何无色像素,由此生成最终校正比率图。
22.根据权利要求21所述的方法,其进一步包括基于所述亮度分量生成估计饱和度图,并且其中生成所述初步校正比率图进一步至少部分基于所述估计饱和度图。
23.根据权利要求21所述的方法,其中执行所述灰度校验包括将所述色度分量中的至少一个与饱和度检测内核卷积。
24.根据权利要求21所述的方法,其中将所述亮度分量与至少一个对称内核卷积进一步包括对所述亮度分量下采样。
25.根据权利要求21所述的方法,其进一步包括:
对所述色度分量中的至少一个执行色点校验;以及
至少部分基于所述色点校验更新所述初步校正比率图。
26.一种非暂时性计算机可读媒体,所述非暂时性计算机可读媒体存储指令,所述指令在执行时致使至少一个处理器来执行方法,所述方法包括:
接收图像的图像数据,所述图像数据包括所述图像中的多个像素中的每个的亮度(Y)分量值和两个色度分量值;
基于所述图像数据的亮度分量值和色度分量值两者检测至少一个色彩伪像;
生成对应于所述图像中的所述多个像素的校正比率图,所述校正比率图指示所述图像数据中的所述至少一个色彩伪像的位置;
将多个方向中值滤波器应用于每个色度分量以针对所述色度分量值的子集生成多个中值;
针对所述色度分量值的所述子集中的每个,至少部分基于对应校正比率图条目选择所述多个中值中的一个;以及
至少部分基于所述多个中值中的所选择的一个,输出所述像素的校正的色度值。
27.根据权利要求26所述的非暂时性计算机可读媒体,所述方法进一步包括响应于对一或两个色度分量所执行的灰度校验结果而更新所述校正比率图。
28.根据权利要求26所述的非暂时性计算机可读媒体,所述方法进一步包括响应于对一或两个色度分量所执行的色点校验结果而更新所述校正比率图。
29.根据权利要求26所述的非暂时性计算机可读媒体,其中选择所述多个中值中的一个包括如果所述第一校正比率图条目指示所述像素与色点伪像相关联,那么选择最保守的中值。
30.根据权利要求26所述的非暂时性计算机可读媒体,其中选择所述多个中值中的一个包括如果所述第一校正比率图条目指示所述像素与色差相关联,那么选择最激进的中值。
CN201480041655.1A 2013-07-26 2014-07-21 校正图像伪像的系统和方法 Active CN105408936B (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201361858956P 2013-07-26 2013-07-26
US61/858,956 2013-07-26
US14/191,190 US9251572B2 (en) 2013-07-26 2014-02-26 System and method of correcting image artifacts
US14/191,190 2014-02-26
PCT/US2014/047465 WO2015013206A1 (en) 2013-07-26 2014-07-21 System and method of correcting image artifacts

Publications (2)

Publication Number Publication Date
CN105408936A true CN105408936A (zh) 2016-03-16
CN105408936B CN105408936B (zh) 2018-03-13

Family

ID=52390593

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201480041655.1A Active CN105408936B (zh) 2013-07-26 2014-07-21 校正图像伪像的系统和方法

Country Status (6)

Country Link
US (1) US9251572B2 (zh)
EP (1) EP3025302B1 (zh)
JP (1) JP6469678B2 (zh)
KR (1) KR102214876B1 (zh)
CN (1) CN105408936B (zh)
WO (1) WO2015013206A1 (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108537763A (zh) * 2017-03-01 2018-09-14 深圳开阳电子股份有限公司 一种图像颜色校正装置
CN109074634A (zh) * 2016-05-02 2018-12-21 高通股份有限公司 用于数字图像传感器的自动化噪声和纹理优化的方法和设备
CN110168606A (zh) * 2016-06-08 2019-08-23 谷歌有限责任公司 从实体物品生成合成图像

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102025184B1 (ko) * 2013-07-31 2019-09-25 엘지디스플레이 주식회사 데이터 변환 장치 및 이를 이용한 디스플레이 장치
CN103714775B (zh) * 2013-12-30 2016-06-01 北京京东方光电科技有限公司 像素阵列及其驱动方法、显示面板和显示装置
CN105981378B (zh) * 2014-02-07 2018-07-20 索尼公司 用于减少复合图像中的彩色镶边的方法和设备
JP6329412B2 (ja) * 2014-03-26 2018-05-23 株式会社メガチップス Simdプロセッサ
US9672765B2 (en) 2015-09-30 2017-06-06 Apple Inc. Sub-pixel layout compensation
CN106934836B (zh) * 2017-03-14 2020-12-01 潍坊学院 一种雾霾图像基于自动聚类的大气光值计算方法及系统
CN106934779B (zh) * 2017-03-14 2020-12-01 潍坊学院 一种图像去雾处理中大气光值计算方法及系统
US10986356B2 (en) 2017-07-06 2021-04-20 Samsung Electronics Co., Ltd. Method for encoding/decoding image and device therefor
EP3567857A1 (en) 2017-07-06 2019-11-13 Samsung Electronics Co., Ltd. Method for encoding/decoding image and device therefor
KR102338466B1 (ko) * 2017-12-08 2021-12-14 삼성전자주식회사 디스플레이 장치 및 디스플레이 장치의 제어방법
CN109118555B (zh) * 2018-08-14 2019-06-14 广州华端科技有限公司 计算机断层成像的金属伪影校正方法和系统
KR102285738B1 (ko) 2018-10-19 2021-08-05 삼성전자주식회사 영상의 주관적 품질을 평가하는 방법 및 장치
WO2020080665A1 (en) 2018-10-19 2020-04-23 Samsung Electronics Co., Ltd. Methods and apparatuses for performing artificial intelligence encoding and artificial intelligence decoding on image
WO2020080827A1 (en) 2018-10-19 2020-04-23 Samsung Electronics Co., Ltd. Ai encoding apparatus and operation method of the same, and ai decoding apparatus and operation method of the same
WO2020080709A1 (en) * 2018-10-19 2020-04-23 Samsung Electronics Co., Ltd. Artificial intelligence encoding and artificial intelligence decoding methods and apparatuses using deep neural network
US11720997B2 (en) 2018-10-19 2023-08-08 Samsung Electronics Co.. Ltd. Artificial intelligence (AI) encoding device and operating method thereof and AI decoding device and operating method thereof
KR102525578B1 (ko) 2018-10-19 2023-04-26 삼성전자주식회사 부호화 방법 및 그 장치, 복호화 방법 및 그 장치
US11616988B2 (en) 2018-10-19 2023-03-28 Samsung Electronics Co., Ltd. Method and device for evaluating subjective quality of video
WO2020080765A1 (en) 2018-10-19 2020-04-23 Samsung Electronics Co., Ltd. Apparatuses and methods for performing artificial intelligence encoding and artificial intelligence decoding on image
WO2020080873A1 (en) 2018-10-19 2020-04-23 Samsung Electronics Co., Ltd. Method and apparatus for streaming data
KR102436512B1 (ko) 2019-10-29 2022-08-25 삼성전자주식회사 부호화 방법 및 그 장치, 복호화 방법 및 그 장치
KR20210056179A (ko) 2019-11-08 2021-05-18 삼성전자주식회사 Ai 부호화 장치 및 그 동작방법, 및 ai 복호화 장치 및 그 동작방법
KR20210157525A (ko) * 2020-06-19 2021-12-29 삼성디스플레이 주식회사 표시 장치 및 이의 구동 방법
CN114641830A (zh) * 2020-10-15 2022-06-17 京东方科技集团股份有限公司 食物体积、热量计算方法、电子装置、电子设备和存储介质
KR102591594B1 (ko) * 2021-05-10 2023-10-19 네이버웹툰 유한회사 인공신경망을 이용한 채색 이미지 보정 방법 및 그 장치
CN113376439B (zh) * 2021-07-08 2022-04-29 广西电网有限责任公司电力科学研究院 一种智能化防雷接地电阻在线监测系统

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1303071A (zh) * 1999-12-15 2001-07-11 罗技电子股份有限公司 动态异常象素的检测与校正
US6542187B1 (en) * 1998-07-09 2003-04-01 Eastman Kodak Company Correcting for chrominance interpolation artifacts
CN1455910A (zh) * 2000-07-18 2003-11-12 索尼电子有限公司 数字图像中的偏色检测和消除
CN1659592A (zh) * 2002-06-12 2005-08-24 奥普提克斯晶硅有限公司 用于光学异常的电子校正的系统和方法
CN1754189A (zh) * 2003-02-19 2006-03-29 索尼株式会社 图像处理装置、方法和程序
CN101103374A (zh) * 2005-01-11 2008-01-09 伊斯曼柯达公司 稀疏分布的彩色数字图像的噪声清除
CN102867295A (zh) * 2012-08-06 2013-01-09 电子科技大学 一种彩色图像颜色校正方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0514925A (ja) * 1991-07-01 1993-01-22 Sony Corp 画像信号処理装置
JP3825932B2 (ja) * 1999-02-19 2006-09-27 キヤノン株式会社 画像処理装置、方法及びコンピュータ読み取り可能な記憶媒体
JP2002010286A (ja) * 2000-06-26 2002-01-11 Canon Inc 信号処理装置、信号処理方法、及び撮像装置
DE60235526D1 (de) 2001-01-25 2010-04-15 Nikon Corp Bildverarbeitungsverfahren, bildverarbeitungsprogramm und bildprozessor
JP4479457B2 (ja) * 2004-05-27 2010-06-09 ソニー株式会社 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP4539280B2 (ja) * 2004-10-19 2010-09-08 ソニー株式会社 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
EP1650979A1 (en) 2004-10-21 2006-04-26 STMicroelectronics S.r.l. Method and system for demosaicing artifact removal
WO2007007878A1 (ja) 2005-07-14 2007-01-18 Nikon Corporation 画像処理装置および画像処理方法
US8254718B2 (en) 2008-05-15 2012-08-28 Microsoft Corporation Multi-channel edge-aware chrominance noise reduction
US8520969B2 (en) 2009-08-25 2013-08-27 Stmicroelectronics S.R.L. Digital image processing apparatus and method
JP2014086932A (ja) * 2012-10-25 2014-05-12 Sony Corp 画像処理装置、画像処理方法、および画像処理プログラム

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6542187B1 (en) * 1998-07-09 2003-04-01 Eastman Kodak Company Correcting for chrominance interpolation artifacts
CN1303071A (zh) * 1999-12-15 2001-07-11 罗技电子股份有限公司 动态异常象素的检测与校正
CN1455910A (zh) * 2000-07-18 2003-11-12 索尼电子有限公司 数字图像中的偏色检测和消除
CN1659592A (zh) * 2002-06-12 2005-08-24 奥普提克斯晶硅有限公司 用于光学异常的电子校正的系统和方法
CN1754189A (zh) * 2003-02-19 2006-03-29 索尼株式会社 图像处理装置、方法和程序
CN101103374A (zh) * 2005-01-11 2008-01-09 伊斯曼柯达公司 稀疏分布的彩色数字图像的噪声清除
CN102867295A (zh) * 2012-08-06 2013-01-09 电子科技大学 一种彩色图像颜色校正方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109074634A (zh) * 2016-05-02 2018-12-21 高通股份有限公司 用于数字图像传感器的自动化噪声和纹理优化的方法和设备
CN110168606A (zh) * 2016-06-08 2019-08-23 谷歌有限责任公司 从实体物品生成合成图像
CN110168606B (zh) * 2016-06-08 2023-09-26 谷歌有限责任公司 生成实体物品的合成图像的方法和系统
CN108537763A (zh) * 2017-03-01 2018-09-14 深圳开阳电子股份有限公司 一种图像颜色校正装置
CN108537763B (zh) * 2017-03-01 2023-07-07 深圳开阳电子股份有限公司 一种图像颜色校正装置

Also Published As

Publication number Publication date
KR102214876B1 (ko) 2021-02-09
US9251572B2 (en) 2016-02-02
EP3025302B1 (en) 2017-11-01
WO2015013206A1 (en) 2015-01-29
EP3025302A1 (en) 2016-06-01
KR20160036662A (ko) 2016-04-04
US20150030247A1 (en) 2015-01-29
JP6469678B2 (ja) 2019-02-13
JP2016525840A (ja) 2016-08-25
CN105408936B (zh) 2018-03-13

Similar Documents

Publication Publication Date Title
CN105408936A (zh) 校正图像伪像的系统和方法
US9749551B2 (en) Noise models for image processing
US10949958B2 (en) Fast fourier color constancy
US20150363913A1 (en) Adaptive filter demosaicizing for super resolution
US10853927B2 (en) Image fusion architecture
US11138709B2 (en) Image fusion processing module
US9451226B2 (en) White balance method for shading compensation, and apparatus applied to the same
US9247152B2 (en) Determining image alignment failure
US10855964B2 (en) Hue map generation for highlight recovery
CN104704807A (zh) 图像处理装置、摄像装置、图像处理方法、程序及记录介质
KR20140090778A (ko) 컬러 프린지 제거 방법
US9854218B2 (en) Electronic system and image processing method
US9202266B2 (en) Method, apparatus and computer program product for processing of images
US8805063B2 (en) Method and apparatus for detecting and compensating for backlight frame
US10547863B1 (en) Image statistics for motion detection
US10567787B1 (en) Autofocusing images using motion detection
WO2023151210A1 (zh) 图像处理方法、电子设备及计算机可读存储介质
US9836827B2 (en) Method, apparatus and computer program product for reducing chromatic aberrations in deconvolved images
CN111242087B (zh) 物体识别方法及装置
US20160366388A1 (en) Methods and devices for gray point estimation in digital images
US20180082396A1 (en) Dynamic camera pipelines
CN115731143A (zh) 图像处理方法、装置、电子设备和计算机可读存储介质

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant