CN100593320C - 处理图像数据中的噪声的方法、噪声降低单元和成像设备 - Google Patents

处理图像数据中的噪声的方法、噪声降低单元和成像设备 Download PDF

Info

Publication number
CN100593320C
CN100593320C CN200710161975A CN200710161975A CN100593320C CN 100593320 C CN100593320 C CN 100593320C CN 200710161975 A CN200710161975 A CN 200710161975A CN 200710161975 A CN200710161975 A CN 200710161975A CN 100593320 C CN100593320 C CN 100593320C
Authority
CN
China
Prior art keywords
pixel value
auto
pixel
correlation coefficient
threshold
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN200710161975A
Other languages
English (en)
Other versions
CN101155256A (zh
Inventor
星野和弘
角博文
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of CN101155256A publication Critical patent/CN101155256A/zh
Application granted granted Critical
Publication of CN100593320C publication Critical patent/CN100593320C/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Image Analysis (AREA)

Abstract

公开了一种图像数据的噪声处理的方法,通过具有信号处理部分的图像处理器来进行,所述信号处理部分把来自图像传感器的图像信号转换成数字信号,并且关于每帧把该经转换的信号作为图像数据来输出,所述图像数据表示像素值的集合,每个像素值具有在以行和列方向排列的坐标点中相对应的一个的亮度。所述方法包括步骤:提取像素值;判断像素值;求出小于第一阈值的像素值的自相关系数;以及判断在图像中的随机噪声。

Description

处理图像数据中的噪声的方法、噪声降低单元和成像设备
技术领域
本发明涉及一种图像数据的噪声处理的方法以便使能进行由诸如CCD图像传感器或CMOS图像传感器的成像设备在时间上随机产生的噪声的判断和随机噪声的降低两者中的至少一种。本发明还涉及一种噪声降低单元和一种使用该噪声降低单元的成像设备。
背景技术
在成像设备(诸如能够用固态成像设备(例如,CCD图像传感器或CMOS图像传感器)成像运动画面的数码相机)、蜂窝电话内置的照相机、或数码相机中,重要的是降低在拍摄期间在低亮度的条件下由固态成像设备产生的噪声以实现高图像质量。
由固态成像设备所生成的噪声通常被分类为固定式样噪声和随机噪声。通常实践上用相关双重采样(correlation double sampling)(CDS)电路(见“Fundamentals of Solid-State Imaging Devices”,81-84页,Nippon-RikohPublishing Society,日本(非专利参考文献1))来抑制固定式样噪声。同时,随机噪声是在时间轴上随机产生的,因此,难以抑制随机噪声。然而,在防止固态成像设备的S/N的劣化中和在消除低亮度条件下的检测极限中以及在实现高图像质量中,随机噪声的降低是重要的。
在通过自相关方法降低噪音的情况下,当在图像中产生周期闪烁(flicker)噪声、固定式样噪声或跳动噪声时,可能通过计算来自图像数据的自相关系数来获得噪声的式样(特征)。在这种情况下,自相关函数是通过下式计算的:
r ( τ ) = 1 N Σ t = 0 N - τ - 1 x ( t + τ ) x ( t ) - - - ( 1 )
其中N是像素的总数,x是指示像素亮度的像素值,t是时间,τ是沿时间轴的像素的移动量。该自相关函数r(τ)是在时间t瞬间的像素值与在移动了τ的(t+τ)瞬间的像素值的乘积值的算术平均。
发明内容
图8示出了当作为随机噪声的白噪声被迭加在具有例如,通过cos(π/128)所给定的周期的原始信号上时所求出求出的轮廓。该轮廓示出了在各个采样点的像素值不是均衡的。图9示出了当已经通过自相关技术去除了白噪声时产生的自相关度。
即,如图8所示,当它是由被迭加了白噪声的具有周期的原始信号所组成的随机噪声时,能够从在如从图9可见的自相关系数中的变化去除噪声。
另一方面,无诸如cos(π/128)的周期的白噪声的轮廓仅由如图10所示的随机噪声组成。自相关函数的输出结果如图11所示。如从图11明显看到,在无周期的信号中相关系数被保持在零左右,因此可能检测不到任何噪声式样。从而,可能没有进行噪声的消去。
更具体地,关于诸如固定式样噪声的具有周期的信号,能够通过自相关方法来完成噪声降低。关于随机噪声,因为噪声没有周期因此不能实现噪声抑制。
考虑前述问题,希望提供一种以易于检测由固态图像传感器(固态成像设备)产生的随机噪声并且也易于降低随机噪声的方式来处理被包含在图像数据中的噪声的方法。也希望提供一种适合于实施该方法的噪声降低单元。此外,希望提供一种使用该噪声降低单元的成像设备。
根据本发明的一个实施例,提供了一种图像数据的噪声处理的方法,通过具有信号处理部分的图像处理器来进行,所述信号处理部分把来自图像传感器的图像信号转换成数字信号,并且关于每帧把该经转换的信号作为图像数据来输出,所述图像数据表示像素值的集合,每个像素值具有在以行和列方向排列的坐标点中相对应的一个的亮度。所述方法包括步骤:提取像素值,通过当在时间轴方向上以一定的时间间隔移动图像数据时,依次接受从所述信号处理部分传送的所述图像数据的每帧,以及在每帧中提取由对于每帧所接受的所述图像数据所代表的像素值;通过比较由所述像素值提取步骤提取的每个像素值与先前设置的第一阈值,以及判断所述像素值是否小于所述第一阈值;当正以一定的时间间隔移动时,求出小于所述第一阈值的且由位于在所接受的多帧中的所述图像数据集合所限定的同一坐标点处的像素所拥有的像素值的自相关系数;以及判断所述图像中的随机噪声,通过判断在所述自相关系数求出步骤中所求出的所述自相关系数是否小于先前设置的第二阈值,并且当所述自相关系数小于所述第二阈值时确定由于随机噪声使得图像数据已经遭受了图像质量的劣化。
根据本发明的另一实施例,提供了一种图像数据的噪声处理的方法,通过具有信号处理部分的图像处理器来进行,所述信号处理部分把来自图像传感器的图像信号转换成数字信号,并且关于每帧把该经转换的信号作为图像数据来输出,所述图像数据表示像素值的集合,每个像素值具有在以行和列方向排列的坐标点中相对应的一个的亮度。此方法包括步骤:提取像素值,通过当在时间轴方向上以一定的时间间隔移动图像数据集合时,依次接受从所述信号处理部分传送的所述图像数据集合,以及在每帧中提取由在每帧中接受的所述图像数据所代表的像素值;通过比较由所述像素值提取步骤提取的每个像素值与先前设置的第一阈值,以及判断所述像素值是否小于所述第一阈值;当正在时间轴方向上以一定的时间间隔移动时,求出由位于在所接受的多帧中的所述图像数据所限定的同一坐标点上的像素所拥有的像素值的第一自相关系数;判断所述图像中的随机噪声,通过判断在所述第一自相关系数求出步骤中所求出的所述自相关系数是否小于先前设置的第二阈值,并且当所述自相关系数小于所述第二阈值时确定由于随机噪声使得图像数据已经遭受了图像质量的劣化;当在所述像素值判断步骤判断所述像素的像素值等于或大于所述第一阈值时,设置等于或大于所述第一阈值的像素值作为第二像素值;求出第二自相关系数,通过当正在时间轴方向上以一定的时间间隔移动时,提取等于或大于所述第二像素值的并且由位于在所接受的多帧中的同一坐标点处的像素所拥有的像素值,并求出所提取的像素值的自相关系数;判断自相关系数,通过判断在所述第二自相关系数求出步骤中所求出的所述自相关系数是否小于先前设置的第三阈值;当在所述自相关系数判断步骤判断所述自相关系数小于所述第三阈值时,选择拥有具有小于所述第三阈值的自相关系数的像素值的像素作为图像的近距离场景的像素;以及针对关于在所述近距离场景选择步骤中所选的所述近距离场景的像素的照相机抖动进行校正。
根据本发明的再一个实施例,提供了用于图像数据的噪声处理的噪声降低单元,该噪声降低单元包括:图像传感器;信号处理部分,用于将来自所述图像传感器的图像信号转换为数字信号并且输出经转换的信号作为对于每帧的图像数据集合,所述图像数据表示像素值的集合,每个像素值具有在以行和列方向排列的坐标点中相对应的一个的亮度;像素值提取装置,用于当在时间轴方向上以一定的时间间隔移动所述图像数据集合时,依次接受来自所述信号处理部分的对于每帧的图像数据集合,并且在每帧中提取由在每帧中所接受的所述图像数据所代表的所述像素值;像素值判断装置,用于比较由所述像素值提取装置提取的每个像素值与先前设置的第一阈值,并且判断所述像素值是否小于所述第一阈值;自相关系数计算装置,用于当正在时间轴方向上以一定的时间间隔移动时,求出小于所述第一阈值的并且由位于在所接受的多帧中的所述图像数据所限定的同一坐标点处的像素所拥有的所述像素值的自相关系数;以及随机噪声判断装置,用于判断由所述自相关系数计算装置所求出的每个自相关系数是否小于先前设置的第二阈值,并且当判断所述自相关系数小于所述第二阈值时,确定由于随机噪声使得所述图像数据已经遭受了图像质量的劣化。
根据本发明的再一实施例,提供了用于图像数据的噪声处理的噪声降低单元,该噪声降低单元包括:图像传感器;信号处理部分,用于将来自所述图像传感器的图像信号转换为数字信号,并且输出经转换的信号作为对于每帧的图像数据集合,每个图像数据集合指示具有在以行和列方向排列的对应的一个坐标点上的亮度的像素值;像素值提取装置,用于当在时间轴方向上以一定的时间间隔移动所述图像数据时,依次对于每帧接受从所述信号处理部分传送的所述图像数据集合,以及在每帧中提取由对于每帧所接受的所述图像数据所代表的像素值;像素值判断装置,用于比较由所述像素值提取装置提取的每个像素值与先前设置的第一阈值,并且判断所述像素值是否小于所述第一阈值;第一自相关系数计算装置,用于当正在时间轴方向上以一定的时间间隔移动时,求出小于所述第一阈值且由位于在所接受的多帧中的所述图像数据所限定的同一坐标点上的像素所拥有的像素值的自相关系数;随机噪声判断装置,用于判断由所述第一自相关系数计算装置所求出的所述自相关系数是否小于先前设置的第二阈值,并且当所述自相关系数小于所述第二阈值时确定由于随机噪声使得图像数据已经遭受了图像质量的劣化;像素值设置装置,当所述像素值判断装置已经确定所述像素的像素值等于或大于所述第一阈值时,设置所述等于或大于所述第一阈值的像素值作为第二阈值;第二自相关系数计算装置,用于当正在时间轴方向上以一定的时间间隔移动时,提取等于或大于所述第二阈值的并且由位于在所接受的多帧中的同一坐标点处的像素所拥有的像素值,并求出所提取的像素值的自相关系数;自相关系数判断装置,用于判断由第二自相关系数计算装置所求出的所述自相关系数是否小于先前设置的第三阈值;近距离场景选择装置,用于当由所述自相关系数判断装置判断所述自相关系数小于所述第三阈值时,选择拥有具有小于所述第三阈值的自相关系数的像素值的像素作为图像的近距离场景的像素;以及照相机抖动校正装置,用于针对由所述近距离场景选择装置所选的所述图像的近距离场景的像素的照相机抖动进行校正。
根据本发明的再一实施例,提供了一种成像设备,其包括:图像传感器;光学系统,用于将来自对象的入射光引导到所述图像传感器中;信号处理部分,用于将来自所述图像传感器的图像信号转换为数字信号,并且输出经转换的信号作为用于每帧的图像数据,所述图像数据表示像素值的集合,每个像素值具有在以行和列方向排列的坐标点中相对应的一个的亮度;以及随机噪声判断/降低处理部分,其判断和/或降低由所述图像传感器生成的随机噪声;其中,所述随机噪声判断/降低处理部分具有:像素值提取装置,用于当在时间轴方向上以一定的时间间隔移动所述图像数据时,依次对于每帧接受从所述信号处理部分传送的图像数据,并且在每帧中提取由在每帧中所接受的所述图像数据所代表的所述像素值;像素值判断装置,用于比较由所述像素值提取装置提取的每个像素值与先前设置的第一阈值并且判断所述像素值是否小于所述第一阈值;第一自相关系数计算装置,用于当正在时间轴方向上以一定的时间间隔移动时,求出小于所述第一阈值的并且由位于在所接受的多帧中的所述图像数据所限定的同一坐标点处的像素所拥有的所述像素值的自相关系数;以及随机噪声判断装置,用于判断由所述第一自相关系数计算装置所求出的自相关系数是否小于先前设置的第二阈值,并且当判断所述自相关系数小于所述第二阈值时,确定由于随机噪声使得所述图像数据已经遭受了图像质量的劣化。
按照根据本发明的一个实施例的图像数据的噪声处理的方法,当在时间轴方向上以规律时间间隔移动图像数据集合时,对于每帧依次接受从信号处理部分传送的图像数据集合。对于每帧提取所连续接受的图像数据集合的像素值。比较所提取的像素值与先前设置的第一阈值,并且判断由图像数据所代表的所提取的像素值是否小于第一阈值。当正在时间轴方向上以一定的时间间隔移动图像数据的集合时,求出小于所述第一阈值的并且由位于在所接受的多帧中的所述图像数据所限定的同一坐标点处的像素所拥有的所述像素值的自相关系数。判断该自相关系数是否小于先前设置的第二阈值。当该自相关系数小于第二阈值时,确定由于随机噪声使得所述图像数据已经遭受了图像质量的劣化。因此能够在每个像素上标识在时间轴方向上变化的随机噪声的电平。另外,能够从低电平噪声的像素中分离出高电平噪声的像素。从而,仅能够选择具有高电平随机噪声的像素,并且能够通过算术平均方法或其他处理来容易地降低该噪声电平。此外,能够大大降低对于自相关系数的计算量。此外,能够大大降低计算自相关系数所花费的时间。
按照根据本发明的又一个实施例的图像数据的噪声处理的方法,当正在时间轴方向上以规律时间间隔移动时,对于每帧依次接受从信号处理部分传送的图像数据集合。对于每帧提取所依次接受的图像数据的像素值。比较在像素值提取步骤中所提取的每个像素值与先前设置的第一阈值,并且判断该像素值是否小于第一阈值。当正在时间轴方向上以一定的时间间隔移动时,求出小于第一阈值且由在所接受的多帧中的图像数据集合所限定的同一坐标点处的像素所拥有的像素值的自相关系数。判断该自相关系数是否小于先前设置的第二阈值。当该自相关系数小于第二阈值时,确定由于随机噪声使得所述图像数据已经遭受了图像质量的劣化。因此,能够在每个像素上标识在时间轴方向上变化的随机噪声电平。此外,能够从低电平噪声的像素中分离出高电平噪声的像素。从而,仅能够选择具有高电平随机噪声的像素,并且能够通过算术平均方法或其他处理来容易地降低该噪声电平。此外,能够大大降低对于自相关系数的计算量。此外,能够大大降低计算自相关系数所花费的时间。当在像素值判断步骤判断像素值等于或大于第一阈值时,通过像素值设置装置设置等于或大于第一阈值的像素值作为第二像素值。当正在时间轴方向上以一定的时间间隔移动时,提取等于或大于第二像素值且由位于在所接受的多帧中的同一坐标点处的像素所拥有的像素值,并且求出该像素值的自相关系数。判断该自相关系数是否小于先前设置的第三阈值。当该自相关系数小于第三阈值时,选择具有小于第三阈值的自相关系数的像素值作为正由图像的近距离场景的像素所拥有的像素值。对于在所选的近距离场景的像素中的照相机抖动进行校正。因此,当发生照相机抖动时,能够从近距离场景的像素中分离出远距离场景的像素。从而,能够仅针对比远距离场景的像素的变化范围更大的近距离场景的像素进行对于照相机抖动的校正。
按照根据本发明的一个实施例的用于图像数据的噪声处理的噪声降低单元,当在时间轴方向上以一定的时间间隔移动从信号处理部分传送的图像数据集合时,像素值提取装置在每帧中提取被包含在被对于连续帧依次接受的图像数据集合中的像素值。比较由像素值提取装置所提取的每个像素值与先前设置的第一阈值。像素值判断装置判断在图像数据中的像素值是否小于第一阈值。当正在时间轴方向上以一定的时间间隔移动时,自相关系数计算装置求出小于第一阈值且由位于在所接受的多帧中的图像数据集合所限定的同一坐标点处的像素所拥有的像素值的自相关系数。随机噪声判断装置判断该自相关系数是否小于第二阈值。当判断该自相关系数小于第二阈值时,确定由于随机噪声使得图像数据遭受了图像质量的劣化。从而,能够在每个像素上标识在时间轴方向上变化的随机噪声电平。此外,能够从低电平噪声的像素中分离出高电平噪声的像素。从而,仅能够选择具有高电平随机噪声的像素,并且能够通过算术平均方法或其他处理来容易地降低该噪声电平。此外,能够大大降低对于自相关系数的计算量。另外,能够大大降低计算自相关系数所花费的时间。
按照根据本发明的一个实施例的另一个用于图像数据的噪声处理的噪声降低单元,当正在时间轴方向上以一定的时间间隔移动从信号处理部分传送的图像数据集合时,像素值提取装置提取被包含在被对于每帧依次接受的图像数据集合中的像素值。比较由像素值提取装置所提取的每个像素值与先前设置的第一阈值。像素值判断装置判断在图像数据中的像素值是否小于第一阈值。当在时间轴方向上以一定的时间间隔移动图像数据集合时,第一自相关系数计算装置求出小于第一阈值且由位于在所接受的多帧中的图像数据集合所限定的同一坐标点处的像素所拥有的像素值的自相关系数。随机噪声判断装置判断该自相关系数是否小于第二阈值。当判断该自相关系数小于第二阈值时,确定由于随机噪声使得图像数据遭受了图像质量的劣化。从而,能够在每个像素上标识在时间轴方向上变化的随机噪声电平。此外,能够从低电平噪声的像素中分离出高电平噪声的像素。从而,仅能够选择具有高电平随机噪声的像素,并且能够通过算术平均方法或其他处理来容易地降低该噪声电平。此外,能够大大降低对于自相关系数的计算量。另外,能够大大降低计算自相关系数所花费的时间。当像素值判断装置已经确定该像素值等于或大于第一阈值时,像素值设置装置设置等于或大于第一阈值的像素值作为第二像素值。当正在时间轴方向上以一定的时间间隔移动时,提取等于或大于第二像素值且由位于在所接受的多帧上的同一坐标点处的像素所拥有的像素值。通过第二自相关系数计算装置求出所提取的像素值的自相关系数。自相关系数判断装置判断该自相关系数是否小于先前设置的第三阈值。当该自相关系数小于第三阈值时,近距离场景选择装置选择具有小于第三阈值的自相关系数的像素值作为正由近距离场景的像素所拥有的。照相机抖动校正装置针对关于这些所选的近距离场景的像素的照相机抖动进行校正。因此,当发生照相机抖动时,能够从近距离场景的像素中分离出远距离场景的像素。因此,能够仅针对关于比远距离场景的像素的变化范围更大的近距离场景的像素的照相机抖动进行校正。
按照根据本发明的一个实施例的成像设备,当在时间轴方向上以一定的时间间隔移动从信号处理部分传送的图像数据集合时,像素值提取装置提取被包含在被对于每个连续帧依次接受的图像数据集合中的像素值。比较由像素值提取装置提取的每个像素值与先前设置的第一阈值。像素值判断装置判断在图像数据中的像素值是否小于第一阈值。当正在时间轴方向上以一定的时间间隔移动时,第一自相关系数计算装置求出小于第一阈值并且由位于在所接受的多帧中的图像数据集合所限定的同一坐标点处的像素所拥有的像素值的自相关系数。随机噪声判断装置判断该自相关系数是否小于第二阈值。当该自相关系数小于第二阈值时,确定由于随机噪声使得图像数据已经遭受了图像质量的劣化。从而,能够在每个像素上标识在时间轴方向上变化的随机噪声电平。此外,能够从低电平噪声的像素中分离出高电平噪声的像素。从而,仅能够选择具有高电平随机噪声的像素,并且能够通过算术平均方法或其他处理来容易地降低该噪声电平。此外,能够大大降低对于自相关系数的计算量。另外,能够大大降低计算自相关系数所花费的时间。
虽然在上述实施例中,判断像素值是否小于第一阈值或是否等于或大于第一阈值,但也可以判断像素值是否等于或小于第一阈值或是否大于第一阈值。同样,尽管判断自相关系数是否小于第二阈值或是否等于或大于第二阈值,但也可以判断自相关系数是否等于或小于第二阈值或是否大于第二阈值。类似地,尽管判断在第二自相关系数求出步骤所求出的自相关系数是否小于第三阈值,但也可以判断在第二自相关系数求出步骤所求出的自相关系数是否等于或小于第三阈值。
附图说明
图1是根据本发明的实施例1的使用用于图像数据的噪声处理的噪声降低单元的成像设备的整体结构的方框图。
图2是图1所示的设备中的随机噪声判断/降低处理部分的功能方框图。
图3是图示图1所示的设备的随机噪声判断/降低处理部分的操作过程的流程图。
图4是图示在图1所示的设备中的帧数和自相关系数之间的关系的图。
图5A是图示根据本发明的实施例的还没被运算处理的图像的图。
图5B是图示根据本发明的实施例的被运算处理的图像的图。
图6是根据本发明的实施例2的在设备中的随机噪声判断/降低处理部分的功能方框图。
图7是图示根据实施例1的设备的随机噪声判断/降低处理部分的操作过程的流程图。
图8是图示如在相关技术中使用的、当白噪声被迭加在具有周期的原始信号上时所获得的轮廓的波形图。
图9是图示当通过相关技术的自相关方法来去除白噪声时所获得的自相关度的波形图。
图10是图示如在相关技术中所使用的、无周期的白噪声的轮廓的波形图。
图11是示出如在相关技术中所使用的、无周期的白噪声的自相关函数的输出结果的波形图。
具体实施方式
(实施例1)
参考附图在下文中描述了根据本发明的实施例的图像数据的噪声处理的方法。此外,描述了根据本发明的实施例的噪声降低单元和使用该噪声降低单元的成像设备。
图1是根据本发明的实施例1的使用用于图像数据的噪声处理的噪声降低单元的成像设备的整体结构的方框图。图2是在图1所示的成像设备中所包括的随机噪声判断/降低处理部分的功能方框图。图3是图示图1所示的成像设备的随机噪声判断/降低处理部分所进行的操作的过程的流程图。图4是图示在本发明的实施例1中所使用的帧数和自相关系数之间的关系的图。
参考图1,具有处理被包含在图像数据中的噪声的功能的成像设备10包括图像传感器(固态成像设备)11、AFE(模拟前端处理器)12、数字信号处理部分13、随机噪声判断/降低处理部分14、图像存储器15以及存储控制器16。
图像传感器11是例如CCD或CMOS式的,并且具有在其上以矩阵形式排列了光电二极管的半导体衬底。传感器11由光电二极管检测来自对象的通过光学透镜17的光并且建立(create)信号电荷。传感器11还包括其包括转移晶体管(transfer transistor)和重置晶体管的输出电路(没有显示)。响应该信号电荷,输出电路输出对象的图像信号。在每个光电二极管上安放黄色、青色、品红和绿色的滤光器,以便光电二极管检测光的不同的波长范围,因此使能进行彩色摄影。
图像传感器11基于从定时发生器(TG)18供应的时钟信号和垂直/水平同步信号来操作,并且通过例如隔行扫描的方法来输出对于每一帧对于奇和偶场的图像信号。
AFE(模拟前端处理器)12包括相关双重采样(CDS)电路和AGC电路。AFE 12进行来自传感器11的图像信号的相关双重采样,以去除被包含在图像数据中的固定式样噪声并且通过AGC(自动增益控制)来稳定信号电平。
数字信号处理部分13是将从图像传感器(固态成像设备)11经过AFE 12输出的图像信号进行数字化、并且在已数字化的图像信号上进行各种处理(诸如白平衡调整、插值以及伽马(Gramma)校正)的电路。处理部分13建立亮度信号和色差信号,并且输出它们。数字信号处理部分13包括A/D转换器(ADC)131、亮度信号(Y信号)处理部分132、颜色信号(C信号)处理部分133、微型计算机134、混频电路(YC-MIX)135以及D/A转换器电路(DAC)136。
A/D转换器131将来自AFE 12的输出信号进行数字化。亮度信号处理部分132将该已数字化的图像信号作为自动曝光控制信号,并且处理该信号以便适当地调整该信号的电平。
颜色信号处理部分133包括原色分离电路133a、WB(白平衡)控制电路133b、插值电路133c以及伽马校正电路133d。原色分离电路133a从来自A/D转换器131的输出信号中提取红色、蓝色和绿色这三个原色信号。WB控制电路133b将这些原色信号与从微型计算机134供应的系数相乘,以控制信号电平。为了形成具有与图像传感器11的相同数量的像素的图像文件,插值电路133c在微型计算机134的控制下给红色滤波器所附的每个像素补偿例如绿和蓝色信号。伽马校正电路133d在微型计算机134的控制下伽马校正该图像信号。
混频电路135组合由亮度信号处理部分132传送的亮度信号和由颜色信号处理部分133传送的三个原色信号成为视频信号。D/A转换器136将该视频信号转换成被输出到监视器19的模拟视频信号。
随机噪声判断/降低处理部分14是判断由图像数据所代表的在每个像素上的随机噪声的电路。该电路还降低了在像素上的噪声(包括随机噪声)。随机噪声判断/降低处理部分14与图像存储器15相连。向例如混频电路135输出由随机噪声判断/降低处理部分14处理的用于噪声降低的数据。基于该数据来控制该混频电路,以便降低图像数据内的随机噪声。
图像存储器15具有足够的存储容量来存储多帧已数字化的图像数据。存储控制器16控制图像存储器15以进行下列各种操作。从数字信号处理部分13传送的图像数据被写入到图像存储器15中。从图像存储器15读取图像数据。图像数据被读出到随机噪声判断/降低处理部分14中。指示由随机噪声判断/降低处理部分14进行的处理的结果的数据被写入到图像存储器15中。
接下来参考图2描述随机噪声判断/降低处理部分14的结构。该处理部分14具有像素值提取部分141、像素值判断部分142、自相关系数计算部分143、随机噪声判断部分144、平均部分145以及像素值确定部分146。
当在时间轴方向上以一定的时间间隔τ来移动图像数据的像素值时,像素值提取部分141接受从数字信号处理部分13传送的图像数据的每一连续帧。该图像数据指示具有在以行和列方向排列的各个坐标点上的亮度的像素的集(collection)。在每帧中,像素值提取部分141提取由对于每帧所接受的图像数据所指示的像素值。像素值判断部分142比较由像素值提取部分141提取的每个像素值与先前设置的第一阈值,并且判断该像素值是否小于该第一阈值。
当正在时间轴方向上以一定的时间间隔τ移动时,自相关系数计算部分143计算小于第一阈值且由位于在所接受的多帧中的每个图像数据集合中的同一坐标点处的像素所拥有的像素值的自相关系数。
随机噪声判断部分144判断由自相关系数计算部分143计算的自相关系数是否小于先前设置的第二阈值。当判断是肯定的(是)(即,小于第二阈值)时,该判断部分确定由于随机噪声使得图像质量已经被削弱。
当随机噪声判断部分144确定由于随机噪声使得图像质量已经被削弱时,平均部分145仅选择具有低于第一阈值的像素值的像素、对该像素值进行算术平均并且将该像素值修改为超过第一阈值的一个或多个像素值。
当像素值判断部分142确定像素的像素值等于或大于第一阈值时,像素值确定部分146确定超过第一阈值的像素值无修改地作为该像素的像素值。当由自相关系数计算部分143计算的自相关系数被判断为等于或大于第二阈值时,像素值确定部分146具有确定对应于该自相关系数的像素值是由暗像素所拥有且具有低电平的随机噪声的功能和确定该像素的像素值无修改地作为像素数据项的像素值的功能。
接下来参考图3描述本实施例1的操作。
首先,在步骤S1,当在时间轴方向上以一定的时间间隔τ移动图像数据集合时,对于每帧从数字信号处理部分13传送的图像数据集合被依次接受到像素值提取部分141中。该图像数据集合指示每个都具有在以行和列方向排列的对应的一个坐标点上的亮度的像素的像素值。
例如,当以一定的时间间隔τ移动时所接受的图像数据源于通过静止摄影以一定的时间间隔τ所进行的50次连续拍摄。该图像数据的图像格式是RAW数据或BMP文件格式。
在每帧中,像素值提取部分141提取由对于每帧所接受的图像数据所代表的像素值xi(步骤S2)。
在下一步骤S3中,像素值判断部分142比较由像素值提取部分141提取的每个像素值与先前设置的第一阈值(例如10),并且判断该像素值是否小于该第一阈值。
在下一步骤S4中,对于每帧由像素值判断部分142判断的小于第一阈值的像素值被接受到自相关系数计算部分143中。该计算部分143通过等式(2)来计算小于第一阈值的每个像素的像素值的自相关系数r(τ),当正在时间轴方向上以一定的时间间隔τ移动时,该像素位于在所接受的多帧中的每个图像数据集合所代表的同一坐标点处。
r ( τ ) = 1 N Σ t = 0 N - τ - 1 x ( t + τ ) x ( t ) - - - ( 2 )
其中N是在时间轴方向上所计算的像素总数,x是像素值,t是时间,τ是在时间轴方向上所移动的时间。
通过计算在时间t的瞬间的像素值x(t)与在从时间t的瞬间移动了规律间隔τ的时间(t+τ)的瞬间的像素值的乘积、并且对于具有小于第一阈值的像素值的像素数N的乘积值进行算术平均,来求出从等式(2)所计算的自相关函数r(τ)。
图4图示了亮像素A和暗像素B的自相关系数。其中像素值用0到256代表,亮像素A处在180/256的灰度级。暗像素B处在8/256的灰度级。在图4中,在像素A上,求出了相对于噪声来说足够电平的光,且因此该像素值在时间轴方向上几乎恒定。已经确认了该自相关系数的值被限制在范围内并且被保持接近一致。相反,在像素B上,可以看出由于S/N中的下降使得自相关系数已经下降。
在下一步骤S5中,随机噪声判断部分144判断由自相关系数计算部分143计算的自相关系数r(τ)是否小于先前设置的第二阈值,例如0.8。当判断是肯定的(即,小于0.8)时,确定由于随机噪声使得图像数据已经遭受了图像质量的劣化。
在下一步骤S6中,当随机噪声判断部分144已经确定由于随机噪声使得图像质量已经被削弱时,平均部分145仅选择具有小于第一阈值(例如10)的像素值的像素,并且对所选像素值进行算术平均以降低图像数据的噪声电平。此外,平均部分145将小于第一阈值的像素值修改为超过第一阈值的像素值。因此,在其中产生了随机噪声的图像数据的像素被修改为在其中未产生随机噪声的像素值。
在上述步骤S3中,当像素值判断部分142已经确定任何像素的像素值xi等于或大于第一阈值(例如10)时,控制进行到步骤S7,其中像素值确定部分146确定超过第一阈值的像素值无修改地作为该像素的像素值。
在步骤S5中,当随机噪声判断部分144已经确定由自相关系数计算部分143计算的自相关系数r(τ)等于或大于第二阈值(例如0.8)时,像素值确定部分146因此确定对应于自相关系数r(τ)的像素值是由暗像素所拥有且随机噪声的电平低,并且确定由像素所拥有的像素值无修改地作为图像数据的像素值。
然后,在每帧中,随机噪声判断/降低处理部分14判断是否已经对于所有具有小于第一阈值(例如10)的像素值的并且由像素值提取部分142所提取的像素都执行了图3所示的操作序列(步骤S8)。
当没有完成关于具有随机噪声的像素的操作序列时,控制继续到步骤S2,其中以与具有随机噪声的像素相同的次数重复图3所示的操作序列。当已经结束了对于所有具有随机噪声的像素的关于噪声的判断和噪声降低时,图3所示的处理也终止。
图5A和5B示出通过图3所示的运算所进行的在图像上的处理的结果。图5A示出未经处理的图像。图5B示出经过处理的图像。当用麦克白(Macbeth)颜色检验图来测量时,该对象处于3Lux的亮度。从图5A可见,在图5A所示的图像的表面上显得粗糙。视觉评估论证已经降低了噪声。同时,在图5B所示的图像的表面上是光滑的。已经确认已经降低了噪声。根据上述运算,亮像素没有被过滤,且因此没有劣化分辨率。仅可以选择暗像素。因此,可以抑制随机噪声。
根据目前为止所描述的实施例1,由像素值提取部分141提取由图像数据集合所指示的像素值。当在时间轴方向上以一定的时间间隔τ移动从数字信号处理部分13传送的图像数据时,对于每帧依次接受图像数据集合。像素值判断部分142比较由像素值提取部分141提取的每个像素值与先前设置的第一阈值(例如10),并且判断该像素值是否小于该第一阈值。当正在时间轴方向上以一定的时间间隔移动时,自相关系数计算部分143计算小于第一阈值且由位于在所接受的多帧中的图像数据集合所限定的同一坐标点处的像素所拥有的每个像素值的自相关系数r(τ)。随机噪声判断部分144做出比较以了解该自相关系数是否小于第二阈值(例如0.8)。当判断该自相关系数小于第二阈值时,确定由于随机噪声使得图像数据已经遭受了图像质量的劣化。在每个像素上能够标识在时间轴方向上变化的随机噪声的电平。因此,能从高噪声电平的像素中分离出低噪声电平的像素。能够仅选择具有高电平随机噪声的像素,并且能够通过算术平均或其他处理容易地降低此噪声电平。另外,能够大大降低对于自相关系数的计算量。此外,能够大大降低计算自相关系数所花费的时间。
(实施例2)
接下来参考图6和7来描述根据本发明的随机噪声判断/降低处理部分的实施例2。
图6是本发明的实施例2的随机噪声判断/降低处理部分的功能方框图。图7是图示由本发明的实施例1的随机噪声判断/降低处理部分所进行的操作过程的流程图。
与上述实施例1相同,根据本实施例2的随机噪声判断/降低处理部分14具有像素值提取部分141、像素值判断部分142、第一自相关系数计算部分143、随机噪声判断部分144、平均部分145以及像素值确定部分146。此外,根据实施例2的随机噪声判断/降低处理部分14具有像素值设置部分147、第二自相关系数计算部分148、自相关系数判断部分149、近距离场景选择部分150以及照相机抖动校正部分151。因此,参考图6仅描述这些新增加的部件的结构。以下将省略已经结合图2描述过的那些部件的详细描述。
参考图6,当由像素值判断部分142判断每个像素的像素值等于或大于第一阈值(例如10)时,像素值设置部分147设置该超过第一阈值的像素值作为第二像素值(例如15)。
当正在时间轴方向上以规律时间间隔τ移动时,第二自相关系数计算部分148提取等于或小于第二像素值(例如15)且由位于在所接受的多帧中同一坐标点处的像素所拥有的像素值,并且求出该像素值的自相关系数r(τ)。
自相关系数判断部分149判断由第二自相关系数计算部分148所求出的自相关系数r(τ)是否小于先前设置的第三阈值(例如0.9)。当自相关系数判断部分149已经确定该自相关系数小于该第三阈值时,近距离场景选择部分150选择具有小于第三阈值的自相关系数的像素值作为正由图像的近距离像素所拥有的。
照相机抖动校正部分151针对由近距离场景选择部分150选择的近距离场景像素的照相机抖动进行校正。
接下来参考图7描述本实施例2的操作。
首先,在步骤S1中,当在时间轴方向上以一定的时间间隔τ移动图像数据集合时,对于每帧由数字信号处理部分13传送的图像数据集合被依次接受到像素值提取部分141中。该图像数据集合指示每个都具有在以行和列方向上排列的对应的一个坐标点上的亮度的像素的像素值。在每帧中,像素值提取部分141提取由在每帧中所接受的图像数据所代表的像素值xi(步骤S2)。
在下一步骤S3中,像素值判断部分142比较由像素值提取部分141提取的每个像素值与先前设置的第一阈值(例如10),并且判断该像素值是否小于该第一阈值。
在下一步骤S4中,由像素值判断部分142判断小于第一阈值的像素值被接受到第一自相关系数计算部分143。当正在时间轴方向上以一定的时间间隔移动时,计算部分143使用上述等式(2)来计算小于第一阈值的每个像素的像素值的自相关系数r(τ),该像素位于在所接受的多帧中的每个图像数据集合所代表的同一坐标点处。
在下一步骤S5中,随机噪声判断部分144判断由第一自相关系数计算部分143计算的自相关系数r(τ)是否小于先前设置的第二阈值(例如0.8)。当判断是肯定的(例如小于0.8)时,确定由于随机噪声使得图像数据已经遭受了图像质量的劣化。
在下一步骤S6中,当随机噪声判断部分144已经确定由于随机噪声使得图像质量已经被削弱时,平均部分145仅选择具有小于第一阈值(例如10)的像素值的像素,并且对所选像素值进行算术平均以降低图像数据的噪声电平。此外,平均部分145将小于第一阈值的像素值修改为超过第一阈值的像素值。从而,在其中建立了随机噪声的图像数据的像素被修改为在其中没有随机噪声的像素值。
在上述步骤S5中,当随机噪声判断部分144已经确定由第一自相关系数计算部分143计算的自相关系数r(τ)等于或小于第二阈值(例如0.8)时,像素值确定部分146确定对应于该自相关系数r(τ)的像素值是由暗像素所拥有且随机噪声的电平低,并且确定由该像素所拥有的像素值无修改地作为图像数据的像素值。
然后,在每帧中,随机噪声判断/降低处理部分14判断是否已经对于所有具有小于第一阈值(例如10)且由像素值提取部分142所提取的像素值的像素都执行了图3所示的操作序列(步骤S8)。
当没有完成关于具有随机噪声的像素的操作序列时,控制继续到步骤S2,其中以与具有随机噪声的像素相同的次数重复图3所示的操作序列。当已经结束了对于所有具有随机噪声的像素的关于噪声的判断和噪声降低时,图3所示的处理(子程序)也终止。
当在步骤S3中像素值判断部分142已经确定像素的像素值xi等于或小于第一阈值(例如10)时,控制进行到步骤S9,其中像素值设置部分147设置被判断为等于或小于第一阈值的像素值作为新的第二像素值(例如15)。
在下一步骤S10中,当正在时间轴方向上以一定的时间间隔τ移动时,第二自相关系数计算部分148提取等于或大于第二像素值(例如15)并且由位于在所接受的多帧中的同一坐标点处的像素所拥有的像素值,并且计算该此素值的自相关系数r(τ)。
在下一步骤S11中,自相关系数判断部分149判断由第二自相关系数计算部分148求出的自相关系数r(τ)是否小于先前设置的第三阈值(例如0.9)。
在下一步骤S12中,当自相关系数判断部分149已经确定该自相关系数小于该第三阈值时,近距离选择部分150选择具有小于第三阈值的自相关系数的像素值作为正由近距离场景的像素所拥有的。
然后,照相机抖动校正部分151执行针对由近距离场景选择部分150选择的近距离场景像素的照相机抖动的校正(步骤S13)。在执行该校正后,控制进行到步骤S9,实行该步骤和随后的步骤的处理。
根据目前为止所描述的实施例2,求出了与源于上述实施例1的相同的优点。另外,当发生照相机抖动时,能从近距离场景的像素中分离出远距离场景的像素。从而,仅能针对比远距离场景的像素的变化程度更大的近距离场景的像素进行照相机抖动校正。通过将这种校正技术应用于数码相机或视频照相机,能够利用受照相机抖动所大幅影响的像素的提取来进行照相机抖动校正。此外,能够进行动物体的检测。
关于一幅图像,在对象和成像设备之间的距离可以正常假定为各种值。即,存在对象位于近距离而背景处于远距离的关系。通常,在诸如数码相机的摄影装备中,引入了针对照相机抖动的校正的运算。由于整个图像被统一地校正(即,在与发生致使照相机抖动的运动的方向相反的方向上移动像素),由相同的运算来校正远距离场景和近距离场景。然而,要注意,在此照相机抖动是被电子校正的。
在这种情况下,当在照相机抖动校正期间能够分离远距离场景的像素和近距离场景的像素时,对于照相机抖动仅能够校正近距离场景的像素。即,当发生照相机抖动时,远距离场景的像素在较小的范围内变化,而近距离场景的像素在较大的范围内变化。在根据本发明的实施例的自相关系数的计算中反映了这个事实。即,在自相关系数超过特定阈值的情况下,仅对关于产生这种自相关系数的像素的照相机抖动实行电子校正。
在本发明的一个实施例中,在规律间隔拍摄图像的连续帧的情况下,假设一些像素分别具有自相关系数0.93、0.95、0.85、0.99、0.93、0.89、0.91...。设立阈值0.9。从计算中排除小于0.9的数值。能够通过使用其他数值进行计算来求出在其中已经抑制了随机噪声的高质量图像。
本领域技术人员应该理解,在所附权利要求或其等价物的范围内,可以依据设计要求和其他因素发生各种修改、组合、子组合和替换。
相关申请的交叉引用
本发明包含与2006年9月28日在日本专利局提交的日本专利申请JP2006-264293有关的主题,其全部内容被引用附于此。

Claims (22)

1.一种图像数据的噪声处理方法,通过具有信号处理部分的图像处理器来进行,所述信号处理部分把来自图像传感器的图像信号转换成数字信号,并且关于每帧把该经转换的信号作为图像数据来输出,所述图像数据表示像素值的集合,每个像素值具有在以行和列方向排列的坐标点中相对应的一个的亮度,所述方法包括步骤:
通过当在时间轴方向上以一定的时间间隔移动图像数据集合时,依次接受从所述信号处理部分传送的所述图像数据的每帧,以及在每帧中提取由关于每帧所接受的所述图像数据所代表的像素值,来提取像素值;
通过比较由所述像素值提取步骤提取的每个像素值与先前设置的第一阈值,以及判断所述像素值是否小于所述第一阈值,来判断像素值;
当正以一定的时间间隔移动时,求出像素值的自相关系数,该像素值小于所述第一阈值,且由位于所接受的多个帧的所述图像数据集合所限定的同一坐标点处的像素所拥有;
通过判断在所述自相关系数求出步骤中所求出的所述自相关系数是否小于先前设置的第二阈值,以及当所述自相关系数小于所述第二阈值时确定由于随机噪声使得图像数据已经遭受了图像质量的劣化,来判断所述图像中的随机噪声;以及
通过当在随机噪声判断步骤判断由于随机噪声使得图像质量已经劣化时,仅选择具有小于所述第一阈值的像素值的像素,对所选像素值进行算术平均,以及将所述像素值修改为等于或大于所述第一阈值的像素值,来平均像素值;
其中所述像素值提取步骤、所述像素值判断步骤、所述自相关系数求出步骤、以及所述随机噪声判断步骤被重复与具有小于所述第一阈值的像素值的像素数相同的次数。
2.如权利要求1所述的图像数据的噪声处理的方法,还包括步骤:当在所述像素值判断步骤判断所述像素的像素值等于或大于所述第一阈值时,把所述等于或大于所述第一阈值的像素值无修改地确定作为所述像素的像素值。
3.如权利要求2所述的图像数据的噪声处理的方法,其中在所述像素值确定步骤中,当在所述随机噪声判断步骤判断在所述自相关系数求出步骤中所求出的所述自相关系数等于或大于所述第二阈值时,与所述自相关系数相对应的像素值被判断为由暗像素所拥有且具有低电平的随机噪声,并被无修改地确定为由所述像素数据所代表的像素值。
4.如权利要求1所述的图像数据的噪声处理的方法,其中在所述像素值判断步骤中,由对于每帧所接受的图像数据所代表的、且小于所述第一阈值的像素值是在所述帧中的图像上的同一坐标区域内的多个像素值。
5.一种图像数据的噪声处理的方法,通过具有信号处理部分的图像处理器来进行,所述信号处理部分把来自图像传感器的图像信号转换成数字信号并且关于每帧输出该经转换的信号作为图像数据,所述图像数据表示像素值的集合,每个像素值具有在以行和列方向排列的坐标点中相对应的一个的亮度,所述方法包括步骤:
通过当在时间轴方向上以一定的时间间隔移动图像数据集合时,关于每帧依次接受从所述信号处理部分传送的所述图像数据集合,以及在每帧中提取由在每帧中接受的所述图像数据所代表的像素值,来提取像素值;
通过比较由所述像素值提取步骤提取的每个像素值与先前设置的第一阈值,以及判断所述像素值是否小于所述第一阈值,来判断像素值;
当正在时间轴方向上以一定的时间间隔移动时,求出像素值的第一自相关系数,该像素值由位于所接受的多个帧的所述图像数据所限定的同一坐标点上的像素所拥有;
通过判断在所述第一自相关系数求出步骤中所求出的所述自相关系数是否小于先前设置的第二阈值,以及当所述自相关系数小于所述第二阈值时确定由于随机噪声使得图像数据已经遭受了图像质量的劣化,来判断所述图像中的随机噪声;
当在所述像素值判断步骤判断所述像素的像素值等于或大于所述第一阈值时,设置等于或大于所述第一阈值的像素值作为第二像素值;
通过当正在时间轴方向上以一定的时间间隔移动时,提取等于或大于所述第二像素值、并且由位于所接受的多个帧的同一坐标点处的像素所拥有的像素值,并求出所提取的像素值的自相关系数,来求出第二自相关系数;
通过判断在所述第二自相关系数求出步骤中所求出的所述自相关系数是否小于先前设置的第三阈值,来判断自相关系数;
当在所述自相关系数判断步骤判断所述自相关系数小于所述第三阈值时,选择拥有具有小于所述第三阈值的自相关系数的像素值的像素作为图像的近距离场景的像素;
针对关于在所述近距离场景选择步骤中所选的所述近距离场景的像素的照相机抖动进行校正;以及
通过当在所述随机噪声判断步骤判断由于随机噪声使得图像质量已经劣化时,仅选择具有小于所述第一阈值的像素值的像素,对所选像素值进行算术平均,以及将所述像素值修改为等于或大于所述第一阈值的像素值,来平均像素值;
其中,所述像素值提取步骤、所述像素值判断步骤、所述第一自相关系数求出步骤、以及所述随机噪声判断步骤被重复与由所述像素值提取步骤所提取且具有小于所述第一阈值的像素值的像素数相同的次数。
6.如权利要求5所述的图像数据的噪声处理的方法,其中,当在所述随机噪声判断步骤中判断在所述自相关系数求出步骤所求出的所述自相关系数等于或大于所述第二阈值时,与所述自相关系数相对应的像素值被判断为由暗像素所拥有且具有低电平的随机噪声,且被无修改地确定为由所述像素数据所代表的像素值。
7.如权利要求5所述的图像数据的噪声处理的方法,其中,在所述像素值判断步骤中,由对于每帧所接受的图像数据所代表的且小于所述第一阈值的像素值是在所述帧中的图像上的同一坐标区域内的多个像素值。
8.一种用于图像数据的噪声处理的噪声降低单元,包括:
图像传感器;
信号处理部分,用于把来自所述图像传感器的图像信号转换为数字信号,并且关于每帧输出经转换的信号,作为图像数据集合,所述图像数据集合表示每个具有在以行和列方向排列的坐标点中相对应的一个的亮度的像素值;
像素值提取装置,用于当在时间轴方向上以一定的时间间隔移动所述图像数据集合时,对于每帧依次接受来自所述信号处理部分的图像数据集合,以及在每帧中提取由在每帧中所接受的所述图像数据所代表的所述像素值;
像素值判断装置,用于比较由所述像素值提取装置提取的每个像素值与先前设置的第一阈值,以及判断所述像素值是否小于所述第一阈值;
自相关系数计算装置,用于当正在时间轴方向上以一定的时间间隔移动时,求出所述像素值的自相关系数,该像素值小于所述第一阈值并且由位于所接受的多个帧的所述图像数据所限定的同一坐标点处的像素所拥有;
随机噪声判断装置,用于判断由所述自相关系数计算装置所求出的每个自相关系数是否小于先前设置的第二阈值,以及当判断所述自相关系数小于所述第二阈值时,确定由于随机噪声使得所述图像数据已经遭受了图像质量的劣化;以及
平均装置,用于当所述随机噪声判断装置已经确定由于随机噪声使得图像质量已经劣化时,仅选择具有小于所述第一阈值的像素值的像素,对所选像素值进行算术平均,以及将所述像素值修改为等于或大于所述第一阈值的像素值;
其中,分别由所述像素值提取装置、所述像素值判断装置、所述自相关系数计算装置、和所述随机噪声判断装置所进行的操作被重复与由所述像素值提取装置所提取且具有小于所述第一阈值的像素值的像素数相同的次数。
9.如权利要求8所述的用于图像数据的噪声处理的噪声降低单元,还包括:像素值确定装置,用于当所述像素值判断装置已经确定所述像素的像素值等于或大于所述第一阈值时,把等于或大于所述第一阈值的像素值无修改地确定作为所述像素的像素值。
10.如权利要求8所述的用于图像数据的噪声处理的噪声降低单元,其中,当所述随机噪声判断装置已经确定由所述自相关系数计算装置所求出的所述自相关系数等于或大于所述第二阈值时,所述像素值确定装置判断与所述自相关系数相对应的像素值作为由暗像素所拥有且具有低电平的随机噪声,以及把由所述像素所拥有的所述像素值无修改地确定作为由所述像素数据所表示的像素值。
11.如权利要求8所述的用于图像数据的噪声处理的噪声降低单元,其中,在所述像素值判断装置中,由关于每帧所接受的且小于所述第一阈值的所述图像数据所代表的像素值是在所述帧中的图像上的同一坐标区域内的多个像素值。
12.一种用于图像数据的噪声处理的噪声降低单元,包括:
图像传感器;
信号处理部分,用于把来自所述图像传感器的图像信号转换为数字信号,并且关于每帧输出经转换的信号作为图像数据集合,所述图像数据集合表示每个具有在以行和列方向排列的坐标点中相对应的一个的亮度的像素值;
像素值提取装置,用于当在时间轴方向上以一定的时间间隔移动所述图像数据集合时,对于每帧依次接受从所述信号处理部分传送的所述图像数据集合,以及在每帧中提取由在每帧中所接受的所述图像数据所代表的像素值;
像素值判断装置,用于比较由所述像素值提取装置提取的每个像素值与先前设置的第一阈值,并且判断所述像素值是否小于所述第一阈值;
第一自相关系数计算装置,用于当正在时间轴方向上以一定的时间间隔移动时,求出像素值的自相关系数,该像素值小于所述第一阈值且由位于所接受的多个帧的所述图像数据所限定的同一坐标点上的像素所拥有;
随机噪声判断装置,用于判断由所述第一自相关系数计算装置所求出的所述自相关系数是否小于先前设置的第二阈值,以及当所述自相关系数被判断为小于所述先前设置的第二阈值时,确定由于随机噪声使得图像数据已经遭受了图像质量的劣化;
像素值设置装置,当所述像素值判断装置已经确定所述像素的像素值等于或大于所述第一阈值时,设置所述等于或大于所述第一阈值的像素值作为第二像素值;
第二自相关系数计算装置,用于当正在时间轴方向上以一定的时间间隔移动时,提取等于或大于所述第二像素值并且由位于所接受的多个帧的同一坐标点处的像素所拥有的像素值,以及求出所提取的像素值的自相关系数;
自相关系数判断装置,用于判断由第二自相关系数计算装置所求出的所述自相关系数是否小于先前设置的第三阈值;
近距离场景选择装置,用于当由所述自相关系数判断装置判断所述自相关系数小于所述第三阈值时,选择拥有具有小于所述第三阈值的自相关系数的像素值的像素作为图像的近距离场景的像素;
照相机抖动校正装置,用于针对由所述近距离场景选择装置所选的所述图像的近距离场景的像素的照相机抖动进行校正;以及
平均装置,用于当所述随机噪声判断装置已经确定由于随机噪声使得图像质量已经劣化时,仅选择具有小于所述第一阈值的像素值的像素,对所选像素值进行算术平均,以及将所述像素值修改为等于或大于所述第一阈值的像素值;
其中,分别由所述像素值提取装置、所述像素值判断装置、所述自相关系数计算装置、以及随机噪声判断装置所进行的操作被重复与由所述像素值提取装置所提取且具有小于所述第一阈值的像素值的像素数相同的次数。
13.如权利要求12所述的用于图像数据的噪声处理的噪声降低单元,其中,当所述随机噪声判断装置已经确定由所述第一自相关系数计算装置求出的所述自相关系数等于或大于所述第二阈值时,所述像素值确定装置判断与所述自相关系数相对应的像素值由暗像素所拥有且具有低电平的随机噪声,并且把由所述像素所拥有的所述像素值无修改地确定作为由所述像素数据所代表的像素值。
14.如权利要求12所述的用于图像数据的噪声处理的噪声降低单元,其中,关于每个像素所接受的并且由所述像素值判断装置判断为小于所述第一阈值的像素值是在所述帧中的图像上的同一坐标区域内的多个像素值。
15.一种成像设备,包括:
图像传感器;
光学系统,用于将来自对象的入射光引导到所述图像传感器中;
信号处理部分,用于把来自所述图像传感器的图像信号转换为数字信号,并且关于每帧输出经转换的信号作为图像数据,所述图像数据包括像素值,每个像素值具有在以行和列方向排列的坐标点中的相对应的一个的亮度;以及
随机噪声判断/降低处理部分,其判断和/或降低由所述图像传感器生成的随机噪声;
其中,所述随机噪声判断/降低处理部分具有:
像素值提取装置,用于当在时间轴方向上以一定的时间间隔移动所述图像数据集合时,对于每帧依次接受从所述信号处理部分传送的图像数据,并且在每帧中提取由在每帧中所接受的所述图像数据所代表的所述像素值;
像素值判断装置,用于比较由所述像素值提取装置提取的每个像素值与先前设置的第一阈值,并且判断所述像素值是否小于所述第一阈值;
第一自相关系数计算装置,用于当正在时间轴方向上以一定的时间间隔移动时,求出像素值的自相关系数,该像素值小于所述第一阈值并且由位于所接受的多个帧的所述图像数据所限定的同一坐标点处的像素所拥有;
随机噪声判断装置,用于判断由所述第一自相关系数计算装置所求出的自相关系数是否小于先前设置的第二阈值,以及当所述自相关系数被判断为小于所述第二阈值时,确定由于随机噪声使得所述图像数据已经遭受了图像质量的劣化;以及
平均装置,用于当所述随机噪声判断装置已经确定由于随机噪声使得图像质量已经劣化时,仅选择具有小于所述第一阈值的像素值的像素,对所选像素值进行算术平均,以及将所述像素值修改为等于或大于所述第一阈值的像素值;
其中,分别由所述像素值提取装置、所述像素值判断装置、所述自相关系数计算装置、以及随机噪声判断装置所进行的操作被重复与由所述像素值提取装置所提取的且具有小于所述第一阈值的像素值的像素数相同的次数。
16.如权利要求15所述的成像设备,其中,所述的随机噪声判断/降低处理部分还包括:
像素值设置装置,用于当所述像素值判断装置已经确定所述像素的像素值等于或大于所述第一阈值时,设置所述等于或大于所述第一阈值的像素值作为第二像素值;
第二自相关系数计算装置,用于当正在时间轴方向上以一定的时间间隔移动时,提取等于或大于所述第二像素值并且由位于所接受的多个帧的同一坐标点处的像素所拥有的像素值,并求出所提取的像素值的自相关系数;
自相关系数判断装置,用于判断由第二自相关系数计算装置所求出的所述自相关系数是否小于先前设置的第三阈值;
近距离场景选择装置,用于当由所述自相关系数判断装置把所述自相关系数判断为小于所述第三阈值时,选择拥有具有小于所述第三阈值的自相关系数的像素值的像素作为图像的近距离场景的像素;以及
照相机抖动校正装置,用于针对由近距离场景选择装置所选的所述图像的近距离场景的像素的照相机抖动进行校正。
17.如权利要求15所述的成像设备,还包括:像素值确定装置,用于当所述像素值判断装置已经确定所述像素的像素值等于或大于所述第一阈值时,把所述等于或大于所述第一阈值的像素值无修改地判断作为所述像素的像素值。
18.如权利要求15所述的成像设备,其中,当所述随机噪声判断装置已经确定由所述第一自相关系数计算装置求出的所述自相关系数等于或大于所述第二阈值时,所述像素值确定装置判断与所述自相关系数相对应的像素值由暗像素所拥有且具有低电平的随机噪声,并且把由所述像素所拥有的所述像素值无修改地确定作为由所述像素数据所代表的像素值。
19.如权利要求15所述的成像设备,其中,对于每个像素所接受的并且由所述像素值判断装置判断为小于所述第一阈值的像素值是在所述帧中的图像上的同一坐标区域内的多个像素值。
20.一种用于图像数据的噪声处理的噪声降低单元,包括:
图像传感器;
信号处理部分,用于把来自所述图像传感器的图像信号转换为数字信号,并且关于每帧输出经转换的信号作为图像数据集合,所述图像数据集合表示每个具有在以行和列方向排列的坐标点中相对应的一个的亮度的像素值;
像素值提取部分,当在时间轴方向上以一定的时间间隔移动所述图像数据集合时,对于每帧依次接受来自所述信号处理部分的所述图像数据集合,以及在每帧中提取由在每帧中所接受的所述图像数据所代表的像素值;
像素值判断部分,比较由所述像素值提取部分提取的每个像素值与先前设置的第一阈值,并且判断所述像素值是否小于所述第一阈值;
自相关系数计算部分,当正在时间轴方向上以一定的时间间隔移动时,求出像素值的自相关系数,该像素值小于所述第一阈值且由位于所接受的多个帧中的所述图像数据所限定的同一坐标点上的像素所拥有;
随机噪声判断部分,判断由所述自相关系数计算部分所求出的每个自相关系数是否小于先前设置的第二阈值,并且当判断所述自相关系数小于所述第二阈值时,确定由于随机噪声使得图像数据已经遭受了图像质量的劣化;以及
平均部分,用于当所述随机噪声判断部分已经确定由于随机噪声使得图像质量已经劣化时,仅选择具有小于所述第一阈值的像素值的像素,对所选像素值进行算术平均,以及将所述像素值修改为等于或大于所述第一阈值的像素值;
其中,分别由所述像素值提取部分、所述像素值判断部分、所述自相关系数计算部分、以及随机噪声判断部分所进行的操作被重复与由所述像素值提取部分所提取的且具有小于所述第一阈值的像素值的像素数相同的次数。
21.一种用于图像数据的噪声处理的噪声降低单元,包括:
图像传感器;
信号处理部分,用于把来自所述图像传感器的图像信号转换为数字信号,并且关于每帧输出经转换的信号作为图像数据集合,每个图像数据集合表示具有在以行和列方向排列的坐标点中的相对应的一个的亮度的像素值;
像素值提取部分,当在时间轴方向上以一定的时间间隔移动所述图像数据集合时,对于每帧依次接受从所述信号处理部分传送的所述图像数据集合,以及在每帧中提取由在每帧中所接受的所述图像数据所代表的像素值;
像素值判断部分,比较由所述像素值提取部分提取的每个像素值与先前设置的第一阈值,并且判断所述像素值是否小于所述第一阈值;
第一自相关系数计算部分,用于当正在时间轴方向上以一定的时间间隔移动时,求出像素值的自相关系数,该像素值小于所述第一阈值且由位于所接受的多个帧的所述图像数据所限定的同一坐标点上的像素所拥有;
随机噪声判断部分,判断由所述第一自相关系数计算部分所求出的所述自相关系数是否小于先前设置的第二阈值,以及当所述自相关系数被判断为小于所述第二阈值时,确定由于随机噪声使得图像数据已经遭受了图像质量的劣化;
像素值设置部分,当所述像素值判断部分已经确定所述像素的像素值等于或大于所述第一阈值时,设置所述等于或大于所述第一阈值的像素值作为第二阈值;
第二自相关系数计算部分,当正在时间轴方向上以一定的时间间隔移动时,提取等于或大于所述第二阈值的并且由位于所接受的多个帧的同一坐标点处的像素所拥有的像素值,并求出所提取的像素值的自相关系数;
自相关系数判断部分,判断由第二自相关系数计算部分所求出的所述自相关系数是否小于先前设置的第三阈值;
近距离场景选择部分,当由所述自相关系数判断部分判断所述自相关系数小于所述第三阈值时,选择拥有具有小于所述第三阈值的自相关系数的像素值的像素作为图像的近距离场景的像素;以及
照相机抖动校正部分,针对由所述近距离场景选择部分所选的所述图像的近距离场景的像素的照相机抖动进行校正;
其中,分别由所述像素值提取部分、所述像素值判断部分、所述自相关系数计算部分、以及随机噪声判断部分所进行的操作被重复与由所述像素值提取部分所提取的且具有小于所述第一阈值的像素值的像素数相同的次数。
22.一种成像设备,包括:
图像传感器;
光学系统,用于把来自对象的入射光引导到所述图像传感器中;
信号处理部分,用于把来自所述图像传感器的图像信号转换为数字信号,并且关于每帧输出经转换的信号作为图像数据,所述图像数据包括像素值,每个该像素值具有在以行和列方向排列的坐标点中相对应的一个的亮度;以及
随机噪声判断/降低处理部分,其判断和/或降低由所述图像传感器生成的随机噪声;
其中,所述随机噪声判断/降低处理部分具有:
像素值提取部分,用于当在时间轴方向上以一定的时间间隔移动所述图像数据集合时,对于每帧依次接受从所述信号处理部分传送的图像数据,并且在每帧中提取由在每帧中所接受的所述图像数据所代表的所述像素值;
像素值判断部分,用于比较由所述像素值提取部分提取的每个像素值与先前设置的第一阈值,并且判断所述像素值是否小于所述第一阈值;
第一自相关系数计算部分,用于当正在时间轴方向上以一定的时间间隔移动时,求出所述像素值的自相关系数,该像素值小于所述第一阈值并且由位于所接受的多个帧的所述图像数据所限定的同一坐标点处的像素所拥有;以及
随机噪声判断部分,用于判断由所述第一自相关系数计算部分所求出的自相关系数是否小于先前设置的第二阈值,并且当判断所述自相关系数小于所述第二阈值时,确定由于随机噪声使得所述图像数据已经遭受了图像质量的劣化;以及
平均部分,用于当所述随机噪声判断部分已经确定由于随机噪声使得图像质量已经劣化时,仅选择具有小于所述第一阈值的像素值的像素,对所选像素值进行算术平均,以及将所述像素值修改为等于或大于所述第一阈值的像素值;
其中,分别由所述像素值提取部分、所述像素值判断部分、所述自相关系数计算部分、以及随机噪声判断部分所进行的操作被重复与由所述像素值提取部分所提取的且具有小于所述第一阈值的像素值的像素数相同的次数。
CN200710161975A 2006-09-28 2007-09-27 处理图像数据中的噪声的方法、噪声降低单元和成像设备 Expired - Fee Related CN100593320C (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2006264293A JP4337857B2 (ja) 2006-09-28 2006-09-28 画像データのノイズ処理方法及びノイズ処理装置並びに撮像装置
JP264293/06 2006-09-28

Publications (2)

Publication Number Publication Date
CN101155256A CN101155256A (zh) 2008-04-02
CN100593320C true CN100593320C (zh) 2010-03-03

Family

ID=39256667

Family Applications (1)

Application Number Title Priority Date Filing Date
CN200710161975A Expired - Fee Related CN100593320C (zh) 2006-09-28 2007-09-27 处理图像数据中的噪声的方法、噪声降低单元和成像设备

Country Status (5)

Country Link
US (2) US7825964B2 (zh)
JP (1) JP4337857B2 (zh)
KR (1) KR20080030506A (zh)
CN (1) CN100593320C (zh)
TW (1) TWI344302B (zh)

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8289381B2 (en) * 2005-01-05 2012-10-16 Avantis Medical Systems, Inc. Endoscope with an imaging catheter assembly and method of configuring an endoscope
US8797392B2 (en) 2005-01-05 2014-08-05 Avantis Medical Sytems, Inc. Endoscope assembly with a polarizing filter
US8310530B2 (en) 2006-05-19 2012-11-13 Avantis Medical Systems, Inc. Device and method for reducing effects of video artifacts
US8182422B2 (en) 2005-12-13 2012-05-22 Avantis Medical Systems, Inc. Endoscope having detachable imaging device and method of using
US8872906B2 (en) * 2005-01-05 2014-10-28 Avantis Medical Systems, Inc. Endoscope assembly with a polarizing filter
US20060149129A1 (en) * 2005-01-05 2006-07-06 Watts H D Catheter with multiple visual elements
WO2007087421A2 (en) 2006-01-23 2007-08-02 Avantis Medical Systems, Inc. Endoscope
US8287446B2 (en) * 2006-04-18 2012-10-16 Avantis Medical Systems, Inc. Vibratory device, endoscope having such a device, method for configuring an endoscope, and method of reducing looping of an endoscope
JP4883772B2 (ja) * 2006-07-13 2012-02-22 キヤノン株式会社 画像処理装置及び方法
JP4337857B2 (ja) * 2006-09-28 2009-09-30 ソニー株式会社 画像データのノイズ処理方法及びノイズ処理装置並びに撮像装置
US8064666B2 (en) 2007-04-10 2011-11-22 Avantis Medical Systems, Inc. Method and device for examining or imaging an interior surface of a cavity
JP5052301B2 (ja) * 2007-11-21 2012-10-17 オリンパス株式会社 画像処理装置、画像処理方法
JP5158069B2 (ja) * 2009-12-28 2013-03-06 カシオ計算機株式会社 画像処理装置、及び、画像加工プログラム
JP2013055472A (ja) * 2011-09-02 2013-03-21 Sony Corp 画像処理装置および方法、並びにプログラム
JP5903305B2 (ja) * 2012-03-26 2016-04-13 東芝デジタルメディアエンジニアリング株式会社 画像処理装置及び画像処理方法
US20150341659A1 (en) * 2014-05-22 2015-11-26 Apple Inc. Use of pipelined hierarchical motion estimator in video coding
TWI536319B (zh) * 2014-06-24 2016-06-01 瑞昱半導體股份有限公司 去雜訊方法以及影像系統
CN107409182B (zh) * 2015-03-17 2020-02-14 奥林巴斯株式会社 图像处理装置、图像处理方法和记录介质
JP6736279B2 (ja) * 2015-10-14 2020-08-05 オリンパス株式会社 撮像装置、画像処理装置、画像処理方法
JP6451911B1 (ja) * 2017-08-02 2019-01-16 オムロン株式会社 センサ装置、背景雑音データ送信方法、および背景雑音データ送信プログラム
WO2019026711A1 (ja) 2017-08-02 2019-02-07 オムロン株式会社 センサ装置、背景雑音データ送信方法、および背景雑音データ送信プログラム
CN110246090B (zh) * 2018-09-27 2023-03-28 浙江大华技术股份有限公司 一种图像处理的方法和设备
CN110418055B (zh) * 2019-07-08 2021-08-20 Oppo广东移动通信有限公司 对焦方法、图像传感器及计算机存储介质
WO2021075076A1 (ja) 2019-10-15 2021-04-22 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置、及び情報処理方法
TWI777400B (zh) * 2021-02-02 2022-09-11 新加坡商光寶科技新加坡私人有限公司 偵測閃爍頻率的系統和方法,以及包括所述系統的電子裝置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3818044B2 (ja) 2000-10-18 2006-09-06 ヤマハ株式会社 ノイズ除去装置及びノイズ除去方法並びにコンピュータ読み取り可能な記録媒体
US7177445B2 (en) * 2002-04-16 2007-02-13 Koninklijke Philips Electronics N.V. Discriminating between changes in lighting and movement of objects in a series of images using different methods depending on optically detectable surface characteristics
JP2006148550A (ja) 2004-11-19 2006-06-08 Konica Minolta Opto Inc 画像処理装置及び撮像装置
KR100721543B1 (ko) * 2005-10-11 2007-05-23 (주) 넥스트칩 통계적 정보를 이용하여 노이즈를 제거하는 영상 처리 방법및 시스템
US7587099B2 (en) * 2006-01-27 2009-09-08 Microsoft Corporation Region-based image denoising
JP4337857B2 (ja) * 2006-09-28 2009-09-30 ソニー株式会社 画像データのノイズ処理方法及びノイズ処理装置並びに撮像装置

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
256*256 CMOS active pixel sensor camera on a chip1-34. R.H.nixon.IEEE J.Solid State Ciruits,Vol.31 No.12. 1996
256*256 CMOS active pixel sensor camera on a chip1-34. R.H.nixon.IEEE J.Solid State Ciruits,Vol.31 No.12. 1996 *
A suggested test for autocorrelation and heteroskedasticityand corresponding Mote Carlo results. Kelejian H.H.Regional Science and Urban Economics,Vol.76 . 1998
A suggested test for autocorrelation and heteroskedasticityand corresponding Mote Carlo results. Kelejian H.H.Regional Science and Urban Economics,Vol.76. 1998 *
Face recgnition system using local autocorrelations andmultiscale intergration. F.Goudail.IEEE Trans. on Pattern Analysis and Machine Intelligence,Vol.18 No.10. 1996
Face recgnition system using local autocorrelations andmultiscale intergration. F.Goudail.IEEE Trans. on Pattern Analysis and Machine Intelligence,Vol.18 No.10. 1996 *

Also Published As

Publication number Publication date
US7825964B2 (en) 2010-11-02
US20080079827A1 (en) 2008-04-03
CN101155256A (zh) 2008-04-02
US8149302B2 (en) 2012-04-03
US20100283873A1 (en) 2010-11-11
JP4337857B2 (ja) 2009-09-30
JP2008085753A (ja) 2008-04-10
TWI344302B (en) 2011-06-21
KR20080030506A (ko) 2008-04-04
TW200822724A (en) 2008-05-16

Similar Documents

Publication Publication Date Title
CN100593320C (zh) 处理图像数据中的噪声的方法、噪声降低单元和成像设备
CN101312504B (zh) 固态成像装置、信号处理装置和信号处理方法和成像设备
US9055181B2 (en) Solid-state imaging device, image processing apparatus, and a camera module having an image synthesizer configured to synthesize color information
EP3001670B1 (en) Efficient dark current subtraction in an image sensor
CN104010128B (zh) 摄像设备及其控制方法
KR101044307B1 (ko) 화상처리장치 및 방법
US8125543B2 (en) Solid-state imaging device and imaging apparatus with color correction based on light sensitivity detection
KR101536060B1 (ko) 고체 촬상 장치 및 카메라 모듈
US8605999B2 (en) Signal processing apparatus and method, noise reduction apparatus and method, and program therefor
JP2011010108A (ja) 撮像制御装置、撮像装置及び撮像制御方法
CN102025918A (zh) 图像处理装置、成像设备、图像处理方法和程序
US8085316B2 (en) Image-processing unit, imaging apparatus, and computer program product
CN102065219B (zh) 摄像设备及其控制方法
EP1182891A2 (en) Color separation circuit in a color camera
CN1874429B (zh) 图像信号处理单元和方法
EP2214136B1 (en) Method and program for controlling image capture apparatus
CN113643214B (zh) 一种基于人工智能的图像曝光校正方法及系统
CN107734231A (zh) 一种基于滤光的成像系统动态范围扩展方法
KR100934730B1 (ko) 적응적 노이즈 제거 장치 및 상기 장치를 이용한 이미지센서
CN109937382A (zh) 成像装置和成像方法
US9380229B2 (en) Digital imaging systems including image sensors having logarithmic response ranges and methods of determining motion
KR100929457B1 (ko) 영상 자동교정방법 및 시스템
CN108668124B (zh) 基于电荷计算的感光芯片测试方法及设备
JP2007049533A (ja) 撮像装置および電子情報機器
JP2004222160A (ja) デジタルカメラ

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
C17 Cessation of patent right
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20100303

Termination date: 20130927