具体实施方式
以下参照附图,对用以实施本发明的方式(以下称为“本实施方式”)进行详细的说明。
(概要)
首先对本实施方式的概要进行说明。例如,在将摄像装置固定在三脚架等上以对夜空的星星进行摄影时,摄像元件基本上不会产生醒目的缺陷像素。其理由是,由缺陷像素引起的图像上的伤痕虽然被输出到固定的位置,但图像中的星星的移动很缓慢而大致保持静止的状态。另一方面,在一边水平旋转一边对夜空的星星进行摄影时,由于画面上的伤痕被输出到固定的位置,所以看起来好像是伤痕相对于星星在进行相对移动,导致缺陷像素变得醒目。
为此,在本实施方式中建立了根据表示图像变动的图像变化的大小来改变用于检测摄像元件的缺陷像素的修正基准以使得容易检测出缺陷像素的模型,以下参照图2和图3对该模型进行说明。在此,图像变化不仅是指表示例如因摄像装置的水平旋转(pan)、仰俯(tilt)旋转、变焦和聚焦动作而产生的图像变动的变化,还指表示因所拍摄的被摄体的移动而产生的图像变动的变化。
图2是中心像素C与用于判断缺陷像素的参照像素R之间的位置关系图。中心像素C是作为检查对象的像素,也就是被判断是否为缺陷像素的像素。在图2中,四方形格子表示摄像元件16的像素排列。四方形格子通常为每隔2×2而不同的滤色器排列,在水平方向上每间隔2个像素以及在垂直方向上每间隔2行排列有相同的滤色器。例如,将作为检查对象的像素即中心像素C的像素值与图2中的位于中心像素C的周边的颜色相同的8个像素即参照像素R(R1、R2、R3、R4、R5、R6、R7、R8)的像素值进行比较,以此来判断中心像素C是否为缺陷像素。也就是说,分别针对参照像素R(R1、R2、R3、R4、R5、R6、R7、R8)算出中心像素C与参照像素R的差分的绝对值,并且判断这些的差分的绝对值是否大于规定的阈值(后述的缺陷像素判断阈值)。此外,参照像素R并不仅限于图2所示的位置,可以使用中心像素C以外的像素。
图3(a)表示用于在图像变化的大小较小的场合检测缺陷像素的处理例。在此,图3(a-2)是通过描绘图3(a-1)所示的像素值中的中心像素C的像素值与参照像素值R的像素值之间的差分的绝对值而得到的图。虚线表示在判断是否为缺陷像素时使用的缺陷像素判断阈值T(T0,T1)。其中,缺陷像素判断阈值T0在图像变化的大小较小的场合使用,而缺陷像素判断阈值T1在图像变化的大小较大的场合使用,缺陷像素判断阈值T0大于缺陷像素判断阈值T1。此外,在本实施方式中,如图3(a-2)所示,在8个参照像素R的差分的绝对值都大于缺陷像素判断阈值T时,将中心像素C判断为缺陷像素,关于这一点在后述部分进行说明。此外,作为判断基准,也可以不采用8个参照像素R均大这一判断基准,而将N个以上(1≤N≤7)较大设定为判断基准。
图3(b)表示图像变化的大小较大的场合。其中,图3(b-2)是通过描绘图3(b-1)所示的像素值中的中心像素C的像素值与参照像素R的像素值之间的差分的绝对值而得到的图。与图3(a-2)的场合相比,图3(b-2)中的描绘值变小。从图3(b-2)可以知道,在图像变化的大小较大的场合,通过将缺陷像素判断阈值T1作为判断基准,8个参照像素R的差分的绝对值均被判断为大于缺陷像素判断阈值T1,由此将中心像素C判断为缺陷像素。如此,在图像变化的大小较大的场合,与图像变化的大小较小的场合相比,使缺陷像素判断阈值T变小,由此能够使缺陷像素更容易被检测出。如上所述,在图像变化的大小较大的场合,即使差分的绝对值小,也能够容易地检测出缺陷像素。
(摄像装置)
以下,参照图1对本实施方式中的摄像装置的结构例进行说明。
摄像装置1至少由摄像部11、增益调整部12、缺陷像素修正部13、图像信号处理部14以及图像变化检测部15构成。
摄像部11由包括变焦透镜和聚焦透镜的透镜群、CCD(电荷耦合器件,Charge Coupled Device)或者CMOS(互补金属氧化物半导体,ComplementaryMetal Oxide Semiconductor)等的摄像元件16构成。摄像元件16通过透镜(未图示)接收来自被摄体的入射光,利用光电转换将其转换为电信号后,作为摄像信号a11输出。
增益调整部12由CDS(相关双取样,Correlated Double Sampling)和AGC(自动增益控制,Automatic Gain Control)或者AD(摸拟至数字,Analogto Digital)转换器等构成。增益调整部12控制从摄像部11输出的信号即摄像信号a11的大小,并且输出摄像信号a12。
缺陷像素修正部13具有对在摄像元件16中发生的缺陷像素进行修正的功能,并且输出摄像修正信号a13。首先,为了判断是否为缺陷像素,缺陷像素修正部13计算作为检查对象的像素的像素值与该作为检查对象的像素之外的像素即参照像素的像素值之间的差分的绝对值,并且将算出的绝对值与修正基准进行比较,在差分的绝对值大于修正基准时,判断为该作为检查对象的像素是缺陷像素。此外,修正基准是用于决定进行修正或者不进行修正的基准。例如,使用缺陷像素判断阈值T来检测缺陷像素。从图像变化检测部15取得缺陷像素判断阈值T。此后,缺陷像素修正部13使用参照像素的像素值对缺陷像素的像素值进行修正。缺陷像素修正部13的详细功能在后述部分说明。
图像信号处理部14具有对摄像修正信号a13实施规定处理的功能,并且生成和输出视频信号a14。此外,规定的处理是指对摄像修正信号a13进行除去干扰、伽马校正、轮廓强调、过滤器处理、变焦处理、抖动修正和图像识别等的图像信号处理以及转换为输入到电视和存储装置等的输入装置的信号格式的输出接口处理。此外,输出接口处理是指为了进行网络传送而转换为规定信号的处理,例如转换为NTSC(美国国家电视标准委员会,National Television System Committee)和PAL(相位互换线路,PhaseAlternating Line)等的视频输出,或者例如转换为HDMI(高清晰多媒体接口,High-Definition Multimedia Interface;注册商标)信号。
图像变化检测部15具有根据视频信号a14检测图像变化的功能。图像变化检测部15例如将图像变化作为变动向量而检测出。此外,图像变化检测部15根据变动向量的大小(图像变化的大小)等,改变用于检测缺陷像素的修正基准,由此来决定是进行修正还是不进行修正。例如,使用缺陷像素判断阈值T检测缺陷像素,并且决定是否进行修正。缺陷像素判断阈值T作为阈值信号a15被输出到缺陷像素修正部13。此外,也可以设置成在计算图像变化的大小时将后述的残留图像考虑进去。图像变化检测部15的详细功能在后述部分进行说明。
摄像部11、增益调整部12、缺陷像素修正部13、图像信号处理部14以及图像变化检测部15可以全部由电路(硬件)构成,并且缺陷像素修正部13、图像信号处理部14或者图像变化检测部15的处理功能也可以由程序来实现。此外,摄像装置1具有根据摄影场景对摄像部11的曝光时间、增益调整部12的信号增益进行控制以获得最佳曝光状态的功能。例如,可以设置成在昏暗的环境时增长曝光时间,并且增大信号增益,而在明亮的环境时缩短曝光时间,并且减小信号增益,由此能够使视频信号a14的输出图像保持一定的亮度。
图4是缺陷像素修正部13对缺陷像素的像素值进行修正的处理例的说明图。如图4所示,缺陷像素的像素值例如可以用参照像素R的像素值的中间值来进行置换。
图5是图像变化检测部15的功能例的说明图(适当参照图1)。图像变化检测部15由变动向量计算部151、图像变化速度判断部152以及图像变化时间判断部153构成。
在变动向量计算部151中,将经过图像信号处理部14处理的视频信号a14存储在未图示的存储器中,并将先前存储的视频信号a14作为参照映像与其次输入的视频信号a14进行比较,计算出变动向量a151,并将其输出到图像变化速度判断部152中。具体来说是,将先前存储的参照映像的帧分割为小区域,将该小区域的像素值信息存储在存储器中,检测所述小区域的像素值信息在此后输入的视频信号a14中移动到了哪个位置,由此来算出单位时间的变动向量a151。
在图像变化速度判断部152中判断单位时间的变动向量a151的大小(图像变化的速度)是否在预先设定的规定的速度阈值以上,并将该判断结果作为速度判断阈值信号a152输出到图像变化时间判断部153。
图像变化时间判断部153接收速度判断阈值信号a152,在判断结果表示在规定的速度阈值以上时,判断该判断结果所持续的持续时间(图像变化的时间)是否在预先设定的规定的时间阈值以上。并且,图像变化时间判断部153在判断为持续时间在规定的时间阈值以上时,判断为图像变化的大小较大,而在判断为持续时间小于规定的时间阈值时,判断为图像变化的大小较小。此外,在判断图像变化的大小较大时,改变修正基准,使得与判断为图像变化的大小较小的场合相比,更容易检测出缺陷像素。例如,在作为修正基准采用了缺陷像素判断阈值T时,在判断为图像变化的大小较大的场合,使缺陷像素判断阈值T变小。此时,通过图像变化检测部15将该缺陷像素判断阈值T作为阈值信号a15输出到缺陷像素修正部13中。
作为使缺陷像素判断阈值T变小的方法,例如有(1)在图像变化的大小在规定的阈值以上时,随着图像变化的大小变大,使缺陷像素判断阈值T变小的方法和(2)使用2个值即在判断为图像变化的大小较小的场合设定的缺陷像素判断阈值T0和在判断为图像变化的大小较大时设定的缺陷像素判断阈值T1的方法,可以采用2个方法中的任一个方法。
图6表示缺陷像素判断阈值T的变更条件的一例。图6的横轴表示时间,纵轴表示单位时间的变动向量的大小(图像变化的速度)。单位时间的变动向量的大小在图像没有变化时为0,纵轴的值随着单位时间的变动向量的大小的变化而变化。在图6中,将所述速度阈值设定为δx,将时间阈值设定为δt。在图像变化检测部15中,首先在图像变化速度判断部152中检测单位时间的变动向量的大小(图像变化的速度)变为速度阈值δx以上时的时间即第1时间点t1。此后,由图像变化时间判断部153从第1时间t1起开始测量变动向量的大小在速度阈值δx以上的范围内的时间,在从第1时间点t1起算的持续时间经过时间阈值δt而超出了第2时间点t2时,判断为图像的变化大(图6中的E表示的范围)。接着,图像变化时间判断部153将缺陷像素判断阈值T设定为小于图像变化程度小的场合的缺陷像素判断阈值T,并将该缺陷像素判断阈值T作为阈值信号a15输出到缺陷像素修正部13中。
以下参照图7(适当参照图1和图5)说明在图像变化检测部15中设定缺陷像素判断阈值T的处理流程的一例。
在步骤S701中,图像变化检测部15的图像变化时间判断部153在摄像装置1的电源被接通(ON)时,对缺陷像素判断阈值T进行初始设定。具体来说是,由图像变化检测部15读取存储在未图示的存储部中的缺陷像素判断阈值T的初始设定值(图像变化的大小较小的场合的缺陷像素判断阈值T0)。此外,由图像变化检测部15读取存储在未图示的存储部中的速度阈值δx和时间阈值δt。
在步骤S702中,由变动向量计算部151计算单位时间的变动向量a151。在本实施方式中,由于以每个小区域为单位来算出单位时间的变动向量a151的大小,所以以从图像的一个画面计算出的多个变动向量的大小的平均值或者变动向量的大小的最大值来表示。或者,作为变动向量的大小,也可以使用从包括检查对象的像素位置的小区域而算出的变动向量的大小。
在步骤S703中,通过图像变化速度判断部152判断单位时间的变动向量的大小是否在速度阈值δx以上。在判断为在速度阈值δx以上(步骤S703的判断结果为“是”)时,处理进入步骤S704,在判断为小于速度阈值δx(步骤S703的判断结果为“否”)时,处理进入步骤S706。
在步骤S704中,由图像变化时间判断部153判断在速度阈值δx以上的状态的持续时间是否在时间阈值δt以上。在判断为在时间阈值δt以上(步骤S704的判断结果为“是”)时,处理前往步骤S705中,在判断为小于时间阈值δt(步骤S704的判断结果为“否”)时,处理进入步骤S706。
在步骤S 705中,图像变化时间判断部153将缺陷像素判断阈值T设定为小于初始设定值。
在步骤S706中,图像变化时间判断部153将缺陷像素判断阈值T设定为等于初始设定值。
在步骤S707中,图像变化检测部15将缺陷像素判断阈值T作为阈值信号a15输出到缺陷像素修正部13中。此后处理返回步骤S702。
通过实行图7所示的处理流程,在本实施方式中,在图像变化的大小较大的场合,将缺陷像素判断阈值T设定为小于初始设定值,使得能够容易地检测出缺陷像素。因此,能够以不会导致图像质量下降的方式筛选缺陷像素。
此外,通过将缺陷像素判断阈值T设定为小于初始设定值,还能够容易地检测出包括高频分量的被摄体,但此时由于图像变化大,所以会产生由摄像装置1的设定快门速度与图像变化速度之间的关系所决定的残留图像。利用该残留图像的效果,能使得不易产生图像质量下降,所以,即使缺陷像素判断阈值T小于初始设定值,也能够减小被判断为缺陷像素的频率,以下对此进行说明。
以下参照图8对具有残留图像时的处理例进行说明。
图8(a)表示摄影时的状态。如图8(a)所示,例如一边朝左方向平行移动,一边对具有相当于一个像素大小的白色区域和灰色区域的被摄体S进行拍摄。
图8(b-1)表示水平旋转前的静止摄影时拍摄到的没有残留图像时的像素值的状态,图8(b-2)表示差分的绝对值与缺陷像素判断阈值T0之间的关系。由于8个参照像素的差分的绝对值均大于缺陷像素判断阈值T0,所以将中心像素C判断为缺陷像素。
图8(c-1)表示水平旋转开始后拍摄到的具有残留图像时的像素值的状态,图8(c-2)表示差分的绝对值与缺陷像素判断阈值T1之间的关系。中心像素C和参照像素R4由于受到残留图像的影响而变为大致相似的像素值。因此,虽然缺陷像素判断阈值T1被设定为小于缺陷像素判断阈值T0,但中心像素C和参照像素R4的差分的绝对值变得比缺陷像素判断阈值T1还小。为此,如图8(c-2)所示,在具有残留图像时,将中心像素C判断为不是缺陷像素。也就是说,在残留图像大时,即使将缺陷像素判断阈值T设定得较小,也难以被判断为缺陷像素,由此能够防止无谓的修正处理,并且能够以不会导致图像质量下降的方式筛选缺陷像素。
(变形例)
以下参照图9(并且参照图1和图5)对作为摄像装置1的变形例的摄像装置1a的结构例进行说明。
图9所示的摄像装置1a的结构与图1所示的摄像装置1的结构的不同之处在于,输入到图像变化检测部15的信号是从缺陷像素修正部13输出的摄像修正信号a13。图像变化检测部15的变动向量计算部151算出先前存储的摄像修正信号a13与其次输入的摄像修正信号a13之间的变动向量。
(监视系统)
以下参照图10(适当参照图1),以采用不是内置在摄像装置1,1a中的外部的监视装置101来实现的监视系统100的结构例为例,对上述的缺陷像素修正部13以及图像变化检测部15的功能进行说明。
监视系统100由摄像装置2、监视装置101以及显示装置102构成,其中所述摄像装置2不具有所述缺陷像素修正部13和图像变化检测部15的功能。
监视装置101例如为计算机,具有功能与缺陷像素修正部13和图像变化检测部15相同的缺陷像素修正部13a和图像变化检测部15a。输入到缺陷像素修正部13a中的视频信号是从摄像装置2输出的视频信号a16。
显示装置102例如是显示器,具有显示从缺陷像素修正部13a输出的显示信号a17的功能。
由于监视系统100具有缺陷像素修正部13a和图像变化检测部15a,所以能够根据图像变化的大小来控制缺陷像素判断阈值T。具体来说是,监视系统100在图像变化的大小较大的场合,将缺陷像素判断阈值T设定为小于图像变化的大小较小的场合的缺陷像素判断阈值T0,由此能够以不会导致图像质量下降的方式筛选缺陷像素。此外,监视系统100能够抑制无谓的修正处理,并且还能够修正缺陷像素。
如上所述,本实施方式的摄像装置1,1a以及监视系统100能够根据图像变化的大小来控制缺陷像素判断阈值T。具体来说是,摄像装置1在图像的变化大小较大的场合使缺陷像素判断阈值T变小,而在图像变化的大小较小的场合增大缺陷像素判断阈值T,由此能够以不会导致图像质量下降的方式筛选缺陷像素。此外,摄像装置1,1a和监视系统100能够抑制无谓的修正处理,并且还能够修正缺陷像素。
另外,在本实施方式中,在检测图像的变化时,以满足图像变化的速度在速度阈值δx以上并且该速度在速度阈值δx以上的状态的持续时间(图像变化的时间)在时间阈值δt以上为条件进行了说明,但也可以设置成根据图像变化的速度和持续时间(图像变化的时间)中的任意一方来判断图像变化的大小。
另外,在本实施方式中,在检测图像变化时使用了变动向量,但本发明并不仅限于此,也可以采用通过加速度传感器、角速度传感器等装置来进行检测的方法或者根据摄像装置1的动作状态(变焦动作和聚焦动作等)来进行检测的方法等。
符号说明
1,1a,2摄像装置
11摄像部
12增益调整部
13,13a缺陷像素修正部
14图像信号处理部
15,15a图像变化检测部
100监视系统
101监视装置
102显示装置
151变动向量计算部
152图像变化速度判断部
153图像变化时间判断部
a11,a12摄像信号
a13摄像修正信号
a14视频信号
a15阈值信号
a16视频信号
a17显示信号
C中心像素
E判断为变动大的区域
M变动向量的大小的经时性变化
R参照像素
S被摄体
t1第1时间点
t2第2时间点
T,T0,T1缺陷像素判断阈值(修正基准)
δx速度阈值
δt时间阈值