本申请要求2007年11月2日向韩国知识产权局提交的韩国专利申请No.10-2007-0111485基于35 U.S.C.§119(a)的优先权,由此通过引用合并其全部内容。
具体实施方式
尽管该说明书包含许多细节,但是这些都不应当被解释为对本发明或权利要求的范围的限制,而是相反,被解释为本发明的特殊实施例特定的描述。在该说明书中的单独实施例的上下文中描述的某些特征也可以在单个实施例中组合实现。相反,在单个实施例的上下文中描述的各种特征也可以在多个实施例中单独实现或者以任何适当的子组合方式来实现。
应当理解,说明书和所附权利要求中使用的术语不必限于一般含义和字典含义,而是应当基于与此处所描述的本发明的技术方面对应的含义和概念进行解释。
根据本发明的使用对象跟踪的用于数字图像稳定的设备被安装在各种数字拍摄装置中。数字拍摄装置包括例如数字相机、数字摄像机、具有内置数字相机的移动电话、PDA和个人多媒体播放器。数字拍摄装置被配置用来通过用户的快门操作获得物体的图像,将所获得的图像转换为数字图像,并且将该数字图像存储在存储介质中。
与传统相机不同,商业数字拍摄装置支持预览功能,用于通过具有诸如LCD之类的显示器的取景器查看照片中将要包含的物体的图像。因此,用户在预览模式中通过取景器查看根据数字拍摄装置的移动按照短帧间隔改变的图像,并且当用户发觉期望的最佳图像时,用户操作快门来获得该物体的数字静止图像。
根据本发明的使用对象跟踪的用于数字图像稳定的设备获得在第一曝光值条件下拍摄的第一数字图像和在第二曝光值条件(小于第一曝光值条件)下拍摄的多个第二数字图像,通过对象跟踪计算每个比较级第二数字图像相对于基准第二数字图像的运动值,根据每个计算的运动值来补偿对应第二数字图像的运动,将(多个)运动补偿后图像与基准图像重叠以便生成手抖动补偿后图像,并且使用第一数字图像的属性来校正手抖动补偿后图像的属性。
在本发明的示例性实施例中,第一数字图像是预览图像,而第二数字图像是捕获的静止图像。预览图像是在操作快门之前以短时间间隔在取景器上显示的数字图像,而捕获的静止图像是在操作快门时以用户设置的分辨率拍摄的物体的静止数字图像。然而,本发明不限于这一点。第一数字图像应当被解释为在比第二数字图像更高的曝光值条件中捕获并以这样的短帧间隔拍摄以去除手抖动效果的影响的数字图像。
参考图1,根据本发明的使用对象跟踪的用于数字图像稳定的设备被安装在各种数字拍摄装置中并且执行图像稳定功能。该设备包括图像传感器10、图像信号处理单元20、传感器控制器30、施加图像处理模块40、图像显示模块50和用户接口60。
图像传感器10拾取物体的图像,并且将该图像的模拟图像信号输出到图像信号处理单元20。优选地,图像传感器10是使用CCD(电荷耦合器件)或CMOS(互补金属氧化物半导体)技术的图像拾取装置。然而,本发明不限于特定类型的图像传感器。
在数字拍摄装置的快门操作之前,图像传感器10以短帧间隔(例如,30f/s)生成并输出物体的预览图像(AP)。当数字拍摄装置的快门操作时,图像传感器10以规则间隔输出物体的多个捕获静止图像(AC)。所述多个捕获静止图像(AC)以比预览图像(AP)更长的帧间隔输出。预览图像(AP)和所述多个捕获静止图像(AC)分别在第一曝光值条件和第二曝光值条件下生成。这里,曝光值缩写为EV,并且通过包括表示图像传感器10的快门速度的“f”和表示图像传感器10的灵敏度的ISO增益(下文中称作“I”)的参数来定义。图像传感器10的曝光值由传感器控制器30来设置。当曝光值增加时,图像传感器10的曝光时间增加。对应于特定曝光值的特定“f”和“I”值由图像传感器10的制造公司预先定义并且以查找表的形式参考。
优选地,第一曝光值大于第二曝光值。也就是,当第一曝光值是EV1和第二曝光值是EV2时,满足条件“EV1>EV2”。优选地,第一曝光值是对应于数字拍摄装置的自动曝光模式的曝光值。作为选择,第一曝光值可以由用户通过用户接口60来任意地设置或者可以基于对应于自动曝光模式的曝光值增加或减少与预置宽度一样多。增加或减少宽度由数字拍摄装置的制造公司设置为优选值。
优选地,在第一曝光值条件下生成的预览图像(AP)是在数字拍摄装置的快门操作之前在预览模式中在通过图像显示模块50的取景器90提供的物体的运动图像中的、在操作快门的最近时间生成的图像。作为参考,施加图像处理模块40将预览图像存储在显示存储器70中,并且显示操作单元80通过取景器90的显示器以运动图像的形式输出所存储的预览图像。
以非常短的帧间隔连续生成预览图像(AP)。因此,在第一曝光值条件下获得的预览图像(AP)免于由于拍摄者的手抖动引起的图像模糊现象。预览图像(AP)与通过快门操作获得的多个捕获静止图像(AC)中包含基本相同的物体的范围。而且,预览图像(AP)在自动曝光模式中生成,并且因此保持比在较低曝光值条件下更好的物体的亮度和色彩属性。
其间,捕获的静止图像(AC)是当数字拍摄装置的快门操作时在第二曝光值条件下获得的图像。该捕获的静止图像(AC)是在与预览图像(AP)的第一曝光值条件相比足够短的曝光时间条件下获得的。由此,捕获的静止图像(AC)几乎不受手抖动影响。当图像传感器10的曝光时间减少时,手抖动的影响减少。然而,如果当获得捕获的静止图像(AC)时曝光时间减少,则捕获的静止图像(AC)以及预览图像(AP)不保持物体的亮度和色彩属性。
图像信号处理单元20接收从图像传感器10输出的模拟图像信号,将模拟图像信号转换为数字图像信号,并且将该数字图像信号输出到施加图像处理模块40。数字图像信号包括图像中包含的像素的亮度信号(Y)和色差信号(Cb和Cr)。数字图像信号可以是YVU(YCbCr)颜色坐标系统以外的颜色坐标系统例如RGB(红、绿、蓝)中的信号。
在数字拍摄装置的快门操作之前,图像信号处理单元20以规则帧间隔接收在图像传感器10中生成的预览图像(AP)。处理单元20然后将该预览图像(AP)转换为数字图像信号,并且遵照取景器90的显示器的标准分辨率(例如320*240或240*320)来缩小(downscale)数字图像信号。其间,当数字拍摄装置的快门操作时,图像信号处理单元20接收图像传感器10中以规则帧间隔连续生成的多个捕获静止图像(AC),将该捕获静止图像(AC)转换为数字图像信号,并且遵照拍摄者设置的分辨率(例如320*240或256*192)缩小数字图像信号。图像信号处理单元20所处理的预览图像(DP)和多个捕获静止图像(DC)被输出到施加图像处理模块40。预览图像(DP)的尺寸被缩小到取景器90的显示器的尺寸,并因此小于被捕获的静止图像(DC)的尺寸。其间,预览图像(DP)和捕获静止图像(DC)的缩小可以通过施加图像处理模块40来执行。
图像信号处理单元20可以包括用于编码数字图像信号的图像编码单元100。优选地,图像编码单元100通过JPEG(联合摄影专家组)标准来编码数字图像信号。然而,本发明不限于特定的编码方法。图像编码单元100可以仅编码转换为数字图像信号的捕获静止图像(DC),并且在一些情况下,可以省略图像编码处理。在图像信号处理单元20编码并输出捕获静止图像(DC)的情况下,施加图像处理模块40优选地包括用于解码该捕获静止图像(DC)的解码单元110。
图像信号处理单元20已知为ISP(图像信号处理器),并且用于数字化图像信号的处理为本领域的普通技术人员公知。因此,这里省略其详细描述。
传感器控制器30在施加图像处理模块40的控制下设置图像传感器10的曝光值条件。在拍摄装置的快门操作之前,传感器控制器30将图像传感器10设置为第一曝光值条件。当快门操作时,传感器控制器30将图像传感器10设置为第二曝光值条件。传感器控制器30从施加图像处理模块40接收对应于第一曝光值条件和第二曝光值条件的参数。如上所述,所述参数包括快门速度“f”和ISO增益“I”。
施加图像处理模块40在快门操作之前以预览模式操作,并且在快门操作之后以静止图像捕获模式操作。为此目的,施加图像处理模块40包括曝光模式转换单元120。在快门操作之前,曝光模式转换单元120控制传感器控制器30将图像传感器10设置为第一曝光值条件,并且在预览模式中操作图像传感器10。因此,图像传感器10以预定帧间隔生成预览图像(AP),并且将该预览图像(AP)输出到图像信号处理单元20。然后,施加图像处理模块40从图像信号处理单元20接收在第一曝光值条件中周期地生成的数字化的预览图像(DP),并且将该数字化的预览图像(DP)存储在显示存储器70中。通过取景器90的显示器以运动图像的形式输出所存储的预览图像(DP)。
当快门操作时,曝光模式转换单元120从显示存储器70中读取在快门操作之前的最近时间生成的预览图像(DP),以便获得预览图像(DP)。接着,曝光模式转换单元120基于第一曝光值条件自适应地确定第二曝光值条件,并且控制传感器控制器30将图像传感器10的曝光值条件从第一曝光值条件变为第二曝光值条件,从而转换为静止图像捕获模式。
这里,“自适应地确定曝光值条件”是指通过参考预置的基准曝光值基于第一曝光值条件确定第二曝光值条件。为此目的,优选地提供传感器数据表130来创建定义第二曝光值条件的参数(即“f”和“I”值)与定义第一曝光值条件的参数(即“f”和“I”值)之间的一一映射关系。传感器数据表130被存储在寄存器(registry)中,并且当施加图像处理模块40操作时被参考。其间,本发明基于第一曝光值条件自适应地确定第二曝光值条件。用于自适应地确定曝光值条件的配置不限于上述示例(即,查找表),并且可以在其他配置中进行实现。
在图像传感器10的曝光值条件被转换为第二曝光值条件之后,施加图像处理模块40控制传感器控制器30将多个静止图像捕获信号发送到图像传感器10。然后,图像传感器10以规则帧间隔连续地生成物体的多个捕获静止图像(AC),并且将所述捕获静止图像(AC)输出到图像信号处理单元20。图像信号处理单元20连续接收、数字化、按比例缩放所述多个捕获静止图像,并且将其输出到施加图像处理模块40。
施加图像处理模块40包括手抖动补偿单元140,用于通过对象跟踪基于所述多个捕获静止图像(DC)中的一个图像(基准图像)来补偿其他图像(比较级图像)的运动,并且将(多个)运动补偿后图像与基准图像重叠,以便生成手抖动补偿后图像。
补偿比较级图像的运动包括从基准图像和比较级图像中提取对象,标记所提取的对象,匹配标记的对象,定量地计算(多个)所匹配对象的运动值,并且将每个所计算的运动值施加到对应的比较级图像,以便补偿比较级图像的运动。
图2示出了手抖动补偿单元140,其包括对象标记单元141、运动值计算单元142、运动补偿单元143和补偿后图像生成单元144。
对象标记单元141从图像信号处理单元20接收多个捕获静止图像(DC)。对象标记单元141将所述多个捕获静止图像(DC)分类为基准图像和比较级图像。这里,比较级图像是指至少一个比较级图像。然后,对象标记单元141将基准图像和每个比较级图像转换为二进制图像,从基准二进制图像和每个比较级二进制图像中提取对象,并且标记所提取的对象。
优选地,对象标记单元141将多个捕获静止图像(DC)中的首先拍摄的图像选择为基准图像。替换地,对象标记单元141可以选择多个被捕获静止图像(DC)中的最近或中间拍摄的图像作为基准图像。例如,如果拍摄了5个捕获静止图像(DC),则可以选择第一图像、第三图像和第五图像中的任意一个作为基准图像。
对象是二进制图像中彼此相连的白像素组。在对象的像素数目超过临界值(例如30000)的情况下,对象标记单元141可以将对应的对象看作背景。优选地,对象标记单元141使用4相连成分标记或8相连成分标记来提取对象。该4相连成分标记基于目标像素而跟踪上、下、左和右方向的四个像素以便提取对象,而该8相连成分标记基于对象像素而跟踪上、下、左和右方向的四个像素以及对角方向的四个像素以便提取对象。此外,对象标记单元140可以使用闭合轮廓对象扫描方法或者开放轮廓对象扫描方法来提取对象。上述对象提取方法为本领域的普通技术人员已知,并省略它们的描述。
图3示出了根据本发明第一实施例的对象标记单元141,其包括用于将基准图像和每个比较级图像转换为黑白二进制图像的图像二值化单元1411。该对象标记单元141还包括对象标记器1412,用于接收每个二进制图像,从每个图像中提取对象,并且标记所提取的对象。
图像二值化包括计算图像的直方图分布、以及将亮度大于特定阈值的像素设置为白和将亮度小于特定阈值的像素设置为黑。下文中,用于基于特定阈值将每个像素的亮度设置为黑或白的处理被称作限值(thresholding)步骤。该阈值可以是从直方图分布计算的图像的平均亮度值。然而,本发明不限于这一点。
图4示出了根据本发明第二实施例的对象标记单元441,其包括:图像二值化单元1411,用于通过限值步骤将基准图像和每个比较级图像转换为二进制图像;图像滤波器1413,用于将基准二进制图像和每个比较级二进制图像过滤为边界锐化后图像;图像合成器1414,用于将从图像滤波器1413输出的边界锐化后图像与从图像二值化单元1411输出的对应二进制图像进行合成;和对象标记器1412,用于从合成后基准图像和每个合成后比较级图像中提取对象,并且标记所提取的对象。这里,合成后基准图像是其中基准图像的二进制图像与基准图像的边界锐化后图像合成的图像,并且合成后比较级图像是其中比较级图像的二进制图像与比较级图像的边界锐化后图像合成的图像。
在如上所述从基准图像中提取对象并且将比较级图像与边界锐化后图像合成时,增强了对象的边界,并且更容易地提取对象。优选地,图像滤波器1413是拉普拉斯(Laplacian)滤波器或Sobel边缘滤波器。然而,本发明不限于特定类型的图像滤波器。
参考图2,运动值计算单元142从对象标记单元141接收基准图像和每个比较级图像的所标记的对象数据。然后,运动值计算单元142将基准图像的对象与每个比较级图像的对象进行匹配,并且计算每个对象的参数。
图7概念地图示了由运动值计算单元142计算的对象的参数。对象的参数包括:对象的面积(S);当包括该对象的正方形边界被形成为具有预定界限时的该对象的边界长度(边界的外围长度);该正方形的中心坐标(0);该对象的质心坐标(C);在穿过中心坐标(0)并且在两端处与对象边界相遇的线当中的长轴长度(Max0)和短轴长度(Min0)和它们的角度;在穿过质心坐标(C)并且在两端处与对象边界相遇的线当中的长轴长度(MaxC)和短轴长度(MinC)和它们的角度;或者当按照标记顺序连接对象的质心坐标时每条连接线(L)的长度及其角度。
接下来,运动值计算单元142使用所计算的参数计算每个比较级图像的运动值。相对于基准图像来计算每个比较级图像的运动值。也就是,每个比较级图像的运动值表示比较级图像相对于基准图像的移动程度。每个比较级图像的运动值包括从由根据平移的运动值、根据旋转的运动值、根据按比例缩放的运动值、和根据修剪的运动值、或者它们的组合组成的组中选择的任意一个。
例如,通过对基准图像和每个比较级图像的匹配后对象之间的中心坐标或质心坐标的差进行平均化,来计算根据平移的运动值。
通过将连接基准图像和每个比较级图像的质心坐标的线进行匹配、然后对这些连接线之间的角度进行平均化,来计算根据旋转的运动值。作为选择,通过将连接基准图像和每个比较级图像的质心坐标的线进行匹配、然后对预置基准轴与该连接线之间的角度差进行平均化,来计算根据旋转的运动值。
通过对每个比较级图像的匹配后对象之间的长轴长度的比率、短轴长度的比率、或者基准图像与边界长度的比率或面积的比率进行平均化,来计算根据按比例缩放的运动值。
使用基准图像与每个比较级图像的匹配后对象之间的长轴长度的比率、短轴长度的比率、边界长度的比率、以及面积的比率、或者使用当在图像的水平方向和垂直方向上计算预置基准轴与基准图像和每个比较级图像的质心坐标的连接线之间的角度差的分布时该分布的外形(profile)梯度,来计算根据修剪的运动值。
当已知基准图像与每个比较级图像的各种对象参数时,可以通过上述方法以外的其他方法来替换地计算每个比较级图像相对于基准图像的运动值。
运动值计算单元142将每个比较级图像的运动值数据输出到运动补偿单元143。运动补偿单元143计算用于补偿每个比较级图像的运动的矩阵。
优选地,该矩阵是仿射(affin)变换矩阵。然而,本发明不限于特定类型的矩阵。该仿射变换矩阵公知用于执行矩阵变换,包括平移、旋转、按比例缩放和修剪。矩阵的行和列数据可以通过所计算的运动值来运算。
运动补偿单元143推导出每个比较级图像的变换矩阵,并且在二值化之前,用推导出的矩阵对每个原始比较级图像执行矩阵运算,以便补偿每个比较级图像的运动。然后,运动补偿单元143将每个运动补偿后比较级图像和基准图像输出到补偿后图像生成单元144。
比较级图像的运动补偿包括从由根据平移的运动补偿、根据旋转的运动补偿、根据按比例缩放的运动补偿、和根据修剪的运动补偿、或者它们的组合组成的组中选择的任意一个。为了减少与比较级图像的运动补偿有关的操作开销,优选地,按照根据修剪、按比例缩放、旋转和平移的运动补偿的顺序来执行操作。然而,本发明不限于这一点。
补偿后图像生成单元144从运动补偿单元143接收每个运动补偿后比较级图像和基准图像。然后,补偿后图像生成单元144将所有比较级图像与基准图像重叠,以便生成手抖动补偿后图像,并且输出该手抖动补偿后图像。
这里,图像重叠包括对每个颜色通道的基准图像和(多个)比较级图像的色彩数据进行平均化、以及用获得的每个颜色通道的色彩数据的平均值来替换基准图像的色彩数据。在一些情况下,当对每个颜色通道的色彩数据进行平均化以重叠图像时,可以排除基准图像的色彩数据。
图5示出了手抖动补偿单元的另一实施例。手抖动补偿单元540包括图像尺寸调整器145,其在对象标记单元141之前。图像尺寸调整器145缩小从图像信号处理单元20接收的预览图像(DP)和多个捕获静止图像(DC),或者剪切所述图像的边界以便减小所述图像的尺寸。因为对象倾向于集中在图像的中心部分,因此执行用于图像尺寸调整的边界剪切。如果图像尺寸调整器145被包含在手抖动补偿单元140中,则诸如图像二值化单元1411、对象标记器1412和图像滤波器1413之类的逻辑块对更小的尺寸调整后图像执行操作。因此,减少了每个逻辑块的操作开销。在运动值计算单元142使用通过缩小而被尺寸调整的比较级图像来计算运动值之后,运动值计算单元142可以考虑缩小因子基于原始比较级图像来转换计算的运动值。
图6示出了手抖动补偿单元的另一实施例。手抖动补偿单元640包括图像选择单元146,其在对象标记器141之前。图像选择单元146将多个捕获静止图像(DC)分类为基本图像和比较级图像。用于选择基准图像的基础如上所述。图像选择单元146计算每个比较级图像相对于基准图像的运动矢量。每个比较级图像的运动矢量是表示比较级图像相对于基准图像的运动程度的索引,并且是以诸如MPEG(运动图像专家组)或H.26x之类的公知图像压缩标准的典型方式来计算的。然后,如果运动矢量的幅度过大或者运动矢量未被计算,则图像选择单元146确定基准图像中包含的物体不同于比较级图像中包含的物体,并且从用于手抖动补偿的图像中排除对应的比较级图像。这可能是因为手颤动量过大或者在拍摄比较级图像时另一个物体突然侵入到图像拾取范围内而发生。另一方面,如果比较级图像的运动矢量在适当范围内,则图像选择单元146确定该比较级图像可被用来补偿手抖动效果,并且将预览图像(DP)和捕获静止图像(DC)输入到对象标记单元141中。然后,对象标记单元141执行如上所述的对象标记操作。
另外,图像选择单元146定量地计算基准图像与每个比较级图像之间的亮度差。如果所述差小于预定等级,则图像选择单元146从手抖动补偿中排除对应的比较级图像。例如,图像选择单元146计算基准图像与比较级图像之间的异或运算后的图像,对异或运算后的图像的亮度进行平均化,并且将所获得的亮度平均值定义为基准图像与比较级图像之间的亮度差。如果基准图像与比较级图像之间的亮度差小于预定等级(例如0.85),则图像选择单元146确定不存在对象的有意义的运动,并且不将对应的比较级图像输出到对象标记单元141。另一方面,如果基准图像与比较级图像之间的差大于预定等级(例如0.85),则图像选择单元146确定存在对象的有意义的运动,并且将对应的比较级图像输出到对象标记单元141。如上所述,使用基准图像与每个比较级图像之间的亮度差的图像选择可以减少用于对象标记的操作开销。
图像选择单元146可被插入在如图5所示的图像尺寸调整器145与对象标记单元141之间。在这种情况下,图像选择单元146对尺寸调整后基准图像和比较级图像执行上述操作。
图8示出了根据本发明的手抖动补偿单元140的操作的示例。下述的每个步骤由手抖动补偿单元140执行。
第一捕获静止图像被输入(P10)并且被指定为基准图像(P20)。注意,用作基准图像的捕获静止图像可任意地改变,并且在基准图像之后拍摄的捕获静止图像变成比较级图像。
第二捕获静止图像(k=2)被输入为比较级图像(P30),并且计算比较级图像相对于基准图像的运动矢量(P40)。将所计算的运动矢量与临界值相比较,以便确定运动矢量的幅度是否超过临界值(P50)。
如果在P50中确定未计算运动矢量或者所计算的运动矢量超过临界值,则不执行比较级图像的对象标记步骤,而取而代之执行P60。相反,如果在P50中确定所计算的运动矢量未超过临界值,则执行P70,以便定量地计算基准图像与比较级图像之间的亮度差。例如,计算基准图像与比较级图像的异或运算后的图像,计算异或运算后的图像的平均亮度,并且将亮度的平均值定义为基准图像与比较级图像之间的亮度差。
接下来,该处理检查基准图像与比较级图像之间的亮度差是否超过预置的临界值。如果该亮度差超过预置的临界值,则在比较级图像中存在对象的有意义的运动,并且执行对象标记步骤(P90)。如果该亮度差未超过预置的临界值,则省略比较级图像的对象标记步骤,并执行P60。
从基准图像和比较级图像中提取对象,并且通过几何运算来计算对象参数(P90)。优选地,执行从图像的对象提取,使得该图像被转换为二进制图像。二进制图像中彼此相连的白像素组被识别为对象,并且提取该对象。更优选地,执行从图像的对象提取,使得在对象被识别并且从边界锐化后图像和二进制图像的合成图像中提取之前,该图像被过滤以便边界锐化并被合成。用于提取对象参数的处理在上面进行了详细描述,并省略其描述。
从基准图像和比较级图像中提取的对象参数彼此匹配,并且计算比较级图像相对于基准图像的运动值(P100)。这里,每个比较级图像的运动值包括从由根据平移的运动值、根据旋转的运动值、根据比例缩放的运动值、和根据修剪的运动值、或者它们的组合组成的组中选择的任意一个。然后,使用所计算的运动值计算用于运动补偿的矩阵,并且通过仿射变换对比较级图像补偿运动(P110)。
接下来,该处理检查运动补偿后的比较级图像的顺序(k)达到了预置数(N)(P120)。N是用于补偿图像的手抖动的捕获静止图像的数目,并且被预先设置。根据P120,如果k小于或等于N,则执行P60,以便使比较级图像的顺序递增1,并且处理返回到P30。然后,输入第二捕获静止图像到第N捕获静止图作为比较级图像,计算比较级图像的运动值,并使用该运动值对比较级图像补偿运动。重复该处理,直到k大于N为止。如果k大于N,则对所有比较级图像补偿运动,并由此执行P130。
运动补偿后比较级图像和(其中判断出基本上不存在对象的运动的)没有实质运动的比较级图像与基准图像重叠,以便生成手抖动补偿后图像(P130)。上面更详细地描述了图像重叠。在一些情况下,可以从用于图像重叠的图像中排除其中判断出基本上不存在对象的运动的比较级图像。对于那些图像,可以省略P40到P80,以便减少手抖动补偿单元140的操作开销。
尽管图8中未示出,但是本发明可在从基准图像和比较级图像中提取对象之前、还包括缩小基准图像和比较级图像或者通过剪切图像的边界来调整基准图像和比较级图像的尺寸。本发明可以还包括图像选择步骤。在计算比较级图像相对于基准图像的运动矢量之后,并且如果运动矢量的幅度超过临界值,则从运动补偿中排除对应的比较级图像。在计算基准图像与比较级图像之间的亮度差之后,并且如果该亮度差不超过临界值,则从运动补偿中排除对应的比较级图像。图像尺寸调整步骤或者图像选择步骤可以减少用于对象提取所需的操作开销。
现在描述在获得手抖动补偿后图像之后的图像属性校正。
参考图1,在通过手抖动补偿单元140生成手抖动补偿后图像之后,使用在预览模式中获得的预览图像(DP)校正手抖动补偿后图像的各种属性。
优选地,使用预览图像(DP)校正的手抖动补偿后图像的属性包括图像色彩、图像噪声和图像亮度。为此目的,施加图像处理模块40被提供有图像属性校正单元150,该图像属性校正单元150包括色彩校正单元151、噪声校正单元152和亮度校正单元153。优选地,按照校正图像色彩、图像噪声和图像亮度的顺序,依次执行手抖动补偿后图像的图像属性校正。然而,本发明不限于特定顺序的图像属性校正,并可以按照任意顺序来执行图像属性校正。
参考图1和9来描述色彩校正处理。首先,色彩校正单元151将手抖动补偿后图像按比例缩放到预览图像(DP)的尺寸,以便生成缩小的图像(S10)。接下来,色彩校正单元151使用预览图像(DP)作为基准图像来计算缩小的图像的运动矢量(S20)。运动矢量表示缩小的图像中包含的对象相对于预览图像(DP)的移动方向和移动量。运动矢量可以按照诸如MPEG(运动图像专家组)或H.26x之类的公知图像压缩标准的典型方式来计算。即,按照缩小的图像被划分为均匀尺寸的块的方式来计算运动矢量,并且推断出从中移动每个块的基准图像的面积。在计算运动矢量之后,色彩校正单元151根据该运动矢量来移动预览图像(DP)的每个像素数据的位置(S30)。然后,色彩校正单元151基于完成了每个像素数据的位置移动处理的预览图像(DP),使用内插方法,来校正手抖动补偿后图像的像素数据(S40)。即,色彩校正单元151基于(当生成缩小的图像时应用的)缩放因子,将预览图像(DP)的每个像素数据的位置(xi,yj)转换为手抖动补偿后图像的位置(XI,YJ)。接下来,色彩校正单元151用对应于预览图像(DP)的位置(xi,yj)的像素数据替换对应于手抖动补偿后图像的位置(XI,YJ)的像素数据。预览图像(DP)的像素的数目小于手抖动补偿后图像的像素的数目,并由此手抖动补偿后图像的所有像素数据不被预览图像(DP)的像素数据替代。因此,色彩校正单元151对手抖动补偿后图像的像素数据进行内插,以便使用相邻的替代后的像素数据来填充未被预览图像(DP)的像素数据替代的像素。所述内插方法包括双线性(Bi-linear)内插、双立方(Bi-Cubic)内插或B-样条(B-spline)内插,然而,本发明不限于这一点。
经过上述色彩校正处理的手抖动补偿后图像被输入到施加图像处理模块40的噪声校正单元152。噪声校正单元152使用各种公知噪声滤波器来去除手抖动补偿后图像的噪声和错误色彩。所述滤波器包括低通滤波器、中值滤波器、高斯滤波器、高斯滤波器的拉普拉斯算子、或者高斯滤波器的差。然而,本发明不限于这一点,可以使用其他公知的滤波技术来去除噪声。
经过如上所述的噪声和错误色彩去除的手抖动补偿后图像被输入到亮度校正单元153。亮度校正单元153定量地计算预览图像(DP)与手抖动补偿后图像之间的亮度差,自适应地确定手抖动补偿后图像的亮度校正强度,并且校正手抖动补偿后图像的亮度。
参考图1和图10来描述亮度校正处理。首先,亮度校正单元153将手抖动补偿后图像缩小到预览图像(DP)的尺寸,以便生成缩小的图像(S50)。这时,不需要单独地执行步骤S50,并且可以再次使用为色彩校正而生成的缩小的图像。接下来,亮度校正单元153定量地计算缩小的图像与预览图像(DP)之间的亮度差(S60)。该亮度差可以使用两个图像之间的直方图的平均值的差来计算。例如,在缩小的图像和预览图像(DP)的直方图的平均值分别为“85”和“140”的情况下,平均值的差为“55”。接下来,亮度校正单元153根据平均值的差自适应地确定亮度校正强度,并且通过所确定的强度来校正手抖动补偿后图像的亮度(S70)。可以将伽马函数或Retinex算法应用于亮度校正。在这种情况下,亮度校正强度是伽马函数或Retinex算法的强度。为了自适应地选择亮度校正算法的强度,优选地以查找表170的形式准备可根据平均值的差选择的强度等级,并且参考该查找表170。
通过定义第一曝光值和第二曝光值的参数之间的差,可以定量地计算手抖动补偿后图像与预览图像(DP)之间的亮度差。也就是,手抖动补偿后图像与预览图像(DP)之间的亮度差可以通过定义第一曝光值和第二曝光值的参数(即,“f”和“I”)之间的差进行计算。例如,在对应于第一曝光值的“f”和“I”值分别是“1/30”和“200”、以及对应于第二曝光值的“f”和“I”值分别是“1/60”和“100”的情况下,快门速度和ISO增益的差分别被定量计算为“1/60”和“100”。接下来,亮度校正单元153通过“f”和“I”值的差来自适应地确定亮度校正强度,并且校正手抖动补偿后图像的亮度。可按照与上述实施例相同的方式将伽马函数或Retinex算法应用于亮度校正。在这种情况下,亮度校正强度是伽马函数或Retinex算法的强度。为了自适应地选择亮度校正算法的强度,优选地以查找表的形式准备可根据“f”和“I”值的差选择的强度等级,并且参考该查找表。
本发明中用于校正手抖动补偿后图像的亮度的伽马函数或Retinex算法在现有技术中广为人知,并在此处省略其详细描述。本发明不限于特定种类的亮度校正函数或算法,并且可以应用用于调节手抖动补偿后图像的亮度的各种公知理论。
在色彩校正单元151、噪声校正单元152和亮度校正单元153校正处理之后,编码并输出手抖动补偿后图像。为此目的,施加图像处理模块40还包括用于编码该手抖动补偿后图像的编码单元160。优选地,编码单元160通过JPEG标准来编码手抖动补偿后图像,以便生成图像文件并输出该图像文件。然而,本发明不限于特定的编码方法。所述图像文件可被存储在数字拍摄装置的备用(inactive)存储介质例如闪存中。
用户接口60是提供给数字拍摄装置的普通接口,用于调节用于获得数字图像所需的各种参数(例如数字相机的焦点、光学或数字放大/缩小、白平衡或曝光模式),并操作快门。如果数字拍摄装置被安装在诸如移动电话之类的手持式终端中,则用户接口60可实施为手持式终端的小键盘。
现在描述如上配置的使用对象跟踪的用于数字图像稳定的设备的数字拍摄处理。下述假设:在操作数字拍摄装置之后,通过用户接口60的操纵来启动拍摄模式。
参考图1和11,当拍摄模式开始时,施加图像处理模块40将传感器数据表130加载到存储器中,该数据表130用于基于第一曝光值条件而选择第二曝光值条件。然后,当拍摄模式开始时,施加图像处理模块40控制传感器控制器30将图像传感器10设置为第一曝光值条件(F10)。用于定义曝光值的参数(例如快门速度“f”和ISO增益“I”)参考传感器数据表130。优选地,第一曝光值条件对应于自动曝光模式。可替换地,第一曝光值条件可以通过用户接口60由用户任意地设置。
当图像传感器10被设置为第一曝光值条件时,施加图像处理模块40向传感器控制器30请求生成预览图像(F20)。然后,传感器控制器30将预览图像生成信号周期地发送到图像传感器10(F30)。然后,图像传感器10按照规则帧间隔以模拟图像信号的形式将物体的预览图像(AP)输出到图像信号处理单元20(F40)。图像信号处理单元20对从图像传感器10周期地接收的预览图像信号进行数字化,将数字化的图像信号缩小到取景器90的显示器的尺寸,并且将缩小的图像输出到施加图像处理模块40(F50)。接着,施加图像处理模块40接收缩小的预览图像(DP)并且在显示存储器70中周期地存储该预览图像(DP)(F60)。显示操作单元80读取在显示存储器70中周期地存储的预览图像(DP)(F70)。接下来,显示操作单元80将预览图像(DP)转换为模拟图像信号,并且通过取景器90的显示器按照规则间隔输出预览图像(DP)(F80)。
图12示出了下列处理,其中通过在操作数字拍摄装置的快门时生成预览图像(DP)和手抖动补偿后图像、并且基于预览图像(DP)的属性校正手抖动补偿后图像的属性,来校正捕获静止图像的图像模糊现象。
参考图1和12,当拍摄者在取景器90的显示器中捕获期望的图像并且操作快门时,施加图像处理模块40将图像处理模式从预览模式改变为静止图像捕获模式。接着,施加图像处理模块40从显示存储器70中读取在操作快门之前的最近时间生成的预览图像(DP),以便获得预览图像(DP)(F100)。接着,施加图像处理模块40通过参考传感器数据表基于第一曝光值条件来自适应地确定第二曝光值条件,并且控制传感器控制器30将图像传感器10设置为第二曝光条件(F110)。用于基于第一曝光值条件计算第二曝光值条件的配置如上所述。
当图像传感器10被设置为第二曝光值条件时,施加图像处理模块40向传感器控制器30请求生成多个捕获静止图像(F120)。传感器控制器30将多个捕获静止图像生成信号发送到图像传感器10(F130)。然后,图像传感器10以规则间隔连续地捕获物体的多个捕获静止图像(AC),并且以模拟图像信号的形式将捕获静止图像(AC)顺序地输出到图像信号处理单元20(F140)。图像信号处理单元20对从图像传感器10接收的多个捕获静止图像(AC)进行数字化,将数字化的图像的尺寸缩放到由拍摄者通过用户接口60设置的图像尺寸,并且将缩放后的图像输出到施加图像处理模块40(F150)。
然后,施加图像处理模块40分类多个捕获静止图像(DC),使得单个捕获静止图像被用作基准图像,其他捕获静止图像被用作比较级图像。该施加图像处理模块40补偿比较级图像相对于基准图像的运动,并且将运动补偿后比较级图像与基准图像重叠,以便生成手抖动补偿后图像。接着,施加图像处理模块40使用预览图像(DP)的色彩和亮度属性来校正手抖动补偿后图像的色彩和亮度,并且从手抖动补偿后图像中去除各种噪声和色彩缺陷,以便获得免于由于手抖动引起的图像模糊现象的捕获静止图像。所获得的捕获静止图像被编码,并且以文件的形式记录到存储介质中或者通过取景器90输出。
图13比较图像(A)和图像(B),该图像(A)由在自动曝光模式中没有图像稳定功能的典型数字拍摄装置拍摄,而该图像(B)由执行根据本发明的使用对象跟踪的数字图像稳定方法的数字拍摄装置拍摄。如图13所示,由根据本发明的数字图像稳定方法获得的图像免于图像模糊现象,并且更加明亮和清晰。
在上述实施例中,图像信号处理单元20和施加图像处理模块40是根据它们的功能划分的单独单元。然而,图像信号处理单元20和施加图像处理模块40可被集成到单个模块中,或者施加图像处理模块40中包含的至少一个子元件可被构造为单独模块。而且,预览图像(DP)的缩放因子不受取景器90的显示器的尺寸的限制。因此,预览图像(DP)的缩放因子可以根据用于运动补偿的捕获静止图像(DC)的尺寸而改变。例如,可以调节预览图像(DP)的缩放因子,使得捕获静止图像(DC)的宽度和高度是预览图像(DC)的宽度和高度的整数倍。在这种情况下,当校正捕获静止图像(DC)的色彩时,在映射预览图像(DP)和捕获静止图像(DC)的像素数据的位置方面,减少了操作开销。
根据本发明的数字图像稳定方法可被合并为计算机可读介质中的计算机可读代码。该计算机可读介质包括用于存储可由计算机系统读取的数据的各种存储装置。计算机可读介质的一些示例是ROM、RAM、CD-ROM、磁带、软盘或光数据存储装置,并且能够以载波(例如经由因特网传输)的形式合并。计算机可读介质可以存储并运行在经由网络彼此连接的计算机系统中分发并且可由计算机通过分发方法读取的代码。
上面仅描述了一些实施方式。基于本申请中所描述及所图示的发明,可以做出其他实现、增强和变形。
根据本发明的一方面,与EIS或OIS技术不同,本发明能够去除由于手抖动引起的图像模糊现象,而不需要用于测量手抖动程度的硬件,例如角速度传感器或棱镜。因此,本发明降低了数字拍摄装置的制造成本,并且获得了良好质量的数字静止图像。
根据本发明的另一方面,与DIS技术不同,本发明在存储捕获静止图像时不涉及数字缩放。因此本发明能够获得比DIS技术更好质量的数字静止图像。
根据本发明的另一方面,本发明使用保持物体的亮度和色彩属性的预览图像来校正捕获静止图像。因此本发明能够获得更清晰更亮的数字静止图像。
根据本发明的另一方面,本发明使用滤波器来去除在校正捕获静止图像的色彩数据时创建的噪声,由此改善了图像的质量。