CN101350884A - 图像处理设备、图像处理方法、程序和显示设备 - Google Patents
图像处理设备、图像处理方法、程序和显示设备 Download PDFInfo
- Publication number
- CN101350884A CN101350884A CNA2008101377442A CN200810137744A CN101350884A CN 101350884 A CN101350884 A CN 101350884A CN A2008101377442 A CNA2008101377442 A CN A2008101377442A CN 200810137744 A CN200810137744 A CN 200810137744A CN 101350884 A CN101350884 A CN 101350884A
- Authority
- CN
- China
- Prior art keywords
- pixel
- picture
- interested
- motion vector
- movable information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0117—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
- H04N7/012—Conversion between an interlaced and a progressive signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/144—Movement detection
- H04N5/145—Movement estimation
Abstract
公开了图像处理设备、图像处理方法、程序和显示设备。用于获得指示图像的运动的运动信息的图像处理设备,所述图像处理设备包括:运动估计部分,被配置为获得感兴趣像素的运动信息,并输出感兴趣像素的运动信息,并获得用于评估感兴趣像素的运动信息的评估值,确定感兴趣像素的运动信息的可靠性,并输出指示可靠性的可靠性信息。
Description
相关申请的交叉引用
本发明包含于2007年7月18日向日本专利局提交的日本专利申请JP2007-186563的主题,通过引用的方式将其全部内容合并在此。
技术领域
本发明涉及图像处理设备、图像处理方法、程序和显示设备,并且更特别地,涉及可以例如更高精度且更低成本地获得指示运动信息(其指示图像的运动)的可靠性的可靠性信息的图像处理设备、图像处理方法、程序和显示设备。
背景技术
例如,在将通过隔行扫描而扫描的隔行图像转换为通过非隔行扫描而扫描的逐行图像的IP(隔行逐行,Interlace Progressive)转换中,在隔行图像的每一个半帧(field)中执行关于没有像素值的像素的内插。由此,仅在奇数行(奇数编号的水平行)或偶数行(偶数编号的水平行)中具有像素值的半帧被转换为在奇数行和偶数行均有像素值的帧。
作为用于在IP转换中的像素内插的方法,存在被称为半帧内(intra-field)内插和半帧间(inter-field)内插的方法。
半帧内内插和半帧间内插将在隔行图像的半帧中不具有像素值的像素设置为要对其执行内插的内插目标像素,并使用具有像素值的像素的像素值来为内插目标像素获得像素值(像素值的内插值)。
在本说明书中,将从一个垂直同步信号到下一垂直同步信号的半帧和帧统称为画面(picture)。
另外,合适地,在下文中将在内插目标像素之中所关注的内插目标像素称为感兴趣像素,并且在下文中将包括感兴趣像素的画面(半帧或帧)称为感兴趣画面。
半帧内内插使用感兴趣画面的像素之中感兴趣像素附近的像素的像素值,来获得感兴趣像素的像素值。
另一方面,半帧间内插使用感兴趣画面之前一个画面(时间上处于过去)的之前画面中像素的像素值和感兴趣画面之后一个画面(时间上处于未来)的之后画面中像素的像素值以及感兴趣像素的运动矢量来获得感兴趣像素的像素值。
具体地说,半帧间内插使用之前画面的像素之中、处于从感兴趣像素的位置起移位与感兴趣像素的运动矢量对应的量的位置的像素的像素值以及之后画面的像素之中、处于从感兴趣像素的位置起移位与感兴趣像素的运动矢量对应的量的位置的像素的像素值,来获得感兴趣像素的像素值。
如上所述,半帧间内插使用感兴趣像素的运动矢量来内插感兴趣像素(感兴趣像素的像素值)。因此,当感兴趣像素的运动矢量表示错误的运动时,不能获得正确的内插值作为感兴趣像素的像素值。结果,降低了逐行图像的图像质量。
因此,存在一种IP转换,其使用对于所关注的感兴趣的块所检测到的运动矢量和对于感兴趣的块的周围的块所检测到的运动矢量,基于这些运动矢量之间的一致性获得指示对于感兴趣的块所检测到的运动矢量的可靠性(精度)的可靠性信息,根据可靠性信息将通过半帧内内插获得的内插值与通过半帧间内插获得的内插值混合,并将混合的结果设置为感兴趣像素的像素值(例如,见日本专利公开No.Hei 08-015334)。
发明内容
作为用于检测运动矢量的方法,存在使用多个像素的组的、被称为块匹配的方法。假设将用以检测运动矢量的多个像素的组称为宏块(MB),那么在块匹配中,在移动宏块时,获得形成某一画面的宏块的像素的像素值与形成另一画面的宏块的像素的像素值之间的差(差的绝对值)的总和(在下文中称为运动误差)。然后,获得运动误差变为最小时某一画面的宏块与另一画面的宏块之间的位置关系作为运动矢量。
在块匹配中,宏块的规模越大(宏块的像素的数量越大),则可以获得可靠运动矢量的可能性越强。
然而,当宏块的规模增大时,确定运动误差所需的计算量增大。对于实时处理来说,能够高速执行处理的硬件变得是必需的,这增加了设备成本。
另一方面,当宏块的规模减小时,确定运动误差所需的计算量减小,并且由此可以实现更低成本。然而,获得低可靠性的运动误差的可能性增强。
当在很有可能具有低可靠性的运动矢量之中,仅使用对于感兴趣块检测到的运动矢量和对于感兴趣块周围的块检测到的运动矢量来获得用于对于感兴趣块检测到的运动矢量的可靠性信息时,可靠性信息可能不精确地指示运动矢量的可靠性。
已经在考虑到上述情形的情况下进行了本发明。期望更高精度且更低成本地获得指示图像的运动的运动信息的可靠性的可靠性信息。
根据本发明的实施例的图像处理设备或程序是用于获得指示图像的运动的运动信息的图像处理设备,或用于使计算机用作图像处理设备的程序,所述图像处理设备包括运动估计装置,用于在所关注的感兴趣画面的像素值中,使用感兴趣像素的运动矢量和感兴趣像素附近的像素的运动矢量,来获得所关注的感兴趣像素的运动信息,并输出感兴趣像素的运动信息。图像处理设备进一步用于使用感兴趣画面的多个像素的运动矢量来获得用于评估感兴趣像素的运动信息的评估值,使用与感兴趣画面相邻的另一画面的多个像素的运动矢量来获得用于评估感兴趣像素的运动信息的评估值,使用评估值来确定感兴趣像素的运动信息的可靠性,并输出指示该可靠性的可靠性信息。
根据本发明的实施例的图像处理方法是用于获得指示图像的运动的运动信息的图像处理设备的图像处理方法,图像处理方法包括用于使用在所关注的感兴趣画面的像素之中所关注的感兴趣像素的运动矢量和感兴趣像素附近的像素的运动信息,来获得所述感兴趣像素的运动信息,并输出感兴趣像素的运动信息的步骤。图像处理方法进一步包括用于使用感兴趣画面的多个像素的运动矢量来获得用于评估所述感兴趣像素的运动信息的评估值,使用与感兴趣画面相邻的另一画面的多个像素的运动矢量来获得用于评估感兴趣像素的运动信息的评估值,使用评估值确定感兴趣像素的运动信息的可靠性,并输出指示可靠性的可靠性信息的步骤。
根据本发明的实施例的显示设备是用于显示广播节目的图像的显示设备,所述显示设备包括运动估计装置,用于使用在组成广播节目的图像的画面之中、在所关注的感兴趣画面的像素之中所关注的感兴趣像素的运动矢量和感兴趣像素附近的像素的运动矢量,来获得所述感兴趣像素的运动信息,并输出所述感兴趣像素的运动信息。显示设备进一步包括估计装置,用于使用感兴趣画面的多个像素的运动矢量来获得用于评估感兴趣像素的运动信息的评估值,使用与感兴趣画面相邻的另一画面的多个像素的运动矢量来获得用于评估感兴趣像素的运动信息的评估值,使用评估值确定感兴趣像素的运动信息的可靠性,并输出指示可靠性的可靠性信息。
在本发明的上述实施例中,使用在所关注的感兴趣画面的像素之中所关注的感兴趣像素的运动矢量和感兴趣像素附近的像素的运动矢量,来获得所述感兴趣像素的运动信息。另外,使用感兴趣画面的多个像素的运动矢量来获得用于评估感兴趣像素的运动信息的评估值,并且使用感兴趣画面的另一像素的像素值来获得用于评估感兴趣像素的运动信息的评估值。然后,使用评估值确定感兴趣像素的运动信息的可靠性,并输出指示可靠性的可靠性信息。
顺便提及,图像处理设备可以是独立设备,也可以是形成一台设备的内部块。
另外,通过经由传送介质传送或者通过在记录介质上记录来提供程序。
根据本发明的上述实施例,可以获得更高精度且更低成本地指示运动信息(其指示图像的运动)的可靠性的可靠性信息。
附图说明
图1是示出本发明应用到的TV的实施例的配置的示例的框图;
图2是示出IP转换单元15的配置的示例的框图;
图3是示出隔行图像的图;
图4是示出逐行图像的图;
图5是有助于解释IP转换过程的流程图;
图6是有助于解释用于逐行图像的运动矢量检测方法的图;
图7是有助于解释用于隔行图像的运动矢量检测方法的图;
图8是示出存储器单元21的配置的示例的框图;
图9是示出运动估计单元22的配置的第一示例的框图;
图10是示出多个候选矢量的示例的图;
图11是有助于解释评估值(evaluation value)计算单元52k的处理的图;
图12是有助于解释运动估计处理的流程图;
图13是示出逐行图像产生单元23的配置的示例的框图;
图14是有助于解释逐行图像产生处理的流程图;
图15是示出从存储器单元21提供到运动估计单元22的图像的图;
图16是示出运动估计单元22的配置的第二示例的框图;
图17是有助于解释运动估计处理的流程图;
图18是示出运动估计单元22的配置的第三示例的框图;
图19是有助于解释运动估计处理的流程图;
图20是示出运动估计单元22的配置的第四示例的框图;
图21是有助于解释运动估计处理的流程图;以及
图22是示出本发明应用到的计算机的实施例的配置的示例的图。
具体实施方式
在下文中将描述本发明的优选实施例。以下例示了本发明的组成要求和说明书或附图中描述的实施例之间的对应。该描述是要确认在说明书或附图中描述支持本发明的实施例。因此,即使当存在在说明书或附图中描述的、但没有在此作为与本发明的组成要求对应的实施例描述的实施例时,也不表示所述实施例不与所述组成要求对应。相反地,即使当在此将一个实施例描述为与所述组成要求对应时,也不表示所述实施例不与除了所述组成要求之外的组成要求相对应。
根据本发明的实施例的图像处理设备或程序是用于获得指示图像的运动的运动信息的图像处理设备(如图2中的IP转换单元15)或用于使计算机用作图像处理设备的程序,所述图像处理设备包括运动估计装置(例如,图2中的运动估计单元22),用于使用感兴趣像素的运动矢量和感兴趣像素周围的像素的运动矢量获得在所关注的画面的像素之中所关注的感兴趣像素的运动信息,并输出感兴趣像素的运动信息,并且获得用于使用感兴趣画面的多个像素的运动矢量来评估感兴趣像素的运动信息的评估值。所述图像处理设备进一步包括运动估计装置,用于获得用于通过使用与感兴趣画面相邻的另一画面的多个像素的运动矢量来评估感兴趣像素的运动信息的评估值,使用所述评估值来确定感兴趣像素的运动信息的可靠性,并输出指示该可靠性的可靠性信息。
运动估计装置可以包括:一个运动矢量检测装置(如图20中的运动矢量检测单元510),用于检测感兴趣画面的像素的运动矢量;以及多个运动矢量存储装置(如图20中的运动矢量存储单元581和582),用于存储在过去(in apast)已经是感兴趣画面的多个画面(如第(N-1)画面和第(N-2)画面)的像素的所检测到的运动矢量。运动估计装置可以进一步包括运动信息计算装置(如图20中的运动信息计算单元53),用于使用感兴趣的运动矢量和感兴趣像素周围的像素的运动矢量来获得感兴趣像素的运动信息,所述运动矢量由运动矢量检测装置检测;以及多个评估值计算装置(如图20中的评估值计算单元520至522),用于使用感兴趣画面和所述多个画面的所检测到的运动矢量,来获得用于评估感兴趣像素的运动信息的评估值。运动估计装置还可以进一步包括确定进行中结果存储装置(如图20中的确定进行中结果存储单元56),用于存储作为确定运动信息的可靠性的可靠性确定的进行中结果(in-progress result)的确定进行中结果。运动估计装置还可以进一步包括可靠性确定装置(如图20中的可靠性确定单元57),用于进行可靠性确定,其使用通过多个评估值计算装置获得的评估值以及过去的可靠性确定的确定进行中结果,来确定感兴趣像素的运动信息的可靠性,所述过去的可靠性确定的确定进行中结果由确定进行中结果存储装置来存储,并且该可靠性确定装置还用于使确定进行中结果存储装置存储可靠性确定的确定进行中结果。
运动估计装置可以包括多个运动矢量检测装置(如图9中的运动矢量检测单元510到514),用于检测多个画面(如图9中的第N到第(N-4)画面)的像素的运动矢量,所述多个画面是感兴趣画面,并且一个或多个画面与感兴趣画面相邻。运动估计装置可以进一步包括运动信息计算装置(如图9中的运动信息计算单元53),用于使用感兴趣像素的运动矢量和感兴趣像素周围的像素的运动矢量来获得感兴趣像素的运动信息,所述运动矢量由多个运动矢量检测装置之中用于感兴趣画面的运动矢量检测装置检测。运动估计装置还可以进一步包括多个评估值计算装置(如图9中的评估值计算单元520至524),用于使用由多个运动矢量检测装置检测到的运动矢量来评估感兴趣像素的运动信息;以及可靠性确定装置(如图9中的可靠性确定单元54),用于使用通过多个评估值计算装置获得的评估值来确定感兴趣像素的运动信息的可靠性。
运动估计装置可以包括多个运动矢量检测装置(如图16中的运动矢量检测单元510到512),用于检测多个画面(如图16中的第N到第(N-2)画面)的像素的运动矢量,所述多个画面是感兴趣画面并且一个或多个画面与感兴趣画面相邻。运动估计装置可以进一步包括运动信息计算装置(如图16中的运动信息计算单元53),用于使用感兴趣像素的运动矢量和感兴趣像素周围的像素的运动矢量来获得感兴趣像素的运动信息,所述运动矢量由多个运动矢量检测装置之中用于感兴趣画面的运动矢量检测装置检测。运动估计装置还可以进一步包括多个评估值计算装置(如图16中的评估值计算单元520到522),用于使用由多个运动矢量检测装置所检测到的运动矢量,来获得用于评估感兴趣像素的运动信息的评估值;以及确定进行中结果存储装置(如图16中的确定进行中结果存储单元56),用于存储作为确定运动信息的可靠性的可靠性确定的进行中结果的确定进行中结果。运动估计装置还可以进一步包括可靠性确定装置(如图16中的可靠性确定单元57),用于进行可靠性确定,其使用通过多个评估值计算装置获得的评估值以及过去的可靠性确定的确定进行中结果来确定感兴趣像素的运动信息的可靠性,所述过去的可靠性确定的确定进行中结果由确定进行中结果存储装置存储,并且该可靠性确定装置还用于使确定进行中结果存储装置存储可靠性确定的确定进行中结果。
运动估计装置可以包括一个运动矢量检测装置(如图18中的运动矢量检测单元510),用于检测感兴趣画面的像素的运动矢量;以及多个运动矢量存储装置(如图18中的运动矢量存储单元581到584),用于存储在过去(in a past)已经是感兴趣画面的多个画面(如第(N-1)个画面到第(N-4)个画面)的像素的所检测到的运动矢量。运动估计装置还可以进一步包括运动信息计算装置(如图18中的运动信息计算单元53),用于通过使用感兴趣的运动矢量和感兴趣像素周围的像素的运动矢量来获得感兴趣像素的运动信息,所述运动矢量由运动矢量检测装置检测;以及多个评估值计算装置(如图18中的评估值计算单元520至524),用于使用感兴趣画面和所述多个画面的所检测到的运动矢量,来获得用于评估感兴趣像素的运动信息的评估值。运动估计装置还可以进一步包括可靠性确定装置(如图18中的可靠性确定单元54),用于使用通过多个评估值计算装置获得的评估值来确定感兴趣像素的运动信息的可靠性。
根据上述实施例的图像处理设备可以进一步包括逐行图像产生装置(如图13中的逐行图像产生单元23),用于从隔行图像产生逐行图像,所述逐行图像产生装置包括第一内插装置(如图13中的半帧内内插单元62),用于适用感兴趣画面的另一个像素的像素值来获得感兴趣像素的第一内插值。逐行图像产生装置进一步包括第二内插装置(如图13中的半帧间内插单元61),用于使用与感兴趣画面相邻的画面的像素的像素值以及感兴趣像素的运动信息来获得感兴趣像素的第二内插值。逐行图像产生装置还进一步包括选择装置(如图13中的选择单元63),用于当可靠性信息指示运动信息不可靠时,选择第一内插值并输出第一内插值作为感兴趣像素的像素值,而当可靠性信息指示运动信息可靠时,选择第二内插值并输出第二内插值作为感兴趣像素的像素值。
根据本发明的实施例的图像处理方法是用于获得指示图像的运动的运动信息的图像处理设备的图像处理方法,所述图像处理方法包括步骤(如图5中的步骤S12):使用感兴趣像素的运动矢量以及感兴趣像素附近的像素的运动矢量,来在所关注的感兴趣画面的像素之中获得所关注的感兴趣像素的运动信息,并输出感兴趣像素的运动信息,并使用感兴趣画面的多个像素的运动矢量来获得用于评估感兴趣像素的运动信息的评估值。图像处理方法进一步包括步骤:使用与感兴趣画面相邻的另一画面的多个像素的运动矢量,来获得用于评估感兴趣像素的运动信息,使用所述评估值来确定感兴趣像素的运动信息的可靠性,并输出指示可靠性的可靠性信息。
根据本发明的实施例的显示设备是用于显示广播节目的图像的显示设备(如图1中的TV),所述显示设备包括接收装置(如图1中的调谐器11),用于接收广播节目。显示设备进一步包括运动估计装置(如图2中的运动估计单元22),用于使用感兴趣像素的运动矢量以及感兴趣像素附近的像素的运动矢量,获得在组成广播节目的图像之中、在所关注的感兴趣画面的像素之中所关注的感兴趣像素的运动信息,并输出感兴趣像素的运动信息。显示设备进一步包括运动估计装置,用于使用感兴趣画面的多个像素的运动矢量来获得用于评估感兴趣像素的运动信息的评估值,使用与感兴趣画面相邻的另一画面的多个像素的运动矢量来获得用于评估感兴趣像素的运动信息的评估值,使用所述评估值来确定感兴趣像素的运动信息的可靠性,并输出指示可靠性的可靠性信息。显示设备还进一步包括逐行图像产生装置(如图2中的逐行图像产生单元23),用于使用感兴趣画面的另一像素的像素值来获得感兴趣像素的第一内插值,并使用与感兴趣画面相邻的画面的像素的像素值以及感兴趣像素的运动矢量来获得感兴趣像素的第二内插值,并且当可靠性信息指示运动信息不可靠时,选择第一内插值并输出第一内插值作为感兴趣像素的像素值,而当可靠性信息指示运动信息可靠时,选择第二内插值并输出第二内插值作为感兴趣像素的像素值,由此从隔行图像中产生逐行图像。显示设备还进一步包括显示装置(如图1中的显示面板16),用于显示逐行图像。
在下文中,将参照附图描述本发明的优选实施例。
图1是示出本发明应用到的、作为显示设备的TV(电视接收机)的实施例的配置的示例的框图。
例如,向调谐器11提供来自天线的陆地数字广播的广播信号。
例如,调谐器11从向其提供的广播信号中以预定频带提取传输流作为信号。然后调谐器11将传输流提供到解扰器(descrambler)12。
解扰器12解扰来自调谐器11的传输流。然后,解码器12将传输流提供到多路分配器(demultiplexer)13。
多路分配器13从来自解扰器12的传输流中分离包括预定广播节目的图像数据和音频数据的TS(传输流)分组,然后输出该TS分组。
从多路分配器13输出的音频数据的TS分组由解码器(在图中未示出)解码。然后,将作为解码结果获得的音频数据提供到扬声器(在图中未示出),并从扬声器输出相应的声音。
另外,从多路分配器13输出的图像数据的TS分组提供到解码器14。解码器14解码来自多路分配器13的TS分组。然后,解码器14将作为解码结果获得的隔行图像的图像数据提供到IP转换单元15。
IP转换单元15是使来自解码器14的隔行图像经历图像处理的图像处理设备。IP转换单元15通过IP转换将来自解码器14的隔行图像(隔行图像的图像数据)转换为逐行图像。将在IP转换单元15中通过IP转换获得的逐行图像提供到显示面板16。
例如,显示面板16由液晶面板、有机EL(电致发光)面板等形成。显示面板16显示来自IP转换单元15的逐行图像。
图2示出图1中的IP转换单元15的配置的示例。
IP转换单元15包括存储器单元21、运动估计单元22和逐行图像产生单元23。
存储器单元21以画面(半帧)为单位临时地存储从解码器14提供的隔行图像。存储器单元21根据需要将隔行图像提供到运动估计单元22和逐行图像产生单元23。
运动估计单元22顺序地将存储器单元21中存储的图像(隔行图像的画面)设置为所关注的感兴趣画面。运动估计单元22使用感兴趣像素的运动矢量以及感兴趣像素附近的像素的运动矢量来在感兴趣画面之中获得所关注的感兴趣像素的运动信息。然后,运动估计单元22输出感兴趣像素的运动信息。
此外,运动估计单元22使用感兴趣画面的多个像素的运动矢量获得用于评估感兴趣像素的运动信息的评估值,并使用与感兴趣画面相邻的另一画面的多个像素的运动矢量来获得用于评估感兴趣像素的运动信息的评估值。然后,运动估计单元22使用评估值确定感兴趣像素的运动信息的可靠性,并输出指示可靠性的可靠性信息。
将由运动估计单元22输出的运动信息和可靠性信息提供到逐行图像产生单元23。
逐行图像产生单元23使用来自运动估计单元22的运动信息和可靠性信息,从存储器单元21中存储的隔行图像中产生逐行图像。然后,逐行图像产生单元23输出逐行图像。
具体地说,逐行图像产生单元23通过使用感兴趣画面的另一像素的像素值以执行半帧内内插来获得半帧内内插值(第一内插值),并通过使用与感兴趣画面相邻的画面的像素的像素值以及来自运动估计单元22的感兴趣像素的运动信息以执行半帧间内插来获得半帧间内插值(第二内插值)。
然后,当来自运动估计单元22的可靠性信息指示感兴趣像素的运动信息不可靠时,逐行图像产生单元23选择半帧内内插值作为感兴趣像素的像素值。
当来自运动估计单元22的可靠性信息指示感兴趣像素的运动信息可靠时,逐行图像产生单元23选择半帧间内插值作为感兴趣像素的像素值。
逐行图像产生单元23将在存储器单元21中存储的感兴趣画面中不具有像素值的像素设置为内插目标像素,顺序地将内插目标像素设置为感兴趣像素,并确定感兴趣像素(即内插目标像素)的像素值。
然后,逐行图像产生单元23从在感兴趣画面中具有像素值的像素以及确定了像素值的内插目标像素产生逐行图像。
图3示出隔行图像。
隔行图像的画面包括仅具有奇数编号行(奇数编号行的像素值)且不具有偶数编号行(偶数编号行的像素值)的画面以及仅具有偶数编号行(偶数编号行的像素值)且不具有奇数编号行(奇数编号行的像素值)的画面。交替地排列仅具有奇数编号行(奇数编号半帧)的画面和仅具有偶数编号行(偶数编号半帧)的画面。
在图3中(如后面描述的图4、图6、图7和图11的情况那样),奇数编号行由实线表示,而偶数编号行由虚线表示。
此外,在图3中(如后面描述的图4、图6、图7和图11的情况那样),奇数编号行中的像素由圆圈表示,而偶数编号行中的像素由矩形(方形)表示。
顺便提及,在表示奇数编号行中的像素的圆圈中,表示具有像素值的像素的圆圈由实线形成,而表示不具有像素值的像素的圆圈由虚线形成。类似地,在表示偶数编号行中的像素的矩形中,表示具有像素值的像素的矩形由实线形成,而表示不具有像素值的像素的矩形由虚线形成。
在图3中,第(N-1)画面和第(N+1)画面是仅具有偶数编号行的偶数编号半帧,而第N画面是仅具有奇数编号行的奇数编号半帧。
在这种情况下,例如,第N个画面是从广播节目的图像的开始的第N画面。因此,第(N-1)画面是在第N画面之前一个画面的过去画面(在下文中也称为之前画面),而第(N+1)画面是在第N画面之后一个画面的将来画面(在下文中也称为之后画面)。
图4示出逐行图像。
逐行图像的画面具有奇数编号行和偶数编号行二者。
图2中的IP转换单元15执行IP转换,以便将图3所示的隔行图像的......、第(N-1)画面、第N画面、第(N+1)画面转换为图4所示的逐行图像的......、第(N-1)画面、第N画面、第(N+1)画面。
图5是有助于解释由图2中的IP转换单元15执行的IP转换的处理(IP转换处理)的流程图。
IP转换单元15等待被提供来自解码器14(图1)的隔行图像的新画面。在步骤S11,存储器单元21临时存储来自解码器14的隔行图像的画面。然后处理进行到步骤S12。
在步骤S12,运动估计单元22执行运动估计处理,所述运动估计处理将存储器单元21中存储的(隔行图像的)画面的预定画面设置为感兴趣画面,并获得感兴趣画面的内插目标像素(不具有像素值的像素)的运动信息以及指示运动信息的可靠性的可靠性信息。
然后,运动估计单元22将通过运动估计处理获得的运动信息和可靠性信息提供到逐行图像产生单元23。处理从步骤S12进行到S13。
在步骤S13,逐行图像产生单元23执行逐行图像产生处理,所述逐行图像产生处理基于来自运动估计单元22的运动信息和可靠性信息,使用在存储器单元21中存储的感兴趣画面的隔行图像,来产生感兴趣画面的逐行图像。然后逐行图像产生单元23将作为逐行图像产生处理的结果获得的逐行图像提供到显示面板16(图1)。
然后,处理从步骤S13返回到步骤S11,以便从步骤S11到下重复相同的处理。
下面将进行由IP转换单元15执行的IP转换处理的描述。然而,在IP转换处理的描述之前,将进行通过块匹配来检测运动矢量的方法的描述。
首先将参照图6描述检测逐行图像的运动矢量的方法。
顺便提及,在这种情况下,例如,假设面向未来方向的矢量(具有过去侧的起点和将来侧的终点)检测为运动矢量。
图6示出逐行图像的三个连续画面,即第(N-1)画面、第N画面、第(N+1)画面。
当将逐行图像的第N画面设置为感兴趣画面并将感兴趣画面的特定像素设置为感兴趣像素以检测感兴趣像素的运动矢量时,使用感兴趣画面以及作为在感兴趣画面之后一个画面的之后画面的第(N+1)画面来检测运动矢量。
具体地说,在第N画面中设置具有感兴趣像素作为其中心的预定规模的宏块(macroblock)(在下文中也合适地简称为块)作为感兴趣画面。在图6中,设置具有感兴趣像素作为其中心的3×3像素,即3像素行和3像素列的块MBN。
此外,将使感兴趣像素作为起点且使作为之后画面的第(N+1)画面的像素的位置作为结束点的多个矢量设置为候选矢量,其是关于运动矢量的候选。选择多个候选矢量的一个矢量v1作为感兴趣的候选矢量。
然后,与块MBN相同规模的块,即3×3像素或3像素行和3像素列的块MBN+1,1被设置为与第(N+1)画面中的块MBN对应的对应块,其具有位于感兴趣的候选矢量v1的终点的位置处的像素作为对应块MBN+1,1的中心。获得例如是块MBN中各个像素的像素值与对应块MBN+1,1中相同位置处像素的像素值之间的差的总和(差的绝对值)的运动误差。
对于其他候选矢量也类似地获得运动误差。当对于所有候选矢量已经获得运动误差时,将给出最小运动误差的候选矢量检测为感兴趣像素的运动矢量。
因此,假设例如有两个矢量v1和v2作为候选矢量,则获得在第(N+1)画面使位于候选矢量v1的终点的位置处的像素作为其中心的对应块MBN+1,1的像素值与在第N画面中使感兴趣像素作为其中心的块MBN的像素值之间的差的总和作为候选矢量v1的运动误差。
此外,获得在第(N+1)画面使位于候选矢量v2的终点的位置处的像素作为其中心的对应块MBN+1,2的像素值与在第N画面中使感兴趣像素作为其中心的块MBN的像素值之间的差的总和作为候选矢量v2的运动误差。
当在候选矢量v1的运动误差和候选矢量v2的运动误差中,候选矢量v1的运动误差较小时,将候选矢量v1检测为感兴趣像素的运动矢量。另一方面,当候选矢量v2的运动误差较小时,将候选矢量v2检测为感兴趣像素的运动矢量。
如上所述,感兴趣画面和之后画面(或之前画面)是用以检测逐行图像的运动矢量所必需的。
下面将参照图7描述检测隔行图像的运动矢量的方法。
图7示出隔行图像的三个连续画面,即第(N-1)画面、第N画面和第(N+1)画面。
在隔行图像的情况下,如逐行图像的情况那样,对于所有多个候选矢量获得运动误差,并且将给出最小运动误差的候选矢量检测为感兴趣像素的运动矢量。
然而,在隔行图像中,如参照图3描述的那样,交替地排列仅具有奇数编号行(奇数编号半帧)的画面和仅具有偶数编号行(偶数编号半帧)的画面。
因此,在作为感兴趣画面的第N画面与作为之后画面的第(N+1)画面之间具有像素值的像素的位置是不同的。
因此,在隔行图像中,使用作为之后画面的第(N+1)画面以及作为在感兴趣画面之前一个画面的之前画面的第(N-1)画面来检测运动矢量,而不是如逐行图像中那样,使用作为感兴趣画面的第N画面以及作为之后画面的第(N+1)画面来检测运动矢量。
具体地说,将通过感兴趣像素并且使作为之前画面的第(N-1)画面的像素的位置作为起点并使作为之后画面的第(N+1)画面的像素的位置作为终点的多个矢量设置为候选矢量,其是对于运动矢量的候选。选择多个候选矢量的一个候选矢量v1作为感兴趣的候选矢量。
然后,将两个块(即与感兴趣像素的块MBN相同规模的块MBN-1,1,块MBN-1,1在第(N-1)画面中使位于感兴趣的候选矢量v1的起点的位置处的像素作为其中心,以及与感兴趣像素的块MBN相同规模的块MBN+1,1,块MBN+1,1在第(N+1)画面中使位于感兴趣的候选矢量v1的终点的位置处的像素作为其中心)设置为与感兴趣像素的块MBN对应的对应块。例如,获得在两个对应块MBN-1,1和MBN+1,1中相同位置处的像素的像素值之间的差的总和,作为感兴趣的候选矢量v1的运动误差。
对于其他候选矢量,类似地获得运动误差。当对于所有候选矢量已经获得运动误差时,将给出最小运动误差的候选矢量检测为感兴趣像素的运动矢量。
因此,假设例如存在通过感兴趣像素的两个矢量v1和v2作为候选矢量,则获得第(N-1)画面中对应块MBN-1,1的像素值与第(N+1)画面中对应块MBN+1,1的像素值之间的差的总和作为候选矢量v1的运动误差,对应块MBN-1, 1使位于候选矢量v1的起点的位置处的像素作为其中心,而对应块MBN+1,1使位于候选矢量v1的终点的位置处的像素作为其中心。
此外,获得第(N-1)画面中对应块MBN-1,2的像素值与第(N+1)画面中对应块MBN+1,2的像素值之间的差的总和作为候选矢量v2的运动误差,对应块MBN-1,2使位于候选矢量v2的起点的位置处的像素作为其中心,而对应块MBN+1,2使位于候选矢量v2的终点的位置处的像素作为其中心。
当在候选矢量v1的运动误差和候选矢量v2的运动误差中,候选矢量v1的运动误差较小时,将候选矢量v1检测为感兴趣像素的运动矢量。另一方面,当候选矢量v2的运动误差较小时,将候选矢量v2检测为感兴趣像素的运动矢量。
如上所述,在感兴趣画面之前的之前画面和在感兴趣画面之后的之后画面是用以检测隔行图像的运动矢量所必需的。
图8示出图2中的存储器单元21的配置的示例。
图8中的存储器单元21通过将六个帧(半帧)存储器310、311、312、313、314和315彼此串联连接而形成。存储器31i(i=0,1,...,5)具有用以存储至少一个半帧的像素值的存储容量。
存储器单元21被提供有来自解码器14(图1)的隔行图像的画面(半帧)。
将从解码器14向存储器单元21提供的画面提供到运动估计单元22和逐行图像产生单元23(图2),并提供到帧存储器310。
帧存储器310存储从解码器14提供到存储器单元21的画面,直到提供下一画面(之后画面)为止,即将画面延迟一个画面的时间。然后,帧存储器310将画面提供到下一级中的帧存储器311,并将画面提供到运动估计单元22和逐行图像产生单元23(图2)。
如帧存储器310那样,帧存储器311存储从之前级中的帧存储器310提供的画面,由此将画面延迟一个画面的时间。然后,帧存储器311将画面提供到之后级中的帧存储器312,并将画面提供到运动估计单元22和逐行图像产生单元23。
如帧存储器310那样,帧存储器312存储从之前级中的帧存储器311提供的画面,由此将画面延迟一个画面的时间。然后,帧存储器312将画面提供到之后级中的帧存储器313,并将画面提供到运动估计单元22。
如帧存储器310那样,帧存储器313存储从之前级中的帧存储器312提供的画面,由此将画面延迟一个画面的时间。然后,帧存储器313将画面提供到之后级中的帧存储器314,并将画面提供到运动估计单元22。
如帧存储器310那样,帧存储器314存储从之前级中的帧存储器313提供的画面,由此将画面延迟一个画面的时间。然后,帧存储器314将画面提供到之后级中的帧存储器315,并将画面提供到运动估计单元22。
如帧存储器310那样,帧存储器315存储从之前级中的帧存储器314提供的画面,由此将画面延迟一个画面的时间。然后,帧存储器315将画面提供到运动估计单元22。
因此,假设在某一时间t从解码器14向存储器单元21提供的画面是第(N+1)画面,则此时存储器单元21分别在存储器310到315中存储第N画面、第(N-1)画面、第(N-2)画面、第(N-3)画面、第(N-4)画面和第(N-5)画面。因此存储器单元21输出七个连续画面,即第(N+1)到第(N-5)画面。
如上所述,运动估计单元22被提供有由存储器单元21输出的所有七个画面,即第(N+1)到第(N-5)画面。逐行图像产生单元23(图2)被提供有三个画面,即由存储器单元21输出的七个画面(即第(N+1)到第(N-5)画面)的第(N+1)到第(N-1)画面。
当分别在帧存储器310到315中存储第N到第(N-5)画面时,运动估计单元22和逐行图像产生单元23使用帧存储器310中存储的作为感兴趣画面的画面,即使用作为感兴趣画面的第N画面来执行处理。
图9是示出图2中的运动估计单元22的配置的第一示例的框图。
图9中的运动估计单元22包括五个运动矢量检测单元510、511、512、513和514、五个评估值计算单元520、521、522、523和524、运动信息计算单元53以及可靠性确定单元54。
运动矢量检测单元510到514检测作为感兴趣画面以及与感兴趣画面相邻的一个或多个其他画面的多个画面的像素的运动矢量。然后运动矢量检测单元510到514将运动矢量分别提供到评估值计算单元520到524。
具体地说,例如,假设在存储器单元21的帧存储器310(图8)中存储第N画面,则通过使用在帧存储器310中存储的第N画面,运动矢量检测单元510到514检测第N到第(N-4)五个画面,即作为感兴趣画面的第N画面以及在帧存储器311到314中存储的、作为与感兴趣画面相邻的一个或多个其他画面的第(N-1)到第(N-4)画面的像素的运动矢量。然后,运动矢量检测单元510到514将运动矢量分别提供到评估值计算单元520到524。
具体地说,从存储器单元21向运动矢量检测单元510提供从解码器14(图1)向存储器单元21提供的最新的第(N+1)画面以及在帧存储器311(图8)中存储的第(N-1)画面。
运动矢量检测单元510使用作为在作为感兴趣画面的第N画面之前的之前画面的第(N-1)画面以及作为在作为感兴趣画面的第N画面之后的之后画面的第(N+1)画面,如参照图7描述的那样,检测作为感兴趣画面的第N画面的内插目标像素的运动矢量mv0。然后,运动矢量检测单元510将运动矢量mv0提供到评估值计算单元520和运动信息计算单元53。
从存储器单元21向运动矢量检测单元511提供在帧存储器310(图8)中存储的第N画面以及在帧存储器312中存储的第(N-2)画面。
运动矢量检测单元511使用作为在作为感兴趣画面的第N画面之前一个画面的之前画面的第(N-1)画面以及作为在与感兴趣画面相邻的四个连续第(N-1)到第(N-4)画面之中的第(N-1)画面之后的之后画面的第N画面,如参照图7描述的那样,检测第(N-1)画面的内插目标像素的运动矢量mv1。然后,运动矢量检测单元511提供运动矢量mv1给评估值计算单元521。
从存储器单元21向运动矢量检测单元512提供在帧存储器311(图8)存储的第(N-1)画面和在帧存储器313存储的第(N-3)画面。
运动矢量检测单元512使用作为在作为感兴趣画面的第N画面之前两个画面的第(N-2)画面之前的之前画面的第(N-3)画面以及作为在与感兴趣画面相邻的四个连续第(N-1)到第(N-4)画面之中的第(N-2)画面之后的之后画面的第(N-1)画面,如参照图7描述的那样,检测第(N-2)画面的内插目标像素的运动矢量mv2。然后,运动矢量检测单元512提供运动矢量mv2给评估值计算单元522。
从存储器单元21向运动矢量检测单元513提供在帧存储器312(图8)存储的第(N-2)画面和在帧存储器314存储的第(N-4)画面。
运动矢量检测单元513使用作为在作为感兴趣画面的第N画面之前三个画面的第(N-3)画面之前的之前画面的第(N-4)画面以及作为在与感兴趣画面相邻的四个连续第(N-1)到第(N-4)画面之中的第(N-3)画面之后的之后画面的第(N-2)画面,如参照图7描述的那样,检测第(N-3)画面的内插目标像素的运动矢量mv3。然后,运动矢量检测单元513提供运动矢量mv3给评估值计算单元523。
从存储器单元21向运动矢量检测单元514提供在帧存储器313(图8)存储的第(N-3)画面和在帧存储器315存储的第(N-5)画面。
运动矢量检测单元514使用作为在作为感兴趣画面的第N画面之前四个画面的第(N-4)画面之前的之前画面的第(N-5)画面以及作为在与感兴趣画面相邻的四个连续第(N-1)到第(N-4)画面之中的第(N-4)画面之后的之后画面的第(N-3)画面,如参照图7描述的那样,检测第(N-4)画面的内插目标像素的运动矢量mv4。然后,运动矢量检测单元514提供运动矢量mv4给评估值计算单元524。
评估值计算单元52k(k=0,1,...,4)使用从运动矢量检测单元51k提供的运动矢量mvk来获得用于评估感兴趣画面的感兴趣像素的运动信息的评估值。然后,评估值计算单元52k将评估值提供到可靠性确定单元54。
运动信息计算单元53使用感兴趣像素的运动矢量以及感兴趣像素附近的像素的运动矢量来获得感兴趣像素的运动信息,在五个运动矢量检测单元510到514之中,从用于作为感兴趣画面的第N画面的运动矢量检测单元510提供运动矢量。然后运动信息计算单元53将感兴趣像素的运动信息提供到逐行图像产生单元23(图2)。
可靠性确定单元54使用从评估值计算单元520到524提供的评估值,来确定感兴趣像素的运动信息,运动信息通过运动信息计算单元53获得。可靠性确定单元54将指示可靠性的可靠性信息提供到逐行图像产生单元23(图2)。
下面将参照图10进一步描述图9中的运动矢量检测单元51k的处理。
运动矢量检测单元51k将在感兴趣画面之前k个画面的第(N-k)画面设置为要检测其运动矢量的画面(在下文中将所述画面称为检测目标画面)。运动矢量检测单元51k使用作为之前画面的第(N-k-1)画面以及作为之后画面的第(N-k+1)画面,如参照图7描述的那样,对检测目标画面的内插目标像素的运动矢量mvk进行检测。
也就是说,如参照图7描述的那样,运动矢量检测单元51k分别获得关于多个候选矢量的运动误差,并将给出最小运动误差的候选矢量检测为运动矢量。
图10示出多个候选矢量的示例。
运动矢量检测单元51k使用图10所示的49个矢量v(-3,-3)到v(3,3)来检测运动矢量,例如作为候选矢量。
将作为检测目标画面的第(N-k)画面的内插目标像素之中,要由运动矢量检测单元51k检测其运动矢量的像素称为检测目标像素。将x轴取在画面的左到右的方向上,将y轴取在画面的上到下的方向上。
在这种情况下,在图10中,候选矢量v(x,y)是经过检测目标像素并具有在作为检测目标画面之后的之后画面的第(N-k+1)画面中从检测目标像素移动(x,y)的位置作为终点并具有在作为检测目标画面之前的之前画面的第(N-k-1)画面中从检测目标像素移动(-x,-y)的位置作为起点的矢量。
运动矢量检测单元51k顺序地将图10中的49个候选矢量v(x,y)设置为用于作为检测目标画面的第(N-k)画面的检测目标像素的感兴趣的候选矢量。
此外,运动矢量检测单元51k设置3×3像素或3像素行和3像素列的对应块,在作为检测目标画面之前的之前画面的第(N-k-1)画面中,所述块使位于感兴趣的候选矢量的起点的位置处的像素作为对应块的中心,并且设置3×3像素或3像素行和3像素列的对应块,在作为检测目标画面之后的之后画面的第(N-k+1)画面中,所述块使位于感兴趣的候选矢量的终点的位置处的像素作为对应块的中心。运动矢量检测单元51k获得第(N-k-1)画面中的对应块中以及第(N-k+1)画面中的对应块中相同位置处像素的像素值之间的差的总和作为用于感兴趣的候选矢量的运动误差。
然后,运动矢量检测单元51k在图10所示的49个矢量v(-3,-3)到v(3,3)之中,检测给出最小运动误差的候选矢量v(x,y)作为检测目标像素的运动矢量mvk。
顺便提及,候选矢量不限于图10所示的49个矢量。
另外,对应块的规模不限于3×3像素或3像素行和3像素列的块。
下面将参照图11,进一步描述图9中的评估值计算单元52k的处理。
图11示出当第N画面是感兴趣画面时,其运动矢量由图9中的运动矢量检测单元510到514检测的隔行图像的第N到第(N-4)画面。
评估值计算单元520使用作为感兴趣画面的第N画面的内插目标像素的运动矢量mv0,来获得用于评估感兴趣画面的感兴趣像素的运动信息的第零评估值,运动矢量mv0从运动矢量检测单元510提供。
具体地说,评估值计算单元520获得例如感兴趣画面的感兴趣像素p0,0的运动矢量mv0,0以及例如作为感兴趣像素附近的多个像素的运动矢量的靠近感兴趣像素p0,0左边的像素p0,-1的运动矢量mv0,-1、距离感兴趣像素p0,0两个像素的感兴趣像素的左边的像素p0,-2的运动矢量mv0,-2、靠近感兴趣像素p0,0右边的像素p0,1的运动矢量mv0,1以及距离感兴趣像素p0,0两个像素的感兴趣像素p0,0右边的像素p0,2的运动矢量mv0,2(即总共五个内插目标像素的运动矢量mv0,0、mv0,-1、mv0,-2、mv0,1、mv0,2)的平均值ave0和方差dis0作为第零评估值。
在这种情况下,根据公式(1)计算平均值ave0。
ave0=(mv0,0+mv0,-1+mv0,-2+mv0,1+mv0,2)/M ...(1)
可以说,例如根据公式(2),以简单的方式计算方差dis0。
dis0=(|mv0,0-ave0|+|mv0,-1-ave0|+|mv0,-2-ave0|+|mv0,1-ave0|+|mv0,2-ave0|)/M ...(2)
顺便提及,公式(1)和公式(2)中的M是用于归一化的归一化系数,并且是计算中使用的运动矢量的数目。因此,在公式(1)和公式(2)中归一化系数M是5。
评估值计算单元521使用在感兴趣画面之前一个画面的第(N-1)画面的内插目标像素的运动矢量mv1来获得用于评估感兴趣画面的像素的运动信息的第一评估值,运动矢量mv1从运动矢量检测单元511提供。
具体地说,评估值计算单元521获得例如在感兴趣画面之前一个画面的第(N-1)画面中感兴趣像素的位置附近的位置处的多个像素的运动矢量的平均值ave1和方差dis1作为第一评估值。
在这种情况下,运动矢量检测单元51k仅对于画面的内插目标像素检测运动矢量mvk。另外,其运动矢量mvk由运动矢量检测单元51k检测的画面是隔行图像。因此,在感兴趣画面中检测到其运动矢量的像素(内插目标像素)的位置与距离感兴趣画面偶数个画面的画面中像素的位置相一致,而在感兴趣画面中检测到其运动矢量的像素的位置从距离感兴趣画面奇数个画面的画面中像素的位置移动一行。
因此,在感兴趣画面之前一个画面的第(N-1)画面中包括感兴趣像素的位置的行中不对于像素检测运动矢量。在感兴趣画面之前一个画面的第(N-1)画面中,对于比感兴趣像素的位置高一行的行以及比感兴趣像素的位置低一行的行中的像素检测运动矢量。
因此,评估值计算单元521获得例如作为在感兴趣画面之前一个画面的第(N-1)画面中感兴趣像素的位置附近的位置处的多个像素的运动矢量的其水平方向的位置与比感兴趣像素p0,0的位置低一行的行中感兴趣像素的水平方向位置相一致的像素pd1,0的运动矢量mvd1,0、靠近像素pd1,0左边的像素pd1,-1的运动矢量mvd1,-1、距离像素pd1,0两个像素的像素pd1,0左边的像素pd1,-2的运动矢量mvd1,-2、靠近像素pd1,0右边的像素pd1,1的运动矢量mvd1, 1、距离像素pd1,0两个像素的像素pd1,0右边的像素pd1,2的运动矢量mvd1,2、其水平方向的位置与比感兴趣像素p0,0的位置高一行的行中感兴趣像素的水平方向的位置相一致的像素pu1,0的运动矢量mvu1,0、靠近像素pu1,0左边的像素pu1,-1的运动矢量mvu1,-1、距离像素pu1,0两个像素的像素pu1,0左边的像素pu1,-2的运动矢量mvu1,-2、靠近像素pu1,0右边的像素pu1,1的运动矢量mvu1,1以及距离像素pu1,0两个像素的像素pu1,2的运动矢量mvu1,2(即总共10个内插目标像素的运动矢量mvd1,0、mvd1,-1、mvd1,-2、mvd1,1、mvd1, 2、mvu1,0、mvu1,-1、mvu1,-2、mvu1,1和mvu1,2)的例如平均值ave1和方差dis1作为第一评估值。
在这种情况下,根据与公式(1)类似的公式(3)计算平均值ave1。
ave1=(mvd1,0+mvd1,-1+mvd1,-2+mvd1,1+mvd1,2+mvu1,0+mvu1,-1+mvu1,-2+mvu1,1+mvu1,2)/M ...(3)
根据与公式(2)类似的公式(4)计算方差dis1。
dis1=(|mvd1,0-ave1|+|mvd1,-1-ave1|+|mvd1,-2-ave1|+|mvd1,1-ave1|+|mvd1,2-ave1|+|mvu1,0-ave1|+|mvu1,-1-ave1|+|mvu1,-2-ave1|+|mvu1,1-ave1|+|mvu1,2-ave1|)/M ...(4)
顺便提及,公式(3)和公式(4)中系数归一化M是10。
评估值计算单元522使用在感兴趣画面之前两个画面的第(N-2)画面的内插目标像素的运动矢量mv2来获得用于评估感兴趣画面的感兴趣像素的运动信息的第二评估值,运动矢量mv2从运动矢量检测单元512提供。
具体地说,评估值计算单元522获得在感兴趣画面之前两个画面的第(N-2)画面中感兴趣像素的位置附近的位置处的多个像素的运动矢量的平均值ave2和方差dis2作为第二评估值。
在这种情况下,在感兴趣画面之前两个画面的第(N-2)画面中检测到其运动矢量的像素(内插目标像素)的位置与感兴趣画面中像素的位置相一致。
因此,如评估值计算单元520那样,评估值计算单元522使用作为在感兴趣画面之前两个画面的第(N-2)画面中感兴趣像素的位置附近的位置处的多个像素的运动矢量的、以感兴趣像素作为五个像素的中心的、以水平方向排列的五个像素的运动矢量,来执行类似于公式(1)和公式(2)的计算。评估值计算单元522由此获得五个像素的运动矢量的平均值ave2和方差dis2作为第二评估值。
评估值计算单元523使用在感兴趣画面之前三个画面的第(N-3)画面的内插目标像素的运动矢量mv3来获得用于评估感兴趣画面的感兴趣像素的运动信息的第三评估值,运动矢量mv3从运动矢量检测单元513提供。
具体地说,评估值计算单元523获得在感兴趣画面之前三个画面的第(N-3)画面中感兴趣的像素的位置附近的位置处的多个像素的运动矢量的平均值ave3和方差dis3作为第三评估值。
在这种情况下,如第(N-1)画面中那样,在感兴趣画面之前三个画面的第(N-3)画面中检测到其运动矢量的像素(内插目标像素)的位置与感兴趣画面中的像素的位置不一致。
因此,如评估值计算单元521一样,评估值计算单元523使用总共10个像素的运动矢量,即:在比感兴趣像素的位置低一行的行中以水平方向排列的五个像素(将水平方向中其位置与感兴趣像素的水平方向的位置相一致的像素的位置作为五个像素的中心)的运动矢量,以及在比感兴趣像素的位置高一行的行中以水平方向排列的五个像素(将水平方向中其位置与感兴趣像素的水平方向的位置相一致的像素的位置作为第(N-3)画面中五个像素的中心)的运动矢量,作为在感兴趣画面之前三个画面的第(N-3)画面中感兴趣像素的位置附近的位置处的多个像素的运动矢量来执行类似于公式(3)和公式(4)的计算。评估值计算单元523由此获得10个像素的运动矢量的平均值ave3和方差dis3作为第三评估值。
评估值计算单元524使用在感兴趣画面之前四个画面的第(N-4)画面的内插目标像素的运动矢量mv4获得用于评估感兴趣画面的感兴趣像素的运动信息的第四评估值,运动矢量mv4从运动矢量检测单元514获得。
具体地说,评估值计算单元524获得在感兴趣画面之前四个画面的第(N-4)画面中感兴趣像素的位置附近的位置处的多个像素的运动矢量的平均值ave4和方差dis4作为第四评估值。
在这种情况下,在感兴趣画面之前四个画面的第(N-4)画面中检测到其运动矢量的像素(内插目标像素)的像素的位置与感兴趣画面的像素的位置相一致。
因此,如评估值计算单元520那样,评估值计算单元524使用作为在感兴趣画面之前四个画面的第(N-4)画面中感兴趣像素的位置附近的位置处的多个像素的运动矢量的、第(N-4)画面中以感兴趣像素作为五个像素的中心的、以水平方向排列的五个像素的运动矢量来执行类似于公式(1)和公式(2)的计算。评估值计算单元524由此获得五个像素的运动矢量的平均值ave4和方差dis4作为第四评估值。
在下文中,将用以获得感兴趣像素的评估值(第零到第四评估值)的运动矢量合适地称为用于评估值计算的运动矢量。
顺便提及,可以采用空间上和时间上接近于感兴趣像素的位置的运动矢量作为用于评估值计算的运动矢量,并且用于评估值计算的运动矢量不限于参照图11所述的运动矢量。
另外,当在上述情况下时,评估值计算单元52k获得用于评估值计算的运动矢量的平均值和方差二者,只可以获得用于评估值计算的运动矢量的平均值和方差之一作为评估值。
此外,当在上述情况下时,评估值计算单元520使用作为用于评估值计算的运动矢量的、包括感兴趣画面的感兴趣像素在内的多个像素的运动矢量,还可以在感兴趣画面中,设置例如感兴趣像素的一个运动矢量作为用于评估值计算的运动矢量。
类似地,也在感兴趣画面之前一到四个画面的画面中,只有处于感兴趣像素的位置处或接近于感兴趣像素的位置的位置处的一个像素的运动矢量可以设置为用于评估值计算的运动矢量。
例如,当仅设置画面的一个运动矢量作为用于评估值计算的运动矢量时,用于评估值计算的运动矢量变为实际上的评估值。
下面将参照图12的流程图,描述由图9中运动估计单元22执行的运动估计处理。
在运动估计处理的步骤S31中,运动矢量检测单元510到514将在存储器单元21(图8)的帧存储器310中存储的画面作为感兴趣画面,进一步设置包括感兴趣画面和感兴趣画面之前一到四个画面的四个画面的五个画面,并使用包括从存储器单元21提供的感兴趣画面在内的七个画面来检测五个检测目标画面的内插目标像素的运动矢量。
具体地说,例如,当在帧存储器310中存储的感兴趣画面是第N画面时,包括感兴趣画面在内的第(N+1)到第(N-5)画面从存储器单元21提供到运动估计单元22。
在运动估计单元22中,运动矢量检测单元51k使用作为第(N-k)画面之前的之前画面的第(N-k-1)画面以及作为第(N-k)画面之后的之后画面的第(N-k+1)画面,如参照图7所述的那样,检测第(N-k)画面的内插目标像素的运动矢量mvk,第(N-k-1)和第(N-k+1)画面从存储器单元21提供。然后,运动矢量检测单元51k将运动矢量mvk提供到评估值计算单元52k。
顺便提及,在运动矢量检测单元510到514中,用于检测作为感兴趣画面的第N画面的运动矢量mv0的运动矢量检测单元510将感兴趣画面的运动矢量mv0不仅提供到评估值计算单元520,而且提供到运动信息计算单元53。
在步骤S31之后,处理进行到步骤S32,其中运动信息计算单元53在感兴趣画面的内插目标像素之中选择还没有被设置为感兴趣像素的像素之一作为感兴趣像素,然后使用来自运动矢量检测单元510的感兴趣画面(感兴趣画面的内插目标像素)的运动矢量mv0来获得感兴趣像素的运动信息。
具体地说,运动信息计算单元53使用来自运动矢量检测单元510的感兴趣画面的运动矢量mv0之中、感兴趣像素的运动矢量以及感兴趣像素附近的像素的运动矢量,或具体地说,例如使用已经参照图11描述的、用作用于感兴趣画面中感兴趣像素的评估值计算的运动矢量的公式(1)中五个运动矢量mv0,0、mv0,-1、mv0,-2、mv0,1以及mv0,2,来获得公式(1)的平均值ave0作为感兴趣像素的运动信息。
顺便提及,不仅可以采用平均值ave0而且可以采用例如通过使用平均值ave0和已经参照图11描述的、用作用于感兴趣画面之前的之前画面(第(N-1)画面)中感兴趣像素的评估值计算的、公式(3)中的10个运动矢量mvd1,0、mvd1,-1、mvd1,-2、mvd1,1、mvd1,2、mvu1,0、mvu1,-1、mvu1,-2、mvu1,1和mvu1,2的平均值ave1而获得的平均值(ave0+ave1)/2作为感兴趣像素的运动信息。
在步骤S32之后,处理进行到步骤S33,其中评估值计算单元520到524使用五个检测目标画面的运动矢量获得第零到第四评估值。
具体地说,评估值计算单元52k在作为感兴趣画面之前k个画面的画面的检测目标画面的运动矢量mvk之中获得参照图11所述的用于评估值计算的运动矢量的平均值avek和方差disk作为第k评估值。
然后评估值计算单元52k将平均值avek和方差disk作为第k评估值提供到可靠性确定单元54。处理从步骤S33进行到步骤S34。
在步骤S34,可靠性确定单元54使用作为从评估值计算单元520到524提供的第零到第四评估值的平均值ave0到ave4以及方差dis0到dis4,进行可靠性确定以确定通过运动信息计算单元53获得的感兴趣像素的运动信息的可靠性,并获得指示可靠性的可靠性信息。
在这种情况下,例如,可靠性确定单元54根据下面的控制语句(5)进行可靠性确定。
If{(ABS(ave0-ave1)<=A)&&(ABS(ave1-ave2)<=A)&&(ABS(ave2-ave3)<=A)&&(ABS(ave3-ave4)<=A)&&(ABS(dis0-dis1)<=B)&&(ABS(dis1-dis2)<=B)&&(ABS(dis2-dis3)<=B)&&(ABS(dis3-dis4)<=B)}
{Me_valid=1}
Else
{Me_valid=0}
...(5)
顺便提及,控制语句(5)中的ABS()表示括号内值的绝对值。A和B是常数。常数A是平均值的阈值。常数B是方差的阈值。此外,&&表示逻辑积(product),而Me_valid表示可靠性信息。
为1的可靠性信息Me_valid指示运动信息可靠,即由运动信息指示的运动很有可能表示感兴趣像素的运动。另一方面,为0的可靠性信息Me_valid指示运动信息不可靠,即由运动信息指示的运动很有可能表示感兴趣像素的错误的运动。
控制语句“If{X}{Y}Else{Z}”表示当X为真时执行Y,而当X为假时执行Z。
因此,根据基于控制语句(5)的可靠性确定,当确定对于两个彼此相邻的画面获得的评估值之间的差是否等于或小于预定阈值(或小于所述预定阈值)的评估值确定的确定结果为真时,确定感兴趣像素的运动信息是可靠的,这样的确定是对于包括感兴趣画面在内的五个连续画面的彼此相邻的两个画面的所有组(set)进行的。
具体地说,根据基于控制语句(5)的可靠性确定,进行评估值确定以确定作为对于感兴趣画面获得的第零评估值的平均值ave0与作为对于感兴趣画面之前一个画面的画面获得的第一评估值的平均值ave1之间的差(差的绝对值)ABS(ave0-ave1)是否等于或小于阈值A(在下文中将该阈值确定合适地称为用于平均值的第一评估值确定)。
类似地,根据基于控制语句(5)的可靠性确定,进行评估值确定以确定作为对于感兴趣画面之前一个画面的画面获得的第一评估值的平均值ave1与作为感兴趣画面之前两个画面的画面获得的第二评估值的平均值ave2之间的差ABS(ave1-ave2)是否等于或小于阈值A(在下文中将该阈值确定合适地称为用于平均值的第二评估值确定),进行评估值确定以确定作为对于感兴趣画面之前两个画面的画面获得的第二评估值的平均值ave2与作为感兴趣画面之前三个画面的画面获得的第三评估值的平均值ave3之间的差ABS(ave2-ave3)是否等于或小于阈值A(在下文中将该阈值确定合适地称为用于平均值的第三评估值确定),并且进行评估值确定以确定作为对于感兴趣画面之前三个画面的画面获得的第三评估值的平均值ave3与作为感兴趣画面之前四个画面的画面获得的第四评估值的平均值ave4之间的差ABS(ave3-ave4)是否等于或小于阈值A(在下文中将该阈值确定合适地称为用于平均值的第四评估值确定)。
另外,根据基于控制语句(5)的可靠性确定,进行评估值确定以确定作为对于感兴趣画面获得的第零评估值的方差dis0与作为对于感兴趣画面之前一个画面的画面获得的第一评估值的方差dis1之间的差ABS(dis0-dis1)是否等于或小于阈值B(在下文中将该评估值确定合适地称为用于方差的第一评估值确定)。
类似地,根据基于控制语句(5)的可靠性确定,进行评估值确定以确定作为对于感兴趣画面之前一个画面的画面获得的第一评估值的方差dis1与作为对于感兴趣画面之前两个画面的画面获得的第二评估值的方差dis2之间的差ABS(dis1-dis2)是否等于或小于阈值B(在下文中将该评估值确定合适地称为用于方差的第二评估值确定),进行评估值确定以确定作为对于感兴趣画面之前两个画面的画面获得的第二评估值的方差dis2与作为对于感兴趣画面之前三个画面的画面获得的第三评估值的方差dis3之间的差ABS(dis2-dis3)是否等于或小于阈值B(在下文中将该评估值确定合适地称为用于方差的第三评估值确定),并且进行评估值确定以确定作为对于感兴趣画面之前三个画面的画面获得的第三评估值的方差dis3与作为对于感兴趣画面之前四个画面的画面获得的第四评估值的方差dis4之间的差ABS(dis3-dis4)是否等于或小于阈值B(在下文中将该评估值确定合适地称为用于方差的第四评估值确定)。
然后,根据可靠性确定,当用于平均值的第一到第四评估值确定以及用于方差的第一到第四评估值确定的确定结果全部为真时,确定感兴趣像素的运动信息是可靠的。
顺便提及,使用平均值ave0到ave4或方差dis0到dis4作为评估值而不是平均值ave0到ave4和方差dis0到dis4二者作为评估值,可以进行可靠性确定。
当仅使用平均值ave0到ave4进行可靠性确定时,当用于平均值的第一到第四评估值确定的确定结果全部为真时,确定感兴趣像素的运动信息是可靠的。在这种情况下,评估值计算单元520到524仅获得平均值ave0到ave4作为评估值就足够了。
当仅使用方差dis0到dis4进行可靠性确定时,当用于方差的第一到第四评估值确定的确定结果全部为真时,确定感兴趣像素的运动信息是可靠的。在这种情况下,评估值计算单元520到524仅获得方差dis0到dis4作为评估值就足够了。
在步骤S34,可靠性确定单元54进行可靠性确定以确定感兴趣像素的运动信息的可靠性并且获得可靠性信息之后,处理进行到步骤S35,其中运动信息计算单元53(或可靠性确定单元54)确定是否对于感兴趣画面的所有内插目标像素获得运动信息和可靠性信息。
当在步骤S35确定还没有对于感兴趣画面的所有内插目标像素获得运动信息和可靠性信息,即,确定感兴趣画面的内插目标像素包括还没有获得运动信息和可靠性信息的像素时,处理返回到步骤S32,其中将感兴趣画面的内插目标像素之中还没有获得运动信息和可靠性信息的像素之一设置为新的感兴趣像素,并且对于新的感兴趣像素执行从步骤S32向下的相同处理。
当在步骤S35确定已经对于感兴趣画面的所有内插目标像素获得运动信息和可靠性信息时,处理进行到步骤S36,其中运动信息计算单元53向逐行图像产生单元23顺序地输出感兴趣画面的内插目标像素的运动信息,并且可靠性确定单元54向逐行图像产生单元23输出用于由运动信息计算单元53输出的运动信息的可靠性信息。由此结束运动估计处理。
图13是示出图2中的逐行图像产生单元23的配置的示例的框图。
图13中的逐行图像产生单元23包括半帧间内插单元61、半帧内内插单元62、选择单元63和组合单元64。
从存储器单元21(图2)向半帧间内插单元61提供感兴趣画面之前的之前画面以及感兴趣画面之后的之后画面。因此,当感兴趣画面是第N画面时,从存储器单元21向半帧间内插单元61提供作为感兴趣画面之前的之前画面的第(N-1)画面以及作为感兴趣画面之后的之后画面的第(N+1)画面。
此外,从运动估计单元22(图2)向半帧间内插单元61提供感兴趣像素的运动信息。
半帧间内插单元61使用来自存储器单元21的之前画面和之后画面中像素的像素值以及来自运动估计单元22的感兴趣像素的运动信息,执行被称为半帧间内插或运动补偿内插的内插。半帧间内插单元61由此获得半帧间内插值(第二内插值)作为当作内插目标像素的感兴趣像素(感兴趣像素的像素值)的内插值的一个候选。然后,半帧间内插单元61将半帧间内插值提供到选择单元63。
具体地说,例如,半帧间内插单元61获得在之前画面的像素之中位于作为感兴趣像素的运动信息的矢量的起点处的像素的像素值与之后画面的像素之中位于作为感兴趣像素的运动信息的矢量的终点处的像素的像素值的平均值作为半帧间内插值。然后半帧间内插单元61将半帧间内插值提供到选择单元63。
半帧内内插单元62被提供有来自存储器单元21(图2)的感兴趣画面。
半帧内内插单元62使用来自存储器单元21的感兴趣画面的像素的像素值来执行半帧内内插。半帧内内插单元62由此获得半帧内内插值(第一内插值)作为当作内插目标像素的感兴趣像素的内插值的另一个候选。然后半帧内内插单元62将半帧内内插值提供到选择单元63。
具体地说,例如,半帧内内插单元62获得位于感兴趣像素以上的位置处、与感兴趣像素相邻的像素的像素值以及位于感兴趣像素以下的位置处、与感兴趣的像素相邻的像素的像素值的平均值作为半帧内内插值。然后半帧内内插单元62将半帧内内插值提供到选择单元63。
如上所述,选择单元63被提供有来自半帧间内插单元61的半帧间内插值以及来自半帧内内插单元62的半帧内内插值。另外,选择单元63还被提供有来自运动估计单元22(图2)的、用于感兴趣像素的运动信息的可靠性信息Me_valid。
选择单元63根据来自运动估计单元22的可靠性信息Me_valid,选择来自半帧间内插单元61的半帧间内插值和来自半帧内内插单元62的半帧内内插值之一作为内插值。
具体地说,当来自运动估计单元22的可靠性信息Me_valid指示感兴趣像素的运动信息不可靠时,即当可靠性信息Me_valid为0时,选择单元63从来自半帧间内插单元61的半帧间内插值和来自半帧内内插单元62的半帧内内插值中选择来自半帧内内插单元62的半帧内内插值。选择单元63向组合单元62输出半帧内内插值作为用于感兴趣像素(感兴趣像素的像素值)的内插值。
当来自运动估计单元22的可靠性信息Me_valid指示感兴趣像素的运动信息可靠时,即当可靠性信息Me_valid为1时,选择单元63从来自半帧间内插单元61的半帧间内插值和来自半帧内内插单元62的半帧内内插值中选择来自半帧间内插单元61的半帧间内插值。选择单元63向组合单元62输出半帧间内插值作为用于感兴趣像素(感兴趣像素的像素值)的内插值。
组合单元64被提供有来自选择单元63的用于感兴趣画面的感兴趣像素的内插值,即用于感兴趣画面的内插目标像素的内插值以及来自存储器单元21(图2)的感兴趣的画面。
组合单元64将来自存储器单元21的感兴趣画面的像素值与来自选择单元63的感兴趣像素的内插值进行组合,即:将来自选择单元的感兴趣像素的内插值设置为来自存储器单元21的感兴趣画面中感兴趣像素的像素值。组合单元64由此产生逐行图像的画面,所述画面由在感兴趣画面中具有像素值的像素以及确定其像素值(内插值)的内插目标像素组成。然后组合单元64将逐行图像的画面提供到显示面板16(图1)。
顺便提及,除了根据可靠性信息Me_valid选择来自半帧间内插单元61的半帧间内插值和来自半帧内内插单元62的半帧内内插值之一作为感兴趣像素的内插值之外,选择单元63还可以使用根据可靠性信息Me_valid的权重,执行半帧间内插值和半帧内内插值的加权和,并输出加权和的结果作为感兴趣像素的内插值。
具体地说,在上述情况下,根据基于控制语句(5)的可靠性确定,当用于平均值的第一到第四评估值确定的确定结果以及用于方差的第一到第四评估值确定的确定结果(即,总共八个评估值)全部为真时,可靠性确定单元54(图9)输出其值为1的可靠性信息,而即使当八个评估值的确定结果之一为假时,输出其值为0的可靠性信息。除此之外,可靠性确定单元54可以在八个评估值确定的真确定结果的数目增大时,输出其值接近1的可靠性信息(在八个评估值确定的假确定结果的数目增大时,输出其值接近0的可靠性信息)。
在这种情况下,例如,选择单元63可以根据公式Me_valid×P+(1-Me_valid)×Q执行半帧间内插值P和半帧内内插值Q的加权和,并输出加权和的结果作为用于感兴趣像素的内插值。
下面,将参照图14的流程图,描述在图13中的逐行图像产生单元23中执行的逐行图像产生处理。
在逐行图像产生单元23中,从存储器单元21(图2)向半帧间内插单元61提供感兴趣画面之前的之前画面以及感兴趣画面之后的之后画面。另外,从存储器单元21向半帧内内插单元62和组合单元64提供感兴趣画面。
在步骤S51,半帧间内插单元61在感兴趣画面的内插目标像素之中选择还没有被设置为感兴趣像素的像素之一作为感兴趣像素。此外,在步骤S51,半帧间内插单元61等待感兴趣像素的运动信息从运动估计单元22(图2)提供到半帧间内插单元61,并且等待用于感兴趣像素的运动信息的可靠性信息从运动估计单元22提供到选择单元63。然后半帧间内插单元61通过使用来自存储器单元21的之前画面和之后画面中像素的像素值以及来自运动估计单元22的感兴趣像素的运动信息执行半帧间内插,来获得感兴趣像素的半帧间内插值。
然后,半帧间内插单元61将用与感兴趣像素的半帧间内插值提供到选择单元63。处理从步骤S51进行到步骤S52。
半帧内内插单元在步骤S52通过使用来自存储器单元21的感兴趣画面的像素的像素值执行半帧内内插,来获得用于感兴趣像素的半帧内内插值。然后半帧内内插单元62将用于感兴趣像素的半帧内内插值提供到选择单元63。处理从步骤S52进行到步骤S53。
选择单元63在步骤S53使用来自半帧间内插单元61的半帧间内插值以及来自半帧内内插单元62的半帧内内插值,基于来自运动估计单元22的可靠性信息Me_valid,获得用于感兴趣像素的内插值。然后,选择单元63将用于感兴趣像素的内插值提供到组合单元64。处理进行到步骤S54。
具体地说,例如,选择单元63根据可靠性信息Me_valid选择半帧间内插值和半帧内内插值之一。选择单元63将所选择的内插值作为用于感兴趣像素的内插值提供到组合单元64。
半帧间内插单元61在步骤S54确定是否对于感兴趣画面的所有内插目标像素获得内插值。
当在步骤S54确定还没有对于感兴趣画面的所有内插目标像素获得内插值时,处理返回到步骤S51,其中在感兴趣画面的内插目标像素之中将还没有被设置为感兴趣像素的像素之一设置为新的感兴趣像素,并且执行从步骤S51到下的相同处理。
当在步骤S54确定对于感兴趣画面的所有内插目标像素获得内插值时,处理进行到步骤S55,其中组合单元64通过将来自存储器单元21的感兴趣画面中具有像素值的像素与来自选择单元63的其像素值是内插值的像素进行组合,来产生逐行图像的画面。然后,组合单元64将逐行图像的画面提供到显示面板16(图1)。由此结束逐行图像产生处理。
如上所述,运动估计单元22使用感兴趣的像素的运动矢量和感兴趣像素附近的像素的运动矢量来获得感兴趣像素的运动信息,并输出感兴趣像素的运动信息,并且使用感兴趣画面的多个像素的运动矢量来获得用于评估感兴趣像素的运动信息的评估值,使用与感兴趣画面相邻的另一画面的多个像素的运动矢量来获得用于评估感兴趣像素的运动信息的评估值,使用评估值确定感兴趣像素的运动信息的可靠性,并输出指示可靠性的可靠性信息。因此,可以更高精度且更低成本地获得指示运动信息的可靠性的可靠性信息。
具体地说,当感兴趣画面是第N画面时,图9中运动估计单元22中的运动矢量检测单元510到514检测作为感兴趣画面的第N画面以及与感兴趣画面相邻的第(N-1)到第(N-4)画面(即总共第N到第(N-4)五个画面)的像素的运动矢量mv0到mv4。
此外,运动信息计算单元53使用感兴趣像素的运动矢量以及感兴趣像素附近的像素的运动矢量(即:使用公式(1)中的运动矢量mv0,0、mv0,-1、mv0,-2、mv0,1和mv0,2)来获得感兴趣像素的运动信息,运动矢量由用于感兴趣画面的运动矢量检测单元510检测。
评估值计算单元520到524使用第N到第(N-4)画面的运动矢量mv0到mv4,来获得平均值ave0到ave4以及方差dis0到dis4作为用于评估感兴趣像素的运动信息的评估值。
然后,可靠性确定单元54使用作为对于第N到第(N-4)画面而获得的评估值的平均值ave0到ave4以及方差dis0到dis4来确定感兴趣像素的运动信息的可靠性,并获得指示可靠性的可靠性信息。
因此,由于使用与感兴趣画面相邻的第(N-1)到第(N-4)画面以及作为感兴趣画面的第N画面来获得可靠性信息,所以即使当在检测运动矢量的时候使用小型的宏块(对应块)时,也可以获得精确地指示运动信息的可靠性的可靠性信息。也就是说,可以以低成本获得精确的可靠性信息。
图15示出在时间t、t+1和t+2由存储器单元21(图8)向运动估计单元22(图9)提供的画面。
假设存储器单元21在时间t向运动估计单元22提供第(N+1)到第(N-5)画面,其中第N画面作为感兴趣画面。
在这种情况下,运动估计单元22(图9)中的五个运动矢量检测单元510到514使用来自存储器单元21的第(N+1)到第(N-5)画面来检测第N到第(N-4)画面的运动矢量mv0到mv4,然后将运动矢量mv0到mv4提供到评估值计算单元520到524。
假设在作为感兴趣画面的第N画面的内插目标像素之中,作为从右方向中左上起第x个像素并且从向下方向中左上起第y个像素的像素p(x,y)是感兴趣像素,那么评估值计算单元52k使用在来自运动矢量检测单元51k的运动矢量mvk之中用于感兴趣像素p(x,y)的评估值计算的运动矢量,来获得平均值avek和方差disk作为第k评估值。
当使用从感兴趣画面之前k个画面的画面中检测到的运动矢量之中用于评估值计算的运动矢量而获得的第k评估值被表示为Ek,t时,评估值计算单元520在时间t使用用于作为感兴趣画面的第N画面的评估值计算的运动矢量来获得第零评估值E0,t。
类似地,在时间t,评估值计算单元521使用用于感兴趣画面之前一个画面的第(N-1)画面的评估值计算的运动矢量来获得第一评估值E1,t,并且评估值计算单元522使用用于感兴趣画面之前两个画面的第(N-2)画面的评估值计算的运动矢量来获得第二评估值E2,t。此外,在时间t,评估值计算单元523使用用于感兴趣画面之前三个画面的第(N-3)画面的评估值计算的运动矢量来获得第三评估值E3,t,并且评估值计算单元524使用用于感兴趣画面之前四个画面的第(N-4)画面的评估值计算的运动矢量来获得第四评估值E4,t。
此后,第(N+1)帧在时间t+1(其中已经从时间t过去了一个画面的时间)变为感兴趣画面。评估值计算单元520使用用于作为感兴趣画面的第(N+1)画面的评估值计算的运动矢量来获得第零评估值E0,t+1。
类似地,在时间t+1,评估值计算单元521使用用于感兴趣画面之前一个画面的第N画面的评估值计算的运动矢量来获得第一评估值E1,t+1,并且评估值计算单元522使用用于感兴趣画面之前两个画面的第(N-1)画面的评估值计算的运动矢量来获得第二评估值E2,t+1。此外,在时间t+1,评估值计算单元523使用用于感兴趣画面之前三个画面的第(N-2)画面的评估值计算的运动矢量来获得第三评估值E3,t+1,并且评估值计算单元524使用用于感兴趣画面之前四个画面的第(N-3)画面的评估值计算的运动矢量来获得第四评估值E4,t+1。
在这种情况下,第N画面的内插目标像素的位置不与第(N+1)画面的内插目标像素的位置相一致。因此,当使用设置为感兴趣像素的第N画面的像素p(x,y)获得评估值时,不使用设置为感兴趣像素的第(N+1)画面的像素p(x,y)获得评估值。
此后,第(N+2)帧在时间t+2(其中已经从时间t+1过去了一个画面的时间)变为感兴趣画面。评估值计算单元520使用用于作为感兴趣画面的第(N+2)画面的评估值计算的运动矢量来获得第零评估值E0,t+2。
类似地,在时间t+2,评估值计算单元521使用用于感兴趣画面之前一个画面的第(N+1)画面的评估值计算的运动矢量来获得第一评估值E1,t+2,并且评估值计算单元522使用用于感兴趣画面之前两个画面的第N画面的评估值计算的运动矢量来获得第二评估值E2,t+2。此外,在时间t+2,评估值计算单元523使用用于感兴趣画面之前三个画面的第(N-1)画面的评估值计算的运动矢量来获得第三评估值E3,t+2,并且评估值计算单元524使用用于感兴趣画面之前四个画面的第(N-2)画面的评估值计算的运动矢量来获得第四评估值E4,t+2。
在这种情况下,第N画面的内插目标像素的位置不与第(N+2)画面的内插目标像素的位置相一致。因此,当使用设置为感兴趣像素的第N画面的像素p(x,y)获得评估值时,不使用设置为感兴趣像素的第(N+2)画面的像素p(x,y)获得评估值。
在时间t从具有设置为感兴趣像素的、作为感兴趣画面的第N画面的像素p(x,y)的第N画面获得的评估值E0,t与在时间t+2从具有设置为感兴趣像素的、作为感兴趣画面的第(N+2)画面的像素p(x,y)的感兴趣画面之前两个画面的第N画面获得的评估值E2,t+2相一致。
类似地,在时间t从具有设置为感兴趣像素的、作为感兴趣画面的第N画面的像素p(x,y)的感兴趣画面之前一个画面的第(N-1)画面获得的评估值E1,t与在时间t+2从具有设置为感兴趣像素的、作为感兴趣画面的第(N+2)画面的像素p(x,y)的感兴趣画面之前三个画面的第(N-1)画面获得的评估值E3,t+2相一致。此外,在时间t从具有设置为感兴趣像素的、作为感兴趣画面的第N画面的像素p(x,y)的感兴趣画面之前两个画面的第(N-2)画面获得的评估值E2,t与在时间t+2从具有设置为感兴趣像素的、作为感兴趣画面的第(N+2)画面的像素p(x,y)的感兴趣画面之前四个画面的第(N-2)画面获得的评估值E4,t+2相一致。
作为基于控制语句(5)的可靠性确定,进行用于平均值的第一到第四评估值确定和用于方差的第一到第四评估值确定,即总共八个评估值确定。当八个评估值确定的确定结果全部为真时,可靠性信息是1,其是指示运动信息具有很高可靠性的值。即使当八个评估值确定的确定结果的一个为假时,可靠性信息也是0,其是指示运动信息具有很低可靠性的值。
使用评估值E0,t和E1,t进行用于平均值和方差的第一评估值确定(在下文中将该确定合适地简称为第一评估值确定),使用在时间t作为感兴趣像素的像素p(x,y)进行所述确定。
使用评估值E1,t和E2,t进行用于平均值和方差的第二评估值确定(在下文中将该确定合适地简称为第二评估值确定),使用在时间t作为感兴趣像素的像素p(x,y)进行所述确定。
使用评估值E2,t和E3,t进行用于平均值和方差的第三评估值确定(在下文中将该确定合适地简称为第三评估值确定),使用在时间t作为感兴趣像素的像素p(x,y)进行所述确定。
使用评估值E3,t和E4,t进行用于平均值和方差的第四评估值确定(在下文中将该确定合适地简称为第四评估值确定),使用在时间t作为感兴趣像素的像素p(x,y)进行所述确定。
使用在时间t+2作为感兴趣像素的像素p(x,y)进行的第一评估值确定通过使用评估值E0,t+2和E1,t+2进行。
使用在时间t+2作为感兴趣像素的像素p(x,y)进行的第二评估值确定通过使用评估值E1,t+2和E2,t+2进行。
使用在时间t+2作为感兴趣像素的像素p(x,y)进行的第三评估值确定通过使用评估值E2,t+2和E3,t+2进行。
使用在时间t+2作为感兴趣像素的像素p(x,y)进行的第四评估值确定通过使用评估值E3,t+2和E4,t+2进行。
如上所述,时间t的评估值E0,t与时间t+2的评估值E2,t+2相一致。时间t的评估值E1,t与时间t+2的评估值E3,t+2相一致。时间t的评估值E2,t与时间t+2的评估值E4,t+2相一致。
因此,在时间t使用评估值E0,t和E1,t进行的第一评估值的确定结果与在时间t+2使用评估值E2,t+2和E3,t+2进行的第三评估值的确定结果相一致。
另外,在时间t使用评估值E1,t和E2,t进行的第二评估值的确定结果与在时间t+2使用评估值E3,t+2和E4,t+2进行的第四评估值的确定结果相一致。
因此,使用第零到第二评估值E0,t+2、E1,t+2和E2,t+2(其用于第一和第二评估值确定中),以及作为过去可靠性确定的进行中结果的确定进行中结果,即在时间t+2之前两个画面的时间t的第一和第二评估值确定的确定结果,可以进行时间t+2的可靠性确定。
根据代替控制语句(5)的控制语句(6),可以使用过去可靠性确定的确定进行中结果来进行可靠性确定。
If{(ABS(ave0-ave1)<=A)&&(ABS(ave1-ave2)<=A)&&(ABS(dis0-dis1)<=B)&&
(ABS(dis1-dis2)<=B)&&(valid_d==1)}
{Me_valid=1}
Else
{Me_valid=0}
...(6)
顺便提及,公式(6)中的valid_d表示在两个画面时间之前的时间上的可靠性确定的确定进行中结果。当在两个画面时间之前的时间上的可靠性确定中用于平均值的第一评估值确定的确定结果(ABS(ave0-ave1)<=A)、用于平均值的第二评估值确定的确定结果(ABS(ave1-ave2)<=A)、用于方差的第一评估值确定的确定结果(ABS(dis0-dis1)<=B)以及用于方差的第二评估值确定的确定结果(ABS(dis1-dis2)<=B)全部为真时,确定进行中结果valid_d为1(真),其是指示确定结果全部为真的值。
即使当在两个画面时间之前的时间上的可靠性确定中用于平均值的第一评估值确定的确定结果(ABS(ave0-ave1)<=A)、用于平均值的第二评估值确定的确定结果(ABS(ave1-ave2)<=A)、用于方差的第一评估值确定的确定结果(ABS(dis0-dis1)<=B)以及用于方差的第二评估值确定的确定结果(ABS(dis1-dis2)<=B)中一个为假时,确定进行中结果valid_d也为0(假),其是指示确定结果的至少一个为假的值。
通过使用过去可靠性确定的确定进行中结果valid_d,在不使用作为第三评估值的平均值ave3和方差dis3和作为第四评估值的平均值ave4和dis4的情况下,可以进行根据控制语句(6)的可靠性确定。
因此,无需获得第三和第四评估值,或者反过来,感兴趣画面之前三个画面的画面以及感兴趣画面之前四个画面的画面的运动矢量。
图16是示出如上所述使用过去可靠性确定的确定进行中结果来进行可靠性确定的、图2中的运动估计单元22(运动估计单元22的配置的第二示例)的配置的示例的框图。
顺便提及,在图16中,与图9对应的部分由相同的附图标记表示,并且在下面将合适地省略其描述。
图16中的运动估计单元22具有和图9中的运动估计单元22一样的运动信息计算单元53。
另一方面,图16中的运动估计单元22与图9中的运动估计单元22的不同在于:图16中的运动估计单元22具有三个运动矢量检测单元510到512代替五个运动矢量检检测单元510到514,三个评估值计算单元520到522代替五个评估值计算单元520到524,以及可靠性确定单元57代替可靠性确定单元54。
此外,图16中的运动估计单元22与图9中的运动估计单元22的不同在于:图16中的运动估计单元22被新提供有确定进行中结果存储单元56。
确定进行中结果存储单元56存储作为可靠性确定的进行中结果的确定进行中结果,所述结果从可靠性确定单元57提供。
可靠性确定单元57使用通过三个评估值计算单元520到522获得的评估值以及在确定进行中结果存储单元56中存储的过去可靠性确定的确定进行中结果来确定感兴趣像素的运动信息的可靠性。然后可靠性确定单元57将用于感兴趣像素的运动信息的可靠性信息提供到逐行图像产生单元23(图2),所述可靠性信息通过可靠性确定获得。
具体地说,图16中的运动估计单元22仅具有三个运动矢量检测单元510到512代替图9中的五个运动矢量检测单元510到514。另外,图16中的运动估计单元23仅具有三个评估值计算单元520到522代替图9中的五个评估值计算单元520到524。
因此,当感兴趣画面是第N画面时,图16中的运动估计单元22中的运动矢量检测单元510到512使用第(N+1)到第(N-3)画面获得第N到第(N-2)画面的运动矢量。
然后,三个评估值计算单元520到522使用第N到第(N-2)画面分别获得第零到第二评估值。评估值计算单元520到522将第零到第二评估值提供到可靠性确定单元57。
可靠性确定单元57使用如上所述从三个评估值计算单元520到522提供的第零到第二评估值和作为在两个画面时间之前的时间上进行的可靠性确定的确定进行中结果的第一和第二评估值确定的确定结果,来根据控制语句(6)确定感兴趣像素的运动信息的可靠性,所述确定进行中结果存储在确定进行中结果存储单元56中。
另外,可靠性确定单元57将可靠性确定的确定进行中结果,即使用第零到第二评估值进行的第一和第二评估值确定的确定结果提供到确定进行中结果存储单元56,以便在确定进行中结果存储单元56中存储可靠性确定的确定进行中结果。在确定进行中结果存储单元56中存储的确定进行中结果用在两个画面时间之前的时间的可靠性确定中。
下面将参照图17的流程图,描述由图16中的运动估计单元22执行的运动估计处理。
在运动估计处理的步骤S61,运动矢量检测单元510到512将在存储器单元21的帧存储器310(图8)中存储的画面设置为感兴趣画面,还将包括感兴趣画面以及感兴趣画面之前一个画面和两个画面的两个之前画面的三个画面设置为检测目标画面,并使用从存储器单元21提供的包括感兴趣画面的五个画面来检测三个检测目标画面的内插目标像素的运动矢量。
具体地说,例如,当在帧存储器310中存储的感兴趣画面是第N画面时,将包括感兴趣画面的第(N+1)到第(N-3)五个画面从存储器单元21提供到运动估计单元22。
在运动估计单元22中,运动矢量检测单元51k使用作为第(N-k)画面之前的之前画面的第(N-k-1)画面以及作为第(N-k)画面之后的之后画面的第(N-k+1)画面,如参照图7描述的那样,检测第(N-k)画面的内插目标像素的运动矢量mvk(k=0,1,2),第(N-k-1)画面和第(N-k+1)画面从存储器单元21提供。然后运动矢量检测单元51k将运动矢量mvk提供到评估值计算单元52k。
顺便提及,关于运动矢量检测单元510到512,用于检测作为感兴趣画面的第N画面的运动矢量mv0的运动矢量检测单元510将感兴趣画面的运动矢量mv0提供到运动信息计算单元53以及评估值计算单元520。
在步骤S61之后,处理进行到步骤S62,其中运动信息计算单元53在感兴趣画面的内插目标像素之中选择还没有被设置为感兴趣像素的像素之一作为感兴趣像素,然后使用来自运动矢量检测单元510的感兴趣画面的运动矢量mv0来获得感兴趣像素(感兴趣画面的内插目标像素)的运动信息。
具体地说,例如,如图12中的步骤S32那样,运动信息计算单元53使用公式(1)中的五个运动矢量mv0,0、mv0,-1、mv0,-2、mv0,1和mv0,2(已经参照图11对其进行了描述,并且用作用于感兴趣画面中感兴趣像素的评估值计算的运动矢量)来获得公式(1)的平均值ave0作为感兴趣像素的运动信息。
在步骤S62之后,处理进行到步骤S63,其中评估值计算单元520到522使用三个检测目标画面的运动矢量,来获得三个第零到第二评估值。
具体地说,评估值计算单元52k在作为感兴趣画面之前k个画面的画面的检测目标画面的运动矢量mvk之中,获得用于参照图11所述的评估值计算的运动矢量的平均值avek和方差disk作为第k评估值mvk(k=0,1,2)。
然后,评估值计算单元52k将作为第k评估值的平均值avek和方差disk提供到可靠性确定单元57。处理从步骤S63进行到步骤S64。
在步骤S64,可靠性确定单元57在两个画面时间之前的时间、从确定进行中结果存储单元56读取可靠性确定的确定进行中结果valid_d。处理进行到步骤S65。
在步骤S65,可靠性确定单元57根据使用从评估值计算单元520到522提供的、作为第零到第二评估值的平均值ave0到ave2和方差dis0到dis2以及在之前步骤S64从确定进行中结果存储单元56读取的确定进行中结果valid_d的控制语句(6),进行可靠性确定以确定感兴趣像素的运动信息的可靠性,所述运动信息由运动信息计算单元53获得。可靠性确定单元57获得指示可靠性的可靠性信息。
在步骤S65获得可靠性信息之后,处理进行到步骤S66,其中可靠性确定单元57向确定进行中结果存储单元56提供在紧接着的之前步骤S65中进行的可靠性确定的处理中获得的确定进行中结果,即指示第一评估值确定(ABS(ave0-ave1)<=A)、用于平均值的第二评估值确定的确定结果(ABS(ave1-ave2)<=A)、用于方差的第一评估值确定的确定结果(ABS(dis0-dis1)<=B)以及用于方差的第二评估值确定的确定结果(ABS(dis1-dis2)<=B)是否全部为真的确定进行中结果,可靠性确定单元57由此使确定进行中结果存储在确定进行中结果存储单元56中。处理进行到步骤S67。
在步骤S67,运动信息计算单元53(或可靠性确定单元57)确定是否对于感兴趣画面的所有内插目标像素获得运动信息和可靠性信息。
当在步骤S67中确定还没有对感兴趣画面的所有内插目标像素获得运动信息和可靠性信息时,即确定感兴趣画面的内插目标像素包括还没有获得运动信息和可靠性信息的像素时,处理返回到步骤S62,其中在感兴趣画面的内插目标像素之中,将还没有获得运动信息和可靠性信息的像素之一设置为新的感兴趣像素,并对于新的感兴趣像素执行从步骤S62向下的相同处理。
当在步骤S67中确定已经对于感兴趣画面的所有内插目标像素获得了运动信息和可靠性信息时,处理进行到步骤S68,其中运动信息计算单元53顺序地将感兴趣画面的内插目标像素的运动信息输出到逐行图像产生单元23,并且可靠性确定单元57将用于由运动信息计算单元53输出的运动信息的可靠性信息顺序地输出到逐行图像产生单元23。由此运动估计处理结束。
如上所述,如图9的情况中那样,图16中的运动估计单元22有效地使用感兴趣画面和与感兴趣画面相邻的第(N-1)到第(N-4)画面,来获得可靠性信息。因此,在检测运动矢量的时候,使用小型宏块(对应块)可以获得精确地指示运动信息的可靠性的可靠性信息。
此外,由于图16中的运动估计单元22存储可靠性确定的确定进行中结果,并且使用过去可靠性确定的确定进行中结果进行可靠性确定,所以可以小型化IP转换单元15(图2)(并且反过来小型化图1的TV)。
也就是说,由于图16中的运动估计单元22使用过去可靠性确定的确定进行中结果来进行可靠性确定,所以无需获得第三和第四评估值,或者,反过来感兴趣画面之前三个画面的画面和感兴趣画面之前四个画面的画面的运动矢量。
换句话说,对于图16中的运动估计单元22来说,获得第零到第二评估值,或者反过来感兴趣画面的运动矢量、感兴趣画面之前一个画面的画面的运动矢量和感兴趣画面之前两个画面的画面的运动矢量就足够了。
因此,当感兴趣的画面是第N画面时,从存储器单元21向运动估计单元22提供包括感兴趣画面的第(N+1)到第(N-3)五个画面就足够了。图8中的存储器单元21由此可以由存储第N到第(N-3)画面的四个帧存储器310到313组成。
结果,使用图16中的运动估计单元22,与图9中的运动估计单元22(要求存储器单元21由六个帧存储器310到315组成)相比,可以小型化IP转换单元15(图5)。
图18是示出图2中的运动估计单元22的配置的第三示例的框图。
顺便提及,在图18中,与图9的那些对应的部分由相同的附图标记表示,并且在下面合适地省略其描述。
图18中的运动估计单元22具有与图9中的运动估计单元22相同的评估值计算单元520到524、运动信息计算单元53和可靠性确定单元54。
另一方面,图18中的运动估计单元22与图9中的运动估计单元不同在于:图18中的运动估计单元22具有一个运动矢量检测单元510和四个运动矢量存储单元581到584,代替五个运动矢量检测单元510到514。
运动矢量存储单元581到584存储作为过去的感兴趣画面的画面的运动矢量,所述运动矢量由运动矢量检测单元510检测。
具体地说,从运动矢量检测单元510向运动矢量存储单元581提供感兴趣画面的运动矢量。运动矢量存储单元581存储从运动矢量检测单元510提供的感兴趣画面的运动矢量,直到从运动矢量检测单元510提供下一感兴趣画面为止。运动矢量存储单元581将运动矢量提供到评估值计算单元521和运动矢量存储单元582。
因此,当从运动矢量检测单元510向运动矢量存储单元581提供感兴趣画面的运动矢量mv0时,运动矢量存储单元581存储感兴趣画面之前一个画面的画面的运动矢量mv1。运动矢量存储单元581将运动矢量mv1提供到评估值计算单元521和运动矢量存储单元582。
运动矢量存储单元582存储感兴趣画面之前一个画面的画面的运动矢量,所述运动矢量从运动矢量存储单元581提供,直到从运动矢量存储单元581提供之后画面的运动矢量为止。运动矢量存储单元582将运动矢量提供到评估值计算单元522和运动矢量存储单元583。
因此,当感兴趣画面之前一个画面的画面的运动矢量mv1从运动矢量存储单元581提供到运动矢量存储单元582时,运动矢量存储单元582存储以上画面之前一个画面的画面的运动矢量mv2。运动矢量存储单元582将运动矢量mv2提供到评估值计算单元522和运动矢量存储单元583。
运动矢量存储单元583存储感兴趣画面之前两个画面的画面的运动矢量,所述运动矢量从运动矢量存储单元582提供,直到从运动矢量存储单元582提供下一画面的运动矢量为止。运动矢量存储单元583将运动矢量提供到评估值计算单元523和运动矢量存储单元584。
因此,当感兴趣画面之前两个画面的画面的运动矢量mv2从运动矢量存储单元582提供到运动矢量存储单元583时,运动矢量存储单元583存储以上画面之前一个画面的画面的运动矢量mv3。运动矢量存储单元583将运动矢量mv3提供到评估值计算单元523和运动矢量存储单元584。
运动矢量存储单元584存储感兴趣画面之前三个画面的画面的运动矢量,所述运动矢量从运动矢量存储单元583提供,直到从运动矢量存储单元583提供之后画面的运动矢量为止。运动矢量存储单元584将运动矢量提供到评估值计算单元524。
因此,当感兴趣画面之前三个画面的画面的运动矢量从运动矢量存储单元583提供到运动矢量存储单元584时,运动矢量存储单元584存储以上画面之前一个画面的画面的运动矢量mv4。运动矢量存储单元584将运动矢量mv4提供到评估值计算单元524。
因此,在图18中的运动估计单元22中,当运动矢量检测单元510检测到感兴趣画面的运动矢量mv0,然后将运动矢量mv0提供到评估值计算单元520时,运动矢量存储单元58k(k=1,2,3,4)存储感兴趣画面之前k个画面的画面的运动矢量mvk,并将运动矢量mvk提供到评估值计算单元52k。
图18中的运动估计单元22仅具有一个运动矢量检测单元510。因此,当感兴趣画面是第N画面时,图18中的运动估计单元22中的所述一个运动矢量检测单元510使用第(N+1)画面和第(N-1)画面获得第N画面的运动矢量。
因此,当感兴趣画面是第N画面时,从存储器单元21向运动估计单元22提供获得第N画面的运动矢量所需的第(N+1)和第(N-1)两个画面就足够了。
下面将参照图19的流程图,描述由图18中的运动估计单元22执行的运动估计处理。
在运动估计处理的步骤S71,运动矢量检测单元510将在存储器单元21的帧存储器310(图8)中存储的画面设置为感兴趣画面,此外将感兴趣画面设置为检测目标画面,并使用从存储器单元21提供的两个画面(即感兴趣画面之前的画面和感兴趣画面之后的画面)来检测检测目标画面的内插目标像素的运动矢量。
具体地说,例如,当在帧存储器310中存储的感兴趣画面是第N画面时,作为感兴趣画面之后的画面的第(N+1)画面和作为感兴趣画面之前的画面的第(N-1)画面从存储器单元21提供到运动估计单元22。
在运动估计单元22中,运动矢量检测单元510使用作为感兴趣画面之后的之后画面的第(N+1)画面和作为感兴趣画面之前的之前画面的第(N-1)画面(第(N+1)画面和第(N-1)画面从存储器单元210提供),如参照图7所述的那样,检测作为感兴趣画面的第N画面的内插目标像素的运动矢量mv0。然后,运动矢量检测单元510将运动矢量mv0提供到评估值计算单元520和运动信息计算单元53。处理进行到步骤S72。
在步骤S72,运动信息计算单元53在感兴趣画面的内插目标像素之中选择还没有被设置为感兴趣像素的像素之一作为感兴趣像素,然后使用来自运动矢量检测单元510的感兴趣画面(感兴趣画面的内插目标像素)的运动矢量mv0来获得感兴趣画面的运动信息。
具体地说,例如,如在图12中的步骤S32那样,运动信息计算单元53使用公式(1)中的五个运动矢量mv0,0、mv0,-1、mv0,-2、mv0,1和mv0,2(所述运动矢量已经参照图11进行了描述并且用作用于感兴趣画面中感兴趣像素的评估值计算的运动矢量),获得公式(1)的平均值ave0作为感兴趣像素的运动信息。
在步骤S72之后,处理进行到步骤S73,其中评估值计算单元520获得在感兴趣画面的运动矢量mv0之中用于参照图11所述的评估值计算的运动矢量的平均值ave0和方差dis0作为第零评估值。然后评估值计算单元520将作为第零评估值的平均值ave0和方差dis0提供到可靠性确定单元54。
此外,在步骤S73,评估值计算单元52k(k=1,2,3,4)获得在感兴趣画面之前k个画面的画面的运动矢量mvk之中用于参照图11所述的评估值计算的运动矢量的平均值avek和方差disk作为第k评估值,所述运动矢量mvk存储在运动矢量存储单元58k中。然后评估值计算单元52k将作为第k评估值的平均值avek和方差disk提供到可靠性确定单元54。处理从步骤S73进行到步骤S74。
在步骤S74,可靠性确定单元54根据使用从评估值计算单元520到524提供的、作为第零到第四评估值的平均值ave0到ave4以及方差dis0到dis4的控制语句(5)进行可靠性确定,以确定感兴趣像素的运动信息的可靠性,所述运动信息由运动信息计算单元53获得。可靠性确定单元54获得指示可靠性的可靠性信息。处理进行到步骤S75。
在步骤S75,运动矢量存储单元581到584分别存储感兴趣画面和感兴趣画面之前一个画面到三个画面的画面(即总共四个画面)的运动矢量,作为感兴趣画面之后的画面之前一个到四个画面的画面的运动矢量。
具体地说,运动矢量存储单元581存储感兴趣画面的运动矢量,所述运动矢量由运动矢量检测单元510检测并提供。当感兴趣画面之后一个画面的画面成为新的感兴趣画面时,在运动矢量存储单元581中存储的运动矢量被用作新的感兴趣画面之前一个画面的画面的运动矢量mv1。
运动矢量存储单元582存储感兴趣画面之前一个画面的画面的运动矢量,所述运动矢量已经被存储在运动矢量存储单元581中。当感兴趣画面之后一个画面的画面成为新的感兴趣画面时,在运动矢量存储单元582中存储的运动矢量被用作新的感兴趣画面之前两个画面的画面的运动矢量mv2。
运动矢量存储单元583存储感兴趣画面之前两个画面的画面的运动矢量,所述运动矢量已经被存储在运动矢量存储单元582中。当感兴趣画面之后一个画面的画面成为新的感兴趣画面时,在运动矢量存储单元583中存储的运动矢量被用作新的感兴趣画面之前三个画面的画面的运动矢量mv3。
运动矢量存储单元584存储感兴趣画面之前三个画面的画面的运动矢量,所述运动矢量已经被存储在运动矢量存储单元583中。当感兴趣画面之后一个画面的画面成为新的感兴趣画面时,在运动矢量存储单元584中存储的运动矢量被用作新的感兴趣画面之前四个画面的画面的运动矢量mv4。
在步骤S75之后,处理进行到步骤S76,其中运动信息计算单元53(或可靠性确定单元54)确定是否对于感兴趣画面的所有内插目标像素获得了运动信息和可靠性信息。
当在步骤S76确定还没有对于感兴趣画面的所有内插目标像素获得运动信息和可靠性信息时,即确定感兴趣画面的内插目标像素包括还没有获得运动信息和可靠性信息的像素时,处理返回到步骤S72,其中在感兴趣画面的内插目标像素之中,将还没有获得运动信息和可靠性信息的像素之一设置为新的感兴趣像素,并且对于新的感兴趣像素执行从步骤S72向下的相同处理。
当在步骤S76确定已经对于感兴趣画面的所有内插目标像素获得了运动信息和可靠性信息时,处理进行到步骤S77,其中运动信息计算单元53将感兴趣画面的内插目标像素的运动信息顺序地输出到逐行图像产生单元23,并且可靠性确定单元54将用于由运动信息计算单元53输出的运动信息的可靠性信息顺序地输出到逐行图像产生单元23。由此结束运动估计处理。
如上所述,如图9的情况那样,图18中的运动估计单元22使用感兴趣画面以及与感兴趣画面相邻的第(N-1)到第(N-4)画面来获得可靠性信息。因此,在检测运动矢量的时候,使用小型宏块(对应块),可以获得精确地指示运动信息的可靠性的可靠性信息。
此外,由于图18中的运动估计单元22中的运动矢量存储单元581到584存储作为过去感兴趣画面(即现在作为感兴趣画面的画面之前一个到四个画面的画面)的画面的运动矢量,所述运动矢量由运动矢量检测单元510检测,所以可以小型化IP转换单元15(图2)(反过来小型化图1的TV)。
也就是说,图18中的运动估计单元22存储现在作为感兴趣画面的画面之前一个到四个画面的画面的运动矢量,所述运动矢量已经在之前画面为感兴趣画面时由运动矢量检测单元510检测。因此,无需再次检测运动矢量,并且检测现在作为感兴趣画面的画面的运动矢量就足够了。
因此,当感兴趣画面是第N画面时,从存储器单元21向运动估计单元22提供检测第N画面的运动矢量所需的第(N+1)到第(N-1)两个画面就足够了。因此图8中的存储器单元21可以由存储第N画面和第(N-1)画面的帧存储器310和311组成。
结果,使用图18中的运动估计单元22,与图9中的运动估计单元22(其要求存储器单元21由六个帧存储器310到315组成)或图16中的运动估计单元22(其要求存储器单元21由四个帧存储器310到313组成)相比,可以小型化IP转换单元15(图5)。
图20是示出图2中的运动估计单元22的配置的第四示例的框图。
顺便提及,在图20中,与图9、图16或图18的那些对应的部分由相同的附图标记表示,并且在下面合适地省略其描述。
图20中的运动估计单元22具有与图16中的运动估计单元22相同的三个评估值计算单元520到522、运动信息计算单元53、确定进行中结果存储单元56和可靠性确定单元57。
另一方面,图20中的运动估计单元22与图16中的运动估计单元22的不同在于:图20中的运动估计单元22具有一个运动矢量检测单元510和图18中的两个运动矢量存储单元581和582,代替三个运动矢量检测单元510到512。
如参照图18所述的那样,运动矢量存储单元581到582存储作为过去感兴趣画面的画面的运动矢量,所述运动矢量由运动矢量检测单元510检测。
具体地说,从运动矢量检测单元510向运动矢量存储单元581提供感兴趣画面的运动矢量。运动矢量存储单元581存储从运动矢量检测单元510提供的感兴趣画面的运动矢量,直到从运动矢量检测单元510提供下一感兴趣画面的运动矢量为止。运动矢量存储单元581将运动矢量提供到评估值计算单元521和运动矢量存储单元582。
因此,当感兴趣画面的运动矢量mv0从运动矢量检测单元510提供到运动矢量存储单元581时,运动矢量存储单元581存储感兴趣画面之前一个画面的画面的运动矢量mv1。运动矢量存储单元581将运动矢量mv1提供到评估值计算单元521和运动矢量存储单元582。
运动矢量存储单元582存储从运动矢量存储单元581提供的、感兴趣画面之前一个画面的画面的运动矢量,直到从运动矢量存储单元581提供之后画面的运动矢量为止。运动矢量存储单元582将运动矢量提供到评估值计算单元522。
因此,当感兴趣画面之前一个画面的画面的运动矢量mv1从运动矢量存储单元581提供到运动矢量存储单元582时,运动矢量存储单元582存储以上画面之前一个画面的画面的运动矢量mv2。运动矢量存储单元582将运动矢量mv2提供到评估值计算单元522。
因此,在图20中的运动估计单元22中,当运动矢量检测单元510检测到感兴趣画面的运动矢量mv0,然后将运动矢量mv0提供到评估值计算单元520时,运动矢量存储单元58k(k=1,2)存储感兴趣画面之前k个画面的画面的运动矢量mvk,并将运动矢量mvk提供到评估值计算单元52k。
图20中的运动估计单元22仅具有一个运动矢量检测单元510。因此,当感兴趣画面是第N画面时,图20中的运动估计单元22中的所述一个运动矢量检测单元510使用第(N+1)画面和第(N-1)画面来获得第N画面的运动矢量。
因此,如图18的情况那样,当感兴趣画面是第N画面时,从存储器单元21向运动估计单元22提供获得第N画面的运动矢量所需的第(N+1)和第(N-1)两个画面就足够了。
下面参照图21的流程图描述由图20中的运动估计单元22执行的运动估计处理。
在运动估计处理的步骤S81中,运动矢量检测单元510将在存储器单元21的帧存储器310(图8)中存储的画面设置为感兴趣画面,此外将感兴趣画面设置为检测目标画面,并使用从存储器单元21提供的两个画面(即感兴趣画面之前的画面和感兴趣画面之后的画面)来检测检测目标画面的内插目标像素的运动矢量。
具体地说,例如,当在帧存储器310中存储的感兴趣画面是第N画面时,作为感兴趣画面之后的画面的第(N+1)画面和作为感兴趣画面之前的画面的第(N-1)画面从存储器单元21提供到运动估计单元22。
在运动估计单元22中,运动矢量检测单元510使用作为感兴趣画面之后的之后画面的第(N+1)画面和作为感兴趣画面之前的之前画面的第(N-1)画面,如参照图7所述的那样,检测作为感兴趣画面的第N画面的内插目标像素的运动矢量mv0,所述第(N+1)画面和第(N-1)画面从存储器单元21提供。然后,运动矢量检测单元510将运动矢量mv0提供到评估值计算单元520和运动信息计算单元53。处理进行到步骤S82。
在步骤S82,运动信息计算单元53在感兴趣画面的内插目标像素之中选择还没有被设置为感兴趣像素的像素之一作为感兴趣像素,然后使用来自运动矢量检测单元510的感兴趣画面(感兴趣画面的内插目标像素)的运动矢量mv0来获得感兴趣像素的运动信息。
具体地说,例如,如图12中步骤S32中那样,运动信息计算单元53使用公式(1)中的五个运动矢量mv0,0、mv0,-1、mv0,-2、mv0,1和mv0,2(所述运动矢量已经参照图11进行了描述并且用作用于感兴趣画面中感兴趣像素的评估值计算的运动矢量),获得公式(1)的平均值ave0作为感兴趣像素的运动信息。
在步骤S82之后,处理进行到步骤S83,其中评估值计算单元520获得在感兴趣画面的运动矢量mv0之中用于参照图11所述的评估值计算的运动矢量的平均值ave0和方差dis0作为第零评估值。然后评估值计算单元520将作为第零评估值的平均值ave0和方差dis0提供到可靠性确定单元57。
此外,在步骤S83,评估值计算单元521获得在感兴趣画面之前一个画面的画面的运动矢量mv1之中用于参照图11所述的评估值计算的运动矢量的平均值ave1和方差dis1作为第一评估值,所述运动矢量mv1被存储在运动矢量存储单元581中。然后评估值计算单元521将作为第一评估值的平均值ave1和方差dis1提供到可靠性确定单元57。
另外,在步骤S83,评估值计算单元522获得在感兴趣画面之前两个画面的画面的运动矢量mv2之中用于参照图11所述的评估值计算的运动矢量的平均值ave2和方差dis2作为第二评估值,所述运动矢量mv2被存储在运动矢量存储单元582中。然后评估值计算单元522将作为第二评估值的平均值ave2和方差dis2提供到可靠性确定单元57。处理从步骤S83进行到步骤S84。
在步骤S84,可靠性确定单元57在两个画面时间之前的时间,从确定进行中结果存储单元56读取可靠性确定的确定进行中结果valid_d。处理进行到步骤S85。
在步骤S85,可靠性确定单元57根据使用从评估值计算单元520到522提供的、作为第零到第二评估值的平均值ave0到ave2和方差dis0到dis2以及在之前步骤S84从确定进行中结果存储单元56读取的确定进行中结果valid_d的控制语句(6)进行可靠性确定,以确定感兴趣像素的运动信息的可靠性,所述运动信息由运动信息计算单元53获得。可靠性确定单元57获得指示可靠性的可靠性信息。
在步骤S85获得可靠性信息之后,处理进行到步骤S86,其中可靠性确定单元57向确定进行中结果存储单元56提供在之前步骤S85中进行的可靠性确定的处理中获得的确定进行中结果,即指示在控制语句(6)中,对于平均值的第一评估值确定(ABS(ave0-ave1)<=A)、对于平均值的第二评估值确定(ABS(ave1-ave2)<=A)、对于方差的第一评估值确定(ABS(dis0-dis1)<=B)和对于方差的第二评估值确定(ABS(dis1-dis2)<=B)的确定结果是否全部为真的确定进行中结果,可靠性确定单元57由此产生在确定进行中结果存储单元56中存储的确定进行中结果。处理进行到步骤S87。
在步骤S87,运动矢量存储单元581和582存储感兴趣画面和感兴趣画面之前一个画面的画面(即总共两个画面)的运动矢量分别作为感兴趣画面之后的画面之前一个画面和两个画面的画面的运动矢量。
具体地说,运动矢量存储单元581存储感兴趣画面的运动矢量,所述运动矢量由运动矢量检测单元510检测和提供。当感兴趣画面之后一个画面的画面成为新的感兴趣画面时,将运动矢量存储单元581中存储的运动矢量用作新的感兴趣画面之前一个画面的画面的运动矢量mv1。
运动矢量存储单元582存储感兴趣画面之前一个画面的画面的运动矢量,所述运动矢量已经被存储在运动矢量存储单元581中。当目前感兴趣画面之后一个画面的画面成为新的感兴趣画面时,将运动矢量存储单元582中存储的运动矢量用作新的感兴趣画面之前两个画面的画面的运动矢量mv2。
在步骤S87之后,处理进行到步骤S88,其中运动信息计算单元53(或可靠性确定单元57)确定是否对于感兴趣画面的所有内插目标像素获得了运动信息和可靠性信息。
当在步骤S88中确定还没有对感兴趣画面的所有内插目标像素获得运动信息和可靠性信息,即确定感兴趣画面的内插目标像素包括还没有获得运动信息和可靠性信息的像素时,处理返回到步骤S82,其中将感兴趣画面的内插目标像素之中还没有获得运动信息和可靠性信息的像素之一设置为新的感兴趣像素,并且对于新的感兴趣像素执行从步骤S82向下的相同处理。
当在步骤S88中确定已经对于感兴趣画面的所有内插目标像素获得了运动信息和可靠性信息时,处理进行到步骤S89,其中运动信息计算单元53将感兴趣画面的内插目标像素的运动信息顺序地输出到逐行图像产生单元23,并且可靠性确定单元57将用于由运动信息计算单元53输出的运动信息的可靠性信息顺序地输出到逐行图像产生单元23。由此结束运动估计处理。
如上所述,如图9的情况那样,图20中的运动估计单元22使用有效的感兴趣画面和与感兴趣画面相邻的第(N-1)到第(N-4)画面来获得可靠性信息。因此在检测运动矢量的时候,使用小型化的宏块(对应块)可以获得精确地指示运动信息的可靠性的可靠性信息。
此外,在图20中的运动估计单元22中,运动矢量存储单元581和582存储作为过去感兴趣画面的画面(即现在作为感兴趣画面的画面之前一个和两个画面的画面)的运动矢量,所述运动矢量由运动矢量检测单元510检测,并且确定进行中结果存储单元56存储可靠性确定的确定进行中结果,以便使用过去可靠性确定的确定进行中结果来进行可靠性确定。因此,可以进一步小型化IP转换单元15(图2)(反过来小型化图1的TV)。
也就是说,由于图20中的运动估计单元22使用过去可靠性确定的确定进行中结果进行可靠性确定,所以无需检测或存储第三和第四评估值,或反过来不需要感兴趣画面之前三个画面的画面以及感兴趣画面之前四个画面的画面的运动矢量。
换句话说,图20中的运动矢量检测单元22使用第零到第二评估值,或者反过来感兴趣画面、感兴趣画面之前一个画面的画面和感兴趣画面之前两个画面的画面的运动矢量(即总共三个画面),如图9的情况中那样,进行可靠性确定。
此外,图20中的运动估计单元22存储现在作为感兴趣画面的画面之前一个和两个画面之前的画面的运动矢量,所述运动矢量在之前画面为感兴趣画面时已经被检测。因此,无需再次检测运动矢量,检测现在作为感兴趣画面的画面的运动矢量就足够了。
因此,当感兴趣画面是第N画面时,从存储器单元21向运动估计单元22提供检测第N画面的运动矢量所需的第(N+1)和第(N-1)两个画面就足够了。因此图8中的存储器单元21可以由存储第N画面和第(N-1)画面的两个帧存储器310和311组成。
此外,图20中的运动估计单元22存储过去可靠性确定的确定进行中结果,代替获得第三和第四评估值,或者反过来获得(存储)感兴趣画面之前三个画面的画面和感兴趣画面之前四个画面的画面的运动矢量。因此,提供存储确定进行中结果的一个确定进行中结果存储单元56消除了用于提供图18中的两个运动矢量存储单元583和584以及两个评估值计算单元523和524的需求。
结果,使用图20中的运动估计单元22,与图18中的运动估计单元22相比,可以小型化IP转换单元15(图2)。
可以由硬件也可以由软件执行上述在IP转换单元15(图2)中的运动估计单元22和逐行图像产生单元23的一系列处理。当要由软件执行一系列处理时,将组成软件的程序安装在一般用途的个人计算机等上。
图22示出在其上安装用于执行上述一系列处理的程序的计算机的实施例的配置的示例。
可以将程序预先记录在作为计算机中或ROM 103中包括的记录介质的硬盘105上。
替代地,可以将程序临时或永久地存储(记录)在诸如软盘、CD-ROM(光盘只读存储器)、MO(磁光)盘、DVD(数字多功能盘)、磁盘、半导体存储器之类的可拆卸记录介质111上。这样的可拆卸记录介质111可以作为所谓的封装软件(packaged software)提供。
顺便提及,除了要从如上所述的可拆卸记录介质111安装到计算机上之外,还可以通过经由用于数字卫星广播的人造卫星的无线电将程序从下载地点传送到计算机,或者可以通过经由诸如LAN(局域网)、因特网之类的网络的有线将程序传送到计算机,计算机通过通信单元108可以接收到由此传送的程序,并将程序安装在内置硬盘105上。
计算机包括CPU(中央处理单元)102。CPU 102经由总线101与输入-输出接口110连接。当用户通过例如操作由键盘、鼠标、麦克风等组成的输入单元107来经由输入-输出接口110输入命令时,CPU 102根据所述命令执行存储在ROM(只读存储器)103中的程序。替代地,CPU 102将硬盘105上存储的程序、从卫星或网络传送的、由通信单元108接收然后安装在硬盘105上的程序、或者从载入到驱动器109中的可拆卸记录介质111读取然后安装在硬盘105上的程序载入到RAM(随机存取存储器)104中。然后CPU 102执行所述程序。CPU 102由此执行根据上述流程图的处理或执行由上述框图的配置执行的处理。然后,根据要求,例如,CPU 102经由输入-输出接口110输出来自输出单元106(输出单元106由LCD(液晶显示器)、扬声器等组成)的处理的结果,或者将该结果记录在硬盘105上。
在本说明书中,描述用于使计算机执行各种处理的程序的处理步骤不需要以流程图中所述的顺序以时间序列执行,并且包括并行或单独执行的处理(如并行处理或基于对象的处理)。
可以由一台计算机执行程序,或者可以由多台计算机经历分布式处理。
虽然已经进行了将本发明的实施例应用于将隔行图像转换为逐行图像的IP转换的情况的描述,但是本发明的实施例也可以应用于从图像获得运动信息的图像处理设备。
另外,虽然在本实施例中以像素单元获得运动信息,但是可以将图像划分为由多个像素组成的块并以块为单元获得运动信息。然而,以块为单元获得运动信息可以被看作是获得形成块的一个像素的运动信息,并将所述运动信息设置为形成块的所有像素的运动信息,并且因此在以像素为单元获得运动信息的所有等效之后。
要注意,本发明的实施例不限于前述实施例,并且在不脱离本发明的实施例的精神的情况下,各种改变都是可容许的。
本领域的技术人员应该理解,根据设计要求和其他因素,可以出现各种修改、组合、子组合和变更,只要它们落在所附权利要求及其等效物的范围内即可。
Claims (13)
1、一种用于获得指示图像的运动的运动信息的图像处理设备,所述图像处理设备包括:
运动估计装置,用于
使用在所关注的感兴趣画面的像素之中所关注的感兴趣像素的运动矢量和感兴趣像素附近的像素的运动矢量,获得所述感兴趣像素的运动信息,并输出所述感兴趣像素的运动信息,以及
使用所述感兴趣画面的多个像素的运动矢量来获得用于评估所述感兴趣像素的运动信息的评估值,使用与所述感兴趣画面相邻的另一画面的多个像素的运动矢量来获得用于评估所述感兴趣像素的运动信息的评估值,使用所述评估值来确定所述感兴趣像素的运动信息的可靠性,并输出指示该可靠性的可靠性信息。
2、根据权利要求1所述的图像处理设备,其中
所述运动估计装置包括:
一个运动矢量检测装置,用于检测感兴趣画面的像素的运动矢量;
多个运动矢量存储装置,用于存储已经在过去作为感兴趣画面的多个画面的像素的所检测到的运动矢量;
运动信息计算装置,用于使用所述感兴趣像素的运动矢量和所述感兴趣像素附近的像素的运动矢量,来获得所述感兴趣像素的运动信息,该运动矢量由所述运动矢量检测装置检测;
多个评估值计算装置,用于使用所述感兴趣画面和所述多个画面的所检测到的运动矢量,来获得用于评估所述感兴趣像素的运动信息的评估值;
确定进行中结果存储装置,用于存储确定进行中结果,该确定进行中结果是确定运动信息的可靠性的可靠性确定的进行中结果;以及
可靠性确定装置,用于进行可靠性确定,该可靠性确定使用由所述多个评估值计算装置获得的评估值和由所述确定进行中结果存储装置存储的过去的可靠性确定的确定进行中结果,来确定所述感兴趣像素的运动信息的可靠性,并且该可靠性确定装置还用于使所述确定进行中结果存储装置存储该可靠性确定的确定进行中结果。
3、根据权利要求1所述的图像处理设备,其中
所述运动估计装置包括:
多个运动矢量检测装置,用于检测多个画面的像素的运动矢量,该多个画面是感兴趣画面和与所述感兴趣画面相邻的一个或多个其他画面;
运动信息计算装置,用于使用感兴趣像素的运动矢量和所述感兴趣像素附近的像素的运动矢量来获得所述感兴趣像素的运动信息,该运动矢量由所述多个运动矢量检测装置之中用于所述感兴趣画面的所述运动矢量检测装置检测;
多个评估值计算装置,用于使用由所述多个运动矢量检测装置检测到的运动矢量,来获得用于评估所述感兴趣像素的运动信息的评估值;以及
可靠性确定装置,用于使用由所述多个评估值计算装置获得的评估值,来确定所述感兴趣像素的运动信息的可靠性。
4、根据权利要求1所述的图像处理设备,其中
所述运动估计装置包括:
多个运动矢量检测装置,用于检测多个画面的像素的运动矢量,该多个画面是感兴趣画面和与所述感兴趣画面相邻的一个或多个其他画面;
运动信息计算装置,用于使用感兴趣像素的运动矢量和所述感兴趣像素附近的像素的运动矢量,来获得所述感兴趣像素的运动信息,该运动矢量由所述多个运动矢量检测装置之中用于所述感兴趣画面的所述运动矢量检测装置检测;
多个评估值计算装置,用于使用由所述多个运动矢量检测装置检测到的运动矢量,来获得用于评估所述感兴趣像素的运动信息的评估值;
确定进行中结果存储装置,用于存储确定进行中结果,该确定进行中结果是确定运动信息的可靠性的可靠性确定的进行中结果;以及
可靠性确定装置,用于进行可靠性确定,该可靠性确定使用由所述多个评估值计算装置获得的评估值和由所述确定进行中结果存储装置存储的过去的可靠性确定的确定进行中结果,来确定所述感兴趣像素的运动信息的可靠性,并且该可靠性确定装置还用于使所述确定进行中结果存储装置存储该可靠性确定的确定进行中结果。
5、根据权利要求1所述的图像处理设备,其中
所述运动估计装置包括:
一个运动矢量检测装置,用于检测感兴趣画面的像素的运动矢量;
多个运动矢量存储装置,用于存储已经在过去作为感兴趣画面的多个画面的像素的所检测到的运动矢量;
运动信息计算装置,用于使用所述感兴趣像素的运动矢量和所述感兴趣像素附近的像素的运动矢量,来获得所述感兴趣像素的运动信息,该运动矢量由所述运动矢量检测装置检测;
多个评估值计算装置,用于使用所述感兴趣画面和所述多个画面的所检测到的运动矢量,来获得用于评估所述感兴趣像素的运动信息的评估值;以及
可靠性确定装置,用于使用由所述多个评估值计算装置获得的评估值来确定所述感兴趣像素的运动信息的可靠性。
6、根据权利要求1所述的图像处理设备,其中
所述运动估计装置获得所述多个像素的运动矢量的平均值和方差之一或两者作为所述评估值。
7、根据权利要求1所述的图像处理设备,其中
当确定对于两个彼此相邻的画面获得的所述评估值之间的差是否等于或小于预定阈值的评估值确定的确定结果为真时,所述运动估计装置确定所述感兴趣像素的运动信息是可靠的,如此的确定是对于包括所述感兴趣画面的多个连续画面的彼此相邻的两个画面的所有组均进行,以及
当对于至少一组的评估值确定的确定结果为假时,所述运动估计装置确定所述感兴趣像素的运动信息是不可靠的。
8、根据权利要求1所述的图像处理设备,进一步包括:
逐行图像产生装置,用于从隔行图像产生逐行图像,
所述逐行图像产生装置包括
第一内插装置,用于使用所述感兴趣画面的另一像素的像素值,来获得关于所述感兴趣像素的第一内插值,
第二内插装置,用于使用与所述感兴趣画面相邻的画面的像素的像素值和感兴趣像素的运动信息,来获得关于所述感兴趣像素的第二内插值,以及
选择装置,用于当所述可靠性信息指示所述运动信息不可靠时,选择所述第一内插值并输出所述第一内插值作为所述感兴趣像素的像素值,而当所述可靠性信息指示所述运动信息可靠时,选择所述第二内插值并输出所述第二内插值作为所述感兴趣像素的像素值。
9、一种用于获得指示图像的运动的运动信息的图像处理设备的图像处理方法,所述图像处理方法包括步骤:
使用在所关注的感兴趣画面的像素之中所关注的感兴趣像素的运动矢量和所述感兴趣像素附近的像素的运动矢量,来获得所述感兴趣像素的运动信息,并输出所述感兴趣像素的运动信息,以及
使用所述感兴趣画面的多个像素的运动矢量来获得用于评估所述感兴趣像素的运动信息的评估值,使用与所述感兴趣画面相邻的另一画面的多个像素的运动矢量来获得用于评估所述感兴趣像素的运动信息的评估值,使用所述评估值确定所述感兴趣像素的运动信息的可靠性,并输出指示该可靠性的可靠性信息。
10、一种用于使计算机用作用于获得指示图像的运动的运动信息的图像处理设备的程序,所述图像处理设备包括运动估计装置用于:
使用在所关注的感兴趣画面的像素之中所关注的感兴趣像素的运动矢量和所述感兴趣像素附近的像素的运动矢量,来获得所述感兴趣像素的运动信息,并输出所述感兴趣像素的运动信息,以及
使用所述感兴趣画面的多个像素的运动矢量来获得用于评估所述感兴趣像素的运动信息的评估值,使用与所述感兴趣画面相邻的另一画面的多个像素的运动矢量来获得用于评估所述感兴趣像素的运动信息的评估值,使用所述评估值确定所述感兴趣像素的运动信息的可靠性,并输出指示该可靠性的可靠性信息。
11、一种用于显示广播节目的图像的显示设备,所述显示设备包括:
接收装置,用于接收所述广播节目;
运动估计装置,用于
使用在组成所述广播节目的图像的画面之中在所关注的感兴趣画面的像素之中所关注的感兴趣像素的运动矢量和所述感兴趣像素附近的像素的运动矢量,来获得所述感兴趣像素的运动信息,并输出所述感兴趣像素的运动信息,以及
使用所述感兴趣画面的多个像素的运动矢量来获得用于评估所述感兴趣像素的运动信息的评估值,使用与所述感兴趣画面相邻的另一画面的多个像素的运动矢量来获得用于评估所述感兴趣像素的运动信息的评估值,使用所述评估值确定所述感兴趣像素的运动信息的可靠性,并输出指示该可靠性的可靠性信息;
逐行图像产生装置,用于使用所述感兴趣画面的另一像素的像素值,来获得关于所述感兴趣像素的第一内插值,并使用与所述感兴趣画面相邻的画面的像素的像素值和所述感兴趣像素的运动信息,来获得关于所述感兴趣像素的第二内插值,并且当所述可靠性信息指示所述运动信息不可靠时,选择所述第一内插值并输出所述第一内插值作为所述感兴趣像素的像素值,而当所述可靠性信息指示所述运动信息可靠时,选择所述第二内插值并输出所述第二内插值作为所述感兴趣像素的像素值,由此从隔行图像中产生逐行图像;以及
显示装置,用于显示所述逐行图像。
12、一种用于获得指示图像的运动的运动信息的图像处理设备,所述图像处理设备包括:
运动估计部分,被配置为
使用在所关注的感兴趣画面的像素之中所关注的感兴趣像素的运动矢量和所述感兴趣像素附近的像素的运动矢量,来获得所述感兴趣像素的运动信息,并输出所述感兴趣像素的运动信息,以及
使用所述感兴趣画面的多个像素的运动矢量来获得用于评估所述感兴趣像素的运动信息的评估值,使用与所述感兴趣画面相邻的另一画面的多个像素的运动矢量来获得用于评估所述感兴趣像素的运动信息的评估值,使用所述评估值确定所述感兴趣像素的运动信息的可靠性,并输出指示该可靠性的可靠性信息。
13、一种用于显示广播节目的图像的显示设备,所述显示设备包括:
接收部分,被配置为接收所述广播节目;
运动估计部分,被配置为
使用在组成所述广播节目的图像的画面之中在所关注的感兴趣画面的像素之中所关注的感兴趣像素的运动矢量和所述感兴趣像素附近的像素的运动矢量,来获得所述感兴趣像素的运动信息,并输出所述感兴趣像素的运动信息,以及
使用所述感兴趣画面的多个像素的运动矢量来获得用于评估所述感兴趣像素的运动信息的评估值,使用与所述感兴趣画面相邻的另一画面的多个像素的运动矢量来获得用于评估所述感兴趣像素的运动信息的评估值,使用所述评估值确定所述感兴趣像素的运动信息的可靠性,并输出指示该可靠性的可靠性信息;
逐行图像产生部分,被配置为使用所述感兴趣画面的另一像素的像素值,来获得关于所述感兴趣像素的第一内插值,并使用与所述感兴趣画面相邻的画面的像素的像素值和所述感兴趣像素的运动信息,来获得关于所述感兴趣像素的第二内插值,并且当所述可靠性信息指示所述运动信息不可靠时,选择所述第一内插值并输出所述第一内插值作为所述感兴趣像素的像素值,而当所述可靠性信息指示所述运动信息可靠时,选择所述第二内插值并输出所述第二内插值作为所述感兴趣像素的像素值,由此从隔行图像中产生逐行图像;以及
显示装置,用于显示所述逐行图像。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007186563A JP4375452B2 (ja) | 2007-07-18 | 2007-07-18 | 画像処理装置、画像処理方法、及びプログラム、並びに表示装置 |
JP186563/07 | 2007-07-18 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101350884A true CN101350884A (zh) | 2009-01-21 |
CN101350884B CN101350884B (zh) | 2011-01-26 |
Family
ID=40264536
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2008101377442A Expired - Fee Related CN101350884B (zh) | 2007-07-18 | 2008-07-18 | 图像处理设备、图像处理方法和显示设备 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20090021637A1 (zh) |
JP (1) | JP4375452B2 (zh) |
CN (1) | CN101350884B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104427337A (zh) * | 2013-08-21 | 2015-03-18 | 杭州海康威视数字技术股份有限公司 | 基于目标检测的感兴趣区域视频编码方法及其装置 |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101882316A (zh) * | 2010-06-07 | 2010-11-10 | 深圳市融创天下科技发展有限公司 | 一种图像区域划分/编码方法、装置及系统 |
JP6335504B2 (ja) * | 2013-12-20 | 2018-05-30 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
CN106162177B (zh) * | 2016-07-08 | 2018-11-09 | 腾讯科技(深圳)有限公司 | 视频编码方法和装置 |
JP7142507B2 (ja) * | 2018-07-23 | 2022-09-27 | キヤノン株式会社 | 画像処理装置および画像処理方法、ならびに撮像装置 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5410356A (en) * | 1991-04-19 | 1995-04-25 | Matsushita Electric Industrial Co., Ltd. | Scanning-line interpolation apparatus |
US5546130A (en) * | 1993-10-11 | 1996-08-13 | Thomson Consumer Electronics S.A. | Method and apparatus for forming a video signal using motion estimation and signal paths with different interpolation processing |
US5650829A (en) * | 1994-04-21 | 1997-07-22 | Sanyo Electric Co., Ltd. | Motion video coding systems with motion vector detection |
JP3646845B2 (ja) * | 1998-03-03 | 2005-05-11 | Kddi株式会社 | ビデオ符号化装置 |
JP4765194B2 (ja) * | 2001-05-10 | 2011-09-07 | ソニー株式会社 | 動画像符号化装置、動画像符号化方法、動画像符号化プログラム格納媒体及び動画像符号化プログラム |
JP3840129B2 (ja) * | 2002-03-15 | 2006-11-01 | 株式会社東芝 | 動きベクトル検出方法と装置、補間画像作成方法と装置及び画像表示システム |
KR100484182B1 (ko) * | 2002-12-03 | 2005-04-20 | 삼성전자주식회사 | 디인터레이싱 장치 및 방법 |
KR20060135742A (ko) * | 2004-02-04 | 2006-12-29 | 코닌클리케 필립스 일렉트로닉스 엔.브이. | 영화 모드 적응을 갖춘 움직임 보상된 디-인터레이싱 |
JP4375080B2 (ja) * | 2004-03-29 | 2009-12-02 | ソニー株式会社 | 画像処理装置および方法、記録媒体、並びにプログラム |
US7667778B2 (en) * | 2004-04-09 | 2010-02-23 | Sony Corporation | Image processing apparatus and method, and recording medium and program used therewith |
US20060193386A1 (en) * | 2005-02-25 | 2006-08-31 | Chia-Wen Lin | Method for fast mode decision of variable block size coding |
-
2007
- 2007-07-18 JP JP2007186563A patent/JP4375452B2/ja not_active Expired - Fee Related
-
2008
- 2008-07-15 US US12/218,421 patent/US20090021637A1/en not_active Abandoned
- 2008-07-18 CN CN2008101377442A patent/CN101350884B/zh not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104427337A (zh) * | 2013-08-21 | 2015-03-18 | 杭州海康威视数字技术股份有限公司 | 基于目标检测的感兴趣区域视频编码方法及其装置 |
Also Published As
Publication number | Publication date |
---|---|
US20090021637A1 (en) | 2009-01-22 |
JP2009027300A (ja) | 2009-02-05 |
JP4375452B2 (ja) | 2009-12-02 |
CN101350884B (zh) | 2011-01-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US4788589A (en) | Method and apparatus for transmitting video data | |
KR100561477B1 (ko) | 경계 방향에 기초한 영상 보간 방법 | |
CN101350884B (zh) | 图像处理设备、图像处理方法和显示设备 | |
JP5844394B2 (ja) | 適応探索範囲を用いた動き推定 | |
US7190406B2 (en) | Image adaptive deinterlacing method and device based on edge | |
CN101189871B (zh) | 具有误差准则的空间和时间去隔行 | |
KR950006774B1 (ko) | 움직임보상예측방법 | |
CN101690189B (zh) | 图像处理设备、图像处理方法 | |
EP0782340A2 (en) | Digital data conversion equipment | |
US20020172288A1 (en) | Device and method for performing half-pixel accuracy fast search in video coding | |
CN101146203B (zh) | 扫描转换装置 | |
CN101878650A (zh) | 时间图像预测 | |
US20030081682A1 (en) | Unit for and method of motion estimation and image processing apparatus provided with such estimation unit | |
US7574072B2 (en) | Apparatus and method for processing informational signal and program for performing the method therefor | |
CN1224246C (zh) | 一种选择运动矢量的方法和装置 | |
EP1440581A2 (en) | Unit for and method of motion estimation, and image processing apparatus provided with such motion estimation unit | |
CN101287067B (zh) | 图像处理设备和图像处理方法 | |
JP3271101B2 (ja) | ディジタル画像信号処理装置および処理方法 | |
CN101903907B (zh) | 针对边缘的图像处理 | |
CN101027691A (zh) | 图像内插 | |
US20070036466A1 (en) | Estimating an edge orientation | |
KR100889157B1 (ko) | 프로그래밍 채널 서브셋을 생성하기 위한 방법 및 시스템 | |
CN101785308B (zh) | 信号输出装置和信号输出方法 | |
US7333630B2 (en) | Method and apparatus for detecting film image using grouping | |
JP3480015B2 (ja) | 画像データの生成装置および生成方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
C17 | Cessation of patent right | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20110126 Termination date: 20130718 |