CN101163247A - 运动补偿图像的内插方法以及用于所述方法的实现的设备 - Google Patents

运动补偿图像的内插方法以及用于所述方法的实现的设备 Download PDF

Info

Publication number
CN101163247A
CN101163247A CNA2007101801045A CN200710180104A CN101163247A CN 101163247 A CN101163247 A CN 101163247A CN A2007101801045 A CNA2007101801045 A CN A2007101801045A CN 200710180104 A CN200710180104 A CN 200710180104A CN 101163247 A CN101163247 A CN 101163247A
Authority
CN
China
Prior art keywords
pixel
interpolation
image
source images
motion vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CNA2007101801045A
Other languages
English (en)
Other versions
CN101163247B (zh
Inventor
乔纳森·克维克
哈桑·盖尔蒙德
迪迪埃·杜杨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
International Digital Madison Patent Holding SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of CN101163247A publication Critical patent/CN101163247A/zh
Application granted granted Critical
Publication of CN101163247B publication Critical patent/CN101163247B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4007Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Television Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明提出了一种对运动估计矢量中的误差不敏感的运动补偿视频内插。本发明提出了一种运动补偿视频内插方法,在其中内插步骤根据针对所考虑的像素所估计的运动矢量的振幅和/或可靠性指标而改变。使针对内插所考虑的像素数以及与这些像素相关联的加权因子根据所估计的运动矢量的振幅和/或可靠性指标而变化。

Description

运动补偿图像的内插方法以及用于所述方法的实现的设备
背景技术
本发明涉及图像或视频处理领域,更具体地涉及使用运动补偿的图像内插的领域。
背景技术
多种视频处理操作需要用于改进处理质量(例如在视频内插的情况下)或者用于减少数据量(例如在视频压缩的情况下)的视频处理操作。本发明更具体地涉及具有运动补偿的内插,也称为运动补偿视频内插。
运动补偿视频内插通常包括运动估计步骤和随后的内插步骤。
运动估计在于定义要内插的图像中的每个点的运动向量,该图像在时间上位于两个源图像之间。通常,以2个步骤来执行运动估计步骤:预测步骤和校正步骤。预测步骤在于:从针对相邻像素所计算的运动向量以及针对包括所考虑的像素的先前源图像所计算的运动向量的投影定义要内插的图像中的每个像素的运动向量。例如,已计算的运动向量是先前的像素线中的n个相邻像素的运动向量。然后,预测在于从n+1个预计算的运动向量中选择产生最小DFD(移位帧间差)值的运动向量。随后的校正步骤包括将所选运动向量绕着它的轴旋转,以便进一步减少(如果可能的话)所考虑的像素的DFD。
在多数情况下,估计步骤之后的内插步骤是双线性内插。在要内插的图像Iint处于先前源图像Iprev和当前源图像Icurr之间的情况下,先前所定义的运动矢量指向源图像中的每个图像中的像点,该像点是一个像素或者位于4个像素之间的点。在已知为“单一帧”的内插的情况下,双线性内插在于给图像Iint的所考虑的P分配作为由所估计的运动向量指向源图像(通常为当前源图像)之一的4个像素中的值的双线性函数f的值。例如,如果V1、V2、V3和V4表示由当前源图像中的运动向量所指向的图像点附近的4个像素的值,以及如果α1、α2、α3和α4是所述像素与图像点的接近度的加权因子表示,分配给图像Iint的像素的值是 ( Σ i = 1 4 α i · V i ) / Σ i = 1 4 α i . 如果运动向量指向4个像素之中的特定像素,则分配给其他3个像素的加权因子为零,并且分配给所考虑的像素的值为该特定像素的值。在内插已知为“双帧”的情况下,以相同的方式来进行线性内插,但是使用8个像素,即先前源图像中的4个像素和当前源图像中的4个像素。
假设运动估计必出错,这类运动中的补偿内插包含图像区域内的可见缺陷,由于两个连续源图像的像素之间不可能匹配,该可见缺陷在两个连续源图像之间消失或出现。
发明内容
本发明提出了一种的新的运动补偿视频内插,该运动补偿视频内插比之前所定义的更安全,尤其是针对对象的出现或消失区域。
本发明提出了一种运动补偿视频内插方法,在其中内插步骤本身根据所估计的运动向量和/或可靠性指标而变化。使得针对内插所考虑的像素数以及与这些像素相关联的加权因子根据所估计的运动向量的幅度和/或可靠性指标而变化。
因此,本发明涉及一种用于从至少两个源图像中内插出运动补偿图像的至少一个像素的方法,该方法包括以下步骤:
-从源图像估计要内插的图像的像素的运动向量,
-确定对所述向量的估计的信息表示,
-根据对所述向量的估计的所述信息表示,针对要内插的图像的像素选择内插模型,该内插模型识别源图像中的至少一个图像中的像素,并将加权因子与所识别的每个像素相关联,以及
-从所选内插模型的像素和因子中内插出该图像的像素。
对向量的估计的信息表示可以是所估计的向量的幅度,或者与向量估计有关的可靠性指标,或者这两者。
根据特定实施例,仅考虑将所估计的运动向量的幅度用于选择内插模型。在这种情况下,我们考虑内插的几种等级。
如果要内插的图像的像素的估计运动向量的幅度小于或等于第一非零阈值,则该内插模型包括源图像之一中与要内插的像素的空间位置最靠近的n个像素,n大于或等于2,并且分配给源图像像素中的每个像素的加权因子取决于它们与要内插的像素的接近度。在这种情况下,这包括单帧内插。在双帧内插的情况下,该内插模型包括每个源图像中与要内插的像素的空间位置最靠近的n个像素,n大于或等于2,并且分配给每个源图像像素的加权因子取决于它们与要内插的像素的接近度以及要内插的图像相对于两个源图像的时间位置。
如果要内插的图像的像素的估计运动向量大于第一阈值,则在单帧内插的情况下,该内插模型包括源图像之一中与要内插的像素的空间位置最靠近的n个像素,n大于或等于2,并且分配给源图像像素的加权因子都相等。在双帧内插的情况下,该内插模型包括每个源图像中与要内插的像素的空间位置最靠近的n个像素,n大于或等于2,并且分配给源图像像素中的每个像素的加权因子取决于它们与要内插的像素的接近度以及要内插的图像相对于两个源图像的时间位置。像素的数量n随着所估计的向量的幅度而适当地增大。
根据另一个特定实施例,只将与所估计的运动向量相关的可靠性指标考虑用于选择内插模型。例如,该可靠性指标取决于包括要内插的像素的m×m像素窗中的运动向量的方差。在这种情况,我们还可以考虑几种内插等级。
如果要内插的图像的像素的运动向量的可靠性指标大于第一可靠性阈值,则在单帧内插的情况下,该内插模型包括源图像之一中与要内插的像素的空间位置最靠近的n个像素,n大于或等于2,并且分配给源图像像素中的每个像素的加权因子取决于它们与要内插的像素的接近度。在双帧内插的情况下,该内插模型包括每个源图像中与要内插的像素的空间位置最靠近的n个像素,n大于或等于2,并且分配给每个源图像像素的加权因子取决于它们与要内插的像素的接近度以及要内插的图像相对于两个源图像的时间位置。
如果要内插的图像的像素的运动向量的可靠性指标小于或等于第一可靠性阈值,则在单帧内插的情况下,该内插模型包括源图像之一中与要内插的像素的空间位置最靠近的n个像素,n大于或等于2,并且分配给源图像像素的加权因子都相等。在双帧内插的情况下,该内插模型包括每个源图像中与要内插的像素的空间位置最靠近的n个像素,n大于或等于2,并且分配给每个源图像像素的加权因子取决于它们与要内插的像素的接近度以及要内插的图像相对于两个源图像的时间位置。像素的数量n随着所估计的向量的可靠性指标的值而有利地减少。
根据另一个特定实施例,考虑将向量的幅度以及与向量有关的可靠性指标用于选择内插模型。
最后,本发明还涉及一种用于从至少两个源图像内插出运动补偿图像的至少一个像素的内插设备,该设备包括:
-存储器,用于存储源图像;
-运动估计器,用于从源图像中估计要内插的图像的像素的运动向量,
-确定电路,用于确定对所述向量的估计的信息表示,以及
-内插电路,用于根据对所述向量的估计的所述信息表示来选择针对要内插的图像的像素的内插模型,该内插模型识别源图像中的至少一个图像中的像素,并将加权因子与所识别的像素中的每个相关联,并从所选内插模型的像素和因子中内插出像素。
附图说明
通过阅读以下只为提供信息的描述,并参考附图,将更好地理解本发明,在附图中:
-图1是表示基于所估计的运动向量的幅度的第一实施例中的本发明方法的步骤的流程图,
-图2是示出了根据所估计的运动向量的幅度所采用的不同内插模型的图示,
-图3更具体地示出了在所估计的运动向量小于阈值SA1的情况下的内插,
-图4更具体地示出了在所估计的运动向量处于阈值SA1和阈值SA2之间的情况下的内插,
-图5更具体地示出了在所估计的运动向量大于阈值SA2的情况下的内插,
-图6是能够实现图1中的方法的设备,
-图7是表示基于所估计的运动的可靠性指标的第二实施例中的本发明的方法的步骤的流程图,
-图8是示出了根据所估计的运动向量所采用的不同内插模型的图示,
-图9是能够实现图7中的方法的设备,
-图10是表示基于所估计的运动向量的幅度和可靠性指标的第三实施例中的本发明的方法的步骤的流程图,
-图11是示出了根据所估计的运动向量的幅度和可靠性指标所采用的不同内插模型的图示,
-图12是能够实现图10中的过程的设备。
具体实施方式
如之前所指示的,本发明的原理是使得内插模型(即,内插和/或关联加权因子所基于的像素的数量)根据针对所考虑的像素所估计的运动向量的幅度和/或与所估计的运动向量相关联的可靠性指标而变化。
在下文中描述3个实施例:第一实施例单独基于所估计的运动向量的幅度,第二实施例单独基于所估计的运动向量的可靠性指标,以及第三实施例结合上面所提到的两个实施例。
图1是表示本发明方法的第一实施例的步骤的流程图。图1包括:
-运动估计步骤100,用于估计要内插的图像中的每个像素的运动向量(Vx,Vy),
-步骤110,用于确定所估计的运动向量的幅度A
( A = V x 2 + V y 2 ) ,
-内插模型选择步骤120,根据针对该像素所估计的运动向量的幅度,针对要内插的图像中的每个像素来选择内插模型,
-内插步骤130,针对该图像中的每个像素,通过使用针对该像素所选的内插模型来产生内插图像。
图2更具体地示出了内插步骤130,并且示出了根据所估计的运动向量的幅度所采用的不同类型的内插(双线性内插、平均内插)以及各种模型。要注意的是,运动向量的方向(正或负运动向量)不包括在内插的选择中。在这个实施例中,我们使用基于多个相邻像素的双线性内插或平均内插。针对这些类型的内插中的每种内插,所估计的运动向量的幅度越大,内插模型中的像素数量也越大。
如果运动向量的幅度小于或等于第一阈值SA1,则认为该运动为低。例如,将阈值SA1设为2个像素(每帧)。然后,例如该内插是基于4个像素的双线性内插,这4个像素是在源图像中所考虑的像素的相邻像素。相邻像素理解为表示其空间坐标靠近要内插的图像中的所考虑像素的坐标的源图像。在单帧内插的情况下,仅使用源图像之一中的4个相邻像素。这种情况由图3所示。这4个像素表示为P1、P2、P3和P4,与这4个像素相关联的视频值表示为V1、V2、V3和V4,并且相关联的加权因子表示为α1、α2、α3和α4。因子αi的值是将相关联的像素Pi与要内插的像素分开的距离的函数。在图3的示例中,像素P1最靠近要内插的像素,因此它的因子α1最大。像素P4最远离要内插的像素,因此它的因子α4最小。然后,分配给要内插的像素的值等于 ( Σ i = 1 4 α i · V i ) / Σ i = 1 4 α i . 非常明显的并且如之前所指示的是,如果运动向量指向4个像素之中的特定像素,则分配给其他3个像素的加权因子为零。在双帧内插的情况下,对先前源图像中的4个相邻像素和当前源图像中的4个像素进行双线性内插。如果V1、V2、V3和V4表示当前源图像中的4个相邻像素的值,并且α1、α2、α3和α4表示相关联的加权因子,以及如果V′1、V′2、V′3和V′4表示先前源图像中的4个相邻像素的值,并且α′1、α′2、α′3和α′4表示相关联的加权因子,则分配给要内插的像素的值等于 β · ( ( Σ i = 1 4 α i · V i ) / ( Σ i = 1 4 a i ) ) + ( 1 - β ) · ( ( Σ i = 1 4 α ′ i · V ′ i ) / ( Σ i = 1 4 α i ′ ) ) . 在这个公式中,β是取决于要内插的图像相对于源图像的时间位置的因子。如果要内插的图像在时间上位于两个源图像之间的中间位置,则β=1/2。如果要内插的图像更靠近当前源图像,则β大于1/2。
如果针对给定像素所估计的运动向量的幅度为零,则运动向量指向在先前和当前源图像中具有相同空间坐标的像素。双线性内插等于从先前或当前源图像的一个中重新拷贝相应的像素(即,具有相同空间坐标)的值。要注意的是,如果先前和当前源图像是通过对已交织的视频序列解交织而得到的渐进图像,应该相等的像素(因为这些像素与零运动向量相对应)的值也可以不是这样的。在这种情况下,我们仍然可以重新拷贝运动向量所指向的值中的任一个,或者可能计算出平均值。
如果运动向量的幅度大于阈值SA1而小于或等于第二阈值SA2(SA2大于SA1),则认为该运动是平均的。例如,将阈值SA2设为6个像素(每帧)。然后,内插是基于在源图像中所考虑的像素中的4个相邻像素P1、P2、P3和P4的平均步骤。这种情况由图4所示。4个相邻像素的加权因子相等(α1=α2=α3=α4=α)。在单帧内插的情况下,分配给要内插的像素的值等于 ( Σ i = 1 4 α i · V i ) / Σ i = 1 4 α i = ( Σ i = 1 4 V i ) / 4 . 在双帧内插的情况下,其中(α′1=α′2=α′3=α′4=α′),分配给要内插的像素的值等于
β · ( ( Σ i = 1 4 α i · V i ) / ( Σ i = 1 4 a i ) ) + ( 1 - β ) · ( ( Σ i = 1 4 α ′ i · V ′ i ) / ( Σ i = 1 4 α i ′ ) )
= ( β · ( Σ i = 1 4 V i ) + ( 1 - β ) · ( Σ i = 1 4 V ′ i ) ) / 4
最后,如果运动向量的幅度大于幅值SA2,则认为该运动为高。然后,内插是基于8个相邻像素的平均步骤,例如图5中所示的那些。8个相邻像素的加权因子相等(=α)。在单帧内插的情况下,分配给要内插的像素的值等于 ( Σ i = 1 8 V i ) / 8 . 在双帧内插的情况下,分配给要内插的像素的值等于 = ( β · ( Σ i = 1 8 V i ) + ( 1 - β ) · ( Σ i = 1 8 V ′ i ) ) / 8
图6表示能够实现先前所描述的过程的设备。该设备包括:至少两个图像存储器200,其中的每个都能够存储一个源图像,即当前源图像和先前源图像;运动估计器210,用于从设备输入端处的当前源图像以及存储在图像存储器200之一的先前源图像中确定要内插的图像中的每个像素的运动向量(Vx,Vy);电路220,用于确定来自估计器210和内插器230的所估计的运动向量的幅度A,估计器210和内插器230用于从存储在图像存储器200中的当前和先前源图像中产生内插图像,此外幅度A由电路220确定。针对要内插的每个像素,内插器230将针对该像素所估计的运动向量的幅度A与阈值SA1和SA2以及零值进行比较,随后采用适当的内插模型。
图7是示出本发明的第二实施例中的步骤的流程图。图7包括:
-运动估计步骤300,用于估计要内插的图像中的每个像素的运动向量(Vx,Vy),
-步骤310,用于确定所估计的运动向量的可靠性指标C,以及
-内插模型选择步骤320,根据所估计的运动向量的可靠性指标,针对要内插的图像中的每个像素来选择内插模型,
-内插步骤330,针对该图像中的每个像素,通过使用针对该像素所选的内插模型来产生内插图像。
在这个实施例中,该可靠性指标越低,该内插模型所使用的像素数量越大。实际上,当我们在所固定的运动向量的值中具有较小可靠性时,可以使内插图像更加模糊。例如,通过分析包括所考虑图像的图像区域中的运动向量的值的扩散来确定该可靠性指标。该区域中的运动向量的值越扩散,则与所考虑像素相关联的可靠性指标越低。例如,可靠性指标C与包括所考虑像素的5×5像素的窗中的运动向量的方差成反比: C = 1 - Σ i = 1 , j = 1 5,5 ( Vx 3,3 - Vx i , j ) 2 - ( Vy 3,3 - Vy i , j ) 2 24 ( 2 · Vx max ) 2 + ( 2 · Vy max ) 2 . 使该等式中的第二项标准化,以便包含在0到1之间。坐标像素(3,3)表示当前像素。Vxi,j和Vyi,j分别表示像素(i,j)的运动向量的水平和垂直分量。Vxmax和Vymax表示该运动向量的最大水平和垂直分量。在对这些分量中的每个进行8位编码的情况下,Vxmax=Vymax=255。
图8更具体地示出了内插步骤330,并示出了根据与所估计的运动向量相关联的可靠性指标的值所采用的内插的示例。
如果可靠性指标的值小于或等于第一阈值SC1,则认为该可靠性指标为低。然后,例如内插是基于8个像素的平均内插,这8个像素是在源图像中所考虑的相邻像素。在单帧内插的情况下,仅使用源图像之一中的8个相邻像素。与图2到图5相比,如果我们再使用针对第一实施例所定义的符号,则分配给要内插的像素的值等于 ( Σ i = 1 8 α i · V i ) / Σ i = 1 8 α i = ( Σ i = 1 8 V i ) / 8 . 在双帧内插的情况下,对先前源图像中的8个相邻像素和当前源图像中的8个像素进行内插。然后,分配给要内插的像素的值等于 ( β · ( Σ i = 1 8 V i ) + ( 1 - β ) · ( Σ i = 1 8 V ′ i ) ) / 8 .
如果可靠性指标的值大于阈值SC1而小于或等于第二阈值SC2(SC2大于SC1),则认为该可靠性指标居中。然后,例如内插是基于4个像素的平均内插,这4个像素是在源图像中所考虑的像素的相邻像素。在单帧内插的情况下,仅使用源图像中的4个相邻像素。如果我们再使用针对涉及图2到图5的第一实施例所定义的符号,则分配给要内插的像素的值等于 ( Σ i = 1 4 α · V i ) / Σ i = 1 4 α = ( Σ i = 1 4 V i ) / 4 . 在双帧内插的情况下,对先前源图像中的4个相邻像素和当前源图像中的4个像素进行内插。然后,分配给要内插的像素的值等于 ( β · ( Σ i = 1 4 V i ) + ( 1 - β ) · ( Σ i = 1 4 V ′ i ) ) / 4 .
最后,如果可靠性指标的值大于阈值SC2,则认为该可靠性指标较强。然后,例如内插是基于4个像素的双线性内插,这4个像素是在源图像中所考虑的像素的相邻像素。在单帧内插的情况下,仅使用源图像之一中的4个相邻像素。如果我们使用针对涉及图2到图5的第一实施例的符号,则分配给要内插的像素的值等于 ( Σ i = 1 4 α i · V i ) / Σ i = 1 4 α i . 在双帧内插的情况下,对先前源图像中的4个相邻像素和当前源图像中的4个像素进行双线性内插。然后,分配给要内插的像素的值等于 β · ( ( Σ i = 1 4 α i · V i ) / ( Σ i = 1 4 a i ) ) + ( 1 - β ) · ( ( Σ i = 1 4 α ′ i · V ′ i ) / ( Σ i = 1 4 α i ′ ) ) .
图9表示能够实现之前所述方法的设备。该设备包括:至少两个图像存储器400,其中的每个都能够存储一个源图像,即当前源图像和先前源图像;运动估计器410,用于从设备输入端处的当前源图像以及存储在图像存储器400之一的先前源图像中确定要内插的图像中的每个像素的运动向量;电路420,用于确定来自估计器410和内插器430的所估计的运动向量中的每个向量的可靠性指标C,估计器410和内插器430用于从存储在图像存储器400中的当前和先前源图像中产生内插图像,此外可靠性指标C由电路420确定。针对要内插的每个像素,内插器430将针对该像素所估计的运动向量的可靠性指标C与阈值SC1和SC2相比,随后采用适当的内插模型。
图10是示出了根据所估计的运动向量的幅度A和可靠性指标C来选择内插模型的本发明方法的实施例的步骤的流程图。图10包括:
-运动估计步骤500,用于估计要内插的图像中的每个像素的运动向量(Vx,Vy),
-步骤510,用于确定所估计的运动向量中的每个的幅度A ( A = Vx 2 + Vy 2 ) 和可靠性指标C(例如,作为包括针对第二实施例所描述的所考虑像素的像素的窗中的运动向量的方差),以及
-内插模型选择步骤520,根据所估计的运动向量的幅度和可靠性指标,针对要内插的图像中的每个像素来选择内插模型,
-内插步骤530,针对该图像中的每个像素,通过使用针对该像素所选的内插模型来产生内插图像。
例如,针对内插步骤530,我们计算修改的幅度(标为Amod)所需要的一个值,根据该值来选择内插模型。例如,Amod等于Amod=A×(1-C)。例如,根据Amod所采用的内插如图10所示。如果Amod小于或等于第一阈值SA′1,则所采用的内插是基于一个或两个源图像上的所考虑像素的4个相邻像素的双线性内插。如果Amod大于第一阈值SA′1但小于或等于第二阈值SA′2(SA′2大于SA′1),则内插是基于一个或两个源图像中的所考虑像素的4个相邻像素的平均步骤。最后,如果Amod大于阈值SA′2,则内插是基于较多个相邻像素(例如8个像素)的平均步骤。
图11表示能够实现由图9所示的过程的设备。该设备包括:至少两个图像存储器600,其中的每个都能够存储一个源图像,即当前源图像和先前源图像;运动估计器610,用于从设备输入端处的当前源图像以及存储在图像存储器600之一的先前源图像中确定要内插的图像中的每个像素的运动向量(Vx,Vy);电路620,用于确定来自估计器610和内插器630的所估计的运动向量的幅度A和可靠性指标C,估计器610和内插器630用于从存储在图像存储器600中的当前和先前源图像中产生内插图像,此外幅度A和可靠性指标C由电路620确定。
自然地,本发明不局限于先前所描述的实施例。通过使用不同数量的像素或不同的加权因子,本领域的那些技术人员将能够预见除了这里所提出的以外的内插类型和内插模型的使用。

Claims (16)

1.一种用于从至少两个源图像内插出运动补偿图像的至少一个像素的方法,所述方法包括以下步骤:
-从源图像估计针对要内插的图像的所述像素的运动矢量(100;300;500),
-确定对所述向量的估计的至少一个信息表示(110;310;510),
-根据对所述向量的估计的所述信息表示,针对要内插的图像的所述像素选择内插模型(120;320;520),所述内插模型识别所述源图像的至少之一中的像素,并将加权因子(αi)与所识别的像素中的每个相关联,以及
-从所选内插模型的像素和因子中内插出图像的所述像素(130;330;530)。
2.如权利要求1所述的方法,其中,对所述向量的估计的所述信息表示是所估计的向量的幅度(A)。
3.如权利要求2所述的方法,其中,如果要内插的图像的所述像素中的估计运动向量的幅度小于或等于第一非零阈值(SA1),则所述内插模型包括源图像之一中与要内插的所述像素的空间位置最靠近的n个像素,n大于或等于2,并且分配给所述源图像像素中的每个像素的加权因子取决于它们与要内插的所述像素的接近度。
4.如权利要求2所述的方法,其中,如果要内插的图像的所述像素中的估计运动向量的幅度小于或等于第一非零阈值(SA1),则所述内插模型包括每个源图像中与要内插的所述像素的空间位置最靠近的n个像素,n大于或等于2,并且分配给每个源图像像素的加权因子取决于它们与要内插的所述像素的接近度以及要内插的所述图像相对于两个源图像的时间位置。
5.如权利要求3或4所述的方法,其中,如果要内插的图像的像素的估计运动向量大于所述第一阈值(SA1),则所述内插模型包括源图像之一中与要内插的所述像素的空间位置最靠近的n个像素,n大于或等于2,并且分配给所述源图像像素的加权因子都相等。
6.如权利要求3或4所述的方法,其中,如果要内插的图像的像素的估计运动向量大于所述第一阈值(SA1),则所述内插模型包括每个源图像中与要内插的所述像素的空间位置最靠近的n个像素,n大于或等于2,并且分配给所述源图像像素的每个像素的加权因子取决于它们与要内插的所述像素的接近度以及要内插的所述图像相对于两个源图像的时间位置。
7.如权利要求3到6之一所述的方法,其中,像素的数量n随着所估计的向量的幅度而增大。
8.如权利要求1所述的方法,其中,对所述向量的估计的所述信息表示是与对所述向量的估计有关的可靠性指标(C)。
9.如权利要求8所述的方法,其中,如果要内插的图像中的所述像素的运动向量的可靠性指标大于第一可靠性阈值(SC2),则所述内插模型包括源图像之一中与要内插的所述像素的空间位置最靠近的n个像素,n大于或等于2,并且分配给所述源图像像素中的每个像素的加权因子取决于它们与要内插的所述像素的接近度。
10.如权利要求8所述的方法,其中,如果要内插的图像的所述像素的运动向量的可靠性指标大于第一可靠性阈值(SC2),则所述内插模型包括每个源图像中与要内插的所述像素的空间位置最靠近的n个像素,n大于或等于2,并且分配给所述源图像像素中的每个像素的加权因子取决于它们与要内插的所述像素的接近度以及要内插的所述图像相对于两个源图像的时间位置。
11.如权利要求9或10所述的方法,其中,如果要内插的图像的所述像素的运动向量的可靠性指标小于或等于所述第一可靠性阈值(SC2),则所述内插模型包括源图像之一中与要内插的所述像素的空间位置最靠近的n个像素,n大于或等于2,并且分配给所述源图像像素的加权因子都相等。
12.如权利要求9或10所述的方法,其中,如果要内插的图像的所述像素的运动向量的可靠性指标小于或等于所述第一可靠性阈值(SC2),则所述内插模型包括每个源图像中与要内插的所述像素的空间位置最靠近的n个像素,n大于或等于2,并且分配给所述源图像像素中的每个像素的加权因子取决于它们与要内插的所述像素的接近度以及要内插的图像相对于两个源图像的时间位置。
13.如权利要求9到12之一所述的方法,其中,像素的数量n随着所估计的向量的可靠性指标的值而减少。
14.如权利要求8到13之一所述的方法,其中,与针对要内插的像素的运动向量的估计相关的可靠性指标取决于包括所述像素的m×m像素的窗中的运动向量的方差。
15.如权利要求1所述的方法,其中,对所述向量的估计的所述至少一个信息表示是所述估计向量的幅度(A)、以及与所述向量的估计相关的可靠性指标。
16.一种用于从至少两个源图像内插出运动补偿图像的至少一个像素的内插设备,所述内插设备包括:
-存储器(200;400;600),用于存储所述源图像;
-运动估计器(210;410;610),用于从所述源图像中估计针对要内插的图像的所述像素的运动向量,
-确定电路(220;420;620),用于确定对所述向量的估计的至少一个信息表示,以及
-内插电路(230;430;630),用于根据对所述向量的估计的所述信息表示来选择针对要内插的图像的所述像素的内插模型,所述内插模型识别所述源图像中的至少一个图像中的像素,并将加权因子(αi)与所识别的像素中的每个相关联,并从所选内插模型的像素和因子中内插出所述像素。
CN2007101801045A 2006-10-12 2007-10-10 运动补偿图像的内插方法以及用于所述方法的实现的设备 Active CN101163247B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR0654213A FR2907301A1 (fr) 2006-10-12 2006-10-12 Procede d'interpolation d'une image compensee en mouvement et dispositif pour la mise en oeuvre dudit procede
FR0654213 2006-10-12

Publications (2)

Publication Number Publication Date
CN101163247A true CN101163247A (zh) 2008-04-16
CN101163247B CN101163247B (zh) 2012-12-05

Family

ID=37964361

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2007101801045A Active CN101163247B (zh) 2006-10-12 2007-10-10 运动补偿图像的内插方法以及用于所述方法的实现的设备

Country Status (6)

Country Link
US (1) US8223839B2 (zh)
EP (1) EP1912172B1 (zh)
JP (1) JP5103129B2 (zh)
KR (1) KR101399616B1 (zh)
CN (1) CN101163247B (zh)
FR (1) FR2907301A1 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102572358A (zh) * 2010-12-16 2012-07-11 三菱电机株式会社 帧插值装置和帧插值方法
CN112199140A (zh) * 2020-09-09 2021-01-08 Oppo广东移动通信有限公司 应用插帧方法及相关装置

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2330817B1 (en) * 2008-09-04 2016-08-31 Japan Science and Technology Agency Video signal converting system
CN102187665A (zh) * 2008-09-04 2011-09-14 独立行政法人科学技术振兴机构 帧频变换装置、及其对应点推测装置、对应点推测方法及对应点推测程序
US8798152B2 (en) * 2008-09-11 2014-08-05 General Instrument Corporation Method and apparatus for fast motion estimation
JP2010288006A (ja) * 2009-06-10 2010-12-24 Sharp Corp 動画像データ処理装置、撮像装置および動画像再生装置
TWI566586B (zh) * 2009-10-20 2017-01-11 湯姆生特許公司 一序列形象的現時區塊之寫碼方法和重建方法
WO2011050997A1 (en) 2009-10-29 2011-05-05 Thomas Sikora Method and device for processing a video sequence
TR200908303A2 (tr) * 2009-11-03 2011-05-23 Vestel Elektroni̇k San. Ve Ti̇c. A.Ş. Hareket dengelemeli enterpolasyon.
JP5192087B2 (ja) * 2009-12-01 2013-05-08 パナソニック株式会社 画像処理装置及び画像処理方法
JP2013165487A (ja) * 2012-01-11 2013-08-22 Panasonic Corp 画像処理装置、撮像装置、およびプログラム
EP3111630B1 (en) 2014-03-28 2021-06-02 Huawei Technologies Co., Ltd. Method and device for generating a motion-compensated video frame
WO2016098929A1 (ko) * 2014-12-19 2016-06-23 삼성전자주식회사 초음파 영상 장치 및 그 제어방법
KR102192488B1 (ko) * 2015-11-25 2020-12-17 삼성전자주식회사 프레임 레이트 변환 장치 및 그 프레임 레이트 변환 방법
CN105915835B (zh) * 2016-02-05 2018-10-19 四川长虹电器股份有限公司 一种可硬件实现的帧频提升方法
KR102467240B1 (ko) * 2018-02-05 2022-11-15 한화테크윈 주식회사 영상의 잡음 제거 장치 및 방법

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0720238B2 (ja) * 1985-07-26 1995-03-06 ソニー株式会社 動きベクトル検出回路
JPS62206978A (ja) * 1986-03-07 1987-09-11 Kokusai Denshin Denwa Co Ltd <Kdd> 動画像信号のフレ−ム間適応内插方式
JP3181431B2 (ja) * 1993-05-21 2001-07-03 沖電気工業株式会社 動きベクトルを用いた適応動き内挿信号生成装置
US5886745A (en) * 1994-12-09 1999-03-23 Matsushita Electric Industrial Co., Ltd. Progressive scanning conversion apparatus
GB2305569B (en) * 1995-09-21 1999-07-21 Innovision Res Ltd Motion compensated interpolation
JP4083265B2 (ja) * 1997-10-07 2008-04-30 株式会社日立製作所 画像信号の方式変換方法および装置
DE60127866T2 (de) * 2001-01-16 2007-12-20 Koninklijke Philips Electronics N.V. Verringern von aura-artigen effekten bei der bewegungskompensierten interpolation
US6940557B2 (en) * 2001-02-08 2005-09-06 Micronas Semiconductors, Inc. Adaptive interlace-to-progressive scan conversion algorithm
US20040151249A1 (en) * 2001-05-29 2004-08-05 Anthony Morel Method and device for video transcoding
EP1377040A1 (en) * 2002-06-19 2004-01-02 STMicroelectronics S.r.l. Method of stabilizing an image sequence
US20040076333A1 (en) * 2002-10-22 2004-04-22 Huipin Zhang Adaptive interpolation filter system for motion compensated predictive video coding
KR100532099B1 (ko) 2002-12-26 2005-11-29 삼성전자주식회사 프레임 레이트 변환 장치 및 방법
JP4210910B2 (ja) * 2003-03-11 2009-01-21 ソニー株式会社 動きベクトル補正装置、動きベクトル補正方法及びプログラム
US7408986B2 (en) * 2003-06-13 2008-08-05 Microsoft Corporation Increasing motion smoothness using frame interpolation with motion analysis
JP2005236937A (ja) 2004-01-21 2005-09-02 Seiko Epson Corp 画像処理装置、画像処理方法および画像処理プログラム
JP2005287006A (ja) * 2004-03-05 2005-10-13 Canon Inc 画像処理方法、画像処理プログラム、画像処理プログラムを記録した記録媒体及び画像処理装置
JP4514203B2 (ja) * 2004-06-11 2010-07-28 キヤノン株式会社 動きベクトル検出装置及び方法
JP4216796B2 (ja) 2004-12-15 2009-01-28 日本電信電話株式会社 動きベクトル探索方法,動きベクトル探索装置,動きベクトル探索プログラムおよびそのプログラムを記録したコンピュータ読み取り可能な記録媒体
US7535517B2 (en) * 2005-04-14 2009-05-19 Samsung Electronics Co., Ltd. Method of motion compensated temporal noise reduction
KR101287176B1 (ko) * 2005-07-28 2013-07-16 톰슨 라이센싱 보간된 프레임을 생성하는 디바이스

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102572358A (zh) * 2010-12-16 2012-07-11 三菱电机株式会社 帧插值装置和帧插值方法
CN112199140A (zh) * 2020-09-09 2021-01-08 Oppo广东移动通信有限公司 应用插帧方法及相关装置

Also Published As

Publication number Publication date
EP1912172A1 (en) 2008-04-16
US20080089419A1 (en) 2008-04-17
JP2008099281A (ja) 2008-04-24
KR101399616B1 (ko) 2014-05-30
US8223839B2 (en) 2012-07-17
FR2907301A1 (fr) 2008-04-18
CN101163247B (zh) 2012-12-05
KR20080033094A (ko) 2008-04-16
JP5103129B2 (ja) 2012-12-19
EP1912172B1 (en) 2012-08-01

Similar Documents

Publication Publication Date Title
CN101163247B (zh) 运动补偿图像的内插方法以及用于所述方法的实现的设备
EP1987676B1 (en) Method and apparatus for determining motion between video images
JP4122279B2 (ja) スクロールされるテキストまたはグラフィックデータの検出が可能な動き推定装置および方法
JP4162621B2 (ja) フレームレート変換時のフレーム補間方法およびその装置
US8724022B2 (en) Frame rate conversion using motion estimation and compensation
US7796191B1 (en) Edge-preserving vertical interpolation
US7197075B2 (en) Method and system for video sequence real-time motion compensated temporal upsampling
US8989272B2 (en) Method and device for image interpolation systems based on motion estimation and compensation
US7365801B2 (en) Apparatus and method for processing signal
US20050129124A1 (en) Adaptive motion compensated interpolating method and apparatus
CN103369208A (zh) 自适应去隔行方法及装置
US20040022320A1 (en) Image matching device and method for motion pictures
US6930728B2 (en) Scan conversion apparatus
US8189054B2 (en) Motion estimation method, device, and system for image processing
KR100565066B1 (ko) 중첩된 블록 기반 움직임 추정에 의한 움직임 보상 보간방법 및 그를 적용한 프레임 레이트 변환 장치
US20120008689A1 (en) Frame interpolation device and method
JP5197374B2 (ja) 動き推定
AU2004200237B2 (en) Image processing apparatus with frame-rate conversion and method thereof
US8200032B2 (en) Image processing method and related apparatus for performing image processing operation according to image blocks in horizontal direction
JP2003517795A (ja) ビデオ画像における動き推定方法
JPH08242454A (ja) グローバル動きパラメタ検出方法
JP4269571B2 (ja) 動きベクトル検出装置及び方法
JP4269573B2 (ja) 動きベクトル検出装置及び方法
JPH09102955A (ja) 動きベクトル検出方法および動きベクトル検出装置
EP1914995A1 (en) Method and device for estimating motion vectors in a field containing at least one static area

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CP02 Change in the address of a patent holder

Address after: I Si Eli Murli Nor, France

Patentee after: THOMSON LICENSING

Address before: French Boulogne - Bilang Kurt

Patentee before: THOMSON LICENSING

CP02 Change in the address of a patent holder
TR01 Transfer of patent right

Effective date of registration: 20190130

Address after: Paris France

Patentee after: International Digital Madison Patent Holding Co.

Address before: I Si Eli Murli Nor, France

Patentee before: THOMSON LICENSING

Effective date of registration: 20190130

Address after: I Si Eli Murli Nor, France

Patentee after: THOMSON LICENSING

Address before: I Si Eli Murli Nor, France

Patentee before: THOMSON LICENSING

TR01 Transfer of patent right