CN1381024A - 用于减少在mc向上转换中的晕圈的运动估算器 - Google Patents

用于减少在mc向上转换中的晕圈的运动估算器 Download PDF

Info

Publication number
CN1381024A
CN1381024A CN01801299A CN01801299A CN1381024A CN 1381024 A CN1381024 A CN 1381024A CN 01801299 A CN01801299 A CN 01801299A CN 01801299 A CN01801299 A CN 01801299A CN 1381024 A CN1381024 A CN 1381024A
Authority
CN
China
Prior art keywords
vector
image
edge
covering
prospect
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN01801299A
Other languages
English (en)
Other versions
CN100504925C (zh
Inventor
G·德哈安
M·J·W·梅尔滕斯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dynamic Data Technology LLC
Original Assignee
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=26072246&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=CN1381024(A) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by Koninklijke Philips Electronics NV filed Critical Koninklijke Philips Electronics NV
Publication of CN1381024A publication Critical patent/CN1381024A/zh
Application granted granted Critical
Publication of CN100504925C publication Critical patent/CN100504925C/zh
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/553Motion estimation dealing with occlusions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/223Analysis of motion using block-matching
    • G06T7/238Analysis of motion using block-matching using non-full search, e.g. three-step search
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Processing Or Creating Images (AREA)
  • Television Systems (AREA)

Abstract

一种用于检测在前一个和下一个图像间的临时中间位置的运动的装置,该装置具有用于优化候选向量的准则函数的优化装置(1),由此该准则函数取决于来自前一个和下一个图像中的数据。在非覆盖和非裸露区域中的临时中间位置检测该运动。根据本发明该装置具有用于检测覆盖和裸露区域的装置(2)及其被设置为在覆盖区域的下一个图像的临时位置和裸露区域的前一个图像的临时位置执行优化的优化装置。

Description

用于减少在MC向上转换中的晕圈的运动估算器
本发明涉及一种用于检测在前一个和下一个图像间的临时中间位置的运动的方法,其中用于候选向量的准则函数被优化,所述函数取决于来自前一个和下一个图像中的数据,并且其中优化是在非覆盖和非裸露区域中的临时中间位置进行的。
从现有发明产生的基本观测数据表明,一种估算一个视频序列中的两个连续图像间的运动的估算器,在出现覆盖或裸露的区域并不能很好地执行,由于这种估算器是典型地用于信息只出现在两个图像中的任何一个的区域。因此即使是对于一个正确的向量块匹配器也总能找到最大的匹配误差。
本发明的目的就是要消除上述问题,概括来说就是在从前一个和/或下一个图像计算向量场方面的问题。
根据本发明,该目的通过在覆盖区域的下一个图像的临时位置和在裸露区域的前一个图像的临时位置执行优化来实现。
此外,本发明涉及一种用于检测前一个和下一个图像间的运动的装置,包括用于优化候选向量的准则函数的装置,所述函数取决于前一个和下一个图像中的数据,并且其中优化是在非覆盖和非裸露区域中的临时中间位置进行的,其中提供了用于检测覆盖或裸露区域的装置,并且优化是在覆盖区域的下一个图像的临时位置和裸露区域的前一个图像的临时位置进行的。根据本发明的方法及装置的实施例在附属权利要求中加以说明。
参考相关的附图将对本发明将作更详细地说明。
图1表示用于估算运动的方法的一个例子。
图2表示由于覆盖引起的模糊区域;
图3表示由于裸露引起的模糊区域;
图4表示重计时器的情况;
图5表示用于检测前景/背景的方法的一个实施例;
图6表示用于检测前景/背景的方法的另一个实施例;
图7表示用于检测前景/背景的方法的再一个实施例;
图8表示用于检测运动的装置的一个优选实施例;
图9表示一个前景/背景检测器的一个实施例;
图10表示一个前景/背景检测器的另一个实施例;
图11表示一个前景/背景检测器的再一个实施例;
图12表示包括在本发明中的一种图像显示装置;
本发明可以应用到各种技术领域。例如:图像频率转换,其中根据本发明的一种改进的向量场会导致一种更满意的,人工的任意视频流。该应用的典型设备就是TV和PC机。
3维不均匀性的分析,其中由滚动摄像机或从滚动景物中生成的图像。
根据本发明基于视频压缩的其中具有一种改进的向量场的运动会导致高质量的预测以及由此的较高的压缩率或改善的图像质量。在MPEG中的压缩就是一个例子。
根据本发明基于图像分析的其中具有一种改进的向量场的运动会导致目标的更可靠的提取和较容易的后期处理。例如:安全摄像视频分析,视频的特殊效果和通话分析。
在电视技术中的图像增强例如背景模糊的避免。
科学的应用,根据本发明其中具有一种改进的向量场会导致一种更好的数据分析。例如白云和海洋学的人造卫星图片。
可以认为,在覆盖的情况下当前图像中的所有信息存在于前一个图像中,而在裸露下一个图像的情况下,在一个裸露区域中,当前图像包含前一个图像(局部地围绕裸露区域)的所有信息。因此,通过修改匹配误差计算结果,由一个覆盖/裸露检测器来控制,例如在WO00/11863中公开的一种检测器,从匹配当前图像与运动补偿的前一图像(覆盖)到匹配前一图像与运动补偿的当前图像(裸露),在估算器中的任何模糊都可以避免。这将会产生更加精确和一致的向量场和减少的晕圈。这种修改将在说明书的后一部分详细阐述。
作为这种动态改变匹配计算结果的一方面的影响,产生的清楚向量场迟早在某一时刻会不再有效,更不用说在发生向上转换的时刻了,但是这种“有效时刻”改变取决于考虑作为覆盖、裸露或简单的固定移动区域的区域。这种影响可以用本发明公开的第二部分来消除,在说明书的后部分加以说明。
下面将参照附图1来说明改善的运动向量计算结果,该运动向量计算结果使用全搜索块匹配运动估算器算法计算运动向量。该算法对于运动估算问题来说并不是一个非常划算的方法,但是却是更有效的一种方法。相同的原理在G.de Haan,P.W.A.C.Biezen,H.Huygen及O.A.Ojo的论文“3维递归搜索块匹配的实际运动估算”,发表在用于视频技术的电路和系统上的IEEE Tr.,第3卷,1993年10月,第368-388页,以及G.de Haan,P.W.A.C.Biezen的论文“3维递归搜索块匹配的子象素运动估算,发表在信号处理:图像通信6(1994)第220-239页中有所描述。在块匹配运动估算算法中,一个置换向量通过在一个搜索区域
Figure A0180129900071
内搜索一个相似块被指定到当前图像n中的一块象素
Figure A0180129900072
的中心 ,也可以定中心在 ,但是在前一个图像n-1中。该相似块有一个中心,该中心根据通过置换向量 中的
Figure A0180129900076
来变换。为了找到 ,通过使用误差约数
Figure A0180129900078
去量化块相似度来求解多个候选向量
Figure A0180129900079
。更正式地,定义CSmax作为一组候选向量
Figure A01801299000710
根据前一个图像的搜索区域
Figure A01801299000711
中的 来描述所有可能(通常为整数)的置换: CS max = { C → | - N ≤ C x ≤ N , - M ≤ C y ≤ M } - - - - ( 1 )
其中N和M是限制
Figure A01801299000714
的常量。一个块 定中心在
Figure A01801299000716
,X比Y大很多,由当前图像n中的象素位置
Figure A01801299000717
组成,定义为: B ( X ) = { x | X x - X / 2 ≤ x ≤ X x + X / 2 X y - Y / 2 ≤ y ≤ X y + Y / 2 } - - - - ( 2 ) 由块匹配过程产生的置换向量
Figure A01801299000719
,是产生误差函数 的最小值的一个候选向量
Figure A01801299000721
D → ( X → , n ) ∈ { C → ∈ CS max | ϵ ( C → , X → , n ) ≤ ϵ ( V → , X → , n ) ∀ V → ∈ CS max } - - - - ( 3 ) 如果是通常的情形,具有最小匹配误差的向量
Figure A01801299000723
被指定到块 中的所有象素位置: ∀ x → ∈ B ( X → ) : D → ( x → , n ) = D → ( x → , n ) - - - - ( 4 )
而不是只有中心象素,这样大大减少了计算量。
作为隐含,连续块
Figure A0180129900082
是不重叠的。对于给定的候选向量
Figure A0180129900083
的误差值是当前块中象素的亮度值以及从前一图像变换的块中象素的亮度值的函数,将块
Figure A0180129900084
求和。一种常规的选择,我们也将使用的是差(SAD)的绝对值求和: ϵ ( C → , X → , n ) = Σ x → ∈ B ( X → ) | F ( x → - α C → , n - 1 ) - F ( x → + ( 1 - α ) C → , n ) | - - - - ( 5 ) 其中α为一个常量,0≤α≤1,确定两个图像间的临时位置,其中向量场必须有效。
图2更加清楚地表示出了对于所有可能发生的参考位置0≤α≤1。假定上线对应经由时间移动的前景目标边缘的位置。然后在后来的图像中,我们在速度向量边缘位置XE(运动向量代替一个有效的空间变化的位置)的任一边上查找正确的前景或背景速度,但是我们越将参考位置移向过去的图像,模糊区域就变得越大,其中通过成像不可能找到正确的向量。由于所有的候选向量将有一个大的SAD值,求最小值很少选择某一个意味着结果向量场几乎不可能正确的候选向量。
类似地,从图3中我们可以知道对于裸露区域来说,如果我们将参考位置α定为0,会导致一个清楚的运动估算,换句话说我们将块从后来的图像投影到了过去的图像。对于固定的运动如果我们将参考位置α放在中间(例如α为0.5),则没有误差产生。判定一个区域是覆盖区域或裸露区域可以根据从以前计算的向量场中的向量边缘的任何一边获得的运动向量的XE分量的差的符号来作出。
本发明基于在例如覆盖的情况下的理解,存在于后来图像的封闭区域中和周围的所有象素块也可以在过去的图像中找到,然而,在过去的图像中有额外块,其并不存在于后来的图像中,因为他们被覆盖了。用于块匹配的参考位置放置的一个自然位置在后来的图像的临时位置,以后对于所有封闭区域中或周围的块来说,原则上都可以找到一个正确的运动向量。
从发生覆盖的区域的观测数据中作出改进,正确的运动向量可以仅以使用α=1的估算器来估算。类似地,对于裸露区域只以使用α=0的估算器来查找正确的向量。
计算用于中间临时场合的向量的向量估算器在覆盖和裸露时都有困难,最坏的情形是模糊区域比对于极限估算器还小。(最坏的情形是模糊区域对于使用α=0.5的估算器是最小的)。图2和3列举了在模糊区域尺寸上α的结果。
第1步是改进用于覆盖和裸露位置的块匹配器,不管对于插入的图像的α所需的值,在由覆盖/裸露检测器指示为一个覆盖区域的情况下将等式5变换为: ∈ c ( C → , X → , n ) = Σ x → ∈ B ( x → ) | F ( x → - C → , n - 1 ) - F ( x → , n ) | - - - - ( 6 ) 例如在WO00/11863中所述的,以及在裸露的情况下将等式5变换为: ∈ c ( C → , X → , n ) = Σ x → ∈ B ( x → ) | F ( x → , n - 1 ) - F ( x → + C → , n ) | - - - - ( 7 )
在非封闭区域我们例如取α=0.5,并将块从过去的和后来的图像双向投影到参考块位置,即在临时位置插入的图像中比较他们。对于覆盖块我们取α=1,并将在后来图像中的一个块在其自己的位置与一个从过去的图像中用候选运动向量获取的块进行匹配。在图像的裸露区域我们取α=0,换句话说我们将过去图像中的块与后来图像中的块相匹配。
有多种检测封闭或更具体的覆盖和裸露区域的方式。
覆盖/裸露检测器可以使用一个以前的向量场,或当前向量场的一个以前的计算结果(迭代),或使用基于两个相邻图像间计算的匹配误差的估算的方法。
一种优选的覆盖/裸露检测器要考虑速度的符号。如果例如相邻的速度互相指向我们知道覆盖肯定会发生。因此其他情形可以分析并总结如下:
VU-VD>δ(覆盖)
VU-VD<-δ(裸露)
其中VU为速度边缘XE,VD为低于边缘的速度,并且δ为一个较小的常量以避免噪声检测。这种方法及其稳固,因为它不依靠向量的具体数值。该方法将总是在边缘的任何一边具有或多或少的正确的向量值,即使该值是不正确的,它们的差仍是正确的。其次围绕预定边缘的一个很大的区域为“受保护的”,因为对覆盖及裸露分别的估算就像在前景FG区域如模糊三角形外部中的传统的估算(等式7)。这提供了对边缘XE的位置偏移的坚决反对。
从转换α到0或1获得的优点,就是没有错误的向量从求最小化中产生,但是付出的代价是获得的向量不总是在正确的块位置。例如前景FG边缘(向量从背景BG改变为前景FG速度的块位置)在位置XE处被找到,代替其实际位置U(见图2,图3)。这是由于匹配的时间不正确(例如α=0代替α=0.5)。
事实上获得的向量场在任何单计时时机都是无效的,但在三个不同的计时时机,取决于在图像中的位置,因此这种方法称为“三临时运动估算器”。通常向量场必须被重计时到所需的中间位置(例如α=0.5)。在一个序列的具体情况中,前景FG目标是固定的,背景BG移到其后面,三临时向量场的无重计时是必要的,因为前景FG边缘并不移动(XE=U)。这种情况经常发生在摄像者跟踪主要目标处的膜材料中。
由于所计划的修改,对于运动估算器没有任何模糊,尽管我们牺牲了其中向量场为有效的正确的临时场合。
在算法的第二步中,重计时器,时间误差是被校正的。为此,向量场被‘投影’到所需的临时场合,例如在覆盖的时候向后投影: D * ( x → , n - 1 + α ) = D ( x → + ( 1 - α ) D → ( x → , n ) , n ) - - - - ( 8 ) 在裸露时向前投影: D * ( x → , n - 1 + α ) = D ( x → - α D → ( x → , n - 1 ) , n - 1 ) - - - - ( 9 )
这种投影重新引入模糊区域,例如没有向量被指入的区域。这一模糊区域的起源是以一种估算不知道不连续性是否沿着图2中的线“a”或“b”移动,因此从例如在不连续性上的位置 获取的向量是背景向量,其应放在向上转换的向量场中的该位置,这是很重要的。在前一向量场的帮助下,可能判断两个可能的向量边缘的哪一个移动,及哪一个是背景哪一个是前景速度。
重计时器执行以下动作,它确定重计时发生在哪儿。它查找一个速度边缘XE并围绕该边缘标记一个足够宽的封闭区域。第二它计算应该校正多少个块,通过将前景FG速度舍入到块精度。第三确定应该使用哪个重计时器校正动作。
此外重计时器在时间n-1+α通过从向量边缘
Figure A0180129900111
投影前景速度到清楚向量场来确定向量场中模糊区域的起始位置
Figure A0180129900112
。一个小的求精会导致中间向量场中的边缘的位置
Figure A0180129900113
不是从一个向量场估算的转换结果,而是作为在当前和前一向量场中的位置的加权(带α)平均值来计算。重计时器然后用前景或背景速度来填充
Figure A0180129900114
Figure A0180129900115
之间的空间,依靠前景区域( 的左或右)的边和前景速度的符号。对于这一工作策略,需要一种坚固的前景/背景判定策略。
制造了有八种不同的重计时器,取决于:
1、覆盖与裸露之比
2、前景FG速度的符号
3、背景FG是在速度边缘XE的哪一边。如图4中所示,其中作为一个例子用于中间图像的α=0.5。
图4的第一上部分涉及覆盖、边缘底部的前景FG和前景FG速度VFG<0的情况。在这种情况下,两个前景FG块应当被背景BG块替代(填充BG)。图4的第二上部分涉及覆盖、前景FG速度VFG>0和边缘底边的前景FG。只有一个背景BG块应当由前景FG块替代(填充前景FG)。图4的第三上部分涉及裸露、前景速度VFG<0及边缘底边的前景FG。在这种情况下只有一个背景BG块应当由一个前景FG块替代(填充前景FG)。图4的第四上部分涉及裸露、前景速度VFG>0及边缘底边的前景FG。在这种情况下只有一个前景FG块应当由一个背景BG块替代(填充背景BG)。图4的第一下部分涉及覆盖、前景FG速度VFG<0和边缘底边的背景BG。只有一个背景BG块应当由一个前景FG块替代(填充前景FG)。图4的第二下部分涉及覆盖、前景FG速度VFG>0和边缘底边的背景FG。只有一个前景FG块应当由背景BG块替代(填充背景BG)。图4的第三下部分涉及裸露、前景速度VFG<0及边缘上边的前景FG。在这种情况下只有一个前景FG块应当由背景BG块替代(填充背景BG)。图4的第四下部分涉及裸露,边缘顶边的前景FG及前景速度VFG>0。在这种情况下只有有一个背景BG块应当由一个前景FG块替代(填充前景FG)。请注意在图4的例子中中间图像在n+1/2,但很明显中间图像可以在距离前一图像α的位置,其中α可以改变。
重计时器需要知道围绕目标边缘的哪一个速度是前景哪一个是背景。借助于一个以前的运动向量场可以确定哪一个目标区域或速度属于前景哪一个属于背景。一个背景块是用于灰值象素和相关的速度向量在覆盖下消失的块。在前景/背景检测器中使用向量的一致性,因为它们被判定生成比基于约数的象素简化的更可靠的约数。
在图5所示的第一策略中,平均向量前景/背景判定,我们使用任意向量,其中k小于1,并且
Figure A0180129900122
Figure A0180129900123
为前景和背景目标在位置
Figure A0180129900124
处的速度,在覆盖情况下从前一向量场获取背景速度,在裸露情况下获取前景速度。使用的最安全的向量是平均向量
Figure A0180129900125
。更正规地,对于覆盖我们计算在前一图像对中的边缘的两个可能的
Figure A0180129900126
及在向量场n中的位置
Figure A0180129900128
的垂直边缘: x → a = x → E + D → ( x → - 1 0 , n ) x → b = x → E + D → ( x → + 1 0 , n ) - - - - ( 10 )
并获取存在于模糊区域前一向量场(覆盖)中的中间位置的向量: D → a ( x → , n ) = D → ( x → a + x → b 2 , n - 1 ) - - - - ( 11 )
如果我们需要填充插补向量场的模糊区域中的前景向量,我们在 中选择一个最不同于 的值。
该第一策略的一个变化形式是从后来的图像中获取用于裸露的背景向量: D → a ( x → , n ) = D → ( x → a + x → b 2 , n ) - - - - ( 12 )
同时: x → a = x → 1 - D → ( x → - 1 0 , n - 1 ) x → b = x → 1 + D → ( x → + 1 0 , n - 1 ) - - - - ( 13 )
第二策略(见图6),双边自速前景/背景判定,对于裸露使用,以背景速度投影到过去的图像的位置具有比以
Figure A0180129900132
投影要高的朝向前景区域的交叉可能性。当出现小的相对速度 或不正确估算向量场的情况时这是很有趣的。因为我们不知道先验哪一个速度是背景速度,我们以其自己的速度
Figure A0180129900134
投影两个位置在边缘的任一边。正如我们看到的理想情形,较低速度从在n中的背景速度变到n-1中的前景速度。在n的前景中的一块投影到n-1中的前景的可能性是很高的,以致对于实际原因我们会考虑它作为1。所有其他可能的判定结果如表1中所示。
表1
上块实际为: 前景 背景
上块判定结果 FG FG或BG
下块判定结果 FG或BG FG
在两种投影产生相同(前景)的向量的情况下,我们有一个确定的判定。如果该向量等于上块的向量,则该向量为前景速度向量,反之亦然。在向量不同时,此方法不能成功,并产生一个不确定的判定。对于覆盖的情形可以使用一种类似的向后来的图像映射。
第三策略(见图7),边缘投影前景/背景判定,检查例如覆盖前一图像n中的
Figure A0180129900136
之间的边缘是否在存在于位置a或b(见图2)。如果在位置a检测到该边缘,则
Figure A0180129900137
,反之亦然。应当注意n-1中的速度与n中的相同,由于在投影的邻近区域可能出现其他速度边缘。显然背离用裸露替代覆盖、用后来替代过去而使用的原则。
应当注意通过插入匹配误差可以增强策略。当出现前景区域的一个交叉时,在该块中向量的匹配误差会降低。当我们投影到一个背景区域,该区域错误地分配一个前景向量到前一个图像中时,误差会比较高。
在图8中表示根据本发明一个实施例的用于在前一个和下一个图像间的临时中间位置检测运动的一个设备。该设备包括装置1,用于对候选向量的准则函数进行优化,该函数取决于来自前一个和下一个图像中的数据。这种优化装置可以如G.de Haan,P.W.A.C.Biezen,H.Huygen及O.A.Ojo的论文“3维递归搜索块匹配的实际运动估算”,发表于用于视频技术的电路和系统上的IEEE Tr.,第3卷,1993年10月,第368-388页描述的来实现。将一个图像信号J用于对候选向量的准则函数进行优化的装置1的输入,而在装置1的输出可以得到一个运动向量MV。
所述图像信号E也提供给用于检测覆盖/裸露区域的装置2,其输出与用于优化候选向量的准则函数的装置1相连。所述用于检测覆盖/裸露区域的装置2可以是例如WO00/1863中公开的。
用于优化候选向量的准则函数的置1提供有开关装置,由用于检测覆盖/裸露区域的装置2控制,在非覆盖和非裸露区域的临时中间位置执行装置1的优化,反之在覆盖区域的下一图像的临时位置和在裸露区域的前一图像的临时位置执行优化。
前一图像通过分数α乘以候选向量来转换,下一图像通过1-α乘以候选向量来转换,分数α可以在图像周期内改变。上述准则函数是极小化的一个匹配误差。所述匹配误差也是分数α的一个函数。
用于优化匹配误差的装置设置成分数α由匹配过程中的覆盖/裸露检测器控制。最好在覆盖情况下设置分数α为1,在裸露情况下设置为0。
用于检测覆盖/裸露区域的装置2选定前一图像中的数据为当前估算中的分数α。
图像信号J还应用到前景/背景检测器4,其输出控制重计时器3。重计时器3的输出与用于优化准则函数的装置1相连。
重计时器3确定图像信号中的速度边缘XE,并围绕所述边缘标记一个封闭区域。该重计时器3根据该封闭为一个覆盖或裸露区域、前景速度的符号和前景在速度边缘XE的哪一边来控制用于优化的装置1以便在所述封闭区域中用背景速度替代前景速度或者由前景速度替代背景速度。
在图9中示出了根据本发明的前景/背景检测器的一个实施例。该检测器包括提供图像信号J给其的计算装置5和6,用于执行速度边缘的位置 的计算。计算装置5通过在边缘的一边通过第一向量转换
Figure A0180129900142
来计算前一(覆盖)或下一(裸露)图像的第一位置
Figure A0180129900151
,计算装置6通过在边缘的另一边通过第二向量转换 来计算前一(覆盖)或下一(裸露)图像的第二位置 。前一或下一图像的选择通过覆盖/裸露检测器7来执行,很明显对于这种检测器可以使用图1中的用于检测覆盖/裸露区域的装置2。
计算装置5和6的输出与计算装置8的输入相连,计算
Figure A0180129900154
Figure A0180129900155
之间的第三中间位置。
图9中的前景/背景检测器还提供有获取装置9,其一个输入与用于计算第三位置的装置8的输出相连,另一个输入提供有图像信号J。从获取装置9的输出可以得到背景速度VBG。获取装置9从前一(覆盖)或下一(裸露)图像中获取第三位置背景向量速度。该向量被填充在边缘环境中图像的那些区域,没有向量被投影,在背景向量 应当被填充而在
Figure A0180129900158
之间选择了最不同于
Figure A0180129900159
的向量来填充的情况,在一个前景向量 应当被填充的情况。根据另一个确立,第三中间位置为
前景/背景检测器的另一实施例如图10所示。该检测器包括投影装置10,11其输入提供有图像信号J。这些投影装置10,11由覆盖/裸露检测器12控制,该检测器也提供有图像信号J。所述检测器12可以由图1所示的用于检测覆盖和覆盖区域的装置2替代。覆盖/裸露检测的控制操作为投影装置10投影速度边缘的一边的位置到前一(覆盖)或下一(裸露)图像,投影装置11投影速度边缘的另一边的位置到前一(覆盖)或下一(裸露)图像。识别装置14与投影装置10和11相连,在其输出可以获得背景速度
Figure A01801299001512
和前景速度 。该识别装置14识别作为一种穿过速度不连续性并投影到前一图像中的一个前景速度的速度,反之一个前景速度投影到其自身。
更可取地,一个检查装置13与投影装置10,11相连,该装置检查两个投影是否产生相同的向量。如果是,识别确定。
在图11中示出了前景/背景检测器的又一实施例。该检测器也由覆盖/裸露检测器17控制,其也可以由图1中用于检测覆盖/裸露区域的装置2替代。在图11的检测器中一个图像信号J被提供给投影装置16的输入,其在覆盖裸露检测器的控制下投影不连续性到填充在覆盖位置的前一向量和裸露位置的后来的向量场。此外,提供了用于确定不连续性一边的速度的装置18和用于确定不连续性另一边的速度的装置19。装置18和19输出的确定速度提供给测试装置20。所述测试装置20与用于检测边缘是否通过在不连续性一边的第一向量移动或通过不连续性另一边的第二向量移动的投影装置16相连。检测装置20发送背景向量
Figure A0180129900161
,如果不连续性以第一(第二)向量移动,其背景向量为第二(第一)向量。
此外填充装置与测试装置20相连,该填充装置填充第一(第二)向量在不连续性环境中投影向量场的那些区域,没有向量被投影,在一个前景向量应当被填充而填充了其他向量的情况,在一个背景向量应当被填充的情况下。
图12表示一种图像显示装置。该装置包括一个用于检测前一和下一图像间的临时中间位置的运动向量的装置21。一个图像信号J被提供给装置21,也提供给用于在前一和下一图像间插入图像部分的装置22。在装置21的输出检测的运动向量被提供给插入装置22的输入。插入装置22的输出用于阴极射线管23。用于检测一个运动向量的装置可以根据上述装置之一来实现。

Claims (25)

1.用于检测在前一个和下一个图像间的临时中间位置的运动的方法,其中用于候选向量的准则函数被优化,所述函数取决于来自前一个和下一个图像中的数据,并且其中优化是在非覆盖和非裸露区域中的临时中间位置进行的,其特征在于优化是在覆盖区域的下一个图像的临时位置和在裸露区域的前一个图像的临时位置执行的。
2.根据权利要求1的方法,其中前一图像通过分数α乘以候选向量来转换,下一图像通过1-α乘以候选向量来转换,分数α可以在图像周期内改变。
3.根据权利要求1的方法,其中准则函数是一个被最小化的匹配误差。
4.根据权利要求2的方法,其中分数α在匹配过程中由一个覆盖/裸露检测器控制。
5.根据权利要求4的方法,其中分数α在覆盖时设置为1,在裸露时设置为0。
6.根据权利要求4的方法,其中覆盖/裸露检测器选定前一图像中的数据为当前估算中的分数。
7.根据权利要求1的方法,其中确定一个速度边缘XE,围绕所述边缘标记一个封闭区域,并且在所述区域中根据该封闭区域是覆盖/裸露区域、前景速度的符号和前景在速度边缘XE的哪一边来由背景速度替代前景速度或正好相反。
8.根据权利要求7的方法,其中在速度边缘的位置
Figure A0180129900021
●在边缘的一边通过第一向量转换
Figure A0180129900022
来计算前一(覆盖)或下一(裸露)图像的第一位置
Figure A0180129900023
●在边缘的另一边通过第二向量转换
Figure A0180129900024
来计算前一(覆盖)或下一(裸露)图像的第二位置
●计算
Figure A0180129900026
Figure A0180129900027
之间的第三中间位置
●最后,在前一(覆盖)或下一(裸露)图像中的第三位置用 获取的向量被填充在边缘环境中图像的那些区域,没有向量被投影,在背景向量 应当被填充而在
Figure A01801299000210
之间选择了最不同于
Figure A01801299000212
的向量来填充的情况,在一个前景向量
Figure A0180129900031
应当被填充的情况。
9.根据权利要求8的方法,其中中间位置为
Figure A0180129900032
10.根据权利要求7的方法,其中一个背景速度被识别作为一个穿过速度不连续性并投影到前一图像中的一个前景速度的速度,反之一个前景速度投影到其自身。
11.根据权利要求7的方法,其中检测附近的边缘是否通过该边缘一边的第一向量移动,或通过该边缘的另一边的第二向量移动,在该边缘以第一(第二)向量移动时,填充第二(第一)向量在该边缘环境中投影向量场的那些区域,没有向量被投影,在一个背景向量 应当被填充而填充了其他向量的情况,在一个前景向量
Figure A0180129900034
应当被填充的情况。
12.根据权利要求10的方法,其中通过该块中向量的匹配误差来检验前一图像中从一个背景区域到一个前景区域的交叉。
13.用于检测在前一个和下一个图像间的临时中间位置的运动的装置,所述函数取决于来自前一个和下一个图像中的数据,其中优化是在非覆盖和非裸露区域中的临时中间位置进行的,其特征在于提供有用于检测覆盖/裸露区域的装置(2),并且优化是在覆盖区域的下一个图像的临时位置和裸露区域的前一个图像的临时位置进行的。
14.根据权利要求13的装置,其中前一图像通过分数α乘以候选向量来转换,下一图像通过1-α乘以候选向量来转换,分数α可以在图像周期内改变。
15.根据权利要求13的装置,其中准则函数是一个被最小化的匹配误差。
16.根据权利要求14的装置,其中分数α在匹配过程中由一个覆盖/裸露检测器控制。
17.根据权利要求16的装置,其中根据权利要求4的方法,其中分数α在覆盖时设置为1,在裸露时设置为0。
18.根据权利要求16的装置,其中覆盖/裸露检测器(2)选定前一图像中的数据为当前估算中的分数α。
19.根据前述任何一个权利要求的装置,其中确定一个速度边缘XE,围绕所述边缘标记一个封闭区域并且在所述区域中根据该封闭区域是覆盖/裸露区域、前景速度的符号和前景在速度边缘XE的哪一边来由背景速度替代前景速度或正好相反。
20.根据权利要求19的装置,其中提供有计算装置(5,6,8),用于在速度边缘的位置
●在边缘的一边通过第一向量转换 来计算前一(覆盖)或下一(裸露)图像的第一位置
●在边缘的另一边通过第二向量转换
Figure A0180129900044
来计算前一(覆盖)或下一(裸露)图像的第二位置
Figure A0180129900045
●计算
Figure A0180129900046
Figure A0180129900047
之间的第三中间位置。
●最后,在前一(覆盖)或下一(裸露)图像中的第三位置用
Figure A0180129900048
获取的向量被填充在边缘环境中图像的那些区域,没有向量被投影,在背景向量 应当被填充而在
Figure A01801299000411
之间选择了最不同于 的向量来填充的情况,在一个前景向量 应当被填充的情况。
21.根据权利要求20的装置,其中其中中间位置为
Figure A01801299000414
22.根据权利要求19的装置,其中提供了用于投影边缘的任一边的两个位置到前一(覆盖)或下一(裸露)图像的装置(10,11),其中一个背景速度被识别作为一个穿过速度不连续性并投影到前一图像中的一个前景速度的速度,反之一个前景速度投影到其自身。
23.根据权利要求19的装置,其中提供了用于检测附近边缘是否通过该边缘一边的第一向量移动,或通过该边缘的另一边的第二向量移动的装置(20),在该边缘以第一(第二)向量移动时,填充第二(第一)向量在该边缘环境中投影向量场的那些区域,没有向量被投影,在背景向量
Figure A01801299000415
应当被填充而填充了其他向量的情况,在前景向量 应当被填充的情况。
24.根据权利要求22的装置,其中提供了用于通过该块中向量的匹配误差来检验前一图像中从一个背景区域到一个前景区域的交叉的检验装置。
25.图像显示装置,包括根据权利要求13的用于检测运动的检测装置(21),与所述检测装置(21)相连用于插入图像部分的装置(22)和一个与插入装置相连的显示装置(23)。
CNB01801299XA 2000-05-18 2001-04-24 用于检测图像间的运动的方法和装置以及图像显示装置 Expired - Lifetime CN100504925C (zh)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
EP00201752.3 2000-05-18
EP00201752 2000-05-18
EP01200560.9 2001-02-16
EP01200560 2001-02-16

Publications (2)

Publication Number Publication Date
CN1381024A true CN1381024A (zh) 2002-11-20
CN100504925C CN100504925C (zh) 2009-06-24

Family

ID=26072246

Family Applications (1)

Application Number Title Priority Date Filing Date
CNB01801299XA Expired - Lifetime CN100504925C (zh) 2000-05-18 2001-04-24 用于检测图像间的运动的方法和装置以及图像显示装置

Country Status (6)

Country Link
US (1) US7010039B2 (zh)
EP (1) EP1287492A2 (zh)
JP (1) JP2003533800A (zh)
KR (1) KR100840133B1 (zh)
CN (1) CN100504925C (zh)
WO (1) WO2001088852A2 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107942095A (zh) * 2017-11-15 2018-04-20 哈尔滨工程大学 波浪滑翔器实际航向预测方法

Families Citing this family (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2003017649A1 (en) * 2001-08-20 2003-02-27 Koninklijke Philips Electronics N.V. Image size extension
WO2003041416A1 (en) * 2001-11-07 2003-05-15 Koninklijke Philips Electronics N.V. Occlusion detector for and method of detecting occlusion areas
WO2003067523A2 (en) * 2002-02-05 2003-08-14 Koninklijke Philips Electronics N.V. Estimating a motion vector of a group of pixels by taking account of occlusion
EP1481546A1 (en) 2002-02-28 2004-12-01 Koninklijke Philips Electronics N.V. Method and apparatus for field rate up-conversion
KR101135454B1 (ko) * 2003-09-02 2012-04-13 엔엑스피 비 브이 특정 이미지의 특정 픽셀 값 결정 방법, 픽셀 값 결정 유닛, 이미지 처리 장치 및 컴퓨터 판독 가능한 저장 매체
EP1665806A1 (en) * 2003-09-17 2006-06-07 Koninklijke Philips Electronics N.V. Motion vector field re-timing
EP1583364A1 (en) * 2004-03-30 2005-10-05 Matsushita Electric Industrial Co., Ltd. Motion compensated interpolation of images at image borders for frame rate conversion
TW200607355A (en) 2004-05-04 2006-02-16 Qualcomm Inc Method and apparatus for motion compensated frame rate up conversion for block-based low bit rate video
EP1774779A2 (en) 2004-07-01 2007-04-18 QUALCOMM Incorporated Method and apparatus for using frame rate up conversion techniques in scalable video coding
WO2006012384A2 (en) 2004-07-20 2006-02-02 Qualcomm Incorporated Method and apparatus for encoder assisted-frame rate up conversion (ea-fruc) for video compression
US8553776B2 (en) 2004-07-21 2013-10-08 QUALCOMM Inorporated Method and apparatus for motion vector assignment
US20090251612A1 (en) * 2005-10-24 2009-10-08 Nxp B.V. Motion vector field retimer
EP1950964A4 (en) * 2005-11-07 2012-05-16 Sharp Kk IMAGE DISPLAY DEVICE AND METHOD
CN101313596B (zh) 2005-11-23 2011-01-26 皇家飞利浦电子股份有限公司 为多视图显示设备呈现视图
CN101322409B (zh) * 2005-11-30 2011-08-03 三叉微系统(远东)有限公司 运动矢量场校正单元和校正方法以及图像处理设备
US8634463B2 (en) 2006-04-04 2014-01-21 Qualcomm Incorporated Apparatus and method of enhanced frame interpolation in video compression
US8750387B2 (en) 2006-04-04 2014-06-10 Qualcomm Incorporated Adaptive encoder-assisted frame rate up conversion
EP2011334A2 (en) 2006-04-19 2009-01-07 Nxp B.V. Method and system for creating an interpolated image
WO2008032744A1 (fr) * 2006-09-15 2008-03-20 Panasonic Corporation Dispositif de traitement vidéo et procédé de traitement vidéo
KR100855976B1 (ko) * 2007-02-02 2008-09-02 삼성전자주식회사 배경과 이동 객체를 분리하여 움직임을 추정하는 프레임보간 장치 및 프레임 보간 방법
DE102007015002A1 (de) 2007-03-28 2008-10-02 Micronas Gmbh Iteratives Verfahren zur Interpolation von Bildinformationswerten
JP5657391B2 (ja) * 2007-12-20 2015-01-21 クゥアルコム・インコーポレイテッドQualcomm Incorporated ハローを低減する画像補間
US20100013992A1 (en) * 2008-07-18 2010-01-21 Zhi Zhou Method and system for detecting motion at an intermediate position between image fields
US20100201870A1 (en) * 2009-02-11 2010-08-12 Martin Luessi System and method for frame interpolation for a compressed video bitstream
WO2010091937A1 (en) 2009-02-12 2010-08-19 Zoran (France) Temporal video interpolation method with 2-frame occlusion handling
US8588553B2 (en) 2009-02-12 2013-11-19 Zoran (France) S.A. Scaling method and device for image signals
WO2010091934A1 (en) 2009-02-12 2010-08-19 Zoran (France) Video sequence analysis for robust motion estimation
KR20110022133A (ko) * 2009-08-27 2011-03-07 삼성전자주식회사 영상의 움직임 추정방법 및 영상처리장치
TR200909120A2 (tr) * 2009-12-04 2011-06-21 Vestel Elektroni̇k San. Ve Ti̇c. A.Ş. Hareket vektör alani yeni̇den zamanlandirma yöntemi̇@
US8233085B1 (en) 2009-12-08 2012-07-31 Kolorific, Inc. Method and system for interpolating a pixel value of a pixel located at an on-screen display
US20110249870A1 (en) * 2010-04-08 2011-10-13 National Taiwan University Method of occlusion handling
JP2017103744A (ja) * 2015-12-04 2017-06-08 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 画像復号方法、画像符号化方法、画像復号装置、画像符号化装置、及び画像符号化復号装置
CN111325673B (zh) * 2018-12-14 2023-06-30 瑞昱半导体股份有限公司 影像处理方法与影像处理电路

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4890160A (en) * 1986-03-19 1989-12-26 British Broadcasting Corporation TV picture motion vector measurement by correlation of pictures
JPH07336650A (ja) * 1994-06-06 1995-12-22 Nippon Hoso Kyokai <Nhk> フィールド内挿方法
DE69811631T2 (de) * 1997-10-29 2003-10-30 Koninkl Philips Electronics Nv Bewegungsvektorschätzung und detektion von bedeckten/unbedeckten bildteilen
EP0936575B1 (fr) * 1998-02-17 2004-07-28 Koninklijke Philips Electronics N.V. Procédé de traitement d'images pour l'estimation de mouvement dans une séquence d'images
US6195389B1 (en) * 1998-04-16 2001-02-27 Scientific-Atlanta, Inc. Motion estimation system and methods
US6192079B1 (en) * 1998-05-07 2001-02-20 Intel Corporation Method and apparatus for increasing video frame rate
WO2000011863A1 (en) * 1998-08-21 2000-03-02 Koninklijke Philips Electronics N.V. Problem area location in an image signal
US6594313B1 (en) * 1998-12-23 2003-07-15 Intel Corporation Increased video playback framerate in low bit-rate video applications
US6480615B1 (en) * 1999-06-15 2002-11-12 University Of Washington Motion estimation within a sequence of data frames using optical flow with adaptive gradients

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107942095A (zh) * 2017-11-15 2018-04-20 哈尔滨工程大学 波浪滑翔器实际航向预测方法
CN107942095B (zh) * 2017-11-15 2019-11-26 哈尔滨工程大学 波浪滑翔器实际航向预测方法

Also Published As

Publication number Publication date
US20030206246A1 (en) 2003-11-06
JP2003533800A (ja) 2003-11-11
KR100840133B1 (ko) 2008-06-23
CN100504925C (zh) 2009-06-24
EP1287492A2 (en) 2003-03-05
WO2001088852A3 (en) 2002-06-20
WO2001088852A2 (en) 2001-11-22
KR20020020939A (ko) 2002-03-16
US7010039B2 (en) 2006-03-07

Similar Documents

Publication Publication Date Title
CN1381024A (zh) 用于减少在mc向上转换中的晕圈的运动估算器
US5748247A (en) Refinement of block motion vectors to achieve a dense motion field
WO1997022083A1 (en) Method and apparatus for motion estimation in a video signal
KR20050084442A (ko) 세그먼트 기반 움직임 추정
CN1846445A (zh) 基于遮蔽检测对像素的时间插值
WO2002087210A2 (en) Method and apparatus for motion vector estimation
CN1925614A (zh) 快速运动估计方法
KR20040105866A (ko) 움직임 추정 유닛 및 움직임 벡터 추정 방법
KR20050089886A (ko) 배경 움직임 벡터 검출
CN1853416A (zh) 运动矢量场的再定时
CN101444094A (zh) 用于对输入图像序列的先前和后继图像插值的方法
CN1671202A (zh) 使用迭代质心的健壮的摄像机摇摄向量估计
CN101197995A (zh) 一种边缘自适应的去隔行插值方法
US20050180506A1 (en) Unit for and method of estimating a current motion vector
Orchard Exploiting scene structure in video coding
CN1565118A (zh) 用于运动估计的装置和方法
WO1993017525A1 (en) Motion compensated video image processing
CN101322409B (zh) 运动矢量场校正单元和校正方法以及图像处理设备
US20050226462A1 (en) Unit for and method of estimating a motion vector
CN1636406A (zh) 移动估计的单元和方法以及装备有此类移动估计单元的图像处理设备
CN1628326A (zh) 通过考虑闭塞估算像素组的运动矢量
US8102915B2 (en) Motion vector fields refinement to track small fast moving objects
JPH09182077A (ja) 画像符号化方法および画像符号化装置
CN1228987C (zh) 分段匹配中的优先顺序划分
CN1817036A (zh) 运动补偿图像信号内插

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C41 Transfer of patent application or patent right or utility model
TA01 Transfer of patent application right

Effective date of registration: 20090109

Address after: Holland Ian Deho Finn

Applicant after: Koninkl Philips Electronics NV

Address before: Holland Ian Deho Finn

Applicant before: Koninklijke Philips Electronics N.V.

ASS Succession or assignment of patent right

Owner name: NXP CO., LTD.

Free format text: FORMER OWNER: KONINKLIJKE PHILIPS ELECTRONICS N.V.

Effective date: 20090109

C14 Grant of patent or utility model
GR01 Patent grant
ASS Succession or assignment of patent right

Owner name: TRIDENT MICROSYSTEMS (FAR EAST)CO., LTD.

Free format text: FORMER OWNER: KONINKL PHILIPS ELECTRONICS NV

Effective date: 20100819

C41 Transfer of patent application or patent right or utility model
COR Change of bibliographic data

Free format text: CORRECT: ADDRESS; FROM: EINDHOVEN, NETHERLANDS TO: CAYMAN ISLANDS, GRAND CAYMAN ISLAND

TR01 Transfer of patent right

Effective date of registration: 20100819

Address after: Grand Cayman, Cayman Islands

Patentee after: Trident Microsystems (Far East) Ltd.

Address before: Holland Ian Deho Finn

Patentee before: Koninkl Philips Electronics NV

ASS Succession or assignment of patent right

Owner name: ENTROPY COMMUNICATION CO., LTD.

Free format text: FORMER OWNER: TRIDENT MICROSYSTEMS (FAR EAST) LTD.

Effective date: 20130218

C41 Transfer of patent application or patent right or utility model
TR01 Transfer of patent right

Effective date of registration: 20130218

Address after: American California

Patentee after: Entropic Communications, Inc.

Address before: Grand Cayman, Cayman Islands

Patentee before: Trident Microsystems (Far East) Ltd.

TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20180703

Address after: American Minnesota

Patentee after: Dynamic data technology limited liability company

Address before: American California

Patentee before: Entropic Communications, Inc.

CX01 Expiry of patent term
CX01 Expiry of patent term

Granted publication date: 20090624