JP2005522762A - 動き推定ユニット及び動きベクトル推定方法 - Google Patents
動き推定ユニット及び動きベクトル推定方法 Download PDFInfo
- Publication number
- JP2005522762A JP2005522762A JP2003582712A JP2003582712A JP2005522762A JP 2005522762 A JP2005522762 A JP 2005522762A JP 2003582712 A JP2003582712 A JP 2003582712A JP 2003582712 A JP2003582712 A JP 2003582712A JP 2005522762 A JP2005522762 A JP 2005522762A
- Authority
- JP
- Japan
- Prior art keywords
- motion vector
- pixel
- motion
- block
- estimation unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/553—Motion estimation dealing with occlusions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/223—Analysis of motion using block-matching
- G06T7/238—Analysis of motion using block-matching using non-full search, e.g. three-step search
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
- H04N19/96—Tree coding, e.g. quad-tree coding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Image Analysis (AREA)
Abstract
一連の画像のうちの画像の画素グループついての動きベクトルを推定する動き推定ユニットであって、画素グループについて一組の動きベクトル候補を生成する生成手段と、一組の動きベクトル候補の各動きベクトル候補についての適合誤差を計算する適合手段と、適合誤差に基づいて、画素グループについての動きベクトルとして動きベクトル候補のうちの第1の動きベクトル候補を選択する選択手段と、画素グループを、画素サブグループに分割しなければならないか否かを試験する試験手段を有し、画素サブグループについて、各更なる動きベクトルが、画素グループについて動きベクトルを推定するのと同様に推定されなければならず、試験は、一連の画像の特定の動きベクトルに関する尺度に基づいている。
Description
本発明は、一連の画像のうちの画像の画素グループについての動きベクトルを推定する動き推定ユニットに係る。
本発明は更に、
−処理される一連の画像を表す信号を受信する受信手段と、
−一連の画像のうちの画像の画素グループについての動きベクトルを推定する動き推定ユニットと、
−動き推定ユニットによって制御され、一連の画像を処理する動き補償された画像処理ユニットと、を有する画像処理装置に係る。
−処理される一連の画像を表す信号を受信する受信手段と、
−一連の画像のうちの画像の画素グループについての動きベクトルを推定する動き推定ユニットと、
−動き推定ユニットによって制御され、一連の画像を処理する動き補償された画像処理ユニットと、を有する画像処理装置に係る。
本発明は更に、一連の画像のうちの画像の画素グループについての動きベクトルを推定する方法に係る。
2D動き推定は、2つの連続画像
2D動き推定は、以下の問題を有する。
−解の存在:いわゆる非カバー領域に位置付けられる画像の一部については対応を確立することができない。このことは、「オクルージョン問題(occlusion problem)」として知られている。
−解の一意性:動きは、空間画像勾配に直交してのみ決定可能である。このことは、開口問題(aperture problem)」として知られている。
−解の連続性:動き推定は、画像中のノイズの存在に非常に敏感である。
−解の存在:いわゆる非カバー領域に位置付けられる画像の一部については対応を確立することができない。このことは、「オクルージョン問題(occlusion problem)」として知られている。
−解の一意性:動きは、空間画像勾配に直交してのみ決定可能である。このことは、開口問題(aperture problem)」として知られている。
−解の連続性:動き推定は、画像中のノイズの存在に非常に敏感である。
動き推定の不良設定の性質によって、2D動きベクトル場の構造についての仮定が必要とされる。一般的なアプローチは、動きベクトルが、1つの画素ブロックに対し一定である、即ち、ブロックにおける一定動きのモデルと仮定することである。このアプローチは、かなり上出来で、例えば、MPEG符号化及びスキャンレートアップコンバージョンに用いられる。一般的に、ブロックの寸法が所与のアプリケーションについて一定であり、例えば、MPEG−2について、ブロックサイズは16×16であり、スキャンレートアップコンバージョンについては8×8である。このことは、以下の制約をもたらす。
所定のブロックサイズの選択は、空間精度を取るかロバスト性を取るかの問題となる。大きいブロックサイズについては、動き推定は、ノイズにあまり敏感ではなく、また、「開口」はより大きく、従って、「開口問題」は低減される。従って、大きいブロックサイズは、3つの問題のうち2つの問題の影響は低減する。しかし、大きいブロックサイズは、空間精度を低減してしまう。即ち、1つの動きベクトルが、そのブロックの全ての画素に対し割当てられてしまう。空間精度とロバスト性の間で折り合いをつけるために、可変ブロックサイズを用いることが提案されている。冒頭段落に記載したような種類の動き推定ユニットの実施例は、米国特許第5,477,272号から公知である。この特許には、トップダウン動き推定方法、即ち、最大ブロックから開始する方法が記載される。動きベクトルは、最初に、最高レイヤについて計算され、これは、次のレイヤのための初期推定値となり、以下同様に続けられる。動きベクトルは、可能な限り最小のブロックサイズを含む全てのブロックについて計算される。従って、この方法は、計算の面で比較的高価である。
本発明は、画像の可変サイズの画素グループについての動きベクトル場を供給し、比較的低い計算リソース使用を有する冒頭段落に記載したような種類の動き推定ユニットを提供することを目的とする。
本発明のこの目的は、一連の画像のうちの画像の画素グループついての動きベクトルを推定する動き推定ユニットにおいて達成され、この動き推定ユニットは、画素グループについて一組の動きベクトル候補を生成する生成手段と、一組の動きベクトル候補の各動きベクトル候補についての適合誤差を計算する適合手段と、適合誤差に基づいて、画素グループについての動きベクトルとして動きベクトル候補のうちの第1の動きベクトル候補を選択する選択手段と、画素グループを、画素サブグループに分割しなければならないか否かを試験する試験手段を有し、画素サブグループについて、各更なる動きベクトルが、画素グループについて動きベクトルを推定するのと同様に推定されなければならず、試験は、一連の画像の特定の動きベクトルに関する尺度に基づいている。
この動き推定ユニットは、例えば、32×32画素の比較的大きい画素グループについて最初は動きベクトルを推定するよう設計される。そのグループについての動きベクトルが推定された後、その動きベクトルが、画素グループ全体を代表するか否かが確認される。代表しない場合は、その画素グループは、サブグループに分割される。分割後、そのサブグループについても、生成手段、適合手段、及び選択手段を適用することによって、動きベクトルが推定される。試験結果が肯定的な結果である場合は、即ち、特定の動きベクトルが適切である場合は、その画素グループは、分割されず、推定された動きベクトルがその画素グループの画素に割当てられる。この場合、更なる動き推定段階は必要とされず、従って、追加の計算リソース使用を必要としない。
本発明による動き推定ユニットの1つの実施例では、特定の動きベクトルは、動きベクトル候補の第1の動きベクトル候補である。試験に用いられる尺度は、最良に適合する動きベクトルとして選択された動きベクトル候補に関連することが好適である。
本発明による動き推定ユニットの1つの実施例では、画素グループは、画素ブロックに対応し、画素サブグループは、各画素サブブロックに対応する。画素グループは、画像の任意の形状部分を形成し得るが、画素グループは、画素ブロックに対応することが好適である。これは、動き推定ユニットの設計に有利である。
本発明による動き推定ユニットの1つの実施例では、試験手段は、画素サブブロックの第1の画素サブブロックを更なる画素サブブロックに分割しなければならないか否かを試験するよう設計され、更なる画素サブブロックについて、各別の動きベクトルが、画素ブロックについて推定される動きベクトルと同様に推定されなければならない。画像をブロックに分割すること、また、ブロックをサブブロックに分割すること等は、再帰的に繰り返される。様々なブロック及びサブブロックについて動きベクトルが計算される。
本発明による動き推定ユニットの1つの実施例では、適合手段は、画素ブロックの画素値と、一連の画像の別の画像の更なる画素ブロックの各更なる画素値との間の絶対差の合計に対応する、動きベクトルの適合誤差を計算するよう構成される。この適合誤差は、比較的ロバスト性があり、比較的少ない計算リソース使用で計算されることが可能である。候補動きベクトル
本発明による動き推定ユニットの1つの実施例では、特定の動きベクトルに関する尺度は、動きベクトルと、画素ブロックの付近における隣接画素ブロックについて推定される隣接動きベクトルとの差に基づいている。この実施例では、分割は、ベクトル場不整合性VIに基づいている。このことは、動きベクトルが、所定の閾値より局所的に異なる場合には、それらの動きベクトルは捕捉されたシーンにおける同じオブジェクトに属さない、即ち、一連の画像によって表されると考えられる。その場合、そのブロックは、オブジェクトのエッジを見つけるために分割されるべきである。一方で、ブロックは、隣接画素ブロックが同じ、又は略異ならない動きベクトルを有する場合には、更に分割される必要はない。その場合、そのブロックは、同じオブジェクトに対応すると見なされる。
本発明による動き推定ユニットの1つの実施例では、特定の動きベクトルに関する尺度は、適合誤差の計算の第1の中間結果と、適合誤差の計算の第2の中間結果との差に基づいており、第1の中間結果は、画素ブロックの第1の部分に対応し、第2の中間結果は、画素ブロックの第2の部分に対応する。これらの中間結果は、サブブロックの適合誤差としても使用される。従って、コンピュータリソース使用は最小限にされる。
本発明による動き推定ユニットの1つの実施例では、試験手段は、画素ブロックの寸法に基づいて、画素ブロックを画素サブグループに分割しなければならないか否かを試験するよう設計される。ブロックが分割されるべきか否かを試験する別の基準は、ブロックの寸法である。この追加の基準は、リソース使用における柔軟性を可能にする。比較的大きい計算リソース使用が可能である場合は、分割は、細粒ブロックまで続けられ得、比較的小さい計算リソース使用が可能である場合は、分割は、粗粒ブロックまで続けられ得る。尚、他の基準、即ち、尺度の閾値を適応することによって、ブロックの粒度も制御することが可能である。
本発明による動き推定ユニットの1つの実施例では、一組の画素サブブロックを、結合画素ブロックにまとめ、また、一組のサブブロックのうちのサブブロックに対応する更なる動きベクトルのうちの第1の動きベクトルを選択することによって、結合画素ブロックに新しい動きベクトルを割当てる結合ユニットを有する。隣接ブロックは、互いに等しい動きベクトルを有するか、又は、それらの動きベクトル間の差が所定閾値以下である場合にまとめられる。この結合の利点は、動きベクトルの数が少なくなるので、動きベクトルの格納のためのメモリ削減が達成される点である。
本発明による動き推定ユニットの1つの実施例では、試験手段を制御するオクルージョン検出器を有する。オクルージョン検出器を適用する利点は、オブジェクトの境界が、オクルージョン検出器によって計算されたオクルージョンマップから抽出することが可能な点である。ブロックの分割は、オブジェクトの境界の付近では関連があり、オブジェクトの中ではそれほど関連がない。従って、試験手段を制御するためにオクルージョン検出器を適用することは有利であり、というのは、計算リソース使用が削減されるからである。任意選択的に、1つの画像に対して決定されたオクルージョンマップは、一連の画像のうちの次の画像に用いられる。
本発明による動き推定ユニットの1つの実施例は、正規化された適合誤差を計算するよう構成される。正規化された適合誤差を適用する利点は、動き推定のロバスト性にある。更に、適合誤差は、画素ブロックが分割されなければならないか否かの試験のための基準である。正規化によって、画像のコンテンツに対しあまり敏感でなくなるようになる。
本発明は更に、画像の可変サイズの画素グループについての動きベクトル場を供給し、比較的低い計算リソース使用を有する冒頭段落に記載したような種類の画像処理装置を提供することを目的とする。
本発明のこの目的は、処理されるべき一連の画像を表す信号を受信する受信手段と、一連の画像のうちの画像の画素グループについての動きベクトルを推定する動き推定ユニットと、動き推定ユニットにより制御され、一連の画像を処理する動き補償された画像処理ユニットを有し、動き推定ユニットは、画素グループについて一組の動きベクトル候補を生成する生成手段と、一組の動きベクトル候補の各動きベクトル候補についての適合誤差を計算する適合手段と、適合誤差に基づいて、画素グループについての動きベクトルとして動きベクトル候補のうちの第1の動きベクトル候補を選択する選択手段と、画素グループを、画素サブグループに分割しなければならないか否かを試験する手段を有し、各画素サブグループについて、各更なる動きベクトルが、画素グループについて動きベクトルを推定するのと同様に推定されなければならず、試験は、一連の画像の特定の動きベクトルに関する尺度に基づいている、画像処理装置において達成される。
この画像処理装置は、例えば、処理された画像を表示する表示装置といった追加の構成要素を有し得る。動き補償された画像処理ユニットは、1つ以上の以下に示す種類の画像処理をサポートし得る。
−ビデオ圧縮、即ち、例えば、MPEG規格による符号化又は復号化。
−デインタレーシング:インタレーシングは、奇数又は偶数番号が付けられた画像線を交互に伝送するための一般的なビデオブロードキャスト方法である。デインタレーシングは、完全な垂直解像度を復元すること、即ち、奇数及び偶数線を各画像に対し同時に利用可能にすることを試みる。
−アップコンバージョン:一連のオリジナル入力画像から、大きい一連の出力画像が計算される。出力画像は、2つのオリジナル画像の間に時間的に位置付けられる。
−時間的ノイズ削減。このことは空間処理も関連する場合があり、結果として、空間−時間ノイズ削減がもたらされる。
本発明は更に、画像の可変サイズの画素グループについての動きベクトル場を供給し、比較的低い計算リソース使用を必要とする冒頭段落に記載したような種類の方法を提供することを目的とする。
本発明のこの目的は、一連の画像のうちの画像の画素グループについての動きベクトルを推定する方法において達成され、この方法は、画素グループについて一組の動きベクトル候補を生成する段階と、一組の動きベクトル候補の各動きベクトル候補についての適合誤差を計算する段階と、適合誤差に基づいて、画素グループについての動きベクトルとして動きベクトル候補のうちの第1の動きベクトル候補を選択する段階と、画素グループを、画素サブグループに分割しなければならないか否かを試験する段階を有し、画素サブグループについて、各更なる動きベクトルが、画素グループについて動きベクトルを推定するのと同様に推定されなければならず、試験は、一連の画像の特定の動きベクトルに関する尺度に基づいている。
動き推定ユニットの変更及びその変形は、記載した方法及び画像処理装置の変更及び変形に対応する。
本発明による動き推定ユニット、方法、及び、画像処理装置の上述の及び他の面は、添付図面を参照しながら、以下に記載する実施例から明らかになり、且つ、以下に記載する実施例に関して説明する。
対応する参照番号は、全ての図面において同一の意味を有する。
図1は、本発明の方法により計算される動きベクトル場100の画素のブロック102−118を概略的に示す。この方法では、画像は、ブロック110に対応する寸法を有する多数の比較的大きいブロックに分割される。これらの比較的大きいブロックについて、動きベクトルが推定される。それに加えて、これらの動きベクトルが、相対運動(apparent motion)を記述するのに十分に良好であるか否かが試験される。特定のブロックについて、十分ではない場合、その特定のブロックは、ブロック102−108、及び112に対応する寸法を有する4つのサブブロックに分割される。図1では、このブロック102−108、及び112に対応する寸法を有する大部分のブロックに対して、推定された動きベクトルは適切であるとみなされたことが分かる。尚、4つ以外のサブブロック数にも分割することも可能である。サブブロックは更に分割されることも可能であり、例えば、サブブロック112は、例えば、114といったサブブロックに分割され、サブブロック114は更に、例えば、116及び118といったサブブロックに分割されることが可能である。
図2Aは、動き推定ユニット200の1つの実施例を概略的に示し、この動き推定ユニット200は、画素ブロックをサブブロックに分割する分割手段202を有する。最初に、画像は、例えば、32×32画素の寸法を有する多数の比較的大きいブロックに分割される。
動き推定ユニット200は更に、特定の画素ブロックに対し、一組の動きベクトル候補を生成する生成手段204を有する。この生成のために、他の画素ブロックについて推定された動きベクトルが使用される。いわゆる時間的及び/又は空間的動きベクトル候補及びランダム動きベクトル候補が使用される。この原理は、例えば、G. de Haan外による「True-Motion Estimation with 3-D Recursive Search Block Matching」(IEEE Transactions on circuits and systems for video technology、第3版、第5号、1993年10月、368−379頁)に記載される。
動き推定ユニット200は更に、一組の動きベクトル候補の各動きベクトル候補についての適合誤差を計算する適合手段208と、適合誤差を比較することによって、その特定の画素ブロックの動きベクトルとして動きベクトル候補のうちの第1の動きベクトル候補を選択する選択手段206を有する。最小適合誤差を有する候補動きベクトルが選択される。
動き推定ユニット200は更に、その特定の画素ブロックを、画素サブブロックに分割しなければならないか否かを試験する試験手段210を有する。その各画素サブブロックについて、更なる動きベクトルが、上述の特定の画素ブロックについて推定された動きベクトルと同様に推定されなければならない。試験は、選択された動きベクトルに関する尺度に基づいている。試験手段210は、分割手段202を制御するよう設計される。
動き推定ユニット200の入力コネクタ212に、一連の画像が供給される。動き推定ユニット200は、その出力コネクタ214において動きベクトルを供給する。制御インタフェース216を介して、分割に関するパラメータ、即ち、分割基準が供給されることが可能である。これらのパラメータには、ブロックの最小寸法と、選択された動きベクトルの品質に関する尺度に対する閾値が含まれる。このような尺度の2つの例を以下に説明する。これらは、「Quad−SADの分散」、即ち、
言葉で言い表すと、「ベクトル場不整合性」は、第1の所定の閾値Tsより高く、「Quad−SADの分散」は、第2の所定の閾値Tvより高い。
「ベクトル場不整合性」は、隣接動きベクトル間の差分量に関連する。「ベクトル場不整合性」の一例は、式7によって特定する。この場合、特定の動きベクトルが、4つの隣接動きベクトルと比較される。より多くの又は少ない隣接動きベクトルを用いて、「ベクトル場不整合性」を計算する別のアプローチも可能であることは明らかであろう。
式(6)に特定するような基準の背後にある基本的な考えは、最低レベル、即ち、小さいブロックサイズは、ベクトル場のエッジの付近でのみ必要とされるということである。ベクトル場におけるエッジを含む領域は、閾値Ts以上のVI値によって特徴付けられる。エッジの存在は、ブロックの一部に対する高いSAD値、及び、他の部分に対する低い値によって特徴付けられる。結果として、Quad−SADにおいてSAD値の大きいばらつきが生じる。
図2Bは、結合ユニット218を有する動き推定ユニット201の1つの実施例を概略的に示す。この動き推定ユニットの実施例は、隣接動きベクトルを比較するよう設計される。これらの動きベクトルが等しい、又は、隣接動きベクトル間の差が所定の閾値以下である場合、対応する画素ブロックは、結合画素ブロックにまとめられる。結合は、動きベクトル場が推定された後に行うことが可能であるが、或いは、結合は、動きベクトル場の作成と同時に行われ得る。
図2Cは、正規化ユニット220を有する動き推定ユニット203の1つの実施例を概略的に示す。適合誤差の正規化のためのアプローチは、出願番号01202641.5(代理人整理番号PHNL010478)を有する欧州特許出願に記載される。その特許出願には、分散VARパラメータが、画像の画素ブロックの画素値と、画像の他の画素ブロックの画素値との間の絶対差の合計によって計算されることが記載される。VARをSADと比較することにより、期待ベクトル誤差VEが決定される。このVEは、動きベクトルの品質のための尺度、推定動きベクトルの実際の動きベクトルとの間の差のための尺度である。上述の特許出願では、SAD値とVAR値が与えられて期待ベクトル誤差VEのためのモデルが導出される。即ち、
図2Dは、オクルージョン(occlusion)検出器222を有する動き推定ユニット205の1つの実施例を示す。オクルージョン検出器222は、試験手段210にオクルージョンマップを供給する。オクルージョンマップには、画像のどの範囲が、カバー領域か又は非カバー領域に対応するかが画成される。動きベクトル場に基づいてオクルージョンマップを計算する1つのアプローチは、「Problem area location in an image signal」なる名称で、WO0011863の番号で発行された特許出願中に記載される。この特許出願には、オクルージョンマップは、1つの動きベクトル場の隣接動きベクトルを比較することによって決定されると記載される。隣接動きベクトルが略等しい場合、即ち、隣接動きベクトル間の絶対差が、所定閾値以下である場合、その動きベクトルが対応する画素グループは、非カバー領域内に位置付けられているとみなされる。しかし、動きベクトルのうちの1つが、隣接動きベクトルより実質的に大きい場合、その画素グループは、カバー領域又は非カバー領域のどちらにも位置付けられると見なされる。隣接動きベクトルの方向が、2タイプの領域のうちのどちらであるかを決定する。このオクルージョン検出の方法の利点は、そのロバスト性にある。オクルージョン検出器を適用することの1つの利点は、オブジェクトの境界をオクルージョンマップから抽出することができる点である。ブロックをサブブロックに分割することは、カバー領域において関連性があり、オブジェクトの正確な境界を見つけなければならない。非カバー領域に位置付けられるブロックの場合、不確定性によってブロックをサブブロックに分割することはあまり有用ではない。
図2A乃至2Dに関連して説明した動き推定ユニット200、201、203、205は、それぞれ、以下の2つのモードのうちいずれかで動き推定を行うよう設計される。
−マルチパス。これは、以下の通りに行われる。即ち、最初に、画像は、ブロックに分割され、各ブロックに対し動きベクトルが決定される。次のパスにおいて、様々なブロックが再び処理される。これは、この様々なブロックは、任意選択的にサブブロックに分割され、そのサブブロックに対し動きベクトルが推定されることを意味する。その後に、もう一回同様のパスが行われる場合もある。
−シングルパス。これは、以下の通りに行われる。即ち、1つのブロックが、そのブロックについてのブロック階層、即ち、ブロックサイズにおける適切なレベルが到達されるまで、再帰的に分割される。次に、隣接ブロックが同様に処理される。このシングルパス方法の方が好適であり、というのは、最高の動きベクトルが、ブロック階層における最低レベルで見つけられ、これらの動きベクトルが、次のブロックのための候補動きベクトルとして供給されると見なされるからである。つまり、シングルパスモードでは、潜在的により良い動きベクトルが供給される。
図3は、画像処理装置300の構成要素を概略的に示す。画像処理装置300は、特定の処理が行われた後の表示されるべき画像を表す信号を受信する受信手段302を有する。この信号は、アンテナ又はケーブルを介して受信されるブロードキャスト信号であり得るが、VCR(ビデオカセットレコーダ)又はデジタルバーサタイルディスク(DVD)といった記憶装置からの信号でもあり得る。信号は、入力コネクタ310に供給される。
画像処理装置300は更に、図2A乃至2Dのいずれかに関連して説明した動き推定ユニット304と、動き補償された画像処理ユニット306と、処理された画像を表示する表示装置308を有する。この表示装置308は、任意選択的である。
動き補償された画像処理ユニット306は、その入力として、画像と動きベクトルを必要とする。
尚、上述した実施例は、本発明を制限するものではなく、むしろ説明するに過ぎず、当業者は、特許請求の範囲から逸脱することなく代替の実施例を設計することができるであろう。特許請求の範囲において、括弧の中に置かれた参照符号は、請求項を制限するものと解釈すべきではない。「有する」という用語は、請求項に列挙されない構成要素又は段階の存在を排除するものではない。単数形で示される構成要素は、そのような構成要素が複数存在することを排除するものではない。本発明は、幾つかの別個の構成要素を有するハードウェア、また、好適にプログラムされたコンピュータによって実施されることが可能である。幾つかの手段を列挙するユニットの請求項において、これらの手段のうち幾つかが同一のハードウェアアイテムによって具現化されることが可能である。
Claims (17)
- 一連の画像のうちの画像の画素グループついての動きベクトルを推定する動き推定ユニットであって、
前記画素グループについて一組の動きベクトル候補を生成する生成手段と、
前記一組の動きベクトル候補の各動きベクトル候補についての適合誤差を計算する適合手段と、
前記適合誤差に基づいて、前記画素グループについての前記動きベクトルとして前記動きベクトル候補のうちの第1の動きベクトル候補を選択する選択手段と、
前記画素グループを、画素サブグループに分割しなければならないか否かを試験する試験手段と、
を有し、
前記画素サブグループについて、各更なる動きベクトルが、前記画素グループについて前記動きベクトルを推定するのと同様に推定されなければならず、
前記試験は、前記一連の画像の特定の動きベクトルに関する尺度に基づいている、ユニット。 - 前記特定の動きベクトルは、前記動きベクトル候補の前記第1の動きベクトル候補であることを特徴とする請求項1記載の動き推定ユニット。
- 前記画素グループは、画素ブロックに対応し、
前記画素サブグループは、各画素サブブロックに対応することを特徴とする請求項1記載の動き推定ユニット。 - 前記試験手段は、前記画素サブブロックの第1の画素サブブロックを更なる画素サブブロックに分割しなければならないか否かを試験するよう設計され、
前記更なる画素サブブロックについて、各別の動きベクトルが、前記画素ブロックについて推定される前記動きベクトルと同様に推定されなければならないことを特徴とする請求項3記載の動き推定ユニット。 - 前記適合手段は、前記画素ブロックの画素値と、前記一連の画像の別の画像の更なる画素ブロックの各更なる画素値との間の絶対差の合計に対応する、前記動きベクトルの前記適合誤差を計算するよう構成されることを特徴とする請求項3記載の動き推定ユニット。
- 前記特定の動きベクトルに関する前記尺度は、前記動きベクトルと、前記画素ブロックの付近における隣接画素ブロックについて推定される隣接動きベクトルとの差に基づいていることを特徴とする請求項3記載の動き推定ユニット。
- 前記特定の動きベクトルに関する前記尺度は、前記適合誤差の計算の第1の中間結果と、前記適合誤差の計算の第2の中間結果との差に基づいており、
前記第1の中間結果は、前記画素ブロックの第1の部分に対応し、
前記第2の中間結果は、前記画素ブロックの第2の部分に対応することを特徴とする請求項3記載の動き推定ユニット。 - 前記試験手段は、前記画素ブロックの寸法に基づいて、前記画素ブロックを前記画素サブグループに分割しなければならないか否かを試験するよう設計されることを特徴とする請求項3記載の動き推定ユニット。
- 一組の画素サブブロックを、結合画素ブロックにまとめ、また、前記一組のサブブロックのうちの前記サブブロックに対応する前記更なる動きベクトルのうちの第1の動きベクトルを選択することによって、前記結合画素ブロックに新しい動きベクトルを割当てる結合ユニットを有することを特徴とする請求項3記載の動き推定ユニット。
- 前記試験手段を制御するオクルージョン検出器を有することを特徴とする請求項3記載の動き推定ユニット。
- 正規化された適合誤差を計算するよう構成されることを特徴とする請求項3記載の動き推定ユニット。
- 処理されるべき一連の画像を表す信号を受信する受信手段と、
前記一連の画像のうちの画像の画素グループについての動きベクトルを推定する動き推定ユニットと、
前記動き推定ユニットにより制御され、前記一連の画像を処理する動き補償された画像処理ユニットと、
を有し、
前記動き推定ユニットは、
前記画素グループについて一組の動きベクトル候補を生成する生成手段と、
前記一組の動きベクトル候補の各動きベクトル候補についての適合誤差を計算する適合手段と、
前記適合誤差に基づいて、前記画素グループについての前記動きベクトルとして前記動きベクトル候補のうちの第1の動きベクトル候補を選択する選択手段と、
前記画素グループを、画素サブグループに分割しなければならないか否かを試験する手段と、
を有し、
前記各画素サブグループについて、各更なる動きベクトルが、前記画素グループについて前記動きベクトルを推定するのと同様に推定されなければならず、
前記試験は、前記一連の画像の特定の動きベクトルに関する尺度に基づいている、画像処理装置。 - 前記動き補償された画像処理ユニットは、ビデオ圧縮を行うよう設計されることを特徴とする請求項12記載の画像処理装置。
- 前記動き補償された画像処理ユニットは、前記一連の画像におけるノイズを削減するよう設計されることを特徴とする請求項12記載の画像処理装置。
- 前記動き補償された画像処理ユニットは、前記一連の画像をデインタレースするよう設計されることを特徴とする請求項12記載の画像処理装置。
- 前記動き補償された画像処理ユニットは、アップコンバージョンを行うよう設計されることを特徴とする請求項12記載の画像処理装置。
- 一連の画像のうちの画像の画素グループについての動きベクトルを推定する方法であって、
前記画素グループについて一組の動きベクトル候補を生成する段階と、
前記一組の動きベクトル候補の各動きベクトル候補についての適合誤差を計算する段階と、
前記適合誤差に基づいて、前記画素グループについての前記動きベクトルとして前記動きベクトル候補のうちの第1の動きベクトル候補を選択する段階と、
前記画素グループを、画素サブグループに分割しなければならないか否かを試験する段階と、
を有し、
前記画素サブグループについて、各更なる動きベクトルが、前記画素グループについて前記動きベクトルを推定するのと同様に推定されなければならず、
前記試験は、前記一連の画像の特定の動きベクトルに関する尺度に基づいている、方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP02076439 | 2002-04-11 | ||
PCT/IB2003/001090 WO2003085599A1 (en) | 2002-04-11 | 2003-03-20 | Motion estimation unit and method of estimating a motion vector |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005522762A true JP2005522762A (ja) | 2005-07-28 |
Family
ID=28685953
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003582712A Withdrawn JP2005522762A (ja) | 2002-04-11 | 2003-03-20 | 動き推定ユニット及び動きベクトル推定方法 |
Country Status (7)
Country | Link |
---|---|
US (1) | US20050141614A1 (ja) |
EP (1) | EP1500048A1 (ja) |
JP (1) | JP2005522762A (ja) |
KR (1) | KR20040105866A (ja) |
CN (1) | CN1647113A (ja) |
AU (1) | AU2003208559A1 (ja) |
WO (1) | WO2003085599A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101595096B1 (ko) * | 2014-08-18 | 2016-02-17 | 경희대학교 산학협력단 | 영상 분석 방법 및 장치 |
Families Citing this family (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
IL157949A0 (en) | 2001-03-16 | 2004-03-28 | Tnuva Central Coop For The Mar | Package for flowable material |
EP1734767A1 (en) * | 2005-06-13 | 2006-12-20 | SONY DEUTSCHLAND GmbH | Method for processing digital image data |
GB2443668A (en) * | 2006-11-10 | 2008-05-14 | Tandberg Television Asa | Motion-compensated temporal recursive filter |
US20080126278A1 (en) * | 2006-11-29 | 2008-05-29 | Alexander Bronstein | Parallel processing motion estimation for H.264 video codec |
US8929448B2 (en) * | 2006-12-22 | 2015-01-06 | Sony Corporation | Inter sub-mode decision process in a transcoding operation |
TWI361618B (en) * | 2006-12-26 | 2012-04-01 | Realtek Semiconductor Corp | Method and device for estimating noise |
US8605786B2 (en) * | 2007-09-04 | 2013-12-10 | The Regents Of The University Of California | Hierarchical motion vector processing method, software and devices |
US7990476B2 (en) * | 2007-09-19 | 2011-08-02 | Samsung Electronics Co., Ltd. | System and method for detecting visual occlusion based on motion vector density |
KR101085963B1 (ko) * | 2008-08-11 | 2011-11-22 | 에스케이플래닛 주식회사 | 동영상 부호화 장치 및 방법 |
US20100111166A1 (en) * | 2008-10-31 | 2010-05-06 | Rmi Corporation | Device for decoding a video stream and method thereof |
KR101548269B1 (ko) * | 2008-12-02 | 2015-08-31 | 삼성전자주식회사 | 블록 분할 및 결합을 통한 움직임 추정 장치 및 방법 |
GB2469679B (en) * | 2009-04-23 | 2012-05-02 | Imagination Tech Ltd | Object tracking using momentum and acceleration vectors in a motion estimation system |
US20100303301A1 (en) * | 2009-06-01 | 2010-12-02 | Gregory Micheal Lamoureux | Inter-Frame Motion Detection |
US8761531B2 (en) * | 2009-07-09 | 2014-06-24 | Qualcomm Incorporated | Image data compression involving sub-sampling of luma and chroma values |
EP2553927B1 (fr) * | 2010-03-31 | 2018-11-28 | Orange | Procedes et dispositifs de codage et de decodage d'une sequence d'images mettant en oeuvre une prediction par compensation de mouvement avant, et programme d'ordinateur correspondant |
KR101506446B1 (ko) * | 2010-12-15 | 2015-04-08 | 에스케이 텔레콤주식회사 | 움직임정보 병합을 이용한 부호움직임정보생성/움직임정보복원 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치 |
KR101977802B1 (ko) * | 2012-10-10 | 2019-05-13 | 삼성전자주식회사 | 영상 시스템에서 움직임 추정 장치 및 방법 |
CN104104960B (zh) * | 2013-04-03 | 2017-06-27 | 华为技术有限公司 | 多级双向运动估计方法及设备 |
US20150287173A1 (en) * | 2014-04-03 | 2015-10-08 | Samsung Electronics Co., Ltd. | Periodic pattern handling by displacement vectors comparison |
CN105303519A (zh) * | 2014-06-20 | 2016-02-03 | 汤姆逊许可公司 | 用于生成时间一致的超像素的方法和装置 |
CN106651918B (zh) * | 2017-02-16 | 2020-01-31 | 国网上海市电力公司 | 抖动背景下的前景提取方法 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB9321372D0 (en) * | 1993-10-15 | 1993-12-08 | Avt Communications Ltd | Video signal processing |
EP0697788A3 (en) * | 1994-08-19 | 1997-03-26 | Eastman Kodak Co | Adaptive and global motion compensated cancellation of the interlacing of successive video images with post-processing |
US6252974B1 (en) * | 1995-03-22 | 2001-06-26 | Idt International Digital Technologies Deutschland Gmbh | Method and apparatus for depth modelling and providing depth information of moving objects |
US5748247A (en) * | 1996-04-08 | 1998-05-05 | Tektronix, Inc. | Refinement of block motion vectors to achieve a dense motion field |
US6366705B1 (en) * | 1999-01-28 | 2002-04-02 | Lucent Technologies Inc. | Perceptual preprocessing techniques to reduce complexity of video coders |
US6987866B2 (en) * | 2001-06-05 | 2006-01-17 | Micron Technology, Inc. | Multi-modal motion estimation for video sequences |
-
2003
- 2003-03-20 JP JP2003582712A patent/JP2005522762A/ja not_active Withdrawn
- 2003-03-20 US US10/510,301 patent/US20050141614A1/en not_active Abandoned
- 2003-03-20 AU AU2003208559A patent/AU2003208559A1/en not_active Abandoned
- 2003-03-20 WO PCT/IB2003/001090 patent/WO2003085599A1/en not_active Application Discontinuation
- 2003-03-20 CN CNA038080648A patent/CN1647113A/zh active Pending
- 2003-03-20 KR KR10-2004-7016266A patent/KR20040105866A/ko not_active Application Discontinuation
- 2003-03-20 EP EP03706852A patent/EP1500048A1/en not_active Withdrawn
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101595096B1 (ko) * | 2014-08-18 | 2016-02-17 | 경희대학교 산학협력단 | 영상 분석 방법 및 장치 |
Also Published As
Publication number | Publication date |
---|---|
KR20040105866A (ko) | 2004-12-16 |
EP1500048A1 (en) | 2005-01-26 |
WO2003085599A1 (en) | 2003-10-16 |
US20050141614A1 (en) | 2005-06-30 |
CN1647113A (zh) | 2005-07-27 |
AU2003208559A1 (en) | 2003-10-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2005522762A (ja) | 動き推定ユニット及び動きベクトル推定方法 | |
US8625673B2 (en) | Method and apparatus for determining motion between video images | |
US8130835B2 (en) | Method and apparatus for generating motion vector in hierarchical motion estimation | |
KR100973429B1 (ko) | 배경 움직임 벡터 선택기, 업-변환 유닛, 이미지 처리 장치, 배경 움직임 벡터 선택 방법 및 컴퓨터 판독 가능한 기록 매체 | |
KR100840133B1 (ko) | Mc 업 컨버젼에서 헤일로를 감소시키는 움직임 추정기 | |
KR20050084442A (ko) | 세그먼트 기반 움직임 추정 | |
JP2007504700A (ja) | 閉塞検出に基づく画素の時間的補間 | |
JP2005503085A (ja) | 動き推定および/または補償 | |
US7197075B2 (en) | Method and system for video sequence real-time motion compensated temporal upsampling | |
US20050180506A1 (en) | Unit for and method of estimating a current motion vector | |
US7382899B2 (en) | System and method for segmenting | |
KR20050061556A (ko) | 고장시 조치를 갖는 이미지 처리 유닛 | |
JP4213035B2 (ja) | オクルージョン領域を検出するオクルージョン検出器および方法 | |
JP2005505841A (ja) | 動き推定のための装置及び方法 | |
US20050226462A1 (en) | Unit for and method of estimating a motion vector | |
CN100385953C (zh) | 移动估计的单元和方法以及装备有此类移动估计单元的图像处理设备 | |
JP2005517251A (ja) | ピクセル群の動きベクトルを推定する方法及びユニット | |
US8102915B2 (en) | Motion vector fields refinement to track small fast moving objects | |
JPH08242454A (ja) | グローバル動きパラメタ検出方法 | |
Blume et al. | Segmentation in the loop: an iterative object-based algorithm for motion estimation | |
JP2840007B2 (ja) | 動きベクトル検出回路 | |
JP2006529039A (ja) | エッジ方向の推定 | |
KR20050023122A (ko) | 세그멘팅을 위한 시스템 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060317 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20061214 |