JP4663201B2 - 方法、システム及び装置 - Google Patents
方法、システム及び装置 Download PDFInfo
- Publication number
- JP4663201B2 JP4663201B2 JP2001586926A JP2001586926A JP4663201B2 JP 4663201 B2 JP4663201 B2 JP 4663201B2 JP 2001586926 A JP2001586926 A JP 2001586926A JP 2001586926 A JP2001586926 A JP 2001586926A JP 4663201 B2 JP4663201 B2 JP 4663201B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- block
- region
- pixels
- matched
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 41
- 239000013598 vector Substances 0.000 description 10
- 238000010586 diagram Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/223—Analysis of motion using block-matching
- G06T7/238—Analysis of motion using block-matching using non-full search, e.g. three-step search
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Closed-Circuit Television Systems (AREA)
Description
【技術分野】
本発明は、第1画像のブロックを第2画像の領域と突き合わせるために使用されるべき最適な候補値を選択する方法に係り、該方法が、
(a)第2画像の突き合わされるべき領域を決定するための候補値の集合を作成し、
(b)上記集合の各候補値に関して、第2画像の突き合わされるべき領域を当該候補値に基づいて決定すると共に、第1画像の上記ブロックを該領域と突き合わせて整合エラーを算出し、
(c)前記集合から上記の算出された整合エラーに基づいて前記最適な候補値を選択する、
各ステップを有するような方法に関する。
【0002】
同様に、本発明は第1画像のブロックを第2画像の領域と突き合わせるために使用されるべき最適な候補値を選択するシステムに係り、該システムが、
− 第2画像の突き合わされるべき領域を決定するための候補値の集合を作成するように構成された収集器と、
− 上記集合の各候補値に関して、第2画像の突き合わされるべき領域を当該候補値に基づいて決定すると共に、第1画像の上記ブロックを該領域と突き合わせて整合エラーを算出するように構成された整合器と、
− 前記集合から上記の算出された整合エラーに基づいて前記最適な候補値を選択するように構成された選択器と、
を有するようなシステムにも関する。
【0003】
本発明は、更に、種々の画像を有するビデオ信号を処理する装置にも関する。
【0004】
【背景技術】
冒頭に記載したような型式の方法は、本出願人による国際特許出願公開第WO99/40726号(出願人整理番号:PHN17017)から既知である。画像における動き及び深さを決定するためのブロックに基づく技術によれば、該画像は例えば等しい寸法の長方形のような多数のブロックに分割される。次いで、該画像は他の画像における個々のブロックを突き合わせることにより該他の画像と比較される。
【0005】
ブロックの第2画像との突き合わせは、動きベクトル及び深さに関する多数の候補値を選択し、次いで、各候補値に関して当該ブロックが第2画像における領域にどの程度対応するかについて決定することにより実行される。この突き合わせにおけるズレの程度が計算される。このズレは、上記候補値に属する整合エラーと呼ばれる。最適な候補値は、相対的に小さな整合エラーを有する候補値である。適した候補値は、なかでも、第1画像の隣接するブロックの深さ又は動きベクトルである。何故なら、これらは現ブロックと略同一の特徴を有する傾向にあるからである。ブロックはピクセルを有しているので、上記整合エラーは、第1画像のブロックにおける及び第2画像内の領域における対応するピクセルに基づいて決定することができる。この目的のためには、平均二乗誤差(MSE)を決定する等の数学的技法が適している。
【0006】
或るオブジェクトの点が第1画像においては確かに見えるが、第2画像では見えないことが起こり得る。第2のオブジェクトが、第2画像から見て、該第2オブジェクトが第1オブジェクトを部分的に又は完全に覆うような位置を有することがあり得る。このことは、第1画像のブロックが、該ブロックの多数のピクセルが整合されるべき領域において見えないために、第2画像において完全には見付けることができないことを意味する。
【0007】
前記既知の方法の欠点は、上記整合エラーが第1画像の当該ブロックの全ピクセルにわたって、及び突き合わされるべき領域において見えないピクセルに対しても計算されるということである。この場合、これらのピクセルは他の点に対応するピクセルと比較されてしまう。これらが非常に相違する場合(例えば、輝度が変化するため)、このことは非常に大きな整合エラーを生じさせるであろう。この場合、余り大きな整合エラーのために候補値が拒絶されても、この候補値が当該ブロックの可視領域に関する最適な候補値を確かに形成しているというようなことが起こり得る。
【0008】
【発明の開示】
本発明の目的は、冒頭に述べたような型式の方法であって、最適な候補値に対する一層良好な選択がなされるような方法を提供することにある。
【0009】
この目的は、本発明によれば、前記ブロックがピクセルにより形成され、前記第1画像のブロックにおける、前記第2画像の突き合わされるべき領域において見えるピクセルの選択が実行され、整合エラーの算出が該選択に基づくものであることにより達成される。上記整合エラーの算出に関して見えないピクセルを使用しないことにより、不整合による大きな整合エラーが発生するのを防止することができる。
【0010】
上記方法の一実施例においては、上記選択は、前記第1画像の前記ブロックのピクセルに関して、これらピクセルの位置が前記第2画像の前記突き合わされるべき領域において何の位置であるかを決定すると共に、前記第1画像の前記ブロックのうちの前記第2画像の前記突き合わされるべき領域において同一の位置で見付けられる他のピクセルとの比較に基づいてピクセルを選択することにより実行される。
【0011】
本方法の他の実施例においては、上記選択は深さに基づいて実行される。この実施例は、上記比較が簡単且つ高速に実行することができる点で有利である。
【0012】
また、本発明の目的は導入部で述べたような型式のシステムであって、最適候補値の一層良好な選択がなされるようなシステムを提供することにもある。
【0013】
この目的は、本発明によるシステムによれば、前記ブロックがピクセルにより形成され、前記整合器が前記第1画像のブロックにおける前記第2画像の前記突き合わされるべき領域において見えるピクセルの選択を実行するように構成され、該整合器が該選択に基づいて整合エラーを算出するように構成されることにより達成される。
【0014】
該システムの一実施例においては、上記整合器は、前記第1画像の前記ブロックのピクセルに関して、これらピクセルが前記第2画像の前記突き合わされるべき領域内において何の位置を有するかを決定すると共に、前記第1画像の前記ブロックのうちの前記第2画像の前記突き合わされるべき領域において同一の位置を有する他のピクセルとの比較に基づいてピクセルを選択するように構成される。
【0015】
該システムの他の実施例においては、上記比較は深さに基づいて実行される。
【0016】
また、本発明の目的は、導入部に記載したような型式の装置であって、ビデオ信号の一層良好な処理が得られるような装置を提供することにもある。
【0017】
この目的は、本発明による装置によれば、該装置が、
− 第1画像のブロックを第2画像の領域と突き合わせるために使用されるべき最適候補値を選択する前記発明によるシステムであって、前記種々の画像のブロックに対して最適候補値を選択するように構成されたシステムと、
− 前記ビデオ信号を処理し、前記システムにより決定された得られた最適候補値に基づいて、向上されたビデオ信号を得る画像プロセッサと、
を有することにより達成される。
【0018】
上記画像プロセッサは、前記発明によるシステムにより選択された最適候補値に基づいて上記画像を向上させる。このシステムによれば、最適候補値の一層良好な選択がなされるので、これは、他の装置によるよりも良好な向上された画像に繋がる。
【0019】
或る実施例においては、当該装置は上記の向上されたビデオ信号を表示する表示システムを更に含む。
【0020】
本発明の、これら及び他の態様は以下に記載される実施例(又は複数の実施例)から明らかとなり、斯かる実施例を参照して解説されるであろう。
【0021】
【発明を実施するための最良の形態】
第1画像における動き及び深さを決定するための、ブロックに基づく技術においては、当該画像が多数のブロックに副分割される。これらのブロックは長方形であって等しい寸法とすることができるので、上記分割は簡単且つ高速に実施することができる(もっとも、他の例として任意の他の形状を使用するとこも可能である)。非長方形ブロックの使用は、この場合には任意のオブジェクトを一群のブロックにより覆うことができ、従って斯様なオブジェクトの動き又は深さを決定することができる点で有利である。当該画像をブロックに分割することにより、該画像を第2画像と、該第1画像のブロックを第2画像の領域と突き合わせることにより比較することが可能となる。これらブロックが十分に小さく選定されるなら、各ブロックが一様に移動し、且つ、或るブロックの深さは何処でも同一であると仮定することができる。この場合、第1の画像の或るブロックに対応するような第2画像の領域を探すことが可能である。これが見付かった場合、このブロックの上記2つの画像の間のズレ、従って該ブロックの動きを決定することができる。上記2つの画像が共に静止オブジェクトに関するものであれば、これは、該オブジェクトの深さを決定するために要する情報を提供する。
【0022】
第1画像のブロックが第2画像の領域と完全に整合することはまれであろう。この問題は、深さに関する又は動きベクトルに関する候補値に基づいて、第1画像のブロックが第2画像において何処に位置されなければならないかを決定することにより解決することができる。次いで、これに対応する第2画像の領域が第1ブロックと突き合わされて、整合のズレの程度を計算することができる。このズレは、当該候補値の整合エラーと呼ばれる。最適候補値とは、相対的に小さな整合エラー、好ましくは最小の整合エラーを有する候補値である。
【0023】
ブロックはピクセルからなるので、整合エラーは2つのブロック内の対応するピクセルに基づいて決定することができる。この目的のためには、平均二乗誤差(MSE)の決定のような数学的技法が好適である。この技法によれば、動きベクトル(dx, dy)に関する整合エラーは、下記のように算出することができる。
【数1】
ここで、M及びNはブロックのピクセルでの寸法であり、Ui(m,n)は位置(m,n)における画像iでのピクセル輝度である。深さdに関する整合エラーの算出も、同様な態様で行われる。
【0024】
他の好適な数学的技法は、絶対差分の和(SAD)を算出することである。これによれば、深さdに関する整合エラーは下記のように算出することができる。
【数2】
ここで、(x,y)はブロックBにおけるピクセルであり、Δx(d)は深さdに関する候補値に基づくxの変化である。
【0025】
深さ又は動きベクトルに対する候補値の整合エラーの算出に関しては、上記平均二乗誤差及び絶対差分の和に加えて、平均絶対差分又は二乗誤差の和のような他の数学的技法も使用することができる。
【0026】
実用上の理由、なかでも、ビデオ信号処理の間においては別個の画像を処理するには僅かな時間しかないので、通常は限られた数の候補値の集合が作成され、次いで、これら候補値が上述したように第2画像の領域を決定するために使用され、その後、第1画像のブロックが該領域と突き合わされる。隣接する他のブロックの深さ又は見付かった動きベクトルに関する値が選択され、多分、ランダム値又はこのブロック用の深さ若しくは動きベクトルに関する先に算出された値により加算される。当該集合の要素の整合エラーが算出された後、最適な候補値が最小の整合エラーを有する候補値として選択される。
【0027】
上記の集合を作成するステップ、この集合の要素の整合エラーを算出するステップ及び最適候補値を選択するステップは、3つの別個のステップとして実行することもできるが、組み合わせで実行することもできる。選択された各候補値に関して上記整合エラーを直接算出することができ、その後、この整合エラーを“ランニングミニマム”と比較することができる。算出された整合エラーが、このランニングミニマムより小さいことが分かった場合、現候補値が仮の最適候補値として選択され、その整合エラーが新たなランニングミニマムとして選択される。当該集合内の全ての候補値が選択された後、斯様にして決定された仮の最適候補値が実際の最適候補値となる。
【0028】
上述した方法は、何回も繰り返して、最適候補値の可能な最良の選択に到るようにすることができる。当該画像内で深さが決定される場合、該深さは最初はランダムに選択される。次いで、各繰り返しにおいて隣接するブロックの値が使用され、これらの値は先行する繰り返しの値とは異なり得る。最小の整合エラーを有するような新たに見付かった値が、次いで、他のブロックの整合エラーを計算するために使用される。これら値が最早変化しない場合、最終値が決定され、繰り返しが停止される。各繰り返しにより、最適候補用の現在値及び整合エラーは、各ブロックに関して保存されねばならない。
【0029】
図1は、第1画像10及び第2画像11を示し、両者は第1オブジェクト12及び第2オブジェクト15の表現を含んでいる。オブジェクト12及び15の点は、第1画像10及び第2画像11においてピクセルとして見ることができる。可視度の程度は、第1画像10又は第2画像11を見る看者によって見られる、これらオブジェクトの深度によっても影響される。オブジェクト12の点13は、第1画像10においても及び第2画像11においても見ることができる。しかしながら、オブジェクト12の点14は、第1画像10においてしか見ることができない。何故なら、第2画像11から見ると、オブジェクト15の点16が、第2画像11において該点14と一致するからである。
【0030】
第1画像10のブロックが、第2画像11の領域と突き合わされるべき場合に、第1画像の当該ブロック内に位置を有すると想定される点14は、第2画像11の上記領域ではたどることができないであろう。ブロックは、当該画像において見ることができるオブジェクトの点に対応するようなピクセルからなる。第1画像10のブロックの第2画像11の領域との突き合わせは、どれが、第1画像10のブロック及び第2画像11の領域において対応するピクセルであるかを決定することにより実行される。
【0031】
図1において、点14に対応する第1画像10のブロックのピクセル18が突き合わされる場合、その意図は、このピクセルが第2画像11の領域の点14に対応するピクセルと突き合わされるというものである。このピクセルはピクセル20であるべきである。しかしながら、第2画像11においては点16も見える。点16に対応するピクセルはピクセル20である。該点16は第2画像11から見て点14よりも短い距離を有しているから、ピクセル20は点16に対応し、点14は見ることができない。
【0032】
第1画像10のブロックが第2画像11の領域と突き合わされる場合、点14に対応する第1画像10の該ブロックのピクセル18は、点16に対応するような第2画像11の領域のピクセル20と突き合わされる。それらが非常に異なる場合(例えば点14が暗く、点16が明るい故に)、その結果は大きな整合エラーとなるであろう。
【0033】
本発明による方法においては、第1画像10のブロックの、第2画像11の突き合わされるべき領域において見えるピクセルの選択がなされる。次いで、整合エラーは、この選択に基づいて計算される。点14に対応するピクセルは第1画像10のブロックでは見えるが、第2画像11の突き合わされるべき領域では見えないから、このピクセルは選択されず、かくして整合エラーは、この点14が破棄されている間に計算される。
【0034】
これを可能にするために、上述した整合エラーの計算は、第1画像10におけるピクセル(x,y)に対応する点が第2画像11の突き合わされるべき領域で見える場合は値1を生成し、それ以外では値0を生成するような関数v(x,y)を導入することにより適応化される。この場合、例えば絶対差分の和(SAD)を計算する数学的技法による整合エラーの計算は、以下のようになされる。
【数3】
ここで、v(x,y)は上述した関数である。この関数は可視度マップとも呼ばれる。他の数学的技法に関しては、対比し得る修正を簡単に実現することができる。
【0035】
ブロックBの整合エラーは、該ブロックBの全ての点(x,y)にわたって計算される。各点(x,y)に対して、第1及び第2画像10及び11における差分が計算される。この差分を当該点(x,y)用の可視度マップの値により乗算することにより、可視度マップが値1を示すような点(x,y)のみに対し整合エラーが計算される。
【0036】
可視度マップを決定するために、第1画像10のブロックのピクセルに関して、これらピクセルが第2画像11の突き合わされるべき領域において何の位置を有するかが決定される。先ず、各ピクセルが三次元空間における何の点に対応するかが決定される。図1の例において、ピクセル17に関しては該ピクセルが点13に対応することが、ピクセル18に関しては該ピクセルが点14に対応することが、ピクセル19に関しては該ピクセルが点16に対応することが決定される。
【0037】
例えば上記の決定された候補値に基づいて、第2画像11におけるこれらのピクセルの位置が決定される。この目的のため、例えば、深さ又は動きベクトルに対して前もって決定された候補値を使用することができる。最適候補値を選択する方法を、先ず、整合エラーを計算するための前記関数の修正無しに適用することができ、これにより最適候補値が決定される。かくして、点14及び点16に関しては、これら点が第2画像11の突き合わされるべき領域において同一の位置、即ちピクセル20を有することが分かる。
【0038】
ピクセル18及び19、又はこれらに対応する点14及び16を比較することにより、これらピクセル又は点のどれが、突き合わされるべき領域において見えるかを決定することができる。この比較は、好ましくは、深さに基づいて実施される。何故なら、近い点は離れた点を覆うので見えるからである。しかしながら、それにも拘わらず、遠くのピクセルが見えるほど、近くに位置するピクセルよりも該遠くのピクセルが明るいこともあり得る。近くのピクセルの代わりに遠くのピクセルが見えるように、該近くに位置するピクセルが透明であることもあり得る。図1においては、第2画像11から見て、点16は点14よりも近くに位置し、従って点16が選択されると思われる。次いで、この選択は、ピクセル19に対する可視度マップの値を1に設定し、ピクセル18に対するものを零に設定することにより確立される。
【0039】
深さ又は動きベクトルに関する上記候補値は、確定的値の代わりに確立密度関数に関する特定の関数を有する確率的変数と考えることもできる。その場合、上述した方法は僅かに変更される。深さ又は動きの確立密度関数は、例えば、整合エラーを計算する前記関数を変更しないで上述した方法を実施することにより決定される。次いで、各ピクセルが上記三次元空間における何の点に最も対応しそうかが決定される。例えば、見いだされた候補値に基づいて、これらの点に関し、これら点が第2画像11において何の位置を有するかが決定される。次いで、各ピクセルに関して、当該ピクセルが第2画像11において見える確率が、例えば深さを規準として計算される。ここで、この確率に基づいて選択が実行される。この場合、見えるであろう最高の確率を有するピクセルが選択される。
【0040】
この選択は可視度マップに配置される。第1の可能性は、或るピクセルが最高の確率を有する場合に該ピクセルの値を1に設定し、それ以外は0に設定することである。第2の可能性は、見えるピクセルの確率を可視度マップに含めることである。
【0041】
該方法が何回か実行される場合、第1画像10のブロックのピクセルが何の点と一致するかを決定する最初の反復においては未だ何の情報も得られない。従って、この反復では当該可視度マップの値は全てのピクセルに関して1に設定することができる。
【0042】
図2は、種々の画像を有するようなビデオ信号40を処理する装置を表している。該装置は画像プロセッサ41を有し、該プロセッサはビデオ信号40を処理して、向上されたビデオ信号を得るように構成されている。この向上されたビデオ信号は、次いで、表示スクリーン42上に表示される。図2は、表示スクリーン42を、画像プロセッサ41を含むのと同一の装置の一部として示しているが、該表示スクリーン42は当該装置とは独立に配置されてもよく、当該装置からネットワークを介して上記の向上されたビデオ信号を受信することができることは明らかであろう。
【0043】
画像プロセッサ41は、上記ビデオ信号40内の個々の画像の動き及び深さに関する情報に基づいて該ビデオ信号40を向上させることができる。例えば、画像プロセッサ41はビデオ信号40を処理し、これによりユーザが、一群のブロックにより決定される個々のオブジェクトを深さ情報に基づいて個別に回転し、かくして他の角度からの正しい再生を発生させることにより、他の角度から当該画像を見ることができるようにすることもできる。これは、例えば立体的な再生を提供することができる。例えば自動監視カメラ用に使用されるように、動き情報を移動物体を検出し及び印すために使用することもできる。このようにして得られた印を付けられたオブジェクトを持つビデオ信号は、これらのカメラのユーザにとり拡張性を提供する。何故なら、これらカメラは画像変化を一層速く検出することができるからである。
【0044】
他の可能性のある用途においては、画像プロセッサ41は、一層効率よく圧縮されたビデオ信号を生成することにより、例えばMPEG等の圧縮フォーマットで供給されるビデオ信号40を向上させる。この場合、一群のブロックを介して決定される、当該ビデオ信号40の多数の画像内で発生する個々のオブジェクトは、該オブジェクトに関するピクセル情報を1回だけ記憶すると共に、このオブジェクトが発生する他の画像に対しても該オブジェクトの動きベクトル及び深さの情報のみを記憶することにより圧縮することができる。この情報は完全なオブジェクトのピクセル情報よりも少ない記憶容量しか必要としないので、斯かる方法のような方法は、大幅に向上された圧縮ビデオ信号を提供することができる。
【0045】
明瞭化のために、下記の説明は第1ブロックの深さが決定される場合のみの当該システムの構成要素の機能についてのものであるが、上記のことから第1ブロックの動きは同様の方法においても決定することができることは明らかであろう。
【0046】
当該装置は、更に、収集器43、整合器46及び選択器47を含んでいる。収集器43は、第2画像の突き合わされるべき領域を決定するための候補値の集合45を作成するように構成されている。収集器43により作成された集合45は、なかでも、第1ブロックに隣接するブロックの先に決定された深さ含んでいる。通常、隣接するブロックの深さは殆ど相互差分を示さない。従って、第1ブロックに隣接するブロックの深さは、該第1ブロックの深さを決定するための良い開始点を形成し、依って該深さ用の候補値として使用される。この目的のため記憶システム44が存在し、該記憶システムには該深さ及び以前に決定された深さを記憶することができ、かくして、収集器43は候補値の集合45を作成する際に、これら深さを使用することができる。
【0047】
収集器43は整合器46に上記候補値の集合45を伝送する。整合器46は、該集合の各候補値に関して、該候補値に基づいて第2画像の突き合わされるべき領域を決定する。次いで、整合器46は第1画像の当該ブロックと、この領域とを突き合わせる。そして、該整合器46は、上述したようにして、関連する突き合わせ領域を計算する。この目的のため、平均二乗誤差、平均絶対差分、絶対差分の和又は二乗誤差の和のような前述した方法を実施することができる。
【0048】
この実施例における整合器46は、第1画像のブロックの、第2画像の突き合わされるべき領域において見えるピクセルの選択を実行するよう構成されている。当該装置の他の部分も該作業のために構成することができることは明らかであろう。
【0049】
整合器46は上記選択を、第1画像のブロックのピクセルに関して、これらピクセルが第2画像の突き合わされるべき領域において何の位置を有するかを決定することにより実行する。次いで、整合器46は、第2画像の突き合わされる領域において同じ位置を有するピクセル、又はこれらピクセルに対応する点を比較する。そのようにして、該整合器46は、これらピクセル又は点のうちのどれが、突き合わされるべき領域において見えるかを決定することができる。この比較は、最も近い点は一層遠くの点を覆うために見ることができるという理由で、好ましくは深さに基づいて実行される。次いで、前記選択が、見えるピクセルに対する可視度マップの値を1に設定し、見えないピクセル又は複数のピクセルに対しては0に設定することにより実行される。整合器46は、図1を参照して説明したように、該可視度マップに基づいて整合エラーを計算する。
【0050】
前記集合45の候補値の整合エラーが算出された後、選択器47は上記集合45から、該算出された整合エラーに基づいて最適候補値48を選択する。該最適候補値48は、相対的に小さな整合エラーを有するような候補値である。次いで、選択器47は該最適候補値48を画像プロセッサ41に送る。この処理の画像の種々のブロックに対する繰り返しは、この画像に関する深さ情報を提供する。このようにして提供された深さ情報に基づいて、画像プロセッサ41はビデオ信号40を処理して、向上されたビデオ信号を得ることができる。この向上されたビデオ信号は、次いで、表示スクリーン42上に表示することができる。
【図面の簡単な説明】
【図1】 図1は、多数のオブジェクトの複数の画像の概念図である。
【図2】 図2は、ビデオ信号を処理するための本発明による装置の概念図である。
Claims (8)
- 第1画像のブロックを第2画像の領域と突き合わせるために使用されるべき最適候補値を選択する方法であって、該方法が、
(a)前記第2画像の突き合わされるべき領域を決定するための候補値の集合を作成するステップと、
(b)前記集合の各候補値に関して、前記候補値に基づいて前記第2画像の突き合わされるべき領域を決定すると共に、前記第1画像のブロックを該領域と突き合わせて整合エラーを算出するステップと、
(c)該算出された整合エラーに基づいて、前記集合から前記最適候補値を選択するステップと、
を有するような方法において、
前記ブロックはピクセルにより形成され、前記第1画像のブロックにおける、前記第2画像の前記突き合わされるべき領域において見える点に対応するピクセルの選択が実行され、前記整合エラーの算出が該選択に基づくものであることを特徴とする方法。 - 請求項1に記載の方法において、前記選択は、前記第1画像の前記ブロックのピクセルに関して、これらピクセルの位置が前記第2画像の前記突き合わされるべき領域において何処であるかを決定すると共に、前記第1画像の前記ブロックのうちの前記第2画像の前記突き合わされるべき領域において同一の位置で見付けられる他のピクセルとの比較に基づいてピクセルを選択することにより実行されることを特徴とする方法。
- 請求項2に記載の方法において、前記選択が奥行きに基づいて実行されることを特徴とする方法。
- 第1画像のブロックを第2画像の領域と突き合わせるために使用されるべき最適候補値を選択するシステムであって、該システムが、
− 前記第2画像の突き合わされるべき領域を決定するための候補値の集合を作成するよう構成された収集器と、
− 前記集合の各候補値に関して、前記候補値に基づいて前記第2画像の突き合わされるべき領域を決定すると共に、前記第1画像のブロックを該領域と突き合わせて整合エラーを算出するように構成された整合器と、
− 該算出された整合エラーに基づいて、前記集合から前記最適候補値を選択するよう構成された選択器と、
を有するようなシステムにおいて、
前記ブロックはピクセルにより形成され、前記整合器は前記第1画像のブロックにおける前記第2画像の前記突き合わされるべき領域において見える点に対応するピクセルの選択を実行するように構成され、該整合器は該選択に基づいて整合エラーを算出するように構成されていることを特徴とするシステム。 - 請求項4に記載のシステムにおいて、前記整合器は、前記第1画像の前記ブロックのピクセルに関して、これらピクセルが前記第2画像の前記突き合わされるべき領域内において何の位置を有するかを決定すると共に、前記第1画像の前記ブロックのうちの前記第2画像の前記突き合わされるべき領域において同一の位置を有する他のピクセルとの比較に基づいてピクセルを選択するように構成されていることを特徴とするシステム。
- 請求項5に記載のシステムにおいて、前記比較が奥行きに基づいてなされることを特徴とするシステム。
- 種々の画像からなるビデオ信号を処理する装置において、該装置が、
第1画像のブロックを第2画像の領域と突き合わせるために使用されるべき最適候補値を選択する請求項4、5又は6に記載のシステムであって、前記種々の画像のブロックに対して最適候補値を選択するように構成されたシステムと、
前記ビデオ信号を処理し、前記システムにより決定された得られた最適候補値に基づいて、向上されたビデオ信号を得る画像プロセッサと、
を有していることを特徴とする装置。 - 請求項7に記載の装置において、該装置が前記向上されたビデオ信号を表示する表示システムを更に有していることを特徴とする装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP00201773.9 | 2000-05-19 | ||
EP00201773 | 2000-05-19 | ||
PCT/EP2001/004718 WO2001091468A1 (en) | 2000-05-19 | 2001-04-26 | Method, system and apparatus |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003534742A JP2003534742A (ja) | 2003-11-18 |
JP4663201B2 true JP4663201B2 (ja) | 2011-04-06 |
Family
ID=8171517
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001586926A Expired - Fee Related JP4663201B2 (ja) | 2000-05-19 | 2001-04-26 | 方法、システム及び装置 |
Country Status (8)
Country | Link |
---|---|
US (1) | US6985604B2 (ja) |
EP (1) | EP1290895B1 (ja) |
JP (1) | JP4663201B2 (ja) |
KR (1) | KR100808395B1 (ja) |
CN (1) | CN1199469C (ja) |
AT (1) | ATE333194T1 (ja) |
DE (1) | DE60121443T2 (ja) |
WO (1) | WO2001091468A1 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003339029A (ja) * | 2002-05-20 | 2003-11-28 | Sony Corp | 動きベクトル補正回路及び方法 |
US7673252B2 (en) * | 2004-03-02 | 2010-03-02 | Netrust Pte Ltd | Method for protecting a character entered at a graphical interface |
WO2009004527A2 (en) | 2007-07-03 | 2009-01-08 | Koninklijke Philips Electronics N.V. | Computing a depth map |
US8983121B2 (en) * | 2010-10-27 | 2015-03-17 | Samsung Techwin Co., Ltd. | Image processing apparatus and method thereof |
EP2765775A1 (en) | 2013-02-06 | 2014-08-13 | Koninklijke Philips N.V. | System for generating intermediate view images |
EP2765774A1 (en) | 2013-02-06 | 2014-08-13 | Koninklijke Philips N.V. | System for generating an intermediate view image |
AU2016101847B4 (en) | 2015-10-28 | 2022-02-17 | Bissell Inc. | Surface cleaning apparatus |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04229795A (ja) * | 1990-07-24 | 1992-08-19 | Sony Corp | 動きを補正した映像方式変換装置 |
JPH10224798A (ja) * | 1997-02-05 | 1998-08-21 | Toshiba Corp | 動きベクトル検出方法および検出装置 |
JPH11164150A (ja) * | 1997-11-27 | 1999-06-18 | Ricoh Co Ltd | 画像処理装置 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS60204086A (ja) * | 1984-03-28 | 1985-10-15 | Fuji Electric Co Ltd | 物体識別装置 |
US4876728A (en) * | 1985-06-04 | 1989-10-24 | Adept Technology, Inc. | Vision system for distinguishing touching parts |
US4825393A (en) * | 1986-04-23 | 1989-04-25 | Hitachi, Ltd. | Position measuring method |
GB9013642D0 (en) * | 1990-06-19 | 1990-08-08 | British Broadcasting Corp | Video signal processing |
GB2279531B (en) * | 1993-06-24 | 1997-07-16 | Sony Uk Ltd | Motion compensated image interpolation |
US6075875A (en) * | 1996-09-30 | 2000-06-13 | Microsoft Corporation | Segmentation of image features using hierarchical analysis of multi-valued image data and weighted averaging of segmentation results |
US5909251A (en) * | 1997-04-10 | 1999-06-01 | Cognitech, Inc. | Image frame fusion by velocity estimation using region merging |
EP0898245B1 (en) * | 1997-08-05 | 2004-04-14 | Canon Kabushiki Kaisha | Image processing method and apparatus |
AUPO894497A0 (en) * | 1997-09-02 | 1997-09-25 | Xenotech Research Pty Ltd | Image processing method and apparatus |
WO1999022520A2 (en) * | 1997-10-29 | 1999-05-06 | Koninklijke Philips Electronics N.V. | Motion vector estimation and detection of covered/uncovered image parts |
JP2001520781A (ja) * | 1998-02-06 | 2001-10-30 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 動き又はデプス推定 |
-
2001
- 2001-04-26 KR KR1020027000734A patent/KR100808395B1/ko not_active IP Right Cessation
- 2001-04-26 WO PCT/EP2001/004718 patent/WO2001091468A1/en active IP Right Grant
- 2001-04-26 DE DE60121443T patent/DE60121443T2/de not_active Expired - Lifetime
- 2001-04-26 AT AT01931656T patent/ATE333194T1/de not_active IP Right Cessation
- 2001-04-26 CN CNB01801321XA patent/CN1199469C/zh not_active Expired - Fee Related
- 2001-04-26 EP EP01931656A patent/EP1290895B1/en not_active Expired - Lifetime
- 2001-04-26 JP JP2001586926A patent/JP4663201B2/ja not_active Expired - Fee Related
- 2001-05-07 US US09/850,349 patent/US6985604B2/en not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04229795A (ja) * | 1990-07-24 | 1992-08-19 | Sony Corp | 動きを補正した映像方式変換装置 |
JPH10224798A (ja) * | 1997-02-05 | 1998-08-21 | Toshiba Corp | 動きベクトル検出方法および検出装置 |
JPH11164150A (ja) * | 1997-11-27 | 1999-06-18 | Ricoh Co Ltd | 画像処理装置 |
Also Published As
Publication number | Publication date |
---|---|
ATE333194T1 (de) | 2006-08-15 |
DE60121443D1 (de) | 2006-08-24 |
JP2003534742A (ja) | 2003-11-18 |
KR20020020941A (ko) | 2002-03-16 |
US20020009211A1 (en) | 2002-01-24 |
KR100808395B1 (ko) | 2008-02-29 |
DE60121443T2 (de) | 2007-02-15 |
US6985604B2 (en) | 2006-01-10 |
CN1381144A (zh) | 2002-11-20 |
WO2001091468A1 (en) | 2001-11-29 |
EP1290895A1 (en) | 2003-03-12 |
EP1290895B1 (en) | 2006-07-12 |
CN1199469C (zh) | 2005-04-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102019412B1 (ko) | 카메라의 공간적 특성들을 결정하는 방법 및 시스템 | |
US5808695A (en) | Method of tracking scene motion for live video insertion systems | |
US20040096119A1 (en) | Efficient method for creating a viewpoint from plurality of images | |
JP2017224282A5 (ja) | ||
WO2007052191A2 (en) | Filling in depth results | |
US11017587B2 (en) | Image generation method and image generation device | |
US20100302234A1 (en) | Method of establishing dof data of 3d image and system thereof | |
KR20060133764A (ko) | 중간영상 생성방법 및 이 방법이 적용되는 입체영상디스플레이장치 | |
US20220148207A1 (en) | Processing of depth maps for images | |
JP4663201B2 (ja) | 方法、システム及び装置 | |
JP2004229093A (ja) | 立体画像生成方法及び立体画像生成装置、ならびに立体画像生成プログラム及び記録媒体 | |
KR20030002919A (ko) | 방송 영상에서의 실시간 이미지 삽입 시스템 | |
US6738497B2 (en) | Method, system and apparatus for image block matching | |
US6810134B2 (en) | Method, system and apparatus for choosing an optimal candidate value for block matching | |
KR100897834B1 (ko) | 전방향 카메라의 교정방법 | |
JP2003534732A (ja) | 方法、システム及び装置 | |
US20030076982A1 (en) | Multiple hypothesis method of optical flow | |
JPH07254074A (ja) | 視差画像作成方法および装置 | |
CN116546180A (zh) | 裸眼悬浮3d视频生成方法、装置、设备及存储介质 | |
KR20060132280A (ko) | 중간 시점 영상 합성용 적응형 변이 추정 방법 | |
CN114902646A (zh) | 电子设备、控制电子设备的方法以及计算机可读存储介质 | |
JPH11308525A (ja) | 静止画像処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080425 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100812 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20101112 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20101209 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110105 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140114 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |