JP2004515832A - 画像系列の時空的正規化マッチング装置及び方法 - Google Patents
画像系列の時空的正規化マッチング装置及び方法 Download PDFInfo
- Publication number
- JP2004515832A JP2004515832A JP2001583030A JP2001583030A JP2004515832A JP 2004515832 A JP2004515832 A JP 2004515832A JP 2001583030 A JP2001583030 A JP 2001583030A JP 2001583030 A JP2001583030 A JP 2001583030A JP 2004515832 A JP2004515832 A JP 2004515832A
- Authority
- JP
- Japan
- Prior art keywords
- spatiotemporal
- sequences
- normalized
- space
- volume
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2625—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of images from a temporal image sequence, e.g. for a stroboscopic effect
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/207—Analysis of motion for motion estimation over a hierarchy of resolutions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30221—Sports video; Sports image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30241—Trajectory
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
- Closed-Circuit Television Systems (AREA)
- Apparatus For Radiation Diagnosis (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
Description
発明の技術分野
本発明は系列間正規化マッチング装置及び方法に関する。
【0002】
発明の背景
系列間正規化方法の現状及び他の関連技術は:
明細書中に挙げたすべての刊行物及びそれら刊行物において引用された刊行物による開示は本願中に引用されている。
【0003】
発明の要約
本発明は画像系列間にパラメトリックな時空的正規化マッチングを与える装置及び方法を提供するものである。
【0004】
本願発明の好ましい実施態様では、多数の画像系列の受け取りを含めて時間的に順序づけられた画像系列を少なくとも時間と空間の一方において正規化マッチングする方法が提供されている。各系列には多様な画像が含まれ、複数の系列の各々は空間時間容積を限定し及び複数系列の一つに対応する空間時間容積中の少なくとも一点に関する出力表示を前記複数系列の少なくとも他の一つに対応する空間時間容積中の少なくとも一点へと与える。
【0005】
さらに本発明の好ましい実施態様においては、出力表示の供与には前記複数系列の一つに対応する第一空間時間容積の少なくとも一部と前記複数系列の少なくとも他の一つに対応する第二空間時間容積の少なくとも一部間で時間と空間の少なくとも一方における少なくとも1つの広域正規化マッチングを見つける工程が含まれ、前記少なくとも1つの広域正規化マッチングは前記第一空間時間容積中の複数の位置で起こる時空的変化を前記第二空間時間容積中の複数の位置で起こる時空的変化へ一致させる。
【0006】
さらに本発明の好ましい実施態様において、出力表示の供与には前記複数系列の一つに対応する第一空間時間容積の少なくとも一部と前記複数系列の少なくとも他の一つに対応する第二空間時間容積の少なくとも一部間で時間と空間の少なくとも一方における少なくとも1つの広域正規化マッチングを見つける工程が含まれ、前記少なくとも1つの広域的正規化マッチングは前記第一空間時間容積中の複数の位置で起こる時空的変化を前記第二空間時間容積中の複数の位置で起こる時空的変化へ相関させる。
【0007】
さらに本発明の好ましい実施態様において、出力表示の供与には前記複数系列の一つに対応する第一空間時間容積の少なくとも一部と前記複数系列の少なくとも他の一つに対応する第二空間時間容積の少なくとも一部間で時間と空間の少なくとも一方における少なくとも1つの広域正規化マッチングを見つける工程が含まれ、前記少なくとも1つの広域正規化マッチングは前記第一空間時間容積中の複数の位置で起こる少なくとも時間変化を前記第二空間時間容積中の複数の位置で起こる少なくとも時間変化へ一致させる。
【0008】
さらに本発明の好ましい実施態様において、出力表示の供与には前記複数系列の一つに対応する第一空間時間容積の少なくとも一部と前記複数系列の少なくとも他の一つに対応する第二空間時間容積の少なくとも一部間で時間と空間の少なくとも一方における少なくとも1つの広域正規化マッチングを見つける工程が含まれ、前記少なくとも1つの広域正規化マッチングは前記第一空間時間容積中の複数の位置で起こる少なくとも時間変化を前記第二空間時間容積中の複数の位置で起こる少なくとも時間変化へ相関させる。
【0009】
さらに本発明の好ましい実施態様においては、前記時間及び空間の少なくとも一方において少なくとも1つの広域正規化マッチングを見つける工程には時間における少なくとも1つの広域正規化マッチングを見つける工程が含まれる。
【0010】
さらに本発明の好ましい実施態様においては、前記時間及び空間の少なくとも一方において少なくとも1の広域的配列を見つける工程には空間における少なくとも1の広域的配列を見つける工程が含まれる。
【0011】
さらに本発明の他の好ましい実施態様においては、時間的に順序づけられた画像系列を時間と空間の少なくとも一方において正規化マッチングするシステムが提供されていて、該システムには各系列が多様な画像を含み空間時間容積を限定している複数の画像系列を受け取る空間時間容積発生装置と、前記複数系列の一つに対応する空間時間容積中の少なくとも一点に関する出力表示を前記複数系列の少なくとも他の一つに対応する空間時間容積中の少なくとも一点へと与えるアライナーが備えられている。
【0012】
さらに本発明の他の好ましい実施態様においては、前記アライナーには、前記複数系列の一つに対応する第一空間時間容積の少なくとも一部と前記複数系列の少なくとも他の一つに対応する第二空間時間容積の少なくとも一部間で時間と空間の少なくとも一方における少なくとも1つの広域正規化マッチングを見つける一致ベースの広域正規化マッチング探知装置が備えられ、該探知装置においては少なくとも1つの広域正規化マッチングが前記第一空間時間容積中の複数の位置で起こる時空的変化を前記第二空間時間容積中の複数の位置で起こる時空的変化へ一致させている。
【0013】
さらに本発明の他の好ましい実施態様においては、前記アライナーには、前記複数系列の一つに対応する第一空間時間容積の少なくとも一部と前記複数系列の少なくとも他の一つに対応する第二空間時間容積の少なくとも一部間で時間と空間の少なくとも一方における少なくとも1つの広域正規化マッチングを見つける相関ベースの広域正規化マッチング探知装置が備えられ、前記探知装置においては少なくとも1つの広域正規化マッチングが前記空間時間容積中の複数の位置で起こる時空的変化を前記第二空間時間容積中の複数の位置で起こる時空的変化と相関させている。
【0014】
さらに本発明の他の好ましい実施態様においては、前記アライナーには、前記複数系列の一つに対応する第一空間時間容積の少なくとも一部と前記複数系列の少なくとも他の一つに対応する第二空間時間容積の少なくとも一部間で時間と空間の少なくとも一方における少なくとも1つの広域正規化マッチングを見つける一致ベースの広域正規化マッチング探知装置が備えられ、前記探知装置においては少なくとも1つの広域正規化マッチングが前記空間時間容積中の複数の位置で起こる少なくとも時間的変化を前記第二空間時間容積中の複数の位置で起こる時空的変化へ一致させている。
【0015】
さらに本発明の他の好ましい実施態様においては、前記アライナーには、前記複数系列の一つに対応する第一空間時間容積の少なくとも一部と前記複数系列の少なくとも他の一つに対応する第二空間時間容積の少なくとも一部間で時間と空間の少なくとも一方における少なくとも1つの広域正規化マッチングを見つける相関ベースの広域正規化マッチング探知装置が備えられ、前記探知装置においては少なくとも1つの広域正規化マッチングが前記空間時間容積中の複数の位置で起こる少なくとも時間的変化を前記第二空間時間容積中の複数の位置で起こる時空的変化と相関させている。
【0016】
以下のパラグラフにおいて四角の括弧中の数字は、発明の背景の欄において列挙された刊行物を参照するものである。
【0017】
本発明では同一動的シーンの二つの異なるビデオ/画像系列間の時間と空間における一致を確立する方法が構成されている。本方法は有効な時空情報を用いて二つの系列間の空間的配列と時間的配列を同時に予測する。画像フレーム(動的対象あるいは場面照明の変化等)間の時間的変化は標準的な画像間正規化マッチング技術では活用できない正規化マッチングにとって有力な合図である。空間的及び時間的合図を単一の正規化マッチングへと包み込むことによって、従来の画像間正規化マッチング方法にとっての生得的曖昧状態は系列間正規化マッチングによってしばしば唯一無二的に解消される。画像間正規化マッチングに関わる問題点は、2以上の画像(単一の移動カメラで撮影されたものと複数カメラで撮影されたもののいずれか)間で1画像中の各画素(x,y)についての局部一致を緻密に評価し、他の画像中の対応画素(x’,y’)=(x+u,y+v)(ここで(u,v)は空間的ずれを示す)見つける際の問題点に言及している文献「画像間正規化マッチング」において詳しく研究されている。本発明は、別の問題点である(複数画像に対向する)複数系列間での時間と空間双方における一致を確立する「系列間正規化マッチング」の課題を扱うものである。すなわち、1の系列中の各フレーム(時間)t中の各画素について、それに対応するフレームt’及び他の系列(x’,y’,t’)=(x+u, y+v, t+w)(ここで(u,v,w)は時空的ずれである)中の画素(x’,y’)を見つける。多くの実世界のシナリオにおいては、複数のビデオカメラが一定時間にわたって同一場面についての情報を記録する。その例としては数組の報道クルーによって共同的に報道されるニュース記事、異なる視点から少なくとも10数台のカメラで同一場面を記録するスポーツ競技が挙げられる。複数系列に及ぶ情報の正規化マッチングは、動的場面分析、広範囲な監視、マルチセンサ共同作動、共通場面に基づく表示の組み立て(すなわち多系列モザイク)、多系列圧縮、多センサ融合、系列強調等を含む広範多様な動的場面への適用には有益である。
【0018】
従来の画像間正規化マッチング方法は個々の画像に含まれた情報、すなわち(シーンの外観に対応する)画像内の空間的変化に本来的に制限される。しかし、画像内に十分な空間的情報がない場合であっても確かな画像正規化マッチングができる場合がある。しかしながら、ビデオ系列には個々のフレームが持っている情報よりずっと多くの情報が含まれている。特に、シーン動学(移動対象物、照明変化等)についての情報はそのシーンに生得的な所有物であり、従って異なる画像形成装置から取り出されたすべての系列に共通のものである。かかる情報は正規化マッチングにとって付加的に有力な合図となる。
【0019】
画像間正規化マッチングを系列間正規化マッチング技術へ拡大することは有益である。系列間正規化マッチングの問題点を扱う勾配ベースの方法が記載されている。この方法は直接画像正規化マッチング方法を一般化したものである。この例では系列が一定の(但し未知である)内部及び外部パラメーターをもつ静止型のビデオカメラで撮影されている。本願に係る方法は局部一致の事前予測、フレーム一致、移動対象物検出あるいは照明変化の検出を必要とせずに空間的及び時間的な正規化マッチングパラメーターを同時に予測するものである。
【0020】
実施例の形で扱われているシナリオは、ビデオカメラが静止している場合、一定の(但し未知の)内部及び外部パラメーターを伴っている。記録されたシーンは動的に変化できる。すなわち、該シーンには移動対象、時間的な照明変化、及び/または他の時間的変化を含めることができる。時間的な誤正規化マッチングは、二つの入力された系列を異なるフレーム速度(例えばPAL及びNTSC)にできること、あるいは該二系列間に時間的ずれ(オフセット)があってもよい(例えば複数のカメラが同時に作動していない場合)ことに起因するものである。この時間的ずれはサブフレーム単位で起こり得る。この種の時間的誤正規化マッチングは時間の1−Dアフィン変換によってモデル化できる。空間的誤正規化マッチングは二つのカメラが異なる位置にあり、かつ異なる内部校正パラメーターをもつことに起因する。これらパラメーターは2Dパラメトリック変換からより一般的な3D変換までの範囲をとることができる。
【0021】
画像系列は二次元画像{x,y}N t−1の一組としてではなく三次元データ(x,y,t)の容積として取り扱われる。しかしながら、標準の3D容積測定正規化マッチングと異なって、空間(x,y)及び時間(t)成分は異なる動きをとる。典型例として、これら成分は別個に扱われ、相互に混ぜ合わせることはできない。
【0022】
系列間正規化マッチングに対する画像間正規化マッチング
系列間正規化マッチングは同様に他の正規化マッチング方法へも適用できる。それゆえ、ここでの議論目的は系列間正規化マッチングのパラダイムであって単にここに記載した特定方法ではない。系列間正規化マッチングは画像間正規化マッチングを一般化したものである。この一般化について二つ共通の正規化マッチング取り組み方法、すなわち(i)直接的方法及び(ii)特徴ベースの方法との関連において検討する。さらに、空間情報のみあるいは時間情報のみを用いることに起因する正規化マッチングにおける曖昧性を系列間正規化マッチングパラダイムによって解消できることについて示す。かかる曖昧性の解消は直接的及び特徴ベースの両系列間正規化マッチングについて示されている。
【0023】
直接的系列間正規化マッチング
前記直接法においては、シーンに時間的変化がないならば、系列内の時間的導関数はゼロSt≡0である。従って、いずれかの空間・時間点(x,y,t)に関して、下記式(1)の誤差限界点は減少する。
式中、I(x,y)=S(x,y,t)は時間tにおける画像フレームである。従って、下記式(I)のSSD関数はすべてのフレームについて平均化された画像間正規化マッチング目的関数まで減少する。
【0024】
シーンが時間的変化を含んでいる場合、系列間正規化マッチングは、画像間正規化マッチングがアクセスしている情報より多くの空間的正規化マッチングに関する情報を用いる。特に、系列間正規化マッチングのみが解消できる曖昧なシナリオが画像間正規化マッチングについて存在する。図7A−7Eは画像間正規化マッチングに関して曖昧である場合を示している。動くボールを伴う均質な背景シーンについて考慮する(図7A及び7B)。いずれか所定のフレームにおいて、すべての空間的傾斜は非常に小さな画像領域中(動くボール)へ集中している。このような場合、画像間正規化マッチングは正しい空間転移を唯一無二的に測定できない(図7C)。他方、前記空間転移は典型例として二つの系列にわたるすべての対応フレームを正規化マッチングさせるため、すなわち二つの軌跡が典型例として正規化マッチング状態にあるため、系列間正規化マッチングにはこの場合空間的曖昧性の欠点がない。さらに、(i)系列間正規化マッチングは(サブフレーム精度で)時間的誤正規化マッチングを回復し、及び(ii)画像間正規化マッチングは二つの系列間のフレームのみにアクセスできより正確な空間的正規化マッチングを得るので、系列間正規化マッチングは空間的転移について解釈する点では画像のすべての組からのすべての空間的制限を用いるよりもより有功である。しかしながら、前記二つの系列間のサブフレームの時間的誤正規化マッチングのため正確に時間において対応するフレームは存在しない。
【0025】
特徴ベースの系列間正規化マッチング
系列間パラダイムは直接法のみに限定されず、特徴ベースの方法を用いる場合にも同様に役立つ。特徴ベースの方法はまず近距離オペレーターによる画像上の特異点の検出に応用される(例えばHarrisコーナ検出器)[11]。二組の特異点が一旦抽出されたら、RANSAC[6]等のロバスト推定法[7]を用いて対応点を見つけ及び正規化マッチングパラメーターを抽出する([25]のレビューを参照)。
【0026】
画像の代わりに系列を扱うために、特徴の引き出しを特徴の点から特徴の軌跡へと拡大する。つまり各系列内の各フレーム上の位置を示す点の軌跡である。従って第二段階では(特徴x,yが系列に沿って調和する)点の軌跡間の一致を見つけることが行われる。尚、系列間正規化マッチングにおいては、これら軌跡は必ずしも移動対象物にのみ属するとは限らず静止対象物に属する顕著な特徴が含まれてもよい。これによりいかなる意味でも確実で一定した軌跡が得られる。
【0027】
特徴ベースの系列間正規化マッチングは特徴ベースの画像間正規化マッチングを一般化したものである。移動対象物のないシーンを想定したならば、すべての軌跡は静止対象物の軌跡となるので後者は前者と同一となる。
【0028】
他方移動対象物の特徴だけを選ぶことの欠点は正規化マッチングに曖昧性が起こり得ることである。この点については図8A−8Dにおいて説明されている。前記移動対象物情報(例えば飛行機の軌跡)のみが考慮される場合、何らかの時間的変動について二つの系列間には一貫した空間転移が存在し、図8C及び8Dの二つの軌跡を正規化マッチングする。すなわち、このシナリオにおいては、移動対象物正規化マッチング(軌跡間正規化マッチング)は多数の有効な時空転移を無限に見つけることになる。系列間正規化マッチングは静的及び動的情報の双方を用いなければならず、空間及び時間情報双方を同時に前記二系列にわたって正規化マッチングするのでこの場合における曖昧性を唯一無二的に解消する。
【0029】
画像間正規化マッチングの特徴ベースの方法に対する直接方法の賛否はここでも適用され、特徴ベースの取扱方法を二系列にわたる基本的マトリックス抽出へ容易に拡大することができる。
【0030】
特徴ベースの系列間正規化マッチングに対する上記取扱方法は移動対象物による動的変化の活用にのみ用いられる。しかしながら、照明の変化等の他の時間的変化あるいは特徴そのものに影響する変化(高度に軟式である動作)はこの特徴ベースの系列間正規化マッチングによっては捕らえられない。他方直接法による系列間正規化マッチングは時間的導関数を介して特徴によるこれら変化の明確なモデル化なしにいかなる種類の動的変化をも捕らえる。従って、この配列では極めて複雑な変遷を扱うことが可能である。特に、時間的正規化マッチングの測定には光源を暗くしたりあるいは明るくすることで十分なことが多い。さらに、画像領域が均質であってもこの場合における時間的制限に寄与する。このことは、照明における広域変化が顕著な時間的導関数を生ずるので、たとえこれら領域の空間導関数がゼロであっても事実である。
【0031】
尚、一般的には照明の変化は広域的である必要はない。例えば、一部曇りの日における戸外シーンあるいはスポットライトを当てた室内シーンを照明の局所変化として感光させることが可能である。かかる局所変化は空間的正規化マッチングパラメーターにおける付加的制約となる。
【0032】
系列間正規化マッチングのパラダイムは特定方法を超えて拡大する。該パラダイムは系列にわたる特徴ベースのマッチングあるいは他の形式のマッチング測定にも同様に適用できる。
【0033】
発明の詳細な説明
図1は、異なる方位の非同調カメラから捉えられ、それゆえに各画像はボールの軌跡に異った知覚を起こし、また最終的に、時間的解像度の向上した組合せ系列中の知覚されたボールの奇跡が競技の種々の画像系列を空間的時間的に正規化マッチングし及び組合せることによって本発明の好ましい実施態様に従って生成されている、前記競技の数個の画像系列の簡略ブロック図である。
【0034】
図2Aは図1のボール投げ競技を図1のカメラのうち第一カメラから撮った第一入力映画の簡略説明図である。図2Bは図2Aの第一入力映画においてボールが知覚される軌跡の簡略説明図である。
【0035】
図3Aは図1のボール投げ競技を図1のカメラのうち第二カメラから撮った第二入力映画の簡略説明図である。図3Bは図3Aの第二入力映画においてボールが知覚される軌跡の簡略説明図である。
【0036】
図4Aは図1のボール投げ競技を図1のカメラのうち第三カメラから撮った第三入力映画の簡略説明図である。図4Bは図4Aの第三入力映画においてボールが知覚される軌跡の簡略説明図である。
【0037】
図5は、一緒に取り出され、改善された時間的解像度をもつフレームの組合せ系列を形成する正規化マッチングされたフレームの簡略説明図である。符号200、210及び220は仮想でありそれぞれ図1に示した3台のカメラのいずれによっても捉えられなかったボール部分4、9及び10に対応する。
【0038】
図6は本発明の好ましい実施態様に係る画像系列を副サンプリングし正規化マッチングする好ましい方法を示す図であり、図中S’0は元の画像系列であり、S’1はここで述べたS’0によって副サンプリングされ、S’2は同様にS’1から副サンプリングされ、以下同様である。
【0039】
図6は好ましい階層性の時空的正規化マッチング構成を説明している。各入力しについて容積測定ピラミッドが構成され、一つ(右側)は基準系列用であり、一つは(左側)は第二系列用である。時空的正規化マッチング推定量が各レベルにおいて反復適用される。該推定量は基準容積と(斜め立方体で描かれた)第二容積のワーピング版間の残差誤正規化マッチングに基づく概算を精密化する。最新レベルの出力は次レベルへと伝搬されて最初の推定値として用いられる。
【0040】
図7A−7Eは画像間正規化マッチングにおける空間的曖昧性を説明する図であり、図7A−7Bは前記二系列からの二つの対応するフレームを示す図である。前記二つのフレーム間には厖大な数の有効な画像間正規化マッチングがあり、それらのいくつかが図7Cに示されている。図7D−7Eは動くボールの二つの連続を示している。それらのうちの一方のみがボールの二つの軌跡を正規化マッチングしている。
【0041】
図8A−8Dは時間情報のみを用いる場合の正規化マッチングにおける時空的曖昧性を説明する図である。小型飛行機が2台のカメラで見ているシーンを横切る様子を示している。この飛行機の軌跡は正規化マッチングパラメーターを唯一無二的に測定するには十分ではない。任意の時間的ずれは飛行機の移動方向に沿った適当な空間移動によって補正できる。他方系列間正規化マッチングは、該マッチングがシーン変化(異なる位置の飛行機)及びシーン概観(静的地面)の双方を用いるのでこの曖昧性を唯一無二的に取り除くことができる。尚、この場合においても空間情報だけでは十分でない。
【0042】
本発明の好ましい実施態様が特に目的とするのは、好ましくは組合せに際して互いに補足しあうように画質を相違させた複数の画像形成処理によって生じた情報を適当に組み合わせることによって個々の画像形成処理の制限を克服することによって個々の画像形成処理の制限による影響を減じることである。
【0043】
前記画像形成処理が適当に組み合されるならば画像形成処理の相互補足を可能とする画像形成処理間の相違には、以下に限定されないが、時間のずれ、時間及び空間解像度、空間位置及び定位角度、ズーム及び口径寸法、焦点レンズ、露出時間及びスペクトル反応等の画像捕獲装置の物理的特性のいずれかまたは組合せが含まれる。
【0044】
例えば、図1に示すように、典型例として、同一シーン180を画像形成する異なる画像捕獲装置によって捕獲された該図示された実施態様における3つの系列50、90及び120のような複数の画像系列が受け取られる。前記図示した実施態様において、前記画像捕獲装置は符号20、30及び40でもそれぞれ参照されているカメラI、II及びIIIである。各系列は図示したように、順番付けられた多様な画像を含むものである。例えば、カメラ20によって画像形成された系列は説明の便宜上3画像60、70及び80を含むものとして示している。
【0045】
ここに示され説明されている本発明の好ましい実施態様の著しい利点は、図1に示すように、それぞれ制限のある画像形成処理がそれら制限のため実際に人を誤らせるほど不完全に競技を表示できることである。例えば、図1に示すように、3つの画像形成装置20、30及び40それぞれによって用いられた不十分な時間のサンプリングによって前記装置のいずれもが実際のシーン180中でボールに実際に追いかけられるS字形軌跡を正確に表示できない。図2A−2Bに示した第一カメラ20はボールがほぼ直線に沿って落ちる位置1、6及び11でのみボールを画像形成するので該カメラ20は直線状の軌跡を知覚する。図3A−3Bに示した第二カメラ30はボールがほぼバナナ状曲線に沿って落ちる位置2、5及び8でのみボールを画像形成するので該カメラ30はバナナ状の軌跡を知覚する。図4A−4Bに示した第三カメラ40はボールがほぼ逆バナナ状曲線に沿って落ちる位置3、7及び11でのみボールを画像形成するので該カメラ40は逆バナナ状の軌跡を知覚する。
【0046】
図1の実施態様は本発明を適用できる唯一の例であると認識される。より一般化して言えば、極めて広範にわたる画像形成処理制限の影響を本願において説明されている画像系列組合せ方法によって減じることができる。図1は時間的解像度の特定な制限の補正に適するが、この制限は例示によってのみ図1中に図解されている。
【0047】
複数のそれぞれ異なる制限をもつ画像形成処理によって生じた適当に組合わされた情報によって個々の画像形成処理の制限を克服するため、種々個別の画像形成処理によって生じた画像系列は典型例として図5に示すように空間及び時間的に正規化マッチングされる。一般的には画像系列は空間的かあるいは時間的の一方でのみ誤って正規化マッチングされることがあるが、図1の3つの画像系列は空間的にも時間的にも誤って正規化マッチングされている。
【0048】
図5には、図1のカメラIから始まるタイプIのフレーム、カメラIIから始まるタイプIIのフレーム及びカメラIIIから始まるタイプIIIのフレームの3つの異なるフレームの方位によって明示されたように空間的に正規化マッチングされた系列が図示されている。図示したように、タイプIのフレームはそれらの上部右角が上方へ旋回して斜めになっており、タイプIIIのフレームはそれらの上部左角が下方へ旋回して斜めになっており、またタイプIIのフレームはタイプIとタイプIIIのフレーム間の中間で斜めになっている。図1に図示された特定の誤った空間的正規化マッチングは単なる例示であってこれに限定される意図ではない。図5に図示した正規化マッチングを遂行するためのコンピュータによる方法がここでは詳しく説明されている。
【0049】
図5では、フレームの連結系列内のフレームの順序づけによって及びフレーム内に散在され前記連結系列中で正しい間隔が維持されていることを示す3つの仮想上の時間スペーサー200、210及び220によって分かるように、系列が時間的に正規化マッチングされることが図示されている。図1では、ボールの位置1−11はカメラI、II、III、なし、II、I、III、II、なし、なし、IIIによってそれぞれ画像形成される。従って、これらのボール位置に対応するフレームは正に上記した順序で前記連結系列内に現れる。図5において仮想上の時間空間200、210及び220によって描かれている前記連結系列中のフレーム間の一様でない間隔は、それら時間位置でのボール位置、すなわち図1のいずれの画像形成処理によっても捕らえられないボール位置4、9及び10が抜けているために生じている。
【0050】
図1−5の時間の次元に沿って等しく間隔を空けたボール位置1−11は、成分画像形成処理の時間解像度及びいかにそれらが失われるかを図解するために単に説明しやすくするために図示したものである。この説明目的のため、他のものではなく、これらのボール位置を選択することは重要ではない。
【0051】
系列間正規化マッチングは情報の結合に連関する他の用途にも用いられる。例えば、数台のカメラを用いて異なる角度から同時にスポーツ競技の画像形成を行うことができる。ゴール等の事象は系列間正規化マッチングによれば手動で記録できなければ系列の中から見つけることができるし、また他のすべての系列から探し出せる。
【0052】
正規化マッチングはまた複数の系列内の特定事象あるいは対象物の認識に連関する用途にも有用である。例えば、商業広告用途において、正規化マッチングは動くロゴ等の対象の確認への利用が望ましい。ここで示され記載された類似性基準は上記確認作業を容易にするために用いることができる。
【0053】
本発明の好ましい実施態様によれば、各画像系列は単なる二次元(x,y)フレームの集合としてよりも競技全体に対応するデータ(x,y,z)の三次元容積の表示あるいはサンプルとして扱われる。前記出力データ(x,y,t)の三次元容積は、いくつかの画像処理を結びつけ、また一般的には分離操作におけるいずれかの画像処理よりもよい、空間及び時間において競技全体を表示することによって生成される。かかる表示はここでは競技の「空間時間容積」あるいは「時空容積」と呼ばれる。各画像系列は競技の全体を表示する実際の空間時間容積の不完全かつ時には不正確な表示である空間時間容積(画像系列に対応する空間時間容積)に対応するものである。より一般的には、1またはそれ以上のn次元画像形成処理によって画像形成された競技を表示する空間時間容積の次元はn+1である。単純な例を挙げれば、ある事象において、ディスク表面に対して直交する直線に沿った空間中を移動する円形ディスクはその事象を表示する三次元(x,y,t)空間時間容積中にシリンダーを生成する。他の例では、ある事象において、空間中を移動する線がその事象を表示する三次元(x,y,t)空間容積中に平面を生成する。
【0054】
ここで示され説明されている正規化マッチング処理では図5に例示した競技を捕らえるいくつかの画像処理のそれぞれに対応する時空容積を空間的及び/または時間的に正規化マッチングすることが好ましい。ここで示され記載された前記正規化マッチング処理の出力は第一系列に対応する第一空間時間容積中の少なくとも1点(より典型的にはその第一空間時間容積中の複数フレームそれぞれの内部の各画素あるいはすべての画素に対応する多様な点)を第二系列に対応する少なくとも第二空間時間容積中の対応する数の点へ関係付ける出力表示である。前記系列それぞれについて前記出力を与えること、すなわち各系列が前記第一系列として順に機能することを含め、種々画像系列の空間時間容積間での稠密な一致を生ずることが好ましい。画像処理間での副画素・副フレーム速度解像度正規化マッチングが得られることが好ましい。
【0055】
本発明の好ましい実施態様によれば、実質的に同一競技を捕らえる画像処理間での空間時間的な誤った正規化マッチングは前記画像処理自体の出力、例えば後に詳しく述べる種々の画像処理によって捕らえられたフレームに起因する。それゆえ、画像処理間の空間的な誤った正規化マッチングあるいは時間的な誤った正規化マッチングを特定する外部出力を受け取ることは一般的には必要ではなく、従って画像捕獲装置について空間次元において個々あるいは相互に対応させる必要はなく、また時間次元と同調させる必要もない。複数の画像処理間の誤った正規化マッチングを引き出すために、正規化マッチングされる複数画像処理のうちの少なくとも一組に対応する空間時間容積の代表的部分間の時間及び/または空間における広域正規化マッチングが、空間時間容積の少なくとも一方の内部に起こる空間時間変化あるいは少なくとも時間変化を少なくとも1つの他の空間時間容積内に起こる空間時間変化あるいは少なくとも時間変化と一致させる本願記載の処理を一致させるかあるいは少なくとも相関させることによって見つけ出される。
【0056】
ここで正規化マッチング輝度エラーについて図6の方法中のコア・インナーループ工程を参照して説明する。
【0059】
(u,v,w)は直接画像間正規化マッチングにおいて提案された2D及び3D変換の階層に類似する方法でより一般的な3D変換によって同様に表現することができる。
【0060】
従来技術においては、空間的正規化マッチングパラメーターは画像輝度変化から直接回復され、粗性微細性の推定はガウス像ピラミッドを用いて行った。この操作は系列輝度変化から直接空間及び時間的正規化マッチングパラメーターを回復するために一般化され、前記粗性微細性の推定は容積測定系列ピラミッド内において行われる。マルチスケール分析は図6に図示したように空間と時間の双方において行われる。
【0061】
は系列Sの時空勾配を表す。式(3)は未知のずれ(u,v,w)を系列内の測定可能な輝度変化と直接関連づける。大きな時空的ずれ(u,v,w)の余裕をみて、式(1)及び(3)の最小化はここで述べる反復ワープが粗いものから細かいものに及ぶフレームワーク内で行われる。
【0062】
【0063】
尚、カメラは静止しているのでHはすべてのフレームについて共通である。2台のカメラが(NTSC及びPAL等の)異なるフレーム比及びおそらくは時間のずれをもつ場合、1−Dアフィン変換は二つの系列間へ時間的な誤った正規化マッチング: w(t)=d1t+d2(式中d1及びd2は実数である)を十分設計させ得る。2つの異なる時空パラメトリック正規化マッチングモデルが記載されているが、これらに限定する意図ではない。
【0064】
【0065】
【0066】
【0067】
上記条件においてPはパラメトリック変換であると仮定する。しかしながら、提示された構成はより一般的であり、パラメトリック変換のみに限定されない。(u,v,w)は3Dパラメーター(エピポール、フォモグラフィー及び形状[13,18,14,10])の条件で同様に表現できる。[1]は可能な空間的正規化マッチングモデルの階層を示唆している。
【0068】
時空容積測定ピラミッド(任意的)
上記推定工程は反復ワープの粗性微細性推定構成中に嵌め込まれている。この工程は時空容積測定ピラミッド内において実施されることが好ましい。マルチスケール分析は3つの利点、(i)大きな誤った正規化マッチングが扱える、(ii)収束速度が速い、及び(iii)局部最小元中に捕われることから回避させる、を与える。これら3つの利点は[1]において空間的正規化マッチングの場合について検討されている。ここでは同様にその時間領域へも拡大されている。
【0069】
ガウス画像ピラミッド[3]はガウス系列(容積測定)ピラミッドへ一般化されるものである。あるいはラプラシアンピラミッドを用いることもできる。最大の解像度レベルが入力系列として定まる。低域濾過(LPF)及びそれに続く3つすべての次元x,y,t中の2の因数による副サンプリングによって空間及び時間における連続的な低解像度レベルが得られる。従って、例えば前記容積測定系列ピラミッドの一解像度レベルがサイズ2568x256画素64フレームの系列を含むならば、次の解像度レベルにはサイズ128x128等の画素32フレームの系列が含まれる[4]。最高レベルでの時空容積の最小サイズは射影変換に関しては100x100画素x100フレーム以上、翻訳等の単純変換の場合は20x20画素x4フレーム以上であることが好ましい。
【0070】
処理の要約
【0071】
【0072】
ここに示し記載した実施態様においては、説明を明瞭にするため、カメラの内部及び外部パラメーターは固定されていると仮定する。しかし必ずしもそうでなくともよい。例えば、カメラが回転したが移動しないならば、各カメラは下記刊行物[27]に記載されたモザイクベース処理におけるように固定座標系へ独立して配列される。続いて固定パラメーターカメラに適する本願記載の前記方法を適用することができる。さらに、本願記載の方法はさらに各画像系列の少なくとも一部が単一座標系へ正規化マッチングできる用途にも用いることが可能である。
【0073】
本願記載の特徴ベースの正規化マッチングはさらに基本行列の計算にも適している。
【0074】
本願記載の方法は一般的に利用でき、2D変換のみならず3D変換にも適用できる。本発明が適用できる変換には、以下に限定されないが、先に参照したBergenら[1]の引例に記載された変換階層、[5]に記載されたエピポール、ホモグラフィー及び形状パラメーター表示を含む3Dパラメーター条件で表現された変換、及び先に参照したIrani & Anandan(1996年)、Kumanら(1994年)、Harpreet Scawhney(1994年)及びSzeliski & Shum(1997年)の引例に記載されたプレーン+パララックスパラメーター表示条件で表現された変換が含まれる。
【0075】
SSD目的関数を最小化することによって得られるここに示すエラー機能は単なる例示であり限定する意図ではない。上記に代えて、画像間正規化マッチングにおける使用が知られる[28]に記載の正規化された相関性あるいは[29]に記載の相互情報基準等及びこれらに限定されないその他の類似性基準を用いることもできる。
【0076】
ガウスピラミッドの使用は必須ではないと認識される。これに代えて、例えばラパシアンピラミッドあるいは方向性導関数を用いることができる。
【0077】
明瞭性のため異なる実施態様によって記載された本発明の種々の特徴を単一の実施態様において組み合わせて提供することもできる。逆に簡潔を期して、単一の実施態様において記載された本発明の種々特徴を個別にあるいは適当なサブコンビネーションの形態で提供することもできる。
【0078】
本発明が特定的に示し記載された記載に限定されないことは当業者によって認識されるところである。本発明範囲は後述される特許請求の範囲によってのみ限定されると言うべきである。
【図面の簡単な説明】
本発明は下記に説明する図面を用いた詳細な説明から理解され正しく認識される。
【図1】異なる方位のカメラから捉えられ、それゆえに各画像はボールの軌跡の異なるかつ誤り導く知覚を生じ、また最終的に時間的に正確に組合された系列の知覚されたボールの軌跡が競技の種々の画像系列を空間的時間的に正規化マッチングし及び組合せることによって本発明の好ましい実施態様に従って生成されている、前記競技の数個の画像系列の簡略ブロック図である。
【図2A】図1のボール投げ競技を図1のカメラのうち第一カメラから撮った第一入力映画の簡略説明図である。
【図2B】図2Aの第一入力映画においてボールが知覚される軌跡の簡略説明図である。
【図3A】図1のボール投げ競技を図1のカメラのうち第二カメラから撮った第二入力映画の簡略説明図である。
【図3B】図3Aの第二入力映画においてボールが知覚される軌跡の簡略説明図である。
【図4A】図1のボール投げ競技を図1のカメラのうち第三カメラから撮った第三入力映画の簡略説明図である。
【図4B】図4Aの第三入力映画においてボールが知覚される軌跡の簡略説明図である。
【図5】図1に示されたより高いサンプリング濃度で一緒に取り出されたフレームの組合せ系列を形成する正規化マッチングされたフレームの簡略説明図である。
【図6】本発明の好ましい実施態様に係る画像系列を副サンプリングし正規化マッチングする好ましい方法を示す図である。
【図7A及び図7B】二つの未配列の系列からの対応フレームの説明図である。
【図7C】図7A及び7Bのフレーム間のいくつかの可能な正規化マッチングの説明図である。
【図7D及び7E】図7A−7Bのフレーム中に現れた動くボールの二つの系列の説明図であって、一方の系列のみがボールの二つの軌跡を正規化マッチングしている図である。
【図8A】第一カメラから見た飛行機のシーンである。
【図8B】第二カメラから見た図8Aの飛行機のシーンである。
【図8C】第一カメラから見た飛行機の軌跡である。
【図8D】第二カメラから見た前記飛行機の軌跡である。
【図9】本発明の好ましい実施態様により構成され作動する好ましい画像系列正規化マッチング方法を説明するための簡略フローチャートである。
Claims (13)
- それぞれ多様な画像を含む画像の複数系列を受け取る工程と、
前記複数系列の一つに対応する空間時間容積中の少なくとも一点で前記複数系列の少なくとも他の一つに関する出力表示を与える工程から構成される、時間的に順序付けられた画像系列の時間と空間の少なくとも一方における正規化マッチング方法。 - 前記出力表示を与える工程には、
前記複数系列の一つに対応する第一空間時間容積の少なくとも一部と前記複数系列の少なくとも他の一つに対応する第二空間時間容積の少なくとも一部との間で、前記第一空間時間容積中の複数の位置で起こる空間時間的変化を前記第二空間時間容積中の複数の位置で起こる空間時間的変化へ一致させる時間と空間の少なくとも一方における少なくとも1つの広域正規化マッチングを見つける工程が含まれることを特徴とする請求項1項記載の正規化マッチング方法。 - 前記出力表示を与える工程には、
前記複数系列の一つに対応する第一空間時間容積の少なくとも一部と前記複数系列の少なくとも他の一つに対応する第二空間時間容積の少なくとも一部との間で、前記第一空間時間容積中の複数の位置で起こる空間時間的変化を前記第二空間時間容積中の複数の位置で起こる空間時間的変化へ相関させる時間と空間の少なくとも一方における少なくとも1つの広域正規化マッチングを見つける工程が含まれることを特徴とする請求項1項記載の正規化マッチング方法。 - 前記出力表示を与える工程には、
前記複数系列の一つに対応する第一空間時間容積の少なくとも一部と前記複数系列の少なくとも他の一つに対応する第二空間時間容積の少なくとも一部との間で、前記第一空間時間容積中の複数の位置で起こる少なくとも時間的変化を前記第二空間時間容積中の複数の位置で起こる少なくとも時間的変化へ一致させる時間と空間の少なくとも一方における少なくとも1つの広域正規化マッチングを見つける工程が含まれることを特徴とする請求項1項記載の正規化マッチング方法。 - 前記出力表示を与える工程には、
前記複数系列の一つに対応する第一空間時間容積の少なくとも一部と前記複数系列の少なくとも他の一つに対応する第二空間時間容積の少なくとも一部との間で、前記第一空間時間容積中の複数の位置で起こる少なくとも時間的変化を前記第二空間時間容積中の複数の位置で起こる少なくとも時間的変化へ相関させる時間と空間の少なくとも一方における少なくとも1つの広域正規化マッチングを見つける工程が含まれることを特徴とする請求項1項記載の正規化マッチング方法。 - 前記時間と空間の少なくとも一方における少なくとも1つの広域正規化マッチングを見つける工程には、少なくとも1の時間における広域正規化マッチングを見つける工程が含まれることを特徴とする請求項2項記載の方法。
- 前記時間と空間の少なくとも一方における少なくとも1つの広域正規化マッチングを見つける工程には、少なくとも1の空間における広域正規化マッチングを見つける工程が含まれることを特徴とする請求項2項記載の方法。
- それぞれの系列が多様な画像を含みかつ空間時間容積を限定する複数の画像系列を受け取る空間時間容積発生装置、及び、
前記複数系列の一つに対応する空間時間容積中の少なくとも一点を前記複数系列の少なくとも他の一つに対応する空間時間容積中の少なくとも一点へ関係付ける出力表示を与えるアライナーから構成される時間的に順序付けられた画像系列の時間と空間の少なくとも一方における正規化マッチング方法。 - 前記アライナーには、前記複数系列の一つに対応する第一空間時間容積の少なくとも一部と前記複数系列の少なくとも他の一つに対応する第二空間時間容積の少なくとも一部との間で時間と空間の少なくとも一方における少なくとも1つの広域正規化マッチングを見つける一致ベースの広域正規化マッチング探知装置が含まれ、前記少なくとも1つの広域正規化マッチングは前記第一空間時間容積中の複数の位置で起こる空間時間的変化を前記第二空間時間容積中の複数の位置で起こる空間時間的変化へ一致させることを特徴とする請求項8項記載の正規化マッチングシステム。
- 前記アライナーには、前記複数系列の一つに対応する第一空間時間容積の少なくとも一部と前記複数系列の少なくとも他の一つに対応する第二空間時間容積の少なくとも一部との間で時間と空間の少なくとも一方における少なくとも1つの広域正規化マッチングを見つける相関ベースの広域正規化マッチング探知装置が含まれ、前記少なくとも1の広域正規化マッチングは前記第一空間時間容積中の複数の位置で起こる空間時間的変化を前記第二空間時間容積中の複数の位置で起こる空間時間的変化へ相関させることを特徴とする請求項8項記載の正規化マッチングシステム。
- 前記アライナーには、前記複数系列の一つに対応する第一空間時間容積の少なくとも一部と前記複数系列の少なくとも他の一つに対応する第二空間時間容積の少なくとも一部との間で時間と空間の少なくとも一方における少なくとも1つの広域正規化マッチングを見つける一致ベースの広域正規化マッチング探知装置が含まれ、前記少なくとも1つの広域正規化マッチングは前記第一空間時間容積中の複数の位置で起こる少なくとも時間的変化を前記第二空間時間容積中の複数の位置で起こる空間時間的変化へ一致させることを特徴とする請求項8項記載の正規化マッチングシステム。
- 前記アライナーには、前記複数系列の一つに対応する第一空間時間容積の少なくとも一部と前記複数系列の少なくとも他の一つに対応する第二空間時間容積の少なくとも一部との間で時間と空間の少なくとも一方における少なくとも1つの広域正規化マッチングを見つける相関ベースの広域正規化マッチング探知装置が含まれ、前記少なくとも1つの広域正規化マッチングは前記第一空間時間容積中の複数の位置で起こる少なくとも時間的変化を前記第二空間時間容積中の複数の位置で起こる空間時間的変化へ相関させることを特徴とする請求項8項記載の正規化マッチングシステム。
- 前記画像がカラー画像を含むことを特徴とする請求項1項記載の方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
IL13608000A IL136080A0 (en) | 2000-05-11 | 2000-05-11 | Sequence-to-sequence alignment |
PCT/IL2001/000412 WO2001086935A2 (en) | 2000-05-11 | 2001-05-10 | Apparatus and method for spatio - temporal alignment of image sequences |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008181278A Division JP4625854B2 (ja) | 2000-05-11 | 2008-07-11 | 画像系列の時空的正規化マッチングシステム及び方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004515832A true JP2004515832A (ja) | 2004-05-27 |
Family
ID=11074119
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001583030A Pending JP2004515832A (ja) | 2000-05-11 | 2001-05-10 | 画像系列の時空的正規化マッチング装置及び方法 |
JP2008181278A Expired - Fee Related JP4625854B2 (ja) | 2000-05-11 | 2008-07-11 | 画像系列の時空的正規化マッチングシステム及び方法 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008181278A Expired - Fee Related JP4625854B2 (ja) | 2000-05-11 | 2008-07-11 | 画像系列の時空的正規化マッチングシステム及び方法 |
Country Status (6)
Country | Link |
---|---|
US (1) | US7428345B2 (ja) |
EP (1) | EP1297487A4 (ja) |
JP (2) | JP2004515832A (ja) |
AU (1) | AU5662601A (ja) |
IL (1) | IL136080A0 (ja) |
WO (1) | WO2001086935A2 (ja) |
Families Citing this family (52)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8250617B2 (en) * | 1999-10-29 | 2012-08-21 | Opentv, Inc. | System and method for providing multi-perspective instant replay |
US7522186B2 (en) * | 2000-03-07 | 2009-04-21 | L-3 Communications Corporation | Method and apparatus for providing immersive surveillance |
FR2835124B1 (fr) * | 2002-01-24 | 2004-03-19 | Telediffusion De France Tdf | Procede de synchronisation de deux flux de donnees numeriques de meme contenu |
US7366361B2 (en) * | 2003-03-05 | 2008-04-29 | Sarnoff Corporation | Video registration based on local prediction errors |
CA2529903A1 (en) * | 2003-06-19 | 2004-12-29 | Sarnoff Corporation | Method and apparatus for providing a scalable multi-camera distributed video processing and visualization surveillance system |
JP4451730B2 (ja) * | 2003-09-25 | 2010-04-14 | 富士フイルム株式会社 | 動画生成装置、方法及びプログラム |
JP2007531380A (ja) * | 2004-03-23 | 2007-11-01 | エレクトロニクス アンド テレコミュニケーションズ リサーチ インスチチュート | 量的表現を有する強化された関係モデルの構造並びに、これを適用したテレビエニータイムサービスシステム及び方法 |
US7756358B2 (en) * | 2004-11-30 | 2010-07-13 | Hewlett-Packard Development Company, L.P. | System and method of aligning images |
KR101199498B1 (ko) * | 2005-03-31 | 2012-11-09 | 삼성전자주식회사 | 카메라 파라미터를 이용한 다시점 영상의 부호화 장치 및생성 장치, 그 방법과, 이를 수행하기 위한 프로그램이기록된 기록 매체 |
EP1811457A1 (en) * | 2006-01-20 | 2007-07-25 | BRITISH TELECOMMUNICATIONS public limited company | Video signal analysis |
JP4620607B2 (ja) * | 2006-02-24 | 2011-01-26 | 株式会社モルフォ | 画像処理装置 |
US9554093B2 (en) | 2006-02-27 | 2017-01-24 | Microsoft Technology Licensing, Llc | Automatically inserting advertisements into source video content playback streams |
EP2005748B1 (en) * | 2006-04-13 | 2013-07-10 | Curtin University Of Technology | Virtual observer |
US20070280507A1 (en) * | 2006-06-01 | 2007-12-06 | Beddhu Murali | Apparatus and Upwind Methods for Optical Flow Velocity Estimation |
US8019180B2 (en) * | 2006-10-31 | 2011-09-13 | Hewlett-Packard Development Company, L.P. | Constructing arbitrary-plane and multi-arbitrary-plane mosaic composite images from a multi-imager |
KR101351091B1 (ko) * | 2006-12-22 | 2014-01-14 | 삼성전자주식회사 | 화상형성장치 및 그 연사촬영 이미지의 제어방법 |
US8924270B2 (en) | 2007-05-03 | 2014-12-30 | Google Inc. | Monetization of digital content contributions |
US8611422B1 (en) | 2007-06-19 | 2013-12-17 | Google Inc. | Endpoint based video fingerprinting |
US20080319844A1 (en) * | 2007-06-22 | 2008-12-25 | Microsoft Corporation | Image Advertising System |
US8719288B2 (en) * | 2008-04-15 | 2014-05-06 | Alexander Bronstein | Universal lookup of video-related data |
JP2009077363A (ja) * | 2007-08-24 | 2009-04-09 | Sony Corp | 画像処理装置、動画再生装置、これらにおける処理方法およびプログラム |
US8654255B2 (en) * | 2007-09-20 | 2014-02-18 | Microsoft Corporation | Advertisement insertion points detection for online video advertising |
WO2009042858A1 (en) | 2007-09-28 | 2009-04-02 | Gracenote, Inc. | Synthesizing a presentation of a multimedia event |
US8131113B1 (en) | 2007-11-29 | 2012-03-06 | Adobe Systems Incorporated | Method and apparatus for estimating rotation, focal lengths and radial distortion in panoramic image stitching |
JP5223318B2 (ja) * | 2007-12-07 | 2013-06-26 | ソニー株式会社 | 画像処理装置、画像処理方法およびプログラム |
US20090171787A1 (en) * | 2007-12-31 | 2009-07-02 | Microsoft Corporation | Impressionative Multimedia Advertising |
US8205148B1 (en) * | 2008-01-11 | 2012-06-19 | Bruce Sharpe | Methods and apparatus for temporal alignment of media |
US8170278B2 (en) * | 2008-08-06 | 2012-05-01 | Sri International | System and method for detecting and tracking an object of interest in spatio-temporal space |
US8233664B2 (en) | 2008-11-12 | 2012-07-31 | Eastman Kodak Company | Determining relative depth of points in multiple videos |
KR20100062575A (ko) * | 2008-12-02 | 2010-06-10 | 삼성테크윈 주식회사 | 감시 카메라의 제어 방법 및 이를 사용한 제어 장치 |
US8207989B2 (en) * | 2008-12-12 | 2012-06-26 | Microsoft Corporation | Multi-video synthesis |
JP4764487B2 (ja) * | 2009-03-02 | 2011-09-07 | 株式会社日立製作所 | 映像監視システム |
US9025908B2 (en) * | 2009-04-08 | 2015-05-05 | The John Hopkins University | System and method for aligning video sequences |
US8314816B2 (en) * | 2009-06-08 | 2012-11-20 | Honeywell International Inc. | System and method for displaying information on a display element |
JP5532992B2 (ja) * | 2010-02-10 | 2014-06-25 | セイコーエプソン株式会社 | 書画カメラ、書画カメラの制御方法およびプログラム |
US8730396B2 (en) * | 2010-06-23 | 2014-05-20 | MindTree Limited | Capturing events of interest by spatio-temporal video analysis |
US9147260B2 (en) * | 2010-12-20 | 2015-09-29 | International Business Machines Corporation | Detection and tracking of moving objects |
US8587666B2 (en) * | 2011-02-15 | 2013-11-19 | DigitalOptics Corporation Europe Limited | Object detection from image profiles within sequences of acquired digital images |
US8587665B2 (en) * | 2011-02-15 | 2013-11-19 | DigitalOptics Corporation Europe Limited | Fast rotation estimation of objects in sequences of acquired digital images |
US8705894B2 (en) | 2011-02-15 | 2014-04-22 | Digital Optics Corporation Europe Limited | Image rotation from local motion estimates |
US9746988B2 (en) * | 2011-05-23 | 2017-08-29 | The Boeing Company | Multi-sensor surveillance system with a common operating picture |
GB2524960B (en) * | 2014-04-04 | 2019-05-15 | Imagineer Systems Ltd | Processing of digital motion images |
EP3001685A1 (en) * | 2014-09-24 | 2016-03-30 | Thomson Licensing | Method and apparatus for estimating absolute motion values in image sequences |
EE05781B1 (et) * | 2014-12-18 | 2016-10-17 | Tallinna Tehnikaülikool | Meetod ja seade täpsete ajatemplitega pideva pildivoo kujutisehõiveks |
US9648211B2 (en) * | 2015-05-14 | 2017-05-09 | Xerox Corporation | Automatic video synchronization via analysis in the spatiotemporal domain |
US10796725B2 (en) | 2018-11-06 | 2020-10-06 | Motorola Solutions, Inc. | Device, system and method for determining incident objects in secondary video |
US10977808B2 (en) * | 2019-02-18 | 2021-04-13 | Raytheon Company | Three-frame difference target acquisition and tracking using overlapping target images |
JP7115376B2 (ja) * | 2019-03-18 | 2022-08-09 | 日本電信電話株式会社 | 回転状態推定装置、方法及びプログラム |
US11321904B2 (en) | 2019-08-30 | 2022-05-03 | Maxon Computer Gmbh | Methods and systems for context passing between nodes in three-dimensional modeling |
US10909392B1 (en) * | 2019-12-27 | 2021-02-02 | Lyft, Inc. | Systems and methods for computer-based labeling of sensor data captured by a vehicle |
US11714928B2 (en) | 2020-02-27 | 2023-08-01 | Maxon Computer Gmbh | Systems and methods for a self-adjusting node workspace |
US11373369B2 (en) | 2020-09-02 | 2022-06-28 | Maxon Computer Gmbh | Systems and methods for extraction of mesh geometry from straight skeleton for beveled shapes |
Family Cites Families (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4720633A (en) * | 1986-01-17 | 1988-01-19 | Electro-Scan Corporation | Scanning electron microscope for visualization of wet samples |
US4880976A (en) * | 1987-05-21 | 1989-11-14 | Electroscan Corporation | Secondary electron detector for use in a gaseous atmosphere |
WO1993007554A1 (en) * | 1991-10-07 | 1993-04-15 | Eastman Kodak Company | A compositer interface for arranging the components of special effects for a motion picture production |
US5657402A (en) | 1991-11-01 | 1997-08-12 | Massachusetts Institute Of Technology | Method of creating a high resolution still image using a plurality of images and apparatus for practice of the method |
US5294978A (en) | 1991-12-17 | 1994-03-15 | Eastman Kodak Company | Visualization techniques for temporally acquired sequences of images |
US5412211A (en) * | 1993-07-30 | 1995-05-02 | Electroscan Corporation | Environmental scanning electron microscope |
US5523786A (en) | 1993-12-22 | 1996-06-04 | Eastman Kodak Company | Color sequential camera in which chrominance components are captured at a lower temporal rate than luminance components |
US5517251A (en) | 1994-04-28 | 1996-05-14 | The Regents Of The University Of California | Acquisition of video images simultaneously with analog signals |
US5649032A (en) * | 1994-11-14 | 1997-07-15 | David Sarnoff Research Center, Inc. | System for automatically aligning images to form a mosaic image |
EP0832537A4 (en) * | 1995-06-16 | 2000-10-18 | Princeton Video Image Inc | SYSTEM AND METHOD FOR INSERTING DYNAMIC AND STATIC IMAGES IN A LIVE VIDEO BROADCAST |
US5892554A (en) * | 1995-11-28 | 1999-04-06 | Princeton Video Image, Inc. | System and method for inserting static and dynamic images into a live video broadcast |
JP3772275B2 (ja) * | 1996-01-26 | 2006-05-10 | マルコニ ユーケイ インテレクチュアル プロパティー リミテッド | デパックタイザ及びデパックタイザを含むフレームアライナ |
US5852565A (en) | 1996-01-30 | 1998-12-22 | Demografx | Temporal and resolution layering in advanced television |
JPH09231408A (ja) * | 1996-02-28 | 1997-09-05 | Matsushita Electric Ind Co Ltd | 動画像合成装置 |
US6075905A (en) * | 1996-07-17 | 2000-06-13 | Sarnoff Corporation | Method and apparatus for mosaic image construction |
US5789748A (en) * | 1997-05-29 | 1998-08-04 | Stanford University | Low voltage electron beam system |
US6078701A (en) * | 1997-08-01 | 2000-06-20 | Sarnoff Corporation | Method and apparatus for performing local to global multiframe alignment to construct mosaic images |
US5987164A (en) * | 1997-08-01 | 1999-11-16 | Microsoft Corporation | Block adjustment method and apparatus for construction of image mosaics |
US6320624B1 (en) * | 1998-01-16 | 2001-11-20 | ECOLE POLYTECHNIQUE FéDéRALE | Method and system for combining video sequences with spatio-temporal alignment |
JP2000076423A (ja) | 1998-09-01 | 2000-03-14 | Hitachi Software Eng Co Ltd | 画像解析装置 |
JP4207099B2 (ja) * | 1998-09-29 | 2009-01-14 | ソニー株式会社 | 画像編集装置及びその方法 |
JP2000125192A (ja) * | 1998-10-14 | 2000-04-28 | Mitsubishi Electric Corp | 画像合成装置 |
US6340991B1 (en) * | 1998-12-31 | 2002-01-22 | At&T Corporation | Frame synchronization in a multi-camera system |
US6447450B1 (en) * | 1999-11-02 | 2002-09-10 | Ge Medical Systems Global Technology Company, Llc | ECG gated ultrasonic image compounding |
JP2002058868A (ja) * | 2000-06-07 | 2002-02-26 | Square Co Ltd | 球技系ゲームのプログラムを記録したコンピュータ読み取り可能な記録媒体およびプログラム、ならびに、球技系ゲーム処理装置およびその方法 |
US6459482B1 (en) * | 2000-10-24 | 2002-10-01 | Advanced Micro Devices, Inc. | Grainless material for calibration sample |
-
2000
- 2000-05-11 IL IL13608000A patent/IL136080A0/xx unknown
-
2001
- 2001-05-10 JP JP2001583030A patent/JP2004515832A/ja active Pending
- 2001-05-10 AU AU56626/01A patent/AU5662601A/en not_active Abandoned
- 2001-05-10 US US09/852,891 patent/US7428345B2/en not_active Expired - Fee Related
- 2001-05-10 WO PCT/IL2001/000412 patent/WO2001086935A2/en active Application Filing
- 2001-05-10 EP EP01929951A patent/EP1297487A4/en not_active Withdrawn
-
2008
- 2008-07-11 JP JP2008181278A patent/JP4625854B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2008282418A (ja) | 2008-11-20 |
AU5662601A (en) | 2001-11-20 |
IL136080A0 (en) | 2001-05-20 |
US7428345B2 (en) | 2008-09-23 |
WO2001086935A3 (en) | 2002-05-30 |
US20020094135A1 (en) | 2002-07-18 |
WO2001086935A2 (en) | 2001-11-15 |
JP4625854B2 (ja) | 2011-02-02 |
EP1297487A4 (en) | 2007-11-07 |
EP1297487A2 (en) | 2003-04-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2004515832A (ja) | 画像系列の時空的正規化マッチング装置及び方法 | |
Swaminathan et al. | Nonmetric calibration of wide-angle lenses and polycameras | |
US5963664A (en) | Method and system for image combination using a parallax-based technique | |
Adel et al. | Image stitching based on feature extraction techniques: a survey | |
Caspi et al. | Spatio-temporal alignment of sequences | |
Kang et al. | A graph-based global registration for 2D mosaics | |
Irani et al. | About direct methods | |
Zhao et al. | Alignment of continuous video onto 3D point clouds | |
Kumar et al. | Registration of video to geo-referenced imagery | |
US7596281B2 (en) | Apparatus and method for alignment of spatial or temporal non-overlapping images sequences | |
Frahm et al. | Markerless augmented reality with light source estimation for direct illumination | |
Bartoli et al. | Motion panoramas | |
CN115035235A (zh) | 三维重建方法及装置 | |
Zhu et al. | Fast construction of dynamic and multi-resolution 360 panoramas from video sequences | |
Bevilacqua et al. | A fast and reliable image mosaicing technique with application to wide area motion detection | |
Azzari et al. | Joint spatial and tonal mosaic alignment for motion detection with ptz camera | |
Myers et al. | A robust method for tracking scene text in video imagery | |
Caspi et al. | Parametric sequence-to-sequence alignment | |
Jarusirisawad et al. | 3DTV view generation using uncalibrated pure rotating and zooming cameras | |
Khatri et al. | Image stitching algorithm for subject geometry preservation (using image mosaicing) | |
Remì | Sub-frame synchronisation and motion interpolation for panoramic video stitching | |
Lei et al. | Efficient geometric, photometric, and temporal calibration of an array of unsynchronized video cameras | |
Rameau et al. | Structure from motion using a hybrid stereo-vision system | |
Helala et al. | Constructing image mosaics using focus based depth analysis | |
Emmanuel et al. | Automatic seamless video mosaic from webcams using LSF techniques |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20041129 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20041129 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20041201 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070327 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070613 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070717 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071017 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071113 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20080213 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20080220 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080225 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20080318 |