JP4578653B2 - 奥行き画像生成装置、奥行き画像生成方法およびその方法をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体 - Google Patents
奥行き画像生成装置、奥行き画像生成方法およびその方法をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体 Download PDFInfo
- Publication number
- JP4578653B2 JP4578653B2 JP2000254024A JP2000254024A JP4578653B2 JP 4578653 B2 JP4578653 B2 JP 4578653B2 JP 2000254024 A JP2000254024 A JP 2000254024A JP 2000254024 A JP2000254024 A JP 2000254024A JP 4578653 B2 JP4578653 B2 JP 4578653B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- depth
- still image
- camera
- subject
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
この発明は、カメラで撮影した画像から被写体の三次元形状を自動的に復元する三次元復元技術に関するものであり、特に、画像中の各ピクセルが示している被写体上の領域とカメラとの距離を記録する奥行き情報として、三次元形状を出力する技術に関するものである。
【0002】
【従来の技術】
カメラで撮影した画像から被写体の三次元形状を自動的に復元する三次元復元技術に関する研究は1970年代に始まり、画像からどのように三次元形状を復元するかについての基礎的な理論は1980年代に既に確立されている。最もよく知られた方法は、ステレオカメラを使って撮影した2枚組みの静止画を使う方法である。現在では、安定した三次元復元をおこなうためにはどのように被写体を撮影すべきか、または三次元復元技術をどのように応用すべきかが、新しい研究課題となっている。
【0003】
これら三次元復元技術の代表的なものとして、例えば特開平5−149727号公報に開示の「三次元形状認識装置」、特開平5−314243号公報に開示の「3次元形状復元方法」、特開平6−102027号公報に開示の「3次元形状復元方法」、特開平10−93954号公報に開示の「物体検知方法及びシステム」および特開平10−239054号公報に開示の「視点・物点位置計測方法及び装置」が知られている。
【0004】
特開平5−149727号公報に開示の「三次元形状認識装置」は、物体にスリット光を照射し、その反射パターンから三次元形状を復元する装置において、物体の形状に起因して反射パターンが正しく捉えられない場合、カメラを移動させることによって、従来よりも確実に三次元形状を得ようとするものである。
【0005】
また、特開平5−314243号公報に開示の「3次元形状復元方法」は、三次元復元処理をおこなう2枚の画像を得るために、まずカメラを物体に向けた状態で1枚目の画像を撮影し、つぎにカメラを移動してカメラの向きを物体の方に向け直して2枚目の画像を撮影する方法である。特に、この方法は、カメラの移動距離と回転角の数値を三次元復元処理で利用することで、カメラの移動のみで回転をともなわない従来の撮影方法よりも、正確な三次元復元を実現するものである。
【0006】
また、特開平6−102027号公報に開示の「3次元形状復元方法」は、上記した特開平5−149727号公報および特開平5−314243号公報に開示された方法のように、三次元復元に使用する画像を取得するためにカメラを移動する際に、そのカメラの移動により画像の輝度情報等の特徴量の変化が最も大きくなる方向を検出し、その方向にカメラを移動することで、従来よりも正確に三次元形状を求めるものである。
【0007】
また、特開平10−93954号公報に開示の「物体検知方法及びシステム」は、レール上を移動するカメラによって異なる時刻に撮影された2枚の画像を取得し、取得した2枚の画像を用いてカメラから画像中の物体までの距離を計測して(三次元形状の推定に類似)、常設物体以外の物体を検知するものである。
【0008】
また、特開平10−239054号公報に開示の「視点・物点位置計測方法及び装置」は、被写体についての1組のステレオ画像(相対位置が既知である2つのカメラから撮影した2枚の画像)と複数の画像を用いて、被写体の三次元形状を計測するものである。
【0009】
また、上述した特許公報に開示の技術以外にも、ビデオカメラによって撮影した映像を入力して、被写体の三次元形状を出力することのできるソフトウェアが各種提供されている。例えば、オージス総研(株)提供の製品「VirtualGAIA」は、家庭用ビデオカメラで撮影した画像やデジタルカメラ等でコマ撮りした画像から、三次元形状を復元することができる。特に、この「Virtual GAIA」は、被写体の周囲を旋回するようにビデオカメラを移動しながら被写体を撮影したビデオ映像をデジタル入力し、三次元形状のデータをVRML(Virtual Reality Modeling Language)形式で出力することができる。
【0010】
【発明が解決しようとする課題】
しかしながら、上述した特許公報に開示の従来技術では、カメラの位置や移動速度などが既知であるような特定の条件下での撮影を対象としており、撮影状況が不定である普通のビデオ映像を利用することができないという問題があった。
特に近年、家庭でも利用できるような安価で操作の容易なビデオカメラが販売されており、ビデオ映像、すなわち連続的に撮影された複数の実写静止画像が誰でも容易に得られるようになった背景を考えると、被写体の三次元形状の計測を上述した従来技術で充足することは困難である。
【0011】
また、上記したソフトウェア製品「Virtual GAIA」は、家庭で撮影したビデオ映像を利用することができるが、撮影時のカメラ移動が滑らかにおこなわれているという条件を要求しており、ビデオ映像中に、カメラが静止したり、パンまたはチルトだけがおこなわれたり、カメラが大きく移動されているような部分があってはならないという制限があった。
【0012】
本発明は上記問題点を解決するためになされたもので、カメラが静止したり、パンまたはチルトだけがおこなわれたり、カメラが大きく移動されているような部分のあるビデオ映像に対しても、被写体の三次元形状の算出を可能にするとともに、その三次元形状を用いて、ビデオ映像から取り出した二次元静止画に対応する奥行き画像を生成することが可能な奥行き画像生成装置および奥行き画像生成方法を得ることを目的とする。
【0013】
【課題を解決するための手段】
上述した課題を解決し、目的を達成するため、この発明にかかる奥行き画像生成装置にあっては、被写体を含む少なくとも2つの静止画に基づいて各静止画が撮影された際のカメラの位置および向きを算出し、該算出したカメラの位置および向きに基づき三角測量の原理を用いてカメラから被写体を形成するピクセルまでの距離を算出することにより被写体の奥行き情報を演算する奥行き情報演算手段を備える奥行き画像生成装置において、移動するカメラによって撮影された被写体を含む動画像を記憶する動画像記憶手段と、前記動画像記憶手段に記憶された動画像から被写体を含む第1の二次元静止画を取り出す静止画取得手段と、前記静止画取得手段によって取り出された第1の二次元静止画に基づいて、前記動画像記憶手段に記憶された動画像から前記第1の二次元静止画とは視差が所定の範囲内となる前記被写体を含む第2の二次元静止画を選択して取り出す静止画選択手段と、を備え、前記奥行き情報演算手段は前記静止画取得手段および静止画選択手段によって取り出された第1および第2の二次元静止画に基づいて被写体の奥行き情報を演算することを特徴とする。
【0014】
また、この発明では、被写体を含む少なくとも2つの静止画に基づいて各静止画が撮影された際のカメラの位置および向きを算出し、該算出したカメラの位置および向きに基づき三角測量の原理を用いてカメラから被写体を形成するピクセルまでの距離を算出することにより被写体の奥行き情報を演算する奥行き情報演算工程を備える奥行き画像生成方法において、移動するカメラによって撮影された被写体を含む動画像を記憶する動画像記憶工程と、前記動画像記憶工程によって記憶された動画像から被写体を含む第1の二次元静止画を取り出す静止画取得工程と、前記静止画取得工程によって取り出された第1の二次元静止画に基づいて、前記動画像記憶工程によって記憶された動画像から前記第1の二次元静止画とは視差が所定の範囲内となる前記被写体を含む第2の二次元静止画を選択して取り出す静止画選択工程と、を備え、前記奥行き情報演算工程では、前記静止画取得工程および静止画選択工程によって取り出された第1および第2の二次元静止画に基づいて被写体の奥行き情報を演算することを特徴とする。
【0034】
【発明の実施の形態】
以下に、この発明にかかる奥行き画像生成装置および奥行き画像生成方法の実施の形態を図面に基づいて詳細に説明する。なお、この実施の形態によりこの発明が限定されるものではない。
【0035】
実施の形態1.
まず、実施の形態1にかかる奥行き画像生成装置および奥行き画像生成方法について説明する。図1は、実施の形態1にかかる奥行き画像生成装置の概略構成を示すブロック図である。図1において、奥行き画像生成装置10は、ビデオカメラ撮影によって生成された動画像データを入力して記憶する動画像記憶部12と、動画像記憶部12に記憶された動画像データのうちその動画像データを構成する一つのコマ(画像フレーム)に着目してそれを静止画として取得する静止画取得部14と、静止画取得部14において取得されたコマに基づいて他のコマを動画像記憶部12から選択して静止画として取得する静止画選択部16と、静止画取得部14および静止画選択部16においてそれぞれ取得された静止画から奥行き画像を演算して生成する奥行き画像演算部18と、を備えて構成される。
【0036】
なお、この奥行き画像生成装置10は、コンピュータによって代替することもできる。すなわち、上記した動画像記憶部12をコンピュータ上のRAM(Rondom Access Memory)や磁気ディスク記憶装置によって実現し、静止画取得部14、静止画選択部16および奥行き画像演算部18によって実行される処理をそれぞれコンピュータプログラムで実現することもできる。
【0037】
つぎに、実施の形態1にかかる奥行き画像生成装置の動作について説明する。
図2は、直方体形状の被写体201をビデオカメラ202で撮影する場合の撮影状態を表した説明図である。図2に示すように、ビデオカメラ202は、被写体201の正面に対して、ほぼ垂直方向にカメラを向けた状態で撮影しつつ、点線に示すように移動するものとする。
【0038】
また、図3は、図2に示した撮影状態を上方からみた場合の説明図である。図3に示すように、ビデオカメラ202は、地点p1〜p12上に示した矢印方向にカメラを向け、かつ地点p1〜p12で結ばれる点線上を移動するものとする。特にここでは、ビデオカメラ202が各地点p1〜p12を撮影位置として撮影がおこなわれたものとする。すなわち、全部で12枚のコマが撮影されることになる。また、図3においては、地点p1、p2、p4、p6およびp12において撮影されたコマの内容が、それぞれコマ301、302、303、304および305として示されている。以下の説明においては、便宜上、地点piで撮影されたコマのことを、コマpiと呼ぶ。
【0039】
このように撮影されたコマp1〜p12により構成される動画像は、動画像記憶部12に記憶される。そして、静止画取得部14は、この動画像記憶部12から、例えばコマp4を取得してこのコマに対応する静止画を出力し、また静止画選択部16は、動画像記憶部12からコマp4の前後2コマ目、すなわちコマp2およびコマp6を選択してこれらのコマに対応する静止画を出力する。
【0040】
静止画取得部14および静止画選択部16から出力されたコマp4、p2およびp6に相当する3枚の静止画303、302および304は、奥行き画像演算部18に入力される。奥行き画像演算部18は、3枚の静止画303、302および304に基づいて奥行き画像を生成し、奥行き画像データとして出力する。
図4は、奥行き画像演算部18において生成された奥行き画像の例を示す図である。図4に奥行き画像は、画像の1ピクセル毎に、撮影時におけるビデオカメラとの距離が大きいほど白に、近いほど黒になるような多段階の値で構成されている。すなわち、図4の例では、被写体201のビデオカメラに向き合う面については距離が小さく、それ以外の面は徐々に距離が大きくなっていることが示されている。
【0041】
つぎに、奥行き画像演算部18における処理について説明する。特にここでは、3枚の静止画を入力して奥行き画像データを出力するまでの処理について説明する。図5は、奥行き画像演算部18における処理を示すフローチャートである。まず、奥行き画像演算部18では、上記した撮影位置の異なる3枚の静止画のそれぞれに対して、特徴点と呼ばれる200〜300程度のピクセルを抽出する(ステップS101)。特徴点の抽出とは、静止画を構成するピクセルの色情報に着目し、周囲のピクセルに比較して大きく異なった色情報を持つピクセルを自動的に抽出する処理をいう。なお、各ピクセルは被写体の表面上の1点に相当する。
【0042】
図6は、特徴点の抽出を説明するための説明図である。特徴点は、例えば図6に示すように、コマ302、303および304内の被写体201、すなわち直方体において、その頂角に位置するピクセルとして抽出される。
【0043】
つぎに、奥行き画像演算部18は、3枚の静止画ごとに抽出された特徴点同士の対応付けをおこなう特徴点マッチングと呼ばれる処理をおこなう(ステップS102)。この対応付けは、被写体の表面上の同じ1点を示している特徴点同士の間でおこなわれる。図7(a)は、特徴点マッチングを説明するための説明図である。特徴点マッチングでは、図7(a)に示すように、例えば、コマ302、303および304内の被写体201、すなわち直方体間において、特徴点同士、すなわち同位置となる頂角のピクセル同士が対応付けられる。
【0044】
また、この特徴点マッチングにおいては、同時に、静止画が撮影された際のカメラの位置と向きが算出される(ステップS102)。図7(b)は、カメラの位置と向きの算出を説明するための説明図である。カメラの位置は、図7(b)に示すように、例えば、図3に示した上方からみた撮影位置をXY座標軸上に展開して特定され、カメラの向きはその座標軸を用いて表わされるベクトルとして特定される。
【0045】
つづいて、奥行き画像演算部18は、ステップS102において求められたカメラの位置と向きとから三角測量の原理で、カメラから各特徴点までの距離を算出する(ステップS103)。図8は、カメラから各特徴点までの距離の算出を説明するための説明図である。カメラの距離は、図8に示すように、図6に示した特徴点の情報と図7(b)に示したXY座標軸上のカメラ位置の情報とを用いて特定される。
【0046】
そして、奥行き画像演算部18は、特徴点同士を適当につなぎ合わせて面を構成することで被写体201の三次元構造を復元し、静止画についての奥行き情報を得る(ステップS104)。図9は、奥行き画像の生成を説明するための説明図である。奥行き画像の生成は、例えば図9に示すように、コマ303に相当する静止画に対して、特徴点同士のつなぎ合わせにより面を構成し、被写体の三次元形状を取得するとともに、上記した特徴点とカメラとの距離から、最終的に図4に説明したような奥行き画像を演算する。
【0047】
なお、奥行き画像演算部18による奥行き画像の生成は、本発明における構成手段の一つに過ぎず、同様の処理方法は広く知られているので、処理の詳細については省略する。奥行き画像の生成を述べた公知文献として、例えば「P. A. Beardsley, A. Zisserman, D. W. Murray: "Sequential Updating of Projective and Affine Structure from Motion", International Journal of Computer Vision, 23(3), pp235-259, 1997」がある。
【0048】
この奥行き画像の生成において要求されることは、互いに適当な視差のある3枚の静止画が入力されることである。なお、視差とは、三次元構造物体をカメラ撮影する際に、カメラの撮影位置が異なることによって生じる、画像間の差異のことである。例えば、図3に示した例では、カメラの位置はすべてのコマにおいて異なっているので、地点p1〜p12のすべてのコマの間には視差が生じている。
【0049】
しかしながら、上記した公知の奥行き画像の生成処理において正確な奥行き画像を得るには、視差は、大きすぎても小さすぎても良くない。これは、視差が大きすぎる場合は、画像間の差異が大きくなるために抽出される特徴点の相違も大きくなり、特徴点の対応付けが成功しない場合が多く発生するようになるからである。一方、視差が小さすぎる場合は、カメラから、対応付けされた特徴点と対応する被写体上の1点までの距離を三角測量の原理によって計算する際の計算誤差が大きくなってしまうからである。
【0050】
このため、実施の形態1にかかる奥行き画像生成装置および奥行き画像生成方法では、図3において、例えば地点p4のコマについて奥行き画像を演算するために選択すべきコマは、視差の小さすぎる地点p3またはp5ではなく、また視差の大きすぎる地点p1、p7〜p12ではなく、地点p2およびp6としている。
【0051】
以上に説明したとおり、実施の形態1にかかる奥行き画像生成装置および奥行き画像生成方法によれば、動画像データを動画像記憶部12に記憶し、静止画取得部14が動画像記憶部12から動画像データを構成する一つの静止画(コマ)を取り出し、静止画選択部16がその静止画に対して時間的に前後する静止画を動画像記憶部12からさらに取り出して、奥行き画像演算部18がこれら二次元の静止画の各ピクセルに対して被写体上の領域とカメラとの距離を関連付けることにより奥行き画像を生成するので、ソースとなる動画像データに対してカメラの移動速度や移動形態等の撮影条件を要求することなく、被写体の三次元形状情報および奥行き画像を正確に得ることができる。
【0052】
また、静止画選択部16が、奥行き画像演算部18において十分に正確な奥行き画像が演算されるための視差を考慮して、動画像記憶部12から静止画を取り出すので、最終的に得られた奥行き画像の精確性を向上させることができる。
【0053】
なお、以上に説明した実施の形態1においては、奥行き画像演算部18に入力する静止画の枚数を3枚としたが、2枚とした場合でも上記同様の作用および効果を享受することができる。
【0054】
実施の形態2.
つぎに、実施の形態2にかかる奥行き画像生成装置および奥行き画像生成方法について説明する。実施の形態2にかかる奥行き画像生成装置および奥行き画像生成方法は、静止画選択部16が奥行き画像演算部18による演算結果に基づいて静止画を再選択することを特徴としている。他の構成および動作は実施の形態1と同様である。
【0055】
図10は、実施の形態2にかかる奥行き画像生成装置の概略構成を示すブロック図である。なお、図10において、図1と共通する部分には同一の符号を付してその説明を省略する。図10に示す奥行き画像生成装置20において、図1と異なる点は、静止画選択部16と奥行き画像演算部18との間でデータの送受信をおこなう点である。
【0056】
図11は、直方体形状の被写体201を撮影したときのビデオカメラ202の撮影状態を説明するための説明図である。図3に示した例では、ビデオカメラ202は、向きを固定にしてほぼ等距離で向かって左から右へ移動していたが、図11に示す例では、ビデオカメラ202の移動の速度/移動方向/向きが一定ではない例が示されている。一般に、ユーザがビデオカメラを使って被写体を撮影するときの撮影状態は、図11に示すような状態であると考えられる。
【0057】
実施の形態2にかかる奥行き画像生成装置20では、まず、実施の形態1でおこなったように、静止画選択部16が、静止画取得部14において取得された動画像のコマ、すなわち静止画から前後2コマ目を、動画像記憶部12から取得して静止画として出力する。例えば、図11において、コマp3を静止画取得部14が取得したとすると、静止画選択部16は、コマp1およびコマp5を選択して静止画として出力する。
【0058】
同様に、静止画取得部14がコマp4またはコマp5を選択した場合にも、静止画選択部16は、奥行き画像演算部18の処理に適した適当な視差のある静止画を出力することができる。
【0059】
しかしながら、図11においてコマp7の2コマ前のコマp5と2コマ後のコマp9とでは、撮影時間間隔が異なるため、このコマp7が静止画取得部14によって取得された場合、静止画選択部16が実施の形態1に説明した方法でコマを選択したとしても、適当な視差を持つ静止画を出力することができなくなる。
【0060】
すなわち、実施の形態1に基づく静止画選択部16における静止画の選択方法によれば、コマp7に対してはコマp5およびコマp9が選択されるが、このときp7〜p11の区間におけるビデオカメラ202の移動速度が小さいので、コマp7に対してコマp9は視差が小さすぎて適当でない。図11に示す例では、コマp7に対しては、コマp9の代わりにコマp11を選択することがより適している。
【0061】
また、静止画取得部14によってコマp15が取得された場合は、コマp13とコマp17は視差が大きすぎるので適当でなく、代わりにコマp12およびコマp16が選択される必要がある。同様に、コマp21が取得された場合はコマp18およびp25、コマp22が取得された場合はコマp19およびp26が、それぞれ静止画選択部16によって選択される必要がある。
【0062】
そこで、実施の形態2においては、適当な視差のある静止画を得るための第1の条件として、静止画取得部14によって取得された静止画が撮影されたときのビデオカメラ202の位置と、静止画選択部16によって選択された静止画が撮影されたときのビデオカメラ202の位置との間の距離を考える。図12は、実施の形態2にかかる奥行き画像生成装置において、上記第1の条件、すなわちカメラ位置に基づいて静止画を選択する処理を示したフローチャートである。
【0063】
まず、静止画選択部16は、変数iの初期値を1として(ステップS201)、静止画選択部16が取得した静止画(コマ)のi個前のコマ、すなわち初期状態においては1個前の静止画(コマ)を仮選択する(ステップS202)。なお、この仮選択は、実施の形態1の静止画選択部16による静止画選択処理に相当する。
【0064】
そして、この仮選択したコマと、静止画取得部14が取得した静止画(コマ)は、奥行き画像演算部18に入力される。これにより、奥行き画像演算部18において奥行き画像の演算がおこなわれる際に、それぞれの静止画が撮影されたときのビデオカメラ202の位置(カメラ間距離)が算出される(ステップS203)。静止画選択部16は、奥行き画像演算部18から上記したカメラ間距離を受け取り、その距離が最小距離α以上、最大距離β以下であるかどうかを調べる(ステップS204)。なお、この距離は小さすぎても大きすぎても良くないので、最小距離αおよび最大距離βは経験的な値として定めるものとする。
【0065】
ステップS204において、カメラ間距離が最小距離α以上かつ最大距離β以下である場合は、静止画取得部14が取得した静止画(コマ)からi個前のコマ、すなわちステップS202において仮選択された静止画(コマ)を、あらためて奥行き画像演算部18に入力する(ステップS205)。ステップS204において、カメラ間距離が最小距離α以上かつ最大距離β以下でない場合は、静止画選択部16は、i個前のコマが動画像の最初のコマであるか否かを調べる(ステップS206)。
【0066】
ステップS206において、i個前のコマが動画像の最初のコマでなければ、iを1だけインクリメントしてステップS202からの処理を繰り返す(ステップS207)。一方、i個前のコマが動画像の最初のコマである場合は、コマの選択に失敗したものとして終了する。なお、αとβの値を固定値とせずに、条件を満足するコマが見つからない場合は、αを減少、βを増加してステップS202からの処理をやり直すようにしてもよい。
【0067】
静止画取得部14が取得したコマの後方にあるコマについても、上記同様の方法によって選択し、奥行き画像演算部18に入力する。このように、静止画選択部16が、カメラ位置間を考慮した第1の条件を満たすように静止画を選択して奥行き画像演算部18に入力するので、例えば図11に示したコマp3〜p21に対して、正しいコマを選択することができるようになる。
【0068】
つぎに、適当な視差のある静止画を得るための第2の条件として、静止画取得部14によって取得された静止画が撮影されたときのビデオカメラ202の向きと、静止画選択部16によって選択された静止画が撮影されたときのビデオカメラ202の向きとの相違を考える。これは、静止画を撮影したビデオカメラのそれぞれの向きが異なると、静止画中における被写体の写っている位置や、被写体の写っている範囲が大きく異なり、マッチング処理のおこえない特徴点が多く発生してしまうという事態を回避するためのものである。ここでは、二つのビデオカメラの向きを原点から伸ばした2本のベクトルとみなし、それのなす有効な最大角度γを定めるものとする。
【0069】
図13は、実施の形態2にかかる奥行き画像生成装置において、上記第2の条件、すなわちカメラの向きに基づいて静止画を選択する処理を示したフローチャートである。まず、静止画選択部16は、変数iの初期値を1として(ステップS301)、静止画選択部16が取得した静止画(コマ)のi個前のコマ、すなわち初期状態においては1個前の静止画(コマ)を仮選択する(ステップS302)。なお、この仮選択は、実施の形態1の静止画選択部16による静止画選択処理に相当する。
【0070】
そして、この仮選択したコマと、静止画取得部14が取得した静止画(コマ)は、奥行き画像演算部18に入力される。これにより、奥行き画像演算部18において奥行き画像の演算がおこなわれる際に、それぞれの静止画が撮影されたときのビデオカメラ202の向きが算出される(ステップS303)。静止画選択部16は、奥行き画像演算部18から上記したカメラの向きについての情報を受け取り、二つのビデオカメラ202の向きを原点から伸ばした2本のベクトルとみなして、それのなす角度が最大角度γ以下であるかどうかを調べる(ステップS304)。
【0071】
ステップS304において、カメラの向きが最大角度γ以下である場合は、静止画取得部14が取得した静止画(コマ)からi個前のコマ、すなわちステップS302において仮選択された静止画(コマ)を、あらためて奥行き画像演算部18に入力する(ステップS305)。一方、ステップS204において、カメラの向きが最大角度γより大きい場合は、静止画選択部16は、i個前のコマが動画像の最初のコマであるか否かを調べる(ステップS306)。
【0072】
ステップS306において、i個前のコマが動画像の最初のコマでなければ、iを1だけインクリメントしてステップS302からの処理を繰り返す(ステップS307)。一方、i個前のコマが動画像の最初のコマである場合は、コマの選択に失敗したものとして終了する。なお、γの値を固定値とせずに、条件を満足するコマが見つからない場合は、γを増加してステップS302からの処理をやり直すようにしてもよい。
【0073】
静止画取得部14が取得したコマの後方にあるコマについても、上記同様の方法によって選択し、奥行き画像演算部18に入力する。このように、静止画選択部16が、カメラの向きを考慮した第2の条件を満たすように静止画を選択して奥行き画像演算部18に入力するので、例えば図11に示したコマp17〜p22に対して、正しいコマを選択することができるようになる。
【0074】
なお、静止画選択部16は、上記した第1の条件および第2の条件の一方のみを満たすように静止画の選択をおこなってもよいし、第1の条件および第2の条件をともに満たすように静止画の選択をおこなってもよい。
【0075】
以上に説明したとおり、実施の形態2にかかる奥行き画像生成装置および奥行き画像生成方法によれば、動画像データを動画像記憶部12に記憶し、静止画取得部14が動画像記憶部12から動画像データを構成する一つの静止画(コマ)を取り出し、静止画選択部16が、その静止画に基づいて動画像記憶部12から静止画を取り出し、取り出した静止画を奥行き画像演算部18に入力して得られるカメラの位置や向きに応じてより最適な静止画を選択して、奥行き画像演算部18がこれら二次元の静止画の各ピクセルに対して被写体上の領域とカメラとの距離を関連付けることにより奥行き画像を生成するので、ソースとなる動画像データに対してカメラの移動速度や移動形態等の撮影条件を要求することなく、被写体の三次元形状情報および奥行き画像をより正確に得ることができる。
【0076】
また、静止画選択部16が、正確な奥行き画像が演算されるための視差を考慮して、奥行き画像演算部18によって得られるカメラの位置や向きに応じて静止画を再選択するので、最終的に得られた奥行き画像の精確性を向上させることができる。
【0077】
なお、以上に説明した実施の形態2においては、奥行き画像演算部18に入力する静止画の枚数を3枚としたが、2枚とした場合でも上記同様の作用および効果を享受することができる。
【0078】
また、実施の形態2において、適当な視差のある静止画を得るために、取得された静止画が撮影されたときのビデオカメラ202と、選択された静止画が撮影されたときのビデオカメラ202の位置を利用する方法として、ビデオカメラ間の距離を評価していたが、他の方法で利用してもよい。例えば、二つのビデオカメラから被写体の特定の位置(重心など)へ伸ばした線分の夾角について、最大値と最小値を定義してもよい。
【0079】
さらに、実施の形態2において、条件を満足するコマが見つかるまで処理を繰り返すという方法でコマの選択を行っていたが、この代わりに例えば前後の10コマのすべてについてビデオカメラの位置と向きを計算し、最も理想的な位置と向きに近い条件で撮影されたコマを選択するようにすることもできる。
【0080】
実施の形態3.
つぎに、実施の形態3にかかる奥行き画像生成装置および奥行き画像生成方法について説明する。実施の形態3にかかる奥行き画像生成装置および奥行き画像生成方法は、奥行き画像演算部において生成された奥行き画像データを記憶し、記憶した奥行き画像データに基づいて奥行き動画像データを生成することを特徴としている。他の構成および動作は実施の形態2と同様である。
【0081】
図14は、実施の形態3にかかる奥行き画像生成装置の概略構成を示すブロック図である。なお、図14において、図10と共通する部分には同一の符号を付してその説明を省略する。図14に示す奥行き画像生成装置30において、図10と異なる点は、奥行き画像演算部18によって生成された奥行き画像データを記憶する奥行き画像記憶部32と、奥行き画像記憶部32に記憶された奥行き画像データに基づいて奥行き動画像データを生成する奥行き動画像生成部34とを備えた点である。
【0082】
つぎに、実施の形態3にかかる奥行き画像生成装置の動作について説明する。
ここでは、図11に示したビデオカメラの移動経路に従って動画像の撮影がおこなわれたものとする。なお、奥行き画像演算部18において奥行き画像データが生成されるまでの動作については、実施の形態2に示したとおりであるのでここではその説明を省略する。
【0083】
図15は、実施の形態3にかかる奥行き画像生成装置において、奥行き動画像を生成する処理を示したフローチャートである。まず、奥行き画像生成装置30は、変数iの初期値を1に設定する(ステップS401)。そして、静止画取得部14が、動画像記憶部12からiコマ目のコマpiを静止画として取得し(ステップS402)、静止画選択部16が、コマpiに対して実施の形態2に示したように二つのコマを静止画として選択する(ステップS403)。そして、奥行き画像演算部18が、これら三枚の静止画に基づいて上述したような奥行き画像を演算する(ステップS404)。
【0084】
奥行き画像演算部18において生成された奥行き画像データは、外部に出力されるとともに、奥行き画像記憶部32に記憶されていく(ステップS405)。
つづいて、奥行き動画像生成部34が、コマpiが動画像の最後のコマであるか否かを調べる(ステップS406)。
【0085】
ステップS406において、コマpiが動画像の最後のコマでなければ、iを1だけインクリメントしてステップS402からの処理を繰り返す(ステップS408)。一方、コマpiが動画像の最後のコマである場合は、奥行き動画像生成部34が、奥行き画像記憶部32に記憶されている奥行き画像をつなぎ合わせて奥行き動画像を生成する(ステップS407)。
【0086】
ところで、静止画取得部14がコマp1を選択したとき、静止画選択部16が図11に示したフローチャートに従うと、コマの選択に失敗して終了する。従って、コマp1については、奥行き画像の計算がおこなわれず、奥行き画像記憶部32にはコマp1に相当する奥行き画像が記憶されない。同様に、コマp2、コマp24〜p26についても、相当する奥行き画像は記憶されない。
【0087】
そこで、奥行き動画像生成部34には、つぎのような例外処理がおこなわれるものとする。あるコマpjについて、静止画選択部16がコマの選択に失敗し奥行き画像の生成がおこなわれない場合は、奥行き画像の生成に成功したコマのうち、コマpjが撮影されたときのカメラ位置に最も近い位置から撮影されたコマに対応する奥行き画像を代用する。以上のようにして、動画像記憶部12に記憶された動画像の各コマに対応して作成された奥行き画像をつなぎ合わせて生成した奥行き動画像を得ることができる。
【0088】
以上に説明したとおり、実施の形態3にかかる奥行き画像生成装置および奥行き画像生成方法によれば、実施の形態2に示した構成に加えて、奥行き画像演算部18によって生成された奥行き画像を記憶する奥行き画像記憶部32と、奥行き画像記憶部32に記憶された奥行き画像をつなげて動画像を生成する奥行き動画像生成部34と、を備えているので、奥行き動画像データを得ることが可能になる。
【0089】
なお、実施の形態3において、あるコマpjについて、静止画選択部16がコマの選択に失敗し奥行き画像の生成がおこなわれない場合は、奥行き画像の生成に成功したコマのうち、コマpjが撮影されたときのカメラ位置に最も近い位置から撮影されたコマに対応する奥行き画像を代用するとしたが、別の方法で選択した奥行き画像を代用してもよい。例えば、前後のコマについての奥行き画像を近い順に見つけていき、最初に見つかった奥行き画像を代用することもできる。
【0090】
また、以上に説明した実施の形態1〜3にかかる奥行き画像生成方法は、ハードディスクやCD−ROM等の記憶媒体にコンピュータプログラムとして記録することにより提供することが可能であり、その場合は、そのコンピュータプログラムが、実施の形態1〜3に説明した処理を実現する。
【0091】
【発明の効果】
以上、説明したとおり、この発明によれば、移動するカメラによって撮影された被写体を含む動画像を記憶する動画像記憶手段と、前記動画像記憶手段に記憶された動画像から被写体を含む第1の二次元静止画を取り出す静止画取得手段と、前記静止画取得手段によって取り出された第1の二次元静止画に基づいて、前記動画像記憶手段に記憶された動画像から前記第1の二次元静止画とは視差が所定の範囲内となる前記被写体を含む第2の二次元静止画を選択して取り出す静止画選択手段と、を備え、奥行き情報演算手段は前記静止画取得手段および静止画選択手段によって取り出された第1および第2の二次元静止画に基づいて被写体の奥行き情報を演算するようにしたので、ソースとなる動画像データに対してカメラの移動速度や移動形態等の撮影条件を要求することなく、被写体の三次元形状情報および奥行き画像を正確に得ることができるという効果を奏する。
【0092】
また、本発明では、移動するカメラによって撮影された被写体を含む動画像を記憶する動画像記憶工程と、前記動画像記憶工程によって記憶された動画像から被写体を含む第1の二次元静止画を取り出す静止画取得工程と、前記静止画取得工程によって取り出された第1の二次元静止画に基づいて、前記動画像記憶工程によって記憶された動画像から前記第1の二次元静止画とは視差が所定の範囲内となる前記被写体を含む第2の二次元静止画を選択して取り出す静止画選択工程と、を備え、奥行き情報演算工程では、前記静止画取得工程および静止画選択工程によって取り出された第1および第2の二次元静止画に基づいて被写体の奥行き情報を演算するようにしたので、ソースとなる動画像データに対してカメラの移動速度や移動形態等の撮影条件を要求することなく、被写体の三次元形状情報および奥行き画像を正確に得ることができるという効果を奏する。
【図面の簡単な説明】
【図1】実施の形態1にかかる奥行き画像生成装置の概略構成を示すブロック図である。
【図2】実施の形態1にかかる奥行き画像生成装置において、直方体形状の被写体をビデオカメラで撮影する場合の撮影状態を表した説明図である。
【図3】実施の形態1にかかる奥行き画像生成装置において、直方体形状の被写体をビデオカメラで撮影する場合の撮影状態を上方からみた場合の説明図である。
【図4】実施の形態1にかかる奥行き画像生成装置の奥行き画像演算部において生成された奥行き画像の例を示す図である。
【図5】実施の形態1にかかる奥行き画像生成装置の奥行き画像演算部における処理を示すフローチャートである。
【図6】実施の形態1にかかる奥行き画像生成装置において、特徴点の抽出を説明するための説明図である。
【図7】実施の形態1にかかる奥行き画像生成装置において、特徴点マッチングおよびカメラの位置と向きの算出を説明するための説明図である。
【図8】実施の形態1にかかる奥行き画像生成装置において、カメラから各特徴点までの距離の算出を説明するための説明図である。
【図9】実施の形態1にかかる奥行き画像生成装置において、奥行き画像の生成を説明するための説明図である。
【図10】実施の形態2にかかる奥行き画像生成装置の概略構成を示すブロック図である。
【図11】実施の形態2にかかる奥行き画像生成装置において、直方体形状の被写体を撮影したときのビデオカメラ202の撮影状態を説明するための説明図である。
【図12】実施の形態2にかかる奥行き画像生成装置において、カメラ位置に基づいて静止画を選択する処理を示したフローチャートである。
【図13】実施の形態2にかかる奥行き画像生成装置において、カメラの向きに基づいて静止画を選択する処理を示したフローチャートである。
【図14】実施の形態3にかかる奥行き画像生成装置の概略構成を示すブロック図である。
【図15】実施の形態3にかかる奥行き画像生成装置において、奥行き動画像を生成する処理を示したフローチャートである。
【符号の説明】
10,20,30 画像生成装置、12 動画像記憶部、14 静止画取得部16 静止画選択部、18 奥行き画像演算部、32 奥行き画像記憶部、34奥行き動画像生成部、201 被写体、202 ビデオカメラ。
Claims (5)
- 被写体を含む少なくとも2つの静止画に基づいて各静止画が撮影された際のカメラの位置および向きを算出し、該算出したカメラの位置および向きに基づき三角測量の原理を用いてカメラから被写体を形成するピクセルまでの距離を算出することにより被写体の奥行き情報を演算する奥行き情報演算手段を備える奥行き画像生成装置において、
移動するカメラによって撮影された被写体を含む動画像を記憶する動画像記憶手段と、
前記動画像記憶手段に記憶された動画像から被写体を含む第1の二次元静止画を取り出す静止画取得手段と、
前記静止画取得手段によって取り出された第1の二次元静止画に基づいて、前記動画像記憶手段に記憶された動画像から前記第1の二次元静止画とは視差が所定の範囲内となる前記被写体を含む第2の二次元静止画を選択して取り出す静止画選択手段と、
を備え、
前記奥行き情報演算手段は前記静止画取得手段および静止画選択手段によって取り出された第1および第2の二次元静止画に基づいて被写体の奥行き情報を演算し、
前記奥行き画像演算手段は、前記第1および第2の二次元静止画のそれぞれが撮影されたときのカメラ間距離およびカメラの向きのなす角度を算出し、
前記静止画選択手段は、前記奥行き画像演算手段において算出されたカメラ間距離が所定の範囲内に入ってないときでかつ前記奥行き画像演算手段において算出されたカメラの向きのなす角度が所定の最大角度より大きいときに、前記第2の二次元静止画を再選択することを特徴とする奥行き画像生成装置。 - 前記奥行き画像演算手段によって生成された奥行き画像を記憶する奥行き画像記憶手段と、
前記奥行き画像記憶手段に記憶された奥行き画像をつなぎ合わせて奥行き動画像を生成する奥行き動画像生成手段と、
を備えたことを特徴とする請求項1に記載の奥行き画像生成装置。 - 被写体を含む少なくとも2つの静止画に基づいて各静止画が撮影された際のカメラの位置および向きを算出し、該算出したカメラの位置および向きに基づき三角測量の原理を用いてカメラから被写体を形成するピクセルまでの距離を算出することにより被写体の奥行き情報を演算する奥行き情報演算工程を備える奥行き画像生成方法において、
移動するカメラによって撮影された被写体を含む動画像を記憶する動画像記憶工程と、
前記動画像記憶工程によって記憶された動画像から被写体を含む第1の二次元静止画を取り出す静止画取得工程と、
前記静止画取得工程によって取り出された第1の二次元静止画に基づいて、前記動画像記憶工程によって記憶された動画像から前記第1の二次元静止画とは視差が所定の範囲内となる前記被写体を含む第2の二次元静止画を選択して取り出す静止画選択工程と、
を備え、前記奥行き情報演算工程では、前記静止画取得工程および静止画選択工程によって取り出された第1および第2の二次元静止画に基づいて被写体の奥行き情報を演算し、
前記奥行き画像演算工程は、さらに前記第1および第2の二次元静止画のそれぞれが撮影されたときのカメラ間距離およびカメラの向きのなす角度を算出し、
前記静止画選択工程は、前記奥行き画像演算工程によって算出されたカメラ間距離が所定の範囲内に入ってないときでかつ前記奥行き画像演算工程において算出されたカメラの向きのなす角度が所定の最大角度より大きいときに、前記第2の二次元静止画を再選択することを特徴とする奥行き画像生成方法。 - 前記奥行き画像演算工程によって生成された奥行き画像を記憶する奥行き画像記憶工程と、
前記奥行き画像記憶工程によって記憶された奥行き画像をつなぎ合わせて奥行き動画像を生成する奥行き動画像生成工程と、
を備えたことを特徴とする請求項3に記載の奥行き画像生成方法。 - 前記請求項3、4のいずれか一つに記載された方法をコンピュータに実行させるプログラムを記録したことを特徴とするコンピュータ読み取り可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000254024A JP4578653B2 (ja) | 2000-08-24 | 2000-08-24 | 奥行き画像生成装置、奥行き画像生成方法およびその方法をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000254024A JP4578653B2 (ja) | 2000-08-24 | 2000-08-24 | 奥行き画像生成装置、奥行き画像生成方法およびその方法をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002077941A JP2002077941A (ja) | 2002-03-15 |
JP4578653B2 true JP4578653B2 (ja) | 2010-11-10 |
Family
ID=18743041
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000254024A Expired - Lifetime JP4578653B2 (ja) | 2000-08-24 | 2000-08-24 | 奥行き画像生成装置、奥行き画像生成方法およびその方法をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4578653B2 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006113807A (ja) * | 2004-10-14 | 2006-04-27 | Canon Inc | 多視点画像の画像処理装置および画像処理プログラム |
JP4819834B2 (ja) * | 2008-03-03 | 2011-11-24 | 株式会社エヌ・ティ・ティ・ドコモ | 立体映像処理装置及び立体映像処理方法 |
KR100957129B1 (ko) * | 2008-06-12 | 2010-05-11 | 성영석 | 영상 변환 방법 및 장치 |
US9843789B2 (en) | 2014-09-08 | 2017-12-12 | Panasonic Intellectual Property Management Co., Ltd. | Still-image extracting method and image processing device for implementing the same |
JP2017049052A (ja) * | 2015-08-31 | 2017-03-09 | 日本ユニシス株式会社 | 対象物の3次元画像データを生成するためのシステム、方法、プログラム |
JP7071088B2 (ja) * | 2017-10-24 | 2022-05-18 | キヤノン株式会社 | 距離検出装置、撮像装置、距離検出方法、及びプログラム |
KR20230152661A (ko) * | 2021-03-03 | 2023-11-03 | 소니그룹주식회사 | 정보 처리 장치, 정보 처리 방법 및 프로그램 |
-
2000
- 2000-08-24 JP JP2000254024A patent/JP4578653B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JP2002077941A (ja) | 2002-03-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110264509B (zh) | 确定图像捕捉设备的位姿的方法、装置及其存储介质 | |
US10789765B2 (en) | Three-dimensional reconstruction method | |
KR102135770B1 (ko) | 스테레오 카메라 기반의 3차원 얼굴 복원 방법 및 장치 | |
CN101630406B (zh) | 摄像机的标定方法及摄像机标定装置 | |
KR102563750B1 (ko) | 영상 블러링 제거 방법 및 장치 | |
KR101518531B1 (ko) | 스테레오스코픽 모션 픽쳐들의 잠재적인 아이스트레인을 측정하기 위한 시스템 및 방법 | |
JP5153940B2 (ja) | 動き補償を用いた画像の奥行き抽出のためのシステムおよび方法 | |
US8345961B2 (en) | Image stitching method and apparatus | |
JP2874710B2 (ja) | 三次元位置計測装置 | |
KR101804205B1 (ko) | 영상 처리 장치 및 방법 | |
WO2018235163A1 (ja) | キャリブレーション装置、キャリブレーション用チャート、チャートパターン生成装置、およびキャリブレーション方法 | |
WO2010061956A1 (en) | Stereoscopic image processing device, method, recording medium and stereoscopic imaging apparatus | |
CN113973190A (zh) | 视频虚拟背景图像处理方法、装置及计算机设备 | |
KR20100109525A (ko) | 촬상 장치, 촬상 제어 방법, 및 기록 매체 | |
JP2017220715A (ja) | 画像処理装置、画像処理方法、プログラム | |
JP2018207252A (ja) | 画像処理システム、画像処理システムの制御方法、及び、プログラム | |
KR20120046802A (ko) | 하나의 카메라를 이용하여 3차원 파노라마 영상을 생성하는 장치 및 방법 | |
CN111882655A (zh) | 三维重建的方法、装置、系统、计算机设备和存储介质 | |
JP4578653B2 (ja) | 奥行き画像生成装置、奥行き画像生成方法およびその方法をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体 | |
JP2008217593A (ja) | 被写体領域抽出装置及び被写体領域抽出プログラム | |
JP2007025863A (ja) | 撮影システム、撮影方法及び画像処理プログラム | |
KR20110133677A (ko) | 3d 영상 처리 장치 및 그 방법 | |
CN104463958A (zh) | 基于视差图融合的三维超分辨率方法 | |
WO2017166081A1 (zh) | 终端的图像配准方法、装置和终端 | |
CN109379577B (zh) | 一种虚拟视点的视频生成方法、装置及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20040621 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060530 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060606 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060802 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20070403 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100730 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100825 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130903 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 4578653 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |