JP2005122315A - 3dcg合成装置 - Google Patents
3dcg合成装置 Download PDFInfo
- Publication number
- JP2005122315A JP2005122315A JP2003354204A JP2003354204A JP2005122315A JP 2005122315 A JP2005122315 A JP 2005122315A JP 2003354204 A JP2003354204 A JP 2003354204A JP 2003354204 A JP2003354204 A JP 2003354204A JP 2005122315 A JP2005122315 A JP 2005122315A
- Authority
- JP
- Japan
- Prior art keywords
- 3dcg
- camera
- image
- unit
- video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 239000000203 mixture Substances 0.000 title abstract description 13
- 239000013598 vector Substances 0.000 claims abstract description 166
- 238000001514 detection method Methods 0.000 claims abstract description 62
- 238000004364 calculation method Methods 0.000 claims description 80
- 230000015572 biosynthetic process Effects 0.000 claims description 79
- 238000003786 synthesis reaction Methods 0.000 claims description 79
- 238000012545 processing Methods 0.000 claims description 51
- 239000002131 composite material Substances 0.000 claims description 41
- 238000000926 separation method Methods 0.000 claims description 14
- 238000006243 chemical reaction Methods 0.000 claims description 12
- 230000006641 stabilisation Effects 0.000 claims description 12
- 238000011105 stabilization Methods 0.000 claims description 12
- 230000003252 repetitive effect Effects 0.000 claims description 11
- 238000005259 measurement Methods 0.000 claims description 10
- 238000007781 pre-processing Methods 0.000 claims description 10
- 239000000284 extract Substances 0.000 claims description 9
- 238000000605 extraction Methods 0.000 claims description 9
- 238000012937 correction Methods 0.000 claims description 7
- 230000004044 response Effects 0.000 claims description 3
- 230000008676 import Effects 0.000 claims description 2
- 230000002596 correlated effect Effects 0.000 abstract 1
- 230000000875 corresponding effect Effects 0.000 abstract 1
- 238000000034 method Methods 0.000 description 30
- 230000002194 synthesizing effect Effects 0.000 description 22
- 238000010586 diagram Methods 0.000 description 16
- 230000008569 process Effects 0.000 description 10
- 230000008859 change Effects 0.000 description 6
- 230000001788 irregular Effects 0.000 description 3
- 230000002427 irreversible effect Effects 0.000 description 3
- 238000011895 specific detection Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000002441 reversible effect Effects 0.000 description 2
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000005520 cutting process Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000003702 image correction Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000000087 stabilizing effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Landscapes
- Studio Circuits (AREA)
- Image Analysis (AREA)
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
Abstract
【解決手段】 一次映像記憶部101に記憶されたカメラ映像の各フレーム画像のカメラ位置及び方向を自動的に求めるカメラベクトル検出部102と、求められたカメラ位置及び方向を各フレーム画像に対応付けて記憶する二次映像記憶部103と、3DCG生成部104で生成された3DCGを二次映像のカメラ位置と方向を既知として二次映像に投影し、二次映像内における3DCGの目的の位置と方向を設定する3DCG二次元投影合成部105と、3DCGが投影された二次映像内の投影面領域の二次元座標を決定する投影面領域決定部106と、二次元投影面領域に対応する三次元座標を求める投影面三次元計測部107と、カメラ位置及び方向から見た二次映像及び3DCGの前後関係を画素単位で決定する前後関係決定部108を備える。
【選択図】 図1
Description
特に、本発明は、煩雑な手作業などを必要とすることなく、正確な位置で動画映像中に3DCGを動画映像にはめ込むことができる3DCG合成装置に関する。
この種の3DCG合成技術は、例えば、車載カメラや撮影者が持つカメラ等の移動するカメラにより撮影された実写映像と3DCGを合成するもので、テレビ放送や映画,コンピュータゲームなどの映像表現の分野で用いられている(例えば、特許文献1−4参照。)。
また、映像を取得するカメラは、その移動が予めプログラムされたものでなければ映像中に3DCGを矛盾なく正しい位置に合成することはできなかった。
すなわち、従来の3DCG合成技術は、細かい条件等を与える手作業部分が多い上に、決められた条件内でしか3DCG合成ができず、極めて制約,制限の多い技術であった。
このため、例えば車載カメラのように移動するカメラについては、カメラの座標を前もって計測しておくことなく、任意に移動し、しかも、不規則に揺れるカメラで取得される動画映像と3DCGを合成することは不可能であった。
また、本発明は、動画映像と3DCGを合成する段階で、合成要素の種類の組み合わせを変えることにより、また、対象物の種類の組み合わせを変えることにより、あるいは、実写映像と3DCGの明るさの比率により、完全な3DCGのみの表示から、実写映像のみの表示まで、その中間段階の様々な合成を実現することができる3DCG合成装置の提供を目的とする。
また、本発明の3DCG合成装置は、請求項10に記載するように、前記一次映像記憶部からカメラベクトル検出部に出力される一次映像が、カメラ映像を所定の目的平面に変換した平面変換画像からなる構成とすることもできる。
そして、得られたカメラ位置とカメラ方向に基づいて、3DCGをはめ込むべき映像内の目的の位置と方向を、矛盾無く高精度かつ自動的に決定することができる。
また、動画映像と3DCGを合成する段階で、合成要素の種類の組み合わせや、対象物の種類の組み合わせを変えることができ、また、実写映像と3DCGの明るさの比率に対応して、完全な3DCGのみの表示から、実写映像のみの表示まで、その中間段階の様々な合成表示を得ることができる。
さらに、高精度なカメラ位置情報に基づいて画像補正を行うことにより、カメラの3軸方向の回転成分による歪みについても補正することができ、カメラの揺れに起因するブレを補正した安定化画像に3DCGを合成することができる。
このようにして、本発明では、作業者による煩雑な手作業などを必要とすることなく、三次元的に正しい位置関係で、動画映像と3DCGを容易かつ正確に合成することができ、矛盾のない動画映像として自由に表現することができる。
ここで、以下に示す本発明の3DCG合成装置は、プログラム(ソフトウェア)の命令によりコンピュータで実行される処理,手段,機能によって実現される。プログラムは、コンピュータの各構成要素に指令を送り、以下に示すような所定の処理や機能、例えば、特徴点の自動抽出,抽出した特徴点の自動追跡,特徴点の三次元座標の算出,カメラベクトルの演算等を行わせる。このように、本発明の3DCG合成装置における各処理や手段は、プログラムとコンピュータとが協働した具体的手段によって実現されるようになっている。
なお、プログラムの全部又は一部は、例えば、磁気ディスク,光ディスク,半導体メモリ、その他、コンピュータで読取り可能な任意の記録媒体により提供され、記録媒体から読み出されたプログラムがコンピュータにインストールされて実行される。また、プログラムは、記録媒体を介さず、通信回線を通じて直接にコンピュータにロードし実行することもできる。
まず、図1を参照して、本発明に係る3DCG合成装置の第一実施形態について説明する。
図1は、本発明の第一実施形態に係る3DCG合成装置の概略構成を示すブロック図である。
同図に示す本実施形態に係る3DCG合成装置100は、カメラ位置とカメラ方向を各フレーム画像から演算で求めることで、合成すべき3DCGの視点を各フレーム毎に決定する。さらに、映像と3DCGの合成時には、取得映像と3DCGとの間で前後関係を決定し、映像として矛盾のないように表示する。
そして、3DCGをカメラ映像内の正しい位置に合成するには、カメラ映像と3DCGのそれぞれが、前後関係を示す三次元情報を持ってなければならない。
例えば、街の風景を撮影した実写映像中の歩道上に置物の3DCGを置く場合、その置物の3DCGは、道路側から歩道を向いている観察者から見ると、背後にあるビル面よりは前に位置し、かつ、歩道と道路の間にある街路樹よりは後に位置することになる。従って、その置物の3DCGは、ビル面を隠すように表示され、かつ、置物の一部が街路樹によって隠れるように表示されなければならない。このような3DCGと実写映像の位置関係を決定するのが、前後関係の演算処理であり、この前後関係の演算処理を行うためには、カメラ映像も3DCGも、ともに三次元情報を持っていなければならない。
そこで、本実施形態では、実写映像を撮影するカメラのカメラ座標(カメラ位置とカメラ方向)を高精度に求め、そのカメラ位置とカメラ方向から、実写映像の相対値の三次元座標を演算で求めるようにしてある。但し、映像内に基準長を示すものが有れば、相対値でなく、絶対長として三次元座標を求めることもできる。なお、3DCG合成のためには、カメラ映像の三次元座標は3DCGと重なる合成部分だけで良く、他の映像部分の三次元座標は特に必要とならない。従って、本実施形態の3DCG合成装置では、3DCGとの合成処理に必要となるカメラ映像のみ三次元座標を求めることにより、より高速かつ効率的に3DCGの合成処理を行えるようになっている。
一般に、画像内の特徴点からカメラ位置を求めるには、例えば、同時に6〜7点以上の特徴点を得るようにして、特徴点を画像内で追跡する。そして、それらの特徴点に対してエピポーラ幾何学を用い、カメラ位置を演算により求めることができる。しかしながら、6〜7点程度の特徴点では、得られるカメラ位置の精度は不十分なものとなる。
このようにすることで、各フレームのカメラ位置は高精度で求められる。カメラ位置が高精度で求められれば、そのカメラ位置情報に基づいて、所望の3DCGを、映像中の所望の目的位置と目的方向に合成することができる。
一次映像記憶部101は、カメラで撮影された動画映像を資料として記憶,保管する。ここで、一次映像記憶部101に記憶される映像を取得するカメラは、例えば車載カメラや人が手に持つカメラのように、任意に移動し、不規則な揺れや回転を伴うカメラである。
二次映像記憶部103は、カメラベクトル検出部102で求められたカメラ位置情報を入力し、各フレーム画像とカメラ位置を対応付けして記憶,保管する。
3DCG生成部104は、二次映像記憶部103に保管された実写映像に合成するべき3DCGを生成する。
本実施形態では、カメラベクトル検出部102において、実写映像を撮影したカメラのカメラ座標(カメラ位置とカメラ方向)を高精度に求め、そのカメラ位置とカメラ方向から映像の三次元座標を求めることができる。
そして、この映像の三次元情報に基づき、3DCG二次元投影合成部105において、各フレーム画像毎に、3DCGをはめ込むべき映像内の目的の場所と目的の方向が決定されるようになっている。
投影面三次元計測部107は、二次元投影面領域に対応する各フレーム画像の三次元座標を演算で求める。
前後関係決定部108は、二次元投影面領域に対応する3DCGの三次元座標と、二次映像における同領域の各フレーム画像の三次元座標と、を各フレーム画像毎に比較して、各フレーム画像毎にカメラから見た前後関係を演算で求め、画素単位で前になる方と、後ろとなる方を決定する。
ここで、この前後関係は、画素単位で前になる方と、後ろになる方が決定される。例えば、上記の歩道上に置物の3DCGを合成する例で言えば、3DCGで生成した置物と実写の街路樹は、画素単位で前になる部分と後ろになる部分(隠れる部分)が演算で求められ、同様に、ビル面との間でも、画素単位で前になる部分と後になる部分、つまり、3DCGで隠れるべきビル面が演算で求められることになる。
ここで、合成映像記録ファイル部109は、3DCGと二次映像の合成結果を保存する際に、3DCGを各フレームのカメラ位置からの二次元画像として、二次映像に貼り付けて保存する。
具体的には、合成映像記録ファイル部109は、図2に示すように、記録する映像として、実写映像109−1,実写貼り付け映像(不可逆)109−2,実写貼り付け映像(可逆)109−3,3DCG109−4の四つの映像ファイルを記録,保存している。
ところが、実際の運用を考えると、3DCGはデータ量が大きいので、数が増加するに従って表示速度が遅くなる等の操作性の問題が発生する。
また、位置変更が予想される対象物の3DCGに関しては、三次元画像として各フレームのカメラベクトルと共に保存することで、いつでも実写映像との対応が可能であり、位置の変更が可能となり、視点の移動も自由となる。
視点選択映像表示部111は、仮想カメラ視点指示部110で指定された映像を、指定されたように表示する。
例えば、合成すべき部分が写っている二枚以上の画像を適宜選択し、画像内の任意で十分多くの対応点から、カメラの位置と方向を演算で求めることができる。例えば二枚の画像に十分多くの複数の対応点が有れば、カメラ位置と方向は同一座標上に三次元的に決定して表現できる。
従って、例えば、予め走行車両に搭載したカメラで撮影した動画映像のカメラ位置と方向の三次元座標を、後述するエピポーラ幾何学による一次連立方程式で求めておき、目的の3DCGと合成する際には、合成部分の前後関係を決定するために3点法による演算をして、映像と3DCGとの前後関係を決定することができる。これにより、動画映像のすべてのフレームで、三次元的に矛盾のない合成映像を動画で表示することができる。
また、3DCGの合成処理にリアルタイム性が求められているときには、合成は二次元上で、重なる部分のみの前後関係を決定すればよい。一方、リアルタイム性が求められていない場合には、前もって全画像を三次元化処理し、三次元画像として扱い、三次元の3DCGとの合成とすることができる。このようにすることで、視点移動はさらに自由になり、三次元空間として扱うことができるようになる。
さらに、目的平面への平面変換画像を用いることで、画像の形状を大きく変えることなく比較し、フレームの離れた画像でも、より正確にマッチングを取ることができるので、対応点検出の確度が上がり、計測精度をあげることができる。
なお、映像資料として過去の映像資料を利用することも可能であるが、その場合には、カメラの焦点距離が不明である場合が多いから、画像内の正方形や円等を探し、正しい形状になる位置のパラメータで球面画像に変換すればよい。
また、本実施形態の3DCG合成装置100では、動画映像と3DCGを合成する段階で、合成要素の種類の組み合わせや、対象物の種類の組み合わせを変えることにより、また、実写映像と3DCGの明るさの比率に応じて、完全な3DCGのみの表示から、実写映像のみの表示まで、その中間段階の様々な合成表示を得ることができる。
図3〜図5は、街の道路の風景を撮影した360度全周の動画映像中に、自動車の3DCGを合成した場合である。図3は3DCGの自動車を前方から見た場合で、図4は図3を拡大表示した場合で、図5は3DCGの自動車を側面から見た場合である。
これらの図に示すように、実写映像と3DCGは、前後関係が画素単位で決定され、3DCGは実写映像にスケールを合わせて、矛盾なく合成されていることがわかる。そして、合成画像は、任意の視点方向から見た画像として表示することができる。
具体的には、図6に示すような街の風景映像の道路上に、図7に示すように、半円形状の立体アーチの3DCGと、更にその向こう側に路上駐車している自動車の3DCGを合成してある。また、図8〜図9は、このような3DCGを合成した動画映像中において、立体アーチの下を通過した場合の画像であり、立体アーチの内側の面が合成表示されている。
これらの図に示すように、3DCGを合成した実写映像は、動画として任意の視点から表示,再生でき、その動画映像中の3DCGも、任意の視点から見た立体形状が矛盾なく表示されることがわかる。
図10は、3DCG合成装置100に備えられるカメラベクトル検出部102の一実施形態の概略構成を示すブロック図である。
同図に示すように、カメラベクトル検出部102は、特徴点抽出部102aと、特徴点対応処理部102bと、カメラ位置3D座標演算部102cと、誤差最小化部102dと、カメラ位置方向3D座標検出部102eを備えている。
特徴点抽出部102aは、ビデオカメラで撮影した動画映像を一時記録した画像データの中から、十分な数の特徴点を自動抽出する。
特徴点対応処理部102bは、自動抽出された特徴点を、各フレーム間で各フレーム画像内において自動的に追跡することで、その対応関係を自動的に求める。
誤差最小化部102dは、複数のカメラ位置の重複演算により、各カメラベクトルの解の分布が最小になるように統計処理をし、カメラ位置方向3D座標演算部102eで、誤差の最小化処理を施したカメラ位置方向が自動的に決定される。
そして、このように決定されたカメラ位置と方向の三次元位置を既知情報として、上述した3DCG合成装置100において、所望の動画映像中へ所望の3DCGが合成処理されるようになっている。
特徴点を充分に多くとることにより、カメラベクトル情報が重複することになり、重複する情報から誤差を最小化させて、より精度の高いカメラベクトルを求めることができる。
一般に、静止した三次元物体は、位置座標(X,Y,Z)と、それぞれの座標軸の回転角(Φx,Φy,Φz)の六個の自由度を持つ。従って、カメラベクトルは、カメラの位置座標(X,Y,Z)とそれぞれの座標軸の回転角(Φx,Φy,Φz)の六個の自由度のベクトルをいう。なお、カメラが移動する場合は、自由度に移動方向も入るが、これは上記の六個の自由度から微分して導き出すことができる。
このように、本実施形態のカメラベクトル検出部102によるカメラベクトルの検出は、カメラは各フレーム毎に六個の自由度の値をとり、各フレーム毎に異なる六個の自由度を決定することである。
まず、特徴点抽出部102aで、適切にサンプリングしたフレーム画像中に、特徴点となるべき点又は小領域画像を自動抽出し、特徴点対応処理部102bで、複数のフレーム画像間で特徴点の対応関係を自動的に求める。具体的には、カメラベクトルの検出の基準となる、十分に必要な数以上の特徴点を求める。画像間の特徴点とその対応関係の一例を、図11〜図13に示す。図中「+」が自動抽出された特徴点であり、複数のフレーム画像間で対応関係が自動追跡される(図13に示す対応点1〜4参照)。
ここで、特徴点の抽出は、図14に示すように、各画像中に充分に多くの特徴点を指定,抽出することが望ましく(図14の○印参照)、例えば、100点程度の特徴点を抽出する。
本実施形態では、例えば、360度全周画像のエピポーラ幾何からエピポーラ方程式を解くことによりカメラ運動(カメラ位置とカメラ回転)を計算するようになっている。
十分な数の特徴点を与えることにより、線形代数演算により最小自乗法による解としてt及びRを計算することができる。この演算を対応する複数フレームに適用し演算する。
カメラベクトル演算に用いる画像としては、原理的にはどのような画像でも良いが、図13に示す360度全周画像のような広角画像の方が特徴点を数多く選択し易くなる。そこで、本実施形態では、カメラベクトル演算に360度全周画像を用いるようにしてあり、これによって、特徴点の追跡距離を長くでき、特徴点を十分に多く選択することができ、遠距離、中距離、短距離それぞれに都合の良い特徴点を選択することができるようになる。また、回転ベクトルを補正する場合には、極回転変換処理を加えることで、演算処理も容易に行えるようになる。これらのことから、より精度の高い演算結果が得られるようになる。
なお、図13は、カメラベクトル検出部102における処理を理解し易くするために、1台または複数台のカメラで撮影した画像を合成した360度全周囲の球面画像を地図図法でいうメルカトール図法で展開したものを示しているが、実際のカメラベクトル検出部102では、必ずしもメルカトール図法による展開画像である必要はない。
360度全周映像や広角映像等の実写映像そのものでは、映像がゆがんでいるので、一次画像を遠近法的表現の平面画像に変換し、その平面画像の中から特徴点を求めることによりカメラ座標を取得することができる。
また、このように平面変換画像を用いることにより、映像と3DCGの前後関係を決定する場合にも、一次画像によるゆがんだ画像ではなく、平面画像内に対応点を求めることで、対応点追跡を容易にすることができる。
さらに、誤差の分布が大きい特徴点につては削除し、他の特徴点に基づいて再演算することで、各特徴点及びカメラ位置での演算の精度を上げるようにする。
このようにして、特徴点の位置とカメラベクトルを精度良く求めることができる。
図15では、図13の画像1,2に示した特徴点1〜4の三次元座標と、画像1と画像2の間で移動するカメラベクトルが示されている。
図16及び図17は、充分に多くの特徴点とフレーム画像により得られた特徴点の位置と移動するカメラの位置が示されている。同図中、グラフ中央に直線状に連続する○印がカメラ位置であり、その周囲に位置する○印が特徴点の位置と高さを示している。
具体的には、カメラベクトル検出部102は、画像内には映像的に特徴がある特徴点を自動検出し、各フレーム画像内に特徴点の対応点を求める際に、カメラベクトル演算に用いるn番目とn+m番目の二つのフレーム画像FnとFn+mに着目して単位演算とし、nとmを適切に設定した単位演算を繰り返す。
mはフレーム間隔であり、カメラから画像内の特徴点までの距離によって特徴点を複数段に分類し、カメラから特徴点までの距離が遠いほどmが大きくなるように設定し、カメラから特徴点までの距離が近いほどmが小さくなるように設定する。このようにするのは、カメラから特徴点までの距離が遠ければ遠いほど、画像間における位置の変化が少ないからである。
このようにして、フレーム画像FnとFn+mに着目した単位演算を行うことにより、m枚毎にサンプリングした各フレーム間(フレーム間は駒落ちしている)では、長時間かけて精密カメラベクトルを演算し、フレーム画像FnとFn+mの間のm枚のフレーム(最小単位フレーム)では、短時間処理で行える簡易演算とすることができる。
このようにして、画像の進行とともにnが連続的に進行することにより、同一特徴点について複数回演算されて得られる各カメラベクトルの誤差が最小になるようにスケール調整して統合し、最終のカメラベクトルを決定することができる。
これにより、誤差のない高精度のカメラベクトルを求めつつ、簡易演算を組み合わせることにより、演算処理を高速化することができるようになる。
これによって、各特徴点及びカメラ位置の誤差が最小になるようにスケール調整する形で統合し、距離演算を行い、さらに、誤差の分布が大きい特徴点を削除し、必要に応じて他の特徴点について再演算することで、各特徴点及びカメラ位置での演算の精度を上げることができる。
さらに、このように求められたカメラベクトルは、生成された3DCG合成画像などに表示することができる。
例えば、図19に示すように、車載カメラからの映像を平面展開して、各フレーム画像内の目的平面上の対応点を自動で探索し、対応点を一致させるように結合して目的平面の結合画像を生成し、同一の座標系に統合して表示する。そして、その共通座標系の中にカメラ位置とカメラ方向を次々に検出し、その位置や方向、軌跡をプロットしていくことができる。
従って、通常の安価なカメラであっても、人がカメラをもって移動しながら撮影し、あるいはカメラを積載した移動する車両等から周囲画像を撮影し、その映像を分析して高精度なカメラ軌跡を三次元で求めることができる。
この方法により、十分な数の特徴点を手がかりにエピポーラ幾何学によって計算することで、特徴点の座標のみならず、カメラ座標を求めることができる。
また、特徴点とカメラ座標は、複数のフレームで重複して演算することになり、一つ一つのフレームの誤差を統計的に処理することで精度の高いカメラ位置データを得ることができる。カメラ座標が精度良く求まることで、カメラ映像と3DCGの合成が精度良く実行できることになる。
次に、図20を参照して、本発明の3DCG合成装置の第二実施形態について説明する。
図20は、本発明の第二実施形態に係る3DCG合成装置の概略構成を示すブロック図である。
同図に示す3DCG合成装置は、図1に示した第一実施形態の変更実施形態であり、第一実施形態の構成に加えて、さらに画像前処理部112及びリアルタイム3DCG処理部113を備えている。
従って、その他の構成については、上述した第一実施形態の場合と同様であり、同様の構成部分については、同一符号を付して詳細な説明は省略する。
上述したように、カメラは、一般にX,Y,Zと、その回転ベクトルと計6個の自由度を持つ。それらを検出するのがカメラベクトル検出部102である。そして、検出されたカメラの位置X,Y,Z及び3軸の回転ベクトルΦx,Φy,Φzの自由度の中で、いくつかを揺れに起因するものとして、補正信号を生成し、この補正信号により、安定化された正規化画像を生成することができる。
これによって、回転補正を受けた二次映像に、回転を固定したカメラ位置の三次元データを付加するとことで、後の演算を矛盾無く行うことができる。
ここで、安定化画像の基準となる画像としては、フレームのスタート時点の画像としてもよいが、水平位置を合わせるなどした変換後の画像を安定化画像の基準とすることも可能である。
なお、安定化画像に変換された画像は、視点方向も修正されているので、投影している平面が異なり、修正前の画像とは重ならない。
すなわち、画像前処理部112は、画像の三次元化の機能を持たせることができる。このように画像を三次元化することで、表示画像の視点移動がさらに自由になり、より望ましい3DCG合成処理を実現できるようになる。
例えば、3DCG合成をゲームに利用するような場合、合成すべき3DCGをその場で高速で生成(又は選択)して配置し、映像内を高速で移動させ、さらに、実写映像と3DCGの合成も高速で行い、高速で前後関係を決定し、合成結果を表示する必要がある。
そこで、本実施形態では、リアルタイム3DCG処理部113により、3DCGの生成又は選択、配置を高速で処理するようにしてある。
このリアルタイム3DCG処理部113による映像と3DCGのリアルタイム合成表示機能は、3DCG合成装置100の仮想カメラ視点指示部110おいて指定可能な機能として付加することができる。
特に、計算上理論的に必要な計測点の数と比較して、計測点の数を大幅に増やし、また、対応する画像は理論的には二枚の画像でよいが、その数を大幅に増やし、より多くの情報に基づき精度の高いカメラ位置を演算で求めることができる。
なお、リアルタイムに合成表示される3DCGに対しては、座標情報だけではなく、名称や属性等の情報を持たせることができる。このようにすると、位置関係や名称と属性との組み合わせにより、現実世界を実写映像と3DCGの合成映像としてリアルタイムに投影することができ、例えば、人工知能における判断作業場として利用することができる。
さらに、図21〜図23を参照して、本発明の3DCG合成装置の第三実施形態について説明する。
図21は、本発明の第三実施形態に係る3DCG合成装置の概略構成を示すブロック図である。
同図に示す3DCG合成装置は、第一及び第二実施形態の変更実施形態であり、上述した3DCG合成装置を用いて道路走行動画映像と3DCGを合成する3DCGハイブリッド結合表示装置100aを構成したものである。
なお、上述した第一及び第二実施形態と同様の構成部分については、同一符号を付してある。
まず、一次映像記憶部101として、全周囲実写映像記録部101aを備えている。この全周囲実写映像記録部101aは、360度全周映像のような全周囲実写映像、若しくは広角実写画像を全周囲実写映像の一部を、一次映像として記録する。
カメラベクトル検出部102は、第一,第二実施形態と同様である。
二次映像記憶部103は、第一,第二実施形態と同様である。
また、二次映像記憶部103には、第二実施形態で示した画像前処理部112として、画像安定化部112aを備えている。画像安定化部112aは、全周囲実写映像が含んでいる揺れ等を補正処理して画像として安定化させることができる。
3DCG二次元投影合成部105は、平面変換画像上での3DCG再構成部105aと、3DCG形状位置合わせ処理部105bと、再構成3DCG部105cと、切り取り分離作業部105dと、繰り返し作業部105eとを備えている。
平面変換画像上での3DCG再構成部105aと3DCG形状位置合わせ処理部105bは、二次映像記憶部103の画像安定化部112aで安定化された全周囲実写映像に含まれる目的の対象物に着目して、全周囲実写映像内の目的の対象物と再構成すべき3DCGとの形状及びスケールを三次元的に合わせる再構成作業と、実写映像内の必要部分のみの3DCGの再構成作業を行う。
なお、「再構成」とは、現実世界をCGで再構成するという意味で用いており、単に「構成」と表現することもできる。
切り取り分離作業部105dは、全周囲実写映像内の対象物で、再構成した3DCGに含まれる部分を映像から削除して表示するために、又は、切り取った映像を背景と分離して表示するために、表示の必要に応じて全周囲実写映像から特定の対象物を分離する。
繰り返し作業部105eは、カメラベクトル検出部102で得られた実写映像のカメラ位置座標を取得し、そのカメラ座標に対応して3DCGを移動することで、3DCGと映像との位置関係を保ち、場所を少しずつ移動しながら、上記の3DCG二次元投影合成部105の作業を繰り返して行う。
合成映像記録ファイル部109は、合成映像データベース部109aを備えている。この合成映像データベース部109aは、繰り返し作業部105eの作業により、3DCGと全周囲実写映像との合成した結果を保存する。
仮想カメラ視点指示部110は、合成要素選択指定部110aを備えている。この合成要素選択指定部110aは、元画像の全周囲実写映像と3DCGを選択し、それらの組み合わせを指定する。
視点選択映像表示部111は、自由視点表示部111aを備えている。この自由視点表示部111aは、上記の作業により得られた3DCGと全周囲実写映像との合成画像を自由視点で表示する。
図22は、図21に示す3DCGハイブリッド結合表示装置の詳細を示すブロック図である。
図23は、図22に示す切り取り作業部の詳細を示すブロック図である。
画像安定化部112aでは、360度全周映像を水平位置と垂直位置と映像の上下関係を一致させる作業として、画像安定化部112aの基準フレーム全周画像水平垂直検出部1で、基準フレーム内の垂直水平を検出する。そして、360度全周映像の北極平面変換画像で消失点を検出し、その消失点を光軸位置、すなわち、画像中心となるように、全周囲画像安定化部2で、画像の上下が地軸の方向に、横が赤道方向になるように極を移動して変換する。さらに、画像の鉛直方向を保ったまま画像を安定させる。
平面変換画像上での3DCG再構成作業部105aでは、画像安定化部112aの全周囲画像安定化部2で安定化された全周囲画像に含まれる目的の対象物に対して、可能な限り対象物の平面がリニアスケールとなる相似形に表現できる視点で平面変換し、その平面変換画像上において実写映像内の対象物の一平面と再構成すべき3DCGの一平面とが一致するように、実写映像と3DCGとの形状を合わせ、さらに実写映像内の必要部分のみの3DCGの再構成作業を行う。
まず、全周囲画像南極平面表示部1において、全周囲映像を南極平面に展開する。
また、道路傾斜面平面展開部2において、表示されている道路面が画面上平面になるように、道路と水平面の傾斜を微調整する。
さらに、全周囲画像赤道面表示部3において、表示された道路映像面に、重ねて3DCGを描き込んでいく。
3DCG形状位置合わせ処理部105bでは、道路面3DCG生成部1,縁石3DCG生成部2,歩道面3DCG生成部3,のり面3DCG生成部4,道路以外GL面3DCG生成部5,道路設備等3DCG部配置合成部6の各部においては、道路面とその周囲を構成する水平に近い面及びその面状の点となるので、その水平面からの傾斜を含めて、表示されている南極変換平面上で作業し、3DCGを生成する。
3DCGデータベース部104bでは、3DCG部品データベース2に、3DCGの基本形状が前もって用意されている。また、用意されていない3DCGについては、その場で、3DCG部品生成部3において生成する。
3DCG部品はそのまま、又はスケール形状調整部1で、現実に対応した形状と大きさに変換され、3DCG再構成作業部105aにおいて、平面に貼り付けられることで、形状と座標を固定することができる。
また、上記以外にも、ビルや背景,移動する車両や人,街路樹等、映像中のすべての対象物について、ビル・街路樹等3DCG生成部4において、同じ作業により3DCG再構成作業部105aにおいて平面に貼り付けることで、形状と座標を固定することができる。
そして、以上の作業を繰り返すことで、映像中のすべての対象物を3DCG部品で置き換えることができる。
以上のようにして、3DCG再構成作業部105aにおいて、目的とする対象物に関して3DCGでの置き換えが完了すれば、その後は、繰り返し作業部105eにおいて、カメラベクトル検出部102において、実写映像のカメラ位置座標を取得し、そのカメラ座標に対応して、3DCGを移動することで、3DCGと映像との位置関係を保ち、場所を少しずつ移動しながら、同様の作業を繰り返して行う。
繰り返し作業部105eにより、映像を進行方向に移動させるなどして、次の作業面を切れ目なく連続的に表示し、連続する部位の作業を先の方法と同じ方法で繰り返し行うことができる。
繰り返し作業を行うために、映像を進行方向に移動させ、又は後退させ、あるいは平行移動させて、視点を変更させるなどして、3DCGの位置決定作業を繰り返す場合、配置決定された3DCGは、各フレーム映像が持っているカメラベクトルを共有しているため、表示映像と生成した3DCGとは、座標として結合されており、同時に位置関係がずれることなく移動させることができる。
上述したように、3DCGデータベース部104bのビル・街路樹等3DCG生成部4において、上記のような処理を繰り返すことで、背景やビル面、街路樹等一切の対象物を3DCGに置き換えることが可能であり、置き換えられた一切を3DCGで表示することが可能である。
しかし、すべてを3DCGで置き換えることは、必ずしも良いことばかりではない。例えば、背景とビル面を正確に3DCGで表現するためには、かなりのコストがかかる。また、ビル等よりも、もっと複雑な建築物や構造物や地形をすべて3DCG化することは困難である。このような場合には、実写映像をそのまま背景画像として使用すれば却ってコストを大幅に低減することができる。
具体的には、繰り返し作業部105eで目的の範囲を生成合成し、映像と3DCGを結合した状態において、合成映像データベース109aに保存記録し、合成要素選択部110aにおいて、映像と3DCGとの要素の合成を決定し、自由視点表示部111aでは、目的に応じて、目的の場所と視点と視角と視点方向を自由に選択して表示する。なお、自由視点表示部111aにおける自由視点は、元々の映像が含んでいない映像については表示できないため、元々の映像のカメラ位置から大きく変更された位置からの映像を完全に再現することはできない。その点で、自由視点とは、一部制限付きの自由視点ということになる。
上述のように、全周実写映像と3DCGとが混在した状態で合成映像を生成するには、例えば、ビル面等の実写映像をそのまま残す方法と、三次元座標で定義されたビル平面に3DCGを貼り付ける方法の二通りが可能である。
前者は、背景とビル面は、元々、実写映像の球面で定義された方向の座標を持っているので、元の映像の持っているカメラ視点上を移動する限りには、3DCGとの合成は矛盾無く表示できる。
後者は、ビル面のある平面を三次元的に定義することは、道路面の定義と同様に容易である。従って、ビル面についてみれば、平面に3DCGを貼り付けて生成することは十分可能である。複数の方向から見た同一ビル面を、視点方向別に表示することで、さらに詳細な精度の高い表示が可能となる。
以下、切り取り分離作業部における分離表示の処理動作の一例を、図23を参照しつつ説明する。
図23は、図22で示した切り取り分離作業部(図22に示す切り取り分離作業部105d)の詳細を示すブロック図である。
同図に示すように、切り取り分離作業部200は、全周囲映像部201と、カメラベクトル検出部202と、カメラ位置フレーム対応部203と、画素単位三次元計測部204と、三次元分布表示部205と、ビル面分離部206と、街路樹等分離部207と、ビル画像復元部208と、街路樹等復元部209と、対象物別分離配置部210を備えている。
ビル面の位置は大まかに既知であり、しかも平面であるから、三次元分布表示部205においてビル近傍の三次元分布を取得すれば、明らかに他から分離することができる。また、街路樹等の、ビルから離れた対象物は、その三次元位置からビルの三次元位置とは明らかに分離できる。
街路樹等は色の要素等から、さらに分離することができる。
また、分離したビル面や街路樹等は画素単位であるので、すでに求められらカメラベクトルを用いて、ビル画像復元部208により、元の映像に復元することができる。これにより、街路樹のないビル面を取得できる。
同様に、街路樹等復元部209により、ビルの背景のない街路樹等を復元,取得することができる。
そして、対象物別分離配置部210により、あらゆる対象物を三次元的に分離し、繰り返し作業部105eにおいて同作業を繰り返すことで、各対象物をそれぞれ適切な位置に配置し、映像と3DCGとの合成画像を取得することができる。
また、本実施形態では、全周映像を用いているが、原理的には通常の画像であっても、全周画像の一部として扱うことができ、同様の作業が行えることは言うまでもない。
なお、カメラベクトル検出部202で求められたカメラベクトルを用いて、画像内での計測を行うこともでき、3DCG上でも、実写映像上でも、また、両者の混在映像上でも可能である。
100a 3DCGハイブリッド結合表示装置
101 一次映像記憶部
102 カメラベクトル検出部
102a 特徴点抽出部
102b 特徴点対応処理部
102c カメラ位置3D座標演算部
102d 誤差最小化部
102e カメラ位置方向3D座標検出部
103 二次映像記憶部
104 3DCG生成部
105 3DCG二次元投影合成部
106 投影面領域決定部
107 投影面三次元計測部
108 前後関係決定部
109 合成映像記録ファイル部
110 仮想カメラ視点指示部
111 視点選択映像表示部
112 画像前処理部
113 リアルタイム3DCG処理部
Claims (13)
- 任意に移動可能なカメラによって撮影された動画映像を一次映像として記憶する一次映像記憶部と、
前記一次映像記憶部の動画映像から、動画の各フレーム画像における撮影時のカメラ位置及びカメラ方向を自動的に求めるカメラベクトル検出部と、
前記カメラベクトル検出部で求められたカメラ位置及びカメラ方向を各フレーム画像に対応付けて二次映像として記憶する二次映像記憶部と、
前記二次映像に合成するための3DCGを生成する3DCG生成部と、
前記3DCGを、前記カメラベクトル検出部で求められた二次映像のカメラ位置とカメラ方向を既知情報として、各フレーム画像に対応した二次元座標面に、各二次元画素が三次元座標情報を保持したまま、各フレーム画像に対応した各カメラ位置とカメラ方向から見た二次元映像として投影し、各フレーム画像毎に、前記二次映像とスケールを合わせ、二次映像内における3DCGの目的の位置と方向を設定する3DCG二次元投影合成部と、
前記3DCGが投影された二次映像内の二次元投影面領域の二次元座標を各フレーム画像毎に決定する投影面領域決定部と、
前記二次元投影面領域に対応する各フレーム画像の三次元座標を求める投影面三次元計測部と、
前記二次元投影面領域に対応する3DCGの三次元座標と、前記二次映像における当該二次元投影面領域の三次元座標を各フレーム画像毎に比較し、各フレーム画像に対応した各カメラ位置とカメラ方向から見た前後関係を求め、二次映像及び3DCGの前後関係を当該3DCGが投影された二次元映像の画素単位で決定する前後関係決定部と、
前後関係が決定された二次映像と3DCGを、各フレーム毎に合成して記録する合成映像記録ファイル部と、
観察する映像の種類、合成する3DCGの種類、観察者の仮想位置である仮想カメラの三次元位置と回転角、視点及び視点の移動方向、進行方向、速度等の各項目のうち、少なくともいずれか一つを指定する仮想カメラ視点指示部と、
前記仮想カメラ視点指示部で指定された映像を指定された態様で表示する視点選択映像表示部と、
を備えることを特徴とする3DCG合成装置。 - 前記合成映像記録ファイル部が、3DCGと二次映像の合成結果を保存する際に、3DCGを各フレームのカメラ位置からの二次元画像として、二次映像に貼り付けて保存する請求項1記載の3DCG合成装置。
- 移動する3DCGを所望の二次映像にリアルタイムで合成処理するリアルタイム3DCG処理部を備えた請求項1又は2記載の3DCG合成装置。
- 前記カメラベクトル検出部は、
前記一次映像記憶部に記録された画像データから、所定数の特徴点を自動抽出する特徴点抽出部と、
前記特徴点抽出部で抽出された特徴点について、各フレーム画像内で自動追跡してフレーム画像間での対応関係を求める特徴点対応処理部と、
前記特徴点対応処理部で対応関係が求められた特徴点の三次元位置座標を求め、当該三次元位置座標から、各フレーム画像に対応したカメラ位置とカメラ方向を示すカメラベクトルを求めるカメラ位置3D座標演算部と、
前記カメラ位置3D座標演算部において求められる複数のカメラベクトルの解の分布を最小になるように統計処理し、誤差の最小化処理を施したカメラベクトルからカメラ位置とカメラ方向を自動的に決定する誤差最小化部と、
を備える請求項1乃至3記載の3DCG合成装置。 - 前記カメラ位置3D座標演算部は、
カメラベクトル演算に用いる任意の二つのフレーム画像Fn及びFn+m(m=フレーム間隔)を単位画像として、所望の特徴点の三次元位置座標とカメラベクトルを求める単位演算を繰り返し、
前記二つのフレーム画像Fn及びFn+mの間のフレーム画像については、簡素化した演算によりカメラベクトルを求め、
前記誤差最小化部は、
画像の進行とともにnが連続的に進行することにより、同一特徴点について複数回演算されて得られる各カメラベクトルの誤差が最小になるようにスケール調整して統合し、最終のカメラベクトルを決定する請求項4記載の3DCG合成装置。 - 前記カメラ位置3D座標演算部は、
前記フレーム間隔mを、カメラから特徴点までの距離に応じて、カメラから特徴点までの距離が大きいほどmが大きくなるように設定して単位演算を行う請求項5記載の3DCG合成装置。 - 前記カメラ位置3D座標演算部は、
求められたカメラベクトルの誤差の分布が大きい特徴点を削除し、必要が有れば、他の特徴点に基づいてカメラベクトルの再演算を行い、カメラベクトル演算の精度を上げる請求項4乃至6記載の3DCG合成装置。 - 前記カメラ位置3D座標演算部は、
所望の精度となる最低数のフレーム画像と、自動抽出した最低数の特徴点に基づいて演算を行い、カメラベクトルの概略値をリアルタイムで求めて表示し、
画像の進行により画像が蓄積するにつれて、フレーム数を増加させ、特徴点の数を増加させて、より精度の高いカメラベクトル演算を行い、カメラベクトルの概略値を精度の高いカメラベクトル値に置き換えて表示する請求項4乃至7記載の3DCG合成装置。 - 前記一次映像記憶部からカメラベクトル検出部に出力される一次映像が、360度全周画像からなる請求項4乃至8記載の3DCG合成装置。
- 前記一次映像記憶部からカメラベクトル検出部に出力される一次映像が、カメラ映像を所定の目的平面に変換した平面変換画像からなる請求項4乃至8記載の3DCG合成装置。
- 前記カメラベクトル検出部で求められるカメラ位置とカメラ方向から、各フレーム画像のカメラ回転に起因する揺れを補正した補正信号を生成し、前記一次映像記憶部に記憶された映像を補正処理し、カメラ位置及び補正されたカメラ方向の情報とともに前記二次映像記憶部に出力する画像前処理部を備えた請求項1乃至請求項10記載の3DCG合成装置。
- 前記一次映像記憶部が、全周囲実写映像、若しくは広角実写画像を全周囲実写映像の一部分として記録した全周囲実写映像記録部を備え、
前記3DCG生成部が、3D地図を構成する基本となる地球座標面を生成する3DCG基準面構成部と、予想される3DCG部品を保存した3DCGデータベース部とを備え、
前記3DCG二次元投影合成部が、前記全周囲実写映像に含まれる目的の対象物に着目し、全周囲実写映像内の目的の対象物と再構成すべき3DCGとの形状及びスケールを三次元的に合わせる再構成作業と、実写映像内の必要部分のみの3DCGの再構成作業を行う平面変換画像上での3DCG再構成部と、再構成された3DCGを決定し、データとして取り込む再構成3DCG部と、全周囲実写映像内の対象物で、再構成した3DCGに含まれる部分を映像から削除して表示するために、又は切り取った映像を背景と分離して表示するために、表示の必要に応じて前記全周囲実写映像から特定の対象物を分離しておく切り取り分離作業部と、前記カメラベクトル検出部において求められた実写映像のカメラ位置座標を取得し、そのカメラ座標に対応して3DCGを移動することで、3DCGと映像との位置関係を保ち、場所を移動しながら作業を繰り返す繰り返し作業部とを備え、
前記合成映像記録ファイル部が、前記繰り返し作業部の作業により、3DCGと全周囲実写映像との合成した結果を保存する合成映像データベース部を備え、
前記仮想カメラ視点指示部が、元画像の全周囲実写映像と3DCGを選択し、それらの組み合わせを指定する合成要素選択指定部を備え、
前記視点選択映像表示部が、3DCGと全周囲実写映像との合成映像を自由視点で表示する自由視点表示部を備えた、映像と3DCGのハイブリッド合成装置からなる請求項1乃至11記載の3DCG合成装置。 - 前記映像と3DCGのハイブリッド合成装置が、全周囲実写映像が含んでいる揺れ等を補正処理して画像として安定化させる画像安定化装置を備えた請求項12記載の3DCG合成装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003354204A JP4272966B2 (ja) | 2003-10-14 | 2003-10-14 | 3dcg合成装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003354204A JP4272966B2 (ja) | 2003-10-14 | 2003-10-14 | 3dcg合成装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005122315A true JP2005122315A (ja) | 2005-05-12 |
JP4272966B2 JP4272966B2 (ja) | 2009-06-03 |
Family
ID=34612247
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003354204A Expired - Lifetime JP4272966B2 (ja) | 2003-10-14 | 2003-10-14 | 3dcg合成装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4272966B2 (ja) |
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007089111A (ja) * | 2005-08-26 | 2007-04-05 | Kazuo Iwane | 二次元図面と映像の合成表示装置 |
JP2007299326A (ja) * | 2006-05-02 | 2007-11-15 | Canon Inc | 情報処理装置及びその制御方法、画像処理装置、プログラム、記憶媒体 |
WO2008078790A1 (ja) | 2006-12-27 | 2008-07-03 | Waro Iwane | レイヤー生成・選択機能を備えたcvタグ映像表示装置 |
JP2008304269A (ja) * | 2007-06-06 | 2008-12-18 | Sony Corp | 情報処理装置、および情報処理方法、並びにコンピュータ・プログラム |
JP2009134719A (ja) * | 2007-10-30 | 2009-06-18 | Navteq North America Llc | イメージデータセットにおける遮られた物体を明らかにするシステム及び方法 |
JP2009223220A (ja) * | 2008-03-18 | 2009-10-01 | Zenrin Co Ltd | 路面標示地図生成方法 |
JP2009223221A (ja) * | 2008-03-18 | 2009-10-01 | Zenrin Co Ltd | 路面標示地図生成方法 |
JP2010514261A (ja) * | 2006-12-15 | 2010-04-30 | トムソン ライセンシング | 対話型視覚効果合成のためのシステムおよび方法 |
JP2010175756A (ja) * | 2009-01-29 | 2010-08-12 | Zenrin Co Ltd | 路面標示地図生成方法及び路面標示地図生成装置 |
JPWO2010044186A1 (ja) * | 2008-10-17 | 2012-03-08 | パナソニック株式会社 | 動線作成システム、動線作成装置及び3次元動線表示装置 |
JP2018136706A (ja) * | 2017-02-21 | 2018-08-30 | 東京瓦斯株式会社 | 画像表示装置 |
JP2018537758A (ja) * | 2015-10-16 | 2018-12-20 | フュージョン、インコーポレイテッド | Imuおよび画像データを使用した合成物体を含む多視点画像データの拡張 |
WO2019142660A1 (ja) * | 2018-01-19 | 2019-07-25 | ソニー株式会社 | 画像処理装置および画像処理方法、並びにプログラム |
CN111052062A (zh) * | 2017-09-08 | 2020-04-21 | 三菱电机株式会社 | 位置校正装置和位置校正方法 |
JP2023011637A (ja) * | 2019-10-11 | 2023-01-24 | トヨタ自動車株式会社 | 駐車支援装置 |
WO2023100703A1 (ja) * | 2021-12-01 | 2023-06-08 | ソニーグループ株式会社 | 画像制作システム、画像制作方法、プログラム |
WO2023100704A1 (ja) * | 2021-12-01 | 2023-06-08 | ソニーグループ株式会社 | 画像制作システム、画像制作方法、プログラム |
-
2003
- 2003-10-14 JP JP2003354204A patent/JP4272966B2/ja not_active Expired - Lifetime
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007089111A (ja) * | 2005-08-26 | 2007-04-05 | Kazuo Iwane | 二次元図面と映像の合成表示装置 |
JP2007299326A (ja) * | 2006-05-02 | 2007-11-15 | Canon Inc | 情報処理装置及びその制御方法、画像処理装置、プログラム、記憶媒体 |
JP2010514261A (ja) * | 2006-12-15 | 2010-04-30 | トムソン ライセンシング | 対話型視覚効果合成のためのシステムおよび方法 |
WO2008078790A1 (ja) | 2006-12-27 | 2008-07-03 | Waro Iwane | レイヤー生成・選択機能を備えたcvタグ映像表示装置 |
JP2008165331A (ja) * | 2006-12-27 | 2008-07-17 | Kazuo Iwane | レイヤー生成・選択機能を備えたcvタグ映像表示装置 |
JP2008304269A (ja) * | 2007-06-06 | 2008-12-18 | Sony Corp | 情報処理装置、および情報処理方法、並びにコンピュータ・プログラム |
JP2009134719A (ja) * | 2007-10-30 | 2009-06-18 | Navteq North America Llc | イメージデータセットにおける遮られた物体を明らかにするシステム及び方法 |
JP2009223220A (ja) * | 2008-03-18 | 2009-10-01 | Zenrin Co Ltd | 路面標示地図生成方法 |
JP2009223221A (ja) * | 2008-03-18 | 2009-10-01 | Zenrin Co Ltd | 路面標示地図生成方法 |
JPWO2010044186A1 (ja) * | 2008-10-17 | 2012-03-08 | パナソニック株式会社 | 動線作成システム、動線作成装置及び3次元動線表示装置 |
JP2010175756A (ja) * | 2009-01-29 | 2010-08-12 | Zenrin Co Ltd | 路面標示地図生成方法及び路面標示地図生成装置 |
JP2018537758A (ja) * | 2015-10-16 | 2018-12-20 | フュージョン、インコーポレイテッド | Imuおよび画像データを使用した合成物体を含む多視点画像データの拡張 |
JP2018136706A (ja) * | 2017-02-21 | 2018-08-30 | 東京瓦斯株式会社 | 画像表示装置 |
CN111052062A (zh) * | 2017-09-08 | 2020-04-21 | 三菱电机株式会社 | 位置校正装置和位置校正方法 |
WO2019142660A1 (ja) * | 2018-01-19 | 2019-07-25 | ソニー株式会社 | 画像処理装置および画像処理方法、並びにプログラム |
JP2023011637A (ja) * | 2019-10-11 | 2023-01-24 | トヨタ自動車株式会社 | 駐車支援装置 |
JP7311004B2 (ja) | 2019-10-11 | 2023-07-19 | トヨタ自動車株式会社 | 駐車支援装置 |
WO2023100703A1 (ja) * | 2021-12-01 | 2023-06-08 | ソニーグループ株式会社 | 画像制作システム、画像制作方法、プログラム |
WO2023100704A1 (ja) * | 2021-12-01 | 2023-06-08 | ソニーグループ株式会社 | 画像制作システム、画像制作方法、プログラム |
Also Published As
Publication number | Publication date |
---|---|
JP4272966B2 (ja) | 2009-06-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2018163898A1 (ja) | 自由視点移動表示装置 | |
JP4272966B2 (ja) | 3dcg合成装置 | |
US20230017828A1 (en) | Method and apparatus for 3-d auto tagging | |
US8963943B2 (en) | Three-dimensional urban modeling apparatus and method | |
CN106908046B (zh) | 测量子系统和测量系统 | |
EP2208021B1 (en) | Method of and arrangement for mapping range sensor data on image sensor data | |
KR101265667B1 (ko) | 차량 주변 시각화를 위한 3차원 영상 합성장치 및 그 방법 | |
US8531449B2 (en) | System and method for producing multi-angle views of an object-of-interest from images in an image dataset | |
US20110211040A1 (en) | System and method for creating interactive panoramic walk-through applications | |
JP4980617B2 (ja) | 二次元図面と映像の合成表示装置 | |
JP2006053694A (ja) | 空間シミュレータ、空間シミュレート方法、空間シミュレートプログラム、記録媒体 | |
JP2006503379A (ja) | 拡張仮想環境 | |
JP2012118666A (ja) | 三次元地図自動生成装置 | |
US20110249095A1 (en) | Image composition apparatus and method thereof | |
JP4446041B2 (ja) | カメラベクトル演算装置と、このカメラベクトル演算装置に備えられる揺れ成分検出装置,画像安定化装置,位置姿勢安定化装置,目的対象物ロックオン装置及び実写対象物属性呼出装置 | |
JP2004265396A (ja) | 映像生成システム及び映像生成方法 | |
JP6110780B2 (ja) | 付加情報表示システム | |
JP2019533875A (ja) | 道路の合成トップビュー画像を生成するための方法およびシステム | |
JP6723533B2 (ja) | ドライビングシミュレーター | |
JP4773794B2 (ja) | 新旧映像座標統合装置 | |
JP2008005478A (ja) | 湧きだし点基準cv領域画像前置装置 | |
CN108564654B (zh) | 三维大场景的画面进入方式 | |
WO2009069165A2 (en) | Transition method between two three-dimensional geo-referenced maps | |
JP4530214B2 (ja) | 模擬視界発生装置 | |
US7400343B2 (en) | Apparatus and method for generating image |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060919 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090202 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090224 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090302 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120306 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4272966 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120306 Year of fee payment: 3 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120306 Year of fee payment: 3 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120306 Year of fee payment: 3 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120306 Year of fee payment: 3 |
|
R360 | Written notification for declining of transfer of rights |
Free format text: JAPANESE INTERMEDIATE CODE: R360 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120306 Year of fee payment: 3 |
|
R360 | Written notification for declining of transfer of rights |
Free format text: JAPANESE INTERMEDIATE CODE: R360 |
|
R371 | Transfer withdrawn |
Free format text: JAPANESE INTERMEDIATE CODE: R371 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120306 Year of fee payment: 3 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120306 Year of fee payment: 3 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120306 Year of fee payment: 3 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: R3D02 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130306 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140306 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |