JP3457104B2 - 画像合成装置 - Google Patents
画像合成装置Info
- Publication number
- JP3457104B2 JP3457104B2 JP23710995A JP23710995A JP3457104B2 JP 3457104 B2 JP3457104 B2 JP 3457104B2 JP 23710995 A JP23710995 A JP 23710995A JP 23710995 A JP23710995 A JP 23710995A JP 3457104 B2 JP3457104 B2 JP 3457104B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- partial
- line
- input
- input image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Stereoscopic And Panoramic Photography (AREA)
- Studio Circuits (AREA)
- Editing Of Facsimile Originals (AREA)
Description
から新たな視点位置における画像を合成する画像合成装
置に関するものである。
ンス’94講演論文集」1994年テレビジョン学会発
行 第7頁から第12頁に示された従来の画像合成装置
の動作原理を示す説明図であり、図において、a1 ,a
2 ,・・・,an はカメラにより撮影された多視点の入
力画像、2は入力画像a1 の視点位置、3は入力画像a
2 の視点位置、4は入力画像an の視点位置、5は入力
画像a1 の光軸方向、6は入力画像a2 の光軸方向、7
は入力画像an の光軸方向、8は入力画像a1の投影
面、9は入力画像a2 の投影面、10は入力画像an の
投影面、11は入力画像a2 のi番目の縦方向成分、1
2は多視点の入力画像a1 〜an から合成する合成画
像、13は合成画像12のi番目の縦方向成分、14は
合成画像12の視点位置、15は合成画像12の光軸方
向、16は合成画像12の投影面、17は投影面16上
の領域、18は合成画像12の視点位置14と領域17
とを結ぶZX平面上の視線直線である。
成装置の場合、X軸上に視点位置2,3,4を有すると
ともに、光軸方向5,6,7がZ軸と平行になる多視点
の入力画像a1 〜an から、光軸方向15がZ軸と平行
になる合成画像12を生成する。
着目し、合成画像12のi番目の縦方向成分13に対応
する投影面16上の領域17と視点位置14とを結ぶ視
線直線18を求め、その視線直線18とX軸の交点を求
める。交点のX座標をX(i)とする。
とする入力画像を多視点の入力画像a1 〜an のなかか
ら検索する。図18の場合、この交点が入力画像a2 の
視点位置3と一致し、視線直線18が入力画像a2 にお
けるi番目の縦方向成分11に対応する領域(投影面9
上の領域)を通過するので、入力画像a2 が検索され
る。
れた場合、入力画像a2 のi番目の縦方向成分11が合
成画像12のi番目の縦方向成分13となるように、入
力画像a2 のi番目の縦方向成分11を合成画像12の
i番目の縦方向成分13に転写する(式(1)参照)。 H(i,j) ← G(i,j) ・・・(1) ただし、G(i,j)は入力画像の画像データ H(i,j)は合成画像の画像データ iは各画像の横方向の画素を特定する変数 jは各画像の縦方向の画素を特定する変数
分11を転写すると、iの値を1インクリメントして、
iの値が1から画像の横方向画素の数になるまで上記の
動作を繰り返し、合成画像12を完成させる。
以上のように構成されているので、X軸上に視点位置を
有する入力画像a1 〜an の光軸方向がZ軸と平行にな
るとともに、合成画像12の光軸方向15がZ軸と平行
になる場合には、当該入力画像a1 〜an から合成画像
12を生成することができるが、多視点の入力画像a1
〜an がX軸上に視点位置を有していない場合や、入力
画像a1 〜an 又は合成画像12の光軸方向の何れかが
Z軸と平行にならない場合には、当該入力画像a1 〜a
n から合成画像12を生成することができず、合成画像
12を生成する上で極めて多くの制約がある課題があっ
た。また、視線直線18とX軸の交点を視点位置とする
入力画像が存在する場合には合成画像12を生成するこ
とができるが、当該交点を視点位置とする入力画像が存
在しない場合には合成画像12を生成することができ
ず、従って、各入力画像の視点位置間に視点位置を有す
る補間画像をあらかじめ生成しておく必要があるなどの
課題もあった。
めになされたもので、入力画像及び合成画像の光軸方向
がZX平面内において限定されず、任意の方向を向いて
いても合成画像を生成できるとともに、補間画像をあら
かじめ生成することなく合成画像を生成できる画像合成
装置を得ることを目的とする。
る画像合成装置は、入力画像の視点位置からその入力画
像の各部分画像に向かう第1の視線ベクトルの方向と、
合成画像の視点位置からその合成画像の各部分画像に向
かう第2の視線ベクトルの方向を比較して、その合成画
像の各部分画像に対して最も合致度の高い入力画像の部
分画像をそれぞれ検索し、それぞれ検索した入力画像の
部分画像をその合成画像の各部分画像にそれぞれ転写す
るようにしたものである。
は、入力画像及び合成画像をそれぞれ複数の部分画像に
分割する際、その入力画像及び合成画像を構成する各画
素ごとに分割するようにしたものである。
は、第1の視点ベクトルに係る内積と第2の視点ベクト
ルに係る内積を演算する内積演算手段を設け、最も合致
度の高い入力画像の部分画像を検索する際、その第1の
視線ベクトルに係る方向及び内積と第2の視線ベクトル
に係る方向及び内積をそれぞれ比較するようにしたもの
である。
は、座標軸の原点から第1の視線ベクトルがのる直線上
に下ろした垂線の足の位置と入力画像の視点位置間の距
離を求めるとともに、座標軸の原点から第2の視線ベク
トルがのる直線上に下ろした垂線の足の位置と合成画像
の視点位置間の距離を求める距離演算手段を設け、最も
合致度の高い入力画像の部分画像を検索する際、第1の
視線ベクトルに係る方向,内積及び距離と第2の視線ベ
クトルに係る方向,内積及び距離をそれぞれ比較するよ
うにしたものである。
は、第1及び第2の視線ベクトルの方向に基づいて入力
画像及び合成画像の各部分画像が属するブロックを特定
し、最も合致度の高い入力画像の部分画像を検索する
際、合成画像の部分画像が属するブロックと同一のブロ
ックに属する入力画像の部分画像のなかから検索するよ
うにしたものである。
は、第1及び第2の視線ベクトルに係る方向及び内積に
基づいて入力画像及び合成画像の各部分画像が属するブ
ロックを特定し、最も合致度の高い入力画像の部分画像
を検索する際、合成画像の部分画像が属するブロックと
同一のブロックに属する入力画像の部分画像のなかから
検索するようにしたものである。
は、第1及び第2の視線ベクトルに係る方向,内積及び
距離に基づいて入力画像及び合成画像の各部分画像が属
するブロックを特定し、最も合致度の高い入力画像の部
分画像を検索する際、合成画像の部分画像が属するブロ
ックと同一のブロックに属する入力画像の部分画像のな
かから検索するようにしたものである。
は、合成画像の各部分画像に対して入力画像の部分画像
を転写する際、その入力画像の部分画像に向かう第1の
視線ベクトルとその合成画像の部分画像に向かう第2の
視線ベクトルが、撮影対象物体が存在する平面内におい
て一致するか否かを判定し、一致しない場合には、その
第1及び第2の視線ベクトルに係る方向及び内積と入力
画像の視点位置から撮影対象物体が存在する平面までの
距離に基づいて転写する入力画像の部分画像を変更する
ようにしたものである。
は、合成画像の各部分画像に対して入力画像の部分画像
を転写する際、その入力画像及び合成画像の視点位置か
ら撮影対象物体が存在する平面までの距離に基づいてそ
の入力画像の部分画像を拡大または縮小するようにした
ものである。
は、転写手段により検索された入力画像の部分画像に係
る合致度が予め設定された所定の合致度より小さい場
合、画像撮影手段の視点位置から第2の視線ベクトルが
のる直線上に下ろした垂線の足の位置に、その画像撮影
手段の視点位置を移動するとともに、画像撮影手段の光
軸をその第2の視線ベクトルの方向に一致させるように
したものである。
説明する。 実施の形態1.図1はこの発明の実施の形態1による画
像合成装置を示すブロック図、図2は図1の画像合成装
置の動作原理を示す説明図であり、図2において、21
は入力画像、22は入力画像21の部分画像(入力画像
21のi番目の縦方向成分)、23は入力画像21の視
点位置、24は入力画像21の投影面、25は入力画像
21の光軸方向ψ1 、26は入力画像21の投影面24
における部分画像(部分画像22に相当する)、27は
視点位置23から部分画像26に向かう視線ベクトル
(第1の視線ベクトル)、28は座標軸の原点、29は
視線ベクトル27の方向θ1 からZX平面内で−90度
ずれた方向を有する大きさ1のベクトル、30は座標軸
の原点28から視点位置23に向かうベクトル、31は
入力画像21から合成する合成画像、32は合成画像3
1の部分画像(合成画像31のi番目の縦方向成分)、
33は合成画像31の視点位置、34は合成画像31の
投影面、35は合成画像31の光軸方向ψ2 、36は合
成画像31の投影面34における部分画像(部分画像3
2に相当する)、37は視点位置33から部分画像36
に向かう視線ベクトル(第2の視線ベクトル)、38は
座標軸の原点28から視点位置33に向かうベクトルで
ある。
を撮影する画像入力装置(画像撮影手段)、42は入力
画像21の視点位置23及び光軸方向ψ1 25を入力す
るとともに、画像入力装置41の画角φを入力する視点
情報入力装置(入力手段)、43は合成画像31の視点
位置33及び光軸方向ψ2 35を入力する視点指示装置
(入力手段)、44は入力画像21を複数の部分画像2
2(または26)に分割するとともに、合成画像31を
複数の部分画像32(または36)に分割する画像処理
装置(画像分割手段)、45は視線ベクトル27の方向
θ1 及びベクトル29とベクトル30の内積ρ1 を演算
するとともに、視線ベクトル37の方向θ2 及びベクト
ル(図面の都合上図示していないが、視線ベクトル37
の方向θ 2 からZX平面内で−90度ずれた方向を有す
る大きさ1のベクトルである。なお、詳細は後述する
が、図2ではθ1 とθ2 は一致するので、当該ベクトル
はベクトル29と一致する)とベクトル38の内積ρ2
を演算する視線決定装置(方向演算手段、内積演算手
段)である。
よって特定されるθρ空間を複数のブロック50に分割
するとともに(図3参照)、視線ベクトル27,37に
係る方向θ1 ,θ2 及び内積ρ1 ,ρ2 に基づいて入力
画像21及び合成画像31の各部分画像26,36が属
するブロックを特定する構造化装置(ブロック特定手
段)、47は視点情報入力装置42及び視点指示装置4
3により入力された各種の情報を記憶するとともに、画
像処理装置44によって分割された各部分画像26,3
6を記憶する記憶装置である。
θ1 及び内積ρ1 と視線ベクトル37に係る方向θ2 及
び内積ρ2 をそれぞれ比較して、合成画像31の各部分
画像36に対して最も合致度の高い入力画像21の部分
画像26をそれぞれ検索し、それぞれ検索した入力画像
21の部分画像26をその合成画像31の各部分画像3
6にそれぞれ転写する合成画像生成装置(転写手段)、
49は合成画像生成装置48により生成された合成画像
31を表示するディスプレイ装置である。因に、図3及
び図4は実施の形態1による画像合成装置の動作を示す
フローチャートである。
力装置41が入力画像21を撮影する一方、視点情報入
力装置42が入力画像21の視点位置23及び光軸方向
ψ1 25を入力するとともに、画像入力装置41の画角
φを入力する(ステップST2)。因に、視点位置23
は、画像入力装置41に取り付けられた位置センサの計
測等によって入力する。なお、これらの入力に際し、ス
テップST1において、後述するブロック50に属する
部分画像26の個数を示す配列Aの要素をすべて0に初
期化するとともに、部分画像26の番号を示す変数nを
1に初期化する(例えば、入力画像21の横方向の画素
数が128個で、入力画像21の数が3個ある場合、n
の値は最大で384(=128×3個)になる。
像処理装置44が入力画像21を複数の部分画像26に
分割する。具体的には、図2に示すように、入力画像2
1の縦1列の画素が部分画像26となるように入力画像
21を分割する。これにより、入力画像21の部分画像
26がi個生成されることになる。そして、入力画像2
1の分割に際し、入力画像21の画像データG(i,
j)からi番目の部分画像26を取り出してn番目の部
分画像データKnを生成する(ステップST4)。 Kn ← G(i,j) ・・・(2) ただし、ステップST3において、入力画像21の横方
向の画素を特定する変数iを1に初期化する。
と、視線決定装置45が入力画像21の光軸方向ψ1 2
5及び画像入力装置41の画角φに基づいて視線ベクト
ル27の方向θ1 を演算するとともに、ベクトル29と
ベクトル30の内積ρ1 を演算する(ステップST
5)。 θ1 =ψ1 −tan-1{(2・i/MX −1)tanφ/2} ・・・(3) ρ1 =Z1 cos(θ1 −π/2)+X1 sin(θ1 −π/2) ・・・(4) ただし、MX は入力画像21の横方向の画素数 X1 は視点位置23のX座標 Z1 は視点位置23のZ座標
れると、構造化装置46が図3に示すように、視線ベク
トルの方向と内積によって特定されるθρ空間を複数の
ブロック50に分割し、入力画像21の部分画像26に
係る視線ベクトル27の方向θ1 と内積ρ1 に基づいて
当該部分画像26が属するブロックを特定する(ステッ
プST6)。
ロックの番号(h,k)を下記のように表すことによ
り、当該部分画像26が属するブロックを特定する。例
えば、θ1 =150,Δθ=45,ρ1 =15,Δρ=
12,ρ1 ’=−10であるとすれば、h=4で、k=
2になるので、図3において斜線が付されているブロッ
クに属することになる。 h=[θ1 /Δθ]+1 ・・・(5) k=[ρ1 /Δρ]−[ρ1 ’/Δρ]+1 ・・・(6) ただし、[a]はaを越えない最大の整数 Δθ,Δρはブロックのきざみ幅 ρ1 ’はρ1 のとりうる最小値
6が属するブロックを特定すると、ステップST7に示
すように、(h,k)で特定されるブロックに属する部
分画像の個数を示す配列A[h][k]を1インクリメ
ントするとともに、(h,k)で特定されるブロックに
属する部分画像の番号を示す配列N[h][k][m]
にnを追加する。さらに(h,k)で特定されるブロッ
クに属する部分画像の方向を示す配列T[h][k]
[m]にθ1 を代入し、部分画像の内積を示す配列R
[h][k][m]にρ1 を代入する。ただし、mはA
[h][k]である。
と、部分画像26の部分画像データKnを記憶装置47
に記憶させるが、画像入力装置41が撮影した全ての入
力画像21の部分画像26に対して、ステップST4〜
8の処理が終了したか否かを判別し、処理が終了するま
でステップST4〜8の処理を繰り返す(ステップST
9〜11)。
点指示装置43が入力画像21から合成する合成画像3
1の視点位置33及び光軸方向ψ2 35を入力する(ス
テップST21)。因に、視点位置33は、マウスある
いはキーボード等を用いて入力する。
成画像31の部分画像36の番号を示す変数iを1に初
期化したのち(ステップST22)、画像処理装置44
が合成画像31を複数の部分画像36に分割する。具体
的には、図2に示すように、合成画像31の縦1列の画
素が部分画像36となるように合成画像31を分割す
る。これにより、合成画像31の部分画像36がi個生
成されることになる。
6に分割すると、視線決定装置45が合成画像31の光
軸方向ψ2 35及び画像入力装置41の画角φに基づい
て視線ベクトル37の方向θ2 を演算するとともに、視
線ベクトル37の方向θ2 からZX平面内で−90度ず
れた方向を有する大きさ1のベクトルとベクトル38の
内積ρ2 を演算し、視線ベクトル37を特定する(ステ
ップST23)。 θ2 =ψ2 −tan-1{(2・i/MX −1)tanφ/2} ・・・(7) ρ2 =Z2 cos(θ2 −π/2)+X2 sin(θ2 −π/2) ・・・(8) ただし、X2 は視点位置33のX座標 Z2 は視点位置33のZ座標
れると、構造化装置46が合成画像31の部分画像36
に係る視線ベクトル37の方向θ2 と内積ρ2 に基づい
て当該部分画像36が属するブロックを特定する(ステ
ップST24)。具体的には、当該部分画像36が属す
るブロックの番号(h,k)を下記のように表すことに
より、当該部分画像36が属するブロックを特定する。
例えば、θ2 =150,Δθ=45,ρ2 =15,Δρ
=12,ρ2 ’=−10であるとすれば、h=4で、k
=2になるので、図3において斜線が付されているブロ
ックに属することになる。 h=[θ2 /Δθ]+1 ・・・(9) k=[ρ2 /Δρ]−[ρ2 ’/Δρ]+1 ・・・(10) ただし、[a]はaを越えない最大の整数 Δθ,Δρはブロックのきざみ幅 ρ2 ’はρ2 のとりうる最小値
6の属するブロックを特定すると、合成画像生成装置4
8が合成画像31の部分画像36に対して最も合致度の
高い入力画像21の部分画像26を検索するが、視線ベ
クトル27に係る方向θ1 及び内積ρ1 と視線ベクトル
37に係る方向θ2 及び内積ρ2 がそれぞれ一致する場
合には、図2に示すように、視線ベクトル27と視線ベ
クトル37は同一直線上にあって同一方向を向いている
とみなすことができるので、互いに対応する部分画像2
6,36は同一の景観を投影し、同様のパターンとな
る。したがって、これらが一致あるいは極めて近似する
場合、互いに対応する部分画像26,36は合致度の高
い画像であると言える。
像31の部分画像36に対して最も合致度の高い入力画
像21の部分画像26を検索するに際し、視線ベクトル
37に係る方向θ2 及び内積ρ2 と最も近似する方向θ
1 及び内積ρ1 を有する視線ベクトル27を検索する
が、同一のブロック(h,k)に属する部分画像26,
36に向かう視線ベクトル27,37の方向等は互いに
近似しているので、合成画像31の部分画像36が属す
るブロック(h,k)と同一のブロック(h,k)に属
する入力画像21の部分画像26のなかから検索する。
像36が属するブロック(h,k)と同じブロック
(h,k)に入力画像21の部分画像26が存在してい
るか否かを判別し(ステップST25)、入力画像21
の部分画像26が存在する場合には、当該ブロックを検
索対象のブロックとする。ブロック(h,k)における
入力画像21の部分画像26の個数を示す配列A[h]
[k]が0でなければ、入力画像21の部分画像26が
存在していると判断する。
在していない場合には、hまたはkの値を適宜変更し、
当該ブロック(h,k)に隣接するブロックに入力画像
21の部分画像26が存在しているか否か判別し(ステ
ップST26,25)、入力画像21の部分画像26が
存在するブロックを検索対象のブロックとする。変更す
る順番はあらかじめ設定しておき(例えば、右隣のブロ
ック→左隣のブロック→上隣のブロック→下隣のブロッ
ク→ ・・・ →右下隣のブロックのように設定してお
く)、入力画像21の部分画像26が存在するブロック
が見つかるまでh,kの値を変更する。
特定すると、当該ブロック(h,k)に属する各部分画
像26の合致度(fの値が小さいほど、合致度が高い)
を下記に示すように計算する。 f = W1 (T[h][k][m]−θ2 )2 +W2 (R[h][k][m]−ρ2 )2 ・・・(11) ただし、W1 ,W2 は重み変数であり、正または0の値
である。
力画像21の部分画像26を見つけると、その部分画像
26の部分画像データKnを記憶装置47から読み込
み、その部分画像データKnを合成画像31の部分画像
36の部分画像データとして転写する(ステップST2
8)。 H(i,j) ← Kn ・・・(12) n=N[h][k][m0 ] ただし、m0 はA[h][k]個のうち、m0 番目の部
分画像26が選択されたことを意味する。
ると、合成画像31の全ての部分画像36に対して、ス
テップST23〜28の処理が終了したか否かを判別
し、処理が終了するまでステップST23〜28の処理
を繰り返す(ステップST29,30)。そして、上記
の処理が終了すると、ディスプレイ装置49が完成した
合成画像31を表示し(ステップST31)、一連の処
理を終了する。
線ベクトル27に係る方向θ1 及び内積ρ1 と、視線ベ
クトル37に係る方向θ2 及び内積ρ2 を比較して、合
成画像31の各部分画像36に対して最も合致度の高い
入力画像21の部分画像26をそれぞれ検索し、それぞ
れ検索した入力画像21の部分画像26を合成画像31
の各部分画像36にそれぞれ転写するようにしたので、
入力画像21及び合成画像31の光軸方向がZX平面内
において限定されず、任意の方向を向いていても合成画
像31を生成できる効果を奏する。また、従来のものの
ように、補間画像をあらかじめ生成することなく合成画
像31を生成できる効果も奏する。
致度の高い入力画像21の部分画像26を検索する際、
合成画像31の部分画像36が属するブロック(h,
k)と同一のブロック(h,k)に属する入力画像21
の部分画像26のなかから検索するようにしたので、検
索する部分画像26の数が限定され、部分画像26の検
索を効率よく行える効果を奏する。
線ベクトルの方向と内積によって特定されるθρ空間を
複数のブロック50に分割し、視線ベクトル27,37
に係る方向θ1 ,θ2 及び内積ρ1 ,ρ2 に基づいて入
力画像21及び合成画像31の各部分画像26,36が
属するブロックを特定するものについて示したが、視線
ベクトルの方向によって特定されるθ空間を複数のブロ
ック50に分割し、視線ベクトル27,37の方向θ
1 ,θ2 に基づいて入力画像21及び合成画像31の各
部分画像26,36が属するブロックを特定するように
してもよい。
視線ベクトル27,37に係る内積ρ1 ,ρ2 が不定で
ある分だけ検索する部分画像26の数が増加するが、す
べての部分画像26を検索するよりは格段に検索する数
が限定されるので、上記実施の形態1と同様の効果を奏
することができる。また、上記実施の形態1より構成を
簡略化することができる。
4の処理が終了したのち、図5の処理を行うものについ
て示したが、図4の処理と図5の処理を並列して行って
もよく、この場合には、時間変化する対象についても同
様の手法で画像を合成することができるようになる。
態4による画像合成装置の動作原理を示す説明図、図7
は視線ベクトルの表現手法を示す説明図であり、図にお
いて、51は入力画像21を構成する画素単位の部分画
像、52は入力画像21の投影面24における部分画像
(部分画像51に相当する)、53は視点位置23から
部分画像52に向かう視線ベクトル、54は合成画像3
1を構成する画素単位の部分画像、55は合成画像31
の投影面34における部分画像(部分画像54に相当す
る)、56は視点位置33から部分画像55に向かう視
線ベクトルである。因に、図8及び図9は実施の形態4
による画像合成装置の動作を示すフローチャートであ
る。
力装置41が入力画像21を撮影する一方、視点情報入
力装置42が入力画像21の視点位置23及び視点情報
(δ,ζ,ξ,φX,φY)を入力する(ステップST
42)。ここで、視点位置23は、画像入力装置41に
取り付けられた位置センサの計測等によって入力する。
また、δは光軸のZX平面への射影の方向(Z軸とのな
す角)、ζはY軸とのなす角、ξは入力画像21の光軸
まわりのねじれの角度(ξは視線方向をみて時計まわり
を正とする)、φXは入力画像21の左右方向の視角、
φYは上下方向の視角である。
41において、後述するブロックに属する部分画像52
の個数を示す配列Aの要素をすべて0に初期化するとと
もに、部分画像52の番号を示す変数nを1に初期化す
る(例えば、入力画像21の横方向の画素数が128
個、縦方向の画素数が96個で、入力画像21の数が3
個ある場合、nの値は最大で36864(=128×9
6×3個)になる。
像処理装置44が入力画像21を構成する画素ごとに入
力画像21を複数の部分画像52に分割する。これによ
り、入力画像21の部分画像52がMX ×MY 個生成さ
れることになる。そして、入力画像21の分割に際し、
入力画像21の画像データG(i,j)からi,jで特
定される部分画像52を取り出して部分画像データPn
を生成する(ステップST45)。 Pn ← G(i,j) ・・・(13) ただし、ステップST43,44において、入力画像2
1の画素を特定する変数i,jをそれぞれ1に初期化す
る。
と、視線決定装置45が入力画像21の光軸方向ψ1 2
5及び画像入力装置41の画角φに基づいて視線ベクト
ル53の方向α1 ,β1 ,γ1 (Z軸を回転及び平行移
動させてZ軸を視線ベクトル53に重ねるときの回転の
角度(α1 ,β1 ,γ1 ))を演算するとともに、その
ときのX軸方向への平行移動量τ1 を演算する(ステッ
プST46)。因に、図7に示すように、α1 は視線ベ
クトル53のZX平面への射影の方向(Z軸とのなす
角)、β1 は視線ベクトル53のY軸とのなす角、γ1
は原点28から視線ベクトル53がのる直線に下ろした
垂線とX軸をZX平面上α1 だけ回転させたものとのな
す角である。
像52に向かう視線ベクトル53の方向α1 ,β1 ,γ
1 及び平行移動量τ1 は以下に示すように計算される。
れると、構造化装置46が視線ベクトル53に係る方向
α1 ,β1 ,γ1 及び平行移動量τ1 によって特定され
る4次元のαβγτ空間を複数のブロックに分割し、視
線ベクトル53に係る方向α1 ,β1 ,γ1 及び平行移
動量τ1 に基づいて当該部分画像53が属するブロック
を特定する(ステップST47)。
ロックの番号(h,k,p,q)を下記のように表すこ
とにより、当該部分画像52が属するブロックを特定す
る。 h=[α1 /Δα]+1 ・・・(22) k=[β1 /Δβ]+1 ・・・(23) p=[γ1 /Δγ]+1 ・・・(24) q=[τ1 /Δτ]−[τ1 ’/Δτ]+1 ・・・(25) ただし、[a]はaを越えない最大の整数 Δα,Δβ,Δγ,Δτはブロックのきざみ幅 τ1 ’はτ1 のとりうる最小値
2が属するブロックを特定すると、ステップST48に
示すように、(h,k,p,q)で特定されるブロック
に属する部分画像の個数を示す配列A[h][k]
[p][q]を1インクリメントするとともに、(h,
k,p,q)で特定されるブロックに属する部分画像の
番号を示す配列N[h][k][p][q][m]にn
を追加する。さらに(h,k,p,q)で特定されるブ
ロックに属する部分画像の方向を示す配列U[h]
[k][p][q][m]にα1 ,V[h][k]
[p][q][m]にβ1 ,W[h][k][p]
[q][m]にγ1 を代入し、平行移動量を示す配列T
[h][k][p][q][m]にτ1 を代入する。た
だし、mはA[h][k][p][q]である。
ると、部分画像52の部分画像データPnを記憶装置4
7に記憶させるが、画像入力装置41が撮影した全ての
入力画像21の部分画像52に対して、ステップST4
5〜49の処理が終了したか否かを判別し、処理が終了
するまでステップST45〜49の処理を繰り返す(ス
テップST50〜54)。
点指示装置43が入力画像21から合成する合成画像3
1の視点位置56及び視点情報(δ,ζ,ξ,φX,φ
Y)を入力する(ステップSTST61)。ここで、視
点位置33は、マウスあるいはキーボード等を用いて入
力する。また、δは光軸のZX平面への射影の方向(Z
軸とのなす角)、ζはY軸とのなす角、ξは合成画像3
1の光軸まわりのねじれの角度(ξは視線方向をみて時
計まわりを正とする)、φXは合成画像31の左右方向
の視角、φYは上下方向の視角である。
成画像31の部分画像55の番号を示す変数i,jを1
に初期化したのち(ステップST62)、画像処理装置
44が合成画像31を構成する画素ごとに、合成画像3
1を複数の部分画像55に分割する。これにより、合成
画像31の部分画像55がMX ×MY 個生成されること
になる。
5に分割すると、視線決定装置45が合成画像31の光
軸方向ψ2 35及び画像入力装置41の画角φに基づい
て視線ベクトル56の方向α1 ,β1 ,γ1 (Z軸を回
転及び平行移動させてZ軸を視線ベクトル56に重ねる
ときの回転の角度(α2 ,β2 ,γ2 ))を演算すると
ともに、そのときのX軸方向への平行移動量τ2 を演算
し、視線ベクトル56を特定する(ステップST6
4)。因に、α2 は視線ベクトル56のZX平面への射
影の方向(Z軸とのなす角)、β2 は視線ベクトル56
のY軸とのなす角、γ2 は原点28から視線ベクトル5
6がのる直線に下ろした垂線とX軸をZX平面上α2 だ
け回転させたものとのなす角である。
像55に向かう視線ベクトル56の方向α2 ,β2 ,γ
2 及び平行移動量τ2 は以下に示すように計算される。
れると、構造化装置46が合成画像31の部分画像55
に係る視線ベクトル56の方向α2 ,β2 ,γ2 と平行
移動量τ2 に基づいて当該部分画像55が属するブロッ
クを特定する(ステップST65)。具体的には、当該
部分画像55が属するブロックの番号(h,k,p,
q)を下記のように表すことにより、当該部分画像55
が属するブロックを特定する。 h=[α2 /Δα]+1 ・・・(34) k=[β2 /Δβ]+1 ・・・(35) p=[γ2 /Δγ]+1 ・・・(36) q=[τ2 /Δτ]−[τ2 ’/Δτ]+1 ・・・(37) ただし、[a]はaを越えない最大の整数 Δα,Δβ,Δγ,Δτはブロックのきざみ幅 τ2 ’はτ2 のとりうる最小値
5の属するブロックを特定すると、合成画像生成装置4
8が合成画像31の部分画像55に対して最も合致度の
高い入力画像21の部分画像52を検索するが、視線ベ
クトル53に係る方向α1 ,β1 ,γ1 及び平行移動量
τ1 と視線ベクトル56に係る方向α2 ,β2 ,γ2及
び平行移動量τ2 がそれぞれ一致する場合には、図6に
示すように、視線ベクトル53と視線ベクトル56は同
一直線上にあって同一方向を向いているとみなすことが
できるので、互いに対応する部分画像52,55は同一
の景観を投影し、同様のパターンとなる。したがって、
これらが一致あるいは極めて近似する場合、互いに対応
する部分画像52,55は合致度の高い画像であると言
える。
像31の部分画像55に対して最も合致度の高い入力画
像21の部分画像52を検索するに際し、視線ベクトル
56に係る方向α2 ,β2 ,γ2 及び平行移動量τ2 と
最も近似する方向α1 ,β1,γ1 及び平行移動量τ1
を有する視線ベクトル53を検索するが、同一のブロッ
ク(h,k,p,q)に属する部分画像52,55に向
かう視線ベクトル53,56の方向等は互いに近似して
いるので、合成画像31の部分画像55が属するブロッ
ク(h,k,p,q)と同一のブロック(h,k,p,
q)に属する入力画像21の部分画像52のなかから検
索する。
像55が属するブロック(h,k,p,q)と同じブロ
ック(h,k,p,q)に入力画像21の部分画像52
が存在しているか否かを判別し(ステップST66)、
入力画像21の部分画像52が存在する場合には、当該
ブロックを検索対象のブロックとする。ブロック(h,
k,p,q)における入力画像21の部分画像52の個
数を示す配列A[h][k][p][q]が0でなけれ
ば、入力画像21の部分画像52が存在していると判断
する。
在していない場合には、h,k,p,qの値を適宜変更
し、当該ブロック(h,k,p,q)に隣接するブロッ
クに入力画像21の部分画像52が存在しているか否か
判別し(ステップST67,66)、入力画像21の部
分画像52が存在するブロックを検索対象のブロックと
する。ただし、h,k,p,qを変更する順番はあらか
じめ設定されている。
p,q)を特定すると、当該ブロック(h,k,p,
q)に属する各部分画像52の合致度(fの値が小さい
ほど、合致度が高い)を下記に示すように計算する。 f = W1 (U[h][k][m]−α2 )2 +W2 (V[h][k][m]−β2 )2 +W3 (W[h][k][m]−γ2 )2 +W4 (T[h][k][m]−τ2 )2 ・・・(38) ただし、W1 ,W2 ,W3 ,W4 は重み変数であり、正
または0の値である。
力画像21の部分画像52を見つけると、その部分画像
52の部分画像データPnを記憶装置47から読み込
み、その部分画像データPnを合成画像31の部分画像
54の部分画像データとして転写する(ステップST6
9)。 H(i,j) ← Pn ・・・(39) n=N[h][k][p][q][m0 ] ただし、m0 はA[h][k][p][q]個のうち、
m0 番目の部分画像52が選択されたことを意味する。
ると、合成画像31の全ての部分画像54に対して、ス
テップST64〜69の処理が終了したか否かを判別
し、処理が終了するまでステップST64〜69の処理
を繰り返す(ステップST70〜73)。そして、上記
の処理が終了すると、ディスプレイ装置49が完成した
合成画像31を表示し(ステップST74)、一連の処
理を終了する。
線ベクトル53に係る方向α1 ,β1 ,γ1 及び平行移
動量τ1 と視線ベクトル56に係る方向α2 ,β2 ,γ
2 及び平行移動量τ2 をそれぞれ比較して、合成画像3
1の各部分画像55に対して最も合致度の高い入力画像
21の部分画像52をそれぞれ検索し、それぞれ検索し
た入力画像21の部分画像52を合成画像31の各部分
画像55にそれぞれ転写するようにしたので、入力画像
21及び合成画像31の光軸方向がZX平面内において
限定されず、3次元空間において任意の方向を向いてい
ても合成画像31を生成できる効果を奏する。また、従
来のもののように、補間画像をあらかじめ生成すること
なく合成画像31を生成できる効果も奏する。
致度の高い入力画像21の部分画像52を検索する際、
合成画像31の部分画像55が属するブロック(h,
k,p,q)と同一のブロック(h,k,p,q)に属
する入力画像21の部分画像52のなかから検索するよ
うにしたので、検索する部分画像52の数が限定され、
部分画像52の検索を効率よく行える効果を奏する。
8の処理が終了したのち、図9の処理を行うものについ
て示したが、図8の処理と図9の処理を並列して行って
もよく、この場合には、時間変化する対象についても同
様の手法で画像を合成することができるようになる。
現手法を示す説明図であり、図において、61は座標軸
の原点28から視線ベクトル27がのる直線上に下ろし
た垂線の足である。因に、図11及び図12は実施の形
態6による画像合成装置の動作を示すフローチャートで
ある。
に係る方向及び内積又は平行移動量に基づいて合致度の
高い部分画像を検索するものについて示したが、これに
加えて垂線足の位置と視点位置間の距離に基づいて検索
するようにしてもよい。これにより、入力画像21の視
点位置23と部分画像31の視点位置33が合致するよ
うになり、更に正確な合成画像31を得ることができ
る。
力装置41が入力画像21を撮影する一方、視点情報入
力装置42が入力画像21の視点位置23及び光軸方向
ψ1 25を入力するとともに、画像入力装置41の画角
φを入力する(ステップST82)。因に、視点位置2
3は、画像入力装置41に取り付けられた位置センサの
計測等によって入力する。なお、これらの入力に際し、
ステップST81において、後述する(h,k,q)の
ブロックに属する部分画像26の個数を示す配列Aの要
素をすべて0に初期化するとともに、部分画像26の番
号を示す変数nを1に初期化する(例えば、入力画像2
1の横方向の画素数が128個で、入力画像21の数が
3個ある場合、nの値は最大で384(=128×3
個)になる。
像処理装置44が入力画像21を複数の部分画像26に
分割する。具体的には、図2に示すように、入力画像2
1の縦1列の画素が部分画像26となるように入力画像
21を分割する。これにより、入力画像21の部分画像
26がi個生成されることになる。そして、入力画像2
1の分割に際し、入力画像21の画像データG(i,
j)からi番目の部分画像26を取り出してn番目の部
分画像データKnを生成する(ステップST84)。 Kn ← G(i,j) ・・・(40) ただし、ステップST83において、入力画像21の横
方向の画素を特定する変数iを1に初期化する。
と、視線決定装置45が入力画像21の光軸方向ψ1 2
5及び画像入力装置41の画角φに基づいて視線ベクト
ル27の方向θ1 を演算するとともに、ベクトル29と
ベクトル30の内積ρ1 を演算する。また、視線決定装
置45は座標軸の原点28から視線ベクトル27がのる
直線上に下ろした垂線の足61の位置と視点位置23間
の距離ε1 を演算する(ステップST85)。 θ1 =ψ1 −tan-1{(2・i/MX −1)tanφ/2} ・・・(41) ρ1 =Z1 cos(θ1 −π/2)+X1 sin(θ1 −π/2) ・・・(42) ε1 =Z1 cosθ1 +X1 sinθ1 ・・・(43) ただし、MX は入力画像21の横方向の画素数 X1 は視点位置23のX座標 Z1 は視点位置23のZ座標
れると、構造化装置46が視線ベクトルに係る方向,内
積及び距離によって特定されるθρε空間を複数のブロ
ックに分割し、入力画像21の部分画像26に係る視線
ベクトル27に係る方向θ1,内積ρ1 及び距離ε1 に
基づいて当該部分画像26が属するブロックを特定する
(ステップST86)。
ロックの番号(h,k,q)を下記のように表すことに
より、当該部分画像26が属するブロックを特定する。 h=[θ1 /Δθ]+1 ・・・(44) k=[ρ1 /Δρ]−[ρ1 ’/Δρ]+1 ・・・(45) q=[ε1 /Δε]−[ε1 ’/Δε]+1 ・・・(46) ただし、[a]はaを越えない最大の整数 Δθ,Δρはブロックのきざみ幅 ρ1 ’はρ1 のとりうる最小値 ε1 ’はε1 のとりうる最小値
6が属するブロックを特定すると、ステップST87に
示すように、(h,k,q)で特定されるブロックに属
する部分画像の個数を示す配列A[h][k][q]を
1インクリメントするとともに、(h,k,q)で特定
されるブロックに属する部分画像の番号を示す配列N
[h][k][q][m]にnを追加する。さらに
(h,k,q)で特定されるブロックに属する部分画像
の方向を示す配列T[h][k][q][m]にθ1を
代入し、部分画像の内積を示す配列R[h][k]
[q][m]にρ1 を代入し、距離を示す配列E[h]
[k][q][m]にε1 を代入する。ただし、mはA
[h][k][q]である。
ると、部分画像26の部分画像データKnを記憶装置4
7に記憶させるが、画像入力装置41が撮影した全ての
入力画像21の部分画像26に対して、ステップST8
4〜88の処理が終了したか否かを判別し、処理が終了
するまでステップST84〜88の処理を繰り返す(ス
テップST89〜91)。
視点指示装置43が入力画像21から合成する合成画像
31の視点位置33及び光軸方向ψ2 35を入力する
(ステップST101)。因に、視点位置33は、マウ
スあるいはキーボード等を用いて入力する。
成画像31の部分画像36の番号を示す変数iを1に初
期化したのち(ステップST102)、画像処理装置4
4が合成画像31を複数の部分画像36に分割する。具
体的には、図2に示すように、合成画像31の縦1列の
画素が部分画像36となるように合成画像31を分割す
る。これにより、合成画像31の部分画像36がi個生
成されることになる。
6に分割すると、視線決定装置45が合成画像31の光
軸方向ψ2 35及び画像入力装置41の画角φに基づい
て視線ベクトル37の方向θ2 を演算するとともに、視
線ベクトル37の方向θ2 からZX平面内で−90度ず
れた方向を有する大きさ1のベクトルとベクトル38の
内積ρ2 を演算し、さらに、座標軸の原点28から視線
ベクトル37がのる直線上に下ろした垂線の足の位置と
視点位置33間の距離ε2 を演算して、視線ベクトル3
7を特定する(ステップST103)。 θ2 =ψ2 −tan-1{(2・i/MX −1)tanφ/2} ・・・(47) ρ2 =Z2 cos(θ2 −π/2)+X2 sin(θ2 −π/2) ・・・(48) ε2 =Z2 cosθ2 +X2 sinθ2 ・・・(49) ただし、X2 は視点位置33のX座標 Z2 は視点位置33のZ座標
れると、構造化装置46が合成画像31の部分画像36
に係る視線ベクトル37に係る方向θ2 ,内積ρ2 及び
距離ε2 に基づいて当該部分画像36が属するブロック
を特定する(ステップST104)。具体的には、当該
部分画像36が属するブロックの番号(h,k,q)を
下記のように表すことにより、当該部分画像36が属す
るブロックを特定する。 h=[θ2 /Δθ]+1 ・・・(50) k=[ρ2 /Δρ]−[ρ2 ’/Δρ]+1 ・・・(51) q=[ε2 /Δε]−[ε2 ’/Δε]+1 ・・・(52) ただし、[a]はaを越えない最大の整数 Δθ,Δρはブロックのきざみ幅 ρ2 ’はρ2 のとりうる最小値 ε2 ’はε2 のとりうる最小値
6の属するブロックを特定すると、合成画像生成装置4
8が合成画像31の部分画像36に対して最も合致度の
高い入力画像21の部分画像26を検索するが、視線ベ
クトル27に係る方向θ1 ,内積ρ1 及び距離ε1 と視
線ベクトル37に係る方向θ2 ,内積ρ2 及び距離ε2
がそれぞれ一致する場合には、図2に示すように、視線
ベクトル27と視線ベクトル37は同一直線上にあって
視点位置が同位置であり、しかも同一方向を向いている
とみなすことができるので、互いに対応する部分画像2
6,36は同一の景観を投影し、同様のパターンとな
る。したがって、これらが一致あるいは極めて近似する
場合、互いに対応する部分画像26,36は合致度の高
い画像であると言える。
像31の部分画像36に対して最も合致度の高い入力画
像21の部分画像26を検索するに際し、視線ベクトル
37に係る方向θ2 ,内積ρ2 及び距離ε2 と最も近似
する方向θ1 ,内積ρ1 及び距離ε1 を有する視線ベク
トル27を検索するが、同一のブロック(h,k,q)
に属する部分画像26,36に向かう視線ベクトル2
7,37の方向等は互いに近似しているので、合成画像
31の部分画像36が属するブロック(h,k,q)と
同一のブロック(h,k,q)に属する入力画像21の
部分画像26のなかから検索する。
像36が属するブロック(h,k,q)と同じブロック
(h,k,q)に入力画像21の部分画像26が存在し
ているか否かを判別し(ステップST105)、入力画
像21の部分画像26が存在する場合には、当該ブロッ
クを検索対象のブロックとする。ブロック(h,k,
q)における入力画像21の部分画像26の個数を示す
配列A[h][k][q]が0でなければ、入力画像2
1の部分画像26が存在していると判断する。
在していない場合には、h,k,qの値を適宜変更し、
当該ブロック(h,k,q)に隣接するブロックに入力
画像21の部分画像26が存在しているか否か判別し
(ステップST106,105)、入力画像21の部分
画像26が存在するブロックを検索対象のブロックとす
る。h,k,qを変更する順番はあらかじめ設定されて
いる。
q)を特定すると、当該ブロック(h,k,q)に属す
る各部分画像26の合致度(fの値が小さいほど、合致
度が高い)を下記に示すように計算する。 f = W1 (T[h][k][m]−θ2 )2 +W2 (R[h][k][m]−ρ2 )2 +W3 (E[h][k][m]−ε2 )2 ・・・(53) ただし、W1 ,W2 は重み変数であり、正または0の値
である。
力画像21の部分画像26を見つけると、その部分画像
26の部分画像データKnを記憶装置47から読み込
み、その部分画像データKnを合成画像31の部分画像
36の部分画像データとして転写する(ステップST1
08)。 H(i,j) ← Kn ・・・(54) n=N[h][k][q][m0 ] ただし、m0 はA[h][k][q]個のうち、m0 番
目の部分画像26が選択されたことを意味する。
すると、合成画像31の全ての部分画像36に対して、
ステップST103〜108の処理が終了したか否かを
判別し、処理が終了するまでステップST103〜10
8の処理を繰り返す(ステップST109,110)。
そして、上記の処理が終了すると、ディスプレイ装置4
9が完成した合成画像31を表示し(ステップST11
1)、一連の処理を終了する。
線ベクトル27に係る方向θ1 ,内積ρ1 及び距離ε1
と、視線ベクトル37に係る方向θ2 ,内積ρ2 及び距
離ε2 をそれぞれ比較して、合成画像31の各部分画像
36に対して最も合致度の高い入力画像21の部分画像
26をそれぞれ検索し、それぞれ検索した入力画像21
の部分画像26を合成画像31の各部分画像36にそれ
ぞれ転写するようにしたので、入力画像21及び合成画
像31の光軸方向がZX平面内において限定されず、任
意の方向を向いていても合成画像31を生成できるとと
もに、上記実施の形態1等より正確な合成画像31を得
ることができる効果を奏する。また、従来のもののよう
に、補間画像をあらかじめ生成することなく合成画像3
1を生成できる効果も奏する。
致度の高い入力画像21の部分画像26を検索する際、
合成画像31の部分画像36が属するブロック(h,
k,q)と同一のブロック(h,k,q)に属する入力
画像21の部分画像26のなかから検索するようにした
ので、検索する部分画像26の数が限定され、部分画像
26の検索を効率よく行える効果を奏する。
11の処理が終了したのち、図12の処理を行うものに
ついて示したが、図11の処理と図12の処理を並列し
て行ってもよく、この場合には、時間変化する対象につ
いても同様の手法で画像を合成することができるように
なる。
形態8による画像合成装置を示すブロック図、図14及
び図15はこの発明の実施の形態8による画像合成装置
の動作原理を示す説明図であり、図14及び図15にお
いて、71は入力画像21を撮影する際に、撮影対象物
体72が近似的に存在すると仮定する景観面(平面)、
72は撮影対象物体、73は視線ベクトル27がのる直
線と景観面71の交点、74は視線ベクトル37がのる
直線と景観面71の交点、75は補正されて新たに選択
された入力画像21の部分画像である。また、図13に
おいて、77は交点73と交点74が景観面71におい
て一致するか否かを判定し、一致しない場合には、視線
ベクトル27,37に係る方向θ1 ,θ2 及び内積ρ
1 ,ρ2 と入力画像の視点位置23から景観面71まで
の距離D1 に基づいて転写する入力画像の部分画像を変
更するとともに、入力画像21の視点位置23から景観
面71までの距離D1 と合成画像31の視点位置33か
ら景観面71までの距離D2 に基づいて入力画像21の
部分画像22(または75)を拡大または縮小する部分
画像変更装置(転写手段)である。
態1等では、最も合致度の高い部分画像を転写するもの
について示したが、合致度が完全に一致しない場合に
は、図14に示すように、交点73と交点74が景観面
71において一致しない場合が生じる。図14の場合に
は、交点73と交点74の距離がd1であるので、入力
画像21の部分画像22をそのまま合成画像31の部分
画像32として転写すると、距離d1(入力画像21の
Δiに相当)だけ横ずれした合成画像31が生成されて
しまう不具合を生じる。
入力装置42が入力画像21の視点位置23から景観面
71までの距離D1 を入力し、部分画像変更装置77が
その距離D1 に基づいて横ずれ量Δiを演算する。 Δi=MX ・d1/(2D1 ・tanφ/2) ・・・(55)
ずれ量Δiを補正するため、検索された部分画像22の
画像データKnではなく、その部分画像22からΔiだ
けずれた位置にある部分画像75の画像データKn+Δ
iを合成画像31の部分画像32に転写する。
21の視点位置23から景観面71までの距離D1 と合
成画像31の視点位置33から景観面71までの距離D
2 が異なる場合、図15に示すように、景観面71にお
ける入力画像21と合成画像31の撮影面積が異なるた
め(図15の場合、D1 <D2 であるため、入力画像2
1の撮影面積が合成画像31の撮影面積より小さい)、
入力画像21の部分画像22をそのまま合成画像31の
部分画像31として転写すると、縦方向にずれがある合
成画像31が生成されてしまう不具合を生じる。
入力装置42が入力画像21の視点位置23から景観面
71までの距離D1 と合成画像31の視点位置33から
景観面71までの距離D2 を入力し、その距離D1 ,D
2 から入力画像21における縦方向の撮影範囲に相当す
る合成画像31の縦方向の撮影範囲j* を演算する。 j* =(j−MY /2)(D2 /D1 )+MY /2 ・・・(56) ただし、MY は入力画像21の縦方向の画素数
方向のずれを補正するため、縦方向がj個の画像データ
Knを単に転写するのではなく、合成画像31における
部分画像32の縦方向がj* 個に相当するように、j個
の画像データKnの縮尺率を変更して転写する。
方向のずれ量Δi及び縦方向の撮影範囲を補正するよう
にしたので、上記実施の形態よりも正確な合成画像を生
成することができる効果を奏する。
形態9による画像合成装置を示すブロック図、図17は
この発明の実施の形態9による画像合成装置の動作原理
を示す説明図であり、図17において、81は入力画像
21を撮影するビデオカメラ(画像撮影手段)、82は
ビデオカメラ81の設置位置から合成画像31の視線ベ
クトル37がのる直線上に下ろした垂線の足、83はビ
デオカメラ81の光軸の目標方向を示すベクトルであ
る。また、図16において、84はビデオカメラ81の
位置,光軸及び画角を計測するカメラ位置計測装置、8
5はビデオカメラ81の目標位置を演算する目標位置演
算装置(移動手段)、86は目標位置演算装置85の演
算結果にしたがってビデオカメラ81を移動するカメラ
移動装置(移動手段)である。
態1等では、最も合致度の高い部分画像26を転写する
ものについて示したが、その部分画像26の合致度があ
らかじめ設定された合致度より低い場合、その部分画像
26を合成画像31の部分画像36として転写すると、
必ずしも正確な合成画像31が得られない場合がある。
装置85が合成画像生成装置48により検索された部分
画像26の合致度があらかじめ設定された合致度より高
いか否かを判定する。そして、その部分画像26の合致
度があらかじめ設定された合致度より高い場合には、正
確な合成画像31が得られるので、その部分画像26を
転写すべき旨を合成画像生成装置48に指令する。一
方、その部分画像26の合致度があらかじめ設定された
合致度より低い場合には、正確な合成画像31が得られ
ないので、以下に示すように、ビデオカメラ81の位置
を移動する処理を施す。
設定された合致度より低い場合、ビデオカメラ81の光
軸が合成画像31に係る視線ベクトル37と一致するよ
うにすれば、合致度が極めて向上するので、ビデオカメ
ラ81の視点位置から視線ベクトル37がのる直線上に
下ろした垂線の足82の位置に、ビデオカメラ81の視
点位置を移動するとともに、ビデオカメラ81の光軸を
視線ベクトル37に一致させるようにする。
すように視線ベクトル37の方向θ2 に基づいてビデオ
カメラ81を移動する目標位置(Zt ,Xt )を演算す
る。 Zt =Z2 +tcosθ2 ・・・(57) Xt =X2 +tsinθ2 ・・・(58) t=(Zn −Z0 )cosθ2 +(Xn −X0 )sinθ2 ・・・(59) ただし、Z2 ,X2 は合成画像31の視点位置33 Zn ,Xn はビデオカメラ81の現在位置
t ,Xt )が演算されると、カメラ移動装置86がビデ
オカメラ81の視点位置を目標位置(Zt ,Xt )まで
移動するとともに、ビデオカメラ81の光軸を視線ベク
トル37の方向θ2 に一致させ、処理を終了する。
デオカメラ81の光軸が視線ベクトル37と一致するの
で、合致度があまり高くない部分画像26が検索された
場合でも、正確な合成画像31を得ることができる効果
を奏する。
線ベクトルを幾何学的な量で表現して合致度を判定した
が、入力画像21を撮影した時刻を考慮して合致度を判
定してもよい。
種装置を組み合わせることによって画像合成装置を構成
したものについて示したが、各種装置の処理を実現する
コンピュータを用いて画像合成装置を構成してもよく、
同様の効果を奏することができる。
は、横幅が1画素の部分画像21,31に分割するもの
について示したが、横幅が2画素以上の部分画像21,
31に分割するようにしてもよく、上記実施の形態1等
と同様の効果を奏することができる。なお、この場合に
は、部分画像21,31の数が減少し、処理が軽減され
ることになる。
新たに入力画像21を撮影する度に、その入力画像21
を記憶装置47に記憶させるようにしていたが、記憶領
域の節約のため、新たに入力された入力画像21の視線
ベクトル27と同一の視線ベクトルを有する入力画像2
1が既に存在する場合には、既に存在する入力画像21
又は新たに入力された入力画像21の何れかを破棄する
ようにしてもよい。
れば、入力画像の視点位置からその入力画像の各部分画
像に向かう第1の視線ベクトルの方向と、合成画像の視
点位置からその合成画像の各部分画像に向かう第2の視
線ベクトルの方向を比較して、その合成画像の各部分画
像に対して最も合致度の高い入力画像の部分画像をそれ
ぞれ検索し、それぞれ検索した入力画像の部分画像をそ
の合成画像の各部分画像にそれぞれ転写するように構成
したので、入力画像及び合成画像の光軸方向が平面内に
おいて限定されず、任意の方向を向いていても合成画像
を生成できる効果がある。また、従来のもののように、
補間画像をあらかじめ生成することなく合成画像を生成
できる効果もある。
び合成画像をそれぞれ複数の部分画像に分割する際、そ
の入力画像及び合成画像を構成する各画素ごとに分割す
るように構成したので、入力画像及び合成画像の光軸方
向が平面内において限定されず、3次元空間において任
意の方向を向いていても合成画像を生成できる効果があ
る。
ベクトルに係る内積と第2の視点ベクトルに係る内積を
演算する内積演算手段を設け、最も合致度の高い入力画
像の部分画像を検索する際、その第1の視線ベクトルに
係る方向及び内積と第2の視線ベクトルに係る方向及び
内積をそれぞれ比較するように構成したので、請求項1
記載の発明より正確な合成画像を生成できる効果があ
る。
点から第1の視線ベクトルがのる直線上に下ろした垂線
の足の位置と入力画像の視点位置間の距離を求めるとと
もに、座標軸の原点から第2の視線ベクトルがのる直線
上に下ろした垂線の足の位置と合成画像の視点位置間の
距離を求める距離演算手段を設け、最も合致度の高い入
力画像の部分画像を検索する際、第1の視線ベクトルに
係る方向,内積及び距離と第2の視線ベクトルに係る方
向,内積及び距離をそれぞれ比較するように構成したの
で、請求項3記載の発明より更に正確な合成画像を生成
できる効果がある。
2の視線ベクトルの方向に基づいて入力画像及び合成画
像の各部分画像が属するブロックを特定し、最も合致度
の高い入力画像の部分画像を検索する際、合成画像の部
分画像が属するブロックと同一のブロックに属する入力
画像の部分画像のなかから検索するように構成したの
で、検索する入力画像の部分画像の数が限定され、部分
画像の検索を効率よく行える効果がある。
2の視線ベクトルに係る方向及び内積に基づいて入力画
像及び合成画像の各部分画像が属するブロックを特定
し、最も合致度の高い入力画像の部分画像を検索する
際、合成画像の部分画像が属するブロックと同一のブロ
ックに属する入力画像の部分画像のなかから検索するよ
うに構成したので、請求項5記載の発明より、検索する
入力画像の部分画像の数が限定され、部分画像の検索を
更に効率よく行える効果がある。
2の視線ベクトルに係る方向,内積及び距離に基づいて
入力画像及び合成画像の各部分画像が属するブロックを
特定し、最も合致度の高い入力画像の部分画像を検索す
る際、合成画像の部分画像が属するブロックと同一のブ
ロックに属する入力画像の部分画像のなかから検索する
ように構成したので、請求項6記載の発明より、検索す
る入力画像の部分画像の数が限定され、部分画像の検索
を更に効率よく行える効果がある。
各部分画像に対して入力画像の部分画像を転写する際、
その入力画像の部分画像に向かう第1の視線ベクトルと
その合成画像の部分画像に向かう第2の視線ベクトル
が、撮影対象物体が存在する平面内において一致するか
否かを判定し、一致しない場合には、その第1及び第2
の視線ベクトルに係る方向及び内積と入力画像の視点位
置から撮影対象物体が存在する平面までの距離に基づい
て転写する入力画像の部分画像を変更するようにし構成
したので、その不一致に伴う横方向のずれが補正され、
合成画像の正確度が向上する効果がある。
各部分画像に対して入力画像の部分画像を転写する際、
その入力画像及び合成画像の視点位置から撮影対象物体
が存在する平面までの距離に基づいてその入力画像の部
分画像を拡大または縮小するように構成したので、距離
の不一致に伴う縦方向のずれが補正され、合成画像の正
確度が向上する効果がある。
により検索された入力画像の部分画像に係る合致度が予
め設定された所定の合致度より小さい場合、画像撮影手
段の視点位置から第2の視線ベクトルがのる直線上に下
ろした垂線の足の位置に、その画像撮影手段の視点位置
を移動するとともに、画像撮影手段の光軸をその第2の
視線ベクトルの方向に一致させるように構成したので、
合致度があまり高くない入力画像の部分画像が検索され
た場合でも、正確な合成画像を得ることができる効果が
ある。
を示すブロック図である。
の動作原理を示す説明図である。
を示すフローチャートである。
を示すフローチャートである。
の動作原理を示す説明図である。
る。
を示すフローチャートである。
を示すフローチャートである。
る。
動作を示すフローチャートである。
動作を示すフローチャートである。
置を示すブロック図である。
置の動作原理を示す説明図である。
置の動作原理を示す説明図である。
置を示すブロック図である。
る。
図である。
入力装置(入力手段)、43 視点指示装置(入力手
段)、44 画像処理装置(画像分割手段)、45 視
線決定装置(方向演算手段,内積演算手段,距離演算手
段)、46 構造化装置(ブロック特定手段)、48
合成画像生成装置(転写手段)、77 部分画像変更装
置(転写手段)、81 ビデオカメラ(画像撮影手
段)、85 目標位置演算装置(移動手段)、86 カ
メラ移動装置(移動手段)。
Claims (10)
- 【請求項1】 入力画像を撮影する画像撮影手段と、上
記入力画像及び合成画像の視点位置と光軸方向をそれぞ
れ入力するとともに、上記画像撮影手段の画角を入力す
る入力手段と、上記入力画像及び合成画像をそれぞれ複
数の部分画像に分割する画像分割手段と、上記入力画像
の光軸方向及び上記画角に基づいて上記入力画像の視点
位置からその入力画像の各部分画像に向かう第1の視線
ベクトルの方向を演算するとともに、上記合成画像の光
軸方向及び上記画角に基づいて上記合成画像の視点位置
からその合成画像の各部分画像に向かう第2の視線ベク
トルの方向を演算する方向演算手段と、上記第1の視線
ベクトルの方向と上記第2の視線ベクトルの方向を比較
して、上記合成画像の各部分画像に対して最も合致度の
高い入力画像の部分画像をそれぞれ検索し、それぞれ検
索した入力画像の部分画像をその合成画像の各部分画像
にそれぞれ転写する転写手段とを備えた画像合成装置。 - 【請求項2】 画像分割手段は入力画像及び合成画像を
それぞれ複数の部分画像に分割する際、その入力画像及
び合成画像を構成する各画素ごとに分割することを特徴
とする請求項1記載の画像合成装置。 - 【請求項3】 第1の視線ベクトルの方向から平面内で
−90度ずれた方向を有する大きさ1のベクトルと座標
軸の原点から入力画像の視点位置に向かうベクトルの内
積を演算するとともに、第2の視線ベクトルの方向から
平面内で−90度ずれた方向を有する大きさ1のベクト
ルと座標軸の原点から合成画像の視点位置に向かうベク
トルの内積を演算する内積演算手段を設け、転写手段は
最も合致度の高い入力画像の部分画像を検索する際、上
記第1の視線ベクトルに係る方向及び内積と上記第2の
視線ベクトルに係る方向及び内積をそれぞれ比較して検
索することを特徴とする請求項1記載の画像合成装置。 - 【請求項4】 座標軸の原点から第1の視線ベクトルが
のる直線上に下ろした垂線の足の位置と上記入力画像の
視点位置間の距離を求めるとともに、座標軸の原点から
第2の視線ベクトルがのる直線上に下ろした垂線の足の
位置と合成画像の視点位置間の距離を求める距離演算手
段を設け、転写手段は最も合致度の高い入力画像の部分
画像を検索する際、上記第1の視線ベクトルに係る方
向、内積及び距離と上記第2の視線ベクトルに係る方
向、内積及び距離をそれぞれ比較して検索することを特
徴とする請求項3記載の画像合成装置。 - 【請求項5】 視線ベクトルの方向によって特定される
空間を複数のブロックに分割するとともに、第1及び第
2の視線ベクトルの方向に基づいて入力画像及び合成画
像の各部分画像が属するブロックを特定するブロック特
定手段を設け、転写手段は最も合致度の高い入力画像の
部分画像を検索する際、上記合成画像の部分画像が属す
るブロックと同一のブロックに属する入力画像の部分画
像のなかから検索することを特徴とする請求項1記載の
画像合成装置。 - 【請求項6】 視線ベクトルに係る方向及び内積によっ
て特定される空間を複数のブロックに分割するととも
に、第1及び第2の視線ベクトルに係る方向及び内積に
基づいて入力画像及び合成画像の各部分画像が属するブ
ロックを特定するブロック特定手段を設け、転写手段は
最も合致度の高い入力画像の部分画像を検索する際、上
記合成画像の部分画像が属するブロックと同一のブロッ
クに属する入力画像の部分画像のなかから検索すること
を特徴とする請求項3記載の画像合成装置。 - 【請求項7】 視線ベクトルに係る方向、内積及び距離
によって特定される空間を複数のブロックに分割すると
ともに、第1及び第2の視線ベクトルに係る方向、内積
及び距離に基づいて入力画像及び合成画像の各部分画像
が属するブロックを特定するブロック特定手段を設け、
転写手段は最も合致度の高い入力画像の部分画像を検索
する際、上記合成画像の部分画像が属するブロックと同
一のブロックに属する入力画像の部分画像のなかから検
索することを特徴とする請求項4記載の画像合成装置。 - 【請求項8】 転写手段は合成画像の各部分画像に対し
て入力画像の部分画像を転写する際、その入力画像の部
分画像に向かう第1の視線ベクトルとその合成画像の部
分画像に向かう第2の視線ベクトルが、撮影対象物体が
存在する平面内において一致するか否かを判定し、一致
しない場合には、その第1及び第2の視線ベクトルに係
る方向及び内積と上記入力画像の視点位置から上記撮影
対象物体が存在する平面までの距離に基づいて転写する
入力画像の部分画像を変更することを特徴とする請求項
3記載の画像合成装置。 - 【請求項9】 転写手段は合成画像の各部分画像に対し
て入力画像の部分画像を転写する際、その入力画像及び
合成画像の視点位置から撮影対象物体が存在する平面ま
での距離に基づいてその入力画像の部分画像を拡大また
は縮小することを特徴とする請求項1記載の画像合成装
置。 - 【請求項10】 転写手段により検索された入力画像の
部分画像に係る合致度が予め設定された所定の合致度よ
り小さい場合、画像撮影手段の視点位置から第2の視線
ベクトルがのる直線上に下ろした垂線の足の位置に、そ
の画像撮影手段の視点位置を移動するとともに、上記画
像撮影手段の光軸をその第2の視線ベクトルの方向に一
致させる移動手段を設けたことを特徴とする請求項1か
ら請求項9のうちのいずれか1項記載の画像合成装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP23710995A JP3457104B2 (ja) | 1995-09-14 | 1995-09-14 | 画像合成装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP23710995A JP3457104B2 (ja) | 1995-09-14 | 1995-09-14 | 画像合成装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH0983865A JPH0983865A (ja) | 1997-03-28 |
JP3457104B2 true JP3457104B2 (ja) | 2003-10-14 |
Family
ID=17010552
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP23710995A Expired - Fee Related JP3457104B2 (ja) | 1995-09-14 | 1995-09-14 | 画像合成装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3457104B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4211292B2 (ja) * | 2002-06-03 | 2009-01-21 | ソニー株式会社 | 画像処理装置および画像処理方法、プログラム並びにプログラム記録媒体 |
-
1995
- 1995-09-14 JP JP23710995A patent/JP3457104B2/ja not_active Expired - Fee Related
Non-Patent Citations (1)
Title |
---|
亀井克之,画像に基づく仮想空間の生成,電子情報通信学会技術研究報告,日本,社団法人電子情報通信学会,1996年 5月28日,第96巻 第82号,P.25−34 |
Also Published As
Publication number | Publication date |
---|---|
JPH0983865A (ja) | 1997-03-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10964108B2 (en) | Augmentation of captured 3D scenes with contextual information | |
Zhu et al. | Parallel-perspective stereo mosaics | |
US6191808B1 (en) | Image processing method with viewpoint compensation and apparatus therefor | |
Zhu et al. | Generalized parallel-perspective stereo mosaics from airborne video | |
JP4737763B2 (ja) | 多視点画像を用いた自由視点画像生成方法、装置及びプログラム | |
EP0797171B1 (en) | Image processing method and apparatus | |
Coorg et al. | Acquisition of a large pose-mosaic dataset | |
CN105066962B (zh) | 一种多分辨率大视场角高精度摄影测量装置 | |
EP1536378A2 (en) | Three-dimensional image display apparatus and method for models generated from stereo images | |
JP2007336188A (ja) | 多視点画像圧縮符号化方法、装置及びプログラム | |
CN103345736A (zh) | 一种虚拟视点绘制方法 | |
CN106534670B (zh) | 一种基于固联鱼眼镜头摄像机组的全景视频生成方法 | |
JP2003269928A (ja) | 3次元形状計測方法および装置ならびにプログラム | |
US6809771B1 (en) | Data input apparatus having multiple lens unit | |
WO2018179040A1 (ja) | カメラパラメータ推定装置、方法およびプログラム | |
WO2017134770A1 (ja) | 映像同期装置 | |
JP4605716B2 (ja) | 多視点画像圧縮符号化方法、装置及びプログラム | |
JP4775903B2 (ja) | 多視点画像を用いた自由視点画像生成方法、装置及びプログラム | |
Zhu et al. | Stereo mosaics from a moving video camera for environmental monitoring | |
JP3457104B2 (ja) | 画像合成装置 | |
US8532432B2 (en) | Mobile communication terminal having image conversion function and method | |
JP6278771B2 (ja) | 投影位置決定装置及び投影位置決定プログラム | |
JP2013120435A (ja) | 画像処理装置および画像処理方法、プログラム | |
JP3277105B2 (ja) | 部分立体モデルの作成方法及び装置 | |
JPH09237346A (ja) | 部分立体モデルの合成方法及び完全立体モデルの作成方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20070801 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080801 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080801 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090801 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090801 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100801 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110801 Year of fee payment: 8 |
|
LAPS | Cancellation because of no payment of annual fees |