JPH10240967A - モデル画像を用いた3次元物体のグラフィクスアニメーション装置及び方法 - Google Patents

モデル画像を用いた3次元物体のグラフィクスアニメーション装置及び方法

Info

Publication number
JPH10240967A
JPH10240967A JP7882297A JP7882297A JPH10240967A JP H10240967 A JPH10240967 A JP H10240967A JP 7882297 A JP7882297 A JP 7882297A JP 7882297 A JP7882297 A JP 7882297A JP H10240967 A JPH10240967 A JP H10240967A
Authority
JP
Japan
Prior art keywords
model
image
picture
dimensional
model images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP7882297A
Other languages
English (en)
Inventor
Go Jo
剛(じょ ごう) 徐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to JP7882297A priority Critical patent/JPH10240967A/ja
Publication of JPH10240967A publication Critical patent/JPH10240967A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Digital Computer Display Output (AREA)
  • User Interface Of Digital Computer (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 (修正有) 【課題】対象物体の完全な、明示的な3次元モデルを必
要とせず、特別な3次元測定装置を持たずに、CCDカ
メラのような画像入力装置のみで、モデル画像のカバー
する範囲内の任意視点の画像を高速に計算合成できるシ
ステムの実現を基本的目的とする。 【解決手段】3次元対象物体のモデル画像を複数の視点
から適切に撮像する手段と、前記モデル画像間の3次元
位置関係を求めるための3次元運動復元手段と、前記の
モデル画像間の画素の対応を求めるための画像マッチン
グ手段と、任意の視点を指定入力する手段と、上記の結
果として、任意の視点を指定したときの、前記のモデル
画像よりその視点から見た画像を合成する手段と、合成
画像を出力表示する手段を具備することにより、対象物
体の3次元グラフィクスアニメーションを高速に実現す
る。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】 本発明は、3次元物体のグラフ
ィクスアニメーションに関するものであり、3次元物体
の3次元形状モデルの計測を必要とせず、そのモデル画
像を複数の視点から入力するだけで、高速3次元グラフ
ィクスアニメーションを可能にしたものである。
【0002】 3次元グラフィクスアニメーションは、
仮想(人工)現実感やゲーム、教育、映画制作、ヒュー
マンインタフェース、エンタテインメント、画像通信な
どの分野において、広く応用され、多くのパソコンも、
実時間グラフィクスに対応するように作られつつあり、
今後もさらに広く普及するものと思われる。
【0003】
【従来技術】 現在市販されている3次元グラフィクス
アニメーションの装置は、すべて対象物体の完全な、明
示的な3次元形状データを持つことを前提としている。
3次元形状を測定する装置が高価なだけでなく、物体の
サイズや距離にも制限が多いため、実際には、使用が限
られ、一般のユーザが簡単に、手軽に利用できるところ
には至っていない。
【0004】 また、本発明のように、3次元形状モデ
ルを必要としないグラフィクスアニメーションの研究が
行われてはいるが、実用に成熟していないものが多い。
以下、それらの技術について記述するとともに、本発明
との違いを明確にする。
【0005】 コンピュータグラフィクスの分野におい
て、画像モーフィングという手法があるが、これは、二
枚の隣接するモデル画像間の変化を線形補間するもので
ある(Proceedings of 13th In
ternational Conference on
Pattern Recognition,ページA
84−89)。また、画像モーフィングの概念を変形し
たものも、例えば、Ray−Based Render
ing(3次元画像コンファレンス96、ページ7−1
2)が、発表されている。しかし、画像モーフィングは
モデル画像間の線形補間しかできないし、またその視点
は2枚のモデル画像のレンズ中心を結ぶ線に沿ってのも
のに限られるので、対象物体の3次元形状の変化が十分
反映されない場合があり、また指定できる視点が制限さ
れるという欠点がある。
【0006】 コンピュータビジョンの研究成果を利用
し、画像間エピポーラ幾何関係を用いた手法もある(P
roceedings of 12th Intern
ational Conference on Pat
tern Recognition,ページ689−6
91)。この手法は、対応づけされた二枚のモデル画像
の各画素から、指定した視点の画像へそれぞれエピポー
ラ線を引き、その交点に、前記のモデル画像の画素の明
度を持たせるというものである。この手法は、各画素点
における二本のエピポーラ線とその交点を計算するのに
時間がかかる上、二枚のモデル画像の視点と指定視点が
同一平面にある場合は、2本のエピポーラ線が平行とな
り、交点が不安定になるという問題が残る。
【0007】
【発明が解決しようとする課題】 本発明は、
【0003】の手法にあるような対象物体の完全な、明
示的な3次元形状モデルを必要としないこと、また、
【0005】の手法にあるような補間に伴うひずみや視
点の制限を持たないこと、また、
【0006】の手法にあるような複雑な計算を簡単化
し、視点の制限をも無くすこと、よって、特別な3次元
測定装置を持たずに、CCDカメラのような画像入力装
置のみで、モデル画像のカバーする範囲内の任意視点の
画像を高速に計算合成できるシステムの実現を基本的目
的とする。
【0008】 上記の目的を達成するためには、モデル
画像を適切に入力することが必要であり、モデル画像間
の位置関係を求めることが必要であり、またモデル画像
間の各画素の対応を求めることが必要であり、視点が指
定されたときの、その視点の画像を、モデル画像の関数
として高速に合成することが必要である。本発明は、こ
れらの諸課題を解決する。
【0009】
【課題を解決するための手段】 本発明は、3次元対象
物体のモデル画像を複数の視点から適切に撮像する手段
と、前記モデル画像間の3次元位置関係を求めるための
3次元運動復元手段と、前記のモデル画像間の画素の対
応を求めるための画像マッチング手段と、任意の視点を
指定入力する手段と、上記の結果として、任意の視点を
指定したときの、前記のモデル画像よりその視点から見
た画像を合成する手段と、合成画像を出力表示する手段
を具備した、対象物体の3次元グラフィクスアニメーシ
ョンを高速に実現するものである(請求項1)。
【0010】 画像入力装置は、普通のCCDカメラで
よいが、対象物体の周囲または上下を、厳密に一定間隔
でなくよいが、広すぎず狭すぎない程度の間隔で、撮影
入力し、モデル画像として記録する。カラー画像を合成
する時は、モデル画像もカラーでなければならない。合
成画像は、モデル画像のカバーできる範囲になければな
らないため、対象物体の全周囲をカバーするモデル画像
を用意すれば、視点の指定が自由である。また、リアル
な合成のためには、モデル画像を撮影する時、物体の明
度に影響を与えないように、物体から少し離れたところ
で多少長い焦点距離のレンズを使用する。また、合成画
像の画質を高めるには、隣接する撮影位置が同一平面内
にないように撮影位置に変化をつける。また、特定の対
象物体に関しては、このようなモデル画像のデータを一
括で用意し、購入してもらう場合もある。
【0011】 入力されたモデル画像がどの視点からの
ものかは、合成の前に計算しておく必要がある。これ
は、画像からの3次元運動復元手段を用いる。まず、各
モデル画像に隣接する2枚のモデル画像を見つける。3
枚のモデル画像間のそれぞれ2枚の間のエピポーラ方程
式を復元する。各々のエピポーラ式からは、オイラー回
転角の中の1番目と3番目の回転角を求める。残りの2
番目の回転角は、3つのエピポーラ方程式を連立するこ
とで求める。このことを全モデル画像に対して繰り返
し、最終的には全モデル画像間の相互位置関係を決める
(請求項2)。
【0012】 上記の隣接する3枚のモデル画像のそれ
ぞれ2枚の間の対象物体の全画素の対応を求める必要が
ある。エピポーラ方程式が求められているため、対応点
の探索は、エピポーラ線に沿って行う。エピポーラ線に
沿っての探索は、標準的な相関法を用いる。各点につ
き、エピポーラ線上の相関値が最も高い点を対応点とす
る。
【0013】 合成画像の視点は仮想現実感のようにマ
ウスなどでインタラクティブに指定することもあるし、
他の方法もありうる。視点が指定された時、その視点に
最も近い3枚のモデル画像を自動的に見つける。視点が
動的に変わるにつれ、隣接する3枚のモデル画像も動的
に交替する。モデル画像のカバーする範囲なら視点に対
する制限はない。3枚の画像にはそれぞれ水平座標と垂
直座標がある。水平軸と垂直軸が互いに直交するベクト
ルである。合成画像の水平軸に最も近い3本のモデル画
像の座標軸をベクトルとして特定し、合成画像の各点の
水平座標は、そのモデル画像の3つの座標軸の座標の線
形関数として求める。それぞれの係数は、座標軸ベクト
ル間の内積で求め、各画素点に共通するものである。各
画素点の明度は、対応するモデル画像の画素の明度の単
純平均で与える。カラー画像の場合は、赤、緑、青のそ
れぞれの成分について単純平均すれば良い。これらの計
算は全て線形なので、高速化でき、なお専用ハードウェ
アによる実現も簡単である(請求項3)。
【0014】
【発明の実施例】 以下、本発明の好ましい実施態様例
について画面を用いながら詳述する。図1は本発明の全
体構成を示すブロック図です。本発明は、図に示すよう
にモデル画像入力手段10と、モデル画像間の3次元運
動復元手段20と、隣接モデル画像間の画素対応手段3
0と、合成画像の視点入力手段40と、モデル画像によ
る画像合成手段50と、合成された画像の出力表示手段
60からなる。なお、10、20、30はオフラインで
実行され、40、50、60はオンラインで実行され
る。
【0015】 図2は図1の詳細図である。101は対
象物体、102は101の画像入力部で、例えばCCD
ビデオカメラからなる。103はA/D変換器で入力画
像をディジタル信号に変換するものである。なお、ディ
ジタルカメラを用いる場合は、A/D変換は省略され
る。104は対象物体を背景領域から分離する対象領域
抽出部である。これは、背景画像を事前に記録し、現画
像との差分のみで可能である。105は撮影されたモデ
ル画像の記憶装置である。対象物体の回りをなるべく均
等な間隔で、なお視点が同一平面にならないように、対
象物体のモデル画像を撮影し、記憶しておく。
【0016】 201は物体上の特徴点の選択対応部で
ある。ここでは、各モデル画像とその隣のモデル画像の
間で、対応する特徴的な点を手動で、例えば、マウス
で、選び、その対応関係も記録する。特徴点が広く分布
するように選び、最低4点が必要であり、8点以上の必
要はない。202は、これらの対応点の座標から隣接す
る各々の2枚のモデル画像間のエピポーラ方程式を復元
するものである。エピポーラ方程式は
【数1】に示す。図3はエピポーラ式が、それぞれの画
像上では平行なるエピポーラ線を意味することを示す。
その傾きはオイラー角の第一と第三の角度に相当する。
続いて、203は、隣接する3枚のモデル間で、残りの
第二のオイラー角を求める運動復元部である。その式は
【数2】に示す。
【0017】
【数1】 エピポーラ方程式 px+qy+sx+ty+c=0 (x,y)と(x,y)はそれぞれの画像の対応点
の座標である。
【0018】
【数2】 αは第一オイラー角を、βは第二オイラー角を、γは第
三オイラー角をそれぞれ表す。1,2,3はそれぞれ第
1モデル画像と第2モデル画像との間の、第2モデル画
像と第3モデル画像との間の、第3モデル画像と第1モ
デル画像との間の、オイラー角の番号を表す。
【0019】 301は隣接するモデル画像上で各画素
に相関領域を設定するものである。相関領域はその画素
を中心とする正方形の領域とし、その辺がエピポーラ線
に平行となるように設定する。図3はその例を示す。3
02は相関値計算で、対応づけを行うものである。一方
の画像の領域Aに対して、もう一方の画像上で、エピポ
ーラ線に沿って移動させ、その都度、相関値を計算す
る。303はその中で最も高い相関値を得る位置を見つ
け、対応点とするものである。図4は相関値の変化の様
子を示す。
【0020】 以上はオフラインで実行されたのち、画
像の合成に入る。40は視点のオンライン入力装置であ
る。仮想現実感などのように、視点を実時間に入力し、
また合成画像を実時間に表示する場合、マウスなどを用
いる。
【0021】 視点が入力されたら、501はその視点
に最も近い3枚のモデル画像を見つける。これは、各モ
デル画像の視線方向ベクトルとの内積が最も大きいもの
として選択できる。続いて、502はその3枚の画像の
6本の水平垂直方向ベクトルの中から、合成画像の水平
垂直方向に近いものをそれぞれ3つづつ同様に選択す
る。以下は、選ばれた座標方向の座標の線形結合とし
て、合成画像の各点の座標を決めていく。その係数は、
503で決定する。図5に示すように、モデル画像の3
本の座標方向と成したい画像の座標方向は、3次元空間
では4つのベクトルとなる。合成したい画像の座標方向
ベクトル(単位長)を対角線とする平行6面体を作るこ
とができる。線形結合の係数はそれぞれのベクトルに沿
っての平行6面体の辺の長さとして求められる。
【0022】 504は合成画像の各点の座標を対応す
るモデル画像の座標の線形結合として求め、次に、それ
ぞれの点の明度は、対応するモデル画像の点の明度の単
純平均とする。カラー画像の場合は、それぞれ赤、緑、
青の成分の単純平均とする。
【0023】 合成された画像は、601の画像バッフ
ァに入れられ、602のディスプレイに表示される。
【0024】
【発明の効果】 本発明は、3次元物体のグラフィクス
アニメーションにおいて、3次元物体の3次元形状モデ
ルの計測を必要とせず、そのモデル画像を複数の視点か
ら入力するだけで、高速3次元グラフィクスアニメーシ
ョンを可能にするものである。
【0025】 本発明は、仮想(人工)現実感やゲー
ム、教育、映画制作、ヒューマンインタフェース、エン
タテインメント、画像通信などの分野における3次元グ
ラフィクスアニメーションに適用可能であり、設備の簡
略化、低コスト化と高速化が実現できる。
【図面の簡単な説明】
【図1】 本発明の装置の好ましい実施様態例の全体構
成のブロック図
【図2】 本発明の装置の好ましい実施様態例の詳細な
ブロック図
【図3】 エピポーラ線とエピポーラ線に沿う相関領域
の設定
【図4】 エピポーラ線に沿っての相関値の変化の様子
と対応点の決定
【図5】 線形結合における係数の決定
【数式】
【数1】 エピポーラ方程式 px+qy+sx+ty+c=0 (x,y)と(x,y)はそれぞれの画像の対応点
の座標である。
【数2】 第2オイラー角の復元式 αは第一オイラー角を、βは第二オイラー角を、γは第
三オイラー角をそれぞれ表す。1,2,3はそれぞれ第
1モデル画像と第2モデル画像との間の、第2モデル画
像と第3モデル画像との間の、第3モデル画像と第1モ
デル画像との間の、オイラー角の番号を表す。

Claims (3)

    【特許請求の範囲】
  1. 【請求項1】 3次元対象物体のモデル画像を複数の視
    点から適切に撮像する手段と、前記モデル画像間の3次
    元位置関係を求めるための3次元運動復元手段と、前記
    のモデル画像間の画素の対応を求めるための画像マッチ
    ング手段と、任意の視点を指定入力する手段と、上記の
    結果として、任意の視点を指定したときの、前記のモデ
    ル画像よりその視点から見た画像を合成する手段と、合
    成画像を出力表示する手段を具備した、対象物体の3次
    元グラフィクスアニメーションを高速に実現する装置及
    び方法
  2. 【請求項2】 請求項1の3次元運動復元手段が、隣接
    する3枚のモデル画像から、それぞれの2枚のモデル画
    像間のエピポーラ方程式を復元し、さらに、オイラー角
    を用いて、3枚のモデル画像間の3次元位置関係を逐次
    に求め、最終的に全モデル画像間の相互位置関係を決め
    る手段を具備した装置
  3. 【請求項3】 請求項1の画像合成手段が、任意の視点
    を指定した時に、その視点に最も近い複数の視点のモデ
    ル画像を、モデル画像間位置関係から見つけ、それらの
    モデル画像の対応点の座標の線形結合として新しい画像
    を高速に合成する手段を具備した装置
JP7882297A 1997-02-21 1997-02-21 モデル画像を用いた3次元物体のグラフィクスアニメーション装置及び方法 Pending JPH10240967A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP7882297A JPH10240967A (ja) 1997-02-21 1997-02-21 モデル画像を用いた3次元物体のグラフィクスアニメーション装置及び方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP7882297A JPH10240967A (ja) 1997-02-21 1997-02-21 モデル画像を用いた3次元物体のグラフィクスアニメーション装置及び方法

Publications (1)

Publication Number Publication Date
JPH10240967A true JPH10240967A (ja) 1998-09-11

Family

ID=13672534

Family Applications (1)

Application Number Title Priority Date Filing Date
JP7882297A Pending JPH10240967A (ja) 1997-02-21 1997-02-21 モデル画像を用いた3次元物体のグラフィクスアニメーション装置及び方法

Country Status (1)

Country Link
JP (1) JPH10240967A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20000063181A (ko) * 2000-04-21 2000-11-06 서정완 얼라이브 3차원 입체영상구현방법
WO2002069277A1 (fr) * 2001-02-26 2002-09-06 Nabla Inc. Systeme d'affichage d'image et procede associe
KR100369901B1 (ko) * 2000-03-09 2003-01-29 백승헌 네트워크를 기반으로 한 3차원 이미지 생성 시스템 및 그방법
KR100370869B1 (ko) * 2000-02-09 2003-02-05 주식회사 아인픽춰스 3차원 가상 작동 시뮬레이션 방법

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100370869B1 (ko) * 2000-02-09 2003-02-05 주식회사 아인픽춰스 3차원 가상 작동 시뮬레이션 방법
KR100369901B1 (ko) * 2000-03-09 2003-01-29 백승헌 네트워크를 기반으로 한 3차원 이미지 생성 시스템 및 그방법
KR20000063181A (ko) * 2000-04-21 2000-11-06 서정완 얼라이브 3차원 입체영상구현방법
WO2002069277A1 (fr) * 2001-02-26 2002-09-06 Nabla Inc. Systeme d'affichage d'image et procede associe

Similar Documents

Publication Publication Date Title
Szeliski et al. Creating full view panoramic image mosaics and environment maps
US11869205B1 (en) Techniques for determining a three-dimensional representation of a surface of an object from a set of images
US10417829B2 (en) Method and apparatus for providing realistic 2D/3D AR experience service based on video image
US11170561B1 (en) Techniques for determining a three-dimensional textured representation of a surface of an object from a set of images with varying formats
Shum et al. Panoramic image mosaics
JP6201476B2 (ja) 自由視点画像撮像装置およびその方法
US6081273A (en) Method and system for building three-dimensional object models
US20020113865A1 (en) Image processing method and apparatus
KR102067823B1 (ko) 비디오 영상기반 2d/3d ar 실감체험 방법 및 장치
JP2003187261A (ja) 3次元画像生成装置、3次元画像生成方法、立体画像処理装置、立体画像撮影表示システム、立体画像処理方法及び記憶媒体
CN107862718B (zh) 4d全息视频捕捉方法
TWI788739B (zh) 3d顯示設備、3d圖像顯示方法
Nielsen Surround video: a multihead camera approach
WO2020184174A1 (ja) 画像処理装置および画像処理方法
WO2018052100A1 (ja) 画像処理装置、画像処理方法、画像処理プログラム
KR100335617B1 (ko) 3차원 입체영상 합성방법
Shimamura et al. Construction of an immersive mixed environment using an omnidirectional stereo image sensor
Kanade et al. Virtualized reality: perspectives on 4D digitization of dynamic events
JP2002324249A (ja) 画像表示システム及び方法
US11043019B2 (en) Method of displaying a wide-format augmented reality object
JP2001256482A (ja) 視差画像生成装置および視差画像生成方法
JPH10240967A (ja) モデル画像を用いた3次元物体のグラフィクスアニメーション装置及び方法
JPH10208074A (ja) 画像生成方法
WO2019026183A1 (ja) 画像生成装置および画像生成方法
Shimamura et al. Construction and presentation of a virtual environment using panoramic stereo images of a real scene and computer graphics models