JPH1074269A - 立体cg動画像生成装置 - Google Patents

立体cg動画像生成装置

Info

Publication number
JPH1074269A
JPH1074269A JP9166378A JP16637897A JPH1074269A JP H1074269 A JPH1074269 A JP H1074269A JP 9166378 A JP9166378 A JP 9166378A JP 16637897 A JP16637897 A JP 16637897A JP H1074269 A JPH1074269 A JP H1074269A
Authority
JP
Japan
Prior art keywords
camera
motion
unit
parallax
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP9166378A
Other languages
English (en)
Other versions
JP3934211B2 (ja
Inventor
Kenya Uomori
謙也 魚森
Atsushi Morimura
森村  淳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP16637897A priority Critical patent/JP3934211B2/ja
Publication of JPH1074269A publication Critical patent/JPH1074269A/ja
Application granted granted Critical
Publication of JP3934211B2 publication Critical patent/JP3934211B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Abstract

(57)【要約】 【課題】観察者にとってどのような視距離でも、どのよ
うな大きさの画面でも自動的に自然で見やすい立体画像
を生成できない。 【解決手段】被写体の3次元形状を記述する3次元構造
情報から、カメラから見た時の2次元投影画像を生成す
る投影変換部1、2と、投影変換部1、2の出力から実
際に観察される画像を計算する複数のレンダリング部
3、4と、投影変換部1、2の投影変換を規定しこれを
変化させることにより動画像を発生できるカメラパラメ
ータを発生するカメラシーケンス発生部5と、3次元構
造情報、投影変換部1、2又はレンダリング部3、4の
出力と、カメラシーケンス発生部5の出力とから、表示
被写体の動き及び/又は運動視差を計算する運動計算部
7と、少なくとも、運動計算部7の出力と、画像表示に
おける画面の大きさと、観察者の視距離とから、表示さ
れる被写体の動き及び/又は運動視差が、観察者の許容
範囲内に収まるように、カメラパラメータを自動的又は
手動的に修正するためのカメラパラメータ修正部9とを
備える。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、3次元CG動画像
を生成するもので、カメラや被写体の動き、運動視差の
大きさとディスプレイ監視条件により、観察者にとって
適切な動きや奥行き感覚を与えることができる立体CG
動画像生成装置に関するものである。
【0002】
【従来の技術】従来の立体CG画像生成装置は、例えば
図9に示すようなものがある。これは、被写体の3次元
形状をサーフェスモデルで記述した3次元構造情報(被
写体を複数の小面(ポリゴン)で近似し、各ポリゴンに
含まれる頂点の3次元位置と、各ポリゴンにより合成さ
れる面、稜線とを定義した情報)を入力とし、これで定
義された被写体をワールド座標系に配置する。これを仮
想的なカメラで撮像した時にフイルムに投影される被写
体の2次元位置を投影変換部1,2で計算し、更にレン
ダリング部3,4で各ポリゴン内部の画像の輝度と色
(例えば、R、G、Bの値)を被写体の材質や光源の種
類、3次元位置により決定する。
【0003】例えば、図10(a)に示すような多面体
の形状モデルは、図10(b)に示すように、頂点V1
〜V8の3次元座標、形状モデルのデータ構造(面、稜
線の構成)で記述され、この情報で記述される被写体を
図11(a)に示すようなワールド座標系に配置する。
【0004】すなわち、カメラの視点Eから見た被写体
のスクリーン50に投影される像(頂点)を計算する。
そして、各頂点により構成される面、稜線のスクリーン
上での位置・輝度・色を計算して出力画像を得る。
【0005】この時、立体画像であるので、少なくとも
2視点での画像を計算する必要があるが、図11(b)
で示されるように、カメラのパラメータは、カメラC
L、CRの視点位置、複数のカメラの間隔Wc、輻輳撮像
の時はカメラの輻輳点Pの3次元座標、カメラの焦点距
離f( または画角(angle of field of view)θ)で
記述される。
【0006】以上の説明は基本的に静止CG画像を生成
するものであるが、カメラや被写体が動き、動画CG画
像を生成する場合には順次カメラ・被写体の動きのパラ
メータを変更することにより、一枚一枚画像を生成して
いく。このシーケンスデータを保存し供給するのがカメ
ラシーケンス発生部5、オブジェクトシーケンス発生部
6である。
【0007】
【発明が解決しようとする課題】しかしながら、上記の
ような従来の立体CG画像生成装置では、複数のカメラ
の動きパラメータや被写体の動きパラメータは、その値
が不適切だと観察者の視覚機能にマッチしない場合が多
々発生し、観察者に負担をかける場合がある。
【0008】たとえば、人間が違和感なく画面の動きを
知覚できるためには、対象物の速度はある程度の速さ以
下が望ましい。また、運動視差(複数対象物間の相対的
速度)による奥行き感覚が適切に得られるためには、相
対速度にも制限がある。この条件は、表示する画像の大
きさや視距離にも関係する。これらが常に適切に設定さ
れないと、違和感や疲労感、ひいては眼精疲労を誘発す
るような不適切な画像を生成してしまう、という問題点
があった。
【0009】本発明は、従来のこのような立体CG画像
生成装置の課題を考慮し、観察者にとってどのような視
距離でも、どのような大きさの画面でも自動的に自然で
見やすい立体画像を生成できる立体CG動画像生成装置
を提供することを目的とするものである。
【0010】
【課題を解決するための手段】本発明は、被写体の3次
元形状を記述する3次元構造情報から、カメラから見た
時の2次元投影画像を生成する投影変換部と、前記投影
変換部の出力から実際に観察される画像を計算する複数
のレンダリング部と、前記投影変換部の投影変換を規定
しこれを変化させることにより動画像を発生できるカメ
ラパラメータを発生するカメラシーケンス発生部と、前
記3次元構造情報、前記投影変換部又は前記レンダリン
グ部の出力と、前記カメラシーケンス発生部の出力とか
ら、表示被写体の動き及び/又は運動視差を計算する運
動計算部と、少なくとも、前記運動計算部の出力と、画
像表示における画面の大きさと、観察者の視距離とか
ら、表示される被写体の動き及び/又は運動視差が、観
察者の許容範囲内に収まるように、カメラパラメータを
自動的又は手動的に修正するためのカメラパラメータ修
正部と、を備える。
【0011】
【発明の実施の形態】以下に、本発明をその実施の形態
を示す図面に基づいて説明する。
【0012】図1は、本発明の第1の実施の形態におけ
る立体CG画像生成装置の構成図を示すものである。図
1において、1、2は、3次元構造情報を入力し、変換
を行う投影変換部、3、4はその投影変換部1、2から
の出力をレンダリングするレンダリング部、5はカメラ
シーケンス発生部、6はオブジェクトシーケンス発生部
であり、これらは従来の立体CG画像生成装置のものと
同じものである。
【0013】本実施の形態が従来の立体CG画像生成装
置と異なる点は、運動視差計算部7、運動視差判断部
8、カメラパラメータ修正部9、オブジェクト動作修正
部10が存在する点である。
【0014】以上のように構成された本実施の形態の立
体CG動画像生成装置について、以下その動作を説明す
る。
【0015】まず、被写体の3次元形状をサーフェスモ
デルで記述した3次元構造情報が投影変換部1、2と運
動視差計算部7に入力される。CG制作者は、レンダリ
ング部3、4に接続された立体画像表示装置100を見
て出力画像を確認し、且つ被写体と仮想カメラの位置関
係を表示する画面101も見ながら、好みに合わせて、
被写体と仮想カメラ(左右カメラの位置の中点)をワー
ルド座標系の適当な位置に配置し、それらの方向を決定
する。また、カメラを移動させてシーンをダイナミック
に表現する場合にはカメラの移動データ(カメラ位置と
方向の時間的変化データ)をカメラシーケンス発生部5
に記憶させる。また、被写体が運動する場合にはオブジ
ェクトシーケンスデータ発生部6に被写体の動き情報な
どを記憶させる(図3参照)。
【0016】ここで左右のカメラ位置は、仮想カメラ位
置Vを中心としてX軸方向に±Wc/2 の位置に配置さ
れる(図2参照)。カメラの焦点距離f、参照点Prと
併せてカメラシーケンスデータとして記憶される(図2
(a)、輻輳撮影の場合)。カメラが平行撮影の場合は、
図2(b) に示すように、仮想カメラ位置Vが参照点Pr
を向き、これに左右のカメラが平行になるように設定さ
れる。カメラシーケンスデータの一例を図3に示す。仮
想視点V、参照点Pr、レンズの焦点距離f、カメラ間
隔Wcの各時刻tiにおける値が定義されている。
【0017】次に、運動視差計算部7は表示される被写
体の動きおよび運動視差を計算する。これについて、図
4の例を用いて説明する。図4(a)において、カメラ
11が速度Vで右方向に運動し、被写体A,B,Cを撮影して
いるとする。この時、カメラでとらえられた画像は図4
(b)のようになる。即ち、被写体A,B,Cは画面上で左
方向に運動する。この時、それぞれの被写体の速度はそ
れぞれVa、Vb、Vcであり、カメラから遠い被写体ほ
ど速度が小さい。これらの速度は、3次元構造情報とカ
メラシーケンス発生部5に記憶されたカメラシーケンス
データ、さらに、被写体も運動する場合にはオブジェク
トシーケンス発生部6に記憶されたオブジェクトデータ
により公知のCGデータ計算手法によって計算される。
【0018】すなわち、3次元構造情報は頂点座標の情
報があるので、これらとカメラパラメータの時間変化で
あるカメラシーケンスデータから、各頂点の動きを直接
計算することができる(図4参照)。また、各ポリゴン
の重心位置でのデータで記述することもできる。また、
3次元構造情報を用いず、投影変換部1、2またはレン
ダリング部3、4の出力画像から、既存の画像処理技術
(勾配法、マッチング法など)を用いて計算することも
可能である。
【0019】このようにして得られた3次元情報中の各
頂点または各ポリゴンの速度ヒストグラムを計算する
と、一般的には図5(a)のようになる。この時、被写体
自身の動きや回転がある場合があり、そのため速度分布
は少し広がりをもつ。これらのピーク位置を計算し、そ
れぞれがほぼ前述のVa、Vb、Vcとなる。これらの値
は各被写体毎に記述される。一般的にはヒストグラムの
ピークのみの情報では被写体毎の速度ピークを分離する
ことは難しいので、あらかじめ3次元構造情報で与えら
えれた被写体情報を元に、頂点データを被写体毎に分け
ておいて、それらの中で速度分布のピークを求めるか、
図5(a)のヒストグラム分布から、分布の山を群化し、
被写体毎の速度度数ピークを求めてもよい。また、得ら
れた被写体毎の速度Va、Vb、Vcを元にしてそれぞれ
の被写体間の相対速度(運動視差)を計算する。計算結
果は図5(b)のようになり、各被写体間の相対速度分布
が得られる。
【0020】このようにして、図5(a)、(b)のデータを
得るために、画像を構成するポリゴンを単位に計算した
が、3次元構造情報を用いて、各被写体の動きを、各被
写体の中心位置の動きで代表させて計算することもでき
る。この場合、更に計算量を削減できる。
【0021】次に、得られた速度ヒストグラムと画像観
察条件(視距離、表示画面の大きさ)に基づいて、図1
における運動視差判断部8は、生成される動画像の動き
と相対運動の大きさが観察者にとって適切かどうか判断
する。
【0022】ここで、被写体の動き速度と人間の動き知
覚との関係を、図6(a)に、また、複数の被写体間の
相対速度と人間の奥行き知覚量の関係を図6(b)に示
す。
【0023】すなわち、図6(a)は人間の動き知覚特性
を、表示される画像の速度と知覚される動き量として示
したものである。0から速度が増加すると、知覚される
速度は線形に増加するが、表示被写体速度がVeaを越え
ると減少する。これは人間の運動知覚の限界を示してお
り、表示被写体速度がVeaを越えると、人間はもはや正
しい速度を知覚できなくなっていることを示している。
更に速度をあげていくと、速度Vebでは観察者は表示画
像が動いていることは知覚できるが、どの程度の速度な
のかわからない状態となる。
【0024】他方、図6(b)は相対速度に対する人間の
奥行き知覚の大きさ特性である。相対速度が0から増加
するに従って知覚される奥行き量も線形に増加するが、
相対速度がVecを越えた後は逆に減少し、最終的にはほ
とんど知覚される奥行き量は0に近くなってしまう。ま
た、図6(a)、(b)の特性は、表示条件(観察者の
表示領域の視野角)によって変化する。視野角が大きい
方が許容限界も大きい。これらの特性は、使用者が観察
条件を入力することにより選択される。
【0025】以上の人間の知覚特性を考慮し、運動視差
判断部8は表示される画像の動きや運動視差が人間に許
容されるように、カメラの速度、カメラから見たときの
被写体間の距離を調整するべきかどうか判断する。
【0026】カメラパラメータ修正部9とオブジェクト
動作修正部10における、画像の動きの修正方法は、次
のとうりである。例えば運動視差計算部7による計算結
果と人間の運動知覚特性が図5(a)のようになっている
場合を考える。点線は図6(a)である。この場合、人
間の特性は速度で表示され、その単位は角度deg/sであ
り、運動視差計算部7はドットで表された画像上での動
き、運動視差を計算するため、その出力は表示位置座標
の速度(ドット数/sまたは仮想的座標値/s)であら
わされる。ドットによる速度を実際の観察条件における
角度/秒に変換するために、観察者の視距離、画面の大
きさのデータが用いられる。画面の上でのドット数相当
の長さが視角でいくらになるかが計算される。
【0027】図5(a)の場合、被写体Bの速度がVea
を越えているため、ほとんど観察者は被写体Bの動きは
速すぎて見えない状態である。
【0028】(A)カメラ修正の場合:これを防ぐため
に、カメラパラメータ修正部9はカメラの移動速度を下
げ、VBがVea以下になるように修正し、これをカメラ
シーケンス発生部5に記憶させる。なお、この時、速度
が下がるため、最初に記憶された通りの位置までカメラ
が移動するのに多く時間がかかる。
【0029】また、図1に示されるように修正前後のカ
メラシーケンスを操作端末などに表示し、どこがどのよ
うに修正されたかを示せば、制作者に使いやすいシステ
ムになる。
【0030】なお、カメラの速度をどこまで下げるか
は、画像制作者の好みの問題もあるため、制作者が速度
・運動視差調整データを入力し、基準値であるVeaの方
の大きさを変更することにより修正されたカメラの速度
が適宜変更され、好みの設定が得られるようにもでき
る。すなわち、カメラ修正部により修正後のカメラの速
度が変化し、画像の速度が変わる。
【0031】一方、運動視差については、図5(b)に示
すようになっている場合、運動視差VB−VCがVecを越
えないように、カメラの速度を落とす。
【0032】なお、カメラの速度をどこまで下げるか
は、画像制作者の好みの問題もあるため、制作者が速度
・運動視差調整データを入力し、基準値であるVecの方
の大きさを変更することにより修正されたカメラの速度
が適宜変更され、好みの設定が得られるようにもでき
る。すなわち、カメラ修正部により修正後のカメラの速
度が変化し、画像の相対速度が変わる。
【0033】(B)オブジェクトシーケンス修正の場
合:また、表示される被写体自身の動き量が速く、これ
が人間の許容範囲を越える場合にはオブジェクト動作修
正部10がオブジェクトの動き速度の最大値VBがVea
を越えないようにオブジェクトの速さを変更し、その結
果をオブジェクトシーケンス発生部6に記憶させる。更
に、表示される被写体B,Cのカメラからの距離が大き
く変化する場合には、それらの被写体の移動量や速度が
小さくなるようにそれら被写体の位置(被写体間の距
離)や移動速度を修正し、これをオブジェクトシーケン
ス発生部6に記憶する。
【0034】また、オブジェクト動作修正部10が、修
正前後のオブジェクトシーケンスを表示し、どこがどの
ように修正されたかを示し、また、このままでは適切な
動き・運動視差を表示できないオブジェクトシーケンス
部分を表示すれば、制作者にとって使いやすいシステム
が実現される。
【0035】また、図7(a)に示されるように、被写体
R、Sが2個あるとき、カメラがPaからPfまで移動す
る際、常に被写体Sの方向にカメラが向いているような
場合を考える。このような場合でも、被写体の運動・運
動視差成分を計算し、これが観察者の許容量を超えてい
る場合にはカメラの移動速度を遅くすることにより観察
者の視覚特性に合った動画像を生成できる。この場合に
は運動成分は被写体Rのみが問題となり、被写体Sの運
動成分は小さくなる。このような場合に、カメラ中心で
はない被写体Rに対して本発明は有効になる。
【0036】更に、同図(b)のようにカメラは移動し
ないがカメラがパンニングする場合もある。この場合に
は生成される画像の運動成分のみが主に発生するが、こ
れが観察者の許容限界を越える場合にはカメラのパンニ
ングの速度を遅くすることによって生成される動画像が
観察者の視覚特性に合わせることができる。
【0037】また、カメラの動きと被写体の動き両方を
修正することも可能である。この場合、2つの動きの修
正量の組み合わせの割合は、操作者が決定する。たとえ
ば、カメラの動きの制限を本来の50%に押さえ、後は
被写体の動きを修正することにより、画像の動き、運動
視差の最大の大きさを目標値以下になるようにすること
が出来る。
【0038】以上のように、本実施の形態によれば、カ
メラの動き、被写体の位置・動きを修正することによ
り、観察者に対して画像の動き・運動視差が観察者の視
覚特性に適合し、違和感のない動画像を生成することが
できる。
【0039】図8は、本発明の第2の実施の形態におけ
る立体CG画像生成装置の構成図を示すものである。図
8において、1、2は投影変換部、3、4はレンダリン
グ部、5はカメラシーケンス発生部、6はオブジェクト
シーケンス発生部、7は運動視差計算部、8は運動視差
判断部、9はカメラパラメータ修正部、10はオブジェ
クト動作修正部であり、これらは本発明の第1の実施の
形態の立体CG画像生成装置のものと同じものである。
本実施の形態が第1の実施の形態の立体CG動画像生成
装置と異なる点は、両眼視差計算部11、両眼視差判断
部12が追加されている点である。
【0040】以上のように構成された本実施の形態の立
体CG動画像生成装置について、以下その動作を説明す
る。
【0041】基本的な動作は本発明の第1の実施の形態
の動作と同じである。
【0042】まず、被写体の3次元形状をサーフェスモ
デルで記述した3次元構造情報が投影変換部1、2と距
離情報抽出部5に入力される。CG制作者は、カメラの
移動データ(カメラ位置と方向の時間的変化データ)を
カメラシーケンス発生部5に記憶させる。また、被写体
が運動する場合にはオブジェクトシーケンスデータ発生
部6に被写体の動き情報などを記憶させる(図3参
照)。
【0043】次に、運動視差計算部7は表示される被写
体の動きおよび運動視差を計算する。これについて、図
4の例を用いて説明する。図4(a)において、カメラ
11が速度Vで右方向に運動し、被写体A,B,Cを撮影し
ている。この時、カメラでとらえられた画像は図4
(b)のようになる。この時の3次元情報中の各頂点ま
たは各ポリゴンの速度ヒストグラムを計算すると、一般
的には図5(a)のようになる。これらのピーク位置を計
算し、それぞれがほぼ前述のVa、Vb、Vcとなる。こ
れらの値は各被写体毎に記述される。次に、得られた被
写体毎の速度Va、Vb、Vcを元にしてそれぞれの被写
体間の相対速度を計算する。計算結果は図5(b)のよう
になり、各被写体間の相対速度分布が得られる。
【0044】得られた速度ヒストグラムと画像観察条件
(視距離、表示画面の大きさ)を元に運動視差判断部8
は表示される画像の動きや運動視差が人間に許容される
ように、カメラの速度、カメラから見たときの被写体間
の距離を調整するべきかどうか判断し、カメラパラメー
タ修正部9は、被写体の動きの修正を行う。図5(a)
の場合、被写体Bの速度がVeaを越えているため、ほと
んど観察者は被写体Bの動きは速すぎて見えない状態で
ある。これを防ぐために、カメラパラメータ修正部9は
カメラの移動速度を下げ、VBがVea以下になるように
修正し、これをカメラシーケンス発生部5に記憶させ
る。また、運動視差の条件においては、図5(b)に示す
ようになっている場合、運動視差VB−VCがVecを越え
ないように、カメラの移動速度を下げるか、又は、被写
体Bと被写体Cのカメラからの距離が小さくなるように
修正する。すなわち、カメラの移動速度を下げるか、ま
たは被写体の位置を変えても良い場合には、被写体B、
Cの距離を小さくしてBC間の運動視差を小さくするこ
とが出来る。カメラの移動速度は画像の運動、相対運動
に影響し、被写体間距離は相対速度(運動視差に影響す
る)。
【0045】以上の動作は、本発明の第1の実施の形態
と同じであるが、第2の実施の形態では、以下の動作が
付加される。
【0046】カメラが被写体に対して奥行き方向に運動
する場合、人間の奥行き方向の運動知覚は、運動視差の
変化により影響を受けるが、それよりも両眼視差の変化
による大きく影響を受ける。この場合には、両眼視差が
過度に大きく変化するので、観察者が、奥行き知覚しづ
らくなる。これを防ぐために、両眼視差計算部11が3
次元構造情報とカメラシーケンスデータとオブジェクト
シーケンスデータから被写体の両眼視差の変化を計算
し、その計算結果を利用して、両眼視差判断部12が、
画像観察条件(視距離、表示画面の大きさ)も加味して
実際に表示される画像の両眼視差の変化が、ある所定の
値(制作者が入力する)よりも大きい場合には、カメラ
の奥行き方向の動きを小さくする。その結果、生成され
る立体CG動画像が見やすくなる。
【0047】また、両眼視差調整データを両眼視差判断
部13とカメラパラメータ修正部9に入力することによ
り、両眼視差の変化をいくらまで許容するかを指定す
る。これにより、制作者が両眼視差の大きさを故意に大
きくするなどの特殊な用途にも対応できる。
【0048】なお、両眼視差計算部12は、投影変換部
1、2、レンダリング部3、4の出力を用いて既存の画
像処理技術(勾配法、マッチング法など)を用いて両眼
視差を計算しても良い。
【0049】更に、被写体が大きく奥行き方向に運動す
る場合も同様に、両眼視差計算部12が計算した両眼視
差の変化が許容範囲よりも大きい場合には、オブジェク
トシーケンスデータを修正して被写体の動きを小さくす
ることにより、見やすい立体CG画像を生成することが
出来る。また、この許容範囲は観察条件(表示領域の視
野角)によって変化する。視野角が大きいほど許容範囲
も大きい。この許容範囲のデータを両眼視差判断部13
は保有しており、使用者が予め観察条件を入力し、それ
に対応した許容範囲特性が使用される。
【0050】また、被写体がカメラの光軸方向に運動す
る場合、被写体の運動や運動視差も生じるが、2つのカ
メラで撮像された被写体が左右の画面上で対称に運動す
るようになる。この場合は特に運動視差の変化よりも、
両眼視差の変化により、奥行き方向の知覚が影響を受け
る。このような場合を両眼視差判断部13は検出し、両
眼視差の変化が、ある所定値よりも小さくなるように被
写体の動きやカメラの動きを修正する。これによって、
1つのカメラからの視点では動き、運動視差としてとら
えてしまうような状況においても、これを両眼視差の変
化と判断し、適切なカメラシーケンス、オブジェクトシ
ーケンスデータを生成することが出来る。
【0051】また、カメラパラメータ修正部9とオブジ
ェクト動作修正部10は、カメラシーケンスやオブジェ
クトシーケンスのうち、両眼視差の変化の関係から、不
適切と判断し修正した部分について、これを制作者に端
末等を通じて表示する。このようにすればさらに編集作
業のしやすいシステムとなる。
【0052】以上のように、本実施の形態によれば、運
動視差の変化のみならず両眼視差の変化を適正な範囲に
抑えることができるので、観察者の視覚特性に最適であ
り、違和感のない、立体動画像を生成することができ
る。
【0053】なお、本発明の第1、2の実施の形態にお
いて、画像の動き、運動視差、両眼視差の計算は、3次
元構造情報、カメラシーケンス、オブジェクトシーケン
ス発生部の出力を用いたが、投影変換部やレンダリング
部の出力を用いて、既存の画像処理技術(マッチング処
理や勾配法を用いる方法)によりこれらを計算しても良
い。
【0054】また、本発明の第1、2の実施の形態は、
2眼の立体CG動画像を生成するようになっているが、
これを更に画像数の多い多眼立体画像にするために、投
影変換部1、2とレンダリング部3、4を増加させても
よい。この場合、カメラシーケンス発生部5には投影変
換部の数に対応した数のカメラパラメータが記述され
る。
【0055】また、立体CG画像を例にとって説明した
が、カメラ1台の従来の単眼の3次元CG動画像につい
ても本発明は適用される。
【0056】また、本発明の第1、2の実施の形態にお
いて、被写体の動き、運動視差の計算は、2眼立体画像
の場合、仮想視点V(図2)のパラメータで計算しても
良いし、右または左カメラ視点どちらかでのパラメータ
で計算してもいいし、両方計算してその平均値を用いて
も良い。
【0057】また、多眼立体CG動画像の場合には、カ
メラ列の中心の視点のパラメータでの計算を行ってもよ
いし、もっとも中心に近いカメラのパラメータを用いて
も良いし、複数のカメラパラメータで計算し、それらの
平均値、最大値、最小値、中間値を用いても良い。
【0058】また、本発明の第1、2の実施の形態にお
いて、被写体の動き、運動視差、両眼視差等の変化が、
観察者の運動、奥行き知覚特性の許容範囲よりもかなり
大きくなってもよいとし、観察者の眼は追従しないが何
か動いている印象を与えたい場合には、画像制作者が運
動視差判断部8またはカメラパラメータ修正部9または
オブジェクト動作修正部10の動作を一時止めて、カメ
ラパラメータやオブジェクトパラメータを自由に設定で
きるようにしてもよい。
【図面の簡単な説明】
【図1】本発明における第1の実施の形態の立体CG動
画像生成装置の構成図である。
【図2】本発明におけるCG空間でのカメラパラメータ
を示す図である。
【図3】本発明におけるカメラシーケンス、データを説
明する図である。
【図4】本発明におけるカメラの動きと生成される画像
の関係を示した図である。
【図5】本発明における動き、運動視差計算結果例を示
す図である。
【図6】本発明における動き、運動視差に対する人間の
視覚特性を示す図である。
【図7】本発明におけるカメラの動きの説明図である。
【図8】本発明における第1の実施の形態の立体CG動
画像生成装置の構成図である。
【図9】従来の立体CG画像生成装置の構成図である。
【図10】同図(a)は、3次元構造情報を説明するた
めの形状モデル例を示す図、同図(b)は、その形状モ
デルのデータ構造を示す図である。
【図11】同図(a)は、ワールド座標系と投影変換を
説明する図、同図(b)は、カメラパラメータを説明す
る図である。
【符号の説明】
1 投影変換部(右目用) 2 投影変換部(左目用) 3 レンダリング部(右目用) 4 レンダリング部(左目用) 5 カメラシーケンス発生部 6 オブジェクトシーケンス発生部 7 運動視差計算部 8 運動視差判断部 9 カメラパラメータ修正部 10 オブジェクト動作修正部 12 両眼視差計算部 13 両眼視差判断部

Claims (11)

    【特許請求の範囲】
  1. 【請求項1】被写体の3次元形状を記述する3次元構造
    情報から、カメラから見た時の2次元投影画像を生成す
    る投影変換部と、 前記投影変換部の出力から実際に観察される画像を計算
    する複数のレンダリング部と、 前記投影変換部の投影変換を規定しこれを変化させるこ
    とにより動画像を発生できるカメラパラメータを発生す
    るカメラシーケンス発生部と、 前記3次元構造情報、前記投影変換部又は前記レンダリ
    ング部の出力と、前記カメラシーケンス発生部の出力と
    から、表示被写体の動き及び/又は運動視差を計算する
    運動計算部と、 少なくとも、前記運動計算部の出力と、画像表示におけ
    る画面の大きさと、観察者の視距離とから、表示される
    被写体の動き及び/又は運動視差が、観察者の許容範囲
    内に収まるように、カメラパラメータを自動的又は手動
    的に修正するためのカメラパラメータ修正部と、 を備えたことを特徴とする立体CG動画像生成装置。
  2. 【請求項2】 前記カメラは複数個有り、また前記投影
    変換部も複数個あり、前記運動計算部は、前記複数のカ
    メラの中心位置の視点若しくはそれに近い視点で投影変
    換された被写体の動き及び/又は運動視差を計算するこ
    とを特徴とする請求項1記載の立体CG動画像生成装
    置。
  3. 【請求項3】 前記カメラは複数個有り、また前記投影
    変換部も複数個あり、前記運動計算部は、前記複数のカ
    メラのうちの一部又は全部の位置の視点で投影変換され
    た被写体の動き及び/又は運動視差を計算し、それらの
    平均値、最大値、又は最小値を出力することを特徴とす
    る請求項1記載の立体CG動画像生成装置。
  4. 【請求項4】 両眼視差を計算する両眼視差計算部と、
    その両眼視差に基づいて、両眼視差の変化程度を判断す
    る両眼視差判断部とを備え、前記カメラパラメータ修正
    部は、前記両眼視差の変化が所定の範囲に収まるように
    前記カメラパラメータを修正することを特徴とする請求
    項1記載の立体CG動画像生成装置。
  5. 【請求項5】 前記カメラパラメータ修正部は、被写体
    の動き、運動視差、又は両眼視差の変化の設定が悪いカ
    メラシーケンスの部分あるいはその悪い部分が修正され
    た部分と、他のシーケンスの部分とを識別可能なように
    して出力表示することを特徴とする請求項1記載の立体
    CG動画像生成装置。
  6. 【請求項6】 被写体の3次元形状を記述する3次元構
    造情報から、カメラから見た時の2次元投影画像を生成
    する投影変換部と、 前記投影変換部の出力から実際に観察される画像を計算
    する複数のレンダリング部と、 前記3次元構造情報を規定し、これを変化させることに
    より被写体の動きを表し、動画像を発生できるオブジェ
    クトシーケンス発生部と、 前記3次元構造情報、前記投影変換部又は前記レンダリ
    ング部の出力と、前記オブジェクトシーケンス発生部の
    出力とから、表示被写体の動き及び/又は運動視差を計
    算する運動計算部と、 少なくとも、前記運動計算部の出力と、画像表示におけ
    る画面の大きさと、観察者の視距離とから、表示される
    被写体の動き及び/又は運動視差が、観察者の許容範囲
    内に収まるように、前記オブジェクトシーケンスを自動
    的又は手動的に修正するためのオブジェクト動作修正部
    と、 を備えたことを特徴とする立体CG動画像生成装置。
  7. 【請求項7】 前記カメラは複数個有り、また前記投影
    変換部も複数個あり、前記運動計算部は、前記複数のカ
    メラの中心位置の視点若しくはそれに近い視点で投影変
    換された被写体の動き及び/又は運動視差を計算するこ
    とを特徴とする請求項6記載の立体CG動画像生成装
    置。
  8. 【請求項8】 前記カメラは複数個有り、また前記投影
    変換部も複数個あり、前記運動計算部は、前記複数のカ
    メラのうちの一部又は全部の位置の視点で投影変換され
    た被写体の動き及び/又は運動視差を計算し、それらの
    平均値、最大値、又は最小値を出力することを特徴とす
    る請求項6記載の立体CG動画像生成装置。
  9. 【請求項9】 両眼視差を計算する両眼視差計算部と、
    その両眼視差に基づいて、両眼視差の変化程度を判断す
    る両眼視差判断部とを備え、前記オブジェクト動作修正
    部は、前記両眼視差の変化が所定の範囲に収まるように
    前記オブジェクトシーケンスを修正することを特徴とす
    る請求項6記載の立体CG動画像生成装置。
  10. 【請求項10】 前記カメラパラメータ修正部は、被写
    体の動き、運動視差、又は両眼視差の変化の設定が悪い
    カメラシーケンスの部分あるいはその悪い部分が修正さ
    れた部分と、他のシーケンスの部分とを識別可能なよう
    にして出力表示することを特徴とする請求項6記載の立
    体CG動画像生成装置。
  11. 【請求項11】 被写体の3次元形状を記述する3次元
    構造情報から、カメラから見た時の2次元投影画像を生
    成する投影変換部と、 前記投影変換部の出力から実際に観察される画像を計算
    する複数のレンダリング部と、 前記投影変換部の投影変換を規定しこれを変化させるこ
    とにより動画像を発生できるカメラパラメータを発生す
    るカメラシーケンス発生部と、 前記3次元構造情報を規定し、これを変化させることに
    より被写体の動きを表し動画像を発生できるオブジェク
    トシーケンス発生部と、 前記3次元構造情報、前記投影変換部又は前記レンダリ
    ング部の出力と、前記カメラシーケンス発生部の出力
    と、前記オブジェクトシーケンス発生部の出力とから、
    表示被写体の動き及び/又は運動視差を計算する運動計
    算部と、 少なくとも、前記運動計算部の出力と、画像表示におけ
    る画面の大きさと、観察者の視距離とから、表示される
    被写体の動き及び/又は運動視差が、観察者の許容範囲
    内に収まるように、カメラパラメータを自動的又は手動
    的に修正するためのカメラパラメータ修正部と、 少なくとも、前記運動計算部の出力と、画像表示におけ
    る画面の大きさと、観察者の視距離とから、表示される
    被写体の動き及び/又は運動視差が、観察者の許容範囲
    内に収まるように、前記オブジェクトシーケンスシーケ
    ンスを自動的又は手動的に修正するためのオブジェクト
    動作修正部と、 を備えたことを特徴とする立体CG動画像生成装置。
JP16637897A 1996-06-26 1997-06-23 立体cg動画像生成装置 Expired - Lifetime JP3934211B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP16637897A JP3934211B2 (ja) 1996-06-26 1997-06-23 立体cg動画像生成装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP8-165653 1996-06-26
JP16565396 1996-06-26
JP16637897A JP3934211B2 (ja) 1996-06-26 1997-06-23 立体cg動画像生成装置

Publications (2)

Publication Number Publication Date
JPH1074269A true JPH1074269A (ja) 1998-03-17
JP3934211B2 JP3934211B2 (ja) 2007-06-20

Family

ID=26490315

Family Applications (1)

Application Number Title Priority Date Filing Date
JP16637897A Expired - Lifetime JP3934211B2 (ja) 1996-06-26 1997-06-23 立体cg動画像生成装置

Country Status (1)

Country Link
JP (1) JP3934211B2 (ja)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002135806A (ja) * 2000-10-19 2002-05-10 Sony Corp 撮影装置及び撮影方法、並びに、画像生成装置及び画像生成方法
JP2003107603A (ja) * 2001-09-28 2003-04-09 Namco Ltd 立体視画像生成装置、立体視画像生成情報および情報記憶媒体
KR100399735B1 (ko) * 2001-03-26 2003-09-29 이호균 스틸 사진을 이용한 가상 네비게이션 구현 방법
JP2006101329A (ja) * 2004-09-30 2006-04-13 Kddi Corp 立体視画像観察装置ならびにその共有サーバ、クライアント端末およびピア・ツー・ピア端末、レンダリング画像生成方法および立体視画像表示方法ならびにそのプログラムおよび記憶媒体
CN100384220C (zh) * 2006-01-17 2008-04-23 东南大学 摄像机标定数据的采集方法及其标定板
JP2008262392A (ja) * 2007-04-12 2008-10-30 Toppan Printing Co Ltd 画像処理装置、画像処理方法及び画像処理プログラム
JP2009500878A (ja) * 2005-04-11 2009-01-08 ヒューマンアイズ テクノロジーズ リミテッド 奥行錯覚デジタル撮像
JP2010510569A (ja) * 2006-11-17 2010-04-02 トムソン ライセンシング 2次元から3次元に変換するためのオブジェクトのモデルフィッティング及びレジストレーションのシステム及び方法
JP2011024635A (ja) * 2009-07-21 2011-02-10 Konami Digital Entertainment Co Ltd ビデオゲーム装置及びゲーム画像表示制御方法
US8531452B2 (en) 2009-07-21 2013-09-10 Konami Digital Entertainment Co., Ltd. Video game machine, gaming image display control method and display mode switching control method
US9019261B2 (en) 2009-10-20 2015-04-28 Nintendo Co., Ltd. Storage medium storing display control program, storage medium storing library program, information processing system, and display control method
US9128293B2 (en) 2010-01-14 2015-09-08 Nintendo Co., Ltd. Computer-readable storage medium having stored therein display control program, display control apparatus, display control system, and display control method
JPWO2015162947A1 (ja) * 2014-04-22 2017-04-13 ソニー株式会社 情報再生装置及び情報再生方法、並びに情報記録装置及び情報記録方法
US9693039B2 (en) 2010-05-27 2017-06-27 Nintendo Co., Ltd. Hand-held electronic device
US11089290B2 (en) 2009-11-04 2021-08-10 Nintendo Co., Ltd. Storage medium storing display control program, information processing system, and storage medium storing program utilized for controlling stereoscopic display

Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6423109A (en) * 1987-07-20 1989-01-25 Agency Ind Science Techn Stereoscopic visual device
JPH02280280A (ja) * 1989-03-20 1990-11-16 Tektronix Inc 立体画像データ生成方法
JPH03236698A (ja) * 1990-02-14 1991-10-22 Nissan Motor Co Ltd 両眼立体視の画像生成装置
JPH0634343A (ja) * 1992-07-20 1994-02-08 Oki Electric Ind Co Ltd 複数視点3次元画像入力装置、画像合成装置、及びその画像出力装置
JPH0644364A (ja) * 1992-04-22 1994-02-18 Fujitsu Ltd 相関処理方式
JPH06213639A (ja) * 1993-01-19 1994-08-05 Sony Corp 3次元形状復元方法
JPH06276552A (ja) * 1993-03-24 1994-09-30 Nissan Motor Co Ltd 立体画像撮影装置および画像提示装置
JPH06337756A (ja) * 1993-05-28 1994-12-06 Daikin Ind Ltd 3次元位置指定方法および仮想空間立体視装置
JPH07129792A (ja) * 1993-10-29 1995-05-19 Canon Inc 画像処理方法および画像処理装置
JPH07182533A (ja) * 1993-12-22 1995-07-21 Sanyo Electric Co Ltd 2次元画像の3次元化方法
JPH089421A (ja) * 1994-06-20 1996-01-12 Sanyo Electric Co Ltd 立体映像装置
JPH0863615A (ja) * 1994-08-26 1996-03-08 Sanyo Electric Co Ltd 2次元画像の3次元化方法
WO1996015631A1 (en) * 1994-11-10 1996-05-23 Synthonics Incorporated Methods and apparatus for zooming during capture and reproduction of 3-dimensional images
JPH09138367A (ja) * 1995-11-15 1997-05-27 Sony Corp 画像表示装置及びそのシステム

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6423109A (en) * 1987-07-20 1989-01-25 Agency Ind Science Techn Stereoscopic visual device
JPH02280280A (ja) * 1989-03-20 1990-11-16 Tektronix Inc 立体画像データ生成方法
JPH03236698A (ja) * 1990-02-14 1991-10-22 Nissan Motor Co Ltd 両眼立体視の画像生成装置
JPH0644364A (ja) * 1992-04-22 1994-02-18 Fujitsu Ltd 相関処理方式
JPH0634343A (ja) * 1992-07-20 1994-02-08 Oki Electric Ind Co Ltd 複数視点3次元画像入力装置、画像合成装置、及びその画像出力装置
JPH06213639A (ja) * 1993-01-19 1994-08-05 Sony Corp 3次元形状復元方法
JPH06276552A (ja) * 1993-03-24 1994-09-30 Nissan Motor Co Ltd 立体画像撮影装置および画像提示装置
JPH06337756A (ja) * 1993-05-28 1994-12-06 Daikin Ind Ltd 3次元位置指定方法および仮想空間立体視装置
JPH07129792A (ja) * 1993-10-29 1995-05-19 Canon Inc 画像処理方法および画像処理装置
JPH07182533A (ja) * 1993-12-22 1995-07-21 Sanyo Electric Co Ltd 2次元画像の3次元化方法
JPH089421A (ja) * 1994-06-20 1996-01-12 Sanyo Electric Co Ltd 立体映像装置
JPH0863615A (ja) * 1994-08-26 1996-03-08 Sanyo Electric Co Ltd 2次元画像の3次元化方法
WO1996015631A1 (en) * 1994-11-10 1996-05-23 Synthonics Incorporated Methods and apparatus for zooming during capture and reproduction of 3-dimensional images
JPH09138367A (ja) * 1995-11-15 1997-05-27 Sony Corp 画像表示装置及びそのシステム

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
星野 春男,外3名: "運動視差利得を変化させたときの視覚効果", 電子情報通信学会論文誌 (J73−D−II) 第2号 情報・システムII−情報処理, vol. 第J73-D-II巻 第2号, JPNX006054083, 25 February 1990 (1990-02-25), pages 224 - 231, ISSN: 0000790205 *
星野 春男,外3名: "運動視差利得を変化させたときの視覚効果", 電子情報通信学会論文誌 (J73−D−II) 第2号 情報・システムII−情報処理, vol. 第J73-D-II巻 第2号, JPNX007009701, 25 February 1990 (1990-02-25), pages 224 - 231, ISSN: 0000823485 *
畑田 豊彦: "三次元画像技術 立体視の心理・生理", 電気学会論文誌C 電子・情報・システム部門誌, vol. 第112巻 第4号, JPNX006054082, 20 April 1992 (1992-04-20), pages 209 - 215, ISSN: 0000790204 *
畑田 豊彦: "三次元画像技術 立体視の心理・生理", 電気学会論文誌C 電子・情報・システム部門誌, vol. 第112巻 第4号, JPNX007009700, 20 April 1992 (1992-04-20), pages 209 - 215, ISSN: 0000823484 *

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002135806A (ja) * 2000-10-19 2002-05-10 Sony Corp 撮影装置及び撮影方法、並びに、画像生成装置及び画像生成方法
JP4534337B2 (ja) * 2000-10-19 2010-09-01 ソニー株式会社 撮影装置及び撮影方法、並びに、画像生成装置及び画像生成方法
KR100399735B1 (ko) * 2001-03-26 2003-09-29 이호균 스틸 사진을 이용한 가상 네비게이션 구현 방법
JP2003107603A (ja) * 2001-09-28 2003-04-09 Namco Ltd 立体視画像生成装置、立体視画像生成情報および情報記憶媒体
JP2006101329A (ja) * 2004-09-30 2006-04-13 Kddi Corp 立体視画像観察装置ならびにその共有サーバ、クライアント端末およびピア・ツー・ピア端末、レンダリング画像生成方法および立体視画像表示方法ならびにそのプログラムおよび記憶媒体
JP2009500878A (ja) * 2005-04-11 2009-01-08 ヒューマンアイズ テクノロジーズ リミテッド 奥行錯覚デジタル撮像
CN100384220C (zh) * 2006-01-17 2008-04-23 东南大学 摄像机标定数据的采集方法及其标定板
JP2010510569A (ja) * 2006-11-17 2010-04-02 トムソン ライセンシング 2次元から3次元に変換するためのオブジェクトのモデルフィッティング及びレジストレーションのシステム及び方法
JP4896230B2 (ja) * 2006-11-17 2012-03-14 トムソン ライセンシング 2次元から3次元に変換するためのオブジェクトのモデルフィッティング及びレジストレーションのシステム及び方法
JP2008262392A (ja) * 2007-04-12 2008-10-30 Toppan Printing Co Ltd 画像処理装置、画像処理方法及び画像処理プログラム
JP2011024635A (ja) * 2009-07-21 2011-02-10 Konami Digital Entertainment Co Ltd ビデオゲーム装置及びゲーム画像表示制御方法
US8531452B2 (en) 2009-07-21 2013-09-10 Konami Digital Entertainment Co., Ltd. Video game machine, gaming image display control method and display mode switching control method
US9019261B2 (en) 2009-10-20 2015-04-28 Nintendo Co., Ltd. Storage medium storing display control program, storage medium storing library program, information processing system, and display control method
US11089290B2 (en) 2009-11-04 2021-08-10 Nintendo Co., Ltd. Storage medium storing display control program, information processing system, and storage medium storing program utilized for controlling stereoscopic display
US9128293B2 (en) 2010-01-14 2015-09-08 Nintendo Co., Ltd. Computer-readable storage medium having stored therein display control program, display control apparatus, display control system, and display control method
US9693039B2 (en) 2010-05-27 2017-06-27 Nintendo Co., Ltd. Hand-held electronic device
JPWO2015162947A1 (ja) * 2014-04-22 2017-04-13 ソニー株式会社 情報再生装置及び情報再生方法、並びに情報記録装置及び情報記録方法

Also Published As

Publication number Publication date
JP3934211B2 (ja) 2007-06-20

Similar Documents

Publication Publication Date Title
KR100456952B1 (ko) 입체 컴퓨터 그래픽스 동화상 발생 장치
JP7094266B2 (ja) 単一深度追跡型の遠近調節-両眼転導ソリューション
JP3579162B2 (ja) 立体cg画像生成装置
JP4228646B2 (ja) 立体視画像生成方法および立体視画像生成装置
TWI523488B (zh) 處理包含在信號中的視差資訊之方法
JP2019079552A (ja) イメージ形成における及びイメージ形成に関する改良
WO2005060271A1 (en) Method and apparatus for generating a stereoscopic image
JP3934211B2 (ja) 立体cg動画像生成装置
KR20010001341A (ko) 3차원 그래픽 영상 생성 방법 및 이를 위한 양안 시차 조절 방법
JP6384940B2 (ja) 3d画像の表示方法及びヘッドマウント機器
JP4580678B2 (ja) 注視点位置表示装置
US20170359562A1 (en) Methods and systems for producing a magnified 3d image
JP2003348621A (ja) 二視点カメラの設定手段
JP2016218729A (ja) 画像処理装置、画像処理方法およびプログラム
Baker Generating images for a time-multiplexed stereoscopic computer graphics system
TW201733351A (zh) 3d自動對焦顯示方法及其系統
WO2018084087A1 (ja) 画像表示システム、画像表示装置、その制御方法、及びプログラム
JP2022518285A (ja) シーンを表す画像信号
JP2014135714A (ja) 立体映像信号処理装置及び立体映像撮像装置
JP2017098596A (ja) 画像生成方法及び画像生成装置
KR20200014631A (ko) 평행축 방식의 양안 카메라 시스템에서 근거리 물체의 입체영상을 위한 영상처리 방법 및 장치
JPH03296176A (ja) 高速画像生成表示方法
JP2022519033A (ja) シーンの画像表現
JPH10172004A (ja) 立体画像表示方法
JP2019197368A (ja) 立体映像奥行き圧縮装置および立体映像奥行き圧縮プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040407

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040910

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070227

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070315

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100330

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110330

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110330

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120330

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130330

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130330

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140330

Year of fee payment: 7

EXPY Cancellation because of completion of term